Текст
                    ОБОБЩЕННЫЕ ФУНКЦИИ
ВЫПУСК 6
И. М. ГЕЛЬФАНД, М. И. ГРАЕВ,
И. И. ПЯТЕЦКИЙ-ШАПИРО
ТЕОРИЯ ПРЕДСТАВЛЕНИЙ
и
АВТОМОРФНЫЕ ФУНКЦИИ
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
МОСКВА 1966


517.2 Г 32 УДК 517.5 АННОТАЦИЯ Теория представлений групп позволила по-новому понять классические результаты теории автоморфных функций, шире по- поставить задачи этой теории и получить ряд новых важных результатов. Важную роль играет также язык теории аделей — недавно возникшего раздела математики. В книге имеется много новых понятий и результа- результатов, с которыми до сих пор можно было ознакомиться лишь по журнальной литера- литературе. Поэтому книга представляет интерес для разных кругов читателей, интересую- интересующихся современной математикой. Книга может быть рекомендована студентам старших курсов, аспирантам и научным работникам в области математики. Знания материала предыдущих выпус- выпусков от читателя не требуется. Израиль Моисеевич Гельфанд, Марк Иосифович Граев, Илья Иосифович Пятецкий-Шапиро Теория представлений и автоморфные функции (Серия: «Обобщенные функции») М., 1966 г., 512 стр. с илл. Редактор А. А. Кириллов. ехн. редактор К.Ф. Брудно. Корректор Г. Г. Желтое, дано в набор 30/XI 1965 г. Подписано к печати 27/1 1966 г. Бумага 84 х Ю8'/3 из. печ. л. 16 Условн. печ. л. 26.88. Уч.-изд. л. 24.88. -фаж 11500 экз. Т-01444. "» — ' Цена книги 1 р. 77 к. За Издательство «Наука» Главная редакция физико-математической литературы Москва, В-71, Ленинский проспект, 15. Ленинградская типография № 2 имени Евгении Соколовой Главполиграфпрома Комитета по печати при Совете Министров СССР. Измайловский проспект, 29. 2-2-3 78-66 ОГЛАВЛЕНИЕ Предисловие ГЛАВА I ОДНОРОДНЫЕ ПРОСТРАНСТВА С ДИСКРЕТНОЙ СТАЦИОНАРНОЙ ГРУППОЙ § 1. Общие сведения 13 1. Однородные пространства и их стационарные под- подгруппы A3). 2. О связи однородных пространств X = Г \ G с римановыми поверхностями A5). 3. Фундаментальная область относительно дискретной группы Г A8). 4. Дискрет- Дискретные группы с компактной фундаментальной областью B2). 5. Строение фундаментальной области на плоскости Лоба- Лобачевского B7). § 2. Представления группы О, индуцированные дискрет- дискретной подгруппой 34 1. Определение индуцированных представлений C5). 2. Опе- Операторы Т C8). 3. Дискретность спектра индуцированного представления в случае компактного пространства X = = Г \ G D2). 4. Формула следа D6). 5. Другой вид фор- формулы следа E1). § 3. Неприводимые унитарные представления группы ве- вещественных унимодулярных матриц 2-го порядка... 55 1. Основная серия неприводимых унитарных представле- представлений E5). 2. Дополнительная серия представлений E8). 3. Дискретная серия представлений E9). 4. Другая реализа- реализация представлений основной и дополнительной серий E9). 5. Оператор Лапласа Д. Пространства Sis F4). § 4. Теорема двойственности 1. Автоморфные формы G0). 2. Формулировка теоремы двойственности G3). 3. Оператор Лапласа G4). 4. Доказа- Доказательство теоремы двойственности для представлений не- непрерывных серий G7). 5. Доказательство теоремы двой- двойственности для представлений дискретной серии (80). 6. Общая теорема двойственности (86). 1* 69
ОГЛАВЛЕНИЕ 123 127 133 § 5. Формула следа для группы О вещественных унимо- дулярных матриц 2-го порядка 1. Постановка задачи (94). 2- Функция h (95). 3. Вклад в формулу следа от гиперболических элементов (98). 4. Вклад от эллиптических элементов A02). 5. Вклад в фор- формулу следа от элементов ей —е A08). 6. Окончательная формула следа A09). 7. Формулы для кратностей представ- представлений дискретной серии A11). 8. Полное расщепление фор- формулы следа A12). 9. Построение функций ф + (g) и ф~ (g) A14). 10. Асимптотическая формула A18). 11. Формула следа для случая, когда —е не принадлежит подгруппе Г A20). Добавление I к § 5. Теорема о непрерывной деформации дискретной подгруппы Добавление II к § 5. Формула следа для группы комп- комплексных унимодулярных матриц 2-го поряка 1. Неприводимые унитарные представления группы G A27). 2. Формула следа для группы G A29). 3. Асимптотическая формула A33). § 6. Изучение спектра представления, порожденного не- некомпактным пространством Х=Т\О (отделение дискретной части спектра) 1. Орисферы в однородном пространстве A34). 2. Форму- Формулировка основной теоремы A36). 3. Цилиндрические множе- множества A38). 4. Редукция основной теоремы A41). 5. Доказа- Доказательство конечности следа оператора PkT^Pk в простран- пространстве H°k A42). Добавление к главе I. Арифметические подгруппы группы G вещественных унимодулярных матриц 2-го порядка 1. Определение арифметической подгруппой A48). 2. Моду- Модулярная группа A49). 3. Некоторые подгруппы модулярной группы A54). Кватернионные группы A60). ГЛАВА II ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ 2-го ПОРЯДКА С ЭЛЕМЕНТАМИ ИЗ НЕПРЕРЫВНОГО ЛОКАЛЬНО КОМПАКТНОГО ПОЛЯ § 1. Строение локально компактных полей 169 1. Классификация локально компактных полей A70). 2. Норма в К A72). 3. Структура несвязных полей A73). 4. Аддитивные и мультипликативные характеры поля К A74). 5- Структура подгруппы А. Функции ехрлг и In х A77). 94 148 ОГЛАВЛЕНИЕ 6. Квадратичные расширения несвязного поля A79). 7. Мультипликативые характеры signT х A81). 8. Окруж- Окружности в К (У~х) A82). 9. Декартовы и полярные коорди- координаты в поле К (|/~Т) A84). 10. Инвариантные меры в поле К и в его квадратичном расширении К (У^) A85). 11. Адди- Аддитивные и мультипликативные характеры на «плоскости» К (V^) A86). § 2. Основные и обобщенные функции на локально ком- компактном несвязном поле К 187 1. Пространство основных функций A87). 2. Обобщенные функции, сосредоточенные в точке A83). 3. Однородные обобщенные функции A88). 4. Преобразование Фурье основ- основных функций A92). 5. Преобразование Фурье обобщенных однородных функций. Г-функция и В-функция A95). 6. До- Дополнительные сведения о Г-функции A98). 7. Интеграл I х (utt) dt B05). 8. О функциях, граничных к функциям, аналитическим в верхней и в нижней полуплоскости B06). 9. Преобразование Меллина B07). 10. Соотношение между Г-функцией, связанной с основным полем К, и Г-функцией, связанной с квадратичным расширением К (У т) поля К B10). § 3. Неприводимые представления группы матриц второго порядка с элементами из локально компактного поля (непрерывная серия) 212 I. Непрерывная серия унитарных представлений группы G B13). 2. Другие реализации представлений непрерывной серии B15). 3. Эквивалентность представлений непрерыв- непрерывной серии B19). 4. Неприводимость представлений непре- непрерывной серии B20). 5. Разложение представлений Тл (g), лх (t) = signT? на неприводимые представления B24). 6. Квазирегулярное представление группы G и его разло- разложение на неприводимые представления B25). 7. Дополни- Дополнительная серия неприводимых унитарных представлений группы G B28). 8. Особое представление группы G B30). 9. Представления в пространствах <2)п B32). 10. Сфериче- Сферические функции B34). 11. Оператор орисферического авто- автоморфизма B37). § 4. Дискретные серии неприводимых унитарных пред- представлений группы О 246 1. Описание представлений дискретной серии B46). 2. Не- Непрерывная зависимость от g операторов Тп (g) B49). 3. До- Доказательство соотношения Тл (gxg2) = Т„ (gx) Тл (g2) B51). 4. Унитарность операторов Тп (g) B53). 5. я-реализация
ОГЛАВЛЕНИЕ представлений дискретной серии B53). 6. Другая реализа- реализация представлений дискретной серии B57). 7. Эквивалент- Эквивалентность представлений дискретной серии B59). 8. Дискрет- Дискретные серии для случая поля 2-адических чисел B64). § 5. Следы неприводимых представлений группы G . . . 1. Постановка задачи B65). 2. Следы представлений не- непрерывной серии B66). 3. След особого представления B67). 4. Следы представлений дискретных серий B69). 5. Следы представлений дискретной серии в случае поля веществен- вещественных чисел B76). § 6. Формула обращения и формула Плаишереля на группе G . . . .' 1. Постановка задачи B78). 2. Формула обращения для случая несвязного поля B81). 3. Вычисление некоторых интегралов B87). 4. Вычисление постоянной с в формуле обращения B90). 5. Формулы обращения для связных по- полей B91). Добавление к главе II . . 1. Некоторые факты теории колец операторов в гильбер- гильбертовом пространстве B93). 2. Связь между унитарными представлениями группы G всех невырожденных матриц 2-го порядка и подгруппы матриц вида ( ^ ] B96). 3- Теорема о полной непрерывности оператора Т. C00). 4. Разложение неприводимого представления группы G по представлениям ее максимальной компактной подгруппы. Теорема о существовании следа C01). 5. Представления унимодулярной группы C05). 6. Классификация всех не- неприводимых представлений групп G и С? C06). ГЛАВА III ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ § 1. Адели и идели 265 278 293 1. Группа характеров аддитивной группы рациональных чисел C20). 2. Определение аделей и иделей C23). 3. Дру- Другая конструкция группы аделей C24). 4. Изоморфизмы Q -> А и Q* -> А* C26). 5. Группа аддитивных характеров кольца аделей А C27). 6. Характеры группы A/Q C31). 7. Инвариантные меры в группе аделей и в. группе иде- иделей C32). 8. Функция | К | C33). 9. Характеры группы иделей А* C34). 10. Характеры группы A*[Q* C36). Добавление к § 1. Об одной дзета-функции § 2. Анализ на группе аделей 1. Функции Шварца — Брюа C40). 2. Преобразование 320 339 340 ОГЛАВЛЕНИЕ Фурье функций Шварца — Брюа C42). 3. Формула сумми- суммирования Пуассона C43). 4. Преобразование Меллина функ- функций Шварца — Брюа. Формула Тэйта C45). 5. Простран- Пространство Ап C52). Добавление к § 2. Кольца Тэйта 354 § 3. Группы аделей Gд и их представления 357 1. Определение группы аделей GА C57). 2. Неприводимые унитарные представления группы аделей C58). 3. Доказа- Доказательство теоремы о тензорном произведении C60). 4. Кри- Критерий существования единственного инвариантного век- вектора C66). 5. Вторая теорема о тензорном произведе- произведении C70). § 4. Группа аделей группы унимодулярных матриц 2-го порядка 373 I. Постановка задачи и сводка результатов C73). 2. Струк- Структура пространства X C74). 3. Описание пространства Q всех компактных орисфер пространства X C76). 4. Выде- Выделение дискретного спектра C80). 5. Пространства Y и й C81). 6. Разложение представлений, порожденных пространствами Кий, на неприводимые представле- представления C84). 7. Функции Шварца — Брюа в пространствах Y и й C91). 8. Преобразование Фурье в пространствах L2 (У) и L2 (й) C92). 9. Орисферический автоморфизм в про- пространстве й и его связь с преобразованием Фурье C95). 10. Орисферическое отображение и оператор М C99). II. Явное выражение для оператора М D02). 12. Разло- Разложение пространства Н' на неприводимые представле- представления D05). 13. Связь оператора орисферического автомор- автоморфизма В с L-функцией Дирихле D09). Добавление к § 4 416 1. О связи между однородным пространством G \ GА и однородными пространствами группы Ом D16). 2. Обоб- Обобщенная гипотеза Петерсона D22). § 5. Пространство орисфер 428 1. Редуктивные алгебраические группы D28). 2. Про- Пространство L2(DQZA\GA) D31). 3. Операторы Bs D37). 4. Свойства операторов Bs D41). 5. Оснозная теорема об операторах Bs D43). 6. Сведение к рангу 1 D47). § 6. Представление, порожденное однородным простран- пространством GQ \ Q А 450 1. Однородное пространство GQ \ Gд D50). 2. Изучение спектра представления в случае компактного простран- пространства G \ G /КА D52). 3. Пространство орисфер D54).
8 ОГЛАВЛЕНИЕ 4. Орисферическое отображение и оператор М D56). 5. Явное выражение для оператора М D57). 6. Структура пространства Н' D59). § 7. Дискретность спектра 461 1. Орисферы в пространстве X = О \ Ол D51). 2. Форму- Формулировка основной теоремы D65). 3. Зигелевские множества на группе Gд D66). 4. Правильные зигелевские множе- множества D69). 5. Правильные зигелевские множества, связан- связанные с П-орисферами D73). 6. Редукция основной тео- теоремы D77). 7. р-норма D79). 8. Доказательство основной теоремы D80). 9. Разрешимые алгебры и группы. Форму- Формулировка основной леммы D83). 10. Доказательство основ- основной леммы D85). Добавление к § 7. Функции на правильных нильпотент- ных группах Ли 490 1. Правильные нильпотентные алгебры Ли D90). 2. Пра- Правильные нильпотентные группы Ли D92). Примечания и литературные указания 499 Библиография 501 Указатель основных обозначений 505 Предметный указатель 507 ПРЕДИСЛОВИЕ Классическая теория автоморфных функций, возникшая в трудах Клейна и Пуанкаре, была связана с изучением аналитических функций в единичном круге, инвариантных относительно дискретной группы преобразований. Поскольку сам единичный круг можно рассматривать как плоскость Лобачевского в интерпретации Пуанкаре, то можно сказать, что классическая теория автоморфных функций связана с изучением аналитических функций на плоскости Лобачев- Лобачевского, инвариантных относительно некоторой дискретной группы движений этой плоскости. Существенную роль в дальнейшем развитии теории авто- автоморфных функций сыграли работы Гекке, Зигеля, Зельберга и ряда других исследователей. Отметим, в частности работы Годмана, Мааса, Рельке, Петерсона, Лэнглендса, занимавшихся теми или иными аспектами связи автоморфных функций с тео- теорией групп. С другим очень интересным направлением в тео- теории автоморфных функций можно познакомиться по работам Альфорса и Берса. Развитие теории автоморфных функций все в большей степени показывало существенность теоретико-группового подхода. В настоящее время многие из понятий этой теории можно связать с произвольной группой Ли и ее дискретной подгруппой. Связь теории представлений групп с теорией автоморфных функций стала особенно отчетливой в последние 10—20 лет в связи с развитием теории бесконечномерных представлений групп. Хотя эта связь чувствовалась еще раньше (например, в работах Клейна и Гекке), однако по-настоящему ее уда- удалось понять только после построения теории бесконечно- бесконечномерных представлений групп Ли. Одной из первых работ в этом направлении была рабо- работа И- М. Гельфанда и С. В. Фомина, в которой понятия
10 ПРЕДИСЛОВИЕ теории представлений связывались с теорией динамических систем и теорией автоморфных функций. Заметим, что связь автоморфных функций с динамическими системами встреча- встречалась по существу еще в работах Хопфа по динамическим си- системам. Кроме теории бесконечномерных представлений групп Ли, получившей большое развитие за последние 20 лет (см. работы Гельфанда и Наймарка, Хариш-Чандра, Гельфан- да и Граева и др.), важную роль в построении современ- современной теории автоморфных функций сыграло создание теории алгебраических групп ' в работах Шевалле, Бореля, Ха- Хариш-Чандра, Титца и др. Пожалуй, одним из наиболее замечательных понятий, возникшим в последние годы, явилась группа аделей. В про- процессе работы над этой книгой авторы убедились, насколько естественными становятся многие понятия, когда они приме- применяются к группе аделей и ее дискретной подгруппе главных аделей. Книга состоит из трех глав. В первой главе рассматри- рассматриваются задачи теории представлений и теории автоморфных функций, связанные с группой Ли и ее дискретной подгруппой. Хотя отдельные вопросы этой главы носят общий характер, основные результаты относятся к группе вещественных матриц 2-го порядка и ее дискретной подгруппе. В част- частности, в этой главе изложены на языке теории представле- представлений замечательные результаты Зельберга (формула следа Зельберга). Во второй главе строится теория представлений группы матриц 2-го порядка с элементами из произвольного ло- локально компактного непрерывного поля. При этом хорошо изученная теория представлений группы комплексных матриц и группы вещественных матриц (см. например, «Обобщенные функции», вып. 5) возникает здесь как частный случай. При таком общем подходе становятся более понятными многие факты теории представлений. Отметим также, что возни- возникающие в этой теории естественным путем специальные функции над произвольным полем близки к интересным функциям теории чисел (суммы Гаусса, суммы Клостермана и др.). Третья глава посвящена изучению групп аделей и есте- естественных однородных пространств, возникающих в связи ПРЕДИСЛОВИЕ 11 с этими группами. Поскольку знания теории аделей у чита- читателя не предполагается, то в первых двух параграфах изла- излагаются основные понятия этой теории. С группой аделей связано замечательное однородное пространство (пространство классов смежности по подгруппе главных аделей), которое и явилось основным объектом исследования во всех работах, посвященных аделям. В то время как эти работы были посвящены изучению самого однородного пространства, вычислению его объема (числа Тамагава) и т. д., мы исследуем здесь пространство функций на этом однородном пространстве (см. § 4, 6, 7). С этой точки зрения основополагающую работу Тэйта, в которой дан с помощью аделей вывод функционального уравнения для ^-функции Римана, можно рассматривать как аналог (для случая матриц 1-го порядка) проведенного здесь изучения представлений. Многие из результатов авторов этой книги были позднее получены другими методами Годманом, работа которого оказалась весьма полезной авторам при написании § 4 этой книги. Последние три параграфа посвящены началам общей тео- теории для группы аделей произвольной алгебраической редук- тивной группы. Фундаментальную роль в этой теории играет некоторая группа автоморфизмов функционального пространства, образующая представление группы Вейля. Сим- Симметрии относительно этой группы и являются истинным ключом к соотношениям типа функционального соотношения для ^-функции Римана. Эти автоморфизмы тесно связаны с так называемыми орисферическими отображениями. По- Поскольку многое из излагаемого в этих параграфах материала изучалось совсем недавно, то это не могло не наложить отпечатка на характер самого изложения, которое зачастую оказывается сложным. Авторы, однако, надеются, что дополнительный труд, затраченный читателем при чтении этих параграфов, быть может окупится тем, что читатель сможет при желании включиться в работу над этими далеко не завершенными вопросами. . Книгу можно читать независимо от предыдущих вы- выпусков серии «Обобщенные функции», однако идейно она тесно связана с теорией обобщенных функций и особенно с содержанием вып. 5, посвященного изложению аналогичных
12 ПРЕДИСЛОВИЕ вопросов на другом материале. Ее можно рассматривать как естественное продолжение 5-го выпуска. Авторы глубоко признательны А, А. Кириллову, взявшему на себя труд по редактированию книги и написавшему один из разделов книги (Добавление к гл. II), в котором он изло- изложил свои новые результаты. Примечание при корректуре. После сдачи ру- рукописи в типографию авторы познакомились с препринтом новой интересной работы Лэнглендса и материалами летней школы по теории алгебраических групп, а также с работой С. Moore (Ann. Math.,' 1965, 82, № 1). в этих работах читатель сможет получить дополнительные сведения по мате- материалу, изложенному в этой книге. Авторы ГЛАВ А I ОДНОРОДНЫЕ ПРОСТРАНСТВА С ДИСКРЕТНОЙ СТАЦИОНАРНОЙ ГРУППОЙ § 1. Общие сведения 1. Однородные пространства и их стационарные под- подгруппы. Начнем с некоторых общих определений. Пусть X—топологическое пространство и G—тополо- G—топологическая группа. Говорят, что О является группой преоб- преобразований или группой движений пространства X, если каждому элементу g группы G отвечает взаимно одно- однозначное и взаимно непрерывное преобразование х xg пространства X. При этом предполагаются выполненными следующие условия: 1) единичному элементу е группы G отвечает тожде- тождественное преобразование, т. е. хе = х для любого х ? X; 2) (xg{) g2 = х (gig2) Для любого х из X и любых gv g2 из О; 3) функция f(x, g) = xg, относящая каждой паре х ? X и g ? G точку xg ? X, является непрерывной функцией от пары х и g. Пространство X с группой движений G назывется одно- однородным пространством, если любую его точку х можно перевести движениями в любую другую точку. В этом слу- случае говорят „также, что группа G транзитивно действует на пространстве X. Напомним, как можно описать все однородные простран- пространства, на которых транзитивно действует заданная группа Q, в терминах самой группы G.
12 ПРЕДИСЛОВИЕ вопросов на другом материале. Ее можно рассматривать как естественное продолжение 5-го выпуска. Авторы глубоко признательны А. А. Кириллову, взявшему на себя труд по редактированию книги и написавшему один из разделов книги (Добавление к гл. II), в котором он изло- изложил свои новые результаты. Примечание при корректуре. После сдачи ру- рукописи в типографию авторы познакомились с препринтом новой интересной работы Лэнглендса и материалами летней школы по теории алгебраических групп, а также с работой С. Moore (Ann. Math.,' 1965, 82, № 1). В этих работах читатель сможет получить дополнительные сведения по мате- материалу, изложенному в этой книге. Авторы. ГЛАВ А I ОДНОРОДНЫЕ ПРОСТРАНСТВА С ДИСКРЕТНОЙ СТАЦИОНАРНОЙ ГРУППОЙ § 1. Общие сведения 1. Однородные пространства и их стационарные под- подгруппы. Начнем с некоторых общих определений. Пусть X—топологическое пространство и G—тополо- G—топологическая группа. Говорят, что О является группой преоб- преобразований или группой движений пространства X, если каждому элементу g группы О отвечает взаимно одно- однозначное и взаимно непрерывное преобразование пространства X. При этом предполагаются выполненными следующие условия: 1) единичному элементу е группы G отвечает тожде- тождественное преобразование, т. е. хе = х для любого х ? X; 2) (xgx) g2 = х (gig2) Для любого х из X и любых glt g2 из О; 3) функция /(х, g) = xg, относящая каждой паре х ? X и g ?j G точку xg ? X, является непрерывной функцией от пары х и g. Пространство X с группой движений О назывется одно- однородным пространством, если любую его точку х можно перевести движениями в любую другую точку. В этом слу- случае говорят „также, что группа О транзитивно действует на пространстве X. Напомним, как можно описать все однородные простран- пространства, на которых транзитивно действует заданная группа О, в терминах самой группы G.
14 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [I Пусть X—однородное пространство с группой движе- движений G. Зафиксируем в нем точку х0. Сопоставим каждой точке х из X множество преобразований, переводящих х0 в х. Выясним, что это за множества. Сначала рассмотрим преобразования, переводящие х0 в х0. Очевидно, что они образуют замкнутую подгруппу Г группы G. Эта подгруппа называется стационарной группой точки х0. Далее, если g — одно из преобразований, переводящих х0 в х, то сово- совокупность всех преобразований, переводящих х0 в х, обра- образует правый класс смежности Г^ подгруппы Г. Тем самым установлено соответствие между точками однородного пространства X и правыми классами смежности подгруппы Г. Это соответствие взаимно однозначно. Заметим, что множество классов смежности Г \ G есте- естественным образом наделено структурой топологического пространства: окрестностями класса смежности Fg являются образы окрестностей элемента g при отображении G —> ->Г\О. Очевидно, что движению g в исходном пространстве X отвечает умножение классов смежности справа на g. Итак, любое однородное пространство с группой движений G может быть получено следующей кон- конструкцией. Берется подгруппа Г группы Q. Точками пространства X объявляются правые классы смеж- смежности Tg группы G по подгруппе Г. Движение в X, отве- отвечающее элементу g0, определяется как умножение классов смежности справа на g0. Это пространство правых классов смежности будем всегда обозначать так: X =Г\О. Мы установили, что каждое однородное пространство X с груп- группой движений G можно отождествить с пространством классов смежности Г \ G, где Г — стационарная подгруппа точки х0 из X. При этом выбор самой точки х0 совершенно произволен. Легко видеть, что стационарные подгруппы различных точек между собой сопряжены; именно, если элемент g переводит точку х0 в точку х, то стационарной подгруппой точки х является группа g~lGg. Следовательно, пространства Г\О и g~lTg\G, связанные с со- сопряженными подгруппами, следует считать тождественными между собой. В этой главе в основном мы будем изучать однородные пространства Г \ О, где G — группа вещественных матриц § I. ОБЩИЕ СВЕДЕНИЯ 15 2-го порядка с определителем аб — группы G. у б = 1, а Г — дискретная подгруппа 2. О связи однородных пространств X —Г \ G с ри- мановыми поверхностями. Существует тесная связь между пространствами X =Г \ G, где G — группа вещественных унимодулярных матриц второго порядка, а Г — ее дискрет- дискретная подгруппа, и римановыми поверхностями. Именно, Г \ G можно интерпретировать как расслоенное пространство, база которого — некоторая риманова поверхность, а слой — ок- окружность. Сначала остановимся на случае, когда Г — единичная подгруппа, т. е. на самом групповом пространстве G. Рассмотрим всевозможные конформные преобразования верхней полуплоскости Im2 > 0 плоскости комплексного переменного z. Известно, что каждое такое преобразование может быть задано вещественной матрицей g = I ) с оп- определителем 1 и имеет следующий вид При этом произведению двух матриц отвечает произведение соответствующих преобразований. Очевидно, что две матрицы g^ и g2 определяют одно и то же конформное преобразование полуплоскости Im z > 0 тогда и только тогда, когда g2 = + gx. Таким образом, группа Go, получающаяся из G отождествлением мат- матриц, g и —g, изоморфна группе всех конформных преобразований полуплоскости Im г > 0. Условимся линейным элементом на римановой поверх- поверхности называть пару: точка и заданное в этой точке напра- направление. Покажем, что элементы группы О0 можно интерпрети- интерпретировать как линейные элементы на полуплоскости 1тг> 0. В самом деле, зафиксируем на полуплоскости линейный элемент /0, и пусть / — любой другой линейный элемент. Известно, что существует одно и только одно конформное
16 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [2 преобразование g полуплоскости, переводящее линейный элемент /0 в линейный элемент /. Тем самым устанавли- устанавливается искомое взаимно однозначное соответствие между эле- элементами g группы Go и линейными элементами / на по- полуплоскости Im z > 0. Итак, пространство элементов группы G, в кото- котором элементы g и —g считаются отождествлен- отождествленными, можно интерпретировать как пространство всех линейных элементов в верхней полуплоскости Im z >> 0. Иными словами, оно является расслоенным про- пространством, базой которого является полуплоскость 1тг>0, а слоями—окружности. Теперь дадим аналогичную интерпретацию пространства X = Г \ О, где Г — дискретная подгруппа группы О. Будем предполагать, что Г содержит элемент—е и что элементы у Ф ± е из Г не оставляют на месте ни одной точки полу- полуплоскости Im z >¦ 0 *). Мы покажем сейчас, что пространство X==F\G можно интерпретировать как пространство линей- линейных элементов на некоторой римановой поверхности. Иными словами, оно является расслоенным пространством, база которого — некоторая риманова поверхность, а слой — окружность. Отождествим на полуплоскости Im г > 0 те точки, ко- которые переводятся друг в друга преобразованиями из Г. В результате мы получим некоторую риманову поверх- поверхность 33, т. е. одномерное (не обязательно компактное) комплексное многообразие. Рассмотрим теперь линейные элементы на полуплоскости Im z ~> 0 и будем отождествлять те из них, которые переводятся друг в друга преобразова- преобразованиями из Г. Легко видеть, что полученное пространство можно интерпретировать как пространство всех линейных элементов на римановой поверхности 33. Здесь существенно предположение, что преобразования у Ф + е из Г не имеют неподвижных точек. Именно, если бы некоторое у ф ± е из Г оставляло неподвижной некоторую точку г0, то нам пришлось бы отождествлять линейные элементы в точке г0, пере- переводящиеся друг в друга преобразованием у. *) Последнее условие равносильно условию, что Г не содержит элементов конечного порядка, отличных от ± е. § I. ОБЩИЕ СВЕДЕНИЯ 17 Покажем, что это пространство линейных элементов на римановой поверхности изоморфно исходному пространству X = Г\О. В самом деле, мы знаем, что линейные элементы на по- полуплоскости Im г > 0 можно трактовать как элементы группы Gn, полученной из G отождествлением матриц g и — g. В этой трактовке линейными элементами на 33 являются множества yg, где у пробегает подгруппу Г, т. е. классы смежности группы G по подгруппе Г. Тем самым простран- пространство линейных элементов на 33 оказывается тождественным пространству классов смежности Г \ G. Итак, мы получили следующую интерпретацию простран- пространства X = Г \ G. Пусть G — группа вещественных унимодулярных матриц второго порядка, Г — дискретная подгруппа группы G, содержащая элемент — е и не содержащая элементов конечного по рядка, отличных от + е. Ото- Отождествим на полуплоскости Imz> 0 точки, получаю- получающиеся одна из другой дробно-линейными преобразова- преобразованиями из подгруппы Г. Мы получим некоторую рима- риманову поверхность 33. Пространство классов смеж- смежности X = Г \ G представляет собой пространство ли- линейных элементов на этой римановой поверхности 33, и, таким образом, является расслоенным пространством, база которого--поверхность 33, а слой — окружность. В случае, когда в Г содержатся элементы конечного по- порядка, имеет место аналогичный результат. Однако однород- однородная структура расслоенного пространства при этом в от- отдельных точках нарушается. Для римановой поверхности 3> верхняя полуплоскость Im z > 0 служит ее универсальной накрывающей. Таким образом, мы не касаемся здесь других римановых поверхностей, имеющих в каче- качестве универсальной накрывающей либо полную сферу, либо сферу с выколотой точкой. Заметим, что для таких римановых Поверх- Поверхностей пространства линейных элементов устроены Проще, чем в рассматриваемом случае. Пространство линейных элементов на римановой поверх- поверхности имеет ряд преимуществ по сравнению с самой рима- римановой поверхностью. Основное преимущество состоит в том, что пространство линейных элементов однородно: его груп- группой автоморфизмов является группа Gg дробно-линейных 2 И. М. Гельфанд
18 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА преобразований. Между тем у римановой поверхности запас допустимых автоморфизмов как правило существенно беднее. Например, нетрудно доказать конечность числа автоморфизмов у всякой компактной римановой поверхности, универсальной накрывающей которой является верхняя полуплоскость 1га г > О. В самом деле, пусть <& — одна из таких римановых поверхностей; Г — соответствующая Q; дискретная группа автоморфизмов полу- полуплоскости 1ш г > О. Рассмотрим автоморфизм g поверхности ?&. Этот автоморфизм естественным образом продолжается до кон- конформного преобразования g' всей верхней полуплоскости Im z > 0, т. е. до некоторого дробно-линейного преобразования. Очевидно, что это конформное преобразование g' перестановочно с под- подгруппой Г, т. е. g'Tg'~l =Г. Таким образом, g' принадлежит нормализатору N группы Г. Наша цель — доказать, что пространство классов смежности Г \ N со- содержит лишь конечное число элементов. Докажем, что N— дискрет- дискретная подгруппа группы G, а, следовательно, дискретно пространство Рассмотрим какой-либо гиперболический элемент у под- подгруппы Г; не нарушая общности, можно считать, что у — диаго- Д О \ нальная матрица; у = I _, 1. Пусть, далее, у — какой-либо другой элемент из Г, не являющийся диагональной матрицей. Предположим, что подгруппа N не дискретна. Тогда в N найдется последовательность элементов gn, сходящаяся к единичной матрице. Рассмотрим элементы уп = g^YSn H Yn — ?п1ч'?п- ^ти элементы принадлежат подгруппе Г и в то же время они сходятся соот- соответственно к у и у'- Так как подгруппа Г дискретна, то. начиная с некоторого п, должно быть g~1ygn = y, g-Jy'gn = y't т. е. gn перестановочно с у и у'. Из перестановочности gn с диагональ- диагональной матрицей у следует, что само gn является диагональной матрицей. Но это невозможно, ибо тогда gn не перестановочно с матрицей y'- Итак, доказано, что пространство Г \ N дискретно. С другой стороны, из компактности пространства Г \ G следует, что про- пространство Г \ N также компактно. Следовательно, пространство Г \ N содержит лишь конечное число элементов. Утверждение доказано. 3. Фундаментальная область относительно дискретной группы Г. Пусть Y — топологическое пространство, в кото- котором действует дискретная группа Г гомеоморфизмов у: у->уу. 3] § 1. ОБЩИЕ СВЕДЕНИЯ 19 Дискретность Г означает, что для любого у ? Y мно- множество точек Yy> гДе Y пробегает группу Г, не имеет точки накопления в Y. Мы будем предполагать всегда, что группа Г действует на У эффективно. Это означает, что в пространстве У для любого у Ф е существует такая точка у, что Yy Ф У- (Точки у, для которых Yy = У хотя бы для одного у Ф е, мы будем дальше называть неподвижными точками.) Приведем примеры таких пространств Y. а) Y—топологическая группа, Г — ее дискретная под- подгруппа, действующая на Y как группа левых сдвигов. б) Y — верхняя полуплоскость (Im z > 0) плоскости ком- комплексного переменного z; Г — некоторая дискретная группа конформных преобразований верхней полуплоскости. Введем понятие фундаментальной области в У отно- относительно группы Г. Фундаментальной областью в У относительно группы Г будем называть открытое множество F a Y, удовлетворяю- удовлетворяющее следующим двум условиям: 1) для любых Yi Ф Y2 множества Yi^ и Y2^> ГД-е F — за- замыкание множества F, не имеют общих элементов; 2) объединение множеств y^> где у пробегает группу Г, совпадает со всем пространством Y. Эти условия можно перефразировать следующим образом. Любую точку у пространства Y можно представить в виде y = Y*. A) где yC^. x?F. Это представление единственно для «почти всех» точек у; именно, если у = yxxx = у2х2, где Yi. Y2 6T и хх ? F, х2 6 ^> то Yi = Y2- xi == Х2- Таким образом, точки у, для которых разложение A) может оказаться неединствен- неединственным, образуют множество Г (F \ F). Заметим, что фундаментальная область относительно группы Г определена этими условиями неоднозначно. В част- частности, если 'F — фундаментальная область, то и любой ее сдвиг yF, где Y 6 Г, также является фундаментальной областью. Мы опишем сейчас способ конструкции фундаментальной области при некоторых простых дополнительных условиях на пространство Y и группу Г.
20 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 13 Будем предполагать, что У— локально компактное ме- метрическое пространство, причем метрика рСу^ у2) в про- пространстве У удовлетворяет следующему условию. Для любых двух точек у0, уг найдется третья точка у2 такая, что Р(Уо- У2> = Р(У2. У1)=2"Р(Уо> У1>- <2) Такую метрику р мы будем называть внутренней метрикой. Примером пространства с внутренней метрикой является обычная сфера, на которой расстояние между точками изме- измеряется по дуге большого круга. Заметим, что если расстоя- расстояние между точками сферы определить иначе — как длину соединяющей их хорды, то такая метрика не будет вну- внутренней. Легко убедиться, что в полном пространстве с внутрен- внутренней метрикой любые две точки у0, у, можно соединить не- непрерывной дугой у (t), 0<^?<;i, y(O)=y0, _y(l)=yj, такой, что Р (У <*i). У <?2) ) = Сз — h) Р (Уо> У i). ° < Ч < h < 1 • В частности, такое пространство является связным. Можно также доказать, что в локально компактном про- пространстве с внутренней метрикой любое ограниченное зам- замкнутое множество является компактным множеством. О группе Г будем предполагать, что она сохраняет ме- метрику пространства У, т. е. Р(УУо- Y-yi)==P(y0. C) для любых у0, уг ? У и у^Г. Мы построим сейчас фундаментальную область относи- относительно группы Г. Зафиксируем в У точку у0, не являющуюся неподвижной точкой на У. Рассмотрим множество F таких точек у, что D) Р (Ус У)< Р (Yyo- У) для любого у Ф е из группы Г. Покажем, что F является фундаментальной областью от- относительно группы Г. 3] § 1. ОБЩИЕ СВЕДЕНИЯ 21 Прежде всего, из дискретности группы Г следует, что F—открытое множество. В самом деле, пусть yL ? F и пусть р(Уо> yi) = d. Рассмотрим в У окрестность точки у0: Эта окрестность компактна, а потому существует лишь ко- конечное число элементов Yi> •••> Y«> Y/ ^ е из группы Г таких, что Y/Уо принадлежат UZd. Очевидно, что для осталь- остальных элементов у^Т мы имеем р (Yyo- Уг) ^ 2cf. Рассмотрим е-окрестность точки yj U*= [У :р(У!. У)<е}. Легко убедиться, что при е < min (-^-, - ' ~— , I = 1, . . ., п\ , rfi = p(Yjy0. У1). эта окрестность принадлежит множеству F. Следовательно, множество F открыто. Покажем, что множество F удовлетворяет условию 1), т. е. что множества F и yF, у Ф е не пересекаются. В самом деле, пусть y?F. Тогда для любого y из Г мы имеем Р(Уо- У)<Р(Г'Уо. У)- Следовательно, поскольку р(у0, у) = p(Yy0. Yy) и P(Y-1yo' y) = = р(у0, Yy). получаем, что o> Yy)<P(yo> Полученное неравенство означает, что при у ф е элемент Yy не принадлежит множеству F; таким образом, множество y^"> у Ф е не пересекается с множеством F. Наконец, покажем, что множество F удовлетворяет усло- условию 2), т. е. любая точка у ? У представима в виде где Y^T, x?F. _ Легко убедиться, что замыкание F множества F состоит из всех таких элементов у, что Р(Уо- y)<P(Yy0- У)- Y^T. Пусть у — произвольная точка из У. Для нее найдется такое Yo^r, что о- y)<P(Yy0- У) E)
22 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [4 для любого у?Г. (В противном случае в некоторой окрест- окрестности точки у содержалось бы бесконечное число точек уУо» но это невозможно ввиду дискретности группы Г.) В силу инвариантности метрики р, из E) следует, что рОо- Yo-1y)<P(Y>'o' Yo"^) для любого у?Г- Таким образом, точка у~1у = х принад- принадлежит F и, значит, y = YoA:> где Yo€r, x?F. Итак, доказано, что построенное множество F действи- действительно является фундаментальной областью относительно группы Г. 4. Дискретные группы с компактной фундаменталь- фундаментальной областью. Большой интерес представляют такие дискрет- дискретные группы преобразований Г, для которых замыкание F фундаментальной области является компактным множеством. Прежде всего, укажем условие компактности множества F. Предположим, что существует такое компактное под множество KcY, что Y = Г К, т. е. любое у ? Y представило в виде y = yk, где у?Т, k?K. Тогда построенная выше фундаментальная область F относительно группы Г имеет компактное замыкание. Напомним, что замыкание F множества F состоит из всех таких точек у из Y, для которых Р(Уо- y)<P(Yy0. У). Y6T. F) Предположим, что множество F некомпактно. Тогда множе- множество F неограничено, а потому в нем найдется последова- последовательность точек уп такая, что р (уо.ул) ~*" °°- Покажем, что это невозможно. Представим точки уп в виде Уп = Уп^п- гДе Уп 6 Г, kn ? К- На основании неравенства F) мы имеем Р(Уо> yJ<p(Ynyo- Yn*n). 41 § 1. ОБЩИЕ СВЕДЕНИЯ 23 а потому, в силу инвариантности метрики р, Р(Уо> Так как множество К компактно, то последовательность Р(Уо> ^«) ограничена. Но тогда ограничена и последователь- последовательность р(уо> Ул)> что противоречит сделанному предположению. Теперь рассмотрим свойства дискретных групп преобразо- преобразований Г и свойства их фундаментальных областей F, когда F является компактным множеством. Справедливы следующие два утверждения. I. Существует конечное число элементов yv .... уп группы Г таких, что область F задается конечным числом неравенств Р(Уо. y)<P(Yiyo> У)' /=1. ..., л. II. Группа Г имеет конечное число образующих. Доказательство утверждения I. Ввиду ком- компактности множества F существует такое число с > 0, что Р(Уо- У)<? G) для любого у из F. Рассмотрим элементы у из F такие, что Р(Уо- y) = P(Yy0' У) (8) хотя бы для одного элемента у ? F. Таких элементов имеется лишь конечное число *). В самом деле, из G) и (8) следует, что Р(Уо- Yyo)<2c; (9) ввиду дискретности группы Г, неравенству (9) может удо- удовлетворять лишь конечное число элементов у. Обозначим эле- элементы уФе, удовлетворяющие условию (8) через Yi> • • •> У„- Мы докажем, что множество F задается конечным числом неравенств Р(Уо- y)<P(Y,yo; У) '=1. ••-. п. A0) Предположим противное: существует точка у', удовлетво- удовлетворяющая неравенствам A0), но не принадлежащая множеству F. *) Множество таких элементов непусто. В противном случае было бы F = F, т. е. множество F являлось бы открытым и зам- замкнутым. Но это противоречило бы связности пространства.
24 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 14 Обозначим через Е компактное множество точек у, удо- удовлетворяющих неравенствам A0) и неравенству Р(Уо> У)<«1. где с1 = р(у0, у')-\-с- Это множество содержит F и точку у', не принадлежащую F. Покажем, что Е— связное множество. В самом деле, пусть У\^Е. Рассмотрим непрерывную дугу у {t), 0^?<С1, соединяющую точки у0 и ух, такую, что р (у (*i). у (*2)) = (*2 — уi). о < h < t2 < i. Легко видеть, что все точки этой дуги удовлетворяют нера- неравенствам A0) и, следовательно, принадлежат Е *). Таким образом, множество Е связно. Покажем, что множество F открыто в Е. В самом деле, множество F задается в Е бесконечным числом неравенств р(Уо- У)<Р(УУо- У)- (И) где у ф е, Yi» •••> Уп- Но все эти неравенства, за исключе- исключением быть может конечного числа, выполняются во всем мно- множестве Е (именно, они выполняются для всех у таких, что р(у0, Yy0) > ^Cj). Следовательно, множество F задается факти- фактически в Е конечным числом неравенств вида A1). а потому оно открыто в Е. Итак множество F является замкнутым открытым подмножеством множества Е. Поэтому, ввиду связ- связности Е, должно быть F = E; но это противоречит сделан- сделанному предположению. Утверждение I доказано. Доказательство утверждения II. Рассмотрим открытое ограниченное множество U, содержащее F. Покажем, что (/покрывается конечным числом множеств yF. В самом деле, предположим противное. Тогда в U найдется последователь- последовательность элементов у„ вида уп—Упхп, где уп ? Г, хп ? F, причем все уп попарно различны. Так как U и F — компактные мно- * В самом деле, имеем р (у.у0, у (*)) > р (у{у0, у?> — р (уг у (/)); следовательно, поскольку р (y.yQ, yj > р (yQ> yj, р (у,, у (t)) = = A — t)p (y0, у,), получаем Р (У,У0. У Щ > tP (Уд. У0 = Р (Уд. У <*)> § 1. ОБЩИЕ СВЕДЕНИЯ 25 жества, то можно, не нарушая общности, предполагать, что уп—>у, л:л —>д:. Но тогда очевидно, что упх —>у. Последнее невозможно ввиду дискретности группы Г. Итак, доказано, что U покрывается конечным числом множеств yF, скажем, множествами Yi^> • • • • Уп^- Рассмо- Рассмотрим подгруппу Г', порожденную элементами Y;- Будет до- доказано, что Г' = Г и, следовательно, группа Г имеет конеч- конечное число образующих. Рассмотрим множество У = U Y'€i" В силу построения подгруппы Г', это множество содержит вместе с каждым у'F также его окрестность y'^- Следова- Следовательно, множество Y' открыто. Но тогда открытыми будут и множества YK'= U yy'F, где y — произвольный элемент из Г. Множества y^' покры- покрывают все пространство Y. Легко видеть, что два таких мно- множества Yi^" и Уг^' либ° не перекрываются, либо совпадают. Если хотя бы два из них различны, то пространство Y является объединением попарно непересекающихся открытых множеств y^J это невозможно, поскольку Y — связное про- пространство. Итак, все уУ между собой совпадают, а потому Y == Y' = Ij y'F. Следовательно, каково бы ни было Y^^. Y'er; множество yF содержится в Y'\ но тогда yF = y'F для не- некоторого Y/6r/, а потому y = y'- Итак, доказано, что Г совпадает с подгруппой Г', поро- порожденной конечным числом образующих. Отметим без доказательства еще одно утверждение о дискретных группах преобразований с компактной фунда- фундаментальной областью. III. Если пространство Y односвязно, то группа Г задается конечным числом определяющих соотношений между своими образующими. Доказательство этого утверждения можно найти, напри- например, в статье Вейля [7].
26 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Мы рассмотрели свойства дискретных групп преобразований произвольного локально компактного пространства У. Теперь рассмотрим случай, когда Г — дискретная подгруппа локально- компактной группы G. Докажем, что если пространство Г \ G компактно, то множество элементов из G, сопряженных с любым фиксированным у?Г, является замкнутым в G. В самом деле, рассмотрим последовательность gj'^gz, у?Г, сходящуюся к некоторому g?G. Нам нужно доказать, что тогда элемент g также сопряжен с элементом у ? Г. Представим элементы gt в виде gi = ytui, где у,- 6: Г, ut ? F, F — фундаментальная область относительно под- подгруппы Г. По предположению, F— компактное множество. Следовательно, не нарушая общности, можно считать, что последовательность ut сходится к некоторому элементу и ? F. Тогда из равенства g следует, что -i Но так как Г — дискретная подгруппа, то сходящаяся после- последовательность Yr'YY; должна стабилизироваться, начиная с достаточно большого номера /. Итак, при достаточно боль- большом / мы имеем Y,rlYY* = ugu~l, т. е. элементы g я у являются сопряженными. Утверждение доказано. Применим этот результат к случаю, когда G — группа вещественных унимодулярных матриц 2-го порядка. Элементы g ф + е группы G распадаются на три класса: эллиптические элементы, т. е. матрицы с комплексными собственными зна- значениями, гиперболические элементы, т. е. матрицы с веще- вещественными попарно различными собственными значениями, параболические элементы, т. е. матрицы с кратными соб- собственными значениями (равными либо 1, либо —1). Очевидно, что множество элементов группы G, сопряжен- сопряженных с параболическим элементом g, не является замкнутым: замыкание этого множества содержит одну из матриц е и —е. Таким образом, мы заключаем. Если дискретная под- подгруппа Г группы G вещественных унимодулярных ма- 51 § 1. ОБЩИЕ СВЕДЕНИЯ 27 триц 2-го порядка такова, что Г\О — компактное пространство, то Г состоит только из эллиптических и гиперболических элементов. б. Строение фундаментальной области на плоскости Лобачевского. Пусть У — плоскость Лобачевского, Г — дис- дискретная подгруппа движений на К. В этом пункте мы изучим свойства фундаментальной области, отвечающей Г в случае, когда объем v (Г \ К) этой фундаментальной области конечен. Плоскость Лобачевского У мы будем здесь интерпрети- интерпретировать в виде верхней полуплоскости Im z > О на плоскости комплексного переменного z; при этом дви- движениями в У являются всевозможные дробно-линейные пре- преобразования , _ az + y . _ z — рг15 ' ао ~ pv — А с вещественными коэффициентами а, р, у, Вещественную прямую Im z —О 6. можно трактовать как совокупность бесконечно удаленных точек плоскости Лобачевского. Напомним, как строится фундаментальная область F, отвечающая дискретной подгруппе движений Г. На У фикси- фиксируется точка z0, не являющаяся неподвижной точкой (т. е. yz0 ф z0 при у Ф I). Тогда фундаментальная область F с цен- центром в точке z0 задается системой неравенств pU0, z)<p(yz0, z), у?Т, y^I- О) Заметим, что область F ограничена дугами геодезических. В самом деле, каждое из уравнений Р (z0, z) = p (yz0, z), определяющих границу, есть уравнение геометрического места точек, равноудаленных от двух заданных точек zn и Y-^o- Но хорошо известно, что такие геометрические места точек являются геодезическими.
28 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Итак, границей фундаментальной области F является ломаная А {возможно, несвязная и с беско- бесконечным числом сторон), образованная дугами геодези- геодезических. Многоугольник, ограниченный этой ломаной, является звездчатой областью, поскольку область F вместе с каждой точкой z содержит целиком и всю дугу геодезической, сое- соединяющую точки z0 и z. Докажем следующую теорему, принадлежащую Зигелю [60], о числе сторон многоугольника. Если объем фундаментальной области F конечен, то число дуг геодезических, из которых состоит гра- граница области F, конечно. Заметим, что для компактных областей F теорема была уже доказана в п. 3. Поэтому нам нужно рассмотреть лишь случай некомпактной области. Основным этапом доказательства будет оценка для углов со при вершинах области F Именно, мы покажем, что 2 (я — fi>)< / -f 2я. B) ш где сумма берется по всем вер- вершинам области F, не лежащим на бесконечно удаленной пря- прямой, а / — объем области F. Переходим к доказательству неравенства B). Соединим все вершины ло- ломаной А с точкой zo_ геодези- геодезическими и рассмотрим полу- получившиеся треугольники. Пусть ¦ • ¦ Ат, Ат f 1, .... Ап ... связное множество отрезков «¦ ат + \ ап + 1 ¦•¦ (РИС- О- Для определенности будем предполагать, что это множество неограничено в обе стороны. Обозначим через схй, pft, yk углы треугольника со стороной Ak и через сой — угол между сторонами Ak и Ak + l; таким образом, имеем а. 'rrr+J •/77 +2 ¦*-m+7 Рис. 1. ломаной А с вершинами Мы получим сейчас оценку для углов соА. Воспользуемся известной формулой площади треугольника с углами а, р, у 5j § 1. ОБЩИЕ СВЕДЕНИЯ 29 на плоскости Лобачевского: /—я — а — р — у. Согласно этой формуле, площадь / (Ak) треугольника со сто- стороной Ak равна =-- я — ak — pft — Следовательно, 2 k = m 2 (я C) Но левая часть этого равенства ограничена, поскольку ШПАцХ v(F), v (/=") — объем области F, и 2 «й < 2я; значит, ограничена и правая часть равенства. Отсюда выте- вытекает, что ряд 2 (л — ^fe) сходится и существуют пределы Hm Ym = Y_ooH lim рл = роо. Покажем, что я — Y_oo — Poo-^ ^- В самом деле, aft->oo при k —> оо (ибо лишь конечное число отрезков ломаной А может находиться на ограниченном расстоянии от точки z0); значит, p(z0, ak) >¦ p(z0, ak_x) для бесконечного числа зна- значений k. Но тогда для этих значений k имеем yk > pft. Так как, с другой стороны, Рй + Уй^л, то pft << Ц-. Сле- [ -п . Аналогично убеждаемся, что ^0. довательно, рс Y_oo ^ ~~О~ • ЭТИМ ДОКазаНО, ЧТО Л Y_oo Poo Переходя в C) к пределу при т —> —- со, я —> -f- со и принимая во внимание неравенство я — Y_oo — Ро получаем, что мы + оо 2 ¦ г=-оо +оо 2 (я- S!=-OO D) Неравенство D) получено в предположении, что связное множество отрезков Ak неограничено в обе стороны. Анало- Аналогичными рассуждениями можно убедиться, что такие же неравенства справедливы и в остальных случаях, когда
30 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА связное множество отрезков Ак ограничено хотя бы в одну сторону. Сложив все эти неравенства, мы получим искомую оценку: 2я -+- / > 2 (л— <»). E) ш где сумма берется по всем вершинам области F (лежащим на конечном расстоянии от точки z0), а / — объем области F. Докажем, на основании этой оценки, что число вершин области F, лежащих на конечном расстоянии от z0, конечно. Пусть а— некоторая вершина, а^ = а, аBК ...—все вер- вершины области F, эквивалентные а: Обозначим через co(i) углы при вершинах а^К Легко убе- убедиться, что если а не является неподвижной точкой для Y € Г, у?=1, то аЬ)+ &&)+. ... =2я. F) Если же а элементов Y неподвижная точка порядка п (т. е. число Г, оставляющих на месте точку а, равно /г), то (оAL-соB)Н- ... = — . F') В самом деле, найдем все сдвиги области F, примыкаю- примыкающие к точке а. Очевидно, что это будут области yyr1F, где y пробегает п элементов группы Г, оставляющих точку а на месте. Так как область YYf1^ имеет в вершине а угол соA), а сумма всех углов в вершине а равна 2я, то мы имеем tod) _i_ to<2> -j- . . . =5?L. ' п Ясно, что равенство F') несовместимо с оценкой E), если у F бесконечное число вершин. Остается доказать, что число вершин области F, при- принадлежащих бесконечно удаленной прямой, также конечно. Возьмем любые N вершин области F, лежащих на бес- бесконечно удаленной прямой: Вг, . . ., BN. Очевидно, что можно построить многоугольник, ограниченный конечным числом дуг геодезических и лежащий внутри F такой, что его бес- бесконечно удаленными вершинами являются точки Вх, . , ,, BN. § 1. ОБЩИЕ СВЕДЕНИЯ 31 Предельным переходом легко убедиться, что для площа- площади 1г этого многоугольника имеет место следующая формула: 2 (я — со) — 2я + 1г, ш где сумма берется по всем вершинам многоугольника, со — углы при вершинах. Так как со=О в бесконечно уда- удаленных вершинах, то отсюда имеем лЫ < 2я -f- Л < 2я -f- v (F). Таким образом, число N ограничено. Итак, доказано, что если объем области F конечен, то конечно и число ее вершин. В частности, конечно число вершин области F, лежащих на вещественной оси Е: Изучим теперь свойства вершин области F, лежащих на вещественной оси Е. Прежде всего заметим, что если область F неком- некомпактна, то она имеет по крайней мере одну вершину на Е. В самом деле, рассмотрим всевозможные геодезические, выходящие из точки z0; эти геодезические однозначно опре- определяются своим направлением / в точке z0. Обозначим через х (/) длину отрезка геодезической, лежащего внутри F. Число х (I) может быть равно оо, в этом случае геодези- геодезическая лежит целиком внутри F. Очевидно, что х{1) является непрерывной функцией от / в тех точках /, в которых т(/)<[оо. Поэтому, если т(/)-<оо для всех /, то функция т(/) ограничена. Но тогда область F компактна. Следова- Следовательно, если область F некомпактна, то существуют напра- направления /, для которых т(/)=оо. Рассмотрим одно из таких направлений /. Очевидно, что пересечение геодезической, про- проведенной из z0 в направлении / с вещественной осью Е, яв- является вершиной области F. Итак, доказано, что у F действи- действительно существуют вершины, лежащие на вещественной оси Е. Докажем, что для каждой вершины b области F, лежащей на Е, существует элемент у?Т, уФ +1, оставляющий на месте точку Ь. Пусть b — одна из вершин области F, лежащая на Е. Рассмотрим все сдвиги yF области F, имеющие своей вер- вершиной точку Ь. Очевидно, что таких сдвигов yF имеется
32 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА бесконечное число. Опишем их. Пусть b(l) — Ь, вершины области F, эквивалентные Ь: § 1. ОБЩИЕ СВЕДЕНИЯ 33 == 1 п. со По доказанному ранее, число этих вершин конечно. Оче- Очевидно, что любой сдвиг области F, имеющий в качестве вершины точку Ь, имеет вид где у пробегает элементы из Г, оставляющие на месте точку Ь. Так как таких сдвигов бесконечное множество, а Y,- пробегает лишь конечное множество, то, следовательно, существует бесчисленное множество элементов Y- оставляю- оставляющих на месте точку Ь. Тем самым доказано, что заведомо существует элемент у ? Г, у Ф i 1. оставляющий на месте точку Ь. Покажем, что любой такой элемент у является параболическим элементом *). Предположим противное: у не является параболическим элементом. Рассмотрим геодезическую z (t), 0<^/<^oo, z@)=z0, соединяющую точ- точки z0 и Ь. Эта геодезическая лежит целиком внутри обла- области F, а потому p(z0, z(t))<p(yz0. z@). 0<*<oo. G) ' Проведем через zQ орицикл а, ортогональный к z (Л. Этот орицикл изображается в виде окружности, касающейся веще- вещественной оси в точке b (рис. 2). Поскольку, по предполо- предположению, преобразование у не является параболическим, точка у-^о не принадлежит этому орициклу (в противном случае преобразование y переводило бы весь орицикл в себя, а таким свойством обладают лишь параболические преобра- преобразования). Не нарушая общности, можно считать, что *) Преобразование у ? Г называется параболическим, если оно задается матрицей с собственными значениями 1. yz0 лежит внутри орицикла; иначе мы заменили бы y на y- Проведем геодезическую z' (t) через точки y-^o и *• ДУГУ условимся отсчитывать от точки пересечения z'o этой геоде- геодезической с орициклом со. Тогда мы имеем р(z0. z (О) = Р(г'о. z' (О) = Р{z'o, yzQ) ¦+-р (уг0. г' Щ (8) Но, как известно, р (z (t), z' (Л ) —> 0 при t —> оо; поэтому расстояние pCY-^o- z' @) сколь угодно мало отличается от pCY-^o- -2@) ПРИ достаточно больших t. Следовательно, в силу (8) мы получаем, что при достаточно больших t Полученное неравенство противоречит неравенству G). Сле- Следовательно, предположение о том, что y He является пара- параболическим элементом, неверно. Сформулируем окончательный результат. Мы доказали, что если г> (Г \ К) <; оо, то существует фундаменталь- фундаментальная область F. ограниченная конечным числом дуг геодезических. При этом вершины области F, лежащие на вещественной оси, являются параболическими точ- точками; это значит, что для каждой из них существует параболическое преобразование у^Т, уФ±\, оста- оставляющее эту вершину на месте. Покажем, что существует фундаментальная область F, удовлетворяющая следующему дополнительному условию: вершины области F, лежащие на вещественной оси, по- попарно не эквивалентны. Для этого достаточно доказать следующее утверждение. Пусть b — вершина фундаментальной области F, лежа- лежащая на вещественной оси, такая, что существуют вершины bA) — ylb b(p) = ypb, эквивалентные b. Тогда можно пост роить другую фундаментальную область, у которой число вершин, лежащих на вещественной оси, меньше, чем у Г. В самом деле, пусть /— одна из сторон многоуголь- многоугольника F, выходящая из Ь. Легко убедиться, что существует элемент у ? Г, обладающий следующими свойствами: 1) у переводит некоторую вершину Ь(к) в вершину Ь. 2) у переводит одну из сторон /', I" многоугольника F, выходящих из точки bk, в сторону /. 3 И. М. Гельфанд
34 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 35 Пусть FbczF — треугольник, образованный геодезиче- геодезическими /', I" и некоторой третьей геодезической. Рассмотрим область F' =(F \ Fk) U yFk, получаемую из области F путем отбрасывания Fk и добавления треугольника yFk. Ясно, что эта область F' фундаментальна относительно под- подгруппы Г. По построению, она имеет на вещественной оси те же вершины, что и F, за исключением вершины Ь(к). Утверждение доказано. Из полученного описания фундаментальной области F не- непосредственно следует, что ее можно разбить на подобласти более простой структуры. Именно, условимся через F (Ь), где b — параболическая точка, обозначать треугольник, огра- ограниченный двумя геодезическими, выходящими из b и ори- орициклом со, касающимся вещественной оси в точке Ь. Тогда мы имеем где сумма берется по всем параболическим вершинам об- области F, a Fo — компактное множество. Каждая из областей F (bk) обладает, как легко убедиться, следующими свойствами. Пусть F{bk) ограничена дугами геодезических /, /' и орициклом со. Тогда 1) геодезические /, /' между собой эквивалентны, то есть переводятся одна в другую некоторым преобразованием у ? Г, оставляющим точку bk на месте; 2) любая точка, лежащая внутри орицикла со, может быть переведена в область F {Ьк) не- некоторым преобразованием у^Г, оставляющим на месте точку bk. Возможность такого разбиения фундаментальной области будет существенно использована в § 6. § 2. Представления группы О, индуцированные дискретной подгруппой С каждой дискретной подгруппой Г локально компакт- компактной группы G мы свяжем здесь некоторый набор унитарных представлений группы G, называемых индуцированными представлениями. Эти представления приводимы. Задача со- состоит в том, чтобы разложить их на неприводимые пред- представления или, выражаясь иначе, найти спектр этих пред- представлений. Эта задача будет рассматриваться здесь для случая, когда пространство X = Г \ G является компактным. Мы покажем в п. 3, что в случае компактного пространства Г \ G представления группы G, связанные с подгруппой Г, имеют конечнократный дискретный спектр. Иными словами, они разлагаются в дискретную сумму неприводимых пред- представлений, причем каждое неприводимое представление вхо- входит в разложение с конечной кратностью. В п. 4 будет получена «формула следа», позволяющая давать описание всех неприводимых представлений, входящих в разложение. Приложения формулы следа к некоторым конкретным груп- группам будут разобраны в § 5. 1. Определение индуцированных представлений. Пусть G — локально компактная топологическая группа. С каждой дискретной подгруппой Г группы О мы свяжем набор уни- унитарных представлений группы G. Сначала опишем простейшее из этих представлений. Оно строится в пространстве функций / (х) на X = Г \ G, имеющих интегрируемый квадрат модуля: оо, dx— инвариантная мера на X. Представление состоит в том, что каждому элементу g из G сопоставляется оператор Т (g) следующего вида: x) = f(xg)*). A) (Напомним, что через xg обозначается та точка из X, в ко- которую переводится точка х преобразованием g.) Операторы Т (g) унитарны; это непосредственно сле- j дует по инвариантности меры dx при сдвигах х—>xg. Представление A) условимся называть по рожденным однородным пространством Г \ G. I Общая конструкция представления группы О, индуциро- ! ванного подгруппой Г, состоит в следующем. *) Правильнее было бы писать (Г (g) /) (x). Однако для упро- упрощения записи мы будем всегда вторые скобки опускать.
36 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Пусть задано конечномерное унитарное представление *). % (у) подгруппы Г, действующее в пространстве V. Рас- Рассмотрим гильбертово пространство //(х) всех измеримых вектор-функций / (g) на G со значениями в V, удовлетво- удовлетворяющих следующим двум условиям: 1) /(Y?0=X(Y)/te) B) для любого у 2) ; (/./)= / [/• Л dx < оо, х C) где [/j, /2] — скалярное произведение в конечномерном про- пространстве V. Представление состоит в том, что каждому элементу ^0 из G сопоставляется оператор Т (g0) следую- следующего вида: T(go)f(g) = f(ggo)- D) Легко убедиться, что эти операторы унитарны. Представление D) будем называть индуцированным подгруппой Г (или, более подробно, индуцированным задан- заданным представлением % (у) подгруппы Г). Заметим, что представление A) является частным случаем этой конструкции, когда x(Y) есть единичное представление. В самом деле, в этом случае функции / (g) являются ска- скалярными функциями, поскольку пространство V предста- представления X (у) одномерно. Условие же B) принимает вид f{yg) = f(g) yg f(g) Это значит, что функции / (g) постоянны на классах смежности Г \ G, а потому их можно рассматривать как функции, заданные на однородном пространстве X = Г \ G. Укажем другую реализацию представлений Т (g), индуци- индуцированных подгруппой Г. Пусть задана фундаментальная область F в G относительно подгруппы Г. Это значит, что любой элемент g из G можно представить в виде g = yx, E) где y6T, x?F, причем разложение E) единственно для всех элементов g, за исключением множества низшей раз- размерности. *) Аналогичная конструкция, разумеется, возможна и для бесконечномерных унитарных представлений группы Г. § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 37 Очевидно, что любая вектор-функция / (g) из простран- пространства представления Н (%) однозначно определяется своими значениями на F; обратно, всякую функцию на F можно однозначно продолжить до функции на всей группе G, удовлетворяющей условию B). Тем самым мы приходим к новой реализации простран- пространства Н(%)- Элементами пространства Н (%) в этой реализа- реализации являются всевозможные вектор-функции f (x), x ? F, при- принимающие значения в пространстве V представления % (у) и удовлетворяющие условию (/, /)==J*[/, f]dg <оо F) F ([f у] — скалярное произведение в пространстве V пред- представления x(y))- Отметим, что F) не зависит от выбора фундаментальной области; это следует из того, что выражение [f(g), f (g)] сохраняется при замене g на yg, где Y 6 Г- Оператор пред- представления Т (g) задается в этой реализации следующей формулой: (8) где Y € Г и х' ? F определяются из соотношения xg=yxr. С дискретной подгруппой Г можно связать еще одно важное представление группы G. Рассмотрим множество всех подгрупп Гг конечного индекса группы О. Пусть Tt (g) — представление группы О, порожденное однородным простран- пространством A'i = ri\G. Это представление, как мы знаем, дей- действует в пространстве L2(Xl) функций с интегрируемым квадратом на Xг. Заметим теперь, что если Г-ь с: Г^, то имеет место естественное вложение L2(Xj) a L2{Xt). В самом деле, функции из L2(Xj) можно рассматривать как функции на G, постоянные на классах смежности по подгруппе Г;-; но тогда они постоянны и на классах смежности по Гг, т. е. при- принадлежат пространству L2 {X,-). Отсюда следует, что можно построить новое гильбер- гильбертово простраяство Н, являющееся прямым спектром
38 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [2 пространств L2(Xt). Это пространство можно описать следующим образом. Упорядочим группы Гг с помощью натуральных чисел и положим Го = Г, Г/ = Г1П ••• Г) Г; (/=1,2, . . .)> X'i = Y'i \ G. Тогда имеем Гг- с: Гг_ь а потому Z.2(^i'-i)c: L2(Xi). Обозначим через Hi ортогональное допол- дополнение подпространства ?2(^-1) B пространстве L2(x'i). Тогда пространство Н является прямой суммой гильбертовых про- пространств L2(X) и Hi, H2, ... В пространстве Н естественным образом определено пред- представление группы G, поскольку оно определено в каждом из пространств L2 (X), Нь, Н2, • • ¦ Заметим, что некоторые результаты, касающиеся спектра пространства L2(X), остаются справедливыми и для про- пространства Н. Например, предположим, что пространство X = Г \ О компактно. Тогда, так как подгруппы Гг имеют конечный ин- индекс в группе G, то компактны и пространства Xi = ri \G. Как будет показано позже, в этом случае каждое из про- пространств ?2 (X;) распадается в прямую сумму счетного числа инвариантных неприводимых подпространств, при- причем каждое из этих подпространств входит в L2(Xг) с ко- конечной кратностью. Выражаясь иначе, спектр представле- представления в пространстве L2(X() является дискретным конечно- кратным. Очевидно, что в этом случае представление в простран- пространстве Н также распадается в счетную прямую сумму непри- неприводимых представлений. Было бы весьма интересно изучить это разложение под- подробнее. Например, можно ли утверждать, хотя бы в частном случае, когда G — группа вещественных матриц 2-го порядка, что неприводимые представления, входящие в Н, образуют в известном смысле всюду плотное множество в простран- пространстве всех представлений? Конечна ли кратность, с которой неприводимое представление входит в это разложение? 2. Операторы Ту. В теории представлений важную роль играют операторы вида 21 § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 39 где Т (g) — оператор представления группы, ф (g) — некото- некоторая функция на группе, а интегрирование ведется по инва- инвариантной мере dg на группе G *). Интеграл A) заведомо сходится, когда ф(g) является непрерывной финитной (или достаточно быстро убывающей) функцией на группе G. Легко проверяется, что если <p1? ф2 — финитные непрерыв- непрерывные функции, Яр Я-2 — комплексные числа, то Т'л.фН-Я-афз == ^1^ф, ~f~ ta7\p2. B) 7"ф, * ф2 = Т^Тщ, C) где ф! * ф2 есть свертка. Таким образом, соответствие ф —> Т<$ является представлением алгебры финитных непрерыв- непрерывных функций q>(g), в которой умножение определено как свертка. Отметим также, что если Т — унитарное представление, то 7> = D) где Ф*(|Г) = Ф (g'1)- Из C) и D) вытекает, что опера- оператор Гф* ф* является самосопряженным положительно опреде- определенным оператором. Переход от операторов представления Т (g) к операто- операторам T(f удобен тем, что последние в ряде случаев оказы- оказываются интегральными вполне непрерывными операторами (или интегральными операторами с ядром Гильберта — Шмидта). Это позволяет при изучении представлений Т применять классические результаты теории интегральных операторов. В этом пункте мы рассмотрим унитарное представление локально компактной группы G, индуцированное дискретной подгруппой Г. Будет доказано, что если пространство X — Г \ G компактно, то для любой непрерывной финитной функции ф (g) на G оператор E) 7*ф = / Ф (g) T (g) является интегральным вполне непрерывным опера- оператором. *) Мы будем всюду предполагать, что мера dg является д в у- сторонне инвариантной, т. е. dg = d {ggo) = d (goS) Для любого элемента ,g0 ? G.
40 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 12 Доказательство. Напишем явное выражение для опе- оператора 7"ф. Напомним, что представление Т (g) группы G, связанное с Г, задается некоторым унитарным представле- представлением х(У) подгруппы Г, действующим в конечномерном про- пространстве V. Представление Т (g) действует в простран- пространстве Н' (х) вектор-функций на G со значениями в V, удовлетворяющих условию f(yg)=x(y)f(g). ver, geo. (б) Оператор представления Т (g) задается формулой T(go)f(g) = f(ggo)- G) На основании E) и G) мы получаем следующую фор- фулу для оператора Тф: ?V (gi) = f<P(g)f (gig) dg. Сделав здесь замену переменной gxg = g', получим ^{g:lg')f(g')dg' = F \Y6I ) e г где F — фундаментальная область относительно подгруппы Г. Мы видим, что Ту является интегральным оператором, ядро которого есть 2 (8) Заметим, что суммирование в (8) ведется фактически по конечному множеству у. В самом деле, можно считать, что g^1yg2 принадлежит компактному множеству, поскольку функция ф (g) финитна. С другой стороны gx и g2 также принадлежат компактному множеству — фундаментальной области F. Следовательно, и у принадлежит некоторому компактному множеству. Но совокупность всех у дискретна, а потому у пробегает в сумме (8) лишь конечное множество. Из сделанного замечания следует, что ядро K'(g\, g%) оператора Гф является непрерывной функцией от glt g2. § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 41 Значит, Гф — вполне непрерывный оператор в простран- пространстве Я(Х)*)- Покажем, что оператор Гф остается вполне непрерыв- непрерывным и для более широкого класса функций, чем финитные функции. Именно, рассмотрим непрерывную функцию ф (g), удовлетворяющую следующему условию: существуют неотри- неотрицательная суммируемая на О функция фх (g) и компактная окрестность U единицы группы G такие, что для любого g0 ? G | ф (g0) К J Ф1 и *)• (9) Покажем, что ряд G) для ядра К (gi, g2) оператора Гф абсолютно сходится. В самом деле, при фиксированных gt, g2 и у имеет место неравенство f 4>1(gr1yg2g)dg- A0) Ф и Заметим, что множества gf1yg2U' соответствующие у и у' при фиксированных gx и g2, перекрываются тогда и только ~ ~~1g2~1. Ввиду дискретности под- тог да, когда у' группы Г, компактное множество g2i/(J~1g~1 содержит лишь конечное число N элементов из Г. Отсюда следует, что при фиксированных gv g2 с каждым множеством g^^g^ может пересекаться не более чем N множеств g^y'g2U. Но тогда имеем на основании A0) г «Pi о *) Здесь использован следующий хорошо известный факт. Пусть[// — пространство функций / (х), заданных на компактном множестве X и таких, что I | / (х) \2 dx < со. Если К. (х, у) — непре- непрерывная функция на ХуСХ, то интегральный оператор с ядром К (х, у) является вполне непрерывным оператором на Н. **) Легко видеть, что финитные функции удовлетворяют этому условию. Именно, если qp (g)—финитная функция, то в качестве (У можно взять любую компактную окрестность единицы, а ф! (g) опре- определить, например, по формуле q>! (§-0) = JT max | qp {gog~') |.
42 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА т. е. ряд 2^C7^) абсолютно сходится. Отсюда непо- непосредственно следует абсолютная сходимость ряда (8) для Аналогичными рассуждениями можно убедиться, что ряд для К сходится также и равномерно по gi, g2, когда glt g2 принадлежит некоторой фиксированной компактной области в О, в частности, если gx, g2 ? F- Поскольку все члены ряда для K(gi, g2) непрерывны, то значит К (gv g2) является непрерывной функцией от glt g2. Итак, если пространство X = F\G компактно, то для любой непрерывной функции <p(g), удовлетво- удовлетворяющей условию (9), оператор 7Ф = Г <p(g)T (g)dg является интегральным вполне непрерывным опера- оператором. 3. Дискретность спектра индуцированного предста- представления в случае компактного пространства X=Г \ G. Пусть, как и раньше, G— топологическая локально ком- компактная группа, Г — ее дискретная подгруппа. Мы докажем здесь следующее утверждение. Теорема. Если пространство X = Г \ Gкомпактно, то представление Т (g) группы G, индуцированное подгруппой Г, распадается в дискретную сумму счет- счетного числа неприводимых унитарных представлений, причем кратность каждого из них конечна. Иными словами, спектр представления группы G в про- пространстве X = Г \ G является дискретным и конечнократным. Для доказательства теоремы рассмотрим операторы Тц, — С q>(g)T (g)dg, где (f>(g)—непрерывная финитная функ- функция на С?. В п. 2 было доказано, что эти операторы вполне непрерывны. Поэтому доказательство теоремы сводится к доказательству следующего утверждения. Лемма. Если унитарное представление g—>T(g) локально-компактной группы G в пространстве Н таково, что оператор Тф = Г ф (g) T (g) dg вполне не- непрерывен для любой финитной непрерывной функ- функции ф (g), то Н можно разложить в сумму счетного числа 31 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 43 неприводимых унитарных представлений группы G, причем кратность каждого из них конечна. Доказательство леммы. Рассмотрим непрерывные финитные функции ф (g), удовлетворяющие дополнительно условию Ф(^) = Ф(^~1). A) Оператор Гф = Г ф (gO T (g) dg, отвечающий такой функции является самосопряженным вполне непрерывным инте- интегральным оператором. В самом деле, мы имеем * (g) dg= а потому, в силу A), T*(f=T(f. Следовательно, оператор Т^ имеет счетный дискретный спектр, причем все собственные значения X =f= 0 оператора 7\р—конечной кратности*). Таким образом, пространство представления Н разлагается в прямую сумму подпространств н = H(f -j- ft=i B) где //ф—подпространство всех векторов / с собственным значением 0, т. е. таких, что Гф/ = 0; //ф, s — подпростран- подпространство всех собственных векторов оператора Тц, с заданным собственным значением Хк Ф 0. При этом все простран- пространства //Фг ft являются конечномерными. Очевидно, что аналогичное разложение имеет место и для любого инвариантного подпространства Н' с= Н, а именно: н = Ну -\- ft = I C) где //ф с= //ф, //ф, ft с: //ф> ft. Рассмотрим теперь всевозможные подпростронства //ф> ft, где ф пробегает непрерывные финитные функции, удовле- удовлетворяющие условию A). Пусть Нг—минимальное подпро- *) См., например, В. И. Смирнов, Курс высшей матема- математики, т. 5.
44 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [3 странство, содержащее все пространства //ф_ й. Покажем, что Нх совпадает со всем пространством Н. В самом деле, предположим, что это не так. Возьмем вектор / Ф О из ортогонального дополнения пространства Нг. Этот вектор ортогонален ко всем пространствам Н^ ft, а потому он принадлежит, в силу разложения B), пространству //ф. Иными словами, Гф/ = 0 для любой функции ф. Покажем, что это невозможно. Из определения представления группы следует, что после- последовательность векторов Т (g) / сходится к /, когда g стре- стремится к единичному элементу. Таким образом, для любого 8 > 0 найдется такая окрестность U единичного элемента, что когда g ? U. Подберем непрерывную финитную функцию ф (g), удовлетворяющую, помимо соотношения A), еще следующим двум условиям: 1) функция <p(g) сосредоточена в U и принимает лишь вещественные неотрицательные значения. 2) fq>(g)dg=l. Для такой функции q>(g) мы имеем Следовательно, \\Ttf — f\\< f и и f\\dg <s\\f\\. Так как, в силу нашего предположения, Тф/ = 0, то имеем отсюда ||/||<е||/|| для любого е > 0, что невозможно. Итак, мы доказали, что минимальное подпространство, содержащее все конечномерные пространства //ф> д., совпа- совпадает со всем пространством N. Отсюда и из разложения C) следует, что любое инва- инвариантное подпространство пространства Н имеет ненулевое пересечение хотя бы с одним //фл д.. Опираясь на этот факт, построим разложение пространства Н в прямую сумму инвариантных неприводимых подпространств. Зафиксируем какое-либо пространство /Уф> k. Рассмотрим пересечения пространства //ф> и со всевозможными инвари- 31 § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 45 антными подпространствами пространства Н. Выберем из этих пересечений ненулевое подпространство минимальной возможной размерности; обозначим его через Нц,^ Возьмем все инвариантные подпространства, имеющие с //ф) ft заданное пересечение Н' ft. Среди них имеется минимальное подпрост- подпространство Hi, являющееся пересечением всех этих пространств. Покажем, что пространство Нг неприводимо. В самом деле, предположим, что Нх распадается в прямую сумму инвариантных подпространств Н\ -— Ни -f- H\2- Из определения Н'^ k следует, что подпространство //ф> д. должно целиком содержаться в одном из пространств Н\, Н\2- Но это противоречит тому, что Нх —- минимальное инвариантное подпространство, содержащее Яф> д.. Итак, мы выделили в пространстве Н инвариантное непри- неприводимое подпространство //t. Рассмотрим разложение Н = = Н\-\-Н[, где Н\ — ортогональное дополнение простран- пространства Hv Пространство Н[ инвариантно. Следовательно, суще- существует пространство //ф> ft, с которым Ну имеет ненулевое пересечение. Повторяя для Hi предыдущие рассуждения, мы выделим в Hi инвариантное неприводимое подпростран- подпространство Н2 и т. д. Продолжая этот процесс трансфинитно, мы получим иско- искомое разложение H=^Hk D) пространства Н в прямую сумму инвариантных неприводимых подпространств Hk. Поскольку Н — сепарабельное простран- пространство, то число слагаемых в этой сумме не более чем счетно. Покажем, наконец, что кратность каждого неприводи- неприводимого представления, входящего в Н, конечна. Рассмотрим какое-либо неприводимое подпространство Hk простран- пространства И, входящее в разложение D). Можно подобрать опе- оператор Ту, имеющий в Hk собственный вектор с собственным значением X ф 0. Тогда, очевидно, и в любом подпростран- подпространстве Н[г где действует эквивалентное представление, также существует собственный вектор оператора 7\р с тем же соб- собственным значением Я. ф 0. Но имеется лишь конечное число
46 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 14 линейно независимых собственных векторов оператора Ту с заданным собственным значением Я Ф 0. Следовательно, конечно и число пространств Нг, эквивалентных Hk. Лемма доказана. Итак, доказано, что спектр представления локально ком- компактной группы G, связанного с дискретной подгруппой Г, является в случае, когда пространство X = Г \ О компактно, дискретным и конечнократным. Будем называть унитарное представление Г группы О вполне непрерывным, если для любой суммируемой функции ф на G опе- оператор Т вполне непрерывен. Мы показали, что всякое вполне непрерывное представление имеет дискретный конечнократный спектр. Можно дать необходимое и достаточное условие вполне непрерывности представления Т в терминах его спектра. А именно, для того чтобы представление Т = 2,Tt было вполне непрерыв- непрерывным, необходимо и достаточно, чтобы 1) каждая неприводимая компонента Т[ была вполне не- непрерывна; 2) последовательность {Т{\ не имела предельных точек в множестве G всех неприводимых представлений группы G, снабженном естественной топологией. Для широкого класса групп Ли, в частности, для всех полу- полупростых и всех нильпотентных групп доказано, что всякое непри- неприводимое унитарное представление вполне непрерывно. Таким обра- образом, для этих групп условие 1) всегда выполнено. Второе условие является, очевидно, усилением требования конечной кратности спектра. 4. Формула следа. Пусть снова Т (g) — представление локально компактной группы G, индуцированное дискретной подгруппой Г, такой, что пространство X = Г \ G является компактным. Мы доказали в п. 3, что представление Т (g) имеет дискретный конечнократный спектр. В этом пункте будет получена формула следа, содержащая в разумном смысле полное описание всех неприводимых представлений, входящих в Т (g). Поскольку сами операторы Т (g), будучи унитарными операторами в бесконечномерном пространстве, не имеют следа в обычном смысле, то вместо них мы будем рас- рассматривать операторы v = f<i>(g)T(g)dg. § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 47 Эти операторы, как было показано в п. 2, являются при некоторых условиях на функцию (p(g) вполне непрерывными интегральными операторами. Это имеет место, например, когда ф (g) — финитная непрерывная функция, а также в более общем случае, когда для функции ф(^) справедлива оценка ф (go) К / Ф1 и A) где ц—некоторая компактная окрестность единицы группы G, q>l(g) — неотрицательная суммируемая на G функция. Будем предполагать дальше, что Тф—самосопряженные положительно определенные операторы. Это имеет место для функций вида q>(g) = ty(g)*ty(g~1)- Ядра К (gv g2) операторов Гф задаются следующей фор- формулой: 2 A) B) Здесь х (Y) — фиксированное конечномерное унитарное пред- представление подгруппы Г, которым определяется представле- представление T(g). Из непрерывности ядра К {g\, g2) и из компактности пространства X = Г \ G следует, что самосопряженный поло- положительно определенный оператор Тф имеет след, равный J Тг К (g, g) dg == ^(g-'yg^TrxiyUdg, C) где Тг/С—след матрицы К (g, g), Tr x (Y) — след мат- матрицы х (Y)- J7 — фундаментальная область. Теперь подсчитаем след оператора Тф другим способом. Для этого сделаем предварительно одно важное предполо- предположение о самой группе G. Будем предполагать, что для любого неприводимого унитарного представления Tk(g) группы G и любой функции ((>(g)^_S, где S — некото рое линейное про- пространство функций, всюду плотное в пространстве непрерывных функций на G, оператор 4= f4>(g)Tk(g)dg D)
48 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [4 является вполне непрерывным и имеет след Tr(r?); этот след Тт(Т§) является непрерывным функционалом в про- пространстве S. Если это предположение выполнено, то мы можем писать, что Тг (у*) = J ф E) где ак (g) — обобщенная функция на группе G. Обобщенную функцию ак (g) естественно трактовать как след самого опе- оператора представления Тк (g). Ее обычно называют харак- характером заданного представления Tk(g). Сформулированное здесь условие выполняется для всех полупростых групп Ли *). Важность понятия характера представления видна уже из сле- следующего результата. Если G — полупростая группа Ли, то любое ее неприводимое унитарное представление однозначно определяется своим характером. В последующих разделах книги мы получим явные формулы для характеров неприводимых представлений некоторых групп. Итак, пусть группа С? удовлетворяет сделанному предполо- предположению. Пусть Нх Hk, ... —неприводимые неэквива- неэквивалентные между собой подпространства, на которые разла- разлагается пространство представления Т (g), a JVV .... Nk, ... — кратности, с которыми они входят в это разложение. По предположению, оператор Ту имеет в подпростран- подпространстве Нк след, равный / Ф (g) a, (g) dg. где ak(g) — характер неприводимого представления в Нк. Но тогда след оператора Т<$ во всем пространстве пред- представления Т(g) равен F) *) В случае полупростых групп Ли в качестве пространства 5 можно взять пространство всех финитных бесконечно дифферен- дифференцируемых функций на G. § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 49 Приравнивая между собой выражения C) и F) для следа оператора 7\р, мы получим искомую «формулу следа». Именно, пусть Г — дискретная подгруппа группы G, такая, что пространство X — Г \ G компактно; Т (g) — пред- представление группы G, индуцированное конечномерным унитарным представлением ¦% (у) группы Г. Обозначим через ok(g) характеры неприводимых представлений, содержащихся в представлении T(g), и через Nk—крат- Nk—кратности, с которыми они входят в это представление. Тогда имеет место следующая формула следа: В этой формуле TrxCY) обозначает след матрицы %(у). Заметим, что в простейшем случае, когда X (Y)—: еди- единичное представление, формула следа принимает следующий вид: / k=\ f V(g) <**<?) <*g- (8) Рассмотрим некоторые следствия из полученной фор- формулы. 1. Пусть группа G компактна. В этом случае из фор- формулы следа получаются явные выражения для кратностей Nk. Именно, положим ф (g) = ok (g). Как известно, характеры неэквивалентных представлений ортогональны между собой, т. е. *) 1, если k— m, О, если k Ф т. Следовательно, правая часть формулы G) дает нам крат- кратность Л/д, с которой входит представление Hk. Левая же *) Мера dg предполагается нормированной условием I dg = 1, 4 И. М. Гельфанд и др.
50 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА часть будет равна Тгх(у)') dg = / Y тг (y) / ^ = (Объем F, очевидно, равен l/n?, где яр — порядок группы Г.) Мы получили, таким образом, следующую формулу для кратностей Nk: v€T В частном случае, когда х (Y) эта формула упрощается: (9) единичное представление, *(Y)- (Ю) 2. Пусть G — группа вещественных матриц второго порядка с определителем 1. Для применения аналогичного приема к опре- определению кратности N%, с которой неприводимое представление Ик входит в Н, достаточно найти функцию ф (g), для которой спра- справедлива оценка A) и такую, что <Р С?) ^m С?) <*<? = 1, если т = k, 0, если т Ф k. ^ ' Поскольку характер от (g) зависит только от собственных значений матрицы g ? G, то такая функция ф (g), вообще говоря, не един- единственна. Мы увидим дальше, что у группы G имеются два типа пред- представлений — представления непрерывной серии и представления дискретной серии. Можно показать, что для представлений непрерывной серии функции ф (g), удовлетворяющей условию A1), не существует. Действительно, если ф (g) удовлетворяет условию A1), то во всяком случае f Рассмотрим функцию 4>(g) J < со. = J Ф (g) °s (g) dg, о 51 § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ 51 где as (g) — характер представления основной непрерывной серии с «номером s» (s — чисто мнимое число). Этот характер задается следующей формулой: : (g) = : —я -1 в случае, когда собственные значения Xg, X ственны; os (g) = 0 -I матрицы g веще- вещеJ1 в случае, когда Я. , A.J1 комплексны. Можно показать, что функция h (s) аналитична в области | Re s | < 1. Для наших же целей нужна такая функция ф (g), чтобы h (s) было отлично от нуля лишь вблизи фиксированной точки s0. Ясно, что такой функции ф (g) не существует. Для представлений дискретной серии положение иное: для них такая функция существует. Именно, пусть Tn(g) — представление дискретной серии с но- номером п, реализуемое в пространстве функций, аналитических в верхней полуплоскости (см. ниже § 3, п. 3). Тогда для него в качестве такой функции ф (g) можно взять ine (lmz) n/2 где z = ^22 +'/21 > 0 _ arg (?-12 _ ign)m Подставив ф„ (g) в фор- мулу G), можно получить конечное выражение для кратности Nn, с которой представление Тп (g) входит в Т (g). Мы найдем его позже, в § 5, п. 7, применяя несколько иные методы. 5. Другой вид формулы следа. Преобразуем формулу следа к более удобной форме. Именно, мы покажем, что левую часть равенства G) п. 4 можно преобразовать к следующему виду: ' Ц (Гу \ Оу) Тг Х (у) J ф (g-iyg) dg, A) ау\о где у пробегает по одному представителю из каждого класса сопряженных элементов в группе Г. В этом выражении через OY обозначен централизатор элемента у в группе О; таким образом, интеграл /у= J (f
52 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА является интегралом функции ф по классу всех элементов в G, сопряженных с у. Через Гу обозначен централизатор элемента у в группе Г; (х (Гу \ Gy) есть мера пространства Гу \ Gy (нетрудно убедиться, что эта мера конечна). Для доказательства разобъем элементы у на классы сопря- сопряженных между собой элементов относительно подгруппы Г. Ясно, что на каждом из этих классов выражение Tr%(Y) остается постоянным. Таким образом, левая часть формулы следа может быть записана так: 2 Тг * (Y) / ('2 / 2 'y'g)) dg. F V v' / где внутреннее суммирование ведется по классу сопряженных элементов, а внешнее — по множеству таких классов. Будем преобразовывать выражение, стоящее под знаком внешней суммы. Рассмотрим один из классов сопряженных элементов^ Этот класс состоит из элементов вида где у фиксировано, а у( пробегает группу Г. Заметим, что когда Yj пробегает группу Г, каждый такой элемент у' получается по нескольку раз. Именно, два элемента y« и Y/ определяют один и тот же элемент у' тогда и только тогда, когда (YjY/1)y(Y,YtI) — Y> T- e- когда y^yj1 принадлежит централизатору Гу элемента y в группе Г. Итак, чтобы каждый элемент у' класса сопряженных элементов полу- получался точно по одному разу, элементы Y; должны пробегать точно по одному представителю каждого класса смежности FY \ Г. Таким образом, имеем где yt пробегает по одному представителю из каждого класса смежности Гу \ Г; следовательно, V V' / SI § 2. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ где интеграл берется по множеству 53 Ясно, что Fx является фундаментальным множеством под- подгруппы Гу в группе G. Таким образом, имеем ~Vg))dg= f <p(g~'[yg)dg. / rY\G F ЧГ Пусть теперь OY—централизатор элемента y во всей группе О. Тогда мы имеем / g= f f 4>(g-lgT1yglg)dg1dg = ту\о Gy\o vy\ay / / Gy\O Vy\Oy O Итак, когда y' пробегает множество элементов, сопряженных с Y относительно подгруппы Г, мы имеем J J 4>{g-lVg)dg. J Oy\O Умножая это равенство на Тг % (у) и суммируя по множеству классов сопряженных элементов в Г, мы и получим требуемое выражение A). Сформулируем окончательный результат. Пусть G — ло- локально компактная группа, Г — ее дискретная под- подгруппа такая, что пространство Y\G компактно, X (y) — унитарное представление группы Г, Т (g) — пред- представление группы G, индуцированное представле- представлением x(Y)- Пусть ok(g), k=l, 2, ..., — характеры неприводи- неприводимых унитарных представлений, содержащихся в пред- представлении Т (g), Nk — кратности, с которыми эти представления входят в Т (g). Тогда для любой
54 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА финитной функции <p(g) на О имеет место следую- следующая формула следа: у B) Здесь Trx(Y) — слеД матрицы % (у); Gy, Гу — централиза- централизаторы элемента у соответственно в группах О и Г; сумми- суммирование ведется по множеству классов сопряженных эле- элементов в Г. Отметим, что интеграл I <p(g~lyg) dg есть oY\o не что иное, как интеграл по классу элементов в G, со- сопряженных с элементом у. Формуле следа можно придать иной вид, перейдя от функции cp(g") к ее «преобразованию Фурье». Именно, пусть o(g) пробегает характеры всех неприводимых унитарных представлений группы О. Перейдем от функции ф (g) на группе G к ее «преобразованию Фурье» (о)= f <p(g)o(g)dg. C) Тогда левую часть формулы следа можно представить в виде 2 h (ал), k где сумма берется по всем неприводимым представлениям ок, содержащимся в Т (g), причем каждое слагаемое повторяется столько раз, какова кратность представления. С другой стороны, каждое слагаемое в правой части формулы следа также можно выразить через функцию h (a) в виде некоторого интеграла h (о) ipY (a) do. Интеграл берется по множеству всех неприводимых уни- унитарных представлений группы G. Таким образом, формула следа принимает следующий вид: 2< к i JA (о) tyy (о) do, § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 55 где суммирование справа ведется по множеству классов со- сопряженных элементов в Г. Задача состоит в том, чтобы получить явное выражение для функции ipY(a). В § 5 эта задача будет решена для группы вещественных унимодулярных матриц 2-го порядка. § 3. Неприводимые унитарные представления группы вещественных унимодулярных матриц 2-го порядка В этом параграфе будет дано описание неприводимых унитарных представлений группы G вещественных унимоду- унимодулярных матриц 2-го порядка. Результаты, как правило, бу- будут приводиться без доказательств. Подробнее о представ- представлениях группы О читатель сможет узнать из гл. II, где изучаются представления группы матриц 2-го порядка с эле- элементами из любого локально компактного поля (см. также «Обобщенные функции», вып. 5, гл. VII). 1. Основная серия неприводимых унитарных пред- представлений. Неприводимые унитарные представления группы G. отличные от единичного представления, распадаются на 3 серии — основную непрерывную, дополнительную и диск- дискретную серии. Прежде всего мы опишем наиболее простой класс неприводимых унитарных представлений — представ- представления основной серии. Рассмотрим аффинную плоскость X с выброшенным началом координат (в дальнейшем, говоря об аффин- аффинной плоскости X, мы будем всегда предполагать, что на- начало координат выброшено и в X введена соответствую- соответствующая топология). Плоскость X является однородным про- пространством, в котором О действует как группа аффинных преобразований. Именно, элемент g= \ группы О 5 4^21 ^22/ переводит любую точку плоскости х = {хх, х2) в точку A) Рассмотрим пространство Н функций / (х), х?Х с интегрируемым квадратом:
56 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Зададим операторы представления Т (g) следующей фор- формулой: T(g)f(x)=f(Xg). B) ^dxl dx2 Зто представление унитарно, поскольку мера 2 сохраняется при преобразованиях х —> xg. Представление Т (g) приводимо. При разложении его на неприводимые представления мы получаем основную серию представлений. Укажем, как это разложение производится. Сначала разложим совокупность функций / (х) на чет- четные и нечетные. Четные функции и функции нечетные об- образуют, очевидно, инвариантные подпространства, которые мы обозначим соответственно через И+ и Н~. Рассмотрим, например, пространство четных функ- функций /+ (х). Положим оо = / f+(tx)t~sdt, о C) где s — чисто мнимое число. Функции fj(x) являются од- однородными функциями; а именно: = \t]s-1/t(x). D) функций ff (x) норму, положив Введем в пространство Н, II f+ 112 IIЛ II = E) где d<f> — мера на единичной окружности | х \ = 1. Легко о проверить, что представление задаваемое формулой Т (g) в пространстве H f , F) является унитарным представлением. Это представление не- приводимо. Аналогично строятся представления в пространствах HJ нечетных функций. Представления в пространствах Н$ и Н^ образуют так называемую основную непрерывную серию непри- неприводимых унитарных представлений группы G. В дальнейшем § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 57 удобно представления в пространствах Н^ нечетных функ- функций называть представлениями первой основной серии, а представления в пространствах HJ нечетных функций — представлениями второй основной серии. Можно доказать, что представления, отвечающие s и — s (отдельно в случае четных и отдельно в случае нечетных функций), эквивалентны между собой, а в остальных слу- случаях представления неэквивалентны; таким образом, каждое неприводимое представление встречается здесь дважды. Это в дальнейшем для нас будет очень существенно. Представление в пространстве Й разлагается на ука- указанные здесь представления основной серии. А именно, из равенства Парсеваля для преобразований Меллина непосред- непосредственно видно, что Н-оо II / II2 - / II ft IP d (is) + J || fj IP d (is). G) — CO —OO Существует другая реализация представлений основной непрерывной серии. Она получается, если мы вместо однородных функций двух переменных f (хх, х2) будем рассматривать функции одной переменной (р(х), связанные с функциями / следую- следующим соотношением: = /(*. 1). (8) (Очевидно, что однородная функция fs(x1, x2) однозначно определяется функцией q>(x).) При этом получается следую- следующая реализация представлений основной непрерывной серии. Представления первой основной серии Н$ реализуются в пространстве функций ф(лг) на прямой со скалярным про- произведением + оо (фх, ф2)= J (fI(x)q>2(x)dx. (9) Операторы представления задаются следующей формулой: -\ (Ю) где 5 мнимое число.
58 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА B Представления второй основной серии Н~ также реали- реализуются в пространстве функций на прямой со скалярным произведением (9). Операторы представления задаются сле- следующей формулой: s-\ sign (g12x A1) 2. Дополнительная серия представлений. Пусть 5=^=0 — вещественное число из интервала —1 <С s <С 1. Обозначим через Fit пространство четных функций ft (x), удовлетво- удовлетворяющих условию однородности D) п. 1, в котором скаляр- скалярное произведение задается следующей формулой: / / \х'1 = 1, \х") = 1 (о где KS(X'. JC")=|Ari'x'__ п 1—S—1 (При s <C 0 интеграл следует понимать в смысле регуляризо- ванного значения, см. «Обобщённые функции», вып. 5, гл. VII.) Оператор представления Т (g) определим по-прежнему формулой F) п. 1. Можно показать, что представления Т (g) унитарны и неприводимы; они Эквивалентны лишь для sit — s. Эти представления называются представлениями дополни- дополнительной серии. Укажем другую реализацию представлений дополнитель- дополнительной серии. Она получается, если мы вместо однородных функций двух переменных f{xx, х2) будем рассматривать функции одной переменной <р(х) = f (х, 1). Представление дополнительной серии Fit, где 5=^=0 — вещественное число из интервала — 1 <С 5 < 1, реализуется в пространстве функций на прямой со скалярным произве- произведением -Ьсо -Ьоо x2 ф2 — оо —оо dx2. C) 41 § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 59 Операторы представления задаются формулой 7-'. D) 3. Дискретная серия представлений. Эта серия состоит из двух частей. Половина этой серии реализуется в прост- пространстве функций комплексного переменного z, аналитиче- аналитических на верхней полуплоскости Im z >• 0. Операторы пред- представления задаются следующей формулой: где п—целое неотрицательное число, задающее представ- представление. Скалярное произведение определяется следующей фор- формулой: (<Pi> Фг)= / 4>i(z)y2(z)yn-1dxdy при п > 0, B) Imz>0 + ?0 (Ф1> Ф2)= Г q>i(x)(f>2(x)dx при га = 0, C) где фх (х), ф2 (х) — граничные значения аналитических функ- функций Фх B), Ф2Bг) на вещественной оси. Другая половина дискретной серии реализуется в прост- пространстве функций, аналитических в нижней полуплоскости. Операторы представлений задаются той же формулой A), что и в случае первой половины дискретной серии. Ска- Скалярное произведение определяется формулой, аналогичной B). Никакие два из представлений дискретной серии между со- собой не эквивалентны. 4. Другая реализация представлений основной и до- дополнительной серий. В этом пункте мы рассмотрим два класса представлений: представления первой основной серии, реализуемые в пространстве Fit четных функций, и пред- представления дополнительной серии. Эти представления обладают следующим важным свойст- свойством. В пространстве представления имеется вектор fo(x).
60 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА инвариантный относительно операторов Т(и), где и пробе- пробегает ортогональные матрицы: и cost sint -sin/ cost В самом деле, таким вектором является Покажем, что других векторов, инвариантных относительно операторов Т (и), не существует. В самом деле, пусть /— такой вектор, что т. е. Т (и) / = /, cos t — х2 sin t, xx sin t-\- x2 cos t) — f (xu x2) для любого t. Из этого равенства непосредственно следует, что / является функцией только от х\ -\-х\: / — f (x\ -f-.xrf). Но так как, кроме того, функция / является однородной функцией степени од- 5-1 нородности s — 1, то очевидно, что f=C(x\-\-x%) 2 . Используя это свойство представлений, мы построим в этом пункте другую их реализацию, а именно мы покажем, что эти представления могут быть реализованы в простран- пространстве функций на U\G, где U—подгруппа ортогональных матриц. Сопоставим каждой функции / (х) из пространства пред- представления Н^ функцию <p(g) на группе G, определенную следующей формулой: = (T(g)f, B) Здесь /0 — вектор из Н$, инвариантный относительно опе- операторов Т (и), а скобки обозначают скалярное произведение в пространстве Н^. Покажем, что ошображение / (X) -*- ф (g) является взаимно однозначным. § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 61 В самом деле, ядро этого отображения является, оче- очевидно, инвариантным подпространством пространства HJ . Поскольку пространство Ht неприводимо, это ядро либо совпадает с Ht, либо является нулевым пространством. Но оно не может совпадать с Н?, поскольку образ функции /0(лг) отличен от нуля. Следовательно, ядро отображения /—>ср является нулевым пространством. Перейдем от функций f (х) к функциям ф (g) = (Т (g) /, /0) и будем таким образом рассматривать представление в про- пространстве таких функций ф(?\). Покажем, что оператор представления Т (g) задается в пространстве функций ф (g) следующей формулой: C) В самом деле, если к функции / применить оператор Т (g0), то соответствующая функция ф (g) = (Т (g) /, /0) перейдет в функцию ф1 (g) = (Т (g) Т (g0) f, /0) = (Г (gg0) f. /0) = = Ф (ggd- В результате мы получаем новую реализацию представ- представления Т (g). Именно, представление строится в некотором пространстве функций ф(^) на группе G. Оператор пред- представления Т (g) задается формулой C). Полученное пространство функций ф(g) будем обозна- обозначать по-прежнему через Н^. Изучим основные свойства функций ф(|Г), входящих в пространство Hf. 1) Функции q>(g) ограничены. В самом деле, из ра- равенства ф (g) = (Г (g) f, /0) следует, что |ф(^)|2-< -^ ЦТ" (g) /|| jl/oll • Но Т (g) — унитарный оператор, а потому ЦГ (gO/II = 11/11- Итак, имеем |Ф (g)\* <||/|| ||/0||, т. е. функ- ция ф(|Г) ограничена. 2) Функции q>(g) являются бесконечно дифференци- дифференцируемыми функциями от g. Для доказательства напишем явное выражение функции ф (g) через функцию f (хг, лг2)- По определению Ф (*) = (/• T(g-i)f0). Используя формулу для скалярного произведения в прост- пространстве Hf (пп. 1 и 2) и формулу для оператора Т (g), мы можем это выражение записать в следующей явной форме.
62 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА В случае представления основной серии /(>i, х2) l( „2 . 2 5-1 1 2 dcp. D) В случае представления дополнительной серии — У1^12 4- 5-1 ] 2 йфуйщ. E) Бесконечная дифференцируемость функции q>(g) по пере- переменным gtj непосредственно следует из этих формул. Заметим при этом, что если Lg— произвольный линейный дифферен- дифференциальный оператор на G, то справедлива формула диф- дифференцирования под знаком интеграла: g Подробная проверка этих фактов предоставляется читателю. 3) Функции ф(g) постоянны на правых классах смежности группы G по подгруппе U ортогональных матриц, т. е. Ф (ug) = ф (g) для любой ортогональной матрицы cost sin — sin t cos t В самом деле, имеем q(ug)=(T(ug)f, fo) = (T(u)T(g)f, /0) = Но вектор /0 инвариантен относительно операторов Т (и), т е Г(й)/0 = /0. Следовательно, т. е. Ф = G* 41 § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 63 В силу доказанного, функции ф (g) можно трактовать как функции, заданные в пространстве классов смежности U\G. Покажем, что однородное пространство U \ G изоморфно полуплоскости Im z >• 0 плоскости комплексного перемен- переменного z, на которой группа G действует как группа дробно- линейных преобразований. В самом деле, зафиксируем на полуплоскости Ini2 > О точку Ze = i и сопоставим каждой точке z полуплоскости Imz> 0 совокупность всех элементов g из G, которые переводят точку I в эту точку z, т. е. -s^-= z. ~ g22 Тем самым определено отображение группы G на верхнюю полуплоскость. Совокупность элементов g, переходящих при этом отображении в точку i, т. е. таких, что образует, очевидно, подгруппу U ортогональных матриц. Отсюда ясно, что прообразами точек z являются при этом отображении классы смежности Ug. В результате мы полу- получили взаимно однозначное соответствие между классами смежности Ug и точками z полуплоскости Im z > 0. Оче- Очевидно, что при преобразовании g —> ggQ соответствующая точка z подвергается дробно-линейному преобразованию с матрицей ^0: + z' = Итак, функции ф можно рассматривать как функции на верх- верхней полуплоскости Im z >¦ 0 и писать <р (z) вместо ф(^"). Найдем выражение функций ф(^) через исходные функ- функции f(xly х2). Пусть z = х-\- 1у — точка верхней полупло- полуплоскости, Ug — класс смежности, являющийся прообразом точки z; напомним, что этот класс состоит из матриц, пере- переводящих точку i в точку z. В качестве представителя этого класса можно, как легко убедиться, взять следующую матрицу: у1/2 о ,-1/2 F)
64 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА |5 Таким образом, функции срО) выражаются через исходные функции / (хи х2) следующей формулой: где gz — матрица вида F). Сформулируем окончательный результат. Пространство Н* неприводимого представления первой основной или дополнительной серии можно реа- реализовать как некоторое пространство бесконечно диф- дифференцируемых ограниченных функций фО) на верхней полуплоскости \т z > 0. Оператор представления Т(g) определяется в этой реализации следующей формулой: Заметим, что полного описания функций ф (z), из кото- которых состоит пространство Н$, мы не получили. Кроме того, не найдена и явная формула для скалярного произведения в пространстве функций q>(z). В следующем пункте будет получена дополнительная информация о пространстве Н$. 5. Оператор Лапласа А. Пространства Qs. Рассмотрим пространство всех бесконечно дифференцируемых функ- функций q>(z) на верхней полуплоскости Гт z > 0. Определим операторы представления Т (g) группы G по следующей формуле: Т (g) ф (z) — ф ( zgl' ~^~_ g2i \ . A) Покажем, что на полуплоскости 1шг>0 существует дифференциальный оператор второго порядка Д, перестано- перестановочный со всеми операторами Т (g): ДГ (g) = T(g)A B) или более подробно C) В самом деле, рассмотрим оператор д2 = (Z — zf dz д z 2 д2 ду2 § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 65 Покажем, что он удовлетворяет соотношению B). Положим z' = Zzgll~Xj^ ¦ Тогда имеем: jp- = (zgl2 -+- g22J —^~ • i-2 ' — z' = \ zgn ¦(z-z). Отсюда непосредственно получаем, что ,-, ~zr. &_ _ - д2_ К dz' dz' dzdz Очевидно, что полученное равенство равносильно равен- СТВУ B)- i д2 . д2 Итак, доказано, что оператор Д = — у2 {у) перестановочен с операторами Т (g). Этот оператор Д будем называть оператором Лапласа на полуплоскости Im z > 0. Нетрудно убедиться, что любой другой дифференциальный Опе- Оператор второго порядка, перестановочный с операторами Т (g), имеет вид аЛ + р, где а, р — постоянные числа. В самом деле, пусть оператор л, _в1 („? + *,(*,-5^ а3 (z) д2 dz dz oz dz удовлетворяет условию перестановочности B). Для случая, когда матрица g имеет вид g = f I, это условие дает: at (z -f- у) = = di (z), где Y — любое вещественное число, / = 1, ..., 6. Следова- Следовательно, коэффициенты аг (z) зависят только от Im г = у. Итак, имеем at (z) = а, (у)- Iх ° \ м Применим далее условие B) к случаю, когда if = l_ i-U" по" лучим, что а,- (л2у) = Х*щ (у) при / = 1, 2, 3; а,- (Х2у) = Л2а,- (у) при i = 4,5; дв (Х2у) = <х6 (у). Следовательно, ^- (у) = агу2 при х = 1, 2, 3; а,- (у) = о,-у при / == 4, 5; д6 (у) = а6, где а, — постоянные. Наконец, применяя условие B) к случаю, когда g = I ), мы легко убеждаемся, что а: = а2 = а4 = а5 = 0. 5 И. М. Гельфанд ч пр.
66 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 15 В предыдущем пункте мы получили реализицию пред- представлений основной и дополнительной серии группы G в не- некоторых подпространствах Н^ бесконечно дифференцируемых функций ф (z), Im z > 0. Выясним, какой вид имеет оператор Лапласа Д в каждом из этих подпространств. Будет показано, что на подпространстве Н'? опера- оператор Лапласа Д кратен единичному оператору, а именно: Д = ^?. D) где Е— единичный оператор. Для доказательства воспользуемся интегральным пред- представлением функций ф(^): 5-1 гДе /0 (¦*) = (•*-? + Х1) ¦ 2 ' а скалярное произведение (...) определено, согласно п,п. 1 и 2, следующими формулами: |ДГ|=1 в случае представления основной серии; I х'х" х"у' I-5-1 / I Л1Л2 X1X2 I J \х'\=1 \х"\=1 Таким образом, нам достаточно убедиться, что в случае представления дополнительной серии. Дифферен- Дифференцируя под знаком интеграла, мы получаем, что E) В справедливости соотношения E) мы убедимся непосредст- непосредственной проверкой. Имеем ., — 1/2 А \ у и \ — ху-Ч* У2/" 5] § 3. ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ МАТРИЦ 67 Следовате льно, s-\ xi Перепишем это выражение в переменных z = х -j- iy и z: ¦;-l Применяя теперь к этому выражению оператор Лапласа Д = (z — zJ =, мы получим dzdz s-l <2z — xx) (x2z z i)(xiz — л:,)"!" '— ~z J — 5-1 Итак, равенство E) доказано. Сформулируем окончательно полученные результаты. Пусть Т (g) — представление основной или дополнительной серии, /0—вектор в пространстве представления Hs , инва- инвариантный относительно операторов Т (и), где и пробегает орто- ортогональные матрицы. Каждому вектору / из пространства пред- представления мы сопоставили функцию ф (g), определенную формулой () (T()f /0). В п. 3 было показано, что соответствие /—>ф взаимно однозначно и что функции ф (g) ограничены и бесконечно дифференцируемы. Далее, было установлено, что функции ф постоянны на классах смежности по подгруппе U ортого- ортогональных матриц, а потому их можно трактовать как функ- функции в пространстве классов смежности U \ О. Поскольку пространство U \ G изоморфно верхней полуплоскости [щ2 > 0 плоскости комплексного переменного z, то функ- функции ф можно рассматривать также как функции ф (z), за- заданные на верхней полуплоскости. Исходное представление
68 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [5 Т (g) можно считать заданным в пространстве таких функ- функций ф(г). При этом операторы представления Т (g) задаются следующей формулой: В этом пункте было показано, что функции ф (z) являются собственными функциями оператора А = (z— zJ ——~ , отве- dz dz ' [ ?2 чающими собственному значению —j— : Д<рСг)= ^—т^-Ч>B). G) Заметим, что обратное утверждение не имеет места: не всякое решение уравнения G) принадлежит пространству Н + *). Иногда удобно вместо гильбертова пространства Ht. в котором первоначально строилось представление, рассмат- рассматривать его расширение — пространство Qs всех решений уравнения G). В этом пространстве й5 можно естественным образом задать топологию, относительно которой оно оказы- оказывается полным топологическим пространством. Очевидно, что представление Т (g) продолжается с /У5+ на все простран- пространство Qs; операторы представления задаются на 2^ той же фор- формулой F). Это пространство i2s назовем полным простран- пространством, связанным с данным неприводимым представлением Т (g). Оно играет фундаментальную роль в теореме двойственности (§ 4). Сформулируем без доказательства некоторые свойства пространства Qs. 1) Hs является всюду плотным подмножеством в про- пространстве Qs. 2) Пространство 25 неприводимо во всех разумных интер- интерпретациях этого термина (см. «Обобщенные функции», вып. 5). В частности, пространство Q5 не содержит замкнутого инва- инвариантного подпространства; не существует ограниченного опе- оператора в 25, отличного от единичного, перестановочного со всеми операторами Т (g). *) Так, уравнение G) обладает неограниченными решениями. Между тем, все функции q>(z)?H* являются ограниченными. § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ § 4. Теорема двойственности 69 В .§ 2 была поставлена следующая задача: задано пред- представление Т (g) группы G, индуцированное дискретной под- подгруппой Г. Требуется найти спектр представления Т (g~), иными словами, разложить это представление на неприво- неприводимые. В данном параграфе устанавливается связь между этой задачей и классическими задачами теории автоморфных форм. Именно, мы покажем, что кратность, с которой данное не- неприводимое представление входит в представление Т (g), равна размерности пространства автоморфных форм, соответ- соответствующих этому неприводимому представлению. Понятие автоморфной формы будет дано позднее. Использованные при этом соображения проще всего по- понять в случае, когда G — компактная группа, а Г — любая ее подгруппа, не обязательно дискретная. Пусть задано неприводимое представление X (У) П°Д" группы Г и пусть Т (g) — индуцированное им представление группы G. Будем искать кратность, о которой заданное не- неприводимое представление Tk(g) содержится в представле- представлении Т (g). Для этого рассмотрим операторы Tk(y), где у пробегает подгруппу Г. Они образуют представление под- подгруппы Г, вообще говоря, приводимое. Оказывается, что имеет место следующая. Теорема двойственности. Кратность, с ко- которой неприводимое представление Tk(g) содержится в представлении Т (g), равна кратности, с которой неприводимое представление х(\0 подгруппы Г содер- содержится в представлении Тk (у). Отметим частный случай этой теоремы, когда %(у) — единичное представление группы Г. В этом случае Т (g) есть представление в пространстве функций / (х) на X = Г \ G, определенное по формуле Теорему двойственности в этом случае можно сформулиро- сформулировать так. Кратность, с которой неприводимое пред- представление Tk(g) содержится в представлении Т (g). равна числу линейно независимых векторов ?, в пространстве пре^сгп авления Tk(g), инвариантных
68 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА T(g) можно считать заданным в пространстве таких функ- функций срО). При этом операторы представления Т (g) задаются следующей формулой: В этом пункте было показано, что функции ф (z) являются собственными функциями оператора А = (z— zJ —*—, отве- dz dz ' чающими собственному значению Дф (*) = G) Заметим, что обратное утверждение не имеет места: не всякое решение уравнения G) принадлежит пространству //+*). Иногда удобно вместо гильбертова пространства Hf, в котором первоначально строилось представление, рассмат- рассматривать его расширение — пространство Qs всех решений уравнения G). В этом пространстве Qs можно естественным образом задать топологию, относительно которой оно оказы- оказывается полным топологическим пространством. Очевидно, что представление Т (g) продолжается с /-// на все простран- пространство ?25; операторы представления задаются на Qs той же фор- формулой F). Это пространство i2s назовем полным простран- пространством, связанным с данным неприводимым представлением Т (g). Оно играет фундаментальную роль в теореме двойственности (§ 4). Сформулируем без доказательства некоторые свойства пространства Qs. 1) Hs является всюду плотным подмножеством в про- пространстве Qs. 2) Пространство Qs неприводимо во всех разумных интер- интерпретациях этого термина (см. «Обобщенные функции», вып. 5). В частности, пространство Q5 не содержит замкнутого инва- инвариантного подпространства; не существует ограниченного опе- оператора в-25, отличного от единичного, перестановочного со всеми операторами Т (g). *) Так, уравнение G) обладает неограниченными решениями. Между тем, все функции <р (.?)?//+ являются ограниченными. § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ § 4. Теорема двойственности 69 В .§ 2 была поставлена следующая задача: задано пред- представление Т (g) группы G, индуцированное дискретной под- подгруппой Г. Требуется найти спектр представления Т (g), иными словами, разложить это представление на неприво- неприводимые. В данном параграфе устанавливается связь между этой задачей и классическими задачами теории автоморфных форм. Именно, мы покажем, что кратность, с которой данное не- неприводимое представление входит в представление Т (g), равна размерности пространства автоморфных форм, соответ- соответствующих этому неприводимому представлению. Понятие автоморфной формы будет дано позднее. Использованные при этом соображения проще всего по- понять в случае, когда G — компактная группа, а Г — любая ее подгруппа, не обязательно дискретная. Пусть задано неприводимое представление х (V) пОД" группы Г и пусть Т (g) — индуцированное им представление группы G. Будем искать кратность, о которой заданное не- неприводимое представление Tk(g) содержится в представле- представлении Т (g). Для этого рассмотрим операторы Tk (у), где у пробегает подгруппу Г. Они образуют представление под- подгруппы Г, вообще говоря, приводимое. Оказывается, что имеет место следующая. Теорема двойственности. Кратность, с ко- которой неприводимое представление Tk(g) codeржится в представлении Т (g), равна кратности, с которой неприводимое представление %(у) подгруппы Г содер- содержится в представлении Tk (у). Отметим частный случай этой теоремы, когда %(у) — единичное представление группы Г. В этом случае Т (g) есть представление в пространстве функций / (х) на X = Г \ G, определенное по формуле Теорему двойственности в этом случае можно сформулиро- сформулировать так. Кратность, с которой неприводимое пред- представление Tk(g) содержится в представлении Т (g), равна числу линейно независимых векторов | в пространстве представления Tk(g), инвариантных
70 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА относительно Г, то есть таких, что для любого у ? Г. Наша задача — распространить этот результат на неком- некомпактные группы. Отметим, что непосредственно теорема двойственности не сохраняется для некомпактных групп О. Основная причина этого в том, что поскольку неприводимые унитарные представления таких групп G являются, вообще говоря, бесконечномерными, инвариантные относительно Г векторы уже не лежат в гильбертовом пространстве пред- представления. Тем не менее, аналог теоремы двойственности можно по- получить для любой полупростой группы Ли G и ее дискрет- дискретной подгруппы Г, такой, что пространство X = Г \ G ком- компактно. Для этого, оказывается, нужно расширить запас функций, на которые действуют операторы неприводимого представления Tk (g). Инпми словами, неприводимое пред- представление Тk (g) нужно задавать не в гильбертовом простран- пространстве, а в некотором его расширении Qk. Для ряда групп Ли это пространство Qk может быть эффективно описано. Сначала подробно разберем теорему двойственности для случая группы вещественных матриц 2-го порядка. При этом, ради простоты, будем рассматривать не все представления, индуцированные подгруппой Г, а лишь простейшее из них — представление, порожденное однородным простран- пространством X = Г \ G. Общие результаты, относящиеся к произвольной полу- полупростой группе Ли G, будут приведены в конце параграфа. 1. Автоморфные формы. В этом параграфе будет полу- получена теорема двойственности для группы G вещественных унимодулярных матриц 2-го порядка. Для формулировки этой теоремы нам понадобится понятие автоморфной формы. Пусть Т (g) — унитарное неприводимое представление группы G; Г — дискретная подгруппа группы G. Автоморф- ными формами (относительно подгруппы Г) следовало бы назвать векторы | в пространстве представления, инвари- инвариантные относительно операторов Т (у), 7 6^: Т DI=1. § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 71 Однако, если представление бесконечномерно, то такое опре- определение может оказаться не вполне удобным; естественно допускать, чтобы векторы | принадлежали не обязательно пространству представления, а некоторому его расширению. Введем точное понятие автоморфной формы, соответ- соответствующей заданному неприводимому представлению группы G. Напомним, что у группы G имеется три серии неприводимых представлений — основная непрерывная, дополнительная и дискретная серии. Начнем с представлений дискретной серии. Согласно § 3, представления дискретной серии задаются натуральным чис- числом п. Половина их реализуется в пространствах Нп всех функций ф (z), z—x-\-iy, аналитических в верхней полу- полуплоскости, для которых Г \q>(z)\2yn-ldxdy < со. [щ z > О Другая половина представлений дискретной серии реали- реализуется в пространствах функций, аналитических в нижней полуплоскости. Оператор представления Tn(g) задается сле- следующей формулой: Тп (g) Ф (z) = ¦ S21 -п- 1 (О Для определенности будем дальше рассматривать первую половину представлений дискретной серии. Рассмотрим вместо пространства Ип пространство Qn всех функций, аналитических в верхней полуплоскости, и введем в Й„ естественным образом топологию. Мы получим полное пространство, в котором также действует предста- представление группы G, определенное формулой A). Можно пока- показать, что это представление (топологически) неприводимо. Автоморфной формой, соответствующей предста- представлению Tn(g) дискретной серии, будем называть функ- функцию фB), аналитическую в верхней полуплоскости и инвариантную относительно операторов Тп(у), то есть такую, что 4- Y22 Y22) П 1 = B)
72 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА для любого Y6T- (Эта функция может и не принадлежать гильбертову пространству Нп.) Аналогично определяются автоморфные формы для второй половины дискретной серии. Теперь перейдем к представлениям основной и дополни- дополнительной серий. При этом, говоря о представлениях основной серии, мы будем иметь в виду только представления Ts(g), реализуемые в пространствах четных функций на аффин- аффинной плоскости (то есть такие представления, для которых T() T()) sg sg)) Из § 3, п. 4 мы знаем, что представление Ts(g) основной или дополнительной серий можно реализовать в некотором подпространстве функций ф(?) на верхней полуплоскости Im 2 > 0, удовлетворяющих уравнению 1 — s2 C) (Напомним, что оператор Лапласа Д перестановочен с дробно- линейными преобразованиями полуплоскости.) Оператор представления Ts(g) определяется следующей формулой: D) Заметим, что числам 5 и —5 отвечают эквивалентные пред- представления; таким образом, представление Ts(g) однозначно 1 S2 определяется собственным значением j— оператора Ла- Лапласа Д. Введем теперь пространство Qs всех функций ф (z) в верхней полуплоскости, удовлетворяющих уравнению C) *). Оператор Ts(g), определенный формулой D), задает пред- представление группы G в этом пространстве Qs. Автоморфной формой, соответствующей представлению Ts(g) осно- основной или дополнительной серии, будем называть функ- функцию ф(.г)?2^, инвариантную относительно oneрато- ров Ts(y), у ? Г, т. е. такую, что Ts (у) ф (z) = ф (z~). По- *) Ввиду эллиптичности уравнения C) эти функции являются бесконечно дифференцируемыми. 2) § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 73 дробнее автоморфной формой, соответствующей пред- представлению Ts(g), называется функция q>(z) в верхней полуплоскости, удовлетворяющая следующим условиям: д2 \ 1 — s2 Дф == — у2 для любого ду2) 2. Формулировка теоремы двойственности. Пусть Г — дискретная подгруппа группы О вещественных унимодуляр- ных матриц второго порядка такая, что пространство X = = Г \ G компактно. Рассмотрим представление группы G, порожденное про- пространством X. Напомним, что оно строится в пространстве функций / (х), х?Х, для которых J | / (дг) |2 dx < оо, dx — инвариантная мера на X. Оператор представления Т (g) задается следующей формулой: Т (g) / (х) = / (xg). Представление Т (g) разлагается на представления осно- основной непрерывной, дополнительной и дискретной серий. Будем предполагать для простоты, что подгруппа Г со- / —1 0\ держит матрицу go= \ n I • Тогда в разложение пред- ставления Т (g) не войдут представления HJ основной непре- непрерывной серии, реализуемые в пространствах однородных нечетных функций на аффинной плоскости. В самом деле, при нашем предположении оператор Т (go) является единичным .оператором: Т (g0) f (x) = /(лг). Между тем, для представлений HJ мы имеем Г (^0) /=—/. По той же причине в разложение представления Т (g) не войдут и представления дискретной серии с четным номером п. Так как пространство X компактно, то (см. § 2) пред- представление Т (g) разлагается в сумму счетного числа непри- неприводимых представлений, причем каждое представление вхо- входит в разложение с конечной кратностью. Нас интересует, какие неприводимые представления и с какой кратностью
74 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 13 фактически входят в это разложение. Ответ на этот вопрос дается следующей теоремой. Теорема двойственности. Каждое из неприво- неприводимых представлений группы G входит в представле- представление Т (g) с конечной кратностью, равной размерности пространства соответствующих автоморфных форм. Иными словами, если Ts(g)—представление основной или дополнительной серии, то кратность, с которой Ts(g) входит в представление Т (g), равна числу линейно незави- независимых функций q>(z) на полуплоскости Im z > 0, удовле- удовлетворяющих условиям для любого "у€г- Если же Tn(g) — представление дискрет- дискретной серии (действующее, например, в пространстве функций, аналитических в верхней полуплоскости), то кратность, с которой Tn(g) входит в представление Т (g), равна числу функций ф(z), аналитических в верхней полуплоскости и удовлетворяющих условию для любого у ? Г. Доказательство теоремы двойственности дается в следую- следующих пунктах. 3. Оператор Лапласа. Важную роль в доказательстве теоремы двойственности играет оператор Лапласа Д. Пусть Т (g) — любое унитарное представление группы О. Рассмот- Рассмотрим следующие однопараметрические подгруппы группы G: ( cos/ sin/ \ /ch / sh gi (О = jd) Этим подгруппам соответствуют однопараметрические группы унитарных операторов в пространстве Н предста- представления Т (g): — sin/ cos/ el 0 О e~l k= 1,2,3. B) 3] § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 75 По известной теореме Стона, каждая однопараметрическая группа унитарных операторов имеет вид: Tk (О = ettu", где U\ — самосопряженный оператор в пространстве Н. Оператор Д мы определим по следующей формуле: C) D) и назовем его оператором Лапласа в пространстве Н. Заметим, что операторы Uk и Д определены не на всем пространстве Н. Однако они определены на некотором всю- всюду плотном линейном многообразии в Н. Именно, назовем вектор f?H бесконечно дифференцируемым, если T(g)f есть бесконечно дуфференцируемая вектор-функция от g. Множество бесконечно дифференцируемых векторов в И называется пространством Гординга. Можно пока- показать, что пространство Гординга всюду плотно в Н и что i(J1, iU2, i(J3 и Д являются симметричными операторами в пространстве Гординга (см., например, Нэлсон Э., Аналити- Аналитические векторы, Математика (сб. переводов), 6:3, 1962). Вычислим оператор Д на каждом неприводимом инвари- инвариантном подпространстве пространства Н. Покажем, что на каждом неприводимом простран- пространстве Н оператор Д кратен единичному оператору Е *). Именно, в пространстве представления Ts(g) основной или дополнительной серии Д — —^—Е\ в простран- пространстве представления дискретной серии индекса п 1 Е. Рассмотрим сперва представление T+S{g) основной или до- дополнительной серии. Из § 3, п. 3, 4 мы знаем, что это представление можно реализовать в некотором пространстве бесконечно дифференцируемых функций <p(z) на полуплоско- полуплоскости Im z > 0, удовлетворяющих уравнению )• E) дг 4 *) Точнее, Д = ХЕ на подпространстве Гординга.
76 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА При этом оператор представления Tt (g) имеет вид: Подставляя в F) вместо g матрицы gk (t) и дифференцируя эти выражения по t, мы получим следующие формулы для операторов ?/,, U2, U3: 3 — -\-2z~. дг дг Отсюда непосредственно находим, что z? dz oz Следовательно, в силу равенства E) имеем А = —2—Е. Аналогичное рассуждение справедливо и для представле- представления TJ(g) второй основной серии. Теперь рассмотрим представление дискретной серии Тп (g), содержащееся в T(g). Это представление реализуется либо в пространстве функций q>(z), аналитических в верхней полу- полуплоскости, либо в пространстве функций, аналитических в нижней полуплоскости; для определенности будем дальше рассматривать первый случай. Оператор представления Тп (g) имеет следующий вид: «12 * Подставляя в G) вместо g матрицы gk (t) и дифференцируя по t, мы получим следующие формулы для операторов Ut, U2, U3: iU2 = -^ - (п \) z, 4] § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 77 Отсюда непосредственно находим, что 1—П2 4. Доказательство теоремы двойственности для пред- представлений непрерывных серий. Пусть Ts(g) — представление основной или дополнительной серии. Нам нужно доказать, что кратность, с которой это представление входит в пред- представление Т (g), порожденное пространством Х—Г\^О, равна числу соответствующих ему линейно независимых автоморфных форм, т. е. числу функций q>(z) на полуплоскости Im^>-0, удовлетворяющих следующим условиям: д2 \ 1 — s2 1= j—ф, Ф для любого Y^T. Предварительно покажем, что кратность, с которой представление Ts(g) основной или дополнительной се- серии содержится в представлении Т (g), равна числу линейно независимых функций на X = Г \G, удовле- удовлетворяющих следующим условиям: T(gl(t))f = A) Здесь Л— оператор Лапласа, построенный в п. 3, а ' cos sin t' -s\nt cost, @ = §¦] (/) — ортогональная матрица. В самом деле, пусть Н—пространство, на котором дей- действует представление Т (g), Н^ —его неприводимое подпро- подпространство, на котором действует представление, эквивалент- эквивалентное Ts(g). Мы знаем, что в Н^ имеется один и, с точностью до постоянного множителя, только один вектор /, для кото- которого Т (gx(t)) f — f (см. § 3, п. 4); на этом векторе опре- J 2 делен оператор Л, причем Д/ = J /. С другой стороны, пусть вектор /? И удовлетворяет со- соотношениям A). Разлагая Н в прямую сумму неприводимых
78 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА подпространств относительно T(g), имеем / = ?/А, где fk ? Hs.*). Тогда векторы /й также удовлетворяют соотно- соотношению Т (gx(t)) fk = fk, оператор Д на них определен и --Так Отсюда непосредственно следует наше утверждение. Найдем число функций /, удовлетворяющих условиям A). Для этого введем удобную параметризацию группы О и продолжим функции с пространства X на группу О. f \ Пусть g= \ rT I • Примем в качестве параметров, / I 21 ?22/ определяющих матрицу g, комплексное число z = и вещественное число 6 = arg (gi2 Заметим, что Im г = = 1 g» + *8п Г* а потому Im z > 0. Легко убедиться, что параметры z и 0 преобразуются по следующим формулам: 1) если g = (z, 8), а = то ), где cos ф sin ф\ 2) если м= , то ^« = (г, 0 + ш). \ — sin ф соэф/ Функции на X = Г \ G можно рассматривать как функ- функции f(g) на всей группе G, удовлетворяющие условию /(У~1ё) — fig) ДлЯ всех 'УбГ- Иными словами, их можно рассматривать как функции / (z, 6), удовлетворяющие функциональному уравнению ==/(*. 6) 42 22 *) Компоненты вектора / в неприводимых подпространствах, где действуют представления дискретной серии, равны нулю, так как в этих подпространствах нет векторов, инвариантных относи- относительно Т (gt (t)). 4] § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 79 для всех v=l U 12 ) из подгруппы Г. Таким образом, \Y21 Y22/ условия A) могут быть записаны в следующем виде: 1-ф) = /(*. Q); B) =^ f; ¦ C) ¦ , 6 — arg (y12z -f- V22)) = f(z> ^22 D) Из условия B) вытекает, что функция / не зависит от 6, то есть она является функцией только от комплексного переменного z, принадлежащего верхней полуплоскости. Далее, простым подсчетом мы получаем, что оператор Д имеет в координатах х, у, 6 (z = x -f- iy) следующий вид: i д2 *) *) Приведем вычисление оператора Л. Оператор представле- представления Т (а) задается формулой Т (a) f (g) — f (ga), а~\ " 12 ), или в параметрах z и 9 Т (а) /(г, в)=/(г,. 9,), E) где Подставляя в E) вместо а матрицы gk (t), k — 1, 2, 3 (см. стр. 74) и дифференцируя по ?, получим следующие формулы для операто- операторов Uи U2, иг: iUi = — , iU2 = 2у (cos 29 -4- 4- sin 29 -?-) — cos 29 ~, il/3 = 2y (- sin 29 — + cos 29 -jL} + sin 29 -^-. Отсюда находим, что
80 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Следовательно, поскольку функции / не зависят от 6, то условие C) принимает вид дх2 ду ) Т — f Итак, установлено, что число линейно независимых решений уравнений A) равно числу линейно независимых решений уравнений f 7 то есть числу автоморфных форм соответствующего непри- неприводимого представления. Тем самым, теорема двойственности доказана для представлений основной и дополнительной серий. 5. Доказательство теоремы двойственности для пред- представлений дискретной серии. Пусть Tn(g) — представле- представление дискретной серии, содержащееся в Т (g). Для опреде- определенности будем предполагать, что оно реализуется в про- пространстве функций ф (z), аналитических в верхней полу- полуплоскости. Оператор представления Тп (g) имеет следующий вид: Н-^ггГ"- A) Нам нужно доказать, что кратность, с которой это пред- представление входит в Т (g), равна числу соответствующих ему линейно независимых автоморфных форм, т. е. числу функ- функций qp(z), аналитических в полуплоскости Im z >> 0 и удо- удовлетворяющих условию ф -«-1 для любого 7?Г. Предварительно покажем, что кратность, с которой представление Tn(g) дискретной серии содержится в представлении Т (g), равна числу линейно независи- § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 81 мых функций на X — Г \ G, удовлетворяющих следую- следующим условиям: B) Здесь Д — оператор Лапласа, построенный в п. 3, а cos t sin Для доказательства заметим, что с, одной стороны, в каж- каждом неприводимом подпространстве Нп, где действует пред- представление Тп (g), имеется один и, с точностью до постоян- постоянного множителя, только один вектор / такой, что В самом деле, в модели A) представления Tn(g) условие C) записывается следующим образом: Я» Нетрудно функция убедиться, что уравнению D) удовлетворяет и что это — единственное решение уравнения D) в простран- пространстве функций, аналитических в верхней полуплоскости. Назовем такой вектор / вектором старшего веса в Нп. На этом векторе оператор А определен, причем С другой стороны, покажем, что любой вектор f?H, удовлетворяющий соотношениям B), является линейной ком- комбинацией векторов старшего веса из неприводимых подпро- подпространств пространства Н, эквивалентных Нп. В самом деле, разлагая Н гз прямую сумму неприводимых подпространств относительно T(g), имеем /=V/ft, где flf?H . Тогда векторы fk также удовлетворяют соотношению T(gx(t))fk = 1—4 __ e-i (я+i) t fkt оператор Д па них определен и Д/й=—т—/д- 6 И. М. Гельфанд и др.
82 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [5 следовательно, Так как (/, Л/А) = (Л/, /„), то —— = Х—^-\ fk являются векторами старшего веса в подпространствах, эквивалентных //„*). Отсюда непосредственно следует наше утверждение. Найдем число линейно независимых функций /, удовле- удовлетворяющих условиям B). Повторяя рассуждения, приведен- приведенные на стр. 78, мы вместо соотношений B), C) и D) на стр. 79 получаем следующие соотношения для f(z,6): f(z, == — у ду2 дхдВ — п2 E) a-j- F) ?, 6). G) Найдем все такие функции. Прежде всего, из уравнения E) следует, что Представим решение уравнений F) и G) в виде л 1-1 Подставляя это выражение в F) и G), мы получим следую- следующие соотношения для функции F (z): Г- у (— ду2 дх ^г + ^)]^(^) = 0, (9) F 12 2 ' -t-Y22)" + 1 A0) для любого Y = fYn Yl2| из подгруппы Г. \ Y21 Y22/ Соотношение A0) означает, что функция F (z) удовлет- удовлетворяет функциональному уравнению автоморфной формы. *) Это утверждение требует уточнения, поскольку имеется два представления дискретной серии с одним и тем же номером: п — представление в пространстве функций, аналитических в верх- верхней полуплоскости, и представление в пространстве функций, анали- аналитических в нижней полуплоскости. Однако легко убедиться, что вектор, удовлетворяющий условию C), имеется только в первом из этих пространств. 5] § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 83 Докажем, что F (г) является аналитической функцией. Итак, пусть / ? Н удовлетворяет условиям E) — G). Как было установлено раньше, такая функция / представима в виде / = 2,fk> r#e fk —векторы старшего веса в непри- неприводимых подпространствах пространства Н, эквивалентных Нп. (Число слагаемых этой суммы конечно, поскольку каж- каждое неприводимое подпространство входит в Н с конечной кратностью.) Введем оператор где U2, ^з — самосопряженные операторы, определенные на стр. 77. Оператор А+ определен на каждом из векторов старшего веса fk, а значит, и на /=\ fk. Покажем, что Л+Д —0 для каждого fk, а потому В самом деле, реализуем неприводимое подпространство Нп пространства Н как пространство функций, аналитиче- аналитических в верхней полуплоскости. В этой реализации вектор старшего веса fk имеет вид: fk = c(z-\-i)~n~1. A1) Оператор же Л4 задается в пространстве Нп следующей формулой: , = —(г + Q2-?— A2) (Эта формула следует из выражений для операторов U2, LJS в пространстве Нп, приведенных на стр. 76.) Из A1) и A2) непосредственно получаем, что Л+/й = 0. Напишем явное выражение для оператора А+ в простран- пространстве функций f(z,Q). На основании формул для U2 и ?/3, приведенных на стр. 79, получаем --14-)- х ду I d Подставляя в уравнение A.k / = 0 вместо функции / ее вы- выражение (8), получаем
84 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [5 Тем самым, аналитичность функции F (z) доказана. Оче- Очевидно, что обратно, если F (z) — аналитическая функция, то она удовлетворяет уравнению (9). Но тогда функция /, определенная формулой (8), удовлетворяет уравнению F). Итак, доказано, что условия E) — G) на функцию / равносильны следующим условиям на функцию F(z), свя- связанную с / формулой (8): 1) Функция F (z) удовлетворяет функциональному соот- соотношению 2) функция F (z) аналитична в верхней полуплоскости. Иными словами, функция F (z) является автоморфной формой, соответствующей представлению Тп (g) дискретной серии. Тем самым, доказано, что кратность, с которой Tn(g) входит в представление Т (g), равна числу линейно незави- независимых форм, соответствующих этому представлению Tn(g). Теорема двойственности доказана. Примечание 1. Теорема двойственности была здесь доказана в предположении, что подгруппа Г содержит ма- /—1 0\ трииу g0— I I. При этом предположении в разло- \ и I / жение представления группы G, порожденного пространством X = Г \ О, не входят представления HJ основной непре- непрерывной серии (т. е. те представления, которые реализуются в пространстве нечетных функций на аффинной пло- плоскости) и представления дискретной серии с четными номе- номерами п. Можно показать, что теорема двойственности остается справедливой и в том случае, когда Г не содержит матрицы (~1 °\ ч go = „ , I . оаметим, что в этом случае в разложение V о —1 у представления группы G, порожденного пространством X = Г \ G, входят также представления HJ и представле- представления дискретной серии с четными номерами п. Приведем определение автоморфной формы, соответствую- соответствующей представлению HJ¦ Рассмотрим пространство непрерывных функций q>(z) на полуплоскости lmz> 0. Зададим в этом пространстве 5) § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 85 представление Т (g) группы G по следующей формуле: Т (g) ф (Z) = ф ( g"Z ~T_ g21 ) (gi2z "T~ g22)~X- A5) Дифференциальный оператор второго порядка Д в простран- пространстве функций (f>(z), перестановочный со всеми операто- операторами Т (g), имеет следующий вид: (i-H'-^rl- Aб> Можно показать, что представление Hs реализуется в неко- некотором подпространстве функций ф (z), удовлетворяющих уравнению При этом оператор представления задается формулой A5). Автоморфной формой, соответствующей представле- представлению HJ, будем называть любую функцию <f>(z), удовле- удовлетворяющую у равнению A7) и соотношению x = ФGO для любого у ? Г. Доказательство теоремы двойственности для представле- представлений HJ проводится почти дословно так же, как и для пред- представлений Hs- Это доказательство рекомендуется провести читателю в виде упражнения. Примечание 2. Приведем без доказательства форму- формулировку теоремы двойственности для любого представления Т (g), индуцированного конечномерным представлением под- подгруппы Г. Пусть Г—дискретная подгруппа группы О такая, что пространство X = Г \ G компактно, %(у) — ко- конечномерное неприводимое унитарное представление подгруппы Г, Т (g) — индуцированное им представление группы G. Тогда кратность, с которой данное неприводимое представление Tk(g) группы G входит в представле- представление Т (g), равна кратности, с которой пространство неприводимого представления х(у) подгруппы Г со- содержится в пространстве 2Й представления Тд.
86 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Определение пространств ЙА для различных неприводи- неприводимых представлений группы О было дано раньше. 6. Общая теорема двойственности. В этом пункте бу- будет дано доказательство теоремы двойственности для любой полупростой группы Ли О. Каждое гильбертово простран- пространство Н, в котором действует неприводимое унитарное пред- представление группы G, будет вложено в некоторое линейное топологическое пространство 2. При этом теорема двой- двойственности будет установлена в следующей форме: Если фактор-пространство X — Y\G компактно, то кратность, с которой неприводимое представление Н входит в представление, по рожденное простран- пространством X, равна числу линейно независимых векторов в 2, инвариантных относительно группы Г. Для построения пространства 12 нам понадобится следую- следующее свойство (А) представлений полупростых групп Ли, которое приводится ниже без доказательства. Пусть G — полупростая группа Ли, U— ее максимальная компактная подгруппа, Н — гильбертово пространство, в ко- котором действует неприводимое унитарное представление Т (g) группы G. Рассмотрим в пространстве Н представление подгруппы U. Поскольку U компактна, то Н можно разложить в прямую сумму подпространств Нт, в каждом из которых действует представление группы U, кратное неприводимому. (Предпо- (Предполагается, что неприводимые представления группы U в про- пространствах Нт не эквивалентны.) (А) Каждое из прост ранете Нт является конечно- мерным. Иными словами, каждое неприводимое пред- представление подгруппы U входит в Н с конечной крат- кратностью *). Элементы | из подпространств Нт и их конечные линей- линейные комбинации условимся называть У-полиномами. Очевидно, что | ? Н является ?/-полииомом тогда и только тогда, когда пространство, натянутое на векторы Т («)|, и ? U, конечномерно. *) На самом деле, именно это свойство, а не полупростота группы G, используется при доказательстве теоремы двойствен- двойственности. § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 87 Переходим к построению пространства 2. Зафиксируем в Н некоторый ^/-полином |0. Сопоставим каждому вектору ц ? Н непрерывную функцию на группе G: Фт, (g) = (T (g) Ч, 1о). A) где скобки (• , •) обозначают скалярное произведение в Н. Легко видеть, что соответствие линейно и срл (g) = 0 тождественно на группе G только тогда, когда г\ = 0. Таким образом, это соответствие является изоморфизмом. В семействе функций ерт, (g) имеется естественная топо- топология: последовательность функций называется сходящейся, если она равномерно сходится на любом компактном под- подмножестве в О. Перенесем эту топологию на Н и попол- пополним Н го этой топологии. Полученное пространство обо- обозначим через 2. В конструкции пространства 2 имеется произвол — выбор fZ-полинома |0. Мы покажем, что на самом деле простран- пространство 2 не зависит от выбора ?/-полинома |0. Для этого достаточно доказать следующее утверждение: Если для некоторого Ь^^И последовательность функций = (Т (S) Ля. Ы C) равномерно сходится на каждом компактном мно- множестве в группе О, то это же самое имеет место для любого и-поли.нома |. Доказательство. Если последовательность ф^, !„(?¦) сходится на каждом компактном множестве в группе G, то это же имеет место для любого вектора | вида (g/г) D) Такие векторы | образуют всюду плотное подмноже- подмножество Но в пространстве Н. Пусть |т Ф 0— произвольный ^/-полином, принадлежащий подпространству Ит. Из того, что Но образует всюду плот- плотное линейное подмножество в И, г Йт — конечномерное подпространство в Н, следует, что проекция Но на Нт
88 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [6 совпадает со всем пространством Нт. Иными словами, суще- существует вектор | вида D) такой, что Р,п\ = 1т. E) где Рт — оператор проектирования на Нт. Оператор проектирования Рт задается следующей фор- формулой: . . Рт\ = jam(u)T(u)ldu, F) и где от(и) — характер неприводимого представления группы U, отвечающего пространству Ит. Таким образом, на основании E) и F) мы получаем ' ^ du' = (Г {g) Цп и т. е. и G) Из того, что последовательность функций ср (g) равно- '/2' ^ мерно сходится на каждом компактном множестве в О, вы- вытекает, в силу формулы G), что этим же свойством обла- обладает и последовательность функций qp . (g). Утверждение доказано. Итак, каждое гильбертово пространство Н, в котором действует неприводимое унитарное представление группы G, мы вложили в полное линейное топологическое пространство Q. Введем понятие матричного элемента в пространстве 2. Пусть сначала л, \^,И. Тогда мы полагаем Л = (Т (S) (8) где (-, •) обозначает скалярное произведение в Н. Пусть теперь r\, |—векторы из Q, из которых один, например |, принадлежит пространству Н. Предположим, что существует последовательность {г\п} векторов из Н, сходя- сходящаяся к г\ в топологии пространства 2 и такая, что после- последовательность функций 6] § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 89 равномерно сходится на каждом компактном множестве в G. Тогда мы полагаем Аналогично определяется /^ Ag) при -п ? Н. Функцию / Ag) будем называть матричным элементом в 2. Установим основные свойства этой функции. Из опреде- определения непосредственно следует, что / g (g) — непрерывная функция от g. Далее, без труда устанавливаются следующие свойства матричных элементов / *(g)- 1) Для каждого л. найдется хотя бы одно |, для кото- которого функция / (g) определена. (Именно, функция / ^ (g) определена, если один из векторов |, г\ является ?/-полино- мом, — это следует из определения пространства 2.) 2) Если / ,. (g) определена, то и Д (g) также определена, и Л. 3) Если / ^(g) и / ^(g) определены, то /а +а также определена, причем 4) Если / (g) существует, то /, Ае) > 0, где е обо- обозначает единицу группы О. 5) Если / t (g) существует, то существует /_ . . п _ ._ .. (g) для любых g-j, g2^O, причем It (g^ л. r (s-2) 1 ^ -^n, 11^*2 ^S"i)- 6) Пусть последовательность г\п сходится к т| в тополо- топологии пространства 2. Если / *(.g) определены и равномерно сходятся на любом компактном множестве в G, то / %(g) также определено и / * (g) = lim / t (g). Л" ё я-^jo ^я- ё Наконец, имеет место следующее свойство полноты про- пространства 2. Если для некоторого | ? // последовательность функ- функций / (g) определена и равномерно сходится на любом
90 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [6 § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 91 компактном множестве в G, то последовательность цп сходится в пространстве 2. Действительно, в силу утверждения, доказанного на стр. 87, если последовательность / , (g) равномерно сходится на любом компакте в G, то это же имеет место для последо- последовательности Д s (g), где |0 — произвольный fZ-полином. Но тогда, по определению топологии в пространстве 2, по- последовательность г\п является сходящейся. Перейдем к формулировке и доказательству теоремы двойственности. Пусть О — полупростая группа Ли, Г — ее дискретная под- подгруппа такая, что фактор-пространство X = Г \ G компактно, Н — пространство неприводимого унитарного представления группы G, 2 — построенное выше линейное топологическое пространство, содержащее Н. Теорема двойственности. Кратность, с кото- которой Н входит в представление группы, G, порожденное пространством X, равна числу линейно независимых векторов в 2, инвариантных относительно Г. Доказательство. Будем предполагать, что предста- представление, порожденное пространством X, реализовано в про- пространстве (Ш функций па группе О, удовлетворяющих сле- следующим условиям: f(Vg) = f(.g) Для любого 7бГ: где F — фундаментальная область в G относительно под- подгруппы Г. Оператор представления Т (g) задается формулой Пусть пространство Н, в котором действует неприводимое унитарное представление группы G, входит в <?%?. Это значит, что имеется соответствие: каждому | ? Н соответствует функ- функция qpt (?¦) ? e?z?', причем 2) 3) fii + 2t2 S, % (g) = ф? (gg0) для любых g0, (Ij, |2)= f Фс (^)ф6 (g)dg. Заметим, что семейство функций (f>+(g) содержит всюду плотное подмножество непрерывных функций. Действительно, это семейство вместе с функцией ф* (g) содержит функ- функцию фл» (g), где А= I T(g)dg, U—любая окрестность и единицы в G. Очевидно, что функции фл (g) образуют всю- всюду плотное подмножество. С другой стороны, из формулы = f легко следует, что эти функции непрерывны. Сопоставим теперь пространству И вектор г\ ? 2, инва- инвариантный относительно операторов Т(у), у?Т. Для этого зададим базис окрестностей единичного элемента группы G: Рассмотрим усреднения функции cp^(gr) по каждой из этих окрестностей: U Ф6 J Легко проверить, что ф,. п (е) являются непрерывными линей- линейными функционалами на Н. Следовательно, для каждого п существует такой вектор т]п ? Н, что Б,Я (О = (&.<). Отсюда следует, что т,я). т. е. Если функция ф^ (g) непрерывна, то последовательность функций \К п (g) = ft (g) равномерно сходится к ф„ (g) на каждом компактном множестве в группе О. Следовательно, в силу свойства полноты, последовательность соответствую-
92 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА щих векторов г)„ ? Н сходится в топологии пространства 2 к некоторому вектору г) и 4 y](g)=((>l(g)- Этот вектор т] инвариантен относительно операторов Т (у), Y^F. В самом деле, мы имеем Л , = Д . = Ф6 = ф6 (?) = Следовательно, Т (у) ц = г) для всех y 6 Г. Итак, неприводимому подпространству /f, содержащемуся в ¦?%?, мы сопоставили вектор T]?Q, инвариантный относи- относительно Т (y). Y6T. Покажем теперь обратное, а именно, что всякому вектору ц ? Q, инвариантному относительно Т (у), у ? Г, соответствует некоторая реализация пространства // в е%?. Действительно, пусть г|0 — инвариантный вектор в 2. Если |—tZ-полином, то /, (g) определено. Положим Легко видеть, что для любого самом деле, имеем = = 4 Введем в совокупности функций ф изведение по формуле скалярное про- проПополнив совокупность функций qv (g) по этому скаляр- скалярному произведению, мы получим реализацию Н в виде под- подпространства ??в. Итак, вектору t]^2, инвариантному относительно 7"(y)> Y ^ Г, сопоставлена реализация пространства Н в ?№. Легко убедиться, что линейно независимым векторам ц при этом отвечают линейно независимые пространства. Таким образом, показано, что кратность, с которой Н входит в <=%?, равна числу линейно независимых векторов в 9, инвариантных от- относительно Г. Теорема двойственности доказана. § 4. ТЕОРЕМА ДВОЙСТВЕННОСТИ 93 При рассмотрении группы унимодулярных матриц второго по- порядка пространство О. определялось иначе, а именно как простран- пространство всех собственных функций оператора Лапласа на плоскости Лобачевского, отвечающих заданному собственному значению. Такое определение пространства Q может быть дано и в случае произ- произвольной полупростой группы Ли G. Дадим сначала определение пространства Q для случая, когда в Н содержится вектор т|0, инвариантный относительно операто- операторов Т (и), где и пробегает максимальную компактную подгруппу U. Сопоставим каждому ? ? Н функцию на G, Легко видеть, что функции ф» (g) удовлетворяют условию ф? («?¦) = Ф| (g) для любого u^U, т. е. они постоянны на классах смежности группы G по подгруппе U. Таким образом, их можно рассматри- рассматривать как функции ф| (х) на симметрическом пространстве S — U \G. Рассмотрим операторы Лапласа на симметрическом простран- пространстве 5, т. е. дифференциальные операторы А на 5, перестановочные с групповыми сдвигами: (АФ|) (xg) = А (ф? (xg)). Из неприводимости пространства функций ф| (х) следует, что все эти функции являются собственными функциями операторов Лапласа с одинаковыми для всего набора функций собственными значениями, зависящими только от Н. Можно показать, что наше пространство Q состоит из всех собственных функций операторов Лапласа на 5 с фиксированным набором собственных значений. Аналогичное утверждение имеет место и в общем случае. Именно, каждое пространство й может быть реализовано как ли- линейное семейство непрерывных вектор-функций / (х) на S со сле- следующими свойствами. 1) Q замкнуто по равномерной сходимости на любом компакт- компактном множестве в 5. 2) В 2 действует представление группы G, определяемое сле- следующей формулой: 7 (g) f(x)=a {x, g) f (xg), где a (x, g) — некоторая непрерывная матричная функция от х и g. 3) Исходное пространство Н содержится в Й как всюду плотное подмножество. Именно, каждому \^_Н соответствует функция /g (¦*) ? Q> причем и если (?„, |„) -> 0, то функции /^ (х) стремятся к нулю равно- равномерно на каждом компактном множестве в S.
94 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [1 4) Пространство Q состоит из всех собственных функций неко- некоторых дифференциальных операторов на G (с матричными коэффи- коэффициентами). § 5. Формула следа для группы О вещественных унимодулярных матриц 2-го порядка 1. Постановка задачи. В § 2, п. 4 была получена фор- формула следа для локально компактной группы О и ее дискретной подгруппы Г такой, что Г \ G—-компактное пространство. Именно, пусть % (у)— конечномерное представление под- подгруппы Г, Т (g) — индуцированное им унитарное предста- представление группы О. Обозначая через ok (g) характеры непри- неприводимых представлений, входящих в разложение представле- представления Т (g), мы получили там следующее соотношение: °*(g) dg= Oy\O A) Здесь Ту, Gy—централизаторы элемента у соответственно в Г и G; ТгхСу) — след матрицы %(у); у пробегает по одно- одному представителю из каждого класса сопряженных элементов в группе Г, Функция ср (g) — положительно определенная непрерывная функция, удовлетворяющая следующей оценке: I ф (g0) К / Ф1 (gog) dS- и B) где U — некоторая компактная окрестность единичного эле- элемента, фх (g) — неотрицательная суммируемая на О функция. Формула A) содержит много информации о том, как представление Т (g) разлагается на неприводимые предста- представления. Например, в случае компактной группы G из нее сразу получается выражение для кратности, с которой данное неприводимое представление содержится в Т (g). Именно, подставляя вместо ср (g) характер a (g) неприводимого пред- представления, получаем, что кратность N, с которой это пред- представление входит в Т (g)> равна v € г («г — порядок группы Г), см. § 2, п. 4. § 5. ФОРМУЛА СЛЕДА 95 Заметим, что если нам известны кратности Л/, то тем самым известно, какие неприводимые представления входят в Т(g) и какие не входят. В этом параграфе будет рассмотрена формула следа для некомпактной группы — группы G вещественных унимодуляр- унимодулярных матриц 2-го порядка. В случае компактной группы для определения кратно- стей N мы подставляли в формулу следа вместо ф (g) харак- характеры о (g) неприводимых представлений. Здесь мы тоже перейдем от функции ср (g) к функции Н (О) = где о пробегает характеры неприводимых представ- представлений. Левая часть формулы A) преобразуется к h (о) очевидным образом. Основная задача состоит в том, чтобы преобразо- преобразовать к h (о) правую часть равенства. Эта задача будет решена в пп. 3—6. Окончательное соотношение для функции h (а) будет полу- получено в п. 6. Из этого соотношения в пп. 7 и 10 будут получены важ- важные следствия, а именно: 1) Формулы для кратностей, с которыми входят в Т (g) представления дискретной серии. 2) Асимптотическая формула для числа представлений Ts(g) непрерывной серии с «номерами» | s|<С а, входящих в Т (g) (при а —.> оо). Отметим, что, несмотря на некоторые длинноты проводи- проводимых ниже вычислений, все они элементарны, не требуют никаких новых идей и соображений, а следуют обычным стандартам, выработанным в этих разделах теории предста- представлений. 2. Функция h. Приведем без вывода формулы для характе- характеров неприводимых представлений группы О. (Вывод этих формул будет дан в гл. II, § 4.) 1) Характер представления T + ,s = ip первой основной се- серии сосредоточен на множестве гиперболических элементов (т. е. на множестве матриц с вещественными собственными
96 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА B значениями "кф ± 1) и задается на этом множестве, сле- следующей формулой: A) где Я,_—собственное значение матрицы g. 2) Характер представления Tj , s = гр второй основной се- серии также сосредоточен на множестве гиперболических эле- элементов и задается на этом множестве следующей формулой: \**-K B) 3) Характер представления Ts, s=p дополнительной се- серии сосредоточен на множестве гиперболических элементов и задается на этом множестве следующей формулой: °"ф (g) = V 0<p< 1. C) (Эта формула получается, таким образом, из формулы для характера первой основной серии аналитическим продолже- продолжением по р.) 4) Характер представления первой половины дискретной серии задается следующими формулами. На множестве i ипер- болических элементов D) -i где Xg—наибольшее по модулю собственное значение мат- матрицы g. На множестве эллиптических элементов E) где ф—угол поворота, отвечающий матрице g. (Иными сло- cos ф sin фч вами, матрица g сопряжена с матрицей 5) Характер представления второй половины дискрет- дискретной серии задается следующими формулами. На множестве 21 § 5. ФОРМУЛА СЛЕДА гиперболических элементов o-(g) = o^(g) = T^ На множестве эллиптических элементов 97 F) G) где ф определяется так же, как и в E). Сопоставим теперь функции ф(?") на G, удовлетворяющей оценке B) п. 1, следующий набор функций: Ъ~ 0>) = / ф (g) Op (g) dg, h+ (Ф) = f Ф (g) at (g) dg. fin = / Ф (g) ot (g) dg, (8) Задача состоит в том, чтобы перейти в формуле следа A) п. 1 от функции ф(g) к функциям й. Очевидно, что левую часть формулы A) можно записать в следующем виде: 2 ft+ (р*)+ 2 h~ (Рг)-г- S й+ (w+ 21Ц + 2 л-, где суммы берутся по тем номерам рй, ns, nt представлений основной, дополнительной и дискретной серий, которые вхо- входят в представление Т (g). Таким образом, наша основная задача — выразить через функции h правую часть формулы следа A) п. 1: I = X (У) М- (Гу \ Оу) f Ф С^-1 (9) *) Иначе говоря, ft+ (р) = Тг [J* Ф (^) Г+р (^) dg] . 7 И. М. Гельфанд и др.
98 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [3 Будем дальше предполагать, что подгруппа Г содержит /— 1 ¦ о\ матрицу — е = I I . (Случай, когда — е не содер- содержится в Г, будет рассмотрен отдельно в п. 11.) Заметим, что ввиду компактности пространства Г \ G, группа Г не содержит параболических элементов; таким обра- образом, элементы уф rfce группы Г являются гиперболическими или эллиптическими. Мы найдем вклад в формулу следа отдельно от гипер- гиперболических элементов, от эллиптических элементов и от эле- элементов е, —е. 3. Вклад в формулу следа от гиперболических эле- элементов. Пусть /F) — интеграл функции qs(g) по классу элементов, сопряженных с диагональной матрицей 6 = Я, 0 /(б)= j f (g~\ dg) dg, d\o A) (Интегрирование ведется по пространству классов смежности группы G по подгруппе D диагональных матриц.) Имеет место следующая формула, выражающая функцию I (б) через функцию h (p): . 4л U — i -i f 0 + .(P) -h A" (P) sign А.) | X \ipdp. B) Чтобы не прерывать изложения, мы дадим вывод фор- формулы B) в конце этого пункта. Сейчас, на основании фор- формулы B), мы найдем вклад в формулу следа от гиперболи- гиперболических элементов. Гиперболический элемент Y € Г будем называть прими- примитивным, если выполняются следующие два условия. 1) Элемент у не является степенью никакого другого эле- элемента из подгруппы Г. 2) Собственные значения элемента у положительны. Соответственно, класс сопряженных элементов [у] будем также называть примитивным. 3] § 5. ФОРМУЛА СЛЕДА 99 Очевидно, что любой гиперболический элемент y пред- представим в виде Y= — Y*> где Y! ^ примитивный элемент^ Пусть Y — примитивный гиперболический элемент. Тогда легко видеть, что классы {y*} и {—y'}- k, 1= I, 2, . . . будут все попарно различными. Далее, если Yi — другой примитив- примитивный элемент с положительными собственными значениями такой, что {Yi}^={y}. то классы [у*'), {—у[1} и {y*}, {—y'1 будут все различны между собой. Рассмотрим в правой части формулы следа совокупность членов, отвечающих классам {Y*} и {—y*}- гДе Y — прими- примитивный гиперболический элемент. Поскольку С?уй = G_vi==GY> Tyk = T_yi = Ty, то соот- соответствующая сумма имеет следующий вид: IX (Ту \ OY) х (Y*) Ф (Fv \ Оу) Т] Тг х ( r~IYV) C) He нарушая общности, можно считать, что элемент y является диагональной матрицей О где Ху > 1. Тогда GY совпадает с группой D всех диаго- диагональных матриц, а Гу есть подгруппа, порожденная матри- матрицами Y и —Y- Вычислим (х (Г\, \ GY). Инвариантная мера на подгруппе /Я. О \ Gy=D диагональных матриц 6=1 _1 I задается следую- щей формулой: (при этом считается, что мера dg на Gy\G нормирована так, что если g — bg, то dg = dbdg). Поскольку фунда- фундаментальная область в GY относительно подгруппы Гу состоит 7*
100 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА /Я 0 \ из матриц 6=1 _[ ! . 1 < X < Ху, то мы имеем V и л / (Ту \ау)= \ 4^ = In Подставим в C) вместо интегралов их выражения через h (p) согласно формуле B). В результате, после перегруппи- перегруппировки членов, мы получаем следующее выражение: :гг^ -ЦИ J й+ где XY — наибольшее из собственных значений элемента у; е=1. если х(—е) = Е, г =—1, если х(—е) =— Е, гДе ?—единичный оператор. Чтобы найти вклад в формулу следа от всех гиперболи- гиперболических элементов, остается просуммировать полученное выра- выражение по множеству всех примитивных классов гиперболи- гиперболических элементов. Итак, окончательно, мы имеем: Вклад в формулу следа от гиперболических элемен- элементов у равен ~ s-\ Т + J H J A где сумма берется по множеству всех примитивных классов \у\ сопряженных гиперболических элементов', Ху - наибольшее из собственных значений элемента у; е—1, если х(-е^ = ?", и е==—1, если х(—«) = —Е, где Е — единичный оператор. 3) § 5. ФОРМУЛА СЛЕДА 101 Приведем вывод формулы B). Этот вывод основывается на следующем интегральном соотношении для функции / (б), которое мы даем здесь без доказательства: J I E) а (б) Г / (б) © (б) E) °г где интеграл справа берется по множеству Оги„ гиперболических элементов группы G, Xg, X~l — собственные значения матрицы g; «(g) — произвольная функция на G, постоянная на каждом классе сопряженных элементов. Из этого интегрального соотношения следует, что для любого вещественного р справедливо следующее равенство: -t-oo Г /(б) | А, — °-гdX- 1 HIJ Аналогично, ¦+- со j* /(б)[А—А"М Ul'P-'slgn — oo Отсюда получаем, что (p). Следовательно, по формуле обратного преобразования Меллина имеем + оо / E) = j 3 _ 4л А,— Х~Ц . при X > 0. Аналогично. 4я Л ' 1-Н f — А. Ч J при А < 0.
102 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА J4 4. Вклад от эллиптических элементов. Пусть / (к) -- интеграл функции ф (g) по классу элементов, сопряженных / cost sin A с ортогональной матрицей и — . j , 0 < |^| < л: -sin? со: /(«)= J q(g-lug)dg. A) (Интегрирование ведется по пространству классов смежности группы G по подгруппе U ортогональных матриц.) Имеет место следующая формула, выражающая функцию I (и) через h (p) и hn: /(«) = — \—2 - -mt e 4=1 16ji'sin -t-oo / in|*| J ( h ch B |f | — (P) ( 2 \t | — я) р sh ¦A"(P)- sh- dp. B) Как и в предыдущем пункте, чтобы не прерывать изло- изложения, мы дадим вывод формулы B) в конце этого пункта. Сейчас, на основании формулы B), найдем вклад в формулу следа от эллиптических элементов. Прежде всего, отметим, что все эллиптические элементы у ? Г имеют конечный порядок. В самом деле, если бы эллиптический элемент у был бесконечного порядка, то иа последовательности у, у , . . ., у", . . . можно было бы выде- выделить сходящуюся подпоследовательность попарно различных элементов, а это противоречит дискретности подгруппы Г. Назовем эллиптический элемент у ?Г примитивным, если выполняются следующие условия: 1) элемент у не является степенью другого элемента из Г„ имеющего более высокий порядок; 2) среди элементов у, у2, .. . элемент у задает поворот на наименьший положительный угол. § 5. ФОРМУЛА СЛЕДА 103 Соответственно, класс сопряженных элементов [у] будем называть примитивным классом. Очевидно, что любой эллиптический элемент является степенью примитивного эллиптического элемента. Заметим,,что порядок примитивного элемента есть всегда четное число. В самом деле, пусть эллиптический эле- элемент у имеет нечетный порядок k, yk=ze. Очевидно, что тогда элемент —у имеет порядок 2k, и (—y)k + l =^у. Пусть у—примитивный эллиптический элемент порядка 2k. Из определения следует, что элемент у сопряжен в G с матрицей я COS-г- К я Sin -т-у К ¦_ я я sin— cos — k k. He нарушая общности, можно предполагать, что Я Я \ COS -r- Sin -г-' « « Я Я -Sin-г- COS -r k. k / Рассмотрим классы сопряженных элементов: {ys},"{—y'} =^ = {y* f'}, s, t = 1 Л — 1. Очевидно, что все эти классы различны между собой. Назовем эти классы с в я з а н,н ы м и с данным примитивным элементом у. Лег.ко убе- убедиться, что классы, связанные с двумя не сопряженными (в Г) примитивными эллиптическими элементами у, уг, будут все различны между собой. Рассмотрим в формуле следа совокупность членов, свя- связанных с заданным примитивным эллиптическим элементом у, т. е. совокупность членов, отвечающих классам {ys} и {—-/}. s, t—\ k— 1. Соответствующая сумма имеет вид А-1 5=1 ¦*-l -h \ Gy) 2 Tr ys) Ф (— g
104 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Заметим, что в рассматриваемом случае Gy есть группа / cos t sin t \ всех ортогональных матриц I I; FY — ее цикли- циклическая подгруппа порядка 2k, порожденная элементом у. Следовательно, если мера на GY нормирована условием (GY) = 2л, то мы имеем Подставим в C) вместо интегралов их выражения через h (p) и пп согласно формуле B). В результате, после пере- перегруппировки членов, мы получаем, что вклад в формулу следа от классов, связанных с данным примитивным эллип- эллиптическим элементом у порядка 2k, равен А-1 1 V TrX(ys) Ш sin its - (- 1Г s=1 — e) — ЛГ * -h-e" *J — A-е) A (p) л Bs — k)p Stl 2k ~ , яр sh—^- dp. Чтобы найти вклад в формулу следа от всех эллипти- эллиптических элементов, нам остается просуммировать полученное выражение по множеству всех примитивных классов эллипти- эллиптических элементов. Итак, окончательно, мы имеем; ¦*] § 5. ФОРМУЛА СЛЕДА 105 Вклад в формулу следа от эллиптических элемен- элементов равен -s й-1 1 Tf Aki . ns 5=1 sin-j^ / . nsn _ . nsn\ 1 -(-\TE)\htel—-hn-e-1 * j k-l L Tf 16fe .„ ns {у} я = 1 ~&~ ~°° J ch Bs — k) яр 2k ch яр sh — A-е) Л (р) B5 — 6) ЯР 2k sh яр dp. D) где суммирование ведется по множеству всех прими- примитивных классов {у} эллиптических элементов; 2k—по- 2k—порядок примитивного эллиптического элемента у. Приведем вывод формулы B). Этот вывод основывается на следующем интегральном соотношении для функции / (ы), которое мы здесь даем без доказательства f(u)<u(u)dt= f<t(g)\elt — e "| 2<o(g)dg, E) ' I, интеграл справа берется по множеству Оэл t) / cos ^ sln^ где м = , , \— sin t cos i эллиптических элементов группы С?; elt, e~lt — собственные зна- значения матрицы g; <в (g) — произвольная функция на G, постоянная на каждом классе сопряженных элементов. Из этого соотношения следует, что j I{u)(e-it_e4)e-Mdt= ¦(«¦)¦ dg.
105 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Сравним полученное выражение с формулами, определяющими h* и А": Л„+=] Ф<*) и_ it dg+ J Ф(^)^^^, о о эл гип Jtf' Г Х~п ф(^ е" — е-" dg+ J Ф(^Ч-Я~1 **' °эл °гип где первые интегралы берутся по множеству эллиптических эле- элементов, а вторые — по множеству гиперболических элементов g, к— наибольшее по модулю собственное значение элемента g; п^О. Мы получим, что я Г / (и) (е- " - е") e-tntdt = ht- f q> (ff) ^ Я~~" i ^' («) (е-» - etr) е tr) еш J' На основании формулы обратного преобразования Фурье полу- получаем отсюда, что /(«) = л= I UU -2 /* =1 О Остается выразить последнее слагаемое в этой формуле через. h+ (р) и h~ (р). Прежде всего, заметим, что еи — е и) 1 — 2Я cos * + Я2 •¦4] § 5. ФОРМУЛА СЛЕДА 107 Следовательно, F J Ф, к —х-1 dg. ¦dg- (Я — Я.) A — 2к cos г1 + На основании формул, приведенных в конце предыдущего пункта, получаем, что СО +ОО 1 Г Г xip I -со I -co Упростим полученное выражение. Прежде всего, используя тот факт, что ft+ (—р) = fi+ (р) и h~ (—р) = h~ (p), мы можем пере- переписать его в следующем виде: СО СО 1 Г Г < = W J J (^ А/"р -co 0 __ 21 cos w J J(*+(p)-*-(p))t — со О + 2A cos * -(- к2 ¦ dk dp. Теперь выполним интегрирование по X, воспользовавшись сле- следующими известными формулами: oo J T я sh pt 0 < 111 < я, Г ^p J 1 —2Acos^ 0 J 1 —2Acos^ я) A2 sh pn sin sh pn sint '
108 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА В результате мы получим, что 1 -t-oc -J sh pt sh ря где 0 < f < я. Перегруппировав члены, получим, что гт J A+(p) ch Bt — я) р — /Г(р) ch где 0 < t < я. Подставляя это выражение в формулу F) для I (и), получим искомую формулу: I 4л? sin / •" |яо л=1 I 16я sin | + оо / Ch (Р) ch яр Л"(Р) где < я. 5. Вклад в формулу следа от элементов е и — #. Очевидно, что слагаемые в формуле следа, отвечающие Y= ±0, суть уц(Г\О)[ф(в)-Ьвф(—в)]. A) где v — размерность представления хСУ)- М'(ГЧО)—объем пространства Г \ G; е=1, если %(—ё)=Е, е= — 1, если х(— «)= — ?. f1—единичный оператор. Таким образом, нам нужно выразить ф(е) и ф(—ё) через функцию h. Эти выражения будут получены позже, в гл. II, § 6. Здесь мы приведем их без доказательства. 61 § 5. ФОРМУЛА СЛЕДА Имеют место следующие формулы: 1 л=1 109 B) г^). B0 п=\ Таким образом, вклад в формулу следа от элементов е и — е есть I-t-oo О) ~ (р) A — е) р cth -^-) ф -Ь со \ «=i J 6. Окончательная формула следа. Итак, мы нашли вклад в формулу следа отдельно от гиперболических эле- элементов, от эллиптических элементов и от элементов ей — е. Напишем окончательную формулу следа. Пусть h+ (р), й~(р), h+(ip), hn , hn—«преобразования Фурье» функции ф (g), отвечающие различным сериям непри- неприводимых унитарных представлений группы G (см. формулы (8) п. 2). Пусть Г — дискретная подгруппа группы G, содержащая / —1 0\ матрицу п 1, и такая, что пространство Г\О ком- компактно; х Су)— конечномерное унитарное представление под- подгруппы Г, Т (g) — представление группы G, индуцированное представлением хСу) подгруппы G.
110 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [6 Тогда имеет место следующая формула следа: я^ VH (Г \ G) J [а+ (р) A +e) p th -^- + — со - + А" (р) A _ е) р cth -f-] dp + k = 1 С* I ~^~ J Л InXvTrx(Y*/ , i-t-e i + \ -So 2j 1. -ШТ Trx(V5) f l_e /.+ .- k — l +00 1 Tr x (Vs) 16* , {V} *=1 sln k J Bs — k) яр 2k ch itp sh — A (p)(l_e). — k) яр 2k sh яр dp. В левой части этой формулы суммы берутся по тем пред- представлениям, которые входят в разложение представления Т (g); каждое слагаемое считается столько раз, какова кратность представления. § 5. ФОРМУЛА СЛЕДА 111 В правой части первые два члена являются вкладом от элементов е и —е; третий член является вкладом от гипер- гиперболических элементов; два последних члена являются вкладом от эллиптических элементов. Напомним принятые здесь обозначения: v—размерность представления %(у)\ М-(Г \ О) — объем фундаментальной обла- области; г = 1 в случае, когда %(—е) = Е, е = —1 в случае, когда х (—е) = — •?• Е — единичный оператор; Tr x Су) — след матрицы хСУ); A-v — наибольшее собственное значение прими- примитивного гиперболического элемента у; 2k — порядок прими- примитивного эллиптического элемента у. Суммирование в третьей сумме ведется по множеству примитивных классов {у} сопря- сопряженных гиперболических элементов; в четвертой и пятой — по множеству примитивных классов {у} сопряженных эллипти- эллиптических элементов. 7. Формулы для кратностеи представлений дискретной серии. На основании формулы следа мы получим сейчас формулы для кратностеи, с которыми входят в Т (g) пред- представления дискретной серии. Наше рассуждение будет основываться на следующем факте. Можно построить непрерывные положительно опреде- определенные функции ф+ (g), ф~ (g), «=1,2,... на группе G, удовлетворяющие следующим условиям: 1) Операторы Т + = Г Ф+ (g) T (g) dg и Т = Г Ф" (§¦) Т (g) dg являются интегральными вполне непрерывными операторами. Из этого условия следует, что к функциям ф+ (g) и ф- (g) применима формула следа. 2) Для функции ф^ (g) имеем h+ (р) = h~ (р) == 0, hj = 0, i — 0, 1, 2, ...; А/= 0 при у ф га; fin ф 0. Аналогично, для функции ф,Г (g) имеем h+ (р) = h~ (р) = 0, А/" = 0, / = 0, 1, 2, ...; hj = 0 при j ф п; hn Ф 0. Чтобы не прерывать изложения, мы построим эти функ- функции позднее, в п. 9. .
112 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [8 Применим формулу следа к функции ф+ (g). В силу условия 2, в этой формуле отличными от нуля будут только члены с hX. В результате, после сокращения на hn, мы получим формулу для кратности, с которой входит в Т (g) представление Т„ (g) дискретной серии. Именно, кратность N%, с которой входит в пред- представление Т (g) представление Т„ (g), n > 0 дискретной серии выражается следующей формулой: . (Г \ G) п ft-I ¦ У {Y} 5 = 1 Jr x (Vs) 4ft/ insn = 1 sin ns A) Аналогично, применяя формулу следа к функции <р~ (g), мы получим: Кратность Ы„, с которой входит в представление Т (g) представление Т„ (g) «> 0, второй половины дискретной серии, выражается следующей формулой: ft-i 2u 2j~ui Trx(Vy) c- 4ki . ns {У} s = l S,nT insn d') В частном случае, когда подгруппа Г не содержит эллип- эллиптических элементов, мы имеем п. B) 8. Полное расщепление формулы следа. Применим фор- формулу следа к произвольной функции <р (g). Из результата п. 7 следует, что члены с п^, стоящие в левой и правой частях этой формулы, тождественно равны; следовательно, все эти члены могут быть отброшены. В результате полу- § 5. ФОРМУЛА СЛЕДА 113 чается соотношение, содержащее только функции п+ (р) и h~ (p). Покажем, что это соотношение, в свою очередь, можно расщепить на соотношение для h (p) и соотношение для 1г~ (р). В самом деле, заменим функцию cp(g") функцией ф+ (§") = __ Ф (g) + Ф ( S) _ Очевидно, что для qp+ (g) и ф(^) функ- функции п+ (р) совпадают; с другой стороны, для функции <р+ (g) имеем й~(р) = О. Следовательно, переход в формуле следа от функции ф (g) к функции ф+ (g) сводится к тому, что мы в этой формуле отбрасываем члены с h (p). Итак, окончательно, мы свели формулу следа к двум соотношениям — одно для функции h (p), а другое — для функции h~ (p). Эти соотношения имеют следующий вид: s s {v} *=i In ^v Tr x (ys) U Zu 16ft . ns ft -co -co 2s — k ch ¦dp; A) {Y} ^=1 Й-1 {v} *=i In Xv Tr x (ys) Tr X (Vs) sin sh ft~Jl -• B) k -°° 8 И. М. Гельфанд и др.
114 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Отметим, что сумма 2^+№г) в формуле A) является конечной, так как в представление Т (g) может входить лишь конечное число представлений дополнительной серии *). Далее, можно доказать, что число примитивных классов [у] эллиптических элементов конечно; поэтому вклад в фор- формулу следа от эллиптических элементов содержит лишь- конечное число слагаемых. 9. Построение функций <р+ (g) и ср- (g-). В п. 7 фор- формулы для кратностей представлений дискретной серии были получены на основании следующего, не доказанного там: утверждения. Для каждого натурального числа п существуют непрерывные положительно определенные функции ср+ (g} и ф~ (g) на группе G, удовлетворяющие следующим условиям: 1) Операторы Г ± = I ср* (g) T (g)dg являются интеграль- интегральными вполне непрерывными операторами. 2) Для функции ф^ (g) имеем h+ (р) = h~ (р) = 0, h~=0, h'j = 0 при J Ф п, hn Ф 0. Аналогичное условие имеет место- для функции ф- {g). Здесь будет дано построение таких функций в предполо- предположении, что й> 1. (Исключительные случаи й = 0 и п — 1 требуют специального рассмотрения, которое мы здесь про- проводить не будем.) Рассмотрим для определенности представление Т+ (g). На- Напомним, что оно реализуется в пространстве Н+ функций аналитических в полуплоскости Im z > 0, таких, что = J* Im z > 0 Оператор представления задается следующей формулой: B) *) В самом деле, в противном случае множество чисел р/ имело бы точку накопления (поскольку 0 < pj < 1), а это противоречит теоремео дискретности спектра (см. стр. 46). 9] § 5. ФОРМУЛА СЛЕДА 115 Мы реализуем сейчас это представление в пространстве функций на самой группе G. Предварительно введем параметры на группе G. _ Именно будем задавать матрицы g = комплексным числом z_ C) D) ал а 12 а 21 а 22 и вещественным числом 9 == arg (g22 — gl2i). Заметим, что Im z >• 0. Легко убедиться, что при сдвиге g —>¦ ga, a = параметры z и в преобразуются по следующим формулам: г-> yiiV1 ' 9-> 9 — arg (а122Ч-а22). E) Далее, инвариантная мера dg на группе G выражается сле- следующим образом через z = x-\-(у и 6: dg — -~— у~2 dx dy dQ. F) Сопоставим функциям j' (z) из пространства представления Нп функции ф (g) на группе G, определенные следующей фор- формулой: л+1 где z = х -4- iy и 6 определяются формулами C) и D). Установим свойства функций ф (g). Очевидно, что функции ф(?") непрерывны. Далее, мы имеем на основании F), G): / I Ф (g) I2 dg = f | / B) P yn ~' dx dy < 4- oo. (8) Таким образом, функции ф (g) имеют интегрируемый квадрат модуля. Наконец, легко убедиться, что при преобразовании / (z)-^>T* (go)f B) функции cp(g') преобразуются по формуле
116 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Таким образом, мы получили реализацию представле- представления Тп (g) в некотором подпространстве непрерывных функ- функций q>(g) на группе G с интегрируемым квадратом модуля. Оператор представления в этом пространстве определяется формулой (9). Пусть /0 (z) — вектор старшего веса в пространстве И„ '¦ fQ(z)=-{z-\-i)~n~1 (см. § 4, п. 5). Зададим функцию ф+ (g) следующей формулой: /о A0) Функция ф+ (g) положительно определена; это вытекает из легко проверяемого равенства Ф+ (g) = с (Т (g) f0, /0). Покажем теперь, что для функции ф+ (g) справедлива оценка KOo)l< fv(gog)dg. A1) и где U — некоторая компактная окрестность единичной мат- матрицы, (f{g)—суммируемая на G неотрицательная функция. Прежде всего, заметим, что при п > 1 я-З = f У т. е. ф+ (g) — суммируемая функция. Далее, заметим, что . A2) A3) где а = Пусть теперь U — компактная окрестность единичной матрицы. Из формулы A3) очевидно, что существует такая: постоянная С >» 0, зависящая от U, что 91 § 5. ФОРМУЛА СЛЕДА 117 для любого g0 ? G и любого а ? ?/. Следовательно, для функции ф^ (gO справедлива оценка и ~ С ~ где ep(g)= mes6r |ф+(^)|; при этом ф (g) является сумми- суммируемой функцией на G. Из этой оценки следует (см. § 2, п. 2), что оператор Т += Г ф+ (g') Г (g) dg является интегральным вполне непрерывным оператором. Итак, справедливость усло- условия 1) для функции ф+ (g) установлена. Теперь докажем, что функция ф+ (g) удовлетворяет усло- условию 2). В самом деле, по построению, функция ф+ (g) содержится в неприводимом подпространстве пространства всех функций ф (g) на G таких, что J* | ф (g) |2 dg -(- со. В этом подпространстве действует неприводимое представле- представление Тп (g) группы G. Отсюда следует, что для любого не- неприводимого представления Та (g) группы G, отличного от Тп (g). оператор является нулевым. Значит, и след оператора Т + равен нулю. Тем самым доказано, что для функции ф+ (g) имеем /г+ (р) = h~ (р) = 0, НТ — 0 и А/ == 0 при j Ф п. Покажем, что к„ =h 0. В самом деле, если бы было И„ = 0, то на основании формулы B) п. 5, выражающей ф (е) череэ й+(р), й~(р), ht и А., мы имели бы ф^(е) = 0. Между тем Ф+ (е) Ф 0. Итак, доказано, что функция ф+ (g). определенная форму- формулой (Ю), действительно удовлетворяет условиям 1) и 2). Функция ф~ (g) строится аналогично.
118 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [Ю 10. Асимптотическая формула. Из формулы, указанной на стр. 113, вытекает справедливость следующей асимпто- асимптотической формулы. Пусть для определенности е=1, т. е. в разложение Т (g) не входят представления второй основной серии. Обозначим через N (?) число pft, лежащих в интер- интервале 0 <^ pk <^ t. Тогда где v — размерность представления х (Y)> М- (Г \ G) — объем фактор-пространства Г \ G. Отметим, что в случае отсут- отсутствия эллиптических элементов эта формула позволяет опре- определить жанр подгруппы Г, так как по ц(Г\О) жанр опре- определяется однозначно. Примерный план доказательства этой формулы следую- следующий. Если бы в формулу на стр. 113 можно было бы под- подставить функцию следующего вида: 1, |р|<7\ 0, ,р|>Г <2> и затем доказать, что в правой части главную роль играет член J hT (p) p th -f dp. C) то мы сразу бы получили формулу A). Однако среди функций, для которых справедлива фор- формула на стр. 113, функций вида B) нет. Идея дальнейшего рассуждения состоит в том, что строится семейство функ- функций hT(p), аппроксимирующих в известном смысле последо- последовательность функций hT (p). Именно, пусть последовательность функций hT (p) обла- обладает следующими свойствами: 1) hT (p)—целая функция, удовлетворяющая оценке 1Лг(РI < Cexpajlm (р)|, где a = min In Xy, минимум берется по всем примитивным гиперболическим элементам Y^T. 2) hT (p) — четная функция. 3) hT (p) ;> 0 на вещественной оси. 4) Существует такое е > 0, что hT (р) = <?(| P |~2~Е) в по- полосе при Rep—> со. Ю| § 5. ФОРМУЛА СЛЕДА 119 5) Пусть Ст = max hT (р), ст — min hT (p). Тогда 0<р< Т 0<р< Т Нт Ст = Нт ст — 1. Г + Г т2 6) j Лг (р) р rfp ~-pp при 7->-f-oo. 7) при Покажем, как из существования семейства функций А_ (р) вы- выводится асимптотическая формула A). Прежде всего из соотношений 1), 2) и 4) можно вывести, что функция h+ (p)==hT(p) является преобразованием Фурье (см. п. 2, первая из формул (8)) некоторой функции <рт (g) на группе G. Более того, эту функцию ц>т (g) можно подобрать так, что опера- оператор Ту = I (pT (g) T (g) dg является вполне непрерывным и имеет след; тем самым к функции (рт (g) применима формула следа A), приведенная на стр. 113. Рассмотрим отдельно члены этой формулы. Из условия 1) вытекает, что вклад в формулу следа от гипер- гиперболических элементов равен нулю. Каждое из конечного числа слагаемых, отвечающих эллиптическим элементам, содержит под 2s — k яр ch интегралом множитель 2k который экспоненциально ch убывает при р -+са. Поэтому эти слагаемые не влияют на асимптоти- асимптотическую формулу. Далее, заметим, что сумма 2 ^т- (Фг) в формуле следа содержит лишь конечное число слагаемых (см. стр. 114), а потому также не влияет на асимптотическую оценку. В результате, отбрасывая в формуле A) на стр. 113 члены, не влияющие на асимптотическую оценку, получаем + СО —оо Используя условия 5) и 7), находим, что ^ hT (pfe) <~~> N (Т). С другой стороны, из условий 6) и 7) следует, что I hT (p) p th ~- dp -~ Т2. Отсюда непосредственно вытекает иско- мая асимптотическая формула A).
120 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Таким образом, из существования последовательности Лг(р) со свойствами 1) — 7) следует асимптотическая фор- формула. Построения последовательности таких функций hr(p) мы проводить здесь не будем. Отметим, что существование функции фг (g) на группе G, для которой йг(р) является преобразованием Фурье и для которой оператор Гф вполне непрерывен и имеет след, тесно связано с теоремой Пэли — Винера на G. Эта теорема для случая группы комплексных матриц изложена в вып. 5 «Обоб- «Обобщенных функций»; случай группы вещественных матриц рассмотрен Эренпрейсом и Маутнером (см. [6] в библиогра- библиографии к вып. 5). 11. Формула следа для случая, когде —е не принад- принадлежит подгруппе Г. Все формулы предыдущих пунктов полу- получены для случая, когда подгруппа Г содержит матрицу / —1 0\ — е=\ _ ). Не представляет, однако, труда полу- \ ° —J У чить аналогичные результаты и для случая, когда матрица — е не принадлежит Г. Итак, пусть Г — дискретная подгруппа группы О такая, что пространство АГ = Г\О компактно, причем эта под- /—1 0\ труппа не содержит матрицы I I - Рассматривается V О —1 / представление Т (g) группы G, индуцированное конечномер- конечномерным представлением x(Y) группы Г. Пусть (f>(g)— функция на группе G, h+ (p), h~ (p), h%, h^—ее «преобразова- «преобразования Фурье», определенные формулами (8) п. 2. Наша цель — вычислить кратности, с которыми входят в Т (g) ¦представления дискретной серии и получить соотноше- соотношения для функций h+ (p), h~ (p), аналогичные приведен- приведенным в п. 8. Укажем, не приводя выкладок, какой вклад дают в фор- формулу следа элементы различных типов группы Г. 1) Гиперболические элементы. Прежде всего, видоизменим определение примитивного гиперболического элемента. Гиперболический элемент у будем называть при- примитивным, если он не является степенью никакого другого элемента из подгруппы Г. (Таким образом, мы не требуем И! § 5. ФОРМУЛА СЛЕДА 121 здесь, чтобы собственные значения элемента у были положи- положительными, ср. стр. 98.) По аналогии с п. 3 мы получаем: в формулу следа от гиперболических элементов Вклад равен In I Tr x ,iJT I л., " '" i +-00 Здесь сохранены обозначения п. 3; сумма берется по мно- множеству всех примитивных классов {у} гиперболических элементов. 2) Эллиптические элементы. Определение прими- примитивного эллиптического элемента мы оставляем неизменным (см. стр. 102). Заметим, что в нашем случае все эллиптиче- эллиптические элементы имеют нечетный порядок. В самом деле, если / — 1 0 элемент у из Г имеет четный порядок 2k, то у = Следовательно, матрица 0 —1 / —1 0\ I I принадлежит подгруппе Г, \ 0 —1 У что неверно. По аналогии с п. 4 мы получаем: Вклад в формулу следа от эллиптических элементов равен 2k л+-л0- Zj^Lj sin 2Я5 2/fe-t-l 2nsn 2лsn sin- 2я5 X X 26-f-l я Ds — 2k — 1) p 2B*+l) ch лр -A-^sh"^-^-1^^. sh лр
122 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Здесь сумма берется по множеству всех примитивных клас- классов {у} эллиптических элементов. 3) Единичный элемент. Вклад от этого элемента равен +г° 4 J p cth -f- ЬГ (р) ф п ) И') \. C) Подчеркнем, что в рассматриваемом случае в разложение представления Т (g) могут входить неприводимые предста- представления .из всех серий. По аналогии с п. 7 мы получаем. Кратности N% и Ы„, с которыми входят в Т (g) соот- соответственно представления Т% (g) и Т^ (g) дискретной серии (п >> 0), выражаются следующими формулами: 2k 1 • D) 2k --: 2nsn sin 2T+l Для функций h+ (p) и h (p) имеют место следующие соот- соотношения: 4-о J {Y} s=1 ДОБАВЛЕНИЕ I К § 5 123 {Y} *=1 sin X 2Я5 2/fe + ch X — Ik — 2B*4-1) ch ¦dp, E) -ss 5=1 Tr_x (ys) sln 2*4-1 X + OO x /a- sh я Ds — 2*— l)p sh- ¦dp. F) ДОБАВЛЕНИЕ I K §5 ТЕОРЕМА О НЕПРЕРЫВНОЙ ДЕФОРМАЦИИ ДИСКРЕТНОЙ ПОДГРУППЫ На протяжении этого Добавления Г обозначает дискрет- дискретную подгруппу группы О вещественных унимодулярных мат- матриц 2-го порядка, для которой пространство Г\О ком- компактно. В настоящем добавлении выясняется вопрос о том, в какой мере представление группы G, порожденное про»
124 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА странством X = Г \ G, определяет подгруппу Г. По всей видимости, хотя это и не доказано, это представление опре- определяет подгруппу Г с точностью до перехода к сопряжен- сопряженной подгруппе. Здесь будет получен несколько более слабый результат. Отметим прежде всего, что если представления Т1 (g) и T2(g) группы О, порожденные пространствами Хх = Yl\G и Х2 = Г2\ G, эквивалентны, а группы Тх и Г2 не содержат эллиптических элементов, то эти группы изоморфны. В самом деле, если представления, порожденные про- пространствами X\ и Х2 эквивалентны, то одинаковы «номера» р,- представлений основной серии, входящих в разложение этих представлений. Но тогда, на основании асимптотической формулы, установленной в п. 10, заключаем, что жанры подгрупп Г\ и Г2 совпадают. Остается воспользоваться извест- известным результатом, что если жанры подгрупп Г; и Г2 совпа- совпадают, то эти группы изоморфны. Введем теперь понятие непрерывной деформации подгруппы Г. Предположим, что каждому t из интервала О <,'?<; 1 сопоставлена дискретная подгруппа YtaG, изо- изоморфная Г, причем Го —Г. Обозначим через y{f) образ элемента у ? Г при изоморфизме Г—>Tt. Если все функ- функции y(t) непрерывны, то набор групп Г, называется непре- непрерывной деформацией группы Г = Го. Отметим, что у любой группы Г существуют непрерыв- непрерывные деформации следующего вида. Пусть g (t), 0 <С t -< 1 — непрерывная кривая в G, выходящая из единичного элемента (?¦@) —е). Положим Г, = g~l (t)Yg(t). Очевидно, что опре- определенный так набор групп Г, образует непрерывную дефор- деформацию группы Г. Такая деформация называется тривиаль- тривиальной. Известно, что у дискретных подгрупп (с компактной фундаментальной областью) любой полупростой группы Ли, отличной от группы вещественных матриц 2-го порядка, всякая непрерывная деформация является тривиальной. Этот замечательный результат принадлежит А. Вейлю. В этом Добавлении мы докажем следующую теорему. Теорема. Пусть Г, — непрерывная деформация подгруппы Г. Если представления группы G, порожден- порожденные пространствами Xt = Yt\G эквивалентны, то деформация Yt тривиальна. ДОБАВЛЕНИЕ I К § 5 125 Воспользуемся следующим фактом. (*) Следы матриц дискретной подгруппы образуют дискретное множество на числовой оси *). Опираясь на этот факт, мы докажем две леммы. Лемма 1. Если представления Tr(g) и T2(g), поро- порожденные пространствами Xl=Yl\G и АГ2 = Г2\О, эквивалентны, то для каждой матрицы ух ? Г\ найдется матрица у2 ? Г2, сопряженная с мат- матрицей Yi- Доказательство. Если представления Tl(g) и T2(g) эквивалентны, то совпадают и следы этих представлений. Следовательно, для любой финитной непрерывной функ- функции ф (g) мы имеем ^ J A) г,\о уег, г2\о v€r2 (см. § 2, п. 4, формула C)). Пусть теперь Yi6lY Предположим, что в группе Г2 нет элемента, сопряжен- сопряженного с Yt- Тогда, в силу (*), для любой функции q>(g), со- сосредоточенной в достаточно малой окрестности элемента Yi> правая часть равенства A) равна нулю. Но это невозможно, поскольку для таких функций ср(^) левая часть равенства A) отлична от нуля. Лемма 2. Пусть Yt—непрерывная деформация группы G такая, что представления, по рожденные однородными пространствами Xt = Yt\G, между со- собой эквивалентны. Обозначим через y(t) образ элемента у = у @) ?Г при изоморфизме Г—>ГГ Тогда след матрицы y(t) не зависит от t. Доказательство. Очевидно, что достаточно доказать утверждение леммы лишь для достаточно малых значений t. Но для малых t это утверждение непосредственно следует из леммы 1 и из утверждения (*). *) Если бы последовательность {Тгуд?} имела предел, то при подходящем выборе g^ ? G последовательность g^xyuSn также имела бы предел. Запишем gk в виде gk = y'kg'k, где y'k ? Г, g'k € F- Так как фундаментальная область F компактна, мы можем считать, что \g'^\ — сходящаяся последовательность. Но тогда { {у'^)~ S'^Yft} — также сходящаяся последовательность, что противоречит дискретности Г.
126 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Перейдем к доказательству теоремы 2 Yft(O- где алгебру матриц вида 2 Обозначим через ft — вещественные числа, a yk (t) — элементы группы Г^. Нетрудно убедиться, что алгебра 2(, совпадает с алгеб- алгеброй ;}( всех матриц второго порядка. Установим изоморфное отображение 210—> Ш{ алгебры %й на алгебру 21,. Пусть а ? 210. Представим элемент а в виде и сопоставим ему элемент я, = 2 ЯйУй (О- вида a 2 ft Нам нужно убедиться, что определенное, так соответствие я —> я, не зависит от способа записи элемента а в виде B). Иными словами, нужно доказать, что если 2 ^ftYft = 0> то> ft 0 = 0- Докажем это. k Итак, пусть 2 ^-ftYft = О- Тогда 2 "КкУкУ — О для любого ft ft ft а потому Тг Г2 \ ft Тг B B = О- Но, в силу леммы 2, = Тг B ^ftYft (t) У (О)- Следовательно, Y (О) == C) для любого y(t)?Fr Так как алгебра, натянутая на ма- матрицы y(t), совпадает с алгеброй 21 всех матриц 2-го по- порядка, то из C) следует, что Тг для любой матрицы а. Следовательно, ДОБАВЛЕНИЕ II К § 5 127 Итак, мы определили отображение алгебры %0 на ал- тебру %t. Легко видеть, что это отображение является изо- изоморфизмом. Известно, что любой автоморфизм полной матричной алгебры является внутренним автоморфизмом. Таким образом, существует матрица g = g (t) такая, что (О = B it) D) для любых вещественных чисел kk и любых элементов Yft 6 Г1- Из того факта, что левая часть равенства D) является непрерывной функцией от t, вытекает, что g(t) также можно выбрать непрерывной функцией от t. В частности, для любой матрицы Y 6 Г1 получаем на основании D), что т. е. деформация Г, является тривиальной. Теорема доказана. ДОБАВЛЕНИЕ И К §5 ФОРМУЛА СЛЕДА ДЛЯ ГРУППЫ КОМПЛЕКСНЫХ УНИМОДУЛЯРНЫХ МАТРИЦ 2-го ПОРЯДКА Здесь будет получена формула следа для группы G ком- комплексных унимодулярных матриц 2-го порядка. Заметим, что комплексный случай оказывается существенно проще веще- вещественного, поскольку неприводимые представления у группы комплексных матриц устроены проще, чем у группы веще- вещественных матриц. Читатель убедится в п. 2, что формула следа для группы комплексных матриц имеет более простую структуру, чем в вещественном случае. Поскольку результаты для комплексного случая полу- получаются теми же методами, что и в вещественном случае, детали доказательств мы будем опускать. 1. Неприводимые унитарные представления группы G. У группы О комплексных унимодулярных матриц 2-го по- порядка имеется две серии неприводимых унитарных предста- представлений — основная и дополнительная серии.
128 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Основная серия представлений реализуется в простран- пространстве Н функций / (z) комплексного переменного z с интег- интегрируемым квадратом i- j \f(z)\2dzdz< +oo. Представление состоит в том, что каждой комплексной матрице fa p сопоставляется оператор Гр, т (g) в пространстве Н следую- следующего вида: . A) Представление задается, таким образом, парой чисел: веще- вещественным числом р и целым числом т. Можно показать, что два представления Т^ m(g) и Тр\ m' (g) эквивалентны тогда и только тогда, когда либо р = р', т = т'', либо р=—р', т = — /га'. Характер представления Тр< m (g) задается следующей формулой: О", р, т Ч1\2 B) -1 где Kg, Xg — собственные значения матрицы g. Если в формуле A) считать р произвольным комплексным числом, то мы получим, вообще говоря, не унитарное пред- представление группы G. При этом всегда можно разумным образом задать пространство функций / (z), в котором это представление действует. Характер представления ТРг m (g) и в этом общем случае задается формулой B). Дополнительная серия неприводимых унитарных пред- ставлений получается при m=0 p=is, где —2 < 5 < 2, s Ф 0. Гильбертово пространство, в котором действуют опе- операторы TPt0(g) дополнительной серии, состоит из функ- ций f (z), для которых II / II2 = (j-f J Г / ( dzx <пх dz2 dz2 < -1-00. I ДОБАВЛЕНИЕ II К § 5 129 Подробно о неприводимых представлениях группы G читатель сможет узнать из гл. II, см. также вып. 5 «Обоб- «Обобщенных функций». 2. Формула следа для группы G. Пусть Г — дискрет- дискретная подгруппа группы G такая, что пространство Г \ G компактно; X (Y) — конечномерное представление подгруппы Г; Т (g) — представление группы G, индуцированное предста- представлением x(Y)- Представление Т (g) распадается, ввиду ком- компактности пространства Г \ G, в дискретную сумму непри- неприводимых унитарных представлений. Информация о том, какие неприводимые представления входят в это разложение, со- содержится в формуле следа, полученной в § 2: Pk, (g) dg = = ^ Tr *<Y) М- (Г? \ GY) f ((>(g-1yg)dg. A) Oy\O Y € Г где суммирование слева ведется по всем представлениям, входящим в Т (g) *). Эта формула справедлива для любой функции гр (g) на группе G, для которой оператор Гф= I cp (g) T (g) dg вполне непрерывен и имеет след, в частности для любой гладкой финитной положительно определенной функции. Наша цель состоит в том, чтобы перейти в формуле следа A) от функции ф (g) к ее «преобразованию Фурье» h (p, m) = J ф (g) Op, m (g) dg. На основании приведенных в п. 1 формул для харак- характеров 0Pi ,„ (g) эта функция h (p, т) задается следующей явной формулой: А(р, m)= f , — I 12 B) *) Напоминаем, что через Гу, GY в формуле A) обозначены централизаторы элемента \(^Т соответственно в Г и G. 9 И. М. Гельфанд и др.
130 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [2 Левая часть формулы A) преобразуется к h (p, /га) оче- очевидным образом. Таким образом, задача состоит в том, чтобы выразить через h (р, т) интегралы оу\о по классам элементов, сопряженных с матрицей у?Г. Заметим, что, ввиду компактности пространства Г \ G, в группе Г нет параболических элементов. Таким образом, любой элемент у ? Г, отличный от + е, сопряжен с диаго- диагональной матрицей А, 0 0 А, -1 Введем функцию O6\G и постараемся выразить ее через функцию h (р, /га). Для этого воспользуемся интегральным соотношением между функ- функцией ф (g) и функцией / (б), которое мы приводим здесь без вывода *) 1 .1 J = J <p где со (g) — произвольная функция на G, постоянная на классах сопряженных элементов. Полагая в этом соотношении J1 Г мы получаем отсюда, что (g) = I s- I 1 |-ф-т-,т\ IA, = А (р, /га). *) Вывод этого соотношения см., например, в вып. 5 «Обоб- «Обобщенных функций». ДОБАВЛЕНИЕ II К § 5 131 Принимая во внимание, что /(б) = /(б '), эту формулу можно также переписать в виде 1 j /F)\x-x-l\2\x\tp+mx ,dX .. -T2- = h(p, /re). Итак, мы видим, что й (р, /га) есть преобразование Меллина функции I (Х)\Х — A, j . Следовательно, по формуле обрат- обратного преобразования Меллина, мы имеем A о \x-x~4 -ч2 г|р-жяж /7Z = —СХ) —СХ) Тем самым мы выразили интеграл по любому неособому классу сопряженных элементов через функцию h (p, /га). На основании этой формулы имеем: при у Ф + е J Ф (g~*yg) dg — Gy\G Bя) -2 ¦ч1 —со —оо -1 где Ху, Ху — собственные значения матрицы у. Теперь рассмотрим особый случай: у = е и у= — е. В этом случае класс сопряженных элементов состоит из одного единственного элемента, и интеграл по этому классу выро- вырождается соответственно в q>(e) и ф(—е). Итак, нам нужно выразить ф (е) и ф(—е) через h (p, /га). Приведем без вывода окончательные формулы т = —со —оо (—1Г J Эти формулы непосредственно следуют из результатов § б главы II, см. также «Обобщенные функции», вып. 5. 9*
132 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА В результате, после перехода от функции ф (g) к функ- функции h (p, /га) формула следа принимает вид X 7 J (т2Ч-р2)/г(р, « — оо J — —оо — со где v — размерность представления x(Y)'> e—1, если %(—е) — Е, 8 = —1, если х(—е) = — ^> ^ — единичный оператор. Суммирование слева ведется по всем представлениям основной и дополнительной серии, содержащимся в пред- представлении Т (g). Полученную формулу можно расщепить на соотношения для h (p, /га) при фиксированных значениях /га: + ОО + оо й(Гу\О ) С Заметим, что представления дополнительной серии учи- учитываются только первой из этих формул. Вывод этих фор мул из формулы C) предоставляется читателю. 31 § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 133 3. Асимптотическая формула. Из формул D) и E) п. 2 легко вытекают асимптотические формулы для распределения чисел pk, которые мы приведем здесь без вывода. Именно, обозначим через Nm (p) количество чисел pm> k > О, не пре- превосходящих р. Тогда имеет место следующая асимптоти- асимптотическая формула при р—> со: \т / \ vfi (Г \ G) , Л/ /л1 -¦ , . г__. N N / s^3 12я2 § 6. Изучение спектра представления, порожденного некомпактным пространством X = Г \ G (отделение дискретной части спектра) В этом параграфе будет продолжено изучение представ- представлений группы G вещественных матриц 2-го порядка, поро- порожденных пространством X = F\G, где Г — дискретная подгруппа группы G. Как и прежде, будем предполагать, что Г содержит матрицу —е. Раньше мы подробно изучили случай компактного про- пространства X. Было показано, что Спектр представления, порожденного компактным пространством X, является ди- дискретным. Здесь мы будем предполагать, что пространство X не компактно, но имеет конечный объем. Основная задача состоит по-прежнему в том, чтобы изучить спектр предста- представления Т (g), порожденного пространством X, т. е., иными словами, разложить это представление на неприводимые. Решение этой задачи ведется на основе метода орисфер. Метод орисфер позволяет разложить пространство пред- представления на два инвариантных подпространства с более простой структурой спектра. Здесь изучается первое из этих подпространств. Доказывается, что оно имеет счет- счетный дискретный спектр. Можно доказать, что второе подпространство имеет не более чем конечное число точек дискретного спектра, а спектр его остальной части — непрерывный конечнократный; при этом кратность непрерывного спектра равна минималь- минимальному числу параболических вершин фундаментальной области подгруппы Г. Доказательство основывается на теории воз- возмущений дифференциальных операторов. Чтобы не перегру-
132 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА 31 § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 133 В результате, после перехода от функции ф (g) к функ- функции й(р, т) формула следа принимает вид X 7 (—Dme] J . m)dp-i- Yf Г ыг \х„ — : J й(р, где v — размерность представления x(Y)'> s=1, если ^(—е) = Е, е = —1, если х(—е) —— ^> Е — единичный оператор. Суммирование слева ведется по всем представлениям основной и дополнительной серии, содержащимся в пред- представлении Т (g). Полученную формулу можно расщепить на соотношения для h (p, m) при фиксированных значениях т: , 0) = (Г \ О) е) (р. да Заметим, что представления дополнительной серии учи- учитываются только первой из этих формул. Вывод этих фор- формул из формулы C) предоставляется читателю. 3. Асимптотическая формула. Из формул D) и E) п. 2 легко вытекают асимптотические формулы для распределения чисел pk, которые мы приведем здесь без вывода. Именно, обозначим через Nm(p) количество чисел рт< k > 0, не пре- превосходящих р. Тогда имеет место следующая асимптоти- асимптотическая формула при р—> оо: Р3. 12я2 § 6. Изучение спектра представления, порожденного некомпактным пространством X = Г \ G (отделение дискретной части спектра) В этом параграфе будет продолжено изучение представ- представлений группы G вещественных матриц 2-го порядка, поро- порожденных пространством X = Г \ G, где Г — дискретная подгруппа группы G. Как и прежде, будем предполагать, что Г содержит матрицу —е. Раньше мы подробно изучили случай компактного про- пространства X. Было показано, что спектр представления, порожденного компактным пространством X, является ди- дискретным. Здесь мы будем предполагать, что пространство X не компактно, но имеет конечный объем. Основная задача состоит по-прежнему в том, чтобы изучить спектр предста- представления Т (g), порожденного пространством X, т. е., иными словами, разложить это представление на неприводимые. Решение этой задачи ведется на основе метода орисфер. Метод орисфер позволяет разложить пространство пред- представления на два инвариантных подпространства с более простой структурой спектра. Здесь изучается первое из этих подпространств. Доказывается, что оно имеет счет- счетный дискретный спектр. Можно доказать, что второе подпространство имеет не более чем конечное число точек дискретного спектра, а спектр его остальной части — непрерывный конечнократный; при этом кратность непрерывного спектра равна минималь- минимальному числу параболических вершин фундаментальной области подгруппы Г. Доказательство основывается на теории воз- возмущений дифференциальных операторов. Чтобы не перегру-
134 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [1 жать книгу специальными вопросами теории дифференциаль- дифференциальных операторов, мы изложим это доказательство в другом месте. 1. Орисферы в однородном пространстве. Орисфери- ческими подгруппами группы G называются подгруппа Z матриц вида /1 О 2 U 1 и все подгруппы, сопряженные с группой Z. Орисферами в однородном пространстве X = Г \ G назы- называются орбиты орисферических подгрупп, т. е. линии вида х, — xgzg -1 где х ? X и g" ? G фиксированы, a z пробегает подгруппу Z. Заметим, что большинство орисфер на Г \ G оказы- оказываются некомпактными и даже незамкнутыми множествами. Для нас существенную роль играют только те орисферы в пространстве Г \ G, которые являются компактными. Сформулируем условие компактности орисферы. По- Поскольку сдвиг орисферы есть снова орисфера и сдвиг ком- компактной орисферы есть снова компактная орисфера, то доста- достаточно ограничиться рассмотрением орисфер, проходящих через фиксированную точку д:0: xz = xQgzg~1. В качестве xQ возьмем точку, отвечающую единичному классу в Г \ G. Пусть сначала g = e. Тогда орисфера имеет вид V- у 7 (Л\ л2 -^0 ' v ' Покажем, что орисфера A) компактна тогда и только тогда, когда подгруппа А = Г Л Z отлична от еди- единичной. Доказательство. Рассмотрим непрерывное ото- отображение z —> xoz B ) группы Z на нашу орисферу С. Очевидно, что прообразами § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 135 точек орисферы С при этом отображении являются классы смежности группы Z по подгруппе А = Г Л Z. Тем самым отображение B) индуцирует непрерывное взаимно однозначное отображение Z/Д -> С фактор-группы Z/A на орисферу С. Предположим, что подгруппа A = rflZ отлична от еди- единичной. Покажем, что тогда орисфера С компактна. В самом деле, орисферическая подгруппа Z изоморфна аддитивной группе вещественных чисел; отсюда непосредственно следует, что ее фактор-группа по подгруппе А компактна, если последняя нетривиальна. Но тогда и орисфгра С, будучи непрерывным образом компактного множества Z/Д, также компактна. Обратно, предположим, что орисфера С компактна. Тогда фактор-пространство Z/Д компактно и, значит, подгруппа А не тривиальна. Это непосредственно следует из одной общей теоремы, которую мы приводим без доказательства (см. Пон- трягин, [31], гл. 3, теорема 20). Пусть С — локально-компактное одно родное про- пространство, в котором действует локально компактная группа Z, допускающая счетное покрытие компакт- компактными множествами. Тогда одно родное пространство С изоморфно пространству Z/A классов смежности группы Z по стационарной подгруппе А одной из точек в С. Итак, установлено, что для компактности орисферы необходимо и достаточно, чтобы подгруппа А = Г f] Z была отлична от единичной. Аналогично легко убедиться, что для компактности орисферы необходимо и достаточно, чтобы подгруппа была отлична от единичной. Будем говорить, что два компактные орисферы при- принадлежат одному семейству, если они получаются одна из другой некоторым сдвигом. Число таких семейств
136 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [2 является важной характеристикой однородного пространства X —Г \ G. Нетрудно убедиться, что это число равно мини- минимальному числу параболических вершин фундаментальной области относительно подгруппы Г. Из последующих резуль- результатов этого параграфа будет следовать, что это число конечно, если конечен объем пространства X. 2. Формулировка основной теоремы. Пусть Г—ди- Г—дискретная подгруппа группы G такая, что объем простран- пространства Г \ G конечен. Рассмотрим представление группы G, порожденное одно- однородным пространством X = Г \ G. Напомним, что это пред- представление действует в пространстве Н функций / (х), х ? X с интегрируемым квадратом: Оператор представления задается формулой Наша задача состоит в том, чтобы изучить спектр этого представления. В этом параграфе будет проведено отделение дискретной части спектра. Именно, будет определено инвариантное под- подпространство Н° пространства Н, спектр которого является дискретным. Сформулируем точный результат этого параграфа. Рассмотрим совокупность Н° функций из Н. интегралы которых по любой компактной орисфере равны нулю. Нетрудно убедиться, что Н° является замкнутым под- подпространством пространства Н и что это подпространство инвариантно. Разумеется, условие, что интеграл по одной компактной ори- орисфере равен нулю, еще не выделяет замкнутого подпространства. Однако условие, что интегралы по заданной компактной орисфере и по всем достаточно близким к ней орисферам равны нулю, уже определяет замкнутое подпространство. Доказательство. Рассмотрим множество орисфер, доста- достаточно близких к заданной компактной орнсфере I. Так как эти орисферы между собой не пересекаются (см. ниже п. 3), то область К с X, которую они заполняют, является топологическим произве- произведением § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 137 компакта Т на окружность С. Пусть //„ — подпространство функ- функций / (t, с) из Н, сосредоточенных на К- Условие, что интегралы этих функций по орисферам, близким к /, равны нулю, записывается в виде Г / (t, с) dc = О для любого Очевидно, что это условие выделяет замкнутое подпростран- подпространство Н'к в Нк (в чем можно убедиться, перейдя, например, от функ- функций / {t, с) к их преобразованиям Фурье по с). Но тогда и на всем пространстве Н это условие выделяет замкнутое подпространство, а именно, подпространство Нк-\- Нк, где Нк — ортогональное допол- дополнение к Н . Теорема. Прост ране тво Н° разлагается в пря- прямую сумму не более чем счетного числа инвариант- инвариантных неприводимых подпространств. Иными словами, спектр представления Т (g) в подпространстве Н° является дискретным. Опираясь на результаты § 2, мы сведем сейчас эту тео- теорему к доказательству другого утверждения. Именно, рассмотрим финитные функции ср (g) на О вида где ty(g)—финитные бесконечно дифференцируемые функ- функции на G, отличные от нуля лишь в достаточно малой окрест- окрестности единичного элемента. Наша цель — показать, что операторы являются вполне непрерывными в пространстве №. Отсюда на основании леммы § 2 п. 3 будет непосредственно следо- следовать, что Н° разлагается в прямую сумму не более чем счетного числа инвариантных неприводимых подпространств. Так как Т^—самосопряженный положительно опреде- определенный оператор, то для доказательства его полной непре- непрерывности достаточно показать, что его след конечен. Таким образом, основная теорема сводится к доказатель- доказательству следующего утверждения. Оператор Гф, где <р (g) — функция вида q>(g) = ty(g) *ty(g~l)< сосредоточенная в достаточно малой окрестности единичного элемента группы G, имеет конечный след на Н°.
138 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [3 3. Цилиндрические множества. Для доказательства основной теоремы мы разобьем пространство X = Г \ О на цилиндрические подмножества, устроенные в извест- известном смысле проще, чем само пространство X. Будем называть открытое подмножество Xt простран- пространства X цилиндрическим множеством, если оно расслаивается на попарно непересекающиеся компактные ори- сферы, принадлежащие одному и тому же семейству. Иными словами, X t есть множество всех элементов х ? X вида где х0—фиксированная точка из X, g0— фиксированный элемент из О такой, что подгруппа Г {] g Zg*1 отлична от единичной (условие компактности орисферы); z пробегает подгруппу Z, a v пробегает некоторое множество V в группе G. При этом элемент v—-«номер» орисферы — однозначно определяется точкой х. Задачей этого пункта является доказательство следую- следующего утверждения. Пространство X можно предста- представить в виде объединения конечного числа попарно непересекающихся множеств где Хо—компактное множество, а Хх Xр— ци- цилиндрические множества. Доказательство этого утверждения основано на резуль- результате, полученном в § 1, п. 4. Этот результат мы сейчас напомним. В § 1, п. 4 было доказано, что на плоскости Лобачев- Лобачевского существует фундаментальная область F относительно подгруппы Г, являющаяся объединением попарно непересе- непересекающихся подмножеств ' р = /7о-ь2/7(*А). A) где Fo — компактное множество, bk — бесконечно удаленные вершины области F, F(bk)—треугольник, ограниченный двумя геодезическими линиями lk, l'k, выходящими из Ь. и ори- орициклом ofe, проходящим через bk, k—\, ..., р. При этом 3] § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 139 стороны lk, l'k треугольника F(bA между собой эквивалентны, т. е. получаются одна из другой некоторым преобразова- преобразованием убГ1- Кроме того, любая точка, лежащая внутри ори- орицикла cofe, может быть переведена в точку из F(bk) неко- некоторым преобразованием у^Т, оставляющим на месте точку bk. Сопоставим разбиению A) разбиение пространства X — Г \ О на непересекающиеся подмножества. Для этого заметим, что плоскость Лобачевского является однородным пространством Q/ U классов смежности группы G вещественных унимодулярных матриц 2-го порядка по под- подгруппе U ортогональных матриц. Следовательно, фундамен- фундаментальную область F на плоскости Лобачевского относительно подгруппы Г можно естественным образом отождествить с пространством двусторонних классов смежности Г \ G / U. Рассмотрим естественное отображение X = Y\G~>F = T\G /U. B) Обозначим через Хо и Xk полные прообразы множеств Fo и F (bk), k=l, ..., р при этом отображении. Тогда мы получаем разбиение * = Л-0-+-*,+ ... +Хр C) множества X на попарно непересекающиеся подмножества. Очевидно, что Хо—компактное множество (поскольку его образ Fo и ядро отображения U являются компактными множествами). Нам нужно показать, что остальные множе- множества Xk, входящие в это разбиение, являются цилиндриче- цилиндрическими множествами. Рассмотрим одно из этих множеств Xk и его образ F (bk) при отображении B). Сначала опишем эти множества в ма- матричной форме. Не нарушая общности, можно предполагать, что bk = со. В этом случае подгруппа параболических элементов, оста- оставляющих на месте точку bk, совпадает с группой Z матриц 1 0\ вида I I . Поскольку существуют параболические пре- \z 1 / \ / образования у ? Г, оставляющие на месте точку bk, то под- подгруппа Д —ГЛ-Z отлична от единичной группы. Легко убедиться, что множество F(bk) состоит из всех точек вида (za)z0,
140 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [3 где zQ = i — точка на плоскости Лобачевского, имеющая своей стационарной подгруппой группу U, а пробегает мно- множество диагональных матриц вида а а О О а" 0 < а < Л/, D) a z пробегает некоторую фундаментальную область Zr группы Z относительно подгруппы Д = Г |~| Z. Эта область Zr компактна, поскольку подгруппа Д отлична от единичной. Ясно, что полный прообраз Xk области F (bk) состоит из всех точек вида х = xozau, E) где х0 — фиксированная точка в X = Г \ G, отвечающая единичному классу, a z, а и и пробегают описанные выше множества матриц. Покажем, что Xk является цилиндрическим множеством. Прежде всего, заметим, что при фиксированных а, и мно- множество точек E) образует компактную орисферу. Таким образом, через каждую точку области Xk про- проходит компактная орисфера из заданного семейства. Остается убедиться, что различным парам а, и отвечают орисферы, не имеющие общих точек. В самом деле, предположим, что орисферы хг = xozaxui и хг = xoza2u2 имеют общую точку. Тогда существуют элементы zx, z2?Zr и у^Г такие, что yz1a1u1 = z2a2u2. F) Рассмотрим отображение G-+G/U группы G на пло- плоскость Лобачевского. При этом отображении элементы zxaxux и z2a2u2 переходят в точки, принадлежащие области F(bk). Равенство F) означает, что эти точки переводятся одна в другую некоторым элементом уб^. Но, поскольку F(bk) принадлежит фундаментальной области относительно под- подгруппы Г, это возможно, лишь когда эти точки совпадают и у = 1 • Итак, из равенства E) следует, что у=1, а потому z1alu1= z2a2u2. G) § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 141 Поскольку любая матрица g ? G может быть разложена единственным образом в произведение вида g = zau, то из равенства G) мы имеем а1 = а2, и^ = и2. Следова- Следовательно, орисферы xz ¦= xQzaxux и хг = xoza2u2 совпадают. Итак, доказано, что множества Xk, k=l, .... р в раз- разбиении C) пространства X = Г \ G являются цилиндриче- цилиндрическими множествами. 4. Редукция основной теоремы. В п. 2. основная тео- теорема этого параграфа была сведена к следующей теореме. Любой оператор вида / — / Ф (g) dg, где ср(^) — бесконечно дифференцируемая функция вида ф(?") ='ФОТ) *'Ф(^~1)> сосредоточенная в достаточно малой, окрестности единичного элемента группы G, имеет конечный след на №. Проведем дальнейшую редукцию основной теоремы. Для этого разобьем однородное пространство X на сумму непересекающихся подмножеств х = хо + х,+ ... +хр, где Хо — компактное множество, а каждое из множеств .АГ], ..., Хр является цилиндрическим множеством, т. е. расслаивается на попарно непересекающиеся орисферы одного и того же семейства. Возможность такого разбиения была установлена в предыдущем пункте. Обозначим через Hk подпространство функций с инте- интегрируемым квадратом на X, равных нулю вне Xk, а через Pk оператор проектирования пространства Н на это подпро- подпространство, k = 0, 1 р. Далее, обозначим через Н% под- подпространство функций из Hk, интегралы которых по ори- сферам семейства, входящего в Xk, равны нулю. Очевидно, что имеет место следующее включение: //'сгЯо + ЯЧ-г- ... 4-tfp- A) Отсюда вытекает, что след положительного самосопряжен- самосопряженного оператора Tq> на пространстве М° не больше, чем о РТР на пространствах Но сумма следов операторов Я? Н*. на пространствах Но,
142 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Итак, доказательство основной теоремы сводится к дока- доказательству следующего утверждения. След оператора РоТ^Ро на Но а след оператора PkTyPk на пространстве Н\, k=l, .... р конечны. Сначала докажем конечность следа оператора PqT^Pq в Но (напоминаем, что Хо—компактное множество). Для этого напомним, что оператор Тц, является инте- интегральным положительным оператором вида g2)f(g2)dg2 с ядром B) C) где F—фундаментальная область в G относительно преоб- преобразований g ->yg, Y 6 Г. При этом функция К(gi> g^) является непрерывной функцией от glt g2. Пусть Fo — прообраз компактного множества Хо в F. Отображение F0—>X0 взаимно однозначно и взаимно непре- непрерывно, а потому Fo также является компактным множе- множеством. Легко видеть, что оператор PqT^Pq является интеграль- интегральным оператором на Fo вида Так как ядро К (gi, g2) непрерывно, то на компактном множестве Fo оно и ограничено. Поэтому оператор PqTP имеет конечный след на всем пространстве Но, равный f K(g, g)dg. Итак, нам остается доказать конечность следа опера- оператора Р/гТцРь, k=\, ..., р. Переходим к доказательству этого утверждения. 5. Доказательство конечности следа оператора РиТ^Рц в пространстве Н\. Пусть F — фундаментальная область группы Q относительно подгруппы Г, Fk — прообраз ци- 5] § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 143 линдрического множества Xk в F. Не нарушая общности, можно считать, что цилиндрическое множество Xk расслаи- расслаивается на орисферы вида х = xozg. A) Тогда, как было показано в п. 3, Fk состоит из всевозмож- всевозможных элементов вида zau, где Z пробегает некоторую фундаментальную область группы Z относительно подгруппы Д = ГП-2, я пробегает множество диагональных матриц B) и пробегает ортогональные матрицы. Очевидно, что оператор PkT^Pk в пространстве Нь можно рассматривать как интегральный оператор на Fk вида C) где D) Нас интересует оператор PhT^Pk не на всем простран- пространстве Hk, а на его подпространстве Н^. Будет удобно заме- заменить это подпространство Hk другим подпространством, ему изоморфным. С этой целью будем считать функции f (g), g^Fk про- продолженными на множество &Fk по формуле / (yg) = / (g) для любых y€^ и gtzFk- Рассмотрим отображение Q: E) / A\Z пространства Hk в себя, где и—мера пространства Д \ Z. Очевидно, что ядром этого отображения является наще
144 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА подпространство Н\, а образом — подпространство Н\ всех функций из Hk, удовлетворяющих условию F) Отсюда следует, что пространство н\ изоморфно орто- ортогональному дополнению Hk к подпространству Н\. Итак, мы можем заменить пространство Н% простран- пространством Hk— ортогональным дополнением к подпространству функций f(g)^_Hk, удовлетворяющих условию F). Будем доказывать конечность следа оператора РкТ^Рк в подпространстве Hk. Иными словами, нам нужно доказать конечность следа оператора: G) где Q — оператор проектирования на Н\, задаваемый фор- формулой E). Найдем ядро этого оператора. В силу E) оператор TPkQ задается ядром , z2g2)dz1dz2, (8) A\Z A\Z где К — ядро оператора Т^. Следовательно, ядро оператора PkTffPk~QPkT(fPkQ имеет вид J f K(zlgl, z2g2)dz1dz2. (9) Д \Z A\Z Нам нужно доказать, что этот оператор имеет конечный след, т. е. что сходится следующий интеграл: . A0) k A\Z A\Z Преобразуем этот интеграл. 5] § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 145 Подставляя в / явное выражение D) для ядра К, мы получим /= Г \] \<$>(it~1a~'lz~lyzau) — — jx-2 Г Г <p(u~la~1z~1z-1yz2zau^dzl dz2\ adadz du *). A\ZA\Z J A1) Упростим это выражение. Прежде всего, заменяя функцию <р ее усреднением <pj(g-)= I <p(u~1gu) du по подгруппе U ор- ортогональных матриц, мы можем писать L — jj- Г Г (f>1(a-'iz-1z-1yz2zas)dzldz2\ a\za\z ¦ J adadz. A2) Покажем теперь, что суммирование в A2) ведется фак- фактически только по элементам у ? Д = Г П Z. Иными словами, докажем следующее утверждение: fa 0 если (p(a-1zj~lyz2a} ф 0, где zltz2^Z и а=( _ 0 < а <N, mo y€ д- Предварительно напомним, что функция <р, (g) предпола- предполагается равной нулю вне достаточно малой окрестности V единичного элемента. Итак, пусть q>1(a-1zf1yz2a') Ф 0, т. е. a~1z~1yz2a = v ^ V. Представим элемент v в виде v= za и, A3) A4) *) Здесь использована формула для инвариантной меры на g в параметрах г, а и и: если g = zau, то dg = a do. dz du, где dz и da — инвариантные меры на Z и на U. 10 И. М. Гельфанд и др.
146 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА где z (z Z, и ортогональная матрица, ' О а' О а' -достаточно малая окрест- матрицы а' сколь угодно Легко видеть, что если V — ность единицы, то элемент а' близок к единице. Из равенств A3) и A4) получаем, что yz2a = z'aa'u. A5) Следовательно, орисферы в пространстве X: xz = xoza и xz = xozaa'и имеют общую точку пересечения. Напомним теперь, что множество точек в пространстве X вида х = xozau, A6) где z пробегает подгруппу Z, и пробегает ортогональные (а О матрицы, а а пробегает диагональные матрицы а = I _1 0<o<iV, образует цилиндрическое множество в X. Легко убедиться, что при 0 <а<Л/-|-е1 где е ;> О достаточно малое число, элементы A6) все еще образуют цилиндриче- цилиндрическое множество. Следовательно, из того, что орисферы xz = xoza и xz = x^zaa'a имеют общую точку пересечения, вытекает, что они целиком совпадают, а потому а' = 1 и и=1. Но тогда из равенства A5) следует, что у ? Г fl Z. Итак, доказано, что суммирование в A2) ведется факти- фактически по элементам у ?Д=Г П Z. Таким образом, это вы- выражение можно переписать в следующем виде: 2 а' Y6A — М-* I I <Pi (a~lz~lzrlyzoza)dz1 dz01 ada dz. A7) J J 1\ I Z / 1 Z I A\Z A\Z Ввиду коммутативности группы Z подынтегральное выраже- выражение от z не зависит. Поэтому, интегрируя по z, мы полу- получаем z\ ada. A8) s] § 6. ОТДЕЛЕНИЕ ДИСКРЕТНОЙ ЧАСТИ СПЕКТРА 147 Перейдем в этом выражении от матричной записи к за- записи через элементы. Подгруппа А является бесконечной циклической. Таким образом, элементы у ? Д имеют вид v=U ij- где. а фиксировано, а п пробегает целые числа. Для про- простоты будем считать, что а= 1. Тогда имеем 1 0\ /10' A9) Введем функцию одного переменного 0\ /1 0\ где 2=1 )• Тогда выражение A8) можно переписать \х \ J в следующем виде: N +оо Г 1  / = f ^ U (ла2) — J ч|> ((п 4- z) a2) dz a da, B0) 0 п = — оо L 0 J где ty(x)—финитная бесконечно дифференцируемая функция. Итак, нужно доказать сходимость интеграла B0). По- Поскольку ), 0 то имеем •ф {па?) — J -ф ((я -f- z) a2) dz = — а|/ ( (п ~f- 9;) а2) &па2, о где о<ел<1, о<е;< i. Таким образом, интеграл B0) мажорируется интегралом N +оо Л == I "zj | х\>' ( (п Н~~ Од)а2) Iа3 do- B1) 0 /1=-оо 10*
148 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Так как функция i|/ (х) финитна, то суммирование в B1) ведется фактически лишь по тем п, для которых \п-\-д'„\а2 <С С, где С — некоторая константа. Следова- Следовательно, а потому N Ix <; J C,a da < oo. о Тем самым доказано, что след оператора странстве nji конечен. в подпро- подпроДОБАВЛЕНИЕ К ГЛАВЕ I АРИФМЕТИЧЕСКИЕ ПОДГРУППЫ ГРУППЫ в ВЕЩЕСТВЕННЫХ УНИМОДУЛЯРНЫХ МАТРИЦ 2-го ПОРЯДКА 1. Определение арифметической подгруппы. Здесь будут разобраны примеры дискретных подгрупп группы G вещественных унимодулярных матриц 2-го порядка. Среди всех дискретных подгрупп группы G наиболее интересными и важными являются арифметические подгруппы. Дадим их определение. Пусть g—>T(g) — какое-нибудь конечномерное пред- представление группы G. Рассмотрим совокупность всех элемен- элементов g ? О, которым отвечают целочисленные матрицы Т (g). Нетрудно убедиться, что эти элементы g образуют диск- дискретную подгруппу группы G. Все получающиеся таким спо- способом дискретные группы, а также все их подгруппы ко- конечного индекса, мы будем называть здесь арифметическими подгруппами. Простейшим примером арифметической подгруппы группы G является группа Г всех целочис- целочисленных матриц m22/ Ее называют модулярной группой. ДОБАВЛЕНИЕ К ГЛ. I 149 В п. 4 будут приведены другие примеры дискретных подгрупп — так называемые кватернионные группы. Из ре- результатов А. Вейля вытекает, что модулярной и кватерни- онными группами, а также их подгруппами конечного ин- индекса, исчерпываются все арифметические подгруппы груп- группы О. Данное определение арифметической подгруппы несколько от- отличается от общепринятого. Приведем общепринятое определение арифметической подгруппы произвольной полупростой группы Ли. Предварительно введем понятие линейной алгебраической группы. Рассмотрим группу всех невырожденных матриц «-го порядка над полем комплексных чисел и некоторое конечное множество полиномиальных соотношений между элементами матриц. Выделим совокупность всех матриц, удовлетворяющих этим соотношениям. Если эта совокупность матриц образует группу, то эта группа на- называется линейной алгебраической группой. Если коэффициенты полиномов принадлежат полю рациональ- рациональных чисел, то говорят, что группа определена над по- полем рациональных чисел. Обозначим эту группу через G, понимая под G не множество точек, а множество полиномиальных соотношений. Если k — любое коммутативное кольцо над полем рациональ- рациональных чисел, то через Gk мы будем обозначать множество матриц с элементами из k, удовлетворяющих этим соотношениям, таких, что их определитель есть единица кольца. Арифметической подгруппой полупростой группы Ли G (R — поле вещественных чисел) называется любая дискретная под- подгруппа, получаемая следующей конструкцией. Пусть Gg гэ Gg — произвольная полупростая группа Ли, со- содержащая G„ в качестве подгруппы и являющаяся прямым про- произведением G'r = Or X К группы GR и компактной группы К- Возьмем в G'R произвольную дискретную подгруппу Г', соизмеримую с G'z, где Z — кольцо це- целых чисел. (Это означает, что Г' f\G'z имеет конечный индекс в G'z и в Г'.) Пусть Гс(/^ — проекция группы Г' при естественном отображении G'R -> GR. Все получаемые так подгруппы Г и назы- называются арифметическими подгруппами группы G „. 2. Модулярная группа. В этом пункте мы построим фундаментальную область модулярной группы Г и докажем, что эта область имеет конечный объем.
150 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА [2 Мы знаем из § 1, п. 2, что однородное пространство X =Г \G можно интерпретировать как пространство ли- линейных элементов некоторой римановой поверхности 3. Постараемся описать эту риманову поверхность. Напом- Напомним, что согласно п. 2, поверхность 3 строится следую- следующим образом. Рассматривается полуплоскость Im z >• 0 пло- плоскости z; на ней рассматриваются все дробно-линейные пре- преобразования, отвечающие элементам у ? Г. Если отождест- отождествить между собой точки z, переходящие друг в друга при этих преобразованиях, то мы и получим искомую поверх- поверхность 3. Чтобы явно описать эту риманову поверхность, мы по- построим фундаментальную область группы Г на полуплоско- полуплоскости Im z >• 0, где эта группа действует как группа дробно-линейных преобразований. Рассмотрим на полу- полуплоскости область 3, задаваемую следующими неравенствами: или, что равносильно, неравенствами |*|>1. \z-\-l\>\z\, z—l\>\z\ B) -ir о -h- Рис. 3. (рис. 3). Покажем, что эта область является фундаментальной областью относительно модулярной группы Г. Сначала покажем, что любую точку полуплоскости можно перевести в 3) некоторым преобразованием из Г. Пусть z — произвольная точка полуплоскости Im z > 0. Рассмотрим на плоскости решетку, образованную точками w = tnz -f- п, где тип пробегают всевозможные целые числа. Выберем из точек решетки ближайшую (в смысле обычного евкли- довского расстояния) к точке 0. Пусть это будет точка ДОБАВЛЕНИЕ К ГЛ. I 151 (рис. 4). Затем рассмотрим точки решетки, не лежащие на прямой, проходящей через 0 и wv и среди них снова вы- выберем точку, ближайшую к 0. Пусть это будет точка w2 = ntuz-\-m21. Согласно определению точек wY, w2, в треугольнике с вершинами 0, ¦и»1, w2 не содержится ни одной точки ре- решетки, отличной от вершин этого треугольника. Отсюда сразу следует, что и в параллелограмме с вершинами 0, wx, w2, w1-\-w2 также не содержится ни одной точки ре- решетки, отличной от вершин этого параллелограмма*). Покажем, что Для этого достаточно убедиться, что любая точка решет- решетки w, в том числе 1 и z, является целочисленной линей- линейной комбинацией •и»1 и чю2- Представим w в виде w = a1w1 -j- a2w2, где Cj, a2 — вещественные числа. Нам нужно доказать, что на самом деле а1г а2 являются целыми числами. Предста- Представим эти числа в виде i, г2 < 1. Очевидно, что где mv т2 — целые числа и 0 точка tso' = w — m1wi — m2w2 = rxwx -j- r2w2 *) В самом деле, если бы в треугольнике с вершинами wu w2, wl-\-w2 имелась бы еще одна точка w решетки, то существо- существовала бы еще Одна точка решетки и в треугольнике с вершинами О, wit w2, а именно, точка w{-\-w2 — w.
152 ГЛ. J. ОДНОРОДНЫЕ ПРОСТРАНСТВА также является точкой нашей решетки. Но эта точка при- принадлежит параллелограмму с вершинами 0, wv w2, wx -\- w2. Следовательно, w' = 0, т. е. w= mlw1 -j- nt2w2. Итак, доказано, что тпт22— ml2tn21=^ ±1. Меняя в слу- случае необходимости знаки у что т 12 и т22, мы можем считать, 1 тпт22 — т12т21 Рассмотрим теперь точку z' — El. — r»-llz~\-m2x wx mi2z -\- m22 Покажем, что она принадлежит SB. В самом деле, из опре- определения точек wx, w2 следует, что I^I^H^ll' \W2-\~Wl\^>\W2\' \W2 ^1 I ^ I ^2 I • Деля все эти неравенства на \wi\, получаем, что > 1. ' + 11 > т. е. z' действительно принадлежит 3). Итак, мы доказали, что преобразованиями из Г любую точку полуплоскости Im z > 0 можно перевести в замыка- замыкание SB области SB. Теперь посмотрим, какие точки из 3) могут быть пере- переведены друг в друга преобразованиями из Г. Мы покажем, что единственными парами таких точек являются точки границы области 3>, симметричные относительно мнимой оси; этим будет доказано, что 3)—фундаментальная область. Пусть точка zx = xx -\-iy\ из 3) переводится в другую точку z2 = Xi —j- iyi из 3) некоторым преобразованием у из Г: z «пг.+т» _ C) m\2zi + т22 Наша цель — доказать, что точки Z\ и z2 лежат на гра- границе области 3) и что ух = у2. Не нарушая общности, можно предполагать, что y2^3>i- Покажем сначала, что у2 -^ ух, отсюда будет следовать, что у2 = yv Для этого воспользуемся равенством "- У1 г-*- D) 21 ДОВАВЛЕНИЕ К ГЛ. I 153 которое следует непосредственно из равенства C). Докажем что \ml2Zi-\-т22\~^ \. В самом деле, имеем ^22- \<-2> то Поскольку для точек zx из SBX х\-\-у\'^-\ и | хх получаем отсюда, что I fnl2z1 -f- tn22 I2 ^ /га|2—| -J- т\2 ^> 1 (за исключением случая т12 = т22 = 0, который фактически и не может встретиться, так как тпт22 — — /re12/re2i:==l)- Итак, \ml2zl-\-т22\2 ^ I. Тем самым на основании D) доказано, что у2<^У]. Но мы заранее предполагали, что у2 ^> У\, следовательно, уг = у2. Теперь покажем, что точки. zx = хх -\- /у: и z2 — x2-{- iyz принадлежат границе области 36. В самом деле, так как ух = у2, то мы имеем на основании D) {т12хх + rn22f + т\2у\— 1. Перебирая снова все возможные значения т12, т22, хх, ух, легко убеждаемся, что это равенство имеет место лишь в следующих трех случаях: /»12=±1. т22 = О, 2) /ге12= :х = ± ~ (знак х1 противо- положен знаку произведения тХ2т22), ух = r^ , 3) ffti2 == 0, w22 = i I. В первых двух случаях точка zx лежит на окружности |2|=1, т. е. на границе области 3). В третьем случае должно быть также /ии=±1, а потому z2 выражается через 2, следующим образом: z2= гг-{- п, где п—целое число (пфО). Но тогда \z2 — zx\~^>\. Оче- Очевидно, что это возможно лишь в случае, когда точки zx и z2 лежат на вертикальных кусках границы области 3>. Итак, доказано, что область 3), изображенная на рис. 3, действительно является фундаментальной областью относи- относительно модулярной группы Г.
154 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА Тем самым мы описали риманову поверхность, связанную с модулярной группой Г. Именно, доказано, что этой по- поверхностью является замыкание 3) области 3), причем точки границы области 35, симметричные относительно мнимой оси, считаются отождествленными. Таким образом, эта риманова поверхность гомеоморфна сфере с одной выколотой точкой (отвечающей бесконечно удаленной точке на 3>). Мы покажем, что площадь неограниченной области 3) конечна и вычислим эту площадь. По определению, элемент площади dv на полуплоско- полуплоскости Im z > 0 должен сохраняться при конформных преоб- преобразованиях полуплоскости. Из этого условия мы легко по- получаем, что с точностью до постоянного множителя, инва- инвариантный элемент площади dv на полуплоскости Im z >¦ О выражается следующей формулой: Следовательно, площадь S C) области 3> выражается по формуле J 3> Вычисляя этот интеграл, получаем, что Итак, доказано, что фундаментальная область 3> груп- группы Г на полуплоскости Im z > 0 имеет конечную площадь. Отсюда непосредственно следует, что и на группе О фун- фундаментальная область подгруппы Г имеет конечный объем. В самом деле, эту фундаментальную область можно реали- реализовать как пространство линейных элементов на ?В. 3. Некоторые подгруппы модулярной группы. В этом пункте будут изучены некоторые важные классы подгрупп конечного индекса модулярной группы Г. Пусть га—фиксированное натуральное число, «> 1. Рассмотрим кольцо Zn классов вычетов по mod п. Усло- Условимся класс вычетов, которому принадлежит заданное це- целое число о, обозначать через а*. 3] ДОБАВЛЕНИЕ К ГЛ. I 155 Обозначим через Г* группу всех унимодулярных матриц a d* с элементами из кольца Zn вычетов по mod га. Имеет место естественный гомоморфизм Ь\ -а* Ь*\ а d и О) модулярной группы Г в Г*. Ядро Т'п этого гомоморфизма называется главной конгруэнцподгруппой степе- степени га. Очевидно, что группа Г^ состоит из всех целочис- целочисленных унимодулярных матриц у, представимых в виде где е — единичная матрица, у' — целочисленная матрица. Докажем, что отображение A) является отобра- отображением на всю группу Г* и, следовательно: Г/Г' « Г* (а* Ь*\ Доказательство. Пусть Y* = ( * w* —произволь- ная матрица из Г*, и пусть а, Ъ, с, d — произвольно вы- выбранные элементы из соответствующих классов вычетов а*, Ь*, с*, d*. Тогда имеем ad — be ^ 1 (mod n), т. е. ad — — be = 1 -f- тп, где т — целое число. Очевидно, что об- общий наибольший делитель (с, d) чисел с и d взаимно прост с га. Поэтому найдется такое q, при котором числа с и d-\-qn будут взаимно просты. Не нарушая общности, можно предполагать с самого начала, что (с, rf)=l. Рассмотрим матрицу i'a-\-rn b-\-sn'' У^ { с d Ее определитель равен ad — be -f- га (rd — sc) = 1 -f- n (m — — rd — sc). Поскольку числа due взаимно просты, мы можем так подобрать целые г и s, чтобы было т — rd — — sc = O, т. е. чтобы матрица у была унимодулярной. Тем
156 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА самым доказано, что любая матрица у* ? Г* имеет прообраз в группе Г. Вычислим индекс Г : Г^ подгруппы Г^ или, что равно- равносильно, порядок | Г* J группы Г*. Мы покажем, что B) где произведение берется по различным простым делите- делителям р числа га. Пусть р — простой делитель числа га. Тогда существует естественный гомоморфизм Zn —> Zn/P кольца вычетов по mod re на кольцо вычетов по mod — . Этот гомоморфизм индуцирует гомоморфизм соответствующих групп Г* > Г* 1 п ^ L nip- Обозначим через /„r p ядро этого гомоморфизма. Тогда имеем Следовательно, если мы найдем порядок \1п,р\ группы /„; р, то элементарной индукцией по числу простых сомножителей числа п мы вычислим и порядок I Г* | группы Г*. Итак, вычислим порядок группы /П; р. Очевидно, что группа матриц fn>p состоит из всех матриц у*?Г*, предста- вммых в виде Иными словами, элементами группы /„_ р являются матрицы вида 7' '¦ П d где а, Ъ, с, d— элементы кольца вычетов по той р. По условию, определитель таких матриц равен 1 (mod га) т. е. ~(ad~bc)=zl (mod я). з] ДОБАВЛЕНИЕ К ГЛ. I 157 Вычитая 1 и сокращая на п/р, мы получаем отсюда = 0 (mod p). C) Порядок группы /„_ р равен числу решений этого сравнения. Рассмотрим два возможных случая. Случай 1. п/р делится на р. В этом случае равен- равенство C) принимает вид a-j-d^0(mod p). Таким образом, в этом случае а, Ь, с могут быть любыми классами вычетов по mod p, а элемент d однозначно выра- выражается через а. Следовательно, в этом случае порядок группы /„ р равен р3. Случай 2. Числа р и п/р взаимно просты. В этом случае запишем равенство C) в виде (mod/»). В случае 1-| dфO (mod p) элементы Ь, с могут быть любыми, а элемент а однозначно выражается через Ь, с, d. Следовательно, число элементов группы Iп> /?, удовлетворяю- удовлетворяющих условию 1 -j d ф. О, равно р2 (р—1). В случае 1 -f- — rf^O (mod p) произведение be принимает фиксиро- фиксированное значение, не равное нулю, а элемент а—произволен. Следовательно, число элементов группы /„_ р, удовлетворяю- удовлетворяющих условию 1 -| d^O (mod p), равно (р—1)/>- Таким образом, общее число элементов группы In, p равно Итак, установлено, что !р, п I = Л - если — делится на р, п , если — не делится на р.
158 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА На основании равенства | Г* | = | I „t р | | Г*; j непосредственно получаем индукцией по числу простых множителей числа га искомую формулу где произведение берется по различным простым делителям р числа га. Полученный результат можно использовать для вычи- вычисления площади v фундаментальной области на полуплоско- полуплоскости Im z > 0 относительно подгруппы Г^. Для этого воспользуемся следующим очевидным замеча- замечанием. Пусть Г' — дискретная подгруппа группы биГ" — под- подгруппа конечного индекса группы Г'. Тогда, если F'— фун- фундаментальная область относительно Г', то фундаментальной областью Г" является объединение множеств yF', где у пробегает по одному представителю каждого класса смежности Г" \ Г'. Отсюда следует, что площади v^>, vF" фундаментальных областей относительно подгрупп Г' и Г" связаны соотношением vT- = [Г" : Г"] vT>, где [Г' : Г"] — индекс подгруппы Т" в группе Г'. В п. 2 было установлено, что площадь фундаментальной области относительно модулярной группы Г равна л2/3. Сле- Следовательно, на основании формулы B) заключаем: площадь v , области относительно конгруэнцпод- фундаментальной группы Г„ равна (произведение берется по всем простым делителям р числа га). Укажем еще один класс подгрупп модулярной группы Г. Обозначим через Г„ совокупность матриц из Г вида а пс пЬ d ДОБАВЛЕНИЕ К ГЛ. I 159 где а, Ь, с, d — целые числа. Очевидно, что Г„ является группой и что Г„гэГ^. Вычислим индекс Г : Г„ подгруппы Г„ в группе Г. Для этого заметим, что фактор-группа Гп/Г^ изоморфна группе всех диагональных унимодулярных матриц 'а* 0 \ i4 0 d* где a*, d* — элементы кольца вычетов по mod га. Число таких матриц равно, очевидно, числу ср (га) натуральных чисел х<га, взаимно простых с га. Как известно где произведение берется по всем простым делителям р числа га. Следовательно, имеем [г„: г;] = Но тогда Г • г Р На основании этого результата получаем, что площадь г>гл фундаментальной области относительно подгруппы Г„ равна где произведение берется по всем простым делителям р числа га. ^ Наконец, отметим еще подгруппы Г„ модулярной группы Г, состоящие из матриц вида a где а, Ъ, с, d — целые числа. Рассуждениями, аналогичными приведенным выше, легко убеждаемся, что
160 ГЛ. Г. ОДНОРОДНЫЕ ПРОСТРАНСТВА ДОБАВЛЕНИЕ К ГЛ. I 161 где, как и раньше, произведение берется по всем простым делителям р числа га. 4. Кватернионные группы. В пп. 2 и 3 мы разобрали примеры арифметических подгрупп Г, для которых простран- пространство X = F\G имеет конечный объем, но не компактно. В этом пункте будет построен еще один класс арифметиче- арифметических подгрупп группы G—так называемые кватерниоиные группы. Будет доказано, что для этих групп пространство X = Г \ G является компактным. Кватернионные группы мы построим на основании некоторых алгебраических сообра- соображений. Вначале опишем один класс алгебр над полем рациональ- рациональных чисел. Рассмотрим алгебру А над полем рациональных чисел с базисом 1, а, р, у, где 1 обозначает единицу алгебры, а а, р и у связаны соотношениями Y = ap = —pa, a2=a, р2 = й, A) где а и b — целые положительные числа. Таким образом, произвольный элемент алгебры А имеет вид х = х0 4- хга + *2Р -Ь х3у, B) где х0, х-у, х2, х3 — рациональные числа. В случае, когда А является алгеброй с делением, ее часто называют алгеброй обобщенных кватернионов или просто алгеброй кватернионов. Мы также воспользуемся здесь этой терминологией. Вначале покажем, что каждому элементу х алгебры А можно взаимно однозначно сопоставить вещественную ма- матрицу gx, так, что ёх i ёу ёх \- у В самом деле, положим ё ху ёхёу ¦ х2 аЬ \ ) Проверка соотношений C) предоставляется читателю. Определитель матрицы gx равен хо — Х1а - Х\Ь + xlab- C) D) E) I Выражение E) принято называть нормой элемента х и обозначать через N(x). Очевидно, что Роль нормы N (х) видна из следующей теоремы. Если )=0 только при д: = 0, то алгебра А является алгеброй с делением. Обратно, если А — алгебра с де- делением, то N (х) = 0 только при х — 0. Доказательство. Пусть N(x)^0. Тогда элемент является, как легко видеть, элементом, обратным кх. Обратно, если А — алгебра с делением, то N (х) N(x~1)= 1 и, зна- значит, N (х) ф 0. Приведем пример алгебры с делением. Пусть b — простое число, а — произвольное число, не являющееся квадратичным вычетом по mod b (т. е. сравнение х2 == a (mod b) не имеет решения в целых числах). Покажем, что тогда алгебра А, определенная соотноше- соотношением A), является алгеброй с делением. В самом деле, в противном случае существовал бы элемент х Ф 0 алгебры А с нормой F) — ах\ — bx\ -j- abx\ = 0. Не нарушая общности, можно считать, что х0, хи лг2. -*з — целые числа, не имеющие общего делителя. Из равенства F) следует, что л2, = ах\ (mod b); следовательно, поскольку а — квадратичный невы- невычет по mod b, целые числа х0, х1 должны делиться на Ь. Но тогда снова из равенства F) следует, что х\ =э ах\ (mod b), а потому х2 и х3 также делятся на Ь. Это противоречит предположению, что числа х0, хи х2, х3 не имеют общего делителя. Перейдем к определению кватернионной группы. Пусть А — кватернионная алгебра с делением. Рассмотрим сово- совокупность Г матриц gx с определителем 1, у которых х0, xlt х2, х3—целые числа. Очевидно, что Г является группой. Покажем, что группа Г дискретна. Для этого достаточно указать окрестность единицы в группе G всех вещественных унимодулярных матриц 2-го порядка, в которой нет элементов группы Г, отличных от еди- единицы. Такой окрестностью, например, является совокупность 11 И. М. Гельфанд и др.
162 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА матриц вида где В самом деле, предположим, что в этой окрестности лежит матрица gx ? Г, т. е.^1атрица с элементами gn = jc0 —j— хг У~а, — хг У а, где х0, хг, х2, х3— целые числа. Из неравенств следует, что | gu +Jf22 — 2 |< 1, |fls-|-fti|<l. т.е. | 2х0 — 2 | < 1, j 2х2 УЬ | < 1. Следовательно, х0 = 1, х2 = 0. Далее, из неравенств | gn — 1 | < -^ , | g12 | < -i получаем, что лг1 = х3 = 0. Таким образом, gx — единичная матрица. Мы покажем, что фактор-пространство Г \ G ком- компактно. Вначале покажем, что для каждой матрицы g с определителем 1 существует матрица gx с целыми х0, хг, х2, дг3, но не обязательно с определителем 1 такая, что gxg принадлежит некоторой фиксированной компактной области. Заметим, что при фиксированной матрице g элементы матрицы gxg являются линейными формами 1^ от х0, хг, х2, х3. Нетрудно подсчитать определитель этой системы ли- линейных форм. Он равен Aab. Следовательно, по лемме Мин- Минковского существуют такие числа х0, xlt x2, х3, не все рав- равные нулю, что \tij\<^.clj, где ctj—произвольно выбранные положительные константы, произведение которых равно Aab *). Обозначим через F совокупность вещественных матриц g, для которых | gtj | -<; 0^. Мы доказали, что для любой ве- вещественной матрицы g с определителем, равным 1, существует матрица gx, Где х—целый кватернион, такая, что gxg^,F. Само множество F еще не компактно. Однако мы сейчас покажем, что gxg принадлежит фактически некоторому ком- компактному подмножеству множества F. *) Формулировка и доказательство леммы Минковского приве- приведены в конце этого Добавления на стр. 164. Нужное нам утверждение получается, если применить лемму Минковского к параллелепипеду | In | < сц, i, j — 1, 2, в четырех- четырехмерном пространстве. ДОБАВЛЕНИЕ К ГЛ. I 163 Мы имеем dei (gxg) — det gx=^N (x). Воспользуемся тем, что А — алгебра с делением, и значит, det gx = N (х) Ф 0. Так как, кроме того, N (х) — целое число, то det(gxg) есть целое число, отличное от нуля. Обозначим через Fm, т=Ф=0, совокупность элементов g^F с определителем, равным т. Ясно, что Fm компактно и что при достаточно большом | т \ множество Fm пусто. По доказанному, gxg принадлежит объединению множеств Fт, т =/= 0, т. е. принадлежит ком- компактному множеству. Итак, доказано, что для каждой унимодулярной матрицы g существует целочисленная, но не обязательно унимодулярная матрица gx, такая, что gxg принадлежит компактному мно- множеству. Для завершения доказательства компактности Г\О остается доказать следующую лемму. Лемма. Условимся называть целые кватернионы х и у эквивалентными, если ху~г — целый кватернион с нормой, равной 1. Тогда совокупность целых кватер- кватернионов с нормой т состоит из конечного числа клас- классов эквивалентных кватернионов. Доказательство. Каждому целому кватерниону х (N (х) = т) сопоставим матрицу ах четвертого порядка, являющуюся матрицей преобразования у -> ух, записанного в базисе A). Легко убедиться, что ах является целочислен- целочисленной матрицей с определителем т2. Известно, что среди целочисленных матриц порядка га с заданным значением определителя Л существует конечное число матриц аг, ... ар таких, что любая матрица с опре- определителем Д имеет вид aka, где а — некоторая унимодуляр- унимодулярная целочисленная матрица *). Таким образом, среди *) Это вытекает из следующего легко проверяемого утвержде- утверждения. Любую целочисленную невырожденную матрицу а можно умно- умножением на подходящую целочисленную унимодулярную матрицу а привести к следующему виду: гап 0 ... 0 а21 а22 ... 0 аа — гле аП1 аП2 • • ¦ аПП 4 < | аи | при j < i; i, j =1, ..., л. IX*
164 ГЛ. I. ОДНОРОДНЫЕ ПРОСТРАНСТВА матриц ax.(N(x) = т) существуют матрицы ax(N (х) = т) такие, что любая матрица ax.(N(x)—m) равна ад: .а, где а — целочисленная унимодулярная матрица. Так как отображение х —> ах переводит произведение ква- кватернионов в произведение соответствующих матриц, то а= ах-\х. Из целочисленности а следует, что кватернион xj~lx является целым. Доказательство закончено. Лемма Минковского. Пусть задана решетка в п-мер- ном пространстве, т. е. совокупность точек (li, ..., /„), Ц = л = 2 hjtij, где lij — фиксированные вещественные числа, a tij про- пробегают все целые числа; предполагается, что определитель I hj\1 / = i = A отличен от нуля. Тогда любое выпуклое цен- центрально-симметричное тело с центром в точке О, имеющее объем v ^ 2"Д, содержит по крайней мере две (симметричные относительно центра) точки этой решетки. Доказательство. Пусть имеется выпуклое тело U с цен- центром в точке О, не содержащее никаких других точек решетки, кроме точки О. Уменьшим это тело линейно вдвое, применив пре- преобразование подобия с центром в точке О, полученное тело обо- обозначим через Uo. Построим тела, равные Ua и расположенные параллельно Ua вокруг всех точек нашей решетки как центров. Покажем, что построенные тела не имеют общих точек. В самом деле, предположим, что два таких тела UA, Uв с цен- центрами соответственно в точках А и В решетки имеют общую точку С. Проведем прямые СА и СВ и построим параллело- параллелограмм С АС В (рис. 5). Пусть D — точка, симметричная С относи- относительно точки А. Эта точка принадлежит телу UА (поскольку А является центром симметрии тела U., но тогда, поскольку тела U ДОБАВЛЕНИЕ К ГЛ. I 165 и U' равны и параллельно расположены, точка С должна при- принадлежать телу U. Поскольку тело Ug выпукло, то середина Е отрезка С С также принадлежит ?/_. Аналогично убеждаемся, что точка Е принадлежит и телу U.. Итак, доказано, что если два тела с центрами в точках решетки А и В имеют хотя бы одну общую точку, то середина отрезка АВ также является их общей точкой. Но это противоречит предположению, что исходное тело U не содержит никаких точек решетки, кроме своего центра. Поскольку построенные тела с центрами в точках решетки не пересекаются, то, как нетрудно убедиться, объемы их меньше объема Д основного параллелепипеда решетки. Но тогда объем исходного тела U меньше, чем 2"V. Итак, если выпуклое тело с центром в О не содержит никаких точек решетки, кроме точки О, то его объем меньше, чем 2ЛД, где Д — объем основного параллелепипеда решетки. Следовательно, если выпуклое тело U с центром в О имеет объем v ^ 2ЛД, то оно обязательно содержит, кроме О, еще по крайней мере две точки решетки.
ГЛАВА II ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ 2-го ПОРЯДКА С ЭЛЕМЕНТАМИ ИЗ НЕПРЕРЫВНОГО ЛОКАЛЬНО КОМПАКТНОГО ПОЛЯ В этой главе изучаются представления группы G унимо- дулярных матриц 2-го порядка с элементами из непрерыв- непрерывного локально компактного поля f(. Полное описание всех таких полей хорошо известно (см. § 1). В §§ 3 и 4 строятся неприводимые унитарные предста- представления группы G. Операторы представлений Т (g) будут задаваться своими ядрами, являющимися обобщенными функциями. Спраши- Спрашивается, каков запас функций, из которых составлены эти ядра. Основную роль играют два типа функций на локально компактном поле — аддитивные характеры, являющиеся обоб- обобщением показательной функции и мультипликативные харак- характеры, являющиеся обобщением степенной функции. Аддитивным характером на поле К называется непре- непрерывная комплекснозначная функция х(х)< удовлетворяющая условию X (х -Ь у) — X О) X (у) для любых элементов х и у из К- В случае поля вещественных чисел эти функции имеют вид i(x) — eax, где а—комплексное число; в случае поля комплексных чисел z = х -f- iy они имеют вид х i.z) = еах+^у, где а, р—комплексные числа. Мультипликативным характером на К называется непре- непрерывная комплекснозначная функция п(х) на ЛГ\О, удовле- удовлетворяющая условию л (ху) = л (х) л (у) ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 167 для любых элементов х Ф 0, у Ф О из К- В случае поля вещественных чисел эти функции имеют вид л (х) = | х \а, либо вид л (х) = | х \а sign х, где а—любое комплексное число; в случае поля комплексных чисел z — re'f они имеют вид л (z) = raein(f, где а — комплексное, п — целое число. Все богатство функций, нужных в теории представлений (Г-функция, В-функция, функции Бесселя, гипергеометри- гипергеометрическая функция), составляется из аддитивных и мульти- мультипликативных характеров рациональными преобразованиями независимых переменных и интегрированием по параметрам. В частности, мы увидим в § 3, что ядра операторов непри- неприводимых унитарных представлений группы G выражаются через функции Бесселя, либо, после перехода к другому базису в пространстве представления, через гипергеометри- гипергеометрическую функцию. У группы G имеется несколько серий неприводимых унитарных представлений. Одна из этих серий («непрерыв- («непрерывная серия») связана с основным полем К; каждая из осталь- остальных («дискретных») серий связана с некоторым квадратич- квадратичным расширением поля К- Таким образом, если f(—поле комплексных чисел, то серия только одна (так как поле комплексных чисел не может быть расширено), если К—поле вещественных чисел, то имеется две серии представлений (так как у поля вещественных чисел имеется одно квадра- квадратичное расширение), если К— несвязное поле, то имеется четыре серии представлений (так как у несвязного поля имеется три квадратичных расширения) *). Внутри каждой серии представление задается некоторым мультипликативным характером. Именно, представление не- непрерывной серии задается мультипликативным характером л на К, при этом характерам л и л отвечают эквивалентные представления. Представление дискретной серии, отвечающей квадратичному расширению К(\^*) поля К, задается харак- характером на «единичной окружности» в K(\f-f), т. е. на мульти- мультипликативной группе элементов t = х -\-~\f т у, для которых tt^x2—ху2=\. При этом характерам л и я снова от- отвечают эквивалентные представления. *) За исключением некоторых особых случаев, когда число квадратичных расширений поля К больше трех (см. § 1).
168 гл. ir. группа матриц из л ок. компактного поЛЯ Таким образом, имеется полная двойственность между неприводимыми представлениями группы G и «картановскими подгруппами» группы G: каждое неприводимое представление группы G задается характером на одной из картановских подгрупп. Отметим, что при построении представлений дискретной серии наблюдается следующий интересный факт: эти пред- представления реализуются не в пространстве всех функций, на Л", а в пространстве функций, граничных к аналитическим функциям. (В случае несвязного поля понятия (комплексно- значной) аналитической функции не существует. Тем не менее можно естественно определить понятие функции, «граничной к функции, аналитической в верхней полуплоскости», см. § 2, п. 8.) В § 5 будут вычислены следы (характеры) неприводимых представлений. Для них будет получена единая формула, не зависящая от структуры поля f(. Именно, мы увидим, что след представления непрерывной серии, отвечающего характеру n(t), выражается следующей формулой: к где "kg, "kg1 — собственные значения матрицы g, а 6(t)— дельта-функция. Представления «дискретной» серии, отвечающей квадра- квадратичному расширению ^(jAc) поля К, удобно объединять в пары. При этом оказывается, что след суммы родственных представлений дискретной серии выражается следующей формулой: Тг7\, 1 (tr\ — 2 I ¦n(t)d*t. Смысл обозначений 11 | и signT t в случае несвязного поля К будет разъяснен в § 1. В § 6 будет получена формула Планшереля, дающая разложение регулярного представления группы G на пред- представления непрерывной и дискретной серий. Именно, отнесем каждому из представлений Tn(g) этих серий оператор § 1. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 169 где /—функция на G с интегрируемым квадратом. Тогда имеют место формула обращения / («О = / И (л) Тг (Гя (/) Тпх («¦)) dn и формула Планшереля / I / (g) I2 dg = J ц (rt) Tr (Гл (/) Г; (/)) dn. Будет доказано, что входящая в эти формулы «мера План- Планшереля» \i (л) может быть задана следующей единой формулой: IX (я) = с Г л (/) | 1 — * Г2 Л. Здесь в случае представлений непрерывной серии инте- интегрирование ведется по Л", а в случае представлений дискрет- дискретной серии, отвечающей квадратичному расширению К(У"*) поля К, — по единичной окружности tt^x2 — ту2 = 1. Интеграл следует всегда понимать в смысле регуляризован- ного значения. Этот интеграл может быть без труда вычислен в случае. Когда К— поле комплексных или вещественных чисел. Для поля комплексных чисел мы получаем IX (л) = с (р2 + га2), где я (г е i(f>) = г 1*>е in(f>. Для поля вещественных чисел имеем: в случае представлений непрерывной серии р, (л) = ср th —~-, когда я(л?) = | л? |*р, ц (л) = ср cth-2?-, когда л(х) = \х \ip signx; в случае представлений дискретной серии р, (л) = с | га | , когда n(f) = tn, == 1. § 1. Строение локально компактных полей В этом параграфе излагаются в основном хорошо изве- известные результаты о строении локально компактных полей. Часть результатов только формулируется. Их подробное доказательство можно найти, например, в [1] (см. также [59]).
170 ГЛ. П. ГРУППА МАТРИЦ ИЗ Л ОК. КОМПАКТНОГО ПОЛЯ [1 1. Классификация локально компактных полей. Мы будем рассматривать только непрерывные поля (т. е. поля с недискретной топологией) *). Приведем классические при- примеры локально компактных непрерывных полей. 1. Поле R вещественных чисел. 2. Поле С комплексных чисел. 3. Поле Qp /7-адических чисел, где р — любое простое число. Напомним определение поля Qp. Элементами поля Qp являются формальные степенные ряды х A) где k — любое целое (положительное или отрицательное) число, a at — целые числа, удовлетворяющие условию 0 ^С ai <С Р- Таким образом, ряды A) могут содержать любое конечное число членов с целыми отрицательными степенями. со оо — 2 Суммой двух р-адических чисел х — t=k оо и у — 2 btp называется р-адическое число z = 2 ctpl, m = min (k, I), i = m такое, что n 2 2 1 = 1 n = 2 Ci i (mod p"+i) B) для любого целого положительного числа п. (Очевидно, что из соотношения B) коэффициенты сь могут быть последо- последовательно найдены.) Аналогично определяется произведение /?-адических чисел. Окрестностью /?-адического числа оо х = 2 aiPl называется совокупность Un р-адических чисел = S*,i 2 btP1' У которых i-k = a; при г<<га. Нетрудно убе- диться, что относительно этой топологии Q является локально компактным пространством и что операции сложе- сложения и умножения непрерывны в этой топологии. чисел. ) Тем самым мы не рассматриваем здесь поля рациональных 1] § I. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 171 Отметим, что поле Qp можно получить, пополняя поле рацио- рациональных чисел относительно подходяще введенной топологии. Именно, пусть п (г) — степень, в которой простое число р вхо- входит сомножителем в рациональное число г. Число р~п(г) назовем р-нормой числа г. Последовательность рациональных чисел назы- называется фундаментальной, если она фундаментальна в смысле р-нормы. Таким образом, Qp содержит поле рациональных чисел в каче- качестве всюду плотного подмножества. 4. Поле Kp(t) степенных рядов над полем вычетов по модулю р (р — любое простое число). По определению, элементами поля Кр (t) являются степенные ряды оо х = 2 которые могут содержать конечное число членов с отрица- отрицательными степенями t\ коэффициенты этих рядов принад- принадлежат полю вычетов по модулю р. Сложение и умножение двух степенных рядов определяется естественным образом. оо Окрестностью степенного ряда х = 2 а^1 называется сово- i = k купность степенных рядов, у которых все коэффициенты до некоторого фиксированного номера совпадают с at. Теперь приведем описание всех локально компактных (недискретных) полей (теорема Ковальского — Понтрягина). Полем R вещественных чисел и полем С комплекс- комплексных чисел исчерпываются все связные локально ком- компактные поля. Всякое несвязное локально компактное поле харак- характеристики 0 является конечным расширением поля Qp р-адических чисел. Всякое локально компактное поле характеристика р ф 0 является конечным расширением поля Kp(t) сте- степенных рядов над полем вычетов по модулю р. Для полей характеристики р Ф 0 можно сформулировать и более сильный результат. Любое локально компактное поле характеристики р Ф 0 изоморфно полю степен- степенных рядов х= 2 #/.
172 гл. и. группа матриц из лок. компактного поля [2 коэффициенты которых принадлежат некоторому конечному полю характеристики р. Алгебраические операции и топология в этом поле определяются так же, как и в случае поля Кр (t). 2. Норма в К. Введем для произвольного локально ком- компактного поля К понятие . нормы. Для этого рассмотрим меру dx на К, инвариантную относительно сложения: d (x -f- a) = dx для любого а из К- Известно, что такая мера определена на К однозначно, с точностью до постоянного множителя. Пусть д:0 — произвольный элемент из К. Легко видеть, что мера dXox = d (xx0) также инвариантна относительно сложения, а потому она отличается от dx только множи- множителем, зависящим от х0. Обозначим этот множитель через |jco|: dXox = \xo\dx. Тем самым мы ввели в поле К непрерывную функцию \х). Очевидно, что функция | х | обладает следующими свойствами: 1) |дг|>0 при хфО; | 0 | = 0. 2) |*у| = |*|.|у|. Можно показать, что в случае несвязного поля К. выпол- выполняется также следующее свойство: 3) \x-\-y |<тах(|лг|, | у |). Функцию | х | назовем нормой, в К элемента х. Очевидно, что в случае поля вещественных чисел, | х | равно абсолютной величине числа х; в случае поля комплексных чисел | х | есть квадрат модуля числа х. Выясним, какие значения может принимать | х | , х ф 0. Для этого заметим, что отображение х х\ есть непрерывный гомоморфизм мультипликативной группы поля К в мультипликативную группу вещественных положи- положительных чисел. Отсюда легко следует, что в случае связ- связного поля | х | (х Ф 0) пробегает все вещественные поло- положительные числа; в случае оке несвязного поля \х\ (х ф 0) пробегает дискретное множество значений qn, где q—фиксированное число, а «=0, ±1, ±2, ... 31 § I. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 173 Из сформулированного результата следует, что в несвяз- несвязном поле К множество точек х, для которых | х | = с, с >> 0, и множество точек х, для которых | х | < с, с > 0, оба открыты в К- Можно показать, что множества точек х несвязного поля К, для которых | х | << с (где с пробегает положитель- положительные числа), образуют полную систему окрестностей нуле- нулевого элемента. Таким образом, топология в несвязном поле К полностью определяется заданием нормы в К- (Для связных полей последний результат очевиден.) 3. Структура несвязных полей. Используя понятие нормы, опишем детальнее структуру несвязных полей. Пусть К—несвязное поле с нормой \х\. Тогда имеют место сле- следующие факты: 1) Множество О элементов из К, для которых |х|<<1, компактно и открыто в К- Очевидно, что О является под- кольцом. Элементы из О называют целыми элементами поля К- 2) Совокупность элементов х из О, для которых | х \ ¦< 1 образуют простой идеал Р кольца О. Поле вычетов &%" = О/Р состоит из конечного числа q элементов (это число q есть всегда степень некоторого простого числа). 3) Простой идеал Р является главным, т. е. в Р суще- существует такой элемент р, что Р = рО. Норма элемента р задается формулой где q—порядок поля вычетов О/Р. Примеры: 1) К—поле р-адических чисел. В этом оо случае кольцо О состоит из элементов вида 2 aiP1' a его 1=0 оо простой идеал Р—из элементов вида 2 aiPl- Очевидно, что идеал Р порождается числом р. При этом имеем \р\ = р-К 2) К—поле степенных рядов над полем вычетов по модулю р. В этом случае кольцо состоит из элементов оо 2 вида 2 а1*1' а его простой идеал Р—из элементов вида 1 = 0
174 гл. п. группа матриц из лок. компактного поля 2 a it1. Очевидно, что идеал Р порождается элементом t. i-l При этом имеем \t\ = р~х. 3) В мультипликативной группе поля АГ существует эле- элемент е конечного порядка q — 1 (q — порядок поля вычетов ОIP). Очевидно, что |е|=1, т. е. е принадлежит О, но не принадлежит Р. Элементы 0, е, е2, . . ., ед~1= 1 образуют полный набор представителей классов вычетов О/Р. 4) Любой элемент поля К однозначно представим в виде сходящегося ряда х = рп (ао-\- ахр -\- а2р2-\- ¦ ¦ •)• #0?=0, A) где р — образующий элемент идеала Р *), п — целое число, а коэффициенты at могут принимать значения 0, е, е2, ... 4. Аддитивные и мультипликативные характеры поля К. Как алгебраический объект поле АГ выступает в двух пла- планах: оно есть группа по сложению, в то же время множе- множество элементов из АГ, отличных от О, образует группу по умножению. В дальнейшем будем через АГ+ обозначать адди- аддитивную группу поля АГ, а через АГ* его мультипликативную группу. Важнейшими функциями в К являются аддитивные и мультипликативные характеры поля АГ. Позже мы увидим, что на базе этих функций строится теория представлений групп, и в частности теория специальных функций. Аддитивным характером поля К будем называть характер группы К*', т. е. непрерывную комплекснозначную функцию %(х), удовлетворяющую условиям: 1) х (х -f- у) — X (х) X (у) Для любых элементов х, у из АГ; 2) | *) Таким образом, р = /> в случае поля Qp />-адических чисел; в случае же поля Kq (t) степенных рядов над конечным полем имеем р = t (см. примеры выше). Подчеркнем, что в случае поля Qp представление A) не экви- эквивалентно обычному представлению р-адического числа в виде ряда (см. п. 1). Там коэффициенты сц были целыми числами, 0<: at < р, здесь они являются целыми /ьадическими числами такими, что либо af~l = 1, либо at =0. 4] § I. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 175 Мультипликативным характером поля АГ назовем характер ее группы по умножению АГ*, т. е. непрерывную комплекснозначную функцию к(х) на АГ. удовлетворяющую условиям: 1) л (лгу) = л (х) я (у) для любых элементов х и у из К*; 2) |я(*)| = 1. Аддитивные и мультипликативные характеры сами обра- образуют топологические группы. Опишем эти группы характеров. Известно, что группа аддитивных характеров не- непрерывного локально компактного поля К изоморфна его аддитивной группе К+ *). Этот изоморфизм осуще- осуществляется следующим образом. Пусть %(х) ф 1—фиксиро- 1—фиксированный нетривиальный аддитивный характер. Тогда можно показать, что любой характер на /С+ имеет вид где и — некоторый элемент из К- Соответствие и-^*%а(х) и задает искомый изоморфизм групп /С+ и ее группы харак- характеров. Заметим, что в случае поля Qp р-адических чисел любой характер %(их) можно записать в явном виде X (их) = е2я1их. Выражение e2niux имеет следующий смысл. Поскольку e2llin = 1 для любого целого п, то целую часть р-адического числа их мы вправе в показателе отбросить. Такая запись характеров уже не годится, однако, для расширений поля Qp. Переходим к описанию мультипликативной группы АГ* поля АГ и ее группы характеров. Согласно п. 3 (утверждение 5) любой элемент поля пред- представим в виде x = pnek(l-\-a1p-\-a^ +...). A) где р — образующий элемент простого идеала Р (в кольце целых элементов О), а а,- принимают значения 0 либо е'(е?~1= 1). Элементы рп образуют бесконечную циклическую подгруппу группы К*, а элементы ek — конечную подгруппу *) Если поле К дискретно, то группа аддитивных характеров компактна, а потому не изоморфна /С+„
176 ГЛ. И. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ порядка q — 1. Очевидно, что элементы 1 -f- агр -f- a2p2 -}-... также образуют подгруппу группы К , причем эта подгруппа компактна. Заметим, что подгруппа элементов \-\-агр-\- -\-а2р2-\- ... удобно описывается в терминах нормы: эле- элементы х = 1 -f- axp-\- а2р2~{- ... это те и только те эле- элементы поля К, для которых |лг— 1 | < 1. Итак, мультипликативная группа /С поля К есть прямое произведение К* = Z X Z X А трех групп: бесконечной циклической группы Z эле- элементов рп, конечной циклической группы Zq_x порядка q—1 элементов гк и компактной группы А элемен- элементов х, для которых \х— 1|<1. Отсюда можно сделать заключение и о строении группы мультипликативных характеров поля /С- Группа мульти- мультипликативных характеров поля К есть прямое произ- произведение трех групп: группы вращений окружности, циклической группы порядка q—1 и некоторой беско- бесконечной дискретной группы {группа, двойственная А). Таким образом, любой мультипликативный характер я(лг) задается тремя величинами: вещественным числом р, опре- определенным по модулю 1, целым числом а, определенным по модулю q—1, и характером 6 (а) подгруппы А. Он выра- выражается следующей формулой: если х = pnska, B) где а принадлежит А, то aft C) В дальнейшем мы будем также рассматривать и неуни- неунитарные характеры л(х), т. е. непрерывные функции, удовле- удовлетворяющие только условию я(лгу) = я(лг).я(у). Нетрудно убедиться, что любой такой характер я(лг) по-прежнему задается формулой C), в которой р может быть уже любым комплексным числом. § I. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 177 5. Структура подгруппы А. Функции ехр х и In я. В этом пункте мы рассмотрим несвязное поле К характеристики 0. Наша цель — изучить подробнее структуру мультипликативной группы А элементов л: таких, что | х— 1 | < 1. Будет показано, что при не- некоторых дополнительных ограничениях на поле К эта подгруппа изоморфна аддитивной группе Р элементов х, для которых \х\ < 1. Изоморфизм A s Р будет установлен с помощью функций ехр х и In.*:. Эти функции мы определим как суммы степенных рядов: ехр х = 1 -\- х- ln x = x g—Ь ••• Установим, для каких х эти ряды сходятся. Заметим, что поле К является конечным расширением поля Qp- />-адических чисел. Простое число р однозначно определяется полем К'- это — единственное простое число, норма которого \ р\ < 1; нормы всех других простых чисел равны 1. Покажем, что ряд ехр л: сходится тогда и только тогда, р~1 когда \х\ < | р\ Для доказательства оценим сначала |л!|. Пусть р*<; п < pk+l. Тогда, как легко проверить, что степень, в которой входит р сомно- сомножителем в число я!, есть *) Следовательно, 1-Р-* а потому \п\\>\р\Л "-1 . 1 Предположим, что | х \ < \ р | р~1 , т. е. | х \ = Тогда на основании оценки для | п! | получаем хп п\ A) 1+е <\Р\ р'1 ¦ , где е > 0. B) Из этой оценки непосредственно следует сходимость ряда ехр х при | х| *) Символ [а] обозначает целую часть числа а. 12 И. М. Гельфанд н др.
178 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 15 С другой стороны, пусть \х\^\р\р 1. Тогда для n = имеем а потому хп р-1 ту-k \р\р -1 1 Из этой оценки видно, что в случае | х\ >¦ | р \р~1 ряд ехр х рас- расходится. Пусть х принадлежит области сходимости ряда ехр х, т. е. | < | р (р^ . Тогда | ехр х^\ — х\ <\х\. В самом деле, из оценки B) имеем, поскольку п C) Следовательно, дует C). Pd j \х\<\. хп I -^ < | х | при п > 2. Отсюда непосредственно сле- следля \п(\-\-х) сходится тогда и только тогда, когда Если | 1 — у | < | р | Р-1 , то | In у | = | 1 — у \. Проверку этих утверждений мы предоставляем читателю. Без труда доказывается, что функции ехр х и In x обладают обычными свойствами: ехр (xt + х2) = ехр хх ехр х2. In (ххх2) = = In хх -\- In x2 (при условии, что элементы хи х2 лежат в области определения соответствующей функции). Функция у = ехр х осуществляет изоморфное отображение 1_ аддитивной группы В элементов х, для которых \ х \ < | р \ р~г на мультипликативную группу Ах элементов у, для которых |1—У\<\р\р~х ¦ Обратный изоморфизм задается функцией х = In у. В самом деле, пусть х ? В. Тогда для х сходится ряд у = ехр х. Из оценки C) следует, что | ехр х — 1 | = | х |, а потому | 1 — у | < 1. Но тогда сходится ряд In у = In (ехр х). Путем формальной опера- операции над рядами мы убеждаемся, что для любого х из В, In (ехр х) = D) 6) § 1. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 179 Обратно, пусть у?Ах. Тогда ряд х = In у сходится. При этом | In у | = 11 — у \; следовательно, ряд ехр х = ехр (In у) также схо- сходится. Путем формальной операции над рядами убеждаемся, что ехр (In у) —у E) для любого у из Ах. Из D), E) вытекает, что функция у = ехр х осуществляет вза- взаимно однозначное отображение В на Ах. Изоморфизм этого отобра- отображения следует из соотношения ехр (хх -\- х2) = ехрхх ехрх2. Выясним, при каком условии подгруппа Ах совпадает с мульти- мультипликативной группой А всех элементов х поля, для которых Пусть О—кольцо целых элементов в К, Р — максимальный идеал в О, р — образующий элемент идеала Р, 4'~1 = |р| — его норма. Очевидно, что А состоит из тех и только тех элементов х, для которых | 1 —х | <; д~1, причем равенство может также иметь место. Следовательно, условие, что А = Ах записывается в виде 1 q-i < | р\р~1 . F) Пусть \ р\ = Я~^~^• Это означает, что р принадлежит Р5, но не принадлежит Ps. Тогда условие F) перепишется в виде д~х < S-1 <д р~г . Отсюда получаем условие на s: s < р. Сформулируем окончательный результат. Пусть К — несвязное поле характеристики О, О — подкольцо целых чисел из К, Р—максимальный идеал в О, р — характеристика поля выче- вычетов О/Р. Предположим, что число р не принадлежит Рр~1. Тогда мультипликативная группа А элементов поля х, для которых |1—х | < 1, оказывается изоморфной аддитивной группе Р элементов у, для которых | у | < 1. Изоморфизм осуще- осуществляется функцией у = In х. В общем случае это утверждение неверно: подгруппа А может содержать элементы конечного порядка р"; тем самым она не будет изоморфна ни одной из подгрупп аддитивной группы Р (поскольку все элементы группы Р имеют бесконечный порядок). 6. Квадратичные расширения несвязного поля. Пусть х — элемент поля АГ. не являющийся квадратом другого эле- элемента поля. Присоединив к К квадратный корень У х, мы получим квадратичное расширение K\Y т) поля АГ- Элементы поля к(У~х) имеют вид z== x-{-У~х у, где х, у принадле- принадлежат К- Сложение и умножение таких элементов произво- производится обычным образом. Выясним, сколько имеется различ- различных квадратичных расширений у несвязного поля К- 12*
180 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 16 Очевидно, что два квадратичных расширения /с(У~х) и АГ (У~у) поля К совпадают тогда и только тогда, когда отно- отношение лгу есть квадрат в АГ. Иными словами, квадратичных расширений поля АГ столько же, сколько имеется неединич- неединичных классов смежности мультипликативной группы АГ* по подгруппе всех квадратов (АГ*J. Найдем индекс К* : (АГ*J подгруппы (АГ*J- Мы знаем из п. 4, что АГ* есть прямое произведение бесконечной циклической группы Z, конечной циклической группы Zg-i порядка q — 1 и подгруппы А элементов х из К. Для которых I х — 1 I < 1. Поэтому К*: (AT*J = (Z : Z?)x (9 \ / О\ 0 0 О Zq-\ : Zg-i) • {А : А ), где Z , Zq_\, A — подгруппы, со- состоящие из квадратов элементов соответствующих групп. Будем дальше предполагать, что q— нечетное число, т. е. поле вычетов О/Р имеет характеристику рф2. В этом случае Zq_x—циклическая группа четного порядка, а потому Z?_1:Z^_I = 2. Далее, имеем Z:Z2=2. Покажем, наконец, что А = А2, т. е. что для любого а?А уравнение х2 — а имеет решение в Л. В самом деле, пусть а = 1 -f- агр -f- a2p2-\- .... Будем искать решение х уравнения х2=а в виде ряда х = 1 -f- д^р-f- х2р2-\- .... где x-t = 0 или xt = eR (е — элемент из О* порядка q — 1). Равенство х2 = а сводится к системе сравнений х =5 ах (mod Р), Bх2 ~\- х\) р ^ ах -\- а2р (mod Р2) и т. д. Очевидно, что при сделанном предположении о числе q, из этих сравнений можно последовательно найти хх, х2, . . . Итак, мы получаем: если характеристика поля выче- вычетов О/Р отлична от 2, то квадраты элементов х Ф 0 поля К образуют подгруппу индекса 4 мультиплика- мультипликативной группы поля К- Тем самым имеется 3 различ- различных квадратичных расширения поля АГ. Очевидно, что этими квадратичными расширениями являются К (УТ). К (VTp) и к{У~г) *). *) Заметим, что случаи т = ер и т = р неразличимы, поскольку элемент ер может играть роль р. 7] § 1. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 181 Этот результат неверен, когда характеристика поля О/Р равна 2. Например, если само поле К — характеристики 2, то А : Л2 = со. 7. Мультипликативые характеры signt x. Пусть АГ—не- АГ—несвязное локально компактное поле. Будем, как и раньше, предполагать, что связанное с ним конечное поле вычетов О/Р имеет характеристику, отличную от 2. В этом пункте мы сопоставим каждому квадратичному расширению К(У т) поля К некоторый мультипликативный характер singt x на К, принимающий значения ± 1. Итак, пусть к(У~т:)—какое-нибудь квадратичное расши- расширение поля К. Рассмотрим произведения ?i = х2 — ту2 элементов z = х -j- У~ху из К (Уг ) на элементы z = х— У т у, им сопряженные *). Множество элементов zz, z ф 0 образует подгруппу ATt мультипликативной группы К*¦ Очевидно, что подгруппа (АГ*J квадратов элементов из АГ* содержится в ATt- Покажем, что индекс К* "• К* подгруппы К% равен 2. Нам достаточно убедиться, что К*ФК* и К*хф{к*у. Утверждение будет тогда непосредственно следовать из того, что К* ¦¦ (О2 = 4 (см. п. -6). Сначала покажем, что Кхф(к*У- В самом деле, если х = р либо т —ер, то элемент —т. не является квадратом элемента из АГ*, но в то же время принадлежит АГТ. Пусть теперь т = е. Можно показать, что найдутся такие целые элементы х к у, что х2— ey2^e(modF) **). Очевидно, что тогда х2 — еу2 не является квадратом, в то время как х2— еу2 принадлежит ЛС*- Итак, доказано, что АГ*?=(АГ*J- Теперь покажем, что К%ФК*- В самом деле, в случае, когда т=р *) Выражение zz часто называют нормой элемента z относи- относительно К- **) Это вытекает из следующей теоремы. Пусть F — конечное поле, е — элемент поля, не являющийся квадратом; тогда любой элемент ноля х представим в виде х = х\ — tx\, где ль (см. [35]).
182 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ либо т = ер, элемент е не принадлежит Кх- В случае же х = е подгруппе К% не может принадлежать элемент р (в про- противном случае выполнялось бы равенство х'2 — еу2^0 (mod P) для некоторых х Ф О (mod P) и у ф О (mod P), что невоз- невозможно). Итак, доказано, что АГт?=(АГ*J. КхФК • Отсюда следует, что К*: К* = 2. Введем теперь на группе К* функцию signTji;. Положим signt х = 1, * 2 2 когда jc ? Кх> т. е. когда jc представимо в виде х = х\—ххч и signT х = — 1, когда л; не представимо в виде х = х2— хд;^. Из того, что К х есть подгруппа индекса 2 в АГ • непо- непосредственно следует: signT х есть характер на АГ*, т. е. signt (_ху) = signT jc • signt у для любых х и у из К*. Условимся называть элементы л; из АГ, в зависимости от знака signT x, положительными или отрицательными (точнее было бы: т-положительными или т-отрииательными). Можно показать, что функции signT х, где х==р, Ер, е независимы. Поэтому вместе с функцией по(х)^ 1 они обра- образуют полную систему характеров на фактор-группе К*1(К*J- 8. Окружности в к(Уъ). Пусть АгСУЧ)—квадратичное расширение несвязного поля АГ. Множество элементов z из (~ удовлетворяющих уравнению zz = с, с ф О, назовем окружностью в /((У^с) (с центром в точке 0). Заметим, что, в отличие от поля вещественных чисел, имеется два типа окружностей: окружности «вещественного» радиуса, для которых с есть квадрат элемента из АГ. и окруж- окружности «мнимого» радиуса, для которых с не является ква- квадратом. 8] § 1. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 183 Особую роль играет окружность zz = х2 — ху2 = 1. Элементы этой окружности образуют группу по умножению, которую будем дальше обозначать через Сх. Составим параметрическое уравнение окружности — ту2 Введем параметр следует, что х+1 х—\ ==t- уравнения окружности откуда I — xt2 :(*+!)/=. l—xt2 " Итак, окружность х2— ту2= 1 задается следующими параметрическима уравнениями: l+xt2 2t х = 1 — xt* ' A) ~ 1 — xt2 ¦ Покажем, что все окружности компактны. Достаточно рассмотреть только окружность единичного радиуса, поскольку любая другая окружность состоит из точек w=az, где z пробегает окружность zz=\. Оче- Очевидно, что множество точек окружности zz = 1 замкнуто. С другой стороны, из параметрических уравнений A) следует, что |д;|<^1, |у|<С1; следовательно, множество точек окруж- окружности лежит в ограниченной области, а потому оно компактно. Изучим подробнее строение группы Сх элементов z, zz = — х2 — ту2=1. Пусть сначала т=р либо т = гр. В этом случае имеем | х2 | = 1, | ху2\ < 1. Следовательно, | 1 —х2 \ < 1, а потому либо | 1 —х\ < 1, либо I 1 —|— _жг | < 1. Отсюда заключаем: в случае, когда т = р либо т = ер группа Сх есть прямое произведение cx = z2x с; циклической группы второго порядка Z2 = {1, —1} и подгруппы Сх элементов из Сх, для которых \z — 1 | < 1 *). *) Норму на следующей формулой: j z j = | zz j^2. ми определяем по норме \х\ на К
184 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 19 Теперь разберем случай т = е. Элементы окружности zz = 1 могут быть записаны в виде ряда г = («о + VT Ъй) [ 1 + (а, + УТ Ь,) р Н- (а2 + уТ й2) р2 + ... ], где йг- и bt принимают значения 0 и eft, k = 0,1,... , q—1. Из условия zz = 1 следует, что ^-й§=1 (modP). . Можно показать, что это сравнение имеет q +1 решение, где q — порядок поля вычетов О/Р *). Отсюда заключаем: пусть Се — подгруппа группы Сг, состоя- состоящая из элементов z, для которых \z—1|< 1; тогда индекс подгруппы Сг в группе Се равен 9. Декартовы и полярные координаты в поле Каждый элемент поля /^(^т) однозначно представим в виде 2= Х-\- У^Х у, где х, у ? АГ- Тем самым он задается парой элементов х, у из К, которые мы будем называть декартовыми координа- координатами элемента z. Введем теперь полярные координаты точки z. Пусть zz = с. Тогда возможны два случая: либо с есть квадрат элемента из АГ. либо с не является квадратом. Пусть сначала с = г2, г?К- В этом случае полярными координатами точки z мы назовем пару элементов: элемент р = г?АГ и элемент t = p~^z, принадлежащий окружности tt=\. Ясно, что своими полярными координатами точка z однозначно определена. Заметим, что элемент р определен с точностью до знака. Следовательно, (—р, —0 равным образом можно рассма- рассматривать как полярные координаты точки z. Итак, полярные координаты определяются точкой z с точностью до знака. Теперь рассмотрим случай, когда с не является квадра- квадратом. Зафиксируем в АГ(^/т) какой-либо элемент v такой, что w не является квадратом в /С. Тогда с можно предста- *) Это вытекает из теоремы для конечных полей: уравнение х2 — coy2 = 1 в конечном поле порядка q, где со не является ква- квадратом, имеет q-\-\ решение (утверждение теоремы непосредственно следует из параметрических уравнений окружности). 161 § I. СТРОЕНИЕ ЛОКАЛЬНО КОМПАКТНЫХ ПОЛЕЙ 185 вить в виде с = (vr)(vr), где г^АГ- Полярными коор- координатами точки z мы назовем пару элементов p = vr и t = v~1z, из которых второй есть снова точка единичной окружности. Как и в первом случае, имеем (р, /) = (—р. — О- 10. Инвариантные меры в поле К и в его квадратич- квадратичном расширении fc(Vf\ В поле К имеются две инвариант- инвариантные меры: мера dx, инвариантная относительно сложения (^/(л;_|_ a) = dx) и мера d*x, инвариантная относительно умно- умножения (d* (xa) = d*x). Эти меры очень просто связаны между собой: d*x=-.\x\~1dx. A) В самом деле, по определению функции \х\, имеем d (ха) = | a \dx. Следовательно, | ха |~l d (ха) = | х |~х dx, т. е. мера | jc |—1 c?jc инвариантна относительно умножения. Условимся меру dx нормировать всегда следующим условием: J dx=l. \х\<1 Рассмотрим теперь меры dz и d*z, z = x -f- \^т у на K^V^)' инвариантные соответственно относительно сложе- сложения и относительно умножения. Выразим эти меры через декартовы координаты х и у точки z. Мы получим dz — dx dy, d*z = -r Теперь выразим меры dz и d*z через полярные коорди- координаты (р, f) точки z. Напомним, что координата р определяется с точностью до знака из равенства pp=zz, вторая коорди- координата t = p~lz есть точка окружности tt=\. Поскольку окружность tl= 1 есть группа по умноже- умножению, то на ней существует инвариантная мера d*t. Эту меру условимся нормировать условием С *
186 гл. и. группа матриц из л ок. компактного поля [и Легко убедиться, что в полярных координатах меры dz, d*z выражаются следующими формулами: dz = axd(zz)d*t, d*z = ax \гг\ где d(zz) — мера на К, а ах = 2 A -f- q~l) (I + | т| )-1 11. Аддитивные и мультипликативные характеры на «плоскости» к{у^\ Аддитивная группа поля /С (Ух) есть прямая сумма двух групп, изоморфных аддитивной группе поля К- Отсюда ^следует, что любой аддитивный характер ХО), г=х-\-У% у поля к(У"т) имеет вид X О) = Xi (х) х2 (у), A) где Xi> X2—аддитивные характеры на К. Перейдем к описанию мультипликативных характеров на к{Ух). Для этого изучим подробнее мультипликативную группу поля ЛС{Ух). Согласно п. 8, каждый элемент поля предста- представим в виде z = rt либо в виде z — vrt, где r?/(, ff— 1, a v—фиксированный элемент из К (Ух) такой, что vv" не является квадратом элемента из К,- Пусть n(z)—мультипликативный характер на к{Ух). Обозначим через л, и ^ его ограничения соответственно на поле К и на окружность t7— 1. Тогда имеем л (rt) = щ (г) л2 (О. B) Из равенства rt = (—г)(—Я получаем условие, связываю- связывающее Л! и л2: Я[ (—1) = л2(—1). C) Далее, поскольку w = го?К, то v2=r0/0, где /0^=1. Сле- Следовательно, n(v2)== л1(г0)я2(/0), т. е. л2 (v) = л1 (w) л2 (-Z-). D) Обратно, пусть я1з я2—произвольные мультипликативные характеры соответственно на К и на окружности ti= 1, свя- § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 187 занные соотношением C). Определим n(v) так, чтобы выпол- выполнялось равенство D) и зададим функцию л(гг) на /((Vг) следующими формулами: л (rt) = лх (г) л2 (/), л (vrt) = я (v) л (rt). E) F) Очевидно, что эта функция будет мультипликативным характером поля АГ(Ут). Таким образом, мультипликатив- мультипликативный характер поля AfQ/^O задается своими значе- значениями на основном поле К и на окружности tt= 1 и значением в фиксированной точке v такой, что w не является квадратом в К*). Эти значения согласованы между собой соотношениями C) и D). § 2. Основные и обобщенные функции на локально компактном несвязном поле К В этом параграфе рассматриваются некоторые вопросы анализа на непрерывном локально компактном несвязном поле К- 1. Пространство основных функций. Пусть К—локально компактное несвязное поле. Напомним, что в поле К суще- существует убывающая последовательность подколец (Р— максимальный идеал кольца целкх элементов из К), являющихся открытыми компактными множествами и обра- образующих полную систему окрестностей нуля. Мы хотим задать совокупность «достаточно хороших» функций на К- В качестве этой совокупности рассмотрим мно- множество S всех комплекснозначных функций f (х) на АГ. удо- удовлетворяющих следующим двум требованиям: 1) Функция / (х) финитна, т. е. равна нулю вне некото- некоторого компактного открытого множества. *) Заметим, что значение характера я в точке v с точностью до знака определено, в силу D), его значениями на К, и на окруж- окружности tt = Х-
188 гл. п. группа матриц из лок. компактного поля 13 2) Существует целое положительное число п (зависящее от / (х) такое, что функция / (х) постоянна на классах смежности KJPn- Из условия 2) автоматически следует, что функция / (х) непрерывна на АГ- Ясно, что совокупность S таких функ- функций / (х) образует линейное пространство. Введем теперь топологию в пространстве 5. Последовательность функций ft (х) мы назовем стремя- стремящейся к нулю, если: 1) функции fi{x) равны нулю вне некоторого (не зави- зависящего от i) компактного множества; 2) существует такое целое положительное п, что всё функции /\ (х) постоянны на классах смежности fC/Pn; 3) последовательность ft{x) при I—>со стремится к нулю равномерно по х. Легко убедиться, что относительно введенной топо- топологии совокупность S является полным линейным про- пространством. Это пространство 5 мы будем называть про- пространством основных функций. Обобщенными функ- функциями ф (х) будем называть непрерывные функционалы (ф, /) на 5. По аналогии с пространством S может быть определено пространство Sn функций / (хх, . . ., хп) от п переменных из АГ. 2. Обобщенные функции, сосредоточенные в точке. Определим, как обычно, обобщенную функцию 6(х) следую- следующей формулой: Нетрудно видеть, что любая обобщенная функция, со- сосредоточенная в точке х = 0, есть, с точностью до множителя, функция 6(х). Утверждение непосредственно следует из того факта, что любая основная функция f(x)?S постоянна в окрестности точки х = 0. Это утверждение справедливо, разумеется, и для обобщен- обобщенных функций от п переменных. 3. Однородные обобщенные функции. Пусть л (Зс) '-^ мультипликативный характер на К, т. е. л (ху) = л (х) л (у) 3] § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 18У для любых х, у из К (мы не требуем, чтобы было |тс(jc)J = 1). Назовем обобщенную функцию ф (х) однородной сте- степени однородности л, если для любой функции f?S и / ф 0 имеем Наша задача—описать все однородные обобщенные функ- функции. Согласно § 1, п. 4 мультипликативный характер я(х) можно представить в виде я (•*) — I х | 9 (х), B) где s—некоторое комплексное число, 9 (х) — другой харак- характер на К такой, что |в(*)| = 1. C) в 00=1. D) В силу D), характер 9 задается своими значениями на компактной подгруппе элементов х с нормой |jc)=1. Сле- Следовательно, множество таких характеров 9 дискретно. Сопоставим характеру п(х) обобщенную функцию л(л;), определяемую по формуле (л (*). / (х)) = J л (х) f (x) dx = J | х I59 (x) f (x) dx. E) При Re s > 0 этот интеграл сходится в обычном смысле и является аналитической функцией от s. При Re s <C 0 опре- определим его посредством аналитического продолжения. Нетрудно видеть, что л(х) является однородной обоб- обобщенной функцией степени однородности л, при усло- условии, что s—неособая точка интеграла E). Покажем, что единственной особенностью обобщенной функции Jt(jc) = | jc j*—10 (jc), рассматриваемой как функ- функция дискретного аргумента 9 и аналитическая функ- функция от s, является точка 9=1, s=0. Бэтой точке л (л:) имеет, как функция от s, простой полюс с выче- том q\nq Доказательство. Не нарушая общности, можно счи- считать, что функция f {х) сосредоточена в области |
190 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 13 Перепишем выражение E) в виде (л. /)= J \x\'-1Q(x)[f(x) — f@)\dx + + /@) / | * Г6 (*) d*. \х\<1 Первый интеграл сходится при любых s, так как функция /(х) — /@) равна нулю в окрестности точки х = 0. Поэтому остается рассмотреть второй интеграл. Разобьем его на сумму интегралов J f Q(x)dx. J \х\<1 в(х)ф1, то Г Q(x)dx = 0 для любого k. По- ¦ .. i_-,-ft Если этому нам остается рассмотреть случай 0 (jc) ^= 1, т. е. вы- вычислить интеграл оо J \х\3-^х = ^я-ъ(*-Ъ f dx. \Х\<1 ft = 0 1^.,^-ft Напомним, что мера dx нормирована так, что J dx = 1. Отсюда следует, что f dx= f d(p*y)=q-*. * <1 Следовательно, Итак, dx — f dx = q-*(l— j \X\<1 § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 191 Мы видим, что единственной особенностью этого выра- выражения является простой полюс в точке s = 0. При этом Таким образом, т. е. s=0 Утверждение доказано. Сформулируем окончательный ре- результат. Каждому мультипликативному характеру л(х), за исключением характера по(х)=\х\~1, отвечает однородная обобщенная функция л(х) степени одно- однородности л, определенная формулой E). Очевидно, что однородной функцией степени однородности л0 являет- является функция 6(лг). Покажем, что других однородных обобщенных функ- функций не существует. Пусть ф О) — однородная обобщенная функция степени однородности л, л(х) =ф= | х \. Можно без труда убедиться, что для функций f (х), равных нулю в окрестности точки х = 0, имеем (ф, /)=С(Я. /), где с — некоторый коэффициент. Следовательно, функция Ф (х) — сл(х) сосредоточена в точке х=0, а потому Ф (х) — ел (х) = cfi (x). Но функции ф (х) — ел (х) и 6 (х) имеют различные степени однородности. Следовательно, с1=0, т. е. ф(х) — ел(х). Пусть теперь ср(х) — однородная обобщенная функция степени однородности л0, ло(х) ¦==¦ \ х |~\ Покажем, что функ- функция (f)(x) сосредоточена в точке х = 0 и, следовательно, ф(лг) = со(лг). В самом деле, предположим, что функция (р(х) не сосредоточена в точке х = 0. Тогда можно без труда показать, что , f)=cf\x\-1f(x)dx.
192 ГЛ. It. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ для любой функции /, равной нулю в окрестности точки О. Введем обобщенную функцию фх: (ф1,/)==с J \xf\f(x)~f(Q)]dx+c f \x\~lf(x)dx. \х\ <1 \х[ > 1 F) Имеем (ф, /) = (ф!, /) для любой функции /, равной нулю в окрестности точки лг=О. Следовательно, функция ф — ц>г сосредоточена в точке х = 0, а потому ф — фх = сб (jc). Но функции ф (л:) и 6 (jc) однородны одной и той же степени однородности л^; значит, однородной должна быть и функ- функция фх. Между тем, как легко убедиться из выражения F), функция фх не однородна. Это противоречие доказывает, что б (л:) — единственная однородная функция степени одно- однородности л0, ло(л:)= | х I1  4. Преобразование Фурье основных функций. Пусть ж„ х)ф\—аддитивный характер в поле К. Преобразование Фурье функции /(х) определим формулой x)dx. A) Преобразование Фурье определено для любой функции f (х) с интегрируемым квадратом модуля; интеграл A) нужно при этом понимать в смысле среднего квадратичного значения. Известно, что функция / (х) выражается через свое преобра- преобразование Фурье по формуле / (л:) = с f х (— ux)f(u) du. B) где с — некоторая положительная постоянная, зависящая от выбора характера х- При этом имеет место формула План- шереля f f\^du. C) Установим, как зависит константа с от выбора характера х- Из непрерывности % следует, что %(х)^=\ на подгруппе ркО при достаточно большом k, где О—подгруппа элементов х с нормой |лг|<^ 1. Назовем рангом характера х наименьшее число п такое, что х(л:)^1 на р"О. Ясно, что если харак- 41 § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 193 тер х имеет ранг п, то характер х' (х) = X (\>кх) имеет ранг п — к. Покажем, что константа с в формуле обращения B) и в формуле Планшереля C) выражается через ранг харак- характера х следующим образом: c=qn, D) где q~l = | р |. Для этого обозначим через гр характеристи- характеристическую функцию множества О и вычислим ее преобразование Фурье. Мы получим ф (я) = J ф (х) х (их) dx= J x (их) dx. к о Представим элемент и в виде y>kv, |г>| = 1. Тогда (pkvx)dx = \p\~k f%(y)dy. E) Пусть ранг х равен п. При k^ функция в E) равна 1, и мы получаем подынтегральная = С dx= Если же k <C п, то х — нетривиальный характер на ркО и поэтому интеграл равен 0. Полученный результат можно записать так: 1, когда |и|<$^<?~л, О, когда \и\ > д~п. F) т. е. гр — характеристическая функция множества р"О. Подставляя f и if в формулу Планшереля, получаем искомое равенство D). В частности, если ранг х равен нулю, то с = 1. В дальнейшем будем всегда предполагать, что характер х в определении преобразова- преобразования Фурье имеет ранг 0 и, следовательно, 13 И. М. Гельфанд и др.
194 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ |4 51 § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 195 Рассмотрим в первую очередь преобразование Фурье основных функций. Преобразование Фурье функции f?S есть также функция из S. Доказательство. Пусть f(х) — функция из 5. Это значит, что 1) найдется такое т, что /(jc)—0 при \x\^-qn, 2) найдется такое п, что для любого t с нормой |/| ^.q~n имеем / (х -f- t) = / (х). Рассмотрим преобразование Фурье функции / (х): х. G) Покажем, сначала, что /(и)—финитная функция. Для этого заменим под интегралом х на x~\-t, где \t\ -^.q~n- На основании свойства 2 получаем /(а) = X («О / X (их) f {х) dx, т. е.. (8) Если \и\^> qn, то |и/|>1 и, значит, %(и^ф\. Но тогда из равенства (8) следует, что /(а)=0, когда \u\~>qn. Этим доказано, что / (и) — финитная функция. Теперь покажем, что функция /(и) удовлетворяет усло- условию 2). Так как /(jt)=O при \x\^>qm, то имеем X(ux)/(x)dx. Следовательно, при |^|^[^~т получаем /(а +¦ 0 = . / X (**) X («*) /(*) rf* = /(а), поскольку 5С(/л:)==1. Значит, функция /(и) удовлетворяет условию 2). Утверждение доказано. Заметим, что /(л:) = /(—jc). Отсюда непосредственно следует: Преобразование Фурье осуществляет взаимно одно- однозначное отображение пространства S основных функ- функций на себя. Теперь дадим определение преобразования Фурье обоб- обобщенной функции. За основу для этого определения примем формулу Планшереля / = fy(u)f(u)du, (9) справедливую для любых основных функций / и ф. Не- Нетрудно видеть, что функция f (и) является преобразованием Фурье функции /(—х). Таким образом, если в равенстве (9) заменить / (х) на /(—х), то мы получим /ф (*)/(— x)dx = fy(u)f(u)du. A0) Равенство A0) означает, что функция ф(к), рассматриваемая как функционал, удовлетворяет следующему соотношению: (Ф, (И) Это соотношение мы примем в качестве определения пре- преобразования Фурье обобщенной функции ц>(х). Именно, преобразованием Фурье обобщенной функции ф(-?) мы назовем обобщенную функцию ф(и), определенную фор- формулой A1). 5. Преобразование Фурье обобщенных однородных функций. Г-функция и В-функция» Из определения пре- преобразования Фурье непосредственно получаем \=Ь(х), б(?)=1. A) Покажем теперь, что преоб разование Фурье обобщенной однородной функции степени однородности л является однородной функцией степени однородности л^л, где ло(л;)= | х\. В самом деле, пусть ф—однородная обобщенная функ- функция степени однородности л. Это значит, что для любого t=?=0 из К имеем (ф, 13*
196 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ где 15 ло (О = 1*1 (ял0 (*) == л (О я0 (t) ). Заметим теперь, что если f1(x) = \t\f(tx), то ft (u)—f(t~lи). Следовательно, т. е. = (Ф. \t\f( (ф, f(t 1м)) = я-1 P. /(«))• Полученное равенство означает, что ф — однородная функ- функция степени однородности л^Л. Таким образом, преобразование Фурье однородной обоб- обобщенной функции лт (дг) | jc |~г есть, с точностью до множи- множителя, однородная обобщенная функция л (и). Возникающий при этом множитель мы обозначим через Г (л) и будем на- называть Г-функцией. Итак, имеем л(х)\х\ 1=Г(к)к 1 (и). B) Найдем интегральное представление функции Г (л). Для этого запишем л(х)\х\~1 в виде интеграла Г (л) л (и) = f i(ux)n(x)\x\~l dx. Если подставить сюда и = 1, то мы получим Тф)~ $ %(x)n{x)\x\~l dx. C) Ясно, что полученное выражение напоминает формулу для классической Г-функции *). *) Отметим, что в случае поля вещественных чисел введенная нами Г-функция не совпадает с классической, а отличается от нее множителем. Например, если я (х) = \ х f, то -t-oo Г(л) J \x\s-leix где Г (s) — классическая Г-функция. Аналогично, в случае л (х) = | х f sign х имеем Г (л) = 21 sin -^- Г (s). § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 197 Интегралу C) можно придать смысл, применяя метод разбиения. Именно запишем интеграл C) в виде суммы двух интегралов Г(я)= J \х\<1 dx f Каждый из этих интегралов сходится в некоторой области значений л и является в этой области аналитической функ- функцией от л. Применяя метод аналитического продолжения, мы определим эти интегралы для любых л. Разбивая интеграл C) в сумму интегралов по областям х | — const, мы получим, после подходящей замены перемен- переменных следующее выражение для функции Г (л) (разложе- (разложение в ряд Фурье): + 0О Г(я)= k — —оо J i(pkx)n(x)dx. D) 1*1=1 Из определения Г-функции непосредственно вытекают следующие ее свойства: 1) Единственной особой точкой функции Г (л) является точка я ^ 1. 2) Единственным нулем функции Г (л) является Ло(л;)=|л;|. 3) Имеет место функциональное соотношение Г(л)Г(лол-1) = л(— 1). E) Для получения соотношения E) достаточно применить пре- преобразование Фурье к обеим частям равенства B). Заметим, что формула E) напоминает соотношение для классической Г-функции, связывающее Г (t) и ГA —t). Дадим теперь определение В-функции. В-функцией от мультипликативных характеров Л}, л2 поля К мы назовем следующее выражение: В (Л!, л2)= Г Я! (л:)! лгГ'л.2A — jc)| 1 — х\~х dx. F) Написанный интеграл расходится, и его следует понимать
198 гл. п. группа матриц из лок. компактного поля 16 в следующем смысле. Разобьем F) на два интеграла: В(я1, Яз) = Г Я1(лг)|лг|~ ЩA—х) | 1—х\~ dx-{- \х\<\ щ (х) | х I JC2 A —- jc) | 1—х | dx. \х\>1 Каждый из написанных интегралов сходится в некоторой области характеров л^ я2 и является в этой области анали- аналитической функцией от щ, л2. Применяя метод аналити- аналитического продолжения, мы определим эти интегралы для всех Л], я2. Тем самым мы определили B(nj, Лз) как анали- аналитическую функцию от Я!, я2. Без труда доказывается, что функция В (ях, л2) выража- выражается следующим образом через Г-функцию Г (л,) Г (я,) Г(я,я2) G) (Вывод этой формулы проводится так же, как и для клас- классических В- и Г-функций.) 6. Дополнительные сведения о Г-функции. Напомним, что мультипликативная группа К* несвязного непрерывного поля К. является прямым произведением бесконечной цикли- циклической группы, порожденной элементом р., и компактной группы О*, состоящей из всех элементов с нормой 1. По- Поэтому группа П всех (не обязательно унитарных) характе- характеров группы К* является прямым произведением мультиплика- мультипликативной группы С* комплексных чисел Я.=^=0 и группы О* всех характеров 6 группы О*. Таким образом, каждый ха- характер л на К* можно задать парой (X, 9), где X ? С*, 6 ? б*. Каждый элемент х ? К* однозначно записывается в виде х = pky, где у ^ О*. Значение характера л на элементе х равно • - . - Я (х)== ккд (у). .. ..-..-.; .-B0 6| § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 199 Удобна также следующая, эквивалентная A), запись характера л. Продолжим характер 9 на все ЛГ*, полагая 0 (р)= 1. Тогда имеем где 5 — комплексное число, связанное с Я. соотношением я- = I»Г = ^-*- Отметим, что множество О* характеров 6 счетно и дискретно, так что П является объединением счетного числа комплексных плоскостей с выброшенным нулем. Из интегрального представления Г-функции (л) = J X(x)n(x)d*x B) мы получим сейчас разложение Г-функции в ряд Лорана по Я.. Для этого представим К' как объединение множеств р*О*, k = 0, ±1, ±2, ... Тогда мы получим (л) / k |у|=1 1=1 Таким образом, коэффициенты разложения Г (л) в ряд Лорана по X имеют вид = J C) |yi=i Заметим, что интегралы C) являются сходящимися, в от- отличие от интеграла B), который нужно понимать в смысле обобщенных функций. Мы увидим сейчас, что почти все коэффициенты Гй F) можно явно вычислить. Из этого вычисления будет следо- следовать, что функция Г(л)^Г(Я, 6) является при любом фиксированном 6 рациональной функцией от X. Предварительно напомним, что о характере %, участвую- участвующем в определении Г-функции, сделано следующее предпо- предположение: х(-*;)=1, когда |лг|-^1; %(jc)^1 на множестве
200 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ Введем теперь понятие ранга характера 6. Рассмотрим группу О* элементов с нормой 1. В этой группе имеется убывающая последовательность открытых подгрупп Оп, со- состоящих из элементов вида 1 -f- рпх, |jc|-^1. Из непрерыв- непрерывности характера 6 следует, что если п достаточно велико, то 6(jc)^1 на Оп. Назовем рангом характера 9 наимень- наименьшее из чисел п, для которых 6(д:)^1 на Оп. Очевидно, что множество характеров ранга, не превосходящего я, конечно *). В частности, имеется единственный характер ранга 0, а именно, 60^1. Будет доказано следующее утверждение. Если ранг характера 6 равен, т, т > 0, то Гй F) = 0 при k=j=—т; кроме того, |Г_гаF)| = ^—/2. D) Если ранг характера 6 равен нулю, т. е. в(jc)^= 1, то 0 при k < —1 — q~x при & = — 1 E) 1 — q~ ] при k > — 1. Таким образом, Г-функция на несвязном поле К является функцией очень простого вида. А именно, если 6 (х) щк 1, то г (A,, e) = r_ffl(e)A,-* F) где т — ранг характера 6 (т > 0), причем |,Г_т(в)| =q~ml2. Если же 6 = 00==1, то го, во^ ¦я -1,-1 I G) Доказательство. Рассмотрим сначала случай, когда 0 — характер ранга т > 0. Покажем, что тогда Гк F) = 0 при k Ф — т. Если k ^> 0, то, так как %(р*у)^1, мы имеем *) Это множество является группой, двойственной к конечной группе О*уО*п. 6| § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ Пусть теперь k <; 0. Запишем элемент у в виде У = «о + <*iP -h • • • + <*прп + . . . 201 (см. § 1). Поскольку ранг характера 6 равен т, то 6 (у) зависит только от а0, ах, ..., ат_}, причем зависимость от аот_! нетривиальна. С другой стороны, функция х (Р*У) зависит только от а0, ах, ..., a_k_lt причем зависимость от a_k_x нетривиальна. Если 0>А> — т, то — k — 1 </я — 1,а потому % (р*у) не зависит от ctm_v Разбивая интеграл C) на интегралы по классам смежности относительно О*т_1 и учитывая, что 6 — нетривиальный характер на О*т , мы получаем, что каждый из этих интегралов равен нулю. Итак, если 0 > k 5> > — т, то ГйF) = 0. Наконец, если &< —т, то т— 1 < — k— 1, а потому 6 (у) не зависит от a,_k_x. Разбивая интеграл C) на интег- интегралы по множествам вида у-\- р~ к~^О, и учитывая, что ха- характер х (х) нетривиален на р~хО, убеждаемся, что каждый из этих интегралов равен нулю*). Итак, если k < —т, то Гл(в) = О. Таким образом, установлено, что если 6 — характер ранга т > 0, то ГйF) = 0 при k =f=—т. Остается вы- вычислить Г_„, F). Для этого рассмотрим функцию 6 (х), когда | jc| = 1, 0, когда |jc| Ф 1, (8) и вычислим ее преобразование Фурье. Пусть и = p^v. \v\ = 1; тогда ф(и) = J Ф (х) х (их) dx = J 6 (у) % (p"vy) dy = Гк F) 6" ' (v). ly|=i *) Отметим, что использованное здесь разбиение О* на области вида у -\- р~ к~1О возможно лишь при условии, что — k — 1 > 0, т. е. при k < —1. Это условие автоматически выполнено при т > 0, так как мы предположили, что k < — т.
202 гл. п. группа матриц из лок. компактного поля Но ГйF) отлично от нуля лишь при & = — т. Таким об- образом, имеем .-1 r_m(Q)Q'l(v), когда u = 0, когда \и\ Ф qm. О) Подставляя найденное значение ф в формулу Планшереля для преобразования Фурье, получаем искомое равенство 2 \т()\д Перейдем к случаю 6 = 6О=1. Исследуемый интеграл имеет вид I У 1 = 1 \y i I (pky) dy— j x (РкУ) dy = iy l<i = <?* f X(y)dy-qk J (У) Заметим теперь, что J 0 при k >> 0 при А < 0. Отсюда немедленно вытекает формула E) для Гй F0). Утверждение доказано. Отметим, что соотношение D) может быть представлено в следующем виде. Если п(х) — | jc |"* 6 (х), где 9(р)=1, причем ранг характера 6 равен т > 0, то Отсюда, в частности, следует, что на множестве характеров вида л(х)= \x\'ll+rpВ (х) имеем \'2+гр (Характер л,. (х) ==¦ \х\'2+гр не является исключением, по- поскольку в силу G) мы имеем I Г (л,. +г \\ = 1Л б| § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 203 Докажем теперь, что если ранг характера 6 ра- равен т, т > 0, то имеет место следующее соотношение: г_га(е)Г_га(е-1) = ^-тв(-1). do) Для доказательства рассмотрим функцию ф(лг), опреде- определенную формулой (8). Ее преобразование Фурье ф (х) вы- выражается формулой (9). Вычислим теперь преобразование Фурье ц>(х) функции ф (и). Пусть x = pky, \y\ = l. Тогда Ф(лг)= J q> (и) % (их) du- duff = Г_т(в)дт f Q'l(v)t(pk~mvy)dv = ==r_/n(e)^rft_m(e-1)e(y). Но ^„^(б) отлично от нуля только при А —0. Таким образом, имеем Г_т(в)Г_т(в'1)дтв(х), когда |jc| = 1, 0, когда |лг| Ф 1, т. е. ^(х) = Т_т(в)Г_т(в-1)д'пЧ>(х). A1) С другой стороны, из общих свойств преобразования Фурье следует, что ф(ДГ) = = Ф (— х) = 6 (— 1) Ф (х). A2) Сравнивая A1) и A2), получаем требуемое соотноше- соотношение A0). Соотношение A0) позволяет с точностью до знака вы- вычислить значение Г (л) —Г (А,, 6) в случае, когда 62^1, причем 6^1. Именно в этом случае ранг характера 0 ра- равен 1, и мы имеем, согласно A0), Г2_1F) = 7~1в(—1). откуда Г_1F)== ± VQ(— l)q-l'K Следовательно, в силу формулы F), г (я.. в)=± A3)
204 гл. и. группа матриц из лок. компактного поля (в Укажем значения функции Г (я) для некоторых специаль- специальных значений характера я. 1. я(д;)= |x\s. В этом случае X = q~s, 6==1. Следо- Следовательно, по формуле G) § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 205 2. я(д:)==| JC Следовательно, 1 х. В этом случае А.=—q~s, 6^1 *). 3. л(х) = \x\s signt х, где х — р, ер. В этом случае Я, = ^-5, 6 (у)= si^nT у, т.е. 62==1. Следовательно, по фор- формуле A3) имеем Г(я)=± /signT(— l)q'-4: A6) Приведем еще два соотношения для Г-функции, получающиеся как следствия из формулы A0). Пусть характер я имеет на под- подгруппе О* ранг т > 0. Тогда имеем Г (я) Г (я) = ?-"*«(—1). Далее, сравнивая это соотношение с соотношением Г(яяо)Г(я-1) = я(—1), где я0 (х) = | х | (см. п. 5, формула D)), мы получаем Г (яяо) = дтГ (я). A7) A8) Соотношение A8) можно рассматривать как аналог соотноше- соотношения Г (х-\~ 1) = х Г (л:) для классической Г-функции. В исключительном случае, когда л (х) == 1 на О*, т. е. я (х) = | х Is, мы получаем на основании формулы A4): г(я)Г(я-')= {1~qS AwT » - A7') A8') *) Случай 2 получается из 1-го заменой s на 2л1 In a * Введем понятие неполной Г-ф у н к ц и и, определив ее следующей формулой: п) = Г(к)(к, 6)= J i{x)K{x)d*x. На основании формул D) и E) имеем следующий результат. Если ранг характера 6 равен т > 0, то О при А < т, Г (я) при k ^т. В исключительном случае, когда 6 = 90==1, имеем при k <C О при А > 0. Мы видим, таким образом, что для любого фиксирован- фиксированного я последовательность Г<°> (я), Г*" (л), .... Г(*> (я), . . . стабилизируется, начиная с достаточно большого номера k. 7. Интеграл j %(utt)dt. В дальнейшем нам понадобится интеграл f(utt)dt. A) где интегрирование ведется на плоскости К(]/х). Вычислим его. Прежде всего, заметим, что A) можно переписать как интеграл по К (см. формулу на стр. 186): F(jt) = ax J х (их) <*х = = тг J % к 2z J %(ux)signxxdx, J к к где flt = 2A4-?"!)H -j— | t: j) г. Согласно п. 5 имеем J
•206 гл. п. группа матриц из лок. компактного поля [8 где я(х)= |х\ signx x. Итак, J где положено с -1 = Ц Г (я) = iii^ J х dx. B) C) Заметим, что коэффициент.. сх удовлетворяет соотно- соотношению 1). D) Таким образом, сх вещественно, если signT(—I)=l, cx чисто мнимо, если signT(—1) = —1. Коэффициент ст можно сосчитать с точностью до знака на основании результатов п. 6. Именно, на основании фор- формулы A5) п. 6 имеем сх = 1 в случае, когда т = е; E) на основании формулы A6) п. 6 имеем сх= ± [signT(— '1г д 1/а в случае, когда = р, ер. F) 8. О функциях, граничных к функциям, аналити- аналитическим в верхней и в нижней полуплоскости. Пусть K(YX)—квадратичное расширение несвязного поля К- На- Назовем верхней полуплоскостью плоскости К(\^т:) совокупность точек z= x -\- ~\/~xy, signTy=l; нижней полуплоскостью плоскости Куух) назовем совокуп- совокупность точек z — х -\- УТу, signTy = —1. Легко убедиться, что верхняя и нижняя полуплоско- полуплоскости являются однородными пространствами отно- относительно группы дробно-лине иных преоб разований . «*-»-•¦ Для несвязных полей не существует понятия комплексно- значной функции, аналитической в верхней (или в нижней) полуплоскости. Однако мы можем ввести понятие функции, граничной с аналитической. 91 § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 207 С этой целью введем на К обобщенные функции, анало- аналогичные обобщенным функциям (jf + /O)~ и (jc—Ю) в слу- случае вещественного поля. Определим обобщенную функцию (х -f- Yx 0)~X как преобразование Фурье обобщенной функции /+(a) (l равной 1 при signxu — l и равной 0 при signx и Аналогично определим обобщенную функцию(х— как преобразование Фурье обобщенной функции /7(«)=-A — signT а), =—1. Ч 0)" равной 1 при signT и — —1 и равной 0 при signT«=l. На основании пп. 6 и 7 мы можем эти функции вы- разить через обобщенные функции 6 (х) и 0+ (х- 11 sign,..*: A) B) Коэффициент сх был вычислен в п. 7. Функцию f (х) будем называть граничной к функции, аналитической в ее рхней полу плоское ти, если ее свертка с (х— |/^т О)'1 равна тождественно нулю: f (/ — Yx 0)"х f (х — t) dt = О (Или, что эквивалентно, если ее преобразование Фурье со- сосредоточено на «полупрямой» sigriT и = 1). Аналогично вводится понятие функции, граничной к ана- аналитической в нижней полуплоскости. 9. Преобразование Меллина. Преобразование Меллина функции / (х) определим формулой F (я) = f л (х) f (х) d*x, A)
208 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ где я пробегает унитарные мультипликативные характеры *), d*x=\x\-1dx. Таким образом, преобразование Меллина можно рассмат- рассматривать как преобразование Фурье на мультипликативной группе К* поля К- Преобразование Меллина определено для любой функ- функции / (x)i для которой f \f(x)\*d*x <оо. Интеграл A) нужно понимать в смысле среднего квадратич- квадратичного значения. Имеют место формула обращения f(x) = c Г л (х) F (я) dn и формула Планшереля f = cf \F(n)\*dn. B) C) Интегрирование здесь ведется по инвариантной мере dn на группе характеров; с — положительная постоянная, зависящая от нормировки dn. Будем дальше нормировать меру dn так, чтобы было с = 1. При изучении преобразования Меллина нам следует в ка- качестве пространства основных функций взять не простран- пространство 5, а другое пространство 5*. которое сейчас будет определено. Мы обозначим через S* совокупность функций / (х), удо- удовлетворяющих следующим требованиям: 1) Функция / (х) финитна на К*; иными словами, най- найдутся такие положительные числа а и b, a >¦ Ь, что f(x) = Q при \х\ > а и при |дг| < Ь. 2) Найдется столь малая открытая подгруппа группы ЛГ*. что функция / (х) постоянна на классах смежности по этой подгруппе. Иными словами, /(*а) = /(*). D) если норма |1 — а\ достаточно мала. *) То есть | я = 1. § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 209 Топология в 5* вводится естественным образом. Нетрудно убедиться, что S* состоит из тех и только тех функций / (х), что Теперь определим преобразование Меллина обобщенной функции. За основу для этого определения примем формулу Планшереля C). Если обозначить (ф (X), f (X) ) = f ф (X) f (X) d*X, (Ф (л), F (я)) = J Ф (я) F (л) dn, то формулу Планшереля можно переписать в виде ). ЯХ)) = (Ф<Х>, 7ч*>). E) Заметим, что преобразованием Меллина функции / (л:) будет функция F (я). Следовательно, заменяя в E) функ- функцию f (х) на f (х~1), мы получим (Ф(дг), /О-1)) = (ф(я), F(n)). F) Формула F) определяет преобразование Меллина функ- функции Ф (я) как функционал в пространстве функций F (я) — преобразований Меллина основных функций. Эту формулу мы примем в качестве определения преобразования Меллина обобщенной функции. Определение обобщенной функции Г (я). Об- Обобщенной гамма-функцией будем называть преобразование Мел- Меллина обобщенной функции %(х). Таким образом, формально функция Г (я) может быть записана в виде интеграла = fn(x)x(x)\x\ l dx. G) Определение обобщенной функции Бесселя /(л; и). Обобщенной функцией Бесселя /(я; и) будем называть преобразование Меллина обобщенной функции х (и (х ~h -*) )¦ т. е. У (л; и)= Г п(х)х(и (д: + л:)) I-*! dx. (8) 14 И. М. Гельфанд и др.
210 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ |Ю Напишем другое интегральное представление функции J (я; и). Мы знаем, что % (t) является обратным преобразованием Меллина функции Г (я), т. е. Отсюда следует, что 1 {их) = J Г (лг) rtf1 (и) Я1~! (х) аяи X (их-') = J Г (я2) я^1 (и) я2 (х) йя2, а потому -1)) = J Г (jtj) Г (я2) iifbtfx (и) я^гл2 (х) Подставляя это выражение в формулу (8) для функции J (я; и) и интегрируя по х и по я,, мы получаем У (я; и) = f Г (я'~г)Г (ял') л~>л'2 (и) ал'. (9) 10. Соотношение между Г-функцией, связанной с ос- основным полем К, и Г-функцией, связанной с квадратичным расширением fC(Y~x) поля К. Рассмотрим, наряду с Г-функ- Г-функцией, связанной с полем К., Г-функцию Гт(я), связанную с полем (V^) Гт(я)= J Х,@я@Л, A) К где я пробегает множество мультипликативных характеров на ^(У^с). Будем предполагать, что аддитивный характер Хт (t) на Af(V^Jt) задается следующей формулой: B) где х — заданный аддитивный характер (ранга 0) на К- За- Заметим, что ранг Xt нл ^ (У"т) равен 0 в случае т = 8 и 1 в случае т = 8, ер. Докажем, что имеет место следующее соотношение: Гх (ля) = j т |-i с% Г (я) Г (ялт), C) где через n(t) обозначен характер л(/) = я (t), ах Г nTC-V)^signTx и c-x = -2-J x(x)nx 10] " § 2. ФУНКЦИИ НА ЛОКАЛЬНО КОМПАКТНОМ ПОЛЕ 211 Положим Г (я) Г (яят) D) Гт(яя) Так как Г^1 (ял) = |х| Гт (я^л^я2,), где л0 (t)= \ti \'h (см. формулу D) п. 5), то имеем / (я) = | х | Г (я) Г (яят) Гт (я" 1л-1я2) = J У-К-К) л (^) signxy\x\-1 \y\-ldxdydti === | тг | J X интегрирование ведется по переменным х, Заменами переменных х — — 5 и t-=yt' интеграл приводится к виду /(я) = | т |J х(у = / X (У Vе! — 5) ) Л0Ят (у) ЛЯ" ! E) dy ds dt. (Переход к последнему интегралу осуществляется подста- подстановкой: t = t' — s.) Интегрируя по у, получаем / (Я) = | X | Г(Л2лт) J Я-2Лт E//"+ 1 — Я) ЛЛ0-! E) dt ds = = | X | Г (Я2ят) J Я- 2Лt (/F+ 5 — 1) ЛЛ0- !Лт (s) rf/ rfs. E) (Замена переменной t^=s~lt'.) Вычислим отдельно интеграл Переходя от ц>(х) к преобразованию Фурье, получаем ф (и) — J X (а*) я^2ят (^"+ х) ^ dx — = J х (ал) ло-2ят (х) ^д: J x (— e«) dt = = Г (л- *лт) "олх («) • [с;1яо" Ч (— <0 + Iе 6 (и)] (см. формулу B) п. 7). 14*
212 гл. и. группа матриц из лок. компактного поля Таким образом, имеем Ф(й) = С;Т(я-1лт)лт(-1), а потому <P(*) = *7ir("o~4)M— DS(*). Итак, установлено, что f я-2ят (« + s — 1) dt = с-Т (л-1лт) лт (— 1) 6 E - 1). Подставляя это выражение в формулу E), получаем, что / (л) = | х | с - Т (я- »ят) Г (яХ) ят (— 1). Наконец, замечая, что Г(я-Х) = Г (яЛ), Г(яХ) = Г (яоят)ят (- 1), получаем окончательно: /(л) = | т | с^. т- е- 1\(лл) = |-с|-1Ст Г(л)Г(лят). § 3. Неприводимые представления группы матриц второго порядка с элементами из локально компактного поля (непрерывная серия) В этом и в следующих параграфах будут изучены пред- (а |}\ ставления группы О матриц ( I , аб — р-у = 1, элементы которых а, р", у, 6 принадлежат некоторому непрерывному локально компактному полю. В § 3 будет дано описание непрерывной серии неприводимых унитарных представлений группы О. Другие (дискретные) серии неприводимых унитар- унитарных представлений группы О будут рассмотрены в § 4. В § 5 мы вычислим следы (характеры) неприводимых пред- представлений группы О, а в § 6 получим разложение функ- функции / (g) на группе О в интеграл Фурье (теорема Планше- реля). Часто вместо группы G рассматривают родственные ей группы: 1) фактор-группу С?! = G/Q группы G по ее центру 3 (8 состоит из двух элементов е, — е, где е — единичная матрица); 2) группу G2 всех дробно-линейных преобразований х' = -^—~\ . Vх ~Г"О § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 213 Легко показать, что группа G2 дробно-линейных преобразований изоморфна группе всех автоморфизмов группы G, a G, изоморфна группе всех внутренних автоморфизмов группы G. Тем самым G, является подгруппой (и даже нормальным делителем) группы G2. Без труда доказывается, что G2/Gt & К*/(К*J, где К*— мультипликативная группа поля К, (К*J — подгруппа всех квадратов. Таким образом, G2 — Gu когда К — поле комплексных чисел, G2:GX= 2, когда К— поле вещественных чисел, G2: Gt — 4, когда К—несвязное поле*). Все излагаемые ниже результаты переносятся без каких-либо существенных изменений иа группы G, и G2. 1. Непрерывная серия унитарных представлений группы G. Начнем с описания непрерывной серии предста- представлений группы G. Для случая поля комплексных чисел эта серия представлений была Описана Гельфандом и Наймарком. Данная ими конструкция переносится непосредственно на случай любого непрерывного локально компактного поля К. Представление непрерывной серии задается уни- унитарным мультипликативным характером л(х) на К. Представление строится в"пространстве комплекснознач- ных функций ц>(х) на АГ, для которых Оператор представления Тл, отвечающий матрице g = I I , имеет следующий вид: То, что операторы Tn(g) образуют представление, т. е. Тп (gigz) = Тп (g-j) Tn (g2), устанавливается непосредственной проверкой. Аналогично строятся представления и в случае группы матриц с элементами из конечного поля Kg порядка q. При описании этих представлений удобнее от функций ф {х) перейти к однород- однородным функциям / (jf,, x2) двух переменных. Тогда мы получаем сле- следующее описание представлений. Каждое представление задается *) Исключается особый случай, когда характеристика связан- связанного с К конечного поля О/Р равна двум (см. § 1, п. 5).
212 гл. и. группа матриц из лок. компактного поля Таким образом, имеем $(«) = с-Т(яо-»ях)ят(—1). а потому Итак, установлено, что f Я~2ят (« + 5 — 1) Л = С"Т (Л-»ЯТ) Лт (— 1) 6 E - 1). Подставляя это выражение в формулу E), получаем, что /(я) = |т| с-1Г(я0-^)Г(я§ят)я,(— 1). Наконец, замечая, что Г(ло-%т) = Г (лЛ), Г(лХ) = Г (лолт)ят (- 1), получаем окончательно: /(я) = | т. | г^1' т' е* Гт(яя) = |т|-»ст Г(я)Г(лят). § 3. Неприводимые представления группы матриц второго порядка с элементами из локально компактного поля (непрерывная серия) В этом и в следующих параграфах будут изучены пред- /а р\ ставления группы G матриц I I , ад— PY=1> элементы которых а, р, у, ° принадлежат некоторому непрерывному локально компактному полю. В § 3 будет дано описание непрерывной серии неприводимых унитарных представлений группы G. Другие (дискретные) серии неприводимых унитар- унитарных представлений группы G будут рассмотрены в § 4. В § 5 мы вычислим следы (характеры) неприводимых пред- представлений группы G, а в § 6 получим разложение функ- функции / (g) на группе G в интеграл Фурье (теорема Планше- реля). Часто вместо группы G рассматривают родственные ей группы: 1) фактор-группу G, = G/Q группы G по ее центру 3 C состоит из двух элементов е, — е, где е — единичная матрица); 2) группу G2 всех дробно-линейных преобразований х' = -^—-г-т-. § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 213 Легко показать, что группа G2 дробно-линейных преобразований изоморфна группе всех автоморфизмов группы G, a Gi изоморфна группе всех внутренних автоморфизмов группы G. Тем самым G, является подгруппой (и даже нормальным делителем) группы G2. Без труда доказывается, что G2fGl at K*/(K*J, где 1С— мультипликативная группа поля К, (К*J — подгруппа всех квадратов. Таким образом, G2=Glt когда К — поле комплексных чисел, G2:G1=2, когда К—поле вещественных чисел, G2 : Gj = 4, когда К—несвязное поле*). Все излагаемые ниже результаты переносятся без каких-либо существенных изменений на группы G, и G2. 1. Непрерывная серия унитарных представлений группы G. Начнем с описания непрерывной серии предста- представлений группы G. Для случая поля комплексных чисел эта серия представлений была описана Гельфандом и Наймарком. Данная ими конструкция переносится непосредственно на случай любого непрерывного локально компактного поля Af. Представление непрерывной серии задается уни- унитарным мультипликативным характером л(дг) на К. Представление строится в "пространстве комплекснознач- ных функций ф (х) на Af. для которых (ф, ф) = J | ф (х) |2 dx < со. Оператор представления Тк, отвечающий матрице A) g = I , имеет следующий вид: То, что операторы Тл (g) образуют представление, т. е. Тл (gig2) = Тя (g-d Тл (g2)< устанавливается непосредственной проверкой. Аналогично строятся представления и в случае группы матриц с элементами из конечного поля Kq порядка q. При описании этих представлений удобнее от функций <р (х) перейти к однород- однородным функциям / (.*:,, х2) двух переменных. Тогда мы получаем сле- следующее описание представлений. Каждое представление задается *) Исключается особый случай, когда характеристика связан- связанного с К конечного поля О/Р равна двум (см. § 1, п. 5).
214 гл. и. группа матриц из лок. компактного поля мультипликативным характером я (t) на Kg. Оно строится в про- пространстве функций f{xu х2), (хь х2) ф (О, 0) на Kg, удовлетво- удовлетворяющих условию однородности f{txu tx2) => n (t) f {xu x2). Оператор представления Тп (g) имеет вид = / (ах1 B) Эти представления неприводимы, за исключением случая, когда я з=1 (в этом случае отщепляется одномерное представление), и случая, когда я (t) принимает только значения ± 1 (в этом случае представление распадается на два представления одинаковой раз- размерности). Как и в случае произвольного непрерывного локально компактного поля К, представления Т (g) и Т _, (g) оказываются эквивалентными. Следы представлений Т (g) впервые сосчитал Фробениус. Кроме представлений B), группа матриц над конечным полем К обладает еще «аналитической» серией представлений. Эта серия будет указана в § 4. Докажем, что операторы Tn(g) унитарны, т. е. (ГЛ(?-)Ф, Тя (g) ср) = (ср, Ф). C) В самом деле, имеем „ , ах -4- у Сделаем замену переменных х= -s—р-г- и воспользуемся равенством dx' = | $х -j- 6) ~ dx. Мы получим сразу равен- равенство C). Дадим вывод формулы dx' = \ fix -\- б | ~2 dx. Положим dx' = = а (х, g) dx. Из определения функции а (х, g) непосредственно следует функциональное соотношение а- (х, == а (х, gl) a (xgu g2). D) (Здесь xg — результат применения к х дробно-линейного преобра- преобразования, отвечающего g.) Этому же соотношению C) удовлетво- удовлетворяет, как легко видеть, и функция j рлс-|-6 l~2- Заметим теперь, что любую матрицу g можно представить как произведение матриц следующих типов: /1 оч /б оч / о и W 1/' 1о ь)' (-1 о)- E) 2) § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 215 Поэтому, в силу соотношения D), функция а (х, g) однозначно определена своими значениями на матрицах g вида E). Итак, нам достаточно убедиться, что 1-2 F) для матриц g вида E). Но для этих матриц равенство F) очевидно. В самом деле, если g = ( 1, то х' = х -f Y. а потому dx' = dx; если g'= ( j. то х' = &~2х, а потому dx = | б |~2 dx. Нако- \0 б/ нец, если g I 0 1\ "U о)' то х' = —; так как мультипликативно- инвариантная мера d*x = \ x\~l dx сохраняется при этом преобра- преобразовании, то имеем | х' \ ' dx' — \ х \ l dx, откуда dx' — \ х | г dx. 2. Другие реализации представлений непрерывной серии. Другую реализацию представлений непрерывной серии мы получим, перейдя от функций ф (х) к их преобразова- преобразованиям Фурье ф («) == f Ф (х) х (— их) dx. Найдем выражение для оператора Тп (g) в этой реализации. Оператор Тл (g) действует на функцию ф (и) по следующей формуле: Тя (g) Ф («) = J [Тя (g) Ф (х)] х (— их) dx = = J B) Нам остается выразить правую часть равенства B) снова через функцию ф (а). По формуле обратного преобразования Фурье имеем Следовательно, Тя (g) Ф (и) = = J x(—^ ф О) = J ф (v) х (vx) dv.
216 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 12 Эту реализацию представления непрерывной серии будем дальше называть Х"Р е а л и з а ц и е й. Итак, в х- реализации представление непрерывной серии строится в пространстве функций ф(и), для которых (Ф, Ф) = J | Ф (и) |2 du < оо. (а р\ Оператор представления Tn(g), g~\ . I. задается формулой Тп (g) Ф («) = / Кп (g \u, v) ф (г/) Л/, C) u, v) = = J х(— (рх + 6)|рх + бГ1 <**• D) Рассмотрим подробнее выражение D). Предположим сна- сначала, что р Ф 0. В этом случае формуле D) удобно придать несколько иной вид, сделав замену переменной $x-\-b = t. После элементарного преобразования мы получим и, v) = что Отметим особенность полученной формулы. Мы видим, ^jiQrl "> v) является произведением двух функций — фуик- ¦ _ . — 1 ( Ьи -Х- его \ и-ии |Р1 Х^ s I. одной и той же для всех предста- представлений серии, и бесселевой функции несущественно зависящей от g. Теперь рассмотрим особый случай, когда р = 0. В этом случае имеем -if// : F) |6| XII и А- — v § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 217 Принимая во внимание, что в рассматриваемом случае а = 6 . мы можем эту формулу переписать еще и так: Кл (g\u, v) = л F) 161 х Fуи) 6 (v — 62и). F) а 0 У б Итак, оператор Tn(g), отвечающий матрице #= имеет в х-реализации следующий вид: Тя (g) Ф (и) = л F) |6| х (UY«) Ф F2«)- G) Имеется еще одна удобная реализация представлений непре- непрерывной серии, которую мы будем называть л-р еализацией. Эту реализацию мы получим, перейдя от функций ц>(х) к их преобразованиям Меллина F (Я!) = Г Ф (х)щ (х) \х\~ dx, (8) где Я1 пробегает унитарные мультипликативные характеры. Из формулы обращения для преобразования Меллина (см. § 2, п. 9) следует, что Найдем выражение для оператора Tn(g) в л-реализации. По определению, ТЛ (g) F (яО = J [Тя (g) ф (jf)] Я! (х) | х | 2 dх = = J ф(|^^)л(р* + 6)|рх-ЬбГ1л1(х)Н"^. (9) Остается выразить правую часть равенства (9) снова через функцию F (л{). По формуле обращения для преобразования Меллина имеем ф(х)= j f (л2) к-' (х) ! х | 2 dn2. Следовательно, 2 F (л2) dx dn2.
218 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [2 Итак, в л-реализации представление непрерывной се- серии cm роится в прост ранстве функций F (щ) на группе мультипликативных характеров щ, для ко- которых (F, F)= JV(n,)|2rfn, <oo. [а р\ Оператор представления Tn(g), g"= «)• задается формулой \(g)F(n{) = f Kniglm, ji2)F(n2)dn2, A0) где л2) = = J X l 2 dx. A1) Выражение A1), задающее матричный элемент оператора Tn(g) в я-представлении, уместно называть гипергео- гипергеометрической функцией от л, щ> л2. В случае поля вещественных чисел АГл(|Г|ль л2) выражается непосред- непосредственно через гипергеометрическую функцию Гаусса. Заметим, что если один из элементов матрицы g равен нулю, то гипергеометрическая функция A 1) вырождается в В-функцию. Например, если а = 0, то имеем J Наиболее простой вид имеют формулы для операторов представления, отвечающих матрицам 6 = б 0 0' Z = з] § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИИ 219 Именно, на основании формул A0), A1) мы получаем, после элементарных преобразований, что = J A2) (is) A4) Удобно перейти от представления T^(g) к эквивалентному представлению Tn{g) = A" TIt(g)A, где Л —оператор умно- умножения на функцию Г (лхл0). Очевидно, что ядра операто- операторов T'n(g) получаются из ядер операторов Tn(g) умноже- умножением на функцию т, 2 . . Таким образом, мы получаем 1 (я^) Т'я (z) F (лх Т'я (б) F (лх) = яп\ (б) F (Я1), = / Г (nf^) лхл-1 B) F (л2) й?л2 A5) A6) = J Такая реализация представления удобна тем, что в ней оператор Т'л(г) не зависит от «номера» представления. Та- Таким образом, поскольку матрицы z и ? порождают всю группу G, представление T^Gg") полностью определяется фор- формулой для оператора 7*^(?). В этой формуле от номера пред- представления зависит только множитель стоящий под знаком интеграла, который и задает, таким образом, наше представление. В § 4, п. 5 будет показано, что аналогичные формулы имеют место и для представлений дискретной серии. 3. Эквивалентность представлений непрерывной серии. Покажем, что представления непрерывной серии Tn(g) эквивалентны.
220 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ Для доказательства рассмотрим операторы Тп (g) в Х-реализации. Ядро Kn(g\t*. v) оператора Tn(g) задается следующей формулой: Kn(g\u. г>) = Сделаем под интегралом замену переменной t=-vu~ t'~ . Мы получим т. е. Kn(g\u. v) = Тем самым доказано, что fj(_I (g\u, v). где А — оператор умножения на л (и): Aq> (и) = я (и) ф (и). Следовательно, представления Tn(g) и Tn^i(g) эквива- эквивалентны. В § 5 мы увидим, что в непрерывной серии не сущест- существует других пар эквивалентных представлений. 4. Неприводимость представлений непрерывной серии. Покажем, что представления Tn(g) непрерывной серии не- приводимы, за исключением нескольких особых значений я. Напомним, что унитарное представление Т (g) называется неприводимым, если пространство представления не содер- содержит инвариантного подпространства, отличного от нулевого. Эквивалентное определение: унитарное представление Т (g) называется неприводимым, если любой ограниченный опера- оператор в пространстве представления, перестановочный со всеми операторами Т (g), кратен единичному оператору. Имеют место следующие утверждения. 1°. В случае поля комплексных чисел все представ- представления TJt(g) неприводимы. § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 221 2°. В случае поля вещественных чисел неприводимы все представления Tx(g), за исключением особого слу- случая, когда я(дг)== sign х. В особом случае л (х) = sign x, представление Tn(g) распадается на два неприводи- неприводимых представления. 3°. В случае несвязного поля неприводимы все пред- представления Tjtig), за исключением случаев, когда я (лг) = = signr х, х = р, гр, г (см. § 1, п, 7). В каждом из этих особых случаев представление распадается на два неприводимых представления. Приведем доказательство только для случая несвязного поля; для связных полей доказательство аналогично *). Будем рассматривать представление Tn(g) в Х-Реализа- ции. Наша задача — описать все ограниченные операторы А, перестановочные с операторами T Сначала посмотрим, что дает перестановочность А с опе- /1 0\ раторамй Tn(g), где g"=l )¦ Эти операторы имеют вид (u) = x(yu)<p(u). A) Значит, оператор А перестановочен с операторами умноже- умножения на х (уи), а потому он перестановочен и с любым опе- оператором умножения на ограниченную функцию. Отсюда сле- следует, что сам оператор А является оператором умножения на ограниченную функцию а (и): Ац> (и) = а (и) ф (и). Теперь посмотрим, что дает перестановочность А с one- /б 0", раторамй Tn(g), где ?•=! I. Эти операторы имеют вид B) *) Другое доказательство неприводимости представлений для случая поля комплексных и поля вещественных чисел см. в вып. 5 «Обобщенных функций».
222 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ Условие перестановочности А с операторами Tn(g) записы- записывается в виде а F2«) = а (и) для любого 6=^0. Таким образом, функция а (и) постоянна на каждом классе смежности К*/(К*J мультипликативной группы поля К по подгруппе квадратов. Мы покажем, что на самом деле в неособых случаях функция а (и) постоянна на всем АГ, а в особых случаях она может принимать только два различных значения. Этим и будет доказана теорема. Запишем условие перестановочности оператора А с оце- / 0 1\ ратором Тя (s), где s = I ). Это условие имеет вид где Kn{s\u, v)a(v) = a{u)Kn(s\u, v), Кя (s | a, v) = f х (и* Н- vt~l) л (О (ft. C) D) Пусть Д"A), Л^2) — два различных класса смежности К*/(АГ*J- Если мы покажем, что Kn{s\u, v)^0, когда и^1С(-1), ¦у?АГB), то из соотношения C) будет следовать, что а (и) принимает одинаковые значения на AfA) и КB) ¦ Итак, пусть и?АГA), г>?АГB). Предположим, что \и\, \v\ настолько малы, что %(ut)^\, %(vt)^\ при |/|^1. Тогда выражение для Kn(s\u, v) может быть записано в следую- следующем виде: = f x / / л @ Л. E) Разберем сначала случай, когда я( после замены переменных, получаем ^1. В этом случае, \а, v)= f Поскольку x @ ^ 1 санное выражение когда |tf заведомо f |/| >1 «1 достаточно мало, то напи- не постоянно, а значит, 41 § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 223 Kn{s\u, t>)#0. Тем самым доказано, что в случае л^1 функция а {и) есть константа, а потому представление Tn(g) неприводимо. Пусть теперь я(/)^1. В этом случае имеет место ра- равенство UI J J i Сложив его с равенством E), мы получим /Сл E| и, г>) == fxivr1) л (О Л + J х («О л (/) d*t, где интегралы берутся по всему К. Заменой переменных получаем Kn(s\u, г>) = Г(я) я(г>) + Г (я)я-1 («)• Здесь коэффициенты Г (л), Г (л) отличны от 0. Предпо- Предположим, что л (и) не постоянно на (К*J. Тогда л(Ч>) не по- постоянно, когда v пробегает какой-либо класс смежности АГ*/(АГ*J, а значит, Kn(s\u, v) ф 0. Этим доказано, что а (и) = const, а потому представления Tn(g) неприводимы, если я@#1 при t?(K*J. Остается рассмотреть особые случаи, когда л(?)^1 при t ? (AT*J. Такие характеры л имеют вид лт (f) = signx/, где т = ^), ejj, e (случай л^1 был рассмотрен нами раньше). В этих случаях имеем, поскольку лт —л-1, Kn{s\u, v) = T (лт) [signTtf -j- signal. Значит, если signT« = signTf, то Kn(s\u, v)=/=0. Этим доказано, что в случае n(f) = signT/ функция a (v) постоянна на множестве элементов v с одним и тем же зна- значением signTf, т. е. она принимает не более двух различ- различных значений. Значит, представления Тп (g), л (t) = signx/, если и распадаются, то не более чем на два неприводимых представления. То, что эти представления и в самом деле распадаются на два представления, мы покажем в п. 5.
224 ГЛ. II. ГРУППА MATPHLl ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [5 б. Разложение представлений Тп (g), 7tT(/) = signT/ на неприводимые представления. Разложим пространство функций ф (и) в прямую сумму двух подпространств: подпро- подпространства Н+ функций ф(и), равных нулю при signTa = —1, и подпространства Н~ функций ф (и), равных нулю при signT«=l. Здесь будет доказано, что эти подпростран- подпространства Н+, Н~ инвариантны относительно операто- операторов TnT(g), Jix(t)=signxt. Прежде всего напомним, что любую матрицу g можно /1 О" представить в виде произведения матриц вида I б 0\ /0 — 1\ / и матрицы 5=| ]. Поэтому достаточно U о / \^ 1 U / убедиться, что подпространства Нf, H~ инвариантны отно- относительно операторов, отвечающих только этим матрицам. Очевидно, что операторы Тл (g), отвечающие матрицам /1 О '1 сохраняют пространства Н и Н О \У Ч \0 6 (поскольку первые из них сводятся к умножению ф («) на функцию %{уи), а вторые переводят ф (и) в л F)|6|фF2и), см. п. 4, формулы A) и B)). Поэтому остается доказать только инвариантность подпространств Н+, Н~ относительно оператора Тл (s): Тл^ (s) Ф («) = J X {at +• vt~') sig-nT t Ф (v) d*t dv. Для доказательства перейдем от функций ф (и) к их пре- преобразованиям Меллина F(n)= Гф(и)|и|7 n(u)d*u, Запишем, как действует оператор Тл (g) на функции F (л). Имеем \_ Tjix(s)F(n) = j %{ut -f- ur')signT^(t>)|a| 2 я (a) d*t dv d*u. 61 § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 225 Интегрируя сначала по и, а затем по t, получаем отсюда Тя^ (s) F (л) = Г (лл!) Г (лл!Лт) J л-1л-гпх (v) ф (v) dv, где Л! (v)= | v |2 . Подставим в правую часть вместо функ- функции (p(v) ее выражение через преобразование Меллина F (л): ф (v) = л^ЧгО / л' (v) F (л') dn'. После интегрирования по и и по л' мы получим следую- следующую формулу для оператора Тл (s): ГЛт E) F (л) = Г (лл,) Г (лл!лт) F (я-X)- A) Покажем, что оператор Тл (s), определенный форму- формулой A), действительно сохраняет подпространства Н+, Н~. Для этого запишем условие принадлежности функции F (л) подпространству Н+. Условие, что ф {и) принадлежит под- подпространству Н^, записывается так: ф(а)ят(а) = ф(а), где лт(и) = signT и. Очевидно, что в преобразовании Мел- Меллина это условие запишется так: F(jmx) = F(n). B) Пусть теперь функция F (л) принадлежит Н+, т. е. удов- удовлетворяет условию B), и пусть F\ (л) = Тл (s) F (л). Тогда, принимая во внимание, что л2 = 1, мы получаем из фор- формулы A): Fx (ллт) = Г (ллхлт) Г (яя,) F (л'1) = = Г (лл1Лт) Г (ллО F (л-!лт) == Fx (л). Значит, вместе с F (л) функция Fx (л) = Тл (s) F (л) также принадлежит подпространству Н+. Тем самым инвариант- инвариантность подпространства Н+ доказана. 6. Квазирегулярное представление группы Q и его разложение на неприводимые представления. Квазире- Квазирегулярным представлением группы G мы назовем 15 И. М. Гельфанд и др.
226 гл. п. группа матриц из лок. компактного поля представление в пространстве функций f (хх, х2), хх, х2(^К> для которых / x2)\2dxldx2<co. Оператор представления Т (g), отвечающий матрице 'а р\ 1, задается формулой § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 227 T(g)f(xu х2) = A) Очевидно, что Т (gxg2) = T (gj T (g2) для любых gv g2 из G, и (T(g)f, T (g) /) = (/, /). Таким образом, операторы Т (g) образуют унитарное пред- представление группы G. Мы получим здесь разложение представления Т (g) на неприводимые представления основной серии. Назовем функцию f (хи х2) однородной функцией веса я, где л — мультипликативный характер на А", если выполняется условие j \?JC\ i ?^o) ' [, X2) B) для любого Каждая функция f (х1ъ х2) мол<ет быть разложена на однородные функции. В самом деле, сопоставим каждому мультипликативному характеру л функцию C) Очевидно, что функция /л(хх, х2) является однородной функцией веса л. По формуле обратного преобразования Меллина мы имеем f(txx, = \t\ J f /я(х1г x2)n(t)dn. D) где dn—подходящим образом нормированная инвариантная мера на группе характеров. Из формулы D) при t=l мы получаем искомое разложение функции f(xlt x2) на одно- однородные функции / (*г> х2) = J /я (jfI, x2) dn. E) Функции /л(х1, х2), будучи однородными, однозначно оп- определяются своими значениями на прямой дт2=1. Мы по- положим Фл (х) = /я (х, 1). F) Покажем, что справедлива следующая формула План- шереля: f\f(*i. x?\*dXldx2= §\q>n(x)\*dxdjl. G.) В самом деле, по формуле Планшереля для преобразования Меллина имеем на основании D) f\f(tXl. txd Подставляя сюда х2 = 1, получаем f\f(tx, (8) Интегрируя обе части равенства (8) по х, получаем формулу Планшереля G). Посмотрим, как действует оператор Т (g) на функ- функции Ц>я(х). Имеем Т (g) Фя (х) = Т (g) /я (xv x2) | = = Таким образом, Мы видим, что функции <ря(х) преобразуются по пред- представлению непрерывной серии, отвечающему характеру л. Тем самым формулы E), G) задают нам разложение квазирегулярного представления группы О на неприводимые унитарные представления непрерывной серии.
228 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [7 7. Дополнительная серия неприводимых унитарных представлений группы G. Здесь будет дано описание еще одной серии неприводимых унитарных представлений группы G, которая определяется по аналогии со случаем поля ком- комплексных и поля вещественных чисел (см. вып. 5 «Обобщен- «Обобщенных функций»,). Каждое представление этой серии задается вещественным числом р Ф 0, принадлежащим интервалу — 1 <С Р <С 1- Оно строится в пространстве функций ф (х) на К, для которых . ф) = г ,_ -, \хх — \p~1 (ф. ф) = г ,_ -, \хх — x2\p~1q>(x1)(p (x2)dx1dx2 < со. Здесь через пр обозначен характер пр (х) = | х ]р, A) Оператор представления Tp(g~), отвечающий матрице I , задается следующей формулой: B) Легко непосредственно убедиться, что для любых матриц gv g2 из G и что . 7\> (JO ф) = (ф. Ф)- Таким образом, операторы Tp(g) задают унитарное пред- представление группы G. Построенную серию представлений мы будем называть д о п о л н и т е л ь и о й серией. Можно доказать, что представления Tp(g) и Г_р (g) эквивалентны (доказательство для случая поля вещественных и поля комплексных чисел см. в вып. 5 «Обобщенных функ- функций»; для несвязных полей доказательство аналогично). По- Поэтому мы можем дальше предполагать, что 0<р<1. § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИИ 229 Другую реализацию представлений дополнительной серии мы получим, перейдя от функций ф(дг) к их преобразова- преобразованиям Фурье ф («) = J (— их) dx. Формула для оператора Tp(g) в этой реализации имеет следующий вид: u) = J Kp(g\u, v)(p(v)dv, ' где (g\u, v)= J X {—ax + v C) . D) Выражение для ядра Kp(g\u, v) можно записать в не- несколько иной форме. Именно, КР (g \u.v) = если р Ф 0 Kp (g\u, v) = \ б — 1Л1-Р+1. X ФУ и) 6 F2И — v). если р = 0. Найдем выражение для скалярного произведения (ф, ф) в новой реализации. Заметим, что преобразование Фурье переводит свертку функций в произведение. Поскольку пре- преобразование Фурье функции | х |р-1 есть где лр (лг) = | х \р, то имеем (Ф, Ф)= f\ufp\q(u)\2du. E) Итак, представление Тр (g) дополнительной серии @ < р< 1) может быть реализовано в пространстве функций ф(«) на К со скалярным произведением E). Оператор представления в этой реализации задается формулами C), D).
230 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [8 Все представления дополнительной серии непри- водимы. Доказательство этого ведется дословно так же, как и в случае основной непрерывной серии (см. п. 4). 8. Особое представление группы. G. В п. 7 мы по- построили дополнительную серию неприводимых унитарных представлений Tp(g), где 0 <С р << 1. Посмотрим, какие пред- представления получаются в предельном случае, когда р = 0 или р:= 1. Очевидно, что при р = 0 мы получаем представление основной непрерывной серии, отвечающее характеру л^1. Мы увидим сейчас, что при р = 1 возникает новое пред- представление группы G. Итак, мы рассматриваем представление с?) ф (х)= I э*+б г2. Выясним, как следует определить пространство функ- функций ф(лг), чтобы операторы Тх (g) были унитарными опера- операторами в этом пространстве. Заметим, что формула скалярного произведения (ф. ¦ ^ = Г (я) J I *i — *21Р 1 Ф C*i) Ф (*2) dxi dxi B) теряет смысл при р=1, поскольку Г(яр)|==0. Поэтому наложим на функции ф (х) дополнительное условие fcp(x)dx = 0. C) Для таких функций имеем J | хг — х2 |р-1 ф (jri)<p(jr2) dx\ dx2 |р=1 = 0. а выражение B) стремится при р —> 1 к конечному пределу (ф, ф) = с J In | хг - - х2 | ф (*0 ф (х2) dx1 dx2 *). D) *) In | x I есть присоединенная однородная функция степени однородности я эз 1, Ч § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИИ 231 Покажем, что функции Ц>(х), удовлетворяющие усло- условию C), образуют инвариантное пространство относительно операторов 7\ (g). В самом деле, имеем Следовательно, если I ф (х) dx = 0, то и JT1(g)q>(x)dx = 0. Итак, мы получили представление в пространстве функ- функций ф(дг), для которых I Ф (х) dx == 0, (ф, ф) = Г In | хг — х21 ф (^i) Ф (х2) dxx dx2 < оо. Оператор представления Тх (g) задается следующей формулой: Т (g) Ф (х) = ф {Щ^т) I И + о Г2- Это представление Тх (g) будем называть особым пред- представлением*). Если от функций ф (х) перейти к их преобразованиям Фурье ф (и) = I f (х) х (— их) dx, то мы получим другую реализацию особого представления. В этой реализации осо- особое представление строится в пространстве функций (р(и), для которых (ф. ф) = flu] |ф(и)|2 du < оо (и тем самым ф@) = 0). Оператор представления Tx(g) имеет вид Тг (g) Ф («) = / К\ (g \u, v)q (v) dv, *) В случае связного поля представление Г, (g) является одним из представлений непрерывной или дискретной серии. Поэтому тер- термин «особое представление» будет относиться только к несвязным полям.
232 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ где K1(g\a, v)= - их -f- + б Г2 dx. 9. Представления в пространствах 35Л. В этом пункте будет дано краткое описание неунитарных представлений группы G *). Каждому мультипликативному характеру л(х) поля К (здесь уже не требуется, чтобы было |я(л:)|^1) мы сопо- сопоставим функциональное пространство 35 я. Это пространство состоит из функций /(хг, х2), хх, х2?К, удовлетворяющих следующим двум требованиям: 1. В случае связного поля К функции f {xv х2) непрерывны и бесконечно дифференцируемы всюду, кроме точки @, 0). [а р [ Если К несвязно, то для матриц g = , достаточно VY о/ близких к единичной, f(ax1-\-yx2, ==/(*,, x2). A) 2. Функции /(хх, х2) являются однородными функциями веса я, т. е. для любого t=^=0. В пространстве 35Л можно ввести естественным образом топологию, относительно которой оно оказывается полным пространством. Зададим представление группы G в пространстве 35я. (а р\ Если g = « I , то соответствующий оператор представле- \У о/ ния 7"я (g) определим по формуле 2)- C) Возникает вопрос о неприводимости и эквивалентности представлений Tn(g)**). Для случая поля комплексных и поля *) Подробно об этих представлениях для случая связного поля К см. в вып. 5 «Обобщенных функций». **) По поводу определений неприводимости и эквивалентности в пространствах Q) см. там же. § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИИ 233 вещественных чисел этот вопрос подробно рассматривался в вып. 5 «Обобщенных функций». Здесь мы сформулируем без доказательств аналогичные результаты для случая несвяз- несвязного поля. Назовем особыми точками в группе мультиплика- мультипликативных характеров я характеры п(х) = \х\ и я(дг) = | х \~1. 1°. Два представления Tni(g) и Tn2(g), где щ — неособая точка, эквивалентны тогда и только тогда, когда либо я1 =it2, либо л1 = п2гщ 2°. В неособых точках я представления Tn(g) неприво- димы, за исключением случаев, когда п (х) = signx x. В слу- случае я (х) = signT х представление Tn(g) распадается в пря- прямую сумму двух неприводимых представлений. 3°. Пусть л(х) = \х \. Тогда в пространстве ?ВЛ имеется одномерное инвариантное подпространство еГя. Оно состоит из функций / (хг, Х2) = const. В пространстве SDл-\ также имеется инвариантное подпространство ?Гл-\, состоящее из функций f (хх, х2) таких, что Очевидно, что фактор-пространство <25я-11<&~л-1 одно- одномерно и, следовательно, 35л-\1^~п-\ ^-<fn. Можно показать, что ?&л/<^п^:<1?~п-1, т. е. представление в подпростран- подпространстве а^"я-1 эквивалентно представлению в фактор-простран- фактор-пространстве ?В„/УЯ. Теперь выясним, при каких я в пространстве 3)л можно ввести скалярное произведение, инвариантное относительно операторов представления. В тех случаях, когда это воз- возможно, мы можем пополнить 3)п относительно этого скаляр- скалярного произведения и получить унитарное представ ление группы Q. Для связных полей этот вопрос был исследо- исследован в вып. 5 «Обобщенных функций». Сформулируем без доказательства аналогичные результаты для несвязных полей. Инвариантное скалярное произведение в пространстве 2Е>п существует тогда и только тогда, когда выполнено одно из следующих условий:
234 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [10 1°. |я(л:)|^1; соответствующие унитарные представле- представления группы G — это представления основной непрерывной серии, рассмотренные в п. 1. 2°. я (х) = | х |р, где р — вещественное число, 0 < | р { < 1; соответствующие унитарные представления группы G— это представления дополнительной серии, рассмотренные в п. 7. Кроме того, при я(лг) — | .хг |~J инвариантное скалярное произведение существует в подпространстве <&~л функций из ?ВЯ, удовлетворяющих условию //О. это соответствующее унитарное представление группы G особое представление, рассмотренное в п. 8. Отметим, что при описании всех неприводимых представлений группы G между случаем связного поля К и случаем несвязного поля К имеется одно существенное различие. Именно, в случае связного поля нам достаточно рассмотреть пространства Q)я, а также все их инвариантные подпространства и фактор-пространства (в тех случаях, когда Q)я приводимы). Можно показать (см вып. 5), что при этом получаются все с точностью до эквивалентности неприводимые представления группы G. В случае несвязного поля К это не так: представления дискретной серии, которые будут построены в § 4, не эквивалентны представлениям в пространствах Qi . 10. Сферические функции. Назовем неприводимое пред- представление группы G представлением класса I, если в про- пространстве представления существует вектор, инвариантный относительно подгруппы U целочисленных матриц (т. е. матриц, все элементы которых являются целыми р-адиче- скими числами). Выясним, какие из представлений непрерывной серии при- принадлежат классу I. Как мы знаем, представление непрерывной серии Тп (g) может быть реализовано в пространстве функ- функций f(x) = f(x1, x2), удовлетворяющих условию однород- однородности для любого t Ф 0. Будем искать в этом пространстве функцию, инвариант- инвариантную относительно операторов Т (и) и а ^ U. 10] § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИИ 235 Назовем нормой | х | вектора x~(xlt x2) максимум норм его координат: xj, |jc2|). A) Легко убедиться, что любые два вектора х', х", нормы которых совпадают, могут быть переведены друг в друга некоторым преобразованием из U. Отсюда непосредственно следует, что любая функция, инвариантная относительно компактной подгруппы U, имеет вид На основании условия однородности получаем, что Отсюда заключаем: вектором, инвариантным относительно подгруппы U целочисленных матриц, обладают те и только те неприводимые представления непрерывной серии, которые отвечают характеру Этот вектор определен однозначно, с точностью постоянного множителя и имеет следующий вид: до х\ s-l где \х\ — норма вектора x = (_xlt x2), определяемая равен- подобран из условия, что ством A). Множитель |1/оН 1- Элементарной сферической функцией на группе G, отве- отвечающей неприводимому представлению класса I, назовем функцию <p(g) на группе G, определяемую следующей фор- формулой: ( где /0—вектор в пространстве представления, инвариантный относительно подгруппы U и такой, что |[/0|| = 1, а скобки обозначают скалярное произведение.
236 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [10 Из определения непосредственно следует, что функция ф (g) постоянна на двусторонних классах смежности по подгруппе U, т. е. Ф(.и\ёи2) = ФС?) Для любых «j, a2^U. Можно показать, что любая матрица g ? G представима в следующем виде: g = uxbu2. где «j, u2?U, а б — диагональная матрица вида 6=(о W' ">0- Таким образом, сферическая функция ф(^) полностью определяется своими значениями на матрицах 6. Вычислим ф(б). Пусть для определенности Т (g) — пред- представление основной серии, т. е. s = ф — мнимое число. В этом случае скалярное произведение задается следующей формулой: (А. /а) = Таким образом, имеем Разобьем этот интеграл на три интеграла—интеграл по об- области, где 11'\ -^ q~2", интеграл по области, где q~2n <; 11J -^ 1, и интеграл по области, где |?|> 1. Мы получим 4 F) = J « l<?" J ^(*-i) J § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 237 Все интегралы, входящие в это выражение, легко вычи- вычисляются. Именно, f dt = I \t\>l q-2n<\t\<l = A— 0-l) 1— q- V В результате получаем ф (б) = q-ns-n _j_ A ~nS _— (!J После элементарных преобразований получаем следующую окончательную формулу для сферической функции: 11. Оператор орисферического автоморфизма. Следуя главе I, будем называть орисферическими подгруппами /1 0\ группы G подгруппу Z матриц вида I , а также все \z \) подгруппы, сопряженные с Z. Орисферами в однородном пространстве относительно X группы G назовем орбиты орисферических подгрупп. Таким образом, любая орисфера на X состоит из точек вида = x0glzg2. A) где хо~ фиксированная точка в X, gx, g2 — фиксированные элементы группы G, a z пробегает подгруппу Z. Из определения следует, что любое транзитивное се- семейство орисфер на X либо совпадает с пространством классов смежности 2 = Z \ G, либо получается из Q допол- дополнительными отождествлениями точек. Условимся называть Q пространством орисфер. Это пространство Q
238 гл. п. группа матриц из лок. компактного поля изоморфно двумерному аффинному пространству над К, из которого выброшено начало координат. Найдем все орисферы в пространстве Q. Будем задавать орисферы формулой A), где х0—точка пространства Q, отвечающая единичному классу- Рассмотрим матрицу g\ = а р Y б в формуле A). Покажем, что если f} = 0, то орисфера A) вырождается в точку. В самом деле, в этом случае имеем giZ = z'gl, где z'^Z. Следовательно, поскольку xoz = х0, то xz — аго^1^ Для любого z. Пусть теперь р Ф 0. В этом случае матрицу gx можно представить в виде g\ = zxs bz2, где zv z.2^Z, б— диагональная матрица и 0 1 —1 0 B) Таким образом, уравнение орисферы A) принимает сле- следующий вид: х2 = xosz bg2. C) Итак, мы видим, что невырожденные орисферы в про- пространстве Q образуют однородное семейство. Именно, все они получаются групповыми сдвигами из орисферы Если перейти в C) к координатной записи, приняв во внимание, что хо = A, 0), то мы получим следующее уравнение орисферы: -I-6. аб =1- D) Таким образом, орисферами в пространстве Q точек х = (хг, х2), хфО являются всевозможные прямые, не проходящие через начало координат. Пусть ф (х) — основная функция в пространстве 2. Со- Сопоставим ей интегралы функции ф(лг) по всевозможным 111 § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 239 орисферам (т. е. прямым) в пространстве Q: = / Ф (xoszS) dz. E) Заметим, что i|) (zg) = гр (g) для любого z?Z. Таким образом, \\> можно рассматривать как функцию в простран- пространстве 2 = Z \ G и писать гр(лг) вместо г|)(^). Итак, отображение В: ф(*)-*ф(*) F) переводит функции на Q снова в функции на 2. Это ото- отображение В назовем орисферическим автомор- автоморфизмом. В координатной записи оператор В задается, как нетрудно видеть, следующей формулой: 1-У1, x2z + y2) dz, G) к где уг, у2 — произвольные элементы из ЛГ, связанные с хх, х2 соотношением хгу2 — х2ух = 1. Например, при х{ ф 0 формулу G) можно записать в виде v x2) = fq>(Xlz, x2z + x~l)dz. (8) к Укажем основные свойства оператора В. 1. Оператор В перестановочен с операторами группового сдвига f (х) —> / (xg). Это непосредственно следует из формулы E). 2. Оператор В переводит однородные функции веса я *) в однородные функции веса я. Это непосредственно следует из формулы (8). Из свойства 2 оператора В следует, что оператор В2 переводит в себя каждое пространство Э)п однород- однородных функций. Поскольку пространство 3)л неприводимо. *) То есть функции, удовлетворяющие соотношению Ф {tx) = я @ 11 Г1 Ф (jf), t?K.
240 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [11 а оператор В2 перестановочен с операторами представления, то этот оператор на каждом пространстве 3>п кратен еди- единичному оператору: для любой функции фя ? 25 п. Наша основная задача—вычислить множитель пропор- пропорциональности X (я). В этом пункте множитель X (я) будет сосчитан для поля вещественных чисел и для несвязного поля (см. формулы A5), C0)). Введем две однородные функции веса я. Для их построе- построения продолжим характер л до мультипликативного характера на квадратичном расширении /ST(]/e) поля К. Полученный характер по-прежнему будем обозначать через я. Положим ф?> (х, у) = л(х ¦ y)\x—V&y\ . где х, у ? К. Вычислим Bq>'V и Сначала рассмотрим случай поля К вещественных чисел. В этом случае имеем ("^8 = /): + СО = J n(xz-i-i(yz-\-x-1))\xz-hi(yz ¦+- x~l)\~ldz. — со Преобразуем этот интеграл. Имеем "'v \ 1 &) + ']¦ Следовательно, получаем после подходящей замены переменной — iy)\x- iy\~] f 11] § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИИ Итак, где Вц>ал\х, у) = А,A)(я) q>;?-,(*, у), + оо Хт(п)= J* я 241 (9) A0) Интеграл A0) может быть непосредственно выражен через классическую В-функцию. Именно, пусть я (х) = | х f signv x, v = 0, 1. Зададим расширение характера я на поле комплексных чисел следующей формулой: ji(z) = I z \s ev агкг. A1) Нетрудно убедиться, что тогда когда v==0- s-1 1\ 2—, у] , когда v = 1. A2) Аналогично мы получаем, что '2) % {х, у) == Х'2) (л) ф^, (х, у), A3) где Из этих формул следует, что p(i) = X (я) ф?). , (Я) ф^', где -^- , когда v = и, — tg- ^- , когда v = 1 • Теперь рассмотрим случай несвязного поля 1С. 16 И. М. Гельфанд и др. A4) A5)
242 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 1" В этом случае имеем = Г 7l(xZ К (yz -\- dz. Рассуждая так же, как и в случае поля вещественных чисел, мы получаем где (ri) = f n(z ¦¦ У). г— 1-1 A6) A7) Остается вычислить интеграл A7). Характер л(х) задается следующей формулой: я (х) = | д: |* 6 (дг). A8) где s—комплексное число и 9 (р) — 1. Сначала рассмотрим случай, когда 8(дг)^1. В этом случае имеем ¦(„)= J j dx-1r^-- <19) Теперь рассмотрим случай, когда 9^=1. Пусть ранг характера 9 в поле К равен п. Напомним, что рангом называется наименьшее натураль- натуральное число п, для которого 9(I+p"jff)==l. |*|<I. Отметим, что ранг характера 9, рассматриваемого как характер на К, совпадает с рангом 9, рассматриваемого как характер на К(У е)- Покажем сначала, что Ik= J n(z-t- V~*)\z-\- V^f1 dz = 0 при k>0. 111 § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ В самом деле, имеем J Отсюда следует, что для любого х ? К, \ х | ^ 1 имеем 243 Но 9A-|-р"-1^) ^ 1. Следовательно, fk = 0. В силу дока- доказанного, мы получаем следующее выражение для А/1'(л): =- J На основании этой формулы можно доказать, что Доказательство. Имеем B0) B1) z, {z и и пробегают по одному представителю из каждого класса смеж- смежности О/р"О.) Выделим в этой сумме слагаемые с г = и. Мы по- получим, что Покажем, что. второе слагаемое равно нулю. Для этого рассмотрим множество значений по mod рп, которое пробегает z * е— в по- u-j-УТ следней сумме. Нетрудно убедиться, что это множество сохраняется при умножении на элементы вида xs = 1 —(— р« — is, I si < 1. Следо- Следовательно,
244 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [11 Так как 0 (xs) ф 1, то отсюда непосредственно следует, что Дадим другой вывод формулы B1), основываясь на результа- результатах § 2, п. 6. Введем гамма-функцию Ге (я) в поле К'(У~^) согласно следую- следующей формуле: Докажем, что к (УГ) Ге (яя0) Г (яя0) ' B2) B3) где па (х) = | х |. _ В самом деле, заменой t = xy -\-]^е у, где х,у?К интеграл B2) приводится к виду: T l~2 Ге (я) = J" х (У) л (у) I у Г1 dy- fn(x + VD | дг + VT l Отсюда непосредственно вытекает равенство B3). Чтобы получить из B3) формулу B1), воспользуемся следую- следующей формулой, полученной в § 2, п. 6: (я) | = q п (Re s~) Покажем, что I ге п (Re s-1) B4) B4') В самом деле, при переходе от поля К к полю К(У~?~) число q (порядок поля вычетов О/Р) заменяется на q2, а ранг характера л сохраняется. Следовательно, на основании B4) имеем [Г (я) I = Равенство B1) непосредственно следует из B3), B4) и B4'). Итак, мы получаем окончательно следующую формулу для оператора В: Если я (х) = | х \s 9 (х), 9 (р) = 1, то :> у). B5) "] § 3. НЕПРЕРЫВНАЯ СЕРИЯ ПРЕДСТАВЛЕНИЙ 245 где 1 — qs~* если 9 (дг) == 1, (я) = q 2 fj,W (я), если Ъ(х)ф\. Здесь п—ранг характера 9, и B6) Вычисление функции jj/J) (я) является задачей существенно более сложной. Впрочем, для наших целей знания функ- функции M-<1J (я) не требуется. Аналогично, имеем Покажем, что функция Х( (я) связана с функцией 1A) (я) следующим соотношением: В самом деле, по аналогии с формулой B0) имеем \ ) J ^ = 9(— 1) Г в" Следовательно, Ha основании полученных формул имеем где = Я (я) фB)> e== еСЛИ °—Ь если ранг 9 равен п q~nn{—1), т. е., согласно п. 6 § 2, Я (я) = Г (я) Г (л). C1)
246 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ § 4. Дискретные серии неприводимых унитарных представлений группы Q 1. Описание представлений дискретной серии. Мы по- покажем здесь, что с каждым квадратичным расширением f((^\f4) поля К связана некоторая дискретная серия неприводимых унитарных представлений группы G. Таким образом, в слу- случае поля вещественных чисел имеется одна, а в случае не- несвязного поля—три дискретные серии неприводимых уни- унитарных представлений группы О. Предварительно напомним формулы для операторов не- прерывной серии в Х"Реализаи-ии- Если g" = I А ) ' то соответствующий оператор представления Тл (g) задается формулой Тп (g) Ф («) = / Кя (g | и, v) ф (v) dv, где если р Ф 0; | и. v) = я F) | 6 | x v). если р = 0. Здесь я—мультипликативный характер на К, задающий представление. Представления дискретной серии мы определим аналогич- аналогичными формулами. Пусть к(У~ч) — квадратичное расширение поля К, ji(t) — мультипликативный характер на Ar(V x)- Рас- Рассмотрим пространство Н функций ф(«) на К, для которых (<р, ф) = J | ф (и) р du < оо. [а р\ Сопоставим каждой матрице ^=1 л) л) оператор Ч § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИЙ в Н> определенный следующей формулой: Тп (g) <p (u) = J* Кл (g | и, v) ф (г>) du. п (g \u, v) = атст sign p I bu-\-av \ sign« х (р ) X Х [ signT« х J xj-j 247 A) f. B) tt = если р Ф 0, signt и = signT v; Kn{g\u, г>) = 0, C) если signT и Ф signt v; Кп (g \u, v) = signT б - л (б) | б | х (Ьуи) 6 (б2й — v), D) если р = 0. Здесь d*t обозначает меру на окружности tt = vu~1, однозначно определяемую из условий d*(tto)—d*t для лю- любого ?0 такого, что^0^0=1; fcf7=l; ах — 2 A -f-^) X X A -+- I T I)- Коэффициент сх определяется по формуле 't. E) где интегрирование ведется по плоскости fc(Y x)- Точный смысл и значение этого интеграла были указаны в § 2 п. 7. В пп. 3, 4 мы покажем, что операторы Tn{g) обра- образуют унитарное представление группы G. Сделаем несколько предварительных замечаний о пред- представлениях Tn(g). 1°. Мы видим, что операторы Tn(g) определяются по существу такими же формулами, что и операторы пред- представлений непрерывной серии. Единственное важное различие в том, что интегрирование в B) ведется не по «прямой», а по окружности tt = vu~x на плоскости к{\^ т). Точки t этой окружности характеризуются условием, что ut -f- vt~l должно принадлежать полю f(.
248 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ 2°. В п. б будет показано, что если Л1 = п2 на окруж- окружности tt= 1, то представления T^g) и Tn2(g) эквивалентны. Значит, представления Тп (g) задаются фактически характе- характерами на окружности tt=\, а потому множество этих пред- представлений дискретно. Этим и объясняется название «дискрет- «дискретная серия». 3°. Представления Tn(g) приводимы. В самом деле, пусть Н —подпространство функций ф (и) таких, что ф(и)=О при signT и — —1; Н —подпространство функций таких, что ф(и) = 0 при sig-nT«=l. Из формул для операторов представления непосредственно видно, что подпространства Н+ и Н~ инвариантны. Представления в подпространствах И и Н~ мы будем дальше обозначать соответственно через Тя (g) и Тя (g). Эти представления уже неприводимы (см. п. б). Итак, мы видим, что каждая дискретная серия непри- неприводимых унитарных представлений состоит из двух половин — представлений Т? (g) и представлений Т„ (g). Первые реализуются в подпространстве функций ср(и) таких, что ф (и) = 0 при signT и = — 1; вторые — в допол- дополнительном подпространстве. Аналогичная серия представлений возникает и в случае ко- конечного поля Kq- Будем предполагать, что характеристика поля Kq отлична от 2- Тогда поле Kq обладает в точности одним квадра- квадратичным расширением. Связанная с этим расширением серия пред- представлений реализуется на функциях <р (и), где а пробегает эле- элементы поля Kq, отличные от 0. Оператор представления имеет вид вид где когда п (g) q> (и) = Ф (в), 0; К = n F) х Fy«) б F2« — когда р = 0. Здесь 6 (и) — дельта-функция; 6 (м) == 0 при и =f= 0 6 @) *= 1. В отличие от бесконечного поля, представления Тп (g) оказы- оказываются неприводимыми (за исключением случая, когда я (х) = ±1). Можно показать, что представления Tlt(g) и Т -x(g) эквивалентны. § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИЙ 249 2. Непрерывная зависимость от g операторов Т„ (g). (а р\ Операторы Тл(?), отвечающие матрицам g=\ \, мы определили различными формулами в случае, когда р ф 0, и в особом случае, когда р = 0. Мы покажем здесь, что формула для оператора Tn(g~) в особом случае, когда р ф 0, получается предельным переходом из формулы для оператора Tn(g), отве- отвечающего матрице общего положения. Тем самым будет установлена непрерывная зависимость от g операторов Тл (g). Предварительно преобразуем формулу для оператора к несколько иному виду. Согласно п. 1, оператор Тл (g-), p ф 0 задается следующей формулой: signup Тя (g) ф («) = ахсх —pp-j— signt и X X J y>{ A) где интегрирование по t ведется по окружности tt — vu~l. Подставляя в интеграл v = utt, мы можем эту формулу переписать в следующем виде: sign Тя (g) ф (и) = сх —щ x « X X { X (-j (б + atf— t — 7) ) я (*) ф (utf) dt, B) где интегрирование ведется по всей плоскости К (V х)- Сде- Сделаем замену переменной: ^ = р^' -f- б. После элементарных преобразований мы получим Тя (g) ф (в) = сх | р | signT р | и | signT « х (&Y«) X X Г X [(ар^М- YP (^ + 0 ) «1 « (Р' + 6) Ф (« (Р' + 6) (Р^"+ &))dt. C) Посмотрим, во что перейдет в пределе это выражение при р-ч>0. Будем предполагать, что signr ft остается постоянным. Пусть р0—фиксированный элемент такой, что signtp0 = = sigOj p. Тогда имеем _ р = ро00,
250 гл. п. группа матриц из лок. компактного поля где о — элемент из к{уЧ)- Сделаем в интеграле C) замену переменной t = a~xt'. Мы получим Тп (g) Ф (и) = сх | р01 signT Po|eJ signT и ¦ х фу и) X X / X [а (аРо^+ YPo & + «О)] я (р0^ + б) X X Ф (и (foot 4- 6)(р0оТ-4- б)) dt. D) Нас интересует предел этого выражения при а —> 0. Совершим формально предельный переход под знаком интеграла. Тогда получим Тя (g) ф (и) = сх | Ро I sign,. Ро | и | signT « • х (буи) X X я (б) ф ф2и) | х («<#«,#) Л. E) Однако — 1 sign (иаРо) а_ J (см. § 2, п. 7). Подставляя это выражение в E) и принимая во внимание, что у предельной матрицы а = Ь~1, получаем Тя (g) Ф («) = siga, 6 • я (б) | б| х (бу«) Ф (б2«). т. е. Тя (g) Ф (в) = sign, б • я (б) | б| х (byu) f б F2И — -у) Ф (©) dv. Мы получили в точности формулу D) п. 1 для оператора /а 0\ Гя (^), отвечающего матрице g = I Предельный переход при а->0 был совершен нами не вполне строго. Чтобы сделать рассуждение строгим, вместо операто- операторов 7*я (g) нужно было бы ввести вспомогательные операторы, добавив под интегралом D) множитель | и (afiott -J- yPo {at-\- at) ) |^ (Я — комплексное число). Разобьем . полученный интеграл на два слагаемых — интеграл по области 111 < 1 и интеграл по области \t\~^>\. Тогда, как легко видеть, для каждого из этих интегралов найдется область значений Я, при которых он сходится абсолютно и равномерно по а, когда а->0; тем самым возможен предельный переход при а -> 0 под знаком интеграла. Мы не будем здесь под- подробно останавливаться на этой обычной технике обобщенных функций. 3] § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИЙ 251 3. Доказательство соотношения Тл (gig2) — тп (ifi) X X Тл (g2)' Докажем, что операторы Tn(g) действительно образуют представление группы G, т. е. ll(g2) A) для любых матриц gu g2 из G. Операторы Tn(g1), Tn(g2), Tn(g1g2) задаются соответ- соответственно ядрами Kn{gx\u, v), KJl(g2\u, v) и Кя(&-&2\и, v). Таким образом, мы должны доказать, что J и, w)Kn (g2 |w, v) dw = Кл (g!g2 \u, v). B) Пусть Si РГ a2 a p у 6 Нам достаточно рассмотреть случаи, когда Pj Ф 0, р2 Ф 0, р ф 0. Соотношение A) для особого случая, когда хотя бы один из элементов Pj, P2> P равен нулю, можно затем полу- получить предельным переходом. Подставляя в B) выражения для ядер из п. 1, мы получим X Г1 - а\с\ sign, (PlPa) I Plp2 Г1 x J — is) — V X dw. C) t~1 Сделаем замену переменной s = t~1o. Мы получим ^ = «2в» sign, (РА) | рЛ I х (^ + *?) X X J - V - W аа=— tt=— и и o. D)
252 ГЛ. И. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [3 Займемся отдельно вычислением внутреннего интеграла и Подставляя в интеграл w = utt, мы можем его пере- переписать как интеграл по плоскости /с(~)/~%): = a~\u\ J i[—U(a L-tf" J ) <tt, где обозначено а = ъ—{-¦%-. Pi Р2 Сделаем в интеграле подстановку t = tr -\-~^- а. Мы = tr -\-~ получим Однако Следовательно, Подставим это выражение в D) и воспользуемся легко про- проверяемыми соотношениями б! р2 б а2 Р а Р2 Р2р ~Т" _ Pi PiP "" Р' Р2 Р2р Мы получим signTp [ 6u-\-av \ g = ахсх —щ- signT и ¦ % [ р J X X J X (— у (а +а~) ) я (а) rf*a = /Ся (glg2 | «, г;). Тем самым соотношение B) доказано. § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИИ 253 В нашем рассуждении имелась некоторая нестрогость, поскольку мы вычисляли интеграл B), который в обычном смысле расходится. Этой нестрогости можно избежать, если рассматривать вместо ядер Kn(g\u, v) вспомогательные ядра Кп (g \u, v\X) = Kn(g\u, v)\v\x, X — комплексное число. Составим интеграл &х = J Кл (gi \u,w\k)Kn (g2 | w, v | A) dw. Разобьем его на два интеграла — интеграл по области | w \ < 1 и интеграл по области | w | >• 1. Легко убедиться, что каждый из этих интегралов сходится в некоторой области значений К и является в этой области аналитической функцией от Я. Тем самым интеграл ff-^ определен как аналитическая функция от Я. Можно показать, что в точке Я = 0 функция 3'х регулярна и что & = /<_ (g^o \ и, г>). 4. Унитарность операторов Тл (§•)„ Докажем, что опе- операторы Tn(g) представлений дискретной серии уни- унитарны, т. е. Tl (g) = Г*1 (g), где звездочкой обозначен сопряженный оператор. В самом деле, оператор Tn(g) задается ядром л {g | v, и) = ахсх _ sign C с — si signT v ¦ % [ Sv -j- aw X X J X (j (vt+иГ*)) л (/) ctt = axcx ^~ P) X X sign, a ¦ X (^ёр^) J X (- ^ Ы + г;/) ) л (*) Л *). Мы видим, что Kn{g\v, u) = Kn(g 1\u, v), т. е. Tn(g) = С другой стороны, поскольку операторы Тп (g) образуют представление, имеем rjl(g-~I) = 7^ (g). Следовательно, 7Я (g) = Тл1 (g), что и требовалось доказать. 5. ^-реализация представлений дискретной серии. В этом и в следующем пунктах будут даны две другие реа- реализации представлений дискретной серии, я-реализацию пред- *) Использовано соотношение сх = сх sign^ (—1), см. § 2, п. 7.
254 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ ставления мы получим, перейдя от функций ср(«) к их пре- преобразованиям Меллина: F Ш = / <Р 1 (в) | и A) Нетрудно видеть, что ядра Кя (g \Щ, я2) операторов Тп (g) в я-реализации выражаются через их ядра Кя (g | и, v) в перво- первоначальной реализации представления следующей формулой: = $ Kn{g\u, ix (u)\u\-'hn2(V)\v\-4* dadv. B) Найдем в я-реализации формулы для операторов предста- представления, отвечающих матрицам 6 = б ОУ [ О4. z==0 1 ? О 1 Для этого нам понадобится, наряду с Г-функцией, связан- связанной с полем К, Г-функция Гс(я), связанная с полем Гт(я)= / %x(t)K(t)d*t. к* (УТ) Здесь я пробегает множество мультипликативных харак- характеров на К(У т), а хт(Х) — аддитивный характер на ( выражающийся через характер %(х) на /С по формуле Условимся считать, что все мультипликативные харак- характеры на К продолжены до мультипликативных характеров на Af("j/~r); последние будем обозначать теми же буквами, что и исходные. Условимся, далее, через я (f) обозначать характер, определенный формулой 5] § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИЙ 255 Мы покажем, что операторы представления, отве- отвечающие матрицам б, z и ?, задаются в л-реализации представления следующими формулами: ; C) D) Тл F) F (зч) = яя?ят F) Тя (z) F (яО = Я!Я2"J (z) j* Г (яГ !я2) /=" (я2) dn2; = J :я2 (— О F (яг) й?я2) E) | Отметим, что эти формулы аналогичны формулам для пред- представлений основной серии, полученным в § 3, п. 2. Именно, согласно § 3, п. 2, формула для оператора Тл (z) пред- представления основной серии в точности совпадает с фор- формулой D), а оператор Тл (?,) представления основной серии задается следующей формулой: т. © =j <- Формулы C) и D) легко получаются на основании фор- формулы D) п. 1 для ядра Kn{g\u, v). Приведем вывод фор- формулы E). Ядро оператора Тя (С) задается в я-реализации представления следующей формулой: щ) = ахсх sign ? X X sign,и . лТ1 (и) \ и\~Чш X X я2 (v) | г; | '/г я (О d*f После элементарных преобразований получаем, что Кя (С | лх, я2) = с^-^ (О X X J Jx («С1 ~ 0A — 0) sign^f тя2(«)яя2я2 @ du dt.
256 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [5 Выполняя интегрирование по и, получаем, что *я (С 1JV л2) = схк- !я2 (С) Г (яГ ^Х) X X / ля2я2 (О я^я^я-1 A — о | A — о A —7) Г1 d/. где ят (х) = signr лг, д; ? /Г, Последний интеграл есть В-функция, связанная с полем K(Y^)' a потому он может быть выражен через функ- функцию Гт. В результате получаем = с^-Ы, (О X Г(я-1я2ягя2 Так как, согласно п. 10 § 2, Гт (я^я-1^-1) = | т |-i схГ (я^- Гт (яя2я2я^) Гг = I т | я^ Я ) то получаем окончательно (поскольку | т |—1с^лт г i) — \ у Тем самым формула E) для оператора Гя(?) доказана. /0 —1 /0 —1\ Выведем теперь формулу для оператора Тп (s), где s = I I. ем n(slnv л2)=ахсхпх(—1) J J X (" С+Т)) я (О X Имеем "=¦« X nt 1пх (и) я2 (v) | и | 1/з | г; | 1/г uf*^ -с я Г—П Г Г ylaltA-Т^л к (ут) § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИИ 257 Заменой переменной t*=u,~4' этот интеграл приводится к виду Кп(s | щ, п2) = схпх (—1) j%(.t + T) пп2щпо2 (О Л X X Г rtf 1л2~1ятя~1я^'2 («) й?и. т. е. л (s | яь я2) = стят (—1) Г F) где б (я) — дельта-функция на группе мультипликативных харак- характеров поля АГ- На основании формулы F) получаем следующее выражение для оператора Тл (s): = схпх (—1) Гт (H-^S G) где я — ограничение характера я (О на поле AT- Попутно отметим, что операторы Тп (s) основной серии задаются в я-представлении аналогичной формулой 6. Другая реализация представлений дискретной серии. Рассмотрим другую реализацию представлений дискретной серии. Мы получим ее, перейдя от функций ф (а) к их пре- преобразованиям Фурье Ф (х) = f cp (и) х (их) du. В этой реализации оператор представления Tn(g) будет задаваться ядром Kn(g\x, у)= J Kn(g\u, v)i(ux — v A) где Kn(g\u, v) — ядро оператора Tn{g) в старой реализа- реализации. Найдем явное выражение для этого ядра. /а р\ Пусть 5"= > где р Ф 0. Подставляя в A) выра- V у 6 / жение B) п. 1 для ядра KK(g\a, v), получаем jt(g\u,v) = axcx |р[ j signx 5u-\-av I X Хя@ х («* — г/у) «Г* du dv. B) 17 И. М. Гельфанд и др.
258 ГЛ. II. ГРУППА .МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [6 Здесь интегрирование по t ведется по окружности tt = vu~l. Подставляя под интегралом v = att, мы можем переписать эту формулу так: signTP Г Kn(g\u. v) = сх —j-p-j— J | и | signT и X Хх[«E \Ш — j d -+- Ъ И- х - *7у)] я (/) dt du, C) где интегрирование по t ведется по всей плоскости Выполним интегрирование по и. На основании формулы fn(u)\u\ l мы получаем Кл (g | х, у) = signt б -4- att ¦Я1 /, D) где Итак, в новой реализации представление дискрет- дискретной серии строится в пространстве функций ф (л;) на К. для которых (ф, ф) = J | ф (х) |2 dx < оо. Оператор представления Tn(g), отвечающий ма- рице g—\ ]. где р Ф 0, имеет вид \ у 6 J E) где ядро /Cji(g"|JC, у) задается формулой (^4). § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИИ 259 Формулу для ядер операторов Tn(g), отвечающих тре- (а 0\ угольным матрицам g = , можно было бы полу- V Y о J чить из D) путем предельного перехода. Однако удобнее получить ее непосредственно из формулы для оператора Tn(g) в старой реализации: Тя (§") Ф (и) = signT 6 я F) | 6 | х фуи) Ф F2й). Применяя преобразование Фурье, мы без труда получаем: /а 0 оператор Tn(g), отвечающий матрице g" = \У о имеет в новой реализации следующий вид: Тл (g) ф (дг) = sign, 6я F) | 6 | Ф 7. Эквивалентность представлений дискретной серии. Каждое представление дискретной серии задается мульти- мультипликативным характером я (t) на плоскости Af(]/r), а также знаком signT и (поскольку оно реализуется либо в подпро- подпространстве функций ф(й), равных нулю при signT и = — 1, либо в дополнительном подпространстве). Здесь будет выяс- выяснено, какие из представлений дискретной серии эквивалентны между собой. Именно, мы докажем, что I. Если я^О^ЯгСО на окружности tt=\, то предста- представления Т'пх (g) и Тп2 (g) (соответственно представления 7^ (g) и Тя2 (g) ) эквивалентны между собой *). II. Если п.г (t) = я (/), то представления Т* (g) и Т*'(Ю (соответственно Tnt(g) и T^n(g)) эквивалентны между собой. Из результатов § 5 п. 4 будет следовать обратное утвер- утверждение: если лх (?) Ф я2 (^) и ях (?) =^= я~! (^) на окружности tt= I, то представления T^(g) и T?2(g) (соответственно Tn,(.S) и T^iS)) не эквивалентны. *) Напомним, что через 7"+ (^) мы обозначаем представления, реализуемые в подпространстве функций q> («), равных нулю при signT и = — 1, а через У~ (g) — представления, реализуемые в дополнительном подпространстве. 17'
260 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ III. Представления T^(g) и Tn2(g) не эквивалентны ни при каких кг, я^. Доказательство утверждения I. Ядро опера- оператора Тп (g) имеет вид я (Я \u,v) = . A) Здесь signT и — signT v = 1. Таким образом, каждый из элементов a, v является либо квадратом элемента из Af, либо имеет вид ws2, где s—элемент из ЛГ, v—фиксирован- v—фиксированный элемент из fC(Vr) такой- чт0 vv не есть квадрат эле- элемента из К- Преобразуем формулу для Кл (g \ и, v). При этом мы рассмотрим отдельно случай, когда л(—1)=1, и случай, когда я(—1) = — 1. Пусть сначала я(—1)=1. Если а — s2, v = s2,, sv s2 ? К, то заменой переменной t = Л/ — t' получаем „» , , , n(Vv) signTp т т IPI х/х(- X X n(t)d4. B) Поскольку л(д:) = я(—х), то все сомножители в этом выражении — однозначные функции от « и г/. Аналогично имеем: если m = vvs^, v= s\, sv s2 ? К, то Vv замена переменной t = - К$ (g \u.v) = ¦f signx бм -f" av X X /= 1 (v у) uv ~~р C) § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИИ 261 если — s\, г/ — > TO v) signT p / Ьи -f- av aTcr X V(vv) -l P PI P D) Наконец, если u = ws^, v = ws%, то ) 1 v ) signTp / бы + at/ vv) 'wj signTP / —FT-VflTCT~TFrx( v v) ' и ) ' V ' v X x Jx(- ^ =1 E) Рассмотрим в пространстве представления оператор Ап умножения на функцию Ляф (й) = а (и) ф (й), F) где a (а)=л(угй'), когда a = s2, s?K, а (ы) = я (v V"(w) ! и)' когда и = vvs2, s ? fC. Перейдем от представления Т? (g) к эквивалентному представлению ?Z (g) = А^Т + (g) Ал. Очевидно, что формулы для ядер операторов Т? (g) полу- получаются из формул B) — E) отбрасыванием первых сомножи- сомножителей. Значит, эти ядра зависят только от значений, прини- принимаемых характером я (t) на окружности tt=\. Этим дока- доказано, что если л1(/) = л2(/) на окружности tt=l, причем лх(—1)=1, то представления T^(g) и T^2(g) эквивалентны. Теперь рассмотрим случай, когда я(—1) = — 1. Пусть Яо(/) — фиксированный характер такой, что яо(—1) = —1. Тогда, подобно первому случаю, мы можем преобразовать формулу для ядра оператора Т? (g) к следующему виду.
262. гл. п. группа матриц из лок. компактного поля Если и = s[, v — s\, sv s2?K, то [T "¦v) ° av =1 (^Выражение щ{^) J x(- j y=- С -+- f>) Ж является I V однозначной функцией от . и, v, поскольку оно не зависит от выбора знака ~\/а и ']/''»•) Если u = wSj, v = s\, svs2?f(, то *¦«"(#!«. *0 = - яя, — 1 яя0 X v v) bu-\-av —p X Ы-т =1 и т. д. Перейдем от представления Т? (g) к эквивалентному представлению f? (g) = A~X-iTn (g) Л i, где оператор Ал лло лло задается формулой F). Ядра операторов Тп (g) зависят уже только от значений, принимаемых характером n(f) на окружности tt=\. Значит, если лг (t) = щ (t) на окружности tt=l, то представления 7"я, (g) и Tn2{g) эквивалентны. Утверждение I доказано. Доказательство утверждения II. Сделаем в фор- формуле для ядра оператора Т? (g) sign /6u-\-av\ I* / 1 , _,Л 7] § 4. ДИСКРЕТНЫЕ СЕРИИ ПРЕДСТАВЛЕНИИ 263 замену переменной / — vu~lt'~x. Мы получим я sign 6 X х т. e. !. V). G) Из соотношения G) непосредственно следует эквивалент- эквивалентность представлений Т* (g) и T^-i(g). Доказательство утверждения III. Пусть А — ограниченный оператор, отображающий пространство пред- представления 7jjj (g) в пространство представления Т^ (g) и перестановочный с представлениями: T*(g) A =* AT^ig). (8) Наша задача —показать, что Л = 0. Рассмотрим операторы Tnt(g), Т„2(?), отвечающие матрицам g — \ J. Эти опе- V Y ! / раторы имеют вид ^я, (§") ф («) = X (Y«) Ф («)• Т'я.^) Ф (я) = X (Y«) Ф («)¦ Положим i|)(m) = Лф(и). Тогда условие (8) запишется в виде X (уа) ф (я) = Л [х (Y«) ф («)] для любого у из /if. Отсюда непосредственно следует, что /(я)ф(я) = Л[/(я)ф(«I (9) для любой ограниченной функции / (и) на Af. В частности, рассмотрим функцию если signr в = 1, если signr в = — 1. Так как функции ф(й) сосредоточены в области signTa=l, а функции ф(и) —области signT«=—1, то имеем: /.(в)ф(в) =
264 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [8 = ф(й), /(й)"ф(и) = О. Следовательно, равенство (9) дает Лф(и) = О, т. е. А = 0. Все представления дискретной серии Гя (g), T^ (g} неприводимы. Доказательство этого утверждения проводится так же, как и в случае представлений непрерывной серии (см. § 3 п. 4). 8. Дискретные серии для случая поля 2-адических чисел. В предыдущем изложении всюду предполагалось, что характеристика поля вычетов О/Р отлична от 2. Однако в гл. III нам понадобятся представления группы унимоду- лярных матриц 2-го порядка с элементами из поля Q2 2-ади- 2-адических чисел. Этот случай лишь незначительно отличается от рассмо- рассмотренного выше общего случая. Именно, конструкции основ- основной серии, дополнительной серии и особого представления переносятся на случай поля Q2 без изменений. Небольшие изменения приходится сделать лишь при описании дискрет- дискретных серий. Укажем их. Фактор-группа К*ЦК*У имеет в случае f(=Q2 порядок 8 и может быть представлена в виде прямой суммы трех циклических групп 2-го порядка. В качестве образующих этих групп можно взять классы смежности К*/(К*J, содер- содержащие числа 2, 3 и 5. В самом деле, из рассуждений § 1, п.. 5 следует, что подгруппа А2 с: /(*, состоящая из элементов вида l-j-8x, | х | -^ 1, содержится в (О*J. В то же время непосредственное вычисление показывает, что если | х | = 1, то х2 ? Л2. Отсюда вытекает сделанное выше утверждение о структуре группы АГ7(/ГJ. Таким образом, поле K~Q2 имеет семь различных квадратичных расширений ЛГ(У^). т = 2, 3, 5, 6, 10, 15, 30. Можно проверить, что в каждом из этих расширений под- подгруппа ЛГг. состоящая из элементов вида zz, z?At(|Ar), имеет индекс 2 в К*. Поэтому можно определить функции signx x, которые принимают значения ±1 и дают полный набор характеров на фактор-группе К*/{К*J. Конструкция дискрет- дискретных серий, описанная в этом параграфе, может быть теперь перенесена на случай поля Q2. При этом мы получим не три, а семь дискретных серий представлений. § 5. СЛЕДЫ ПРЕДСТАВЛЕНИИ 265 § 5. Следы неприводимых представлений группы G 1. Постановка задачи. Пусть Tn(g) — представление группы G, принадлежащее непрерывной (основной или допол- дополнительной) или дискретной серии. Сопоставим каждой финит- финитной функции / (g) на О *) оператор A) = / f(g)Tn(g)dg Справедливо следующее утверждение. Оператор Тл(/) имеет след, который мы обозна- обозначим через Тг Тл (/), причем этот след является непре- непрерывным функционалом в пространстве финитных функций f (g). Тем самым след Тг Тл (g) оператора Tn(g) определен как обобщенная функция на группе О: Для классических групп над полем комплексных чисел этот результат был получен И. М. Гельфандом и М. А. Най- марком. В дальнейшем он был доказан Годманом и Хариш Чандра для неприводимых унитарных представлений любой вещественной полупростой группы Ли. В добавлении к этой главе мы дадим доказательство этого утверждения для группы матриц 2-го порядка с эле- элементами из несвязного непрерывного локачьно-компактного поля. Задача состоит в том, чтобы вычислить следы Тг Тп (g) операторов неприводимых представлений. В этом параграфе следы Тг Тл (g) будут вычислены на основе единого для всех полей АГ метода. Именно, мы будем вычислять след оператора Tn(g) по формуле ТгГя(§-) = fKJl(g\u, u)du, где Кл (g | и, v) — ядро этого оператора *) В случае связного поля АГ мы предполагаем всегда, что функция / (g) бесконечно дифференцируема; в случае несвязного поля функция / (g) предполагается кусочно-постоянной.
266 ГЛ. И. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ B 2. Следы представлений непрерывной серии. Оператор представления непрерывной серии, отвечающий матрице (а р\ g—\ , |, задается следующей формулой (см. § 3, п. 1): Таким образом, Тя (g) можно рассматривать как интеграль- интегральный оператор, ядро которого — обобщенная функция A) % — у). Вычислим след оператора Тл (g) по формуле Тг Тл (g) = J Кя {g | х. х) dx = = J я x)dx. B) Можно предполагать, что р =^= 0 (в противном случае мы перешли бы от матрицы g к какой-нибудь матрице ей сопря- сопряженной). Сделаем замену переменных $х-\-Ъ= t. Мы по- получим — t — C) где Xg, Xg — собственные значения матрицы g. Из фор- формулы C) видно, что ТгТя(?-) сосредоточен на матри- матрицах g, собственные значения которых Xg, %gl при- принадлежат полю К В самом деле, выражение Я^-f-^J1 — t — t~ . стоящее под знаком б-функции, обращается в нуль только при t="Kg и t — hgl. Интеграл C) легко вычислить. Для этого достаточно воспользоваться следующим свойством б-функции: 6 ^--L-(b(t— a) + 6(t~b)) D) a з] § 5. СЛЕДЫ ПРЕДСТАВЛЕНИЙ 267 -1 (при условии, что а ф.Ь) *).Пусть Xg, Xg принадлежат причем Xg Ф Xgl. Тогда имеем ЛЧ I Подставляя это выражение в формулу C), мы получим 1 E) Итак, след оператора Tn(g) представления непрерыв- непрерывной серии выражается формулой E), если собственные значения Xg, Xg1 матрицы g принадлежат полю К\ если Xg, Kg1 не принадлежат К- Из формулы E) следует, что следы Тг ТПх (g), Tr ТП2 (g) двух представлений непрерывной серии совпадают тогда и только тогда, когда либо кг = щ, либо я1 = я^1. Отсюда заключаем: если я1 ф я2 и л1фл~1, то представления и T^ig) непрерывной серии не эквивалентны. 3. След особого представления. Рассуждения п. 2 и формула для следа остаются справедливыми и для пред- представлений дополнительной серии, а также для неунитарных представлений-в пространствах ?&я (см. § 3, п. 8). Воспользуемся этим фактом для того, чтобы вычислить след особого представления T0(g) в случае несвязного поля. Напомним, как строится особое представление. Мы рас- рассматриваем пространство ?Бп, я (х) — | jc | ~* функций / (xlt x2), удовлетворяющих следующему условию однородности: /(**!. tx2)=\t\-2f(Xl, X2) A) для любого t Ф 0. Оператор представления Тп (g) в про- пространстве 35п задается формулой T7l(g)f(x1, x2) = f(.axl-\-yx2. px! + 6x2). B) *) Доказательство соотношения D) для поля вещественных чисел см. в вып. 1. Читателю рекомендуется в качестве неслож- несложного упражнения по анализу в несвязных полях доказать D) для случая несвязного поля.
268 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [3 Если от однородных функций двух переменных f(xx, х2) перейти к функциям одного переменного ф(х) = /(х, 1), то мы получаем другую реализацию пространства 35п. В этой реализации оператор представления имеет вид 6 Г2 C) В пространстве 35п имеется инвариантное подпространство &~ состоящее из функций ф (х), для которых J (f(x)dx=0. Особое представление группы О и есть представление в под- под?" *) пространстве *). р ея ) Очевидно, что фактор-пространство 35j<&~n одномерно, и в нем действует единичное представление группы. Таким образом, матрица оператора Тл (g) в пространстве ?&л имеет вид T0(g) где T0(g) — оператор особого представления. Отсюда следует, что след оператора T0(g) особого пред- представления мы получим, вычитая след единичного пред- представления TrT(g)^\ из следа оператора Tn(g), n(x) = = |лг|'~1. определяемого формулой E) п. 2. В результате мы получаем: след оператора T0(g) особого предста- представления выражается следующей формулой: — 1. D) -1 если собственные значения kg, kg матрицы g принадлежат если Х„ ". -i не принадлежат К. *) Точнее, не в самом пространстве а в его пополнении относительно инвариантного скалярного произведения. § 5. СЛЕДЫ ПРЕДСТАВЛЕНИИ 269 4. Следы представлений дискретных серий. Напомним, что операторы Т% (g), Тя (g) представлений дискретной серии задаются следующими формулами: ф(«) = / Кя (gI и, v) ф (v) dv, signT a — signx v=l, я (g) Ф (и) = J Кя (g \u,v)y (v) dv, signT «=signT v = — 1, где я (g \u,v)= axcx signr sign a • x [ J ) X X J x(— j{ut + (I) tt—vu' Представление Тя (g) реализуется в пространстве функций на «полуоси» signT«=l, а представление Т„ (g) — в про- пространстве функций на «полуоси» signT и = — 1. Будем вычислять следы представлений по формуле sIgnTa J signra=l tf-i J signTB = —1 J ^ J J( sIgnTtt = -l tt-i B0 Удобнее вычислять не сами следы представлений Тя (g), Тл (g)< а их сумму и разность. Сначала вычислим разность следов. Имеем
270 ГЛ. II. ГРУППА МАТРИЦ ИЗ. ЛОК. КОМПАКТНОГО ПОЛЯ Так как И f % то получаем отсюда Tr T*(g)— TtT C) it=\ где kg, Xg1 — собственные значения матрицы g. Из этой фор- формулы видно, что разность следов ТгГ„(g)—TiTn(g) со- сосредоточена только на тех матрицах g, собственные значения которых принадлежат окружности it = 1 на К (/т): В самом деле, выражение, стоящее под знаком б-функ- ции, обращается в нуль только при t = kg n при t==kg~1. Вычислим Tr Tniff) — Тг Т"я (g) для этих матриц. Для этого перепишем C) в виде интеграла по всей пло- плоскости at(i/"^} Z (g) — Tr Tl (g) = cx signx p X X / б ((* — Kg) И- G— Ар ) б A — ft) я @ dt. D) где интеграл берется по г(]) Воспользуемся следующим соотношением: X (бт (/ — А где 6x(t) есть б-функция на плоскости бт G— ^)), E) § 5. СЛЕДЫ ПРЕДСТАВЛЕНИЙ 271 В самом деле, положим t = х-\- У~г у, Xg = a — тр2 = 1. Тогда имеем = б (х — а) б A — х2 -f- ту2) = б (х — а) б (т {у2 — = J7TTPT (x — а) (б (у — Отсюда непосредственно следует E). Подставляя E) в формулу D), получим Tr Tt (g) — Тг 7л (g) = сх | т | -1/2 signT p " (У " ) = F) Итак, разность следов представлений Т? (g), Tn(g) дискретной серии, отвечающей квадратичному рас- расширению к(\/^т)поля АГ. выражается формулой F), если собственные значения Xg, A.J матрицы g принадлежат окружности tt=\ на if^ если A-g., А,г «в принадлежат этой окружности. Теперь вычислим след суммы Тл (g) — Т% (g)^T^г (g) представлений Г„ (g) и Г„ (g). Имеем signTp Г Г Тг Гя (^) = атсх -j^L- J J signT и X 1-1 — t-l))n{t)d*tdu. Воспользуемся формулой J sig-nr и ¦ JC (см. § 2, n. 7). Мы получим, что след суммы T^(g) = представлений дискретной серии
272 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ выражается следующей формулой *): Тг Тя (g) = Тг 7+ (g) + Тг 7я (g) = _2 Г G) tt=i Полученная формула аналогична формуле следов пред- представлений непрерывной серии: ¦тл(е)= f> 1 — t — Г1) я (О df (см. п. 2). Часто полезно рассматривать не сами следы Tr Tn (g), а их преобразования Меллина по л, которые мы будем обозначать через 5 (g; t). Эти преобразования Меллина имеют следующий вид. Для представлений непрерывной серии S (g; if) = б (xg + X'1 — t — t'1), где t $ К. Для представлений дискретной серии, отвечающей квадратичному расширению К(УТ) поля К, ^ ¦t—.f где ? — точка окружности tt = 1 на плоскости /С (Ут). Перепишем подробнее формулу G) для случая поля ве- вещественных чисел. В этом случае имеем t= ег'ч>, d*t = —- dq>. 2п *) Интеграл G) сходится, если Xg, X ! не принадлежат окруж- окружности tt=\. Если же Xg, Xg1 принадлежат этой окружности, то интеграл следует понимать в смысле регуляризованного значения, а именно, как значение аналитической функции от v: -*/ signT(Ag-f Х-1— t— t~l) it (t) d*t в точке v = 1. II § 5. СЛЕДЫ ПРЕДСТАВЛЕНИЙ 273 л (t) = einf и формула G) легко преобразуется к следующему виду: где интегрирование ведется по единичной окружности С: ^=1. Этот интеграл легко вычисляется (окончательную формулу см. в п. 5). Отметим, что интеграл (8) оказывается отличным от нуля как для комплексных, так и для вещественных Xg. Иной результат имеет место в случае несвязного поля f(. Именно, пусть собственные значения X , Яг1 матрицы g не принадлежат окружности tt= 1 на К\у*)- Тогда для всех я, кроме, быть может, конечного множества характеров п (зависящего от g). Доказательство. Разложим Xg-\-Xg в ряд (см. § 1, п. 3) k Если |х | > 1, то signt (x — t — ?~!) = signT x, \x — t — t~x | = | x | для любого t на окружности tt= 1. Следовательно, J n(t)d*t = O. Таким образом, остается рассмотреть случай, когда |х|<11, т. е. когда k ^> 0 *). По условию, для любого / на окружности tt = \ имеем t-\- t~l Ф Хе-\- Xg1. Поэтому можно указать натуральное число от, обладающее следующим свойством: если t-\-t~ = = b0-f-?>ip + •••, где t — произвольная точка окружности tt ^ 1, то bt ф at по крайней мере для одного индекса I < т. *) Отметим, что если —1 не является квадратом в К, то всегда 18 И. М. Гельфанд и др.
274 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [4 Разобьем окружность tt=\ на конечное число под- множеств Аи ь ; О' ' ' '' 7Л — 1 подмножество . ь о* т — 1 ,-1 состоит из всех точек t окружности, у которых t-\-t имеет задан- заданные первые т членов разложения: Ьа-\- ... -f-Ьт_1рт~1. Легко видеть, что signT (Xg-{- X.J1— t — t~*) и JA^ + A^r1 — — t—t~l\ постоянны на каждом из этих подмножеств. Поэтому нам остается рассмотреть интегралы л (t) (ft и убедиться, что они равны нулю для всех л, кроме конеч- конечного множества. Рассмотрим на окружности #= 1 множество Ат точек t вида t= I -\-pms, где | s |-<С] 1. Нетрудно видеть, что Ат — подгруппа конечного индекса группы всех точек окружности. Поэтому имеется лишь конечное число характеров на окруж- окружности, равных тождественно единице на Ат. Пусть характер л не равен тождественно единице на Ат. Покажем, что для него 1ь ь = 0. В самом деле, 0' ' ' т—1 пусть л(/0)=?1 для некоторого t0 ? A разование t т. Поскольку преоб- tta сохраняет множество Аь ь .то имеем о' ' * *' т. — 1 л (tt0) eft = = j ¦==/*п ь„ Следовательно, 1ь,...,ь ~= 0- Утверждение доказано. В этом параграфе мы провели вычисление следов неприводимых представлений, не давая подробных доказательств. Однако не со- составляет труда дать строгое обоснование всех проводимых выкладок. Остановимся, например, на выводе формулы следа суммы ^я (S) = 2"л (&) 0 Тп (S) Двух представлений дискретной серии. Поле К будем предполагать несвязным. Пусть S — пространство финитных кусочно-постоянных функ- функций на G. Для любой функции /?S оператор Тя (/) = § 5. СЛЕДЫ ПРЕДСТАВЛЕНИЙ 275 является вполне непрерывным (положительным, если/ — функция вида ф *Ф*) и имеет след. Нам нужно доказать, что след оператора Т (/) выражается формулой v g~*~ s I ~ tf\ ,4** л„ (9) Г Поскольку ядро оператора Т'я (/) есть J / (g) «л (g I«. v) dg, то Tr Г (/) = lim Г Г / (g) Кя (g | u, a) dg du = k —> CO •* •* I a Kg* ° = lim Г С f (g) /C (g\ и, и) du dg. ft->oo J J (Перестановка порядка интегрирования допустима, поскольку интег- интегрирование по G и по и ведется по компактной области.) Подставляя сюда явное выражение для Кя (g \u, и) и интег- интегрируя по и, получим Тг7"л (/) = ахст lim Г / (g) T^ + s) (л^) X К -? оо J G sign- (Х„ —\- А,- — t — t ) X где it (х) = \х \ sign jc, a I4"' (it ) — неполная Г-функция: Г(л) (ит) =¦ J J ~ j Число s определяется по формуле JAg.-f-AJ —t —1~ j = qs. Легко убедиться, что пределом при k->oo последовательности обобщенных функций *) sign (X^-+-X~l — t — t'1) - J " m " *) Существование предела последовательности ф„ (g) вытекает из существования следа Tr T (g), как обобщенной функции в про- пространстве S. Впрочем, нетрудно доказать существование этого пре- предела и непосредственно. 18*
276 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [5 является обобщенная функция г(пх) —. g _xg _ *n(t)d*t. \Xg + Xg — t — t j Таким образом, переходя в A0) к пределу и учитывая, что «тст = 2Г (ят), получаем требуемую формулу (9). 5. Следы представлений дискретной серии в случае поля вещественных чисел. В случае поля вещественных чисел характер на единичной окружности задается формулой n(t) = einv, t = el<?, 0<ф<2л. A) Таким образом, представление дискретной серии задается целым числом п. Это число будем дальше предполагать по- положительным (при отрицательных п получаются эквивалент- эквивалентные представления). Будем дальше обозначать операторы представлений через Т„~ (g) и Т„ (g). Формула F) п. 4 дает нам: Тг Т + (g) — Тг Т- (g) = — i sign p ^" B) если Xg, Xg l комплексные числа; = 0, C) если-Хе, Xg —вещественные числа. С другой стороны, согласно формуле (8) п. 4 мы имеем 1 г * я \S) ""Г 1Т I я Kg) ==¦ ~^J I -. г-т ЗТГ = где интегрирование ведется по единичной окружности С: В случае, когда Xg и Я-J1 — вещественные числа, одно из них лежит внутри окружности С, а другое вне ее. В этом случае по формуле Коши мы получаем, что E) 51 § 5. СЛЕДЫ ПРЕДСТАВЛЕНИЙ 277 где Я,„ — наибольшее по абсолютной величине собственное значение матрицы g. В случае, когда Xg, Xg1 — комплексные числа и, значит, лежат на единичной окружности, интегралы в D) расходятся и их следует понимать в смысле регуляризованных значений. Не приводя доказательств, укажем эту регуляризацию. Заметим, что 1_ Г ZTdt, __ ( ЯЛ когда |Я,| < 1, 1 Г g"rfg 2л/ J ? — ^ ( \ 0, когда |Я,| > 1. Естественно, что на предельном множестве |А,| = 1 зна- значение этого интеграла следует определить по формуле 1 Г ZndZ _ ! я*. 2ш Таким образом, мы получаем F) -1 когда Xg, Xg' — комплексные числа. Итак, мы получили явные формулы для Тг Т„" (g) — — TxT~(g) и для Тг ТХ (g) -f- Тг Т~ (§•). Напишем формулы для Тг Г„~ (g) и Тг Тп (g), которые из них непосредственно следуют. На множестве матриц g с вещественными соб- собственными значениями имеем Tr Tt (g) = Тг Тп (g) = , Х*_, , X —наибольшее по абсолютной величине собствен- собственное значение. На множестве матриц g с комплексными собст- собственными значениями имеем e-in<f /яф e—v — i
278 гл. п. группа матриц из лок. компактного поля где ф определяется из условия, что матрица cosq) sin(jpN , SlTlCp COS сопряжена с матрицей g. § 6. Формула обращения и формула Планшереля на группе G 1. Постановка задачи. Пусть / (g) — финитная функция на группе G *). Каждому унитарному представлению Tn(g) непрерывной или дискретной серии группы G мы сопоста- сопоставим оператор A) Операторную функцию Тл (/), определенную на множе- множестве представлений Тя (g) непрерывной и дискретных серий группы, будем называть преобразованием Фурье функции f(g). Задача состоит в том, чтобы получить обра- обращение формулы A), т. е. выразить функцию / (g) через ее преобразование Фурье. Эту задачу удобнее сформулировать в терминах обоб- обобщенных функций: разложить д-функцию &(g) на группе G **) по следам представлений непрерывной и дискретных серий. Иными словами, найти такую функ- функцию \х (я) на множестве представлений, что B) (Интеграл берется по множеству представлений непрерывной и дискретных серий.) Заметим, что представления Тл (g) и Т {(g) эквива- эквивалентны, а потому Тг Тп (g) = Тг Т i (_g). Ввиду этого функция (х (л) в формуле B) определяется не однозначно. *) В случае связного поля предполагается, что функция / (g) бесконечно дифференцируема; в случае несвязного поля предпола- предполагается, что / (g) постоянна в достаточно малых областях на G. **) Обобщенная функция б (g) определяется так: (б (g), /(#)) = = f (e), где е — единица группы. l] § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ 279 Естественно наложить на искомую функцию \х (я) дополни- дополнительное условие: Из формулы B) непосредственно следуют искомая фор- формула обращения для функции /(g) на группе G и формула Планшереля. Именно, пусть f (g)—финитная функция на группе, принадлежащая пространству основных функций. Тогда из B) следует формула об ращения Тг (Тя (/) Г лх и формула Планшереля Т*л C) D) где Т* обозначает сопряженный оператор. В самом деле, умножая обе части равенства B) на / (gg0) и интегрируя по g, получаем / (go) = / Ц (я) Тг ( J / (gg0) Tn (g) dg) dn. получаем в точности После замены переменных ^^ = формулу C). Чтобы получить формулу Планшереля, применим C) к функции Мы получим при g=e Легко убедиться, что С другой стороны, имеем F) Подставляя в E) выражения F) и G), получим искомую- формулу Планшереля.
280 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ |1 Итак, наша основная задача в том, чтобы найти разло- разложение функции 6 (g) по следам неприводимых представлений о (g) = / И (я) Тг Тя (g) dn. (8) Эта задача будет решена в п. 2 для несвязного поля и в п. 5 для связного поля. Дадим другую запись формулы (8), перейдя от функ- функций ц (л) и Тг Тп (g) к их преобразованиям Меллина. Именно, для представлений Тя (g) непрерывной серии положим (g; t) = j Тг тя (g) л (t) dn, Ф (?) = j М- (л) л (О dzt, (9) A0) где / ? Af, а интеграл берется по труппе мультипликативных характеров на К- Для представлений ТЯг (g) дискретной серии, отвечаю- отвечающей расширению Ki^f"*) поля /С, положим (9') A0') Sx(g; О = J Тг ТПх (g) л (О dnx, где ? — точка окружности tt=-\ на плоскости а интеграл берется по группе характеров лх на ft=\. Тогда формула (8) приведется к виду tT=i A1) Здесь сумма берется по множеству дискретных серий группы G (таким образом, в случае несвязного поля она состоит из трех слагаемых: т = р, ер, е). Последнее слагаемое в формуле A1) есть след особого представления группы О (см. § 3, п. 7); оно имеется только в случае несвязного поля К- Следы представлений непрерывной и дискретных серий, .а также их преобразования Меллина были найдены в § 5. 21 § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ 281 Подставляя в A1) выражения для S (g; f) и Sx(g; f) (см. § 5,. п. 4), мы получаем формулу обращения в следующем виде: -1-4- ¦d*t. где Ке, Kg1 — собственные значения матрицы g; если Xg, A,Jx?/if, в остальных случаях 6(^) = 0. Функции ср(О> ФТ(О и коэффициент а нам пока неиз- неизвестны. Задача состоит в том, чтобы их найти. 2. Формула обращения для случая несвязного поля. Пусть элементы матриц группы G принадлежат несвяз- несвязному полю Af. Обозначим через Tn(g) представления не- непрерывной серии группы О, через То (g) — ее особое пред- представление (см. § 3, пп. 1 и 8), через Тп% (g) — представле- представления дискретной серии, отвечающей расширению fC\Y^) поля /f (т = р, гр, г). Здесь будет получена следующая фор- формула обращения: = / И (л) Тг Тп (g) dn + 2 Тг То (g) + . (я,) Тг ГЯт (g-) rfnT, (I) где — t\ 2dt, к = - /л (Oil— t\~2d*t, B) B0 ti=\ = - f tf=l, | 1-Й < *) Норма \t | в расширении поля /С определяется формулой
282 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [2 = —д (Вычисление постоянной с будет проведено уд проведен в п. 4.) Интегралы B') и B") берутся по окружностям it — 1 соответственно в Af()/e) и Af(j/-r), т = р, Ер. Заметим, что все интегралы B) — B") расходятся, а по- потому их следует понимать в смысле регуляризованного зна- значения. Например, ц (я) есть значение аналитической функ- функции от v, <p(v) = — fn(t)\l — t\vdt при v==—2 (см. §2, п. 6). Прежде всего, мы подставим в формулу A) выражения для следов представлений и перейдем к преобразованиям Меллина по я (см. п. 1). В результате формула примет вид = — Q(g) -ь -II — 1 - tt=i Г J т=р, ер |l-j tt = l 1-л2 J C) r=p, ep «=i Здесь Xg, Xg1 — собственные значения матрицы g; в(^)=1, если Xg, XgX^K, 6 (g) = 0 в остальных случаях. Вывод формулы C) будет проведен в два этапа. Сначала мы убедимся, что выражение в правой части равенства C) — для краткости обозначим его через / (g) — равно нулю при Xg ф ± 1. Затем мы покажем, что / (g) равно нулю вообще для всех g ф е, т. е. функция / (g) сосредоточена в точке g = е. Отсюда будет непосредственно следовать, что / (jr) = cb(g). Коэффициент с будет вычислен в п. 4. В том, что /(?•) = 0 при ХгФ ± 1, можно убедиться непосредственно, вычисляя входящие в формулу C) инте- § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ 283 гралы. При этом нужно рассмотреть отдельно следующие возможные случаи: 1) 2) 3) 4) 5) 6) 7) 8) 9) = 1. \Xg— 1| = 1. |^+11 т=^, ер, \X r^p, гр, g Ниже дается таблица значений интегралов, встречающихся в формуле C). Вычисление некоторых из этих интегралов приведено в п. 3. Подробная проверка того, что /(g) — 0 при Xg Ф ± 1, предоставляется читателю. Сводка формул. Обозначения: Я, А, — собственные зна- значения матрицы g; v = A,-f-A.—2; q—порядок конечного поля вычетов G/P, связанного с полем К (см. § 1, п. 3); I—— 1—символ Лежандра (а Ф 0 — элемент конечного поля F порядка q): (—) = 1, если а есть квадрат элемента из F; I— =—1, если а не является квадратом. Известно, что ( = 1, если q===\ (mod4); I—-j =—1.. если # == 3 (mod 4). I. Значения интеграла f signT (A. -l -t-Г1) ¦d*t. Если I v I 1, то /1 4 где cx = — " при т=р, ep; ce = — ^_j_
284 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ Если |v| < 1, то значения /W (Я) приводятся ниже: а) б) Я— точка окружности ?'?= 1 на (A) = - в) Я — точка окружности tt = 1 на г) А, — точка окружности tt=-\ на /e(V~e) /A) /1Л _ /A) Ш _ (У+1J II. Значения интеграла *-1| 2] § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ Если |v|>l, то 1  где сх = -? при т = р, ер; се= g+ 285 Ivl ' Если |v| < 1, то значения /^ (Я) приводятся ниже: а) б) Я — точка окружности tt = \ на /C(V~r), т=р, ер, е III. Значения интеграла signe (Я -f- Я' - J Я—z1 —z где интеграл берется по компоненте А^ окружности tt = 1 на K(V~s), определяемой условием \t — р | < 1. Здесь р — точка окруж- окружности такая, что |р-|-1| = |р — 1 | = 1: sign v если 1, = q+l |v| /J1 (Я) = „ . . .-, если Я — точка окружности tt = 1 на К(УТ) и либо |Я—р | < 1, либо |Я —р| < 1, - во всех остальных случаях. Теперь нам нужно убедиться, что / (g) = 0 для всех матриц g ф е. Заметим, что интегралы, входящие в формулу C), приво- приводятся к одному из видов a\v | -\-b, a\v \~^*-\-Ь, a \v'\" 1г-\- Ь, где v=hg-\--Xg1 — 2, v' = Xg-\- Xgl -\-2 (см. сводку формул). При этом все они взаимно сокращаются. Случаи А,^= 1 и А,?.— — 1 являются особыми, поскольку в этих случаях соот- соответственно v = 0 и v/ = 0. Они требуют поэтому самостоя- самостоятельного исследования. Покажем, что функции |v|~ , |v|~'/2, jv'l"'''2, рассматриваемые как обобщенные функции на группе, не имеют особенности при g=^e. Иными словами, функцио- функционалы (|v|~ , /), (|vj~'/2, /), (iv'l"'^, /) непрерывны в под-
286 гл. и. группа матриц из лок. компактного поля [г пространстве финитных функций / на группе G, равных нулю в окрестности точки е *). Отсюда будет сразу следовать, что обобщенная функция / (g) сосредоточена в точке е. Нетрудно убедиться, что интегралы сходятся в обычном смысле для любой финитной функции / (g). Поэтому нам достаточно заняться интегралом Этот интеграл следует понимать в смысле регуляризованного значения: (|v|~8/\ /) — значение аналитической функции от s, S D) при 5 = — -^-. Наша цель — показать, что если f(g) = O 2, в окрестности точки g = e, то функция (jp(s) не имеет осо- бенности лри 5 = гг. Покажем это. Не нарушая общности, можно предполагать, что функ- функция f(g) сосредоточена в достаточно малой окрестности ма- матрицы g0 ф е с собственными значениями "kg = Xg1 — 1. Введем в этой окрестности систему координат. Заметим, [а р\ что у матриц g—\ . I . принадлежащих этой окрестности,. хотя бы один из элементов р, у отличен от нуля. Пусть, например, ^=^0. Тогда в качестве координат в окрестности матрицы g0 можно принять у, а и v —а-|-6—2. В этих координатах формула D) для cp(s) примет вид Ч>(*) = f|v-r/(v.a.Y)-^.dv. Но мы знаем из § 1, п. 3, что единственной особенностью обобщенной функции \v\s является полюс в точке s =— 1. Следовательно, функция cp(s) не имеет особенности при с— _ А S~~ 2 " *) Напомним, говоря о финитных функциях мы предполагаем дополнительно, что эти функции «кусочно постоянны», т. е. по- постоянны в достаточно малой окрестности любой точки g. 3] § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ 287 Итак, мы доказали, что обобщенная функция / (g)—пра- (g)—правая часть равенства C) — сосредоточена в точке g=--e. От- Отсюда следует, что f(g) = cb(g), где с — некоторая постоян- постоянная (см. § 2, п. 2), Формула обращения A) доказана. 3. Вычисление некоторых интегралов. Покажем, как вычи- вычислить интегралы, приведенные в сводке формул, п. 2. В виде при- примера сосчитаем интеграл sign. (А + A,— t — t~l) J Заметим, что если j Л. —|— А, х—2|^>1, то для любого t, tt = l, J1 — 11 < 1, имеем sign (A-j-A — t — t 1) = sign (A -|- A — 2), jA-j-A"'1 — t — t~x | = | A -j- A-1 — 2 |, а потому интеграл A) суще- существенно упрощается: .,„... sign. (A + A-2) -AT1—2) Г d*t -1— 2| J I 1 —^ I2 ' Мы разберем подробно более сложный случай, когда | х -j- А, — 2 | < 1; в этом случае имеем | X \ = 1 и | X — 1 |_< 1. Пусть для определенности X принадлежит окружности tt = 1 в K(~Vv)- (Для других возможных случаев интеграл вычисляется аналогично.) Согласно § 1, п. 8, элементы окружности tt = I, |l—11 < 1 в K(V~$) имеют следующее параметрическое предста- представление: Vl 2х 1 х \—Х>х2 где х пробегает все целые элементы из К. (т. е. | х \ <; 1). Легко убедиться, что при этом d*t = -~- dx, где dx — инвариантная мера на К+ *)• 2 [ у ц х *) Преобразование t = —' _— является аналогом преобра- 1 — у рх зования Кэли для поля вещественных чисел. Отметим, что, когда х пробегает область | х \ > 1, точка t пробегает другую компоненту окружности tt = 1: 11 -\-t \ < 1. Нормировочный множитель — в формуле для меры появляется J dx = 1, между тем как I d*t = -^-. |<1 п=1, 11 — ^ I < 1 в связи с тем, что
288 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [3 В том же виде можно представить и А: А, Подставим эти выражения в интеграл A), перейдя тем самым от переменного t к переменному х. Мы получим -И \х К 9хо 1 — Р-*о о- dx. Полученное выражение можно существенно упростить, по- поскольку функции sigrip х и | х | зависят только от первых членов разложения элемента х. Мы получаем signv (pjCg — Р-*2) I xsx2 iur2'1 2" К ' \>Xq рх -I J Будем вычислять этот интеграл. Прежде всего, прибавим к 1(»\Х) и вычтем из /р1* (X) интеграл 1 Г signp (pjcg — рл:2) 1 "о" Т 2 §П 9~Г х = 7Г 2 J UJCn — Х>х ах2 2 г2 |2 Мы получим после элемелтарных преобразований (Р — р-ж2) q2 Г dx X2 I I X2 I 9~ I j. |4 C) \Х\ Второй интеграл легко вычисляется: -(Л ,-3ft 1*1 > 1 й = 1 | * | = <зк й = 1 Займемся вычислением первого интеграла в C). Разобьем его сначала на три слагаемых: Г s*gnp (Р — Р*2) _ Г signp (p — рл:2) == II Х2 | I „2 I "¦*• — И „2 I I „2 1 К 1*|>1 Г signp (р — х>х2) Г signp (р — рл:2) ~" II v-2 | I Х2 I "¦* ~Г II „2 I I r2 I flf-*:- D) 1*1=1 I § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ Отсюда получаем 289 •- № !*> 1 I dx 1 *| < 1 J I 1 х \ Последний интеграл можно сосчитать, разбивая множество эле- элементов х, | х | = 1 на классы вычетов по модулю р. Мы получим signal— jg») \\-х2\ -¦ q 1*1 = 1 signp A —. J 1*1 = 1, I i-*i _ 1 yi / I —a ~~J 2u { q~ signp (l-x?)°'2\ Г 1 — x2 — x2 -dx. F) Здесь сумма берется по элементам а конечного поля G/P порядка q, отличным от 0 и ±1. Несложной выкладкой можно убедиться, что I S ±1 С другой стороны, легко показать, что каждый из интегралов в F) равен нулю. Таким образом, мы получаем Подставив это выражение в формулу для C) для /j,1' (А,), полу- получим окончательно Чтобы получить точное совпадение этой формулы с формулой та- таблицы (стр. 284, случай б), остается заметить, что 1 Л ~ а потому |х0 | X — 1 | = ^ *) Интеграл 1-2 понимается здесь в смысле регуля- ризованного значения — как значение аналитической функции от s, = Г \x\~sdx при s = 2; (—|—символ Лежандра (см. 1*1 < 1 стр. 283). 19 И. М. Гельфанд и др.
290 гл. и. группа матриц из лок. компактного поля 4. Вычисление постоянной с в формуле обращения. Чтобы вычислить постоянную с в формуле обращения п. 2, нам нужно эту формулу применить к какой-либо фиксированной функции f (g) на группе G. Пусть U — подгруппа матриц из G, элементы которых являются целыми элементами поля К- Очевидно, что подгруппа U компактна и что она является открытым множеством в G. Рассмотрим функцию / (g), равную единице на U и равную нулю вне подгруппы U. Применим формулу обращения к этой функции f{g). Можно показать, что Тг ^я(/) Ф О- только для представлений непрерывной серии, отвечающих характерам л (zf) = |? |гр. Следова- Следовательно, в формулу обращения для функции / (g) входят только сла- слагаемые, отвечающие этим представлениям. В результате мы'получаем (g) dnp dg, A) с = Тг и где пр (t) = 11 i'P — t\~2 dt, B) Вычислим интеграл A). Напомним, что Тг Гя„ iS) = 6 (g) где А , X ' — собственные значения матрицы g; 6 (g) = 1, если %g, l А , X (g) , g, X принадлежат К, Q(g)=O, если Xg, X~l не принадлежат К- Поль ~l р (g), сли Xg, X не принадлежат К- Поскольку для матриц g, принадлежащих компактной подгруппе U, | Xg | = 1, то имеем J | xg — dg. тг гЯр (g) dg = 2 J e и и Мы видим, что этот интеграл не зависит от яр. Следовательно, r2 р с = - 2 J e(g)| xg-х-1 f1 dg J11 i'p 11 — t и к Второй интеграл в C) легко вычисляется: dt C) J к -tr2dt - Я Г,, t\~2dt 2 *) Множитель q(q—l) i возникает вследствие выбранной иировки dzr ы..~,„.~ .... «г —*_ ^_ г (ср. § 2, п. 9). j ...„v...,,.4iu ц уц — I) иилмикасг вследс нормировки dn . Именно, мы требуем, чтобы было .р@1*Г1<«Л1р=1 5] § 6. ФОРМУЛА ПЛАНШЕРЕЛЯ 291 Первого интеграла мы вычислять здесь не будем, а дадим только окончательный ответ *): Итак, мы получаем следующее значение постоянной с: 5. Формулы обращения для связных полей. Рассмо- Рассмотрим теперь случай связного поля Af. т. е. случай, когда К есть поле комплексных либо поле вещественных чисел. Можно показать, что формула обращения для случая связного поля аналогична формуле обращения для несвязного поля. Именно, если G — группа комплексных матриц, то формула обращения имеет вид где = с J л @ 11 — t Г2 dt. A) B). Интегрирование в B) ведется в комплексной плоскости /; интеграл B) нужно понимать в смысле регулированного зна- значения (см. § 2, п. 9)**). Если G — группа вещественных матриц, то фор- формула обращения имеет вид C) = J ц (я) Тг Тя (g) dn + 2 М. (я"„) *) Этот интеграл можно вычислить, представив матрицу g из U в ввде * = *"'<«*. гдег=(г J.«=(o J ' ? = @ J • « при- няв элементы г, Z,, X в качестве параметров матрицы <§\ При этом оказывается, что dg — | Xg— Я | dX dt, dz. **) Напомним, что в принятых в работе обозначениях | z \ обо- обозначает квадрат модуля комплексного числа z. 19*
292 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [5 где со ц (л) = с j л (t) ] 1 — / р2 dt. D) ;n(t)\\ — t\-2d*t. E) Здесь n(t)— мультипликативные характеры группы ве- вещественных чисел, TJt(g)—соответствующие представления непрерывной серии; лл (t) — характеры группы вращений окружности, Tnn(g) — соответствующие представления дис- дискретной серии; d*t — мера на окружности tt=l, нормиро- нормированная условием Cd*t—1. Вывод формул обращения A), C) может быть проведен так же, как и в случае несвязного поля. Именно, интегралы, входящие в формулы, можно вычислить в явном виде. При этом мы убедимся, что выражение I (g), стоящее в правой части формулы A) (соответственно формулы C)), есть функ- функция, сосредоточенная в точке g = e. После этого нетрудно уже показать, что I (g) = cb{g~). Подробный вывод формул A) и C) мы опускаем. Заметим, что вычисление интеграла для ц (л) в случае поля комплексных чисел и в случае поля вещественных чисел приводит к существенно различным выражениям. Именно, в случае поля комплексных чисел любой характер n(t) имеет вид n + ip — n + ip Л (/) = t 2 t " _ где п — целое, р — вещественное число. Вычисляя интеграл B), мы получаем II (Л) = С (Р2 + П2). Теперь рассмотрим поле вещественных чисел. На веще- вещественной прямой имеется два типа мультипликативных ха- характеров: характеры где р— вещественное число, и характеры i[ ДОБАВЛЕНИЕ К ГЛАВЕ II 293 Вычисляя интеграл D), мы получим, что ц (л) = слр th —~ для характера первого типа и ц (я) = сяр cth —?- для характера второго типа. На окружности tt=\ характеры nn{t) имеют вид Вычисляя интеграл E), мы получим, что ц (л„) = с | п |. ДОБАВЛЕНИЕ К ГЛАВЕ II 1. Некоторые факты теории колец операторов в гиль- гильбертовом пространстве. Мы ограничиваемся здесь лишь формулировкой результатов. Их доказательство можно найти, например, в книге J. Dixmier «Algebres d'operateurs dans l'espace hilbertienn (Algebres de von Neumann)», Paris, Gauthier — Villar, 1957, а также в книге М. А. Наймарка «Нормированные кольца», Москва, 1956. Алгеброй Неймана называется кольцо R операторов в гильбертовом пространстве, удовлетворяющее следующим условиям: 1) R содержит единичный оператор; 2) если А ? R. то А* ? R, где А* — сопряженный к А оператор; 3) R замкнуто в слабой операторной топологии. Для каждого множества S операторов в гильбертовом пространстве через S' обозначаются совокупность всех опе- операторов, перестановочных с операторами из S. Легко про- проверяется, что если 5 вместе с каждым оператором содержит сопряженный оператор, то S' — алгебра Неймана. Если исходное множество S является алгеброй Неймана, то имеет место равенство (S'Y = S. Алгебра Неймана R называется фактором, если R П R' состоит только из скалярных операторов. Всякая алгебра Неймана может быть каноническим образом реализована как прямая сумма (быть может, непрерывная) факторов.
292 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ где —t\-*dt. D) E) it = I Здесь л (t) — мультипликативные характеры группы ве- вещественных чисел, Tn{g)—соответствующие представления непрерывной серии; л„ (t) — характеры группы вращений окружности, Tnn(g) — соответствующие представления дис- дискретной серии; d*t — мера на окружности /7=1, нормиро- нормированная условием fd*t—l. Вывод формул обращения A), C) может быть проведен так же, как и в случае несвязного поля. Именно, интегралы, входящие в формулы, можно вычислить в явном виде. При этом мы убедимся, что выражение I (g), стоящее в правой части формулы A) (соответственно формулы C)), есть функ- функция, сосредоточенная в точке g — e. После этого нетрудно уже показать, что f(g) — c6(g). Подробный вывод формул A) и C) мы опускаем. Заметим, что вычисление интеграла для ц(л) в случае поля комплексных чисел и в случае поля вещественных чисел приводит к существенно различным выражениям. Именно, в случае поля комплексных чисел любой характер n(t) имеет вид n + ip — n + ip Г^~ где п — целое, р — вещественное число. Вычисляя интеграл B), мы получаем Теперь рассмотрим поле вещественных чисел. На веще- вещественной прямой имеется два типа мультипликативных ха- характеров: характеры п (/) = 11 |'р, где р— вещественное число, и характеры 1| ДОБАВЛЕНИЕ К ГЛАВЕ II 293 Вычисляя интеграл D), мы получим, что ц (л) = слр th —~ для характера первого типа и ц (я) = слр cth для характера второго типа. рр р На окружности tt=\ характеры nn{t) имеют вид Вычисляя интеграл E), мы получим, что ц (л„) = с | п |. ДОБАВЛЕНИЕ К ГЛАВЕ II 1. Некоторые факты теории колец операторов в гиль- гильбертовом пространстве. Мы ограничиваемся здесь лишь формулировкой результатов. Их доказательство можно найти, например, в книге J. Dixmier «Algebres d'operateurs dans l'espace hilbertienn (Algebres de von Neumann)», Paris, Gauthier — Villar, 1957, а также в книге М. А. Наймарка «Нормированные кольца», Москва, 1956. Алгеброй Неймана называется кольцо R операторов в гильбертовом пространстве, удовлетворяющее следующим условиям: 1) R содержит единичный оператор; 2) если А ? R, то А* ? R, где А*—сопряженный к А оператор; 3) R замкнуто в слабой операторной топологии. Для каждого множества S операторов в гильбертовом пространстве через S' обозначаются совокупность всех опе- операторов, перестановочных с операторами из S. Легко про- проверяется, что если vS вместе с каждым оператором содержит сопряженный оператор, то S' — алгебра Неймана. Если исходное множество S является алгеброй Неймана, то имеет место равенство E')' = 5. Алгебра Неймана R называется фактором, если R П R' состоит только из скалярных операторов. Всякая алгебра Неймана может быть каноническим образом реализована как прямая сумма (быть может, непрерывная) факторов.
294 гл. п. группа матриц из лок. компактного поля [1 Если гильбертово пространство Н конечномерно, то все факторы могут быть получены следующей конструкцией. Представим Н в виде тензорного произведения двух про- пространств Нх и Н2: Н= Нх® Н2. В качестве R рассмотрим совокупность всех операторов вида А & 1. Тогда R' состоит из операторов вида 1 (g) В и пересечение R (~| R' очевидно содержит лишь скалярные операторы. Эта конструкция при- применима, разумеется, и к бесконечномерным пространствам. Но в бесконечномерном пространстве уже не все факторы получаются таким образом. Те фактора, которые можно так получить, называются факторами типа I. Обычно классификация факторов делается в зависимости от строения множества проекционных операторов в факторе. Факторы типа I выделяются тем свойством, что в этом множестве есть мини- минимальные элементы (соответствующие операторам вида Р 01, где Р — проекционный оператор ранга I). В факторах типа II нет минимальных проекторов, но есть так называемые конечные проекторы, т. е. проекторы, не сопряженные своей правильной части. В факторах типа III нет ни минимальных, ни конечных проек- проекторов. Представление Т группы G называется фактор-предста- фактор-представлением, если кольцо, порожденное всеми операторами Т (g)> g?6' является фактором. Говорят, что группа G при- принадлежит типу I, если всякое ее фактор-представление поро- порождает фактор типа I и, следовательно, кратно неприводимому представлению. Пусть даны две группы Gt и G2 и неприводимое пред- представление Т прямого произведения G = GXY.G2. Обозначим через /?г кольцо, порожденное операторами Т (g), g ?Gec:G. Тогда Ri П /?2= {^E} в силу неприводимости Т. Кроме того, Ric:R2, так как элементы G1 и G2 коммутируют. Отсюда следует, что Ri Г) R[czR2 П Ri = {ХЕ}. Значит, Ri — фактор. То же самое верно и для R2. Если хотя бы одна из групп G1; G2 принадлежит типу I, то ограничение Т на эту группу кратно неприводимому пред- представлению. В этом случае легко показать, что представле- представление Т имеет вид ТХ®Т2, где Tt — представление группы GL. В общем случае это утверждение неверно. Один из про- простейших примеров можно построить так. Пусть G — счетная дис- дискретная группа, у которой каждый класс сопряженных элементов, кроме единичного, бесконечен. (Примером такой группы является ДОБАВЛЕНИЕ К ГЛАВЕ II 29S группа рациональных матриц вида (а Ъ [о 1 или группа перестановок счетного множества, передвигающих лишь конечное число точек.) Рассмотрим представление Г группы С?Х<3 в пространстве L2(G)., заданное формулой: Т (gx, g2) / (g) = f(g1~lgg2")- Это. представле- представление неприводимо, но не может быть записано в виде. Тл 0 Т2, где Т( — представления группы G. Ограничение Т на G не кратно не- неприводимому представлению и является фактором типа II. Предположим теперь, что неприводимое предста- представление Т группы G = Gi X G2 обладает следующим свойством. ¦;•-.- {А)Существует функция ср ? Lx (G{X.Q^ eudaq>(gv g2}= = Ф1 (S"i) Ф2 (g^)' для которой оператор ¦'• ; 7Чф) = / ф tei. ?2)Т tei- ei> dSi de2 является ненулевым вполне непрерывным оператором. Мы покажем, что в этом случае представление Т является тензорным произведением неприводимых пред- представлений групп Gx и G2. Прежде всего, заметим, что вместе с функцией ф усло- условию (Л) удовлетворяет функция -ф = ф * ф* *). Она также имеет вид -фх {g-d^2{g2), где 4pf = ф^ * ф*. Операторы А1 = == Г 'Ф/ (?") Т iS) dg неотрицательны, перестановочны между собой и произведение их — вполне непрерывный оператор. Отсюда без труда выводится, что каждый из операторов At имеет чисто точечный спектр. Далее, если Ни — собственное подпространство для At, отвечающее ненулевому собствен- собственному значению, то пересечение Нх Г) Н2 конечномерно, так как все векторы из этого пересечения являются собственными для оператора АХА2 с ненулевым собственным значением. Проекционный оператор Pt на подпространство Ht принад- принадлежит фактору Rt, порожденному операторами T(g), g^Oi- Хорошо известно (см., например, «Нормированные кольца», гл. II, § 3), что любой фактор R обладает следующим свой- свойством: если операторы X и Y лежат в" R и R' соответственно, *) Мы используем стандартные обозначения для операций.умно-- жения и инволюции в групповом кольце группы G. См., например, цитированную выше книгу М. А. Наймарка.
296 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [2 то произведение XY равно нулю тогда и только тогда, когда один из сомножителей равен нулю. Рассмотрим теперь среди всех ненулевых проекционных операторов в R2 такой оператор Р, для которого ранг произ- произведения РХР принимает наименьшее значение. (Существование такого оператора Р обеспечивается тем, что ранг РХР2 коне- конечен.) Покажем, что Р — минимальный проектор в R2. В самом деле, если бы Р можно было представить в виде Р'-\-Р", где Р' и Р"—ортогональные проекторы из R2, то хотя бы один из операторов РХР', РХР" имел ранг меньше, чем PtP, что невозможно. Итак, фактор R2 принадлежит типу I. Как мы видели выше, отсюда вытекает, что представление Т имеет вид Т1®Т2, где Tt — неприводимое представление груп- группы Gt. 2. Связь между унитарными представлениями группы G всех невырожденных матриц 2-го порядка и подгруппы fa Ъ\ матриц вида I _ I. В этом и в следующих пунктах уста- устанавливаются некоторые свойства неприводимых унитарных представлений группы матриц 2-го порядка с элементами из несвязного непрерывного поля К- При этом удобнее вместо группы G унимодулярных матриц рассматривать группу G всех невырожденных матриц. Переход от группы G к груп- группе G не представляет труда (см. п. 5). Рассмотрим в группе О всех невырожденных матриц 2-го порядка с элементами из несвязного непрерывного поля К (а Ь\ подгруппу Go матриц вида ga>b==\ I . Цель этого пункта—доказать следующее утверждение. Теорема 1. Всякое унитарное неприводимое пред- представление Т (g) группы G остается неприводимым при ограничении на подгруппу Go. Перечислим унитарные неприводимые представления группы О0. Все они, кроме одного, одномерны и имеют вид Vigа, *) = л (а)> где л—мультипликативый характер поля К- Единственное бесконечномерное неприводимое представление реализуется в пространстве L2(K*, d*x) и имеет вид U (?Л ь) Ф (*) = X (Рх) ф {ах). 21 ДОБАВЛЕНИЕ К ГЛАВЕ II 297 где х—фиксированный нетривиальный аддитивный харак- характер К Доказательство того, что неприводимые унитарные пред- представления Go исчерпываются приведенными выше, проводится стандартным приемом теории индуцированных представлений, и мы его опустим. Лемма. Ограничение Т на Go кратно неприводи- неприводимому представлению. Доказательство. Ограничение Т на Go, как и всякое унитарное представление, можно реализовать в виде прямого интеграла неприводимых представлений. Предположим сначала, что в этом разложении одномер- одномерные представления составляют множество положительной меры. Так как при одномерных представлениях элементы подгруппы N={g\,b} переходят в единичный оператор, то в пространстве Н представления Т существует вектор |, инвариантный относительно T(g), g?N. Будем считать, что Рассмотрим функцию F%(g) = (Г (g) |, |). Очевидно, это непрерывная положительно определенная функция на G, постоянная на двусторонних классах смежности по N. Так /а р\ /аб— $у °\ как матрицы I 1 и [ I при y^0 принадлежат одному классу смежности, мы получаем р\\ //аб —Py О' лУ 6// = /Ч\ у 1. Переходя в этом равенстве к пределу при ^-^О- получим 'а р\\ //об О' В частности, при б= а мы получаем F^ll _1JJ=1. Отсюда вытекает, что вектор | инвариантен относительно под- /а р \ группы К матриц вида g== I _t I . В самом деле, для та- ких матриц g можно написать \Т (jg) l-lf = (T (g) J-|. T (g) l-l) = 2 — 2 Re F? (^) = 0.
298 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ Но тогда функция F%(g) должна быть постоянна на дву- двусторонних классах смежности по подгруппе К- Легко про- (а р\ /аб —Py О ) ( верить, что при y=f^O, хФО матрицы \У \ ) лежат в одном классе смежности. Поэтому F ух? 1 Переходя здесь к пределу при х—>0, получим В частности, для всякой унимодулярной матрицы g спра- справедливо равенство F^(g) = 1. Как и выше, отсюда вытекает, что T(g)%=l для всякой унимодулярной матрицы g. . Обозначим через Но подпространство в Н, состоящее из векторов, инвариантных относительно унимодулярной под- подгруппы. Несложное вычисление показывает, что простран- пространство Но инвариантно относительно всех операторов T(g), g?G. В силу неприводимости пространства Н должно быть Нй = Н. Мы получили, что представление Т тривиально на подгруппе G унимодулярных матриц и поэтому его можно рассматривать как представление фактор-группы G/G. Так как эта группа коммутативна, представление Т должно быть одномерным. Для одномерных же представлений наша лемма и теорема I тривиальным образом верны. Рассмотрим теперь второй случай, когда одномерные представления Go не входят в разложение представления Т. Но у группы Go имеется единственное неодномерное пред- представление U. Поэтому в этом случае ограничение предста- представления Т на О0 кратно представлению U. Лемма доказана. Из приведенных рассуждений вытекает справедливость следую- следующего более общего утверждения: ^ если Т—фактор-представление группы G, то его ограниче- ограничение на Go кратно неприводимому представлению. В самом деле, единственное место в нашем рассуждении, где использовалась неприводимость Т, это доказательство равенства Нй = Н. В случае фактор-представления это равенство доказывается так. Обозначим через Р оператор проектирования на подпростран- подпространство Но. Как мы отмечали выше, оператор Р перестановочен со всеми операторами Т (g), а значит, и со всеми операторами из ДОБАВЛЕНИЕ К ГЛАВЕ II 299 слабозамкнутого кольца /?, порожденного Т (g). Без труда прове- проверяется, что Р перестановочен и со всеми операторами из кольца R', состоящего из операторов, перестановочных с элементами из R- Поэтому P^R[\R'. Но по определению фактор-представления кольца R и R' являются факторами, т. е. пересечение Я ("!¦#' состоит только из скалярных операторов. Поэтому Р = Е и //0 = И. Нам будет удобно перейти к другой реализации пред- представления U, рассматривая вместо функций на fCf их пре- преобразования Фурье на двойственной группе П. В этой реализации операторы представления имеют вид ь) Ф (Я1)= л2 (а) <р (я2) dn2 при A) Из леммы следует, что ограничение Т на Go задается теми же формулами, только вместо обычных функций нужно рассматривать вектор-функции со значениями в некотором гильбертовом пространстве L. Кроме того, для g из центра G операторы Т (g) пере- перестановочны со всеми операторами представления и потому кратны единичному оператору. Отсюда следует, что если 'X 0\ , то Т (dk) = я0 (X) Е, где л0 — фиксированный Из 0 Я, /0 — 1\ характер на fC- Обозначим через $ матрицу I | . тождества sga qS'1 — ga-\t 0 da вытекает, что оператор Т(s) имеет вид Т (s) ф (Я) = $ (Л) ф (ЯоЯ)» где 5 (л) — функция на П, значения которой — унитарные операторы в L. Заметим теперь, что из неприводимости Т (g) следует не- неприводимость совокупности операторов 5 (л) в L. В самом деле, если Lx — подпространство в L инвариантное относи- относительно всех (или даже почти всех) 5 (я), то подпространство Н1сН, состоящее из вектор-функций со значениями в Lv инвариантно относительно Т (g), g?G0, и относительно Т (s). Но подгруппа Go и элемент s порождают всю группу G. Поэтому Нг инвариантно относительно всех Г (g), что противо- противоречит неприводимости Н.
300 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [3 Для доказательства теоремы I достаточно теперь пока- показать, что операторы s(n) перестановочны между собой. Тогда совокупность s (л) будет неприводимой лишь в случае, когда L одномерно и, следовательно, ограничение Т (g) на Go сов- совпадает с U. Тождество sgh ,s = gu _1sgh _, приводит к сле- следующему условию на 5 (я): = лг (— 1) я2 (— 1) J Г (rotf1) 5 (л) Г (ля-1) dn, B) и-з которого непосредственно вытекает перестановочность s (лг) и sQn^) для почти вбех пар (j^, л2). Теорема 1 доказана. 3. Теорема о полной непрерывности оператора Т . В этом пункте мы покажем, что группа G принадлежит типу I, т. е. все унитарные фактор-представления группы О кратны неприводимому представлению. Для этого мы докажем более сильное утверждение. Теорема 2. Если Т(g) — неприводимое унитарное представление группы G, ф— суммируемая функция на О, то оператор вполне непрерывен *). Доказательство. Пусть ф^ е — обобщенная функция над, заданная формулой (ф^ е. /) =<7* ff(?a ь)®~1 (a)d*a db, где 0 — мультипликативный характер, а интеграл берется по fa b\ множеству ga> &= I !,|а|=1, |6|<<<7 . Положим фА> е = = ф^ е — Фй_1 е- Нетрудно проверить, что оператор U является проектором на одномерное подпространство в L2 (К*), порожденное функцией {0 (у) при 1x1 = ^"*, О при I jc I =И= q~ ¦ *) Группы, для которых справедливо это утверждение, назы- называют СС/?-группами, следуя Капланскому, который впервые выде- выделил этот класс групп и доказал, что все они принадлежат типу 1. ДОБАВЛЕНИЕ К ГЛАВЕ II 301 Очевидно, совокупность функций eke образует ортого- ортогональный базис в L2(Af*)- Пусть теперь М — совокупность всех функций ф ? Z.1 (G), для которых оператор Гф имеет конечный ранг. Ясно, что М — двусторонний идеал в D (б), содержащий все функции вида фй_ е * /, f (zLl (G). Если и ? If° (О) — функционал на О (G), равный нулю на /И, то функция и и все ее сдвиги обладают свойством а*фЙ1в = 0. Отсюда и = const и замы- замыкание М содержит все функции на Ll (G), интеграл которых равен нулю. С другой стороны, в М есть функции с отличным от нуля интегралом, например, характеристическая функция под- подгруппы U (см. следующий пункт). Поэтому М — Ll (G). Мы доказали, что каждая функция ф ? Ll (G) может быть аппрок- аппроксимирована по норме Ll (G) функциями из М. Значит, опе- оператор Гф может быть аппроксимирован (в смысле топологии, определяемой нормой оператора) операторами конечного ранга и, следовательно, вполне непрерывен. Теорема доказана. 4. Разложение неприводимого представления группы О по представлениям ее максимальной компактной под- подгруппы. Теорема о существовании следа. Целью этого пункта является доказательство следующего утверждения. Теорема 3. Пусть Т (g) — унитарное неприводимое представление группы О. В разложении ограничения Т(g) на максимальную компактную подгруппу UcQ каждая неприводимая компонента имеет конечную кратность. Доказательство. Воспользуемся результатами, полу- полученными при доказательстве теоремы 1. Мы видели, что опе- /0 — 1\ ратор представления Т (js), отвечающий матрице s= имеет в л-реализации следующий вид: A) где л пробегает группу характеров П, двойственную К*- При
302 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ этом функция 5 (л) удовлетворяет следующему соотношению: 5 (л {) Г (Л1я2л-') s (яа) = = щщ (— 1) J Г (яяГ') 5 (л) Г (ля2-') dn. B) ... Разложим функцию s(л) в ряд Лорана и найдем соот- соотношения для коэффициентов разложения. Напомним, что, согласно § 2, п. 6, каждый характер задается комплексным числом X, \Х\ = 1, и характером 9(у), определенным на группе О* элементов с нормой 1. Он вы- выражается следующей формулой: если х — рпу, |у|=1, то я (х) = Подставим в B) разложения функций s(n) = s(k, 0) и Г (л) в ряд Лорана + ОО + со К—— СО # — —со Мы получим следующее соотношение для коэффициентов sk @): = е1в2(— огг- в Исследуем это условие, учитывая следующие формулы для коэффициентов Гй (8), полученные в п. 6 § 2. Е"с ш ранг характера 9 равен т > 0, то ГЙ@)=:О для всех кф—т; Если ранг характера 0 равен 0, т. е. Q{x)r=zl, то Г 0 при k <— 1, Г*(в) = | — <rJ при Л = —1. ( 1 —q~x при А > — 1. Во-первых, рассматривая C) при фиксированных 91; 92, / и достаточно больших положительных k, мы видим, что правая часть равна нулю, а в левой части при вгв2 Ф 90> *) Здесь всюду через (Яо, Эо) обозначены компоненты харак- характера я0. . ДОБАВЛЕНИЕ К ГЛАВЕ II 303 сумма сводится к одному члену, в котором т равно рангу *) О^аО^1. Отсюда легко вывести, что при каждом 9 коэффи- коэффициенты sk @) обращаются в нуль при достаточно больших- положительных k. Во-вторых, если ?<;0, /<;0, 9!=?92, в^^бо, то из C) вытекает равенство sk+m(Q1) Si+m (92) = 0, где т — ранг характера О^Э^1. Предположим, что для некоторого 0! и некоторого п <^ 0 коэффициент sn (9:) отличен от нуля. Тогда, полагая k = п — т, получаем, что для всех 92, отличных от 9, и 0o0f . коэффициенты sl + m(Q2) равны нулю при /^0. Мы доказали, таким образом, что для всех 0, кроме, быть может, одной пары 0:, 90,9Г . среди коэффи- коэффициентов sk (9) лишь конечное число отлично от нуля. На-, конец, для «исключительных» характеров 0! и 909f1 из C) нетрудно получить рекуррентные соотношения между sk @), из которых следует, что |sfe@)| убывает при k -> — оо как геометрическая прогрессия **). Из всего сказанного следует, что функция s (л) = s (X, 0) при каждом 0 бесконечно дифференцируема по X. Теперь мы в состоянии доказать теорему 3. Заметим сначала, что все максимальные компактные подгруппы в группе О сопряжены группе U, состоящей из таких мат- матриц g, для которых матричные элементы g и g~l принад- принадлежат О. В группе U имеется семейство нормальных дели- делителей U„, состоящих из матриц, сравнимых с единичной матрицей по модулю рп. Очевидно, что как сама группа U, так и подгруппы U'п являются открытыми подмножествами в О и образуют в О полную систему окрестностей единичного элемента. Легко убедиться, что каждое неприводимое представле- представление группы U тривиально на Uп при достаточно большом п. Обозначим через Нп подпространство в Н, состоящее из векторов, инвариантных относительно операторов Т (g), g?Un. Теорема 3 равносильна утверждению о том, что все пространства Нп конечномерны. Найдем сначала пространство H°nczHn, состоящее из векторов, инвариантных относительно Т (g), g ? Un П Go. *) Определение ранга сад. в § 2, п. 6. **) См. ниже п. 6.
304 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ f4 Это проще всего сделать, используя первоначальную реали- реализацию представления U. Мы сформулируем только оконча- окончательный результат. Пространство Н°п состоит из функций ф (л) = = 2Фй(9)^й- удовлетворяющих условию q>k @) = 0, если (ранг 8) > п или k < — п. Так как sL^s = Un, то Нп инвариантно относительно Т (s). Поэтому, если ф (я) ? Нп, то функции ф (я) и Т (s) ф (я)= = 5 (л)ф (лоя-1) одновременно удовлетворяют сформулиро- сформулированному выше условию. Конечномерность пространства Нп следует теперь из бесконечной дифференцируемости по X функции s (я) = s (X, 0) и из следующего легко проверяе- проверяемого предложения. Пусть s (X) — бесконечно дифференцируемая функция на единичной окружности Л и \s(X)\^l. В простран- пространстве L2(Л) существует лишь конечное число линейно независимых функций q>(X), удовлетворяющих условиям: 1) функция ф (Я) ортогональна Xй при k <—я; 2) функ- функция s(X)q>(k) ортогональна Xh при ? > ге. Теорема доказана. Заметим, что при доказательстве теоремы 3 максималь- максимальность компактной подгруппы нигде не использовалась. Фак- Фактически требовалось лишь, чтобы компактная подгруппа U содержала все подгруппы Uп, начиная с достаточно боль- большого номера п, т. е. чтобы она была открытой компактной подгруппой в G. Итак, утверждение теоремы 3 остается справедливым для любой открытой компактной под- подгруппы U группы G, в частности, для любой из под- подгрупп Un. Следствие. Если функция ф принадлежит прост- пространству S финитных кусочно постоянных функций на G, то оператор Тф= Г ф (g) T (g) dg имеет конеч- конечный ранг. Доказательство. Для каждой функции ф из S най- найдется такое п, что ф постоянна на двусторонних классах смежности по Un. Отсюда следует, что для любого х из пространства представления Н и любого g ? Uп мы имеем ДОБАВЛЕНИЕ К ГЛАВЕ II 305 Мы видим, что область значений оператора Гф лежит в пространстве Нп, состоящем из векторов, инвариантных относительно Uп. Конечномерность пространства Нп была установлена в доказательстве теоремы 3. Из доказанного следует, что оператор Гф имеет след, причем этот след является линейным функционалом в прост- пространстве S. Этот факт можно еще сформулировать следую- следующим образом. Каково бы ни было неприводимое унитарное пред- представление Т (g) группы G, след Tr T (g) оператора Т (g) существует как обобщенная функция в пространстве S. 5. Представления унимодулярной группы. Покажем, каким образом перенести доказанные выше теоремы 2 и 3 с пол- полной матричной группы G на группу G матрице определителем 1. При этом мы ограничимся случаем, когда группа W—K*j(K*J конечна. В § 1 было показано, что если конечное поле L = OjP имеет характеристику, отличную от 2, то группа W имеет порядок 4. Если поле L имеет характеристику 2, а поле К—харак- К—характеристику 0 (как, например, в важном для дальнейшего случая поля 2-адических чисел), то группа W также конечна. В самом деле, ряд B/1—1)!! B/г)И п сходится при -j- < 1. Поэтому подгруппа (К ) содержит Оп при достаточно большом п. Кроме того, в (К*У входят все четные степени образующей р. Значит, порядок W не пре- превосходит порядка конечной группы Z2XO /О„. Если же поле К имеет характеристику 2, то группа W бесконечна (она изоморфна в этом случае произведению счетного числа групп Z2). Этот случай мы исключаем из рассмотрения, хотя тот факт, что группа G принадлежит типу I, можно доказать и в этом случае. Пусть G—множество всех неприводимых представлений G, рассматриваемых с точностью до эквивалентности. Группа G действует в G следующим образом. Если Т ? G, g ? G, то 20 И. М. Гельфанд и др.
306 гл. п. группа матриц из лок. компактного поля 16 положим T(g) (g-j)= Tiggig'1). Ясно, что T(g) также явля- является неприводимым унитарным представлением группы G. Рассмотрим стационарную подгруппу точки 7 ? G. Ясно, что эта подгруппа содержит G, так как если g?G, то T{g)(gl)=^T{g)T{gl)T'1 (g), откуда видно, что 7 и T(g) (X 0\ эквивалентны. Далее, все матрицы вида g=l „ | также принадлежат стационарной подгруппе, так как для таких..g представление Tlg) просто совпадает с Т. Поэтому стационарная подгруппа содержит все матрицы из G, определитель которых принадлежит группе (К*J. Так как мы предположили, что группа КФ/(К*J конечна, то орбита точки Т под действием G состоит из конечного числа точек Т\, Т2, .... Ти. Пусть Нх, Н2, .... Hk — простран- пространства, в которых действуют эти представления. Тогда в пря- прямой сумме Нг 0 Н2 ф . . . © Hk можно задать неприводимое представление 7" группы G, ограничение которого на G оставляет каждое Ht инвариантным и совпадает в этом подпространстве с представлением Tt. Справедливость теорем 2 и 3 для представления 7 без труда выводится из справедливости этих теорем для пред- представления 7". 6. Классификация всех неприводимых представлений групп G и G. Условие C), полученное в п. 4, позволяет дать полную классификацию всех неприводимых унитарных представлений групп G и G. А именно: Теорема 4. Представления основной, дополна- тельной и дискретных серий, а также особое и еди- единичное представления исчерпывают совокупность всех неприводимых унитарных представлений группы G. Нам будет удобно доказывать аналогичную теорему для группы G. Приведем формулы для представлений этой а G. группы. Через g обозначается матрица •. 1. Непрерывная серия состоит из представлений Тя>гЯ1, где ях, Яз—унитарные мультипликативные характеры поля К. 61 ДОБАВЛЕНИЕ К ГЛАВЕ II 307 Пространство представления—L2 (К. dx) (ср. §3, п. 1) Гя„ Я2 (g) f (x) = щ (fix + 6) г (* -Ы |аб^" pY ^ 2. Дополнительная серия состоит из представлений КЯо; р, где л0 — унитарный мультипликативный характер поля AT, p — вещественное число из интервала @, 1). Пространство пред- представления состоит из функций на К со скалярным произве- произведением (ср. § 3, п. 7) (Л. Л) = / /Л*I7<У Г2Р ¦ — у\ '"их dy. Операторы представления действуют по формуле 3. Особая серия состоит из представлений 5Яо, где л0 — унитарный мультипликативный характер Af. Представления этой серии действуют в пространстве функций на К, для которых I f (x) dx = 0, скалярное произведение задается к формулой (ср. § 3, п. 8) (/i. Л) = / /i 0*0 ЛО0 In | х — у \dx dy. Операторы представления имеют вид 5я. / (х) = 4. Дискретная серия состоит из представлений Un> п. где Яц, П — унитарные мультипликативные характеры полей К и к{~)/~т) соответственно. Представление действует в прост- пространстве Z-2(AT. dx) по формуле (ср. §4, п. 1) Uxo,n(g)f(x)= fK(g\x, y)f{y)dy, если если р = 20*
308 гл. п. группа матриц из лок. компактного поля [6 Ядро K(g\x, у) отлично от нуля лишь при signT(лгуД) = 1 и имеет вид 1/9 sing ВлгД К (g | х, у) = ахсхп0 (Д) | Д |1/2 *^ X f где положено Д = аб — $у. 5. Вырожденная серия состоит из одномерных представ- представлений здесь л0— унитарный мультипликативный характер поля К- Теорема А'. Перечисленными выше представле- представлениями исчерпывается совокупность всех неприводимых унитарных представлений группы О. Доказательство. Рассмотрим сначала конечномерное представление Т группы G. Операторы Рп= I T{g)dg являются, очевидно, самосопряженными проекционными опе- операторами в пространстве Н представления Т. Кроме того, так как подгруппы U„ *) составляют полную систему окрест- окрестностей единицы в G, последовательность {Рп} сильно схо- сходится к единичному оператору. В конечномерном пространстве это возможно лишь, если, начиная с некоторого п, имеет место равенство Рп = Е. Но это значит, что все векторы из Н инвариантны относи- относительно Uп. Ядро представления Т является нормальным делителем в О и содержит подгруппу Un. Отсюда вытекает, что ядро Т содержит целиком подгруппу О. Значит, Т является фактически представлением фактор-группы О/О. Эта последняя группа коммутативна и изоморфна мульти- мультипликативной группе поля К- Таким образом, все конечно- конечномерные унитарные неприводимые представления группы О исчерпываются указанными выше представлениями W^, состав- составляющими вырожденную серию. *) Напомним, что Un состоит из всех матриц, сравниваемых с Е по модулю р"О. ДОБАВЛЕНИЕ К ГЛАВЕ II 309 Пусть теперь представление Т бесконечномерно и непри- водимо. Как мы видели в п. 2, ограничение Т на О0 также неприводимо и совпадает с некоторым фиксированным пред- представлением О0, заданным формулами A). Так как группа О порождается подгруппой О0 и матри- '0 —1\ то для задания представления Т доста- цей 5 = 1 0 точно указать оператор T(s). Этот оператор, как показано в п. 2, имеет вид Т О) ф (Л) = 5 (Я) ф (ЛоЛ), где 5 (л) — функция на множестве П унитарных мультипли- мультипликативных характеров поля К, принимающая комплексные значения, по модулю равные 1. Характер я0 в этой фор- /X 0 муле определяется равенством Т (d^):=n0 (X) Е, где d\= ( \ X J Приведем явные выражения для функций 5 (л), соответ- соответствующих перечисленным выше сериям представлений *). Символом Л(Р) мы будем обозначать неунитарный характер (x)=z\x f. 1. Т = ТПиЩ — представление основной серии 2. Т = УЯо> р—представление дополнительной серии s (л) = Г (л-^ЛоЯф)) Г (я-1яояA_р)). 3. T = Sno—представление особой серии 5 (я) = Г (л-^о) Г (я-1яоЯШ). 4. Т = иЛа1п — представление дискретной серии где Гт—гамма-функция поля /<"(|/т), а ят—неунитарный мультипликативный характер этого поля, заданный формулой -1 n(z) = Jl-1(z) 2 Л, I ч {ZZ). Ы *) Отметим, что из этих формул непосредственно видна эквива- эквивалентность представлений 7"Я] п^ и Тп^ я и эквивалентность пред- ставлений
310 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [6 Для доказательства теоремы 4 достаточно проверить, что функциональное уравнение B), выведенное в п. 2, не имеет других решений, кроме перечисленных выше. Мы сделаем это следующим образом. Сначала будут явно найдены все решения этого уравне- уравнения, которые при разложении в ряд Лорана, (л) -=s(X, 8) = 2 ^ (в) А A) имеют хотя бы один ненулевой коэффициент при неположи- неположительной степени 'к. Оказывается, что все такие решения связаны с представлениями основной, дополнительной и осо- особой серии. Остальные решения не удается выписать в явном виде, но можно показать, что для представлений, соответ- соответствующих этим решениям, матричные элементы имеют сум- суммируемый квадрат на подгруппе G. Отсюда следует, что соответствующие представления входят дискретным слагаемым в разложение L2 (G) на неприводимые компоненты. Так как в § б была получена формула Планшереля, дающая разло- разложение L2(G) по представлениям основной и дискретной се- серий, мы видим, что оставшиеся решения нашего функцио- функционального уравнения связаны с представлениями дискретных серий. Приступим к реализации этого плана. Напомним некоторые результаты п. 4. Основное функ- функциональное уравнение в терминах коэффициентов ряда Ло- Лорана имеет вид fD^r.,^). B) Коэффициенты sfe(8) обладают следующими свойствами. Для каждого 9 существует такой номер р (8), что sk (8) = 0 при ?>р(8). Если среди коэффициентов sk (8) только ко- конечное ЧИСЛО ОТЛИЧНО ОТ НуЛЯ, ТО S(k, 8)= Sp(8)(8) • Л-Р(в) (т. е. только один коэффициент отличен от нуля; это легко вытекает из того, что \s(k, 8) | = 1 при |А,|—1). Введем обозначение в* = во8~1. Тогда sftF*) = sb F). ДОБАВЛЕНИЕ К ГЛАВЕ II 311 Назовем характер 6 исключительным, если среди коэф- коэффициентов sk (8), k -^ 0, есть хотя бы один отличный от нуля. Было показано, что существует не более двух исключитель- исключительных характеров. Разберем отдельно 3 случая. 1-й случай. Существует два различных исключительных характера 8i и 8^ Пусть s_n(Q1) Ф 0, п >- 0. Пусть 82 — произвольный характер, отличный от 8*. Обозначим через г* ранг характера ft ft 1 2 =—у . Тогда сумма в левой части ра- венства B) сведется к одному члену -г* l?s,+r* (ва). Положим теперь k = — п—г*. Тогда сумма справа (ft \ "о—I ОТЛИЧНО от нуля лишь при 8 = 8:. Мы получили равенство -Air)- С3) Так как Г,г+Г*A)=1—\р\, то отсюда D) В частности, если 62=5^81, то St+r* (82) отлично от нуля, лишь когда / равно рангу характера -^-, который мы обо- значим через г. Окончательно: если 8 — характер, отличный от 8, и 6* то , 8)==881( ,г+г* E)
312 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [6 Положим теперь в равенстве B) 02 = 8! и обозначим через г0 ранг характера -4-. Если хотя бы одно из чисел k, l неположительно, то сумма в правой части сводится к одному слагаемому, в котором 9 = 0!, и мы получаем ра- равенства V I вМ А/ г0, Это уравнение после замены sk(Q^= о2 к- переходит в соотношение ok+l при k !J> r0, 1^ 1-IPI ПРИ Л Г° ¦ ^ 0' О при й < г0 — 1, / > г0. Отсюда величины aft без труда находятся. Мы приведем лишь окончательный результат. Существует такое комплекс- Г A)т* ное число х, что ak =—1_ipi—• ^ля sk(®i) отсюда полу- получается выражение *) ¦ = 80(—1)- г тт2г°-*г f — . F) откуда G) *) Здесь и далее мы пользуемся тождеством )<-.\)Ть{<д-1) (см. § 2. п. 6). (9) = 6] ДОБАВЛЕНИЕ К ГЛАВЕ II 313 Подставляя указанное в F) значение sk(l) в формулу E), мы получим, что при 0, отличном от 0j и 0*. Г / -г* ~7? -r* (8) Отметим, что равенство \s(k, 0) | = 1 равносильно условию |т[_\p\ . Сравним теперь полученнные формулы G), (8) с приве- приведенным выше выражением Г Г /л-^л^Л (9) для функции 5(л), соответствующей представлению ТПи Яг. Обозначим через лх и л2 характеры с координатами (т|р|~'^, 0j) и I ° ^ — , 0i) соответственно. Без труда про- проверяется, что при этих щ и л2 формула (9), переписанная в координатах (X, 0), превращается в формулу G) и (8). Таким образом, мы доказали, что все решения функцио- функционального уравнения (*), обладающие двумя исключительными характерами, связаны с представлениями основной серии. 2-й случай. Существует только один исключительный характер 0: = 0*. Мы можем считать, что ©j^l. В самом деле, без труда проверяется, что функция s(n)= s(rax) удо- удовлетворяет функциональному уравнению вида B), в кото- котором Лд заменено на л0л". Если для функции s (л) исключи- исключительным характером был 0, то для s (л) исключительным ха- характером будет вб. Это же рассуждение показывает, что мы можем ограничиться рассмотрением случая Л-о=1. Основное уравнение B) после подстановки 0Х ^1 будет иметь вид
314 ГЛ. П. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ В частности, если k-^.0, и ранг 82 равен г2ф0, то мы получаем Правая часть этого равенства может быть отлична от нуля лишь при /— рангу 62" = r-i- Выбирая неположительное k так, чтобы Sft+7-2(l) Ф 0 и полагая /=г2, мы получим Итак, мы нашли коэффициенты sk @) при 8 =? 1. Поло- Положим теперь в равенстве A0) k > 0, /= г2 и выделим в ле- левой части слагаемое, соответствующее 8=1: r, A) Г_г, F2) s2ri (в2) = — | р Подставляя сюда найденное выше значение s2/-2 (82), мы по- получим r2F2)(l — \р\ — Г_*A)) = Так как й > 0 коэффициент при Sft+/-2A) в левой части от- отличен от нуля. Выпишем }гсловия, при которых может быть отлично от нуля хотя бы одно слагаемое в правой части: (ft \ ранг -g-j. Отсюда следует, что k — ранг 6 = г2 = ранг \-q~\- Итак, sk + r A) может быть отлично от нуля лишь при k = r2. Поэтому при п > 2 5„A)==0, ибо любое » >• 2 можно пред- представить в виде n=k-\-r2, k ф г2. При га—2 выражение в правой части можно явно просуммировать, и мы получим ДОБАВЛЕНИЕ К ГЛАВЕ И 315 Отметим, что все найденные нами до сих пор коэффи- коэффициенты определены однозначно и не зависят от рассматри- рассматриваемого представления. Чтобы определить оставшиеся коэффициенты sk @), k < 2, положим в основном равенстве B) Qx = 02 = 1 и предполо- предположим, что хотя бы одно из чисел k, l неположительно. Мы получим уравнение — IP или +r A) Г_г A) sl+r A) = Г_й A) _, A) 1 — Но, в силу условия |s(A,, 0)|=1, коэффициенты sA F) удо-, влетворяют соотношениям: ^j sk+r(Q) sl+r(Q) = 6k[. Отсюда • ~~ 1-|р| °k+l{ Положим здесь 1 = 0 и учтем, что sr(l) = 0 при г >• 2 *0 В частности, при й = 0 мы получаем а при k <C 0: s*+i(D --^=177 + Мы получили рекуррентное уравнение для sk A), общее решение которого имеет вид ?§ при Л<1,
316 гл. п. группа матриц из лок. компактного поля [6 где Tlt т2 — два комплексных числа, связанных условием х1х3 = \рГ1. Отсюда в (A,, l)=2s^1)?lfe==IVl^-b 2 ВЯ.Т2 A — Яа)A— где а и р — два комплексных числа, зависящие от А, В, х1 и т2. Условие \s(X, 1)| = 1 выполняется лишь, когда. 1 = т~1. В этом случае мы -1 = т ~1 или = т  получаем s(X, l) ^ ф-Щ^-J^L^. Пусть | Tj | = | p |p; обозначим через я0 характер с коор- координатами (-:—Ц-, 1). Тогда найденная нами функция s(n) \ I Ti I / может быть записана в виде 5 (л) = Г (n-IJVi(p)) Г (Ji-'jvtf !_„)). Мы видим, что представление, соответствующее этой функции, принадлежит дополнительной или особой серии. 3-й случай: исключительных характеров нет. Покажем, что в этом случае матричные элементы пред- представления суммируемы на G. Выберем в пространстве пред- представления Т (в я-реализации) базис из функций eki e: При 0Х = 0, при 8j Ф 9. Операторы представления в этом базисе имеют вид при * = (И) 61 ДОБАВЛЕНИЕ К ГЛАВЕ И 317 Почти каждый элемент группы О можно записать в виде а, О- ^ ?2 имеет a, S" Инвариантная мера на G в параметрах а, ^ вид rfp. (g) = rf*a rf^i rf*2. Рассмотрим область ?>(га, /«!, /n2) на группе G, задава- задаваемую условиями a = p"a, ?1 = »'".р1, *2=йтф2, где a, p,, p2 ? О*. Пользуясь формулами A1), можно написать следующее вы- выражение для матричных элементов оператора Т (g), при g?D(n, m-i, tn2): eJ = <PO bv bi) = n x X A2) Исследуем, при каких условиях на га, тх, т2 это выра- выражение может быть отлично от нуля. Пусть сначала п фиксировано. Существует лишь ко- конечное число характеров 8, для которых sk k _2n F) Ф 0. В самом деле, рассуждения, уже использованные в слу- случаях 1 и 2, показывают, что для всех 9, кроме, может быть, конечного числа, справедливо равенство s(X, 9) = где р(в) = 2-(ранг 9). A3) Наше утверждение вытекает теперь из того, что число ха- характеров данного ранга конечно. Далее, так как ранг 9 ограничен, а ранги 9Х и 92 фик- фиксированы, то при достаточно больших по модулю отрица- отрицательных гп\ или т2 коэффициенты Г-функции, входящие в правую часть равенства A2), равны нулю. Это значит, что при каждом фиксированном га область группы, на которой наш матричный элемент отличен от нуля, имеет конечный объем. Для всех достаточно больших положительных га можно воспользоваться равенством A3) и получить более точную оценку, показывающую, что этот объем ограничен константой, не зависящей от п.
318 ГЛ. II. ГРУППА МАТРИЦ ИЗ ЛОК. КОМПАКТНОГО ПОЛЯ [6 До сих пор мы нигде не использовали факт отсутствия исключительных характеров. Примем теперь этот факт во внимание. Прежде всего, из него вытекает (по определению исключительных харак- характеров), что sk (8) = 0 при k ^ 0. Это значит, что при га<1—' ~Г 2 наш матричный эле- элемент ф обращается в нуль. При исследовании суммируемости ф мы можем, следова- следовательно, рассматривать только область п > N, где N — до- достаточно большое положительное число. При этом мы можем пользоваться равенствами A3) и считать, что ранг 8 больше рангов 9i и 02- Отсюда следует, что правая часть равен- равенства A2) отлична от нуля лишь при ml = —2-к—-,т2=- ' 2 -к 2 и имеет вид Фя(а. pi, fc)=(l — а где сумма ведется по всем характерам ранга г = Тогда а. pi. P2)l2-(i- ' ~^"—2- -j_ д. Поэтому интеграл |ф(^)|2 по области (J D («, тх, т2) ТП\9 171% равен / |ф„(«. Pi. P2)|2^Pi^P2 = "" I Г. ДОБАВЛЕНИЕ К ГЛАВЕ И Вспоминая, что |$2,-F)|=1, |Г„@)| = |р|г/2 и что 319 число характеров ранга г равно комую оценку |„| | ~г A — |р|), мы получаем ис- исn-N Доказательство теоремы 4' закончено. Отметим, что несложными дополнительными рассужде ниями можно показать, что <p(g)?Lp (G) при любом р^-1
ГЛАВА III ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ § 1. Адели и идели 1. Группа характеров аддитивной группы рациональ- рациональных чисел. Чтобы лучше понять, как устроена группа ха- характеров аддитивной группы рациональных чисел, рассмотрим сначала существенно более простую задачу. Именно, выясним, как устроена группа характеров группы Q всех дробей вида —,г, где р — фиксированное простое число, а аи п — любые целые числа. Пусть х(~~7г) — произвольный характер на Qp)- Так как A) то для задания характера х достаточно знать числа %A), X (—-), . . ., х(—/г)« ¦ • • Эти числа связаны между собой сле- следующими соотношениями: B) Обратно, любой набор чисел х (—?г)> « = 0,1 удо- удовлетворяющих соотношениям B), и таких, что х(-рг) =1. задает характер х на Q(P>> Этот характер определяется фор- формулой A). § 1. АДЕЛИ И ИДЕЛИ 321 Так как х = 1, то X I „л ) C) где ап — вещественное число, определенное по mod pn. Со- Соотношения B) эквивалентны следующим соотношениям для чисел а,г Отсюда следует, что где а = — а0> а р„— целые числа, определенные по mod pn и удовлетворяющие соотношению "). D) Из соотношений D) следует, что числа р„ являются от- отрезками /?-адического ряда Р = «1 Таким образом, азР2 0 < аи < Р- X (-^)= рп Но тогда для любой рациональной дроби вида —д- мы получаем, согласно A), X (ут) = ехр 2лг (— а + р)-^-. E) Итак, любой характер х (—д-) группы Q(p) задается парой чисел — вещественным числом а, определенным по modi, и целым р-адическим числом р. Нетрудно убедиться, что х \~^п)^^ тогда и только тогда, когда а является рациональным числом, знаменатель которого не делится на р, и р=а (р — /?-адическое представление рационального числа а). Таким образом, группа характеров аддитивной группы всех дробей вида—„• строится следующим образом. Рас- 21 И. М. Гельфанд и др.
322 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ сматривается аддитивная группа, элементами которой являются пары (а, р), где а—вещественное число, определенное по mod 1, р— целое р-адическое число. Эта группа фактори- зуется по подгруппе элементов вида (г, г), где г пробегает все рациональные числа, знаменатели которых не делятся на р. Структура группы характеров аддитивной группы Q всех рациональных чисел оказывается существенно сложнее. Эта группа характеров будет подробно изучена в следующих пунктах. Здесь мы ограничимся лишь формулировкой окон- окончательного результата. Каждый характер группы Q задается бесконечной после- последовательностью в которой а —вещественное число, а р-адическое число (р = 2, 3, . . .), причем все ар, начиная с достаточно боль- большого р, являются целыми р-адическими числами. Такие последовательности называются а д е л я м и. Характер Ха(г)> отвечающий аделю а, задается следующей формулой: Ха (г) = ехр 2л/(—аоог+а2г+ . .. G) Эту формулу нужно понимать в следующем смысле. Так как к выражению в скобке можно прибавлять любое целое число, то мы вправе отбросить целые части у всех /?-адических чисел а г. Посла такого отбрасывания сумма, стоящая в скобке, превратится в сумму рациональных чисел. Легко убедиться, что при этом лишь конечное число слагаемых будут отлич- отличными от нуля. Множество аде лей образует аддитивную группу А, если операцию сложения определить покомпонентно. Очевидно, что при сложении двух аделей соответствующие им харак- характеры перемножаются. Таким образом, отображение а •lair) является гомоморфизмом группы аделей А на группу Q' ха- характеров группы Q. 21 § 1. АДЕЛИ И ИДЕЛИ 323 Выясним, из чего состоит ядро этого гомоморфизма. Оказывается, что ха(г)== 1 тогда и только тогда, когда а имеет следующий вид: а = (а, а, . . ., а, . . .), где а пробегает рациональные числа. Такие последователь- последовательности а называются главными аделями. Очевидно, что подгруппа главных аделей изоморфна аддитивной группе Q рациональных чисел; эту подгруппу условимся также обозна- обозначать буквой Q. Итак, имеет место изоморфизм группы характеров Q' и фактор-группы A/Q группы аделей по подгруппе главных аделей. Все группы рассматриваются здесь пока как абстрактные. Можно, однако, показать, что при естественном задании топологии в группе аделей имеет место изоморфизм и топологических групп. Подробное до- доказательство всех приведенных здесь утверждений будет дано в п. 6. 2. Определение аделей и иделей. Сформулируем еще раз определение аделей. Рассмотрим совокупность А всех последовательностей вида а («со- а1 в - . .), где а^ — вещественное число, а—р-адическое число, при- причем все а , начиная с некоторого р (своего для каждого а), являются целыми р-адическими числами. Совокупность всех таких последовательностей образует кольцо, если операции сложения и умножения определить покомпонентно. Это кольцо называется кольцом аделей, а аддитивная группа этого кольца — группой аделей. Элементы кольца аделей А, для которых существует об- обратный элемент, называются и дел ям и. Совокупность А* всех иделей образует группу по умножению, называемую группой иделей. Таким образом, элементами группы иделей являются по- следовате льнрсти А. = (А-оо, А-2> • • • • "р> • ¦ •)> 21*
324 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [3 где %р Ф О и \Хр\р—\ для всех р, кроме конечного числа (\х\р есть р-адическая норма). В группу аделей А вводится топология следующим об- образом. Рассматривается подгруппа Л° аделей а =^{асо, а2, ¦ . ¦ . . ., ар, . . .), где все ар являются целыми р-адическими чи- числами. В А° вводится топология тихоновского произведения топологических пространств R, О2, • ••¦ Ор где О — подгруппа целых р-адических чисел. Эта подгруппа А0 объявляется открытым множеством в А. Таким образом, последовательность аделей а(гС) — (а<5' а2Л). . . ., а("\ . . .) считается сходящейся к аделю а = @^, а%, . . . ..., ар, . . А, если она сходится к а покомпонентно и если найдется такое N, что при п~^> N числа а — а^ являются целыми /?-адическими. Полученная топологическая группа А локально-ком- локально-компактна — это непосредственно следует из компактности групп Ор. Аналогично вводится топология и в группе иделей А*. 3. Другая конструкция группы аделей. Пусть Q — адди- аддитивная группа рациональных чисел. Введем в Q топологию, объявив окрестностями нуля всевозможные подгруппы груп- группы Q. Будет доказано, что пополнение Q группы Q относи- относительно введенной топологии изоморфно группе всех аде- аделей вида (О, а2 ар, . . .)• Таким образом, группа аделей А является прямым про- произведением А = Лм X Q группы вещественных чисел А^ и группы Q. Доказательство. Рассмотрим подгруппу В аделей вида @, а2. • • •¦ ар, . . .). Сопоставим каждому рациональ- рациональному числу г последовательность @, г, ..., г, . . .). Эта последовательность является элементом из В, поскольку |/¦ |^ = 1 для достаточно больших р (именно, для тех р, 31 § 1. АДЕЛИ И ИДЕЛИ 325 которые не входят сомножителями в г). Таким образом, соответствие г->@, г г, ...) является изоморфным вложением группы Q в группу В. Покажем, что это вложение индуцирует в Q топологию, совпадающую с исходной. В самом деле, рассмотрим в В открытые подгруппы Uр> „, состоящие из аделей @, а2, ¦ ¦., ар, . . .), таких, что [а,Л<?~" ПРИ Я<Р и |а^|^<1 при q> р. Очевидно, что Uр> „ образуют в В полную систему окрестностей нуля. Пересечение UPi n(]Q состоит из целых чисел вида B-3-5 ... р)п k, где k пробегает все целые числа: иными словами, Up< „ flQ является циклической подгруппой группы Q. Эти подгруппы являются открытыми множествами в исход- исходной топологии группы Q. При этом они образуют полную систему окрестностей нуля в Q, так как любая подгруппа группы Q содержит подгруппу такого вида. Тем самым установлено, что топология группы В индуцирует в QczB исходную топологию. Остается доказать, что множество элементов группы Q всюду плотно в В, т. е. что для любого элемента а 2, а р, из В существует последовательность элементов из Q, схо- сходящаяся к а. Для любого простого числа р и натурального числа п обозначим через 6^> р< п дробную часть ^-адического числа (р I) " аа. Положим </. р< «¦ (Очевидно, что в этой сумме лишь конечное число членов отлично от нуля.) Тогда имеем для любого простого числа q " при Отсюда следует, что I «я ~ (Р 0" ^,„|<1 при q > р.
326 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Это означает, что последовательность рациональных чисел (p\)ncPitl сходится при р—>оо, га—>со к аделю а. 4. Изоморфизмы Q—>А и Q*—>А*. Покажем, что кольцо рациональных чисел Q изоморфно вкладывается в кольцо аделей А. Действительно, поле Q изоморфно вкладывается как в поле рациональных чисел R, так и в поле /?-адических чисел Qp. Сопоставим каждому рациональному числу после- последовательность (г, г, .... г, . . .). Эти последовательности являются аделями, поскольку при гфО имеем |г|р=1 для достаточно больших р. Их назы- называют главными аделями. Покажем, что кольцо главных аделей Q дискретно в А. Доказательство. Предположим противное, что кольцо Q не дискретно в А. Тогда найдется последова- последовательность главных аделей г„=(г„, г„ гп, . . .), схо- сходящихся к нулю. Из определения топологии в А отсюда следует, что, начиная с достаточно большого п, числа г„ являются целыми /?-адическими для любого р. Но это означает, что г„ — целые числа, а потому последователь- последовательность гп не сходится к нулю в топологии поля R. Тем самым мы пришли к противоречию. Найдем фундаментальную область аддитивной группы кольца А относительно подгруппы главных аделей Q. Рассмотрим множество F аделей '« = ¦(*„, а2> • ¦ •> ар. ...), где 0 -^ а^ <С 1 и \ар\р^ 1; покажем, что оно является искомой фундаментальной областью. Пусть а = (а00, а2, ..... ар, г..).— произвольный адель. Обозначим через а сумму дробных долей р-адических чисел а2, •-., пр, .. .В силу определения аделей, эта сумма со- содержит лишь конечное число слагаемых, отличных от нуля, и является, таким образом, рациональным числом. Под- Подберем теперь целое число га такое, что 0-^аи — а — п ¦< 1 и рассмотрим главный адель г —(г. г, . . ., г, . . .), где r = a-j-ra. Очевидно, что а-—r?F. 5] § I. АДЕЛИ И ИДЕЛИ 327 Тем самым доказано, что группа А является объедине- объединением множеств r-\-F, где г пробегает главные адели. Остается показать, что эти множества попарно не пере- пересекаются. Пусть г Ф 0; покажем, что тогда множества г-\-F и F не имеют общих элементов. В самом деле, если г—целое число, то r -j- йм, где a?F, не принадлежит полуинтер- полуинтервалу 0 <! х < 1; значит, г-(-а не принадлежит F. Если же г не целое, то \г\р~> 1 хотя бы для одного р, а потому и | г -j- ар \р > 1, где а ? F; следовательно, и в этом случае r-j-a не принадлежит F. Итак, доказано, что множество F является фундамен- фундаментальной областью. Отметим, что это множество компактно. Отсюда сле- следует, что фактор-группа A/Q группы аделей по под- подгруппе главных аделей компактна. В п. 6 мы покажем, что эта фактор-группа изоморфна группе характеров группы Q. Перейдем теперь к группе иделей. Мультипликативная группа рациональных чисел Q* изоморфно вкладывается в группу иделей А*. Именно, каждому рациональному числу г Ф 0 сопоставляется последовательность (г, г, .... г, ...). Эти последовательности являются иделями, поскольку 1/"!^= 1 для всех р, не входящих в разложение числа г на простые сомножители. Их называют главными иде ля м и. Отметим, что множество Q* главных иделей получается из множества Q главных аделей отбрасыванием нулевого аделя @, 0, . . ., 0, . . .). Как и в случае аделей, легко убедиться, что подгруппа главных иделей Q* дискретна в группе всех иделей А*. 5. Группа аддитивных характеров кольца аделей А. Сначала введем важное понятие самодуального кольца. Пусть L—коммутативное топологическое кольцо с еди- единицей. Рассмотрим множество L' всех аддитивных характе- характеров кольца L, т. е. таких непрерывных функций %(х) на L, что X (х + У) = X О) X (У) для любых х и у, из L и
328 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЁЙ В множестве L' естественным образом вводятся структура топологического пространства и операция умножения харак- характеров, превращающие U в топологическую группу. Кроме того, в U естественным образом определяется операция умножения на элементы из исходного кольца L: произведе- произведением а • х элемента а ? L на характер х 00 называется характер %а(х)~к(ах). ¦ ¦ ¦ Очевидно, что эта операция умножения непрерывна отно- относительно а и х и удовлетворяет следующим условиям: а • (XiXa)=(e * Xi)(« • Ха). (а + Ь) X = (а • х) (* • X). (ab) х = а-ф ¦ х). 1 • Х = Х. Таким образом, множество характеров Z/ является /.-модулем. Кольцо L называется самодуальным, если L-модуль всех аддитивных характеров на L изоморфен исход- исходному кольцу L. Эквивалентное определение: кольцо L назы- называется самодуальным, если любой аддитивный ха- характер %{х) имеет вид X 00 = Хо («¦*)• а&1- где Хо—некоторый фиксированный характер. Примеры самодуальных колец нам уже хорошо известны: таковыми являются все непрерывные локально-компактные поля. С другой стороны, бесконечные дискретные поля, в частности, поле Q рациональных чисел не являются само- самодуальными (поскольку множество их аддитивных характеров компактно). Мы докажем здесь, что кольцо аделей А является самодуальным кольцом. Для доказательства введем аддитивный характер Хо (х) на А, играющий в дальнейшем фундаментальную роль. Рассмотрим функцию о (а) на А со значениями в группе вещественных чисел, определенных по mod 1, определяемую следующей формулой: о(а)==— ате -j- аг -\- ... -J- ap -f- ... (mod 1). A) 511 § I. АДЕЛИ И ИДЕЛИ 329 Иными словами, о(а)-\~асо означает сумму дробных долей /?-адических чисел ар (отметим, что дробная доля /?-ади- ческого числа ар является обычным рациональным числом). Так как все числа ар, начиная с достаточно большого р, являются целыми р-адическими числами, то в этой сумме лишь конечное число слагаемых отлично от нуля и, значит, сумма всегда имеет смысл. Установим некоторые свойства введенной функции о (а). Прежде всего, из определения непосредственно следует, что a (a -j- a') = a (a) -(- о (a') B) для любых a, a' ?A. Далее, очевидно, что на каждом подкольце Qp кольца А (т. е. на подкольце аделей вида @ О, ао, 0, . . .)) 0(ар) = О тогда и только тогда, когда ар — целое р-ади- ческое число. Докажем наконец, что если а — главный адель, то о(а)=0. В самом деле, пусть а — главный адель, т. е. а = = {г, г, . . ., г, . . .), где г—рациональное число. Это число всегда можно представить в виде суммы а2 где ар—целые числа; число отличных от нуля слагаемых в этой сумме является конечным. Таким образом, дробная часть числа г, рассматриваемого как />-адическое число, есть no mod 1, а потому а2 , о («) = — г -+- 2я* . • • (mod 1), т. е. а(а) = 0. Введем функцию Хо (а) на -^ согласно следующей формуле: Х0(а) = ехр2я/а(а)==ехр2то"(—-0^+02+ • • ¦ + ар +...)• О) В силу доказанного выше, %0(а) является аддитивным ха- характером на Л и удовлетворяет следующим условиям;
330 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [5 1) на каждом подкольце Qp кольца А %0(ар)= 1 тогда и только тогда, когда ар—целое /?-адическое число; 2) Хо (а) =1 и подкольце Q главных аделей. Переходим к доказательству утверждения, что А является самодуальным кольцом. Именно, будет показано, что любой аддитивный характер х (#) на А имеет вид Х(«)==Хо(*в). Где b ? А. Предварительно заметим, что любой характер х (#) на А может быть записан в виде сходящегося бесконечного про- произведения X (а) = X («со) X (я2) • • • X («р). D) где х (#р) — ограничение характера х на подгруппу Qp. В самом деле, имеем а = Iim а(Р\ где а^ = (а^, а2, ¦ . .... ар, 0, 0, . . .)• Следовательно, ввиду непрерывности функции %(а), Итак, пусть х(а) — произвольный характер на А. Пред- Представим его в виде D). Так как Хо (аР) Ф 1 на Qp, то в силу доказанного уже в гл. II, характер % (ар) на Qp можно пред- представить в виде X Ор) = Хо Фрар), E) где Ьр ? Qp; при этом элемент Ьр однозначно определяется характером Хо- Таким образом, имеем F) X (а) = Хо (&«>О Хо (Мг) • • • Хо ФРаР) ¦ • • Покажем, что есть адель; тем самым будет доказано, что зс(#) = ' В самом деле, предположим, что Ъ не является аделем". Это означает, что существует бесконечная последовательность чисел b , b , . . ., b р Р P не являющихся целыми о-ади- \ 2 k ческими. В силу свойства характера %0, мы имеем § 1. АДЕ ЛИ И И ДЕЛИ 331 когда ар пробегает целые /7й-адические числа. Поэтому можно выбрать такое целое /?й-адическое число aPfe, что а \—1 где е—фиксированное число, одно и то же для всех pk [например, можно принять г = -^\. Ясно, что в этом случае бесконечное произведение .. не является сходящимся, что противоречит формуле F). Утверждение доказано. 6. Характеры группы A/Q. Докажем теперь, что группа характеров фактор-группы A/Q, где Q—подгруппа главных аделей, изоморфна аддитивной группе рацио- рациональных чисел. В силу теоремы двойственности Понтрягина, отсюда бу- будет следовать, что, обратно, группа характеров аддитивной группы рациональных чисел изоморфна группе A/Q. Этот важный факт был уже сформулирован без доказательства в п. 1. Для доказательства заметим, что группа характеров фак- фактор-группы A/Q изоморфна подгруппе всех характеров х(а) на А таких, что ^1 Для любого а ? Q. В силу п. 5, любой характер х (а) имеет вид где if Ли Х0 (а) = ехр 2я/ (— ат -f- a2 -f- . . . -+- ар -+- . . .). Таким образом, мы должны выяснить, для каких Ъ ? А вы- выполняется условие Х0(?а)=1 для любого a?Q. A) Из п. 5 мы уже знаем, что Хо(а)==* на Q> таким образом, если 6?Q, то характер %0(Ьа) удовлетворяет
332 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ условию A). Нетрудно проверить, что обратное также вы- выполнено, а именно, если %0(Ьа) удовлетворяет условию A), то b ? Q. Итак, доказано, что группа характеров группы A/Q изо- изоморфна группе рациональных чисел. 7. Инвариантные меры в группе аделей и в группе иделей. Группа аделей А, будучи локально-компактной, обладает инвариантной мерой, которую мы обозначим че- через da. Эту меру будем всегда нормировать следующим условием: f da — I, A) F где интеграл берется по компактному множеству F аделей а ==(«„. а2, ар. . . .) таких, что 0<аоо< 1, |ар|р<1, /7 = 2, 3, ... Легко убедиться, что мера da следующим образом вы- выражается через меры dap на группах Q • da = ... da p . . . B) где меры dap нормированы условием Равенство B) нужно понимать в следующем смысле: если ф(а)— суммируемая функция на А вида Ф О) = Фоо (О Фа («г) • • • Фр («„) то J Ф (a) da = f фм (ej da^ J ф2 (a2) da2 . . . J q>p (ap)dap . . . Аналогично, в группе иделей А* существует инвариант- инвариантная мера, которую мы обозначим через d*X. Будем пред- предполагать, что эта мера нормирована следующим условием: C) § 1. АДЕЛИ И И ДЕЛИ 333 где Л' — компактное множество всех иделей вида 1 •*> ^оо "^ е (е — неперово число), \Хр\р=1, р = 2, 3, ... Легко убедиться, что мера d*X следующим образом вы- выражается через меры d*Xp на мультипликативных группах Q*: d*X == d*k0 d*Xp D) где d*^ = ^у—, dX^ — обычная мера на вещественной i v^> 'СО прямой, а меры d*Xp нормированы условием | d*Xp=l *). 8. Функция |Я,|. Легко видеть, что любой идель % осу- осуществляет изоморфное отображение а ¦ Ка группы аделей А на себя. Поэтому, если da — инвариант- инвариантная мера на А, то dK{a) = d (ka) также является инвариант- инвариантной мерой на А, а потому она пропорциональна мере da. Множитель пропорциональности мы обозначим через |Я,|. Итак, функция \Х\ на группе иделей А* опреде- определяется следующей формулой: d(ka)= \X\ da, A) где da-—инвариантная мера на группе аделей А. Из определения непосредственно следует, что \Х'Х"\ = \Х'\- \Х"\ B) для любых X', X" 6 А*. *) Отметим, что нормировка здесь отлична от той, которая dXp j—, где dXp — была принята в гл. II. Там мы полагали d*Xp = -рг мера на аддитивной группе поля Qp, нормированная условием j dXp — 1. Здесь же мы полагаем
334 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Найдем явное выражение для |Я,|. Для этого восполь- воспользуемся формулой B) п. 7, выражающей da через меры dap da = da^ da2 . . . dap ... C) Отсюда имеем d(Ха) = d{Xmaw)d(X2a2) ... d(X a ) .... D) но ¦ d(Xpap)=\Xp\pdap. Следовательно, сравнивая (З) и D), мы получаем №1 = I*-!» |A,|2 ••• \К\р ••• E) Отметим, что в этом бесконечном произведении все сомно- сомножители, кроме конечного числа, равны 1. Установим следующее важное свойство функции \Х\: если X — главный идель, то \Х\ = \. В самом деле, пусть X — главный идель, т.е. Я,з=(г, г, . . ., г, . . .), где г—рациональное число. Разложим г на простые сомно- сомножители: г = 23"з ... рпР ..., где пр — целые числа, причем все пр, кроме конечного числа, равны нулю. Тогда имеем \г\р = р~пР. Следовательно, П|%|р=к|-\ а потому \Ц = \. 9. Характеры группы иделей А*. Условимся характеры группы иделей обозначать через я (Я,). Дадим описание этих характеров. Пусть пр(Хр)—ограничение характера я (Я,) на под- подгруппу Q* иделей вида A 1, Хр, 1, . . .), р = оо, 2, 3, ... Покажем, что характер я (Я.) выражается в виде схо- сходящегося произведения я(X) = )л2(Х2) ... пр A) § I. АДЕЛИ И ИДЕЛМ 335 В самом деле, рассмотрим последовательность иделей вида Х(Р) = (ХОО, Х2, ..., Хр, 1, 1. ...). В силу определения топологии на А*, эта последовательность сходится к иделю X. Следовательно, = Нт = lim [яЬо(Я,оо)я2(Я-2) ... яр(Хр)}. Итак, в силу формулы A), характер л(Х) полностью опре- определяется набором характеров лр (Хр), определенных на груп- группах Q*. Будем говорить, что этот характер я (Я,) является тензорным произведением характеров лр(Хр). Поставим теперь обратную задачу. Пусть нам заранее задана последовательность характеров ^(Я^), я2(Я-2), ... ..., я„(Я.„), ... Спрашивается, при каком условии на эти характеры формула A) задает характер л(Х) на группе А*, т. е. бесконечное произведение A) является сходящимся. Покажем, что формула A) определяет характер на группе А* тогда и только тогда, когда характеры я (Хр) удовлетворяют следующему условию: (а) для всех простых чисел р, кроме конечного их числа, Яр(Vs U когда IMp=1- В самом деле, пусть условие (а) выполнено. Рассмотрим произвольный идель Я- = (Я^, Х2, . • ., Хр, . . .). Из определе- определения иделей следует, что |Я-р|р=1, когда р достаточно ве- велико. Но тогда, в силу условия (а), имеем яр(Я,р)=^1, когда р достаточно велико. Следовательно, в произведе- произведении A) отлично от единицы лишь конечное число сомножи- сомножителей, а потому это произведение сходится. Обратно, предположим, что условие (а) не выполнено. Тогда существует такая последовательность простых чисел Pi, р2- Pk> • ••' что яр*(Ч)^!- когда 1Ч1р,= 1- Очевидно, что в этом случае для каждого pk найдется та- такое ХРц, что [*.pj =1 и \nPh{Xp^— I |>y. Но тогда
336 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ произведение [10 будет расходиться. Итак, нами полученследующий окончательный результат. Любой характер л на А* задается последователь- последовательностью характеров где лт— мультипликативный характер в поле веще- вещественных чисел, лр— мультипликативный характер в поле р-адических чисел, причем для достаточно больших р лр(Хр) = 1, когда \Хр\р = 1 (и значит, лр(Хр) = = \Xp\vp, где vp—некоторое комплексное число). Значение характера л на иделе X = (А^, Х2, .... Хр, ...) выражается в виде следующего бесконечного произве- произведения'. л(Х) = поо(Хо0)л2(Х2) . . . лр(Хр) ... 10. Характеры группы A*/Q*. Обозначим через Л под- подгруппу всех иделей у которых вещественное число А.^ является положительным и j ^-p, j;, z:= 1 Для всех простых чисел р. Покажем, что группа иделей А* разлагается в пря- прямое произведение A* = Q*XA- A) подгруппы главных иделей Q* и подгруппы А. Доказательство. Пусть А, — (Х^, Х2 произвольный идель. Представим числа X в виде . .) — , -1 Пусть sign W1- 10] § 1. АДЕЛИ И ИДЕ Л И 337 (В этом произведении лишь конечное число сомножителей отлично от 1, таким образом, q—рациональное число.) Обозначим той же буквой q соответствующий главный идель: q = (q, q, . . ., q, ¦ ¦ .)¦ Очевидно, что Xq~r ? Л. Этим доказано, что группа иде- иделей А* является произведением подгрупп Л и Q*. Остается показать, что подгруппы Л и Q* не имеют об- общих элементов, кроме единичного элемента. В самом деле, пусть главный идель а = (а, а, . . . а, . . .) принадлежит Л. Тогда для любого простого числа р имеем |а|р=1; следо- следовательно, <х=± 1. Так как, с другой стороны, должно быть а > 0, то а == 1. Утверждение доказано. Из разложения Л* = Q* X Л следует, что фактор- факторгруппа A*/Q* группы иделей А* по подгруппе Q* глав- главных иделей изоморфна группе Л: A*/Q* ^ Л. Таким образом, эта фактор-группа имеет весьма простую структуру: она является топологическим прямым произведе- произведением мультипликативной группы всех вещественных положи- положительных чисел и групп Ор /?-адических чисел с нормой, равной 1. Отметим, что, в отличие от случая группы аделей, фак- фактор-группа A*/Q*g^A не является компактной. Перейдем к описанию характеров группы Л = A*/Q*. Очевидно, что для задания характера л(Х) на группе А достаточно задать характер на каждом из ее пря- прямых сомножителей, именно характер я00(А,со) на группе вещественных положительных чисел, и харак- характеры Qp(Xp) на группах О*р р-адических чисел с нор- нормой 1. При этом все характеры В , кроме конечного их числа, должны быть равны тождественно единице. Значение характера л (А,) на иделе Х = (ХСО, Х2, ¦¦¦ ..., Хр, . . .) из А выражается следующей формулой: л (X) = лта (А.м) 62 (А.2) . . . Вр (Хр) ... B) Напомним, что любой характер л^ (А^) на группе веще- вещественных положительных чисел имеет вид 22 И- М. Гельфанд и др.
338 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [10 где s — произвольное комплексное число (мы не налагаем здесь на характеры условия унитарности). Таким образом, формулу B) можно переписать в следующем виде: я (К) = А46 (К) = | Я, | SQ (X), C) где Заметим, что характеры 9 (А,) являются характерами на ком- компактной группе иделей вида A, А,2, .... Ъ*р, ...); следовательно, они образуют дискретное (счетное) множество. Таким образом, множе- множество характеров я на A*/Q* можно рассматривать как счетный набор плоскостей комплексного переменного s («номер» плоскости задается характером 9). Это позволяет ввести понятие аналитической функции от я: мы будем говорить, что / (я) = / (s, 9) — аналити- аналитическая функция от л, если при любом фиксированном 9 она является аналитической функцией комплексного переменного s. Опишем теперь множество характеров на группе иде- иделей А*, равных тождественно единице на подгруппе главных иделей Q*. В силу разложения каждый такой характер получается следующей конструкцией. Берется произвольный характер я (Я.) на подгруппе Л, и затем он продолжается- до характера я на группе А* по следую- следующей формуле: я (Л.) = *(?)• D) Здесь q — sign Я.^, • Д | Я,р \~ —компонента иделя Я, в под- р группе Q . На основании формул C) и D) получаем следующий ре- результат. Любой характер я (Я.) на группе иделей А*, равный тождественно единице на подгруппе главных иделей Q*. имеет следующий вид: я (Я,) = | Я |*8 (Я). Здесь s — произвольное комплексное число, \ Я, \ = l^U^b \\ e(A eA)e(V произвольный характер на подгруппе иделей вида A, Я,2, .... Хр, . . .), где |Я,р|р=1 для любого р. Харак- ДОБАВЛЕНИЕ К § 1 339 тер 8 (Я,) считается продолженным на всю группу А* по следующей формуле: где = sign JJ E) F) ДОБАВЛЕНИЕ К § 1 ОБ ОДНОЙ ДЗЕТА-ФУНКЦИИ Для любого вектора I = &х ?л) ? А" определим норму ||| следующим образом: где = max | Очевидно, что |^|| = ||| для любого q?Q*. Как мы знаем, 111=1. если п=\ и !?Q*. Если же п > 1 и |?Q", то легко убе- убедиться, что |||<оо, но, вообще говоря, |?|^=1. В этом дополнении исследуется ряд, характеризующий то, насколько не выполняется соотношение |||=1 для |?Q". Обозначим через Т совокупность векторов |?Q", у кото- которых все компоненты отличны от нуля. Рассмотрим ряд 2 T/Q* A) Покажем, что этот ряд сходится, и одновременно вычислим его. Каждый вектор t ? Т с помощью умножения на q ? Q* можно привести к виду t = (tv .... tn\ B) где tx, ..., tn — целые числа, общий наибольший делителе которых равен 1. 22*
340 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Очевидно, что все векторы B), не отличающиеся только знаком, не эквивалентны, т. е. не могут быть получены один из другого умножением на элемент q ? Q*. Таким образом, мы имеем F(m) C) где F (m) — число таких га-мерных векторов t с целочислен- целочисленными взаимно простыми координатами, что \t\=m. Нетрудно убедиться, что F (т) <^птп-х. Следовательно, ряд для D (s) сходится при Re s > п. Обозначим через F+(m) число (п — 1)-мерных векторов с положительными координатами, не превосходящими т и такими, что их общий наибольший делитель взаимно прост с т. Нетрудно видеть, что D) E) где сумма берется по всем делителям числа т. Из E) следует, что где ?(s) — дзета-функция Римана. Из D) и F) следует, что G) § 2. Анализ на группе аделей 1. Функции Шварца — Брюа. В этом пункте будет введено важное для дальнейшего пространство функций на группе аделей А. Это пространство, как мы увидим в сле- следующем пункте, инвариантно относительно преобразования Фурье. Ц § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕИ 341 Рассмотрим на группе аделей А функции ф (а), предста- вимые в виде бесконечного произведения Ф («) = П ФР («Р)« A) р где множители фр(ар) удовлетворяют следующим условиям. 1) Фа, (й^) — бесконечно дифференцируемая функция на R (т. е. на аддитивной группе вещественных чисел), убывающая при | «оо | —> оо быстрее любой степени |#M|. 2) (рр(ар), р = 2, 3, финитна и кусочно постоянна, т. е. постоянна на классах смежности группы />-адических чисел Qp по некоторой достаточно малой ее открытой под- подгруппе. 3) Для всех р, кроме конечного числа, (рр(ар) — 1, когда ар — целое р-адическое число, и фр(ар) = 0, когда ар—не целое. В силу условия 3), для любого а ? А все множители в бес- бесконечном произведении A), начиная с некоторого р, равны 1; таким образом, это произведение сходится. Отсюда легко следует, что функция ф(а) непрерывна на А. Заметим, что в силу того же условия 3) функция ср (а) сосредо- сосредоточена на открытой подгруппе группы А вида где Vр — подгруппа аделей, у которых все компоненты — целые р-адические числа, причем а^ = а2 = ... = ар = 0, р — достаточно большое число. Кроме того, эта функция постоянна на классах смежности по подгруппе Vp. Значит, ее можно рассматривать как функцию на группе где р — достаточно большое число. То же самое относится и к любой конечной линейной комбинации функций вида A). Условимся функции видаA) называть элементарными функ- функциями на А. Назовем функциями Шварц а—Б р ю а *) на Л функ- функции ф(а), представимые как конечные линейные комбинации элементарных функций. Обозначим через 5 {А) совокупность всех функций Шварца — Брюа на А. *) Название введено Годманом, который, по-видимому, первым вскрыл существенную роль этих функций на группах аделей.
342 ГЛ. lit. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [2 Нетрудно убедиться, что все функции ф(а)?5(Л) сум- суммируемы на А, т. е. что для любой функции 5 f\q>(a)\da <оо. 2. Преобразование Фурье функций Шварца — Брюа. Пусть Хо(а) — характер на А, определенный в п. 5 § 1: A) где а(а)^-асо+а2+ ... -\-ар-\- ... (modi). Определим преобразование Фурье функции ф(а) по формуле B) Отметим, хотя это в дальнейшем и не используется, что преоб- преобразование Фурье может быть определено для любой функции ср (а) с интегрируемым квадратом модуля; интеграл B) следует при этом понимать в смысле среднего квадратичного значения. По формуле обратного преобразования Фурье мы имеем ». C) иными словами, Далее, имеет место формула Планшереля: D) E) Здесь с — постоянная, зависящая от нормировки меры на группе А. Легко убедиться, что при той нормировке меры da, которая была введена с самого начала, мы имеем Докажем, что преобразование Фурье функции из S(A) есть снова функция из S (А). 31 § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕИ 343 Для этого достаточно доказать, что если <р (а) — элементар- элементарная функция, т. е. функция вида A), где ц>р(ар) удовлетво- удовлетворяют условиям 1) —3) п. 1, то ее преобразование Фурье ф (а) есть функция того же вида. Прежде всего, очевидно, что где 4>рфр) = f (pp(ap)%0(bpap)dap, p = оо, 2, 3, Известно, что преобразование Фурье бесконечно диффе- дифференцируемой функции ФооСя^), убывающей при {а^-ъ-со быстрее любой степени 1^1, есть функция того же вида. Следовательно, для (рф) выполняется условие 1). Далее, преобразование Фурье финитной кусочно-постоян- кусочно-постоянной функции (рр(ар), /? — 2, 3, есть- функция того же вида (см. гл. II, § 2, п. 4). Следовательно, для ф (Ь) выполняется условие 2). Наконец, воспользуемся тем, что преобразование Фурье переводит в себя функцию вида при при «р !р > F) (см. гл. И, § 2, п. 4). Отсюда следует, что ф ф) удовлетво- удовлетворяет условию 3). Из формулы ф(—а) = ф(а) легко следует, что преобра- преобразование Фурье отображает S (А) на все простран- пространство S (А). 3. Формула суммирования Пуассона. Пусть ф(а) — функция Шварца — Брюа, ф(а) — ее преобразование Фурье. Здесь будет установлена следующая формула, кото- которую принято называть формулой суммирования
344 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Пуассона: Ф Фа) = Ф [3 A) где А, — произвольный идель, а суммирование ведется по под- подгруппе Q главных аделей *). Для доказательства формулы A) введем вспомогательную функцию на группе аделей А: + «)). B) где суммирование ведется по подгруппе главных аделей. Из суммируемости функции ф (а) непосредственно сле- следует, что ряд B) сходится абсолютно почти всюду и что Ф(а)—суммируемая функция на A/Q. В самом деле, I \q>(Xa)\da =11 2j I Ф (A- (ct —(— а) ) 1 j da. A A/Q \a?Q / Нетрудно также убедиться, что функция Ф (а) непре- непрерывна. Поскольку функция Ф (а) постоянна на классах смежности по Q и суммируема на компактной группе A/Q, то она раз- разлагается в ряд Фурье по характерам группы А, равным еди- единице на Q. Как было показано в п. 6 § 1, эти характеры имеют вид Хо(Ра)> где Р пробегает главные адели. Итак, имеем = Е с«Хо(Р«)- 3<EQ P C) Коэффициенты Фурье с„ выражаются следующей формулой: с&= /Ф(а)Хо(— Pa)de- D) *) Формула Пуассона имеет место для любой коммутативной топологической группы G с дискретной подгруппой Г и компакт- компактной фактор-группой G/T. Классическая формула Пуассона соответ- соответствует случаю, когда G — группа всех вещественных чисел, а Г — подгруппа целых чисел- 4] § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕЙ 345 Подставляя сюда вместо функции Ф {а) ее выражение B), мы получаем ¦= f J A/Q Итак, имеем E) Отсюда при а = 0 получаем формулу Пуассона A). 4. Преобразование Меллина функций Шварца — Брюа. Формула Тэйта. Пусть ф(а) — функция Шварца — Брюа на группе аделей А. Поскольку группа иделей А* есте- естественным образом вкладывается, как подмножество, в группу аделей А, то мы можем рассматривать ограничение ф (К) функции ф на группу иделей А*. Пусть л (к) — характер на группе иделей А*, равный тождественно единице на подгруппе Q* главных иделей. Преобразованием Меллина функции ф будем на- называть функцию Ф(л), определяемую следующей формулой: ф (я) = Г ф (%) л (X) d*X, где d*X — инвариантная мера на группе иделей. Выясним, для каких характеров я интеграл A) сходится. Напомним, что любой характер я можно представить в виде я (А,) = 1 А, |*8 (А,). B) где | А, | = | Х^ loo | Х2 |2 . . . | Хр \р, .-. . ,
346 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [4 s—комплексное число, |9(А,)| = 1; число s и характер 9 однозначно определяются формулами E), F) п. 10 § 1. Таким образом, мы можем писать Ф (я) 23 Ф (9, s) = f Ф (А,) 9 (А,) | А. л* C) Вопрос состоит, следовательно, в том, при каких s сходится интеграл C). При решении этого вопроса мы можем ограничиться эле- элементарными функциями, т. е. функциями вида ф (*-) = Фс Фр Поскольку в (Я.) = . . . Qp(Xp) то интеграл C) можно переписать в виде бесконечного про- произведения интегралов: (в, s) = IК \SP Очевидно, что каждый сомножитель этого произведения является абсолютно сходящимся интегралом при Res>0. Спрашивается, при каких дополнительных условиях на s сходится само бесконечное произведение. Для этого заме- заметим, что, в силу определения функций Шварца — Брюа, функции фр(Яр) при достаточно больших р сосредоточены на множестве целых %р и равны 1 на этом множестве. С другой стороны, при достаточно больших р характеры Qp имеют следующий вид: где sp — вещественное чис ло. 4J § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕИ 347 Таким образом, при достаточно больших р мы имеем J = / ,s+lsp >р = 1+- ")• E) Легко убедиться, что бесконечное произведение о » А ™ * Р сходится, когда Res> 1. Таким образом, доказано, что интеграл C) сходится, и притом абсолютно, когда Re s > 1. Из формул D) и E) вытекает, что Ф(Э, s) является при фиксированных ф и 9 аналитической функцией от s в об- области Re s >¦ 1. Покажем, что функция Ф(9, s) аналитически про- продолжается на всю плоскость комплексного перемен- переменного s. Ее единственными особенностями являются простые полюсы в точках s = 0 и s=\. Вычеты функ- функции Ф(9, s) в этих полюсах соответственно равны — ееф @) и ееф@), где ее = 1 в случае, когда 9^1, и ев = 0 в противном случае. Доказательство. Разобьем интеграл Ф(9, s) на сумму двух интегралов ф где ф+ Ф" (в. (в, F. S) тг *Х* 11/ s)= f • S)= f ( , 5) + Ф (9 Ф (А,) 9 (A,) | A, TWe№),x , 5), |s d'A,. I'd-Я.. F) G) (8) *) Напоминаем, что мера нормирована условием Кр на Qp, индуцированная мерой d*X,
348 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Выше было доказано, что интеграл Ф(8, s) абсолютно сходится при Re s > 1 и является аналитической функцией от s в области Re s > 1. То же самое верно и. для интегра- интегралов Ф+(9, s), Ф~(9, s). Заметим теперь, что интеграл Ф+ @, s) заведомо схо- сходится и когда Re s ^ 1 и является в этой области-аналити- области-аналитической функцией от s; следовательно, Ф+@, s) — целая аналитическая функция от s. Таким образом, для доказательства теоремы нам доста- достаточно рассмотреть только второй интеграл Ф~ (8, s). Преобразуем этот интеграл. Так как | а | = 1 для любого главного иделя а, то множество |Х| <^ 1 инвариантно отно- относительно дискретной группы Q* преобразований Ась, где а пробегает главные идели. Обозначим через Е фунда- фундаментальную область в множестве | X | <С 1 относительно ди- дискретной группы Q*. Тогда мы имеем ф-(9, s)= J (9) Е а € Q* (Здесь используется тот факт, что 0(а)=1.) Воспользуемся формулой суммирования Пуассона: Ф(А,а) = A0) где ф — преобразование Фурье функции ф. Заметим, что множество Q* главных иделей получается из множества Q главных аделей отбрасыванием элемента 0; следовательно, формулу A0) можно переписать в следующем виде: ф@)+ § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕИ 349 Подставляя в (9) вместо 2 ф(А-а) его выражение из A1), мы получаем Ф"(9, *)= ?Q -+- ф @) f 6 (X) j А. Is d*K — ф @) J 8 (X) | Я. f d*X = Е x d4 — Ф@) J 8 (А,) | X \sd*X. A2) J 0 Первое слагаемое в этой формуле есть Ф+@, 1 — s), где Ф — преобразование Меллина функции ф. Вычислим теперь интеграл Г 0 (Я,) \X\S d*X в формуле A2). Е Очевидно, что этот интеграл равен нулю, если 0(А,)г^=1. Пусть теперь 0(Я,)^1. Возьмем в качестве фундаменталь- фундаментальной области Е множество иделей А, = 2, .... Хр, . . .), где 0 < Х^ < 1 и 1^1^=1 (ср. п. 10). Тогда имеем d*X2 ... J d*Xp ... Поскольку I d*Xp = 1, то мы получаем отсюда, что Итак, окончательно имеем A3) где ее=1, если 8(Х)^1,. и ее=0, если в(Х)ф1.
350 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Таким образом, мы получили следующее равенство: ф-(9, ,) = где через Ф обозначено преобразование Меллина функ- функции ф. Как мы уже знаем, Ф+ является целой аналитической функцией от s. Таким образом, в силу A4), функция Ф~@, s) является аналитической функцией от s на всей комплексной плоскости s, причем ее единственными особенностями яв- являются простые полюсы в точках s = 0 и s=l. Вычеты функции Ф~ в этих точках равны соответственно — ееф @) и ееф@). Утверждение доказано. Из формулы A2) вытекает следующее функциональное соотношение для функции Ф (9, s) (формула Т э й т а): ф(9, 5) = Ф(в~1. 1— s). A5) где Ф — преобразование Меллина функции ф (а). В самом деле, заменяя в A4) ф(я), 9и s соответственно на ф(й), 9 и 1—s, мы получим ф-(9~\ 1-5) = Ф+F, 8)- откуда Ф+(9, s) = Ф" (9-М-s)-ee(|i^— Ш-). A6) Складывая почленно равенства A4) и A6), мы и полу- получим формулу Тэйта A5). Как следствие из формулы Тэйта, мы получим сейчас функциональное соотношение для дзета-функции Римана?($). Для этого рассмотрим функцию ф (а) вида Ф = Фоо (О Фг («л) ¦ ¦ ¦ Ч>Р где о, когда |a,L>l. 4] § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕЙ 351 Известно, что фто (х) = фто (х). С другой стороны, как было показано в гл. II, § 2, п. 4, <рр (ар) = ц>р (ар) для любого р. Следовательно, ф(а) = ф(а). A7) Вычислим Ф (90, s) для функции ф, где 0О(А.)==1. Мы имеем ф(во>5) = -±= \ e"^\x\s-ldx\l Г |^|Jd*V A8) Все интегралы, входящие в формулу A8), непосредственно вычисляются. Имеем J Следовательно, п f где ?(s) — дзета-функция Римана. С другой стороны, имеем где Г (л;) — классическая гамма-функция. Таким образом, Ф @О, s) = A9) Следовательно, формула Тэйта A5) дает нам искомое соот- соотношение для С-функций: — s). B0) Аналогично из формулы Тэйта можно получить и функ- функциональное соотношение для /.-функций Дирихле.
352 ГЛ. ill. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [5 5. Пространство Ап. Рассмотрим теперь /г-мерное век- векторное пространство над группой аделей А, т. е. простран- пространство точек у = (у{1) у(л)). A) где — элементы из А. Обозначим это пространство через Ап. Мы введем по аналогии с группой А понятие функции Шварца—Брюа на Ап и понятие преобразования Фурье на А". Далее, будет изучено преобразование Меллина в про- пространстве А". Рассмотрим функции qp (у) на А" вида Ф (У) = Фсо (Усо) Фг (Уг) • • • Фр (Ур)> • ¦ ' C) где Ур = (Ур)> •••' У(л))- j0 = oo, 2, 3, ..., удовлетворяющие следующим условиям. 1) Фсо(усо) — бесконечно дифференцируемая функция в «-мерном пространстве Rn над полем вещественных чисел, убывающая при lyool—^oo быстрее любой степени ly^l, где | y^ |—норма вектора у^: I у I = (\ уA) |2 _|_ ... -|_| у(«) |2\'^ I У со I V. I У со | 1^ 1^| -У со | ) 2) Функция ф (ур) финитна и кусочно-постоянна, о *э 3) Для всех р, кроме конечного числа, функция срр (ур~) сосредоточена на множестве векторов *р \ур ' ' Ур У координаты которых — целые р-адические числа, и равна на этом множестве тождественно единице. Функции вида C), удовлетворяющие условиям 1) — 3), назовем элементарными функциями на А". Функ- Функциями Шварца — Брюа на А" будем называть функции, представимые в виде конечной линейной комбинации элемен- элементарных функций. Пространство функций Шварца—Брюа обозначим через S(An). Легко убедиться, что функции Шварца — Брюа непрерывны и суммируемы на Ап по мере dy = i § 2. АНАЛИЗ НА ГРУППЕ АДЕЛЕЙ 353 Определим преобразование Фурье функции дующей формулой: где Ф (S) = / Ф (У) Хо (У = dy^ ... dy<-"K сле- слеD) а xo(a) = exp2nie(a) — характер, определенный в п. 4. Имеет место следующее утверждение. Преобразование Фурье переводит функции из 5(Л") снова в функции из S (Ап); при этом оно отображает простран- пространство S (Ап) на все пространство S (А"). Доказательство проводится почти дословно так же, как и доказательство аналогичного утверждения для функций из S(A) (см. п. 2). Приведем формулу суммирования Пуассона для простран- пространства Ап: где Я. — произвольный идель; суммирование ведется по век- векторам а?Л", все координаты которых являются главными аделями. Вывод этой формулы проводится дословно так же, как и в одномерном случае (см. п. 3). Теперь введем понятие преобразования Меллина функ- функции ф?5(Л"). Преобразование Меллина функции Шварца — Брюа ф(у) на А" определим следующей формулой: Ф(у;я)= f q> А* F) где я (А.) — характер на группе иделей А*, равный тожде- тождественно единице на подгруппе Q* главных иделей, d*X — ин- инвариантная мера на А*. Известно (см. п. 10 § 1), что характер л имеет вид тт / "\ —— I jI № ft /"I \ /4 23 И. М. Гельфанд и др.
354 ГЛ. lit. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ где s — комплексное число, а 9 — характер, заданный перво- первоначально на компактной подгруппе Л группы А* и продол- продолженный затем на всю группу А*. Таким образом, функция Ф является функцией от s и от 9, причем 9 пробегает дискретное множество. Из результатов п. 10 следует, что интеграл F) сходится при Re s > 1 и является в этой области аналитической функ- функцией от s. При этом функция Ф(у; л) = Ф(у; 9, s) анали- аналитически продолжается на всю плоскость комплексного пере- переменного s. Ее единственными особенностями являются про- простые полюсы в точках s = 0 и s—1. Вычеты функции Ф в этих точках соответственно равны —ееф @) и ее С (p(Xy)dX, А где е9= 1 в случае, когда 9==1, и ее = 0 в противном слу- случае (интеграл берется по группе аделей А). Теперь отметим свойства функции Ф как функции от у. Из формулы F) непосредственно следует, что Ф (Ху, л) = я"* (X) Ф (у, л) (8) для любого иделя X ? А* (свойство однородности функции Ф). Поскольку л(Х)= 1 на подгруппе Q* главных иделей, то Мы имеем на основании (8) ; л) = Ф(у, л) Для любого главного иделя X?Q*. Таким образом, функ- функцию Ф можно рассматривать как функцию на фактор-про- фактор-пространстве 2 — Q* \ Л", получаемом из А" отождествлением точек у и Ху, где X ? Q*. ДОБАВЛЕНИЕ К § 2 КОЛЬЦА ТЭЙТА Пусть Л — некоторое коммутативное локально компактное кольцо. Обозначим через А' группу характеров аддитивной группы кольца Л. Отображение где г — любой элемент кольца А определяет эндоморфизм группы А'. ДОБАВЛЕНИЕ К § 2 355 Как уже отмечалось в § \, А' представляет собой модуль над А. Напомним, что кольцо А называется самодуальным, если модуль А' изоморфен А. Обозначим через Л* совокупность всех элементов кольца Л, имеющих обратный элемент. Вообще говоря, А* не предста- представляет собой замкнутого подмножества в А. Однако в А* можно ввести топологию так, чтобы оно превратилось в топо- топологическую группу. Именно, окрестность U элемента а0 ? Л* состоит из тех элементов а ? Л*, для которых а ? V (а0) и a~l ?W (а-1\ где V и W — некоторые заданные окрестности в А соответственно aQ и а^1. Нетрудно проверить, что при таком определении тополо- топологии А* превращается в локально компактную топологическую группу, если в качестве групповой операции взять умноже- умножение элементов. Обозначим, далее, через da меру на А, инвариантную относительно сложения, и через d*a меру на Л*, инвариант- инвариантную относительно умножения. Для любого элемента а^Л* определим его норму следующим образом. Рассмотрим меру da{a) = d(aa). Нетрудно видеть, что эта мера инвариантна относительно сложения и, значит, пропорциональна мере da. Положим н=^. о) Для элементов а(?Л* норма не определяется. Пусть Q—некоторое подкольцо кольца А. Назовем под- кольцо Q унимодулярным, если норма любого его отличного от нуля элемента равна 1. Очевидно, что унимодулярное кольцо является полем и что оно дискретно. Пусть Л — самодуальное кольцо с отмеченным в нем уни- унимодулярным подкольцом Q. Назовем пару (Л, Q) парой Тейта, если выполнены следующие условия. 1) Подгруппа аддитивных характеров на Л, равных еди- единице на Q, изоморфна Q. 2) Группа A\JQ компактна, где А^ — группа элементов с нормой, равной 1, a Q*— мультипликативная группа поля Q. В силу теоремы двойственности Понтрягина, из усло- условия 1) следует, что A/Q является группой характеров группы Q. Следовательно, поскольку Q — дискретная группа, A/Q является компактной группой. 23*
356 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Напишем теперь формулу Пуассона. Пусть <р(а) — такая функция на А, для которой ряд ty(a) = 2<Р(" + а) схо- аё Q дится абсолютно и равномерно и, кроме того, ф (а) разлагается в абсолютно сходящийся ряд Фурье. Тогда B) где %—пробегает все характеры группы А, равные единице на подгруппе Q. Для доказательства надо рассмотреть раз- разложение в ряд Фурье функции я|;(а) = 2 ф(а + а) (см. п. 3). а Перейдем теперь к рассмотрению преобразования Мел- Меллина. Обозначим через П совокупность всех характеров *) группы А*, равных 1 на Q* — A*f\Q. Пусть ф—некоторая функция на А. Ее преобразованием Меллина называется интеграл (я ? П) Ф(я)= f cp (a) n (a) d*a. А* C) Обозначим через L совокупность функций ср (а) на А, обла- обладающих следующими свойствами: 1) ряд г|) (а) — 2 ф(с~На) сходится абсолютно и равно- мерно; 2) \р (а) разлагается в абсолютно сходящийся ряд Фурье по характерам (аддитивным) из A/Q; 3) интегралы | ф (а) | a \s d*a и I ф (а) | a \s d*a сходятся абсолютно при всех достаточно больших значениях Re 5. При этих предположениях дословным повторением рас- рассуждений п. 4 доказывается, что для любой функции q>(a)?L ее преобразование Меллина аналитически продолжается на все П, обладает при этом единственными полюсами в точках *) Здесь под характерами понимаются любые, т. е. не обяза- обязательно равные 1 по модулю решения функционального уравнения ($ (ab) = ф (а) ф F), а, 6 ? А*. § 3. ГРУППЫ АДЕЛЕЙ 357 1 и л(а)^|а| и, кроме того, имеет .место функ- функциональное уравнение Ф(л, ф) = Ф(я, ф), it (а)— \а\ л'1 (а). § 3. Группы аделей Ga и их представления 1. Определение группы аделей GA. Понятие аделей и иделей, введенных Шевалле для целей алгебраической теории чисел, оказалось полезным обобщить на случай любой ли- линейной алгебраической группы, определенной над полем ра- рациональных чисел Q. Это обобщение, предложенное А. Вей- лем, состоит в следующем. Пусть G — линейная алгебраическая группа, определенная над полем рациональных чисел Q *). Для задания группы G достаточно задать множество полиномиальных соотношений между элементами матриц, принадлежащих группе G. Обозначим через Gр совокупность всех /7-адических матриц, принадлежащих G, и через Up целочисленную подгруппу группы Gp (т. е. подгруппу мат- матриц g таких, что элементы g и g~x — целые /?-адические числа). Через G^ обозначим совокупность всех вещественных матриц, принадлежащих группе G. Рассмотрим бесконечные последовательности g = gp A) где все gp, кроме конечного числа, принадлежат подгруп- подгруппам Up. Такие последовательности называются а д е л я м и группы G. Их совокупность образует группу GА. (Умноже- (Умножение определяется покомпонентно.) Топология в GA вводится следующим образом. Рассмат- Рассматривается подгруппа GA аделей (g^, g2. •••• gp> ¦ ¦ •), где gp^Up для любого простого р. В G°a вводится топология тихоновского произведения топологических пространств Оте> U2, . . ., Up Эта подгруппа Од объявляется открытым множеством в группе GА. Полученную топологическую груп^ пу GA называют группой аделей данной группы О. *) Определение линейной алгебраической группы см. в Доба-. влении к гл. I.
356 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Напишем теперь формулу Пуассона. Пусть ф(а)— такая функция на А, для которой ряд г|з(а)= 2ф(в + «) схо- «с Q дится абсолютно и равномерно и, кроме того, ф (а) разлагается п абсолютно сходящийся ряд Фурье. Тогда B) где х—пробегает все характеры группы А, равные единице на подгруппе Q. Для доказательства надо рассмотреть раз- разложение в ряд Фурье функции ty(a) = 2 4>(а + «) (см. п. 3). а Перейдем теперь к рассмотрению преобразования Мел- лина. Обозначим через П совокупность всех характеров *) группы Л*, равных 1 на Q* = A* f\Q. Пусть ф—некоторая функция на А. Ее преобразованием Меллина называется интеграл (л ? И) Ф (я)= fq>(a)n(a)d*a. C) Обозначим через L совокупность функций <р (а) на А, обла- обладающих следующими свойствами: 1) ряд я|) (а) = 2 ф(а + а) сходится абсолютно и равно- мерно; 2) г|)(а) разлагается в абсолютно сходящийся ряд Фурье по характерам (аддитивным) из A/Q; 3) интегралы | ф (а) | a \s d*a и пр (а) | a f d*a сходятся абсолютно при всех достаточно больших значениях Re 5. При этих предположениях дословным повторением рас- рассуждений п. 4 доказывается, что для любой функции ф(а)?? ее преобразование Меллина аналитически продолжается на все П, обладает при этом единственными полюсами в точках *) Здесь под характерами понимаются любые, т. е. не обяза- обязательно равные 1 по модулю решения функционального уравнения q> (ab) — ф (а) <р (Ь), а, 6 ? А*. If § 3. ГРУППЫ АДЕЛЕЙ 357 1 и я(а)^|о| и, кроме того, имеет .место функ- функциональное уравнение Ф(я, ф) = Ф(я, ф), л(а)=\а\ л~1(а). § 3. Группы аделей Ga и их представления 1. Определение группы аделей GA. Понятие аделей и иделей, введенных Шевалле для целей алгебраической теории чисел, оказалось полезным обобщить на случай любой ли- линейной алгебраической группы, определенной над полем ра- рациональных чисел Q. Это обобщение, предложенное А. Вей- лем, состоит в следующем. Пусть G — линейная алгебраическая группа, определенная над полем рациональных чисел Q *). Для задания группы G достаточно задать множество полиномиальных соотношений между элементами матриц, принадлежащих группе G. Обозначим через Gр совокупность всех /7-адических матриц, принадлежащих G, и через Up целочисленную подгруппу группы Gp (т. е. подгруппу мат- матриц g таких, что элементы g и g -1 целые /7-адические числа). Через G^ обозначим совокупность всех вещественных матриц, принадлежащих группе G. Рассмотрим бесконечные последовательности g = (^00. g* ••" gp> •••). gp^Op, A) где все gp, кроме конечного числа, принадлежат подгруп- подгруппам Up. Такие последовательности называются а д е л я м и группы G. Их совокупность образует группу GА. (Умноже- (Умножение определяется покомпонентно.) Топология в GA вводится следующим образом. Рассмат- Рассматривается подгруппа аделей , g2, ••-. gp, • ¦ ¦), где ° gp^Up для любого простого р. В G°a вводится топология тихоновского произведения топологических пространств Gool U2, ¦ ¦ -, Up Эта подгруппа Од объявляется открытым множеством в группе GA. Полученную топологическую груп^ пу GА называют группой аделей данной группы О. *) Определение линейной алгебраической группы см. в Доба- Добавлении к гл. I.
358 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [2 Группа аделей локально-компактна— это непосредственно следует из компактности групп Uр и локальной компактности группы Gm. Группа Gq изоморфно вкладывается в группу аделей GА. Действительно, поле Q вкладывается как в поле веществен- вещественных чисел R, так и в поле /7-адических чисел Qp. Поэтому Gq вкладывается изоморфно как в Gm, так и в Gр. Сопо- Сопоставим каждому элементу г ? Gq последовательность (г, г г, ...)• B) Легко убедиться, что такие последовательности являются аделями. (Это следует из того, что любое рациональное число является для достаточно больших р целым /7-адиче- ским числом.) Их называют главными аделями данной группы G. Покажем, что подгруппа главных аделей Г = Gq ди- дискретна в группе GА. Доказательство. Предположим, что подгруппа Gq не дискретна. Тогда найдется последовательность главных аделей (/"„, г„, ..., гп, ...), сходящаяся к единичному эле- элементу группы GА. Из определения топологии в GA отсюда следует, что, начиная с некоторого п, элементы матриц гп являются целыми /7-адическими числами для каждого р. Но рациональное число является целым /7-адическим для любого р тогда и только тогда, когда оно есть целое число. Итак, доказано, что элементы матриц г„ являются, начиная с неко- некоторого п, целыми числами. Отсюда следует, что последова- последовательность попарно различных матриц гп не может сходиться в топологии группы G^; тем самым мы пришли к противо- противоречию. 2. Неприводимые унитарные представления группы аделей. В этом и в следующем пункте мы покажем, как описание всех унитарных представлений группы аделей GA сводится к описанию унитарных представлений групп Gp, /? —оо, 2, 3, ... Именно, мы покажем, что при некоторых дополнительных условиях на группу G каждое неприводимое унитарное представление группы GA задается следующим образом. Пусть для каждого р задано неприводимое уни- унитарное представление Tp{gp) группы Gp в гильбертовом про- § 3. ГРУППЫ АДЕЛЕЙ 359 странстве Нр. Будем предполагать, что при всех достаточно больших р в пространствах представлений р существует хотя бы один вектор, инвариантный относительно Up. Такие представления Т р называются представлениями класса 1. Зададим в Нр ортонормированный базис ?*, k— 1, 2, причем через |^ условимся обозначать вектор, инвариантный относительно подгруппы U'р, если в Нр такой вектор суще- существует. Рассмотрим теперь новое гильбертово пространство Н, в котором ортонормированным базисом служат формальные произведения ? = 0 \ р, причем в каждом произведении ip= 1 р для всех р за исключением конечного числа. Простран- Пространство Н, очевидно, сепарабельно. Оператор представления задается формулой A) где ¦ = 0"со- е-. 2' .)•> 1=' Определенное таким образом представление группы усло- условимся называть тензорным произведением предста- еланий Tp{gp) группы Gp. Отметим, что конструкция тензорного представления зави- зависит не только от выбора последовательности унитарных представлений Нр, но также и от выбора в каждом Нр век- вектора, инвариантного относительно Uр. Очевидно, что способы выбора, отличающиеся лишь на конечном числе мест, при- приводят к эквивалентным представлениям, а способы выбора, отличающиеся на бесконечном числе мест, — к неэквивалент- неэквивалентным представлениям. Отметим также, что для многих важных групп, например, для случая, когда G — группа Шевалле- Диксона можно доказать, что в Нр есть не более чем один вектор, инвариантный относительно подгруппы Up. Весьма вероятно, что аналогичное утверждение справедливо для любой редуктивной линейной алгебраической группы. Однако, на- насколько нам известно, это до сих пор не доказано. Указанная выше конструкция представления груп- группы GA в пространстве Н приводит всегда к неприводимому
360 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ представлению. Это доказывается с помощью стандартных приемов теории представлений, и мы не будем здесь вос- воспроизводить доказательство этого утверждения. Приведем еще без доказательства формулу для характера представления Т (g). Хорошо известно, что характер тензор- тензорного произведения двух представлений T1(g1) и T2(g2) равен произведению характеров TrT1(g1) и TrT2(g2) этих пред- представлений. Аналогичный результат имеет место в нашей си- ситуации. Он состоит в том, что характер TrT(g) представле- представления T(g) равен где TiTp(gp) — характер представления Tp(gp). При этом характер Tr T (g) надо понимать как обобщенную функцию, т. е. как функционал на подходяще подобранном семействе функций на группе GА. 3. Доказательство теоремы о тензорном произведении. Основным результатом настоящего параграфа является сле- следующая теорема. П редположим, что все группы Gp являются груп- группами типа I*) и удовлетворяют для всех р, кроме конечного числа, следующему условию: в каждом неприводимом представлении группы Ор имеется не более одного вектора, инвариантного отно- относительно максимальной компактной подгруппы. Тогда всякое неприводимое унитарное представле- представление группы GA является тензорным произведением (в смысле п. 2) неприводимых унитарных представлений группы Gp, причем все Тр, кроме конечного числа, яв- являются представлениями класса 1. Предварительно докажем две леммы. Лемма 1. Пусть локально компактная топологи- топологическая группа © является прямым произведением двух подгрупп, ® = ®, X ©2> причем хотя бы один из сомножителей, например ©1? *) Определение группы типа I см. в Добавлении к гл. II. з] § 3. ГРУППЫ АДЕЛЕИ 361 является группой типа I. Тогда любое неприводимое унитарное представление группы © представляет собой тензорное произведение неприводимых унитар- унитарных представлений групп ®г и ©2. Доказательство. Пусть Т (g) — неприводимое уни- унитарное представление группы ©, действующее в гильбертовом пространстве И. Рассмотрим слабозамкнутые кольца Rx, R2 ограниченных операторов в Н, порожденных соответственно операторами Т (g{), gi?®i, и с операторами Т (g2), g2 6 ©2- Пусть Ri — кольцо ограниченных операторов, перестановоч- перестановочных со всеми операторами из Rt, 1=1, 2. Поскольку элементы группы ©j перестановочны с эле- элементами группы ©2, то операторы Т(g{) принадлежат R2, а операторы Т (g2) принадлежат Ri. Отсюда следует, что Ri сг /?2. R2 cr Ri. Но кольца Ri, R2 пересекаются только по операторам, кратным единичному оператору. (В самом деле, любой оператор, принадлежащий одновременно Ri и R2, перестановочен со всеми операторами Т (g) неприводимого представления группы ©, следовательно, он кратен единич- единичному оператору.) Поскольку Ri cr R2, то мы заключаем, что кольца Ri и Ri пересекаются только по операторам, кратным единичному оператору. Тем самым доказано, что кольцо R операторов, поро- порожденных операторами Т (gi), gi ? @i. является фактором. По предположению, этот фактор имеет тип I. Это значит, что пространство Н является тензорным произведением Нх и Н2. Н= Hi® H2, кольцо R1 состоит из всех операторов вида Л BI, а кольцо R[ — из всех операторов вида 1 ® В. Отсюда ясно, что операторы представления имеют вид Т (Sig2) = 7"i tei) ® Т2 (g2). Лемма 2. Пусть © — топологическая группа, и Т (g) — ее унитарное представление в гильбертовом пространстве Н. Если в © существует последователь- последовательность компактных подгрупп Vп, п=\, 2, ..., сходя- сходящаяся к единице группы, то для достаточно боль- больших п в пространстве Н существует вектор /, инвариантный относительно всех операторов T(vn),
362 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Доказательство. Введем операторы О) где интегрирование ведется по инвариантной мере dvn на группе V„, нормированной условием dva=l. ¦ Покажем, что последовательность операторов Рп сильно сходится к единичному оператору. В самом деле, в силу определения топологии на группе ©, последовательность где vn ? Vп, сходится и притом равномерно по vn к еди- единице группы ©. Отсюда следует, что последовательность операторов Т («О Т («„). . . . сильно сходится и притом равномерно по vn к единичному оператору. Именно, для любого вектора / ?Н и любого е > О найдется такое N, что при n^-N имеет место неравенство \\T(vn)f-f\\<a, каково бы ни было vn?Vn. Из неравенства B) непосредственно следует, что B) т. е. последовательность операторов Рп сильно сходится к единичному оператору. Поскольку операторы Рп сильно сходятся к единичному оператору, то найдется такое п, что Рп ф 0. Покажем, что тогда в пространстве Н существует вектор, инвариантный относительно операторов T(vn). В самом деле, пусть ц> ф 0 произвольный вектор вида q> = Pnf. Тогда имеем Г(г»„)ф = = Т (vn)Pnf. Но из определения оператора Рп непосред- непосредственно следует, что Т (vn) Рп = Рп для любого vn ? Vп Следовательно, Г(г»„;ф = ф, т. е. ф является искомым век' тором, инвариантным относительно операторов Т (ип). Лемма 2 доказана. Переходим теперь к доказательству теоремы. 31 4 3. ГРУППЫ АДЕЛЕЙ 363 Пусть задано неприводимое унитарное представление Т (g) группы аделей G А, действующее в гильбертовом простран- пространстве Н. Свяжем с этим представлением неприводимое пред- представление Tg(gp) каждой из групп Gp, р — оо, 2, 3, ... Для этого заметим, что группа GA распадается в прямое произведение Сд = Gp X G'p подгруппы Gp и подгруппы Gp, состоящей из всех аделей g — ig^, g2> • ¦ •). У которых gp=l- В силу леммы 1, представление Т (g) является тензорным произведением неко- некоторого неприводимого представления Tp(gp) группы Gp и неприводимого представления группы Gp. Итак, с исходным представлением Т (g) группы аделей GA мы связали неприводимые представления Тр (gp) подгрупп Gр, р = со, 2, 3, . . . Покажем, что эти представления не совсем произвольны. Именно, они удовлетворяют следующему условию: при достаточно больших р в пространстве Нр предста- представления Тp(gp) существует вектор fр, инвариантный относительно операторов Тр(ир), где ир пробегает компактную подгруппу Up, состоящую из всех цело- целочисленных матриц на Gp. Обозначим через V' подгруппу аделей вида vp — A, ..., 1, ир, .... uq, . . .), где uq?Uq при q ^> р. Последователь- Последовательность подгрупп V сходится к единичной группе, а потому, в силу леммы 2, существует такое р = р0, что в простран- пространстве Н имеется вектор /, инвариантный относительно опе- операторов Т (vPo), vPa ? VPa. Пусть р > ра. Разложим про- пространство Н в тензорное произведение Н= Нр®Н'р пространства Нр, в котором действует неприводимое пред- представление Tp(gp) группы Gp и пространства Нр, в котором действует представление группы GР. Тем самым инвариант- инвариантный вектор / можно однозначно записать в виде суммы S
364 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [3 где fPf i — векторы из Н р, а г^ пробегают фиксированный ортогональный базис в Н р. Так как Uр с: V Ра, то имеем 7-(«„)/ = / для любого ир ? Up. Но со = 2 а потому p, j ~ /р. 1< т. е. каждый из векторов /р> i ? Нр инвариантен относительно операторов Тр(ир). Утверждение доказано. Неприводимые унитарные представления Тр (gp) группы G , обладающие хотя бы одним вектором, инвариантным относи- относительно операторов Тр (ир), где ир пробегает подгруппу U целочисленных матриц, мы условились называть предста- представлениями класса I. Итак, с каждым неприводимым унитарным представле- представлением Т(g) группы аделей GA мы связали последовательность неприводимых унитарных представлений Tp(gp) каждой из подгрупп Gp, р — оо, 2, 3, ... При этом все представле- представления Тр (gp), кроме, быть может, конечного числа, принад- принадлежат классу I. Наша задача теперь — дать описание пред- представления Т (g) в термина» представлений Tp(gp). Рассмотрим снова подгруппу Vр аделей вида vp— A 1, Up, uq, .. .), где uq?Uq при ?> р. Как мы уже знаем, существует такое р = pQ, что в про- пространстве Н имеется вектор /, инвариантный относительно операторов T(vPo), vPo ? VPo, и, значит, все представле- представления Tp(gp) являются при P^-Pq представлениями класса I. В пространстве Нр представления Tp(gp) зададим орто- нормированный базис f р< г, .... f р< п, . . .; будем предполагать, что при р ^ р0 вектор fPi i является инвариантным относи- относительно операторов Тр(ир), up?Up. В силу леммы 1, для любого р пространство Н можно представить как тензорное произведение > Н"р, C) § 3. ГРУППЫ АДЕЛЕЙ 365 где Нр—пространство, в котором действует неприводимое унитарное представление Т" {g"p\ группы G" аделей вида ^ = A 1. gP, •••)• Легко убедиться, что среди векторов в Н, инвариантных относительно операторов Т (vPo), имеется вектор следую- следующего вида: /= П /«I'/'- q <p* где / — вектор в НРо, инвариантный относительно опера- операторов Tp<s(vPa). Будем предполагать, что ||//||=1. Легко, далее, убедиться, что для любого р^> р0 вектор /' имеет, в силу разложения C), следующий вид: /'= п д.г/;. D) где f"?H". На основании D) вектор f" можно записать в следующем виде: J p Рассмотрим в пространстве Н всевозможные векторы вида п/,.,-/;= п л./• П/,г E) q< р ч' Ч и q <р ч' Ч q> p ч где p^z> pa; iq > 1 у последнего из множителей /а, г ; вектор /" определяется из разложения D). Очевидно, что эти векторы образуют ортонормированную систему в Н. Оператор представления Т (g), g^:(goo, g2, . . ., gp, . . .) действует на эти векторы следующим образом: Здесь g"p = (U .-., 1, gp., -.., gq, •••). Отсюда легко видеть, что вектор Т (g) JJ / 1 • /" снова q < р q является линейной комбинацией векторов вида E). Это
366 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ непосредственно вытекает из того факта, что для любого g ? GA существует такое р' ;> р что g" ?V' ; сео существует такое р' ;> р0 имеем что g"p, ,; следовательно. Таким образом, подпространство Н', натянутое на векторы E), инвариантно относительно операторов Т (g). Поскольку пред- представление Т (g) неприводимо, то имеем Н' = Н, т. е. век- векторы E) образуют полную ортонормированную систему в пространстве Н. Формула F) и есть искомая формула, выражающая задан- заданное представление Т(g) группы аделей GA через предста- представления Tp(gp) групп Gp. Замечание. Интересно выяснить, верно ли, что для заданной полупростой алгебраической группы G лишь у ко- конечного числа групп Gp могут существовать неприводимые уни- унитарные представления, содержащие более одного линейно не- независимого вектора, инвариантного относительно подгрупп Uр. 4. Критерий существования единственного инвариант- инвариантного вектора. Здесь будет дано достаточное условие того, что в любом неприводимом представлении топологической группы G имеется не более одного вектора, инвариантного относительно компактной подгруппы группы G. Пусть G — локально компактная топологическая группа, обладающая мерой dg, инвариантной как отно- относительно правых, так и относительно левых сдви- сдвигов *) {т. е. d (g1gg2) = dg для любых gx, g2?G). Пусть U— компактная подгруппа группы G. Предположим, что в группе G существует отображение обладающее следующими свойствами: 1) о2 есть тождественное отоб ражение; 2) о—антиизоморфизм, т. е. о отоб ражает взаимно однозначно и взаимно непрерывно группу G *) Заметим, что из двусторонней инвариантности меры dg вытекает, что эта мера инвариантна и относительно перехода к обратному элементу, т. е. dg-1 = dg. 41 § 3. ГРУППЫ АДЕЛЕИ 367 на себя и удовлетворяет для любых gx, g2?G сле- следующему соотношению: 3) для любого g ? G существуют такие иг, и2 6 U, что g° = uxgu2. Как следствие из этих свойств имеем: 4) Ua=^U, т. е. а отоб ражает компактную под- подгруппу U на себя; 5) d(g°) = dg, m. e. отображение о сохраняет меру. Покажем, что в каждом неприводимом унитарном представлении группы G существует не более одного вектора, инвариантного относительно подгруппы U. Доказательство. Рассмотрим совокупность Ro не- непрерывных финитных функций ф(.°") на G, удовлетворяющих следующему условию: ф (u-igu2) = ф (g) для любых их, u2?U. A) Введем в Ro естественным образом операцию сложения и определим умножение двух функций из Ro как свертку * Ф2 = f % (gi) Ф2 (gT (Легко непосредственно убедиться, что свертка двух фунь - ций из Ro есть снова функция из Ro.) Таким образом, Ro является кольцом. Докажем, что кольцо Ro коммутативно. Для этого заметим, что, в силу условия 3), функ- функции Ф 6 ^о удовлетворяют соотношению Следовательно, ?)) dgx=/ % fe Последний интеграл есть функция из RQ, следовательно, его значение не изменится при замене ga на g. Другими
368 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ словами, будем иметь [4 j dgl = = f Тем самым доказано, что i|)j*i|J = i^*^. Пусть теперь Т (g) — унитарное (не обязательно непри- неприводимое) представление группы G. Тогда каждому элементу ср 6 ^о можно сопоставить оператор \р = / Ф (g) T (g) dg. Непосредственно проверяется, что А1Ф1 + А2Ф2 1 ф| I—Л*2* ф5> Г f f для любых ф!> ф2^/?0 и любых комплексных чисел Хх, Х2; следовательно, соответствие является представлением кольца Ro. Итак, каждому унитарному представлению Т (g) группы G отвечает представление коммутативного кольца Ro. Докажем, что операторы Гф, ф ? Ro обладают сле- следующим свойством: B) для любых их, u2?U. В самом деле, имеем, по определению, следовательно, Т (и,) ГфГ (а2) = J Ф (^) Г (ulgu2) dg = = / ф Or'sV) T(g)dg=J(p (g) т = г § 3. ГРУППЫ АДЕЛЕЙ 369 неприводимое пред- пред3№ есть либо 0, Обозначим теперь через Ш подпространство таких век- векторов / пространства представления Т (g), что Т (и) f = f для любого u^U. Из соотношения B) вытекает, что операторы 7*ф, ср ? /?0, переводят пространство Н представления Т (g) в под- подпространство Ш. В частности, подпространство Ш инвариантно относительно операторов Гф, ф ? /?0. В самом деле, имеем, в силу B), Г (и) (Гф/) = Гф/ для любого f ?Н и любого и ? U. Нам нужно доказать, что если Г (^) ставление, то размерность подпространства либо 1. Предположим противное: размерность пространства Ш больше единицы. Так как кольцо Ro коммутативно, то опе- операторы Гф, <р ? Ro> образуют коммутативную систему, по- поэтому в пространстве Ш заведомо содержится собственное инвариантное подпространство Ш'ФО. Зафиксируем вектор f фО из Ш' и вектор /^3№, ортогональный подпростран- подпространству Ш'. Рассмотрим совокупность Н' векторов вида T^f', где г|) пробегает множество всех финитных непрерывных функций на G, а Гф = I ф (g) T (g) dg. Пусть Н' — замыкание этой совокупности в пространстве Н. Нетрудно видеть, что Н'— линейное подпространство пространства Н, инвариантное относительно операторов пред- представления Г (g), причем Н'ФО. Докажем, что пространство Н' ортогонально век- вектору /. Отсюда будет следовать, что Н' — собственное инвариантное подпространство пространства Н, что проти- противоречит неприводимости пространства Н. Поскольку 7(й)// = // и Г(й)/ = / для любого u?U, то имеем для любых иг, и2. Проинтегрируем обе части этого равен- равенства по иг, и2, полагая, что мера компактно^ подгруппы U 24 И. М. Гельфанд и др.
370 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ | равна 1. Мы получим, что Crvf'.f) = (ff, /), где T = fT (ut) TVT (и2) dux du2 = J* Ф (g) T (Uigu2) dg duv du2 = Полагая мы имеем Ф (g) = / Ф (tiigu2) dui du2, . Очевидно, что функция ф удовлетворяет для любых их, и0 ? U соотношению ср (u}gu2) = ф (g), а потому ф ? Ro. Но тогда Т/'?Ш' и, следовательно, {Tf, /)=0. Тем самым доказано, что (T^f, /) = 0 для любой фи- финитной функции ф. Следовательно, вектор / ортогонален пространству Н'. Теорема доказана. 5. Вторая теорема о тензорном произведении. Здесь будет установлен еще один критерий, при котором непри- неприводимое унитарное представление Т (g) группы Од является тензорным произведением представлений групп Gp. Сначала введем, по аналогии с группой аделей А, по- понятие функции Шварца — Брюа на группе Gд. Обозначим через S^ пространство бесконечно дифферен- дифференцируемых быстро убывающих функций на группе GOT и че- через Sp пространство финитных кусочно-постоянных функций на группе Gр, /? —2, 3, ... Рассмотрим функции на GA, представимые в виде беско- бесконечного произведения ф (g) = Фоо (gco) Ф2 (ЙЪ) • • • Фр (gp) A) где множители q>p(gp) удовлетворяют следующим условиям: 1) фте65ор; <pPesp, /, = 2,3..., 8) § 3. ГРУППЫ АДЕЛЕЙ 371 2) Для всех р, кроме конечного числа, функция <pp(gp) сосредоточена на подгруппе Uр целочисленных матриц и равна на этой подгруппе тождественно единице. Назовем функциями Шварца—-Брюа на GA функ- функции ф (g), представимые как конечные линейные комбинации функций вида A). Пусть теперь Т (g) — неприводимое унитарное представ- представление группы GА. Положим v= fq>(g)T(g)dg. Тогда имеет место следующее утверждение. Если для любой функции Шварца — Брюа ф опера- оператор Т является вполне непрерывным и имеет след, то представление T(g) является тензорным произве- произведением неприводимых унитарных представлений Tp(gp) групп Gp. При этом в пространствах представлений Tp(gp), начиная с достаточно большого р, имеется один и притом только один вектор, инвариантный относительно подгруппы Up целочисленных матриц. Доказательство. Первая часть утверждения, а имен- именно, что представление Т (g) является тензорным произведе- произведением представлений Tp(gp) и что в пространствах представ- представлений Tpigp), начиная с достаточно большого р, содержится по крайней мере один вектор, инвариантный относительно подгруппы Up, доказывается почти дословно так же, как и теорема п. 3. Единственная разница состоит в том, что до- доказательство опирается уже не на лемму 1, доказанную на стр. 360, а на следующую лемму, доказанную в п. 1 До- Добавления к гл. II (см. стр. 295). П редположим, что неприводимое представление Т (g)==T (gi, g2) группы G= Gj X G2 обладает следую- следующим свойством. Существует функция ф, суммируемая на G вида <f(gi, g2) = Ф1 (ifi) Фг (?*2)> для которой оператор >(gi. g2)T(g1,g2)dg,dg2 является ненулевым вполне непрерывным оператором. 24*
372 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Тогда представление Т (g) является тензорным произведением неприводимых представлений групп G, и G2. Нам осталось доказать, что в пространствах представ- представлений Tp(gp), начиная с достаточно большого р, содер- содержится в точности один вектор, инвариантный относительно подгруппы Up. По доказанному, найдется такое р^=р0, что при p^S>P0 в пространстве представления Tp(gp) содержится по край- крайней мере один вектор, инвариантный относительно под- подгруппы Up. Рассмотрим функцию Шварца — Брюа вида Ф (?•) = Фсо GO Ф2 (?) - • • Фр (gP) где при р^-Ро функция (pp(gp) является характеристиче- характеристической функцией множества UpczGp. Тогда имеем где — оператор в пространстве представления Tp(gp), а Тг Ту — след этого оператора, р = оо, 2, 3, ... При /? = оо и при р < р0 будем считать функции фр (gp) выбранными так, что Тг Гф =^=0. Заметим теперь, что при р следующий вид: р0 оператор Гф имеет f и _ Значит, он является оператором проектирования на под- подпространство векторов, инвариантных относительно под- подгруппы Uп. Отсюда следует, что Тг Гф = пр при р ~^> р0, где п},— число линейно независимых векторов в простран- пространстве представления, инвариантных относительно подгруппы Uр. 1] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 373 Предположим, что пр > 1 для бесконечного множества чисел р. Тогда произведение B) расходится, а это проти- противоречит условию о существовании следа у оператора Т Утверждение доказано. ф § 4. Группа аделей группы унимодулярных матриц 2-го порядка 1. Постановка задачи и сводка результатов. Пусть G — группа унимодулярных матриц 2-го порядка над полем рациональных чисел Q и © = GA — ассоциированная с ней группа аделей. Обозначим через F = Gq подгруппу глав- главных аделей группы ОА. Подгруппа Г, как было показано в § 2, является дискретной подгруппой группы GA. Настоя- Настоящий параграф посвящен задаче о разложении представле- представления группы <ЭА, порожденного однородным пространством X = t\GA, на неприводимые представления. В гл. I была рассмотрена аналогичная задача для слу- случая, когда © — группа вещественных матриц 2-го порядка, а Г — ее дискретная подгруппа. Методы, применяемые здесь, аналогичны методам гл. I. Задача, рассматриваемая здесь, и задача, рассматривавшаяся в гл. I, связаны даже более тесно. Эта связь будет выяснена в Добавлении к § 4. Сформулируем основные результаты этого параграфа. Предварительно введем понятие орисферической подгруппы и орисферы (ср. гл. I, § 6). Подгруппа аделей вида 2 Zp, . . .), где zp = 1 (* означает любое /7-адическое число). а также любая подгруппа, с ней сопряженная, называются орисферическими подгруппами. Орисферами в однородном пространстве X назы- называются орбиты орисферической подгруппы. Главный инте- интерес для нас будут представлять компактные орисферы. Нетрудно проверить, что преобразование х —> xg, g^GA, переводит орисферу снова в орисферу и компактную ори- сферу в компактную орисферу. В п. 3 будет показано, что в пространстве X = Г \ GД множество всех компактных
374 ГЛ. It I. ПРЕДСТАВЛЕНИЯ ГРУПП АД ЕЛЕЙ орисфер транзитивно, т. е. для любой пары компакт- компактных орисфер существует преобразование, переводящее одну из них в другую. Иными словами, пространство Q всех компактных орисфер пространства X представляет со- собой однородное пространство. Как мы покажем ниже, в этом пространстве существует инвариантная мера. Обозначим через Н совокупность всех функций f (х) на А" с интегрируемым квадратом и через Н° совокупность всех функций / ? Н, интегралы которых равны нулю по всем компактным орисферам. Нетрудно видеть (ср. § 6 гл. I), что //° — инвариантное подпространство пространства Н. В п. 4 настоящего параграфа мы покажем, что про- пространство Н° имеет дискретный спектр, т. е. является суммой счетного числа неприводимых представлений группы ОА, при- причем каждое из этих неприводимых представлений входит в № с конечной кратностью. Отметим еще, что более де- детальное изучение представлений, входящих в Н°, представ- представляет весьма большой интерес для теории чисел. Изучение ортогонального дополнения Н' в Н к про- пространству Н° производится следующим образом. Сопоставим каждой функции f(x)?H функцию ф (со) на 2, являющуюся интегралом функции / (х) по орисфере со. (Меры на всех орисферах нормированы так, чтобы мера любой компактной орисферы была равна единице.) Обозначим, далее, через Н1 совокупность всех получен- полученных таким образом функций ф (со) на 2. Очевидно, что Нх непусто. Например, все константы содержатся в Нх. Обо- Обозначим через Н2 ортогональное дополнение в Нг к кон- константам. В п. 11 мы покажем, что H2czL2(Q). Основной результат п. 11 состоит в том, что Н2 содержит все неприводимые представления, содержащиеся в Z.2B), причем каждое с еди- единичной кратностью (в отличие от L2(Q), в которое они вхо- входят с кратностью 2). Мы покажем также, что простран- пространство Н2 состоит из тех /?Z.2B), которые переходят в себя при преобразовании Фурье. 2. Структура пространства X. В настоящем пункте мы покажем, что пространство X = Г \ GA представляет собой расслоенное прост ранство, базой кото рого является пространство GZ\GCO классов смежности 2] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 375 группы G^ no подгруппе целочисленных матриц Gz, а слоем — группа U —J\lfp, где Up означает сово- совокупность всех целочисленных р-адических матриц второго порядка с определителем единица. Вначале докажем следующую лемму. Пусть g— матрица второго, по рядка с элементами из поля р-адичеасих чисел и детерминантом 1. Тогда существует такая матрица у с рациональными эле- элементами, что 1) yg 6 Up. 2) yfUa при любом цфр. 'a b В самом деле, пусть g~x = 1 I . Обозначим через \с а) ап, bn, cn, dn рациональные числа, сравнимые соответст- соответственно с а, Ь, с, d по модулю рп, в знаменатели которых входит только степень р. Положим Ьп\ а. Нетрудно убедиться, что a/t, bn, cn, dn всегда можно подо- подобрать так, чтобы матрица уп была унимодулярной (ср. ана- аналогичное утверждение на стр. 155). Очевидно, что уп при всех п удовлетворяет условию 2) леммы, а при достаточно больших п удовлетворяет и условию 1). Доказательство леммы закончено. Пусть g = (g^, g2, • • •. gp, • • •) — произвольный элемент группы GA. Так как лишь конечное число gp^Up, то из доказанной леммы следует, что существует такое у ? Г, что yg = (hau. A,, .... hp. ..-), где hp?Up при /? = 2, 3, 5, 7, 11. ... Иными словами, в каждом классе смежности Tg сущест- существует такой элемент h^Tg, что hp^Up при всех р, кроме р = оо. Рассмотрим, при каких условиях два элемента h указан- указанного вида принадлежат одному и тому же классу смеж- смежности Fg группы G по Г. Очевидно, что если h, h'?Tg, то h' = v/z , где v — некоторая целочисленная матрица, со ' оо * так как при р = 2, 3, 5, . . . пр и ti =^yh —целочисленные
376 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 377 />-адические матрицы. Иными словами, первые коорди- координаты hm этих элементов принадлежат одному и тому же классу смежности Ozhoo группы Gm по подгруппе Gz всех целочисленных матриц. Тем самым установлено отображение пространства X в пространство классов смежности группы G^ по подгруппе Gz. Нетрудно убедиться, что это отображе- отображение т непрерывно. Найдем полные прообразы элементов из Gz \ G^ при отображении т. Очевидно, что т(л;) = т(л:/) тогда и только тогда, когда х' = хи, где и принадлежит подгруппе U эле- элементов вида A. «,. A) С другой стороны, легко проверить, что хи = х лишь при и=1. Значит, полный прообраз т^Су) произвольного эле- элемента у E Gz \ G^ изоморфен группе U'. Итак, установлено, что X является расслоенным про- пространством с базой Gz \ G^ и слоями, изоморфными U. Проверка, что полученное расслоение локально имеет структуру прямого произведения, производится тривиально. Отметим, что полученное расслоенное пространство не является, конечно, прямым произведением. Группа монодромии его, как нетрудно проверить, изоморфна группе Gz. Отметим без доказательства, что аналогичный результат о струк- структуре однородного пространства X = G _ \ Gд справедлив и для любой линейной алгебраической группы G. Напомним, что однородное пространство Gz \ Gtxi группы G^ имеет конечный объем (см. Добавление к гл. I). Поскольку, с другой стороны, U— компактная группа, то из полученного здесь результата непосредственно следует: объем однородного пространства X конечен. 3. Описание пространства S всех компактных ори- орисфер пространства X. Напомним, что орисферами в про- пространстве X мы назвали орбиты орисферической подгруппы, т. е. подгруппы gZAg~l, где Zл — группа аделей вида Z = (-Z^. 2^2' ¦ • •' zр> ¦ ¦ •)• у которых zp = 1 О * 1 (* означает любое />-адическое число), a g — произвольный фиксированный элемент из GА. Опишем пространство Q. Обозначим через Dq подгруппу группы Г, состоящую из аделей вида F, 6, ..., 6, . . .). где 'X О 6 = КО -1 Я пробегает все рациональные числа, отличные от 0. Рас- Рассмотрим подгруппу DqZa, порожденную подгруппами Dq и Za. В этом пункте мы докажем следующую теорему. Пространство 2 компактных орисфер является однородным пространством со стационарной груп- группой DqZa. Доказательство разобьем на несколько этапов. Сначала рассмотрим орисферу xz=xoz, где х0—точка пространства X =Г \ GA, отвечающая единичному классу, a z пробегает группу ZA. Покажем, что орисфера xz = xoz компактна. Поскольку стационарной подгруппой точки х0 является группа Г, то, очевидно, множество точек орисферы xz=xoz гомеоморфно пространству ZQ\ZA. Нам нужно, таким образом, доказать компактность пространства ZQ \ ZA. Заметим, что группа ZA изоморфна группе А аделей где аю пробегает аддитивную группу вещественных чисел, ар—аддитивную группу />-адических чисел, причем все ар, начиная с некоторого р, являются целыми /7-адическими числами. Таким образом, имеем где Q — подгруппа главных аделей группы А. Компактность пространства Q\A была нами уже доказана в п. 4 § 1. Тем самым доказана компактность орисферы хг= xoz. Покажем теперь, что любая компактная орисфера в X может быть получена сдвигом орисферы xz= xoz, т. е. множество компактных орисфер транзитивно.
378 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [3 Поскольку сдвиг компактной орисферы есть снова ком- компактная орисфера, то нам достаточно рассмотреть орисферы вида хг = xQgzg-1. Итак, пусть орисфера xz = x^gzg'1 компактна. Тогда пересечение Г f] gZAg~x группы gZAg~l со стационарной подгруппой Г точки х0 отлично от единич- единичной подгруппы. Итак, существует главный адель 7 = СУ. "V Y- •• •). у Ф е, представимый в виде '• A) где z — некоторый элемент из ZА. Из разложения y = gzg~l следует, что собственные зна- значения рациональной матрицы у равны 1. Но в таком случае найдется такая рациональная матрица у0, что у-1 yVo есть мат- /1 0\ рица вида ( л J . Обозначая той же буквой у0 главный адель Ч 1, Yo> • • • > Yo> • • •). имеем Итак, мы имеем рДе Yo6r. Zq^Z[\Y' = ZQ, а потому равенство A) можно переписать в виде Y Z V~^ — gzg~~^ (УЛ Но из равенства B) следует, что адель yz1g имеет вид Л?— 0" ' fP "-— ftp b b \ /*O \ где kp — треугольные матрицы вида * * C0 Итак, мы видим, что если орисфера х2 = xngzg~l ком- компактна, то адель g имеет следующий вид: g = Y<A где Уо€Г, a k — адель вида C). Но так как, очевидно, kZAk = Z дг § 4. ГРУППА АДЕЛЕИ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 379 то уравнение орисферы xz = xogzg~1 можно записать в виде -1 xz=xoy0zy-1 или, поскольку хоуо=хо, в виде xz= xQzyt Тем самым доказано, что любая компактная орисфера в про- пространстве X может быть получена сдвигом орисферы xoz. Итак, мы доказали, что любая компактная орисфера в пространстве X — Г \ GA задается уравнением xz = xozg, где Хо — точка пространства X, отвечающая единичному классу. Следовательно, множество й компактных орисфер в пространстве X является однородным пространством отно- относительно группы ОА. Наконец, покажем, что стационарной подгруппой орисфер xz — xoz является группа DQZA. Пусть g переводит ори- сферу xz в себя. Тогда точку х0 можно представить в виде х0 = xozg. Следовательно, существует такое Y6T, что \=yzg, где 1—единица группы G А. Отсюда имеем: g = z-1y~l, где z~l?ZA, y-1^. Не нарушая общности, можно предполагать, что z — еди- единичный элемент. Тогда g = у0 есть главный адель. Из совпадения орисфер xoz и xozyo следует, что любой элемент z ? Zл представим в виде Перейдем в этом равенстве от аделей к их первым нентам, полагая 1 0\ а 1 0 Мы получим, что а0 b0 \^fa + bx' Ъ ,с0-\-аох do-{-box) \c-\-dx' с откуда, в частности, имеем c = do-{-box. Так как х пробегает все вещественные числа, а циональное число, то из этого равенства следует, что Но тогда очевидно, что yo?DQZ. компо- компоа0 Ь с — ра-
ра380 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Мы доказали, что DQZA является стационарной подгруп- подгруппой пространства орисфер Q. Теорема доказана. 4. Выделение дискретного спектра. Рассмотрим в про- пространстве L2(X), X = r\GA, совокупность функций /, интегралы которых по любой компактной орисфере равны нулю. Согласно п. 3, это условие на / записывается в сле- следующем виде: / f(x0zg)dz = 0 A) для любого g E О а (хо обозначает точку пространства X, отвечающую единичному классу). Обозначим пространство таких функций через Н°. Легко убедиться (ср. гл. I, § 6), что Н° — замкнутое подпро- подпространство и что оно инвариантно относительно операторов представления группы ОА: Т (g) /(*) = / (xg). В этом пункте будет доказано, что пространство Н° разлагается в сумму не более чем счетного числа инвариантных неприводимых подпространств, причем каждое из неприводимых представлений входит в И° с конечной кратностью. Как было показано в § 2 гл. I, достаточно доказать, что операторы Г» = | q>(g)T (g) dg в пространстве Н° вполне непрерывны для некоторого всюду плотного множества непре- непрерывных положительно определенных функций (p(g). В свою очередь, чтобы доказать, что положительно определенный оператор Гф вполне непрерывен, достаточно доказать, что его след конечен. Итак, докажем, что след оператора Т» в пространстве Н° конечен для любой положительно опре- определенной функции Шварца — Брюа ф *). Согласно § 6 гл. I, пространство Gz \ О^ можно пред- представить в виде суммы цилиндрического множества Е и ком- компактного множества F. *) Определение функций Шварца — Брюа на G& см. в § 3, п. 5. 51 § 4. ГРУППА АДЕЛЕИ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 381 1 (Е) является - компактным Рассмотрим отображение т: X -> Qz \ G^, определенное в п. 2. Легко видеть, что т цилиндрическим множеством в А", а т-1 (Z7) множеством. Обозначим через Ир совокупность всех функций из L2 (X), равных нулю вне r~1(F), а через Н°Е—совокупность всех функций из L2(X), равных нулю вне т (Е), у которых равны нулю интегралы по орисферам, на которые расслаи- расслаивается Т (Е). Очевидно, что И czHp-\- НЕ. Поэтому след оператора *) Гф на Н° не превосходит суммы следов на Ир и на И%. Опера- Оператор Тф положительно определен и является интегральным оператором (см. гл. I) с ядром К (хг, х.2), которое ограни- ограничено в любой компактной подобласти X. Поэтому его след на Нр конечен. Доказательство конечности следа оператора Гф на НЕ проводится так же, как и в § 6 гл. I. 5. Пространства Y и Q. Основной целью дальнейшего исследования будет изучение спектра представления в про- пространстве L2(X)/H°. Мы увидим позже, что задача о спектре пространства L2 (Х)/И° может быть сведена к более простой задаче — изучению спектра представления в пространстве L2 B), где Q = DqZA \ GА. Эту более простую задачу мы и решим в первую очередь. Начнем с описания пространства Y=ZA\GA, которое по аналогии со случаем группы вещественных матриц вто- второго порядка удобно называть основным аффинным пространством группы GA. Покажем, что точки пространства Y можно зада- задавать бесконечными последовательностями У = (Уоо- У2. • • •¦ У р. ¦ ¦ ¦)- (!) где у =(у1, у2)—вектор двумерного аффинного про- пространства над полем р-адических чисел, ур Ф 0, причем, *) Под следом оператора Т на пространстве Н' (которое, вообще говоря, не инвариантно относительно оператора Т) пони- понимается след оператора РТ' Р, где Р — оператор проектирования на подпространство Н' (ср. § 6 гл. I).
382 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ начиная с достаточно большого р, числа у1, у2 — целые и хотя бы одно имеет норму 1. В самом деле, сопоставим каждому элементу §2 из GA последовательности gP УР> где ур — верхняя строка матрицы gp, р-—оэ, 2, 3, ... Оче- Очевидно, что отображение g —> у есть отображение группы GA на пространство У всех последовательностей вида A). Найдем стационарную подгруппу пространства У. Зафиксируем в У точку оA Ч ° где у = A, 0). Очевидно, что стационарной подгруппой точки у0 является Zл. Таким образом, Y = ZA\ G А. Утвер- Утверждение доказано. Из описания пространства Y видно, что оно естественно вкладывается в двумерное пространство А2 над группой аделей А. При этом оно образует всюду плотное подмно- подмножество в А2 (подобно тому, как группа иделей А* образует всюду плотное подмножество в группе аделей А). Покажем, что Y является подмножеством полной меры в пространстве Л2, т. е. для любого измеримого множества Fez А2 меры множеств F и F П Y совпадают. Доказательство. Рассмотрим подмножества F(Po) век- векторов вида У2 р' р0 пробегает измеримое множество в Q2 где ур при р с мерой \хр и |ур|<С1 ПРИ Р > Ро- Ясно, что объединение таких множеств есть все пространство А2, а потому утвержде- утверждение достаточно доказать только для этих множеств F(p"\ Поскольку мера множества точек у ? Q2 таких, что |ур|-^1, равна 1, то мера jj. (Т7^"') множества F(Ps>) равна М^И^ . . . jj. . Вычислим теперь меру ix(F^Po*(]Y) множества р(Ро) р| у Обозначим через F(p , р ;> р0, подмножество векто- векторов из F{Po\ у которых | у , | = 1 при р' ;> р. Так как мера § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 383 множества точек у ,?Q2,, таких, что |у , | = 1, равна 1 ^ , то мы имеем Очевидно, что множество FРа П У является объединением множеств Fp, а потому 1 1 р°> п К) = lim ц (/=•<*>>) = ц (/rW) lim Ц /! М _ Из того, что произведение JJ A ^J сходится (оно равно _L = -%), следует, что lim = 1. Таким р'>р^ р образом, ]х(z7^ fi к) = ц (Т7^), что и требовалось доказать. Группа GA действует в У следующим образом: элемент ?' = (iTOo' S2' ¦¦¦' SP< • • •) группы GA переводит точку у = (ут, у2. •••. ур. • ¦ •) пространства У в точку Уё = - •••). B) где ypgp означает результат применения матрицы gp к век- вектору-строке ур. Заметим, что B) определяет действие группы GA на всем пространстве А2. Относительно GA это пространство распа- распадается на транзитивные части, одна из которых есть У, а другие имеют вид аУ, а?А. Теперь установим связь между пространством У и про- пространством орисфер Q. Определим в У действие группы иделей Л*. Именно, каждому иделю А, —(А,^, А,2 Хр, ¦ ¦ .) сопоставим пре- преобразование у—>А,у в пространстве У, переводящее каждую точку у = (Уоо, у2. • • •¦ Ур. • • •) из У в точку • • •)• C)
384 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Г6 Из описания пространства орисфер Q, полученного в п. 3, непосредственно следует, что где Q*—подгруппа главных иделей. Таким образом, 2 как фактор-пространство пространства Y по дискретной под- подгруппе локально-изоморфно пространству Y. Укажем, как определяется инвариантное интегрирование на К и 2. Пусть dyp — инвариантная мера на аффинной плоскости у = (у1, у2), р = оо, 2, 3, ... При р — 2, 3, ... нормируем ее следующим образом: I v' I , I V2 IV D) I >о In' I -Уa in)' v / Легко убедиться, что инвариантное интегрирование на Y выражается следующей формулой: [ f(y)dy= Hm Г/(у„. У2, .... у р. -.О^Уоо^Уа •¦• dyp. E) •^ /? -»со ^ /? -»со Таким образом, инвариантная мера dy на К выражается следующей символической формулой: аУ = ^Уооdy2 ... dyp ... F) Инвариантное интегрирование на Q определяется той же формулой, так как Q локально-изоморфно К. 6. Разложение представлений, порожденных простран- пространствами Y и Q, на неприводимые представления. В п. 5 мы показали, что в однородных пространствах Y и Ы суще- существует инвариантная мера. Следовательно, в пространствах L2(Y) и Z-2 B) операторы сдвига Т (g) f (х) = f (xg) опре- определяют унитарное представление. Наша задача в том, чтобы разложить эти представления на неприводимые. Рассмотрим вначале пространство L2(Y). Рассмотрим мно- множество П всех характеров л группы иделей А* (это мно- множество было описано в п. 9 § 1 настоящей главы). Положим //(МО л-1 (ДО! Л л* A) § 4. ГРУППА АДЕЛЕИ ТРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 385 где d*X — инвариантная мера на группе А* всех иделей (см. п. 7 § 1)*), f(y)?L2{Y). Нетрудно видеть, что функция фл удовлетворяет сле- следующему условию однородности: Фя(А,у) = я(А,)|А,|-1фя(У). >-€^*- B) Во множестве функций, удовлетворяющих условию B), тем же способом, как для группы матриц 2-го порядка над полем, можно определить строение гильбертова пространства. С этой целью выберем в Y подмножество Т, обладающее следующим свойством; каждая точка у ? Y однозначно пред- ставима в виде y = kt, Я?Л*, t?T. C) Зададим в Т меру dt так, чтобы было dy = | X I2 d*X dt. D) Во множестве функций на Y, удовлетворяющих условию B), определим скалярное произведение (Фл- Фя) = / фя (О Фя E) Обозначим полученное гильбертово пространство через Нп. Непосредственно проверяется, что скалярное произведение E) инвариантно относительно операторов Тя (g): Тл (g) Фя (у) = Фя (yg). F) Таким образом, представление Тп (g) унитарно в про- пространстве Нп. Из результатов § 3 следует, что это представление неприводимо. В самом деле, пусть Л = (ЯСО, Jbj, Пр, . . .)• Тогда наше представление является, в смысле § 3, тензорным произведением унитарных представлений Тп (gp) групп Gp, р = оо, 2, 3, . . ¦, определяемых следующим образом. Представление Тп (g) задается в пространстве функций *) Напоминаем, что [ X \ 25 И. М. Гельфанд и др. "¦р \р • • '
386 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ |б Фя (Ур). Ур=(У1р> У2,), удовлетворяющих условию однород- р ности: = кр (Я.,) | кр \р ] Ф Оператор представления Tnp(gp) группы Gp задается по формуле Тпр (Sp) Флр (Ур) = Флр Известно (см. гл. II), что такие представления группы Gp неприводимы. Следовательно, представление Гл (g) группы G А, будучи тензорным произведением неприводимых представле- представлений групп Gp, само неприводимо *). Будем называть представление Tn(g) группы GA пред- представлением основной серии, отвечающим харак- характеру л. Отметим, что в силу условия однородности B), простран- пространство представления Нп можно реализовать как пространство функций фл (t), t?T, удовлетворяющих условию При этом оператор представления TJt(g) задается следующей формулой: Тл (g) Фл (О = л (Г) | Г | ~' Фя (О. где к' ? А* и f ? Т определяются из соотношения tg = TJf. Окончательный результат следующий. Разложение представления группы GA в L2(Y): T(g)f{y) = f(yg) G) на неприводимые представления осуществляется сле- следующими формулами: / (У) = / Фл (У) dn. п (8) *) Точнее, представление Гл неприводимо только если лр Ф signT- Однако совокупность тех л? П, для которых пр = signT \ хотя бы для одного р, имеем меру нуль. \ где § 4. ГРУППА АДЕЛЕИ ГРУППЫ МАТРИЦ 2- ГО ПОРЯДКА * (У) = л* 387 (9) й этом имеет место формула Планшереля п где dn,— мера на множестве П всех характеров группы иделей А*, нормированная так, чтобы имело место соо тношение С Г и (к) л (к) d*k dn == и A). П А* Когда функция /(у) преобразуется по формуле G\ ее компонента фл(^) преобразуется по формуле Тп (g) Фл (О = л (Л,') | Г Г1 Фл (О. A1) где Я'? Л* « С ?Т определяются из соотношения tg = A,V. Таким образом, в пространстве функций фл (О действует неприводимое унитарное представление основной серии, отвечающее характеру л. Доказательство. Разложение (8) непосредственно следует (по формуле обратного преобразования Фурье) из определения функции фл (у) (формула (9)). Отсюда же по фор- формуле Планшереля для преобразования Фурье следует, что f I / at) |» i 112 d*k = f | Фл П П Если обе части этого равенства проинтегрировать по t, то мы получим непосредственно формулу Планшереля A0). Остается показать, что функции фл (f) преобразуются по фор- формуле A1). Для этого заметим, что когда функции /(у) преобразуются по формуле Т (g) f (у) = / (yg\), функция фл (у) преобразуется по такой же формуле Т (?) фл (У) = Фл (yg). С другой стороны, функция Фл(у) удовлетворяет следую- следующему условию однородности: 25*
388 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АД ЕЛ ЕЙ § 4. ГРУППА АДЕЛЕИ ГРУППЫ МАТРИЦ 2 ГО ПОРЯДКА 389 Поэтому, если перейти от функций сря (у) к их значениям фя (t) на Т, то формула для Т (g) примет искомый вид A1). Теорема доказана. Рассмотрим теперь задачу о разложении представления в ?2(Й) на неприводимые представления. Заметим вначале, что функции из Q можно рассматривать как функции на У, инвариантные относительно преобразований где Q* означает совокупность всех главных иделей. Обозначим через П* множество всех характеров группы A*jQ*. Имеет место следующая теорема. Разложение представления группы GA в L2(Q) на неприводимые представления осуществляется следую- следующими фо рмулами: . / (У) = / Фя (У) <*я. п* где A2) ФЯ(У)= A3) A*/ Q* Имеет место формула Планшереля f \f(y)\2dy= /||Фя|рЛх, (И) Q*\ У ГГ* где dn— мера на множестве П* всех характеров группы A*/Q*, нормированная так, что имеет место соотношение: j Г u(X)n(X)dX*dn = и (I). a* a*iq* Доказательство аналогично доказательству предыдущей тео- теоремы. Выясним теперь, с какой кратностью каждое представле- представление основной серии входит в L2(Y) и в Z^B). Иными словами, нам нужно выяснить, какие представления Tn(g), входящие в разложение L2(Y) и L2(Q), между собой эквивалентны. Пусть Tn(g), 7V (g)—два неприводимых представления группы Од, отвечающие соответственно характерам Я=(Лсо' Л2 V ...) И Л'=(Л^ К'2 Пр, ...). A5) Согласно § 3, эти представления эквивалентны тогда и только тогда, когда эквивалентны соответствующие представления групп Ор, р = со, 2,3, ... С другой стороны, представления A6) группы Ор экви- эквивалентны тогда и только тогда, когда л —лгР, где ер= ±1. Итак, два представления Тл (g) и Тп~ (g) группы ОА эквивалентны тогда и только тогда, когда я — р е — ±1, р = оо, 2, 3, ... Отсюда мы сразу заключаем, что каждое представле- представление Tn(g) входит в L2(Y) с бесконечной кратностью. Иная картина имеет место в случае пространства L2 B). Это пространство, как мы уже знаем, разлагается на пред- представления Tn{g), где я пробегает множество характеров, равных единице на подгруппе главных иделей. Мы покажем, что два таких характе pa nun' задают эквивалентные представления тогда и только тогда, когда я' = лв, е— ± 1. Отсюда будет следовать, что каждое представление Tn(g) входит в L2(S2) с крат- кратностью 2. Итак, пусть два характера я и я', равных единице на группе главных иделей, задают эквивалентные представления. Характер л имеет, как известно, следующий вид: = я^ (A..J я2 где i n oik — 1, р — ¦<?, о, о, ... Здесь s, sp— мнимые числа, v= О, 1. При этом лишь конечное, число характеров 6р отлично от единицы. Аналогично, где
390 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Условие, что характерам лил' отвечают эквивалентные представления, дает s'p = EpSp, в'р = в/, где ер = ± 1, /? = 2, 3, ... Не нарушая общности рассуждений, можно считать, что. s'~ s. Нам нужно доказать, что тогда я' = я. Поскольку характер л равен единице на подгруппе главных аделей, то л(р)= 1 для любого простого числа р, т. е. Ps-spQ2(p)...Qp(p) ... =1. A7) Заметим, что каждый из характеров Qp имеет конечный порядок, и что среди них имеется лишь конечное число отличных от единицы. Следовательно, существует такое целое /г, что 0? = 1 для любого р. Но тогда из равенства A7) следует, что откуда A8) где k—некоторое целое число. Аналогично мы получаем A9) Если ер——1, то из равенств A8) и A9) мы получаем — k"In р, B0) где k" — целое число. Из равенства B0) следует, что ер = —1 не более чем для одного простого р. В самом деле, если бы было е = 1 и eq = — 1, q ф р, то мы имели бы ,пр= г, где г — неко- некоторое рациональное число, что невозможно. Итак, либо ер= 1 для всех р, либо ер=1 для всех р, кроме некоторого р = р0. В первом случае мы имеем л' = я. Во втором случае мы имеем л' (А.) = я (А,) Лро2(ХРо). Но тогда, Поскольку я (А,) = я'(А,) = 1 на подгруппе главных иделей, § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 391 я2 (г) = 1 для любого рационального числа г Ф 0. Так как рациональные числа образуют всюду плотное множество в мультипликативной группе /7-адических чисел, отсюда следует, что л^^1. Следовательно, и в этом случае имеем л (А.) = я' (А.). Утверждение доказано. 7. Функции Шварца — Брюа в пространствах У и Q. В п. 1 § 2 было введено понятие функций" Шварца—Брюа в /г-мерном векторном пространстве А" над группой аделей А. Именно, функцией Шварца — Брюа на А" называются конечные линейные комбинации функций вида ф (У) = Фсо (Усо) Ф2 (У2) • • • Фр (Ур) • • • . где Фсо (Уоо) — бесконечно дифференцируемая, быстро убы- убывающая функция в /г-мерном векторном пространстве Rn над полем вещественных чисел, 4>р(ур)— финитная, кусочно- постоянная функция в /г-мерном пространстве Qp над полем р-адических чисел, причем все функции фр (ур), кроме ко- конечного числа, имеют следующий вид: 1, когда | ур | -< 1, 0, когда \ур\> 1. Основное аффинное пространство Y естественным образом вкладывается в пространство Л2. Оно состоит из всех эле- элементов у d А2, у которых ур ф 0, причем \ур\ = 1, начиная с достаточно большого р. Поэтому каждой функции ф Шварца—Брюа на А2 можно сопоставить функцию на К — ее ограничение на Yd А2. Это ограничение функции <р мы и назовем функцией Шварца — Брюа на К. Легко убедиться, что если функция Шварца — Брюа на А2 не равна тождественно нулю, то она не равна тождественно нулю и на Y. Следовательно, соответствие, сопоставляющее функциям Шварца Брюа на А2 функции Шварца — Брюа на Y, является взаимно однозначным. Иными словами, каждая функция Шварца — Брюа на Y однозначно продол- продолжается до функции Шварца — Брюа на А2. Рассмотрим теперь функции вида = 2j 9 (ky), (I)
392 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [8 где ф(у) — функция Шварца — Брюа на Y. Нетрудно про- проверить, что ряд A) сходится и что функция о|) (у) непре- непрерывна на Y. Поскольку, очевидно, для любого A,?Q*> то 1|з (у) можно рассматривать как функ- функцию на Q = Q* \ Y. Функциями Шварца— Брюа на Q будем называть функ- функции ty(y), представимые в виде A), где ф—функция Шварца—Брюа на Y. Справедливо следующее утверждение, проверка которого предоставляется читателю. Функции Шварца — Брюа на К принадлежат пространству L2(Y) и образуют в нем всюду плотное множество. Анало- Аналогично, функции Шварца — Брюа на Q принадлежат про- пространству L2(Q) и образуют в нем всюду плотное множество. 8. Преобразование Фурье в пространствах L2 (Y) и Z-2 (S). В п. 5 § 2 было определено преобразование Фурье в я-мерном пространстве А" нал кольцом аделей А. Для случая двумерного пространства А2 нам будет здесь удобно несколько изменить это определение. Именно, преобразо- ванием Фурье функции ф(у) = ф(уA), уB)) из L2(A2) будем называть функцию ф(уA), уB)), определенную следующей формулой: A) Здесь %0(t)—аддитивный характер на А, описанный в п. 5 § 1. В п. 5 § 2 преобразование Фурье было определено другой формулой Ясно, что указанные там основные свойства преобразования Фурье сохраняются и при новом определении. Удобство нового определения преобразования Фурье в том, что это преобразование перестановочно с операторами груп- группового сдвига, т. е. Ч> (yg) = B) 8] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 393 (в то время как обычное преобразование Фурье ведет себя более сложным образом: ф (yg) = фСу^"'). где g' — матрица, транспонированная к g). Отметим также, что при новом определении преобразо- преобразования Фурье мы имеем ф C0 = ф C) т. е. квадрат оператора преобразования Фурье равен еди- единичному оператору (в то время как для обычного преобра- преобразования Фурье ф(у) = ф(—у)). Исходя из этого определения, введем преобразование Фурье в пространствах L2(Y) и Z.2(Q). Как было установлено в п. 5, К является подмножеством полной меры в пространстве А2, а потому пространства L2(Y) и L2 (А2) фактически не различаются между собой. Тем самым данное выше определение преобразования Фурье для функций из L2(A2) автоматически переносится на функ- функции из L2 (Y). Теперь перейдем к пространству L2(Q). Пусть г|;(у)—функ- г|;(у)—функция Шварца — Брюа на Q. Согласно определению ¦ф(у)= 2 D) где ф (у) — функция Шварца — Брюа на Y. Определим преобразование Фурье г|) функции Шварца — Брюа г|) следующей формулой: E) Брюа на Y. 0, то и где ф— преобразование Фурье функции Шварца Легко убедиться, что если 2 ' Xi Q* 2 ф(А,у)=0. Отсюда следует, что преобразование Фурье функции г|) на 2 определено однозначно, независимо от способа представления функции ij; в виде D). Преобразование Фурье функций на ?2, определенное вначале только для функций Шварца — Брюа, может быть теперь продолжено до унитарного преобразо- преобразования на всем пространстве L2(ii).
394 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [8 Чтобы в этом убедиться, нам достаточно доказать, что преобразование Фурье функций Шварца — Брюа сохраняет норму. Покажем это. Представим функцию Шварца—Брюа на Q в виде ty(y) = = 2 Ф(^У)> гДе ФОО—функция Шварца — Брюа на Y. ?Q Тогда, обозначая через Е фундаментальную область в Y относительно Q*. мы имеем =/ 2 2 ^ Е К б Q* ц С Q* = 2 И /фО0ф(м-у)«*з>- О* Поскольку интегрирование по А,Я и суммирование по X сво- сводится к интегрированию по всему пространству Y, то мы получаем отсюда, что n€Q* Аналогично имеем =2 F) G) где ф — преобразование Фурье функции ф на Y. Но так как = ф (ц,~1у), то в силу формулы Планшереля на Y, мы имеем / Ф СО Ф1М-У) ^У == / Ф (У) Ф Следовательно, правые части равенств F) и G) совпадают. Итак, доказано, что [| г|) ||Q = j| г|) ||Q. Обозначим оператор преобразования Фурье на L2(Q) через Z7.. Мы доказали, что F — унитарный оператор. 9] § 4. ГРУППА АДЕЛЕИ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 395 С другой стороны, как мы знаем, (8) где Е — единичный оператор. Из унитарности оператора F и равенства (8) следует, что F — самосопряженный оператор. 9. Орисферический автоморфизм в пространстве S и его связь с преобразованием Фурье. Пусть ф(у) — функ- функция Шварца — Брюа в пространстве 2. Как и раньше, будем считать ее продолженной на пространство Y. Орисферическим автоморфизмом в пространстве функ- функций ф(у) назовем оператор В, определенный следующей формулой: = f<t>(yoszg)dz, A) ZA где уо=A. 0), *=(_ 0 Очевидно, что функция Вц> постоянна на классах смеж- смежности DqZa\Ga, а потому ее можно рассматривать как функ- функцию в пространстве 2 = DQZA\OA. Орисферический автоморфизм имеет простой геометри- геометрический смысл. Именно, если в формуле A) перейти к коор- координатной записи, то она примет следующий вид: = J at, B) где g = ,A) Итак, орисферический автоморфизм состоит в том, что функции ф сопоставляются ее интегралы по всевозможным пря- прямым. Поскольку точка пространства Y задается верхней строкой (уA>, уB)) матрицы g, то формулу B) можно пере- переписать в следующем виде: C)
396 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДИЛЕЙ [9 где B)— с у*1' и у<2) соотношением произвольные элементы кольца А, связанные I. D) (От их выбора интеграл C) не зависит.) Из формулы A) непосредственно следует, что оператор орисферического автоморфизма В перестановочен с опера- операторами группового сдвига. Напомним, что тем же свойством обладает и оператор преобразования Фурье F. Задача этого пункта—показать, что при некоторых дополнительных условиях на функцию ф операторы В a F совпадают, т. е. E) ала, в более подробной записи. F) где гA), 2B) связаны с уA), уB) соотношением D). Итак, установим связь между операторами F и В. По- Поскольку группа GA действует транзитивно в пространстве Q, а операторы F и В перестановочны с операторами груп- группового сдвига, то достаточно установить связь между .Рф (у) и Bq> (у) в какой-либо одной точке пространства, например, в точке уо=A, 0). В этой точке мы имеем A, 0)= J G) (8) Преобразуем выражение G). Согласно определению, функция Шварца—Брюа на Q представима в виде = 2 (9) S1 § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 397 где /(у)— функция Шварца-- Брюа на У. Следовательно, имеем Обозначая через / (.г'1', ^( ') преобразование Фурье функ- функции / по второму переменному ?( \ мы можем переписать это выражение в следующем виде: . о)=» 2 f Но на основании формулы суммирования Пуассона (для функций одного переменного) 2j Г \Z , К) = 2j J \z • X) -j- J \Z , V) f \Z , V). Следовательно, 1. 0)= 2 ). 0)dzm-ff(*P\ 0)dza). Выразим правую часть этого равенства через исходную функцию ф. Имеем V J7(*">. If так как для Я. ? Q* мы имеем |А,| = 1. Далее, ff(zllt, 0)dz<1)= f ^ /(Xz, 0)dz= f A* , 0)dz; f A* A*/Q* Xi Q* A*/Q* ll). zBi)dz(lidz0> = AVQ*
398 ГЛ. HI. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [9 Таким образом, ЯфA, 0)= j <р(.г, X)dz-\- j (p(z, 0)dz — A A/Q* — f Ф0A), zl2))dzmdzm. A0) A4Q* Сравнивая это выражение с формулой (8), для оператора В получаем /=4p(l, 0) — ?<рA.0)= j y(z, V)dz ¦-* A/Q* - f<p(zm.zm)dzA)dzm. (И) Наконец, применяя формулу A1) к функции уг (у) = ф (yg"), мы получаем окончательно следующую связь между опера- операторами F и В: ' Fq>(y) — Д<р(у)= fy(ty)dt— f q>(y)dy. A2) Итак, имеет место следующий результат. Операторы преобразования Фурье F и орисферического преоб ра- зования В совпадают на подмножестве Ш функций Шварца — Брюа, удовлетворяющих следующим двум дополнительным условиям: 1) У/Q* 2) Г ф (ty) dt — 0 для любого у ? У. A/Q* всюду плотно Нетрудно проверить, что множество в пространстве Z.2(?2). В этом можно убедиться, вычисляя ортогональное до- дополнение к множеству функций, удовлетворяющих усло- условию 1) или условию 2). Например, в первом случае мы получим, что функции из ортогонального дополнения должны быть постоянны на Q и, следовательно, равны нулю, так как мера Q бесконечна. 10] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 399 Заметим, что оператор В переводит функции Шварца — Брюа в функции, вообще говоря, не являющиеся функциями Шварца—Брюа. Однако функции ф, удовлетворяющие до- дополнительно условиям 1) и 2), он переводит в функции Шварца — Брюа (поскольку этим свойством обладает опе- оператор преобразования Фурье F). 10. Орисферическое отображение и оператор М. Рас- Рассмотрим пространство L2(X), X = Г \GA. Сопоставим ка- каждой функции / (х) ? Z-2 (X) ее интегралы по компактным орисферам в X: ( / fz, A) где xQ — точка из X, отвечающая единичному классу. Соот- Соответствие назовем орисферическим отображением. Очевидно, что функция ф (g) удовлетворяет для любых b?DQ и z?Za следующему условию Ф (dzg) = ф (g). Таким образом, ее можно рассматривать как функцию в пространстве орисфер Q и писать ф(у) вместо ф(^). Пусть Н° — ядро орисферического отображения, Н' — об- образ пространства L2 (X) при орисферическом отображении. Введем в Н' скалярное произведение, положив Н' = L2 Это скалярное произведение мы обозначим через [т^, ij;2]. В п. 4 было показано, что спектр представления в про- пространстве Н° является дискретным конечнократным. В этом и в следующем пункте будет изучен спектр пред- представления в пространстве Н'. С этой целью введем опера- оператор М. Пусть г|) (у) — произвольная функция Шварца — Брюа на Q. Эта функция задает функционал в пространстве Н" по формуле (г|з, <p) =
400 ГЛ. Г11. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [10 В конце этого пункта мы покажем, что (ij;, ср) — линейный непрерывный функционал в пространстве Н'. Отсюда на основании теоремы Рисса будет следовать, что C) где Mty?H', а квадратные скобки обозначают скалярное произведение в Н'. Тем самым мы определили оператор М, отображающий функции Шварца—Брюа в пространстве Q в функции из Н'. Отметим следующие свойства оператора М. 1. Оператор М перестановочен с oneраторами представления Т (g), m. e. M№(yg)]=(Mty)(yg) D) для любой функции Шварца—Брюа г|з(у). Это непосредственно следует из определения оператора М. 2. (М$, г|з)>0 E) для любой функции Шварца — Брюа -ф (_у); круглые скобки обозначают скалярное произведение в Z.2(Q). Это непосредственно следует из равенства (АГг|з, г|))=[Мг|), МЩ. F) 3. Функции Mty, где \\> пробегает функции Шварца — Брюа на Q, об разуют в Н' всюду плотное множество. В самом деле, предположим, что это не так. Тогда в Н' существует такая функция /фО, что [/, Mty] = 0 для любой функции Шварца — Брюа г|). Согласно определению оператора М, отсюда вытекает, что (/. Ч>) = 0 G) для любой функции Шварца — Брюа г^; круглые скобки обо- обозначают скалярное произведение в Z.2(Q). Но это невоз- невозможно, поскольку функции \р образуют в L2 (Q) всюду плотное множество. Приведем теперь доказательство того, что функционал Сф, Ф), определенный равенством B), действительно является непрерывным линейным функционалом. Очевидно, что это 101 § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 401 утверждение непосредственно вытекает из следующего нера- неравенства: I |ф (У)\ dy <С с\\ф ||^,t (8) к где /С—произвольное компактное множество в Q, а с — по- постоянная, зависящая только от К- Это неравенство мы сейчас и докажем. Предварительно заметим, что если С—компактная ори- сфера в пространстве X, то близкие к ней компактные ори- орисферы с ней не пересекаются *). Семейство компактных орисфер xozg на X задает много- многозначное отображение X—>Q, ставя в соответствие каждой точке из X проходящие через нее орисферы. Пусть К — компактное множество в Q. Из сделанного выше замечания и из леммы Гейне — Бореля следует, что каждая точка из X имеет лишь ограниченное число образов, лежащих в К- Разобьем К на малые части Kt, каждая из которых со- состоит из семейства попарно непересекающихся орисфер; пусть Kt — прообразы множеств Kt в пространстве X. Тогда для любого прообраза ф* (х) функции ср(у) при орисфери- ческом отображении A) мы имеем к к, где с = 2 I1 () Так как ф* (х) — любой прообраз, то мы можем взять по ним нижнюю грань и тем самым заменить ||ф* \\н на ЦЦ Этим неравенство (8) доказано. *) В самом деле, рассмотрим для определенности орисферу xoz. Пусть орисферы xozgn, gn -> e пересекаются с ней. Это означает, что 2g yz' где ч?\\ гя, z'n?ZА. Так как ziv z'n можно что где взять из компактного множества Z \ Zд, то можно считать, что zn^>2, z'n^>z'. Перейдя к пределу, получим, что yn^-y^ZQ. В силу дискретности Г это означает, что, начиная с некоторого п, имеем уп ? ZQ, а потому gn ? ZД. Следовательно, орисфера xQzgn совпадает с xoz. 26 И. М. Гельфанд и др.
402 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [П 11. Явное выражение для оператора М. Здесь будет показано, что оператор М задается следующей фор- формулой: '(У)=="Ф(У)+ fq(yoszg)dz, A) zA i ° i\ где 5=1 . _ I . Иными словами —1 0/ АГ = где Е— единичный оператор, а В— о рисферический автоморфизм, определенный в п. 9. Для вывода этой формулы преобразуем левую часть ра- равенства B) Q в интеграл по А". Мы сделаем это в два приема. Сначала перейдем от Q=DQZA\GA к DQZQ\GA, а затем от DQZQ\QA к X. Итак, преобразуем сначала интеграл / Ф (У) М> (У) dy в интеграл по DqZq \ GA. Заменим функцию ф (у) ее прообразом ф (g) — функцией на GA, принимающей на каждом классе смежности у —- DQZAg постоянное значение ф(у). Точно так же мы поступим и с функцией г|)(з>)- Тогда очевидно, что C) (меры в Q и в DqZq \ qq л нормированы так, чтобы мера пространства ZQ \ ZА равнялась единице). Поскольку q>?H', т. е. является образом некоторой функции f{x)?H при орисферическом отображении, имеем <f>(g)= f(zg)dz, П] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 403 где f (g)— естественное продолжение функции /(х) с про- пространства X — Г \ GA на группу GА. Так как функция ty(g) постоянна на классах смежности по DQZA, то, как легко убедиться, = f DqZq\Qa D) Итак, на основании C) и D), мы получаем следующее равенство: E) DQzQ\aA где / (g)— прообраз функции ф (у) при орисферическом отображении. Преобразуем теперь интеграл в правой части равенстваE) в интеграл по X — Г \ GA. Заметим, что функция /(g) по- постоянна на классах смежности Г \ GА. Пусть F — фундаментальная область в QА относительно подгруппы Г. Тогда множества yF, где \>€Г. покрывают GA без повторений. Спроектируем все эти множества на DqZq \ GА. Образы множеств ytF и y2F либо совпадают (если у-гуг? DQZQ\ либо не пересекаются. Элементы у, и Уг> для которых образы множеств Yi^" и У^ совпадают, назовем эквивалентными. Мы можем тогда написать DqZq\OA = 2' f F) где суммирование ведется по неэквивалентным у. Нетрудно убедиться, что правая часть равенства F) схо- сходится абсолютно, а потому мы можем поменять местами суммирование и интегрирование. В результате, на основа- основании E) и F), мы получаем следующее равенство: Q = f F G) 26*
404 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Заметим, что 2 Y среди эквивалентных (так классах смежности DqZq \ Yog"- Yo 6 Г. Следовательно, классах смежности Г \ GА, а функция, заданная на X ~ f (§) )¦ Итак, имеем не зависит от выбора элементов у как функция г|? (g) постоянна на ОА) и не меняется при замене g на функция ^j'^iyg) постоянна на потому может рассматриваться как = Г \ GА (равно как и функция /фОО"ФОО<*У= Г / (дт) -фг (х) dx. где (8) (9) Покажем, что функция \р1 (х) ортогональна к Н°. Дей- Действительно, пусть / (х) — произвольная функция из И0 и <р (у) — ее образ при орисферическом отображении. Тогда, по определению Н°, имеем ф(у) = 0, а потому, в силу (8), Из ортогональности ^>1 к Н° следует, что f f(x) ^~ A0) где ipi — образ функции tJ), при орисферическом отображении. Сопоставляя (8) и A0) с исходным равенством B), мы получаем, что откуда Итак, установлено что применение оператора М к функ- функции г|з(_у) сводится к следующим операциям. Сначала по функции 4>(у) строится функция 121 § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 405 Затем к функции ij;, (x) применяется орисферическое отобра- отображение. Таким образом, оператор М задается следующей формулой: / 2' A1) в 2 из каждого класса смежности DQZQy берется по одному представителю; g — произвольный элемент из класса смеж- смежности DQZA \ Од, отвечающего у. Преобразуем формулу A1). Для этого выделим в сумме 2 слагаемое, отвечающее единичному классу —ty(zg) = = i|;(g-). Нетрудно убедиться, что каждый из оставшихся классов смежности DQZQy содержит по одному представи- телю вида sz'. где зом, мы получаем / 0 1\ =l „I, z'?ZQ*). Таким обра- обра/ = ф (у) Очевидно, что суммирование по ZQ и интегрирование по ZQ\ZA сводятся к интегрированию по всему ZА. Итак, мы пришли к следующей окончательной формуле для оператора М: = "ф 00 + т. е. М = Е + В, где Е — единичный оператор, а В — орисферический авто- автоморфизм, определенный в п. 9. 12. Разложение пространства Н' на неприводимые представления. Переходим к формулировке и доказательству *) Это следует из того факта, что любую рациональную ма- матрицу у = I 1. У которой Ь Ф 0, можно представить в виде \с dj j где К ? D Q, 6 ZQ.
406 ГЛ. Ш. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [12 основной теоремы, описывающей, как разлагается простран- пространство Н' на неприводимые представления. Очевидно, что пространство Н' содержит в качестве инвариантного подпространства одномерное пространство констант С. Константы получаются при орисферическом отображении функций, постоянных на X. Следовательно, Н' разлагается в прямую сумму инвариантных под- подпространств Н' = С + Н", A) одномерного пространства С и его ортогонального дополнения Н". Будет доказана следующая основная теорема. Пространство Н" разлагается на те же непри- неприводимые представления группы GA, что и простран- пространство L2(Q), но в отличие от последнего содержит Каждое неприводимое представление с кратностью единица. Перейдем к доказательству теоремы. Рассмотрим множество Т1 функций Шварца — Брюа на Q, удовлетворяющих следующим условиям: 1) 2) / A/Q* J = Q для любого Покажем, что оператор М переводит функции \$>, удовлетворяющие условиям 1) и 2), в функции из Н". В самом деле, обозначая через 1 функцию, равную тож- тождественно единице на Q, имеем [1, Mty] = Таким образом, функция Alty ортогональна в Н' подпрост- подпространству констант, а потому она принадлежит Н". Легко убедиться, что функции Mty, где т|; пробегает 3№, об разуют в пространстве Н" всюду плотное мно- множество. Теперь покажем, что оператор М — Е продолжается с подмножества 9И функций Шварца — Брюа, удовле- 121 §¦4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 407 творяющих условиям 1) и 2), до унитарного само- самосопряженного оператора В на всем пространстве L2 (Q), причем этот оператор удовлетворяет следующему условию: В2=Е, где Е — единичный оператор. В самом деле, в п. 10 мы установили, что на мно- множестве Ш оператор М имеет вид где Е — единичный оператор, а В—орисферический авто- автоморфизм. С другой стороны, в п. 9 было установлено, что оператор В совпадает на множестве Ш с оператором пре- преобразования Фурье. Следовательно, оператор В продол- продолжается до унитарного самосопряженного оператора В в пространстве L2(Q,), удовлетворяющего условию В2 = Е. Отсюда непосредственно следует наше утверждение. Докажем теперь, что H"cL2(Q) B) причем Н" является областью значений оператора М, т. е. . C) произвольных функций справедливо следующее Сначала заметим, что для Шварца — Брюа из множества 30 равенство: [АГф, = ^-(уИф, Л*ф). D) где квадратные скобки обозначают скалярное произведение в пространстве И", а круглые — скалярное произведение в пространстве L2(Q). В самом деле, в силу определения оператора М, имеем [Мц>, УИг|)]==(уИф, г|з). С другой стороны, из равенства В2 = Е следует, что пространство L2 (Q) является прямой суммой собственных подпространств оператора М подпространства Но, отвечающего собственному значению 0 и подпространства Н2, отвечающего собственному значению 2. Обозначая через ф', т|/ проекции векторов ф и г|) на под- подпространство Н2, мы имеем Следовательно, (Лкр, MiJ>_) = 2 = 2[Л4ф, Му].
408 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АД ЕЛЕЙ [12 Теперь докажем, что H"czL2(Q). Пусть /?//". Тогда существует последовательность функций трп ? Ш такая, что Мтрп —> / в топологии Н". В силу D), последовательность Mtyn сходится и в тополо- топологии пространства L2 (?2). Пусть /' ?Z.2(Q) — предел этой последовательности. Тогда для любой функции Шварца — Брюа ф мы имеем (/, ф) = = [/, М<р]= lim [Л*ф„, Mq>]= lim [Мтрп, <р] = (/', <р). От- сюда следует, что /=/'. Этим доказано, что H"czL2{Q). Равенство C) непосредственно следует из того факта, что функции \\> ? 3?1 образуют всюду плотное множество в пространстве Z2 (Q), а их образы ЛГф образуют всюду плотное множество в пространстве Н". Утверждение доказано. Заметим, что пространство Н" можно охарактери- охарактеризовать, как собственное подпространство операто ра В=М—Е, отвечающее собственному значению 1. Это непосредственно следует из равенств Н" = ML2 (?2) и В2 = Е. Наконец, докажем, что пространство Н" имеет одно- однократный спектр. Из п. 6 мы знаем, что представление в пространстве L2(Q) разлагается на неприводимые представления, действующие в пространствах Нл однородных функций. При этом пред- представления в пространствах Ня и Hn-i, и только они, являются эквивалентными представлениями; таким образом, неприво- неприводимые представления содержатся в L2 (Q) с кратностью 2. Оператор В, поскольку он перестановочен с операто- операторами представления, переводит сумму эквивалентных прост- пространств в себя. Из формулы для преобразования Фурье, с которым, как известно, совпадает В, следует, что т. е. В переставляет пространства Нл и //л-1. Отсюда следует, что оператор М = Е-\- В переводит пространство ^я + ^л-' в подпространство Н" функций 13] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 409 вида ярл-р- ?%t! 'Флб-^л- причем это подпространство эквива- эквивалентно пространствам Нп и Нп-\. Тем самым доказано, что представление в пространстве Н" = ML2(Q) имеет одно- однократный спектр. Теорема доказана. 13. Связь оператора орисферического автоморфизма В с /.-функцией Дирихле. В этом пункте мы построим неко- некоторую систему функций фя ? Ня, для которых будет найдено явное выражение оператора В. Получаемые формулы инте- интересны тем, что они устанавливают связь между фак- фактом вырождения оператора М = Е-{-В в пространствах Нп-\-Нп-\ и функциональным уравнением для ^-функции Дирихле. Вначале напомним описание всех характеров я (А,) на группе иделей, равных тождественно единице на подгруппе Q* главных иделей. Пусть ) я , л2, . . ., характер на группе иделей я. = (>,„, ; т. е. л (Я.) = ^ (Я,^) Входящие в это произведение характеры могут быть запи- записаны в следующем виде: A) A0 = 2. 3, 5, ... Здесь s, sp—любые комплексные числа; v=0, 1; в (Я,„) — такой унитарный характер, что При этом лишь конечное число характеров Qp (Xp) не равно тождественно единице. Условие того, что характер я (Я.) равен тождественно единице на подгруппе главных иделей Я,, эквивалентно,
410 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ очевидно, следующим соотношениям: Я„(—1)Я2(—1)...Я^(—1) ... =1 и Лоо О) Я2 О) - - • Л A3 для любого простого числа р. Подставляя сюда выражения для я^О:), я^л;), ..., яр О) получим 62(— 1) . . . 8,(—1) . . . = Signv(— 1); Ps'spQ2(P)...Qp(p) ... = l. B) Обозначим через 8 (А,) унитарный характер на мультиплика- мультипликативной группе рациональных чисел, определенный по фор- формуле 9(я,) = е2(А.)...ер(я,)... C) Тогда условия B) можно записать в виде в(— l) = signv(— 1), р*Р=р* Итак, любой характер на группе иделей, равный тождественно единице на подгруппе главных иделей, имеет следующий вид: яр (А.,) = = 1, 3, .... D) E) где Q (Хр)—произвольно заданные характеры такие, что 9р(/?)=1, s—-произвольное комплексное число, а показатели v и sp определяются из условий signv(— 1)==в(— 1), psP = p*Q(p). где в(Я) = в2(Я.)...вр(Я,) X?Q*. Всюду дальше рассматриваются только такие харак- характеры л (А,). 131 § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 411 Продолжим каждый из характеров лр(кр), определенных формулами D) и E), до характера, заданного на квадра- квадратичном расширении поля. Именно, характер "со Осо) = I *оо ? signvjcoo, определенный на мультипликативной группе вещественных чисел, мы продолжим до характера на группе комплексных чисел согласно следующей формуле: Далее, характер определенный на мультипликативной группе поля /?-адиче- ских чисел Qp, мы продолжим любым способом до харак- характера на квадратичном расширении Qp(Y^e~) поля Q , где Ер — элемент поля с нормой 1 (не являющийся квадратом в поле Qp). Полученный характер обозначим той же буквой пр. Будем точки основного аффинного пространства обозначать следующим образом: а =((х, у), (х2, у2), .... (хр, ур), ...). Введем функции следующего вида: фA) (а) = F) G) = ясо(лг- iy)\x— iy\~l J\ np(xp — VT^yp)\ xp— р Наша задача — вычислить где В — оператор орисферического автоморфизма.
412 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Очевидно, что [х -f- iy) | х -f- «з» |-1)Х j X П BP («„ (xp + V4 у„) I xp + = Вю (Яоо (* — ty) \x — iy Г1 )X I'1)- (8) ). (9) где Bp— оператор орисферического отображения, отвечаю- отвечающий группе матриц над полем /?-адических чисел. Формулы для операторов Вр были получены в гл. II, § 3, п. 11: Дэо (яоо (х + 1У) I х -\~ 1У Г1) — ^~ (Яоо) я^1 (х — ty) \x— iy\~l. где (S 1 \ — Т' Ifj ' когда v = О, /В (— S~ , -i-j , когда v = 1 (В(х, у) — классическая бэта-функция); (я,») = Вр (пр ( ур) | хр где (яр) = 1 — 1 пр ! (хр — Vz~p Ур)\хр — 1Ур I 1г когда Qp (Хр) == 1, ~т[1рь (яр), когда 6р (Я,р) # 1. Здесь /г—ранг характера 6^,, т. е. наименьшее натуральное число п, для которого Qp A -+- p"s) = 1 при |s|<;i; I(VI 1 На основании этих формул получаем, что A0) где 13] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 413 Аналогично, на основании формул гл. II мы полу- получаем, что пB) 1 B>/ \ A) (И) где ' причем сомножители l}^ (пр) связаны с А,р'(лр) следующими соотношениями: я;1) = /?-% (—1), где п — ранг характера 6р. Напишем явное выражение для А,A) (л) и ХB) (л). Мы увидим, что А,A) (л) и Я-B) (я) выражаются через Z, — функ- функцию Дирихле. Для определенности рассмотрим случай, когда v=0, т. е. Введем следующие обозначения. Пусть А1—множество про- простых чисел р, для которых кр (хр) = | хр |SP; Л2—дополни- Л2—дополнительное множество простых чисел. Тогда имеем на основа- основании приведенных выше формул: О", где пр—ранг характера Qp(xp), |a|=l. Запишем это вы- выражение в другой форме. Напомним, что где Введем функцию б (р) на множестве целых чисел п определив ее следующим образом.
414 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [13 Если га — (—l)8/?fei . . . р*$— разложение числа га на про- простые сомножители, то 9 (га) = 9 (га), когда р1г ..., ps все принадлежат Alt 9 (га) = 0 в противном случае. Легко убедиться, что 6 (га) является периодической функ- функцией с периодом П т. е. 9 (га + k) = 9 для любого целого га Ф 0. Таким образом, выражение для А,Л)(я) может быть за- записано в следующей форме: 4 1 — е 4 (9) о, где k F) — период характера 9 (га), | а | = 1. Произведение L(s, в) = ПA-§ называется ^-функцией Дирихле. Итак, коэффициент Х( '(я) выражается через L-функ- цаю Дирихле согласно следующей формуле: V 2 2 Аналогично мы получаем l L(\—s, в) g. F) а. s, в) Как было показано в п. 12, квадрат оператора ZJ есть еди- единичный оператор: В2 = Е. A2) Поскольку В<$ = ХA) (я) ф^1, и Вф^2!, = Я,B) (я) Ф^- то равенство A2) эквивалентно следующему соотношению: 13] § 4. ГРУППА АДЕЛЕЙ ГРУППЫ МАТРИЦ 2-ГО ПОРЯДКА 415 Подставляя сюда явные выражения для А,()(я), А,B)(я J), получаем 2 1 2 /. A — s, A+5,6) 6) Итак, установлено, что ^^словие В2 = Е или, что равно- равносильно, условие вырождения оператора М =z E -\- В на каждом пространстве Нл-\-Нл-1 эквивалентно функциональ- функциональному соотношению A3) для ^-функции Дирихле. Соотношение A3) является следствием известного функ- функционального соотношения для ^-функции Дирихле: —s. в) = = тF)Bя) где ~5 (s) UT "в (—1L- ¦(s, в). A4) т(в) = 1, когда 9(—1)=1, i, когда 9(—1) = — 1. В самом деле, в нашем случае 9(—-1)=1. Поэтому из функционального соотношения A4) следует, что H—S, e)A(S,I) fc_i ,Q4 L A—s, 9) L -s, 9) s sin its 4jtCO22 — S С другой стороны, имеем я j ssin^-s " я л; cos — s its 1Г s sin .TtS A5) A6) Соотношение A3) непосредственно следует из равенств A5) и A6). В случае, когда v= 1, т. е.
416 гл. ni. представления групп аделей мы имеем следующие выражения для ЛA> (л) и ЯB) (тс): Я,B) (л-') = /В — ' 2) Z.(l—s, в) -+- s. в) Таким образом, в этом случае равенство В2 = Е оказывается эквивалентным следующему соотношению: — s, s, 0) где в(— 1)=— 1. Легко убедиться, что это соотношение также является след- следствием соотношения A4) для L — функции Дирихле. ДОБАВЛЕНИЕ К §4 1. О связи между однородным пространством GQ\GA и однородными пространствами группы G^. Здесь будет выяснена связь между однородным пространством Gq\Ga и однородными пространствами Тт \ G^ группы Ою веществен- вещественных унимодулярных матриц 2-го порядка, где Гт — конгруэнц- подгруппа. Напомним, что конгруэнцподгруппа Гт, где т—любое натуральное число, состоит из всех целочислен- целочисленных унимодулярных матриц вида где е — единичная матрица, у' — целочисленная матрица. Рассмотрим пространства Нт = L2 (Гт \ О^). По опре- определению, эти пространства состоят из функций / (g) на GmI удовлетворяющих следующим условиям: 1) /(.yg)-f(g) Для любого Y6rm> / 2) Очевидно, что если т делится на п, то Гш сг Г„, а потому для соответствующих пространств имеет место обрат- обратное включение Н„ сг //_. ц ДОБАВЛЕНИЕ К § 4 41? Таким образом, пространства Нт образуют прямой спектр. Мы покажем, что предел по спектру пространств Нт есть пространство L2{X) — L2(GQ\ GA). Для доказательства установим изоморфизм пространств Нт с некоторыми подпространствами пространства LQ(X), кото- которые сейчас будут определены. Обозначим через Um, где т — любое натуральное число, подгруппу аделей вида # = A, «2, • • ., ир, . . .). удовлетворяющих следующим условиям: 1) tip^Up, где Up— подгруппа целочисленных /?-ади- ческих матриц, р = 2, 3, 5, 7, ... 2) если т делится на р", то ир^ е (mod рп), где е—еди- е—единичная матрица. Очевидно, что подгруппы U компактны и что среди этих подгрупп имеются сколь угодно малые (т. е. в любой окрестности единичного элемента группы G А содержится хотя бы одна такая подгруппа). Обозначим через 1^т) (X) подпространство функций из L2(X), удовлетворяющих следующему условию: (тN(/(т). Um'czUn), а потому для соответствующих пространств Дт) (X) и 1^п) (X) имеет место обратное включение: Lin) (X) cr L(m) (X). Таким образом, пространства L^ (X) образуют прямой спектр. Их предел по спектру совпадает со всем простран- пространством L2(X). (Это следует непосредственно из того, что среди подгрупп ?/<т> существуют сколь угодно малые.) Мы Докажем, что m) A) f(gu(m)) = f(g) для любого Очевидно, что если т делится на п, то Предварительно докажем, что B) 27 И. М. Гельфанд и др.
418 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Для доказательства изоморфизма B) воспользуемся следую- следующим результатом. Для любого аделя g и любого нату рального числа т существует такой главный адель \, что yg — ?foo«(m), где g^^ig^, 1.1....) а и(т) ? U(m). (Этот результат по существу был установлен в п. 2. Правда, этим мы дока- доказали более слабое утверждение: существует такой главный адель у, что yg = gQOuA). Однако, несколько видоизменяя рассуждения п. 2, нетрудно получить и сформулированный здесь результат.) Из сформулированного результата вытекает, что в каждом двустороннем классе смежности Gq \ GА / U{m) содержатся представители вида g^ = (g^, I, ..., 1, . . .). Покажем, что множество элементов g^^GM, отвечающих одному и тому же двустороннему классу смежности GQ\ GA / U'm\ образует класс смежности Г^^. Тем самым будет установлено взаимно однозначное соответствие GQ\GA/U (т) \ оп C) В самом деле, два элемента g^, g'^ принадлежат одному и тому же двустороннему классу тогда и только тогда, когда они связаны между собой соотношением где y = (Y> •••»Y' • • ¦) — главный адель и и(т) венство D) означает, что A. Y Y. •¦•)( ygoc = gL- D) U(m). Pa- E) F) Но, как легко убедиться, условие E) равносильно условию, что у^_Тт. Таким образом, соотношение D) эквивалентно условию, что ygoo = g'ao. где Y€Tm. Итак, мы установили взаимно однозначное соответствие между точками пространств Гт \ G^ и GQ \ GA / U{m). Не- Нетрудно убедиться, что это соответствие является гомео- гомеоморфизмом. ДОБАВЛЕНИЕ К § 4 419 Установленное соответствие индуцирует взаимно одно- однозначное соответствие Фиг / teoo) -»" F iS) между функциями, / (g^)- g^ 6 G^, постоянными на классах смежности Гга \ G^, и функциями F (g), g?GA, постоянными на двусторонних классах смежности GQ \ GA/U(m). Легко проверяются следующие свойства отображения ц>т. 1) Образом пространства L2 (Гт \ G^) при отображении ц>т является пространство L^iX). 2) фш является изометричным отображением \ L2{Ym\Gm) на L2n 3) Для любых натуральных чисел т, п, где т делится на /г, следующая диаграмма является коммутативной: \ (Вертикальные стрелки обозначают изоморфизм вложения.) Проверка этих свойств предоставляется читателю. Итак, для любого т мы установили изометрическое ото- отображение пространства L2 (Гт \ G^) на пространство L[m) (X). В силу свойства 3), предел по спектру пространств ^2 (Г1/» \ ^со) изоморфен пределу по спектру пространств Дт) (X), т. е. изоморфен пространству L2(X). Таким образом, доказано, что прямой спектр пространств L2(Tm\GiX) изоморфен пространству L2(X)*). На самом деле имеет место более сильный результат. Именно, пространство L2(X) естественно рассматривать как модуль над кольцом 5 (GA) функций Шварца — Брюа на группе GА. Умножение функций /(g)^L2(Xy на элементы кольца ф (g) ? 5 {GA) определяется следующей . формулой: ф ф G) *) Попутно отметим, что пространства Г;п\ G^ ^ й„ образуют^ обратный спектр, и их предел по спектру есть простран- пространство G^\G,. ..-¦-. 27*
420 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ С другой стороны, каждое из пространств L,im) (X) ^ Нт является модулем над подкольцом Sm (GA) функций Шварца — Брюа, постоянных на двусторонних классах U(m) \ GA/U^mK Легко убедиться, что пространство L2(X), рассма- рассматриваемое как модуль над кольцом S(GA) функций Шварца—Брюа на группе GA, является в естествен- естественном смысле *) прямым спектром пространств L2m)(X)^Hm, рассматриваемых как модули над под- кольцами Sm (GA) функций Шварца — Брюа, постоянных на двусторонних классах смежности ?/(m) \ GA/U(m). В заключение выясним, как элементы кольца Sm (GA) действуют в пространстве Нт— L2(Tm\ G^). Заметим, что кольцо Sm (GA) является тензорным произ- произведением двух колец: где 5 (G^) — кольцо функций на группе О^, a Sm (Ga) — кольцо функций на группе Ga аделей вида A, g2, • - •, gp, • • •), постоянных на двусторонних классах смежности Um \ Ga/Um. Очевидно, что элементы фб^(^оо) действуют в про- пространстве Нт— L2(Tm\Gca) по формуле e'oo) Ф (g *) Приведем общее определение прямого спектра модулей. Пусть задана совокупность колец Rm и совокупность /?га-модулей Нт, где т пробегает некоторое частично упорядоченное множество индексов (как обычно, предполагается, что для любых тъ т2 сущест- существует такое т, что т?— ти т$—т2). Предположим, что каждой упорядоченной паре индексов п —§ т сопоставлены мономорфизм Ф Ф Rn ——-> Rm кольца Rn в кольцо Rm и мономорфизм Нп — пространства Нп в пространство Нт, удовлетворяющие следующим условиям: 1) ЕСЛИ р-$т-$П, ТО ЦртУтп — Фрл. %тУ>тп = ^рп, 2) если г € Rn, h € #„, то флт {гК) = (рпт (г) ^„т (h). В силу условий 1) и 2) мономорфизмы срлт и г|злт можно интерпре- интерпретировать как вложения. Пусть Н — предел по спектру пространств Нт, R — предел по спектру колец Rm. Тогда в И естественным образом вводится структура /?-модуля. Полученный /^-модуль Н и называется прямым спектром /?от-модулей Нт. ДОБАВЛЕНИЕ К § 4 421 Поэтому остается выяснить, как действуют элементы кольца Sm(GA). Предварительно заметим, что в силу результата, сфор- сформулированного на стр. 418, любой элемент группы Ga пред- представим в виде g = yu(m\ (8) где u(m)?U(m\ y=0> Y. •••. Y' • • •). Y — матрица над полем Q. При этом матрица y определена однозначно, с точ- точностью до умножения справа на элементы из Гт. Отсюда непосредственно следует, что U(m) \Ga/ U(m) ^rm\GQ/Гт, а потому кольцо Sm(GA) изоморфно кольцу Sm(GQ) функций на Gq, постоянных на двусторонних классах смежности Тт \ GQ/rm (и отличных от нуля лишь на конечном множе- множестве таких классов). Напишем, как действует кольцо Sm(GA) в пространстве L2m) (X). Как мы знаем, произведение функции / ? L2n\X) на ф ? Sm (GA) выражается следующей формулой: ')q>(g')dg'. Ф (g)*f (g)= Подставляя сюда вместо элемента g' выражение (8), получаем Ф*/ = 2 / №'">) Ф (уи(т)) du(m) = = mest/(m) 2 /teY)<P(Y). О) Перейдем теперь от пространства L2 (X) к изоморфному ему пространству Нт— L2(Tm\ G^). Напомним, что соот- соответствие между функциями / (g) ^ Z,^' (X) и функциями F (gaJ g L^ (Гт \ G^) осуществляется по формуле * === * где goo= (gaz- 1 1, . . .). Очевидно, что при этом соот- соответствии функции fy(g) = f(gy) отвечает функция Fx (,g-oo) =
422 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Таким образом, в пространстве Hm = L2(Yn \ Оте) умножение на элементы кольца 5Ш (Gq) ^ 5m (Ga)" выра- выражается следующей формулой: cp*F=c где A0) k-l Пусть cpYo обозначает характеристическую функцию двусто- двустороннего класса смежности Тту0Тт. Поскольку любая функция Ф ? Sm (G ) является линейной комбинацией функций ф , то для задания закона умножения на элементы кольца S (G ) достаточно указать закон умножения на функции ф%. На основании общей фор- формулы A0) мы имеем где суммирование ведется по множеству классов \Тт, входящих в заданный двусторонний класс Тту0Тт. Нетрудно убедиться, что это множество всегда конечно. Оператор F -> Фу,,*/7 называется оператором Гекке. 2, Обобщенная гипотеза Петерсона. В этом пункте нам будет удобнее вместо группы унимодулярных матриц 2-го порядка рассматривать проективную группу, т. е. пол- полную группу матриц 2-го порядка, факторизованную по ее центру. Обозначим эту группу через О. Выскажем гипотезу о спектре пространства L2 (OQ \ ОА), которую мы назовем обобщенной гипотезой Петерсона. Рассмотрим неприводимое унитарное представление Т (g) группы GA. Согласно § 3, оно является тензорным произве- произведением : . ' • неприводимых унитарных представлений Tp(gp) групп О, причем все Тр (gp), кроме конечного числа, являются пред- представлениями класса 1. Гипотеза 1. Если неприводимое унитарное пред- представление T(g)—Tuo(gco)(Z.T1(g2H .....®Tp(gp)® ... принадлежит дискретной части спектра простран- 21 ДОБАВЛЕНИЕ К § 4 423 ства L2(OQ\ Ga), то среди представлений Tp(gp) лишь конечное число может принадлежать дополнительной серии. Мы покажем здесь, что для частного случая, когда Tqo(S'oo) — представление дискретной серии, эта гипотеза экви- эквивалентна гипотезе Петерсона, которая будет сформулиревана ниже. При этом мы воспользуемся установленной в п. 1 связью между пространствами GQ \ GA и Гт \ G^. (Эта связь была установлена для случая группы унимодулярных матриц, однако все сказанное там переносится без изменений на группу дробно-линейных преобразований.) Рассмотрим автоморфные формы веса п относительно конгруэнцподгруппы Гт, т. е. аналитические функции / (z) на полуплоскости Im z > 0, удовлетворяющие для любого = (ve) из условию где tf^TSFpT1 J(Z' ^ = VZ+6- В § 4 главы I было доказано, что размерность прост- пространства автоморфных форм веса п конечна и равна крат- кратности, с которой соответствующее представление Т„ (g) дискретной серии содержится в L2(Tm\Goo). Сопоставим каждому двустороннему классу смежности ГтуГт группы матриц с элементами из поля рациональ- рациональных чисел по подгруппе Гт оператор 5™'" в пространстве автоморфных форм веса п относительно подгруппы Гт: (Y) f(ytz)J-a(z, A) где сумма берется по множеству классов смежности Tmyit входящих в заданный двусторонний класс TmyYm; ny — число таких классов. (Как уже отмечалось в п. 1, это мно- множество всегда конечно.) Операторы 5V' будем называть операторами Гекке в пространстве автоморфных форм. Без труда проверяется, что операторы Гекке переводят авто- автоморфные формы снова в автоморфные формы.
424 ГЛ. lit. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ В дальнейшем будем рассматривать лишь операторы Гекке отвечающие матрицам где р — простое число, не делящее числа т. Для краткости обозначим эти операторы через Sp. Нетрудно убедиться, что операторы Sp являются само- самосопряженными и что они коммутируют между собой. Таким образом, пространство автоморфных форм может быть раз- разложено в прямую сумму одномерных пространств, инвариант- инвариантных относительно операторов Sp. Обозначим через Хр1), . . . .... hp (s — размерность пространства автоморфных форм) собственные значения операторов Гекке Sp на этих под- подпространствах. Гипотеза 2 (Петерсона). Для всех простых р, за исключением, быть может, конечного числа таких р, имеет место следующая оценка для собственных зна- значений операторов Гекке Sp: k=\. S- Здесь будет установлена связь между гипотезами 1 и 2. Именно, будет показано, что гипотеза 1 для частного случая, когда Tco(ga0)—представление дискретной серии с номером п, эквивалентна гипотезе Петерсона для пространства автоморфных форм веса п. Для этого установим соответствие между неприводимыми представлениями Т (g) группы GA, принадлежащими дискрет- дискретному спектру пространства L2(GQ\GA), и автоморфными формами. Итак, пусть неприводимое представление группы GА, принадлежащее диск- дискретному спектру пространства L2 (GQ\GA); Н a L2 (GQ\GA) — подпространство, в котором действует это представление. При этом предполагается, что T^ig^)—представление дис- дискретной серии с номером п. Разберем сначала случай, когда все представления ¦••> Tp{gp), ... являются представлениями класса 1. 21 ДОБАВЛЕНИЕ К § 4 425 т. е. каждое из них является представлением основной или дополнительной серии. Рассмотрим проекционный оператор Я,= fT(u)du, ?/A) где интеграл берется по подгруппе if ) аделей вида A, и2, ¦ ¦ ¦ i ир, . . .), Up(z Up ~" подгруппа целочисленных /?-адических матриц. Оператор Р1 проектирует простран- пространство Н cz. L2 (GQ \ GA) в некоторое подпространство A) ^ \ Ga) (по поводу обозначений см. п. 1). В силу '? (Oq \ GA) ^ L2 (Г! \ Gco), НA) отвечает подпространство Нт Нетрудно убедиться, что //A) — инвариантное неприводи- неприводимое подпространство пространства L2(Tl\Gao), рассматри- рассматриваемого как модуль над кольцом 5 (OJ ® S1 (GQ), где Sj (GQ) — кольцо функций на Gq, постоянных на двусторонних клас- классах смежности Tx\Gq/Tv При этом действующее в Н^ представление группы G^ принадлежит дискретной серии и имеет номер п. В силу теоремы двойственности, пространству //(П можно сопоставить одномерное подпространство автоморфных форм. Это подпространство автоморфных форм обладает следую- следующими свойствами, проверка которых предоставляется читателю: 1) оно инвариантно относительно операторов Гекке So; 2) собственные значения операторов Sp на этом подпро- подпространстве выражаются следующей формулой: изоморфизма подпространству B) где v — число классов смежности ном двустороннем классе , содержащихся в дан- /1 0\ ур=1 ), a <pp(gp) — элементарная сферическая функция, отвечающая представле- представлению Tp{gp).
426 ГЛ. Ш. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [2 На основании формулы B) нетрудно получить явное выражение для Яр. Прежде всего, заметим, что vp равно индексу подгруппы Т{р) = урГ1у~1[]Т1 в группе Гх *). Подгруппа Г(р) ' a b состоит из всех целочисленных матриц g = I ) , у кото- которых с кратно р. Следовательно (см. Добавление к гл. I, стр. 159), С другой стороны, простой выкладкой, аналогично при- приведенной в гл. II, § 3, п. 10, для случая унимодулярной группы получаем где s—«номер» представления Tp(gp), т. е. мнимое число в случае представления основной серии и вещественное число из интервала — 1 < s < 1 в случае представления дополни- дополнительной серии. Таким образом, собственное значение оператора Гекке на одномерном подпространстве автоморфных форм выра- выражается следующей формулой: К = 2 (sp In p). C) Итак, каждому неприводимому представлению Т (g) = = ты (О ® Т2 CSb) ® •¦• ®Tp(gp)® ¦•¦ группы GA, при- принадлежащему дискретной части спектра пространства ^2(°<э\°л)> г^е Thieve)—представление дискретной серии с номером п, a T2(g2) Tp(gp), ...—представления класса 1, мы сопоставили одномерное пространство авто- автоморфных форм веса п относительно модулярной группы Tv Это пространство инвариантно относительно операторов *) В ствие \ ности G самом деле, имеет место взаимно однозначное соответ- соответ-^ yypYi между классами Г,/Г(о) и классами смеж- смежпринадлежащими двустороннему классу 2] ДОБАВЛЕНИЕ К § 4 427 Гекке Sp, причем собственные значения Хр операторов Sp выражаются через номера sp представлений Tp(gp) по фор- формуле C). Осуществляя приведенную конструкцию в обратном по- порядке, мы можем по заданному одномерному подпространству автоморфных форм, инвариантному относительно операто- операторов Гекке, построить неприводимое представление T(g) = = ^00 GO <& T2 (g2) ® ... &Tp(gp)® ... группы GA, при- принадлежащее дискретному спектру пространства L2(GQ\ GA), где Т^ (goo) — представление дискретной серии с номером п, a T2(g2), .... Tp(gp), ...—представления класса 1. Аналогичная конструкция имеет место и в случае пред- представлений Т (g) = T^ GO ® T2 (g2) ® ... ® Тр (gp) ® .... где некоторые из представлений Tp(gp) не принадлежат классу 1. В этом случае можно всегда указать такое /п, что в про- пространстве представления Т (g) существует вектор, инвариант- инвариантный относительно операторов Т (й), и ? Lr-m . (Определение подгруппы U{m) см. на стр. 417.) Тогда, повторяя предыдущую конструкцию, мы можем сопоставить этому представлению автоморфную форму отно- относительно подгруппы Гт, являющуюся собственной функцией операторов Гекке S р, где р пробегает простые числа, не делящие /га. При этом собственные значения операто- операторов Sp, отвечающие этой форме, по-прежнему выражаются формулой C). Обратно, если задана такая автоморфная форма, то по ней однозначно строится неприводимое пред- представление группы GA, принадлежащее дискретному спектру пространства L2(Gq\Ga) и содержащее вектор, инвариант- инвариантный относительно подгруппы t/(m). Из установленного соответствия между представле- представлениями Т (g) и автоморфными формами и из формулы C) для собственных значений операторов Гекке непосредственно сле- следует эквивалентность гипотезы Петереона и частного случая гипотезы 1. Для этого достаточно заметить, что, в силу формулы C), неравенство /7 D) имеет место тогда и только тогда, когда «номер» sp пред- представления Tp{gp) есть мнимое число, т. е. это представле- представление принадлежит основной серии.
428 ГЛ. lit. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [1 Итак, гипотеза Петерсона о том, что неравенство D) имеет место для всех простых р, кроме конечного числа, экви- эквивалентна утверждению, что в соответствующем представле- представлении Т (g) = T^ (goo) ® T2 (g2) ® . . . ® Tp (gp) ® . . . группы GA все представления Tp(gp), кроме конечного числа, принад- принадлежат основной серии. § 5. Пространство орисфер 1. Редуктивные алгебраические группы. Пусть G— линейная алгебраическая группа, определенная над полем рациональных чисел Q. Группа G называется редуктив- н о й, если она не содержит унипотентных *) связных как алгебраическое многообразие нормальных делителей, отлич- отличных от тривиального. Если в группе G нет также и связных разрешимых нормальных делителей, отличных от тривиального, то она называется полупростой. Любая редуктивиая группа яв- является прямым произведением полупростой группы и не- некоторого тора, т. е. коммутативной группы матриц, при- приводимой к диагональному виду над полем комплексных чисел. Приведем без доказательств некоторые основные свой- свойства редуктивных групп. Подробно эти вопросы освещены в статьях [2], [4], [5], к которым мы и отсылаем читателя. Обозначим через Z максимальную связную определенную над полем Q унипотентную подгруппу группы G *). Отметим, что все максимальные унипотентные подгруппы сопряжены между собой. Пусть G' обозначает нормализатор подгруппы Z, т. е. совокупность элементов g', для которых Zg' = g'Z. Очевидно, что G'—алгебраическая подгруппа группы G, определенная также над Q. Подгруппа Z является, очевидно, максимальным связным унипотентным нормальным делителем группы G'. Отсюда сле- следует, что группу G' можно представить в виде полупрямого произведения G' DZ A) *) Группа матриц называется унипотентной, если все собствен- собственные значения матриц равны единице. § 5. ПРОСТРАНСТВО ОРИСФЕР 429 где ' D — редуктивная группа. При этом все элементы группы D являются полупростыми, т. е. могут быть при- приведены к диагональной форме. Обозначим через N нормализатор группы D. Доказы- Доказывается, что фактор-группа B) всегда конечна. Эта фактор-группа называется группой Вей ля. Каждый элемент s группы Вейля определяет неко- некоторый автоморфизм группы D: Устанавливается, что имеет место следующее разложение: C) В некоторых работах разложение C) называют обобщен- обобщенной леммой Брюа. Это разложение для классических комп- комплексных групп было получено И. М. Гельфандом и М. А. Наймарком [19], § 18 и § 34. Там же была впер- впервые вскрыта фундаментальная роль этого разложения в теории представлений. Это разложение получило широкую известность после работы Брюа [63], обратившего внимание математиков на это разложение. Доказательство разложе- разложения C) для вещественных полупростых групп принадлежит Хариш Чандра. Наиболее общие исследования в этом вопросе принадлежат Титсу и Борелю. Обозначим теперь через Т максимальный расщепимый над Q тор в D. Нетрудно убедиться, что тор Г лежит в центре группы D и что группа Вейля 5 переводит этот тор в себя. Пусть © — алгебра Ли группы G, Z — алгебра Ли под- подгруппы Т. Сопоставим каждому /?? линейное преобразо- преобразование ad/ в пространстве ©: ad t: g-M*. 91 (присоединен- (присоединенное представление алгебры 2). Алгебру © можно представить в виде прямой суммы © = 2 ©а D) подпространств ©а, на каждом из которых операторы ad t кратны единичному оператору, т. е. [t. Sal =<*(')&
428 ГЛ. lit. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [1 Итак, гипотеза Петерсона о том, что неравенство D) имеет место для всех простых р, кроме конечного числа, экви- эквивалентна утверждению, что в соответствующем представле- представлении Т (g) = T^ (goo) ® T2 (g2) ®...®Tp{gp)®... группы GA все представления Тр (gp), кроме конечного числа, принад- принадлежат основной серии. § 5. Пространство орисфер 1. Редуктивные алгебраические группы. Пусть G— линейная алгебраическая группа, определенная над полем рациональных чисел Q. Группа G называется редуктив- н о й, если она не содержит унипотентных *) связных как алгебраическое многообразие нормальных делителей, отлич- отличных от тривиального. Если в группе G нет также и связных разрешимых нормальных делителей, отличных от тривиального, то она называется полупростой. Любая редуктивная группа яв- является прямым произведением полупростой группы и не- некоторого тора, т. е. коммутативной группы матриц, при- приводимой к диагональному виду над полем комплексных чисел. Приведем без доказательств некоторые основные свой- свойства редуктивных групп. Подробно эти вопросы освещены в статьях [2], [4], [5], к которым мы и отсылаем читателя. Обозначим через Z максимальную связную определенную над полем Q унипотентную подгруппу группы G *). Отметим, что все максимальные унипотентные подгруппы сопряжены между собой. Пусть G' обозначает нормализатор подгруппы Z, т. е. совокупность элементов g', для которых Zg' — g' Z. Очевидно, что G' — алгебраическая подгруппа группы G, определенная также над Q. Подгруппа Z является, очевидно, максимальным связным унипотентным нормальным делителем группы G'. Отсюда сле- следует, что группу G' можно представить в виде полупрямого произведения Q' = DZ. A) *) Группа матриц называется унипотентной, если все собствен- собственные значения матриц равны единице. § 5. ПРОСТРАНСТВО ОРИСФЕР 429 где ' D — редуктивная группа. При этом все элементы группы D являются полупростыми, т. е. могут быть при- приведены к диагональной форме. Обозначим через N нормализатор группы D. Доказы- Доказывается, что фактор-группа 5 = NQ/DQ B) всегда конечна. Эта фактор-группа называется группой В ей ля. Каждый элемент s группы Вейля определяет неко- некоторый автоморфизм группы D: Устанавливается, что имеет место следующее разложение: GQ = ZQNQZQ. C) В некоторых работах разложение C) называют обобщен- обобщенной леммой Брюа. Это разложение для классических комп- комплексных групп было получено И. М. Гельфандом и М. А. Наймарком [19], § 18 и § 34. Там же была впер- впервые вскрыта фундаментальная роль этого разложения в теории представлений. Это разложение получило широкую известность после работы Брюа [63], обратившего внимание математиков на это разложение. Доказательство разложе- разложения C) для вещественных полупростых групп принадлежит Хариш Чандра. Наиболее общие исследования в этом вопросе принадлежат Титсу и Борелю. Обозначим теперь через Т максимальный расщепимый над Q тор в D. Нетрудно убедиться, что тор Г лежит в центре группы D и что группа Вейля 5 переводит этот тор в себя. Пусть © — алгебра Ли группы G, Z — алгебра Ли под- подгруппы Т. Сопоставим каждому t ? % линейное преобразо- преобразование ad * в пространстве ©: ad t: g-*[?, Si (присоединен- (присоединенное представление алгебры %). Алгебру <$ можно представить в виде прямой суммы © = 2 ©а D) подпространств ©а, на каждом из которых операторы ad t кратны единичному оператору, т. е. [t, 0j=
430 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ для любого t ? % и любого да ? ©а. Здесь а (t) — линейные функции на ?. Подпространство ©0, отвечающее а GJ=0, является алгеб- алгеброй Ли группы D. Это подпространство можно представить в виде суммы ©„ = ?-{-<?. где & — дополнение алгебры % в алгебре ©0. Таким образом, разложение D) может быть переписано в следующем виде: E) 2 а. Отметим, что операторы ad g0, go?©o,также переводят каждое пространство ©а в себя. Нетривиальные линейные функции a (t), возникающие при разложении D), принято называть ко р н я м и. Обозначим через 2 множество всех корней. Пусть Е обозначает пространство всех линейных функ- функций, определенных над Q. Очевидно, что в пространстве Е естественным образом действует группа Вейля 5. Если G — полупростая группа, то имеют место следую- следующие предложения: 1) В Е существует скалярное произведение (|, г\), ин- инвариантное относительно группы Вейля 5. 2) Среди векторов из 2 имеется в точности п линейно независимых, где п — размерность пространства Е. 3) Для любых двух корней а, |3?2 отношение 2 (а, р) (а, а) является целым числом. 4) Система 2 инвариантна относительно отражений, отве- отвечающих корням а ? 2, т. е. относительно преобразований 1 (а, а) Введем в пространство Е лексикографическое упорядо- упорядочение. Именно, введем в Е произвольным образом систему координат; будем говорить, что а > р, если первая отличная от нуля координата вектора а — р есть положительное число. Назовем корень а положительным, если а >> 0, и отри- отрицательным, если а < 0. Таким образом, множество всех корней распадается на корни положительные и корни отри- 2J § 5. ПРОСТРАНСТВО ОРИСФЕР 431 дательные. Назовем положительный корень простым, если его нельзя представить в виде суммы других положительных корней. Справедливы следующие предложения: 5) Простые корни линейно независимы и их число равно размерности пространства Е. 6) Всякий положительный корень является суммой про- простых корней. 7) Отражения относительно простых корней порождают всю группу Вейля. 2 8) Подалгебра 3 — 2 а>0 сумма берется по всем положительным корням, является максимальной нильпотент- ной подалгеброй в ©. Условимся называть редуктивную группу G расщепи- мой, если размерность максимального расщепимого над Q тора в G равна размерности максимального расщепимого над С тора в G. 2. Пространство L2(DQZA\GA). Пусть G — алгебраи- алгебраическая редуктивная группа, определенная над полем Q ра- рациональных чисел. Обозначим через Z ее максимальную уни- потентную подгруппу и через G' нормализатор подгруппы Z в группе G. Как уже отмечалось в п. 1, этот нормализатор разлагается в полупрямое произведение G' = DZ своего нормального делителя Z и редуктивной подгруппы D, все элементы которой являются полупростыми. В этом пункте будет получено разложение представления группы GА, порожденного пространством Q = DQZA\GA, т. е. представления в L2(Q), на неприводимые представления. Случай, когда GA — группа матриц 2-го порядка над А, был уже рассмотрен в § 4. Аналогичная задача решалась в главе I. Там было полу- получено разложение представления группы G^ вещественных матриц, порожденного пространством Z^ \ G^. Основную роль при этом играла подгруппа диагональных матриц. Именно, было установлено взаимно однозначное соответ- соответствие между характерами (т. е. одномерными представле- представлениями) подгруппы диагональных матриц и неприводимыми представлениями группы G^, входящими в L2 (Z^ \ G^). Мы увидим, что аналогичная ситуация имеет место и в нашем случае. Основную роль при разложении пред-'
432 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ ставления группы GA в пространстве L2(Q) будет играть группа DА, являющаяся аналогом группы диагональных матриц. Сначала рассмотрим задачу о разложении представления группы DA, порожденного пространством DQ \ DA, на не- неприводимые представления. Это представление действует в пространстве H = L2(DQ\DA) функций /(б), b?DA, удовлетворяющих следующим условиям: / FQ6) = / (б) для любого 6Q ? DQ; f |/F)|2rf6<OO. 1) 2) Операторы представления Т (б) являются операторами сдвига: Г(бо)/F) = /(ббо). Пусть К — центр группы D. Рассмотрим характеры я (&) на КА, равные тождественно единице на KQ. Сопоставим каждому характеру я (ft) пространство Нл функций /л(б). удовлетворяющих следующим условиям: /л (б<эб) = /л (б) ДЛЯ любого 6Q?DQ; fn (&6) — я (k) /л (б) для любого k ? Кд; j?= J 1) 2) 3) Нетрудно видеть, что пространство Н = L2{DQ\DA) разлагается в непрерывную прямую сумму про- пространств Ня: HfndK. A) Это разложение осуществляется следующими формулами: где интегрирование ведется по инвариантной мере а~к на группе характеров я. При этом компонента / функции § 5. ПРОСТРАНСТВО ОРИСФЕР 433 Н в пространстве Ня задается следующей формулой: /я(б)= Г я (Л) /{Щ dk. D) Остается разложить каждое из пространств Ня на не- неприводимые подпространства. Из того, что все элементы группы D являются полупро- полупростыми, вытекает, что пространство Dq\ Dа/Ка компактно (см. § 6, п. 1). Отсюда следует, как мы докажем позднее в п. 2 § 6, что пространство Нл разлагается в пря- прямую сумму счетного числа инвариантных неприводи- неприводимых подпространств Н^' Л ^^^ Л \ / п Будем в дальнейшем предполагать, что разложение про- пространства H — L2(DQ\DA) в прямую сумму пространств //я"' (формулы A) и E)) нам известно. Мы покажем, что это разложение индуцирует разложение пространства Н = L2(DqZa\ Ga) в прямую сумму инвари- инвариантных пространств Н? : Н = \ Нл dn; Нл = 2 Нтс • Предварительно введем удобную реализацию простран- пространства Н. Рассмотрим однородное пространство Y = ZA\GA. Заметим, что при умножении каждого класса смежности у = ZAg слева, на элемент б ? DA этот класс переходит в другой класс смежности, который мы условимся обо- обозначать через 6g. Таким образом, элементы 6 ? DA задают в пространстве Y преобразования которые мы назовем левыми сдвигами. Очевидно» что левые сдвиги перестановочны с преобра- преобразованиями группы GA, т. е. = (йу) g- В терминах левых сдвигов пространство И'=L2(-OqZa \ GA) может быть определено как пространство функций /(у) на 28 И. М. Гельфанд и др.
434 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [2 У' = ZA\GA, удовлетворяющих следующим условиям: 1) /(йоУ) = /(У) Для любого bQ?DQ; 2) ||/||»= J \f(y)\2dy<co. Теперь введем меру в пространстве' DA \ Y. Пусть dy — мера на К, инвариантная относительно преобразований группы GA. Тогда для любого б ? ?>л мера dxy = d {by) также является инвариантной мерой на Y, а потому она про- пропорциональна мере dy. Обозначим множитель пропорцио- пропорциональности через CF). Таким образом, имеем по определению dFy)=±=$(b)dy. F) Из определения следует, что функция р (б) является ха- характером на DА, т. е. Р (бхб2) = р (бг) р (б2) для любых бь b2?DA. Отметим, что р Fq) = 1 для любого 6q?Dq. Зададим на Y неотрицательную функцию р(у), удовле- удовлетворяющую следующим условиям: 1) Функции р(у) и р-1(.у) измеримы и суммируемы на любом компактном подмножестве; 2) р (by) — р (б) р (у) для любого б ? DА. Нетрудно убедиться, что такие функции р(у) всегда су- существуют. Зададим меру dy в пространстве DA \ Y при помощи следующего интегрального соотношения: / f(y)?-4y)dy= f f /(by)dbdy, G) DA ОА\У DQ\DA где f (у) — любая суммируемая функция на У, удовлетво- удовлетворяющая условию f (bQy) = f(y) для любого bQ?DQ. Из соотношения G) непосредственно следует, что при группо- групповом сдвиге у -> yg в пространстве D \ У мера dy преобразуется по следующей формуле: dy". (8) § 5. ПРОСТРАНСТВО ОРИСФЕР 435 Таким образом, dy, вообще говоря, является не инвариантной, а квазиинвариантной мерой (инвариантной меры в пространстве Y может и не существовать)- Из интегрального соотношения G) получаем следующее выражение для нормы ||/(у)Ц функции / в пространстве Н: \f(by)\^(b)p(y)dbdy. (9) Отсюда следует, что для почти всех у ? Y. Так как, кроме того, /FqбУ) = /Фу) для любого bQ?DQ, то этим доказано, что функция р1^ (б)/(бу), рассматри- рассматриваемая как функция от б, принадлежит простран- пространству H = L2(DQ\DA). Поскольку разложение пространства Н на неприводимые подпространства tffi нам задано, из этого разложения сразу получается разложение пространства Н — L2 (DQZA \ GA). Именно, обозначим через Н^ пространство функций /(у), у ? Y, удовлетворяющих следующим условиям: 1) / F<?.У) = / ОО Для любого bQ ? DQ. 2) Функция рУ= (б) / (by), рассматриваемая как функция от 6?DA, принадлежит для почти всех у пространству ^ 3) / || Р1/* (б) / (by) || % р (у) dy < оо, где || || „ обозначает норму в пространстве Нк. В пространстве Н^ естественным образом действует пред- представление группы GA. Будем говорить, что это представле- представление индуцировано представлением группы DA в про- пространстве
436 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Из формулы (9) непосредственно следует, что простран- пространство Н = L2(DQZA\ Ga) разлагается на пространства Н^: #=/#«. где ЯЯ = 2ЯЙ". При этом компонента /^ (У) вектора f(y)?H опреде- определяется следующим образом. Пусть f™ (fi, у) — компонента в пространстве Н^ функции р'/г (б) / (бу), рассматриваемой как функция от б при фиксированном у. Тогда /я'(У) = /„"(!. У)- Теперь установим, какие из представлений Н^ являются эквивалентными. Прежде всего, заметим, что представления в простран- пространствах Н? и Нл, при щ ф п2 не эквивалентны. Это следует из того факта, что операторы представления, отвечающие элементам к?КА, задаются в пространстве Н^ следующей формулой: Отсюда очевидно, что при разных л не эквивалентны уже представления подгруппы КА в пространствах н?\ Таким образом, нужно выяснить лишь условия эквива- эквивалентности представлений в пространствах Й^° и Н^. Пред- Предварительно введем понятие представления общего положения. Рассмотрим группу Вейля 5 группы G. Каждый элемент s?S задает автоморфизм группы DA. Очевидно, что если т (б) — некоторое пред- представление группы DA, то есть также представление группы Dл. Назовем неприводимое представление т(б) группы DA представлением общего положения, если пред- представления Т5F), s?S попарно не эквивалентны. Соответ- Соответственно этому назовем представление Tx{g) группы GA, ин- 3] 5. ПРОСТРАНСТВО ОРИСФЕР 437 Аудированное неприводимы» представлением общего поло- положения т(б) группы DA, представлением общего положения. Для расщепимых над Q редуктивных групп справедливы следующие два утверждения: 1. Представления общего положения группы GA яв- являются неприводимыми представлениями. 2. Два представления общего положения в про- пространствах Нп и Ня2, индуцированные соответственно представлениями тх (б) и Т2(б) группы DА, эквивалентны тогда и только тогда, когда для некоторого элемента s?S. Доказательства этих утверждений мы здесь проводить не будем. Это доказательство близко к стандартным рас- рассуждениям теории представлений, см. И. М. Гельфанд и М. А. Наймарк [19] и особенно Брюа [421, [43], [44]. Из утверждения 2 непосредственно следует, что каж- каждое представление Tx(g) общего положения входит в Lo(DqZa \ GA) с кратностью, равной порядку группы Вейля S. 3. Операторы Bs. Пусть снова G — редуктивная группа, определенная над полем Q, Z — ее максимальная унипотент- ная подгруппа, D — редуктивная подгруппа группы G такая, что DZ является нормализатором группы Z; N — нормали- нормализатор группы D. Введем две важные для дальнейшего подгруппы 2п, Zn группы Z, отвечающие любому фиксированному элементу Q Пусть 3— алгебра Ли группы Z, т. е. 2 а> О A) (суммирование ведется по множеству всех положительных корней). Положим для любого п ? Nq а> 0, а">0 ©„. а>0, о"<0 C)
438 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ где ап обозначает результат применения к корню а эле- элемента п группы NQ, т. е. a" (t) = a(t"), t?Z. (Первая сумма берется по множеству корней а > 0, для которых а" > О, а вторая—по множеству корней а > 0, для которых а"<0.) В частности, если n?D, то 3" = 3> 3" —0. Очевидно, что 3" и 3" являются непересекающимися подалгебрами алгебры 3- причем Обозначим через 2" и Z" подгруппы группы Z, отве- отвечающие соответственно подалгебрам 3" и 3"- В частности, при п ? D имеем Zn = Z, Zn = 1. Из D) следует, что Z == ZeZ". Именно, любой элемент z группы Z однозначно представим в виде произведения z = Рг:", где za?Za, zn?Zn. Как нетрудно убедиться, подгруппу Z" можно определить непосредственно, без перехода к алгебре Ли, следующей формулой: Z" =Z[)nZn-K Отметим, что множество подгрупп Z" совпадает с мно- множеством подгрупп Z". В самом деле, как известно, в группе Вейля существует элемент s0, переводящий все положитель- положительные корни в корни отрицательные. Очевидно, что условие а" < 0 равносильно условию ао > 0. Следовательно, Zn = Zn\ Обозначим через GA, ZA и т. д. соответственно группы аделей групп G, Z и т. д., а через GQ, ZQ и т. д. под- подгруппы главных аделей. 31 § 5. ПРОСТРАНСТВО ОРИСФЕР 439 Сопоставим каждому п ? NQ оператор Вп в пространстве функций на Q = DqZa\ GA, определяемый следующей фор- формулой: /E) Здесь у0 обозначает точку пространства 2, отвечающую единичному классу смежности DqZa; интегрирование ведется по инвариантной мере на группе ZA. Нетрудно убедиться, что интеграл заведомо сходится, если /(у)—функция Шварца—Брюа на 2. (Функции Шварца— Брюа определяются так же, как и в § 4.) Будем называть операторы Вп операторами Вейля в пространстве функций на S. Из определения непосредственно следует, что Вп6 — Вп для любого 6?DQ. Таким образом, one pa торы Вп фактически задаются элементами группы Вейля S = NQjDQ. Поэтому в дальней- дальнейшем мы будем часто писать Bs вместо Вп, понимая под s элемент группы Вейля. Покажем, что функция постоянна на классах смежности DqZa \ GА, т. е. f1(jbzg) = f1(g) Для любых 6 ??><-,, z?ZA. F) Таким образом, ее можно рассматривать как функ- функцию на Q. Доказательство. Предварительно покажем, что dzA = d(b-1zAb) для любого b?DQ. G) В самом деле, обозначим через х(Ь) определитель пре- преобразования z->f)~1zf), где 6?DQ, z?ZQ. Очевидно, что % F) — характер группы Dq со значениями в Q*. Как мы знаем из § 1, dznA= » ...dz»..
440 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [3 где dznp — инвариантная мера на Znp. Так как при отображе- отображении znp —>¦ 5~ 2р6 мера dznp умножается на | % F) | , то мера dznA при отображении znA—>b~lzAb умножается на П |х№>| = р = |х(*)| = 1 (поскольку х Ф)— главный идель). Из соотношения G) сразу следует, что = f =: f = / f{yun~xzg)dz. (Мы воспользовались здесь тем, что п~г 6п ?DQ, а потому уо(»~1й») = Уо0 Итак, доказано, что fi(bg) = fi(g) Для любого 6?DQ. Теперь докажем, что /l (*<#) = /i (g) для любого zo?ZA. Разложим элемент z0 в произведение zo== где ~Zo?Za, Zo?Za. Тогда имеем = f Заметим, что n довательно, а потому yo(n~1zon) = y0. Сле- (Мы воспользовались инвариантностью меры dz.) Соотноше- Соотношение F) полностью доказано. Мы доказали, что fi(g)=BJ(y) является функцией на Q = DqZa\Ga. 4] § 5. ПРОСТРАНСТВО ОРЙСФЕР 441 Итак, установлено, что операторы Вейля Вп, опреде- определенные формулой (8) переводят функции на Q = DQZA\ GA снова в функции на Q. Подчеркнем, что формула определяет оператор Вп пока только на дифференцируемых функциях в Q, финитных или достаточно быстро убывающих. 4. Свойства операторов Bs. Прежде всего, отметим два важных свойства операторов Bs, которые непосредственно следуют из их определения. 1) Операторы Bs перестановочны с операторами представления. 2) Оператор Bs переводит каждое неприводимое представление Tx{g), индуцированное представле- представлением х (б) группы, DA, в эквивалентное ему представле- представление Txs(g). Далее, очевидно, что В, = Е. A) где 1 — единица группы Вейля. Введем теперь частичную упорядоченность в множестве элементов группы Вейля 5. Будем говорить, что s1 < s2, если для любого корня о из а > О и а*2 >> 0 следует, что as' > 0. Докажем, что если sx < sis2, то 5,5, = BSiBS2. B) Доказательство. В силу определения операторов Bs, имеем 'иг™ *St- C)
442 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Таким образом, если мы докажем, что И {siZ 'si )n^'=? D) и (siZ'*srl) ZSt = Zs's\ E) то, применяя к интегралу C) теорему Фубини, мы получим BsBsJ (у) = J / (у0 (SiS^z'^g) dzs^ = BSiSJ (у). Итак, достаточно доказать соотношения D) и E). Обозначим через П5 множество корней а, принадлежа- принадлежащих Zs, т. е. таких, что а > 0 и а? < 0. Тогда условия D) и E) эквивалентны следующим: s-\ s-i ^Здесь (П52) х обозначает множество корней вида а5' , где Докажем эти соотношения. Сначала докажем, что (П^)*1 ЛП^^Одля любых su s2- В самом деле, если а ? (П5з) * П П51, то это означает, что а > 0, а5' < 0 и одновременно а5" > 0, а9'5* < 0, что невоз- невозможно. Теперь покажем, что П^ с(П5.,M1 U П5] для лю- любых st, s2. В самом деле, пусть а^П5152, т. е. а>0 и as^i <; 0. Тогда либо as< < 0, либо а5' > 0. В первом слу- случае а?П51; во втором случае а5'?П52, а потому а^П^)*1 • /ТТ ч^1 Остается доказать, что USls П U Щ, если st < s l2 ^ Щ t ^ Действительно, если а^П5[, т. е. а>0и as' <C 0, то в си- силу условия sl < sxs2 имеем a J 2 •< 0, а потому a^II5l5j. x Если же a ? (П52) 1 , т. е. as' >> 0, as's* •< 0, то опять в силу условия Sj < Sj52 должно быть a >> 0 (в противном случае мы имели бы (—а) > 0, (—а)*1** > 0, но(— аM' <0 *)), следовательно, a^II5i52. *) Используется тот факт, что (— аM = — а". 5] § 5. ПРОСТРАНСТВО ОРИСФЕР 443 Итак, соотношение C) для операторов Bs доказано. Обозначим через sa элемент группы Вейля, отвечающий отражению относительно простого корня а. Покажем, что для любого элемента s группы Вейля существует такое разложение что = Bs Bs Проведем доказательство индукцией по числу положи- положительных корней, которые 5 переводит в отрицательные корни. Заметим, что если 5 сохраняет знаки у всех корней, то s = 1. Пусть 5 меняет знак в точности у k положительных кор- корней. Тогда среди этих k положительных корней заведомо содержится хотя бы один простой корень ах. Нетрудно видеть, что sai < s *). Поэтому, в силу доказанного уже соотноше- соотношения имеем Элемент s~1s меняет знак у меньшего чем k числа поло- положительных корней (именно, у k — п корней, где ге = 2, если 2О( является корнем, и я=1 в противном случае). Следова- Следовательно, в силу индуктивного предположения, существует такое разложение s~1s — ,s что В _i =В< *1  Но тогда имеем BS=BS доказать. BS . . . BS что и требовалось 5. Основная теорема об операторах Bs. В настоящем пункте мы сформулируем основную теорему об операторах Bs. Будем дальше предполагать, что G—редуктивная расщепи- мая над Q группа (определение расщепимой группы ем. на стр. 431). Приведем формулировку основной теоремы: А) Существуют унитарные операторы Bs, в про- пространстве L2(DqZa\Ga), которые образуют пред- представление группы Вейля и которые совпадают с *) Это непосредственно следует из того факта, что sa изменяет знак только у корня aj и у корней, кратных aj.
444 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [5 операторами Bs на некото ром всюду плотном в L2(Q) множестве Ф функций Шварца — Брюа. При этом мно- множество Ф инвариантно относительно операторов Bs. Эта теорема представляет собой обобщение доказанного в § 4 утверждения, что В2 = 1. В настоящем пункте мы сведем доказательство этой тео- теоремы для любой редуктивной группы G к доказательству следующего утверждения. В) Существуют унитарные в L2(DCZy4\GA) опера- операторы, Bs {где sa—отражение относительно простого —о корня а), удовлетворяющие соотношению Bs = 1 и со- совпадающие с операторами Bs на некото ром всюду плотном в L2(Q) множестве Ф функций Шварца—Брюа; при этом Ф можно выбрать так, чтобы, оно было инвариантно относительно всех Bs . Именно, докажем следующую лемму. Лемма. Если имеет место В), то имеет место и А). (Отметим, что обратное утверждение вытекает тривиально.) Доказательство. Как мы показали в п. 4, для лю- любого s?S существует такое разложение что Положим Ва = Bs = B) C) Очевидно, что так определенные операторы Bs унитарны в L2(X) и совпадают с операторами Bs на Ф, если Ф выбрано так, чтобы оно было инвариантно относительно Bs . Нам остается показать, что так определенные опера- операторы Bs образуют представление группы Вейля. С этой целью воспользуемся следующим свойством группы Вейля. Элементы sa, где а—простой корень, являются образующими группы Вейля. Полная система соотно- соотношений между элементами sa имеет следующий вид: с2 6 а— D) E) 5] § 5. ПРОСТРАНСТВО ОРИСФЕР 445 где k = 2, 3, 4, 6, когда угол между векторами а и р соответственно равен 90°, 120°, 135°, 150°. Для доказатель- доказательства, что операторы Bs образуют представление группы Вейля. достаточно, очевидно, проверить E) для соответствующих операторов Bs , предполагая что они действуют на Ф. В даль- дальнейших рассуждениях до конца этого пункта предполагается, что операторы Bs рассматриваются только на Ф. Рассмотрим по отдельности все возможные случаи. 1) Угол между аир равен 90°. В этом случае k = 2, т. е. нам нужно доказать соотношение о о В силу того, что Б5а = В'3„=^\, это соотношение равно- равносильно соотношению s =В. Bs , F) которое мы сейчас и докажем. Заметим, что sas,j = меняет знак у корней аир. Отсюда следует, что sa < saSg, sp < s^sa. Следовательно, в силу результата, полученного в п. 4, имеем В. „_ =В,В<,_ и В„„=В««=В„В. откуда BSgBs& = Bs&BSa. 2) Угол между аир равен 120°. В этом случае 6=3, т. е. нам нужно доказать соотношение (В. Bs f=l. В силу того, что ? сильно соотношению , = Bs& = 1, это соотношение равно- > г> D J3 D /*7\ ) ?5 I—' Г% ?j D . ( / ) которое мы и будем доказывать. Нетрудно убедиться, что преобразование sas~sa переводит корень а в корень — р, т. е. в отрицательный корень. Отсюда следует, что sa < saSaSa. а потому sas$sa -^— /5 /^
446 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Далее, легко убедиться, что преобразование s~sa переводит корень р в корень — а — р, т. е. в отрицательный корень. Отсюда следует, что 5„ < s~sa, а потому Таким образом, установлено, что В, ¦ — В. В. В, . В силу r J sas$sa sa Jp ^a •> аналогичных соображений, имеем В p = В. . . = JpSs B._B.B..=B.B.B. В В p sa J что и требовалось следовательно, доказать. 3) Угол между аир равен 135°. В этом случае к —4, т. е. нам нужно доказать соотношение , = 1, это соотношение равно- В силу того, что Bs = сильно соотношению Вя Bs В. В. = Bs Bs В. Bs sa 5р sa 5р 5р sa 5р s (8) которое мы и будем доказывать. Известно, что в рассматриваемом случае длины векто- векторов аир относятся как ]/ к 1 (для определенности мы полагаем, что a — корень большей длины). Легко проверяется, что saSgSas^ переводит а в — а, а потому sa < sa5p5a5p; s^sas& переводит р в — a—р, а по- потому 5„ < 5„5а5„; 5а5„ переводит а в —а—2р, а потому sa < saSg. Следовательно, в силу результата п. 4, имеем ¦В- s =BS В =В. В. В. . = Л, В. В, В, Аналогично убеждаемся, что s~sasRsa переводит р в — р, а потому 5р < 5p505p5a; saSgSa переводит а в — а — 2р, а потому sa < saSpSa; s^sa переводит р в —a — р, а потому sa ^ s$sa- Следовательно, в силу результата п. 4, имеем 5. «.t..t. =5,_s^_s_ =5.,.S,.,.,. = Ве_В^_ВС_С =В<._ВС В*_Ве Таким образом, доказано, что *Р 5Р *р *а В. Bs Bs В. = Bs В. В. В sa sa sa sr -sr sa sr ' 6] § 5. ПРОСТРАНСТВО ОРИСФЕР 447 4) Угол между аир равен 150°. В этом случае k=6, т. е. нам нужно доказать соотношение (В. В. f = 1. В силу того, что сильно соотношению В„ В. Вс В *5a = ?jp—1, это соотношение равно- равно= В._В.В.В. В. В. (9) Отметим, что в рассматриваемом случае длины векторов a и р относятся как \/ к 1. Как и в предыдущих случаях, легко убедиться на основании простых геометрических рассуждений, что sa < sas^sas^sas&, 5Р < 5pSasp тельно, в = В. Bs В. В. Bs Bs о. й я й ct = в.в.в._в.в.вя asp' sa < 5a5p5a5p« силу результата < 5pS05p, sa < 5а5р. Следова- п. 4, имеем В, Аналогично, имеем откуда непосредственно следует со- соотношение (9). Доказательство леммы закончено. 6. Сведение к рангу 1. Здесь будет показано, что дока- доказательство теоремы В) может быть сведено к случаю групп ранга 1*). Пусть О — произвольная редуктивная группа, © — ее алгебра Ли. На протяжении этого пункта мы будем пользо- пользоваться обозначениями, введенными в п. 1 настоящего пара- параграфа. Обозначим через °3, где a—простой корень, минималь- минимальную подалгебру алгебры ©, порожденную корневыми про- пространствами ©6> где р пробегает все положительные корни, а также все корни, пропорциональные а. Обозначим, далее, через ©а минимальную подалгебру алгебры ©, порожденную корневыми пространствами ©„, где р пробегает корни, пропорциональные а. Пусть aZ и Ga — группы, соответствующие этим под- подалгебрам. В силу определения, Ga является простой алге- алгебраической группой ранга 1. Поэтому ее группа Вейля со- состоит из двух элементов. *) Рангом группы называется число ее простых корней.
448 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Обозначим через Za максимальную унипотентную подгруппу группы Оа, очевидно, что алгебра Ли группы Za порождается корневыми пространствами ©р, где р пробегает положитель- положительные корни, кратные а. Обозначим через В оператор Вейля в пространстве JJqZa \ иА- Цель этого пункта — доказать, что из справедливости теоремы В) для оператора В в пространстве ?.2(DqZ^\ Ga) вытекает справедливость теоремы В) для оператора BSa в пространстве L2(DQZA\GA). Сначала докажем, что пространство ZA \ ОА является расслоенным пространством, базой которого является пространство aZA\GA, « слоем — пространство Za \ GA. В самом деле, поскольку ZazdZa, to имеет место есте- естественное отображение в силу которого ZA \ GA получает структуру расслоенного пространства с базой aZA \ GA и слоем ZA \ aZA. Остается установить изоморфизм ZA\aZ OS- Обозначим через Za подгруппу группы Z, дополнительную к группе Za (т. е. подгруппу, алгебра которой порождается корневыми пространствами ©„, где р пробегает все положи- положительные корни, не являющиеся кратными корню а). Группа Zл разлагается в полупрямое произведение С другой стороны, из определения группы aZA следует, что она также разлагается в полупрямое произведение aZ =ZaGa B) Из разложений A) и B) непосредственно следует, что ZA\aZA^ZA\GaA. § 5. Пространство орисфер 449 Заметим теперь, что в формуле для оператора Bs : 4>(yos-^zag)dza C) SJeq>G0 = интегрирование ведется по множеству точек yos~lzag, принадлежащих одному и тому же слою расслоенного пространства Zл \ Ол, тому же, кото рому принад- принадлежит сама точка у. В самом деле, поскольку sa ? aZA, то при отображении GA-+aZ \G множество yns~lZa,g А А А •'О о А° переходит в одну точку, ту же самую, в которую переходит и точка у = yog. Будем предполагать, что функция ср(у) сосредоточена в достаточно малой области. Тогда в этой области можно ввести локальную систему координат (и, v), где v задает точку базы, т. е. точку пространства aZA\GA, а и — точку слоя, т. е. точку пространства Z\ \ GA- Из сделанного выше замечания следует, что оператор Bs действует на ф(у) = ф(и, t>), как на функцию только переменного и ? Za \ Ол. Оператор Bs при этом выражается через оператор ори- сферического автоморфизма В, действующий в пространстве функций ф (и). Именно, Bs ф (u, v) — Вер (и, v). Следовательно, если доказано, что В2 = 1 на некотором всюду плотном множестве Фо функций на Za \ Од, инвари- инвариантных относительно D'q, то из этого вытекает, что В% = 1 на множестве Фа всех функций на Zл \ GA, которые как функции на слоях принадлежат Фо. Нетрудно проверить, что пересечение по всем а так определенных множеств Фа содержит множество Ф функций, инвариантных относи- относительно DQ, которое всюду плотно в L2(DQZA\GA). Тем самым показано, что проверка теоремы В) сводится к рас- рассмотрению только групп ранга 1. 29 И. М. Гельфанд и др.
450 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Итак, мы показали, что доказательство теоремы А) для редуктивнэй группы О сводится к доказательству теоремы В) для ее полупростых подгрупп ранга 1. Пользуясь этим сведением, можно доказать справедли- справедливость теоремы А) для широкого класса редуктивных групп (вопрос о том, верна ли теорема А) для всех редуктивных групп, остается пока открытым). Теорема А) справедлива для произвольной редук- тивной расщепимой над полем Q группы G. (Определение расщепимой группы дано на стр. 431.) В самом деле, пусть Ga — подгруппа, определенная на стр. 447. Нетрудно убедится, что в рассматриваемом случае Ga есть группа унимодулярных матриц 2-го порядка над Q. Таким образом, доказательство теоремы А) для группы О сводится к доказательству теоремы В) для группы унимо- унимодулярных матриц 2-го порядка над Q. Но для случая группы унимодулярных матриц 2-го порядка над Q эта теорема В) была уже доказана в § 4. Итак, основная теорема доказана для всех расщепимых редуктивных групп; для произвольных же редуктивных групп над Q она сведена к группам ранга 1. § 6. Представление, порожденное однородным пространством GQ \ GA 1. Однородное пространство GQ \ GА. Пусть G — линей- линейная алгебраическая группа, определенная над полем Q, GA — группа ее аделей и Gq — группа главных аделей. Группа Gq является дискретной подгруппой груп- группы, G А. Доказательство этого утверждения в точности такое же, как и в случае группы унимодулярных матриц 2-го порядка (см. § 4). Рассмотрим пространство X = Gq \ GA. Поскольку группа Gq дискретна, то пространство X локально- изоморфно группе G А. Следовательно, правоинвариантная мера на группе GA индуцирует меру на пространстве X = Gq\ Ga, инвариантную относительно движений груп- группы G А. § 6. ПРЕДСТАВЛЕНИЕ В ПРОСТРАНСТВЕ L% (Оq у ОА) 451 Следующая фундаментальная теорема, принадлежащая А. Борелю [40], выясняет вопрос, когда мера простран- пространства X конечна. Теорема 1. Мера пространства X конечна тогда и только тогда, когда у группы G нет нетри- нетривиальных характеров, определенных над полем Q, т. е. морфизмов группы G в группу Q. Например, фактор-пространство группы иделей по глав- главным иделям имеет бесконечную меру, а фактор-пространство группы аделей по главным аделям имеет конгчную меру. Из теоремы 1 также следует, что если О — полупро- полупростая или унипотентная группа, то фактор-пространство X = Gq \ GA имеет конечную меру. Отметим теперь, что на группе GA, а следовательно, и на X есть канонический способ нормировки *) меры. Поэтому определено число равное мере пространства X. Это число принято, по пред- предложению А. Вейля, называть числом Тамагава группы G. Оно является очень интересной арифметической характери- характеристикой группы G. Основным объектом исследования в настоящем параграфе является представление, порожденное однородным простран- пространством X = Gq\ Gа. Структура разложения этого представ- представления на неприводимые тесно связана с арифметическими свойствами группы О. В настоящее время полное описание разложения этого представления на неприводимые неизвестно. Есть все основания надеяться, что когда оно будет получено, то прольется свет и на многие теоретико-числовые вопросы (см., например, приложение к § 4). Настоящий параграф в основном посвящен выделению дискретной части спгктра *) Этот способ вкратце состоит в следующем. Пусть <й — диф- дифференциальная форма на G, определяющая меру. Как известно, можно считать, что она определена над Q, т. е. имеет вид Ф (хи ..., хт) dXi А ... Л dxm, где хь .. ., хт — локальные коор- координаты, а ф — рациональная функция с коэффициентами из Q. Такая форма определена однозначно с точностью до умножения на рациональное число. Форма а> индуцирует однозначно определен- определенные меры на группах G0(/? = co, 2, ...) и, следовательно, некото- некоторую меру на группе G . Эта мера определена однозначно, так как если взять вместо <о форму со' = Ха, X?Q, то мера умножится на норму | X | иделя А, в некоторой степени. Поскольку X ? О, то |Я.| =1(см. § 1). 29*
452 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [2 представления и непрерывной части спектра максимальной размерности. Рассмотрим теперь общую ситуацию, когда у группы G существуют нетривиальные характеры, определенные над Q. Каждый характер х группы О индуцирует морфизм Хл группы ОА в группу иделей А*. Обозначим через GA под- подгруппу всех g?°A таких, что норма | %А (g) | иделя Хл (?") равна 1 для любого характера х группы G. Нетрудно видеть, что GqcGa. В самом деле, если g ? Gq, то 1a(S) — главный идель, а потому | Хл (g) | = 1 (см. § 1). Имеет место следующая теорема (А. Борель [40]). Теорема 2. Фактор-пространство Х° = Gq\ G% имеет конечный объем. Во многих важных случаях пространство X = Gq \ GA оказывается компактным. Необходимые и достаточные усло- условия компактности пространства Х° были высказаны Годманом в качестве гипотезы и недавно были доказаны А. Борелем и независимо от него Мостоу и Тамагава. Приведем их формулировку. Теорема 3. Пространство X = Gq \ GA компактно тогда и только тогда, когда все унипотентные эле- элементы группы Gq принадлежат ее радикалу, в част- частности, если группа G редуктивна, то пространство Х° компактно тогда и только тогда, когда у группы GQ нет унипотентных элементов. Из теоремы 3 следует, что если группа G унипй- тентна, то пространство X — Gq\ Ga компактно. В самом деле, если О унипотентна, то согласно теореме 3 Х° = Gq \ GA компактно. Кроме того, если О унипотентна, то у нее нет нетривиальных характеров, определенных над Q, и, значит, Ga=Ga- 2. Изучение спектра представления в случае ком- компактного пространства GQ \ Ga/Ка- В этом пункте мы рас- рассмотрим простейший случай, когда все элементы группы GQ являются полупростыми. В этом случае, согласно теореме 3 п. 1, пространство X°=Gq\Ga является компактным. Если у группы О нет нетривиальных характеров, опре- определенных над Q, то Ga = Ga и, следовательно, пространство § 6. ПРЕДСТАВЛЕНИЕ В ПРОСТРАНСТВЕ Ц (О q \ GA) 453 X = GQ\GA компактно. Поэтому представление в про- пространстве L^ (X) разлагается в прямую сумму счетного числа неприводимых представлений (см. главу I, § 2). Изучим теперь общий случай, когда у группы О имеются нетривиальные характеры. Пусть К — центр группы G, KA, KQ — соответствующие группы аделей и главных аделей. Имеет место следующее свойство ргдуктивных групп, которые мы приводим без доказательства: Подгруппа GAKA имеет конечный индекс в группе GA. Из этого свойства и из компактности пространства Gq/Qa следует, что пространство двусторонних классов- смежности GQ\GA/ КА также является компактным. На основании этого факта мы разложим пространство И в прямой интеграл инвариантных пространств Нл, каждое из которых имеет уже дискретный спектр. Пусть л(k) — любой унитарный характер на КА, равный тождественно единице на Kq- Обозначим чергз Ня простран- пространство функций fn(g) на GA, удовлетворяющих следующим условиям: !) /я (?"?) = /я (S")л (?) Для любого k?KA, 2) /„(Vg) = fn(g) Для любого y6<5q. 3) J \f(g)dg\< со. Пространство Н разлагается в непрерывную прямую сумму пространств Ня согласно следующим формулам: 2dg= J J \f oQ\oA п oq\ga/ka где /я (g) — компонента вектора / (g) ? Н в пространстве Нл, определяемая формулой:
454 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ 13 Тем же методом, что и в главе I, § 2, доказывается, что пространство Нл представляет собой сумму счетного числа неприводимых представлений группы ОА. Фактически при этом доказывается, что след оператора Т = I <f>(g)T (g)dg в пространстве Ня конечен, где ср — °А любая функция Шварца — Брюа. Отсюда вытекает, что для любого неприводимого унитарного представления, входящего в представление, порожденное пространством Gq\Ga, след оператора Т также конечен, где ср—функция Шварца — Брюа на группе GА. Но, как было показано в § 3, п 5, из конечности следа оператора Т неприводимого представ- представления группы GA вытекает, что это неприводимое представ- представление разлагается в тензорное произведение неприводимых представлений Тр групп Ор, причем все представления Т р, кроме конечного числа, содержат в точности по одному вектору, инвариантному относительно группы U р. Итак, любое неприводимое представление группы GA, входящее в разложение представления, порожденного пространством Gq\Ga, является тензорным произве- произведением неприводимых представлений Тр групп Gp, причем все представления Тр, кроме конечного числа, обладают в точности одним вектором, инвариант- инвариантным относительно подгруппы Up целых р-адических матриц. Неизвестно, обладают ли этим свойством все неприводи- неприводимые представления группы GА. Есть все основания пред- предполагать, что ответ на этот вопрос окажется утвердительным. Неизвестно также, обладают ли этим свойством неприво- неприводимые представления группы GД, входящие в представление, порожденное однородным пространством X = GQ \ Ол, в том случае, когда пространство GQ\GA/KA некомпактно. Для тех подпространств пространства L2(A'), которые изучены в настоящем параграфе, ответ оказывается положительным. 3. Пространство орисфер. Пусть G — алгебраическая редуктивная группа, определенная над полем Q, такая, что пространство Gq\Ga/Ka является компактным. 31 § 6. ПРЕДСТАВЛЕНИЕ В ПРОСТРАНСТВЕ Ц (Оq ч Од) 455 Согласно теореме 3 п. 1, в этом случае в группе О существуют унипотентные элементы. Обозначим через Z максимальную унипотеитную подгруппу группы О. Назовем орисферами в пространстве X = GQ\ GA образы классов смежности ZAg при естественном отображе- отображении Таким образом, любая орисфера в X представляет собой множество точек вида xz = xozg, где х0 — точка из X, отвечающая единичному классу смеж- смежности группы GA, g — любой фиксированный элемент из Ол, a z пробегает подгруппу ZA. Очевидно, что это множество изоморфно Zq \ Zл и, следовательно, компактно. Поскольку движения из GA переводят орисферы снова в орисферы, то множество орисфер представляет собой однородное пространство группы GА. Будем это про- пространство обозначать через Q. Найдем стационарную группу пространства Q. Пусть G' — нормализатор подгруппы Z в группе О. Известно, что G' разлагается в полупрямое произведение G' = DZ своего нормального делителя Z и некоторой редуктивной подгруппы D. Напомним, что все элементы группы D являются полупростыми. Покажем, что стационарная группа пространства Q есть DqZa. В самом деле, рассуждениями, аналогичными приведен- приведенным в п. 3 § 4, нетрудно убедиться, что эта стационарная подгруппа порождается подгруппами Za и Ga П Gq. Так как Од = DaZa, to GaV\Oq = DqZq. Ясно, что подгруппа, порожденная группами Zл и DqZq, есть DqZa. Итак, доказано, что *) Более общее определение орисферы будет дано в § 7.
456 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [4 Наряду с однородным пространством 2 введем также однородное пространство Y = ZA\GA. Условимся пространство 2 называть пространством орисфер, а пространство Y — основным аффинным простран- пространством группы О4. 4. Орисферическое отображение и оператор М. Рас- Рассмотрим пространство каждой функции / (х) ( L2(X), X — Gq\Ga. Сопоставим L2(X) ее интегралы по орисферам в f{xozg)dz, A) где х0 — точка из X, отвечающая единичному классу. Со- Соответствие назовем орисферическим отображением. Очевидно, что функция ф (g) удовлетворяет для 6 ? Do и z ? ZA следующему условию: любых ф = Ф (§¦). Таким образом, ее можно рассматривать как функцию в пространстве орисфер Q = DqZa \ GА и писать ф (у), у^й, вместо cp(g"). Пусть Н° — ядро орисферического отображения, Н' — образ пространства L2 (X) при орисферическом отображении. Введем в Н' структуру гильбертова пространства, полагая Н' = L2 Скалярное произведение в Н' будем обозначать через Введем по аналогии со случаем группы унимодулярных матриц 2-го порядка, рассмотренным в § 4, оператор М. Пусть г|) (у)—произвольная непрерывная финитная функ- функция на 2. Эта функция задает функционал в пространстве Н' по формуле / - B) § 6. ПРЕДСТАВЛЕНИЕ В ПРОСТРАНСТВЕ L2 (Gq \ Од) 457 Как и в § 4, п. 10, легко убедиться в справедливости следующей оценки: к где К — любой компакт в 2, с (К) — некоторая константа. Из этой оценки непосредственно следует, что (г|;, ф) — линей- линейный непрерывный функционал в пространстве Н'. Следова- Следовательно, по теореме Рисса, C) где Mty ^ Н', а квадратные скобки, напоминаем, обозначают скалярное произведение в Н''. Формула C) служит определением оператора М. Опреде- Определенный этой формулой оператор М переводит, таким образом, непрерывные финитные функции на Q в функции из Н'. Аналогично тому, как это было сделано в п. 10 § 4, уста- устанавливаются следующие свойства оператора М. 1. Оператор М перестановочен с операторами представления в пространстве 2, т. е. 2. (Мер, ф) ^> 0 для любой финитной непрерывной функции ф (у). 3. Множество функций вида Мчр, где ф пробегает не- непрерывные финитные функции на Q, всюду плотно в Н'. 5. Явное выражение для оператора М. Здесь будет показано, что оператор М задается следующей фор- формулой: ^S, A) где Bs — операторы Вейля, определенные в § 5, п. 3, сум- суммирование ведется по всем элементам группы Вейля. Вывод этой формулы проводится так же, как и вывод аналогичной формулы в п. 11 § 4 для случая группы ма- матриц 2-го порядка.
458 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [5 Дословно теми же рассуждениями, что ив п. 11 § 4, мы получаем следующее выражение для оператора М: B) в 2j' из каждого класса смежности DqZq\ берется по од- одному представителю; g — произвольный элемент из класса смежности DqZq \ GА, отвечающего у. Преобразуем формулу B). Для этого выберем в каждом классе смежности DqZ^y по каноническому представителю. Мы воспользуемся при этом следующим фактом. Пусть Nq—нормализатор подгруппы Dq в Gq. Тогда каждый эле- элемент y G Gq может быть записан в виде произведения у — znz C) где ti^Nq, z, z' ?Zq. Выберем по представителю s в каждом классе смежности Nq/Dq. Тогда разложение C) принимает вид Y = zbsz', D) где z, z'^ZQ; 6?Dq. При этом элемент 5, т. е. класс смежности Nq/Dq, однозначно определяется элементом у. Итак, в каждом классе смежности DQZQ \ GQ содержится элемгнт вида sz, z ? Zq, причем 5 однозначно определяется заданием класса смежности. Нетрудно убедиться, что элементы sz и sz' принадлежат одному и тому же классу смежности DqZq \ Gq тогда и только тогда, когда zz' ^Zq, где Zq = s~1ZqS f\ ZQ. Итак, выражение B) может быть переписано в следую- следующем виде: E) 6] § 6. ПРЕДСТАВЛЕНИЕ В ПРОСТРАНСТВЕ L, (ОQ \ Од) 459 Разобьем в E) интегрирование по Zq \ Za на интегрирова- интегрирование по Zq \ ZA, где Za = s~~ ZaS П ^а. и интегрирование по Z% \ Za Мы получим, что f ^{yoszg)dz= J J -ф(yosz'zg) dz' dz. Так как ф (yosz' zg) = -ф (yoszg) для любого z' ^ ZSA, т. е. подынтегральное выражение не зависит от z', то = J где Bs-i — принимает вид т. е. М = оператор Вейля (см. п. 3 § 5). Итак, формула ЯМ П E) что и требовалось доказать. 6. Структура пространства Н''. В настоящем пункте, пользуясь полученным в п. 5 выражением для оператора М через операторы Bs, мы исследуем структуру пространства Н''. Напомним, что через Н' мы обозначили образ L2 (л;) при ори- сферическом отображении (см. п. 4). При этом будем пред- предполагать, что группа О расщепима (см. определение на стр. 431). Тогда для нее справедлива теорема А: в про- пространстве L2(DQZA \ GA) существуют унитарные операторы Bs, которые образуют представление группы Вейля 5 и которые совпадают с операторами Bs на некотором всюду плотном в L2{DqZa\Ga) множестве функций Ф, инвариантном отно- относительно операторов Bs. Докажем, что если группа G является расщепимой, то пространство разлагается на те же неприводимые представления, что и L2(Q), но, в отличие от последнего, каждое
460 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ неприводимое представление входит в разложение с еди- единичной кратностью. Доказательство. Обозначим через Но замыкание в L2(Q) множества функций вида Мц>, M = ^BS, где ср?Ф (Ф определено в формулировке теоремы А). Нетрудно прове- проверить, что Но совпадает с множеством всех /?|Z2(Q) таких, что Bsf = / при всех s?S: . Заметим теперь, что, как было показано в п. 2 § 5, кратность, с которой данное неприводимое представление входит в L2B), равна порядку группы Вейля. При этом операторы Bs переводят каждое неприводимое представление в эквивалентное представление. Рассмотрим сумму Нх всех неприводимых подпро- подпространств, содержащихся в L2(Q), эквивалентных данному не- неприводимому пространству. В силу сказанного, каждый из операторов Bs переводит Нс в себя и задается в Нх матри- матрицей, порядок которой равен порядку группы Вейля. Эти матрицы образуют регулярное представление группы Вейля (при условии, что рассматриваются только неприводимые представления группы GA общего положения). _- - Ясно, что в подпространстве функций Мя|э, \\>?НХ, дей- действует единичное представление группы Вейля S. Поэтому вопрос о кратности, с которой входит в Но заданноз не- неприводимое представление, сводится к вопросу о том, с ка- какой кратностью единичное представление конечной группы 5 входит в регулярное представление этой группы. Как хорошо известно, эта кратность равна единице. Таким образом, мы показали, что в Но входят все неприводимые представления группы ОА, содержащиеся в L2(?2), причем каждое входит с единичной кратностью. Покажем теперь, что H0<z:H'. Условимся, как и в пре- предыдущем пункте, обозначать через (,) скалярное произведе- произведение в Z,2(?2), а через [,] — скалярное произведение в Н'. Пусть / ?Но'' покажем, что /?Н. Из того, что f^H0, вытекает, что существует такая последовательность функций Ф„ ? Ф, что (/ — Жср„, / — ЖФ„) -* 0, (Фл. Фл) < С. A) Из A) следует, что 1 .фп)<С1. B) 1] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 461 Следовательно, из последовательности Мц>п можно выбрать подпоследовательность, слабо сходящуюся в смысле И' к не- некоторой функции f\^H'. Не нарушая общности рассуждений, можно предположить, что сама последовательность Мц>п слабо сходится к /1# Покажем теперь, что Д = /. Воспользуемся тем, что /г и / — измеримые функции, суммируемые на каждом компакте в й. Поэтому достаточно доказать, что (/i. Ф) = (/. Ф) C) для любой финитной непрерывной функции ф. Мы имеем (/г. Ф) = 1Л. Л->оо так как = (/. Ф), ,— Л->0. D) Таким образом, мы показали, что Покажем, наконец, что пересечение с Z-2 (Q) ортогональ- ортогонального дополнения /Уг к Но тривиально. Действительно, пусть / 6 Hi П ?-2 (Ф)- Из того, что /?Нг, вытекает, что [/, Мф] = 0 для любой функции ф ? Ф. Следовательно, (/, ф) = 0 для любой ф?Ф. E) Если /?L2(Q), то, поскольку Ф всюду плотно в L2B), из E) следует, что /=0. Из доказанного вытекает, что Но = L2 (Q) П И''. § 7. Дискретность спектра 1. Орисферы в пространстве X = GQ\GA. Пусть Z — максимальная связная унипотентная подгруппа редуктив- ной группы G, Т — максимальный расщепимый над Q тор группы О, который лежит в нормализаторе группы Z. Обозна- Обозначим через 3 и 2- алгебры Ли групп Z и Т. Пространство 3 можно представить в виде суммы корневых пространств За: 3 = 2 За. а где а — линейные формы на Z.
460 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АД ЕЛ ЕЙ неприводимое представление входит в разложение с еди- единичной кратностью. Доказательство. Обозначим через Но замыкание в L2(Q) множества функций вида Mq>, М = 2Д»» где Ф 6 Ф (Ф определено в формулировке теоремы А). Нетрудно прове- проверить, что Но совпадает с множеством всех f?L2(Q) таких, что Bsf = f при всех s ?S. Заметим теперь, что, как было показано в п. 2 § 5, кратность, с которой данное неприводимое представление входит в L2{Q), равна порядку группы Вейля. При этом операторы Bs переводят каждое неприводимое представление в эквивалентное представление. Рассмотрим сумму Нх всех неприводимых подпро- подпространств, содержащихся в L2(Q), эквивалентных данному не- неприводимому пространству. В силу сказанного, каждый из операторов Bs переводит Н1 в себя и задается в Нх матри- матрицей, порядок которой равен порядку группы Вейля. Эти матрицы образуют регулярное представление группы Вейля (при условии, что рассматриваются только неприводимые представления группы GA общего положения). - Ясно, что в подпространстве функций Жя|), г|)?/Ут, дей- действует единичное представление группы Вейля 5. Поэтому вопрос о кратности, с которой входит в Но заданное не- неприводимое представление, сводится к вопросу о том, с ка- какой кратностью единичное представление конечной группы 5 входит в регулярное представление этой группы. Как хорошо известно, эта кратность равна единице. Таким образом, мы показали, что в Но входят все неприводимые представления группы GA, содержащиеся в L2 (Q), причем каждое входит с единичной кратностью. Покажем теперь, что НосН'. Условимся, как и в пре- предыдущем пункте, обозначать через (,) скалярное произведе- произведение в L2(Q), а через [,] — скалярное произведение в Н'. Пусть / ? Но; покажем, что f?H. Из того, что / ? Но, вытекает, что существует такая последовательность функций Фя 6 Ф» чт0 Из A) следует, что (Фя, Фл)<С. Фп) < Cv A) B) § 7. ДИСКРЕТНОСТЬ СПЕКТРА 461 Следовательно, из последовательности М(рп можно выбрать подпоследовательность, слабо сходящуюся в смысле Н' к не- некоторой функции fi?H'. Не нарушая общности рассуждений, можно предположить, что сама последовательность Мц>п слабо сходится к /г. Покажем теперь, что /г = /. Воспользуемся тем, что /г и / — измеримые функции, суммируемые на каждом компакте в Q. Поэтому достаточно доказать, что (Л. ф) = (/. ф) C) для любой финитной непрерывной функции ф. Мы имеем (/г- ф) = 1/г. Мф] = Пт[Мф„, ЖФ] = Л->оо = 11т(Мф„, ф) = (/, Ф), D) так как Таким образом, мы показали, что Н0<=Н'. Покажем, наконец, что пересечение с L2 B) ортогональ- ортогонального дополнения Н1 к Но тривиально. Действительно, пусть / 6 Hi П L2 (Q). Из того, что / g Hx, вытекает, что [/, Жф] = 0 для любой функции ф ? Ф. Следовательно, (/, ф) = 0 для любой ф?Ф. E) Если /^L2B), то, поскольку Ф всюду плотно в L2(Q), из E) следует, что /=0. Из доказанного вытекает, что Но = L2(Q) П Н'• § 7. Дискретность спектра 1. Орисферы в пространстве X == GQ\ GA. Пусть Z—максимальная связная унипотентная подгруппа редуктив- ной группы G, Т — максимальный расщепимый над Q тор группы О, который лежит в нормализаторе группы Z. Обозна- Обозначим через 3 и ? алгебры Ли групп Z и Т. Пространство 3 можно представить в виде суммы корневых пространств За: 3 = 2 За> а где а — линейные формы на %.
462 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ П Пусть аи ..., ап — простые корни и пусть П — некото- некоторое подмножество множества простых корней. Обозначим через Зп объединение всех корневых пространств $а, соот- соответствующих всем положительным корням а = 2сйай> У ко~ торых 2 ck > 0- Очевидно, что Зп является подалгеброй айеп алгебры 3- Обозначим через Zn подгруппу, соответствующую ал- алгебре З11- Условимся называть подгруппу Zn, а также лю- любую подгруппу, сопряженную с Z11 с помощью элемента из Gq, орисферической группой. Пример. Пусть О — группа всех невырожденных ма- матриц и-го порядка. Нетрудно показать, что любая орисфе- рическая подгруппа группы G сопряжена с подгруппой всех клеточных треугольных матриц следующего вида: О Здесь Ek. обозначает единичную матрицу порядка kt; kt — фиксированные натуральные числа такие, что k^-\- ... —(- -f- ks = п; выше диагонали стоят произвольные элементы, а ниже диагонали—нули. Образы классов смежности Z^g при естественном ото- отображении GA->X = GQ\GA условимся называть П-о рисферами в пространстве X или просто орисферами. Таким образом, любая орисфера в X представляет собой множество точек вида xQz^g, где х0 — точка, соответствующая единичному классу, g—любой фиксированный элемент из Од, a Za пробегает подгруппу Zj. Заметим, что U-орисферы являются компактными множествами. В самом деле, множество точек П-орисферы гомеоморфно фактор-пространству [Qq П Zj) \ Z™=Z^ \ Zj. Но это фактор-пространство компактно, так как группа Za унипотентна (см. п. 1 § 6). § 7. ДИСКРЕТНОСТЬ СПЕКТРА 463 Из определения очевидно, что множество всех П-ори- сфер при заданном II представляет собой однородное про- пространство группы Од. Найдем стационарную группу этого пространства. Предварительно найдем нормализатор iVn группы Zn в группе О. Мы покажем сейчас, что Nn представляет собой полупрямое произведение некоторой редуктивной группы Оп и группы Z . Как известно (см. § 5, п. 1), алгебра Ли группы О имеет следующий вид: 2 Согласно определению, где а пробегает множество 2П всех положительных корней a=2cftaft' У которых ck >¦ 0 хотя бы для одного ай?П. Найдем нормализатор ЭТП алгебры 3П- Обозначим через П множество простых корней, не принадлежащих П. Будет доказано, что (П) где сумма берется по всем корням а, являющимся линейными комбинациями корней из П. S^13 поскольку Я Прежде всего очевидно, что %-\ [Х-\- й, ®а]с:®а для любого корня а. Покажем теперь, что если корень комбинацией корней из П, то ©„< определения множества 2П непосредственно следует, что если а?2п и а -(- р—корень, то а -f- p ? 2Д. Следова- Следовательно, поскольку [©6, ©J = 0, если а-f-p — не корень, и является линейной В самом деле, из если а + р — корень, то |©R, 3"Jc:3"' а потому ©„с!I} . Итак, установлено, что ?RnidZ -+- S + 2 ®а + 3П- Пока- (П) ж.ем, что на самом деле имеет место равенство. Из тогЪ,
464 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ что %с:У1п, следует, что Предположим, что для некоторого корня р, не принад- принадлежащего 2П и не являющегося линейной комбинацией кор- корней из П, пересечение %1П П ©», не пусто; пусть д„ ф О — элемент из этого пересечения. Поскольку любой положительный корень либо принад- принадлежит 2Д, либо является линейной комбинацией корней из П, то Э < 0. Следовательно, —Р > 0, а потому —р ? 2П Известно, что [др, ©J^O. Поскольку, с другой сто- стороны, [$р, ©_0]с=®, то множество [д0, ©_0] не содер- содержится в 3П- Этим доказано, что элемент си не принадлежит нормализатору 9? алгебры 3 • что противоречит сделанному предположению. Таким образом, мы доказали, что 2 (П) A) где сумма берется по всем корням, представимым в виде линейных комбинаций корней из П. Положим (П) Тогда равенство A) означает, что Шп является прямой суммой яп = @п+з11. Нетрудно убедиться, что ©п является редуктивной алгеб- алгеброй, причем система ее простых корней совпадает с П. Переходя от алгебр Ли к группам, мы заключаем, что нормализатор N группы Z является полупрямым произ- произведением Nn=GnZn. B) где G — редуктивная группа, алгебра Ли которой есть ®.п. 2] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 465 Перейдем к отысканию стационарной группы в простран- пространстве П-орисфер. Нетрудно убедиться, что эта стационарная группа порождается подгруппами Za и TVq. Так как, в силу разложения B), 7Vq = GqZq, to мы заключаем: Стационарной группой в пространстве 2 И-ори- сфер является группа G^Za. Таким образом, = GqZa \ Од. 2. Формулировка основной теоремы. Обозначим че- через H°(GQ\ Ga) пересечение ядер всех орисфериче- ских отоа'ражений, т. е. совокупность всех функций f (x) ? L2(GQ \ GA), интегралы, которых по всем орисфе- рам равны нулю. Иными словами, Н° (GQ \ GА) состоит из всех функций f (g) на группе GA, удовлетворяющих следующим условиям: О f(yg) = f(g) Для любого y6°q". 2) / \f(g)\2 dg< oo; aQ\°A 3) Г / (zg) dz = 0 для любого g g GA и любого ZQ \ZA подмножества П простых корней. Напомним, что все орисферы компактны; таким образом, интегрирование в 3) ведется по компактному множеству. Очевидно, что пространство Н° инвариантно относительно операторов Т (g) представления группы GA: Основная задача этого параграфа—-разложение представления в пространстве № на неприводимые представления. В этом пункте будет приведена формулировка основного результата. Предварительно разложим Н на подпространства Нп. Пусть К — центр группы G. Очевидно, что пространство № инвариантно относительно преобразований и что эти преобразования перестановочны с операторами Т (g). Кроме того, имеем f(kg) = fig) Для любого k?Kq. 30 И- М. Гельфанд и др.
466 ГЛ. I"- ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Отсюда следует, что Н° можно разложить в непрерывную прямую сумму пространств HQn: Г / (zg)dz = 0 для любого g ? GA и любого д где я пробегает множество унитарных характеров группы Кд, равных тождественно единице на подгруппе KQ. Простран- Пространство Ьрл состоит из функций f(g) на GA, удовлетворяющих следующим условиям: 1) f(yg)—f(g) лля любого y?GQ; 2) / (kg) = n(k)f (g) для любого k?KA; 3) / \f(g)\2dg<oo; 4) qa подмножества П простых корней. Таким образом, задача о разложении представления в про- пространстве № на неприводимые представления сводится к за- задаче о разложении представлений в пространствах Н%. Основная теорема этого параграфа утверждает, что про- пространства Нп разлагаются в прямую сумму счетного числа инвариантных неприводимых подпространств. Фактически будет доказано даже больше. Именно, мы покажем, что для любой положительно определенной функ- функции Шварца — Брюа qp (g) на группе GA оператор Т"ф имеет след в пространстве Ня. Из этого результата вытекает (см. § 3), что каждое неприводимое унитарное представление группы GА, входящее в Н°, является тензорным произведе- произведением неприводимых унитарных представлений групп G . 3. Зигелевские множества на группе ОА. Обозначим через Z^o подгруппу группы GA, состоящую из элементов вида * = (*«>. 1. ¦••)• A) Аналогично, обозначим через группу элементов вида * = (*». 1 ). B) § 7. ДИСКРЕТНОСТЬ СПЕКТРА 467 Назовем зигелевским множеством, связанным с подгруппой Z, подмножество группы GA вида ZjTooV, C) где V—некоторое компактное множество, а Т^—полуогра- Т^—полуограниченное подмножество в Т^, т. е. такое подмножество, что t~l zt ограничено для любого фиксированного z ? Zoo, когда t пробегает Too- Потребуем дополнительно, чтобы множество V было инва- инвариантным относительно умножения слева на подгруппу Un=U[)ZA, т. е. Здесь U—подгруппа аделей вида A, и2, .... ир, . . .), ир ? Uр. Покажем, что при этом условии образ зигелевского множества S в пространстве X содержит вместе с каждой точкой х хотя бы одну орисферу, через нее проходящую. В самом деле, пусть х — точка из X, принадлежащая образу зигелевского множества 5 и пусть g = ztv, z ? Zoo, t 6 7*00, v ? V—один из ее прообразов в 5. Рассмотрим множество ZootU0v. Это множество содержится в S, а его образ в пространстве X представляет собой орисферу в X. Это следует из того, что проекция множества ZXUO на Zq \ Zл заполняет все ZQ \ Z^ В настоящем пункте будет показано, на основании двух результатов А. Бореля, что существует зигелевское мно- множество 5, образ которого при естественном отобра- отображении на X = Gq \ GA совпадает со всем X. Иными сло- словами, будет показано, что имеет место следующее разло- разложение: OA = QQZaaf(aV. ^ D) где V — некоторое компактное множество, а Т^ — полуограни- полуограниченное подмножество из Т^. Разложение D) вытекает из следующих результатов А. Бореля. Как показано в работе [2], имеет место следую- следующее разложение: п -ооТоок со» E) 30* 1 = 1
468 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ где V^ — некоторое компактное множество в Gm. Далее, как показано в [4], существует конечное множество элементов хг xm?GA, таких, что га Ga = \J GqX/iGa , F) где Ga° означает подгруппу группы GA, состоящую из эле- элементов группы GА вида (?». «2- «3. • • •)• S'co 6 °оо. «р 6 Up- Здесь ир означает целочисленную подгруппу группы Gр. Нетрудно видеть, что группы Од и g~1G^g, где g?GQ, соизмеримы, т. е. их пересечение имеет в каждой из них конечный индекс. Следовательно, для каждого х ? GА существует такое конечное множество элементов хх, .... хт из ОА, что Следовательно, существует такое конечное множество эле- элементов уу, из GA, что N °а = U GQGAyk. G) Из E) и G) разложение D) следует непосредственно. В дальнейшем нам понадобятся также зигелевские множе- множества, связанные с П-орисферами. Они определяются следую- следующим образом. Пусть Zn—орисферическая подгруппа группы G, Nn— ее нормализатор. Как мы показали в п. 1, /Vn=OnZn, где Gn — некоторая редуктивная группа. Обозначим через Тп максимальный расщепимый над Q тор, лежащий в центре группы G . 'Аналогично тому, как это было сделано для группы Z, введем группы ZS. Т™. Множества вида zSrSK, (8) где 7*5—полуограниченное множество в 7*2. а V — некото- некоторое компактное множество в GA, будем называть зигелевскими множествами, соответствующими П-орисферам. § 7. ДИСКРЕТНОСТЬ СПЕКТРА 469 При этом на множество V будет всегда накладываться дополнительное условие: UnV = V, где ?/n = z2n^. При этом условии, как и в случае зигелевских множеств, связанных с максимальными орисферическими подгруппами ZA, справедливо следующее утверждение. Образ зигелевского множества содержит вместе с каждой точкой х хотя бы одну П-орисферу, через нее проходящую. 4. Правильные зигелевские множества. Пусть 9 — 7 Т V — некоторое зигелевское множество. Напомним, что множе- множество V предполагается инвариантным относительно умножения слева на группу Uo= U [} ZA, где U — подгруппа аделей вида A, и2 ир, . . .), up?Up. При этом предположении, как было уже отмечено в п. 3, образ множества S в про- пространстве X содержит вместе с каждой точкой и целую ори- сферу, проходящую через эту точку. Отметим, что эти орисферы, вообще говоря, между собой пересекаются. Как нетрудно убедиться, для того, чтобы образ зигелев- зигелевского множества 5 в пространстве X расслаивался на попарно непересекающиеся орисферы, достаточно выполнения следую- следующего условия. (а) Существует такая окрестность W единицы группы GA, что если g^lyg2 6 ^. где у ? GQ, gv g2?S, то у?Д, где А — множество целочисленных матриц из ZQ. Действительно, S расслаивается на множества видaZoo?/(/lг'I• Проекции этих множеств, как мы уже отмечали выше, являются орисферами. Покажем, что орисферы, соответствующие раз- разным значениям txvA, по модулю 00 не пересекаются. Дей- Действительно, пусть это не так, т. е. пусть проекции множеств ZcoU0t1v1 и ZcoU0t2v2 пересекаются. Это означает, что суще- существует такое у 6 Gq, что i = z2u2t2v2.
470 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Из (а) следует, что у ?Дс:ZoaU0 и, значит, t1v1 — ut2v2, где а ? Uo. Зигелевские множества, удовлетворяющие условию (а), будем называть правильными. Задачей этого пункта является доказательство следующего утверждения. Рассмотрим зигелевское множество следующего вида: S = ZooTooU0gW0, A) где g — фиксированный элемент из GA, Wo-—компакт- Wo-—компактная окрестность единицы, а Т^— полуограниченное множество в Т^. Тогда, если окрестность Wo достаточно мала, а элементы t множества Тж удовлетворяют условию: a{\nt)^> с для любого простого корня а, где с—достаточно большое число, то множество S является правильным зигелевским множеством. Пусть y, g2 = z2t2u2bw2 B) — два элемента из 5 (здесь zx, z2 ? Z^_, tx, t2 ? T^, иг, u2 ? Uo, wv w2 ? U^o) и пусть y?GQ. Нам нужно доказать, что из УСЛОВИЯ grlyg*€w' C) т. е. W, D) где W — некоторая фиксированная окрестность единицы в GA (эта окрестность будет определена позднее), вытекает, что Y6A- Обозначим через Fa.-, фундаментальную область в группе Z^ относительно подгруппы целочисленных матриц из Z^. Как известно, эта область компактна. Представим zx и z2 в виде z — 6 г' z — Л ?' 1 11' 2 2 2* где 5! = ^. 1, .... 1, ¦ • .). 62 = 62 — целочисленные матрицы, и z[. 4] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 471 Тогда условие D) перепишется в виде 1~11li F ? W. E) Из условия E) следует, что ffVYbfc 6 (tTlziti) UQg (WoWWo1) g-'Uo {t2lz'2t2). F) Рассмотрим проекцию элемента ^1Ь^^уЬ^2 на подгруппу Ga ) П a аделей вида A, g2, . . ., gp, . . .). Поскольку проекции эле- элементов tx, t2, 6j, 62, zx, z2 на подгруппу Ga равны 1, то мы получаем из F), что X galUa. Уа е Uoga G) (Значок а внизу обозначает проекцию на подгруппу Ga.) Будем предполагать окрестности Wo и W выбранными столь малыми, что ga{WOWWol)ga'<=.U. (8) Тогда из условия G) следует, что где уа = (\, у, ..., у, . . .), а потому матрица у является целочисленной. Теперь рассмотрим проекцию элемента ^f'6f ^62^2 на под- подгруппу Goo. Мы получим из условия F), что fV V2 go (9) Напомним, что элементы z'v z'2 принадлежат компактному множеству. Поэтому из условия полуограниченности множе- множества Too вытекает, что t\ z[t\ и t2lz2t2 принадлежат доста- достаточно малой окрестности единицы. Итак, условие (9) озна- означает, что где К — достаточно малая окрестность единицы, а у' является, как было уже доказано, целочисленной матрицей. Утверждение теоремы следует теперь непосредственно из следующей леммы,
472 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ 14 Лемма. Если элементы tx, t2 удовлетворяют для любого положительного корня а неравенству a (In t) > с, где с— достаточно большое число, и если К—доста- К—достаточно малая окрестность единицы,, то из условия где у—целочисленная матрица, следует, что y^Z. Доказательство. Рассмотрим присоединенное пред- представление группы G^. При этом будем предполагать, что базис в алгебре Ли © группы G^ согласован с ее разбие- разбиением на корневые подпространства: Можно предполагать, что именно это матричное пред- представление группы G^ взято с самого начала *). Таким обра- образом, у есть элемент из подгруппы целочисленных матриц в присоединенном представлении. В соответствии с разбиением © = ©0 -\- 2 ©„, будем за- записывать матрицы g ? G в клеточно-диагональной форме: g=\\ga&\\- Нам нужно доказать, что Ya, в~^' если а <С 0. Р > 0, и что уаа — единичные матрицы. Заметим, что в выбранном базисе матрицы t ? Т являются клеточно-диагональными, причем их диагональные элементы имеют следующий вид: имеют вид A0) где еа—единичная матрица. Таким образом, элементы матрицы y' = ti у'а& = ехр [р (In t2) — a (In t{)] ya&. *) Такое предположение обосновано в силу известного факта, что подгруппы целочисленных матриц в различных представлениях группы G являются соизмеримыми. § 7. ДИСКРЕТНОСТЬ СПЕКТРА 473 Итак, пусть а < 0 и р >> 0. Тогда, в силу условия леммы, для любых соответствующих элементов уа^ и у'а„ матриц yaR и Уцв имеет место неравенство A1) Предположим, что Уая^О- ^ак как отличные от нуля элементы матрицы Yog являются целыми числами, то они ограничены по модулю снизу. Но тогда, в силу неравен- неравенства A1), элементы матрицы у'а& не могут быть сколь угодно малыми, что противоречит условию леммы. Итак, доказано, что Yaa = 0. если а < 0, р > 0. Теперь докажем, что Yaa—еди- Yaa—единичные матрицы. Заметим, что так как, в силу уже дока- доказанного, y является треугольной матрицей, то из целочис- ленности y и Y следует, что Yaa—унимодулярные матри- матрицы. Условие A0) дает нам: Отсюда следует, что (a(ln 77))det = exfA (a(ln 17)) где na— порядок матрицы Yaa- Так как по условию матрицы у'аа достаточно близки к единичной матрице, то, в силу A2), значение ехр (a(ln(^f'))) достаточно близко к единице. Следовательно, матрица достаточно близка к единичной матрице. На так как, кроме того, Yaa—целочисленная матрица, то она совпадает с еди- единичной матрицей. Лемма доказана. 5. Правильные зигелевские множества, связанные с П-орисферами. Пусть 5 = zStSk
474 ГЛ. Ш. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ — зигелевское множество, связанное с П-орисферами. Напо- Напомним, что по предположению, компактное множество V удов- удовлетворяет следующему условию: UnV=V, где ?/п —?/Л ZA, U—подгруппа аделей вида A, а2, . . ., ир. . .), Up^Up. При этом предположении образ множества 5 в про- пространстве X содержит вместе с каждой точкой х и целую П-орисферу, проходящую через эту точку. Эти орисферы, вообще говоря, между соэой пересекаются. Нетрудно убедиться, что для того, чтобы образ зигелев- ского множества 5 в пространстве X расслаивался на по- попарно не пересекающиеся П-орисферы, достаточно выпол- выполнения следующего условия: (а) Существует такая окрестность единицы W в группе GA, что если gTXyg2^.W, где gv g2 ? W, y?GQ, даоу?Ап, где ts. обозначает целочисленную подгруппу группы Zq. Доказательство этого утверждения проводится так же, как и для зигелевских множеств, связанных с максималь- максимальными орисферическими подгруппами Zл (см. п. 4). Зигелевские множества, удовлетворяющие условию (а), будем называть правильными. Подобно тому, как это делалось в п. 4 для случая мак- максимальных орисферических подгрупп, устанавливается сле- следующий результат: Рассмотрим зигелевское множество следующего вида где g — фиксированный элемент из GA, WQ—компакт- WQ—компактная окрестность единицы, а Т^> — полуограниченное множество в Т^. Тогда, если окрестность Wo достаточно мала, а элементы t множества Т^ удовлетворяют усло- условию: a(lnt)^>c для любого простого корня а, где с — до- достаточно большое число, то множество S является правильным зигелевским множеством. 5] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 475 В этом пункте будет установлен следующий результат: Теорема. Пространство X = GQ\GA может быть покрыто проекциями конечного числа правиль- правильных зигелевских множеств. Доказательство. Как было доказано в п. 3, су- существует зигелевское множество .*? — 7 Т V проекция которого на X = GQ \ GА совпадает с X. Пусть II — произвольное подмножество множества про- простых корней. Обозначим через 7^A1) подмножество в Т^, состоящее из таких t, что a; (In t)^> с, если а; ? П; ai{\nt)K.c, если а^П, где с — достаточно большое число. Тогда очевидно, что 2 II Покажем, что для каждого из множеств Zoo7;oo(n)V су- существует зигелевское множество Лаа1 асУ , проекция которого на X содержит проекцию множества Zcofco(n)V, и такое, что a (In О > с для любого простого корня а и любого t ? Гш, где с - по- постоянная, определенная выше. Заметим, что элементы g и 6^, где 6? А, имеют одну и ту же проекцию на X. Поэтому проекция на X множества Z00fr00(II)V совпадает с проекцией множества FO0foo(H)V, где Fm — фундаментальная область группы Z^ относительно подгруппы А целочисленных матриц. Эта область F^ является компактным множеством.
476 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЯ |5 Разложим группу Z^ в полупрямое произведение у 7TLyH подгруппы zS и дополнительной подгруппы Z2 *)• Обозна- Обозначим через Foo проекцию множества F^ на подгруппу Z2- Очевидно, что F^,— компактное множество, следовательно, ввиду полуограниченности 7^A1), компактным будет и мно- множество С другой стороны, легко проверить, что множество Тт (П) может быть представлено в виде произведения где Т' — компактное множество, а аAп?)>с для любого простого корня а и любого t ?Г2- Положим и покажем, что множество оП 7П™П,7П является требуемым множеством. В самом деле, пусть ztv—элемент из множества Z^f (И) V. Как уже говорилось раньше, можно предполагать, что z? F^. Тогда имеем z — z^z^,, где z^^Z^,, zS 6 ^2- С другой стороны, имеем t = int', где ^п ? fS. ? ? Т. Следовательно, Из этого разложения ясно, что элемент ztv принадлежит множеству 5П, что и требовалось доказать. *) Алгебра Ли группы Zn порождается корневыми подпро- подпространствами ®а, где а пробегает положительные корни, являющиеся линейными комбинациями простых корней, не входящих в П. 6] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 477 Итак, мы доказали, что пространство X покрывается проекциями конечного числа зигелевских множеств таких, что a(lnt)^>c для любого простого корня а и лю- любого t? f°. Для завершения доказательства теоремы остается заме- заметить, что каждое из этих множеств покрывается конечным числом множеств вида Zr^T^giW, где W — фиксированная сколь угодно малая окрестность единичного элемента. Как было установлено раньше, если константа с взята достаточно большой, а окрестность W достаточно малой, то множества Z^T^giW являются правильными зигелевскими множествами. Следовательно, пространство X может быть покрыто проек- проекциями конечного числа правильных зигелевских множеств, что и требовалось доказать. 6. Редукция основной теоремы. Вернемся к доказатель- доказательству основной теоремы, которая утверждает, что для любой положительно определенной функции Шварца — Брюа q>(g) след оператора Т„ в пространстве Нп конечен. Как мы показали в п. 5, существуют такие правильные зигелевские множества Sk, проекции Хк которых на про- пространство X покрывают все X. Рассмотрим подпространства L2 (Xk) функций / (х) ? L2 (X), сосредоточенных на Xk, и пусть Pk — оператор проектиро- проектирования на Z-2 (Xk). Очевидно, что Следовательно, для доказательства основной теоремы до статочно доказать, что след оператора PkTyPk на простран стве PkH°n конечен. Проведем дальнейшую редукцию основной теоремы. Пусть — правильное зигелевское множество, проекция которого на X есть Хк.
478 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ Рассмотрим совокупность Hn(Sk) всех функций /(g), сосредоточенных на Sk и удовлетворяющих следующим условиям: 1) 2) 3) = f(g) Для любого 6?ДП; = n(k)f(g) для любого k \f(g)\2dg <oo; = O, если ЩсП. 4). J /С*1 Покажем, что В самом деле, в силу отображения Sk -^ Xk, каждой функции f(x)?PkH°n можно поставить в соответ- соответствие функцию /] (g) на Sk, определенную по формуле fi(g) = f(xg), где xg — проекция g в Xk. Непосредственно проверяется, что f \ {g) ? H°n(Sь) и что отображение f(x)->fx{g) является изометричным отображением пространства в пространство //яEй). Следовательно, это отображение можно рассматривать как вложение. В силу этого вложения, доказательство основной теоремы свелось к доказательству следующего утверждения. След оператора Ту в пространстве H°n(Sk) конечен, для любой положительно определенной функции Швар- Шварца — Брюа ф. Доказательство этого утверждения будет проведено в сле- следующих пунктах. Ради простоты изложения дальнейшие рассуждения будут вестись лишь для случая, когда группа О полупростая. В этом случае группа К тривиальна, а потому Н°п есть все пространство //°. 71 § 7. ДИСКРЕТНОСТЬ СПЕКТРА 479 Исследование для произвольной редуктивной группы от- отличается от исследования, проводимого ниже, лишь более громоздкими обозначениями. Напишем формулу для ядра оператора Гф в пространстве Н {Sk) = L2 (A \ 5ft). Это ядро имеет следующий вид: = 2 Предположим, что функция qp сосредоточена в достаточно малой окрестности W единичного элемента. Так как Sk — правильное зигелевское множество, то из условия, что g-iyg ?W, где g., g2?.S/i< У 6 О„, следует, что y6^ где Ап — подгруппа целочисленных матриц группы Zq. Таким образом, суммирование в A) ведется фактически по элемен- элементам y€^ • т- е- 6? ДП 7. р-норма. Введем важное для дальнейшего понятие /7-нормы. Пусть f(x) — f(xv .... хп) — достаточное число раз дифференцируемая функция п вещественных переменных. Назовем /7-нормой функции f(x), где р — 0, 1, 2 следующее выражение: тах тах дхр, ... дх? О) максимум берется по всем точкам л: и по всем подмножествам (/х> .... ik) множества индексов 1, .... п. Отметим, что введенног нами понятие /?-нормы не инва- инвариантно относительно системы координат. Поэтому при вве- введении /7-нормы необходимо фиксировать некоторую опреде- определенную систему координат. Понятие р-нормы нам понадобится при оценке суммы модулей коэффициентов Фурье функции f(x). Именно, пред- предположим, что функция f(x) периодична с периодом 1 по каждому из переменных xk и пусть ст, т =(mv . . ., тп) — ее коэффициенты Фурье: j dx B)
480 ГЛ. ITT. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ 81 § 7. ДИСКРЕТНОСТЬ СПЕКТРА 481 Покажем, что тогда имеет место следующая оценка: 2 км к с"» н/п,. C) где С{р) — некоторая постоянная, р = 2, 3, 4, ... В самом деле, рассмотрим коэффициенты Фурье ст-, т' = (otj, .... тп), у которых от^, .... пцк отличны от нуля и mt = 0 при i ф tv . . ., ik (iv .... ik — фиксирован- фиксированное подмножество индексов). Интегрированием по частям мы получаем для этих коэффициентов ст> следующую оценку: p max / dxf ... dxf Отсюда, суммируя по всем отличным от нуля получаем max f dxf ... dxf D) Суммируя, наконец, неравенства D) по всем подмножествам индексов (iv .... tk), получаем требуемую оценку C). 8. Доказательство основной теоремы. Рассматривается оператор Гф в пространстве H—L2(&n \ Sk), где Sk=z\^f^V— правильное зигелевское множество, а ф — положительно определенная функция на Gл, сосредоточенная в достаточно малой окрестности единицы. Ядро этого оператора имеет следующий вид: K(gx, ^2)= 2 ф^г1^). CD 6f Дп В предыдущих пунктах мы свели доказательство основ- основной теоремы к доказательству конечности следа оператора 7\р на подпространстве № (Д \ Sk). Это доказательство будет начато здесь и завершено в п. 10. Выберем в алгебре Ли Зоо группы Z? некоторую систему координат, определенную над Q и совместимую с разбие- разбиением Зоо на корневые подпространства. Воспользовавшись каноническим отображением t—>exp t алгебры 35 на z?. перенесем эту систему координат на группу Zoo- , ч Обозначим через kp(g) p-норму функции ф^; g) — = K(zg, g), рассматриваемой как функция на Zoo- Мы по- покажем здесь, что существует такое р, что J* kptg)dg<oo. B) Вначале оценим число отличных от нуля членов в ряду для K(zg, g): g = z'tv. C) По условию, для таких членов должно быть где W—достаточно малая окрестность единицы. Перепишем это условие в следующем виде: v-\rlz'ty\r' г-хы){гЛ z'i)v e w. D) Поскольку z' принадлежит ограниченному множеству, a t пробегает полуограниченное множество на торе, то t~xz't принадлежит ограниченному множеству. Так как v также принадлежит ограниченному множеству, то из условия D) имеем откуда E) где W — некоторая достаточно малая окрестность единицы. Обозначим через ср(.г) максимум модулей матрицы z, не стоящих на диагонали. Тогда из E) получаем следующую оценку: AбОС() F) (Мы пользуемся тем фактом, что ввиду полуограниченности множества элементов t, ф(^~ zt) < C^{z).) 31 И. М. Гельфанд и др.
482 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [8 Заметим, что при преобразовании 6-»/ l6i каждый не стоящий на диагонали и отличный от нуля элемент матрицы 6 умножается на ?~a==exp (— a (In t)), где a — некоторый по- положительный корень (свой для каждого элемента матрицы 6) Следовательно, на основании F) мы получаем следующую оценку: фF) < C(f>(z)ta°,' G) где ta° = exp (a0 (In t)), a^ — сумма всех положительных корней. Очевидно, что для числа Л/ целочисленных матриц 6, удовлетворяющих условию G), имеет место следующая оценка: N <Cq> (z) tna°, где п — размерность группы Zn. Итак, установлено, что число отличных от нуля членов ряда C) не превышает Cq> (z) tna\ где а0 = 2 «• а п — раз- п а>0 мерность группы Z . Теперь уже легко доказать сходимость ряда B) для до- достаточно большого р. Для этого достаточно заметить, что р-я производная каждого члена ряда C) не превосходит по модулю числа a>0 где a общее число корней. Следовательно, q = У\ a, a > О р-я производная суммы ряда C) не превосходит Итак, установлено, что В силу этой оценки очевидно, что интеграл / kp(g)dg= J j J kp (ztv) dz dt dv п ПП Г V j Г V сходится, если р достаточно велико. 9] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 483 Доказательство основной теоремы мы завершим в п. 10. Именно, в п. 9 будет сформулирована, а в п. 10 доказана основная лемма, из которой будет непосредственно вытекать конечность следа оператора, удовлетворяющего условию B). Эта лемма относится к некоторому классу интегральных операторов на разрешимых группах. 9. Разрешимые алгебры и группы. Формулировка основной леммы. Пусть SR—разрешимая и расщепимая над полем Q рациональных чисел алгебраическая алгебра Ли. Как известно, Ш допускает разложение Шевалле эг — 3+2, где 3 — максимальный нильпотентный идеал, а ? — комму- коммутативная подалгебра; таким образом, [3. ?]сЗ и №. ?] = о. В нильпотентной подалгебре 3 можно естественным об- образом ввести понятие корня и корневого пространства. Именно, рассмотрим линейные функции a(f) на X со значе- значениями в Q. Назовем функцию a(t) корнем, если в 3 суще- существует вектор $ф 0 такой, что для любого ???. Очевидно, что совокупность векторов g, отвечающих одному и тому же корню а(?), образует линейное подпро- подпространство в 3- Это подпространство мы назовем корне- корневым подпространством и обозначим через За- Из определения следует, что 13а> Зр1 с За+0 для любых корней а, р. В частности, если a-f-Э не яв- является корнем, то [За. 3«] == 0- Назовем корень а алгебры 3 простым, если его нельзя представить в виде суммы других корней. Будем предполагать, что множество корней а алгебры 3 удовлетворяет следующим условиям: П простые корни об- образуют линейно независимую систему По, 2) любой корень алгебры 3 представим в виде суммы простых корней. Ал- Алгебры 3> удовлетворяющие этим условиям, назовем пра- правильными алгебрами. 31*
484 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ Кроме того, будем всегда предполагать, что число про- простых корней алгебры 3 равно размерности пространства X. Перейдем теперь от алгебры $t = $-}-'X над полем Q к соответствующей ей разрешимой группе над полем веще- вещественных чисел: где Z— унипотентный нормальный делитель в R, отвечаю- отвечающий 3> Т — тор, отвечающий коммутативной подалгебре %. Обозначим через Д дискретную подгруппу группы Z, являющуюся подгруппой конечного индекса группы всех целочисленных матриц из Z. Напомним определение полуограниченного множества на торе Г. Множество Т° аТ называется полуограниченным, если для любого фиксированного z ? Z множество элемен- элементов вида r'zt. является ограниченным. Пусть = A\ZT°, где Т° — полуограниченное множество на торе, а А — неко- некоторая подгруппа конечного индекса группы целочисленных матриц из Z. Рассмотрим пространство L2(X), т. е. пространство функций f(z, t), z?Z, t?T°, удовлетворяющих следующим условиям: 1) f(bz, t) = f(z, t) для любого 6?Д; 2) / |/B. t)\*dzdt <oo. Д \ZT° Таким образом, пространство L2(X) является тензорным произведением X=L2(A \ Z) Выделим в L2(A\Z) подпространство Но функций, интегралы которых по любой орисфере на Д \ Z равны нулю, и рассмотрим отвечающее Но подпространство пространства L2(X). 101 § 7. ДИСКРЕТНОСТЬ СПЕКТРА 485 Нашей ближайшей задачей является доказательство леммы о конечности следа оператора на Но, которая формули- формулируется ниже. Назовем интегральный оператор А на L2(X) с ядром К (zxt, z2t) *) регулярным оператором, если выпол- выполняются следующие условия. 1) А является самосопряженным положительным опе- оператором. 2) Ядро К является бесконечно дифференцируемой функ- функцией на X <g> X. 3) Обозначим kp(z°, О = 11/(^)||р, A) где ==K(zt, z°t), а ||/||р—р-норма функции f(z) = f(xx т„), опреде- определенная в п. 7. Тогда найдется такое р, что Г kp О, t)dzdt < оо. A\ZT" Имеет место следующее утверждение. Лемма. След регулярного оператора А на под- подпространстве Но конечен. (Под следом оператора А на подпространстве подразу- подразумевается след оператора РАР, где Р — оператор проекти- проектирования на данное пространство.) 10. Доказательство основной леммы. Доказательство будет вестись индукцией по числу корней группы Z. Рассмотрим какое-либо корневое подпространство $т, принадлежащее центру алгебры 3: [3> 3ml= 0. Очевидно, что $т является подалгеброй в 3- Этой подалгебре Зт отве- отвечает подгруппа Zm, принадлежащая центру группы Z. Пусть х пробегает множество характеров компактной коммутативной группы Ат \ Zm\ Нх — подпространство функ- функций / (z) из Н = L2(A\ Z) таких, что / (zmz) = х (zm) f (z) для любого zm 6 Zm. *) Подразумевается, что К любых 6i, б2 € А. b2z2t2) = К C^i, z2t2) для
486 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ [10 Очевидно, что пространство //= L2 (A\Z) является прямой суммой подпространств Нх: я = 2 я*. х Выделим в Н подпространство Н' = 2 Нх, где %0 — характер, равный тождественно единице. Покажем, что след оператора А на подпространстве Н' = — Н' ® U (Т°) конечен. В самом деле, обозначим через Р% оператор проектиро- проектирования на Нх <g L2 (Т°): P%f (z. 0 = f x(zm) f (zmz, t) dzm. Am\zm Тогда имеем = f J x(zm)K(zmzt, zt)dzmdzdt. XA\Z Так как ТгЛ< н' то отсюда получаем, что Tr Н' хФъ> Г Г x(zm)K(zmzt, zf)dzmdz dt. A) Из A) следует, что Тг где a {z, 0 = a(z, f)dzdt, l(zm)K(zmzt, zt)dzn Оценим a(z, t). Пусть \\K(zmzt, zt)\\p-- /7-норма функ- функции К {zm zt, zt), рассматриваемой как' функция от zm. 101 § 7. ДИСКРЕТНОСТЬ СПЕКТРА 487 Тогда на основании оценки для коэффициентов Фурье, при- приведенной в п. 7, мы имеем a(z, t)<C\\K(zmzt, zt)\\p. Но, как нетрудно убедиться, \\K(zmzt, zt)\\p-*Ckp(z, t), где kp(z, f) — функция, определенная формулой A) п.9. Таким образом, имеем a(z, t) -^Ckp(z, t), а потому Tr A < Г kp (z, t) dz dt для любого р. В силу предположения леммы, существует такое р, для которого I kp(z, f)dz dt << оо. Следовательно. х конечен и Тг А. Н' Перейдем теперь непосредственно к доказательству утвер- утверждения леммы: след оператора А на подпространстве Яо = = Яо © Z-2 (Т°) конечен. Разложим Но в прямую сумму подпространств Но = = Яо®1~ъ(т\ где Нх = . Поскольку ТО Тг А < Тг А. н' н1 Следовательно, в силу доказанного выше, оператор А имеет конечный след на подпространстве Но = 2 ^о* Таким образом, для завершения доказательства леммы нужно лишь убедиться, что А имеет конечный след и на подпространстве Докажем это.
488 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ ЦО Заметим, что так как /У$°сг//Х°, то Тг А= Тг РХоАРХо. где РХо — оператор проектирования на НХа: P%J{z, 0= [ f{zmz, t)dzm. Am\zm Таким образом, вместо оператора А можно рассматривать оператор РХаАРХа, ядро которого выражается через ядро К оператора А следующей формулой: mzxt\, z'mz2t2)dzmdz'm. B) z2t2) = J Выясним теперь, как устроены пространства //Хо = = Нх° © L2 (Т°) и Щ" = Н%° ® U (Г°). Пространство //Хо состоит из функций удовлетворяющих условию f(zmz) = f(z) аля любого zm?Zm. Следовательно, где Z' = Zm \ Z, b' = Zm\ ZmA ^ А Подпространство 7/о° есть в этой реализации пространство всех функций из L2 (A'\Z'), интегралы которых по любой орисфере на AfS\Z' равны нулю. Заметим, что Z' является правильной группой, именно, ее простые корни те же, что и у Z. Так как общее число корней у группы Z' на один меньше чем у Z (отброшен последний корень), то, в силу индуктивного предположения, можно считать лемму доказанной для пространства Нх". Таким образом, если будет установлена регулярность оператора РХоАРХо на пространстве НХо, то отсюда будет уже следовать конечность его следа на подпространстве Н^". Справедливость условий регулярности 1) и 2) для опе- оператора РХоАРъ очевидна. Остается проверить справедливость условия 3). 10] § 7. ДИСКРЕТНОСТЬ СПЕКТРА 489 Рассмотрим ядро К' оператора РХаАРХа, определенное формулой B). Это ядро мы должны считать функцией на (A'\Z/r°)®(A/\Z/r°). Положим f (z) = К'(zt, z°t), z,z°?Z', k'p(z0, t)= \\f'\\'p, где \\f (z)\\'p обозначает /?-нор- му функции /, рассматриваемой как функция от z' ? Z'. Тогда условие 3) регулярности оператора Рхо^^хо состоит в том, что для некоторого р Г , 0 dz dt < оо. A'\Z'Ta Как нетрудно убедиться, kp(z, /)< , i)dzm, где kp(z, t) — функция, определенная формулой A) п. 9. Следовательно, Г kp(z, J J kp(zmz, t)dzmdzdt. z Стоящий справа интеграл может быть переписан в виде f kp(Z, t)dzdt. A\ZT° По условию, этот интеграл конечен для некоторого р. Сле- Следовательно, для этого р конечен и интеграл J kp(z,t)dzdt. на про- проИтак, мы доказали регулярность оператора Р странстве НХо. В силу индуктивного предположения, отсюда вытекает конечность следа этого оператора на подпростран- подпространстве Н$\ Лемма доказана. Покажем, что из доказанной леммы вытекает справедли- справедливость основной теоремы. Для этого достаточно проверить, что интегральный оператор, рассматриваемый в пункте 8, является регулярным. Условие 1), очевидно, имеет место,
490 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ если функция ф положительно определена. Условие 2) имеет место, если функция qp является функцией Шварца — Брюа. Выполнение условия 3) было проверено в пункте 8. ДОБАВЛЕНИЕ К § 7 ФУНКЦИИ НА ПРАВИЛЬНЫХ НИЛЬПОТЕНТНЫХ ГРУППАХ ЛИ I. Правильные нильпотентные алгебры Ли. Пусть 3— нильпотентная алгебраическая алгебра Ли над полем Q ра- рациональных чисел. Назовем 3 градуированной алгеб- алгеброй, если 3 разлагается в прямую сумму линейных под- подпространств а— V а где а пробегает конечное подмножество Щ элементов неко- некоторой абелевой группы без кручения. При этом предполагается выполненным следующее условие: [3a. 3rJ = 0, если a -f- p не принадлежит Ш. Индексы а ? ЗЛ будем называть корнями алгебры 3> а со- соответствующие подпространства $а — корневыми под- подпространствами алгебры 3- Назовем корень а алгебры 3 простым, если он не может быть представлен в виде суммы других корней. Скажем, что градуированная алгебра 3 является правиль- правильной, если выполняются следующие условия: 1) простые корни алгебры 3 линейно независимы; 2) любой корень ал- алгебры 3 представим в виде суммы простых корней. Будем дальше рассматривать только правильные алгебры 3- Пусть По : аг а„ — система простых корней алгебры 3- Согласно определению, любой корень а алгебры 3 однозначно представим в виде суммы a= S с,а, где ct — целые неотрицательные числа. ДОБАВЛЕНИЕ К § ? 491 Сопоставим каждой паре непустых подмножеств ГГ, П множества По всех простых корней, П'сП подалгебру Зп' алгебры 3> которую мы определим следующим образом. Пусть Шп множество всех корней вида а= 2 СЛ. A) где сумма берется по множеству простых корней из П, при- причем хотя бы один корень а/ ? П' входит в эту сумму с от- отличным от нуля коэффициентом. Положим — Jj За- g' B) Очевидно, что Зп' является подалгеброй алгебры 3- За- Заметим, что в силу введенных обозначений, 3 = 3п°- Кроме того, положим Зп = 0, где индекс 0 обозначает пустое мно- множество. Условимся подалгебры Зп0 называть орисфериче- скими подалгебрами алгебры 3- Нетрудно видеть, что орисферические подалгебры явля- являются идеалами алгебры 3- Отметим, что к числу орисфери- ческих подалгебр алгебры 3 принадлежат сама алгебра 3 (поскольку 3 = ЗЙ) и нулевая подалгебра. Отметим, что подалгебра Зп является правильной под- подалгеброй алгебры 3- системой простых корней которой явля- является множество П. При этом орисферическими подалгебрами алгебры Зп являются алгебры Зп'. ПсП. Без труда проверяются следующие свойства алгебр Зп: 1) Если ЩсПг, П^сгПг, то ^п п, 2. C) 2) Если П"сП'сП, то имеет место разложение в прямую сумму ОП' оп" I оП'-П" //Г. Зп =3п +3п-п" • D)
492 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ где П— П" обозначает дополнение множества П" в П. В част- частности, любая правильная алгебра Зп разлагается в прямую сумму любой своей орисферической подалгебры Зп' и правильной подалгебры Зп-ш (П'сП). 2. Правильные нильпотентные группы Ли. Пусть 3 — произвольная нильпотентная правильная алгебра Ли над Q, определенная в п. 1; По — множество ее простых корней. Обозначим через Z нильпотентную алгебраическую группу над полем вещественных чисел, отвечающую алгебре 3- Со- Соответственно, через Zn', П'сПсП0 обозначим алгебраиче- алгебраические подгруппы над полем вещественных чисел, отвечающие подалгебрам Зп'- Пусть А — подгруппа целочисленных матриц группы Z (или какая-либо подгруппа конечного индекса группы целочисленных матриц). Положим В соответствии с терминологией п. 1 подгруппы Zno будем называть орисферическими подгруппами группы Z, а подгруппы Zn, в том числе и группу Z = Zn°> будем называть п равильными группами. Отметим основные свойства групп Zn'. Прежде всего, из результатов п. 1 непосредственно вытекает: 1) Если ЩсПг, Пх'сгПг, то А О) 2) Если П" сг П' сг П, то имеют место разложения в полу- полупрямое произведение: ,П'-П" Zri = *П B) при этом Zn является нормальным делителем группы Далее, нетрудно убедиться, что пространства дП' ч 7П' являются компактными. 21 ДОБАВЛЕНИЕ К § 7 493 Поскольку группы Zn нильпотентны, то в них сущест- существует инвариантная мера dzn'- Будем предполагать эту меру нормированной так, что / ,П'\ C) Нашей задачей является изучение пространства Н = = L2 (A\Z), т. е. пространства функций f(z) на Z, удо- удовлетворяющих следующим условиям: 1) fFz) = f(z) для любого б^А; D) 2) J E) A\Z Мы получим здесь важное для теории представлений раз- разложение пространства Н в прямую сумму подпространств (см. ниже теорему). Введем понятие орисферы в пространстве А \ Z. Назовем П-орисферами на Z классы смежности Z^oz группы Z по орисферической подгруппе Zn0. Образы П-орисфер на Z при естественном отображении Z->A\Z назовем П-орисферами в пространстве A\Z. Очевидно, что П-орисферы в пространстве А \ Z являются компактными подмножествами. Рассмотрим следующие подпространства пространства Н. Пусть Н'п — подпространство функций / ? Н, постоянных на П-орисферах, т. е. таких, что / (г%г) = f (z) для любого z^ 6 ^gv F) Далее, пусть Нп с Н'П — подпространство функций постоян- постоянных на П-орисферах и таких, что их интегралы по любой П' орисфере, где П' гэ П. равны нулю: J 5'sO, П'=>П. G)
494 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕИ B Заметим, что если П, с= П2, то Zn\ а потому Яп, 'п, Приведем удобный способ описания пространств Н' и Н Так как группа Z разлагается в полупрямое произведение то, в силу условия F), функции f?H'n можно рассмат- рассматривать как функции на Z§°In. Таким образом, 2 (.Лпо-П \Zno-nJ- П о (8) Докажем, что в этой реализации подпространство Нп состоит из всех функций /, интегралы которых по любой орисфере в AS°In\Zn°In равны нулю, т. е. Лп0-п / (9) В самом деле, пусть П'гз П, т. е. 1Г = П-|-П", где П" сг По— П, П" Ф 0. Тогда имеет место разложение в полу- полупрямое произведение Без труда проверяется, что для любой функции / ? Н справедливо следующее интегральное соотношение: / /С = г .П' ГПо-П ^п0 В силу этого соотношения имеем для любой функции .П-- ДОБАВЛЕНИЕ К § 7 495 Из соотношения A1) следует, что условия G) и (9) эквива- эквивалентны. Будет доказана следующая теорема. Теорема. П рост ранства Нп попарно ортого- ортогональны, и их прямая сумма есть все пространство Н, т. е. п (П пробегает здесь все подмножества множества По, включая само множество По и пустое множество *)). Предварительно введем операторы Рп, сопоставляющие каждой функции / ? Н ее интегралы по П-орисферам: A2) * Очевидно, что оператор Рп является проекционным опе- оператором, проектирующим все пространство Н на подпро- подпространство Нп- Таким образом, в терминах операторов Рп подпростран- подпространства Нп. и Нп описываются следующим образом: Нц есть подпространство всех функций / ? // таких, что Pnf=f; Нп есть подпространство всех функций /' ?Н таких, что Paf = f и />п-/ = 0 при IVzdU. Докажем, что операторы Рп удовлетворяют следую- следующему соотношению: Рп,Рп2 = Рп1+п3 A3) для любых подмножеств Пг, П2 простых корней. Для доказательства воспользуемся следующим без труда проверяемым интегральным соотношением, аналогичным соот- соотношению A0). Пусть f {z)—произвольная суммируемая функция на группе Zn0, постоянная на классах смежности Ап0 \ -^п0- *) Отметим, что Н — И'о, а странство констант- — ЯПо есть одномерное про-
про496 Тогда ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ ff(z)dz = j f f(z'z")dz"dz\ A4) "S, ' ^П где обозначено С"П дП ч 7П рП, W /»П _. .П"| ч /7П _. 7П'\ ^п„ — Ап0 \ ZUo, г п0 = ^л„ П An0J \ \Zjia П -^noJ Оператор Яп,-Рп2 задается следующей формулой: PniPnJ(z)= f A5) В силу интегрального соотношения A4), интеграл A5) можно представить в виде: = f f f f(zV)zfz"z)dzV) dz' dz". ) !, п2 Так как Zn'o f| Z^i^Z^, то мы вправе сделать замену переменной, положив г<2> = z^z'~l. В результате такой за- замены получаем f ГПО-(П, т. е., в силу интегрального соотношения A4), PnlPnJ(z)= f f{z'zydz' = Plli+n ПП Итак, доказано, что Яп^п, = Рпх+п2- На основании этого результата докажем первое утвер- утверждение теоремы, что пространства Нп попарно ортогональны. Пусть Аб^, /2€^п,' П^П2. Тогда f^P^f,, /2 = Ра /2. Следовательно, (/г /2) = (^П1А. PnA) = {fv PnPaA)-{fv Рп1+щ/& Но, в силу определения пространства //п2. имеем ^>п1+п2/2г=0> а потому (/j, /2) = 0, что и требовалось до- доказать. 21 ДОБАВЛЕНИЕ К § 7 497 Теперь докажем второе утверждение теоремы, а именно, что п Доказательство будет вестись индукцией по числу простых корней. Из определения пространств Нп и Нп следует, что тт' т_т ; /II »т' N /1 ?±\ —— *? о ~=~~ ** 0 —г~ | II ** (п \ I » v ^ О/ \а g По / где 0 обозначает пустое множество, а {а} — множество, со- состоящее из одного простого корня а. Таким образом, до- достаточно доказать, что Изучим пространство //|а\ более подробно. Это простран- пространство состоит из функций f(z), постоянных на {а}-орисферах, т. е. таких, что для любого A7) Поскольку группа Z разлагается в полупрямое произведение Z = ZW Z^°, где Па = По — {а}, то На можно рассматривать как пространство функций на ° \ ' / /Дпа \ 7Па п Заметим, что Z^a является правильной группой, множе- множество простых корней которой Па меньше, чем множество По простых корней исходной группы Z. Следовательно, в силу индуктивного предположения, утверждение теоремы справед- справедливо для пространства Hi л. 32 И- М. Гельфанд и др.
498 ГЛ. III. ПРЕДСТАВЛЕНИЯ ГРУПП АДЕЛЕЙ [2 2j Таким образом, имеем Н[а}= 2j На. п. A8) II CZ 11а где На> п—подпространство функций на Z"a, удовлетво- удовлетворяющих следующим условиям: f(znaz) = f(z) для любого Zna?Zna; A9) 2na^)^na = 0 при ПаЗП'эП. B0) Функции f(z) можно считать продолженными на всю группу Z согласно формуле A7). Покажем, что На п<=:Нп+[а]. В самом деле, пусть / ? На п. Так как 4{0+(°!^гЦ2пв. то из соотношений A7) и A9) следует, что /(*g+ {ab) = f (z) для любого *g + Ы 6 ^?+{a}, т. е. функция /постояннана(П-|- {а})-орисферах. Далее, пусть ГГ=эП-+-{а}, т. е. П' = П,'+{а}. где ^эПЬП. Так как = z{iolzn1. ТО имеем- в силУ (I7) и B0): - / / П1 П1 Тем самым доказано, что На пс:/-/п+ {а}. В силу A8) и A6). мы получаем, что ^Нц = Н. Теорема доказана п ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ К § 1 гл. I. В § 1 излагаются в основном классические резуль- результаты. Теорема о конечности числа сторон фундаментальной области на плоскости Лобачевского и о существовании параболических вершин принадлежит Зигелю [60]. К § 2 гл. I. Понятие индуцированных представлений для ко- конечных групп впервые было введено Фробениусом [34]; их важная роль в теории бесконечномерных представлений групп была вскрыта И. М. Гельфандом и М. А. Наймарком [19], [20], подробная теория индуцированных представлений была развита в работах Макки, см. его обзор [30]. Теорема о дискретности спектра индуцирован- индуцированного представления в случае компактного пространства Г"\О при- принадлежит И. М. Гельфанду и И. И. Пятецкому-Шапиро [21]. Кри- Критерий полной непрерывности представления, приведенный на стр. 46, получен Феллом [38]. Формула следа (пп. 4 и 5) для общего случая получена И. М. Гельфандом и И. И. Пятецким-Ша- пиро [21]. Частный ее случай, относящийся к пространствам, на которых операторы Лапласа коммутируют, был ранее получен (в иной форме) Зельбергом [26]. К § 3 гл. I. Неприводимые унитарные представления группы вещественных матриц 2-го порядка были описаны Баргманом [39]. Пространства Qs (п. 5) были введены И. М. Гельфандом и И. И. Пя- тецким-Шапиро [21]. К § 4 гл. I. Теорема двойственности для представлений дискрет- дискретной серии группы матриц 2-го порядка была доказана И. М. Гель- Гельфандом и С. В. Фоминым [25]. Теорема двойственности для представ- представлений непрерывной серии группы матриц 2-го порядка была получена И. М. Гельфандом и И. И. Пятецким-Шапиро [21]. Общая теорема двойственности была получена И. И. Пятецким-Шапиро; опублико- опубликована там же. Свойство (А) полупростых групп Ли (п. 6) установлено Хариш-Чандра. К § 5 гл. I. Формула следа для группы вещественных матриц 2-го порядка (другими методами) была получена Зельбергом [26] и известна в литературе под названием «формула следа Зельберга». Формула следа для группы комплексных матриц 2-го порядка (Добавление 2 к§5) впервые была опубликована в статье И. М. Гель- фанда и И. И. Пятецкого-Шапиро [21]. Теорема о непрерывной деформации (Добавление I к § 5) принадлежит И. М. Гельфанду и И. И. Пятецкому-Шапиро. К § 6 гл. I. Результаты (для любой полупростой группы G и так называемой правильной дискретной подгруппы) принадлежат И. М. Гельфанду и И. И. Пятецкому-Шапиро [24]. Понятие орисфе- рического отображения, его применение к теории представлений и выяснение его связи с интегральной геометрией принадлежит И. М. Гельфанду и М. И. Граеву [13]. Изложение некоторых свя- связанных с этим вопросов дано в [17]. Дальнейшее развитие эти работы получили у Хелгасона [62]. Применение орисферического ото- отображения к изучению представлений в пространствах L2(Y\G) при- принадлежит И. М. Гельфанду и И. И. Пятецкому-Шапиро [22], [23],[24]. К Добавлению к гл. I. Кватернионные группы систематически изучались Эйхлером. 32*
500 ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ К § 2 гл. II. Пространства основных и обобщенных функций на локально компактной группе введены Брюа [44]. Понятия Г-функ- ции, В-функции, функции Бесселя и гипергеометрической функции для любого локально компактного поля принадлежат И. М. Гель- Гельфанду и М. И. Граеву [16]. К § 3 гл. II. Первые работы по теории унитарных представле- К Добавлению к гл. II. Результаты принадлежат А. А. Кирил- „.. — . ... ,j,-..«j u ,.*. rl. , pa^-oj iiuj. vu^Mjjia для сферических функций (п. 10) была получена Маутнером [53]. Сферические функ- функции для более общего случая изучались Сатаке [58]. Результаты п. 11 принадлежат авторам книги. К § 4 гл. II. Результаты пп. 1—7 принадлежат И. М. Гельфанду и М. Й. Граеву [16], а результаты п. 8 — А. А. Кириллову. К § 5 гл. II. Формулы следов для случая несвязного поля получены И. М. Гельфандом и М. И. Граевым [16], для случая поля комплексных чисел — И. М. Гельфандом и М. А. Наймарком [19], для случая поля вещественных чисел — Хариш-Чандра [48]. К § 6 гл. II. Формула Планшереля для случая несвязного поля получена И. М. Гельфандом и М. И. Граевым [16], для случая поля комплексных чисел — И. М. Гельфандом и М. А. Наймар- Наймарком [19], для случая поля вещественных чисел — Баргманом [39], см. также Хариш-Чандра [48]. " " " л. II. Р лову; текст написан им же. К § 1 гл. III. Понятие аделей и иделей принадлежит Шевалле, см. также Тэйт (диссертация), А. Вейль [9], Лэнг [51]. Добавление к § 1 принадлежит И. И. Г1ятецкому-Шапиро. Аналогичные резуль- результаты получены И. Сатаке. К § 2 гл. III. Основные результаты принадлежат Тэйту (дис- (диссертация). Понятие кольца Тэйта (Добавление к § 2) принадлежит авторам книги. К § 3 гл. III. Понятие группы аделей произвольной группы G принадлежит Оно [54], [55], Тамагава, а для случая ортогональной группы — Кнезеру [50]. Введенное здесь понятие тензорного про- произведения представлений для прямого произведения групп с отме- отмеченными подгруппами принадлежит авторам книги [18]. Первая теорема о тензорном произведении (пп. 2 и 3) принадлежит авто- авторам книги. Вторая теорема (п. 5) получена авторами совместно с А. А. Кирилловым. Критерий существования единственного инва- инвариантного вектора по существу получен И. М. Гельфандом [И]. К § 4 гл. III. Результаты принадлежат авторам книги [18]. Другое изложение этих результатов, оказавшееся весьма полезным авторам при написании книги, дано Годманом [47]. Результаты Добавления к § 4 принадлежат И. И. Пятецкому-Шапиро. Анало- Аналогичные результаты получены И. Сатаке. К §§ 5 и 6 гл. III. Основные результаты принадлежат авторам книги. К § 7 гл. III. Основная теорема принадлежит авторам книги. Основная лемма принадлежит И. М. Гельфанду и И. И. Пятецкому- Шапиро [24]. Добавление к § 7 принадлежит авторам книги. БИБЛИОГРАФИЯ [1] Б о р е в и ч 3. И. и Ш а ф а р е в и ч И. Р., Теория чисел, М., «•Наука», 1964. [2] Борель А., Арифметические свойства алгебраических групп, Математика (сборник переводов) 8, № 2 A964), 3—18. [3] Борель А., Некоторые свойства групп аделей, связанных с алгебраическими группами, Математика (сборник переводов) 8, № 2 A964), 73—76. [4] Б о р е л ь А., Фундаментальные множества арифметических групп, Математика (сборник переводов) 9, № 1 A965), 127— 139. [5] Б о р е л ь А., Харнш-Чандра, Арифметические полгруппы алгебраических групп Ли, Математика (сборник переводов) 8, № 2 A964), 19—72. [6] Вейль А., Редукция квадратичных форм по Минковскому и Зигелю, Математика (сборник переводов) 6, № 5 A962), О 11. [7] Вейль А., О дискретных подгруппах Ли, I и II, Математика (сборник переводов) 7, № 1 A963), 3—18 и 19—42. [8] Вейль А., Алгебры с инволюцией и классические группы, Ма- Математика (сборник переводов) 7, № 4 A963), 31—56. [9] Вейль А., Адели и алгебраические группы, Математика (сбор- (сборник переводов) 8, № 4 A964), 3—74. [10] Г а н и н г Р. К., Лекции о модулярных формах, Математика (сборник переводов) 8, № 6 A964), 3—68. [11] Гельфанд И. М., Сферические функции на симметрических римановых пространствах, ДАН СССР 70, № 1 A950), 5—8. [12] Гельфанд И. М. и Граев М. И., Аналог формулы План- Планшереля для классических групп, Тр. Моск. матем. о-ва 4 A955), 375—404. [13] Гельфанд И. М. и Граев М. И., Геометрия однородных пространств, представления групп в однородных пространствах и связанные с ними вопросы интегральной геометрии, Тр. Моск. матем. о-ва 8 A959), 321—390. [14] Гельфанд И. М. и Граев М. И., Конструкция неприводи- неприводимых представлений простых алгебраических групп над конечным полем, ДАН СССР 147, № 3 A962). [15] Гельфанд И. М. и Граев М. И., Неприводимые унитарные представления группы матриц 2-го порядка с элементами из локально компактного поля, ДАН СССР 149, Ка 3 A963).
500 ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ К § 2 гл. II. Пространства основных и обобщенных функций на локально компактной группе введены Брюа [44]. Понятия Г-функ- ции, В-функции, функции Бесселя и гипергеометрической функции для любого локально компактного поля принадлежат И. М. Гель- Гельфанду и М. И. Граеву [16]. К § 3 гл. II. Первые работы по теории унитарных представле- представлений матричных групп с /?-адическими элементами принадлежат Маутнеру [53] и Брюа [43]. Результаты пп. 1—9 принадлежат И. М. Гельфанду и М. И. Граеву [16]. Формула для сферических функций (п. 10) была получена Маутнером [53]. Сферические функ- функции для более общего случая изучались Сатаке [58]. Результаты п. И принадлежат авторам книги. К § 4 гл. II. Результаты пп. 1—7 принадлежат И. М. Гельфанду и М. И. Граеву [16], а результаты п. 8 — А. А. Кириллову. К § 5 гл. II. Формулы следов для случая несвязного поля получены И. М. Гельфандом и М. И. Граевым [16], для случая поля комплексных чисел — И. М. Гельфандом и М. А. Наймарком [19], для случая поля вещественных чисел — Хариш-Чандра [48]. К § 6 гл. II. Формула Планшереля для случая несвязного поля получена И. М. Гельфандом и М. И. Граевым [16], для случая поля комплексных чисел — И. М. Гельфандом и М. А. Наймар- Наймарком [19], для случая поля вещественных чисел — Баргманом [39], см. также Хариш-Чандра [48]. К Добавлению к гл. II. Результаты принадлежат А. А. Кирил- Кириллову; текст написан им же. К § 1 гл. III. Понятие аделей и иделей принадлежит Шевалле, см. также Тэйт (диссертация), А. Вейль [9], Лэнг [51]. Добавление к § 1 принадлежит И. И. Г1ятецкому-Шапиро. Аналогичные резуль- результаты получены И. Сатаке. К § 2 гл. III. Основные результаты принадлежат Тэйту (дис- (диссертация). Понятие кольца Тэйта (Добавление к § 2) принадлежит авторам книги. К § 3 гл. III. Понятие группы аделей произвольной группы G принадлежит Оно [54], [55], Тамагава, а для случая ортогональной группы — Кнезеру [50]. Введенное здесь понятие тензорного про- произведения представлений для прямого произведения групп с отме- отмеченными подгруппами принадлежит авторам книги [18]. Первая теорема о тензорном произведении (пп. 2 и 3) принадлежит авто- авторам книги. Вторая теорема (п. 5) получена авторами совместно с А. А. Кирилловым. Критерий существования единственного инва- инвариантного вектора по существу получен И. М. Гельфандом [11]. К § 4 гл. III. Результаты принадлежат авторам книги [18]. Другое изложение этих результатов, оказавшееся весьма полезным авторам при написании книги, дано Годманом [47]. Результаты Добавления к § 4 принадлежат И. И. Пятецкому-Шапиро. Анало- Аналогичные результаты получены И. Сатаке. К §§ 5 и 6 гл. III. Основные результаты принадлежат авторам книги. К § 7 гл. III. Основная теорема принадлежит авторам книги. Основная лемма принадлежит И. М. Гельфанду и И. И. Пятецкому- Шапиро [24]. Добавление к § 7 принадлежит авторам книги. БИБЛИОГРАФИЯ [I] Б о р е в и ч 3. И. и Ш а ф а р е в и ч И. Р., Теория чисел, М., «•Наука», 1964. [2] Бор ель А., Арифметические свойства алгебраических групп, Математика (сборник переводов) 8, № 2 A964), 3—18. [3] Б о р е л ь А., Некоторые свойства групп аделей, связанных с алгебраическими группами, Математика (сборник переводов) 8, № 2 A964), 73—76. [4] Бор ель А., Фундаментальные множества арифметических групп, Математика (сборник переводов) 9, № 1 A96В), 127— 139. [5] Борель А., Хариш-Чандра, Арифметические полгруппы алгебраических групп Ли, Математика (сборник переводов) 8, № 2 A964), 19—72. [6] Вейль А., Редукция квадратичных форм по Минковскому и Зигелю, Математика (сборник переводов) 6, № 5 A962), 3—11. [7] Вейль А., О дискретных подгруппах Ли, I и II, Математика (сборник переводов) 7, № 1 A963), 3—18 и 19—42. [8] Вейль А., Алгебры с инволюцией и классические группы, Ма- Математика (сборник переводов) 7, № 4 A963), 31—56. [9] Вейль А., Адели и алгебраические группы, Математика (сбор- (сборник переводов) 8, № 4 A964), 3—74. [10] Ганинг Р. К., Лекции о модулярных формах, Математика (сборник переводов) 8, № 6 A964), 3—68. [II] Гельфанд И. М., Сферические функции на симметрических римановых пространствах, ДАН СССР 70, № 1 A950), 5—8. [12] Гельфанд И. М. и Граев М. И., Аналог формулы План- Планшереля для классических групп, Тр. Моск. матем. о-ва 4 A955), 375—404. [13] Гельфанд И. М. и Граев М. И., Геометрия однородных пространств, представления групп в однородных пространствах и связанные с ними вопросы интегральной геометрии, Тр. Моск. матем. о-ва 8 A959), 321—390. [14] Гельфанд И. М. и Граев М. И., Конструкция неприводи- неприводимых представлений простых алгебраических групп над конечным полем, ДАН СССР 147, № 3 A962). [15] Гельфанд И. М. н Граев М. И., Неприводимые унитарные представления группы матриц 2-го порядка с элементами из локально компактного поля, ДАН СССР 149, № 3 A963).
502 БИБЛИОГРАФИЯ [16] Гельфанд И. М. и Граев М. И., Представления группы матриц 2-го порядка с элементами из локально компактного поля и специальные функции на локально компактных полях, УМН 18, вып. 4 A963), 29—99. [17] Гельфанд И. М., Граев М. И., Виленкин Н. Я., Ин- Интегральная геометрия и связанные с ней вопросы теории пред- представлений (Обобщенные функции, вып. 5), М., Физматгиз, 1962. [18] Гельфанд И. М., Граев М. И., Пятецкий-Шапи- р о И. И., Представления групп аделей, ДАН СССР 156, № 3 A964), 487—490. [19] Гельфанд И. М. и Наймарк М. А., Унитарные предста- представления классических групп, Труды Матем. ин-та им. Стеклова 36 A950); немецкое издание; Unitare Darstellungen der klassi- schen Gruppen, Berlin, Akademie Verlag. [20] Гельфанд И. М. и' Наймарк М. А., Унитарные пред- представления группы Лоренца, Известия АН СССР, сер. матем. 11 A947), 411. [21] Гельфанд И. М. и Пятецкий-Шапиро И. И., Теория представлений и теория автоморфных функций, УМН 14, вып. 2 A959), 171—194. [22] Гельфанд И. М. и Пятецкий-Шапиро И. И., Уни- Унитарные представления в однородных пространствах с дискрет- дискретными стационарными группами, ДАН СССР 147, № 1 A962), 17—20. [23] Гельфанд И. М. и Пятецкий-Шапиро И. И., Уни- Унитарные представления в пространстве G/Г, где G — груп- группа вещественных матриц /г-го порядка, Г —• подгруппа целочисленных матриц, ДАН СССР 147, № 2 A962), 275— 278. [24] Гельфанд И. М. и Пятецкий-Шапи|о И. И., Авто- морфные функции и тес ~ о ва 12 A963), 389—412. морфные функции и теория представлений п и р о й, Тр. Моск. матем. [25] Гельфанд И. М. и Фомин С. В., Геодезические потоки на многообразиях постоянной отрицательной кривизны, УМН 7, вып. 1 D7) A952), 118—137. [26] Зельберг А., Гармонический анализ и дискретные группы в слабосимметрических римановых пространствах; приложения к теории рядов Дирихле, Математика (сборник переводов) 1, вып. 4 A957), 3—28. [27] Зельберг А., О дискретных группах в многомерных сим- симметрических пространствах, Математика (сборник переводов) 6, № 3 A962), 3—16. [28] 3 иг ель К., Автоморфные функции нескольких комплексных переменных, М., ИЛ, 1954. [29] Кириллов А. А., О бесконечномерных унитарных предста- представлениях группы матриц 2-го порядка с элементами из локаль- локально компактного поля, ДАН СССР 150, № 4 A963), 740—743. [30] М а к к и Г., Бесконечномерные представления групп. Матема- Математика (сборник переводов) 6, № 6 A962), 3—56. БИБЛИОГРАФИЯ 503 [31] Понтрягин Л. С, Непрерывные группы, М. — Л., Гостех- издат, 1954. [32] С а т а к е И., К теории редуктивных алгебраических групп над совершенным полем. Математика (сборник переводов) 9, № 2 A965), 19—44. [33] Тите Ж., Изотропные полупростые группы, Математика (сборник переводов) 9, № 1 A965), 140—148. [34] Фробениус, Теория характеров и представлений групп, Харьков, 1937. [35] Хассе Г., Лекции по теории чисел, М., ИЛ, 1953. [36] Шевалле К., Теория групп Ли, т. 2, М., ИЛ, 1958 [37] A u s 1 а п d e r L., Green L., H a h n F., Flows on homoge- homogeneous spaces, Princeton, N. J., 1963. [38] Fell J. M. Q.. The dual spaces of C*-algebras, Trans, of Amer. Math. Soc. 94, № 3 A960), 365—403. [39] Bargmann V., Irreducible unitary representations of the Lo- rentz group, Ann. of Math. 48 A947), 568—640. [40] В orel A., Some finiteness properties of adele groups over number fields, Publ. Math., 1HES, № 16 A963). [41] В о seek H., Darstellungen von Matrixgruppen uber topolo- gischen Korpern. I, Math. Nachr. 24, № 4 A962), 229—243. [42] Bruchat F., Sur les representations induites des groupes de Lie, Bull. Soc. Math. France 84 A956), 97—205. [43] Bruchat F., Sur les representations des groupes classiques p-adiques, I, II, Amer. J. of Math. 83 A961), 321—338, 343— 368. [44] Bruchat F., Distributions sur un groupe localement compact et applications a 1'etude des representations des groupes p-adiques, Bull. Soc. Math. France 89 A961), 43—75. [45] E i ch 1 er M., Quaternare quadratische Formen und die Riemann- sche Vermuttung fur die Kongruenzzetafunktion, Arch, d Math., 5 A954), 355—366 [46] Gel f and J. M., Automorphic functions and theory of represen- representations, Int Cong. Math., Stokholm, 1962. [47] Godement R., Analyse spectrale des fonctions modulaires, Setn. Bourbaki, 1964/65. [48] Harish-Ch andra, Plancherel formula for the 2x2 real uni- modular group, Proc. Nat. Acad. Sci. 38 A952), 337—342. [49] Harish-Cha ndra, The characters of semisimple Lie groups, Trans. Amer. Math. Soc. 81 A956), 98—163. [50] К n e s e r M., Einfach zusammenhageend algehraische Gruppen in der Aiithmetik, Int. Cong. Math., Stockholm, 1962. [51] Lang, Theory of algebraic numbers, 1964. [52] Ma ass H., Lectures on Siegel's modular Functions, Tata insti- institute, Bombay, 1954—1955. [53] Mautner F. J., Spherical functions over p-adic fields, I. Amer. J. of Math. 80, № 2 A958), 441—457. [54] О n о Т., Sur une propriete arithmetique des groupes commutatifs, Bull Soc. Math. France 85 A957), 307—323. [55] О п о Т., On some arithmetic properties of linear groups, Ann- Math. 70 A959), 266—290-
504 БИБЛИОГРАФИЯ [56] Peterson H., Zur analytischen Theorie der Grenzkreisgruppen, I, Math. Ann. 115 A937), 23—67. [57] Roelcke W., Ober die Wellengleichung bei Qrenzkreisgruppen erster Art., Sitzungsber. Heidelb. Akad. Wiss., Springer-Verlag, 1956. [58] S a t а к е J., Theory of spherical functions on reductive algebraic groups over p-adic fields, Publ. Math., JHES, № 18 A963). [59] Shilling O. F. G., The theory of valuations, N. Y., 1950. [60] S i e g e 1 C. L., Some remarks on discontinous groups, Ann. of Math. 46, № 4 A945), 708—718. [61] S i e g e 1 С L., Lectures on the analytical theory of quadratic forms, Gottingen, 1963. [62] Helgason S., A duality in integral geometry, some generelisa- tions of the Radon transform, Bull. Amer. Math. Soc. 70 A964), 435—446. [63] Harish-Chandra, On a lemma of Bruchat, J. math, pures appl., Serie g, 35 A956), 203—210. [64] Гельфанд И. М. н Граев М. И., Категории групп и задача о классификации неприводимых ДАН СССР 146, № 4 A962), 757—760. представлений представлений, УКАЗАТЕЛЬ ОСНОВНЫХ ОБОЗНАЧЕНИЙ Латинский и готический алфавиты A- An- A* a ¦¦ В Bn, Bs da d*X G. G/T — (P) К K+ K* P P Я QP s S(A) S{A") signTJC — группа аделей 322 /г-мерное векторное пространство над группой аделей А 352 •группа иделей 327 (аоо. а2' ••-> °-Р> •••) — обозначение аделя 322 оператор орисферического автоморфизма 239 ¦операторы Вей ля 439 - инвариантная мера в группе аделей 332 - инвариантная мера в группе иделей 333 группа аделей алгебраической группы G 357 группа матриц над полем р-адических чисел 357 пространство левых классов смежности группы G по подгруппе Г 14 — группа вещественных матриц 357 — пространства, в которых действуют неприводимые представления 56 — пространство представления группы G, индуци- индуцированного представлением х подгруппы Г 36 — «преобразование Фурье» функции на группе 97 — непрерывное локально компактное поле 166 — аддитивная группа поля К 174 — мультипликативная группа поля К 174 — квадратичное расширение поля К 167 — кольцо целых элементов несвязного поля К 172 — простой идеал кольца О 173 — образующий элемент идеала Р 173, 175 — порядок поля О/Р 173 — поле р-адических чисел 170 — пространство основных функций на поле К 188 — совокупность функций Шварца — Брюа 341 — пространство функций Шварца — Брюа на Аа 352 — элемент группы Вейля, соответствующий отраже- отражению относительно простого корня 443 мультипликативный характер на К 182
506 УКАЗАТЕЛЬ ОСНОВНЫХ ОБОЗНАЧЕНИЙ Тг Тп (/) — след (характер) оператора Тл (/) 265 Тг Тп (g) — след оператора представления Тл (g) 265 Тг а — след матрицы а 47 Тл (g) — оператор представления непрерывной серии, соот- соответствующего характеру я 386 Т? (g), T~ (g) — оператор представлений дискретной серии 248 Ф (S) T iS) dg 38 — норма в К элемента х 172 j — норма вектора х 235 | х \р — норма элемента х в поле /?-адических чисел 333 \х\оо — естественная норма в поле вещественных чисел 333 Zn — орисферическая группа 462 Zg0 — орисферическая подгруппа 492 Я (я,. Г4' я2) sG Г \ G / U Г Гг я я 5Со 1а г (я) (я) Y Д Дп е X п По (Я) (-*) (а) (г) (х) Q.— Греческий алфавит бета-функция 197 дискретная подгруппа группы G 15 пространство правых классов смежности группы G по подгруппе Г 14 пространство двусторонних классов смежности 14 гамма-функция 196 гамма-функция, связанная с полем К (Ух) 210 элемент дискретной подгруппы Г 15 оператор Лапласа 65 целочисленная подгруппа группы Zg 474 элемент поля К порядка q—1 (e?-I= l) 174 (Я^о, А2, ..., Ау, ...) — обозначение иделя 323 подмножество множества всех простых корней 462, 491 множество всех простых корней 490 характер на группе аделей 410 мультипликативный характер поля К 166, 175 фиксированный аддитивный характер на группе аде- аделей 329, 330 Хо (аг) — характер, отвечающий аделю а 322 аддитивный характер поля К 166, 174 конечномерное представление дискретной под- подгруппы Г 36 пространство компактных орисфер __ пространства X А' ,\О. 376, 455 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Автоморфная форма, соответ- соответствующая представлению ди- дискретной серии 71 основной (второй) серии 85 основной (первой) или дополнительной серии 72 Адель 322 — главный 323, 326 — — линейной алгебраической группы 358 — линейной алгебраической группы 357 Алгебра кватернионов 160 — с делением, пример 161 — фон Неймана 293 — 3 градуированная 490 — — — правильная 490 — — правильная 483 Арифметическая подгруппа 148, 149 Асимптотическая формула числа представлений для группы ве- вещественных матриц 118 комплексных матриц 133 Бета-функция 197 —, выражение через гамма-функ- гамма-функцию 198 Вектор бесконечно дифференци- дифференцируемый 75 — инвариантный . относительно операторов 60 — старшего веса 81 Гамма-функция 196, 200, 203, 204 Гамма-функция, интегральное представление 196 — неполная 205 — обобщенная 209 —, разложение в ряд Лорана 199 —, Фурье 197 —, свойства 197 —.связанная с полем К(У~с) 210 —,частные значения 204 Гиперболический элемент 26 — — примитивный 98, 121 Гипергеометрическая функция 218 Гипотеза Петерсона обобщенная 422, 424, 428 Группа аделей 323, 324 — — группы унимодулярных матриц 2-го порядка 373 — —, инвариантная мера 332 линейной алгебраической группы 357 — алгебраическая линейная 149 нильпотентная 484 — — — разрешимая 484 — редуктивная 428 — расщепимая 431 — — — унипотентная 428 — арифметическая 148, 149 — Вейля редуктивной алгебраи- алгебраической группы 429 — движений пространства 13 — дискретная гомеоморфизмов пространства 19 — — с компактной фундамен- фундаментальной областью 22, 160 — иделей 323
508 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Группа дискретная, инвариант- инвариантная мера 332 — кватерииончая 160 — модулярная 148 ' — —, подгруппы конечного ин- индекса 155, 159 — —, построение фундаменталь- фундаментальной области 149, 150 —, определенная над полем ра- рациональных чисел 149 — орисферическая 462 — преобразований 13 — стационарная 14 — типа 1 294 — транзитивно действующая на пространстве 13 — характеров аддитивной груп- группы дробей -^Г 321, 322 Р — рациональных чисел 322 — — (аддитивных) кольца аде- лей 327 ¦— — поля К аддитивных 175 — — мультипликативных 176 — эффективно действующая 19 — Q<J» дробей -% 320 Р Деформация подгруппы непре- непрерывная 124 — — тривиальная 124 6-функция на группе 278 — на несвязном поле 188 Зигелевское множество 467 — — правильное 470, 474 — —, соответствующее П-ори- сферам 468, 474 Идеал простой Р кольца целых элементов поля К 173 Идель 323 — главный 327 _ Интеграл $x(utt)dt 205 Квадратичное расширение не- несвязного поля К 180 Кватернионная группа 160 Кватернионы целые эквивалент- эквивалентные 163 Классы, связанные с. примитив- примитивным гиперболическим элемен- элементом 99 —, — с эллиптическим элемен- элементом 103 Кольцо аделей 323 — —, свойства 328 — само дуальное 328, 355 — Тэйта 354 — О целых элементов поля К 173 Конгруэнцподгруппа главная 155, 416 Корень 430, 483 — алгебры S 490 простой 490 — положительный, отрицатель- отрицательный 430 — простой 431, 483 Корневое подпространство 483 алгебры Q 490 Левый сдвиг 433 Лемма Брюа обобщенная 429 — Минковского 164 — основная о конечности следа регулярного оператора 485 Линейный элемент на римановой поверхности 15 L-модуль 328 L-функция Дирихле 414 Матричный элемент в простран- пространстве Q 89 Мера в пространстве D^\Y 434 — двусторонне инвариантная 39 — квазиинвариантная 435 — Планшереля 169 Метрика внутренняя 20 Множество, см. соответствую- соответствующее название Норма в К элемента х 172 — вектора 235, 339 — элемента 161 _ — элемента из К(У"т) относи- относительно К 181 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 509 Область фундаментальная отно- относительно дискретной группы 18, 19 — — — модулярной группы 149, 150 — —,'разбиение на подобласти 34 ¦ — —,строение на плоскости Ло- Лобачевского 27, 31 Обобщенная функция на несвяз- несвязном поле 188 — — однородная 189 — —, сосредоточенная в точке 188 207 0У\ О)-1 Однородная функция веса л 226 Окрестность в поле Kp(t) 171 Qp р-адических чи- чисел 170 Окружность в поле ЛГО/"т*) 182 Оператор Вейля, см. оператор Bs — Гекке 422 5Р 424 — квазирегулярного представле- представления 226 — Лапласа в пространстве Н 75, 85 на полуплоскости Im 2>0 65 — — на симметрическом про- пространстве 93 — орисферического автоморфиз- автоморфизма 237, 239, 245 -— — — В, связь с L-функций Дирихле 409 — особого представления 231 — представления в простран стве Ол 232 — регулярный 485 — Вп 439 — Bs 439, 443 — —,свойства 441 .— М 400, 456, 457 , явное выражение 402, 405 Операторы неприводимых пред- представлений группы комплекс- комплексных унимодулярных матриц 2-го порядка 128 — представлений дискретной серии 246 — — — —, случай поля 2-ади- ческих чисел 264 — —, я-реализация 255 дополнительной серии 228, 229 — — — —, случай поля веще- вещественных чисел 58, 64 непрерывной (основной) серии 213 — — —, случай поля ве- вещественных чисел 57, 58 64 — — — — —, я-реализация 218 , Х-реалнзация 216 — — основной серии группы GA 386 — Гф 38 Орисфера 462 — в однородном пространстве 134, 237, 238, 373 — в пространстве X 455 —.условие компактности 134 Орисферическая подалгебра ал- алгебры 8 491 — подгруппа 134, 237, 373, 492 правильная 492 Орисферический автоморфизм 239 в пространстве Я 395 Орисферическое отображение 399, 456 Орисферы в пространстве GQ\GA 461 Г\О 134, 135 — компактные, принадлежащие одному семейству 135 Особая точка в группе мульти- мультипликативных характеров 233 Пара Тэйта 355 Параболический элемент 26 Плоскость Лобачевского, интер- интерпретация 27 — АСЧУт"). верхняя, нижняя полуплоскости 206
510 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Подкольцо унимодулярное 355 Подпространство Яф_ k 43 Поле вычетов О / Р 173 — локально компактное непре- непрерывное 166, 170, 171 — несвязное, структура 173 — —, — мультипликативной группы 176 — К, инвариантная мера 185 — К(Ух), аддитивный и муль- мультипликативный характеры 186 — —, инвариантная мера 185 — —, координаты декартовы 184 — —, полярные 185 — —, окружности 182 — Kp(t) степенных рядов 171 — QP р-аднческих чисел 170 Полуограниченное множество 484 Представление в пространстве Я232 — вполне непрерывное 46 — индуцированное 35, 36 — — представлением группы DA в пространстве Я^' 435 — квазирегулярное - 226 — —, разложение на неприводи- неприводимые 227 — класса 1 234, 359, 364 — неприводимое группы G, раз- разложение по представлениям ее максимальной компактной под- подгруппы 301 — общего положения 436, 437 — особое 231 —, порожденное однородным пространством 35 — унитарное неприводимое груп- группы аделей G А 358 — Тп (g), разложение на не- неприводимые 224 Представления группы матриц с элементами из конечного поля 213, 248 — дискретной серии 246 , неприводимость 264 — , случай поля 2-адиче- ских чисел 264 Представления дискретной се- серии, случай поля веществен- вещественных чисел 59 — — —, эквивалентность 259 — — —, л-реализация 254 — дополнительной серии 228 — — — над полем веществен- вещественных чисел 58, 64 — — —¦ , неприводимость 230 — , эквивалентность 228 — непрерывной (основной) се- серии 213 — —, случай поля веще- вещественных чисел 57, 58, 64 — — , л-реализация 217 , %-реализация 215, 216 серии, неприводимость 220 ,эквивалентность 219, 220 — неприводимые группы G и G, классификация 306 — — группы комплексных уни- модулярных матриц 2-го по- порядка 127 — основной серии группы Ga 386 — полупростых групп Ли, свой- свойство (Л) 86 —, порожденные пространствами У и Я, разложение на непри- неприводимые 386, 388 Преобразование Меллина на Л" 353, 354 — — обобщенной функции 209 — — основных функций 207, 208 — — следа представлений 272 — — функций Шварца — Брюа 345 — параболическое 32 — Фурье обобщенной функции 195 — — основных функций 192. 194, 195 — — функции на группе 278 на Л" 353 на Л2 392 — Шварца — Брюа 342, 393 Примитивный класс сопряжен- сопряженных гиперболических элемен- элементов 98 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 511 Примитивный класс сопряжен- сопряженных эллиптических элементов 103 Произведение р-адических чисел 170 Пространство аффинное основ- основное группы GA 381, 456 — Гординга 75 — компактных орисфер про- пространства X=Y\G a 377 — однородное 13 — —, интерпретация 17 — —, связь с римановыми по- поверхностями 15, 16 — орисфер 237, 428. 455, 456 — полное, связанное с неприво- неприводимым представлением 68 — правых классов смежности, обозначение 14 — с внутренней метрикой, при- пример 20 — симметрическое 93 — Л" 352 — DA \У 434 — Оя 232 — —, условие существования инвариантного скалярного про- произведения 234 — H=L2(DQ \Da) 432 — Н (х) 36 — H°(GQ\GA) 465 — Н', разложение на неприво- неприводимые представления 406 — —,структура 459 H L(DZ\GA) 431, 432 — Н+, Н~ 56 — Нп, Н'п 493 — Нп 432, 433 — S основных функций 188 — S* основных функций 208 — X = GQ \GA 450 — —, условие конечности меры 451 — Х = Г GA 374 — X°—GQ\ бд/ условие ком- компактности 451 — Y = ZA \GA 381 — —,связь с пространством орисфер Q 383 Пространство Q, матричный эле- элемент 89 — — , определение 93 — —, построение 87 — —, свойство полноты 89 — Qs 68 p-HOpivia рационального числа 171 П-орисфера 462 — в пространстве А\2 493 Разность следов родственных представлений дискретной се- серии 271, 276 Ранг группы 447 — характера аддитивного 192 — — мультипликативного 200 Символ Лежандра 283 След матрицы 47 .— неприводимого представле- представления, постановка задачи 265 — оператора РнТ^Р^, доказа- доказательство конечности 142 7"Ф48 — — — на пространстве Н' 381 — особого представления 268 — представления дискретной се- серии 96, 269, 273, 276, 277 — — дополнительной серии 96 — — непрерывной (основной) серии 96, 267 — суммы родственных предста- представлений дискретной серии 168 Следа формула, см. формула следа Спектр индуцированного пред- представления, дискретность в слу- случае компактного пространства 35, 42 — представления, порожденного пространством Gq\Ga, слу- случай компактного пространства G<,\ GA/KA 452 — пространства Lz(Gq\Ga) 422 Сумма р-адических чисел 170 Сферическая функция (элемен* тарная) 235, 237 Тензорное произведение пред» ставлений 359
512 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Теорема Бореля о конечности ме- меры пространства GQ\GA 451 — двойственности для группы вещественных учимодулярных матриц 2-го порядка 69, 74, 85 — — общая 90 — Зигеля о строении фундамен- фундаментальной области 28 — Ковальского-Понтрягина о строении локально компактных полей 171 — о непрерывной деформации дискретной подгруппы 125 — о полной непрерывности опе- оператора ГфЗОО — о правильных зигелевских множествах 470 — о разложении пространства Н' на неприводимые представ- представления 406 — основная об операторах Bs 443, 444 — о существовании следа 305 — о тензорном произведении 360, 370 — существования единственного инвариантного вектора 366 Точка параболическая 33 [/-полином 86 Фактор 293, 294 Фактор-представление 294 Факторы типа I, II, III 294 Формула асимптотическая, см. асимптотическая формула — для кратностей Nk представ- представлений дискретной серии 50 — обращения на группе G 169, 279 — Планшереля для квазирегу- квазирегулярного представления 227 на группе G 169, 278 — следа 49, 54 — — для группы вещественных унимодулярных матриц 2-го порядка 94, ПО, 113, 123 — — — — комплексных унимо- унимодулярных матриц 2-го поряд- порядка 129, 132 Формула суммированная Пуас- Пуассона 343 — Тэйта 350 Формулы для кратностей пред- представлений дискретной серии 112 Функции элементарные на груп- группе аделей 341 Функция Бесселя обобщенная 209 —, граничная к функции анали- аналитической в верхней, нижней полуплоскости 207 — Шварца—Брюа на А 341 на Л" 352, 397 наСА 371 на У 397 на Q 392 — rT(jt), связь с Г(я) 210 — |Я| 333, 334 — о(а) на группе аделей 328, 329 — Хо(а) на группе аделей 329, 330 Характер аддитивный поля К 166, 174 — группы нделей 334, 335, 336 — исключительный 311 — мультипликативный поля К 166, 175 — представления 48 Характеры на фактор-группе A/Q 331 AS=A*/Q* 336 — неприводимых представлений, группы вещественных матриц, сводка формул 96 Целый элемент поля К 173 Цилиндрическое множество 138 Число Тамагава 451 Элементарные функции на Ап 352 Эллиптический элемент 26 — -— примитивный 102