РЕГУЛЯРНАЯ И ХАОТИЧЕСКАЯ ДИНАМИКА
REGULAR к CHAOTIC DYNAMICS
том 12
Редакционный совет:
главный редактор: В. В. Козлов
ответственный редактор: А. В. Борисов
редактор-консультант: Ю. А. Данилов
Editorial Board:
Editor-in-Chief: V. V. Kozlov
Managing Editor: A. V. Barium)
Advisory Editor: Y. A. Danilov

СЕРИИ
РЕГУЛЯРНАЯ И ХАОТИЧЕСКАЯ ДИНАМИКА
ВЫШЛИ В СВЕТ:
1. Э. Картан. Интегральные инварианты (с добавлением В.В.Козлова).
2. А. В. Болсинов, А.Т.Фоменко. Геометрия и топология интегрируе-
интегрируемых геодезических потоков па поверхностях.
3. А.Д.Морозов, Т.Н. Драгунов и др. Инвариантные множества дина-
динамических систем в WINDOWS.
4. В. В. Козлов. Общая теория вихрей.
5. М. Одвн. Вращающиеся волчки: курс интегрируемых систем.
6. В. В. Голубев. Талант без почвы.
7. А. В. Борисов, И. С. Мамаев. Пуассоновы структуры и алгебры Ли
в гамильтоновой механике.
8. Дж. Биркгоф. Динамические системы.
9. Э. Уиттекер. Аналитическая динамика.
10. В. М. Алексеев. Лекции по небесной механике.
11. В. И. Арнольд, А.Авец. Эргодические проблемы классической меха-
механики.
12. П.Р.Халмош. Лекции по эргодической теории.
ГОТОВЯТСЯ К ПЕЧАТИ:
Дж. Гукенхеймер, П. Холмс. Нелинейные колебания, динамические
системы и бифуркации векторных полей.
Г. Зейферт, В. Трелъфаллъ. Вариационное исчисление в целом.
В. В. Козлов. Методы качественного анализа в динамике твердого
тела.
Р. А. Литптплтпон. Устойчивость вращающихся жидких масс.
Дж. Марсден, Т. Ратью. Введение в механику и симметрию.
А. М. Переломов. Интегрируемые системы классической механики и
алгебры Ли.
E-mail: borisov@uni.iidm.ru
http://www.rcd.com.ru

П. Р. Халмош
ЛЕКЦИИ
ПО ЭРГОДИЧЕСКОИ
ТЕОРИИ
Перевод с английского
и дополнения
С.В.Фомина
Редакция журнала
«Регулярная и хаотическая динамика»
1999

УДК 530.14
Библиотека «R&C Dynamics»
Том 12
Серия организована издательством «УРСС» и редакцией
журнала «Регулярная и хаотическая динамика» в 1998 г.
П. Р. Халмош.
Лекции по эргодической теории. — Ижевск: Издательский
дом «Удмуртский университет», 1999, 136 стр.
П. Р. Халмош известен советским читателям по переводу его
книги «Теория меры» (ИЛ, 1953). В настоящей небольшой книж-
книжке автор с присущим ему педагогическим мастерством знако-
знакомит читателей с основными идеями, методами и нерешенными
проблемами эргодической теории — главы современной матема-
математики, нашедшей и находящей немаловажные применения в фи-
физике.
Книга доступна достаточно широкому кругу читателей: сту-
студентам, аспирантам и научным работникам в различных облас-
областях математики и теоретической физики.
ISBN 5-7029-0367-6
Оригинал-макет подготовлен в редакции журнала
«Регулярная и хаотическая динамика»
http://www.rcd.com.ru
@ Редакция журнала «Регулярная
и хаотическая динамика», 1999

Содержание
Предисловие к русскому изданию 7
К читателю 9
Введение 10
Примеры 14
Возвращаемость 20
Сходимость в среднем 24
Точечная сходимость 29
Замечания по поводу эргодической теоремы 34
Эргодичность 37
Следствия из эргодичности 44
Перемешивание 50
Алгебры с мерой 57
Дискретный спектр 62
Автоморфизмы компактных групп 69
Обобщенные собственные значения 76
Слабая топология 81
Слабая аппроксимация 85
Равномерная топология 89
Равномерная аппроксимация 95
Категории 98
Инвариантные меры 103

6 Содержание
Инвариантные меры: решение 106
Инвариантные меры: проблема 109
Обобщенные эргодические теоремы 113
Нерешенные проблемы 118
С.В.Фомин. Некоторые новые проблемы и результаты
эргодической теории 122
Нормальные динамические системы 122
Геодезические потоки на многообразиях отрицательной
кривизны 124
Динамические системы на торе 127
Энтропия динамической системы 128
Некоторые проблемы 131
Литература 134

Предисловие к русскому изданию
Небольшая книжка американского математика П. Р. Халмоша. из-
издаваемая ныне в русском переводе, представляет собой запись курса
лекций, прочитанного автором в Чикагском университете.
Эргодическая теория, или иначе, метрическая теория динамичес-
динамических систем, составившая содержание этого курса, занимает в совре-
современной математике довольно своеобразное место. С одной стороны, она
почти непосредственно связана с идеями и задачами физики, в первую
очередь статистической механики. С другой стороны, в ней использу-
используется весьма абстрактный математический аппарат, такой, как общая
теория меры, спектральный анализ операторов и т.д. Поэтому, хотя об-
общие идеи эргодической теории несомненно интересны достаточно ши-
широкому кругу математиков, изучение относящейся сюда специальной
литературы представляет собой подчас довольно сложную и трудоем-
трудоемкую задачу.
На наш взгляд, Халмошу удалось весьма удачно разрешить труд-
трудную задачу такого изложения эргодической теории, которое, с од-
одной стороны, давало бы достаточно ясное и подробное представление
об имеющихся здесь результатах, методах и нерешенных проблемах,
а с другой — не было бы чрезмерно обременено техническими деталя-
деталями.
Книгу Халмоша нельзя рассматривать как систематический курс.
Написанная непринужденным языком, она скорее представляет собой
серию бесед на близкие к научным интересам автора темы. Будучи
доступна достаточно широкому кругу читателей, она окажется в то
же время полезной и для специалистов, которые найдут здесь много
тонких замечаний и оригинальных мыслей.
Книга Халмоша не является систематическим курсом не только по
характеру изложения, по также и по выбору материала. Здесь отчет-
отчетливо проявились личные научные вкусы автора, в течение многих лет
занимавшегося эргодической теорией и получившего здесь ряд важных
результатов. Мы сочли целесообразным изложить в виде дополнения

Предисловие к русскому изданию
некоторые существенные результаты, которые или не привлекли вни-
внимания автора, или были опубликованы после выхода книги Халмоша
в свет. Читателю следует также иметь в виду, что более старые резуль-
результаты, относящиеся к метрической теории динамических систем, под-
подробно изложены в обзорной статье В. А. Рохлина (Успехи матсм. паук, 4,
№2 A949)).
Перевод книги Халмоша сделан без всяких изменений, с сохране-
сохранением по возможности терминологии автора. Переводчиком совместно
с редактором были исправлены лишь замеченные опечатки и отдсльпыс
неточности.
С. В. Фомин

К читателю
Содержание этой небольшой книжки составили записи курса лек-
лекций по эргодическои теории, прочитанного мною в Чикагском универ-
университете в весеннем семестре 1955 г. Поэтому книгу нельзя рассматри-
рассматривать как строгую и исчерпывающую монографию. Я прошу читателя
представить себе, что он слушает рассказ, цель которого вновь пробу-
пробудить интерес к одной из полезных, но в данное время не модных облас-
областей математики. Если опубликование этих записей побудит кого-либо
атаковать, а может быть даже и решить некоторые из заманчивых,
остающихся до сих пор открытыми проблем эргодическои теории, то я
буду более чем удовлетворен.
П. Р. X.

Введение
Считается, что развитие топологии началось с известной задачи
о семи Кенигсбергских мостах; отправной точкой для развития эргоди-
ческой теории послужили некоторые соображения, относящиеся к ста-
статистической механике. Задача о семи мостах внесла в математику те-
теорему о четных и нечетных вершинах в графах, а задача изучения га-
газа — теорему об асимптотическом поведении сохраняющих меру преоб-
преобразований. В обоих случаях непосредственный «выход» первоначальной
постановки вопроса составил лишь малую часть общей теории. Тем не
менее, поскольку исторический фон представляет определенную цен-
ценность, я посвящу в этих лекциях несколько минут схематическому из-
изложению некоторых существенных для дальнейшего понятий статис-
статистической механики.
Рассмотрим некоторую механическую систему с п степенями сво-
свободы. Для большей конкретности предположим, что п = Зк и что данная
система состоит из к частиц, заключенных в замкнутый объем в трех-
трехмерном пространстве. Пусть массы этих частиц (скажем, молекул газа)
и действующие па них силы полностью известны, тогда мгновенное со-
состояние нашей системы можно задать, указав значения п координат
и п компонент скорости. Эти 2п параметров не являются единственно
возможными; например, для некоторых целей совокупность координат
и импульсов значительно удобнее, чем набор координат и скоростей.
С этой точки зрения состояпис системы представляет собой точку
в 2п-мерном евклидовом пространстве, так называемом фазовом про-
пространстве. С течением времени состояние системы меняется по соот-
соответствующим физическим законам (дифференциальным уравнениям);
вся история эволюции системы, се прошлое, настоящее и будущее, из-
изображается определенной траекторией в фазовом пространстве. В соот-
соответствии с классической механикой, основанной на причинности, вся
эта траектория может быть в принципе определена, если задана какая-
нибудь одна ее точка (мгновенное состояние). Практически, однако,
мы почти никогда не имеем информации, достаточной для такой пол-
полной определенности. Основная идея статистической механики, впервые
высказанная Гиббсом, состоит в том, чтобы, пренебрегая рассмотрени-

Введение 11
ем отдельного состояния (т. е. отдельной точки в фазовом пространст-
пространстве), отдать предпочтение статистическому изучению ансамблей состо-
состояний (т. е. подмножеств фазового пространства). Вместо того чтобы
спрашивать, «каково будет состояние данной системы в момент вре-
времени ??», мы спрашиваем: «какова вероятность того, что в момент t
состояние системы будет принадлежать определенному подмножеству
фазового пространства?». Первостепенный интерес представляет следу-
следующая асимптотическая постановка вопроса: что (вероятно) будет про-
происходить с системой при t, стремящемся к бесконечности?
Пусть Xt — точка фазового пространства, изображающая состоя-
состояние некоторой системы в момент t\ тогда соответствие, переводящее
точку Хо в точку xt, является некоторым преобразованием — назовем
его Tt: таким образом xt = Ttxi}. Так как в силу очевидных физических
причин Ts+t = TsTt., то {Tt} представляет собой однопараметрическую
группу преобразований. (Такая группа обычно называется потоком.)
Одним из основных результатов статистической механики является те-
теорема Лиувиллп; она гласит, что если координаты в фазовом простран-
пространстве выбраны должным образом, то поток в фазовом пространстве не
меняет фазового объема (т. е. 2п-мерного объема в этом пространст-
пространстве). Другими словами, преобразования, образующие поток, сохраняют
меру: основной задачей статистической механики является изучение
асимптотических свойств некоторых семейств преобразований, сохра-
сохраняющих меру.
Отправляясь от конкретной трехмерной физической ситуации,
мы пришли в результате проведенных выше рассуждений к довольно
абстрактной многомерной математической идеализации, обладающей
важным свойством (а именно, свойством сохранения меры у потока).
Этим свойством обладают и многие другие модели, не менее конкрет-
конкретные, чем та, которая первоначально привела нас к указанной выше аб-
абстрактной схеме. Можно рассмотреть, например, физическую систему,
состоящую из миксера для приготовления коктейлей, в котором нахо-
находятся лед и джин с несколькими каплями вермута, и предположить,
что на такую систему действует поток, создаваемый энергичным дви-
движением сбивалки. Такого рода примеры, представляющие очевидный
интерес, будут использоваться на первых порах для иллюстрации на-
наших рассмотрений.
Эргодическая теория представляет собой математический резуль-
результат физических рассмотрений, подобных описанным выше. Эта теория

12 Введение
содержит ряд интересных и нетривиальных теорем; она связана с ря-
рядом других областей математики (как, например, теория вероятностей,
топологические группы, гильбертово пространство).
В то же время эта теория имеет и некоторые «патологические» ас-
аспекты, которые затемняют лежащее в основе существо дела. Чтобы
сделать излагаемые теоремы и примеры более выразительными и ото-
отодвинуть на задний план «патологию» и разного рода контрпримеры,
л решил не гнаться за максимальной общностью. Цель этого плана со-
состоит не в том, чтобы умолчать о трудностях, а в том, чтобы избежать
неприятности, которая, во всяком случае на первых порах, не явля-
является необходимой. Я постараюсь теоремы точно формулировать и ак-
аккуратно доказывать, однако я не буду стесняться при этом налагать
упрощающие ограничения, которые иногда могут показаться слишком
жесткими. (Одно из преимуществ этого подхода к делу состоит в том.
что он позволяет отчетливо сформулировать имеющиеся здесь нере-
нерешенные проблемы, среди которых, кстати, есть немало весьма глубо-
глубоких и интересных.) Так, если окажется полезным предположить, что
та или иная мера является конечной (или, возможно, сигма-конечной)
или что то или иное топологическое пространство имеет счетную базу,
я без колебаний буду это делать.
Первое упрощающее предположение, а именно переход от непре-
непрерывного к дискретному, можно сделать сейчас же, и оно будет сохра-
сохраняться на протяжении всего этого курса. Каждый отдельный элемент
потока, т.е. Т = Tto при каждом значении t0, является сохраняющим
меру преобразованием. Из группового свойства элементов Xj следует,
что Tnt0 = Тп при любом целом п. положительном, отрицательном или
равном нулю. (Тп = ТЬ является тождественным преобразованием.)
Поскольку пет оснований ожидать, что асимптотические свойства у Tf
будут иными, чем у Тп, мы будем рассматривать этот последний, дис-
дискретный, случай, а не непрерывный. Это имеет определенный физичес-
физический смысл; именно это означает, что мы пытаемся изучать асимпто-
асимптотические свойства потока, производя наблюдения через определенные,
равные между собой промежутки времени. Имеется здесь и опреде-
определенный математический смысл, состоящий в том, что при этом упор
делается на более простые понятия. Первыми объектами изучения яв-
являются отдельные сохраняющие меру преобразования; изучение групп
таких преобразований мы несколько отложим.

Введение 13
Еще несколько слов на эту же тему, прежде чем я перейду к систе-
систематическому изложению теории. Слава, выпавшая на долю одной или
двух предельных теорем, явилась источником распространенного мне-
мнения, будто они именно и представляют наибольший интерес в современ-
современной эргодической теории. Я не думаю, чтобы это было так. Существу-
Существует много алгебраических и топологических фактов, требующих изуче-
изучения; более запутанные аналитические факты можно глубоко осмыслить
лишь в том случае, если рассматривать их в плане общей тополого-
алгебраической структуры.
Литературные ссылки
Halmos P. R., Measure Theory, 1950 (русский перевод: Халмош П. Р.,
Теория меры, ИЛ, 1953 г.).
Halmos P. R., Introduction, to Hubert ярасе, 1951.
Hopf'E., Ergodentheorie, 1937 (русский перевод: Хопф Э., Эргодичес-
кал теория, Успехи матсм. паук, 4, № 1, 1949).
Хинчин А. Я., Математические основания статистической меха-
механики, ГТТИ, 1943 г.
Понтрягин Л. С, Теория непрерывных групп, ГТТИ, 1938 г. (Второе
издание, Гостсхиздат, 1954.)
В моем сообщении Американскому математическому обществу
(Bull. Amer. Math. Soc, 1949, стр. 1015) имеются исторические све-
сведения о большей части тех вопросов, которые будут затронуты в моих
лекциях, а также исчерпывающая библиография вплоть до 1948 г. Ука-
Указания па другие вопросы, которые будут время от времени упоминать-
упоминаться, но которые мы не будем здесь рассматривать детально, можно най-
найти в вышеупомянутом сообщении, а также в докладе Какутани 1950 г.
(Kakutani, Cambridge Congress, т. 2, стр. 128) и в сообщении Американ-
Американскому математическому обществу, сделанном Окстоби (Oxtoby, Bull.
Ашег. Math. Soc, 1952, стр. 116; русский перевод: Окстоби Д., Эрго-
дические множества. Успехи матем. наук, 8, № 3, 1953). Дальнейшие
ссылки будут приводиться в соответствующих местах курса.

Примеры
Основным понятием будет для нас пространство с мерой, т.е. мно-
множество X вместе с некоторой фиксированной сигма-алгеброй его под-
подмножеств и мерой, определенной на этой алгебре. Напомню, что под
сигма-алгеброй понимается система множеств, замкнутая относитель-
относительно взятия дополнения и соединения конечного или счетного числа мно-
множеств, а под мерой неотрицательная (возможно, принимающая бес-
бесконечные значения) сигма-аддитивная функция множеств. Множества,
принадлежащие области определения меры, называются измеримыми
подмножествами пространства X. Все те пространства с мерой, кото-
которые мы будем рассматривать, предполагаются сигма-конечными; иначе
говоря, мы будем предполагать, что X есть сумма счетного числа под-
подмножеств конечной меры. Смысл этого допущения состоит в том, чтобы
исключить некоторые возможные аномалии, которые иначе могли бы
возникнуть в связи с теоремой Фубипи и теоремой Радопа-Никодима;
в предположении сигма-конечности применение этих теорем не вызы-
вызывает затруднений.
Укажем некоторые типичные примеры тех пространств с мерой,
которые будут рассматриваться ниже: конечномерное евклидово про-
пространство с измеримостью в смысле Вореля и лебеговской мерой. Еди-
Единичный интервал с теми же определениями измеримости и меры. Мно-
Множество всевозможных последовательностей х = {хп} нулей и еди-
единиц, где п пробегает все целые значения; измеримыми множества-
множествами являются элементы сигма-алгебры, порожденной множествами ви-
вида {х: хп = 1}, а мера определяется из условия, что ее значение для
пересечения к производящих множеств указанного вида всегда рав-
равно 1/2*4 Локально-компактная топологическая группа со счетной базой,
с измеримостью в смысле Бореля и мерой Хаара.
Измеримым преобразованием называется такое отображение про-
пространства с мерой в пространство с мерой, при котором прообразы
измеримых множеств измеримы. Измеримое преобразование Т, дей-
действующее из X в Y, называется обратимым, если существует такое
измеримое преобразование 5, действующее из Y в X. что и ST и TS

Примеры 15
являются тождественными отображениями (с соответствующими об-
областями определения). Преобразование S определяется по Т однознач-
однозначно, оно называется обратным к Т и обозначается Г.
Большинство тех измеримых преобразований, которые мы будем
рассматривать, являются сохраняющими меру, т.е. обладают тем свой-
свойством, что прообраз каждого измеримого множества имеет ту же меру,
что и само это множество. Честно говоря, интерес представляют не са-
сами сохраняющие меру преобразования, а классы эквивалентных между
собой преобразований; при этом два преобразования считаются экви-
эквивалентными, если они отличаются друг от друга лишь па некотором
множестве меры нуль. Обычный пароль, разрешающий переход к рас-
рассмотрению классов эквивалентности, — это термин «идентификация».
Я предлагаю идентифицировать два сохраняющих меру преобразова-
преобразования в том и только том случае, если они совпадают почти всюду. Заме-
Заметим, что если некоторое сохраняющее меру преобразование обратимо,
то обратное к нему преобразование тоже сохраняет меру. Большинст-
Большинство тех преобразований, которые рассматриваются в эргодической те-
теории, представляют собой обратимые сохраняющие меру преобразова-
преобразования, отображающие пространство с мерой на себя.
Типичным примером измеримого, но не сохраняющего меру пре-
преобразования на прямой является преобразование Тх = 2х: легко прове-
проверить, что т(Т~1Е) = frm{E) для всякого борелевского множества Е
(где т, само собой разумеется, рассматриваемая мера, в данном
случае мера Лебега). Преобразование, тесно связанное с данным, на
единичном интервале определяется формулой Тх = 2х (mod 1). Гово-
Говоря яснее, я рассматриваю полусегмент [0, 1) и полагаю Тх = 2х, ес-
если 0 ^ х < i и Тх = 2х - 1, если \ ^ х < 1. Если Е = [§, |V
2' 2 Loo/
то Т~гЕ есть сумма полусегментов U^o -^-) и 4D+1). 4 ( § + 1) ),
Lib' lo/ yl \о / ' 2 \й //'
так что тп(Т~1Е) = А + А = ^ = т{ЕI. Аналогичные рассуждения
1о 1о о
показывают, что т(Т~1Е) = гп(Е), если Е — произвольный полусег-
полусегмент. Отсюда легко следует, что преобразование Т сохраняет меру. Так
как преобразование Т не взаимно-однозначно (в действительности оно
всюду двукратно) и так как оно не может быть сделано взаимно-одно-
взаимно-однозначным путем выбрасывания какого-либо множества меры нуль, то
и в некоторых других местах символ Т 1Е означает полный прообраз
множества Е, даже если преобразование необратимо. — Прим. перев.

16 Примеры
мы получаем таким образом пример необратимого сохраняющего меру
преобразования. Изоморфное представление того же самого преобразо-
преобразования (в пока еще не определенном, но совершенно очевидном смыс-
смысле) получается следующим образом. В качестве пространства с мерой
возьмем множество всех комплексных чисел, по модулю равных 1, с из-
измеримостью, понимаемой в смысле Вореля, и с мерой, нормированной
так, что мера каждой дуги равна ее длине, умноженной на 77^; T опре-
дслясм формулой
Tz = z\
Простой пример обратимого, сохраняющего меру преобразования
на действительной оси дает формула Тх = х + 1. В более общем
случае конечномерного евклидового пространства определим Т, поло-
положив Тх = х + с, где с — некоторый фиксированный вектор. Мы по-
получим еще более общий случай, если в локально компактной группе
с левоинвариантной мерой Хаара выберем некоторый элемент с и опре-
определим Т. положив Тх = сх. Мы получим полезный частный случай
этого последнего обобщения, если рассмотрим группу комплексных чи-
чисел, по модулю равных 1; в этом случае Т реализуется геометрически
как поворот на угол argc. Можно построить изоморфное представле-
представление того же самого частного случая на единичном интервале, выбрав
некоторое число с, заключенное между 0 и 1, и положив Тх = х + с
(mod 1). Подробнее: Тх = х + с, если 0 ^ х < 1 - с. и Тх = х + с. - 1,
если 1 — с ^ х < 1.
Другую группу примеров можно получить, рассмотрев на плоскос-
плоскости преобразование Т(х, у) = \2х, 4j/J- Прообразом единичного квадра-
квадрата здесь является прямоугольник с основанием ^ и высотой 2. Ана-
Аналогично прообраз каждого прямоугольника представляет собой пря-
прямоугольник той же площади; отсюда следует, что это преобразование
сохраняет меру. Ясно, что оно обратимо. Обобщим этот пример. Для
этой цели рассмотрим произвольное линейное преобразование конечно-
конечномерного евклидова пространства. Такое преобразование переводит все
пространство в некоторое подпространство. Всякое собственное под-
подпространство имеет меру нуль1, отсюда следует, что преобразование Т
может сохранять меру лишь в том случае, если оно невырождено. Ес-
1 Имеется в виду лебеговская мера, определенная во всем рассматриваемом про-
пространстве. — Прим. перев.

Примеры 17
ли Г — невырожденное преобразование с детерминантом d, то, как из-
известно, т(Т~1Е) = m(E)/\d\ для всякого борелевского множества Е.
(Доказательство этого хорошо известного факта редко приводится. Оно
может быть проведено аналитическими методами, с использованием
понятия якобиана; прямое доказательство см. в книге Caratheodory,
Vorlesungen ueber Funktionen, 1927. стр. 346.)
Невырожденные линейные преобразования действительного конеч-
конечномерного векторного пространства можно охарактеризовать как не-
непрерывные автоморфизмы аддитивной векторной группы. Это естест-
естественно наводит па мысль рассмотреть произвольную локально компакт-
компактную группу с левоинвариантной мерой Хаара и некоторый непрерыв-
непрерывный автоморфизм Т этой группы. Для того чтобы выяснить, является
ли Т сохраняющим меру преобразованием, мы должны сравнить тп(Е)
с п(Е) = т(Т~1Е). Функция множества п является, очевидно, мерой.
Естественно поставить вопрос, будет ли она лсвоипвариаптпой мерой
Хаара. Иными словами, верно ли равенство rn(T~1(xE)) = m(T~1E)'f.
Ответ получается утвердительный, так как Т~1(хЕ) представляет со-
собой левый сдвиг множества Т~1Е; в самом деле, очевидная выкладка
показывает, что Т~1(хЕ) = (Т~1х)Т~1Е. В силу единственности ме-
меры Хаара отсюда вытекает, что тп{Т~1Е) может отличаться от тп(Е)
лишь постоянным множителем. Это, вообще говоря, все, что мы можем
утверждать; примеры невырожденных линейных преобразований пока-
показывают, что автоморфизм не обязан быть сохраняющим меру. Однако
если группа X компактна, то тп(Х) конечна и, следовательно, указан-
указанный выше постоянный множитель можно вычислить, положив Е = X;
так как Т~гХ = X, то этот множитель равен 1 и автоморфизм Т со-
сохраняет меру.
Интересен частный случай, который получается, если за рассмат-
рассматриваемую группу взять тор, т. е. декартово произведение двух окруж-
окружностей. Конкретнее: элементы этой группы суть пары (и, v) комплекс-
пых чисел, равных по модулю 1, а групповая операция представляет
собой покоординатное умножение. Легко показать, что произвольный
автоморфизм такой группы задается некоторой унимодулпрной мат-
матрицей второго порядка, т. е. матрицей с целочисленными элементами
и детерминантом ±1. Если (* ^) — такая матрица, то соответствую-
соответствующий автоморфизм Т определяется формулой Т(и, v) = (uavb, ucvd).
Пусть X — пространство последовательностей х = \хп}, п =
= 0, ±1, ±2, ..., описанное выше, и пусть Т — преобразование, по-

18 Примеры
рождаемое сдвигом всех индексов на единицу, т.е. Тх = у = {yn}i
где уп = xn+i. Это преобразование сохраняет меру и обратимо. Ес-
Если X — пространство односторонних последовательностей, т. е. его эле-
элементы суть последовательности {#„}, где п = 0, 1. 2, ..., то та же
самая формула определяет сохраняющее меру, по пс обратимое (дву-
(двукратное) преобразование.
Существует простое отображение S пространства односторонних
последовательностей на единичный отрезок; S переводит последова-
последовательность {хп} нулей и единиц в число, записывающееся в виде дво-
двоичной дроби 0, ЖцЖ! Преобразование S сохраняет меру и по су-
существу взаимно-однозначно. Оно не является в точности взаимно-од-
взаимно-однозначным, поскольку двоично-рациональные числа имеют по два раз-
разных двоичных разложения. Множество тех последовательностей, обра-
образы которых являются двоичпо-рациопальпыми числами, имеет ту же
мощность, что и само множество двоично-рациональных чисел; каж-
каждое из этих двух множеств счетно. Если мы переопределим 5 соответ-
соответствующим образом для этих исключительных последовательностей, то
мы получим обратимое сохраняющее меру преобразование, переводя-
переводящее пространство последовательностей в единичный отрезок. Сущест-
Существование такого отображения показывает, что с точки зрения теории
меры данные два пространства изоморфны между собой. Этот изомор-
изоморфизм (т.е. преобразование 5) переводит односторонний сдвиг Т в не-
некоторое обратимое сохраняющее меру преобразование X" единичного
отрезка; Т' определяется формулой Т' = STS~1. Внимательное рас-
рассмотрение преобразований 5 и Т показывает, что X" наш старый
знакомый: Т'х = 2х (mod 1) почти всюду.
Существует естественное соответствие между пространством дву-
двусторонних последовательностей и декартовым произведением про-
пространства односторонних последовательностей на себя; это соответ-
соответствие переводит точку
{.. .Х-2, Х-1, Хо, Xi, Х2, ...}
о, XI, XI, •••}, Х-1, Х-2, ...}).
Это соответствие представляет собой, как легко проверить, обратимое
сохраняющее меру преобразование, т.е. изоморфизм (в смысле теории
меры). Обозначим этот изоморфизм Р, a Q пусть означает декартов

Примеры 19
квадрат преобразования S (так что Q(x, у) = (Sx, Sy), где х, у — одно-
односторонние последовательности), тогда произведение QP представляет
собой изоморфное отображение пространства двусторонних последова-
последовательностей па единичный квадрат. Этот изоморфизм переводит дву-
двусторонний сдвиг в обратимое сохраняющее меру преобразование Т",
определенное на квадрате. Рассмотрев введенные только что преобра-
преобразования, мы увидим, что Т" является близким родственником нашего
старого знакомого, именно
Т"{х, у)Bх (mod 1), |у), если 0
Т"(х, у)Bх (modi), \{y+l)), если \
х < \
х < 1.
(Эти равенства, справедливые почти всюду, следует, естественно, по-
понимать как равенства по модулю 1.) Преобразование Т" можно пред-
представить геометрически следующим образом. Применим к единичному
квадрату линейное преобразование, переводящее (а;, у) в I 2х. ^у), в ре-
результате получим прямоугольник с основанием [0, 2) и левой сторо-
стороной О, ^J; отрежем правую половину этого прямоугольника (для ко-
которой основанием является [1, 2)) и поместим ее, сделав параллельный
перенос, в верхнюю половину единичного квадрата. Поскольку эта опе-
операция слегка напоминает действия, производимые при замешивании
теста, преобразование Т" иногда называют «преобразованием пекаря».

Возвращаемость
Для того чтобы рассматривать асимптотические свойства сохраня-
сохраняющего меру преобразования Т. т.е. свойства последовательности {Тп}.
нужно, чтобы сами степени Т имели смысл; поэтому мы в дальнейшем
ограничимся рассмотрением таких преобразований, которые переводят
некоторое множество X само в себя. Первые по времени и наиболее
простые из вопросов, относящихся к асимптотике, были поставлены
Пуанкаре (Calcul des probabilities, 1912); они относятся к понятию воз-
вращаемости. Пусть Т измеримое преобразование, заданное на X.
и Е С X — измеримое подмножество; точка х G Е называется воз-
возвращающейся (относительно Е и Т), если Тпх G Е хотя бы для одного
целого положительного п. Первый приводимый ниже результат типи-
типичен для данного круга вопросов.
Теорема о возвращении. Если Т — сохраняющее меру (но не
обязательно обратимое) преобразование, определенное в пространстве
с конечной мерой, и если Е — некоторое измеримое множество, то
почти все точки множества Е — возвращающиеся.
Доказательство.
Предположим противное; тогда множество F тех точек из Е, ко-
которые в Е никогда не возвращаются, имеет положительную меру. Из-
Измеримость F вытекает из равенства
F = Е П Т~1(Х -Е)Г\ Т~2(Х -Е)Г\...
Если х G F, то ни одна из точек Тх. Т2ж, Т3х, ... не принадлежит F;
другими словами: F не пересекается с T~nF ни при каком целом поло-
положительном п. Отсюда следует, что множества F, T~lF. T~2F, ... по-
попарно не пересекаются, так как
T~nF П T~^n+k^F = T~n(F П T~kF).
Так как Т сохраняет меру, а мера всего пространства конечна, то мы
пришли к противоречию.

Воэвращаемость 21
Из доказанной сейчас теоремы о возвращении можно вывести бо-
более сильную ее формулировку. Верно не только то, что для почти всех
х G Е по крайней мере один из членов последовательности Тх, Т2х, ...
принадлежит Е\ в действительности для почти всех х ? Е существу-
существует бесконечно много таких значений п, что Тпх G Е. Идея доказа-
доказательства здесь состоит в том, что теорема о возвращении применяется
к каждой степени Т. Точнее говоря, пусть Fn есть множество тех точек
из Е, которые никогда не возвращаются в Е преобразованием Т"; тог-
тогда, по теореме о возвращении, m(Fn) = 0. Если х ? Е — (Fi U i*2 U ...),
то Т™1 G Е для некоторого положительного щ, поскольку х G Е — i*\.
Возьмем 77,2 > "а» так как ж G -Б — -Fn2, то Ткх G -Б при некотором
положительном А;. Усиленный вариант теоремы о возвращении получа-
получается индуктивным повторением этого рассуждения, проведенного нами
дважды.
В доказательстве первоначальной теоремы о возвращении сохра-
сохраняющий меру характер рассматриваемого преобразования и конеч-
конечность меры использовались лишь в весьма слабой степени. Единст-
Единственно существенным фактом было лишь отсутствие такого множест-
множества F положительной меры, что F, T~XF, T~2F, ... попарно не пересе-
пересекаются. Исходя из этого замечания, введем следующее понятие: изме-
измеримое преобразование Т называется диссипативным, если существу-
существует такое измеримое множество F положительной меры, что множест-
множества F, T~lF, T~2F, ... попарно не пересекаются (такое множество на-
называется блуждающим); в противном случае преобразование Т называ-
называется консервативным. Ясно, что теорема о возвращении в слабой фор-
формулировке справедлива для любого консервативного преобразования.
Доказательство усиленной теоремы о возвращении опирается на
применимость ослабленной теоремы к любой степени преобразования.
Ясно, что если Т диссипативно, то тем же свойством обладают и все сте-
степени Т. Это не совсем то, что нам надо. Мы смогли бы распространить
усиленную теорему о возвращении па все консервативные преобразова-
преобразования, если бы знали, что любая степень консервативного преобразования
сама обладает свойством консервативности.
В этот вопрос вносит известную леность следующее новое понятие:
мы скажем, что преобразование Т является сжимающим, если сущест-
существует такое измеримое множество Е, что Е С Т~ХЕ и т(Т~1Е — Е) > 0.
В противном случае преобразование Т называется несжимающим. По-
Понятие сжимаемости, которым пользоваться несколько удобнее, чем

22 Возвращаемость
понятием диссипативности, на самом деле эквивалентно последнему.
Действительно, если Е С Т~ХЕ. причем тп(Т~1Е — Е) > О, то по-
положим F = Т~гЕ — Е, тогда множества T~aF попарно не пересе-
пересекаются. С другой стороны, если F такое множество положитель-
положительной меры, что множества T~nF попарно пс пересекаются, то, поло-
положив Е = X - {F U T~lF U T~2F U ...), получим, что Е С Т~1Е
и m{T-lE-E) > 0.
В свое время л доказал (Ann. of Math., 1947, стр. 738), что если
взаимно-однозначное преобразование Т несжимающее, и если Т~х
измеримо, то и любая степень Т песжимающая. Это доказательство
носит комбинаторный характер и несколько запутано. Нетрудно было
бы выяснить, остается ли указанный результат в силе, если преобра-
преобразование не является взаимно-однозначным; у меня такое впечатление,
что некоторая модификация доказательства, проведенного в предполо-
предположении взаимной однозначности, должна пройти и в общем случае.
В связи с понятием сжимаемости стоит отметить, что взаим-
взаимно-однозначное измеримое преобразование, имеющее измеримое об-
обратное, определенное на пространстве с конечной мерой, всегда име-
имеет, по существу однозначно определенную, не сжимающую часть.
Точнее: существует такое измеримое инвариантное подмножество Y
(т.е. T~XY = Y), что Т является несжимающим на У, и существует
такое блуждающее множество F, что X — Y есть сумма множеств TnF,
п = 0, ±1, ±2, .... (Идея доказательства: пусть d = supm(D) по всем
блуждающим множествам D; построим последовательность блуждаю-
блуждающих множеств {Dn\. таких, что rn(Dn) —> d. и примем за Y дополнение
наименьшего инвариантного множества, содержащего все Dn.) Обобще-
Обобщение этого результата на преобразования, не являющиеся взаимно-одно-
взаимно-однозначными, по-видимому, представляет собой довольно деликатную за-
задачу. Укажу хотя бы на такой пример: в качестве X берем множество
всех неотрицательных целых чисел и полагаем Тх = х — 1, если х > 1
и Т\ = 3.
Приведенные выше рассуждения намекают на две возможнос-
возможности, каждая из которых фактически реализуема. Во-первых, сохра-
сохраняющее меру преобразование пространства с бесконечной мерой
не обязано быть консервативным, даже если оно обратимо. При-
Пример: Тх, = х + 1 па дискретном пространстве всех целых чисел. Теоре-
Теорема о возвращении для этого Т неверна. Во-вторых, взаимно-однознач-
взаимно-однозначное, сохраняющее меру преобразование не обязано быть обратимым.

Воэвращаемость 23
Пример: пусть X — множество целых чисел; назовем подмножество
из X измеримым в том и только в том случае, если его пересечение со
множеством неотрицательных целых чисел инвариантно относительно
всех транспозиций, меняющих местами 2п и 2п + 1, п = 0, 1, 2, ...;
положим далее Тх = х + 2. Этот пример показывает также, что объеди-
объединение двух сжимаемых множеств может не быть сжимаемым; рассмот-
рассмотрим неотрицательные целые и отрицательные четные числа в качестве
одного множества и неотрицательные целые и отрицательные нечетные
числа в качестве другого.
Содержание теоремы о возвращении можно сформулировать с по-
помощью характеристической функции (обозначим ее /) множества Е
следующим образом: для почти всех х 6 Е ряд ^ f(Tnx) расходит-
расходится. Этот результат можно обобщить: если / произвольная неотри-
неотрицательная измеримая функция, то для почти всех х, принадлежащих
множеству {х: f{x) > 0}, ряд ^2f(Tnx) расходится. Доказательство не
представляет труда. Рассмотрим для каждого целого положительного к
множество Ек, на котором /(ж) > -. Из теоремы о возвращении следу-
ет, что для почти всех х ? Е^ бесконечно много точек вида Тпх принад-
принадлежит Е\,\ требуемый результат получается суммированием всех Е\,.

Сходимость в среднем
Теорема о возвращении гласит, что при соответствующих услови-
условиях, наложенных на преобразование Т. почти каждая точка произволь-
произвольного измеримого множества Е возвращается в Е бесконечно много раз.
Естественно спросить: какое же в точности время проводит в Е такая
возвращающаяся точка? В более точной постановке проблема форму-
формулируется так: дана некоторая точка х (для наших теперешних целей не
существенно, принадлежит х множеству Е или нет) и дано целое поло-
положительное число щ рассмотрим отношение числа тех значений к ^ п,
при которых Ткх ЕЕ Е, к общему числу рассматриваемых значений к
(т.е. к п) и вычислим предел этого отношения при п —> оо. При этом,
конечно, совсем не очевидно, существует ли этот предел в каком-либо
смысле и в каком именно.
Если / — характеристическая функция множества Е, то интере-
сующее нас отношение можно записать в виде ^ JZ f(T3%)- Вопрос
j=o
о среднем времени пребывания представляет собой, таким образом,
вопрос о сходимости, в смысле Чезаро, последовательности \f(Tnx)}.
Первый существенный шаг здесь был сделан вскоре после того, как
стало ясно, что нет никакой необходимости и даже нежелательно огра-
ограничиваться рассмотрением одних лишь характеристических функций.
Если / — произвольная функция на X, то равенство g(x) = f(Tx)
определяет на X некоторую другую функцию g. Если мы поло-
положим g = Uf, то U представляет собой некоторое отображение, опре-
определенное для функций на X. Это отображение U обладает некото-
некоторыми важными свойствами. Самым очевидным свойством отображе-
отображения U является его линейность: если, например, / и g — две комп-
лекснозначные функции на X, а а и Ь — два комплексных числа,
то U(af + bg) = a,Uf + bllg. Если преобразование Т сохраняет меру,
то и обладает важным свойством, состоящим в том, что оно переводит
пространство L\ в себя и даже является в этом пространстве изомет-
изометрическим оператором. Это, как известно, означает, что если / ? Li,

Сходимость в среднем 25
то Uf ? Ьг и \\Uf\\i = \\f\\i (символ ||/||р означает норму в Lp). До-
Доказательство совсем простое. Если / — характеристическая функция
множества Е конечной меры, то Uf — характеристическая функция
множества Т~гЕ\ для данного случая требуемый результат вытекает
из равенства ||/}i = m{E). Отсюда и из линейности U следует, что
оператор U сохраняет нормы конечных линейных комбинаций харак-
характеристических функций, так называемых простых функций. Если / —
неотрицательная функция, то / является пределом (в смысле точечной
сходимости) возрастающей последовательности {/«} неотрицательных
простых функций. Так как {Ufn\ при этом также является возрас-
возрастающей последовательностью неотрицательных функций, то из тео-
теоремы об интегрировании монотонных последовательностей вытекает,
что lim||f//n||i = ||{7/||i, так же как и lim||/n|| = ||/||i. Таким обра-
образом, требуемый результат установлен для неотрицательных функций.
Для общего случая он вытекает из того факта, что в Li каждая функ-
функция / имеет ту же норму, что и |/|. Отмстим, что в проведенных выше
рассуждениях конечность меры основного пространства X нигде не ис-
использовалась.
Из того, что U есть изометрический оператор в L\, сразу следует.
что U является изометрическим оператором в L2; для доказательст-
доказательства следует лишь заметить, что норма в смысле L-i функции / равна
квадратному корню из нормы функции /2 в L±. Если Т — обратимое
сохраняющее меру преобразование, то U — обратимый изометричес-
изометрический оператор; обратным к нему является оператор V, определяемый
равенством Vf(x) = f(T~1x). Обратимый изометрический оператор
в гильбертовом пространстве является унитарным: мы доказали, та-
таким образом, что оператор, порождаемый в L2 обратимым сохраняю-
сохраняющим меру преобразованием, унитарен. На этот факт впервые указал
Купман (Koopman, Proc. Nat. Acad. Sci., 1931, стр. 315).
Основная асимптотическая проблема эргодической теории сводит-
сводится, таким образом, к изучению предельного поведения средних ви-
и-1
Да п S U-1, где U — изометрический оператор в гильбертовом про-
страпстве. Однако в терминах гильбертова пространства вопрос сстсс-
п-1
твенно ставить не о точечной сходимости средних — ^ f(T3x), а ско-
рее об их сходимости в среднем (квадратичном). Утверждение, что схо-
сходимость в среднем всегда имеет место, является первым результатом

26 Сходимость в среднем
современной эргодической теории. Этот результат (для унитарных опе-
операторов) впервые доказал Нейман; см. замечания Г. Д. Биркгофа и Куп-
мана об истории вопроса (Proc. Nat. Aca,d. Sci., 1932, стр. 281). Теорема
Неймана называется статистической эргодической теоремой в отличие
от соответствующего результата Биркгофа — так называемой индиви-
индивидуальной эргодической теоремы.
В случае, когда вместо гильбертова пространства рассматривается
пространство одномерное, эргодическая теорема Неймана превращает-
превращается в изящный и простой факт из классического анализа. В этом случае
изометрический оператор представляет собой комплексное число и, по
модулю равное 1, и рассматривается вопрос о сходимости последова-
тслыюсти средних — ^ и3. Если и = 1, то каждое из этих средних
J"° 1 - и"
равно 1. Если и ф 1, то n-е среднее равно — и, следовательно, аб-
пA -и)
солютная величина n-го среднего не превосходит ——^—-, откуда видно,
что эти средние стремятся к нулю. п' и'
В более общем случае пространства конечной размерности каж-
каждый изометрический оператор определяется некоторой унитарной мат-
матрицей, которую, без ограничения общности, можно считать диагональ-
диагональной. Так как диагональные элементы такой матрицы U суть комплекс-
комплексные числа, по модулю равные 1, то соответствующие средние сходятся
к диагональной матрице, в которой диагональные элементы равны О
или 1. Следовательно, предельная матрица, обозначим ее Р. является
проекционной; фактически она проектирует все пространство на под-
подпространство таких векторов /, для которых Uf = f.
Простое и изящное доказательство эргодической теоремы Нейма-
Неймана в общем случае было дано Ф. Риссом. Чтобы изложить это доказа-
доказательство, я должен буду воспользоваться одним простым фактом, от-
относящимся к изометрическим операторам в комплексном гильбертовом
пространстве. Прежде всего установим необходимые для дальнейшего
обозначения, связанные с гильбертовым пространством. Норма векто-
вектора / в гильбертовом пространстве будет всегда обозначаться симво-
символом ||/||. Если гильбертово пространство реализуется в виде L2, то ин-
индекс в H/Цг мы будем, как правило, опускать. Скалярное произведение
векторов / и g обозначается (/, g); в случае пространства суммиру-
суммируемых с квадратом функций (/, g) = I f(x)g(x) dx. (Обратим, между
прочим, внимание на обозначение интеграла. В тех случаях, когда не

Сходимость в среднем 27
возникает сомнений, по какой именно мере берется интеграл, мы бу-
будем писать / f(x)dx вместо / f(x)dm(x). Если область интегриро-
интегрирования явно не указана, то всегда имеется в виду интеграл по всему
пространству.) Оператор, сопряженный к U, обозначается ?/*; он опре-
определяется равенством (Uf, g) = (/. U*g), справедливым для всех / и g.
Единичный оператор в гильбертовом пространстве мы обозначим /.
Вспомогательное предложение об изометрических операторах,
нужное для дальнейшего, таково: если U — изометрический оператор,
то Uf = / в том и только в том случае, если U* f = /. Действитель-
Действительно, если Uf = f, то, применив к обеим частям этого равенства U*,
получим, что / = ?/*/. (Оператор U изометричен, т.е. удовлетворя-
удовлетворяет условию ||С/|| = У/11 для всех / в том и только в том случае, ес-
если U* U = I. Доказывается это в общем случае так же, как и в ко-
конечномерном пространстве. Предостережение: в конечномерном случае
из U*U = I следует UU* = I; в общем случае это неверно. Другими
словами, изометрический оператор в бесконечномерном гильбертовом
пространстве может быть не унитарен.) Обратно, если U*f = /, то, как
я сейчас покажу, ||Е7/ — /|| =0. Действительно,
\\Uf - /||2 = (Uf -f,Uf-f) = \\Uf\\2 - (/, Uf) - (Uf, f) + ИЛJ.
Так как (/, Uf) = (U*f, f)=\\f\\2 и аналогично (Uf, /)=(/, U*f) = \\f\\2,
то доказательство закончено.
Теперь мы имеем возможность доказать теорему, являющуюся не-
незначительным обобщением теоремы Неймана.
Статистическая эргодическая теорема. Если U — изомет-
изометрический оператор в комплексном гильбертовом пространстве и Р —
оператор, проектирующий это пространство на подпространство всех
п-1 .
векторов, инвариантных относительно U, то -¦ ^ U'J/ стремится
' .7=0
к Р/ для любого f.
Доказательство. ге-1
Если Uf = /, то jj Yl U-*/, очевидно, стремится к /. Если / =g — Ug
' 3=0
п-1
при некотором g, то 5Z ^f представляет собой сумму разностей,

28 Сходимость в среднем
в которой все члены, кроме крайних, сокращаются; эта сумма рав-
равна g— Ung. Отсюда получаем, что
3=0
и, следовательно, рассматриваемые средние стремятся к нулю. Заклю-
Заключительная часть доказательства состоит в установлении того, что каж-
каждый вектор / представляет собой комбинацию, в определенном смысле,
таких /, для которых Uf = /, и элементов вида g — Ug.
Множество элементов / вида g — Ug представляет собой линейное
многообразие, не обязательно замкнутое. Из равномерной ограпичсп-
п-1 .
ности средних Ап = - ^ UJ следует, что Anf —>• 0 для всякого /,
з=о
принадлежащего замыканию этого многообразия. Вообще, если f/. —S> f
и если Anfk —>• 0 для всех к, то Anf —>• 0. Доказательство: заметив, что
выберем к так, чтобы Ц/-/&Ц была достаточно мала; тогда \\An(f - fk)\\
будет тоже мала (независимо от выбора п). После этого выберем п так,
чтобы была мала ||Л„Д||.
Ортогональное дополнение множества элементов вида g—Ugсовпа-
g—Ugсовпадает с ортогональным дополнением замыкания этого множества. Если h
принадлежит этому ортогональному дополнению, т.е. (/г, g — Ug) — 0
для всех g, то (h, g) — (U*h, g) = 0, т. е. (h — U*h,g) =0 для всех g. От-
Отсюда следует, что h = U*h и, значит. Uh = h. Эти рассуждения можно
провести в обратном порядке, так что если Uh = h, то (h. Ug— g) = 0
для всех g. Вывод: ортогональное дополнение множества элементов ви-
вида / = g — Ug совпадает с множеством элементов /, инвариантных
относительно U. Отсюда следует, что каждый элемент / может быть
записан в виде Д + /г, где Ufi = /i, а /г принадлежит замыканию
многообразия элементов вида Ug — g. Тем самым доказательство ста-
статистической эргодической теоремы закончено.
Изложенные сейчас методы и результаты были обобщены на широ-
широкий класс операторов и групп операторов, действующих в весьма общих
абстрактных векторных пространствах. Я не собираюсь вдаваться в из-
изложение этих обобщений, а, напротив, хочу обратиться к более тонким
метрическим проблемам.

Точечная сходимость
Обратимся теперь к эргодической теореме Биркгофа. Излага-
Излагаемое доказательство принадлежит (опять-таки) Ф. Риссу (F. Ricsz,
Commentarii, 1945, стр. 221). Оно начинается с некоторых любопытных
комбинаторных рассуждений.
Пусть «!,...,«,„ — конечная система действительных чисел
и те целое число, причем те ^ п. Член а& этой системы мы
назовем те-лидером, если существует такое целое положительное р,
что 1 ^ р ^ то и ak + ¦. ¦ + a,k+p-i ^ 0. Так, например, 1-лидером будет
всякий неотрицательный член нашей системы; заметим, однако, что
m-лидер при то > 1 не обязан быть неотрицательным.
Лемма. Сумма всех т-лидеров неотрицательна.
Доказательство.
Если те-лидеров вообще пет, то наше утверждение справедливо.
Далее, пусть я,/. — первый из m-лидеров, и пусть а,к + • • • + «fc+p-i —
самая короткая из неотрицательных сумм, отвечающих т-лиде-
РУ ак (р 5% т)- Я утверждаю, что каждое щь в этой сумме являет-
является те-лидером, причем а/, + ... + я/i+p-i ^ 0. Действительно, если это
не так, то аи + ... + щ,-\ > 0, что противоречит первоначальному вы-
выбору р. Рассмотрим теперь последовательно элементы а&+р, .... ап;
сумма всех неотрицательных сумм, полученных аналогичным образом
и состоящих из минимального числа элементов, и представляет собой
как раз сумму всех т-лидеров.
Индивидуальная эргодическая теорема. Пусть Т сохра-
сохраняющее меру (но не обязательно обратимое) преобразование простран-
пространства X (мера которого может быть и бесконечна), и пусть f ? L\\
n-l
тогда средние — ^ f(TJx) сходятся почти всюду, причем предельная
функция f* интегрируема и инвариантна (т.е. f*(Tx) = f*(x) почти
всюду). Если т(Х) < эо, то / f*(x) dx = / f(x) dx.

30 Точечная сходимость
Доказательство.
Ясно, что функцию / можно без ограничения общности считать
действительной. Для сокращения записи мы будем писать fj(x) вмес-
вместо f(T:lx). Доказательство начинается с установления одного вспомо-
вспомогательного предложения, имеющего, впрочем, собственное, достойное
уважения имя.
Максимальная эргодическая теорема. Если Е — множество
таких точек х, в которых хоть одна из сумм fo(x) + .. ¦fn-i(%) неот-
неотрицательна, rno / f(x)(lx ij 0.
Е
Пусть Ет — множество тех точек х, в которых хотя бы одна из
сумм /о(ж) + ...fp{x) неотрицательна при р ^ т. Ясно, что Ет обра-
образуют неубывающую последовательность и их сумма есть Е, поэтому
достаточно доказать, что J f(x) dx 5j 0 для всех т.
Ет
Пусть п — произвольное целое положительное число; для каж-
каждой точки х рассмотрим m-лидеры последовательности /о(ж), ...,
fn+m-i{x), и пусть s(x) — их сумма. Пусть Dk — множество та-
таких точек ж, для которых fk(x) является m-лидером последовательнос-
последовательности /о(ж), ... , fn+m-i(x), и пусть g]. — его характеристическая функ-
п+т—1
ция. Так как множество D^ измеримо и s = Y^ fkgk, т° s измерима
fc=0
и интегрируема. Поэтому из доказанной выше леммы вытекает, что
п+т — 1
,.
Заметим далее, что если к = 1, ... , п — 1, то следующие условия,
налагаемые на точку х. попарно эквивалентны:
(I) Tx e ?>*-i;
(II) Д_!(Тж) + ... + fk-i+p-i(Tx) Г? 0 при некотором р ^ тп:
(III) fk(x) + .. ¦ + fk+P-i(x) ^ 0 при некотором р ^ т:
(IV) х е Dk.
Другими словами, D\, = T~1Dfl-i, откуда Df, = T~kD(,. при
к = 1, ... , п — 1.
Следовательно,
jfk(x)dx= J f(Tkx)dx= I f(x)dx

Точечная сходимость 31
(последнее равенство получается заменой Ткх на ж), так что каждый
из начальных п членов суммы (*) равен первому из них. Так как, оче-
очевидно, Do = Em, то из (*) вытекает, что
/ f{x)dx + m I \
п
Е,„
(последние то членов суммы (*) заменены их очевидными мажоранта-
мажорантами). Для завершения доказательства максимальной эргодической тео-
теоремы остается полученное неравенство разделить на п и затем перейти
в нем к пределу при п ->• сю.
Докажем теперь собственно эргодическую теорему. Пусть а и Ь —
действительные числа а < Ъ. и пусть Y = Y(a, b) множество всех
тех точек х, для которых
п-1 п-1
lim inf \ Y^ fj{x) < а < Ъ < lim sup \ ^ fj(x).
з=а з=о
Ясно, что множество Y измеримо и инвариантно относитель-
относительно Т (т.е. Y = T~lY): докажем теперь, что m(Y) конечна, а затем,
что m(Y) = 0.
Можно предположить, что Ь > 0; если это не так, то и < 0 и можно
рассматривать —/ и —а вместо / и Ъ соответственно. Пусть С — произ-
произвольное подмножество множества Y, измеримое и имеющее конечную
меру. Пусть, далее, g — характеристическая функция множества С.
Применим максимальную эргодическую теорему к / — bg вместо /.
Если F множество, играющее для этой функции ту же роль, что
и Е для /, то мы получаем / (f(x) — bg{x)) dx ^ 0. Пусть х ? У,
п-1 JF
так что b < lim sup ^ ? Л(ж); тогда по крайней мере одно из сред-
, п-1 j=o
них п S fj(x) должно быть больше, чем Ъ (на самом деле этому
з=о
условию должно удовлетворять много таких средних); отсюда следу-
и-1
ст, что по крайней мерс одно из выражений вида ^ (/(Т^х) — bg{T^x))
з=о
неотрицательно. Другими словами, Y С F. Воспользовавшись этим,
а также максимальной эргодической теоремой, я прихожу к выводу,

32 Точечная сходимость
что / f(x)dx ;> I bg(x)dx и, следовательно, / |/(ж)|й!ж ^ Ьт,(С).
Я доказал, таким образом, что если некоторое измеримое подмножес-
подмножество множества Y имеет конечную меру, то его мера не превосхо-
превосходит - / \f(x)\dx; отсюда (в силу сигма-конечности меры) следует,
что m(Y) < оо. Так как Y инвариантно относительно Т, то можно
вместо пространства X рассматривать множество Y и затем приме-
применить максимальную эргодическую теорему к (интегрируемой!) функ-
функции f—b; поскольку множество Е, фигурирующее в максимальной эрго-
дической теореме, совпадает в этом случае с Y, то из сказанного следу-
следует, что / (f(x)—b) dx ^ 0. Применив аналогичным образом максималь-
Jy
ную эргодическую теорему к а — /, получим, что I (а — f(x)) dx 5j 0.
¦Iy
Складывал два последних неравенства, получаем / (в — b) dx ^ 0; так
JY
как по условию а < Ь, то отсюда следует, что m(Y) = 0.
Применял полученный таким образом результат ко всевозможным
парам (а, Ь) рациональных чисел (а <Ь), получаем, что интересующие
нас средние действительно стремятся к некоторому пределу почти всю-
всюду. Далее, так как
n—1 л n—1
dar ^ i / ^|/Лж)|Л; = / \f(x)\dx
3=0 J 3=0
\ Е ли
то предельная функция /* интегрируема (в силу леммы Фату) и, следо-
следовательно, конечна почти всюду. Тот факт, что /* инвариантна, являет-
является тривиальным следствием элементарных свойств сходимости в смыс-
смысле Чезаро.
Остается только доказать, что если т(Х) конечна, то интегралы
от / и от /* равны между собой. Это опять-таки вытекает из макси-
максимальной эргодической теоремы. Если /*(ж) ^ а почти всюду, то при
каждом ? по крайней мерс одна из сумм ^ (fj(%) —а + е) должна быть
з=о
неотрицательна; отсюда вытекает, что / /(ж) dx ^ (а — е)гп(Х) при
всех е и, следовательно, что / f(x) dx ^ ат(Х).

Точечная сходимость 33
Ясно, что аналогичным образом из того, что всюду /*(ж) ^ Ь вы-
вытекает, что / f(x) dx ^ Ът(Х). Обозначим Х(к, п) множество тех то-
точек х, в которых к/2п sj f*(x) 5% (к + 1)/2и, и применим написан-
написанные выше неравенства к преобразованию Т, рассматриваемому лишь
на (инвариантном) множестве Х(к, п). Получим
±m(X(k, n)) ^
Х{к,п)
Эти последние неравенства справедливы также и для /*. Отсюда сле-
следует, что
±-rn(Y(h п\\ < I fl'Aibr —
2 J J 2
X(h,n) X(k,n)
суммируя по к. получаем
\Jf{x)dx-jf*{x)dx
Так как п произвольно, то доказательство эргодической теоремы за-
закончено.

Замечания по поводу эргодической
теоремы
Аналитические трюки закопчены; теперь пора собрать урожай вы-
вытекающих из них следствий. Первое из этих следствий состоит в том,
что на пространстве с конечной мерой имеет место также и сходимость
в среднем (со степенью единица), наряду со сходимостью почти всюду.
Другими словами, если Т — сохраняющее меру преобразование про-
пространства X. гп(Х) < эо, и если /6 L1? то
стремится к нулю (здесь, разумеется, /*(ж) =
п-1
3=0
и-1
dx
)- Если /
ограничена, то все се средние ограничены той же константой и наше
утверждение вытекает из теоремы Лебега о предельном переходе под
знаком интеграла. Если же / неограничена, то наше утверждение дока-
доказывается с помощью аппроксимации. Если g— некоторая ограниченная
функция, то
и-1
j=0
и-1
j=0
и-1
3=0
и-г
Первое из стоящих справа слагаемых не превосходит ||/ — g\\\, а третье
равно ||/—g\\i. Следовательно, выбирая g так, чтобы ||/—g\\i была мала,
и, выбирая затем п так, чтобы было мало среднее слагаемое, мы пока-
покажем, что стоящее слева выражение мало, что и требовалось доказать.
Одной из популярных тем в аналитической эргодической теории
является исследование взаимных связей различных результатов, при-
пример чего я только что изложил. (Вытекает ли теорема о сходимости
в смысле L-2 из теоремы о сходимости почти всюду? Следует ли теоре-
теорема о сходимости почти всюду из теоремы о сходимости в смысле L±!

Замечания по поводу эргодической теоремы 35
и т.д.) Аналогичная техника используется и для обобщений эргодичес-
ких теорем на преобразования, не являющиеся обязательно сохраняю-
сохраняющими меру. Впрочем, поскольку от этих уточнений пока еще только
ожидают каких-либо полезных приложений, я не буду на них остана-
останавливаться.
Заслуживают внимания соответствующие обобщения на случай
непрерывного параметра; здесь возникает одно новое обстоятельст-
обстоятельство, которое следует иметь в виду. Ясно, что следует рассматривать
однопараметрическую полугруппу {Tt\ сохраняющих меру преобра-
преобразований, где t принимает неотрицательные действительные значения
и Ts+t = T8 • Т(. Суммы по степеням преобразования, появляющиеся
в эргодических теоремах дискретного типа, в непрерывном случае за-
заменяются интегралами. Соответствующая эргодическая теорема уста-
N
навливает сходимость (при N —>• сю) интегралов вида -^ / f(Ttx) dt,
о
где / — произвольный элемент из L\. Для того чтобы придать опреде-
определенный смысл возникающим здесь интегралам, следует сделать неко-
некоторые предположения относительно характера зависимости Tf от t. Ес-
Естественно предположить, что Ttx представляет собой измеримую функ-
функцию своих двух аргументов (tux), где измеримость па положительной
вещественной оси t понимается в смысле Бореля. При этих предположе-
предположениях эргодическая теорема для непрерывного параметра имеет смысл
и верна. Соответствующее доказательство представляет собой почти
дословное повторение доказательства, проведенного для дискретного
случая; кроме того, непрерывный случай может быть сведен к дис-
дискретному. В этом втором методе основной трюк состоит в применении
дискретной эргодической теоремы к преобразованию Т\ и функции F.
определяемой формулой
1
J
F{x) = Jf(Ttx)dt.
о
Равенство / f(x)dx = I f*(x)dx было доказано только для про-
пространств с конечной мерой. Это условие конечности здесь не может
быть отброшено; для пространств бесконечной меры заключение невер-
неверно. Если, например, X действительная прямая и Т сдвиг, опре-

36 Замечания по поводу эргодической теоремы
деляемый формулой Тх = х + 1, а / — характеристическая функция
полуоткрытого единичного интервала, то / f{x)dx = 1, в то время
как f*(x) = 0 для всех х.
Другой естественно возникающий вопрос связан с обращением эр-
эргодической теоремы, а именно: пусть Т — сохраняющее меру преоб-
п-1
разование и / измеримая функция, такая, что ^ J3 f(T3x) сходит-
з=о
ся почти всюду к конечному пределу f*{x): следует ли отсюда, что /
интегрируема? Ответ здесь, вообще говоря, отрицательный; несколько
позже я приведу пример, относящийся к интересному частному слу-
случаю, в котором ответ положителен. В качестве отрицательного при-
примера рассмотрим снова сдвиг на единицу на действительной оси; ес-
если / — произвольная функция, равная нулю вне единичного интервала
(в частности, / может быть неотрицательна и неинтегрируема), то /*
тождественно равна нулю. Самым крайним контрпримером является
тождественное преобразование, для пего индивидуальная эргодическая
теорема всегда справедлива.
Я не могу удержаться от соблазна завершить эти замечания еще
одним «доказательством» эргодической теоремы. Пусть / — комплекс-
нозначная функция неотрицательного целочисленного аргумента; поло-
I f(n) dn = lira — У^ /С?)- если только этот предел существует,
J j=0
и назовем такие функции интегрируемыми. Если Т — сохраняющее
меру преобразование пространства X и / — интегрируемая функция
на X, то
If \f(Tnx)\ dn dx = ff \f(Tnx)\ dx dn =
= If I/HI d*dn = / I/Ml ^ < oc.
Следовательно, по «теореме Фубини» (!), f(Tnx) интегрируемая
функция своих двух аргументов и, значит, при почти каждом фиксиро-
фиксированном х она является интегрируемой функцией от п. Нельзя ли всем
этим несуразностям придать определенный смысл?
жим

Эргодичность
Пусть Т — сохраняющее меру преобразование пространства X,
и пусть X является суммой двух непересекающихся измеримых мно-
множеств Е и F, каждое из которых имеет положительную меру и ин-
инвариантно относительно Т; тогда изучение любых свойств преобра-
преобразования Т па X сводится к раздельному изучению соответствующих
свойств Т на Е и Т на F. В этой ситуации преобразование Т естест-
естественно назвать разложимым. Наиболее важны неразложимые преобразо-
преобразования; они обычно называются метрически транзитивными, или эрго-
дическими. Понятие эргодичности представляет собой одну из точных
формулировок (не единственно возможную) того естественного тре-
требования, что данное преобразование достаточно хорошо перемешивает
точки пространства, в котором оно действует.
Для того чтобы привести некоторые примеры эргодических преоб-
преобразований, удобно сперва дать иную формулировку определения эрго-
эргодичности. Первая из таких переформулировок очевидна: Т эргодично
в том и только в том случае, если для него существуют только триви-
тривиальные инвариантные множества, т. е. в том и только в том случае, если
для любого измеримого множества Е. инвариантного относительно Т.
или т,(Е) = О, или т(Х — Е) = 0. (Напомним определение инвариант-
инвариантности. Множество Е инвариантно относительно Т в том и только в том
случае, когда Т~1Е = Е; это означает, что х принадлежит Е в том
и только в том случае, если Тх принадлежит Е. Функция / инвариант-
инвариантна относительно Т в том и только в том случае, когда f{Tx) = f(x) для
всех х. Ясно, что Е инвариантно в том и только в том случае, если инва-
инвариантна его характеристическая функция. Я буду обычно употреблять
слово «инвариантно» в смысле «инвариантно почти всюду», так что,
например, для функций инвариантность означает, что f(Tx) = f(x)
для почти всех х.) Полезен следующий вариант определения эргодич-
эргодичности; Т эргодично в том и только в том случае, если всякая инва-
инвариантная относительно Т измеримая функция есть константа. В одну
сторону доказательство тривиально: если не существует инвариантной

38 Эргодичность
функции, отличной от константы, то пет нетривиальных инвариант-
инвариантных множеств. (Рассмотреть характеристические функции.) Обратно,
предположим, что Т эргодично; надлежит доказать, что если / изме-
измерима и инвариантна, то она постоянна. Пусть Х(к, п) — множество
тех х, для которых к/2п < f(x) < (к + 1)/2п; тогда из инвариантнос-
инвариантности / следует инвариантность Х(к. п). Но из эргодичности Т следует,
что при всех п каждое из множеств Х(к, п), за исключением одного.
имеет меру нуль. Мы получаем требуемый результат, рассмотрев пере-
пересечение (по всем п) этих «больших» множеств Х(к, п). Если тп{Х) < ос,
то верно также следующее: Т эргодично в том и только в том случае,
если каждая инвариантная функция, принадлежащая L1 (или принадле-
принадлежащая L2), постоянна; здесь суть дела в том, что характеристическая
функция всякого измеримого множества интегрируема.
Сдвиг Т, определяемый формулой Тх = х + 1 в пространстве це-
целых чисел, эргодичен; сдвиг Тх = х + 2 таковым не является. (Мно-
(Множество всех четных чисел инвариантно.) Сдвиг Т, определяемый фор-
формулой Тх = х + 1 на действительной оси, неэргодичен; примером не-
нетривиального инвариантного множества является сумма (по всем п)
интервалов вида п < х < п + ^.
Пусть X — группа вращений окружности (т.е. множество всех
комплексных чисел, по модулю равных 1),с?1иГ определено форму-
формулой Тх = сх; тогда Т эргодично при одних с и неэргодично при других.
Если с — корень из единицы, т.е. сп = 1 при некотором целом поло-
положительном п. то Т неэргодично; в самом деле, в этом случае f(x) = хп
является отличной от постоянной измеримой инвариантной функцией.
Если с не есть корень из единицы, то Т эргодичпо. Один из способов
доказать это состоит в том. что рассматриваются функции fn(x) = хп,
п = 0, ±1. ±2. ..., образующие в L^ (на X) полную ортогональную
нормированную систему. Если / ? L-2. то / = ^ап/„, причем ряд
п
сходится в среднем квадратичном. Определим в L2- как это делалось
выше, оператор U равенством Uf(x) = f(Tx): так как Ufn = cnfn,
то Uf = Yl ancnfn. Если / инвариантна, то ап = спап для всех п и, сле-
п
доватслыю, ап = 0. если только п ф 0. Отсюда следует, что всякая
инвариантная функция из L2 постоянна и, значит, Т эргодично.
В более общем случае, когда X — компактная абелева груп-
группа со счетной базой, а Тх = cz, где с — некоторый фиксирован-

Эргодичность 39
ный элемент из X, необходимое и достаточное условие эргодичнос-
эргодичности Т состоит в том, что последовательность {с™} степеней элемента с,
п = 0, ±1, ±2, ... всюду плотна в X. Доказательство этого факта пред-
представляет собой интересное отступление от основного русла общей тео-
теории; оно проводится следующим образом.
Лемма. Если пространство с мерой X является топологическим
пространством со счетной базой, причем каждое его непустое откры-
открытое подмножество имеет положительную меру, и если Т — эргодичес-
кое сохраняющее меру преобразование пространства X, то для почти
всех х ? X траектория точки х (т. е. последовательность {Тпх}) всю-
всюду плотна.
Доказательство.
Траектория точки х неплотна в том и только в том случае, если
существует такое непустое открытое множество G, являющееся эле-
элементом базы, что х содержится в пересечении всех X — TnG. Так как
это пересечение представляет собой инвариантное множество, пс име-
имеющее общих точек с G. и так как m(G) > 0, то его мера равна нулю.
Если х не принадлежит ни одному из этих множеств меры нуль, чис-
число которых счетно (они отвечают открытым множествам, образующим
базу), то х имеет всюду плотную траекторию.
Это условие плотности, которое, как утверждает доказанная лем-
лемма, необходимо для эргодичности, не является достаточным. Чтобы
получить противоречащий пример, рассмотрим в качестве Т такое
преобразование, скажем, на интервале [0, 2), которое оставляет [0, 1)
и [1, 2) инвариантными и которое на каждом из этих двух частич-
частичных интервалов эргодично. Требуемый контрпример можно получить,
введя на [0, 2) топологию (отличную, конечно, от обычной) так, что-
чтобы каждый из подынтервалов [0, 1) и [1, 2) был всюду плотен в [0, 2),
и так, чтобы получающееся при этом пространство с мерой удовлетво-
удовлетворяло условиям леммы. Для этой цели рассмотрим на плоскости квад-
квадрат и выберем в нем два непересекающихся счетных класса полуоткры-
полуоткрытых интервалов, плотных в нем. Можно очевидным образом установить
взаимно-однозначное соответствие между объединениями каждого из
этих двух классов и интервалами [0, 1) и [1, 2) соответственно; интер-
интервал [0, 2) будем рассматривать в той топологии, которая переносится
на него с квадрата с помощью вышеупомянутых двух соответствий.

40 Эргодичность
Другая возможность — это определить меру на квадрате с помощью
этих соответствий, приписав множеству всех «лишних» (т.е. не принад-
принадлежащих указанным выше интервалам) точек меру нуль и определив
преобразование квадрата как единичное в «лишних» точках и как соот-
соответствующий образ преобразования Т в остальных.
Предположим теперь, что Т представляет собой сдвиг (т. е. Тх = сх
на некоторой компактной коммутативной группе X со счетной базой).
Если преобразование Т эргодично, то, согласно лемме, существует по
крайней мере одна точка (обозначим ее Хо). траектория которой всюду
плотна. Так как преобразование, переводящее х в хх^1, представляет
собой гомеоморфизм, то оно переводит траекторию точки xq, т.е. по-
последовательность {спхо}- в некоторую всюду плотную последователь-
последовательность; однако образ этой траектории состоит как раз из степеней эле-
элемента с.
Обратно, предположим, что {с™} всюду плотна. Если / — харак-
характер группы X (т. е. непрерывный ее гомеоморфизм в группу враще-
вращений окружности), то f(cx) = f(c)f(x), так что / является собственным
вектором унитарного оператора, порожденного преобразованием Т. Так
как характеры образуют полную ортогональную нормированную систе-
систему функций в 7у2, то каждая инвариантная функция из L2 может быть
разложена по ним. Поскольку собственные векторы унитарного опера-
оператора, отвечающие различным собственным значениям, ортогональны
между собой, каждая инвариантная функция в L2 (т.е. каждый соб-
собственный вектор, отвечающий собственному значению 1) представля-
представляет собой линейную комбинацию тех характеров, для которых собст-
собственное значение равно 1. Таким образом, для того чтобы завершить
доказательство, достаточно показать, что единственным таким харак-
характером является единичный характер. Пусть / — некоторый характер
и f(cx) = f(x) почти всюду; тогда, по непрерывности, f(cx) = f{x)
всюду и, следовательно, f(cnx) = f(x) всюду. Положив х = 1, получа-
получаем отсюда, что / — единичный характер.
Как только что описанная топологическая техника, так и метод
разложения Фурье, примененный нами для группы вращений окруж-
окружности, могут быть использованы для доказательства того, что враще-
вращение на торе (Т(х, у) = (Ьх, су)) эргодично в том и только в том случае,
если коэффициенты Ь и с целочисленно независимы. Это означает, что
= 1 (при целых п и тп) следует п = m = 0.
Может ли линейное преобразование с детерминантом 1 копечпомер-

Эргодичность 41
ного евклидова пространства быть эргодично? Ответ здесь оказывается
отрицательным. Один из способов убедиться в этом состоит в использо-
использовании известной теории собственных значений линейных преобразова-
преобразований в комплексных векторных пространствах. Для этого рассматривае-
рассматриваемое пространство X должно быть заменено его комплексной оболочкой.
Иначе говоря, рассмотрев декартово произведение X х X, введем в нем
покоординатное сложение векторов, а умножение вектора на комплекс-
комплексное число определим формулой (я, + ib)(x, у) = (а,х — by, bx + ay). В ре-
результате мы получим комплексное векторное пространство X комп-
комплексной размерности п (где п — действительная размерность X).
Действительная размерность пространства X paBim, разумеется, 2п\
2п-мерное действительное векторное пространство X содержит X в ка-
качестве n-мерного подпространства. Если Т определить в X форму-
формулой Т(х, у) = (Тх, Ту), то Т будет комплексным линейным преоб-
преобразованием с детерминантом 1. Пусть с\. ... , с& различные соб-
собственные значения преобразования Г*, п\, .... п^ — их кратности,
a Zi, .... Zk отвечающие им ненулевые собственные векторы преоб-
преобразования Т*. Заметим, что, согласно определению Г*, векторы Zj явля-
являются комплексными линейными функционалами на X. Так как X С X,
к
то функционалы Zj определены на X; пусть f(x) = J\ (zj(x))ni¦> тогда
j=i
функция / инвариантна относительно Т. (Напомним, что произведение
собственных значений, каждое из которых взято столько раз, какова
его кратность, равно детерминанту.) Эта функция / не является кон-
константой. Действительно, / обращается в нуль на соединении подпро-
подпространств нулей функционалов Zj и отлична от нуля на всех остальных
элементах. Так как действительная и мнимая части каждого из функ-
функционалов zj представляют собой действительные линейные функцио-
функционалы на X, то соединение всех этих подпространств нулей представ-
представляет собой теоретико-множественную сумму конечного числа подпро-
подпространств, размерность каждого из которых меньше п. Поскольку / не-
непрерывна, отсюда вытекает, что она не может быть константой почти
всюду. (Примененный здесь трюк с переходом к комплексному про-
пространству можно осуществить также, пользуясь вместо линейных пре-
преобразований матрицами; при этом пришлось бы пользоваться меньшим
количеством понятий, но зато нужно было бы возиться с большим чис-
числом индексов.)

42 Эргодичность
Интересно было бы выяснить, сколь далеко изложенные факты мо-
могут быть обобщены. Может ли автоморфизм некоторой локально ком-
компактной, по не компактной группы быть эргодичсским, сохраняющим
меру, преобразованием? По этому поводу неизвестно ничего; лишь для
компактного случая уже кое-что сделано. Я рассмотрю автоморфизмы
компактных групп немного позже.
В качестве следующего примера я возьму сдвиг Т, односторонний
или двусторонний, в соответствующем пространстве последовательнос-
последовательностей; я утверждаю, что в каждом из этих двух случаев Т эргодичен.
Действительно, предположим, что Е — инвариантное измеримое мно-
множество. Поскольку мера определяется ее значениями на множествах,
зависящих лишь от конечного числа координат, существует такое «ко-
«конечномерное» множество (обозначим его А), которое достаточно хо-
хорошо аппроксимирует множество Е. Это означает, что мера симмет-
симметрической разности (или булевской суммы) ЕАА1 мала и, в частнос-
частности, тп{Е) мало отличается от тп(А). Так как А определяется конечным
числом координат, то, если п достаточно велико, множество В = Т~пА
определяется набором координат, не пересекающимся с тем набором,
который определяет А, и, следовательно, гп(А П В) = m(A)m(B). Так
как преобразование Т и все его степени сохраняют меру и так как Е
инвариантно, то из малости т(ЕАА) вытекает малость т(ЕАВ). От-
Отсюда следует, что гп(ЕА(А П В)) также мала, а потому т{А), гп{В)
и т(А)т(В) близки к т(Е); иначе говоря, величина т(Е) мало отли-
отличается от своего квадрата. Поскольку точность аппроксимации может
быть взята как угодно большой, получаем т(Е) = (т(Е)J. что и тре-
требовалось. Отсюда следует, что как и преобразование удвоения (Тх =
= 2х (mod 1)), так и преобразование пекаря эргодичны.
Все тс примеры эргодических преобразований, которые мы рас-
рассматривали, за исключением сдвига на единицу в пространстве це-
целых чисел, действовали в пространствах с конечной мерой. Построение
примера эргодического преобразования в неатомическом пространстве
бесконечной меры является нетривиальной задачей. (Неатомичность
означает, что каждое измеримое множество положительной меры со-
содержит некоторое измеримое подмножество меньшей положительной
меры.) Я покажу, как построить такое преобразование на действитель-
действительной оси. На самом деле наиболее удобным представлением простран-
'¦См. Халмош П. Р., Теория меры, ИЛ, 1953, стр. 23 и след. — Прим. перев.

Эргодичность 43
ства, в котором действует такое преобразование, является не действи-
действительная ось, а некоторый набор сегментов па плоскости; будет, однако,
ясно, что если эти сегменты приложить друг к другу, то они составят
действительную прямую. Рассматриваемый метод может быть широко
использован для построения примеров.
Пусть {ап} невозрастающая последовательность положитель-
положительных чисел, причем по = 1, и пусть Го — обратимое, сохраняющее меру,
эргодическое преобразование единичного полуинтервала. Пусть Хп —
полуинтервал длины ап, лежащий в плоскости параллельно горизон-
горизонтальной оси, и пусть X — объединение всех Хп. (Если ряд ^ ип рас-
п
ходится, то X очевидным образом эквивалентно, с точки зрения тео-
теории меры, полупрямой, а следовательно, и прямой.I Преобразование Т
на X сдвигает каждую точку на единицу вверх, если это возможно
(т.е. Т(х, у) = (х, у + 1)); если же это невозможно (т.е. если у = п
их^ ftn+i)i то Т(х, у) = (Tqx, 0). Ясно, что Г — обратимое, сохраня-
сохраняющее меру, преобразование на X. Предполагается, что ап —> 0. Пусть
теперь Е — некоторое измеримое множество, инвариантное относи-
относительно Т. Пусть Eq — пересечение Е с базисным интервалом (т. е. с еди-
единичным интервалом па горизонтальной оси), тогда Е состоит в точнос-
точности из тех точек, чьи первые координаты принадлежат Eq. Так как Eq
инвариантно относительно То, то или Ео, или его дополнение в базис-
базисном интервале имеют меру нуль: отсюда вытекает эргодичность Г, что
и требовалось доказать.
1Автор предполагает, что полуинтервал Хп расположен на прямой у — п и каса-
касается левым концом оси у. — Прим. перев.

Следствия из эргодичности
Для эргодических преобразований эргодическую теорему можно
усилить, добавив к ней описание самой предельной функции. Точнее
говоря, если Т эргодическое сохраняющее меру преобразование, /
интегрируемая функция и f*(x) = Hm^ ^ f(T3x), то f*(x) постоянна
i=o
почти всюду. Если мера пространства бесконечна, то это постоянное
значение равно нулю. Причина этого состоит в том, что /* интегриру-
интегрируема, а 0 в этом случае — единственная интегрируемая константа. (Это
опять-таки свидетельствует о том, что в случае бесконечной меры у
нас нет оснований предполагать справедливым равенство / /(:/;) dx =
= I f*(x) dx.) Если мера пространства конечна, то равенство интегра-
интегралов от / и /* показывает, что /* = ——- / f(x) dx. Другими словами,
m(X) J
для эргодичсского сохраняющего меру преобразования, действующего
в пространстве с конечной мерой, фазовое (= пространственное) сред-
1 "~1
нее почти всюду равно временному среднему, т. е. lim — Yl f{TJx). Это
' i=o
утверждение, весьма важное в физическом аспекте теории, иногда (не-
(неправильно) отождествляется с самой эргодической теоремой. Остается
открытым вопрос, интересный как с математической, так и с физи-
физической точки зрения, о нахождении удобных (т.е. легко проверяемых),
достаточных условий эргодичности преобразования.
Для пространств с конечной мерой равенство константе вре-
временного среднего для любой интегрируемой функции является необ-
необходимым и достаточным условием эргодичности. Чтобы доказать это,
достаточно проверить, что каждая инвариантная функция из L\ будет
в этом случае константой, а это вытекает из того, что каждая инвари-
инвариантная функция совпадает со своим временным средним. В случае про-
пространства с бесконечной мерой может оказаться, что все временные

лы
Следствия из эргодичности 45
средние постоянны, хотя соответствующее преобразование и неэрго-
дично; в качестве примера примем за X целочисленную решетку на
плоскости и определим Г, положив Т(х, у) = (х + 1, у). В этом случае
константа нуль является единственной инвариантной функцией в Ь\.
Для эргодических преобразований, действующих в пространствах
с конечной мерой, и неотрицательных измеримых функций справед-
п-1
ливо следующее обращение эргодической теоремы: если ^ ^ f(T3x)
j=o
стремится почти всюду к некоторому конечному пределу, то / ин-
интегрируема. Для доказательства этого заметим прежде всего, что рас-
рассматриваемый предел равен почти всюду некоторой константе с. Ес-
Если Д функция, получающаяся из / с помощью урезания на уров-
уровне к (т.е. Д(х) = fix), если fix) ^ к, fk(x) = к, если f{x) > к),
то fk ограничена и, следовательно, интегрируема. Из теоремы об ин-
интегрировании монотонных последовательностей вытекает, что интегра-
/ fk ix) dx стремятся к / f(x) dx; интегрируемость функции / мож-
Г f 1
но установить, показав, что последовательность < / Д (ж) dx > ограни-
-I п~1 -. П — 1
чена. Так как Д ^ /, то ^ ^ faiT^x) ^ ^ X) fi^x) и, следовательно,
/^ ^ с почти всюду. Поэтому / /ft (ж) da; ^ с?п(Х) для всех А; и, значит,
интегралы / fjl{x)dx ограничены той же величиной.
Последний результат непосредственно распространяется на полу-
полуинтегрируемые измеримые действительные функции, т.е. такие из-
измеримые функции /, у которых или положительная, или отрицатель-
отрицательная части интегрируемы. То обстоятельство, что указанный выше ре-
результат пс распространяется на произвольные действительные изме-
измеримые функции, устанавливается с помощью следующего примера, по-
построенного М. Гсрпстснхабсром. Соответствующее пространство явля-
является пространством типа «лестницы», которое ранее было использовано
при построении эргодического преобразования на прямой; преобразо-
преобразование Т представляет собой продолгкение эргодического преобразова-
преобразования То, заданного на основном интервале, такое же, как и в том приме-
примере. Отсюда следует, что Г само эргодично. Вспомогательные числа ап
(т.е. длины интервалов Хп, составляющих пространство X) выбира-

46 Следствия из эргодичности
ются так, что (I) a2n-i = «2и? п = 1,2,3,..., (II) J2 а2п сходится
п
и (III) Х^а2ил/й- расходится. Этим условиям можно удовлетворить, по-
пота
ложив, например, ain равным п~3/2. Из (II) вытекает, что т(Х) конеч-
конечна. Если f(x) = \/v, при х 6 Хчп и f{x) = — s/ri, при х ? Х2п-\, то из (III)
следует, что / не интегрируема; действительно, ни положительная, ни
отрицательная части / не интегрируемы.
п-1
Так как в силу (I) в сумме вида 'Yl f(T-'x) все члены, за исключе-
исключено
нием, может быть, двух крайних, взаимно уничтожаются, а абсолют-
п-1
ные значения крайних членов не превосходят л/п, то lim—'^2f(TJx)
существует и фактически равен нулю для всех х. J=o
Для эргодического преобразования Г, определенного па простран-
пространстве меры 1, Кац сделал одно интересное дополнение к теореме о возвра-
возвращении (Кае. Bull. Amer. Math. Soc, 1947, стр. 1006). Пусть Е — измери-
измеримое множество положительной меры и п(х), при каждом х ? Е, означа-
означает наименьшее целое положительное число, такое, что Тп^х ? Е; тог-
тогда п(х) определено почти всюду на Е. Легко проверить, что п(х) — из-
измеримая функция на Е. Теорема Каца состоит в том, что / п(х) dx = 1.
Je
(Доказательство не сложно, но требует несколько искусственной ком-
комбинаторики; я его опускаю.I Если этот результат записать в ви-
виде —-— / n(x)dx = , то ему можно придать следующую сло-
1п{Е) Je m(,E)
весную формулировку: среднее время, за которое точка из Е снова
возвращается в Е, обратно пропорционально мерс множества Е. Для
неэргодических преобразований это утверждение неверно.
Предположим снова, что Т — эргодическос, сохраняющее ме-
меру, преобразование, определенное в пространстве X с конечной ме-
мерой, и пусть F и G — два измеримых подмножества из X, а /
и g соответственно их характеристические функции. Тот факт,
что f*(x) = —f— / f(x)dx, т.е. f*(x) = m(F)/m(X) почти всю-
m(X) J
ду, можно выразить следующим образом: среднее время пребыва-
пребывания в F для почти всех траекторий пропорционально m(F). Так
1См. также статью Tsurumi Sh., On the recurrence theorems in ergodic theory, Proc.
Japan Acad., 34, № 4, 208-211 A958). — Прим. перев.

Следствия из эргодичности 47
как Иш — Y^ f(TJv)g(''i;) = f*(x)g(x), то из теоремы о почленном ин-
' з=о
тегрировании ограниченных сходящихся последовательностей следует,
что lim ^ Yl m{T :tF П G) = m(F)m(G)/m(X). Если для каждого из-
' 3=0
меримого множества Е величину m(E)/m(X) интерпретировать как
вероятность того, что некоторая точка принадлежит Е, то последний
результат можно сформулировать следующим образом: вероятность то-
того, что некоторая степень рассматриваемого преобразования переводит
точку из G в F, стремится, в смысле сходимости по Чезаро, к произ-
произведению вероятностей попадания в F и в G. Другими словами, движу-
движущееся множество G стремится стать в среднем стохастически незави-
независимым от любого фиксированного множества F.
Эргодичность налагает строгие и весьма замечательные ограниче-
ограничения на спектральную структуру соответствующего унитарного опера-
оператора; основные известные по этому поводу факты можно резюмировать
следующим образом.
Теорема о собственных значениях. Обратимое сохраняющее
меру преобразование Т, действующее в пространстве с конечной мерой,
эргодично в том и только в том случае, если число 1 является прос-
простым собственным значением соответствующего унитарного операто-
оператора U. Если Т эргодично, то абсолютное значение каждой собственной
функции оператора U постоянно, каждое собственное значение имеет
кратность 1 и совокупность всех собственных значений оператора U
представляет собой подгруппу группы вращений окружности.
Доказательство.
Поскольку мера пространства конечна, каждая постоянная на нем
функция / входит в Хг. Так как Uf = /, то число 1 всегда является соб-
собственным значением оператора U. Поскольку совокупность всех посто-
постоянных функций образует в Хг одномерное подпространство и посколь-
поскольку Т эргодично в том и только в том случае, когда константы являют-
являются единственными инвариантными функциями в L^. первое утвержде-
утверждение теоремы справедливо. (Вспомним, что функция из L^ инвариантна
в том и только в том случае, когда она является собственной функцией
оператора U, отвечающей собственному значению 1.)
Так как оператор U унитарен, то каждое его собственное значение
по модулю равно 1. Отсюда следует, что если / есть собственная функ-

48 Следствия из эргодичности
цип, отвечающая собственному значению с (т.е. f(Tx) = cf(x) почти
всюду), то |Л инвариантен; в силу эргодичности Т отсюда вытекает,
что |Л = const. Если f и g — две собственные функции, отвечающие
собственному значению с, то f/g — инвариантная функция и, следо-
следовательно, g отличается лишь постоянным множителем от /. (Заметим,
что f/g имеет смысл, поскольку \g\ — ненулевая константа.) Таким об-
образом, доказана простота всех собственных значений. Наконец, если Ъ
и с — собственные значения оператора U, а / и g — соответствующие
собственные функции, то f/g собственная функция оператора U, от-
отвечающая собственному значению 6/с; отсюда следует, что собствен-
собственные значения оператора U образуют группу.
Я закончу это предварительное рассмотрение понятия эргодичнос-
эргодичности описанием одного частного примера неэргодического преобразова-
преобразования и обсуждением, возникающего в связи с этим примером предполо-
предположения. Пространство X, в котором соответствующее преобразование
действует, представляет собой единичный квадрат или, точнее, тор,
поскольку все операции рассматриваются по модулю 1; само преоб-
преобразование определяется формулой Т(х, у) = (х. у + х) (mod 1). Ес-
Если fix. у) = g(x). где g — измеримая функция на единичном интер-
интервале, то / инвариантна относительно Т; изобилие таких инвариантных
функций показывает, что Т неэргодично. Для каждого фиксированно-
фиксированного Х() вертикальный отрезок, отвечающий xq (т. е. множество пар ви-
вида (х0, у)), инвариантен относительно Т. Преобразование Т, рассматри-
рассматриваемое на таком сегменте, является сохраняющим меру; на почти всех
таких сегментах оно эргодично. (На самом деле оно эргодично на всех
сегментах, кроме тех, у которых хо рационально; число таких сегмен-
сегментов счетно.) Таким образом, исходное преобразование Т является пря-
прямой суммой (прямым интегралом), в интуитивно очевидном смысле,
эргодических преобразований; данное разложимое преобразование рас-
распадается, таким образом, на неразложимые куски. Естественно предпо-
предположить, что такая ситуация является типичной, и это предположение
в известном смысле справедливо. Однако, поскольку доказательство
этого факта довольно тонко и поскольку, что уже хуже, соответствую-
соответствующий результат не принес пока никакой реальной пользы, я опущу здесь
подробное обсуждение теоремы о разложении. Я упомянул эту теоре-
теорему ввиду ее эвристической ценности. Многие теоремы в этом круге
вопросов можно обычно угадать, предположив, что теорема о разло-
разложении имеет место; доказательства же их могут быть получены нспо-

Следствия из эргодичности 49
средственно, т. е. без использования того сложного и тонкого аппарата,
с помощью которого теорема о разложении доказывается.
В качестве одного из примеров результатов такого рода, угадыва-
угадываемых с помощью теоремы о разложении, рассмотрим вопрос о един-
единственности инвариантной меры. Предположим сперва, что Т обрати-
обратимо и эргодично; что можно сказать о мере р, имеющей ту же область
определения, что и т, эквивалентной т (т.е. р(Е) = 0 в том и только
в том случае, если т(Е) = 0) и инвариантной относительно Т? От-
Ответ гласит, что р отличается от то постоянным множителем. Для дока-
доказательства, воспользовавшись теоремой Радона-Никодима1, напишем
равенство р(Е) = I f(x)dm(x). Так как р(ТЕ) = I f(x)dm(x), то,
JE JTE
воспользовавшись инвариантностью р и заменив переменную интегри-
интегрирования х на Тх, получим, что / f(x) dm(x) = I f(Tx) dm(x) для
J E J E
каждого измеримого множества Е. Отсюда следует, что / почти всюду
равна константе; поскольку m абсолютно непрерывна относительно р,
эта константа отлична от нуля. Если т(Х) конечна, то полученный
результат можно сформулировать так: пусть Т эргодично, тогда су-
существует единственная мера р, эквивалентная гп, инвариантная отно-
относительно Т и принимающая для всего пространства X заданное значе-
значение. Рассмотрение эргодических частей неэргодического преобразова-
преобразования подсказывает следующее обобщение: если Г — сохраняющее меру
преобразование в пространстве с конечной мерой и то заданная
мера па алгебре всех инвариантных множеств, эквивалентная мерс m
на той же алгебре, то существует единственная конечная инвариант-
пая мера р, определенная па совокупности всех измеримых множеств,
эквивалентная гп и совпадающая с то на инвариантных множествах.
Это обобщение справедливо. Метод доказательства аналогичен той ра-
дон—никодимовской технике, которая была использована выше; детали
я опускаю.
1См. Халмош П. Р., Теория меры, ИЛ, 1953, стр. 128 и след. — Прим. перев.

Перемешивание
Эргодичсская теория развивалась преимущественно для обрати-
обратимых сохраняющих меру преобразований, действующих в том или ином
пространстве с конечной мерой. Поэтому при дальнейшем изложении
теории я ограничусь именно этим случаем. Ниже всюду, где не будет
оговорено противное, слово «преобразование» будет означать обратимое
сохраняющее меру преобразование, а мера т, определенная в соответ-
соответствующем пространстве X, будет предполагаться нормированной так,
что т(Х) = 1.
Мы видели, что если преобразование Т эргодично, то последова-
последовательность {m(T~nFnG)} сходится в смысле Чезаро к m(F)m(G). Спра-
Справедливость этого утверждения для всех F и G в действительности экви-
эквивалентна эргодичности. Чтобы доказать это, предположим, что Е из-
измеримое инвариантное множество, и примем это множество Е как за F,
так и за G. Тогда получим, что т(Е) = (т(Е)J, откуда т(Е) равно
или 0 или 1. Это условие эргодичности может быть выражено и в функ-
функциональной форме, а именно: Т эргодично в том и только в том случае,
если / f(Tnx)g(x) dx сходится в смысле Чезаро к / /(ж) dx- I g(x) dx,
каковы бы ни были / и g из L2. В доказательстве нуждается лишь необ-
необходимость. Для этой цели заметим, что если / ? Tj2. то п силу статисти-
ческой эргодической теоремы ^ ^ f(TJx) сходится в среднем квадра-
' з-о
п-1
тичпом к /*(х); из неравенства Шварца следует, что — J^ f(T3x)g{x)
з=о'
сходится в среднем (со степенью единица) к f*(x)g(x). Поскольку из
сходимости в смысле L\ вытекает почленная интегрируемость и по-
поскольку, в силу эргодичности, f*(x) = I f(x) dx почти всюду, доказа-
доказательство закончено.
Условие сходимости в смысле Чезаро допускает естественную на-
наглядную интерпретацию. Мы можем представлять себе преобразова-
преобразование Т как частный случай перемешивания содержимого некоего сосу-
сосуда (объема 1), заполненного несжимаемой жидкостью, которую будем

Перемешивание 51
считать состоящей из 90% джина и 10% вермута. Если G — область,
занятая первоначально вермутом, то для любой части F рассматрива-
рассматриваемого сосуда относительное содержание вермута в F после п-кратного
перемешивания равно m{T~nF C\G) / m(G). Таким образом, из эргодич-
эргодичности преобразования Г вытекает, что среднее значение этого относи-
относительного содержания равно в точности 10%. Вообще говоря, в физи-
физических условиях, вроде описанных выше, можно ожидать, что будет
справедливо более сильное утверждение, а именно, что после достаточ-
достаточно большого числа перемешиваний каждая часть F сосуда будет содер-
содержать примерно 10% вермута. На математическом языке это означает
замену сходимости в смысле Чезаро обычной сходимостью, т.е. усло-
условием limm(T~nF П G) = m(F) • m(G). Если преобразование Т удовле-
удовлетворяет этому условию для любой пары измеримых множеств F и G,
то говорят, что Т является перемешивающим, или. чтобы отличить это
свойство от аналогичного несколько более слабого свойства, — переме-
перемешивающим в сильном смысле.
Определение перемешивания можно сформулировать и в функцио-
функциональном виде: Т является перемешивающим в том и только в том
случае, когда (Unf, g) стремится к (/, 1) • A, g) при любых / и g
из L2- (Под U понимается, естественно, унитарный оператор, порож-
порожденный Т.) Если / и g— характеристические функции множеств F и G
соответственно, то только что приведенная функциональная формули-
формулировка сводится к теоретико-множественной, принятой за определение.
Общая функциональная формулировка выводится из теоретико-мно-
теоретико-множественной с помощью двойного процесса аппроксимации. Прежде все-
всего я утверждаю, что при любой фиксированной характеристической
функции g сформулированный результат справедлив для всех простых
функций / и, значит, в силу возможности ?2-аппроксимации, — для
всех функций / из Li\ далее, я фиксирую / и провожу аналогичные
рассуждения для g. Так как (/, 1) • A, g) = ((/, 1) • 1, g), то наш ре-
результат можно сформулировать следующим образом: преобразование Г
есть перемешивание в том и только в том случае, если степени операто-
оператора U сходятся, в смысле слабой сходимости операторов, к оператору Р,
определенному равенством Pf = (/, 1I. Оператор Р представляет со-
собой проектирование на подпространство констант.
Вращение (т.е. преобразование Т. определяемое на группе враще-
вращений окружности равенством Тх = сх) не является перемешиванием.
Действительно, если /(./;) = х, то Uf = <;f и, следовательно, Unf = cnf.

52 Перемешивание
Отсюда следует, что (Unf, f) = сп, в то время как (/, 1) • A, /) = 0.
Простейшим примером преобразования перемешивающего типа явля-
является преобразование пекаря, т. е. двусторонний сдвиг. Чтобы доказать
это, зададим F и G и выберем конечномерные1 множества А и 5, ап-
аппроксимирующие F и G. Так как т(Т~пАГ\В) = m(A)m(B) при боль-
больших п, то отсюда следует, что m(T~nF П G) близко к m(F)m(G) при
больших п.
Между эргодичностью и перемешиванием остается место для еще
одного понятия — понятия перемешивания в слабом смысле. Это по-
понятие, представляющееся несколько искусственным, технически очень
важно. Преобразование Т является, по определению, слабым перемеши-
перемешиванием, если
га-1
lim | ^ \m(T-jF П G) - m{F) ¦ m(G)\ = 0
.7=0
для любых двух измеримых множеств F и G. Функциональная фор-
формулировка этого свойства, которая, как легко доказать, эквивалентна
теоретико-множественной, гласит:
п-1
j=0
для всех /, g из 7>2. Говоря профессиональным языком, в определении
слабого перемешивания участвует понятие сильной сходимости в смыс-
смысле Чезаро взамен просто сходимости по Чезаро, имеющей место в слу-
случае эргодичности, и обычной сходимости, фигурирующей в определе-
определении сильного перемешивания.
С рассматриваемым сейчас типом сходимости связано несколько
изящных аналитических упражнений. Для того чтобы проверить сде-
сделанное мной выше утверждение о месте, которое занимает понятие сла-
слабого перемешивания (между эргодичностью и сильным перемешивани-
перемешиванием), следует доказать, что если {ап\ — сходящаяся последовательность
м. пример на стр. 42. — Прим,, перев.

Перемешивание. 53
n-l
комплексных чисел, т.е. limare = а, то lim ^ ^ \a,j — а\ = О, и что ес-
1 п-1 п-1 .7=0
ли lim ^ ^ lej~tt = О; то I™ ^ S ttJ = tt- *^T0 Доказать легко. Немного
' .7=0 ' j-li
труднее, однако существенно интереснее, следующий факт: для огра-
ограниченной последовательности {ft,,} необходимое и достаточное усло-
п-1
вие справедливости равенства lim ^ ^ \a,j — а| = 0 состоит в том, что
существует множество целых положительных чисел ,/, которое имеет
плотность пуль и обладает тем свойством, что если п пробегает лишь
значения, не принадлежащие ,7, то 1шш„ = а. (Выражение «,/ имеет
плотность нуль» означает, что отношение числа номеров между 0 и п—1,
принадлежащих J, к общему их числу, т. е. к п, стремится к нулю
при п —> оо.) Если в приведенном выше примере с джином и вермутом
эргодичность может быть выражена утверждением, что F в среднем
содержит 10% вермута, и если сильное перемешивание можно сформу-
сформулировать так, что по истечении достаточпо большого времени F должно
содержать 10% вермута, то можно сказать, что слабое перемешивание
состоит в том, что F по истечении достаточного времени содержит 10%
вермута, за исключением некоторых редких моментов, в которые жид-
жидкость в F может быть или слишком крепкой, или слишком сладкой.
Слабое перемешивание не является просто искусственным анали-
аналитическим понятием: его значение основано на том факте, что оно экви-
эквивалентно некоторым довольно естественным геометрическим и функ-
функциональным условиям. Чтобы сформулировать соответствующий ре-
результат, мне нужно ввести два новых понятия. Я буду говорить, что
сохраняющее меру преобразование Г имеет непрерывный спектр, ес-
если единственным собственным значением отвечающего Т унитарного
оператора U является 1 и если это собственное значение простое. Это
выражение (Т имеет непрерывный спектр) не вполне точно. Так как
константы всегда инвариантны относительно Г, число 1 непременно
должно быть собственным значением оператора U, так что U всегда
имеет какой-то точечный спектр. В соответствии с введенным нами
только что словоупотреблением Т имеет непрерывный спектр, если то-
точечный спектр оператора U сводится к вышеуказанному неизбежному
минимуму. Второе необходимое нам понятие — это декартов квадрат Г
сохраняющего меру преобразования Т. определенного в некотором про-
пространстве X; преобразование Т определяется на X — декартовом про-

54 Перемешивание
изведении X на себя формулой Т(х, у) = (Тх, Ту). Унитарный опера-
оператор, порожденный преобразованием Т. обозначим U.
Теорема о перемешивании. Преобразование Т является слабо-
перемешивающим в том и только в том случае, когда его спектр не-
непрерывен или [другое условие) когда его декартов квадрат эргодичен.
Доказательство.
Предположим сперва, что Т является слабсшеремешивающим. Что-
Чтобы доказать эргодичность преобразования Т, достаточно доказать,
что {т(Т~пА П В)} сходится (в смысле Чезаро) к т(А) ¦ т(В), ес-
если А и В — измеримые прямоугольники1 в X; здесь т, естествен-
естественно, означает квадрат меры гп, определенный в X. Если А = С х D
и В^ = F х G. где С. Z), F и G измеримые множества из X, то
fh(f~nA П В) = т{Т~пС П F) ¦ m(T~"D П G). Так как, по предположе-
предположению, m(T~nC C\F) сходится (в смысле сильной сходимости по Чезаро)
к тп(С) ¦ m{F) и аналогично m(T~nD П G) сходится (в том же смысле)
к m(D) • m(G) и так как т(А) = т(С) ¦ m(D), а т(В) = m(F) ¦ m(G),
то достаточно доказать следующую аналитическую лемму: если {ап}
и {Ьп} — ограниченные последовательности, сходящиеся (в смысле
сильной сходимости по Чезаро) к а и Ь соответственно, то апЬп схо-
сходится (по Чезаро) к ab. Это утверждение верно даже с запасом; в дей-
действительности anbn стремится к ab, по Чезаро, даже в сильном смыс-
смысле. Этот результат получается непосредственно с помощью описания
сильной сходимости по Чезаро в терминах сходимости вне некоторого
множества плотности нуль, с учетом того факта, что объединение двух
множеств плотности нуль есть снова множество плотности нуль.
Предположим теперь, что Т эргодично. Если / собственная
функция оператора U, скажем, Uf = cf, то положим /(ж, у) =
= f{x)f{y). Получаем тогда, что Uf = / и, так как Т эргодично,
что / — константа. Но тогда ясно, что / должно быть константой и. зна-
значит, с = 1.
Предположим, наконец, что Т имеет непрерывный спектр; требу-
требуется доказать, что Т является слабоперемешивающим. Это наиболее
глубокая часть всего доказательства. Я должен воспользоваться тео-
теоремой о спектральном разложении унитарных операторов и еще кое-
под измеримым прямоугольником понимается декартово произведение
двух измеримых множеств из X. — Прим. перев.

Перемешивание 55
каким вспомогательным аналитическим аппаратом. Заметим прежде
всего, что достаточно установить равенство
п-1
з=о
отсюда с помощью стандартного построения полярной билинейной фор-
формы по квадратичной получаем общий результат (т. е. с g вместо вто-
второго /). Если / равно некоторой константе с, то (?/¦?/, /) = |с|2
и (/, 1)A, /) = |с|2: таким образом, достаточно установить интересу-
интересующий нас результат при дополнительном условии (/, 1) = 0. Следую-
Следующее замечание состоит в том, что достаточно установить стремление
п-1
к пулю выражения =-t S \(Ц3' f, f)\2- (Это относится к элементарному
3=0
анализу: для ограниченных последовательностей сильная сходимость
по Чезаро равносильна квадратичной сильной сходимости по Чезаро.
Один из способов убедиться в этом состоит в описании этих сходи-
мостей в терминах множеств плотности нуль; прямое доказательство
также нетрудно построить.) Если Е — разложение единицы для опе-
оператора С/, то (U3 f. f)=l x3' d(E(x)f, fI. Так как, по условию, / ор-
ортогонально всем собственным функциям оператора U. то отсюда сле-
следует, что мера р. определенная для всех борелевских множеств М на
окружности равенством р(М) = (E(M)f, /), равна нулю для каждого
одноточечного множества. Другими словами, мера р неатомична. Под-
Подлежащее доказательству утверждение сводится теперь к следующему:
если р — неатомичная мера на окружности, то
п-1 .. 2
— У^ / х3 dp{x) —>• 0.
з=о J
Следующий шаг состоит в замене
\ f ¦ 2 f f-
I х3 dp(x) на / х3 dp(x) ¦ I y3 dp(y),
| f/ f/ t/
-^ этой формуле интеграл берется по единичной окружности в комплексной плос-
плоскости. — Прим. перев.

56 Перемешивание
сведении произведения интегралов к двойному интегралу и внесении
знака суммирования под интеграл. Тогда нужный нам результат при-
принимает вид
п-1
3=0
Из того, что мера р неатомична, следует, что диагональ тора (т. е. декар-
декартова произведения окружности на себя) имеет р хр-мсру пуль. Отсюда
следует, что подынтегральное выражение почти всюду равно
Теперь, поскольку это подынтегральное выражение стремится к нулю
почти всюду и поскольку оно ограничено (действительно, оно не превы-
превышает 1, что видно из его представления в виде суммы), доказательство
может быть завершено с помощью ссылки на теорему Лебега о предель-
предельном переходе под знаком интеграла в случае ограниченных сходящихся
последовательностей.

Алгебры с мерой
Эргодическую теорию можно излагать в трех различных аспек-
аспектах; их можно адекватно охарактеризовать словами алгебраический,
геометрический и аналитический. Геометрическому аспекту уделялось
до сих пор наибольшее внимание; ему отвечает рассмотрение преобра-
преобразований того или иного пространства с мерой. Аналитический аспект
также был упомянут: ему отвечает рассмотрение линейных операторов,
порождаемых преобразованием, в различных пространствах Lp. Алгеб-
Алгебраический аспект является, по моему мнению, самым ясным и наиболее
естественным; ему отвечает рассмотрение групп автоморфизмов неко-
некоторых определенных булевских алгебр.
Многие из трудностей теории меры и вся имеющаяся здесь пато-
патология возникают в связи с существованием множеств меры нуль. Ал-
Алгебраическая трактовка обходит все эти неприятности путем отказа от
рассмотрения отдельных множеств вообще; вместо этого рассматрива-
рассматриваются классы множеств, сравнимых по модулю множеств меры нуль1.
Предположим, для определенности, что X есть пространство с норми-
нормированной мерой т и В — совокупность всех классов эквивалентности
измеримых множеств, причем два измеримых множества Е и F назы-
называются эквивалентными в том и только в том случае, если их симмет-
симметрическая разность EAF имеет меру нуль. Множество В представляет
собой булевскую алгебру с обычными булевскими операциями. Дейст-
Действительно, если (Ei, E2) и (i*\, F2) пары эквивалентных между собой
множеств, то Е\ U -Р\ эквивалентно Е<± U F<z\ отсюда видно, что «соеди-
«соединение» двух классов эквивалентности однозначно определяется, если из
каждого класса выбрать по представителю и рассмотреть класс, содер-
содержащий соединение этих представителей. То же самое верно для пере-
пересечений и дополнений, и. поскольку мера сигма-аддитивна, это верно
и для счетных соединений и пересечений. Нулевым элементом булев-
булевской алгебры В является класс всех множеств меры нуль, единичным
'¦В связи с дальнейшими рассуждениями см. Халмош П. Р., Теория меры, ИЛ,
1953, стр. 44, упр. 3 и 4. — Прим. перев.

58 Алгебры с мерой
элементом — класс всех множеств меры 1. Поскольку из rn(EAF) = О
следует, что т(Е) = m(F), можно считать, что функция то определена
на В; она, очевидно, представляет собой некоторую меру, определенную
на В. Единственным элементом из В, имеющим меру нуль, является
пулевой элемент; аналогично, меру единица имеет только единичный
элемент. Структура типа (В, то), т.е. булевская сигма-алгебра со стро-
строго положительной нормированной мерой, называется алгеброй с мерой.
Алгебра с мерой представляет собой алгебраический эквивалент гео-
геометрического понятия пространства с мерой.
Сохраняющее меру преобразование Г пространства X порождает,
естественным образом, отображение В в себя. Образ какого-либо клас-
класса эквивалентности при этом отображении можно определить, выбрав
в нем некоторый представитель Е и рассмотрев класс эквивалентнос-
эквивалентности, содержащий Т~1Е; из того, что Т сохраняет меру, следует, что
класс, являющийся образом, определяется однозначно и имеет ту же
самую меру, что и исходный класс. Определенное таким образом со-
сохраняющее меру отображение алгебры В в себя мы обозначим Г.
Отображение Т сохраняет в В все булевские операции (в том чис-
числе и над счетными множествами элементов); оно представляет собой
изоморфное отображение алгебры В в (но не обязательно на) себя. Ото-
Отображение Т^1 будет автоморфизмом алгебры В в том и только в том
случае, когда преобразование Т обратимо.
Ряд понятий и результатов эргодической теории легко может быть
распространен на соответствующие отображения алгебр с мерой; фак-
фактически вся теория может быть изложена в этих рамках. Вместо того
чтобы поступать таким образом, я постараюсь воспользоваться пре-
преимуществами как той, так и другой точки зрения: в дальнейшем будут
применяться как алгебраическая, так и геометрическая концепции; вы-
выбор той или иной из них будет диктоваться каждый раз соображениями
удобства.
Если В — алгебра с мерой, отвечающая пространству с мерой X,
то каждое обратимое сохраняющее меру преобразование пространст-
пространства X порождает некоторый автоморфизм алгебры В. Обратно, можно
ли утверждать, что каждый автоморфизм алгебры порождается таким
образом? Ответ здесь, вообще говоря, отрицательный. Существуют та-
такие крайне патологические пространства с мерой, которые в некото-
некотором смысле абсолютно неизмеримы; одно из проявлений этой патологии
состоит в том, что в этих пространствах не существует такого коли-

Алгебры с мерой 59
чества сохраняющих меру преобразований, которое было бы достаточно
для того, чтобы породить все автоморфизмы соответствующей булев-
булевской алгебры. Поскольку можно считать, что множества меры нуль
не существенны не только с алгебраической, но также и с физической
точки зрения и поскольку каждая алгебра с мерой может быть реали-
реализована в виде алгебры, связанной с непатологическим пространством
с мерой, мы можем спокойно не принимать во внимание такого рода
бедные преобразованиями патологические пространства. Тот факт, что
алгебра с мерой может иметь больше автоморфизмов, чем существу-
существует преобразований в порождающем се пространстве с мерой, является
преимуществом этой алгебры, а отнюдь не недостатком.
Приведенные выше нравоучительные рассуждения можно несколь-
несколько конкретизировать, рассмотрев следующий вопрос: когда два обрати-
обратимых сохраняющих меру преобразования S и Т следует считать по су-
существу совпадающими? На этот вопрос имеются три возможных отве-
ответа. Если S и Т рассматриваются как преобразования пространства с ме-
мерой X, то точный ответ таков: S и Г различаются несущественно, если
существует обратимое сохраняющее меру преобразование Q простран-
пространства X, такое, что S = Q~1TQ; в этом случае S и Т называются (гео-
(геометрически) подобными. Если S иТ рассматриваются как автоморфиз-
автоморфизмы алгебры с мерой В. то точный ответ состоит в следующем: должен
существовать автоморфизм Q этой алгебры, такой, что S = Q~1TQ:
в этом случае S и Т называются (алгебраически) сопряженными. Если,
наконец, S и Т рассматриваются как унитарные операторы в гильбер-
гильбертовом пространстве Н, то точный ответ состоит в том, что в Н сущест-
существует такой унитарный оператор Q, что S = Q~lTQ, в этом случае S
и Т называются (спектрально) эквивалентными. Для дальнейшего по-
полезно отметить, что понятия подобия, сопряженности и эквивалентнос-
эквивалентности можно также определить и для таких пар преобразований, которые
действуют не обязательно в одном и том же пространстве; в этом слу-
случае (вспомогательное) преобразование Q должно отображать область
определения одного преобразования на область определения другого.
Очевидно, что из подобия вытекает сопряженность, а из сопряженнос-
сопряженности — эквивалентность. Утверждать обратное нельзя ни в первом, ни во
втором случае. Из эквивалентности не следует сопряженность в силу
одной интересной и веской алгебраической причины; мы сейчас рас-
рассмотрим существующее здесь положение. Подобие вытекает из сопря-
сопряженности во всех «порядочных» пространствах с мерой, но не вытекает

60 Алгебры с мерой
из нее в «непорядочных»; в силу этих соображений мы не будем уделять
внимания понятию подобия.
Я закончу этот раздел обсуждением связи между понятиями со-
сопряженности и эквивалентности. Пусть В алгебра с мерой, отве-
отвечающая некоторому пространству с мерой и т — соответствующая
мера. Если Т — автоморфизм алгебры 5, то порождаемый Т унитар-
унитарный оператор U в 7>2 сохраняет не только норму и линейную структуру
пространства L2. Дополнительные условия вытекают из того, что эле-
элементы пространства 7>2 являются не просто абстрактными векторами;
будучи функциями (или, точнее, классами эквивалентных между со-
собой функций), они обладают еще и мультипликативными свойствами.
Если мы для осторожности будем рассматривать лишь ограниченные
функции, то умножение не будет выводить нас за пределы L^ и уни-
унитарный оператор U будет сохранять произведение. Это условие на U
оказывается достаточным, так же как и необходимым, для того, чтобы
оператор U порождался некоторым автоморфизмом.
Теорема об умножении. Унитарный оператор V в Li порожда-
порождается некоторым автоморфизмом Т алгебры В в том и только в том
случае, когда как U, так и U~x переводят каждую ограниченную функ-
функцию снова в ограниченную и когда U(fg) = {Uf) • (Ug) для любых огра-
ограниченных функций f и g.
Доказательство.
Достаточно доказать, что если оператор U мультипликативен и со-
сохраняет ограниченность функций, то он порождается автоморфизмом.
Пусть / — характеристическая функция, отвечающая некоторому эле-
элементу F алгебры 5, тогда f2 = f и, следовательно, (UfJ = Uf. Отсюда
видно, что Uf также является характеристической функцией, отвеча-
отвечающей, скажем, элементу G. Если мы обозначим G через TF, то Г будет
представлять собой отображение алгебры В в себя. Из того, что U есть
отображение «па», следует, что и Т тоже представляет собой отобра-
отображение «на», а из того, что U не переводит в нуль никакое ненулевое
подпространство, вытекает, что если TF = 0, то F = 0. Доказательст-
Доказательство можно завершить, показав, что Т является сохраняющим меру сиг-
сигма-гомоморфизмом. То, что Т сохраняет меру, вытекает из сохранения
нормы оператором U; вспомним, что m(F) = ||/||2. Тот факт, что Г
переводит пересечение снова в пересечение, вытекает из мультиплика-
мультипликативности оператора U. Сохранение суммы при отображении Г следу-

Алгебры с мерой 61
ст из того, что если fug — характеристические функции множеств,
скажем, F и G, то характеристической функцией множества FLiG бу-
будет f + g — fg. Для доказательства сохранения счетного суммирования
нужно воспользоваться (после очевидного индуктивного рассуждения)
непрерывностью оператора U.
Соотношение между сопряженностью и эквивалентностью теперь
ясно. Если S и Т — автоморфизмы, то необходимое и достаточное усло-
условие их сопряженности состоит в том, чтобы они были эквивалентны
и чтобы унитарный оператор, осуществляющий эту эквивалентность,
можно было бы выбрать мультипликативным.

Дискретный спектр
Говорят, что преобразование Т имеет дискретный спектр (или чис-
чисто точечный спектр), если в Li существует базис (т.е. полная ортого-
ортогональная нормированная система функций) {fj}, каждый элемент кото-
которого является собственным вектором порожденного унитарного опера-
оператора U.
Теорема о дискретном спектре. Два эргодических преобразова-
преобразования, каждое из которых имеет дискретный спектр, сопряжены в том
и только в том случае, когда порожденные ими унитарные операторы
эквивалентны.
Доказательство.
Достаточно доказать, что из эквивалентности вытекает сопря-
сопряженность. Пусть S и Т — заданные эргодическис преобразования,
и пусть U и V порожденные ими унитарные операторы. Пусть С
множество всех собственных значений оператора U; так как U и V
эквивалентны, то С одновременно является и совокупностью всех соб-
собственных значений оператора V. Каждому с из С отвечает собственный
вектор /,, оператора U. Из теоремы о собственных значениях следует,
что |/с| = const; не умаляя общности, можно предположить, что |/е| = 1.
Из той же теоремы о собственных значениях следует (в силу эргодич-
эргодичности S), что /с определена однозначно, с точностью до постоянного
множителя, равного по модулю единице. Из того, что U имеет дис-
дискретный спектр, следует, что семейство {/,,} образует базис в L^.
Если о и & принадлежат С, то fafb — собственный вектор опе-
оператора U, отвечающий собственному значению ab; отсюда следует
существование такой константы г (а, Ь), равной по модулю единице,
что fafb = r(a, b)fab. Я утверждаю, что существует такое гомоморфное
отображение р группы всех функций, равных по модулю единице, на
группу вращений окружности, при котором каждая постоянная функ-
функция переходит в равную ей константу. Если бы рассматриваемые функ-
функции были бы действительно функциями, а не классами эквивалентных
между собой (т. е. совпадающих почти всюду) функций, то это утверж-
утверждение было бы тривиальным: такой гомоморфизм можно осуществить,

Дискретный спектр 63
поставив в соответствие каждой функции ее значение в определенной
точке. Однако, поскольку этот прием здесь не проходит, приходится
воспользоваться несколько более изощренной теоретико-групповой тех-
техникой. Допустим на минуту, что требуемый результат уже получен.
Если за = p(fa), то применение р к равенству, определяющему посто-
постоянный множитель г, показывает, что saSb = r(a, Ь)заь. Отсюда следует,
что если fc = life, то отображение, которое каждому с из С ставит
в соответствие функцию /е, является гомоморфизмом. Другими слова-
словами, мы можем, не уменьшая общности, считать, что /а/ь = /н,ь, каковы
бы ни были о и Ъ из С'. Аналогично для каждого с из С мы можем найти
такую функцию gc, модуль которой постоянен и равен единице, что gc
есть собственный вектор оператора V, отвечающий собственному зна-
значению с, причем семейство {gc} образует базис в Li и gagb = gab Для
любых а, Ь из С.
Теперь пришло время взяться за теоретико-групповую лемму, ис-
использованную в нашем доказательстве. Поскольку элементы группы
вращений окружности могут быть отождествлены с соответствующи-
соответствующими постоянными функциями и поскольку группа вращений окружнос-
окружности группа с неограниченным делением (т. е. из каждого элемента
этой группы может быть извлечен корень любой степени), паша лемма
может быть сформулирована следующим образом: если Н — некото-
некоторая абелева группа и К — ее подгруппа с неограниченным делением,
то К служит для Н ретрактом, т. е. существует такое гомоморфное ото-
отображение Н на К, которое на К является тождественным. (По поводу
этой леммы в иных контекстах см. А.Всйль, Интегрирование в топо-
топологических группах. ИЛ. 1950, стр. 108, или Kaplansky. Infinite abelian
groups, 1954, стр. 8).
Для доказательства упорядочим по продолжению ретракции на К
подгрупп группы Н, содержащих К, и воспользуемся затем леммой
Цорна1. Если р — максимальный элемент множества ретракций, то
1 Ретракцией группы Н на ее подгруппу К называется такое гомоморфное отобра-
отображение Н на К, при котором каждый элемент К переходит сам в себя. Подгруппа К
называется при этом ретрактом.
Приведем для удобства читателя лемму Порна (см. Люмис, Введение в абстракт-
абстрактный гармонический анализ, ИЛ, 1956 г., стр. 10).
Каждое частично упорядоченное множество А содержит максимальное линейно
упорядоченное подмножество. Если каждое линейно упорядоченное подм.ножество
из А обладает верхней границей в А, то А содержит максимальный элемент.
В данном случае элементами частично упорядоченного множества А являются
ретракции р на К подгрупп группы Н, содержащих К. Такие ретракции сущест-

64 Дискретный спектр
подгруппа L, на которой он определен, должна совпадать с Н. Дейст-
Действительно, пусть g ? Н — L, и пусть М — подгруппа, порожденная L
и g. Каждый элемент из М имеет вид hgi, где h ? L и j — целое. Если
никакая положительная степень элемента g не принадлежит L, то та-
такое представление единственно; если п — наименьшая положительная
степень, такая, что gn ? L, то существует единственное представление
указанного вида с 0 ^ j < п. В первом случае положим q(hg:>) = p(h),
во втором случае пусть go — корень степени п из p(gn) в К, тогда поло-
положим q(hgi) = p(h)gQ @ ^ j < п). В обоих случаях q представляет собой
ретракцию М на К; кроме того, q является продолжением ретракции р.
Это противоречит предположению о максимальности р.
Для завершения доказательства теоремы о дискретном спектре
рассмотрим унитарный оператор W такой, что Wgc = /с для всех с
из С. Я утверждаю, что оператор W мультипликативен, т.е. если g
и h ограниченные функции, то W(g- h) = W{g) • W{h). Если g = ga
и h = gb, где a, b ? С, то это вытекает из определения W и мульти-
мультипликативных свойств систем {/с} и {gc\- В силу линейности это рас-
распространяется на конечные линейные комбинации элементов gc. Пре-
Предельный переход (сперва при фиксированной ограниченной функции h,
а затем еще раз при фиксированной g) не представляет трудностей. Из
теоремы об умножении следует, что W порождается некоторым авто-
автоморфизмом алгебры с мерой. Доказательство завершается следующей
элементарной выкладкой: W~1UWgc = W~1Ufc = cW~1fc = cgc, от-
откуда видно, что W~1UW = V.
С помощью теоремы о дискретном спектре можно получить ответы
на все, пожалуй, вопросы, касающиеся эргодических преобразований
вуют, например, тождественное отображение К на себя. Ретракция pi: К\ —ъ К
считается большей ретракции рч : Кч —^ К, если подгруппа К\ содержит подгруп-
подгруппу К'2 и на К'2 ретракции pi и рг совпадают. При этом упорядочении всякое ли-
линейно упорядоченное подмножество в А имеет в А верхнюю грань. Действительно,
пусть {ра} линейно упорядоченное подмножество А; Ка соответствующие
подгруппы, тогда |J Ka в силу линейной упорядоченности подгрупп Ка по включе-
a
нию будет подгруппой Н, содержащей К.
Определим отображение р подгруппы {JKa на К следующим образом. Если
a
а 6 {JKn, то существует ао, такое, что а 6 Као\ тогда положим р(а) = рао(а).
а
Это отображение р(а), очевидно, не зависит от выбора «о и является гомоморфиз-
гомоморфизмом. При этом р(а) = а на К, т.е. р ретракция, большая всех ра. Отсюда, по лемме
Цорна, вытекает, что в нашем множестве ретракций существует максимальный эле-
элемент. — Прим. перев.

Дискретный спектр 65
с дискретным спектром; общий метод можно продемонстрировать на
следующем результате.
Теорема о представлении. Всякое эргодическое сохраняющее
меру преобразование с дискретным спектром сопряжено некоторому
преобразованию сдвига на компактной абелевой группе.
Доказательство.
Пусть С — спектр (т. е. совокупность всех собственных значений)
рассматриваемого преобразования, и пусть X группа характеров
группы С. Положим z(c) = с для каждого с из С, тогда z — эле-
элемент группы X. Сдвиг Т на X, определенный равенством Тх = zx,
представляет собой сохраняющее меру преобразование с чисто точеч-
точечным спектром, причем этот спектр совпадает с С. Дискретность спект-
спектра вытекает из свойств характеров группы X. Они образуют полную
ортогональную нормированную систему в пространстве L^ функций
на X, и, если /о один из этих характеров, то fo(zx) = fo(z) ¦ fo(x),
так что /0 есть собственнап функции, отвечающап собственному зна-
значению fo(z). Это рассуждение заодно показывает, что спектр преобра-
преобразования Т состоит из всех fo(z), причем каждое из этих собственных
значений имеет кратность, равную числу тех характеров / группы X,
для которых f(z) = fo(z). Если каждому с ? С поставить в соответ-
соответствие функцию /с, определенную на X равенством fc.(x) = ж(с), то это
соответствие будет изоморфным отображением С на группу характе-
характеров группы X. Так как fe[z) = с для всех с, то отсюда следует, как
и утверждалось, что спектр преобразования Т есть С. Поскольку это
же соотношение показывает, что каждый элемент из С имеет в спектре
преобразовании Т кратность единица, сдвиг Т эргодичен. Теперь уже
теорема о представлении непосредственно следует из теоремы о дис-
дискретном спектре.
Из теоремы о представлении и из ее доказательства вытекают не-
некоторые интересные следствия.
Следствие 1. Каждая подгруппа группы вращений окружности яв-
является спектром некоторого эргодического сохраняющего меру преобра-
преобразования с дискретным спектром.
Доказательство.
В конструкции, примененной в доказательстве теоремы о представ-
представлении, ничего, кроме спектра С, не использовалось.

66 Дискретный спектр
Следствие 2. Если Т — эргодическое сохраняющее меру преобра-
преобразование с дискретным спектром, то Т сопряжено произведению двух
инволюций (преобразование S называется инволюцией, если S2 тож-
тождественное преобразование).
Доказательство.
В силу теоремы о представлении я могу предполагать, что Т есть
сдвиг, скажем Тх = с.х, па некоторой компактной абелсвой группе X.
Если Ь ? X и Rx = ЬлГ1, то R есть инволюция; если Sx = RTx,
то Sx = bc~1x~11 так что S — тоже инволюция. Ясно, что Т = RS.
Доказательство закончено.
Следствие 3. Эргодическое сохраняющее меру преобразование с дис-
дискретным спектром сопряжено своему обратному.
Доказательство.
Это непосредственно вытекает из следствия 2; из доказательства
видно, кроме того, что это сопряжение может быть осуществлено с по-
помощью инволюции.
Простейшим примером сохраняющего меру преобразования явля-
является преобразование, определенное па чисто атомическом пространст-
пространстве. Рассмотрим, например, преобразование Тп = п+1, определенное на
дискретном пространстве целых чисел. Если Рп = 1 — п и Qn = —п.
то Т = PQ. Написанные здесь равенства сохраняют смысл и в том слу-
случае, если в них целые числа заменить вычетами по некоторому цело-
целочисленному модулю, поэтому каждая циклическая (т.е. эргодическая!)
перестановка конечного числа точек является произведением двух ин-
инволюций. Поскольку каждая конечная перестановка может быть раз-
разложена на независимые циклы, этот результат остается верным для
всех (т. е. не обязательно эргодических) конечных перестановок. Отсю-
Отсюда следует, что каждая конечная псрсстаповка подобна своей обратной.
Этот последний факт ясен и из других соображений: каждый класс
подобных между собой перестановок определяется набором чисел, ука-
указывающих количества циклов заданной длины, входящих в разложение
перестановки, следовательно, подобие перестановки своей обратной вы-
вытекает из того, что каждая перестановка имеет разложение на циклы
того же типа, что и обратная к ней. Я останавливаюсь на этих эле-
элементарных фактах потому, что они представляют собой дискретный
костяк, на который опираются относящиеся к непрерывному случаю

Дискретный спектр 67
обобщения, полученные выше как следствия из теоремы о представле-
представлении.
В каком случае из сохраняющего меру преобразования Т можно
извлечь квадратный корень, т.е. когда существует такое сохраняющее
меру преобразование S, что S2 = Т? Поскольку единственная решенная
часть этой задачи относится к преобразованиям с дискретным спект-
спектром, уместно именно сейчас изложить это решение.
Теорема о квадратном корне. Пусть Т эргодическое сохра-
сохраняющее меру преобразование с дискретным спектром, определенное на
пространстве с конечной мерой; оно сопряжено квадрату некоторого
преобразования в том и только в том случае, когда число —1 не явля-
является его собственным значением.
Доказательство необходимости (в этой части доказательства
дискретность спектра не используется). Заметим сперва, что каждое
множество (или функция), инвариантное относительно S, автоматичес-
автоматически инвариантно и относительно S2. Поэтому достаточно доказать, что
если S эргодическое преобразование, квадрат которого тоже эргоди-
чен, и если / — такая функция из h^, что f(S2x) = —f(x), то f = 0.
Поскольку / по модулю постоянна, /2 ? L2 и из инвариантности /2
относительно S2 вытекает, что /2 постоянна почти всюду.
Положим g{x) = f(Sx). Так как g{S2x) = —g(x), то по теореме
о собственных значениях g(x) = cf(x), где с некоторая константа,
т.е. f{Sx) = cf(x). Отсюда следует, что f(S2x) = c2f(x) и, значит,
с2 = —1. Так как f(Sx) = cf(x), то, не теряя общности, можно поло-
положить с = г. Из того, что собственные векторы, отвечающие различным
собственным значениям, взаимно ортогональны, следует, что / ортого-
ортогонально /, т.е. / J2(x)dx = 0. Так как f2 = const, то доказательство
закончено.
Доказательство достаточности. Пусть С спектр преобразова-
преобразования Т. Пусть С* — максимальная подгруппа группы вращений окруж-
окружности, содержащая С и не содержащая —I1. Я утверждаю, что операция
возведения в квадрат является на С* автоморфизмом. Тот факт, что
это отображение является гомоморфизмом, очевиден: то, что ядро это-
этого гомоморфизма тривиально, следует из того, что С* не содержит —1.
¦'¦Существование С* можно доказать, воспользовавшись леммой Цорна. — Прим.
перев.

68 Дискретный спектр
Остается доказать, что возведение в квадрат представляет собой ото-
отображение С* на все С*. Если бы это было не так, то в С* нашелся
бы элемент, скажем о, квадратный корень из которого не принадле-
принадлежал бы С*. Пусть Ь — квадратный корень из а (в группе вращений
окружности) м D — группа, порожденная С* и Ь. Из максимальности
подгруппы С* следует, что —1 ? D; это означает, что cbn = — 1 при
некотором с ? С* и некотором целом п. Так как Ъ2 принадлежит С*,
а —1 пс принадлежит, то показатель п должен быть нечетным, ска-
скажем п = Ik + 1. Поскольку cb2k+1 = cakb, получаем, что Ъ = —1/сак
и, следовательно (возведя в квадрат), что а = A/сакJ. Это противоре-
противоречит предположению, согласно которому в С* не существует квадрат-
квадратного корпя из о; таким образом, доказано, что возведение в квадрат
действительно является автоморфизмом для С*. Пусть и — обратный
к нему автоморфизм. Этот автоморфизм и, рассматриваемый как функ-
функция на С. со значениями на единичной окружности представляет собой
характер группы С, обладающий тем свойством, что (м(с)J = с для
всех с ? С. Если X — группа характеров группы Сиг — элемент
из X, определенный условием z(c) = с для всех с, то, как мы уже зна-
знаем (из теоремы о представлении), Т сопряжено сдвигу S, относящему
каждому х G X элемент zx. Сдвиг, переводящий х в их, является квад-
квадратным корнем из S: доказательство теоремы закончено.
Сформулированное условие является достаточным и без предполо-
предположения эргодичности Т (Amer. J. of Math., 1942, стр. 159), но это не
представляет интереса.

Автоморфизмы компактных групп
Одна из выдающихся проблем эргодической теории состоит в том,
чтобы выяснить, в какой мере результаты, полученные для преобра-
преобразований с дискретным спектром, остаются в силе, если дискретность
спектра не предполагается. Все, что можно сделать в данный момент,
это указать довольно скудный запас относящихся сюда примеров.
Для того чтобы рассмотреть самый известный пример преобразо-
преобразования с непрерывным спектром, я начну с одного замечания, относя-
относящегося к полным ортогональным нормированным системам в L2. Ес-
Если {/,} — такая система функций на пространстве с мерой X, a {gj} —
такая же система функций на пространстве с мерой Y и если функ-
функции hij определены на декартовом произведении Z пространств X и Y
формулой hij{x, у) = fi{x)gj(y), то {hij} — полная нормированная сис-
система функций на Z. Этот результат непосредственно распространяется
на случай произведения любого конечного числа пространств. В извест-
известном смысле этот результат распространяется и на случай бесконечного
члена сомножителей. Чтобы получить базис в пространстве L2, постро-
построенном на произведении бесконечного числа пространств, в каждом из
которых введена нормированная мера, нужно выбрать по базису (со-
(содержащему постоянную функцию, равную 1) в пространствах L2, от-
отвечающих каждому из этих сомножителей, и составить всевозможные
конечные произведения элементов этих базисов.
Пусть X(i — пространство, состоящее из точек —1 и 1 (каждая из
этих точек имеет меру 1/2), тогда базис в соответствующем простран-
пространстве L2 можно составить из константы 1 и тождественной функции ж0,
определяемой равенством х§(х) = х. Отсюда и из сделанных выше заме-
замечаний о базисе в произведении пространств сразу видно, как построить
базис, скажем, в пространстве X двусторонних последовательностей
чисел —1 и 1. (До сих пор мы рассматривали последовательности из
нулей и единиц. Разница здесь только в обозначениях.) Если хп озна-
означает, при каждом целом п. функцию, равную п-й координате точки
из X, то базис в пространстве L2 функций на X состоит из всевоз-
всевозможных конечных произведений функций хп; константа 1 может быть

70 Автоморфизмы колтактных групп
включена в эту схему, если рассматривать ее как произведение пустого
множества сомножителей.
Предположим теперь, что Т — двусторонний сдвиг в пространст-
пространстве X, a U — порожденный им унитарный оператор. Два элемента толь-
только что описанного базиса, составленного из конечных произведений, на-
назовем [/-эквивалентными, если какая-либо целая степень оператора U
переводит один из них в другой. Функция 1 составляет свой собствен-
собственный класс [/-эквивалентности; остальные элементы базиса распадают-
распадаются на счетное число классов [/-эквивалентности, каждый из которых
бесконечен. Каждый из этих классов находится очевидным образом во
взаимно-однозначном соответствии с множеством всех целых чисел;
действие оператора U в таком классе состоит в том, что он перево-
переводит элемент, отвечающий числу п, в элемент, отвечающий числу п, + 1.
Следовательно, в терминах гильбертова пространства (т.е. с точнос-
точностью до спектральной, или унитарной, эквивалентности) оператор U
может быть описан так: существует такой базис, состоящий из век-
вектора /о и бесконечной матрицы векторов f(i, j), где i = 1,2,3....
и j = 0, ±1, ±2, ..., что Ufo = /о и Uf(i, j) = f(i, j + 1) при всех i
и j. Описанная здесь ситуация встречается достаточно часто, чтобы
для пес придумать специальное краткое название. Если для унитарно-
унитарного оператора U существует базис, который ведет себя как это описано
выше, с той лишь разницей, что мощность множества {i} возможных
значений первого индекса может быть иной, и если эта мощность рав-
равна (конечному или бесконечному) п, то я буду говорить, что U имеет
тип п. На этом языке двусторонний сдвиг следует назвать оператором
типа алеф-нуль.
Если Хо — произвольное пространство с нормированной мерой, то
не представляет труда построить пространство X двусторонних после-
последовательностей {хп}, где хп ? Хо, п = 0, ±1, ±2, ..., и определить
декартово произведение мер в X. После этого можно определить в X
двусторонний сдвиг; техника, с помощью которой было установлено,
что это преобразование является эргодическим (фактически перемеши-
перемешивающим в сильном смысле) в случае двухточечного Хот позволяет полу-
получить те же самые результаты и для рассматриваемого общего случая.
Если Хо не слишком велико (точнее говоря, если Хо сепарабельно или.
что эквивалентно, если пространство Ьг над Хо сспарабслыю), то соот-
соответствующий обобщенный сдвиг имеет спектральный тип алеф-нуль.
(Ситуация не слишком отличается и в случае несепарабельного Xq; ме-

Автоморфизмы компактных групп 71
няется лишь мощность, отвечающая спектральному типу.) В частнос-
частности, сдвиг троичных и сдвиг двоичных последовательностей имеют один
и тот же тип. Выражаясь более обычным языком, эти два преобразо-
преобразования эквивалентны. Являются ли они сопряженными или нет — это
одна из самых волнующих нерешенных проблем эргодической теории1.
Если Хо = {—1, 1}, то Хо — мультипликативная абелева груп-
группа. Введем в Хо дискретную топологию, что превратит Хо в компакт-
компактную абелсву группу, и образуем декартово произведение X счетного
числа экземпляров группы Хо. Компактная абелева группа X может
быть отождествлена с пространством двусторонних двоичных последо-
последовательностей. С теоретико-групповой точки зрения сдвиг в этом про-
пространстве обладает следующим важным свойством: он представляет
собой непрерывный автоморфизм группы X. Обобщенные сдвиги так-
также могут быть отождествлены аналогичным образом с непрерывными
автоморфизмами определенных компактных абелевых групп. Тот факт,
что все они имеют, при соответствующих предположениях счетности,
тип алеф-пуль, является частным случаем теоремы, которая будет до-
доказана немного позже.
Предположим, что X компактная абелева группа, и пусть С
ее группа характеров. Известно, что если Т — непрерывный автомор-
автоморфизм группы X, то Т — сохраняющее меру преобразование на X (по
отношению к мерс Хаара). Пусть U — унитарный оператор, порожден-
порожденный Т. Легко проверить, что если / ? С, то Uf ? С и, более того,
отображение U, рассматриваемое на С. является автоморфизмом груп-
группы С. В частности, если / ? С, то имеет смысл говорить о траектории
элемента / (относительно преобразования [/); под этим понимается,
конечно, совокупность всех характеров вида U"}'¦ где п — целое. Ес-
Если / — единичный характер, то его траектория состоит только из него
самого. Если U не имеет других конечных траекторий, то я буду го-
говорить, для краткости, просто, что U не имеет конечных траекторий.
Теорема об автоморфизмах. Если непрерывный автоморфизм Т
компактной абелевой группы X эргодичен, то порожденный им авто-
автоморфизм U группы характеров С не имеет конечных траекторий. Ес-
Если U не имеет конечных траекторий, тоТ имеет стандартный тип п
[где п конечно или бесконечно) и, следовательно, пвлпетсп перемеши-
перемешивающим в сильном смысле.
1 Отрицательное решение этой проблемы было получено А.Н.Колмогоровым.
См. добавление переводчика, стр. 140-143. — Прим. перев.

72 Автоморфизмы колтактных групп
Доказательство.
Предположим, что траектория (относительно U) некоторого / ? С
(/ ф 1) конечна, и пусть п — наименьшее целое положительное чис-
число, для которого Unf = f. Тогда траектория элемента / состоит
из /, Uf, ..., f/"/; если g — сумма всех этих функций, то Ug = g.
Так как характеры попарно ортогональны и, следовательно, линейно
независимы, то g отлично от постоянной и Г псэргодичпо.
Предположим теперь, что U не имеет конечных траекторий. Из
того, что характеры группы X образуют базис в соответствующем L,2,
следует, что Г имеет тип п при некотором п; остается показать, что
преобразование такого типа обязательно является перемешивающим.
Это — в чистом виде лемма о гильбертовом пространстве. Рассмотрев
по отдельности каждую из строк матрицы базисных векторов /(г. j)
и вспомнив функциональную форму определения сильного перемеши-
перемешивания, мы сведем нашу задачу к следующей: если {/j} — базис в гиль-
гильбертовом пространстве, j = 0, ±1, ±2, ... и если U такой унитарный
оператор, что Ufj = fj+i, то Un слабо стремится к 0, т.е. (Unf, g) —> О
при любых / и g. Достаточно доказать это утверждение для того слу-
случая, когда оба вектора / и g — базисные; общий случай получается от-
отсюда сразу с помощью обычных соображений линейности и непрерыв-
непрерывности. Но указанный частный случай тривиален: если / = fj и g = ff.,
то {Unf, g) = {fj+n- fk) и, следовательно, {Unf. g) = 0 при всех доста-
достаточно больших п.
Из доказанной теоремы непосредственно вытекает, что для непре-
непрерывных автоморфизмов компактных абелевых групп эргодичность рав-
равносильна перемешиванию. Эта теорема была обобщена на некоммута-
некоммутативные группы, см. Kaplansky, Can. J. of Math., 1949, стр. 111.
Верна более сильная формулировка этой теоремы; с помощью чисто
теоретико-групповых соображений я доказал в свое время, что карди-
кардинальное число п должно быть обязательно бесконечным (Bull. Amer.
Math. Soc, 1943, стр. 621). (Вообще вопрос о существовании сохраня-
сохраняющих меру преобразований конечного типа остается открытым.) Во
многих частных случаях тот факт, что п бесконечно, усматривается
непосредственно: общий случай выглядит следующим образом.
Теорема о бесконечной кратности. Если автоморфизм U не-
некоторой абелееой группы С имеет только бесконечные траектории, за

Автоморфизмы компактных групп 73
исключением тривиальной траектории {1}, то число этих траекторий
бесконечно {предполагается, что С ф {1})-
Доказательство.
Предположим, что число траекторий конечно. Случай I: С име-
имеет конечное число образующих. Из основной теоремы об абелевых
группах следует, что тогда С имеет лишь конечное число элемен-
элементов конечного порядка. Поскольку все элементы, принадлежащие од-
одной и той же траектории, имеют одинаковый порядок, отсюда следу-
следует, что С — группа без кручения, а тогда в С должны содержаться
элементы любой высоты. (Высотой элемента / называется наиболь-
наибольшее из чисел п, таких, что / = gn при каком-либо g ? С.) Поскольку
вес элементы одной и той же траектории имеют одинаковую высоту,
получаем, что число траекторий должно быть бесконечно, — проти-
противоречие. Случай II: С произвольна. Достаточно доказать, что С со-
содержит нетривиальную подгруппу, имеющую конечное число образу-
образующих и инвариантную относительно U и U~1. Если / е С, / / 1,
то должны существовать два формально различных члена поелсдова-
П UJ f ? , принадлежащих одной и той же траектории,
i=o '
п / т \ т
скажем J] W f = Uk f \[ U^fj = П U^+k f. Сократив формально оди-
j=o \j=o ' J=o
паковые члены, я получу соотношение вида (Upf±x)... (IIяf±1) = 1,
где р < ... < q. Отсюда следует, что подгруппа, порожденная элемен-
элементами Upf, Up+1f, .... U"f, инвариантна относительно U и С/. (Это
изящное доказательство проще, чем мое первоначальное; оно принадле-
принадлежит В. А. Рохлину, Известия АН СССР, 1949, стр. 329.)
Рассмотрим важный частный случай теоремы об автоморфиз-
автоморфизмах, приняв за группу X тор. Мы уже знаем, что всякий авто-
автоморфизм Т тора X определяется унимодулярной матрицей ("^)
по формуле Т(и, v) = (и""иь, ucvd). Каждый характер группы X
имеет вид f(u, v) = unvm, где пит — целые. Отсюда следу-
следует, что {//(и, v) = f(T(u, v)) = uan+<"mvbn+dm^ Так что U действует
на группу характеров С группы X (т.е. на плоскую целочислен-
целочисленную решетку), как транспонированная матрица М = (?^)- Из чис-
чисто алгебраических соображений вытекает, что U не имеет конеч-
конечных траекторий в том и только в том случае, если среди собст-
собственных значений матрицы М нет корней из единицы. (Доказатель-

74 Автоморфизмы колтактных групп
ство. Пусть траектория точки (п., т) относительно М конечна, ска-
скажем Мк(п. т) = (п, т). Обозначив через q корень степени к из еди-
единицы, заметим, что qk~1(n. т) + qk~2M(n, т) + ... + Мк~1(п. т) —
комплексный собственный вектор матрицы М, отвечающий собствен-
собственному значению q. Обратно, если q является собственным значением
для М, то Мк — 1 — вырожденное линейное преобразование вектор-
векторного пространства над полем рациональных чисел; отсюда следует, что
существует ненулевая точка (п, т). траектория которой относитель-
относительно М конечна.) Эти замечания дают возможность написать сколь-
сколько угодно перемешивающих преобразований на торе. Одним из них
будет преобразование Т(и, v) = (uv, и), или. в действительной запи-
записи, Т(х, у) = (х + у, х) (mod 1).
Другой пример получится, если за X принять (мультипликатив-
(мультипликативно записанную) группу характеров аддитивной группы рациональных
чисел (или, в качестве слегка видоизмененного примера, двоичных ра-
рациональных дробей); для этой группы операция возведения в квадрат
является перемешивающим автоморфизмом.
Различные получающиеся таким образом примеры не могут ре-
решить вопроса о соотношении между эквивалентностью и сопряженнос-
сопряженностью для случая непрерывного спектра. Все они (т.е. эти примеры) эк-
эквивалентны между собой (если на группы наложены соответствующие
условия счетности), но едва ли сопряжены друг другу. Однако, посколь-
поскольку их принадлежность к различным классам сопряженности не доказа-
доказана, вопрос остается открытым1.
Следует отмстить, что, хотя применительно к автоморфизмам
групп в нашем распоряжении и нет такого инструмента, как теоре-
теорема о представлении для преобразований с дискретным спектром, не-
некоторые следствия этой теоремы справедливы для одного интересного
класса таких автоморфизмов, а именно для сдвигов.
Рассмотрим пространство двусторонних последовательностей, со-
состоящих из элементов некоторого пространства X с нормированной ме-
мерой, и пусть Г — двусторонний сдвиг в этом пространстве. Если преоб-
преобразования Р и Q определить формулами (Рх)п = х-п и {Qx)n = Х\-п
соответственно, то PQ = Т. так что всякий сдвиг есть произведение
двух инволюций (и, следовательно, каждый сдвиг подобен своему об-
обратному).
хСм. примечание переводчика на стр. 71. — Прим. перев.

Автоморфизмы компактных групп 75
Обозначим через Тх сдвиг в пространстве двусторонних после-
последовательностей элементов из X. Ясно, что если пространства X и Y
метрически изоморфны, т.е. если существует обратимое сохраняю-
сохраняющее меру преобразование, отображающее X на Y, то Тх и Ту —
подобные преобразования. Заметим далее, что естественным образом
можно установить подобие между декартовым произведением двух
сдвигов и сдвигом в пространстве последовательностей, составленных
из элементов декартова произведения соответствующих пространств,
т.е. что Тх х Ту подобно Тхху- Заметим, наконец, что квадрат сдвига
подобен его декартову квадрату, т.е. что Тх подобно Тх х Тх- Из этих
замечаний следует, что если, например, X состоит из 9 точек, каж-
каждая из которых имеет меру У9, то существует квадратный корень из Т
и он подобен сдвигу в пространстве последовательностей, построенных
из элементов 3-точечного пространства, каждая точка которого имеет
меру Уз- Отсюда вытекает также, поскольку единичный интервал мет-
метрически изоморфен единичному квадрату, что если X — единичный
интервал, то квадратный корень из Тх существует и подобен само-
самому Тх.

Обобщенные собственные значения
Пусть Т — обратимое сохраняющее меру преобразование про-
пространства X с нормированной мерой. Я собираюсь рассмотреть неко-
некоторые классы функций, связанные с Т, и некоторый метод построения
новых классов из старых. Интересующие нас классы состоят из изме-
измеримых функций, равных по абсолютной величине единице. Если G —
один из таких классов, то под G' мы будем понимать класс всех таких
функций / (измеримых и равных по абсолютной величине 1), для каж-
каждой из которых существует такая функция g ? G, что f(Tx) = g(x)f(x)
почти всюду. Другими словами, элементы из G" можно рассматривать
как собственные векторы, отвечающие обобщенным собственным зна-
значениям; эти собственные значения вместо того, чтобы быть констан-
константами, являются теперь элементами класса G. Полезно отмстить, хотя
это и очевидно, что если Н С G, то Н' С G'.
Пусть G\ — множество всех постоянных функций (по абсолютной
величине равных 1): определим Gn по индукции, положив Gn+i = G'u,
п = 1, 2, 3, .... В частности, элементы из Gi — это собственные функ-
функции; если мы предположим (что мы и сделаем, начиная с этого момен-
момента), что Т эргодично, то Gi будет содержать все собственные функ-
функции преобразования Т с точностью до постоянного множителя. Если f
постоянна, то f(Tx) = 1 • /(ж); так как 1 ? Gi, то отсюда следует,
что / ? Gii так что G\ С (?2- Отсюда по индукции видим, что после-
последовательность {Gn\ — возрастающая. Отмечу попутно, что каждый
класс Gn представляет собой мультипликативную группу и инвариан-
инвариантен относительно Г (т.е. Uf G Gn в том и только в том случае, ес-
если / ? Gn, где U, разумеется, унитарный оператор, порожденный Т);
доказательство этих фактов также легко получить с помощью индук-
индукции.
Если оказывается, что Gn = Gn+\, то Gn = Gn+k для всех к. Обо-
Обозначим п(Т) наименьшее целое положительное значение п, при котором
имеет место указанное равенство; при этом не исключена возможность,
что п(Т) окажется бесконечным. Во всяком случае, п(Т) остается, оче-
очевидно, инвариантным при переходе от Т к преобразованию с ним сопря-

Обобщенные собственные значения 77
женному. т. е. если Т и S сопряжены, то п(Т) = n(S). Я докажу сущест-
существование эквивалентных, но не сопряженных между собой преобразова-
преобразований, указав два эквивалентных между собой преобразования S и Т, для
которых n(S) ф п(Т). Заметим, что равенство п(Т) = 1 представляет
собой характеристику преобразований с непрерывным спектром.
Чтобы показать технику вычисления п(Т), предположим, что X —
окружность и В, — эргодическое вращение: В.х = сх. Класс (?2 состоит
из всех собственных функций преобразования R, т.е. из всех функ-
функций gm = xm, гп = О, ±1, ±2, .... и их произведений на константы.
Пусть / G G$. так что Uf = bgmf при некотором целом те и некото-
некоторой константе Ь, равной по абсолютной величине единице. Разложим /
в ряд Фурье: / = Y, angn; так как Uf = X) ancngn и bgmf = Y, an-mbgn,
то an-mb = ancn. Так как отсюда следует, что |ата_т| = \ап\ для всех п,
то гп = 0; иначе должно было бы быть ап = 0 для всех п. что противо-
противоречит условию |/| = 1. (Вспомним, что ряд Y \ап\2 должен сходиться.)
Однако если то = 0, то / — обычный собственный вектор операто-
оператора U, так что / ? С?2- Мы доказали, что G$ = G2 и, следовательно,
что n(R) = 2.
Преобразования S и Т, составляющие упомянутый выше контрпри-
контрпример, определяются следующим образом. В качестве пространства X бе-
берется тор. Пусть с— комплексное число, равное по абсолютной величи-
величине 1, но не являющееся корнем из 1, и пусть Q — перемешивающее пре-
преобразование типа алеф-нуль на окружности. Положим S(x, у) = (сх, су)
и Т(х, у) = (ex. Qy). Я покажу, что S и Т эквивалентны, но n(S) = 3,
а п(Т) = 2. Символами U и V мы обозначим унитарные операторы,
порожденные S и Г соответственно.
Положим gn,m(x, у) = хпут, п,т = 0, ±1, ±2, ...: функции gn>m
образуют полную ортогональную нормированную систему в Ьг. Так
как Ugn,m = cngn+m,m, то функция gn,o является собственной, отвеча-
отвечающей собственному значению с11, а функции gn,m при т ф 0 операто-
оператором U преобразуются друг в друга и умножаются при этом на опреде-
определенные постоянные числа. Я хочу избавиться от этих постоянных мно-
множителей. Иначе ГОВОрП, Я ХОЧу ПОЛОЖИТЬ /„,„, = 0,n,mSn,mt гДе ап,т
постоянные, равные по абсолютной величине 1 при всех т ф 0, и сде-
сделать это так, что Ufntm = fn+m.m при гп ф 0. Это требование налагает
на константы ап,т известные ограничения; более детальное рассмотре-
рассмотрение вопроса показывает, что этим условиям можно удовлетворить с по-
помощью некоторого индуктивного построения. Им можно удовлетворить

78 Обобщенные собственные значения
также и с помощью явной формулы: выберем Ьт так, что Ь^ь = с, и по-
положим ап^т = Ьт~ ¦ Окончательный результат можно, после неко-
некоторых очевидных изменений в обозначениях, сформулировать следую-
следующим образом. Существует полная ортогональная нормированная систе-
система, состоящая из последовательности {hn} и двойной последовательнос-
последовательности \hi,j}t таких, что hn — собственный вектор, отвечающий собствен-
собственному значению сп, a ht,j преобразуется в /i»+i,j, где i = 0, ±1, ±2, ...
и j = 1, 2, 3, Это полностью характеризует спектральную струк-
структуру преобразования S.
Перейдем теперь к вычислению n(S). Каждая функция из G% от-
отличается лишь постоянным множителем от хт, поэтому если f ^ Gz,
то f(cx, ху) = bxmf(x, у) при некотором целом т и некоторой кон-
константе Ь. такой, что \Ь\ = 1. При каждом фиксированном х функ-
функция /(ж, у) может быть разложена по у в ряд Фурье, коэффициен-
коэффициенты которого являются измеримыми функциями от х. Если /(ж, у) =
= E/n(»)i/n, то/(car, cy)=j:fn(cx)xnynnbxmf(x, y)=Ebfn(z)xmyn
так что /„(еж) = bxm~ufn(x). Из наших вычислений значения n,(R) для
эргодического вращения R вытекает, что единственная ненулевая воз-
возможность здесь — это п = т, и тогда функция fm сама должна быть
собственной функцией для В,. Отсюда следует, что f(x, у) должна отли-
отличаться лишь постоянным множителем от хкут при некотором к. Три-
Тривиальным образом проверяется обратное, т. е. если / имеет указанный
вид, то / G Gz- Отсюда, в частности, следует, что n(S) ^ 3.
Если / G C?4i то f(cx, су) = bxkymf(x, у). Воспользуемся та-
такими же разложениями, как и выше. Если f(x, у) = ^fn{x)yn^
ТО /(СЖ, Су) = Y, fn{cx)xnyn И bxkymf{x, у) = Y,bfn-ra{x)xkyn, ТЭК,
что fn(cx)xn = bfn-m(x)xk. Беря нормы правой и левой частей,
получим, что ||/„|| = ||/n-m|| Для всех п. Поскольку ряд 211/п||2
сходится, это возможно лишь при т = 0. Далее, если т = 0,
то fn(cx) = Ъхк~пfn(x); как и раньше, отсюда следует, что единствен-
единственная возможность, не приводящая к тождественному нулю, это п = к,
и тогда fk(x) должна равняться константе, умноженной на некоторую
степень ж. Отсюда в свою очередь следует, что / ? G^', мы доказали,
что G4 = Gz- следовательно n{S) = 3.
Ситуация для Г аналогична. Пусть W — унитарный оператор,
порожденный вспомогательным перемешивающим преобразованием Q
типа алеф-нуль. Пусть {gn,m} — ортогональная нормированная сие-

Обобщенные собственные значения 79
тема функций на окружности (п = 0, ±1, ±2, ...; т = 1, 2, 3, ...)
такая, что вместе с постоянной функцией 1 она образует базис, при-
причем Wgn,m = gn+l,m- ПОЛОЖИМ fln(x, у) = Х,п И Рк,п,т(х,У) =
= xkgn,m(y)- Ясно, что Vhn = cnhn и Vpk,n,m = сАрл,n+i,т- Изба-
вимся от множителя с}', так же как это мы сделали выше, в случае опе-
оператора U. Эффективно это можно сделать, положив qk.n.m = cnkPk,n,m,
откуда Vqk,n,m = <ft,«+i,m- Множество всех пар (к, те) счетно, поэтому
все эти пары можно перенумеровать целыми положительными числа-
числами j. Если мы обозначим qk,i,m через /ij.j (для пары (к, т), имеющей
номер j), то получим Vhij = hi+ij; тем самым доказательство экви-
эквивалентности операторов U и V завершено.
Чтобы доказать, что п(Т) = 2, предположим, что / принадлежит
классу (?з Для Г, т.е. что /(еж, Qy) = bxhf(x, у) при некотором це-
целом к и некоторой константе Ь, равной по абсолютной величине 1. Раз-
Разложим /(ж, у) как функцию от у в ряд по gn,m- Если
/(ж, у) =/оИ"
то
/(еж, Qy) = /о(еж) + ^ fn-i,m{cx)gn,m{y)
и
bxkf(x, у) = bxkf0(x) + ^2bxkfn,m(x)gn:Tn(y).
Отсюда вытекает, что /о(еж) = bxkfo(x) и, следовательно, /о представ-
представляет собой константу, умноженную па некоторую степень ж. Отсюда
следует также, что fn-i.m{<'x) = bxkfn,m(x). Переходя к нормам, по-
получаем, как и выше, что fn^m = 0 для всех п и те. Отсюда следует,
что /(ж, у) = /о(ж) и, следовательно, / G G-2- Доказательство законче-
закончено.
Полученный результат является весьма частным. Теперь мы, ра-
разумеется, знаем, что из эквивалентности не вытекает сопряженность.
Однако, поскольку эквивалентные между собой преобразованип S и Т
имеют смешанный спектр (не дискретный и не непрерывный), мы
не знаем ни того, следует ли из эквивалентности сопряженность для
преобразований с непрерывным спектром, ни, в частности, того, бу-
будут ли сопряжены друг другу два перемешивающих преобразования
типа алеф-пуль1. Вопрос все еще остается открытым. Однако и при-
пример со смешанным спектром имеет определенную ценность: сам метод
1См. примечание переводчика на стр. 71. — Прим. перев.

80 Обобщенные собственные значения
(т. с. построение обобщенных собственных значений и обобщенных соб-
собственных функций) представляет интерес независимо от того частного
результата, для получения которого он был развит. У меня, например,
сложилось впечатление, что обобщенные собственные значения могли
бы дать в спектральной теории кое-что новое.
Преобразование S является частным случаем того, что Апдзаи на-
назвал косым произведением (Anzai, Osaka J., 1951, стр. 83); используя
такого рода косые произведения, Андзаи построил сохраняющее меру
преобразование, не сопряженное своему обратному.

Слабая топология
В каком смысле можно говорить о сходимости последовательности
сохраняющих меру преобразований к какому-либо сохраняющему ме-
меру преобразованию? Другими словами, какие представляющие интерес
топологии можно ввести в множество всех сохраняющих меру преобра-
преобразований некоторого пространства с мерой? Их существует несколько,
различной ценности; я перехожу к рассмотрению одной из самых пло-
плодотворных.
Необходимо сделать некоторые предварительные замечания.
Во-первых, ограничим дальнейшее рассмотрение обратимыми сохраня-
сохраняющими меру преобразованиями; таким образом, множество, подлежа-
подлежащее топологизации, представляет собой группу. Во-вторых, будем, как
обычно, отождествлять два сохраняющих меру преобразования, если
они отличаются лишь на некотором множестве меры нуль; поэтому ра-
разумно сосредоточить внимание не па группе обратимых, сохраняющих
меру преобразований пространства с мерой, а на группе автоморфизмов
алгебры с мерой В, связанной с X. Наконец (это наименее важно), мы
будем предполагать, что основное пространство с мерой X есть единич-
единичный интервал. Это предположение вовсе не столь ограничительно, как
это кажется. Алгебра с мерой, отвечающая интервалу, нормирована,
неатомична и сепарабельна. Известно, что любые две алгебры с мерой,
удовлетворяющие этим трем условиям, изоморфны между собой. Тот
факт, что X есть единичный интервал, будет использован двояко. Ос-
Основную роль будет играть то, что отсюда вытекают пормировапность,
неатомичность и сепарабельность В] все рассуждения, основанные на
этих свойствах, применимы к большинству других пространств с ме-
мерой, упоминавшихся мной (например, ко всем недискретным компакт-
компактным группам со счетной базой, в частности к тору и к пространству
последовательностей). Вспомогательную роль будут играть некоторые
свойства упорядоченности, присущие интервалу (например, будет ис-
использовано понятие подынтервала). Эти рассуждения, разумеется, не
переносятся на более общий случай слово в слово, однако все, что нуж-
нужно сделать для их обобщения, это заменить подынтервалы такими

82 Слабая топология
элементами соответствующей булевской алгебры, которые отвечают
подынтервалам при некотором изоморфизме.
Последнее из предварительных замечаний относится к связи меж-
между той топологией, которую мы будем изучать, и различными извест-
известными топологизациями множества операторов гильбертова пространст-
пространства. Сильная топология для операторов определяется так: {Aj} сходится
к А в том и только в том случае, если \\Ajf — Af\\ —»• 0 при всяком /;
слабая топология требует, чтобы (Ajf, g) —> (Af, g) при любых fag.
(Множество индексов {j\ здесь — любое направленное множество.) По-
Поскольку автоморфизмы алгебры В можно рассматривать как (порож-
(порожденные ими) операторы в L2, группа автоморфизмов наследует всякую
топологию, которой обладает группа унитарных операторов. Сильная и
слабая топологии, рассматриваемые лишь для унитарных операторов,
оказываются совпадающими. (Доказательство. Из сильной сходимости
всегда следует слабая сходимость. Пусть {Uj} — унитарные операто-
операторы, слабо сходящиеся к унитарному оператору U; вычислим квадрат
нормы \\Ujf — Uf\\2 и заметим, что каждый из получающихся здесь
четырех членов стремится, с точностью до знака, к (/, /).) Отсюда
следует, что для группы G автоморфизмов эти две топологизации так-
также дают один и тот же результат. Топология, которую я собираюсь
описать (будем называть ее слабой топологией), совпадает с ними обе-
обеими.
Слабая топология для группы G автоморфизмов состоит в том,
что {Tj\ сходится к Т тогда и только тогда, когда {TjE} сходится
к ТЕ для каждого измеримого множества Е (или, лучше сказать, для
каждого элемента Е алгебры с мерой В); говоря подробнее, требуется,
чтобы m(TjEATE) —> 0. (Символ Д означает, как и выше, симметрич-
симметричную разность, т. е. булевское сложение.) Еще подробнее: полную систе-
систему окрестностей образуют множества вида
N(S) = N(S; E, e) = {T: m(SEATE) < e}.
Первый из результатов, относящихся к слабой топологии, состо-
состоит в том, что в этой топологии группа G оказывается топологичес-
топологической группой, удовлетворяющей первой аксиоме счетности. Чтобы до-
доказать, что G является Го-прострапством, предположим, что S ф I
(символ / означает единичный автоморфизм), и пусть Е — такое мно-
множество (т.е. элемент из В), что SE ф Е. Если е = m(SEAE), то

Слабая топология 83
окрестность NA; Е, е) не содержит S. Непрерывность операции пере-
перехода к обратному элементу вытекает из того, что Т ? N{S; Е, е) в том
и только в том случае, если Т~г ? N(S^1; SE, г). Для доказательства
непрерывности произведения предположим, что {Sj} и {Т/} сходятся
к S и Т соответственно. Поскольку TjE близко, при больших j. к ТЕ,
a SjTE близко к STE и поскольку из сохранения меры преобразовани-
преобразованием Sj следует, что SjTjE настолько же близко к SjTE. насколько TjE
близко к ТЕ, мы заключаем, что SjTjE близко к STE, когда j достаточ-
достаточно велико. Эти замечания показывают, что G является топологической
группой. Поэтому для проверки первой аксиомы счетности достаточно
доказать существование счетной определяющей системы окрестностей
у единичного элемента /. Выберем для этого в В счетное всюду плотное
множество {Ek}; окрестности N(I; Ей, 1/'О образуют определяющую
систему окрестностей элемента I. Действительно, пусть NA; Е, е) —
произвольная окрестность элемента /. Если Кик выбраны так. что
и тп(ЕАЕк) и 1/h меньше, чем е/3. то N{1; Ек, 1/h) С NA; Е, е).
С G (как и со всякой топологической группой) можно естествен-
естественным образом связать некоторое понятие равномерности. Будем назы-
называть левой равномерностью ту, по отношению к которой последователь-
последовательность {Тп} фундаментальна в том и только в том случае, если Т~гТт
близко к I для любых достаточно больших п и т; правая равномер-
равномерность определяется аналогично с помощью ТпТ^. Группа G не полна
в каждой из этих равномерностей. Соответствующие примеры проще
всего построить в пространстве односторонних последовательностей.
Пусть Тп — преобразование, порождаемое циклической перестановкой
первых п индексов, т.е. если Тпх = у, то Ук+i = %k при 0 ^ к < п,
уа = хп и yf. = Xf. при к > п. Ясно, что каждое Тп представля-
представляет собой обратимое сохраняющее меру преобразование. Я утверждаю,
что Т^хТпЕ сходится, для любого Е, к IE, при га, п —> сю. Для конеч-
конечномерных множеств это просто {Т~гТпЕ на самом деле просто равно
для них Е при всех достаточно больших п): для произвольных измери-
измеримых множеств это получается с помощью аппроксимации. Отсюда сле-
следует, что {Тп} — левая фундаментальная последовательность; однако,
очевидно, что рассматриваемая последовательность не имеет предела
в G. Рассмотрев последовательность {Т~г} убедимся, что G не полна
и справа.
Правильным является двустороннее определение равномерности
в G, т. е. такое, по отношению к которому последовательность {Тп}

84 Слабая топология
является фундаментальной в том и только в том случае, если и Тп 1Тт,
и TnT~tl близки к I, как только п и то достаточно велики. По отношению
к этой равномерности G полна. Ввиду наличия первой аксиомы счетнос-
ти достаточно доказать полноту по отношению к последовательностям.
Если {Тп} двусторонне фундаментальная последовательность в G.
то как {T.nEj, так и {Т~1Е} — фундаментальные последовательности
в В; отсюда следует, что \ТпЕ} и {Т~ХЕ} сходятся, скажем, к ТЕ и SE
соответственно для любого Е из В. (Полнота В — это перефразировка
теоремы Фишера-Рисса.) Поскольку дополнение, сумма и мера — не-
непрерывные функции на В, отображения Т и S. определенные на В, со-
сохраняют меру и все конечные булевские операции; отсюда следует, что
они сохраняют и счетные операции. (Вообще говоря, булевский гомо-
гомоморфизм не обязан быть сигма-гомоморфизмом; здесь это получается
благодаря сохранению меры.) Отображения Т и S представляют собой,
таким образом, эндоморфизмы алгебры В. Поскольку, как легко про-
проверить, TSE = STE = Е для всех Е, они являются автоморфизмами
и S = T-\
Понятие полноты привычнее в случае метрических пространств.
чем в случае более общих равномерных пространств (например, топо-
топологических групп). Как известно, равномерное пространство, удовле-
удовлетворяющее первой аксиоме счетности, метризуемо, поэтому все свой-
свойства группы G можно, в принципе, излагать в терминах соответству-
соответствующей метрики. Легко описать эту метрику. Пусть {Еп} — счетное,
всюду плотное в В множество; примем за расстояние между S и Т
величину 52{l/2n){m(SEnATEn) + m(S-1EnAT-1En)); утверждается,
что эта метрика порождает в G слабую топологию и двустороннюю
равномерную структуру. (Она не является ни право-, пи лсвоипвари-
антной.) Однако, поскольку эта довольно искусственная конструкция
не проливает, по-видимому, никакого дополнительного света на струк-
структуру группы G, я не вижу оснований вдаваться в дальнейшее ее из-
изучение. Дело обстояло бы совсем иначе, если можно было бы найти в G
инвариантную метрику (т. е. метрику в G, инвариантную относитель-
относительно умножения справа и слева). Общая теория топологических групп га-
гарантирует существование односторонне-инвариантной метрики; однако
двусторонней не существует. Несколько более расширенную трактовку
ряда относящихся сюда вопросов, а также литературные ссылки можно
найти в первой моей работе, посвященной этой тематике (Trans. Ашег.
Math. Soc, 1944, стр. 11).

Слабая аппроксимация
Я буду называть интервал (к/2п,, (к + 1)/2п) двоичным интерва-
интервалом ранга п (п = 0, 1, 2, ...; к = 0, 1, 2, ... , 2'" —1), а некоторую сумму
таких интервалов (п фиксировано) двоичным множеством ранга п.
Под перестановкой (точнее, двоичной перестановкой ранга п) я буду по-
понимать обратимое сохраняющее меру преобразование (или, скорее, от-
отвечающий ему автоморфизм), переводящее каждый двоичный интервал
ранга п в другой двоичный интервал того же ранга с помощью обычного
переноса. Циклическая перестановка ранга п — это перестановка, ко-
которая циклически переставляет двоичные интервалы ранга п. (Предо-
(Предостережение: это означает, что соответствующая перестановка состоит
только из одного цикла, а вовсе не то, что каждый двоичный интер-
интервал ранга п переходит в тот, который непосредственно следует за ним
в естественном порядке.) Двоичная окрестность (некоторого автомор-
автоморфизма S ? G) это множество вида {Т: m(SDATD) < е}, где D
некоторое двоичное множество. Двоичные окрестности образуют про-
производящую систему окрестностей для рассматриваемой топологии в G;
конечные пересечения их образуют в G базис. Основная в этом круге
вопросов теорема утверждает, по существу, что перестановки всюду
плотны в G. Иногда оказывается полезной следующая более детальная
се формулировка.
Теорема о слабой аппроксимации. Каждая двоичная окрест-
окрестность содержит циклические перестановки сколь угодно высокого ранга.
Доказательство.
Сперва я докажу, что если Р — некоторая перестановка и
N = {Т: m(PDiATDi) < е, i = 1. 2, ... , п\ некоторая ее двоичная
окрестность, то N содержит циклические перестановки сколь угодно
высокого ранга; после этого я для завершения доказательства покажу,
что перестановки всюду плотны в G. Каждое PDi есть некоторое дво-
двоичное множество. Отсюда следует, что существует такое целое j, что
каждое из этих множеств является двоичным множеством ранга j;

86 Слабая аппроксимация
при этом целое число j можно выбрать сколь угодно большим. Выбе-
Выберем k > j так, что 1/2* < s/2:>+1. Каждый двоичный интервал ранга j
представляет собой сумму 2k~:> двоичных интервалов ранга к. Я опре-
определю теперь циклическую перестановку Q ранга к так, что Q ? N.
Начнем с двоичного интервала Е ранга j. Если Р не оставляет Е
на месте, то пусть Q отображает первый (в смысле естественного по-
порядка) подынтервал ранга к из Е на первый из подынтервалов ранга к
множества РЕ. Если Р не переводит РЕ обратно в Е, то положим,
что Q отображает первый подынтервал ранга к множества РЕ на пер-
первый подынтервал ранга к множества Р2Е. Будем продолжать этот про-
процесс до тех пор, пока не достигнем последнего члена в Р-цикле множес-
множества Е, пусть это будет Pq~1E. Перестановка Р переводит Pq~1E снова
в Е; пусть Q переводит первый подынтервал ранга к из Р'1~1Е во вто-
второй подынтервал ранга к множества Е. Пройдем снова весь цикл, но
с заменой всюду слова «первый» на «второй». Дойдем здесь до конца и
затем положим, что Q переводит второй подынтервал ранга к из Pq~1E
в третий подынтервал ранга к множества Е. Будем повторять этот про-
процесс еще и еще, до тех пор пока не достигнем последнего подынтервала
ранга к в Pq~1E. Пусть F — двоичный интервал ранга j. не пересе-
пересекающийся с Р-циклом множества Е (т.е. отличный от Е, .... Pq~1E),
и пусть Q переводит последний подынтервал ранга к из Pq~1E в пер-
первый подынтервал ранга к множества F. Повторим для F тот же самый
процесс, который был описан для Е, а затем проделаем то же самое для
всех циклов, на которые раскладывается перестановка Р. Перестанов-
Перестановка Q должна переводить последний подынтервал ранга к в последнем
члене последнего цикла перестановки Р в первый подынтервал ранга к
первоначально выбранного интервала Е.
Ясно, что Q — циклическая перестановка ранга к. Из построения Q
следует, что если Е — некоторый двоичный интервал ранга j (не обя-
обязательно то самое Е, которое было выбрано выше), то m(PEAQE) <
< 2/2*. Двоичное множество ранга j представляет собой объединение
не более чем 2J двоичных интервалов ранга j, поэтому, если Е — про-
произвольное двоичное множество ранга j, то
m(PEAQE) < 2\2j2k) = 2i+1 J2k < e.
Отсюда следует, что Q ? N; остается доказать, что перестановки всюду
плотны в G.

Слабая аппроксимация 87
Я должен показать, что если Т — произвольное преобразование
и если N = {S: m(SDjATDi) < е, г = 1, 2, ... , п} его двоичная
окрестность, то N содержит некоторую перестановку. Я могу предпо-
предполагать, что двоичные множества D{ представляют собой совокупность
всех двоичных интервалов некоторого определенного ранга (так что п
равно некоторой степени двойки); окрестность, определенная такими
интервалами и достаточно малым е, заведомо содержится во всякой
двоичной окрестности. Идея доказательства состоит в аппроксимации
множеств TDi двоичными множествами и затем соответствующей пе-
перестановке этих двоичных множеств.
Класс Во двоичных множеств плотен в метрическом пространстве
множеств (или, точнее, в алгебре с мерой); он замкнут относительно
конечных булевских операций, а мера каждого из принадлежащих ему
множеств равна некоторому двоичному рациональному числу. Далее,
если Е ? Во и если г — некоторое двоичное рациональное число меж-
между 0 и 1п(Е), то Е содержит подмножества меры г, принадлежащие Во-
Эти специальные свойства класса Во и дают мне возможность дока-
доказать соответствующую аппроксимационную лемму. Я перечисляю эти
свойства потому, что существуют и другие классы множеств, отличные
от Во. которые обладают теми же свойствами и которыми нам придется
пользоваться; самым примечательным из примеров такого рода классов
является совокупность множеств вида ТЕ, где Е ? Во.
Предположим теперь, что {Е±, ... , Еп} — разбиение пространст-
пространства X. 8 — положительное число, г\. ... . г/,; — положительные двоичные
рациональные числа, такие, что сумма их равна 1 и \m[Ei) — г,| < 8
при г = 1, 2, ... , к. Я утверждаю, что существует такое разбие-
разбиение {Fi, ..., Fn} пространства X, что: 1°) каждое Fi принадлежит Во;
2°) m(EiAFi) < 28 и 3°) m(Fi) = п, г = 1, 2, ... , к. Для доказательст-
доказательства начнем с того, что аппроксимируем достаточно точно каждое из Е{
некоторым множеством Fi из Во\ пусть у — точность этой аппрокси-
аппроксимации. Множества Fi, которые мы при этом получим, не обязаны со-
составлять разбиение пространства X, а меры их не обязаны иметь ука-
указанные выше значения. Так как m{Ej) —rn(Fi) = m(Ei —Fi) —m(Fi — Ej),
то m(Fi) отличается меньше, чем на у от m(Ei) и, следовательно, мень-
меньше, чем па у + 8 от г,. Произведем теперь замену множеств Fi; моя
первая задача — сделать их попарно непересекающимися. Поскольку
т((Е{ П Ej)A(Fi П Fj)) ^ m(EiAFi) + miEjAFj) < 2у

88 Слабая аппроксимация
и поскольку m,(Ej П Ej) = 0, мера пересечения каждого Fi с суммой
всех остальных меньше, чем 21vy. Измененные Fi это множества, ко-
которые получаются после выбрасывания этих пересечений. Меры этих
новых множеств Fi отличаются меньше чем на 2k-y + 7 + S от г; и но-
новые Fi аппроксимируют множества Ei с точностью до 2&7+7- Теперь Fi
уже попарно не пересекаются, однако их сумма не обязана составлять
все X, а их меры имеют не совсем те значения, которые требуются.
Необходимо еще одно их изменение. От каждого «слишком толстого»
множества Fi (т.е. такого, что rn(Fi) > rj) я отниму столько, чтобы
сделать его меру равной т\, и разницу добавлю к дополнению суммы
всех Fi, затем к каждому «тощему» Fi я добавлю из этого дополнения
столько, чтобы сделать его меру равной г;, и при этом не вывести Fi
из В„. Поскольку такие дважды исправленные множества F,; аппрокси-
аппроксимируют Ei с точностью до B&7 + 7) + B^7 + 7 + <^)> доказательство
завершается замечанием, что у можно выбрать настолько малым, что-
чтобы это последнее выражение было меньше, чем 26.
Вернемся теперь к окрестности N. Множества Di П TDj обра-
образуют разбиение пространства X. Пусть S — такое положительное
число, что п25 < е/2. Применив аппроксимационную лемму, полу-
получим такое разбиение {-Еу} пространства X на двоичные множест-
множества, что m((Dir\TDj)AEij) < S. Применив снова ту же лемму (на
этот раз к Т-прообразам этих двоичных множеств), получим та-
такое разбиение {i*V,} пространства X на двоичные множества, что
m((Di П TDj)ATFij) < 28 и m(Fij) = mEij. Так как Т сохраняет меру,
то отсюда следует, что m((T~1Di П Dj)AF{j) < 26.
Пусть к — такое целое число, что все Di, Ец и Fij имеют ранг к.
Пусть Р — перестановка ранга к, переводящая F^ в Ец. Так как Dj
есть сумма (по г) множеств Т!),- П Dj, то Dj находится в п25 бли-
близости и, следовательно, в г/2-близости от суммы (по г) множеств F^.
Отсюда следует, что PDj находится в е/2-близости от суммы (по г)
множеств Ец. Поскольку эта последняя сумма находится в г/2-близос-
ти от суммы (по г) множеств Di П TDj, а следовательно, и от TDj.
получаем, что PDj находится в ?-близости от TDj; тем самым доказа-
доказательство теоремы о слабой аппроксимации закопчено.

Равномерная топология
Изучение различных топологий и взаимоотношений между ними
представляет собой, несмотря на большую популярность этих вопро-
вопросов в теории линейных топологических пространств, довольно скуч-
скучное занятие. Тот факт, что слабая и сильная топологии в пространстве
операторов совпадают между собой, если их рассматривать лишь для
сохраняющих меру преобразований, — просто находка: забот на од-
одну топологию меньше. Оказывается, таким образом, что на самом деле
в множестве сохраняющих меру преобразований (или, точнее, автомор-
автоморфизмов) существуют в точности две полезные топологии (в противо-
противовес тому путаному изобилию, которое имеется в теории операторов).
Прежде чем продолжить рассмотрение приложений слабой топологии,
я введу для автоморфизмов другую полезную топологию; я буду назы-
называть се равномерной топологией.
Пусть S и Т элементы группы G автоморфизмов; положим
d(S, Т) = sup[m{SEATE)].
Е
Ясно, что d обладает свойствами расстояния и легко проверить, что d
инвариантно относительно всех групповых операций (умножение слева
и справа, переход к обратным элементам). Равномерная топология —
это, по определению, та топология, которая определяется метрикой d:
G с этой топологией представляет собой топологическую группу.
Полезным подспорьем при изучении метрики d является другая
метрика d'; по определению
d'{S,T) = m({x: БхфТх}).
То, что d' обладает свойствами расстояния, проверяется непосредствен-
непосредственно. Неравенство треугольника вытекает из того, что если Sx отлично
от Тх, то или Sx или Тх отлично от Qx. Метрика d' инварианта отно-
относительно всех групповых операций. Для умножения слева это очевидно.

90 Равномерная топология
Чтобы доказать инвариантность d' относительно перехода к обратным
элементам, заметим, что
S{x: Sx ф Тх\ = {ж: S^x ф Т~хх\.
Инвариантность относительно умножения справа следует из инвари-
инвариантности относительно умножения слева и относительно перехода к об-
обратному.
Сейчас я должен несколько уклониться в сторону и изложить ряд
вспомогательных фактов. Они будут использованы в дальнейшем, по
представляют и некоторый самостоятельный интерес; непосредствен-
непосредственным поводом для их изложения является выяснение связи между d и d'.
Прежде всего я должен изложить некоторые элементарные факты,
относящиеся к понятию периодичности. Если Тпх = х при некотором
целом положительном п, то преобразование Т называется периодичес-
периодическим в точке х; наименьшее положительное п называется периодом Т
в точке х. Соответствующее глобальное понятие вводится тоже стан-
стандартным образом: если Тп = I при некотором п, то преобразование Т
называется периодическим, а его периодом называется наименьшее по-
положительное п, для которого равенство Тп = / справедливо. Ясно, что
периодическое преобразование периодично в каждой точке х: обратное,
однако, неверно. Если Т периодично лишь на множестве меры нуль, то я
буду говорить, что Т апериодично.
Каждое преобразование Т может быть естественным образом раз-
разбито на периодическую и апериодическую части. Точнее, пусть Ап
означает множество тех точек, в которых Т имеет период п, и
пусть Aq — дополнение суммы всех этих А„; тогда Т апериодично
на Aq.
Лемма 1. Если Т периодично с периодом п почти в каждой точке
пространства X, то существует такое измеримое множество Е ме-
меры 1/п, что множества Е, ТЕ, .... Тп^1Е попарно не пересекаются.
Доказательство.
Если п = 1, то доказывать нечего. Если п > 1, то должно
существовать такое измеримое множество Е\, что m(EiATEi) > 0;
иначе Т было бы периодично с периодом 1 почти всюду. Так как
m(.Ei-T.E1)=m(.Ei)-m(.EinT.Ei) и m{TE1-E1)=m{TE1)-m{E1r\TEi),
то из сохранения меры преобразованием Т следует, что т{Е-\_—ТЕ\) > 0.

Равномерная топология 91
Другими словами, если F\ = Е\ - TEi, то F\ — измеримое множес-
множество положительной меры, такое, что i*i и TF\ не имеют общих то-
точек. При п = 2 рассуждения на этом заканчиваются. Если п > 2,
то существует, я утверждаю, такое измеримое подмножество Ег С F\,
что т(Е2^Т2Е2) > 0; иначе бы Т имело период 2 почти в каждой
точке множества F\. Положим i^ = ?2 — Т2Е2\ как и выше, полу-
получаем, что i<2 и T2i^2 не пересекаются. Проделав таким образом п — 1
шагов, я получу убывающую цепочку F±, ... , Fn-i множеств положи-
положительной меры, такую, что Fj и T^Fj не пересекаются. Если Е = Fn-\.
то Е не пересекается с T:l E. j = 1. ... ,п-1 и отсюда следует, что
множества .Е, Т.Е, ... , Тп~гЕ попарно не пересекаются. При этом мо-
может, однако, не выполняться условие т,(Е) = 1/п. Чтобы исправить
это, нужно рассмотреть дополнение множества Е U ТЕ U ... U Тп~1Е
и провести для пего тс же самые рассуждения, которые были прове-
проведены для X. (Верно, хотя это и не существенно, что данное множес-
множество инвариантно.) Продолжим наши рассуждения по индукции, если
понадобится, то трансфинитной. Поскольку система попарно непересе-
непересекающихся множеств положительной меры не может быть несчетной,
процесс оборвется па некотором счетном трапсфипите.
Лемма 2. Если Т апериодично, то для каждого целого положи-
положительного п и каждого положительного е существует такое измеримое
множество Е, что множества Е, ТЕ, Тп~1Е попарно не пересекаются
и т(Е UTEU...U Тп-гЕ) > 1 - е.
Доказательство.
Пусть р — такое целое положительное число, что 2/р < е. Пер-
Первый существенный шаг доказательства состоит в использовании дока-
доказательства леммы 1 (с рп вместо п). Это доказательство дает следу-
следующее: строится такое измеримое множество F положительной меры,
что F, TF,..., Tpn~1F попарно не пересекаются и что F — макси-
максимальное, по мере, среди таких множеств. (Это означает, что не сущест-
существует множества, содержащего F, которое превосходило бы F по мере
и имело бы указанные свойства.) Из максимальности F следует, что
если Fo — измеримое подмножество множества Tpn~1F, имеющее по-
положительную меру, то T^FqCiF должно иметь положительную меру для
некоторых j = 1, ... , рп. (Иначе, объединив TFq и F, мы получили бы
противоречие с предположенной максимальностью F.) Отсюда в свою
очередь следует, что если Fj — множество таких точек х из Tpn~1F,

92 Равномерная топология
что Т*х G F, но Тгх <? F при 1 ^ г < j ^ рп, то попарно непересекаю-
непересекающиеся множества Fj исчерпывают почти все Tpn~1F.
Множества в каждом из столбцов таблицы
TF2
TF3 T2F3
TF T2F '
-*- ¦*¦ pn J ¦*¦ pn • • • -
F
pn
попарно не пересекаются (поскольку они представляют собой резуль-
результаты применения одной и той же степени преобразования Т к не-
непересекающимся подмножествам множества Tpn~1F), а два множес-
множества, находящиеся в разных столбцах, тоже не пересекаются (так
как их прообразы, отвечающие соответствующей степени преобра-
преобразования Т, лежат в различных множествах, принадлежащих систе-
системе F,TF, ... , Tpn^1F). Далее, я утверждаю, что все эти множес-
множества (т. е. множества TlFj при 1 ^ % < j ^ рп) не пересекаются ни
с одним из TkF (О ^ к ^ рп — 1) и, следовательно, не пересекаются
с FUTFU...UTpn-1F. Действительно, если к > i, то T*Fj П TkF
содержится в множестве jll(Tpn~1F П Tk~*F), которое пусто; если
же к ^ г, то 0 ^ г — к < j, так что T'l~kFj П F пусто (в силу опре-
определения Fj) и, следовательно, TlFjf\TkF = Tfc(T^fcF,-nF) тоже пусто.
Из проведенных выше рассуждений следует, в частности, что мно-
множества TFi,T2F2, ... ,TpnFpn суть попарно непересекающиеся под-
подмножества множества F; их меры равны соответственно мерам мно-
множеств Fi, Fz, ... , Fpn и, значит, в сумме составляют m{Tpn~1F); от-
откуда вытекает, что они почти исчерпывают все F. Отсюда я получаю,
что множество
рп — 1
F* = ( [J TkF^j U ( [J Т
почти инвариантно относительно Т. Из апериодичности Т вытекает те-
теперь, что F* почти совпадает с X, поскольку иначе с помощью допол-
дополнения к F* можно было бы увеличить максимальное множество F.
Теперь я уже в состоянии определить нужное нам множество Е.
Грубо говоря, для получения Е нужно взять каждое n-ое из мно-
множеств F, TF, ... , Tpn~1F, а также каждое п-е множество в каждой
из строк таблицы {T*Fj} настолько далеко, насколько это возможно.

Равномерная топология 93
Точнее,
р-1
Е = ( У ТкпF\ U ( У Tin+lF3\.
k=Q o<.
(i+l)nQ-l
Ясно, что множества Е, ТЕ, ... , Тп~хЕ попарно не пересекают-
пересекаются. То, что не входит в их сумму, содержит менее чем 2п множеств
из каждой строки таблицы {TlF.j}. Это означает, что для каждого j,
часть j-oR строки, не входящая в Еи ТЕ U ... U Тп~1Е. имеет меру
меньшую, чем 2nm(F,j), и, следовательно,
рп
m(E UTEU...U Тп-1Е) > 1 - ^ 2п • m(Fj) = 1 - 2п ¦ m{F).
Так как множества F, TF, ..., Tpn~1F попарно не пересекаются,
то 2п • m(F) ^ 2пщ = ^ < ?, и доказательство закончено. (Идея
этого доказательства была указана мне Д. С. Орнстейном.)
су
Теорема о сравнении. =-d! ^ d ^ d!.
о
Доказательство.
Поскольку d и d! инвариантны относительно групповых операций,
достаточно доказать, что §d'(I, T) ^ d(I, T) ^ d'(I. T) для каждо-
О
го сохраняющего меру преобразования Т. Если F = {х: х ф Тх},
то d'(I, Т) = m(F): заметим, что F инвариантно относительно Т и что
таким же свойством обладает каждое подмножество множества X — F.
Если Е произвольное измеримое множество, то
т{ЕАТЕ) ^ гп((Е П F)AT(E П F)) + гп((Е - F)AT(E - F)) =
= m((E П F)AT{E П F)) ^ m{F);
откуда следует, что d(I, T) ^ d'(I, T).
Для того чтобы установить оценку d снизу, рассмотрим разбие-
разбиение {Aq, Ax, A<i, ...} пространства X на его апериодическую и пе-
периодические части. Применив лемму 2 (к Ац вместо X, при п = 2.
и ? ^ ^), найдем измеримое подмножество Ео множества Ац, непе-
рссскающссся с TEq и удовлетворяющее условию тп(Ео) > ^т(Ао).
Применив лемму 1 к Ап. найдем такое измеримое подмножество Еп

94 Равномерная топология
множества Ап, что Еп, ТЕп, ... , Тп~1Еп, попарно не пересекаются,
причем т{Еп) = ^т(Ап).
Определим новую систему множеств Fn следующим образом. Ес-
Если п = 0, то Fn = Еп. Если п 5г 2, то Fn есть сумма Еп и об-
образов множества Еп при всех четных положительных степенях ав-
автоморфизма Т. меньших чем п — 1 (т.е. в случае нечетного п мно-
множество Тп~1Еп не входит в Fn). Множество Fn (где п ф 1) не пе-
пересекается с TFn. Далее, если п = 2, 4, 6, ..., то m(Fn) = ^m(An),
а если п = 3, 5, 7, .... то m(Fn) = ^ A — ^J m(An). Отсюда следует,
что m(Fn) ^ =тГп(Ап), где п ф 1. Если F есть сумма всех таких Fn
(т.е. F = Fq U F2 U i<3 U ...; заметим, что никакого i*\ нет), то F не
пересекается с TF и m(_F) ^ ^-A — m(Ai)). Следовательно,
о
d(I, T) ^ m(FATF) 2 |A - т(А0) = |d'(^, T);
доказательство закончено.
Сдвиги на единичном интервале на | и на ^ (mod 1) показывают,
что обе оценки в теореме сравнения не могут быть улучшены.
Из теоремы сравнения видно, что обе метрики — как d, так и d' —
приводят к одной и той же топологии, а именно к равномерной. Воз-
Возможность пользоваться каждый раз той метрикой, которая в данный
момент времени удобна, часто облегчает доказательство тех или иных
свойств равномерной топологии. Так, например, из определения d сразу
же видно, что слабая топология слабее, чем равномерная. Отсюда следу-
следует, что группа G полна и в равномерной топологии. Действительно, если
последовательность {Тп} фундаментальна в смысле метрики d, то {Тп}
слабо (двусторонне) фундаментальна и, следовательно, {Тп} сходится
к некоторому Т в смысле слабой топологии; легко показать, что тог-
тогда \Тп} сходится к Г и в равномерной топологии. (Слабый предел по-
последовательности, фундаментальной в смысле равномерной топологии,
обязательно является се равномерным пределом.) С другой стороны,
для доказательства, что G не сепарабельна в смысле равномерной то-
топологии, проще всего воспользоваться метрикой d': если Та означает
сдвиг на единичном интервале на a (mod 1), то d'(Ta, Ть) = 1, как толь-
только а ф Ъ. Отсюда мы попутно заключаем, что равномерная топология
действительно сильнее, чем слабая топология.

Равномерная аппроксимация
Чтобы получить аппроксимациоппую теорему, отвечающую рав-
равномерной топологии, удобно опереться на следующий результат, пред-
представляющий и некоторый самостоятельный интерес.
Лемма. Если Е и F борелевские множества на интервале X,
имеющие одну и ту же меру, то существует такое обратимое сохра-
сохраняющее меру преобразование Т интервала X, что m(TEAF) = 0.
Доказательство.
Существует много путей для доказательства (и попутно усиления)
этой леммы; некоторые из них повели бы нас окольными путями че-
через исследование различных аномалий борелевских множеств. Простое
и удобное доказательство, основанное па соображениях теории меры,
проводится следующим образом. Если т(Е) = m(F) = 0. то доказы-
доказывать нечего. Если же эти меры отличны от пуля, то пусть S — произ-
произвольное обратимое эргодическое преобразование на X. При некотором
целом положительном значении п мера множества SnE П F не равна
нулю; определим Т на E(lS~nF как Sn. Далее будем проводить индук-
индукцию. Если m(E — S~nF) ф 0, то, применив те же самые рассуждения,
найдем имеющий положительную меру кусок множества E — S~nF, ко-
который отображается некоторой степенью преобразования S в F - SnE,
и определим Г па этом куске как соответствующую степень преобразо-
преобразования S. На всем Е преобразование Т определяется путем повторения,
возможно, трапсфинитпого, этой процедуры, т.е. методом исчерпыва-
исчерпывания. Применив затем тот же самый процесс к X — Е и X — F, мы
продолжим Т на все X.
Заметим, что, как видно из этой леммы, метрическая структу-
структура любого борелевского множества та же самая, что и у интервала.
Отсюда, в частности, следует, что па всяком борелевском множест-
множестве положительной меры существуют эргодические, сохраняющие меру
преобразования.
Аналогом теоремы о слабой аппроксимации в случае равномер-
равномерной топологии является утверждение, что множество всех периоди-

96 Равномерная аппроксимация
ческих преобразований плотно в G в смысле равномерной топологии.
Это утверждение непосредственно вытекает из разложимости преобра-
преобразования на апериодическую и периодические части и из следующего
количественного утверждения, относящегося к апериодическим преоб-
преобразованиям.
Теорема о равномерной аппроксимации. Если Т — некото-
ров апериодическое преобразование, то для каждого целого положитель-
положительного п и для каждого положительного е существует такое преобразо-
преобразование S, что S имеет всюду период п и d'(S, Т) < ^ + е.
Доказательство.
Воспользовавшись леммой 2 предыдущего параграфа, построим та-
такое измеримое множество Е, что множества Е, ТЕ, ... , Тп~1Е попар-
попарно не пересекаются и тп(Е U ТЕ U ... U Тп~1Е) > 1 - е. Если х принад-
принадлежит Е U ТЕ U ... U Тп~2Е, то положим Sx = Тх\ если х ? Тп^Е,
то положим Sx = Т~п+1х. Преобразование S определено, таким обра-
образом, на Е U ТЕ U ... U Тп~1Е. На всей своей области определения оно
периодично с периодом п; причем
d!{S, Т) < miT'^E) + е = т{Е) +е^^+е,
независимо от того, как мы продолжим S на все X. Следовательно, все.
что остается сделать, это доопределить S на X - (EUTELJ.. .\JTn~1E)
так, чтобы оно было всюду периодично с периодом п. Возможность
такого доопределения сразу вытекает из леммы, доказанной в начале
этого параграфа.
Первоначальный вариант теоремы о равномерной аппроксимации
послужил леммой в доказательстве теорем о категориях, речь о кото-
которых будет идти в следующем параграфе (Ann. of Math., 1944, стр. 786):
в этом варианте было 4/п вместо 1/п + е. Приведенный выше вариант
был опубликован (без изложения доказательства) В.А.Рохлиным (ДАН
СССР, 1948, стр. 349I.
Из этой теоремы вытекает интересное следствие; я утверждаю, что
в смысле равномерной топологии множество всех эргодических преоб-
преобразований нигде не плотно в G. В самом деле, я знаю, что каждая сфе-
сфера в G содержит периодическое преобразование S, скажем периода п.
Доказательство этой теоремы содержится в работе В.А.Рохлина «Избранные
вопросы метрической теории динамических систем». Успехи матем. наук, 4, Ш 2,
57-128 A949). — Прим. перев.

Равномерная аппроксимация 97
Пусть г — положительное число, меньшее чем \/п и такое, что сфе-
сфера К с центром S и радиусом г целиком лежит внутри данной сферы;
для доказательства нашего утверждения достаточно показать, что ни
одно из принадлежащих К преобразований не эргодично. Чтобы дока-
доказать это, рассмотрим некоторое Т ? К и положим Е = {х: Sx ф Тх].
По построению т{Е) < ±. Пусть Е* = Е U SE U ... U Sn~1E, тог-
тогда т(Е*) < 1 и SE* = Е*. Если х ? X - Е, то Sx = Тх; отсюда
следует, что Т(Х - Е*) = X - Е*. Поскольку т{Х - Е*) > 0, преоб-
преобразование Т могло бы быть эргодично только при тп(Е*) = 0. Однако
отсюда следовало бы. что т(Е) = 0 и, значит, Т = S; таким образом,
преобразование Г ни в каком случае не может быть эргодично.
Взглянув на метрику d', мы сразу видим, что двум преобразова-
преобразованиям очень трудно быть близкими между собой в равномерной тополо-
топологии. Другими словами, равномерная топология очень сильна (сущест-
(существует много открытых множеств): фактически она настолько сильна,
что почти совпадает с дискретной. Следовательно, утверждение, что
некоторое множество (как, например, множество периодических пре-
преобразований) всюду плотно в смысле равномерной топологии, вскрыва-
вскрывает глубокие структурные свойства сохраняющих меру преобразований.
С другой стороны, по тем же самым причинам некоторому наперед за-
заданному множеству (такому, как множество всех эргодических преоб-
преобразований) весьма просто оказаться нигде не плотным: утверждение
о том, что некоторое множество топологически мало (например, нигде
не плотно или имеет первую категорию), является по существу лишь
проявлением свойств самой топологии.

Категории
Я возвращаюсь теперь к рассмотрению слабой топологии. Я хо-
хочу изложить некоторые сведения о топологической массивности трех
важных множеств преобразований, а именно преобразований сильно
перемешивающих, слабо перемешивающих и эргодических.
Первая теорема о категориях. В слабой топологии множество
всех сильно перемешивающих преобразований имеет первую категорию.
Доказательство.
Пусть Pk — множество всех периодических преобразований перио-
периода к (т.е. таких преобразований Т, для которых Тк = I); обозначим Р?
сумму (по всем к > п) множеств Р&. Из теоремы о слабой аппроксима-
аппроксимации следует, что каждое из множеств Р* всюду плотно.
Пусть Е — первая половина единичного интервала; положим Мк =
= \Т: m(Er\TkE) — j ^ ^ >. Множество Мк замкнуто в слабой тополо-
топологии. Если М^ — пересечение (по всем к > п) множеств Mj, и если М* —
сумма (по всем п) множеств M*t, то М* содержит все сильно переме-
перемешивающие преобразования; поэтому достаточно доказать, что М* есть
множество первой категории. В свою очередь для этого достаточно до-
доказать, что каждое М* нигде не плотно; поскольку М* замкнуто, это
эквивалентно доказательству того, что G — М^ всюду плотно. Еще одна
редукция: так как G — M*h есть сумма (по всем к > п) множеств G — Mk.
достаточно доказать, что Pk С G — M&. Но это последнее тривиально:
если Т G Рк, то ТкЕ = Е и, следовательно, тп(Е П ТкЕ) - \ = \, так
что Т не принадлежит Мц.
Для изучения класса слабо перемешивающих преобразований мне
понадобится одна лемма, интересная и сама по себе.
Лемма о сопряженности. В слабой топологии класс преобразо-
преобразований, сопряженных любому фиксированному апериодическому преобра-
преобразованию То (т.е. множество всех преобразований вида S~1TqS). всюду
плотен в G.

Категории 99
Доказательство.
Пусть N = {Т: m(PDiATDi) < е. г = 1, 2, ... , п} — двоич-
двоичная окрестность перестановки Р; требуется доказать, что при неко-
некотором S ? G преобразование S~1TqS принадлежит N. Обозначим М
слабую окрестность, определенную так же, как и N, по с заменой е
на е/2. Из теоремы о слабой аппроксимации вытекает, что М содержит
циклическую перестановку Q ранга к. большего, чем ранги всех ?>,
и такого, что \/2к~2 < е. Воспользовавшись теоремой о равномер-
равномерной аппроксимации (с 2к и l/2fc вместо пне соответственно), най-
найдем преобразование _К, имеющее (почти) всюду период 2к и такое,
что d'(R, То) ^ 2/2* < е/2.
Я утверждаю, что Q и R сопряжены в G. Для доказательства этого
обозначим через Eq, ... , Eq-± (q = 2к) двоичные интервалы ранга к,
упорядоченные так, что QE{ = Ei+i(i mod q), и обозначим через Fq та-
такое множество меры 1/q, что множества Fq, RFo, ... , R'i~1Fq попарно
не пересекаются. Положим F; = R1Fq, г = 1, ... , q — 1, и пусть S лю-
любое сохраняющее меру преобразование, переводящее Еу в Fq. Преобра-
Преобразование S можно продолжить на весь интервал, положив Sx = RlSQ~lx
при х ? Е{. Схематически
Q Q Q Q Q Q
. — , —^ ... — . , — .-, — .
Р2 »• ••
Теперь доказательство уже почти закончено. Так как d'(R, То) < |
Легко проверить, что Q = S~1RS.
Теперь доказательство уже почти
и так как d! инвариантно относительно групповых операций, получаем
d!(Q, S-'-ToS) = d'iS^RS, S-'-ToS) < |.
Отсюда я заключаю, что
^ +m.(QDiAS-1TaSDi) <:
<: m(PDiAQDi) + d(Q, S^TqS) < | + d'(Q, S^TqS) < e.
Следовательно, 5^1Tq5 ? N; доказательство закончено.

100 Категории
Вторая теорема о категориях. Множество всех слабо пере-
перемешивающих преобразований есть, в смысле слабой топологии, всюду
плотное Gg.
Доказательство.
Пусть М — множество слабо перемешивающих преобразований.
Ясно, что каждый элемент из М апсриодичсп и что множество М за-
замкнуто относительно операции сопряжения. Далее, так как М не пусто,
то, принимая во внимание лемму о сопряженности, достаточно пока-
показать, что М есть Gg.
Для проведения этого доказательства я обозначу символом Ut
унитарный оператор, порожденный сохраняющим меру преобразова-
преобразованием Т. Я должен воспользоваться тем фактом, что если f.g ? L2,
то функция, принимающая в точке Т значение (Uxf, g), непрерывна
в слабой топологии группы G; это сразу вытекает из того, что слабая
топология группы G совпадает со слабой топологией в пространстве
операторов, рассматриваемой на множестве унитарных операторов.
Пусть {fn} счетное плотное в Li множество; положим
К{%, j, к, п) = {Т: \{ЩЬ, fj) - (/¦, 1)A, fj)\ < 1}
^ = ПП пи ^'•»'*'")•
i j к п
Из того, что (Ut/, g) непрерывно зависит от Т, следует, что каж-
каждое K(i, j, к. п) открыто, а потому К есть Gg. Воспользовавшись опи-
описанием слабого перемешивания в терминах сходимости вис некоторого
множества нулевой плотности, мы видим, что М С К; я закончу до-
доказательство, показав, что К С М. Это удобнее всего доказывать от
противного: я покажу, что если преобразование Т не является слабо
перемешивающим, то оно не принадлежит К.
Если преобразование Т не является слабо перемешивающим, то по
теореме о перемешивании Ut имеет нетривиальную собственную функ-
функцию. Не ограничивая общности, я могу предположить, что существу-
существуют такая функция / ? 1г и такая константа с, равная по абсолют-
абсолютной величине 1, что ||/|| = 1, A, /) = 0 и Ut/ = с/. Пусть г таково,
что ||/ — /i|| < 0,1; я покажу, что Т не принадлежит К, доказав, что
при этом значении i преобразование Т не содержится в K(i, г. 2, п) ни

Категории 101
при каком значении п. Я должен доказать, следовательно, что
для всех значений п.
Заметим, что ||/;|| <$ ||/|| + ||/ - ft\\ < 1,1. Так как
\Wf, /)-(/, 1)A,/)| = 1,
1 ^ \Wf, /) - №f, /0| + |(Е/?/, /о - (t^/i, /01
К/.,
^ 0,1 + 0,11 + qn + 0,11 + 0 < qn + 0,5;
доказательство теоремы закончено.
Из второй теоремы о категориях вытекает, что в смысле слабой
топологии совокупность всех слабо перемешивающих преобразований
есть множество второй категории; отсюда следует, что эргодические
преобразования тем более образуют множество второй категории. С по-
помощью приема, аналогичного использованному в доказательстве второй
теоремы о категориях, можно показать, что эргодические преобразо-
преобразования образуют множество, которое в смысле слабой топологии есть
всюду плотное Gs\ это заведомо проще, чем соответствующий резуль-
результат для слабо перемешивающих преобразований.
Теоремы о категориях часто используются как метод доказатель-
доказательства существования. Вторая теорема о категориях пс относится, конеч-
конечно, к числу подобных теорем: существование слабо перемешивающих
преобразований было использовано в пей в самом ходе доказательства.
Однако из совокупности обеих теорем о категориях вытекает существо-
существование преобразований, перемешивающих слабо, но не перемешивающих
сильно. Вторая теорема о категориях дает одновременно и доказатель-
доказательство гипотезы Г. Д. Биркгофа о том, что в некотором смысле эргодичес-
эргодические преобразования представляют собой общий случай.
Исторически вторая теорема о категориях предшествовала первой:
я доказал ее в работе, озаглавленной «Общее, сохраняющее меру пре-
преобразование есть перемешивание» (Ann. of Math., 1944, стр. 786). Пер-
Первая теорема о категориях и ее изящное доказательство были найдены

102 Категории
В. А. Рохлиным (ДАН СССР. 1948, стр. 349); его работа называется: «Об-
«Общее преобразование с инвариантной мерой не есть перемешивание».
Группе G был посвящен ряд дальнейших исследований. Отмечу, не
предрешая возможностей применения этих результатов, что, как дока-
доказал Харада (Harada, Japan Acad., 1951, стр. 523), группа G топологи-
топологически проста (т. е. она не имеет нетривиальных замкнутых нормальных
делителей) и линейно связна.

Инвариантные меры
Почти вес сказанное выше относилось к сохраняющим меру пре-
преобразованиям, теперь я хочу выяснить, сколь вероятно, что некоторое
преобразование является сохраняющим меру.
Предположим, как обычно, что X — пространство с мерой, т —
определенная па нем сигма-копечная мера и Г — определенное па X
измеримое преобразование; для простоты я предположу, что Т обра-
обратимо. Задача состоит в нахождении меры р, определенной на том же
классе измеримых множеств, что и га, и инвариантной относительно Т.
Такая формулировка задачи не вполне удовлетворительна. Каким
еще условиям, кроме инвариантности, должна удовлетворять мера р?
Тривиальным образом задача всегда разрешима: если р тождественно
равна нулю, то р является инвариантной мерой. Единственный эффек-
эффективный способ исключить этот крайний случай (и аналогичные ему
столь же неприятные случаи) — это предположить, чтор имеет не боль-
больше множеств меры нуль, чем мера то. Выражаясь точнее, л потребую,
чтобы мера то была абсолютно непрерывна по отношению к р, т. е. что-
чтобы т(Е) обращалась в пуль как только р{Е) = 0. Это уточнение задачи,
однако, все еще не вполне достаточно. Чтобы продемонстрировать име-
имеющиеся здесь трудности, примем за р(Е) число точек множества Е.
Ясно, что р — инвариантная мера и что то абсолютно непрерывна от-
относительно р. однако столь же ясно и то, что эта мера р опять-таки
является тривиальным решением задачи. Способ исключить такого ро-
рода р состоит в наложении на р требования сигма-конечности (подобно
сигма-конечности меры то). Еще более радикальный способ, разумеет-
разумеется, — потребовать, чтобы р была конечна.
Проблема инвариантной меры распадается на две части. Пусть да-
дано обратимое измеримое преобразование Т пространства X с сигма-ко-
сигма-конечной мерой т; при каких условиях существует конечная мера р, ин-
инвариантная относительно Т и такая, что то. абсолютно непрерывна по
отношению кр (проблема I)? При каких условиях существует сигма-ко-
сигма-конечная мера р, удовлетворяющая тем же условиям (проблема II)? Для

104 Инвариантные меры
решения этих проблем целесообразно свести их к некоторым связанным
с ними более специальным вопросам.
Прежде всего, я утверждаю, что меру та можно без умень-
уменьшения общности предполагать конечной. Действительно, предполо-
предположим, что {Еп} счетный класс попарно непересекающихся мно-
множеств, сумма которых равна X (такой класс существует в силу сиг-
сигма-конечности то), и пусть {сп} — соответствующая счетная систе-
система положительных чисел, такая, что ряд ^ спт(Еп) сходится. Если
Шо(Е) = ^спт{Еп П Е), то то конечная мера, эквивалентная т
(т.е. т и то имеют одни и тс же множества меры пуль). Поэтому ме-
мера т будет абсолютно непрерывна по отношению к р в том и только
в том случае, если такова будет мера то- Заменив т на то- я могу счи-
считать, что л и сделаю, меру т конечной; в дальнейшем л буду полагать,
что т(Х) = 1.
Преобразование Т мы предположили обратимым, по, естественно,
не считали его сохраняющим меру. Может даже случиться, что сущест-
существует измеримое множество Е меры нуль, длл которого т(Т~1Е) поло-
положительна (или положительная гп(ТЕ), или и то и другое). Преобразо-
Преобразование, для которого это имеет место, называется сингулярным; если
и гп(ТЕ) и тп(Т~1Е) равны нулю как только т{Е) равно нулю, то Т
называется несингулярным. Я утверждаю, что с точки зрения пробле-
проблемы инвариантной меры (в обоих ее вариантах) можно без ограничения
общности считать, что Т несингулярно.
Длл доказательства этого утверждения предположим, что {с„},
где п = 0, ±1, ±2, ..., такая последовательность положительных
чисел, что ^с„ = 1. Положим mo(-E) = Y^cnTn(TnE). Ясно, что то —
нормированная мера и т абсолютно непрерывна относительно то.
Я утверждаю, что если т абсолютно непрерывна по отношению к не-
некоторой инвариантной мере р, то тац тоже абсолютно непрерывна по
отношению к р. Действительно, если р(Е) = 0, то р(ТпЕ) = 0 для
всех п и, следовательно, т(ТпЕ) = 0 при всех п; отсюда следует, как
и утверждалось, что гпо(Е) = 0. Из этого замечания вытекает, что
проблема нахождения р при заданной мере тп равносильна нахожде-
нахождению р при заданной мере тоо- Однако если то(Е) = 0, то гпо(ТЕ) =
= то{Т~1Е) = 0; поэтому я могу, что я и сделаю, считать Т несингу-
несингулярным (по отношению к та).
Дважды изменив т, я добился конечности т и несингулярнос-
несингулярности Т. Мое третье и последнее замечание в этом плане состоит в том,

Инвариантные меры 105
что при отыскании инвариантной меры р можно ограничиться клас-
классом мер, эквивалентных та. Точнее говоря, я утверждаю, что ес-
если р — некоторая сигма-конечная инвариантная мера, по отношению
к которой т абсолютно непрерывна, то существует такая сигма-ко-
нсчная инвариантная мера ро, что та эквивалентна ро; при этом, ес-
если р конечна, то ро тоже конечна. Для доказательства этого найдем,
воспользовавшись теоремой Радона-Никодима, такую функцию /,
что та
(Е) = I f(x) dp(x) для каждого измеримого множества Е. (Вер-
но, хотя для нас и не существенно, что в силу конечности меры та
функция / принадлежит L\ по мерс р.) Если А = {х: f{x) = 0},
то т(А) = 0 и, следовательно, в силу несингулярности преобразова-
преобразования Т, также т(ТпА) = 0 при всех п (п = 0, ±1, ±2, ...). Если В —
сумма (по всем п) множеств ТпА, то В — измеримое инвариантное
множество и ш(В) = 0. Если ро(Е) = р(Е — В), то ро есть мера; ме-
мера ро так же как и р сигма-конечна, и ро инвариантна относительно Т.
Если ро(Е) = 0, то р(Е — В) =0 и, следовательно, гп(Е — В) = 0;
но поскольку т{Е — В) = т{Е) — т(Е П В) = т(Е). отсюда вытека-
вытекает, что т(Е) = 0. Обратно, если т{Е) = 0, то т(Е - В) = 0. Так
-В С Х-В С {х: /О)>0} и так как т(Е- В)= / f(x)dp(x),
Je-b
то р(Е — В) = 0 и, следовательно, ро(Е) = 0. Мы достигли намеченной
цели.
Проблема (или проблемы) инвариантной меры сведена теперь к сле-
следующей: дано некоторое обратимое, измеримое и несингулярное пре-
преобразование Т некоторого пространства с конечной мерой та, ищется
конечная (или, иначе, сигма-конечная) мера р, эквивалентная m и ин-
инвариантная относительно Т.

Инвариантные меры: решение
В некотором малопривлекательном смысле проблему инвариант-
инвариантной меры можно считать решенной. Чтобы уточнить, в каком именно
смысле, мне нужно ввести одно новое понятие. Пусть {?;} — некото-
некоторая бесконечная последовательность попарно непересекающихся мно-
множеств, сумма которых есть Е; пусть, далее, {Fj} — другая такая же
последовательность с суммой F, и пусть, наконец, {щ} — такая после-
последовательность целых чисел, что Tn'Ei = Fi. При этих условиях я буду
называть множества Е и F эквивалентными относительно счетного
разложения. (Ясно, что так определенное отношение действительно об-
обладает всеми свойствами эквивалентности.) Если мера р инвариантна
относительно Т, то р(Е) = p(F), как только Е и F эквивалентны.
По аналогии с дедскипдовским определением конечности я буду
говорить, что измеримое множество Е ограничено, если оно не эквива-
эквивалентно относительно счетного разложения никакому своему собствен-
собственному подмножеству; точнее, Е называется ограниченным, если каждое
его измеримое подмножество, эквивалентное Е относительно счетно-
счетного разложения, совпадает (с точностью до множества меры пуль) с Е.
Множество Е называется сигма-ограниченным, если оно представимо
как сумма счетного числа ограниченных множеств. Преобразование Т
называется ограниченным (или сигма-ограниченным), если все про-
пространство X ограничено (соответственно сигма-ограничено).
Если проблема инвариантной меры имеет решение р, то каждое
множество, имеющее конечную меру р, ограничено; следовательно, ес-
если р конечна, то Т ограничено, а если р сигма-конечна, то Т сигма-огра-
сигма-ограничено. Малопривлекательное решение проблемы инвариантной меры,
о котором я упоминал выше, состоит в том, что верно и утверждение,
обратное к только что высказанному: если Т ограничено, то существу-
существует конечная инвариантная мера, эквивалентная заданной, а если Т сиг-
сигма-ограничено, то существует сигма-конечная мера с теми же свойст-
свойствами. Для конечного случая это утверждение было доказано Э.Хопфом
(E.Hopf, Trans. Amcr. Math. Soc, 1932, стр. 373), а для сигма-копечпого
мною (Annals of Math., 1947, стр. 735).

Инвариантные меры: решение 107
Понятие неограниченности является своего рода обобщением по-
понятия сжимаемости.Точнее если Е сжимаемо, то Е неограничено.
Действительно, если Е С Т~1Е и m{T~lE - Е) > 0, то ТЕ С Е
и тп(Е - ТЕ) > 0 (вспомним, что Т предполагается несингулярным);
отсюда следует, что Т неограничено и, тем более, что Т неограничено.
Отсюда в свою очередь следует, что проблема инвариантной меры не
может иметь решения, если Т сжимающее преобразование. Предпо-
Предположим, что Т пссжимающсс, имеет ли проблема конечной инвариант-
инвариантной меры решение в этом случае? Этот вопрос считался нетривиаль-
нетривиальным. Он оставался открытым в течение пятнадцати лет. Этот вопрос
равносилен следующему: существует ли консервативное преобразова-
преобразование Т, для которого не существовало бы конечной инвариантной меры,
эквивалентной исходной? (Другие предположения также остаются в си-
силе: Т предполагается измеримым, обратимым и несингулярным, равно
как и консервативным.) В настоящее время известно, что ответ здесь
утвердительный и доказательство не сложно. Пусть Т — эргодическое,
сохраняющее меру преобразование па прямой. (Прямая, разумеется, не
является пространством с конечной мерой, но это не существенно: ле-
лебегова мера может быть заменена, если угодно, эквивалентной ей ко-
конечной мерой. Чтобы упростить рассмотрение этого примера, л не буду
делать такой замены.) Ясно, что Т измеримо, обратимо и несингулярно:
я докажу, что оно консервативно и что для пего не существует никакой
инвариантной конечной меры, эквивалентной исходной.
Если F некоторое измеримое множество, непересекающееся
с T~nF при п = 1, 2, 3, ..., то множества TnF попарно не име-
имеют общих точек (п = 0, ±1, ±2, ...). Если мера множества F по-
положительна, то существует такое измеримое подмножество G С F.
что 0 < m{G) < m(F). Сумма всех TnG, п = 0, ±1, ±2, ..., представ-
представляет собой нетривиальное инвариантное множество; это противоречит
эргодичности Т, следовательно, Т действительно консервативно.
Предположим теперь, что р — некоторая конечная инвариант-
нал мера, эквивалентная то. В силу теоремы Радона -Никодима су-
существует такая неотрицательная интегрируемая по m функция /,
что р(Е) = I f(x) dm(x) для всякого измеримого Е. Отсюда следу-
Je
ет, что р(ТЕ) = I f(Tx) dm(x); отсюда и из инвариантности меры р
JE
я заключаю, что / должна быть инвариантна (почти всюду) относи-

108 Инвариантные меры: решение
тельно Т. Но тогда из эргодичности преобразования Т следует, что /
постоянна (почти всюду); так как / интегрируема по мере Лебега на
всей прямой, то / должна быть почти всюду равна пулю. Но тогда ме-
мера р тождественно равна нулю в противоречие с предположением об
эквивалентности р и т.
Приведенное выше доказательство не использует понятия ограни-
ограниченности. Причина, по которой «решение» проблемы инвариантной ме-
меры в терминах этого понятия является неудовлетворительным, состоит
в том, что не видно каких-либо путей использования этого понятия. Со-
Содержательность относящейся сюда теоремы Хопфа (т.е. существование
преобразований, нетривиальным образом неограниченных) сама по се-
себе была доказана с использованием понятия конечной инвариантной
меры. Что касается моей теоремы по этому поводу, то ее содержатель-
содержательность пока не установлена; возможно, что всякое измеримое, обрати-
обратимое и несингулярное преобразование сигма-ограничено; мне кажется,
что эта гипотеза неверна; представляется весьма вероятным, что су-
существуют преобразования, не являющиеся сигма-ограниченными. Од-
Однако, поскольку я не верю, что понятие ограниченности может явиться
инструментом для решения рассматриваемой нами проблемы, я не бу-
буду тратить время на доказательство двух упомянутых теорем, связан-
связанных с этим понятием. Вместо этого я займусь тем, что сформулирую
нашу нерешенную проблему в двух или трех более обнадеживающих
вариантах.

Инвариантные меры: проблема
Первая (и наименее интересная) переформулировка проблемы ин-
инвариантной меры состоит в следующем: существуют ли вполне неогра-
неограниченные преобразования? (Под вполне неограниченным преобразова-
преобразованием я понимаю такое преобразование, для которого пс существует
ограниченных множеств положительной меры.) Чтобы доказать экви-
эквивалентность этого вопроса проблеме инвариантной меры, я буду рас-
рассуждать следующим образом. Сигма-ограниченное преобразование за-
заведомо не является вполне неограниченным; следовательно, если бы
было верно, что всякое преобразование сигма-ограпичепо, то вполне
неограниченных преобразований не могло бы существовать. Наоборот,
предположим, что существует некоторое преобразование, не являюще-
являющееся сигма-ограниченным; я утверждаю, что в этом случае существует
такое инвариантное множество положительной меры, па котором это
преобразование вполне неограничено. Действительно, в противном слу-
случае каждое инвариантное множество положительной меры содержало
бы ограниченное множество положительной меры. Отсюда и из того
факта, что заданная мера сигма-конечна, легко получаем методом ис-
исчерпывания, что рассматриваемое преобразование сигма-ограпичепо.
Более перспективной переформулировкой проблемы инвариантной
меры является сведение се к решению некоторого функционального
уравнения. Предположим, как и выше, что Т несингулярно; согласно
теореме Радона-Никодима, существует такая положительная измери-
измеримая функция w, что т(ТЕ) = I w(x) dm(x) для каждого измеримо-
JE
го Е. Функцию w естественно назвать якобианом преобразования Т;
она играет для Т ту же роль, что и абсолютная величина якобиана для
дифференцируемых преобразований евклидова пространства. Преобра-
Преобразование Т является сохраняющим меру в том и только в том случае,
если w имеет почти всюду постоянное значение 1.
Если р сигма-конечная, инвариантная мера, эквивалентная т.
то существует такал положительная измеримая функция /, что
т(Е) = / f(x) dp{x). Отсюда получаем т(ТЕ) = / f(Tx) dp(x); в то
JE JЕ

110 Инвариантные меры: проблема
же самое время из полученного выше равенства с якобианом вытекает,
что т(
(TE) = / w(x)f(x) dp(x). Отсюда следует, что f(Tx)=w(x)f(x)
Je
почти всюду. Обратно, допустим, что это функциональное уравне-
уравнение имеет положительное измеримое решение, и положим р(Е) =
= I dm{x). Ясно, что р — сигма-конечная мера, эквивалент-
эквивалентов /(я)
пая т; далее, так как
р(ТЕ) = у (j±_) drn(Tx) = I д^Ч'*) dm{Tx) = р(Е),
Е Е
то мера р инвариантна.
Интересно отметить, что положительное (но не обязательно изме-
измеримое) решение полученного функционального уравнения существует
всегда. Все, что нужно сделать для нахождения такого решения — это
на каждой траектории задать /(ж) произвольно в одной точке х, а за-
затем определить значения / в точках, являющихся последовательными
образами точки х, с помощью функционального уравнения. Если Т со-
сохраняет меру (в этом случае, конечно, нет никакой необходимости рас-
рассматривать функциональное уравнение), паше уравнение превращается
в f(Tx) = /(ж), т.е. в уравнение инвариантной функции, и всякая по-
положительная константа является допустимым его решением. В общем
случае произведение какой-либо инвариантной функции на решение на-
нашего функционального уравнения есть другое его решение, и каждое
такое решение может быть получено из некоторого частного решения
путем умножения его на соответствующую инвариантную функцию.
Существование вполне неограниченных преобразований и разре-
разрешимость вышеуказанного функционального уравнения — это две пере-
переформулировки пашей основной проблемы. Я перейду теперь к струк-
структурной теореме, дающей способ построения произвольного непатологи-
непатологического преобразования с помощью таких преобразований, для которых
проблема инвариантной меры тривиальным образом разрешима.
Существуют два класса преобразований, особенно простых с точ-
точки зрения вопроса о нахождении инвариантной меры. Один из них —
это сохраняющие меру преобразования; для них проблемы просто нет.
Другой — это класс простых преобразований; преобразование называ-
называется простым, если для него существует такое измеримое множест-
множество Е, что все его образы ТпЕ 0, ±1, ±2, ... попарно не пересекаются,

Инвариантные меры: проблема 111
а на дополнении суммы этих образов преобразование Т сводится к тож-
тождественному. (Другими словами, преобразование Т — простое, если его
несжимающал, или консервативная, часть есть тождественное преоб-
преобразование.)
Теорема о факторизации. Каждое измеримое, обратимое и не-
несингулярное преобразование Т единичного отрезка представимо в виде
произведения Т = PS, где Р сохраняет меру, a S — простое преобра-
преобразование.
Доказательство.
Для каждого х из [0, 1] положим Sx = т(Т[0, х\). Ясно, что
5 — монотонная неубывающая функция, удовлетворяющая услови-
условиям 50 = 0, 51 = 1. Если а ^ b к Su = Sb, то m(T{a, b]) = 0. Но
тогда т((а, Ь]) = 0, т. с. а = b и, следовательно, 5 строго возрастает.
Если числа хп стремятся к х'о сверху, то множества [0, хп] образу-
образуют убывающую цепочку и их пересечение равно [0, хо]. Отсюда следует,
что 5 непрерывна справа. Если же хп стремятся к жц снизу, то множес-
множества [0, хп] образуют возрастающую цепочку и их сумма есть [0, жо);
отсюда вытекает непрерывность 5 слева. Итак 5 есть гомсоморфпос
отображение отрезка на себя; отсюда автоматически вытекает, что 5 —
обратимое и измеримое (по Борслю) преобразование.
Из равенств тоE[0, x]) = Sx = m(T[0, х]) легко вытекает,
что m(SE) = m(TE), если Е — какой-либо интервал (с концевыми
точками или без них) и, следовательно, m(SE) = m(TE) для лю-
любого борелевского множества Е. (Отсюда легко получить, что S не-
несингулярно. Верно также, что S измеримо как в лебеговском смыс-
смысле, так и в борелевском смысле. Мне эти факты не понадобятся.) Ес-
Если Р = Т5, то Р — обратимое измеримое преобразование. Так
как m(PE) = miTS'^E) = m(SS~1E) = m{E), то Р сохраняет ме-
меру; остается доказать, что преобразование S — простое.
Единичный отрезок есть сумма трех множеств {ж: Sx = х\,
{х: Sx < х} и {х: Sx > x}, причем каждое из двух последних, будучи
открытым, представляет собой сумму не более чем счетного числа от-
открытых интервалов, концевые точки которых принадлежат первому из
указанных множеств. Если 5а < а, то последовательные образы1 интер-
интервала (Sa, а] попарно не пересекаются и в сумме исчерпывают один из
1При всех степенях преобразования S. — Прим. перев.

112 Инвариантные меры: проблема
открытых интервалов, составляющих {х: Sx < х}. В каждом из откры-
открытых интервалов каждого из двух множеств {ж: Sx < х} и {ж: Sx > х}
можно найти такой производящий подынтервал. Ясно, что сумма таких
производящих подынтервалов есть блуждающее множество, последова-
последовательные образы которого исчерпывают всю сжимаемую часть интер-
интервала. Тем самым доказательство теоремы о факторизации закончено.
Что можно сказать о якобианах тех типов преобразований, для ко-
которых проблема существования инвариантной меры все еще остается
открытой? Некоторую негативную информацию дает здесь следующая
теорема.
Теорема об якобиане. Если Т — измеримое обратимое несингу-
несингулярное и несжимающее преобразование пространства X с сигма-конеч-
сигма-конечной {но не обязательно конечной) мерой т и если т(ТЕ) ^ т(Е) для
каждого измеримого Е, то Т сохраняет меру.
Доказательство.
Если Т не сохраняет меру, то существует такое измеримое
множество Е, что m(TE) < m,(E) < ос. При х ? Е обозна-
обозначим через п(х) наименьшее в тех целых положительных чисел п,
для которых Тпх ? Е. Заметим, что в силу теоремы о возвраще-
возвращении п{х) конечно (почти всюду) на Е. Положим Xf.={:r; ? Е: п(х)=к}
оо к — 1 оо к — 1 оо
и F= U U Т*Хк. Получаем TF= (J \J TlXk U (J TkXk CFUE=F
k—l i=0 к—l г=1 к—\
оо
и F—TF=E— (J ТкХк. Поскольку из предположения относительно Е
вытекает, что тп{ТкХи) < тп{Хи) по крайней мере для одного значе-
ос
ния к, получаем, что m(F — TF) > m{E) — J^ rn(Xu) = 0 и, следова-
к-1
тельно, что Т сжимающее. (Идея этого доказательства была подсказана
мне Д. С. Орнстейном.)
Из этой теоремы вытекает, что якобиан представляющего интерес
преобразования не может быть тождественно равен константе мень-
меньшей 1. Другими словами, не представляют интереса ни равномерно
сжимающие меру преобразования, пи (переход к Т^1) равномерно раз-
раздувающие ее.

Обобщенные эргодические теоремы
Первое обобщение, которое я собираюсь изложить, — это так на-
называемая вероятностная эргодическая теорема (см. Pitt, Proc. Carnb.
Phil. Soc, 1942, стр. 325 и Ulam and von Neumann, Bull. Amcr. Math.
Soc, 1945, стр. 660). Простейший пример такого рода теорем можно
получить, рассмотрев два сохраняющих меру преобразования S и Т
(на одном и том же пространстве X) и изучив поведение последова-
тельностей вида < ^ ^ f(Qjx) >, где каждое Qj получается из пред-
з=о *
шествующего ему умножением на S или на Т. Если каждый раз этот
сомножитель «выбирается случайно», то становится осмысленным во-
вопрос о вероятности того, что такал последовательность сходится почти
всюду.
Корректный способ построения математической модели для бес-
бесконечной последовательности случайных выборок (из двух, или, ес-
если угодно, из любого числа объектов) достаточно хорошо известен.
Пусть Y — пространство с вероятностной (т. е. нормированной) ме-
мерой, и пусть Y* — пространство всех последовательностей (скажем,
односторонних) элементов из Y, снабженное мерой, построенной как
бесконечное произведение (обозначим ее р). Предположим теперь, что
каждой точке у ? Y отвечает обратимое сохраняющее меру преоб-
преобразование Ту пространства X с мерой то. Пусть у* = {уп} ? Y*
(п = 0,1,2,...), обозначим Ту* произведение ТУк ТУк _г... ТУ1 Туо.
Здесь к = 1, 2, ...; при к = 0 определим Ту. , положив Ту. = Ту.
Если / — некоторая комплексная функция на X, то при каждом фик-
фиксированном у* имеет смысл спрашивать, сходится ли почти всюду по-
последовательность < — У~] f(T}ix) >, а также спрашивать, какова мера
t j=o у >
множества тех у*, для которых имеет место сходимость почти всюду.
Построение последовательности {Ту, } можно описать и иначе. Ес-
Если S сдвиг (односторонний) в Y*, то ТУк = Tyo(Sky*y Другими ело-

114 Обобщенные эргодические теоремы
вами, если л полагаю Т*, = Туо, то ТУк = Т^к , и, следовательно,
±у* - Js*j,*Js*-v ••• 1sV'1y
при fe = 1, 2, .... (Как и раньше, Т^, = Т*, = ТУо.) С этой точки зрения
конструкция пространства У* представляется излишне специальной:
она используется лишь для определения сохраняющего меру преобра-
преобразования S. (Я мог бы получить тот же самый результат, относящийся
к обратимому преобразованию S, просто рассмотрев пространство дву-
двусторонних последовательностей.) Если л забуду о происхождении про-
пространства У* (и если, для упрощения записи, я буду обозначать его,
начиная с этого момента, У), то я приду, в конце концов, к следующе-
следующему точному обобщению того результата, который не вполне отчетливо
был сформулирован выше. Пусть X и У — пространства с нормирован-
нормированными мерами тп и р соответственно. Пусть S — некоторое сохраняющее
меру преобразование пространства У, а Ту, при каждом у ? У, со-
сохраняющее меру преобразование пространства X. Предположим, что
семейство {Ту} измеримо, в том смысле, что отображение (X х Y в X),
переводящее (ж, у) в Тух, представляет собой измеримое преобразова-
преобразование. Полагаем T*f] = Ту и Т^к) = TSkyTSk-iy .. .TSyTy при к ^ 1.
Вероятностная эргодическая теорема. Если / интпегрируе-
мая функция на X, то для почти всех у средние ^ ^ f(Tyx) сходятся
почти всюду; предельная функция f* интегрируема.
Доказательство.
Я докажу больше, чем необходимо; это «больше» само по себе пред-
представляет довольно интересное обобщение вероятностной эргодической
теоремы. Рассмотрим преобразование Q пространства X х У, опре-
определенное формулой Q(x, у) = {ТуХ, Sy). Из предположения об изме-
измеримости семейства {Ту} следует, что Q измеримо и сохраняет меру.
Действительно, оно представляет собой декартово произведение двух
преобразований: A) преобразования (X х У в X), переводящего (х. у)
в ТуХ, и B) преобразования (X х Y в У), переводящего (х, у) в Sy. Из
эргодической теоремы вытекает, что если g интегрируемая функ-
га-1
ция на X х У, то ^ JZ g{Q3(x, у)) сходится почти всюду к некоторо-
некоторого
му конечному пределу g*(x, у); предельная функция g* интегрируема

Обобщенные эргодические теоремы 115
и / / g*(x, у) dm(x) dp(y) = g(x, у) dm(x) dp(y). Это и есть обещан-
обещанная прибыль; отсюда приведенная выше формулировка вероятностной
эргодической теоремы получается как следствие.
Заметим (воспользовавшись несложной индукцией), что Qk(x. у) =
= (Ту ~ х. Sky), k = 1, 2, Если g определяется равенством g(x. у) =
= f(x), то g{Qk{x, у)) = f(Ty ~ 'х). Все доказано; в качестве «сверхпри-
«сверхприбыли» я получаю, что / f(x)dm(x) = f*(x)dm(x)dp(y) (где смысл
символа /* очевиден).
Нетривиальным вопросом, связанным с этим кругом идей, явля-
является вопрос об эргодических и перемешивающих свойствах вспомога-
вспомогательного преобразования Q. В некоторых частных случаях эргодич-
эргодичность преобразования Q может быть охарактеризована непосредствен-
непосредственно в терминах преобразований 5 и {Ту}; общая проблема остается от-
открытой. (См. Kakutani. Berkeley Symposium. 1951, стр. 247, и Gladysz.
Bull. Polon., 1954, стр. 411).
Метод доказательства вероятностной эргодической теоремы
(т.е. рассмотрение косых произведений преобразований, аналогич-
аналогичных Q) имеет и другие применения. Вот пример: если S — сохра-
сохраняющее меру преобразование пространства Y и если q — некоторая
измеримая функция, равная по абсолютной величине единице, то моди-
фицироваппые средние =-t 2 ( П i(S'y))f{SJy) сходятся почти всю-
ду к некоторому конечному (на самом деле интегрируемому) пределу
в предположении, что заданная функция / интегрируема па Y). Что-
Чтобы доказать это, примем за X окружность (с нормированной лебегов-
ской мерой) и положим Тух = q(y)x при каждом у ? Y. Условия ве-
вероятностной эргодической теоремы выполнены. Если g(x, у) = xf(y),
n-l
то, по эргодической теореме, j- ^ g(Qt(x, у)) сходится почти всюду
к некоторому конечному пределу g*(x, у): предельная функция g* ин-
интегрируема на X х Y. (Преобразование Q определяется, естественно,
формулой Q(x, у) = (Тух, Sy) = {q{y)x, Sy). Так как
П—1 72—1
1 ^"^ (nil \\ — 1 \^ ( ТТ
п 2-i g\" ^' У>) ~ п 1^1 \ 11
3=0 3=0 0^i<;

116 Обобщенные эргодические теоремы
то для почти каждого х сходимость имеет место почти всюду по у. Для
завершения доказательства остается найти какое-либо «хорошо ведущее
себя» значение х и разделить на него.
Вот еще один результат такого же типа: если X. Y, S и / определе-
1 ™-'i .
ны, как и выше, то для каждого с ? X средние щ ^ с? f(S3y) сходятся
з=о
для почти всех у ? Y. Для доказательства этого рассмотрим преобра-
преобразование Q на X х Y, определенное равенством Q(x, у) = (ex, Sy). Ес-
Если g(x, у) = xf(y), то g(Qn(x, у) = g{cnx, Sny) = cnxf(Sny) — конец
доказательства очевиден. Попутно заметим, что средние ^ ^ xJ f(SJy)
i=o
для почти всех пар (ж, у) стремятся к конечному пределу. Для доказа-
доказательства этого рассмотрим преобразование Q пространства X х Y х X,
определяемое формулой Q(x, у, z) = (х, Sy, xz). и заметим, что ес-
если g(x, у, z) = zf(y), то g(Qn(x, у, z)) = xnzf(Sny). Самый сильный
результат этого рода был анонсирован Винером и Винтнером (Amer. J.
of Math., 1941. стр. 794); они утверждают, что существует такое мно-
множество Е С Y, имеющее меру нуль, что если у не принадлежит Е,
то ^ ^ х3f(S3y) сходится для всех х. Я никогда не мог понять их
i=o
доказательства.
Третье направление обобщений было впервые указано Гуревичем
(Hurewicz. Annals of Math., 1944, стр. 195); этот результат относится
к асимптотическому поведению преобразований, не обязательно сохра-
сохраняющих меру. Если (как и обычно) мы ограничимся рассмотрением об-
обратимых измеримых преобразований Т, то едва ли мы ограничим общ-
общность, считал, то Т является несингулярным и несжимающим. Соот-
Соответствующая редукция довольно подробно обсуждалась в предыдущих
параграфах, посвященных проблеме инвариантной меры. Даже если мы
не будем считать здесь эту редукцию вполне убедительной, несомненно
то, что самая общая из известных эргодических теорем легко вытекает
из теоремы средней общности, которую л сейчас изложу, т. е. из тео-
теоремы для обратимых измеримых несингулярных несжимающих преоб-
преобразований.
Положим, как мы уже это делали выше, drnT = wdrn (т.е.
m
(ТЕ) = I w (x) dm (x)). Отсюда сразу получаем, что dm Tn = wn dm,
Je

Обобщенные эргодические теоремы 117
где wn (х) = П w (TJ'x), n = 1, 2, ....
Теорема. ??сди / интегрируема, то взвешенные средние
п — \ п—\
/
/
сходятся почти всюду к конечному пределу f*(x); предельная функ-
функция /* интегрируема.
Здесь мера т может быть бесконечна: если предполагается, что
она конечна, то / f(x) dm(x) = j f*(x) dm(x). Доказательство этого ре-
результата отличается от доказательства теоремы Биркгофа лишь в мало-
малоинтересных деталях. Компактное доказательство можно найти в моей
заметке на эту тему (Pi-ос. Nat. Acad. Sci., 1946, стр. 156). До тех пор
пока проблема инвариантной меры остается нерешенной, это направле-
направление в обобщении эргодических теорем не внушает доверил; насколько
известно, оно не применимо ни в одном случае, который не охватывался
бы непосредственно теоремой Биркгофа.
Три указанные выше обобщения могут быть соединены вместе. Су-
Существуют вероятностные эргодические теоремы, модифицированные
с помощью функционального множителя q при наличии инвариантной
меры, существуют и аналогичные модификации эргодических теорем
без предположения инвариантности меры; я не сомневаюсь, что должны
существовать и легкодоступные модификации вероятностной эргоди-
ческой теоремы без предположения инвариантности меры. Вдаваться
в подробности здесь я не буду.

Нерешенные проблемы
1. Поскольку физики заинтересованы в замене фазовых средних
временными и поскольку эргодическая теорема, по-видимому, разре-
разрешает это делать, первоначально результат Биркгофа был объявлен па-
панацеей от всех болезней статистической механики. Вскоре, однако, об-
обнаружилось, что одна проблема просто заменилась другой: вместо то-
того чтобы решать, можно ли фазовые средние заменить временными,
физик должен теперь решать, будет ли заданное преобразование эрго-
дическим. Уже по одной этой причине было бы интересно получить
какие-либо подходящие теоремы, которые гарантировали бы, при опре-
определенных условиях, эргодичность того или иного сохраняющего меру
преобразования; никаких общих результатов такого рода не известно.
2. Теорема о возвращении и эргодическая теорема указывают
на то, что если Т — сохраняющее меру преобразование и / — интег-
интегрируемая функция, то почти все последовательности {f(Tnx)} «рекур-
рентны» в некотором смысле, который мы не уточняем. Можно ли ввес-
ввести понятие рекуррентности для последовательностей действительных
чисел так, чтобы для последовательности {ап}, рекуррентной в этом
п-1
смысле, средние — ^ а3- стремились бы к некоторому конечному пре-
п-1
делу и так, чтобы для сохраняющего меру Т и интегрируемой / после-
последовательность {f(Tnx)} была рекуррентна почти всюду?1
3. Нерешенной алгебраической проблемой эргодической теории яв-
является проблема сопряженности; когда два преобразования сопряжены
между собой? Такая постановка вопроса, конечно, слишком неопреде-
неопределенна, однако имеется несколько относящихся сюда интересных и впол-
вполне конкретных вопросов, па которые можно ответить «да» или «пет»
и которые следовало бы решить. (Общая проблема, быть может, и не
будет решена; не вполне ясно даже, что она собой представляет.) Вот не-
некоторые примеры, (а) Существуют ли пространства, не изоморфные
1Рсшснис этой задачи см. в работе Ф.В.Широкова «Решение одной задачи Хал-
моша», Успехи матем. наук. — Прим. перев.

Нерешенные проблемы 119
в смысле теории меры и такие, что построенные с их помощью сдвиги
сопряжены между собой? (б) Существуют ли эквивалентные, но не со-
сопряженные между собой эргодическис преобразования с непрерывным
спектром? (в) Существуют ли сопряженные между собой эргодичес-
кие автоморфизмы некоторой компактной группы, не принадлежащие
в группе автоморфизмов рассматриваемой группы одному и тому же
классу сопряженных элементов?1
4. Проблема квадратного корня остается по существу открытой,
как, само собой разумеется, и более общая проблема корпя n-й степени
и проблема включения автоморфизма в поток. Когда существует квад-
квадратный корень из сохраняющего меру преобразования? Более частный
вопрос: из всякого ли преобразования с непрерывным спектром можно
извлечь квадратный корень? Можно ли извлечь квадратный корень из
любого сдвига?
5. Какие унитарные операторы порождаются сохраняющими ме-
меру преобразованиями? Предположим, чтобы рассмотреть конкретный
частный случай, что векторы g и fcj образуют полную ортогональную
нормированную систему в гильбертовом пространстве, % = 1, 2, ... , п;
j = О, ±1, ±2, ... и что U — унитарный оператор, определенный усло-
условиями Ug = g и Ufi.j = fi,j+i- Существует ли сохраняющее меру пре-
преобразование Т пространства с конечной (!) мерой, порождающее уни-
унитарный оператор, эквивалентный [/?
6. Теорема Лиувилля утверждает существование инвариантной
меры; ее следовало бы включить в соответствующую общую концеп-
концепцию. Сам по себе рассматриваемый вопрос есть, конечно, вопрос об
инвариантной мере; его видимая неприступность крайне досадна. Прос-
Простейший вопрос, допускающий ответ «да» или «нет», был сформулирован
выше следующим образом: если Т — измеримое, обратимое и несингу-
несингулярное преобразование некоторого пространства с заданной в нем ме-
мерой т, то существует ли сигма-копечпая мера, эквивалентная m и ин-
инвариантная относительно Г? Этот же вопрос можно поставить в тео-
теоретико-групповой форме: отдельное преобразование можно рассматри-
рассматривать как образующий элемент циклической группы. Что можно сказать
в случае абелевых групп более общего вида? Что относительно групп,
не обязательно коммутативных?
1В настоящее время получен положительный ответ на все эти три вопроса. —
Прим. перев.

120 Нерешенные проблемы
За исключением нескольких тривиальных замечаний, которые
можно сделать по поводу компактных абелевых групп, известно лишь
(von Neumann, Annals of Math., 1940, стр. 94), что ответ на вопрос
о существовании эквивалентной инвариантной меры (для произволь-
произвольных групп) может быть иногда отрицателен. Когда он положителен?
7. Функциональные уравнения типа f(Tx) = w(x)f{x) встречают-
встречаются в теории инвариантной меры; они же, в совсем иной ситуации, встре-
встречаются при рассмотрении обобщенных собственных значений. (Функ-
(Функция w задана, функция / неизвестна.) Систематический подход к их из-
изучению крайне необходим. Вот простейший вопрос, на который можно
ответить «да» или «нет»: существует такое сохраняющее меру преобра-
преобразование Т неатомического пространства с конечной мерой, для которо-
которого это функциональное уравнение имеет измеримое решение / (по абсо-
абсолютной величине тождественно равное 1) для каждой измеримой функ-
функции w (по абсолютной величине тождественно равной 1)?
8. В надежде решить проблему сопряженности время от времени
предлагались тс или иные инварианты преобразований. Одним из оче-
очевидных инвариантов такого рода является класс инвариантных подал-
подалгебр алгебры с мерой. Если В — алгебра с мерой, отвечающая данному
пространству с мерой X, и если Т — автоморфизм алгебры В, порож-
порожденный сохраняющим меру преобразованием пространства X, то подал-
подалгебра -Вц С -В называется инвариантной относительно Т, если ТЕ ? Во,
как только Е ? Во. (Здесь «подалгебра» понимается как «сигма-подал-
«сигма-подалгебра».) Какие имеются возможности для нетривиальных инвариант-
инвариантных подалгебр? Точнее: пусть X — пространство двусторонних после-
последовательностей элементов { — 1, 1} и Г — автоморфизм, порожденный
двусторонним сдвигом. Пусть, далее, Bq — совокупность всех «симмет-
«симметричных» измеримых множеств (или, вернее, совокупность всех классов
эквивалентности таких множеств по модулю множеств меры нуль): при
этом множество Е называется симметричным, если {— хп} ? Е, как
только {хп} G Е. Подалгебра Bq инвариантна относительно Т; сущест-
существуют ли здесь какие-либо другие инвариантные подалгебры?
9. Любопытный инвариант получается из рассмотрения автомор-
автоморфизмов компактных абелевых групп. Пусть X — тор и Г — его ав-
автоморфизм, определяемый упимодулярпой матрицей М = ( а ^ ). Обо-
Обозначим через к след матрицы М, т.е. к = а + d, и предположим,

Нерешенные проблемы 121
для простоты, что детерминант М равен +1. Из того, что М (а так-
также и транспонированная матрица М') удовлетворяет уравнению Га-
мильтона-Кэли (М2 — кМ + 1 = 0), следует, что если / — характер
группы X, то (U2f) • (U ¦ f)~k • / = 1. (Здесь U, конечно, означает
унитарный оператор, порожденный Г.) Существование или несущест-
несуществование характеров /, удовлетворяющих подобным тождествам, есть
инвариант преобразования Т. Вот, например, постановка задачи: ес-
если N — другая унимодулярная матрица, определяющая другой авто-
автоморфизм S, причем М и N имеют разные характеристические уравне-
уравнения, и если V — унитарный оператор, порожденный S, то существует
ли отличная от константы функция /, равная по абсолютной величине 1
и такая, что (У2/) • {Vf)~k • / = 1?
10. В. А. Рохлин (Известия АН СССР, 1949, стр. 329) пред-
предложил, в качестве инварианта, понятие г-кратного перемешивания.
Пусть г — целое положительное число, г = 1,2,3,...; рассмотрим
упорядоченные системы К, состоящие из г + 1 неотрицательных це-
целых чисел: К = (к0, ... , кт). (Среди этих к{ могут быть и сов-
совпадающие.) Определим протяженность К (символ я(К)) как мини-
минимум из всех разностей \ki — kj\, где г, j = 0, ... , г и, конечно,
i ф j. Бесконечная последовательность {К(п)\ таких (г + 1)-сис-
тем, К(п) = (ко(п), ... , кг(п)), называется допустимой, если з(К(п))
стремится к бесконечности вместе с п. Преобразование Г назы-
называется /--кратно перемешивающим, если для каждой упорядоченной
(г + 1)-систсмы измеримых множеств (Ео, .... Ег) и для каждой до-
допустимой последовательности {К(п)} верно, что m,^f]Tk'^Ei) стре-
г г=0
мится, при п -> оо, к П m(Ei). Пока еще не установлено, что этот ин-
вариант дает возможность различить какие-либо два преобразования:
Рохлин установил, что любой эргодический автоморфизм компактной
абелевой группы является r-кратно перемешивающим при всех г. Во-
Вопрос: существует ли перемешивающее (т. с. однократно перемешиваю-
перемешивающее) преобразование, которое не было бы двукратно перемешивающим?

Некоторые новые проблемы и результаты
эргодической теории
С. В.Фомин
За время, прошедшее после выхода в свет книги Халмоша, в теории
динамических систем был получен ряд новых результатов, которые,
в свою очередь, вызвали появление новых проблем. Кроме того, как
уже отмечалось в предисловии, Халмош не упомянул и о некоторых
более старых результатах, заслуживающих, на наш взгляд, внимания.
Ниже мы изложим некоторые результаты, относящиеся к спектральной
теории динамических систем, не вошедшие в книгу Халмоша.
Нормальные динамические системы
Теоремы Халмоша и Рохлина о категориях (см. стр. 98 и след.) по-
показывают, что динамические системы со слабым перемешиванием, но
без сильного, образуют в пространстве динамических систем множес-
множество второй категории. Так как системы, имеющие стандартный спек-
спектральный тип п. с любым конечным или бесконечным п1 (определе-
(определение см. на стр. 70) обладают сильным перемешиванием (доказатель-
(доказательство этого факта см.. например, в [1]), то отсюда следует, что эрго-
дические динамические системы с непрерывным, но не лебеговским
спектром существуют и даже образуют множество второй категории.
Однако простейшие примеры систем с непрерывным спектром имеют
именно лебеговский спектр. Индивидуальные примеры динамических
систем с непрерывным не лебеговским спектром были найдены лишь
в 1950 г. [2]. Они строятся следующим образом. Пусть X пространст-
пространство двусторонних последовательностей {хп} действительных чисел (п =
= 0, ±1, ±2, ...), а Г — сдвиг в этом пространстве (т. е. Т{хп} = {//„},
где уп = xn+i). Определим меру р, в пространстве X, положив, что
1Такой спектр называется обычно лебеговским, так как в этом случае соответ-
соответствующие спектральные типы эквивалентны обычной лебеговской мере на прямой.
В дальнейшем мы будем пользоваться этим общепринятым термином.

С.В.Фомин. Некоторые новые проблемы и результаты 123
всякое множество А, определяемое системой неравенств
о-k ^ хпн ^Ьк {к = 1, 2, ... , г)
(где rii, ... , пг — заданные целые числа, а& и Ь& — заданные действи-
действительные числа), измеримо и
Ь,.
= q J ... J
где Q фиксированная положительно определенная квадратичная фор-
форма, зависящая только от набора индексов щ, .... пг, ад — число,
определяемое из соотношения fi(X) = 1. Эта мера /i при соответ-
соответствующих условиях на Q будет инвариантна относительно сдвига Т,
а также будет удовлетворять соответствующим условиям согласован-
согласованности, при которых она может быть продолжена, по известной теореме
А.Н.Колмогорова [3]. с множеств указанного выше специального вида
на борелевское замыкание совокупности таких множеств. Таким обра-
образом, мы получаем в пространстве X динамическую систему с инвари-
инвариантной мерой /I. Такие системы называются нормальными динамичес-
динамическими системами. С тсорстико-всроятпостпой точки зрения нормальная
система представляет собой не что иное, как гауссовский стационарный
процесс с дискретным временем. Как известно, гауссовский стацио-
стационарный процесс (т. е. мера //) однозначно определяется корреляционной
последовательностью
В {к) = / хохк d/i (к = 0, ±1, ±2, ...).
х
В(к) представляет собой положительно определенную последователь-
последовательность; обратно: всякая положительно определенная последовательность
служит корреляционной последовательностью для некоторой меры. По-
Последовательность В{к) можно представить, по теореме Бохнера, в виде
7Г
В(к) =
где Ф(А) — (непрерывная слева) функция распределения, постоян-
постоянная вне отрезка —тг ^ А ^ тг и удовлетворяющая соотноше-
соотношению Ф(А) — Ф(+0) = Ф@) — Ф(—А + 0), вытекающему из вещественнос-
вещественности чисел В(к).

124 С.В.Фомин. Некоторые новые проблемы и результаты
Функция Ф(А) называется спектральной функцией гауссовской ин-
инвариантной меры //,. Она полностью определяет меру ц, а следовательно,
и соответствующую нормальную динамическую систему. В частнос-
частности, Ф(Л) определяет вес спектральные свойства системы. Если Ф(Л)
непрерывна, то соответствующая нормальная динамическая система
эргодична и имеет непрерывный спектр. Полное восстановление спект-
спектра системы по заданной Ф(Л) представляет значительные трудности.
Исчерпывающим образом удается описать лишь все возможные макси-
максимальные спектральные типы. Максимальный спектральный тип всякой
нормальной динамической системы обладает тем свойством, что сверт-
свертка его с самим собой ему подчинена. Кроме того, он является четным,
т.е. симметричен относительно точки Л = 0. (Этим последним свойст-
свойством обладают все спектральные типы любой динамической системы.)
Оказалось, что каков бы ни был спектральный тип, обладающий этими
двумя свойствами, существует нормальная динамическая система, для
которой он служит максимальным типом. Отсюда видно, что, помимо
лебеговского непрерывного спектра, с помощью нормальных динами-
динамических систем можно получить и другие спектральные типы.
Хотя полный анализ спектра нормальной динамической систе-
системы представляет собой весьма трудную задачу, в некоторых случа-
случаях ее можно довести до конца. В частности, как показал недавно
И.В.Гирсанов [4], можно построить нормальную эргодическую дина-
динамическую систему с непрерывным простым спектром. Для этого нужно
рассмотреть меру с такой спектральной функцией, точки роста кото-
которой образуют совершенное множество (лебеговской меры пуль), между
элементами которого нет нетривиальных целочисленных соотношений.
Тем самым получено положительное решение давно поставленного во-
вопроса о существовании динамических систем с простым непрерывным
спектром.
Геодезические потоки на многообразиях
отрицательной кривизны
Хорошо известны примеры динамических систем с непрерывным
спектром, строящиеся с помощью автоморфизмов компактных абеле-
вых групп (см. соотв. раздел книги Халмоша). Другой класс систем с не-
непрерывным спектром образуют нормальные системы, о которых было

С.В.Фомин. Некоторые новые проблемы и результаты 125
сказано выше. Однако оба эти класса систем довольно далеки от реаль-
реальных механических систем, эволюция которых определяется дифферен-
дифференциальными уравнениями. Интересный класс систем, тесно связанных
с задачами механики и имеющих непрерывный спектр, образуют так
называемые геодезические потоки. Пусть Мк — некоторое fc-мсрпос
риманово многообразие, и пусть X есть Bк — 1)-мерное многообразие
линейных элементов многообразия Мк, т.е. пар (о, I), где о ? Мк, а / —
единичный вектор, касательный к Мк в точке а. Каждый элемент (а, I)
определяет единственную геодезическую, проходящую через точку а
в направлении /. Преобразование St в X определяется как движение
каждого элемента (о, I) вдоль определяемой им геодезической со ско-
скоростью 1. Предполагал, что все геодезические на Мк неограниченно
продолжаемы, мы получаем таким образом на X динамическую систе-
систему. Инвариантная мера fi па X определяется формулой dp, = dv ¦ du>,
где dv —элемент fc-мерного объема в Мк, a du) —элемент (к — 1)-мерно-
го объема на сфере единичных касательных элементов в точке а 6 Мк.
Так определенная динамическая система называется геодезическим по-
потоком на многообразии Мк. Естественно рассматривать геодезические
потони на поверхности отрицательной кривизны, так как именно этот
случай приводит к эргодическим системам.
В исследовании спектральных свойств геодезических потоков па
многообразиях отрицательной кривизны был получен ряд существен-
существенных, хотя еще и не вполне окончательных результатов. В работах
Э.Хопфа и Г. А. Хедлунда(см. [5], [10]) было доказано (сперва при к = 2,
а затем и для любого к), что геодезический поток па fc-мсрпом мно-
многообразии постоянной отрицательной кривизны обладает сильным пе-
перемешиванием (и, следовательно, имеет непрерывный спектр). Эрго-
Эргодичность потока была установлена также и для поверхностей (к = 2)
переменной (но органической сверху и снизу) отрицательной кривиз-
кривизны. Полное вычисление спектральных инвариантов системы удалось
провести лишь для геодезических потоков на поверхностях постоянной
отрицательной кривизны [6], [7], именно оказалось, что геодезический
поток на любой замкнутой поверхности постоянной отрицательной кри-
кривизны имеет счетнократный лебеговский спектр.
Этот последний результат был получен методами теории представ-
представлений групп с помощью следующей конструкции. Пусть G группа
действительных матриц 2-го порядка с детерминантом 1, a D — неко-
некоторая ее дискретная подгруппа (например, подгруппа целочисленных

126 С.В.Фомин. Некоторые новые проблемы и результаты
матриц), и пусть X — пространство классов смежности G/D. В про-
пространстве X определим движение, положив
Stg = ggt (gEG/D),
где
(* 0
с*
В X можно ввести меру, которая будет инвариантна относительно
преобразований St. Построенная таким образом динамическая систе-
система оказывается изоморфной геодезическому потоку па некоторой по-
поверхности постоянной отрицательной кривизны. Обратно, выбирая со-
соответствующим образом дискретную подгруппу D. можно построить
этим способом геодезический поток на любой такой поверхности. Для
исследования спектральных свойств системы (X, (i, St) использует-
используется следующий прием. В пространстве X можно рассматривать сдви-
сдвиги ~g —f ~gg не только для элементов g = gt вида (*), но и для произволь-
произвольных элементов из G. Таким образом, в пространстве L2{X) суммируе-
суммируемых в квадрате функций на X определяется унитарное представление
группы G. (Оператор Tg, отвечающий элементу g E G, определяется
формулой Tgf(g) = f(gg). Это представление может быть разложено
на неприводимые представления. В каждом подпространстве, отвеча-
отвечающем неприводимому унитарному представлению группы G, можно
определить спектр группы операторов Ut, порождаемых сдвигами St.
Для этого используются явные формулы неприводимых унитарных
представлений группы унимодулярных матриц второго порядка, най-
найденные И. М. Гельфандом и М. А.Наймарком. После этого уже спектр
операторов Ut во всем пространстве Li2(X), т.е. спектр рассматривае-
рассматриваемой динамической системы, находится без труда.
Описанная теоретико-групповая конструкция может быть обобще-
обобщена следующим образом. Пусть G — некоторая группа Ли, D — ее дис-
дискретная, а К — компактная подгруппы и X — пространство двусто-
двусторонних классов смежности DgK группы G по D и К. Пусть, кроме
того, р. — обычная мера в пространстве классов смежности и {gt} —
однопараметрическал подгруппа группы G, такал, что Kgt = gt,K. Лег-
Легко проверить, что формула
St(DgK) = DggtK

С. В. Фомин. Некоторые новые проблемы и результаты 127
определяет однопараметрическую группу преобразований пространст-
пространства X, оставляющих меру р, инвариантной. Таким образом, в простран-
пространстве X классов смежности DgK определяется динамическая система.
Изучение ее спектра сводится к исследованию неприводимых унитар-
унитарных представлений группы G. Таким методом можно, например, иссле-
исследовать спектральные свойства геодезических потоков на многообрази-
многообразиях постоянной отрицательной кривизны размерности к > 2.
Динамические системы на торе
Динамические системы, связанные с реальными задачами механи-
механики, весьма сложны. Поэтому в теории динамических систем важную
роль играет исследование различного рода модельных примеров. Одной
из таких простейших, по в то же время достаточно содержательных
и интересных моделей являются динамические системы на торе.
Рассмотрим динамическую систему, определяемую дифференци-
дифференциальными уравнениями:
?-Х<*„); §-У<*.,), (D
где X,Y — аналитические функции с периодом 2тг по х и по у. Если эта
система — эргодическая, то, как показал А. Н. Колмогоров [8], ее можно
с помощью аналитического же преобразования переменных привести
к виду
du _ 1 dv _ 1 B)
B)
dt ~ F(u, v)' dt~ F(u, v)' l '
где F(u, v) > 0 аналитическая периодическая функция, а 7 ир-
иррациональное число. В этих новых переменных инвариантная мера на
торе задается формулой
dji = F(u, v) dudv.
С наглядно-геометрической точки зрения переход от системы A) к B)
означает «выпрямление» траекторий системы (если изобразить тор в ви-
виде квадрата О SJ и ^ 2тг, 0 ^ v ^ 2тг, то каждая траектория системы B)
изобразится при этом системой прямолинейных отрезков).

128 С.В.Фомин. Некоторые новые проблемы и результаты
В упомянутой выше работе А. Н. Колмогорова показано, что если
константа у «не слишком хорошо аппроксимируется рациональными
дробями», то спектр динамической системы B) всегда (т. с. при любом
выборе F) чисто точечный, с двумя образующими. Если же у аппрокси-
аппроксимируется рациональными дробями «аномально хорошо», то спектр сис-
системы B) может быть как точечный, так и непрерывный.
Изучение динамических систем на торе, несмотря на их кажущую-
кажущуюся простоту, приводит к трудным и весьма содержательным вопросам,
многие из которых остаются еще открытыми.
Энтропия динамической системы
Одной из центральных проблем спектральной теории динамичес-
динамических систем является вопрос о том, существуют ли неизоморфные эрго-
дические системы с одинаковым непрерывным спектром. Вопрос этот
оставался открытым, несмотря на усилия ряда математиков, на про-
протяжении более четверти века и недавно был (положительно) решен
А.Н.Колмогоровым [9]. Именно, А.Н.Колмогоров построил для дина-
динамических систем новый инвариант, названный им «энтропией на еди-
единицу времени», и указал примеры эргодических систем с одним и тем
же непрерывным (а именно счетнократным лебеговским) спектром, для
которых этот инвариант принимает различные значения.
Схема, с помощью которой вводится этот инвариант, может быть
изложена следующим образом1. Для упрощения дела мы ограничимся
случаем дискретного времени.
Пусть X — пространство с мерой /i и S — сохраняющий меру /i ав-
автоморфизм этого пространства, причем ц(Х) = 1. Пусть С\. ... , Сп —
попарно непересекающиеся измеримые множества, в сумме составля-
составляющие все X. Положим
8=1
Далее, введя для упрощения дальнейших записей обозначения
IMk = lAd n SCh);
1Этот вариант определения энтропии динамической системы принадлежит
Я. Г. Синаю [11].

С.В.Фомин. Некоторые новые проблемы и результаты 129
ПОЛОЖИМ
Аналогично пусть
П SCi2 n ... П
u, ... , г,.
Пусть теперь
= lim -p. (**)
Наконец, пусть
H = suptf(c),
с
где точная верхняя грань берется по всем возможным исходным разби-
разбиениям пространства X. Величина Н, которая может принимать различ-
различные неотрицательные значения (включая 0 и ос), и называется энтропи-
энтропией динамической системы (X, /i. S) на единицу времени. Из определе-
определения ясно, что Н является инвариантом динамической системы. Дейст-
Действительно, если системы (X, ц, S) и (У, v. T) изоморфны между собой,
то каждому конечному разбиению пространства X отвечает [при фик-
фиксированном изоморфном отображении (X, //,, S) на (У, ь>, Т)] определен-
определенное разбиение пространства У, и обратно, причем это соответствие со-
сохраняется и для сдвигов элементов разбиений, и их пересечений. По-
Поскольку в определении Н рассматриваются все конечные измеримые
разбиения системы, для изоморфных систем величина Н оказывается
одной и той же.
Не останавливаясь на выяснении различных свойств инвариан-
инварианта Н, заметим лишь, что предел (**) существует в силу известной те-
теоремы Мак Миллана [12]; укажем две динамические системы с одним
и тем же непрерывным спектром (а именно счетпократпым лебегов-
ским) и такие, что в каждой из них инвариант Н существует и коне-
конечен, но принимает различные значения. Такими системами являются
уже знакомые читателю книги Халмоша сдвиги в пространстве двусто-
двусторонних последовательностей, двоичных в первом случае и троичных во

130 С.В.Фомин. Некоторые новые проблемы и результаты
втором. Итак, пусть X — пространство двусторонних двоичных после-
последовательностей
X = {...Х-п, .... Х-1, Х0, XI, .... Хп, ...}, Xi
и S — сдвиг в нем, т. е.
Sx = y, где уп = хп+1\
мера в X определяется как бесконечное произведение мер двухточеч-
двухточечных пространств {0, 1}, в которых каждая точка имеет меру 1/2-
Рассмотрим разбиение пространства X на два множества С\ и Сг;
С\ состоит из тех точек, для которых х0 = 0. С-i — из остальных.
Множество SC\ состоит, очевидно, из тех точек, для которых х\ = 0.
Ясно, что
/Л1 = /i(Ci П SCi) = \
и
A*12 = /'-21 = /^22 = Т-
Далее, пользуясь введенными выше обозначениями, имеем
при любых «i, ..., ir. Отсюда получаем, что
Н[с) =1п2.
Далее
И вообще для данного разбиения
tf(fi) =1п21> = rln2.
Отсюда получаем, что для данного разбиения
Я(с) =1п2.

С.В.Фомин. Некоторые новые проблемы и результаты 131
Можно показать, что не большее значение Н^ получится для лю-
любого другого конечного разбиения С пространства X. Поэтому в рас-
рассматриваемой динамической системе Н = In 2.
Если теперь рассмотреть пространство троичных двусторонних по-
последовательностей
{...х-п, .... ж_1, х0, хг, ... , хп, ...}. хп = О, 1, 2,
причем в основном трехточечном пространстве {0, 1, 2} каждый эле-
элемент имеет меру \, то для динамической системы, определяемой в этом
О
пространстве с помощью сдвига, мы получим, что Н = 1пЗ. Следова-
Следовательно, сдвиги в пространствах двоичных и троичных последователь-
последовательностей действительно представляют собой примеры эргодических сис-
систем, спектрально эквивалентных, но не изоморфных.
Некоторые проблемы
В дополнение к сформулированным Халмошем проблемам эргоди-
ческой теории (некоторые из которых были решены после выхода книги
Халмоша) укажем еще несколько проблем, относящихся к спектральной
теории динамических систем.
1. В связи с тем, что теперь установлено существование эргоди-
эргодических динамических систем с простым непрерывным спектром, стано-
становится содержательным следующий вопрос: существуют ли эргодичес-
кие динамические системы с одним и тем же простым спектром и не
изоморфные между собой? Поскольку точечный спектр эргодических
систем всегда простой, отрицательное решение этого вопроса было бы
существенным обобщением известной теоремы о том, что эргодичес-
кая система с чисто точечным спектром определяется своим спектром
с точностью до изоморфизма.
2. Как сказано выше, в работе А.Н.Колмогорова [8] доказано,
что спектр эргодической динамической системы, определяемой на торе
уравнениями
du I dv I
dt F{u, v)' dt F(u, v)
(a)

132 С.В.Фомин. Некоторые новые проблемы и результаты
с аналитической функцией F{u, v), может быть чисто точечным с дву-
двумя образующими, а может быть и непрерывным. В связи с этим ре-
результатом возникают следующие вопросы:
1) какой именно непрерывный спектр может иметь система (а);
2) может ли система (а) иметь чисто точечный спектр, отличный
от группы с двумя образующими (по-видимому, нет);
3) может ли система (а) иметь смешанный спектр (по-видимому,
нет).
По поводу первого вопроса не известно ничего. На второй и третий
вопросы можно дать отрицательные ответы, если предположить непре-
непрерывность собственных функций. Заметим попутно, что можно легко
построить эргодическую динамическую систему со смешанным спект-
спектром, определяемую дифференциальными уравнениями, на торе трех
или большего числа измерений.
3. Как известно [7]. геодезический поток на компактной поверх-
поверхности постоянной отрицательной кривизны имеет счетпократпый лебс-
говский спектр. Для геодезических потоков на поверхностях перемен-
переменной (ограниченной сверху и снизу) кривизны известно лишь, что они
обладают перемешиванием (откуда вытекает непрерывность спектра).
Может ли в случае переменной кривизны получиться спектр, отличный
от лебеговского?
4. Во всех известных примерах эргодических динамических сис-
систем, определяемых системой дифференциальных уравнений на к-мер-
ном гладком многообразии, точечный спектр представляет собой груп-
группу, не более чем с к образующими. Однако никакой теоремы, уста-
устанавливающей неизбежность такого положения дел в общем случае, не
существует. Таким образом, остается нерешенной задача: доказать, что
точечный спектр эргодической динамической системы, определяемый
на гладком fc-мсрпом многообразии системой дифференциальных урав-
уравнений с непрерывными коэффициентами, представляет собой группу,
не более чем с к образующими (или построить противоречащий при-
пример).
5. Описанные выше «нормальные динамические системы» облада-
обладают тем свойством, что свертка Ф*Ф максимального спектрального ти-
типа Ф такой системы с самим собой эквивалентна Ф или подчинена ему.
Это свойство представляет собой довольно естественный континуаль-
континуальный аналог того факта, что собственные значения эргодической дина-

С.В.Фомин. Некоторые новые проблемы и результаты 133
мичсской системы с чисто точечным спектром образуют группу. Воз-
Возможно, что вышеуказанным свойством обладают максимальные спек-
спектральные типы всех (а не только нормальных) эргодических систем.
Однако вопрос этот пока остается открытым.
6. Найденный А. Н. Колмогоровым новый инвариант динамичес-
динамических систем — энтропия на единицу времени — дает возможность более
тонкой (чем по одним только спектральным свойствам) классификации
динамических систем. Возникает вопрос, будет ли эта классификация
исчерпывающей? Иначе говоря, всегда ли две эргодические динамичес-
динамические системы, имеющие один и тот же спектр и одну и ту же энтропию
на единицу времени, изоморфны между собой?

Литература1
[1] Рохлин В. А., Успехи математических наук, 4, №2, 57-128 A949).
[2] Фомин СВ., Украинский математический журнал, 2, №2 A950).
[3] Колмогоров А. Н., Основные понятия теории вероятностей, Мос-
Москва, 1936.
[4] Гирсапов И. В., ДАН СССР, 119, №5 A958).
[5] ХопфЭ., Успехи математических наук, 4, №2 A949).
[6] Гельфанд И.М., Фомин С. В., ДАН СССР, 76, №6, 771 774 A951).
[7] Гельфанд И. М., Фомин С. В., Успехи математических наук, 7, №1
A952).
[8] Колмогоров А.Н., ДАН СССР, 93, №5 A953).
[9] Колмогоров А.Н., ДАН СССР, 119, №5 A958).
[10] Hedlund G. A., Bull. Amer. Math. Soc, 45, 241 A939).
[11] Сипай Я. Г., ДАН СССР, 124, №4, A959).
[12] Хинчин А. Я., Успехи математических наук, 11, №1, 17-75 A956).
1Здесь приведена только литература, цитированная в дополнении.

Халмош Поль
Лекции по эргодической теории
Дизайнер М. В. Бота
Компьютерная подготовка: М. В. Чибирева
А. В. Широбоков
Корректор И. А. Николаева
Лицензия ЛР №020411 от 16.02.97. Подписано к печати 20.12.99.
Формат 60 х 84У16. Печать офсетная. Усл.печ.л. 7.91. Уч. изд. л. 8,2.
Гарнитура Computer Modern Roman. Бумага офсетная № 1.
Заказ № . Тираж 500 экз.
Издательский дом «Удмуртский университет»,
426011. г. Ижевск, ул. Майская, 23.
Типография Удмуртского госуниверситета,
426034, ул. Университетская, 1, корп. 4.