А. Г. Кусраев С. С. Кутателадзе
СУБДИФФЕРЕНЦИАЛЬНОЕ
ИСЧИСЛЕНИЕ
ТЕОРИЯ И ПРИЛОЖЕНИЯ
РОССИЙСКАЯ АКАДЕМИЯ НАУК
СИБИРСКОЕ ОТДЕЛЕНИЕ
ИНСТИТУТ МАТЕМАТИКИ им. С.Л. СОБОЛЕВА
ВЛАДИКАВКАЗСКИЙ НАУЧНЫЙ ЦЕНТР
ИНСТИТУТ ПРИКЛАДНОЙ МАТЕМАТИКИ И ИНФОРМАТИКИ
А. Г. Кусраев
С. С. Кутателадзе
СУБДИФФЕРЕНЦИАЛЬНОЕ ИСЧИСЛЕНИЕ
ТЕОРИЯ И ПРИЛОЖЕНИЯ
МОСКВА НАУКА 2007
УДК 517.98
ББК 22.161.1
К 94
Ответственный редактор академик Ю. Г. РЕШЕТНЯК
Рецензенты: доктор физико-математических наук А. Е. ГУТМАН, доктор физико-математических наук Г. Г. МАГАРИЛ-ИЛЬЯЕВ
Кусраев А. Г.
Субдифференциальное исчисление: теория и прил. / А.Г. Кусраев, С.С. Кутателадзе ; [отв. ред. Ю.Г. Решетняк] ; Ин-т прикладной математики и информатики ВНЦ РАН. - М.: Наука, 2007. - 560 с. - ISBN 5-02-034079-0 (в пер.).
В монографии изложены основные результаты нового раздела функционального анализа — субдифференциального исчисления. Широко представлен современный инструментарий этой области: техника пространств Канторовича, методы булевозначного и инфинитезимального анализа. Наряду с аналитическими вопросами большое место уделено технике вывода критериев оптимальности для выпуклых экстремальных задач, включая важные для приложений вопросы характеризации приближений к оптимальным решениям и значениям. Впервые книга вышла в 1992 г. в Сибирском отделении издательства «Наука». В 1995 г. издательство Kluwer Academic Publishers выпустило в свет расширенный перевод книги, который и стал основой для настоящего издания.
Для математиков, интересующихся современным аппаратом негладкого анализа и его приложениями.
ТП 2006-1-128
ISBN 5-02-034079-0
© Институт прикладной математики
и информатики ВНЦ РАН, 2007
© Институт математики СО РАН, 2007
© А.Г. Кусраев, С.С. Кутателадзе, 2007
© Редакционно-издательское оформление.
Издательство «Наука», 2007
Оглавление
Предисловие..................................................... 5
Глава 1. Выпуклые соответствия и операторы...................... 9
1.1.	Выпуклые множества..................................... 10
1.2.	Выпуклые соответствия.................................. 21
1.3.	Выпуклые операторы..................................... 30
1.4.	Вееры и линейные операторы............................. 42
1.5.	Системы выпуклых объектов.............................. 53
1.6.	Решеточно нормированные пространства................... 62
1.7.	Комментарии............................................ 74
Глава 2. Геометрия субдифференциалов........................... 80
2.1.	Метод канонического оператора.......................... 80
2.2.	Экстремальная структура субдифференциалов.............. 94
2.3.	Субдифференциалы операторов, действующих в модулях.... 106
2.4.	Внутреннее строение субдифференциалов ................ 119
2.5.	Шапки и грани......................................... 130
2.6.	Субдифференциалы, порождаемые суммами решеточных гомоморфизмов................................... 140
2.7.	Комментарии........................................... 152
Глава 3. Выпуклость и открытость ............................. 158
3.1.	Открытость выпуклых соответствий ..................... 159
3.2.	Метод общего положения................................ 170
3.3.	Исчисление поляр...................................... 183
3.4.	Двойственная характеризация открытости................ 196
3.5.	Открытость и полнота.................................. 204
3.6.	Решета, совершенные ткани и принцип открытости........ 213
3.7.	Комментарии........................................... 224
Глава 4. Аппарат субдифференциального исчисления.............. 229
4.1.	Преобразование Юнга-Фенхеля........................... 230
4.2.	Формулы субдифференцирования ......................... 242
4.3.	Инволютивность преобразования Юнга-Фенхеля............ 253
4.4.	Операторы Магарам .................................... 263
4.5.	Дезинтегрирование..................................... 272
4.6.	Инфинитезимальные субдифференциалы.................... 283
4.7.	Комментарии........................................... 296
4
Оглавление
Глава 5. Выпуклые экстремальные задачи.................... 304
5.1.	Векторные программы. Оптимальность................. 305
5.2.	Принцип Лагранжа................................... 314
5.3.	Признаки оптимальности и приближенной оптимальности. 321
5.4.	Признаки инфинитезимальной оптимальности........... 328
5.5.	Признаки обобщенной оптимальности.................. 333
5.6.	Существование обобщенных решений................... 346
5.7.	Комментарии........................................ 354
Глава 6. Квазидифференциалы............................... 360
6.1.	Пространство опорных множеств...................... 361
6.2.	Квазидифференцируемые отображения.................. 369
6.3.	Квазидифференциал композиции, супремума и инфимума.. 376
6.4.	Дезинтегрирование квазидифференциалов.............. 385
6.5.	Необходимые условия экстремума..................... 394
6.6.	Учет ограничений типа вхождения.................... 402
6.7.	Комментарии........................................ 410
Глава 7. Локальные выпуклые аппроксимации................. 418
7.1.	Топологии в векторных пространствах................ 419
7.2.	Аппроксимирующие и регуляризирующие конусы......... 426
7.3.	Пределы по Куратовскому и Рокафеллару.............. 435
7.4.	Аппроксимации, определяемые набором инфинитезималей ....... .443
7.5.	Аппроксимация композиции и суммы соответствий ..... 452
7.6.	Субдифференциалы негладких операторов.............. 459
7.7.	Комментарии........................................ 468
Приложение 1. Векторные решетки........................... 474
Приложение 2. Положительные операторы .................... 481
Приложение 3. Векторные меры ............................. 486
Приложение 4. Булевозначные модели........................ 492
Приложение 5. Инфинитезимальный анализ.................... 498
Литература ............................................... 506
Именной указатель......................................... 530
Предметный указатель...................................... 534
Указатель символов........................................ 544
Предисловие
Предмет настоящей книги — субдифференциальное исчисление. Главный источник этого раздела функционального анализа — теория экстремальных задач.
Поясним происхождение и постановку основных проблем субдифференциального исчисления. Для этого рассмотрим абстрактную задачу минимизации в виде
х е X, f(x) —> inf.
Здесь X — некоторое векторное пространство, a f : X —> R — числовая функция, принимающая, быть может, бесконечные значения. Как обычно, в подобных обстоятельствах нас интересуют величина infJ(X) — значение задачи — и ее решения или оптимальные планы, иначе говоря, те х G X, для которых f(x) = inff(X) (если они существуют).
Решить задачу «в явном виде», т. е. предъявить значение и решения, удается крайне редко. В этой связи возникает необходимость упрощения исходной задачи, ее сведения к более обозримым модификациям, формулируемым с учетом деталей строения целевой функции /. Обычная гипотеза, принимаемая при поиске теоретических подходов к искомой редукции, состоит в следующем. Вводя дополнительную функцию I, рассматривают задачу:
х е X, f(x) — l(x) inf.
При этом новая задача считается столь же сложной, как и исходная, при условии, что I — линейный функционал на X, т. е. элемент алгебраически сопряженного пространства X#. Содержательная обоснованность этой естественно-научной гипотезы представляется весьма высокой.
Таким образом, исходная задача минимизации функции f включается, как это характерно для «социологического» подхода функционального анализа, в параметрическое семейство вариантов этой же задачи. Иначе говоря, теоретический анализ принято начинать, считая изначально известным отображение У* : X# —> R, определенное соотношением
Г (О := sup (/(х)-/(х)).
хех
Введенную функцию /* называют преобразованием Юнга-Фенхеля функции f. Заметим, что величина —/*(0) представляет собой значение первоначальной экстремальной задачи.
6
Предисловие
Описанная процедура сводит интересующую нас проблему к задаче о замене переменных в преобразовании Юнга-Фенхеля, т. е. о вычислении агрегата (/ о G)*, где G : Y —> X — некоторый оператор, действующий из Y в X.
Подчеркнем, что /* — это выпуклая функция переменной I. Уже это обстоятельство подсказывает, что наиболее полные результаты в избранном направлении следует ожидать в принципиальном случае выпуклости исходной функции /. В самом деле, в этой ситуации, определяя субдифференциал f в точке х соотношением
df(x) := {Z G X* : (Уж € X) 1{х) - l(x) f(x) - /(ж)} = = {1&Х*: /(ж) =/(ж)+ /*(*)},
мы видим следующее. Точка х — решение исходной задачи минимизации в том и только в том случае, если выполнен критерий оптимальности Ферма:
О € df(x).
Стоит отметить, что от приведенного критерия Ферма мало прока, если нет достаточно эффективных средств вычисления субдифференциала df(x). Иначе говоря, мы приходим к вопросу о нахождении правил для вычисления субдифференциалов сложных отображений d(f о G)(y). При этом адекватное осмысление G как выпуклого отображения требует наличия в X структуры упорядоченного векторного пространства. Например, представление суммы выпуклых функций в виде композиции линейного и выпуклого операторов:
/1 +/2 = + о(/1,/2);
(Л, /2) : X - К2, (/1, /2)(ж) := (Л(ж), /2(ж)),
предполагает введение в R2 покоординатного сравнения векторов.
Таким образом, мы с необходимостью приходим к операторам, действующим в упорядоченные векторные пространства. Среди проблем, возникающих на указанном пути, центральные места занимают задачи обнаружения явных правил для вычисления преобразований Юнга-Фенхеля или субдифференциалов сложных отображений. Решение названных проблем и составляет основной предмет субдифференциального исчисления.
Важнейший случай выпуклых операторов представляется разработанным уже столь тщательно, что можно говорить о завершении определенного этапа теории субдифференциалов. Исследования настоящего времени ведутся главным образом в направлениях, связанных с поиском подходящих локальных аппроксимаций к произвольному не обязательно выпуклому оператору. Наиболее принципиальной представляется техника, основанная на концепции касательного конуса Ф. Кларка, которая была распространена Р. Т. Рокафелларом на случай общих
Предисловие
7
отображений. Однако до состояния совершенства еще далеко. Все же стоит отметить, что основные технические приемы здесь также существенно опираются на субдифференциалы выпуклых операторов.
В этой связи основной объем книги мы отвели для выпуклого случая, оставив почти малоисследованной огромную территорию негладкого анализа. Повсюду остались зияющие пустоты. Слабым оправданием для нас может служить немалое количество прекрасных недавних книг, посвященных болевым точкам негладкого анализа. Запас технических приемов теории субдифференциалов весьма полон. Среди них принципы функционального анализа, методы теории упорядоченных векторных пространств, теория меры и тому подобное.
Многие задачи субдифференциального исчисления и негладкого анализа были решены в последние годы с помощью нестандартных методов математического анализа (в своих инфинитезимальной и булевозначной версиях). Работая над книгой, мы имели в виду намерение (и потребность) сделать новые идеи и методы доступными для широкого круга читателей. Рамки любой (в том числе и этой) книги слишком узки для свободного и независимого изложения всех необходимых фактов из перечисленных выше дисциплин. По этой причине мы выбрали компромиссный путь частичных пояснений. В их отборе мы руководствовались многолетним опытом, почерпнутым из лекционных курсов, прочитанных в Новосибирском и Северо-Осетинском государственных университетах.
Еще одно обстоятельство требует явного разъяснения, именно, присутствие слова «приложения» в заголовке книги. Формально говоря, оно подразумевает многие применения теории субдифференцирования, получившие достаточное освещение в книге. В качестве таковых можно упомянуть вычисление составных преобразований Юнга-Фенхеля, обоснование принципа Лагранжа и вывод критериев оптимальности в задачах векторной оптимизации. Однако гораздо больше тем остались незатронутыми и заголовок отражает наши первоначальные намерения и фантазии, доставляя также известный вызов для будущих исследований.
Первый вариант этой книги появился в 1987 году под названием «Субдифференциальное исчисление». В 1992 году Сибирское отделение издательства «Наука» опубликовало переработанное издание, перевод которого на английский язык, осуществленный в 1995 году издательством Kluwer Academic Publishers, был в свою очередь модернизирован и значительно расширен по сравнению с русским оригиналом. Обновленный и дополненный вариант английского издания стал основой лежащей перед читателем книги. Ее предварительный вариант был опубликован Институтом математики им. С. Л. Соболева Сибирского отделения РАН в двух частях, увидевших свет в 2002 и 2003 годах.
Выполняя приятный долг, мы выражаем благодарность за помощь в подготовке книги своим коллегам по Институту математики им. С. Л. Соболева Сибирского отделения РАН и Институту прикладной математики и информатики
8	Предисловие
Владикавказского научного центра РАН и Правительства Республики Северная Осетия-Алания.
В 1986 году один вслед за другим ушли из жизни ЛЕОНИД ВИТАЛЬЕВИЧ Канторович и Глеб Павлович Акилов, научившие нас функциональному анализу.
В 1999 году не стало Александра Даниловича Александрова, одного из основоположников геометрической теории выпуклых фигур и редактора первого варианта этой книги.
Памяти этих прекрасных людей и замечательных ученых мы посвящаем нашу книгу с чувством безмерной признательности.
А. Кусраев,
С. Кутателадзе
Глава 1
Выпуклые соответствия и операторы
Понятие выпуклости принадлежит к числу важнейших в современном функциональном анализе. Это неудивительно, ибо основополагающее понятие названной дисциплины — понятие непрерывного линейного функционала — неразрывно связано с выпуклостью. В самом деле, наличие таких ненулевых функционалов обеспечено в том и только в том случае, если в пространстве имеются не совпадающие с ним непустые открытые выпуклые множества.
Выпуклые множества возникают многими способами и выдерживают разнообразные преобразования, не теряя своего определяющего свойства. К числу наиболее характерных следует отнести операции пересечения и различные формы трансформации множеств посредством применения к ним аффинных отображений.
Своеобразными свойствами обладают выпуклые множества, лежащие в произведении векторных пространств. Такие множества называют выпуклыми соответствиями. Их частными случаями служат линейные операторы. Последнее обстоятельство объясняет постановку многих задач, возникающих при изучении выпуклых соответствий. Значение выпуклых соответствий заметно возросло в последние десятилетия в связи с их интерпретацией в качестве моделей производства.
Среди выпуклых соответствий, расположенных в произведениях векторного и упорядоченного векторного пространств, особую роль играют надграфики отображений. Эти отображения — функции с выпуклыми надграфиками — называют выпуклыми операторами. Среди них выделяются положительно однородные отображения — сублинейные операторы, представляющие собой, по сути дела, наименьший класс соответствий, содержащий в себе линейные операторы и выдерживающий операцию поточечного перехода к супремуму. Формальное обоснование и даже точная формулировка последнего утверждения требуют детализации требований к рассматриваемым упорядоченным векторным пространствам.
Следует подчеркнуть, что все понятия выпуклого анализа оказываются неразрывно связанными с теми или иными конструкциями теории упорядоченных векторных пространств.
Центральное место при этом занимают наиболее квалифицированные пространства — пространства Канторовича или .К-пространства, т. е. векторные решетки, в которых каждое ограниченное сверху множество имеет точную верхнюю границу.
Имманентная связь К-пространств с выпуклостью — одна из важнейших тем настоящей главы. Помимо этого, значительное место отведено детальному опи
10 Глава 1. Выпуклые соответствия и операторы
санию техники построения выпуклых операторов, соответствий и множеств из уже имеющихся. Привлекательной чертой теории выпуклости является наличие разнообразных удобных описаний для одного и того же класса объектов. Общее изучение выпуклых классов выпуклых объектов составляет специальное направление — глобальный выпуклый анализ, не входящий в предмет настоящей книги.
Здесь мы ограничиваемся лишь обсуждением простейших методов и необходимых нам конструкций, связанных с построением двойственности Минковского и соответствующих алгебраических систем выпуклых объектов.
При изучении выпуклых множеств операторов естественным образом возникают также векторные пространства, нормированные посредством элементов некоторой векторной решетки. В таких пространствах при необременительных предположениях разложимости возникает структура модуля над решеточно упорядоченным кольцом ортоморфизмов, что приводит к возможности характеризации модульно-дискретных элементов, что, в свою очередь, оказывается тесно связанным с экстремальной структурой многих выпуклых множеств операторов. Эта тема будет исследована и во второй главе.
На протяжении всего текстаN := {1,2,...} — множество натуральных чисел, a R — поле действительных чисел.
1.1.	Выпуклые множества
Текущий параграф посвящен основным алгебраическим понятиям и конструкциям, связанным с выпуклостью в вещественных векторных пространствах.
1.1	.1. Пусть X — вещественное векторное пространство. Зафиксируем какое-нибудь множество Г С IR2. Подмножество С пространства X называют V-множеством, если оно вместе с любыми двумя своими элементами х и у содержит всякую линейную комбинацию ах + /3у, коэффициенты а и /3 которой подчинены условию (а,/3) е Г. Совокупность всех Г-множеств в векторном пространстве X мы обозначим символом ^г(Х). Таким образом, С € &г(Х) тогда и только тогда, когда для любых (а, /3) G Г выполнено аС+/ЗС С С. Здесь и в дальнейшем аС := {ах : х € С} и С + D := {х + у : х € С, у G D}. Отметим некоторые общие свойства Г-множеств.
(1)	Пересечение любого семейства Г-множеств в векторном пространстве само есть Г-множество.
<1 Очевидно. О
Говорят, что семейство множеств фильтровано вверх по включению, если для любых А, В е £ найдется С G £ такое, что Я С С и В С С.
(2)	Объединение любого фильтрованного вверх по включению семейства Г-множеств в векторном пространстве само является Г-множеством.
< Пусть S С ^г(^) — рассматриваемое семейство. Положим D := U<f. Возьмем х, у е D и (а,/3) е Г. По определению D для подходящих А и В из будет х е А и у е В. Тогда в силу условия фильтрованности вверх найдется С G S такое, что А С С и В С С. Стало быть, элементы х и у содержатся в
1.1. Выпуклые множества
11
некотором С из <?. Так как С — это Г-множество, то ах + /Зу € С С D, что и требовалось. >
(3)	Пусть для каждого индекса £ G 5 заданы векторное пространство Х$ и множество Q С Х^. Положим С := П«е= Q и X := П«е= Тогда С ё ^г(Х) в том и только в том случае, если Q G ^г(Х^) для всех £ G Е.
<1 Возьмем х = (я$), у = (у%) G С и (а, /3) € Г. Как видно, ах 4- /Зу G С означает, что ах$ + (Зу$ G Q для всех £ G Е. Отсюда немедленно вытекает требуемое. >
(4)	Образ и прообраз Г-множества относительно линейного оператора служат Г-множествами.
<1 Очевидно. >
(5)	Если С и D — это Г-множества в векторном пространстве, а А € R, то множества ХС и С + D также будут Г-множествами.
<1 Следует из (3) и (4), так как АС = Л(С) и C + D = 4-(С х £>), где Л(т) := Хх и +(т,г/) :=т + ?/. О
1.1.2.	Перечислим основные типы Г-множеств, используемых в дальнейшем.
(1)	Если Г := R2, то непустые Г-множества в пространстве X суть (векторные) подпространства в X.
(2)	Пусть Г := {(а,/3) G R2 : а 4- (3 = 1}. Тогда непустые Г-множества называют аффинными многообразиями или аффинными множествами. Если Хо “ подпространство в X их G X, то сдвиг L := х 4- Xq := {т} 4- Xq — аффинное многообразие, параллельное Xq. Наоборот, всякое аффинное многообразие L определяет единственное подпространство Xq := L — х := L 4- (—ж), где х — произвольный элемент из L, из которого само L получается посредством сдвига.
(3)	Если Г := R+ х R+, то непустые Г-множества называют конусами или, более полно, выпуклыми конусами. Иными словами, непустое подмножество К С X объявляют конусом, если К 4- К С К и аК С К для всех а G R4". Здесь и в дальнейшем R+ := {t G R : t > 0}.
(4)	Возьмем Г := {(a,0) G R2 : |a|	1}. Соответствующие Г-множества
называют уравновешенными. Как видно, уравновешенность множества С С X означает, что аС С С при |а|	1.
(5)	Пусть Г := {(а,/3) G R2 : а 0, /3	0, а 4- /3 = 1}. В этой ситуа-
ции Г-множества называют выпуклыми. Ясно, что подпространства и аффинные многообразия суть выпуклые множества. Как и следовало ожидать, (выпуклые) конусы входят в класс выпуклых множеств.
(6)	Если Г := {(а,(3) G R2 : а 0, /3	0, а 4- (3	1}, то непустые
Г-множества называют коническими отрезками. Множество является коническим отрезком в том и только в том случае, если оно выпукло и содержит нуль.
(7)	Пусть Г := {(о,/3) G R2 : |о| 4- \/3\	1}. Возникающие при этом непустые
Г-множества называют абсолютно выпуклыми. Абсолютно выпуклое множество выпукло и уравновешено.
12 Глава 1. Выпуклые соответствия и операторы
(8)	Если Г := {(—1,0)}, то Г-множества называют симметричными. Как видно, симметричность множества С означает, что С = —С. Подпространства и уравновешенные множества симметричны. Можно показать, что множество абсолютно выпукло в том и только в том случае, когда оно выпукло и симметрично.
1.1.3.	Пусть ^(Х) := ^0(Х) — множество всех подмножеств пространства X. Для каждого М е «^(Х) положим
ЯГ(М) := Q{0 G ^г(Х): С D М}.
В силу 1.1.1 (1) Нг(М) — это Г-множество. Его называют Г-оболочкой множества М. Таким образом, Г-оболочка произвольного множества М представляет собой наименьшее (по включению) Г-множество, содержащее М. Обозначим символом Нг отображение М ь-+ Яг (А/), где М € <^(Х). Указанное отображение обладает рядом используемых в дальнейшем свойств.
(1)	Отображение Нг изотонно, т. е. для любых А, В 6 «^(Х) включение А С В влечет Нг(А) С Нг(В).
<1 Очевидно из определений. >
(2)	Отображение Нг идемпотентно, т. е. Нг о Нг = Яг-
<1 Следует из того, что Яг (АГ) будет Г-множеством для любого непустого множества М. >
(3)	Множество ^г(^) является одновременно областью значений и множеством неподвижных точек отображения Нг, т. е.
С е ^г(Х) ~ ЯГ(С) = С (ЗА/ € ^(Х))С = ЯГ(М).
<1 Первая эквивалентность следует из определения Г-множества, а вторая — общее свойство идемпотентных отображений. >
(4)	Для любого М е «^(Х) выполнена формула Моцкина
НГ(М) = |J{tfr(Mo): Мо G
где «^fin(Al) — множество всех конечных подмножеств М.
< Обозначим через А множество, стоящее в правой части формулы Моцкина. Включение Нг(М) D А вытекает прямо из (1). Для доказательства обратного включения нужно лишь показать, что А есть Г-множество, ибо включение М С А бесспорно. Однако из соотношения Яг(А/1) U Яг(Л/2) С Hr(Mi U М2) видно, что семейство {ЯГ(Л/О) : MG е ^fin(Af)} фильтровано вверх по включению. В силу 1.1.1 (2) Ле ^г(Х). о
(5)	Множество ^г(Х), упорядоченное по включению, является (порядково) полной решеткой. При этом точная нижняя граница произвольного семейства Г-множеств в X есть его пересечение, а точная верхняя граница совпадает с Г-оболочкой объединения множеств рассматриваемого семейства.
Следует иметь в виду, что при разных Г и Г' точные верхние границы в решетках &Г(Х) и &>г'(Х) могут существенно отличаться.
1.1. Выпуклые множества
13
1.1.4.	Для конкретных классов Г-множеств, как отмечалось, приняты подходящие названия и обозначения. При этом, что гораздо более важно, существуют специальные формулы для вычисления соответствующих Г-оболочек. Как видно из формулы Моцкина, для описания произвольных Г-оболочек достаточно найти явные выражения лишь для Г-оболочек конечных множеств. Посмотрим, как решается последняя задача для конкретных Г из 1.1.2. Не выписывая каждый раз Г, условимся, что в 1.1.4 (к) речь идет о том же самом Г, что и в 1.1.2 (к). Ниже М С X и ..., хп € X.
(1)	Множество lin(Af) := Н?(М) называют линейной оболочкой М. Справедлива формула
{т	'
: Ai,...,Am G R, xx,...,xm G Af, m G N ►. fc=i
Отсюда видно, что линейная оболочка конечного множества имеет вид:
{n	1
: Ai,...,An ей>.
fc=l	J
Для удобства полагают lin(0) := {0}. Аналогичные соглашения в дальнейшем часто не оговорены особо. Выражение Airri 4-... -|- Хпхп принято называть линейной комбинацией элементов жх,...,жп. Таким образом, линейная оболочка множества М состоит из всех линейных комбинаций элементов М.
(2)	Множество aff(Af):= Н?(М) называют аффинной оболочкой М. Нетрудно видеть, что если х G Af, то aff(Af) — х = lin(Af — х). В частности, если 0 € М, то aff(Af) = lin(Af). Для вычисления аффинной оболочки справедлива формула
{mm
y^AfcXfc : Ax,...,AmGR, y^Afc = 1, xi,...,xw G М, тп G N >.
fc=i	fc=i	J
В частности, аффинная оболочка конечного множества имеет вид:
aff({xx,... ,хп}) = < y^AfcXfc : Ах,..., Ап G R, Ах 4-... 4- Ап = 1 > .
Множество aff({x, у}) при х / у называют прямой, проходящей через точки х и у. Выражение Аххх 4- ... 4- Апжп принято называть аффинной комбинацией элементов хх,..., хп, если Ах 4-... 4- An = 1. Таким образом, аффинная оболочка множества М состоит из всех аффинных комбинаций элементов М.
(3)	Множество cone(Af) := Нг(М) называют конической оболочкой М. Заметим, что
aff(cone(Af)) = lin(cone(Af)) = cone(Af) - cone(Af).
14
Глава 1. Выпуклые соответствия и операторы
Из этой формулы видно, что если К — конус, то К - К — наименьшее подпространство, содержащее К. Для конуса К существует также наибольшее подпространство, содержащееся в К, а именно, К П (—АГ). Для конической оболочки имеет место представление
' т cone(M) = <	: Ai,.
.fc=i
, Am € R+, #i,... ,xm € M, m € N .
Как видно, для конечного множества будет
{п
^AfcXfc : Ai,..., An € fc=i
Коническую оболочку одноточечного множества {ж} при х / 0 называют лучом с вершиной в нуле, направленным в точку х (или лучом, исходящим из нуля вдоль вектора х). Если Ai 0,..., Ап 0, то выражение Aiх\ 4-... 4- Апжп иногда называют конической комбинацией элементов a?i,... ,хп. Таким образом, коническая оболочка множества М состоит из всех конических комбинаций элементов М.
(4)	Множество bal(Af) := Н?(М) называют уравновешенной оболочкой М. Очевидно, что
bal(M) = JJ{AM : |А| 1}.
(5)	Множество со(М) := Нг(М) называют выпуклой оболочкой М. Выпуклую оболочку двухточечного множества {х, у} при х / у называют отрезком с концами х и у или же отрезком, соединяющим точки х и у. (При х = у говорят о вырожденном отрезке.) Тем самым множество М выпукло в том и только в том случае, если вместе с любыми двумя своими точками оно содержит и весь отрезок, их соединяющий. Для выпуклой оболочки справедливо представление
., xm € М, т G N .
Таким образом, выпуклая оболочка конечного множества описывается формулой
{n	1
*^AkXk * Ai,..., Afi (Е	, Ai И-... 4~ An — 1 ? .
fc=i	J
Элемент Ai#i 4-... 4- Anxn именуют выпуклой комбинацией элементов Xi,..., хп, если Ai > 0,..., An > 0 и Ai 4-... 4- An = 1. Значит, выпуклая оболочка множества М состоит из всех выпуклых комбинаций элементов М.<
(6)	Множество sco(М) := Нг(М) не имеет специального названия. Операция sco может быть выражена через операцию со формулой sco(M) = со(М U {0}). В частности,
п
sco({a:i,...,a:n}) =	: Ai,...,An 6 R+, Ах 4-.
,fc=i
1.1. Выпуклые множества
15
(7)	Множество асо(Л/) := Нг(М) называют абсолютно выпуклой оболочкой М. Имеет место представление асо = со о bal. Отсюда вытекает, в частности, что непустое множество в векторном пространстве абсолютно выпукло в том и только в том случае, если оно выпукло и уравновешено. Справедлива формула
{тп	тп	'
• Ai,..., Xm € R, |Afc| l,xi,...,xm € M, m € N ► . fc=l	k=l
В частности, для конечного множества будет
{и
^AfcTfc .* Ai,..., Лп € R, |Ai | + ... Ч- |ЛП |	1
fc=i
Элемент Ai#i 4- ... 4- Xnxn — абсолютно выпуклая комбинация элементов д?1,...,хп, если |Ai | 4-... 4- |An| < 1. Итак, абсолютно выпуклая оболочка множества М состоит из всех абсолютно выпуклых комбинаций элементов М.
(8)	Множество sim(M) := М U (-М) — симметричная оболочка М. Положим simh := coosim. Легко видеть, что simh = асо, т. е. абсолютно выпуклая оболочка произвольного множества М совпадает с наименьшим симметричным выпуклым множеством, содержащим М. Для выпуклого множества С существует также наибольшее симметричное выпуклое множество sk(C), содержащееся в С, а именно, sk(C) := СП (—С) (ср. (3)).
1.1.5.	Пусть С — непустое выпуклое множество в векторном пространстве X. Говорят, что вектор h € X является рецессивным (или асимптотическим) направлением для С, если х 4- th Е С при всех х G С и t 0. Рецессивный конус или асимптотический конус множества С, обозначаемый символом гес(С) (или а(С)), — множество всех рецессивных направлений, так что
о(С) := rec(C') := Q{A(C - х): х € С, A G R, Л > 0}.
(1) Множество rec (С) состоит в точности из тех векторов у Е X, для которых С + усС.
<1 Допустим, что С 4- у С С. Тогда
. С 4- пу = (С 4- у) + (п - 1)у С С 4- (п - 1)у С ... С С,
т. е. х 4- пу Е С для всех я € С и n € N. В силу выпуклости С отрезки, соединяющие точки х 4- (п — 1)у и х 4- пу, содержатся в С. Но тогда в С лежат элементы х 4- ty при любых t 0, а это и означает, что у Е гес(С). Оставшаяся необоснованной часть рассматриваемого утверждения следует из определения. О
(2)	Множество rec (С) представляет собой конус. Более того, гес(С) — наибольший конус в X, удовлетворяющий соотношению С 4- гее (С) С С.
<1 Для f > 0 очевидно равенство frec(C) = гес(С). В свою очередь, если х, у Е гес(С) и0^А^1,тов силу (1) можно написать
С 4- Хх 4- (1 - Х)у = Х(С 4- х) 4- (1 - А)(С 4- у) С АС 4- (1 - А)С С С.
16
Глава 1. Выпуклые соответствия и операторы
Вновь привлекая (1), получаем: Хх+(1-Х)у € С. Стало быть, гес(С) — выпуклый конус. Второе утверждение следует непосредственно из (1). О
(3)	Равенство гес(С) = С выполнено в том и только в том случае, если С — конус.
<1 Если С — конус, то Х(С — х) D С для всех х Е С и А > 0. Следовательно, справедливы соотношения
С = С - 0 D Q{A(C - х): х € С, А > 0} = гес(С) D С,
содержащие обоснование достаточности. Необходимость установлена в (2). >
(4)	Наибольшее подпространство, содержащееся в рецессивном конусе множества С, совпадает с каждым из множеств {у G X : С + у = С} и {у е X : х + ty Е С (х G X, t Е IR)}.
1.1	.6. Основное внимание в дальнейшем мы сосредоточим на выпуклых множествах и конусах. Важные роли при их изучении будут играть некоторые алгебраические и теоретико-множественные операции. Перечислим основные из таких операций, допустив, удобства ради, некоторые формально излишние повторения. Обозначим через CS(X) множество всех выпуклых подмножеств векторного пространства X.
(1)	Пересечение любого семейства выпуклых множеств есть выпуклое множество (см. 1.1.1 (1)).
Таким образом, множество CS(X), упорядоченное по включению, является порядково полной решеткой.
(2)	Декартово произведение любого семейства выпуклых множеств вновь выпуклое множество (см. 1.1.1 (3)).
Отображение х : (С, D) w С х D из CS(X) х С8(У) в CS(X х У) является полным решеточным гомоморфизмом по каждой из переменных.
(3)	Пусть L(X,Y) — векторное пространство всех линейных операторов из X в векторное пространство У. Образ Т(С) любого выпуклого множества С € CS(X) относительно линейного оператора Т Е L(X,Y) является выпуклым множеством, т. е. элементом СЭ(У).
Отображение CS(T) : С н-> Т(С) из CS(X) в СЭ(У) сохраняет точные верхние границы любых семейств. (Точные нижние границы CS(T) обычно не сохраняет.)
(4)	Сумма Ci + ... + Cn := {xi -I-... + хп : хь Е Ск, к := 1,..., п} выпуклых множеств С\,...,СП есть выпуклое множество.
<] Положим
п
En : Хп —> X, Sn(xi,..., хп) :=
fc=i
Так что Si — тождественное отображение, а Е2 — обычное сложение +. Тогда имеет место представление Ci + .. .+Cn = Sn(Ci х... х Сп), и требуемое вытекает из (2) и (3). О
Понятно, что сумма множеств пуста, если и только если пусто хотя бы одно из слагаемых. Бинарная операция + в множестве CS(X), т. е. сложение пары
1.1. Выпуклые множества
17
множеств, является коммутативной и ассоциативной, а также имеет нейтральный элемент {0} € CS(X). Отображения х и CS(T) из (2) и (3) аддитивны (в CS(X) х С8(У) сумма вводится покоординатно).
(5)	Умножение на строго положительное число а (т. е. 0 < а < оо) определяют формулой аС := а-С := {ах : х € С}. Очевидно, что С выпукло, как только выпукло аС. Введенное умножение можно распространить на все элементы из К+ U {4-оо} двумя различными способами. Именно, полагают по определению
0 • С := гес(С), i • С := оо • С := сопеС;
ОС := 0,	:= ооС := X (С G CS(X)).
Таким образом, аС / а • С при а = 0 или а = оо. В силу наших определений всегда будет а0 = а- 0 = 0(О^а^ оо).
Справедливы следующие соотношения:
q(C7i 4* С2) = аС\ + аСъ^
(а + (3)С = аС + 0С (0^а,/3^оо).
<1 Первое равенство выполнено и без предположения о выпуклости Ci и С2. Для справедливости второго равенства выпуклость существенна (= необходима и достаточна). Если одна из величин а и 0 равна нулю или бесконечности, то мы получаем тривиально верное тождество. Допустим, что 0 < а,/3 < оо. Тогда для положительных чисел А := а/{а 4- /3) и р := &/(а + (}) будет А 4- р = 1. Значит, в силу выпуклости С выполнено:
С = АС + цС = -^-5(аС + /ЗС), а + р
что равносильно требуемому. >
Подчеркнем, что для умножения а • С указанные формулы могут нарушаться при а = 0 и а = оо. Точнее, справедливы включения
rec(Ci -I- С2) С rec(Ci) -I- гес(С2),
гес(С) 4- С С С, сопе(С) С гес(С) 4- сопе(С), cone(Ci 4- С2) С cone(Ci) 4- сопе(С2), и все они могут оказаться строгими.
(6)	Объединение семейства (Q)^s выпуклых множеств может, разумеется, быть невыпуклым. Однако если это семейство фильтровано вверх по включению, т. е. для любых £, р G 3 найдется такой индекс Q € 3, что С Q и С Q, то множество U$es Q выпукло.
(7)	Выпуклая оболочка объединения семейства (С$ )$gs выпуклых множеств совпадает в силу (6) с множеством
U{A>: 6 € ^fin(S)},
18
Глава 1. Выпуклые соответствия и операторы
где De := co(|J{Q : £ € 0}) и в — произвольное конечное подмножество 5. Используя выпуклость Q и привлекая формулу Моцкина, легко усмотреть, что De состоит из выпуклых комбинаций вида А^я^, где G С%. Таким образом, мы приходим к формуле
со( (JcA = U { £a^ : А< > О, = 1|.
Чез 7 0G^fin(s) Чев	сев J
В частности, для 5 := {1,..., п} будет (см. (4)):
co(Ci U ... U Сп) —	+ ... + AnCn : Afc > 0, Ai + ... Ч- Ап = 1
(8)	Инверсное сложение # выпуклых множеств вводят соотношением
C1#...#Cn:=|J{(A1.C1)n...n(An.Cn): Afc > О, Ах + ... + Ап = 1}.
Стоит обратить внимание на то, что в правой части последней формулы умножение на нуль следует понимать в соответствии с соглашениями из (5) (именно: ОС = гес(С)). Множество Ci#... #Сп называют инверсной суммой или суммой Келли выпуклых множеств Ci,..., Сп.
Попытаемся представить инверсную сумму выпуклых множеств в виде поэлементной операции. Предположим, что точки х и у в X лежат на одном и том же луче, выходящем из нуля. Последнее означает, что х = ае и у = /Зе для некоторых а О, > 0 и е Е X. Если а / 0 и /3 / 0, то положим
Если же а/3 = 0, то z := 0. Элемент z зависит только от х и у и не зависит от выбора ненулевой точки е на рассматриваемом луче. Этот элемент называют инверсной суммой х и у и обозначают символом х # у. Итак, инверсное сложение векторов — это частичная бинарная операция в X, определенная лишь для векторов, лежащих на одном и том же луче с началом в нуле. Нетрудно видеть, что при 0 < А < 1 множество ACi П (1 — А)С2 состоит из элементов х € X, представимых в виде х = Axi = (1 - А)д?2 или, что то же, х = xi#X2 6 Ск, к := 1,2). Следовательно, справедливы представления:
С0~{х^х2-. хкеСк, fc:=l,2} = U AG Л (1 - А)С2.
O^A^l
Ниже будет показано, что Со — выпуклое множество. Множество Со также часто называют инверсной суммой С\ и С2. Следует, однако, иметь в виду, что
Ci#C2 = Со U (rec(Ci) П С2) U (Ci П гес(С2)).
1.1. Выпуклые множества
19
Как видно, Ci#С2 = Со, например, в случае, если множества С\ и С2 имеют нулевые рецессивные конусы.
1.1.7.	Инверсная сумма выпуклых множеств (конических отрезков) является выпуклым множеством (коническим отрезком).
<1 Для простоты ограничимся случаем двух непустых выпуклых множеств Ci и С2. Пусть С := С1#Сг, а Со то же, что и в 1.1.6 (8). Нужно доказать, что при х,у G С весь отрезок с концами х и у лежит в С. Возьмем произвольную точку этого отрезка z := ax 4- 0у, где а, 0 > 0, а 4- 0 = 1. Предположим сначала, что концы отрезка содержатся в Со- Тогда найдутся положительные числа Qi,Q2,/?1,02 и элементы Xk,yk € С&, к = 1,2, для которых
х = aXTi = а2х2, у = 01У1 = 02У2-
Положим := ааь + 00k (к := 1,2) и заметим, что при х # у будет: 7i / Ои 72 # 0. Если обозначить
aai	00,	аа2	002
zi :=---xi -I---x/х, z2 :=----х2 +-----у2,
71	71	72	72
то Zk G Ck- Стало быть,
z := 71^1 + 72^2 € 7iCi А у2С2 С Со-
Таким образом, Со — выпуклое множество.
Пусть теперь все тот же вектор х является одним из концов рассматриваемого отрезка, а второй конец у принадлежит rec(Ci) А С2. Исключая тривиальный случай Qi = 0, положим
71 := QQ1, 72 := 1 — асн, 0	аа2	0
zi := xi + —у, z2 :=----х2 4- —у.
71	72	72
Теперь мы вновь заключаем, что Zk € С&, откуда z = 71 zx 4- 72^2 € 71 Сх А у2С2. Допустив, что у — прежний вектор, а х входит в Ci А тес(С2), можно написать:
z = а(х + (0/a)y) G aCi, z = 0(у + (ot/0)x) € 0С2.
Отсюда мы вновь получаем, что z G С. Тем самым установлена выпуклость С. > 1.1.8. Все операции, перечисленные в 1.1.6, переводят класс конусов в себя. Точнее, конусами служат пересечение, декартово произведение и выпуклая оболочка объединения любого непустого семейства конусов, а также объединение фильтрованного вверх по включению непустого семейства конусов. Равным образом конусами являются образы конусов при линейных соответствиях, произведение конуса на неотрицательное число, сумма и инверсная сумма конусов.
Из определений 1.1.6 (7,8) и из предложения 1.1.5 (3) видно, что для любых конусов К,,..., Кп имеют место равенства
К, 4-... 4- Кп = со(АГ1 U ... U Кп)',
K1#...#Kn = K1Q...QKn.
20
Глава 1. Выпуклые соответствия и операторы
Для конуса К множество К — К — Пп(Л') = aff(/Q служит наименьшим подпространством, содержащим К, а множество К П (—К) — наибольшим подпространством, содержащимся в К. Конус К называют воспроизводящим, если X = К — К, и упорядочивающим, невыступающим или, реже, острым, если К П (-К) = {0}.
1.1.9.	В формулах из 1.1.4 (1-3,5-7) для вычисления Г-оболочки произвольного множества М ничего не сказано о числе т слагаемых в линейных комбинациях, которыми представлены элементы Н?(М). В общем случае это число может быть любым, но в конечномерном пространстве X можно считать, не нарушая общности, что т не превосходит размерности dim(X) в 1.1.4 (1,3) и не превосходит dim(X) + 1 в 1.1.4 (5-7).
(1)	Пусть X — конечномерное векторное пространство размерности п. Каждая точка, принадлежащая линейной (конической) оболочке множества М С X, является линейной (конической) комбинацией не более чем п точек из М.
<1 Убедимся в справедливости утверждения о конической оболочке. Возьмем х 6 cone(Af). Согласно 1.1.4 (3) имеет место представление х = Ai^i 4-... 4- Amxm, где Ai,..., Am е и х\,..., xm € М. Предположим, что m > п и А& строго положительны. Тогда в силу линейной зависимости элементов xi,..., xm существуют числа Д1,..., рт, для которых /zi^i + ... + цтхт — 0, причем не все р>к равны нулю. Последнее позволяет предположить, не умаляя общности, что < 0 хотя бы для одного номера к. Положим a := min{—Xk/Рк : Рк < 0} и Х'к := Xk + <*Рк-В силу выбора а будет Хк 0, причем по меньшей мере одно из этих чисел равно нулю. Кроме того, имеет место представление
тп	т	т
= 52	+a 52	= 52 X'kxk-
к=1	к=1	fc=l
Удалив из множества {я?1,..., жт} те х^ ддя которых Хк = 0, мы получим представление х в виде конической комбинации меньшего числа элементов. Доказательство завершается индукцией по числу элементов xi,...,xm из указанного представления х в виде конической комбинации. О
(2)	Теорема Каратеодори. Пусть X — конечномерное векторное пространство размерности п. Каждая точка, принадлежащая аффинной (выпуклой, абсолютно выпуклой) оболочке множества М С X, является аффинной (выпуклой, абсолютно выпуклой) комбинацией не более чем п 4 1 точки из М.
<1 Ограничимся обоснованием утверждения о выпуклой оболочке. Согласно 1.1.4 (5), если х е со(М), то имеет место представление х — Ахжi 4-... 4- Xmxm, где Ai,..., Xm е и Ai + ... + Xm = 1. Положим у := (х, 1) и уь := (хь, 1) (к := 1, ...,т). Тогда в пространстве Y := X х Ж справедливо представление У = Xiyi 4-... 4- Xmym- Значит, у е co(Af'), где Mf := {(rr, 1) : х € М} С X х Ж. Если m > n 4- 1 = dim(y), то в соответствии с (1) существуют неотрицательные числа Ар ..., А^+1 и отображение (р : {1,... ,п 4- 1} —> {1,... ,т} такие, что у — А'х^(1) 4-... 4- Хгп+1у^п+1у Из последнего равенства следует, что х = Xixv>w + • • • + ^п+1ж(₽(п+1)» причем л; + ... + л;+! = 1.0
1.2. Выпуклые соответствия
21
(3)	Элементы xo,xi,...,xn некоторого векторного пространства X называют аффинно независимыми, если для любых элементов Ao,Ai»...,An € R из соотношений Аояо + Ai^i 4- ... 4- Апжп = 0 и Ao + Ai 4- ... 4- Ап = 0 следует, что Ao = Ai = ... = Ап = 0. Легко видеть, что аффинная независимость xo,#i,... ,хп равносильна линейной независимости х± — xq, ... ,хп — xq. В частности, элементы х\ — х$,... ,хп — xq линейно независимы в том и только в том случае, если для любого 1 < к < п линейно независимы элементы Xq — Xk,... ,хь-1 — Xk,Xk+i — Хкт - - ^Хп — Хк- (Подразумевается при этом, что жп+1 := до ) Выпуклую оболочку аффинно независимых элементов XQ,Xi,...,xn называют п-мерным симплексом, а точки XQ,xi,...,xn — вершинами симплекса. Если S — симплекс с вершинами xQ,xi,... ,хп, то любая точка х € S допускает единственное представление в виде х = Ао#о + Ai^i 4- ... 4- Апжп, где Ао 0,..., Ап > 0 и Ао 4- Ai 4- ... 4- Ап — 1. Однозначно определяемые числа Ао, • • • ? Ап называют симплициальными или барицентрическими координатами точки х.
(4)	Выпуклая оболочка множества М в п-мерном векторном пространстве совпадает с объединением всех m-мерных симплексов, тп ^п,с вершинами из М.
< Непосредственно следует из (2) ввиду определения симплекса в (3). >
1.2. Выпуклые соответствия
Текущий параграф посвящен удобному языку соответствий, который будет систематически использован в дальнейшем. Рассмотрим отображение Ф, сопоставляющее каждому элементу х из некоторого множества X подмножество Ф(я) другого множества Y. Такое отображение из X в «^(У) часто называют многозначным или, реже, точечно-множественным отображением из X в У. При этом множество F := {(х,у) : х € Ф(гг)}, лежащее в X х У, именуют графиком отображения Ф. Как видно, отображение Ф однозначно восстанавливается, если задана тройка Ф := (X, У, F) и известно, что F С X х У — график Ф. Таким образом, объекты Ф и Ф могут быть естественным образом отождествлены. Кроме того, вместо отображения Ф или тройки Ф часто рассматривают лишь график F, подразумевая опущенные параметры X и У. В дальнейшем, как правило, мы не уточняем, какой из трех объектов F, Ф или Ф имеется в виду, причем для их обозначения будет использован один и тот же общий символ и нейтральный термин соответствие. Эта удобная вольность не должна приводить к недоразумениям, ибо точный смысл всегда легко полностью восстановить из контекста.
1.2.1. Приступим к формальным определениям.
(1)	Пусть X и У — произвольные непустые множества, F — подмножество декартова произведения X х У. Тогда тройку Ф := (X, У, F) (или просто F, опуская подразумеваемые параметры) называют соответствием из X в У. Область определения или эффективное множество дот(Ф) и область значений 1т(Ф) соответствия Ф вводятся формулами
аот(Ф) := {х € X : (Зу G Y)(x,y) G F};
22
Глава 1. Выпуклые соответствия и операторы
Ш1(Ф) := {у е Y : (Зх € Х)(х,у) е F}.
Если U С X, то соответствие (С7, V,F0), где Fq := F A (U х У) С U х Y называют сужением или ограничением Ф на U и обозначают Ф|<у или Ф f U.
Образом U при соответствии или относительно Ф называют множество Ф(С7) := пп(Ф [ (7). Принято также сокращение Ф(ж) := Ф({я}), используя которое, можно написать:
Ф(ж) = {у G У : (х,у) € F}; с!от(Ф) = {ж € X : Ф(ж) / 0}; Ф((7) = |J{$(x) : х € U} = {у е Y : (Зх € U) у € Ф(х)}.
(2)	Рассмотрим еще одно множество Z и соответствие Ф С У х Z. Положим
Ф"1 := {(г/, х) G У х X : (х,г/) G Ф};
Ф о Ф := {(ж, г) € X х Z : (Эу € У)(ж, у) € Ф Л (г/, z) € Ф}.
Соответствие Ф”1 из У в X называют обратным к Ф, а соответствие Ф о Ф из X в Z — композицией или суперпозицией соответствий Ф и Ф (порядок существен; точнее говорить Ф от Ф). Пусть Л : ХхУ х Z-> X х Z — каноническая проекция (х, г/, z) ь-► (ж, z). Тогда композицию Ф о Ф можно представить в виде
Ф о Ф = Л((Ф х Z) А (X х Ф)).
Отметим следующие полезные соотношения:
(фоф)-1 =Ф”1оФ”1;
(Ф о Ф)(М) = Ф(Ф(М)) (М С X).
Композиция соответствий — ассоциативная операция:
(ПоФ)оФ = U ф-1(6)х(1(с) = По(фоФ).
(ь,с)еФ
Соответствие Ф : X —> У определяет отображение f из X в У, если с!от(Ф) = X и выполнено условие однозначности:
(х, гл) € Ф Л (ж, г/2) € ф -> г/1 = У2-
В этом случае Ф(х) = {f(x)} (х € X) и Ф отождествляют с /. Если f и д — отображения, то их суперпозицию до f иногда обозначают более коротким символом gf.
(3)	Зафиксируем соответствие Ф из X в У. Полярой множества А С X (относительно соответствия Ф) называют множество
7гФ(Л) := {у е У : А х {у} С Ф} = {у € У : Ф~г(г/) Э А}.
1.2. Выпуклые соответствия
23
Таким образом, поляра 7Гф(А) — это множество всех таких у € У, что для каждого х е А будет (х, у) е Ф. Значит, учитывая очевидное равенство 7Гф(гг) = Ф(ж) (х е X), можно написать
7Гф(А) = р| 7Гф(ж) = р| Ф(ж) (А С X).
хеА	хеА
Перечислим несколько свойств поляры, которые вытекают непосредственно из определений. При этом для фиксированного соответствия Ф символ 7Гф(А) мы заменим более простым тг(А). Кроме того, при А — {ж} заменим тг(А) на 7г(я). Поляру относительно обратного соответствия Ф-1 мы будем обозначать символом 7г-1(В) := 7Гф-1(В) (В С У).
Поляры обладают следующими простыми свойствами:
(а)	Если Ai С Л2 С X, то тг(А1) D 7г(А2).
(Ь)	Если А х В С Ф, то В с тг(А) и А с тг”1(В).
(с)	Если АсХиВсУ, тоАс тг“1(тг(А)) и В С 7г(тг~1(В)).
(d)	Если (A^)^gs — это некоторое непустое семейство множеств в X, то ^(U^esA) = П$е=7Г(А);
(е)	Если АсХиВсУ, то тг(А) = 7г(тг-1(7г(А))) и тг-1(В) = я--1(7г(7г-1(В))).
(4) Критерий Акилова. Пусть А — подмножество множества X. Тогда А = 7г“1(В) для некоторого В С Y в том и только в том случае, когда для каждого элемента х Е X, не принадлежащего множеству А, можно указать такой элемент уо € У, что выполнены соотношения тг~1(уо) Э А и х тг~х (?/о)-Если эти соотношения выполнены, то А = 7г’“1(тг(А)).
<1 —»: Предположим, что множество В с указанными свойствами существует. Возьмем х е Х\А. Так как х А = 7Г-1(В), то ({я} хВ)\Ф / 0. Значит, найдется Уо Е В такой, что (х, уо) Ф. Ясно, что х Ф-1(г/о) = 7г-1(2/о)- Вместе с тем условие уо Е В в силу свойства (а) из (3) влечет включение 7г-1(?/о) Э 7Г~1(^) = А, Таким образом, элемент уо удовлетворяет обоим требуемым соотношениям.
: Допустим теперь, что соблюдено условие теоремы. Докажем, что тогда А = 7г“1(тг(А)) и, следовательно, можно принять В = тг(А). Согласно предложению (Ь) из (3) А С 7г-1(7г(А)). Пусть х е 7г” 1(тг(А)). Если бы оказалось, что х А, то по условию мы нашли бы уо Е Y так, что выполнены указанные в формулировке соотношения. В частности, привлекая предложения (а) и (Ь) из (3), мы имели бы уо е тг(тг~1 (?/о)) С 7г(А), так что можно было бы написать 7Г~1(?/о) Э 7Г—1(тг(А)), а это противоречит соотношению х € 7г_1(тг(А)). 1>
1.2.2.	Пусть теперь X и У — векторные пространства и Ф — соответствие из X в У. Говорят, что Ф есть Г-соответствие, если Ф Е <^г(Х х У). Если Г-множества для конкретного Г носят специальное название (см. 1.1.2), то это название сохраняют и для Г-соответствий. В этом смысле говорят о линейных, выпуклых, конических и аффинных соответствиях, а также, в частности, о линейных и аффинных операторах (см. 1.3.5 (3)). Однако имеется важное исключение: выпуклый оператор не есть, вообще говоря, выпуклое соответствие
24
Глава 1. Выпуклые соответствия и операторы
(за исключением специальных случаев (см. 1.3.4)). Рассмотрим некоторые свойства Г-соответствий, считая, что А, В С R2 иГ := А А В в следующих ниже предложениях (2), (4) и (5).
(1)	Если Ф С X х Y — это Г-соответствие, то для любых А С Х,В С X и (а, /3) € Г выполнено
Ф(аА 4- (ЗВ) D аФ(А) + /ЗФ(В).
Наоборот, если при всех a,b € X и (а,/3) € Г верно
Ф(аа 4- (3b) D аФ(а) 4- /ЗФ(Ь),
то Ф является Г-соответствием.
< Пусть Ф G &г(Х х У). Если (а,/?) = (0,0) G Г или же какое-нибудь из множеств А, В или Ф пусто, то доказывать нечего. В любой из оставшихся ситуаций возьмем у е Ф(а) иге Ф(Ь), где а € А и b е В произвольны. Тогда а(а, у) 4- /?(6, г) е Ф. Значит,
ау 4- (3z Е Ф(аа 4- (3b) С Ф(аЛ 4- (ЗВ).
Тем самым аФ(а)4-/ЗФ(Ь) С Ф(аА+(ЗВ) для всех а € А и b € В, а это равносильно требуемому.
Предположим теперь, что ay + (3z € Ф(аа + /ЗЬ), каковы бы ни были у Е Ф(а), z е Ф(6) и (а, (3) Е Г. Но тогда а(а, у) 4- (3(b, z) G Ф при тех же (а, /3), у и г, что и доказывает соотношение Ф 6 &г(Х х У). О
(2)	Пусть Ф — некоторое A-соответствие, действующее изХ в Y, и СЕ&в(Х). Тогда Ф(С) 6 ^Г(У).
<] При сформулированных условиях Ф будет Г-соответствием и С € &г(Х). Поэтому для (а,/3) € Г в силу (1) можно написать
аФ(С) + (ЗФ(С) С Ф(аС + (ЗС) С Ф(С). >
(3)	Если Ф есть Г-соответствие, то Ф-1 — также Г-соответствие.
(4)	Пусть Ф С X х У — некоторое A-соответствие и Ф С Y х Z — некоторое ^-соответствие. Тогда Ф о Ф является Г-соответствием.
<1 Если выполнены указанные условия, то Ф € &г(Х х У) и Ф € &r(Y х Z). Следовательно, для (а,/3) Е Г и u, v € X в силу (1) справедливы соотношения
Ф О ф(аи 4- (3v) D Ф(аФ(и) 4- /ЗФ(у)) D аФ(Ф(и)) 4- /ЗФ(Ф(?;)),
доказывающие, что Ф о Ф есть Г-соответствие. 1>
(5)	Если Ф С X х Y — это A-соответствие, а М € &(Х), то
НГ(Ф(М)) С Ф(НВ(Л/)).
1.2.3.	Рассмотрим теперь некоторые операции над выпуклыми соответствиями, не выводящие за пределы класса выпуклых соответствий, т. е. сохраняющие
1.2. Выпуклые соответствия
25
выпуклость. Аналогичные операции для общих Г-соответствий нам не потребуются, однако при желании читатель может сам легко сформулировать соответствующие определения и факты. Само собой разумеется, что способы построения выпуклых множеств, рассмотренные в 1.1.6, применимы и в случае выпуклых соответствий. Опуская подробности, отметим лишь явные формулы, выражающие значение в точке х составного соответствия Ф через значения образовавших его соответствий.
Пересечение и выпуклая оболочка объединения, а также объединение фильтрованного вверх семейства выпуклых соответствий являются выпуклыми соответствиями.
При этом для любого семейства (Ф$ )$es соответствий из X в Y имеют место формулы:
(1)	( Пф/Ь)= П ад; / ees
(2)	( U*e)(*)= U ад;
(3)	со( и = U и( £>*$*(**)), \«ен /	e€^n„(S)	)
где внутреннее объединение распространено на все представления
х = ^2akxk, xkeX, ak € R+,	= 1.
kee	keo
(4)	Пусть C X$ x для каждого £ e S. Положим
Х:=Пхе, Y:=Ipi.
€€S	?e=
° : ((®6%)ees)	((®c)c6S, toes) •
Тогда cr(fifes $<) ~ соответствие из X в Y и выполнено равенство
а(ПфХ) = Пад) (х€Х).
7 ees
(5)	Если Т € L(U,X), S е L(V,Y) и Ф — выпуклое соответствие из U в V, то (S х Т)(Ф) — выпуклое соответствие из X в У, причем
(5хТ)(Ф)(Я;) = 5(Ф(Т-1(х))) (жеХ).
Здесь, как обычно, L(t7, X) и L(V, Y) — пространства линейных операторов, действующих соответственно из U в X и из V в У.
(6)	Если a — строго положительное число, то
аФ(х) = аФ(ж/а) (х € X).
26
Глава 1. Выпуклые соответствия и операторы
Кроме того, положим 0Ф(х/0) := (0 • Ф)(я) и (ооФ)(я/оо) := (оо • Ф)(я). Тогда на основании 1.1.6 (5) мы получим
0Ф(ж/0) = р{аФ(и 4- х/а) — v а 0, (u, v) € Ф} ;
ооФ(ж/оо) = {аФ(ж/а) а > 0} .
Сумма и инверсная сумма выпуклых соответствий являются выпуклыми соответствиями.
При этом выполнены формулы:
(7)	(Ф1 4- ... + Фп)(х) = и{ф1(ж1) + --- + фп(яп) : х = Х1 4-...+Яп};
(8)	(Ф1#... #Фп)(х) = U {«1Ф1(^/«1) А ... А апФп(я/ап)Ь
где объединение взято по всем aj,..., an € таким, что имеет место равенство 4-... 4- an = 1.
1.2.4.	К соответствиям применимы несколько специфических операций. Прежде всего, это композиция соответствий и переход к обратному соответствию (см. 1.2.1). Другие операции будут введены ниже.
Итак, пусть Ф1,..., Фп — соответствия из X в У. Правую частичную сумму Ф1 +... 4- Фп определяют следующим образом. Пара (ж, у) входит в Ф1 4-... + Фп в том и только в том случае, если имеет место разложение у = у\ 4- ... 4- уп, где г/i,... ,уп € У таковы, что (#,?/&) € Ф& для всех k := 1,... ,п. Понятно, что выполнено равенство
(Ф1 + ... + Ф„)(х) = Ф1(х) + ... + Фп(х) (х G X).
Эффективное множество соответствия Фх +... 4-Фп совпадает с пересечением <1от(Ф1) А ... А 4от(Фп).
Аналогично определяют левую частичную сумму Фх4- ... 4-Фп. Пара (ж,у) входит в Ф14- ... 4- Фп в том и только в том случае, если имеет место разложение х = Xi 4-... 4-хп, где Хк € X и (ж^, у) € Фк при к := 1,..., п. При этом выполнено соотношение
(Ф1+	+Фп)(ж) = U] Ф1(^1)П...ПФп(а:п) : хк G X, ^хк = х ►.
I	fc=l
Эффективное множество соответствия Ф14- ... 4- Фп совпадает с суммой с!от(Ф1) 4- ... 4- <1от(Фп). Существует очевидная связь между обеими частичными суммами:
(Ф1 +... 4- Фп)-1 = Ф?1 + • • • + Фй1;
(Ф1 +  • • + Фп)-1 = Ф?1 +... 4- Ф"1.
Выясним, как частичные суммы могут быть получены из простейших операций 1.1.6 (1)-(3). Пусть бтп — отображение перестановки координат, осуществляющее линейную биекцию между пространствами (X х У)п и Хп х Уп. Точнее,
<T„((xi,j/i),...,(хп,уп)) := (Х1,...,хп,у1,...,уп)-
1.2. Выпуклые соответствия
27
Пусть отображение Л : Хп х Yn —> X х У действует по правилу
\n fc=i fc=i
Тогда имеет место представление
(Ф1 +... + Фп)(х) = Л ( ап ( Д Фк) Г) (Дп(X) X Yn) \	'k=l '
Здесь Дп : х м	- вложение X в диагональ ДП(Х) := {(ж,...,х) €Хп :
х G X} пространства Хп. Аналогично обстоит дело с левой частичной суммой. Из 1.1.7 следует (впрочем, это видно и непосредственно), что справедливо следующее предложение.
Левая и правая частичные суммы выпуклых (конических) соответствий являются выпуклыми (коническими) соответствиями. Обе частичные суммы служат ассоциативными и коммутативными операциями в классе выпуклых соответствий.
1.2.5.	Рассмотрим выпуклые соответствия ФсХхУиФсКх/. Соответствие
Ф О Ф := U (0 • Ф) о (а • ф) а+/3=1
а>0,/3>0
называют инверсной композицией Ф и Ф. Понятно, что Ф © Ф — соответствие из X в Z. В более подробной записи пара (х, z) G X х Z входит в Ф © Ф в том и только в том случае, если существуют числа ot,(3 G. R+, a + 0 = 1, и элемент у € У такие, что (х,у) € a • Ф и (у, z) е /3 • Ф. При этом следует иметь в виду, что 0 • Ф = гес(Ф) и 0• Ф = гес(Ф). Придадим смысл выражениям вида &Ф(1/аМ) при a = 0, полагая ОФ(1/0М) := тес(Ф)(М) (ср. 1.2.3 (6)). Тогда имеют место следующие формулы:
Ф & Ф = (J (аФ)-1 а+/3=1 а>0,/3>0 3/€1т(Ф)
1 \ \
-у I х /ЗФ I -у ); а / \р J
ф®ф(я)= U ^ф(?ф(-)ь
а^О, 0^0
Так же, как и для случая композиции, верно соотношение (Ф©Ф)-1 = Ф'1 ©Ф“х. Если Ф и Ф — конические соответствия, то Ф © Ф — Ф о Ф.
Инверсная композиция выпуклых соответствий есть выпуклое соответствие.
<1 Возьмем а?1,Ж2 € X и 71,72 € R, 71 / 0, 72 / 0, 71 + 72 = 1. Будем использовать выпуклость Ф и Ф, а также приведенную выше формулу для вычисления Ф © Ф(х). Пусть элементы a, (3,S, е € таковы, что а + /?=1 = <?-|-£. Положим
28
Глава 1. Выпуклые соответствия и операторы
Al := 7ia 4- 725 и Аг := 71/3 4- 7г£- Допустим, что Ai 0 и А2 0 0. Тогда с учетом равенства Ai 4- А2 = 1 можно написать:
А(а,/3,5,е):= 71/?Ф (^Ф (—Й + 72еФ (-Ф (С \р \ а //	X о / /
с м, te, (а) +	(гп) с
\ Л2 X ot / Л2 X о / /
с Л2Ф (^-Ф	с ф о ф(71Ж1 + 72а.д
Если Ai = 0, то а = 6 = 0. Отсюда
А(а,/?, 5, е) = 71Ф(гес(Ф)(ж1)) 4- 72Ф(гес(Ф)(х2)) С С Ф(71 гес(Ф)(х1) 4- 72 гес(Ф)(т2)) С С Ф(гес(Ф)(71Я1 4- 72^2)) С Ф 0 Ф(71#1 + 72^2).
Аналогично обстоит дело и при /3 = е = 0. Итак, для любых указанных а, /3,5, е выполнено Л(а, /?, J,s) С Ф 0 Ф(71 ^1 + 72^2)- Следующее очевидное соотношение
= 71Ф(Ф(Я1)) +72Ф(Ф(^2))
завершает доказательство. 1>
1.2.6.	С каждым выпуклым множеством С С X можно связать специальное соответствие Н(С) из X в R, называемое преобразованием Хёрмандера множества С. Именно:
Я(С) := {(x,t) е X х R+ : х € tC}.
(1) Множество выпукло в том и только в том случае, если его преобразование Хёрмандера — коническое соответствие.
<1 Заметим, что (X х {1}) П Н(С) = С х {1}. Тем самым выпуклость Н(С) обеспечивает выпуклость С. Допустим, в свою очередь, что С — выпуклое множество. Возьмем произвольные х,у е X. Пусть s € Я(С)(я) и t G Н(С)(у). В силу 1.1.6 (5) выполнено sC 4- tC = (s 4- t)C. Следовательно, x 4- у € (s 4- t)C или s 4-1 € H(C)(x 4- у}. Стало быть, Я(С)(ж 4- у) D Н(С)(х) 4- Я(С)(г/). Положительная однородность Н(С} очевидна. На основании 1.2.2 (1) мы заключаем, что Н(С) — коническое соответствие. 1>
(2) Для произвольного множества С верна формула:
со(Я(С)) = сопе(Я(С)) = Я(со(С)).
<1 Очевидно, что при Ci С С2 будет Я(С1) С Я(С2). Отсюда и из (1) немедленно вытекает, что среди исследуемых множеств со(Я(С)) — наименьший, а Я(со(С)) — наибольший по включению элементы. Поэтому нужно лишь показать, что со(Я(С)) D Я(со(С)). Если х € Асо(С), А > 0, то ж = A(Ai^i4-. . .4-Апжп)
1.2. Выпуклые соответствия
29
для некоторых Ж1,...,жп € С и положительных чисел Ai,...,An таких, что Ai + ... -I- An = 1. Так как Xxk € АС, то (Ххь, А) € Н(С). Поэтому
п
(х,А) = ^Afe(Axk,A) € со(Я(С)), ы
что и требовалось. 1>
В дальнейшем, как правило, мы будем рассматривать преобразование Хёрма-ндера лишь для конических отрезков.
1.2.7. Пусть CSeg(X) и Сопе(Х) — соответственно множества всех конических отрезков и множество всех конусов в пространстве X. Тогда Н : С^>Н(С) — это отображение из CSeg(X) в Сопе(Х х К). Операции в CSeg(X) преобразуются при отображении Н по довольно простым правилам. Отметим полноты ради следующие соотношения:
Я(С1 П... П Сп) = Я(С1) П... п Я(Сп);
Я(со(С1 U ... U Сп)) = Я(С1) + ... + Я(Сп);
Я(С! + ... + Сп) = Я(С0 + ... + Я(Сп);
Я(Сх#... # Сп) = Я(С1) + ... + Я(Сп).
1.2.8. При изучении выпуклых соответствий нам часто придется встречать конструкции, связанные с анализом такого взаимного расположения пары множеств векторов, при котором одно из них покрывается или, как говорят, «поглощается» скалярным кратным, т. е. подходящей гомотетией другого. Напомним некоторые определения.
Пусть А и В — непустые подмножества векторного пространства X. Элемент a G А называют алгебраически внутренней точкой А относительно В, если для каждого b € В \ {а} можно найти такое число е > 0, что а -Ь t(b — а) € А при 0 < t < е. Множество всех точек Л, обладающих названным свойством, обозначают символом core# (Л) и называют алгебраической внутренностью А относительно В. Геометрически вхождение а е сотев(А) означает, что вдоль отрезка, соединяющего а с любой точкой b € В, можно немного отойти от точки а, оставаясь в пределах А. Множество соге(А) := соге%(А) сокращенно называют алгебраической внутренностью А или, короче, ядром А. Говорят, что А — поглощающее множество, если 0 € соге(А). Относительной внутренностью А называют множество ri(A) := согеащл)(^)- Заметим, что А будет поглощающим в том и только в том случае, если X = |J{nA : п := 1,2,... }; т. е., образно говоря, если А поглощает каждую точку пространства X.
(1)	Пусть Ф — выпуклое соответствие из X в векторное пространство У. Возьмем некоторые множества А С X и В С У. Тогда для любого V С Х~ выполнено включение
согев(Ф(А)) П Ф(согед(У)) С согед(Ф(У)).
30
Глава 1. Выпуклые соответствия и операторы
<1 Если у входит в левую часть исследуемого соотношения, то у G Ф(ж) для некоторого х G согед(У). Положим
Фо := Ф - (ж,г/), А0:=А-х, Vq := V - ж, Bq := В - у.
Тогда, как нетрудно видеть, Фо(^Ь) = Ф(У) — у и Фо(Ао) = Ф(А) — у. Поэтому
0 € согед0(У0), 0 € согев0(Фо(Ао)).
Таким образом, достаточно установить, что Фо (Vo) поглощает любой элемент из Во. Допустим, что Ь € Во, и подберем е > 0 так, чтобы еЬ € Фо(Ао). Тогда (а,еЬ) € Фо для некоторого а Е Aq. Поскольку Vo поглощает любой элемент из Ао, существует число 0 < /3 < 1, для которого (За eVq. Отсюда заключаем:
/?(а, еЬ) — /3(а, ety 4- (1 — /3)(0,0) € Фо-
Последнее обеспечивает соотношения /ЗеЬ 6 Фо(/3х) С Фо (И)), завершающие доказательство. 1>
(2)	Если 0 € Ф(0) и йп(Ф) — поглощающее множество, то образ любого поглощающего множества относительно Ф есть поглощающее множество.
(3)	Множество С С X называют алгебраически открытым, если соге(С) = С. Алгебраически замкнутым называют такое множество СсХ, дополнение X \ С которого алгебраически открыто. Таким образом, алгебраическая замкнутость С означает, что соге(Х \ С) = X \ С.
(4)	Если конический отрезок С С X алгебраически замкнут, то гес(С) = = П{^С : е > 0}. В частности, рецессивный конус алгебраически замкнутого конического отрезка алгебраически замкнут.
<] Предположим, что С / X, так как иначе доказывать нечего. Обозначим К := П{вС : е > 0}. Тогда К Z) гес(С) по очевидным соображениям. Возьмем k е К и заметим, что k+C С еС+С С (14-е)С* для любого е > 0. Если х G Х\С, то по условию х € core(X \ С). Значит, существует 0 < 6 < 1, для которого (1 — 6)х = х 4- 6(— х 4- 0) G X \ С. Выберем е так, чтобы (1 4- б)(1 - <5) < 1. Тогда х G (14-£)С, ибо если х = (14~е)с, с € С, то (1 — 6)х = (14-е)(1-5)с G СП(Х\С), чего не может быть. Итак, С = Р|{(14-е)С :6>0}HC4-fccC. Согласно 1.1.5 (1) последнее означает, что k 6 гес(С). О
1.3.	Выпуклые операторы
В текущем параграфе мы рассмотрим основные приемы построения выпуклых операторов при помощи элементарных алгебраических и решеточных операций. Главные роли при этом играют специальные выпуклые соответствия — надграфики выпуклых операторов.
1.3.1.	Выпуклые операторы будут всегда принимать свои значения из некоторого упорядоченного векторного пространства Е, к которому присоединены два несобственных элемента 4-оо := оо и — оо. Поэтому прежде всего необходимо
1.3. Выпуклые операторы
31
разумно распространить алгебраические операции и порядок из Е на множество Е := Е U {—оо, 4-оо}. Принято считать, что 4-оо — наибольший элемент, а —оо — наименьший элемент упорядоченного множества Е, причем порядок, индуцированный в Е из Е, совпадает с исходным порядком в Е. Кроме того, в соответствии с общими определениями 4-оо := inf 0 и —оо := sup0. Распространим операции сложения и умножения на вещественные числа, имеющиеся в Е, на множество Е. Для этого примем следующие соглашения:
ах + у := ха 4- у := ш£{аж' 4- у' : ж' > ж, г/' > г/; ж', yf G Е} (а 0);
(-о)оо оо(-а) := -оо; (-а)(-оо) := (~оо)(—а) := 4-оо (а > 0).
Таким образом, мы полагаем ж — оо := —оо 4- ж := —оо для любых ж 6 Е U {—оо}; 0(-оо) := (—оо)0 := 0, а всем оставшимся выражениям (Ооо, ооО, ж4-оо, оо4-ж, где ж G Е) приписываем значение 4-оо. Подчеркнем, что эти правила не являются традиционными. Однако они соответствуют духу «одностороннего анализа» и в дальнейшем у читателя не раз будет возможность убедиться в их естественности и полезности.
Легко видеть, что в Е выполнены законы коммутативности и ассоциативности сложения, а также дистрибутивности умножения относительно сложения. Ассоциативность умножения на скаляр, т. е. свойство а(/3ж) = (а/?)ж, может быть нарушена.
1.3.2.	Для произвольного отображения f : X Е равносильны условия:
(1)	надграфик epi(/) := {(ж, е) € X х Е : е > f(x)} — выпуклое множество;
(2)	для любых Ж1,ж2 G X; уг,у2 6 Е и А € [0,1] таких, что f(xk) Ук (к := 1,2), выполнено неравенство
f(Xx! + (1 - А)х2) < У1 + (1 - А)у2;
(3)	для любых Ж1,..., жп € X и чисел Ai > 0,..., Ап > О, Ai 4-... 4- An = 1, справедливо неравенство Йенсена
/(А1Ж1 4~ • • • 4" Апжп) Ах/(жх) 4*... 4* Ап/(жп).
<1 (1) —* (3): Предположим, что epi(f) — выпуклое множество. Если /(ж&) — оо при некотором к 6 {1,...,п}, то неравенство Йенсена выполнено тривиально. Поэтому достаточно рассмотреть случай Ж1,...,жп С dom(/) := {ж 6 X : /(ж) < 4- оо}. Пусть f(xk) ^Ук е Е при к := 1,..., п. В силу допущения
А1(жх, У1) + ... + Ап(жп, уп) е epi(/)
для всех Ai,..., Ап 0, Ai 4-... 4- An = 1. Стало быть,
/(А1Ж1 4-... 4- Апжп) А1?/1 4-... 4- Ап?/п.
Если f принимает конечные значения в точках жх,... ,жп, то в последнем неравенстве достаточно положить у^ := /(ж&) для всех к. В противном случае правая
32	Глава 1. Выпуклые соответствия и операторы
часть этого неравенства не ограничена снизу. Поэтому /(Ai^i 4-... 4- Апжп) = —оо и неравенство Йенсена также имеет место.
(3) —> (2): Очевидно.
(2) -+ (1): Допустим теперь, что выполнено (2), и пусть точки (xi, t/i) и (жг, г/г) принадлежат epi(/). Тогда, согласно определению, /(#&) С Ук < оо (k := 1,2). Следовательно, для любого числа А 6 [0,1] из (2) получим
/(Axi + (1 - A)z2) A?/i + (1 - А)г/2,
откуда следует требуемое включение:
А(Ж1, г/1) 4- (1 - А)(ж2,2/г) = (Azi + (1 - А)х2, Xyi + (1 - А)г/2) 6 epi(/). >
1.3.3. Отображение, удовлетворяющее одному (а тогда и любому) из эквивалентных условий 1.3.2 (1-3), называют выпуклым оператором. Таким образом, отображение f выпукло в том и только в том случае, если epi(/) — выпуклое соответствие.
Особый интерес представляют выпуклые операторы, не принимающие нигде значения —оо, так как прочие выпуклые операторы имеют весьма специальный вид. В самом деле, нетрудно проверить, привлекая предложение 1.3.2, что если f принимает значение —оо хотя бы в одной точке, то f(x) = —оо для всех х € ri(dom(/)). Значит, такой оператор может принимать конечные значения лишь в точках относительной границы эффективной области dom(/).
Выпуклый оператор называют собственным, если он не равен тождественно +оо и не принимает значения —оо ни в одной точке своей эффективной области. Часто для исключения из рассмотрения несобственных выпуклых операторов выделяют операторы со значениями в множестве Е* := Е U {4-оо}. Порядковые и алгебраические операции в «полурасширенном» пространстве Е9 считают индуцированными из Е. Собственный выпуклый оператор f : X —> Е9 с эффективной областью dom(/) = X иногда называют всюду определенным.
Здесь уместно еще раз подчеркнуть следующую особенность нашей терминологии (см. 1.2.2): выпуклый оператор, вообще говоря, не является выпуклым соответствием. В самом деле, отображение f : X Е9, суженное на dom(/), будет выпуклым соответствием в том и только в том случае, если dom(/) — выпуклое множество и f(ax -I- /Зу) = af(x) 4- /3f(y) для всех х,у € dom(/) и а > О, О, а 4- /3 = 1. Если f удовлетворяет указанному условию, то /, конечно же, выпуклый оператор. В то же время произвольный выпуклый оператор не таков, если только положительный конус Е+ пространства Е отличен от тривиального конуса {0}.
1.3.4. Укажем несколько важных классов выпуклых операторов.
(1) Оператор называют индикаторным, если он принимает только два значения: 0 и -Ьоо. Ясно, что всякий индикаторный оператор f имеет вид
{О, если х G С,
4-оо, если х % С,
1.3. Выпуклые операторы
33
где С := dom(f). Этот оператор обозначают символом 6е(С) и называют индикаторным оператором множества С.
Как видно, ерЦ^С)) = С х Следовательно, индикаторный оператор $е(С) является выпуклым в том и только в том случае, когда С — выпуклое множество, см. 1.1.6 (2). (Здесь и далее Е+:={е € Е : е > 0} — положительный конус (пред)упорядоченного векторного пространства Е.) Итак, индикаторные операторы выпуклых множеств составляют простейший класс положительных выпуклых операторов, т. е. выпуклых операторов с положительными значениями.
(2) Следующий класс выпуклых операторов образован сублинейными операторами, чрезвычайно важная роль которых обнаружится уже в следующем параграфе. Выпуклый оператор р : X —> Е* называют сублинейным. если epi(p) — коническое соответствие. Говорят, что р субаддитивен, если р(х + у) < р(х) +р(у) для всех х.у е X. Если 0 € dom(p) и р(Хх) = Ар(х) для всех х G X и А > 0, то р называют положительно однородным. Заметим, что для положительно однородного Оператора всегда будет р(0) = 0, так как р(0) < Ч-оо и 0 = 0р(0) = р(0). Если не требовать вхождения 0 6 dom(p), то может оказаться, что р(0) = +оо.
Для оператора р : X Е* равносильны следующие утверждения:
(а)	р — сублинейный оператор;
(Ь)	р — выпуклый и положительно однородный оператор;
(с)	р — субаддитивный и положительно однородный оператор;
(d)	0 € dom(p) иp(ax + 0у) < ар(х) + 0р(у) для всех х.у е X и а.(3 G
< (а) -» (Ь): Если Ф := epi(p), то для я€ХиА>0в силу 1.2.3 (5) (А-1Ф)(ж) = А""1Ф(Ах). С другой стороны, по условию (а) должно быть А-1Ф = Ф. Значит, Ф(х) = А~1Ф(Ах) или АФ(х) = Ф(Аж). Это равносильно равенству р(Аж) = Хр(х). Положив в последнем соотношении х := 0 и А := 2, получим р(0) — 2р(0). Кроме того, из вхождения (0,0) G epi(p) видно, что 0 € dom(p). Следовательно, р(0) = 0. Выпуклость р вытекает из 1.3.2.
(Ь)	—> (с): Привлекая вначале выпуклость, а затем положительную однородность р. можно написать
/1 1 \	1	1
р(х + у) = р ( -(2х) + -(2у))	-р(2х) + -р(2у) = р(х) + р(у).
(с)	—> (d): Очевидно.
(d)	—> (а): В силу 1.3.2, из (с) вытекает выпуклость epi(p). Если (х.у) G epi(p) и А > 0, то р(Хх) < Хр(х) < у. Стало быть, Х(х.у) G epi(p). Кроме того, при ж = ^ = 0иа = /? = 0 будет р(0) < 0, т. е. (0,0) € epi(p). >
(3) Пусть X и Y — векторные пространства. Оператор А : X —> Y называют аффинным (линейным), если А — аффинное многообразие (линейное подпространство) в X х Y (ср. 1.2.2).
Оператор А : X —> У является аффинным (линейным), если и только если
Л(а!Ж1 -I- а^г) = аМ(ж1) + оцА(х2)
2 Кусраев А. Г., Кутателадзе С. С.
34
Глава 1. Выпуклые соответствия и операторы
для любых xi,X2 € X и чисел ai, а2 € 1R, ац 4-02 = 1 (соответственно, для любых o?i,x2 G X и ai,a2 Е R).
Множество линейных операторов из X в Y мы, как всегда, будем обозначать символом L(X,Y) (ср. 1.1.6(3)). Ввиду 1.1.4(2) между аффинными и линейными операторами имеются простые связи. Если Т G L(X, Y) и у € У, то оператор Ту : х Тх + у (х G X) является аффинным. Наоборот, если А : X —> Y — произвольный аффинный оператор, то существует единственная пара (Т, у), где Т е ЦХ, Y) и у eY, такая, что А = Ту, Подчеркнем здесь же, что при рассмотрении суперпозиции линейных или аффинных операторов знак о всегда принято опускать. При этом вместо Л (ж), как правило, пишут короче: Ах,
Опишем теперь простой, но достаточно общий способ конструирования выпуклых операторов.
1.3.5. Пусть X — векторное пространство, Е — некоторое К-пространство и Ф — выпуклое соответствие из X в Е, Тогда отображение f := inf о Ф, определяемое соотношением
f(x) := inf Ф(х) := inf{е € Е : е G Ф(т)} (х € X), является выпуклым оператором, причем наибольшим среди выпуклых операторов g : X —> Е, удовлетворяющих соотношению epi(p) D Ф. В частности, dom(/) = с!от(Ф). Если Ф — конус и множество Ф(0) ограничено снизу, то оператор f сублинеен,
<1 Пусть х,у € X, а скаляры а > 0 и /3	0 таковы, что a + 0 = 1. Если
Ф(ж) = 0 или Ф(у) — 0, то для / при указанных параметрах выполнено неравенство Йенсена. Допустим, что множества Ф(х) и Ф(у) непусты и ограничены снизу. Тогда, используя выпуклость Ф и свойства точных нижних границ (см. 1.2.2 (1) и 1.3.1), можно написать
Otf(x) + 0f(y) = Ы(аФ(х)) 4- ш((0Ф(у))
тГ(аФ(х) 4- /ЗФ(у)) inf Ф(ах 4- 0у) — f(ax 4- 0у),
Предположим, наконец, что хотя бы одно из множеств Ф(х) и Ф(у) не ограничено снизу. Тогда множество аФ(х) +0Ф(у), а вместе с ним и более широкое множество Ф(ах+0у) не ограничены снизу, следовательно, f(oix+/3y) = -00 < otf(x)+0f(y).
Допустим, что Ф — конус и Ф(0) ограничено снизу. Тогда будет Ф(Ах) = АФ(я) для х е X и А > 0 (см. 1.3.4 (2)). Стало быть,
f(Xx) = inf Ф(Агг) = inf АФ(яг) = A inf Ф(ж) = Xf(x),
Кроме того, (0,0) € Ф, поэтому /(0) < 0 и 0 е dom(/). С другой стороны, /(0) = /(2 • 0) = 2/(0), а так как /(0) е Е, то /(0) = 0. Итак, выпуклый оператор / : X Е* положительно однороден, а по предложению 1.3.4 (2) / будет сублинейным. О
1.3.6. Указанный в 1.3.5 прием построения выпуклых операторов приводит к многочисленным конкретным конструкциям. Перечислим некоторые операции с надграфиками и выясним, что получается из соответствующих выпуклых
1.3. Выпуклые операторы
35
операторов при применении таких операций. Начнем с простейших теоретикомножественных операций.
(1)	Пересечение надграфиков. Для подмножеств А с Е и В с Е будет inf(A А В) inf А V inf В, причем неравенство может оказаться строгим. Однако если А := [а, +оо) := {е : е > а} и В := [6, +оо), то inf (А А В) = а V 6. Учитывая эти простые соображения и 1.2.3 (1), мы без труда приходим к следующему утверждению.
Для любого семейства выпуклых операторов : X —> Е (£ € S) точная верхняя граница f := sup{/^ : £ G Е}, вычисляемая по формуле
f{x) = sup{/e(z) : £ G Е} (хеХ),
есть выпуклый оператор, причем epi(/) = C|{epi(/$) : С € S}-
Отсюда вытекает, в частности, что dom(/)=P|{dom(/$) : £ € S}. Для конечного Е := {1,..., п} приняты обозначения
/1 V ... V /п := sup{/i,... ,/n} = sup{/fc : k := 1,... ,п}.
(2)	Объединение надграфиков. Очевидно, что множество Ф := |J{epi(Д) : £ G S} не является, вообще говоря, выпуклым и процедура Ф inf о Ф не приводит к выпуклому оператору. Однако независимо от выпуклости Ф оператор f := inf оф совпадает с поточечной точной нижней границей семейства (Д) в силу формулы 1.2.3 (2) и ассоциативности точных нижних границ:
/(ж) = inf {/с (ж): £ € 2} (хеХ).
Если некоторое семейство выпуклых (сублинейных) операторов (/^)^g= филь-тровано вниз, т. е. если для любых £,т) 6 S существует такой индекс £ 6 Е, что Д, Д > Д, то поточечный инфимум этого семейства есть выпуклый (сублинейный) оператор.
В этой ситуации семейство (dom(/^))fes фильтровано вверх по включению и dom(/) = |J dom(/e).
(3)	Произведение надграфиков. Пусть оператор Д действует из Х$ в Е$. Положим X	и Е :==	Пусть о : FlfesPQ х
X х Е — вновь подходящая перестановка координат (см. 1.2.3 (4)). Положим Ф := <т(П$енеРКЛ))- Тогда Ф — выпуклое соответствие, причем для выпуклого оператора
у := д := ЫоФ:Х-+Е
имеем epi(/) = Ф и dom(/) = fifes dom(/f) (см. 1-2.3 (4)). Таким образом, f(x)eE, /(т):£^Д(^) (£ G Е)
2’
36
Глава 1. Выпуклые соответствия и операторы
для всех х е dom(/), х : £ i—> х$, £ Е S, причем f(x) — +оо в том и только в том случае, если Д (я$) = +оо хотя бы для одного индекса £ и /(ж) = —оо в том и только в том случае, если х$ Е dom(/$) для всех индексов £ и Д(я$) = — оо хотя бы для одного индекса £. Для конечного S := {1,... ,п} принято обозначение /1 X . . . X fn := flfcasl А-
1.3.7. Обратимся теперь к алгебраическим операциям с выпуклыми множествами.
(1) СУММА НАДГРАФИКОВ. Возьмем выпуклые операторы /1,..., fn : X —» Е и положим Ф := epi(/i) + ... + epi(/n). В этой ситуации оператор inf о Ф называют инфимальной конволюцией (реже inf-конволюцией или +-конволюцией (ср. 1.3.10)) /1,..., fn* При этом полагают
ф fk := fi Ф • • • Ф fn := inf оф. fc=l
Как видно из 1.2.3 (7), инфимальная конволюция вычисляется по формуле
I фА ) (х) = inf	.,®П € X, 22®* = а:к
\fc=i /	U=i	fc=i )
Операция ф коммутативна и ассоциативна. Если 6 := <5r({0}), то f Ф 6 = = S ф f = /, т. е. 8 играет роль нейтрального элемента для операции ф. (Здесь легко усмотреть некоторую аналогию с операцией интегральной свертки, для которой дираковская (5-функция также играет роль нейтрального элемента.) Стоит подчеркнуть, что dom(/i ф ... ф fn) = dom(/i) + ... 4- dom(/n).
Инфимальная конволюция конечного числа выпуклых (сублинейных) операторов есть выпуклый (сублинейный) оператор.
(2) Умножение надграфика на положительное число. Пусть f := := X —> Е — выпуклый оператор, а > 0 и Ф := а • epi(/). Положим fa := inf оФ и заметим, что epi(/a) = a • epi(/) при а 0. Имеют место следующие формулы:
fa:x^ af(x/a) (х Е X, a > 0);
0/(ж/0) := f0(x) = sup (f(u + х) - f(u)) (х Е X).
uGdom(/)
Если f сублинеен, то fa = / для всех а > 0.
1.3.8.	Комбинируя теоретико-множественные и алгебраические операции, можно получить следующие четыре приема построения выпуклых операторов.
(1)	Выпуклая оболочка объединения надграфиков. Положим
Ф := со (|J{epi(/€) :$€=}).
Выпуклый оператор / := co((/^)^es) •= ш£оф называют выпуклой оболочкой семейства (fc). Вначале рассмотрим случай конечного множества индексов
1.3. Выпуклые операторы
37
S := {1,..., п) и положим / = co(/i,..., /п). Как видно из 1.2.3 (3), пара (ж, е) входит в Ф тогда и только тогда, когда существуют элементы G X и числа для которых
71	п	71
х — AfciEfc, е ^kfk(xk)i А/с = 1.
fc=l	fc=l	к=1
Таким образом,
f(x) = inf 152Xkfk(xk) : a;fe G X, Afc е R+, 52Afc = 52XkXk = x > lfc=l	k=l	k=l
Возьмем теперь произвольное семейство выпуклых операторов	Для
конечного множества в С S оператор со(0) определен указанной выше формулой. При этом из 0i С 02 следует, что co(0i) < со(02). Тем самым семейство (со(0)), где 0 пробегает множество ^П(Э) конечных подмножеств 5, фильтровано вверх. Поэтому в соответствии с 1.3.6 (2) inf{co(0)} = inf о Ф, где Ф := |J{epi(co(0))}• Но очевидно, что inf о ф = inf оф, и мы приходим к формуле
= inf inf{VAfcA(^)|,
где внутренняя точная нижняя граница взята по множеству
Afc)fc€0 : хк G. X, Afc € К+, ^^Afc = 1» AfcXfc — х кео кеб
Эффективная область f есть со (|J^esdom(/^)).
Заметим, что если Д,..., fn сублинейны, то
со I |J epi(/fe) 1 = epi(/i) + ... + epi(/n). \fc=i /
Следовательно,
co(/i,...,/n) := co({/i,..., fn}) = /1Ф...Ф/п.
Взяв семейство сублинейных операторов : X Е* (£ G Е), отсюда мы получаем
:= inf|фрс : 0 G ^fin(S)| = со({р€ : С € S}).
«6Н	’«60
(2)	Инверсная сумма надграфиков. Здесь следует принять
Ф := epi(/i)#... #epi(/n)-
38
Глава 1. Выпуклые соответствия и операторы
Привлекая 1.2.3 (8), 1.3.6 и 1.3.7 (2), для / := inf о Ф можно написать
I	п
f(x) = inf	V ... V (/nan)(x) : ак € R+, ^ак = 1
I	fc=i
= inf tki/i
- V...Va„/, «1/
—: ak & R+,	= 1
fc=i
(3)	Правая частичная сумма надграфиков. Пусть Ф := epi(/i) + ... 4-+ epi(/n). Согласно 1.2.4 Ф(х) = /1(х) +... + /п(х) + £’+, если х € dom(/i)n... П ndom(/n) и Ф(х) = 0 в противном случае. Отсюда вытекает, что
fi + • • • + fn := inf ° Ф : х i-> /i(x) + ... + /п(х) (х G X).
Таким образом, сумма fi + ... + fn конечного числа выпуклых операторов есть выпуклый оператор, причем
epi(/i + -.. + fn) = epi(/i) + ... + epi(/n), dom(/i + ... + /n) = dom(/i) П ... П dom(/n).
(4)	Левая частичная сумма надграфиков. Следует взять Ф := epi(/i) + + ... + epi(/n). Заметим, что
inf ( Q [fk(xk), +oo) j = /i(xi) V ... V /n(xn). \fc=i	/
С другой стороны, по определению левой частичной суммы (см. 1.2.4) выполнено
{п
Q [fk(xk), +оо) : Xi + ... + хп = х ►. fc=i
На этом пути для вычисления выпуклого оператора f := т£оф мы приходим к следующей формуле:
/(х) = inf | /1(Х1) V ... V /п(хп) : xk € X, У"хк = х > .
(	к=1	)
Возникший оператор / называют инверсной суммой (реже суммой Келли) операторов /1,..., fn и обозначают символом /1#... #fn- Как видно,
dom(/i#... #/n) = dom(/i) + ... + dom(/n)-
Инверсная сумма конечного числа выпуклых операторов есть выпуклый оператор.
1.3. Выпуклые операторы
39
1.3.9. (1) Суперпозиция надграфиков. Пусть Ф — выпуклое соответствие из X в У, a /i : У —> Е — выпуклый оператор. Если Ф := epi(A) о Ф, то ФА := inf о Ф — выпуклый оператор из X в Е и имеет место формула
ФА : ж н-> inf{h(y) : у G Ф(ж)} (х G X).
Ясно, что с1от(ФЛ) = Ф~х(с1от(А)). Если Ф — отображение (например, аффинный оператор), то ФА = h о Ф. Если же отображением является А := Ф”1, то
ФА : х	inf{h(y) : Ay = х} (я G X).
Предположим, что Y — упорядоченное векторное пространство и Ф = epi(/) для некоторого выпуклого оператора f : X —> У. Тогда оператор (А/) := := epi(/)A := ФА называют выпуклой композицией f и А, причем
(А/)(ж) = inf {h(y) : y€Y,y^ f(x)} (x G X).
Заметим, что выпуклая композиция не совпадает с обычной. Более того, даже если обычная композиция и определена, то она не обязательно совпадает с выпуклой. Тем не менее, если f действует в У*, а А возрастает, причем А(+оо) := +оо, то
W)(x) =	(xex).
В этой связи всюду в дальнейшем возрастающий оператор А := У —> Е распространяют на У по правилам Л(+оо) := -Foo и А(—оо) := —оо.
(2) Инверсная композиция надграфиков. Для тех же А и Ф, что и в (1), положим Ф := epi(A) 0 Ф. Если а, /3 G а + /3 = 1, то
inf{((/?epi(A)) о (аФ))(ж)} = inf l/3h j : у G. аФ (—} > .
По определению инверсной композиции на основе соображений, высказанных в 1.3.8 (4), мы видим, что
(inf о Ф)(ж) = inf inf < 0h (: у € аФ ) I =
= inf{(A/3)(г/) : у G аФ(ж/а), a, (3 0, a -F /3 = 1}.
Предположим, что Ф = epi(/) для некоторого выпуклого оператора / X —> У*, а отображение А возрастает. Тогда
(inf о Ф)(х) = inf{(h/З) о (fa)(x) : a, /3 > 0, a -F /3 = 1} =
= inf </3A f	:	0, a + (3 = 11.
[ \p \a/)	J
1.3.10. Имеются еще две важные операции над выпуклыми операторами, а именно, +-конволюция и V-конволюция. Рассмотрим выпуклые операторы /1 : Xi х X -> Е и /2 : X х Х2 -+ Е.
40
Глава 1. Выпуклые соответствия и операторы
Обозначим
epi(/i,X2) := {(xi,x,X2,e) 6 W : fa(xi,x) e},
epi(Xi,/2) := {(xi,x,X2,e) € W : Д(х,т2) e},
где W := Xi x X x X2 x E. Введем соответствия Ф и Ф из Х± х Х2 в Е по формулам
Ф(я1,я2) := |J (epi(/i,X2) + epi(Xi, Д))(х1,т,т2);
хех
Ф(х1,ж2) := (J (epi(/i,X2)nepi(Xi,/2))(^i,a;,a:2).
хех
Положим теперь по определению
Д Д /1 •= inf оф, Д 0 fi := inf о Ф.
Сразу же заметим, что
dom(/2 Д Д) = dom(/2 0 Д) = dom(/2) о dom(/x).
Оператор Д Д Д, т. е. +-конволюцию Д и Д, называют также сверткой Рокафеллара Д и Д.
Справедливы следующие утверждения:
(1)	А-конволюция и V-конволюция допускают представления
(/2 А /1)(Х1,х2) = mf (Л(х1,х) + f2(x,x2)),
(J2 ® Л)(ж1,х2) = inf х) V /2(х,х2));
ХЕХ
(2)	если Д и Д — выпуклые операторы, то Д Д Д и Д 0 Д также выпуклые операторы;
(3)	операции Д и 0 антикоммутативны и ассоциативны, т. е.
/2 д Д = (А д /2) о h
Д 0 Д = (Д о Д) о ь,
(Д Д /2) Д /з = Д Д (/2 Д Д),
(Д © /2) 0 /з = /1 О (/2 0 /з)»
где ь : (#1, х2)	(х2, Xi) для (#i, х2) € Хг х Х2 (в последней формуле необходимо
предполагать, что Д 0 /2 и Д 0 Д — собственные операторы);
(4)	если h — порядково непрерывный (= о-непрерывный) решеточный гомоморфизм из Е в К-пространство F, а операторы Д, Д, Д Д Д и Д 0 Д собственные, то
h о (Д Д Д) = (h о Д) Д (h о Д),
h о (Д 0 Д) = (Д о Д) 0 (h о Д);
1.3. Выпуклые операторы 41
(5)	V-конволюция выражается через +-конволюцию по формуле
/2 0/1= sup{(a о /2) А (0 о /х) : a,0 G L+(E), a + 0 = IE},
где, как обычно, L+(E) — конус положительных операторов в Е, а 1Е — тожде-ственный оператор в Е.
< (1): Требуемые формулы выводятся непосредственно из определений Ф и Ф по уже высказанным соображениям.
(2): Достаточно показать выпуклость соответствий Ф и Ф и сослаться на 1.3.5. Для проведения необходимой проверки достаточно заметить следующее. Если 0 — выпуклое соответствие из X х Y в Z и Q(x) := |J{G(x,i/) : У € то Q ~ выпуклое соответствие из X в Z. Действительно, для любых G X и 0 < а < 1 будет
oQ(x) 4- (1 — Of)Q(t/) = oO(x,tz) + [J (1 - ot)Q(y,v) = uey	vey
= [J (aQ(x,u) + (1 - ot)Q(y, v)) C u,vEY
C [J Q(ax + (1 — a)y, otu + (1 — a)v) C Q(ax + (1 — a)y). u,vEY
(3): Утверждение об антикоммутативности тривиально. Ассоциативность операций Д и 0 устанавливается путем прямого подсчета с использованием дистрибутивных законов из 1.3.1, а также ассоциативности точных нижних границ.
(4): Если h удовлетворяет указанному условию, то
/i(/i(xi,x) 4-/2(^X2)) = Л о/1(^1,ж) + ho f2(x,x2);
h(fi(Xi,x) V f2(x,x2)) = Л о/1(^1,a:) V Д о f2(x,x2).
Кроме того, h(inf А) — inf h(А) для любого непустого А С Е. Остается перейти к инфимумам в указанных равенствах.
(5): Требуемое является прямым следствием важного утверждения, чью формулировку мы вынесли в 1.3.11. О
1.3.11. Теорема о векторном минимаксе. Пусть f : X —> Е — выпуклый оператор, а g : Е —> F* — возрастающий сублинейный оператор со значениями в К-пространстве F такой, что dom(g) = Е. Тогда
inf sup а о f(x) = sup inf a о /(x).
xEdom(f) aEdg	aEdg x^^omU)
<1 Доказательство этого факта мы отложим до главы 4 (см. 4.1.10 (2)). Напомним только, что здесь, как обычно, dg := {А € L(E,F) : (Ve € Е) Ае < <?(е)} — субдифференциал в нуле или опорное множество сублинейного оператора д (см. 1.4.11). О
42 Глава 1. Выпуклые соответствия и операторы
1.4. Вееры и линейные операторы
В этом параграфе изучается фундаментальный вопрос о мажорированном продолжении линейных операторов. Средства такого изучения предоставляет специальный класс соответствий — вееры.
1.4.1. Рассмотрим векторные пространства X и У. Соответствие Ф из X в У называют веером, если для любых х,х\,хъ G X и A G R, А > 0, выполнены следующие условия:
(1)	Ф(ж) — выпуклое множество в У;
(2)	О G Ф(0);
(3)	Ф(Аж) = АФ(ж);
(4)	Ф(Ж1 4- ж2) С Ф(^1) 4- Ф(ж2).
Веер называют нечетным, если с!от(Ф) = X и Ф(—х) = —Ф(ж) для всех х G X.
1.4.2.	Приведем несколько примеров.
(1)	Пусть Ф — веер из X в Y, а 0 — веер из У в Z. Тогда соответствие 0 о Ф будет веером. При этом если вееры 0 и Ф нечетны, то 0 о Ф — также нечетный веер. В частности, для (нечетных) вееров Ф и Ф из X в У и числа А соответствия АФ и Ф 4- Ф являются (нечетными) веерами.
(2)	Пусть Q — выпуклое множество линейных операторов из X в У. Тогда соответствие Ф С X х У, определяемое равенством Ф(ж) := {Тх : Т G П}, служит нечетным веером.
(3)	Пусть С — выпуклое подмножество У, Т — линейный оператор из X в У и р — числовая функция на X. Рассмотрим соответствие
Ф(ж) :=р(х)С + Тх (sGX).
Имеют место следующие утверждения:
(а)	если р — линейный функционал, то соответствие Ф будет нечетным веером;
(Ь)	если р — положительный сублинейный функционал и 0 € С, то Ф — веер, являющийся нечетным при том условии, что множество С симметрично и р(х) — р(—х) для всех х Q X.
(4)	Для произвольных (нечетных) вееров Ф и Ф из X в У соответствие
Ф V Ф : х со(Ф(ж) U Ф(х)) (ж G X)
служит (нечетным) веером.
(5)	Если Ф С X х У — веер, а К — конус в X, то ограничение Ф [ К также является веером.
1.4.3.	Прежде чем переходить к следующему примеру, необходимо ввести еще одно понятие. Говорят, что предупорядоченное векторное пространство F обладает декомпозиционным свойством Рисса, если [а, 6] 4- [с, d] = [а 4-с, 64-d] для всех а, Ь, с, d G F при а b, с d. Здесь, как обычно, [а,Ь\ := {у G F : а у Ь} —
1.4. Вееры и линейные операторы
43
порядковый отрезок или порядковый интервал в F. Нетрудно заметить, что декомпозиционное свойство Рисса равносильно выполнению равенства [0, а 4- 6] = = [0, а] 4- [0,6] при любых а, & € F+.
Пусть X — векторное пространство, F — предупорядоченное векторное пространство с декомпозиционным свойством Рисса. Если p,q : X —> F — сублинейные операторы такие, что (р 4- q)(x)	0 для всех х G X, то соответствия
Ф := {(*, /) 6 X х F : -q(x) f р(х)}, Ф:= {(x,f)€XxF: f^p(x)}
являются веерами. Веер Ф нечетен в том и только в том случае, если q(x) = р(— х) для всех х € X.
<1 В самом деле, поскольку порядковый отрезок есть выпуклое множество, то выполнено (1) из определения 1.4.1. Условия (2) и (3) тривиально вытекают из положительной однородности операторов р и q. Если теперь u, v Е X, то в силу субаддитивности операторов р и q будет
Ф(и 4- v) = [-<?(« 4- v), р(и 4- v)] С [-g(u) - q(y), р(и) 4-p(v)].
Далее, согласно декомпозиционному свойству Рисса
Ф(и 4- v) С [—q(u), р(и)] 4- [-g(v), p(v)] = Ф(и) 4- Ф(^),
т. е. выполнено (4). Итак, Ф — веер. Нечетность Ф означает совпадение порядковых интервалов [-<?(х), р(я)] и [—р(—я), <?(-#)], а это равносильно равенству д(х) = р(—х). Аналогично рассматривается соответствие Ф. О
1.4.4. Пусть & — заданное семейство выпуклых подмножеств Y. Веер Ф С С X х Y называют S-значным, если Ф(ж) 6 S для любого х Е X.
Введем несколько обозначений. Для семейства S подмножеств Y положим
^(<?) := {у 4- АС : у € У, А Е R, С Е <?}•
Если S состоит из единственного элемента С С У, то вместо ^({С}) мы будем писать <^(С). Если F — предупорядоченное векторное пространство, то символом <X(F) мы будем обозначать совокупность всех порядковых отрезков, т. е. ^(F) := {[а, 6] : a,b Е F, а Ь}. Таким образом, вееры Ф из 1.4.2 (3) и 1.4.3 являются ^(С)-значным и <У^)-значным соответственно.
1.4.5. (1) Пусть F — предупорядоченное векторное пространство с положительным конусом F+. Предположим, что F обладает декомпозиционным свойством Рисса. Тогда для всякого ^(Р)-значного веера Ф С X х F при с!от(Ф) = X существуют сублинейные операторы p,q : X —> F такие, что Ф(х) = [—q(x),p(x)] для всех х Е X.
<] Пусть Fo := F+ Г) (~F+) и Fi — какое-либо алгебраическое дополнение подпространства Fq. Тогда всякий непустой порядковый отрезок в F имеет единственное представление вида [а, Ь], где a, b Е Fi. В самом деле, если [а, 6] = [а', У]
44
Глава 1. Выпуклые соответствия и операторы
для некоторых a', b' G Fi, то а < а' и а' < а, поэтому а — а! е Fq Г) Fi = {0}, так что а = а'. По тем же самым соображениям Ь = Ь'. Следовательно, для любого х G X однозначно определены элементы а и Ь из Fi такие, что Ф(х) = [а, Ь]. Положим р(х) := b и q(x) := —а. Так как 2Ф(0) = Ф(2 • 0) = Ф(0), то порядковые отрезки [—<?(0), р(0)] и [-2q(0), 2р(0)] совпадают. Стало быть, р(0) < 0 и д(0) < 0. Включение 0 G Ф(0) влечет противоположные неравенства р(х) > 0 и q(x) 0. Таким образом, [—g(0), р(0)] С Fo, стало быть, р(0) = д(0) = 0. Положительная однородность р и q немедленно следует из требования 1.4.1 (3) определения веера. Наконец, если u, v € X, то, на основании 1.4.1 (4) и декомпозиционного свойства Рисса, можно написать
[-^(u + v), р(и + v)] = Ф(и + v) С Ф(и) 4- Ф(и) =
= [-9(u), p(w)] + [-?(«)» р(и)] = [-«(и) - Q(v), р(и) +р(и)],
что и устанавливает субаддитивность р и q. >
(2)	Если предупорядоченное векторное пространство F обладает декомпозиционным свойством Рисса, то эквивалентны утверждения:
(а)	Ф — нечетный ^(Е)-значный веер из X в F;
(Ь)	существует сублинейный оператор р : X F такой, что для всех х Е X Ф(х) = [-р(-х), р(х)].
1.4.6.	Семейство множеств S называют сцепленным, если пересечение любых двух элементов из S непусто. Говорят, что семейство множеств S обладает свойством бинарного пересечения, если всякое (непустое) сцепленное подсемейство So С S имеет непустое пересечение. Если свойство бинарного пересечения имеется у совокупности (или ^+(С) := {у + ХС : у Е Y, Л Е R-1"}) для некоторого С С У, то говорят также, что множество С обладает свойством бинарного пересечения (или соответственно свойством положительного бинарного пересечения).
1.4.7.	Пусть выпуклое множество С С Y обладает свойством положительного бинарного пересечения. Тогда С имеет центр симметрии, т. е. существует точка уо Е С такая, что множество С — уо симметрично. При этом С обладает свойством бинарного пересечения. Если, кроме того, рецессивный конус С нулевой, т. е. гес(С) — {0}, то такая точка уо единственна.
<3 Семейство выпуклых множеств {у 4- С : ytC] является сцепленным, поскольку г/1 4- у2 € (г/i 4-С) А (у2 4- С) для любых yi,y2 € С. По условию это семейство имеет непустое пересечение. Следовательно, существует элемент уо такой, что при всех у Е С будет уо € 2-1(С4-?/). Переписав последнее вхождение в виде у о — у € С — уо, мы приходим к соотношению уо — С С С — уо, обеспечивающему равенство С — уо = — (С — уо)- Так как симметричное выпуклое множество С — уо содержит нуль, то уо € С. Итак, уо — центр симметрии множества С. Остается заметить, что для центрально-симметричного выпуклого множества свойства бинарного пересечения и положительного бинарного пересечения равносильны.
Предположим теперь, что гес(С) = {0}, и пусть yi и у2 — центры симметрии множества С. Тогда ук — С = С — Ук (к := 1,2). Пользуясь этими двумя соот
1.4. Вееры и линейные операторы
45
ношениями, можно получить и равенство 2(?/i — 3/2) + С = С. Последнее в силу 1.1.5 (4) означает, что у\ — Е гес(С) = {0}. Окончательно yi = у2- О
1.4.8.	Выясним, в каких предупорядоченных векторных пространствах F множество порядковых отрезков обладает свойством бинарного пересечения. С этой целью введем следующее определение. Скажем, что предупорядочен-ное векторное пространство F обладает интерполяционным свойством Рисса, если для любых элементов 01,02,^1 и 62 из F, удовлетворяющих неравенствам аь ^ bi (к, I := 1,2), существует такой элемент с € F, что аь С с < bi (к, I := 1,2).
(1) Предупорядоченное векторное пространство обладает интерполяционным свойством Рисса в том и только в том случае, если оно обладает декомпозиционным свойством Рисса.
<1 Пусть F — предупорядоченное векторное пространство с интерполяционным свойством Рисса, а элементы z,u,v € F+ таковы, что z и + и. Полагая ai := 0, 0,2 •= z — v, bi := и, 62 •= z, мы видим, что ak bi, где к,1 := 1,2. Следовательно, для некоторого с € F будет аь < с < bi при к, I := 1,2. Элементы zi := с и Z2 z — с составляют искомое разложение z, т. е. z^ € [0, u], Z2 € [0, v] и z = zi + Z2. Для завершения доказательства допустим, что F обладает декомпозиционным свойством Рисса, и рассмотрим элементы a^bi € F, для которых flfc bi при к,1 := 1,2. Положим щ := bi — ai, U2 := 62 ~ ^2? Щ := b± — 02 и V2 := 62 — ai- Тогда иь, 0 (fc := 1,2) и u\ + U2 = Vi + V2- В силу декомпозиционного свойства Рисса и\ = tn 4- <12 для некоторых tik € [0, (к := 1,2). Если t2k := Vk-tik, ТО t2k ё [о, Vk\ И *21 +t22 = и>2, а кроме того, t^k -Иг* = Vk (k := 1,2). Теперь легко проверяется, что 62 — £22 = bi — tn = ai + ^12 = аг + ^ь * элемент с — «общее значение этих четырех выражений» — удовлетворяет неравенствам О'к с bi при fc, I := 1,2. О
(2) Пусть предупорядоченное векторное пространство F обладает интерполяционным свойством Рисса. Семейство ^(F) обладает свойством бинарного пересечения в том и только в том случае, если у всякого непустого ограниченного сверху подмножества F существует точная верхняя граница.
<] В самом деле, пусть <#(F) обладает свойством бинарного пересечения. Возьмем ограниченное сверху подмножество А С F и рассмотрим совокупность порядковых отрезков S := {[а, 6] : a 6 A, b € F,b А}. В силу интерполяционного свойства Рисса S — сцепленное семейство. На основании нашего предположения S имеет непустое пересечение. Если с — некоторая точка из такого пересечения, то очевидно, что с = sup Л. Наоборот, если семейство отрезков ([а$, является сцепленным, то бесспорно, что < Ь^ для любых € S. Положим a := sup{df : £ € S} и b := inf: £ 6 S}. Несомненно, что а С Ь и непустое множество [a,b] содержится в пересечении П{[а$,Ь$] : £ € S}. 1>
1.4.9. Перейдем к вопросу о продолжении линейных операторов. Пусть, как и раньше, X и Y — некоторые (вещественные) векторные пространства и & — некоторое семейство выпуклых множеств в У. Будем говорить, что S насыщенно или, полнее, -[--насыщенно, если <^(<^) замкнуто относительно алгебраической суммы, т. е. таково, что при Ci,C*2 € <f7(<?) будет Ci + С2 € ^(<f). Рассмотрим
46
Глава 1. Выпуклые соответствия и операторы
веер Ф из X в У. Линейный оператор Т : X —> У называют линейным селектором Ф, если Тх € Ф(ж) для всех х € X. Совокупность всех линейных селекторов веера Ф обозначают символом дФ. Пусть То ” линейный оператор со значениями в У, определенный на некотором подпространстве Хо С X. Если То является селектором ограничения Ф|х0 веера Ф на подпространство Хо, т. е. То G 5(Ф|х0), то естественно поставить вопрос о существовании линейного продолжения Т оператора То на все пространство X, для которого Т € дФ. Предположим, что такое продолжение существует при любом выборе векторного пространства X, подпространства Хо С X, нечетного ^(<?)-значного веера Ф и оператора То € 3(Ф|х0). В этой ситуации говорят, что пара (У, <?) допускает продолжение линейных операторов или обладает свойством продолжения линейных операторов,
1.4.10. Теорема Иоффе. Пусть У — векторное пространство и S — насыщенное семейство выпуклых подмножеств У. Пара (У, <£) допускает продолжение линейных операторов в том и только в том случае, если S обладает свойством бинарного пересечения.
<1 <—: Предположим, не ограничивая общности, что = S. Рассмотрим произвольный нечетный веер Ф С X х У. Предположим также, что Хо / X, так как в противном случае доказывать нечего. Возьмем xi € Х\Хо и обозначим через Xi подпространство в X, состоящее из всех элементов х' вида х' := х + Xxi, где х € Хо, А € R. Выясним, когда всякий линейный оператор То из Хо в У, являющийся селектором веера Ф [Хо, допускает такое линейное продолжение Ti на Xi, для которого Ti G 9(Ф Г Xi). Предположим сначала, что искомое продолжение существует, и положим yi := T\xi. Тогда для любого х G X будет yi + Тох = TiXi +Tix е Ф(я1 +х) или yi е -Тох + Ф(х1 +х). Итак, для существования продолжения с указанными свойствами необходимо, чтобы все множества вида — Tqx 4- Ф(Ж1 4- х), где х € Хо, имели общую точку у\. Сформулированное условие является также и достаточным. В самом деле, возьмем какой-либо элемент у± из пересечения указанного семейства
г/1 € Р|{-Тоя 4- Ф(Я1 4- х) : х € Хо}
и положим Т\Х\ := у\. Очевидно, что оператор Ti : Xi У, определенный для каждого xf := Axi 4- х, где х € X, А е R, равенством Т^х' := Аг/i 4- TQx, линеен. Кроме того, на основании простейших свойств веера и способа выбора yi при А / 0 мы выводим
Т\х' = A(t/i 4- T0(rr/A)) € X(-TQ(x/X) + Ф(х1 4- x/X) + To(*/A)) =
= Ф(Аж1 4- x) = Ф(ж').
Отсюда следует, что Ti € 9(Ф [Xi).
Заметим теперь, что указанное выше пересечение непусто при наличии у S свойства бинарного пересечения. Действительно, с учетом того, что множество Сх := —Tqx 4- Ф(я?1 4- х) входит в для любого х € Хо, требуется установить только, что множества Сх образуют сцепленное семейство. Для проверки возьмем
1.4. Вееры и линейные операторы
47
u, v € Xq. Вновь привлекая определение веера, получим
О е —Tq(u - v) + Ф(и — v) = —Tq(u - v) + Ф(и + Xi - (жг + v)) С С -Tqu + Ф(ж1 + и) 4- Tqv - Ф(ж! + v) = Си - Cv.
Стало быть, можно утверждать, что Си П Cv <3. Ввиду произвольности и и v, мы приходим к сцепленности семейства (Сж)хеХо- Таким образом, возможность распространения оператора То на одномерное расширение подпространства Xq с сохранением нужных свойств обоснована.
Приводимое доказательство достаточности завершается следующим стандартным применением леммы Куратовского-Цорна. Обозначим буквой 21 множество всех пар (Х',Т') таких, что X' — подпространство X, содержащее Хо, а Т' € L(X', У) — продолжение То, причем Т' € д(Ф f X'). Определим на 21 отношение полагая (X',TZ) -< (X",Т") при условии X' С X" и Т' = Г" Г X'. Без труда проверяется, что отношение — это порядок, а упорядоченное множество (21, -<) индуктивно удовлетворяет условиям леммы Куратовского-Цорна), т. е. 21 непусто и всякая цепь в (21, -<) ограничена сверху. Таким образом, в (21, -<) имеется максимальный элемент (Х*,Т*). Несомненно, что X* = X, ибо в противном случае в силу уже предъявленного рассуждения оператор Т* можно распространить на одномерное расширение подпространства X* с соблюдением нужных свойств вопреки максимальности (Х*,Т*). Итак, оператор Т* искомый.
—►: Предположим, что (У,<?) допускает продолжение линейных операторов. Пусть (Q)^es ~ сцепленное подсемейство <?. В качестве пространства X возьмем прямую сумму Е экземпляров числовой прямой R, т. е. я € X в том и только в том случае, если х : Е —> К и множество {£ € Е : х$ := х(£) / 0} конечно. Положим
Хо := |х е X : YjEg — 0 ?. ees J
Определим теперь соответствие Ф С X х Y соотношением
Очевидно, что Ф — нечетный веер.
Предположим, что х 6 Xq. Тогда по условию для положительных и отрицательных частей выполнено равенство	Следовательно, су-
ществует семейство (^T?)^,nes положительных чисел такое, что
>х£п —	=	(£> 'п £ ^)-
(Это скалярный вариант классической леммы «о двойном разбиении» или, ина-че, — утверждение о наличии допустимого плана в сбалансированной транспортной задаче линейного программирования.) Поскольку
=	(хбХ),
48
Глава 1. Выпуклые соответствия и операторы
можно написать
Ф(я) —	~ У? У2 ~ У^ x&i(Q — С^) (х Е Хо).
7?€2^6S	eeSr/GS
В силу сцепленности семейства (С$) будет А Сл / 0 для всех £, т/ € Е, поэтому О Е Ф(ж) при х Е Хо. Таким образом, нулевой оператор является селектором сужения веера Ф на подпространство Хо. По условию этот селектор допускает распространение до линейного селектора Т, заданного на всем X. Иными словами, существует линейный оператор Т Е L(X,Y), для которого Тх Е Ф(х) при каждом х € X.
Пусть элемент Е X таков, что e^(vj) = 0 для всех г] / £ и e^(£) = 1. Тогда Те% = Те^ при любых £, ту Е Е. Заметим, наконец, что Ф(е^) = Q для любого £ € Е. Стало быть, пересечение семейства	содержит элемент Те^, что и
завершает проверку наличия свойства бинарного пересечения у семейства §. >
1.4.11. Из теоремы Иоффе можно извлечь, в частности, полное решение проблемы мажорированного продолжения линейных операторов со значениями в предупорядоченном векторном пространстве.
Пусть р — сублинейный оператор, действующий из векторного пространства X в предупорядоченное векторное пространство Е, т. е. dom(p) = X. Опорным множеством или субдифференциалом (в нуле) др оператора р называют совокупность всех линейных операторов из X в Е, мажорируемых р, т. е.
др := {Т Е £(Х, Е) : (Vx Е X) Тх р(х)},
где L(X, Е) — пространство линейных операторов из X в Е. Операторы из др называют опорными к р. Допустим, что Хо — подпространство в X, а То : Хо —> Е — линейный оператор, удовлетворяющий условию Tqx < р(х) при всех х Е Xq. Если для любых таких X, Хо, То и р, существует оператор Т Е др, являющийся продолжением То с Хо на все X, то говорят, что Е допускает мажорированное продолжение линейных операторов.
Сейчас мы применим 1.4.10 к выводу теоремы Хана-Банаха-Канторовича, утверждающей, что если в предупорядоченном векторном пространстве всякое непустое ограниченное множество имеет точную верхнюю границу, то рассматриваемое пространство допускает мажорированное продолжение линейных операторов. Мы также получим обращение этой теоремы, принадлежащее Боннайсу, Сильверману и Ту.
1.4.12. Начнем с двух вспомогательных фактов.
(1) Если предупорядоченное векторное пространство Е допускает мажорированное продолжение линейных операторов, то для любых сублинейных операторов pi,... ,рп, действующих из произвольного векторного пространства X в Е, справедливо представление
Э(Р1 + ...+рп) = dpi+ ... + dpn.
1.4. Вееры и линейные операторы
49
<] Включение D очевидно. Для доказательства противоположного включения возьмем Т € d(pi 4---1-рп) и определим отображения & и <%, действующие из
пространства Хп и диагонали ДП(Х) С Хп соответственно, формулами
^(Ж1,...,ЖП) :=Р1СГ1) + ... +Рп(^п), <%(#,...,#) := Тх (x,xi,... ,хп G X).
Тогда оператор & сублинеен, линеен и «^(z) для всех z € ДП(Х). По условию существует линейный оператор SF : Хп —> Е такой, что & G д& и сужение Я Г ДП(Х) совпадает с Положим Ткх := ^*(0,... ,0,ж,0,... ,0), где элемент х стоит на месте с номером к. Тогда Тк — линейный оператор из X в Е и Г = Ti -I-... 4- Тп. Кроме того,
Tkx ^(O,...,O,rr,O,...,O) =Pi(0) + ... +pfc(:r) + ... +pn(0) = рк(х)-,
т. е. Тк е дрк. >
(2) Пусть предупорядоченное векторное пространство Е таково, что либо Е допускает мажорированное продолжение линейных операторов, либо всякое ограниченное сверху подмножество в Е имеет точную верхнюю границу. Тогда Е обладает декомпозиционным свойством Рисса (а значит, и интерполяционным свойством Рисса).
<1 Допустим сначала, что Е допускает мажорированное продолжение линейных операторов. Рассмотрим сублинейные операторы рк : К —> Е, действующие по формулам
рк : t t+yk (f Ей, fc:= 0,1,2),
где уо,УъУ2 € Е+ и уо = yi+y2- Тогда Ро = Pi +Р2 и декомпозиционное свойство Рисса следует из (1), ибо дрк состоит из линейных операторов t ty (t G R), где pe [o,pfc].
Пусть теперь всякое непустое ограниченное сверху подмножество в Е имеет точную верхнюю границу. Возьмем z G [0,pi 4- рг]? где pi, Р2 € Е+. Положим [7 := {и € Е : и < z, и < г/i} - Так как множество U ограничено сверху, существует элемент zi € Е+, для которого zi — sup 17. Далее, поскольку z — У2 € U, имеем z—у2 < z\. Стало быть, для Z2 := z — z\ будет z = z\ 4-^2 и zk G [0, yk] (к := 1,2). [>
Из теоремы Иоффе 1.4.10 и предложений 1.4.5, 1.4.8 и 1.4.12 мгновенно вытекает следующий результат.
1.4.13. Теорема. Предупорядоченное векторное пространство допускает мажорированное продолжение линейных операторов в том и только в том случае, если в нем всякое ограниченное сверху подмножество имеет точную верхнюю границу.
Исторически указанная теорема была установлена в два этапа.
(1) Теорема Хана-Банаха-Канторовича. Пространство Канторовича допускает мажорированное продолжение линейных операторов.
Эту теорему доказал Л. В. Канторович. Ее можно считать первой теоремой теории К-пространств.
50 Глава 1. Выпуклые соответствия и операторы
(2) Теорема Боннайса—Сильвермана—Ту. Каждое упорядоченное векторное пространство, допускающее мажорированное продолжение линейных операторов, представляет собой пространство Канторовича.
1.4.14.	В следующих следствиях р — всюду определенный сублинейный оператор, действующий из векторного пространства X в К-пространство Е.
(1)	Для каждой точки xq € X существует линейный оператор Т из X в Е, опорный кр в точке Xq, т. е. такой, что Txq = р(#о) иТ е др.
<] Положим Xq = {Джо : А € R} и определим линейный оператор Tq : Xq Е по формуле Т(Ахо) •= Ар(жо). Для А 0 имеем Т(А#о) = Ар(жо) = р(Ажо). Если же А < 0, то
Tq(Xxq) = Xp(xQ) = -|А|р(х0) O(-|A|z0) =р(Ах0).
Итак, Tq опорен к сужению р [ Xq. По теореме Хана-Банаха-Канторовича существует продолжение Т оператора То на X, мажорируемое р. Тем самым Т G др и Txq = TqXq = p(xq), что и требовалось. О
(2)	Каждый всюду определенный сублинейный оператор является верхней огибающей своего опорного множества, т. е. имеет место следующее представление:
р(х) — sup{Tx : Т е др) (х е X).
Более того, точная верхняя граница в правой части достигается.
<] Очевидное следствие (1). >
(3)	Для любого х е X множество (Эр) (ж) := {Тх : Т € Эр} совпадает с порядковым отрезком [-р(-я), р(я)].
<] Доказательство получается простой модификацией рассуждения в (1). Нужно лишь изменить определение Tq: для фиксированного ро € [—р(—ж),р(ж)] следует положить Tq(Xxq) Apo- >
(4)	Пусть Y — еще одно векторное пространство и Т — линейный оператор изУ в X. Тогда
Э(р о Т) = др о Т.
< Рассмотрим произвольный элемент 5 из Э(роТ). Ясно, что —р(Т(—р)) < < Sy < р(Тр), поэтому Ту = 0 влечет Sy = 0. Это означает, что ker(T) С ker(S), где кег(Я) := Д~1(0) — ядро оператора R. Следовательно, операторное уравнение ЗЕ оТ = S разрешимо относительно неизвестного линейного оператора ЗЕ : Т(У) Е. Решение Vq этого уравнения по условию удовлетворяет неравенству LTo^o р(#о) для всех Xq € Xq := T(Y). Стало быть, по теореме Хана-Банаха-Канторовича существует продолжение U € L(X,E) оператора Uq, опорное к сублинейному оператору р. Таким образом, U G др и U о Т = S, т. е. S € дроТ. Противоположное включение проверяется непосредственно. >
Стоит подчеркнуть, что в случае, когда Т — вложение подпространства Хо в пространство X, доказанное предложение в точности выражает наличие свойства мажорированного продолжения. В этой связи предложение 1.4.14(4) часто
1.4. Бееры и линейные операторы
51
называют формулой Хана-Банаха или теоремой Хана-Банаха-Канторовича в субдифференциальной форме.
(5)	Пусть а — мультипликатор в Е, т. е. положительный оператор изЕвЕ. удовлетворяющий условию 0 < а < 7#. Тогда
д(а о р) = а о др.
<1 Включение а о др С д(а о р) очевидно. Если оператор Т лежит в д(а ор), то при каждом х € X будет — ар(—х) < Тх < ар(ж), т. е. образ Т содержится в области значений im(a) оператора а, так как im(a) — порядковый идеал. Далее, кег(а) — полоса в Е (см. П2.5(4)). При этом а осуществляет порядковый изоморфизм дизъюнктного дополнения кег(а) и своего образа im(a). Пусть /3 : im(a) —> кег(а)х — обратный оператор к этому изоморфизму и, в частности, а/3 — Лш(а)- Полагая S := /ЗоТ, мы видим, что S : X —> Е — линейный оператор. Более того, S 6 др и aS = Т. Окончательно Т € а о др. t>
1.4.15. Приведем два следствия о продолжении положительных операторов.
(1)	Теорема Канторовича. Пусть X — предупорядоченное векторное пространство , а Хо — массивное подпространство в нем, т. е. Xq -h Х+ = X. Тогда всякий положительный оператор То из Хо в произвольное К-пространство Е допускает продолжение до положительного оператора Т из X в Е.
<1 Для произвольного х G X подберем т° € Хо так, чтобы х xQ. Тогда для Хо € Хо при Хо х будет ТоХо Tqxq. Значит, множество таких Tqxq ограничено снизу. Следовательно, формула
р(х) := inf{7o:ro •’ xq € Xq, xq > (х Е X)
корректно определяет отображение р : X —> Е. Нетрудно усмотреть, что этот оператор сублинеен. Прямое вычисление показывает, что
{Т€ £+(%,£): T\Xo = TQ},
что и требуется. 1>
(2)	Пусть Т — положительный оператор из векторной решетки X в К-прост-ранство Е. Допустим, что на массивной подрешетке Xq С X задан положительный оператор So : Xq —* Е, удовлетворяющий неравенству SqXq Тхо (то 6 Х$). Тогда существует положительное продолжение S : X Е оператора So такое, что S Т.
<1 Положим р(х) := Т(т+) (ж € X). Тогда оператор р : X —> Е сублинеен, др = [О,Т] и SqXo С Sofao) T(xq) — р(хо) для всех хо € Хо- По теореме Хана -Банаха -Канторовича существует продолжение S оператора So, причем S € др. о
1.4.16. Рассмотрим теперь коротко случай нормированного пространства Y. Принято считать, что такое Y допускает продолжение линейных операторов с сохранением нормы, если для всякого нормированного пространства X любой
52
Глава 1. Выпуклые соответствия и операторы
линейный ограниченный оператор То • Хо —> Y, отображающий произвольное подпространство Xq С X в У, допускает линейное ограниченное продолжение Т на все X, причем такое, что ||Т|| = ||То||. Легко понять, что продолжение с сохранением нормы охватывается ситуацией пункта 1.4.9. Действительно, пусть С — единичный замкнутый шар пространства У, и рассмотрим соответствие
Ф С X х У, Ф : я н» fc||x||C,
где к > 0. Как видно, линейный оператор Т : X —> У входит в дФ тогда и только тогда, когда ЦТЦ к. Если взять к := ||Т0||, то То € 9(Ф f Хо)» и для продолжения Т е дФ оператора То будет ||Т|| = ||То||. Таким образом, из теоремы 1.4.10 вытекает, что если единичный шар нормированного пространства У обладает свойством бинарного пересечения, то У допускает продолжение линейных операторов с сохранением нормы. Несмотря на то, что за продолжение с сохранением нормы отвечают вееры весьма специального вида, верно все же и обратное утверждение.
1.4.17. Для того чтобы нормированное пространство допускало продолжение линейных операторов с сохранением нормы, необходимо и достаточно наличие свойства бинарного пересечения у замкнутого единичного шара рассматриваемого пространства.
<1 Достаточность уже отмечена в 1.4.16. Докажем необходимость. Пусть А — замкнутый единичный шар в сопряженном пространстве У', а тг — каноническое вложение У во второе сопряженное пространство У". Положим ср(у) := ny f А. Тогда отображение у <р(у) является изометрическим изоморфизмом У на подпространство Z := <^(У) банахова пространства 1оо(А) ограниченных числовых функций на А. Последнее является Х-пространством при поточечном упорядочении, причем замкнутый единичный шар совпадает с порядковым отрезком D := [—е, е], где е : А -+ R. — функция, равная единице тождественно. По условию оператор z	(z € Z) можно продолжить до линейного оператора
Р' : 1оо(А) —> У, так что ||Р'|| = 1. Ясно, что Р := Р' oip — проектор в на Z и ||Р|| = 1. Далее, P(D) С D, поэтому, в силу предложений 1.4.7 и 1.4.8 (2), P(D) обладает свойством бинарного пересечения. Но P(D) — это замкнутый единичный шар пространства Z, значит, шар изометричного ему пространства У также обладает требуемым свойством. О
В связи с установленной теоремой понятен интерес к выпуклым множествам, имеющим свойство бинарного пересечения. Такие множества полностью описаны следующим утверждением.
1.4.18. Теорема Нахбина. Пусть С — выпуклое множество в векторном пространстве У. Тогда С обладает свойством (положительного) бинарного пересечения в том и только в том случае, если в У можно ввести предпорядок так, что выполнены условия:
(1)	У — предупорядоченное векторное пространство;
(2)	существуют элементы е 6 У+ и у 6 У такие, что порядковый интервал [—е, е] + у совпадает с С и гес(С) = У+ П (—У+);
1.5. Системы выпуклых объектов
53
(3)	всякое ограниченное множество в Y имеет точную верхнюю границу.
Используя теорию /f-пространств, в частности, теорему Крейнов-Какутани об абстрактной характеризации решеток непрерывных функций C(Q) на компактах Q и теорему Вулиха-Огасавары об условиях порядковой полноты пространства C(Q), можно дать полную характеризацию нормированных пространств, допускающих продолжение линейных операторов с сохранением нормы.
1.4.19. Теорема Акилова-Гуднера-Келли-Нахбина. Нормированное пространство допускает продолжение линейных операторов с сохранением нормы в том и только в том случае, если оно линейно изометрично пространству непрерывных функций C(Q) на экстремально несвязном компакте Q.
1.5. Системы выпуклых объектов
Как видно из предыдущих рассмотрений, в различные классы выпуклых множеств и выпуклых операторов можно вводить алгебраические операции и порядок, достаточно хорошо согласованные друг с другом. Из алгебраических систем, возникающих на этом пути, выделяются, прежде всего, конические решетки и связанные с ними пространства, являющиеся предметом изучения текущего параграфа.
1.5.1. Рассмотрим коммутативную полугруппу V, обладающую нейтральным элементом 0. Этот элемент мы будем называть нулем, а закон композиции в V, обозначаемый символом +, — сложением. Допустим дополнительно, что V — упорядоченное множество, причем порядок < согласован с операцией сложения в общепринятом смысле: если х у, то x+z y+z, каковы бы ни были x,y,z € V. Обозначим символом Isa(V) множество всех изотопных супераддитивных отображений полугруппы V в себя, для которых нуль служит неподвижной точкой. Иными словами, h е Isa(V) тогда и только тогда, когда выполнены условия
h : V V, ft(0) = 0, h(x + t/) > h(x) 4- h(y)-,
x^y -» h(x) h(y) (ж, у G V).
На множестве Isa(V) имеются две естественные бинарные операции: сложение (/ii,/i2) •-* Л1 + Л2 и умножение (Л-1,/12)	Л10/12, где (/ц -h/i2)(f) := fti(f) 4-/i2(f)
и /12 о hi(v) := /^(/^(f))- При этом (Isa(V),+) — коммутативная полугруппа с нулем. Более того, умножение биаддитивно, т. е. выполнены соотношения дистрибутивности:
h о (hi 4- Л2) = h о hi 4- h о Л2,
(hi 4- /12) 0 h = hi ° h 4- /12 ° h.
Положим по определению hi < /12 в том и только в том случае, если hi(v) /12(f) для всех v G V. Тогда < — порядок на Isa(V), согласованный с операцией 4- в упомянутом выше смысле. Более того, для любых g, fti,/i2 Е Isa(V) из hi < /2-2 следует, что hiog /i2°p и gohi < ^оЛ2. Выражаясь короче, скажем, что Isa(V) —
54 Глава 1. Выпуклые соответствия и операторы
упорядоченное полукольцо. Часть Isa(V), состоящую из аддитивных отображений, мы обозначим символом Hom+(V). Ясно, что Hom+(V) — упорядоченное подполукольцо в Isa(V). Понятие изотопного полукольцевого гомоморфизма не нуждается в пояснении.
Рассмотрим теперь /^-пространство Е. Пусть Lr(E) — пространство регулярных (= представимых в виде разности положительных) операторов (эндоморфизмов) Е. Хорошо известно, что с естественными алгебраическими операциями и упорядочением Lr(E) является /^-пространством. Это утверждение, — один из самых первых фактов теории К-пространств, — носит название теоремы Рисса-Канторовича (см. П2.2). Относительно суперпозиции операторов Lr(E) является алгеброй. Символом Orth(E) обозначена наименьшая полоса в Lr(E), содержащая тождественный оператор Ie, т. е. Orth(F) := {1е}М. где Ad := {b : (Уа Е А) |Ь| А |а| = 0} — дизъюнктное дополнение А. Напомним, что полоса или компонента N в /f-пространстве F — это нормальное (z Е F, у Е АГ, |z| < |г/| —> z Е N) и правильное (любое непустое подмножество U С АГ, ограниченное сверху в F, имеет точную верхнюю границу в X, т. е. supF U Е N) подпространство в F. Относительно операций, индуцированных из кольца ir(E), множество Orth(E) становится коммутативной решеточно упорядоченной алгеброй (/-алгеброй). Более подробно свойства ортоморфизмов можно найти в курсах теории векторных решеток и положительных операторов (см. Приложение 2).
Итак, пусть А := Orth(F) — алгебра ортоморфизмов Е. Обозначим через Inv+(A) множество положительных обратимых элементов кольца А. Понятно, что если а Е Inv+(A), то а”1 > 0. Предположим, что упорядоченная полугруппа V является верхней полурешеткой. Будем говорить, что V — это А-кони-ческая полу решетка, если существует изотонный полу кольцевой гомоморфизм 7Г : А+ —> Isa(V) такой, что 7r(Inv+(A)) С Hom+(V); отображение 7г(1) совпадает с тождественным эндоморфизмом /у и, кроме того, выполнены условия:
(1) 7r(a)(u V v) = 7r(a)(u) V 7r(a)(v) (а Е Inv+(A), u, v Е V);
(2) и -I- v V w = (и -I- v) V (и + w) (u,v,w Е V).
В дальнейшем использовано удобное сокращение аи := тг(а)(и). Если, сверх сказанного, V является (условно полной) решеткой, то V называют (условно полной) А-конической решеткой. Иногда при необходимости уточнений говорят об условной порядковой полноте. Отображение h из V в некоторую А-коническую полурешетку называют полулинейным, если h(au + 0v) = ah(u) 4- 0h(v) для всех а,0 Е А+ и u, v Е V.
1.5.2. Сублинейные операторы. Пусть X — векторное пространство, а Е — это /^-пространство. Обозначим через Sbl(X,E*) множество всех сублинейных операторов, действующих из X в Е*. Сложение сублинейных операторов определяют в соответствии с правилами из 1.3.8 (3). Положим А := Orth(E). Тогда Е является A-модулем и можно определить умножение (а,р) ар (а Е А+, р Е Sbl(X, /?•)) по формуле ар : х i-> а(р(х)) (х Е X), где а(+оо) := +оо по определению.
1.5. Системы выпуклых объектов
55
Введем в Sbl(X, Е9) отношение порядка, полагая р < q в том и только в том случае, если р(х) q(x) для всех х G X. Пусть Sbl(X,E') обозначает подмножество всюду определенных сублинейных операторов и мы будем рассматривать Sbl(X, Е) с индуцированными алгебраическими операциями и порядком.
Множества Sbl(X, Е9) и Sbl(X,E) являются условно порядково полными А-коническими решетками. При этом для любого непустого ограниченного семейства сублинейных операторов точная верхняя граница вычисляется поточечно, а точная нижняя граница совпадает с инфимальной конволюцией этого семейства.
1.5.3. Операторно-выпуклые множества. Множество с L(X,E) называют операторно-выпуклым, если для любых элементов S, Т € % и таких ортоморфизмов о,/? € А+, что а + (3 = Те? выполнено соотношение а о S + /3 оТ G %. Ясно, что пересечение любого семейства операторно-выпуклых множеств операторно-выпукло. Поэтому для любого множества	С L(X, Е)
существует наименьшее операторно-выпуклое множество ор(^), содержащее Множество ор(^<) называют операторно-выпуклой оболочкой %.
(1) Операторно-выпуклая оболочка ор^) множества Щ С Ъ(Х,Е) вычисляется по формуле:
ор(^) = < y^Q^fc ° П : Ti,... ,Tn € Qi,... ,an € A+, У^аь = Те? n G N >. U=i	k=i	)
<1 Обозначим через %) правую часть требуемого равенства. Понятно, что % — операторно-выпуклое множество, содержащее поэтому ор(^) С %)• Для доказательства противоположного включения нужно показать, что если — какое-либо операторно-выпуклое множество, то для любых наборов Ti,...,Тп € и «1,...,an G А+ из условия ££=1 «fc = Ie вытекает вхождение ^2^=1 ak ° Tfc G W. Предположим, что последнее утверждение установлено для какого-нибудь n € N, п > 2. Пусть S := otk о Ti, где Ti,... ,Tn+i G и Qi,...,an+i € А+, причем	= Те- Положим a := $2fc=i ak и заметим, что
в каждой точке х G X справедлива оценка
Sx ol^T\x V ... V Тпх) 4- ctn+i ° T’n+i.
Это означает, что
S — ап+1 ° 7^+1 € 0(а о (Ti V ... V Гп)).
Привлекая предложение 2.1.7(1), найдем ортоморфизмы (3\,...,!3n G А+ такие, что
/?1 + ... + /Зп = 7е; S - ап+1 ° Т^-ы = У^ & ° а ° 7j.
fc=i
Таким образом, S = a о T 4- an+i о Tn+i, где T =	& ° Ti и Т G в силу
индукционного предположения. Так как а4~сип+1 = Те? то благодаря операторной выпуклости будет S е . 1>
56
Глава 1. Выпуклые соответствия и операторы
Обозначим символом CS(X, Е) множество всех непустых операторно-выпуклых подмножеств пространства L(X, Е). Множество С £(Х, Е} называют слабо ограниченным, если для каждого х € X в Е порядково ограничено множество {Тх : Т Е %}. Пусть CSb(X,E) — множество всех слабо ограниченных множеств, являющихся элементами CS(X,E). Упорядочим CS(X,E) по включению и введем операции суммы и произведения на элементы Inv+(4) по формулам
:= {Г 4- Г" : Г е Т" Е (^',	€ CS(X, Е));
:= {(3 о Т : Т €	(/? Е Inv+(A), Е CS(X, Е)).
Доопределим теперь умножение на произвольное a Е А+ по формуле
:= р| (аТ + Q{W - Т) : 0 € Inv+(4), 0 > а}).
Снабдим CS&(X, Е) индуцированными алгебраическими операциями и порядком.
(2) Множества CS(X, Е) и CS&(X,E) являются условно порядково полными А-коническими решетками. При этом для любого ограниченного семейства операторно-выпуклых множеств точная верхняя граница вычисляется как операторно-выпуклая оболочка их объединения, а точная нижняя граница совпадает с пересечением рассматриваемого семейства.
1.5.4. Бисублинейные ОПЕРАТОРЫ. Отображение р : X х Y Е называют бисублинейным, если для любых х Е X и у Е Y сублинейными являются частичные отображения
р{х, •) : v н> р(х, и), р(-,у) : и р(и, у) (u Е X, v Е У).
Обозначим через BSbl(X, У, Ев) множество всех бисублинейных операторов, действующих из X х У в Е*. Введем в BSbl(X, У,Ее) порядок и алгебраические операции. Положим р < q, если р(х, у) < q(x, у) для всех х Е X и у е У. Предположим, что р есть поточечный супремум семейства бисублинейных операторов Тогда операторы р(х, •) и р(-, у) являются поточечными супремумами сублинейных операторов (р$(х, -))$€Н и	соответственно. Отсюда в силу
1.3.7 (1) мы заключаем, что р — бисублинейный оператор. Умножение на элементы	определим так же, как и в 1.5.2, т. е. ар(х, у) := аор{х, у) при р(х, у) < 4-оо
и ар(х, у) +оо в противном случае. Тогда произведение ар бисублинейного оператора р на а Е А+, а также поточечная сумма pi +Р2 бисублинейных операторов pi и р2 являются бисублинейными операторами.
Пусть BSbl(X, У, Е) — множество бисублинейных операторов, принимающих конечные значения; порядок и операции мы считаем индуцированными из BSbl(X, У,Е*).
Множество BSbl(X, У, Е*) с указанными алгебраическими операциями и порядком является условно полной А-конической решеткой. При этом А-кони-ческое подпространство BSbl(X, У, Е) представляет собой условно полную А-ко-ническую полурешетку с сокращением.
1.5. Системы выпуклых объектов
57
1.5.5. Вееры. Пусть Fan(X, Y) — множество всех вееров из X в У, упорядоченное по включению. Это означает, что для вееров Ф и Ф выполнено Ф < Ф тогда и только тогда, когда Ф(х) С Ф(т) при всех х G X. Под суммой вееров Ф и Ф мы будем понимать правую частичную сумму соответствий Ф и Ф (см. 1.2.4). Произведение веера Ф на положительное число А мы определим формулой
(АФ)(ж) = АФ(х) (х G X, А > 0).
Если (Ф^)^е5 — непустое семейство вееров из X в У, то оно имеет точную верхнюю границу Ф € Fan(X, У), причем
$(x)=co(j{$e(x): £GS}) (хеХ).
Предположим, что У есть унитарный A-модуль. Для веера Ф и элемента a 6 А+ положим
(аФ)(т) := аФ(х) (х е X),
где аФ(т) мы понимаем в соответствии с 1.5.3 (1). С указанными операциями и порядком множество Fan(X, У) становится условно полной конической решеткой.
1.5.6. Теорема. Пусть V — это А-коническая полурешетка с сокращением. Тогда существуют единственный с точностью до изоморфизма унитарный ре-шеточно упорядоченный A-модуль [V] и А-полулинейное вложение ь : V [V] такие, что б[У] — воспроизводящий конус в [V], причем ь сохраняет точные верхние границы непустых конечных множеств. Если h — это А-полулинейное отображение из V в А-коническую полурешетку W с сокращением, то существует единственное распространение h до А-линейного отображения [Л] : [V] —* [IV]. Отображение h сохраняет точные верхние границы непустых конечных множеств в том и только в том случае, когда [Л] — решеточный гомоморфизм.
< Прежде всего заметим, что в условиях теоремы 0v = 0 для всех v € V и, кроме того, умножение v w av (v € V) — аддитивная операция для всех а 0, a € А. Действительно, 0 + v = v = (0 + l)v = 0v 4- v и сокращение на v дает 0v = 0. Далее, если a G А+, то а 4-1 — обратимый элемент, т. е. а + 1 € Inv+(A). Следовательно,
а(ух -I- v2) + (t>i -I- v2) = (a + l)(vi 4- v2) = = (a 4- l)vi 4 (a4 l)v2 = avx 4-av2 4- (vx 4- v2).
После сокращения на vx 4- v2 будет avi 4- ctv2 — a(v\ 4- v2).
В декартово произведение V x V можно ввести алгебраические операции и отношение предпорядка, полагая
(vx,v2) 4- (wx,w2) :=	4-wx,v2 + w2);
a(vx,v2) := (a+vx,a+v2) 4- (оГ v2, оГ
(vx, v2) (wi, w2) vx 4- w2 > v2 4- wx,
58
Глава 1. Выпуклые соответствия и операторы
где Vi,t^,wi,W2 € V и а G А. Определим также отношение эквивалентности ~ по формуле
(vi, v2) ~ (^i, w2) <-> Vi 4- w2 = v2 4- wi.
Как видно, пары v := (vi,v2) и w := (wi,w2) эквивалентны в том и только в том случае, если v w и w v. Положим [V] := V х V/~, и пусть
:= (pv : V х V —> [V] — каноническая проекция, т. е. соответствующее фактор-отображение. Обычным способом перенесем операции и предпорядок с V х V на [V] так, чтобы
<p(v) +	= <p(v 4- w), cp(av) = a<p(v),
v w —> ip(y) <p(w) (v,w € V x V, a € A).
Понятно, что при этом на [V] возникает структура унитарного упорядоченного A-модуля. Пусть b(v) := by(v) := <p(v,0) (v G V). Тогда ь — это А-полулинейная биекция V на t(V), причем для любых v, w G V будет
= <p((v,0) — (w,0)) = <^(v,0) — 9?(w,0) = b(v) — b(w).
Таким образом, b(V) — это воспроизводящий конус в [V]. Заметим также, что b(v) b(w) в том и только в том случае, если v > w. Отсюда видно, что элемент 6(viVv2) служит точной верхней границей для t(vi) и t(v2). В самом деле, если для некоторых u, w G V выполнено <р(и, w) t(vi),£(v2), то должно быть и Vi 4- w и и V2 4- w. Отсюда и Vi V v2 4- w или > b(vi V v2). Это и означает, что V v2) = b(vi) V б(и2). В частности, любые два элемента воспроизводящего конуса b(V) имеют точную верхнюю границу. Но тогда у каждой пары v, w € [V] существует точная верхняя граница. Действительно, имеют место представления v = vi — V2 и w = wi — w2, где vi,v2,wi,w2 G b(V). При этом, как нетрудно проверить,
v V w = (vi 4- w2) V (v2 4- wi) — V2 — w2.
Ясно, что [V] — решеточно упорядоченный A-модуль, a b(V) — это А+-устой-чивый (т. е. выдерживающий умножение на элементы А+) воспроизводящий конус, содержащий точные верхние границы своих непустых конечных подмножеств.
Возьмем полулинейное отображение h : V —> W. Для произвольных vi, v2 G V положим
[/i](^v(vi,v2)) :=	^(v2)).
Если <£v(vi,v2) = <£v(ui,u2), to Vi 4- u2 = щ 4- v2, значит, h(vi) 4- /1(112) = = h(ui) 4- ft(v2), а потому	= Pw(h(ui),h(u2)). Тем самым по-
казана корректность определения отображения [h] : [V] —> [ТУ]. Используя полулинейность Л, мы без труда установим А-линейность [Л]. Заметим далее, что для всех v G V будет
[h] obV(y) = [ft](^v(v,0)) =	= bW(h(v)).
Значит, [h] о by = bw ° h,- Отсюда вытекает единственность [Л]. О
1.5. Системы выпуклых объектов
59
1.5.7.	Мы применим сейчас теорему 1.5.6 к А-полулинейной решетке Sbl(X, Е), в которой очевидным образом выполнен закон сокращения. Решеточно упорядоченный модуль [Sbl(X, Е)] называют пространством сублинейных операторов из X в Е. Из построения пространства [V], проведенного в 1.5.6, видно, что [Sbl(X, Е)] можно отождествить с подпространством Sbl(X, Е) — Sbl(X, Е) в Ех, состоящим из всех отображений из X в Е, представимых в виде разности двух сублинейных операторов. Элемент <р(р,<7), где p,q € Sbl(X, Е), отождествляют с разностью х »-* р(х) — q(x) (х е X}. Порядок в [Sbl(X, Е)] совпадает с порядком, индуцированным из Ех, так что конус положительных элементов имеет вид {р € [Sbl(X, Е)] : р(х) 0 (х € X)}.
Рассмотрим отображение д : Sbl(X,E) —> CS(X,E), сопоставляющее сублинейному оператору р его субдифференциал в нуле др. Это отображение часто называют двойственностью Минковского. Пусть, далее, отображение sup : CS(X, Е) —> Sbl(X, Е) действует по правилу
sup(^) : х w sup{T:r : Т е } (х € X).
Как видно из 1.4.14 (2), суперпозиция sup о д есть тождественное отображение на Sbl(X, Е). Положим сор := Qosup. Тогда отображение сор обладает следующими свойствами:
(а)	сор о сор = сор;
(Ь)	сор(<2<) Ж е CS(X,E));
(с)	сор — это А-полулинейное отображение, сохраняющее точные верхние границы непустых конечных множеств.
Отображения с такими свойствами называют абстрактными оболочками или оболочечными проекторами (с соответствующими областями значений). Область значений отображения сор мы обозначим через CSc(X, Е). Благодаря свойству (а), будет
CSc(X,E) = G CS(X,E) : сор(^) =
Отображения д и sup взаимно обратны и устанавливают изоморфизм А-кони-ческих решеток Sbl(X, Е) и CSc(X,E). Применив теорему 1.5.6 к CSc(X,E), мы получим решеточно упорядоченный модуль [CSc(X,E)] — пространство опорных множеств. Подводя итог сказанному, можно сформулировать следующий результат.
Теорема. Отображения д и сор допускают, и притом единственное, распространение до А-линейных решеточных изоморфизмов [3] и [сор] решеточно упорядоченных A-модулей [Sbl(X, Е)] и [CSc(X, Е)], причем [с?]"4 = [sup].
1.5.8.	Обозначим через Ращ(Х, Е(У,Е)) множество всех вееров Ф из X в Е(У,Е) таких, что с!от(Ф) = Хи Ф(х) — слабо ограниченное (т. е. поточечно порядково ограниченное) множество операторов при любом х е X. Каждому вееру Ф € Ращ(Х, Е(У, Е)) поставим в соответствие отображение з(Ф) : X х Y —» Е,
60 Глава 1. Выпуклые соответствия и операторы
действующее по правилу
з(Ф) : (ж, у) ь-* sup{Ty : Т е Ф(я)}.
Легко проверить, что з(Ф) — бисублинейный оператор.
Возьмем теперь произвольный бисублинейный оператор р : X х Y -+ Е. Определим соответствие др С X х Е(У, Е) формулой
др : х » др(х, •) := {Т € £(У, Е) : (Чу €Y)Ty^ р(ж, г/)}.
Так как p(#i,-) + р(я2<) > p(xi + то с учетом 1.4.12(1) мы выводим: с?р(я1 4- хг) С dp(xi) + др(х2). Очевидно также, что др(Хх) = д(Хр)(х) = Хдр(х) при А > 0. Иными словами, соответствие др представляет собой веер. Пусть Fanc(X, £(У,Е)) обозначает множество всех вееров Ф G Рап^(Х, £(У,Е)) таких, что Ф(ж) € CSc(X, Е) для всех хеХ.
Справедливы следующие утверждения:
(1)	отображения
d : BSbl(X, У, Е) Fan6(X, £(У, Е)),
s : Fan6(X, £(У, Е)) - BSbl(X, У, Е)
являются полулинейными и при этом сохраняют точные верхние границы непустых конечных множеств;
(2)	отображение сор := доз является полулинейным оболочечным проектором в Fanb(X, L(Y, Е)), действующим на подпространство Fanc(X, £(У, Е));
(3)	sod — тождественное отображение в BSbl(X,У,Е);
(4)	отображения д из осуществляют изоморфизм А-конических пространств BSbl(X, У, Е) и Fanc(X, £(У, Е));
(5)	отображения д и з допускают, и притом единственные, распространения до соответствующих А-линейных решеточных гомоморфизмов [3] и [з] между ре-шеточно упорядоченными A-модулями [BSbl(X, У, Е)] и [Fanc(X, L(Y, Е))], причем [э] = И”1.
1.5.9.	Рассмотрим еще несколько примеров конических решеток, предполагая, что Е := R — поле действительных чисел. В этой ситуации вместо R-полу-линейности и т. п. мы будем, как это принято, говорить просто о полулинейности. Пусть CSeg(X) — множество всех конических отрезков в векторном пространстве X, Сумма конических отрезков и произведение конического отрезка на неотрицательное число определены в 1.1.6. Кроме того, положим С D С С D, Введем обозначение
CS+(X) := (CSeg(X), +, •, <).
Взяв а € R, а > 0 и С € CSeg(X), положим a * С := а-1С. Пусть, кроме того, 0 * С — коническая оболочка сопе(С) конического отрезка С, Обозначим
1.5. Системы выпуклых объектов
61
через отношение порядка, противоположное включению, т. е. С -< D С D D. Положим по определению
CS#(X) := (CSeg(X), #, *, ч).
Введем соответствующие множества сублинейных функционалов. Пусть Sbl+(X) — подмножество SbI(X,Re), состоящее из положительных сублинейных функционалов с индуцированными операциями и порядком. Для а € R, а > 0, и р € Sbl(X,R), р 0, положим а*р := а~гр. Пусть, кроме того, 0*р := J®(ker(p)), т. е. (О * р)(х) = 0, если р(х) = 0, и (0 * р)(х) = 4-оо в противном случае. Напомним (ср. 1.3.8(4)), что инверсная сумма p#q сублинейных функционалов p,q € Sbl(X, R*) имеет вид
(р #«)(*) = inf{p(xi) V q(x2): x = Zj 4- x2} (x € X).
Обозначим через -Ч порядок в Sbl+(X), противоположный к т. е. р -Ч q р q. Наконец,
Sbl#(X) := (Sbl+(X,R), #, *, ч). -
1.5.10.	Теорема. Алгебраические системы CS+(X), CS#(X), Sbl+(X) и Sbl^(X) являются порядково полными коническими решетками.
<1 Прежде всего ясно, что множества CSeg(X) и Sbl+(X) со своими естественными порядками являются полными решетками. Значит, то же самое верно и для противоположных порядков.
По совершенно очевидным соображениям алгебраические операции в CS+(X) и Sbl+(X) удовлетворяют всем требуемым условиям. Подробнее стоит рассмотреть лишь необычные операции # и *. Однако и здесь коммутативность и ассоциативность этих операций, равно как и их согласованность с порядком, вытекают непосредственно из определений. Ограничимся проверкой дистрибутивности умножения относительно сложения чисел, а также условия 1.5.1 (2).
(1) (а 4- /3) * С = (а * С) # ((3 * С) (а, /3 G R+). Если f3 = 0 и a / 0, то
(а + /3)*С = а-'С= [J —С =
= и {-СПсопе(С')} = (а*С)#(0*С).
То же самое верно, если /3 / 0 и а = 0. Случай а = (3 = 0 тривиален. Предположим, что a 0 и /3 / 0. Для любого 0 е < 1 верно
е 1 6	1
’ а Л (3 а 4- /3 ’ а*С#/3*С = Н -СП^С = o<7iiа
= U 7еС-С^С = (а + /3)*С. o<7ii а + (3
62 Глава 1. Выпуклые соответствия и операторы
С другой стороны, при е := а/(а. + 0) будет
sCnli£c=^c'-(“+®-c
Следовательно, (а * С) # (/3 * С) D (а 4- /3) * С.
(2) (Ci#Z>) V (С2#Р) = (Ci V C2)#D. Поскольку порядок в множестве CS#(X) противоположен порядку по включению, нужно показать, что
(Ci # D) А (С2 # D) = (Ci А С2) # Р.
Включение D очевидно, ибо Сь # D D (Ci П С2) # D (к := 1,2). Для доказательства обратного включения возьмем х € (Ci#D) П (С2#Р). По определению найдутся 0 е, 5	1 такие, что х е еС\ А (1 — e)D и х е 6С2 А (1 — 6)D. Если
е 5, то х G (sCi) A (<JC2) С 5(Ci А С2), значит,
х е 5(Ci а С2) А (1 - 6)D с (Ci А С2) # D.
Аналогично обстоит дело, если 5 < е. Здесь использовано соотношение aCi А аС2 = a(Ci А С2), справедливое для всех а > 0. >
1.6. Решеточно нормированные пространства
Как видно из предыдущего параграфа, некоторые системы выпуклых объектов допускают вполне естественную модульную структуру. Однако модульная структура возникает и в том случае, когда пространство является специальным выпуклым множеством линейных операторов или же наделено векторной нормой — важной представительницей класса сублинейных операторов. В этом параграфе мы дадим основные определения и укажем простейшие свойства пространств с векторной нормой.
1.6.1. Рассмотрим вещественные векторное пространство X и векторную решетку Е. (Все встречающиеся нам векторные решетки мы будем считать архимедовыми.) Отображение |-| : X —► Е+ именуют векторной (Е-значной) нормой, если оно удовлетворяет следующим аксиомам:
(1)	|х| = 0 х = 0 (х€ X);
(2)	|Лж| = |А||х| (Лей, xGX);
(з)	|ж + уК kl + M (х,у&х).
Векторную норму называют разложимой или нормой Канторовича, если
(4)	для любых ci,e2 G Е+ и х € X, удовлетворяющих соотношению |х| = Ci 4- е2, существуют х\,х2 G X такие, что х = Xi 4-ж2 и |х^| = (к := 1,2).
В том случае, когда условие (4) выполнено лишь для дизъюнктных е±, е2 € Е+, норму называют дизъюнктно разложимой или, короче, d-разложимой.
Тройку (X, ||,Е) (а также (Х,Е), (X, |-|) или X, опуская подразумеваемые параметры) называют решеточно нормированным пространством (над Е), если |'| — это Е-значная норма на векторном пространстве X. При этом Е мы
1.6. Решеточно нормированные пространства
63
будем называть нормирующей решеткой пространства X. Если норма |-| разложима (d-разложима), то и само пространство (X, |*|) называют разложимым (d-разложимым). Иногда используют аббревиатуру РНП вместо (дериватов) термина «решеточно нормированное пространство».
1.6.2.	Если |ж| Л |?/| = 0, то элементы х,у € X считают дизъюнктными и пишут х ± у. В векторной решетке элемент х 0 называют осколком элемента z 0, если 0 < х г и ж Л (г - х) =0. Если норма |z| элемента z — осколок нормы |.т| элемента х в некотором РНП, то по аналогии z также именуют осколком х. Как и в случае векторной решетки, множество вида М1- := {х е X : (Vy G М) х ± у}, где 0 / М С X, именуют полосой или компонентой пространства X. Символ «^(Х) обозначает множество всех полос в X, упорядоченное по включению. Скажем, что К 6 «^(Х) допускает проектор, если ХфХ1 = X. Проектор Л(тг) на полосу К параллельно полосе KL называют порядковым. Говорят, что X — решеточно нормированное пространство с проекциями, если всякая полоса X допускает порядковый проектор. Для единообразия мы часто пишем ®(Х) вместо «^(Х) и, допуская вольность, используем терминологию из теории векторных решеток. Такое обращение допустимо до тех пор, пока X рассматривается только как РНП. Однако если X одновременно является векторной решеткой, то следует быть более аккуратным, чтобы избежать путаницы (см. ниже 1.6.4 и 1.6.9). Для множеств L С Е и М С X положим по определению h(L) := {ж € X : |ж| € L} и \М| := {|х| : х € М}. Ясно, что |/i(L)| С L П |Х|.
(1)	Пусть всякая полоса векторной решетки Eq := IXJ11 содержит норму некоторого ненулевого элемента. Тогда ®(Х) — полная булева алгебра и отображение L w h(L) осуществляет изоморфизм булевых алгебр ®(|Х|±±) и ®(Х).
<] Понятно, что отображение h сохраняет пересечение любого непустого семейства полос. Поэтому h сохраняет точные нижние границы, так как в рассматриваемой алгебре они совпадают с пересечениями. Более того, Д({0}) = {0} и Л(|Х|±_к) = X. Следовательно, достаточно показать, что Л(£±) = для произвольного L € ®(IXI11). Включение Ь,(1Л) С h(L)1- очевидно из определений. Если 0 / х € Л(Ь)1, то |х| дизъюнктен всем элементам из L вида |j/|. В то же время соотношение х Л(Ь±) влечет, что е |ж| для подходящего 0 < е € L+. Но тогда в полосе {е}±х нет ненулевых элементов вида |у|, что противоречит допущению х	t>
(2)	Если элементы х,у € X дизъюнктны, то |я + г/| = |я| + |г/|•
< В самом деле, из соотношений |ж| Л |г/| = 0 и |ж| |я +1/| + |t/| следует, что
Ы (|я + 1/| + М)ЛЫ к + у\ л И к + 2/|-
Аналогично |?/| |я + з/|, поэтому
к| -ь Ы = kl VM к + г/Ь
что и требовалось, о
64
Глава 1. Выпуклые соответствия и операторы
(3)	Для любой пары дизъюнктных элементов ei,e2 € Е существует единственное разложение х = xi + х2 со свойствами |rci| = ei и |х21 = вг.
<1 Допустим, что |Х1| = |У11 = 61, |Ж2| = |j/2| = е2 И X = Х1 + х2 = У1 + У2-Тогда xi - У1 1у2- х2, так как |xi - yj < |xi| 4- |зд| = 2ei и |x2 - y2\ < 2e2. В силу (2)0 = 1 (xi - 3/1) + (z2 - 2/2)1 = 1^1-2/11-4-1*2 - 2/21 - Следовательно, xx = yx и x2 = 2/2- >
(4)	Пусть в условиях предложения (1) X является d-разложимым и существует порядковый проектор тг на полосу L е *B(Eq). Тогда существует проектор /i(?r) на полосу К := h(L) параллельно полосе К±, причем 7г|ж| = |Л(тг)ж| для всех х е X.
<1 В силу условия d-разложимости для произвольного х G X, найдутся такие Х\,х2 G X, что х = xi 4- х2, |xi| = 7г|х| и |гг2| = тг±М- Это означает, что X есть прямая сумма полос К и К\ Пусть Л(тг) — проектор на полосу К параллельно К±. По определению изоморфизма h будет h(ir)x G К =	т. е.
|Л(тг)гг| е ttEq. Тем самым 7г-1|й(7г)ж| = 0 или 7г|Л(тг)ж| = |Л(7г)ж|. Элементы h(ir)x и Л(тг±)ж дизъюнктны. Поэтому, используя (2), можно написать
7г|х| = 7г(|/1(7г)ж| 4- |/1(7Г±)х|) = 7Г|/l(7r)x|.
Следовательно, тг|ят| = тг|/i(tt)x| = |Л(тг)ж|. О
1.6.3. Всюду в дальнейшем под булевой алгеброй проекторов в векторном пространстве X мы понимаем множество SB коммутирующих идемпотентных линейных операторов, действующих в X, в котором роли нуля и единицы играют соответственно нулевое и тождественное отображения, а булевы операции имеют вид:
7ГЛр:=7ГОр = рО7Г, 7Г\/р = 7Г4-р —7ГОр,
7Г* — 1х — 7Г (7Г, р Е ^).
Пусть Eq := IXI11 — решетка с проекциями, а X — d-разложимое пространство. Тогда X — пространство с проекциями. Более того, существуют полная булева алгебра SB проекторов в X и изоморфизм h из %S(Eq) на SB такой, что
ад = \h(b)x\ (Ь G ф(Ео), X € X).
<1 Ненулевая полоса L G ®(Fo) не может быть дизъюнктной к множеству |Х|. Значит, |х| 0 L1- для некоторого х 6 X. Если тг — порядковый проектор на L, то элемент 7г|ж| отличен от нуля. Ввиду d-разложимости X, для некоторого xq € X выполнено |хго| = тг|гг| € L. Следовательно, можно применить 1.6.2 (1,4). Каждая полоса К Е 9В(Х) допускает проектор 7Гк параллельно К±. Положим & := {як : X G ®(Х)}. Ясно, что & — полная булева алгебра проекторов. Порядковому проектору р € ф(Ео), поставим в соответствие проектор 7Гк, где К := h(pEo). Полученное таким образом отображение мы обозначим той же буквой h. Тогда h — изоморфизм булевых алгебр ^(Eq) и Требуемые свойства изоморфизма h следуют из 1.6.2 (4). О
1.6. Решеточно нормированные пространства
65
В дальнейшем булевы алгебры ф(Е’о) и £?(Х) := & будут отождествлены и мы всегда пишем тг|ж| = |тгж| (ж G X, тг G ^J(Bo))-
1.6.4. Предположим, что X — векторная решетка. Норму || именуют монотонной, если |ж| < |г/| влечет |ж| < |г/| (ж, у G X).
(1) Пусть X — разложимое решеточно нормированное пространство над векторной решеткой Е. Если X — векторная решетка, а векторная норма монотонна, то &(Х) является правильной подалгеброй булевой алгебры ®(Х). В частности, всякая полоса решеточно нормированного пространства X будет полосой векторной решетки X.
<] Заметим, что в силу монотонности векторной нормы множество h(L) служит порядковым идеалом в X для любой полосы L € *8(Е). Если 0 ж € h(L) и 0 < у Е Ь,(1Л), то 0 < ж Л у € h(L) А ЬЦЛ) = {0}, так как монотонность нормы влечет |ж At/| < |ж|Л|у|. Итак, жЛ?/ = 0 и, стало быть, элементы ж и у дизъюнктны не только в смысле 1.6.2, но и в смысле порядка в X,
Обозначим через d отношение дизъюнктности в векторной решетке X, т. е. udv w |u| Л |v| = 0. Тогда доказанное выше можно записать в виде h(L) dh^lA). Отсюда вытекает включение Л(1А) С h(L)d, где Ad := {ж € X : (Va € A)xda}. В действительности равенство Ь(1/~) = h(L)d имеет место для любой полосы L Е ®(Е).
В самом деле, предположим, что ж d h(L) и ж Ь,(1Л). Тогда |ж| /А. Поэтому существует 0 < е Е L, для которого е < |ж|. Воспользовавшись разложимостью X, подберем такие u, v € X, что ж = u+v, |u| = е и |v| = |ж| — е. Так как и € h(L), то xdu, поэтому |ж| < |v|. Но тогда |ж| < |v| = |ж| - е и мы приходим к противоречивому соотношению 0 < е < 0. Таким образом, xdh(L) влечет ж € ^(L1). Следовательно, h(L±) — h(L)d. Заменив L на lA, видим, что h(L) = h(Lr)d. Отсюда h(L) Е ®(Х), т. е. &(Х) С ®(Х). В то же время, учитывая 1.6.2 (1), можно написать h(L)1- = MjA) = h(L)d. Поэтому булево дополнение в алгебре &(Х) индуцировано из ®(Х). Так как точные нижние границы в обеих алгебрах ®(Х) и &(Х) совпадают с теоретико-множественным пересечением, можно заключить, что &(Х) — правильная подалгебра булевой алгебры ®(Х). О
(2) Пусть X то же, что и в (1), аЕ — векторная решетка с проекциями. Тогда £Р(Х) будет правильной подалгеброй полной булевой алгебры ф(Х). В частности, каждый проектор на полосу решеточно нормированного пространства X является порядковым проектором векторной решетки X.
<1 Следует из (1) и 1.6.3. >
1.6.5. Говорят, что сеть (жа)аед Ьо-сходится к элементу ж G X и пишут ж = = bo-lim жа, если существует убывающая сеть (е7)7ег в Е такая, что inf7er е7 = 0 и для любого 7 € Г найдется индекс <*(7) € А, для которого |ж—жа| С е7 при всех а «(7). Пусть для некоторого е € Е+ выполнено условие: для любого числа е > 0 существует индекс a(s) € А такой, что |ж—жа| < ее при всех а а(г). Тогда говорят, что сеть (жа) Ьг-сходится (или сходится с регулятором е) к элементу ж и пишут ж = br-lim жа. Сеть (жа) называют Ъо-фундоментальной (Ьг- фундаментальной) , если сеть (ха — Ж/з)(а^)€АхА Ьо-сходится (br-сходится) к нулю.
3 Кусраев А. Г., КутателадзеС. С.
66
Глава 1. Выпуклые соответствия и операторы
Решеточно нормированное пространство называют Ьо-полным (br-полным), если всякая Ьо-фундаментальная (dr-фундаментальная) сеть в нем Ьо-сходится (бг-схо-дится) к элементу этого пространства.
Возьмем семейство и свяжем с ним сеть (г/а)аеА- Здесь А := ^П(Е) — упорядоченное по включению множество всех конечных подмножеств множества S и уа :=	х£- Если существует х := Ьо-lim уа, то говорят, что семейство
является Ьо-суммируемым и элемент х — его сумма. При этом принято писать х = Ьо-^2^евх^. Если само пространство X не векторная решетка и путаница невозможна, то в терминах типа бо-полнота мы иногда будем писать о и г вместо Ьо и Ьг.
Множество М С X называют ограниченным по норме, если множество |Л/| ограничено в Е, т. е. если существует такой элемент е € Е+, что |ж| < е для всех х G М. Пространство X называют дизъюнктно полным или d-полным, если в нем Ьо-суммируемо всякое ограниченное по норме множество, состоящее из попарно дизъюнктных элементов.
Теорема. Разложимое решеточно нормированное пространство Ьо-полно в том и только в том случае, если оно дизъюнктно полно и полно относительно сходимости с регулятором.
<1 Доказательство можно найти в [129, 132]. [>
Разложимое Ьо-полное решеточно нормированное пространство принято называть пространством Банаха-Канторовича (или, коротко, ПБК). Если пространство Банаха-Канторовича одновременно является векторной решеткой и векторная норма в нем монотонна, то используют термин решетка Банаха-Канторовича. Пространство Банаха-Канторовича называют расширенным, если нормирующая решетка является расширенным Е-пространством. Нетрудно видеть, что ПБК будет расширенным в том и только в том случае, когда каждое множество попарно дизъюнктных элементов в нем Ьо-суммируемо.
1.6.6. Под максимальным расширением (Ьо-пополнением) решеточно нормированного пространства (Х,Е) понимают расширенное пространство Банаха-Канторовича (У, тЕ) (соответственно пространство Банаха-Канторовича (У, оЕ)) вместе с линейным изометрическим вложением г : X —> У таким, что любое расширенное Ьо-полное подпространство (У, тЕ) (соответственно любое разложимое до-полное подпространство (У,оЕ)), содержащее гХ, совпадает с У. Здесь оЕ обозначает порядковое пополнение векторной решетки Е, а тЕ — максимальное расширение Е-пространства оЕ. Более того, мы предполагаем, что Е С оЕ С тЕ (см. [129, 132]).
Для непустого множества U С X обозначим:
г(С7) := {я = Ьг-lim хп : (zn)n€N С и},
d(C7) :=	= Ьо~У^ тг^х^ : (^)^gs С и},
$GS
o(U) := < х = o-lim xa : (^q)qga C U k
1.6. Решеточно нормированные пространства
67
где А — произвольное направленное множество, (тг^) — произвольное разбиение единицы в ф(Х), а пределы и сумма существуют в X.
(1)	Теорема. Каждое решеточно нормированное пространство имеет единственное с точностью до линейной изометрии максимальное расширение. Пространство (тХ, тЕ) служит максимальным расширением (X, Е).
(2)	Теорема. Каждое решеточно нормированное пространство X обладает, и притом единственным с точностью до линейной изометрии, Ьо-пополнением.
(3)	Для Ьо-пополнения X пространства X имеет место представление X = = rdX. Если X разложимо и Eq |X|±_L — решетка с главными проекциями, то справедливо также представление X = оХ.
<3 Доказательства для (1)-(3) см. в [129, 132]. >
1.6.7. Предполагая, что (X, Е) — разложимое РНП, мы установим сейчас три вспомогательных факта.
(1)	Пусть даны произвольный элемент х G X и возрастающая последовательность (an) С Е+, причем выполнено (an) < |х| (n € N). Тогда существует последовательность (xn) С X такая, что при всех n G N и n < m Е N выполнены равенства
|тп| — Нп, |т Хп| — |х| ttn, |^тп *^п| —	^П‘
<1 Положим Ьп := |т| - an (n € N), 6о •= |ж|. В силу разложимости X можно подобрать последовательности (un) С X и (vn) С X такие, что
x = ui+vi,	|ui| = ai,	|^i| = &i,
^п4-1 4* Цг4-1 =	|^п+11 == 6п4-1,	|^n4-l| ~ 6n 6n_|»i.
Положим xn = Ufc. Тогда х = хп 4- vn и выполнены соотношения:
п	п
|^n|	=	“ bfc) ~ 6q — 6n — ап.
k=l	fc=l
В то же время |т| |xn| + |vn| an + bn = |х|. Следовательно, |тп| = an. Тем самым для т > п будет
1хт тп| —
т
£ uk
fc=n+l
т
~	— an |хт ^п|,
fc=n+l
откуда и вытекает требуемое равенство |xm — xn| =	— an. t>
(2)	Если РНП (X, Е) является d-полным, то (X, Е) — пространство с проекциями. В частности, каждая d-полная архимедова векторная решетка — это решетка с проекциями.
<1 Докажем лишь первое утверждение. Второе доказано, например, в [128]. Зафиксировав у € X, обозначим символом Е(у) о-идеал в Е, порожденный элементом |?/|, и положим Х(у) := {я € X : |х| € Е(у)}. Легко видеть, что 3*
68
Глава 1. Выпуклые соответствия и операторы
(Х(?/), Е(у)) — разложимое РНП. Если К — полоса в X и К(у) := К П Х(у), то проекции у на К и К (у) существуют одновременно и равны друг другу. В то же время решетка Е(у) дизъюнктно полна. В самом деле, для произвольного дизъюнктного семейства (е$), ограниченного в Е(у), существует семейство
С X такое, что |я$| = е^. Поэтому для х = bo-^х^ будет |ж| =	=
= supe^ € Е(у). Следовательно, ввиду 1.6.2 (4) остается лишь применить вторую часть сформулированного предложения. о
(3)	Если (X, Е) является одновременно d-полным и Ьг-полным, то Eq := := |Х|хх — это К-пространство и |Х| = Eq.
< Согласно (2) X — пространство с проекциями. Пусть Е — порядковое пополнение векторной решетки Е. Как видно из доказательства (2), Е(у) — решетка с проекциями. Следовательно, для любого е € Е(у)+ можно подобрать возрастающую последовательность еп € Е(у)+, сходящуюся с регулятором к е. Используя (1), выберем последовательность (хп) С X такую, что |жп| = еп и |жт — яп| < em — en (т > п). Ясно, что последовательность (хп) будет r-фундаментальной и, ввиду бг-полноты пространства X, существует х := Ьг-lim xn 6 X. Более того, |х| = r-limen = е, следовательно, Е(у) = Е(у). Пусть теперь е — произвольный положительный элемент из порядкового пополнения решетки |Х|хх. Тогда для произвольного максимального дизъюнктного семейства (е$) С |Х| можно выбрать такое разбиение (тг£) единичного проектора в Е, что 7г£е пв£, т. е. тг£е € |Х|. Поэтому найдутся семейство (я£) С X и элемент х G X такие, что |х£| = тг£е е и |ж| = е. Следовательно, Eq = |Х|ХХ — это Х-пространство и |Х| = Ео+. О
1.6.8.	Пусть А — подрешетка и подкольцо решеточно упорядоченного кольца Orth(E), причем А содержит булеву алгебру ф(Е'). Говорят, что решеточно нормированное пространство X над Е допускает согласованную модульную структуру над А, если X можно снабдить структурой точного унитарного А-модуля так, что выполнены следующие условия:
(а)	естественное представление АвХ определяет тот же изоморфизм булевых алгебр ф(Е) и «^(Х), что и в 1.6.3;
(Ь)	|ах| = |а||х| (а G А, х G X).
В том случае, когда X — векторная решетка, предположим дополнительно к (а) и (Ь), что
(с)	^(Х) — правильная подалгебра полной булевой алгебры полос ®(Х).
Пусть X — некоторое d-разложимое решеточно нормированное пространство с нормирующей решеткой Е, причем Е = |Х|хх. Пусть А — подрешетка и подкольцо с единицей в Orth(E'), содержащее ^J(E). Каждое из следующих утверждений влечет, что X допускает согласованную модульную структуру над А:
(1)	А — алгебра конечнозначных элементов, т. е. элементов вида с^тг] 4-... + + где ai,..., Qfc — произвольные скаляры, а тгх,...,7Г2 — попарно дизъюнктные проекторы из
(2)	Е обладает сильным свойством Фрейденталя, X является br-полным и А := &(Е);
1.6. Решеточно нормированные пространства	69
(3)	Е порядково a-полна, X секвенциально Ьо-полно и А = Orth(E’);
(4)	Е порядково п-полна, X — векторная решетка с монотонной векторной нормой и А = Orth(E').
<1 Пусть конечнозначный элемент а 6 А имеет представление a =
где Ai,..., Лп G R и 7Г1,..., 7гп — конечное разбиение единицы в ty(E). Положим ах := 52 Принимая в расчет 1.6.2 (2) и 1.6.3, а также обычное отождествление булевых алгебр ^P(F) и <^(Х), можно написать
Iaxl = |	Л№| =	|Afe|тгк|ж| = a|x|.
Далее, если выполнено (2) (соответственно (3)), то произвольный элемент а 6 А является пределом относительно сходимости с регулятором (порядковым пределом) возрастающей последовательности конечнозначных элементов (an) С А. Последовательность (anx) С X будет Ьг-фундаментальной (бо-фун-даментальной), так как
fanx — |ап —	> 0 ( > 0).
Таким образом, можно положить по определению ах := апх (соответственно ах := 6o-lim апх). При этом имеют место равенства:
|ах| = |6r-lim anx| = r-lim |ап|Ы = а|яф |ах| = |bo-lim anx\ = o-lim |ап||х| = а|ж|.
Оставшаяся часть доказательства очевидна. При рассмотрении (4) следует использовать 1.6.4. 1>
1.6.9. Будем говорить, что (X, Е) — решеточно нормированная решетка, если X — решеточно нормированное пространство с нормирующей решеткой Е и одновременно векторная решетка, причем векторная норма монотонна. В этом случае в пространстве X имеется два различных отношения дизъюнктности: одно индуцировано векторной нормой как в 1.6.2, а второе определено отношением порядка в X. В тех случаях, когда возможна путаница, мы будем называть их по-разному, а именно метрической дизъюнктностъю и порядковой дизъюнктностъю соответственно.
Пусть (X, Е) — решеточно нормированная решетка. Элемент х 6 X называют метрически п-разложимым, если AjL0|#fc| = ® для Л1°бых попарно порядково дизъюнктных элементов х0,... ,хп в Х+ таких, что |ж| = £Х=ожь Метрически 1-разложимый элемент называют метрически неразложимым. Как видно из определений, метрическая неразложимость некоторого элемента означает, что если он представим в виде суммы двух порядково дизъюнктных элементов, то эти элементы будут также метрически дизъюнктны. В следующих двух предложениях Е — векторная решетка с проекциями на главные полосы.
(1) Пусть X — разложимая решеточно нормированная решетка. Элемент х € X метрически п-разложим в том и только в том случае, если для любого
70
Глава 1. Выпуклые соответствия и операторы
набора попарно порядково дизъюнктных элементов То, ,..., хп Е с суммой х = хо+^1+.. .4-тп существует разбиение единицы {тго,..., 7ГП} в булевой алгебре ф(Е) такое, что тг^т^ = 0 при всех к = 0,1,..., п.
<1 В самом деле, равенство во Л ... Л еп = 0 равносильно тому, что = 0 (к := 0,1,..., п) для подходящего разбиения единицы тго,..., тгп в ф(Е). Если применить это утверждение к := |т&| и воспользоваться предложением 1.6.2 (4), то Xk|xfc| = |я>ха;| = 0 или тгьхь = 0. >
(2) Пусть X обладает согласованной модульной структурой над кольцом Orth(E). Тогда элемент х Е X метрически п-разложим в том и только в том случае, если для любого набора попарно порядково дизъюнктных элементов то, х\,..., xn Е Х+ с суммой х = то 4- Xi 4-... 4- хп существуют положительные ортоморфизмы <т0, ai,...,an такие, что &q +	+ ... + an = I? и &kXk = 0
при к := 0,1,..., п.
<1 Необходимость вытекает из (1). Докажем достаточность.
Пусть ортоморфизмы	удовлетворяют указанным в формули-
ровке условиям. Обозначим символом рк проектор на полосу ker(afc)-1- и заметим, что pkXk = 0 (к := 0,1,...,п). Из равенства Тдс=оак = следует, что Пь=1 кег(а^) = {0}. Так как ядро ортоморфизма является полосой, мы приходим к соотношению Д£=1кег(о>) = 0. Следовательно, V£=i ker^fe)1 = Я. Отсюда вытекает, что Vfc=i Pk — Ie- Легко подобрать дизъюнктный набор тго, тгх,..., тгп в ф(£*) так, что Vfc=i nk = Ie и Хк Рк (к := 0,1,..., п). Ясно, что ХкХк = 0 для всех к := 0,1,..., п. Остается сослаться на (1). О
1.6.10. (1) Пусть X — решеточно нормированная решетка. Тогда сумма п метрически неразложимых элементов в X является метрически п-разложимым элементом.
<1 Пусть т = щ 4-... 4- un, где ui,..., un — метрически неразложимые элементы в X. Можно считать без ограничения общности, что щ 0 (fc := 1,...,п). Возьмем попарно порядково дизъюнктные элементы x$,x\,...,xn Е X, для которых то 4- Ti 4-... 4- xn = ui 4-... 4- un. Используя лемму о двойном разбиении, выберем Uk.i Е Х+ так, чтобы
п	п
Ufe = J2«fc,< (k :=	xi = ^uk,i (i:=0,
(=1	k=0
Если Vk,i E E+ при k := l,...,n и I := l,...,m, то n-кратное применение леммы о двойном разбиении приводит к формуле
Л 5252	** vn.j(n),
fc=i 1=1	jej
где J — множество всех функций j
Vk,i •= мы выводим:
{1,...,п} —* {1,...,т}. Отсюда при
п	п п
Ды = Д 52л*>'
1=0	1=0 к=1
п п
/\	531ч?(о),о1 lwj(i),iI Л ... Л |wj(n))n|,
Z=Ok=l
1.6. Решеточно нормированные пространства	71
где J — множество всех функций j : {0, l,...,m} —► {l,...,m}. Ясно, что по меньшей мере два индекса в множестве {ДО),..., J(n)} совпадают, скажем, j(r) = j(s) = т, 0 r,s п, г / з. Поэтому
|wj(O),o| A |^J(1),11 Л ... Л |ttj(n),n|	Л |tZm,s| == 0.
Последнее следует из соотношений
0 Um,r Я'Г» 0	^7П,з	= ^тп,0 4“ .. . 4~
так как хг и х8 порядково дизъюнктны, а элемент ит метрически неразложим. 1>
(2) Пусть Е — векторная решетка с проекциями на главные полосы, X — некоторая d-разложимая решеточно нормированная решетка над Е. Пусть х е X — положительный метрически n-разложимый элемент и х = xq + Xi 4-... 4- ^n-i для некоторого набора попарно порядково дизъюнктных xq, ..., a?n-i- Если тг — порядковый проектор в Е, для которого л(Е) С {|жо| Л |#i| Л ... Л |хп_1|}±±, то элемент у тг(хо) метрически неразложим, а элемент z := 7г(х — хо) метрически (п — 1)-разложим. Более того, у и z являются дизъюнктными осколками элемента х, т. е. у.
<3 Пусть 0 < yi у, 0 < 2/2 С У. У1 л У2 = о и 2/1 4- У2 = 2/. Докажем, что |г/11 Л I2/2I = 0- Пусть тг*; — порядковый проектор на полосу на	и
положим тг := 7го7Г1... 7гп_1. Тогда п 4-1 элементы ttti, ..., 7nrn-i, 2/ь 2/2 попарно порядково дизъюнктны, причем их точная верхняя граница равна
7ПГ1 4- 7Г^2 4-... 4- 7ГЖп-1 4-2/14-2/2 = л(х ~ Xq) + тг(^о) = лх-
Так как всякий осколок метрически n-разложимого элемента также метрически n-разложим, то |тггС1| А ... А |тгтп_1| A I2/1I A I2/2I = 0, откуда следует, что тге = 0, где е := 7r(|rci| А ... А |zn-i| A |2/i| A I2/2I)- В то же время тг^е = 0, поскольку тг^е 7г±|2/1|	тт*1" |тпго| = 0, а значит, е = 0. Отсюда вытекает, что
7t(|2/i| A I2/2I) = о, так как 7г — порядковый проектор на (|я?о| А ... A |ren_11). Тем самым I2/1I A I2/2I = тг1 (I2/11 A I2/2I) < тг1 |тгхго| = 0- Ясно, что у — осколок элемента х.
Допустим теперь, что z = z\ 4-... 4- zn и Zk J- zi (k l). Тогда тгя есть сумма порядково дизъюнктного набора 7пго>zi,.. .,zn из n + 1 элемента и, поскольку элемент тгх метрически n-разложим, то |тгггоIA |zi| А... A |zn| = 0. Отсюда тге = 0 и 7г(|ж0| A |zi| А ... A |zn|) = 0. В то же время тг^е = 0. Стало быть, е = 0 и, следовательно, 7r(|zi| А ... A |zn|) = 0, |zi| A ... А |гп| = 0. >
(3) Пусть Е — векторная решетка с проекциями на главные полосы, X — некоторая d-разложимая решеточно нормированная решетка над Е. Предположим, что метрически n-разложимый элемент х € X допускает представления х = ат1 4-... 4-tfn их = 2/1 4-... 4~2/m (п,тп € N), где {a?i,... ,хп} и {2/1,... ,2/т} — попарно порядково дизъюнктные наборы метрически неразложимых элементов. Тогда для каждого I :== 1,... ,тп найдется разбиение единицы тг^д,..., тгпд в Ф(ЫХ±) такое, что щ Kk,iXk G := 1, • • •, тп).
72
Глава 1. Выпуклые соответствия и операторы
<1 Пусть вначале х 0. Привлекая декомпозиционное свойство Рисса, подберем такие положительные элементы Xkj Е X (& := 1,..., п; / := 1,..., т), что хк = I2z=ixM (& := 1, и yi =	G :=	Элементы хщ
попарно дизъюнктны в силу неравенства 0 < Xk,i ^Хк^Уг По условию yi — метрический неразложимый элемент, поэтому Л |&>,г| = 0 (j / Z). Пусть tt^j — порядковый проектор на полосу	Ясно, что проекторы тгщ,... , тгпд по-
парно дизъюнктны. Согласно 1.6.2 (2) будет
= 7Tfc,Z(kfc.l| + . . . + км-1| + kfc,Z+lI + • • • +	= 0,
значит, TTfcjXj = Таким образом справедливо представление yi =
Так как |эд| = ELi^zkfch то	= Efc=i = |z/z|- Тем самым
^kyi)k=i ~~ разбиение проектора на полосу |3/z|±-L для каждого I := 1,... ,m.
В случае произвольного х € X верно |я| = |xi| 4-... 4- |яп| = |з/11 4-... 4- |t/m|. Поэтому в силу уже доказанного имеет место представление \yi\ =	Як,1 kfc|
(I := 1,..., т). Последнее можно переписать в виде
Vi - 12 ^lXk = 12 Wk - Vi  к=1	к—1
Отсюда в силу очевидных соотношений у+ ±	и УГ zLk=i *к,1Хь
мы выводим: yf = 52fc=i и УГ = 52fc=i ^к^к • Следовательно, yi = = Z2fc=l ^к,1хк’
1.6.11. Теорема. Пусть Е — векторная решетка с главными проекциями и X — разложимая d-полная решеточно нормированная решетка над Е. Тогда всякий метрически n-разложимый элемент х Е X представим в виде дизъюнктной суммы п метрически неразложимых элементов, т. е. х = xi 4-... 4- хп, где xi,.. .,хп — попарно дизъюнктные метрически неразложимые элементы из X. Указанное представление единственно в смысле 1.6.10 (3).
<] Доказательство проводится индукцией по п. При п = 1 требуемое очевидно. Предположим, что теорема верна при п — 1. В силу леммы Куратовского-Цорна существует максимальное множество попарно дизъюнктных порядковых проекторов в Е, удовлетворяющее условию: для каждого тг € 3? найдется п попарно дизъюнктных элементов ..,xn-i Е X, для которых	== ж и
тг(Е) С (|а:о| Л |rri| Л ... Л |rrn—il)-1"1.
Привлекая 1.6.10(2), можно построить функцию тг ь-► тг € SP, такую, что элемент х^ положителен и метрически неразложим, у^ := тгх — хп положителен и метрически (п — 1)-разложим, х^ = тгх^, причем хп и уп — дизъюнктные осколки элемента х. Так как семейство (ж7Г)7ге^> дизъюнктно, а пространство X d-полно, то можно определить у := \/{хп : тг G и z := х — у. Заметим, что при этом у и z — дизъюнктные осколки элемента х.
По определению тгу = х^ для каждого тг € так что, полагая р := sup^, получим ру = у и pLy — 0. Если у = t/i 4- У2, причем у\ Л у2 = 0, то тгу^ 4- ЛУ2 = #тг
1.6. Решеточно нормированные пространства
73
для всех тг € & и 7r(|t/i| Л I2/2I) = 0» поскольку — метрически неразложимый элемент. Тем самым p(|i/i| Л I3/2I) = 0, но в то же время px(|yi| Л |уг|) С р|2/| = О, откуда вытекает |i/i| А |г/г| = 0. Предположим теперь, что z = zq 4- z\ 4-... 4- zn_\ для дизъюнктного набора го, zi,..., гп-1 € Х+, и положим е := |го| Л... Л |гп-1|. Тогда для каждого тг G & выполнено тгг = у^, следовательно, тгг — это (п — 1)-разложимый элемент и тге = 0. В то же время х = (го 4- у) 4- Zi 4-... -4- гп-1 и, принимая во внимание определение множества заключаем
7Г-*-(|20| Л ... Л |zn-i|)	л-х(|г0 + J/| Л |zi| Л ... Л |zn-i|) = 0.
Отсюда мы заключаем, что A"J01|zj| — 0. Итак, мы доказали, что у метриче-ски неразложим, г метрически (п — 1)-разложим и х — у 4- z, так что требуемое установлено для положительного х. Для произвольного метрически п-раз-ложимого элемента х модуль |х| будет также метрически n-разложимым и ввиду уже доказанного факта справедливо представление |ж| = у\ 4- ... 4- уп, где все элементы ук метрически неразложимы. В силу леммы о двойном разбиении
= т 4-... 4- ип, х~ = V1 4-... 4- vn, Uk 4- Vk = Ук (Wb ^к € к := 1,..., п). Элемент Хк := щ ~ Vk метрически неразложим, так как у к = \хк |. Кроме того, ясно, что х = xi 4-... 4- яп. О
1.6.12. В заключение этого параграфа рассмотрим один пример решеточно нормированного пространства. Пусть X — произвольное векторное пространство, а Е — К-пространство. Сублинейный оператор р : X Е именуют полунормой, если р(х) = р(—х) для всех х е X. Для данной полунормы р определим множество линейных операторов С L(X,E) и отображение || : 3?(р) —> Orth(E) следующими формулами:
^(р) := {Т е ЦХ,Е) : (37 G Orth(E))T G д(7ор)},
|Т| := inf{7 е Orth(E)+ : Т е д(7 ор)} (Г G <Г(р)).
Теорема. Тройка (^Г(р), ||, Orth(E)) служит пространством Банаха-Канторовича, если только полунорма р отделима, т. е. равенство р(х) = 0 влечет х = 0.
<] Очевидно, что оператор || принимает положительные значения и удовлетворяет 1.6.1 (2,3). Если |Т| — 0, то для каждого 0 < е Е существуют разбиение единицы (7г^)^е= в %$(Е) и семейство (p$)$es в Orth(E) такие, что тг^р^ < zIe и Т е d(pgp) для всех £ G Н. Таким образом, |Т*ят| 7г$р$р(х) ер(х), откуда следует, что \Тх\ < ер(х). Ввиду отделимости р мы видим, что Т = 0.
Рассмотрим порядковый проектор тг и ортоморфизм 7 в Е и заметим, что тгоТ Е д(ур) тогда и только тогда, когда тгоТ € <?(тго7ор). Более того, поскольку Т € d(a op) для некоторого 0 а е Orth(E'), то для каждого 7 G Orth(E), удовлетворяющего соотношению тг о Т € с?(7 о р), существует 7' := тг7 4-такой, что Т € 0(7' ор) и тг7 = тг7'. Учитывая эти свойства, заключаем:
|тг о Т| = inf{0 < 7 G Orth(.E) : 7Г о Г G Э(7 ор)} =
= inf{7r о 7 G Orth(E)+ \ тг оТ о р)} =
= inf{тг о 7 е Orth(El)+ : Т G д(7 о р)} = тг о |Т|.
74
Глава 1. Выпуклые соответствия и операторы
Итак, отождествив тг с проектором на полосу тг в Orth(E), определяемую соотношением р и-* тг о р, мы заключаем, что |тгТ| = тг|Т| и, в частности, норма |-| будет d-разложимой. Пусть последовательности (Tn) С ^(р), (An) С R и ортоморфизм р е Orth(E) удовлетворяют условиям limn Ап = 0 и |ТП - Тт\ ХкР для всех т,п к. Тогда \Тпх — Ттх\ < Хкрр(х) и последовательность (Тпх) — r-фундаментальна в Е. Таким образом, можно определить линейный оператор Тх := r-\imnTnx (х € X). Так как |Т — Тп| Х^р для n > fc, мы заключаем, что Т € ^(р) и г-Иш|Т — Тп\ =0. Следовательно, пространство Ьг-полно и разложимо в силу 1.6.8 (2). Дизъюнктная полнота JT(p) проверяется без труда. Остается применить 1.6.5. О
1.7. Комментарии
1.7.1. (1) Выпуклые множества как самостоятельный объект исследования появились на рубеже XIX и XX веков. Практически в то же время были обнаружены и различные связи между выпуклыми функциями и выпуклыми множествами — объектами, известными задолго до выделения понятия выпуклой функции. Начальное изучение этих объектов в основном проводилось в связи с конечномерной геометрией, см. [21, 169], а также цитируемую в них литературу. В 1930-е годы интерес к выпуклости связан с развитием функционального анализа [343]. Становление современного выпуклого анализа началось в 1960-е годы, прежде всего под воздействием теории экстремальных задач, развития методов оптимизации и математической экономики. Основные понятия и результаты, а также важнейшие приложения выпуклого анализа изложены в обзоре В. М. Тихомирова [233]. Там же имеется обстоятельный исторический комментарий.
(2)	Термин «выпуклый анализ» получил распространение, в основном, в связи с монографией Р. Т. Рокафеллара [220], где в качестве его автора назван профессор Принстонского университета А. У. Таккер. Выпуклый анализ как самостоятельное направление сформировался во многом благодаря вкладу В. Фенхеля [359], Ж.-Ж. Моро [480] и Р. Т. Рокафеллара [220]. Элементы выпуклого анализа вошли в большинство современных курсов функционального анализа, см., например, [55, 89, 96, 168, 219, 245, 261, 388].
(3)	Основы теории выпуклых множеств были заложены в конце XIX века Г. Минковским. Бурное развитие теории выпуклых множеств приходится на два-дцатые и тридцатые годы XX столетия. Итоги начального периода становления теории выпуклых множеств подведены в монографии Т. Боннезена и В. Фенхеля [291]. Различные аспекты теории выпуклых множеств представлены в монографиях А. Д. Александрова [2], Ю. Д. Бураго, В. А. Залгаллера [21], М. Берже [14], Г. Буземана [20], Б. Грюнбаума [374], К. Лейхтвейса [184], Р. Т. Рокафеллара [220], Ф. Валентайна [576], Г. Эглстона [349], Л. Хёрмандера [389], см. также справочник [372]. Концепция Г-множества и Г-оболочек восходит к Т. С. Моц-кину [481]. Инверсную сумму множеств впервые рассмотрел, по всей видимости, Дж. Келли [93].
1.7. Комментарии
75
(4)	Теорему 1.1.9 (2) принято связывать с именем К. Каратеодори [314] (см. [56] и [184]). Конечномерные выпуклые множества обладают рядом замечательных свойств [184, 220]. Приведем формулировки двух известных результатов из этой области.
Теорема Радона. Всякое конечное множество в п-мерном векторном пространстве, содержащее не менее п + 2 точек, можно разбить на два непустых непересекающихся подмножества, выпуклые оболочки которых имеют хотя бы одну общую точку
Из этого факта и компактности замкнутого ограниченного подмножества конечномерного пространства легко следует знаменитая теорема Хелли [378], имеющая много полезных приложений (см., например, книгу Л. Данцера, Б. Грюн-баума и В. Кли [56]). Теорему Хелли можно вывести и из теоремы Каратеодори (см. [184]).
Теорема Хелли. Пусть в n-мерном векторном пространстве задано семейство замкнутых выпуклых множеств, из которых, по крайней мере, одно ограничено. Если каждое n + 1 множество из этого семейства имеет общую точку, то и все множества из этого семейства имеют общую точку.
(5)	Семейство множеств С «^(Х) называют выпуклостью на X, если X е У и пересечение любой совокупности множеств из также принадлежит У. При этом пару (Х,^) именуют пространством выпуклости, а элементы — выпуклыми множествами. Исследование пространств выпуклости получило название аксиоматической теории выпуклости, с некоторыми результатами которой можно познакомиться в книге В. П. Солтана [229]. Пространства выпуклости впервые рассмотрел, по всей видимости, Ф. В. Леви [446]. Ш. Долецки предложил называть пространства выпуклости киртологическими, но этот выразительный термин не получил широкого распространения (см. [345-347]).
(6)	Согласно 1.1.3 (1,2) отображение Hr : М w Нг(М) является оператором замыкания, т. е. удовлетворяет следующим соотношениям: (1) М С Нг(М), (2) L С М Hr(L) С НГ(М), (3) ЯГ(ЯГ(М)) = НГ(М). Всякое отображение • ^(Х) —> <^(Х), удовлетворяющее условиям (1)-(3), называют (абстрактной) выпуклой оболочкой в X. Выпуклая оболочка не удовлетворяет, вообще говоря, условию Jtf\A U В) = U Jtf(B), справедливому для топологического замыкания. В то же время выполнено более слабое условие: Jtf(A U В) = J^(A U J^(B)) = J^(Jtf’(A) U J^(B)). Выпуклости и выпуклые оболочки находятся во взаимно однозначном соответствии: всякая выпуклость & определяет выпуклую оболочку Ж : «^(Х) —> <^(Х) по формуле
:= p{G е # : М С G}.
Наоборот, произвольная выпуклая оболочка Ж задает выпуклость	:= {G С X :
JT(G) = G} (см. {229]).
1.7.2. (1) Соответствия часто скрываются в литературе под названиями «многозначные отображения» или «точечно-множественные отображения». Общее понятие поляры из 1.2.1 и «теорему отделимости» 1.2.1 (4) предложил
76
Глава 1. Выпуклые соответствия и операторы
Г. П. Акилов (см. [1]). Поляра в смысле 1.2.1 унифицирует много различных объектов из разных разделов математики: сечения в упорядоченном множестве, полосы векторной решетки, аннуляторы в модулях, ортогональные дополнения, двойственные конусы и т. п. Понятие поляры относительно фиксированной двойственности ввел Г. Минковский. Подробнее это понятие будет изучено в главе 3.
(2) Изучение выпуклых соответствий, т. е. выпуклых подмножеств в произведении векторных пространств принято связывать с началом 1960-х годов. Интерес к ним в те годы определяли преимущественно исследования моделей экономической динамики, заданных в форме теории выпуклых процессов (Р. Т. Рока-феллар [527]) и суперлинейных точечно-множественных отображений (В. Л. Макаров и Рубинов [194], А. М. Рубинов [225], Б. Н. Пшеничный [212]). Различные аналитические свойства выпуклых соответствий изучены в книгах А. Д. Иоффе и В. М. Тихомирова [79], Ч. Кастена и М. Валадье [315], А. Г. Кусраева и С. С. Кутателадзе [444], А. Г. Кусраева [125], Ж.-Р. Обэна и И. Экланда [204], Ж.-Р. Обэна и Е. Франковской [271], Б. Н. Пшеничного [212]. См. также подробные библиографии, приведенные в этих книгах.
1.7.3. (1) Первоначальные понятия и факты о выпуклых функциях были фиксированы на рубеже XIX и XX веков. Основы современной теории выпуклых функций заложены в книге В. Фенхеля [359]. Детальное изложение теории выпуклых функций в конечномерном пространстве дается в монографии Р. Т. Рокафеллара [220]. Сводное изложение важнейших свойств выпуклых функций в произвольных топологических векторных пространствах впервые было дано, по-видимому, в лекциях Ж.-Ж. Моро [480], который внес значительный вклад в стат новление этой теории. Современная теория выпуклых функций и ее приложения хорошо представлены в монографической литературе. Среди наиболее популярных книг мы укажем только [4, 78, 190, 249, 311, 365, 388].
(2) Концепция выпуклого оператора возникла наряду с общими представлениями теории упорядоченных векторных пространств, которые разрабатывались с начала тридцатых годов прошлого века в трудах Г. Биркгофа, Л. В. Канторовича, М. Г. Крейна, X. Накано, Ф. Рисса, Г. Фрейденталя и др. Впервые сублинейный оператор возник в одной из ранних работ Л. В. Канторовича [82] по теории К-пространств в связи с обобщением теоремы Хана-Банаха, см. также [83-86]. Различные операции над выпуклыми операторами, представленные в 1.3, соответствуют в основном аналогичным операциям над функциями, рассмотренным в первой главе книги Р. Т. Рокафеллара [220].
(3) Интенсивное изучение выпуклых и сублинейных операторов датируется началом 1970-х годов. Итоги этого периода подведены в обзорах А. М. Рубинова [224] и С. С. Кутателадзе [154]. Первое монографическое изложение локальной теории выпуклых операторов дано в книге Г. П. Акилова и С. С. Кутателадзе [1].
1.7.4. (1) Проблема мажорированного продолжения линейных операторов тесно связана с теоремой Хана-Банаха (об истории этого вопроса см. [386]). Теорема 1.4.13(1) в такой форме открыта в 1935 г. Л. В. Канторовичем и воспринималась первое время как обобщение, служащее неясным целям. Теперь
1.7. Комментарии
77
неразрывность связей выпуклого анализа и теории упорядоченных векторных пространств стала трюизмом. В случае F = R этот результат называют иногда теоремой Крейна-Рутмана (см. [98, 168]) в связи с работой [102]. Теорема 1.4.15 также установлена Л. В. Канторовичем [85]. Правило вынесения линейного оператора справа из-под знака д получил В. Л. Левин [179]. Дальнейшее развитие исчисления субдифференциалов выпуклых операторов будет освещено в следующих главах.
(2)	Эквивалентность свойства мажорированного продолжения и порядковой полноты для предупорядоченного векторного пространства (теорема 1.4.13(2)) была установлена впервые в работах В. Боннайса и Р. Сильвермана [292] и Т.-О. Ту [570]. Изящное доказательство, представленное в 1.4.10, принадлежит А. Д. Иоффе [394]. В основе этого доказательства лежит концепция веера (теперь в честь автора принято говорить о веерах Иоффе). Концепция веера Иоффе имеет и другие интересные применения. Прекрасный, но все же неполный обзор различных обобщений теоремы Хана-Банаха дан в статье Г. Баскеса [312], см. также [482].
(3)	История субдифференциальной формулировки теорем Хана-Банаха-Кан-торовича отражена в книге Г. П. Акилова и С. С. Кутателадзе [1], а также в обзорах С. С. Кутателадзе [154], А. М. Рубинова [224], В. М. Тихомирова [233]. Пункты 1.4.16-1.4.19 представляют собой малый фрагмент изометрической теории банаховых пространств, с которой можно ознакомиться по монографиям Э. Лэйси [445] и Й. Линденштраусса и Л. Цафрири [448]. Необходимые сведения из теории положительных операторов см. в [30, 130, 258, 132].
(4)	Понятие веера Иоффе имеет много приложений в негладком анализе. В частности, вееры играют такую же роль при локальной аппроксимации негладких отображений, какая принадлежит линейным операторам в классическом дифференциальном исчислении, см. [237, 391, 395]. В качестве иллюстрации сформулируем негладкий вариант теоремы о неявной функции [391].
Пусть X и Y — банаховы пространства. Четный веер из X в Y называют регулярным, если лУ(ж) является непустым компактным множеством для любых х G X и
inf{||y|| : у &	||х|| > 1} > 0.
В том случае, когда существует положительное число к такое, что
||л/(х)|| := sup{||i/|| : у € л/(х)} А:||х|| (х 6 X),
веер называют ограниченным.
Возьмем отображение f : U —> У, где U — открытое множество в X и xq € U. Ограниченный веер зУ называют преддифференциалом функции f в точке Xq и пишут -D/(#o) •= если
Jim Щinf {ll/(« + h) - /(х) - 3/Ц : у € л/(х)} = 0.
78
Глава 1. Выпуклые соответствия и операторы
Определим функцию f°(x0)(h,y') : X х Y' —> R формулой
/°(х0)(Л,у') := inf sup (+ th) - /(я?),у') s>0 ||x+tfc-xo||<e I *
Если функция f липшицева в окрестности а?о, то У°(хо) ~ бисублинейная функция. Согласно предложению 1.5.8 (4) существует единственный веер такой, что s(^) = /°(ж0). Можно доказать, что Df(x$) = Важнейшие факты классического дифференциального исчисления сохраняются и для предцифференциалов локально липшицевых отображений.
Теорема. Предположим, что отображение f :U —> У является липшицевым в окрестности точки х0 и имеет регулярный преддифференциал в точке х0. Тогда существуют окрестность V точки f (xq) и липшицево отображение g : V X такие, что g о f(x) = х для всех х G X, ||ж - х$|| < е.
(5)	В конечномерном случае различные варианты теоремы об обратной функции и теоремы о неявной функции были получены Ф. Кларком [319], Г. Г. Магарил-Ильяевым [191], Б. Пурсё [514] и Дж. Варгой [27, 585].
1.7.5. (1) Конструкцию пространств выпуклых объектов связывают с известным построением Дж. фон Неймана и Г. Биркгофа из теории упорядоченных алгебраических систем (см. [169, 241]). Честь первого изучения свойств полугруппы выпуклых компактов принадлежит Г. Минковскому.
(2) К первым работам, существенно использовавшим концепцию пространства множеств, следует отнести классический цикл исследований А. Д. Александрова по теории смешанных объемов. Дальнейшие содержательные продвижения в концепции пространства выпуклых тел в локально выпуклых пространствах принадлежат Л. Хёрмандеру, А. Г. Пинскеру и др. (см. [21, 169, 389]).
(3) Операторно-выпуклые множества введены в работе В. Л. Левина [179].
1.7	.6 (1) Векторные пространства, нормированные элементами векторной решетки, были введены Л. В. Канторовичем в 1936 г. [84]. Несколько раньше Г. Ку-репа [438] рассматривал «espaces pseudodistancies», т. е. пространства с метрикой, принимающей значения из упорядоченного векторного пространства. Первые применения векторных норм и метрик были связаны с методом последовательных приближений в численном анализе, см. [83, 90, 417, 428, 544]. В дальнейшем появились и другие применения векторных норм, см., например, [1, 125, 204].
(2)	Стоит подчеркнуть, что именно в статье Л. В. Канторовича [83] впервые появилась необычная аксиома разложимости для векторной нормы (см. 1.6.1 (4)). В последующих исследованиях других авторов эта аксиома часто опускалась как несущественная. Глубокий смысл аксиомы 1.6.1 (4) был обнаружен в связи с булевозначным анализом (см. [125, 126]).
(3)	Связь между разложимостью векторной нормы и существованием полной булевой алгебры проекторов в решеточно нормированном пространстве была обнаружена А. Г. Кусраевым [125, 126]. Пространства с фиксированной булевой алгеброй линейных проекторов и координатным порядком (так называемые ко
1.7. Комментарии
79
ординатные пространства) изучались Дж. Купером [324, 325]. Утверждение, содержащееся в 1.6.7 (1,3), было получено в [95].
(4)	Понятие дискретного элемента играет важную роль в структурной теории векторных решеток, см. [30, 90, 466]. Дискретные функционалы хорошо изучены и имеют довольно простую структуру [406]. Как показал Дж. Креншо в [327], при некоторых не очень обременительных предположениях дискретный элемент в решетке порядково ограниченных операторов может быть восстановлен по дискретному функционалу на области определения рассматриваемого оператора и дискретному элементу в области его значений. Тем самым дискретные операторы составляют весьма бедный класс. В то же время имеется ряд интересных результатов, в которых важная роль принадлежит понятию модульно-дискретного элемента (см., например, [125, 150, 160, 243, 288, 349]). Это обстоятельство вызывает интерес к изучению родственных понятий модульной дискретности, модульной атомичности и модульной неразложимости в решеточно нормированных пространствах. Понятие метрической n-разложимости из 1.6.9 и теорема 1.6.11 принадлежат В. А. Раднаеву [215, 518].
(5)	Критерий полноты из 1.6.5 был установлен А. Г. Кусраевым в [126] при том дополнительном предположении, что нормирующая решетка Е порядково полна. В [125] такой критерий был доказан в более общей ситуации пространства с разложимой векторной мультинормой. Предположение о порядковой полноте Е было снято в работе Е. В. Колесникова, А. Г. Кусраева, С. А. Малюгина [95]. Для архимедовой векторной решетки (случай, когда X = Е) указанный факт был установлен ранее А. И. Векслером и В. А. Гейлером [29].
(6)	Понятие максимального расширения произвольного /f-пространства было введено и изучено А. Г. Пинскером, см. [295]. Он же установил, в частности, что всякое A-пространство имеет единственное с точностью до изоморфизма максимальное расширение. Утверждение 1.6.6 (1), обобщающее теорему Пинскера на случай решеточно нормированных пространств, получено, в основном, в [125]. Относительно теоремы 1.6.6 (2) о бо-пополнении решеточно нормированных пространств см. [125, 147]. Соотношение X = оХ из 1.6.6 (3) принадлежит А. Е. Гутману (см. [129]).
К материалу главы 1 примыкают также монографии [30, 55, 98, 99, 125, 169, 179, 190, 202, 233, 256, 258, 262, 277, 295, 361, 388, 406, 415, 589].
Глава 2
Геометрия субдифференциалов
Между выпуклыми объектами существуют многие связи и взаимозависимости, делающие их удобным аппаратом исследования разнообразных проблем. Одной из наиболее общих форм таких соотношений является двойственность Минковского. Понятно, что подробно эту двойственность достаточно изучить для какого-нибудь класса рассматриваемых объектов — например, для сублинейных операторов. На основе информации об их опорных множествах сравнительно легко получить описание субдифференциалов произвольных выпуклых операторов, найти соответствующие преобразования Юнга-Фенхеля, исследовать связанные с ними экстремальные задачи и т. п.
Итак, основная тема текущей главы — анализ классической двойственности Минковского, т. е. отображения, сопоставляющего всюду определенному сублинейному оператору его опорное множество или, что то же самое, субдифференциал (в нуле). Возникающие при этом вопросы по форме относятся к различным разделам математики. В самом деле, необходимо выяснить, каков субдифференциал суперпозиции операторов, т. е. найти аналоги «цепного правила» для вычисления производных. Соответствующие задачи обычно относят к анализу. Возникает также потребность описания алгебраических систем, в которых справедливы законы субдифференциального исчисления. Подобные постановки входят в компетенцию алгебры. Полезно выяснить, каково устройство субдифференциала с точки зрения классической теории, т. е. изучить способы его восстановления по крайним точкам. Последний вопрос лежит в традиционной области интересов геометрии.
Чрезвычайно важно подчеркнуть, что специфика задач субдифференциального исчисления состоит в их исключительной насыщенности синтетическими постановками и разнообразием аппарата решения, т. е. чертами, характерными для функционального анализа в целом. При этом основополагающую роль все же играют представления о геометрическом строении субдифференциала. Возникающие в этой связи задачи и, прежде всего, проблема описания субдифференциала во внутренних терминах, не использующих оператора, определяемого этим субдифференциалом, составляют центр дальнейшего изложения.
2.1.	Метод канонического оператора
В классе сублинейных операторов можно выделить сравнительно просто устроенные канонические операторы, причем так, что с каждым К-простран-ством и с каждой мощностью связывается один единственный канонический оператор. Всякий другой всюду определенный сублинейный оператор получается суперпозицией канонического оператора с линейным. Таким образом, появля
2.1. Метод канонического оператора
81
ется возможность сведения общих вопросов теории сублинейных операторов к анализу канонического оператора и линейной замены переменной в нем. В этом состоит в общих чертах метод канонического оператора. Перейдем к точным формулировкам.
2.1.1.	Начнем с двух простых вспомогательных утверждений. Пусть X — векторное пространство, а Е — упорядоченное векторное пространство.
(1)	Для любого сублинейного оператора Р : X —> Е имеют место неравенства:
Р(х)-Р(у) Р(х-у),
\Р(х) - Р(у)\ Р(х - г/) V Р(г/ - ж), -Р(х)^Р(-я) (меД
<3 В самом деле, субаддитивность оператора Р влечет Р(х) = Р((х — у) + у) < < Р(х — у) + Р(г/). Следовательно, верно неравенство Р(х) — Р(у) < Р(х — у). Оценка для модуля разности Р(х) — Р(у) вытекает из полученного неравенства и из аналогичного неравенства Р(у) — Р(х) < Р(у — х). Кроме того, положив в последнем неравенстве у = 0, мы получим —Р(х) < Р(— х). О
Пусть X и Y — предупорядоченные векторные пространства. Оператор Р : X —> Е называют возрастающим или изотопным, если для любых xi, х% € X из #1 < Х2 следует P(xi) Р(жг). Напомним, что возрастающий линейный оператор называют также положительным. Положительность линейного оператора Т равносильна включению Т(Х+) С У+, где Z+ := {z € Z : z > 0} — положительный конус предупорядоченного векторного пространства Z. Совокупность всех положительных линейных операторов из X в У, как и выше, мы будем обозначать символом £+(Х, У).
(2)	Сублинейный оператор Р из предупорядоченного векторного пространства X в К-пространство Е является возрастающим в том и только в том случае, если его опорное множество дР состоит из положительных операторов, т. е. если дР С L+(X,Y).
<1 Если Р возрастает и Г € дР, то для любого х € Х+ будет —Тх < < Р(-ж)	0. Следовательно, Т G L+(X,E). Наоборот, если дР С L+(X, Е)
и xi < Х2, то ввиду 1.4.14 (2)
Р(#1) = sup{Txi : Т € дР} < sup{Tx2 : Т G дР} = Р(а?2),
что и требовалось. 1>
2.1.2.	Рассмотрим векторную решетку Е и произвольное непустое множество 21. Обозначим символом Zqo(21, Е) совокупность всех (порядково) ограниченных отображений из 21 в Е. Точнее говоря, множество /оо (21, Е), содержащееся в Е*, составлено из тех и только тех отображений f : 21 —> Е, для которых множество значений {/(а) : а € 21} порядково ограничено в Е. Множество /оо(21, Е) снабжается поточечными операциями сложения, умножения на скаляры и отно
82
Глава 2. Геометрия субдифференциалов
шением порядка:
(/ + Р)(«) := /(«) + д(а), (Xf)(a) := А/(а) (а G й), f 9 ~ (Va € й) /(а) д(а).
Если Е — это Jf-пространство, то в Zoo(2l, Е) можно ввести Е-значную норму по формуле
|s| := sup{|a;(a)| : а € 21} (х е /оо(21, Е)).
Кроме того, Zoo (21, Е) станет модулем над Orth(E), если мы будем считать, что для р е Orth(E) и f € Zoo(2l, Е) выполнено pf := р о /.
(1)	Если Е — это К-пространство, то /оо(21, Е) также К-пространство, причем точные границы произвольного непустого порядково ограниченного семейства (ft) в	вычисляются поточечно:
(sup Д)(а) := sup{/€(a): £ 6 Н},
(inf/e)(Q) :=inf{/€(a) :£€=}.
Более того, Е) — пространство Банаха-Канторовича.
<1 Первая часть утверждения проверяется непосредственно. Ясно также, что 1р/1 = 1р11/| ДОЯ р € Orth(E) и f G Zoq(21,E). Оставшаяся для проверки Ьо-пол-нота пространства Zoo (21, Е) легко выводится из критерия 1.6.5. t>
Оператор ба,к из Zqo(21, Е) в Е, действующий по правилу
е : / sup{/(a) : a G 21} (/ € Z^ (21, E)),
называют каноническим сублинейным оператором или просто каноническим оператором (относительно множества 21 и пространства Е). Если ясно, о каком Е-пространстве идет речь, то вместо ба,# часто пишут ба- Символ еп используют, когда мощность множества 21 равна п. Сам оператор еп при этом называют конечнопорожденным.
(2)	Канонический оператор возрастает и сублинеен. Конечнопорожденный канонический оператор порядково непрерывен.
<1 Очевидно. О
2.1.3.	Рассмотрим некоторое множество 21 линейных операторов, действующих из векторного пространства X в Е-пространство Е. Напомним (см. 1.5.3), что 21 считают слабо порядково ограниченным, если для всякого х € X множество {ax : а € 21} (порядково) ограничено. Обозначим символом (21)я: отображение, сопоставляющее каждому а € 21 элемент ах € Е, т. е. (21)ж : а ах. Если 21 слабо порядково ограничено, то (21)я: 6 Zoo(2l, Е) при каждом фиксированном х е X. Следовательно, возникает линейный оператор (21) : X —> (21, Е), действующий по правилу: (21) : х (21)я. С множеством 21 можно связать еще один оператор
Р* : х sup{arr : a G 21} (х € X).
2.1. Метод канонического оператора
83
Оператор Ра сублинеен. Опорное множество дР* в соответствии с 1.5.7 обозначают сор(21) и называют опорной оболочкой 21. Из введенных определений непосредственно вытекает следующий факт.
Если Р — такой сублинейный оператор, что дР = сор(21), то имеет место представление Р = ва о (21}.
Ввиду 1.4.14(2) дР = сор(ЭР). Следовательно, всякий сублинейный оператор Р : X Е допускает представление в указанном виде при 21 := дР. Благодаря этому канонический сублинейный оператор оказывается весьма полезным при решении разнообразных задач, связанных с сублинейными операторами и, в частности, при подсчете опорных множеств и опорных оболочек.
2.1.4.	Пусть Да := Дал ~~ вложение Е в Zoo (21, Е), сопоставляющее каждому элементу е G Е постоянное отображение a w е (а G 21), так что (Дав) (а) = е для всех а е 21.
(1)	Справедливы соотношения
£*Л ° Да,Е = 7е, Д$1,Е ° £21,е(/) > f (/ € /оо(й, Р)),
где 1е — тождественное отображение Е на себя.
<1 Очевидно. t>
(2)	Пусть F — еще одно К-пространство и Р : Е —> F — возрастающий сублинейный оператор. Тогда
д(Рое^Е) = {Те L+(/«,(*,£), F): То Да € дР} .
<1 Оператор Р о вал возрастает, поэтому согласно 2.1.1 (2) опорное множество д(Р о вал) состоит из положительных операторов. С другой стороны, если Т € 9(Ро£ал) и У	то с учетом уже отмеченного в (1) равенства мы
получим
Т о Даж = Ту Р о = (Р о ва) Д&я = Рх,
так что Т о Да € дР.
Наоборот, допустим, что Т : Zoo(21, Р) —► F — положительный оператор и Т о Да,Е £ ЭР. Тогда для f е (21, Р) имеем
Т/^(ТоДа)(еа(/))^Роеа(/),
т. е. Т G д(Р о вал), что и требовалось. О
(3)	Для опорного множества канонического сублинейного оператора справедливо следующее представление:
<Эвал = {<* 6 L+ (Zoo(2l, Е), Е) : ао Дал = 1е} •
<1 Действительно, нужно применить (2), взяв в качестве Р тождественный оператор 1е- >
84
Глава 2. Геометрия субдифференциалов
(4)	Для любого слабо порядково ограниченного множества 21 линейных операторов выполнено:
сор(21) = де% о (21).
< В самом деле, на основании 1.4.14 (4) и (3):
сор(21) = дР* = д (ви ° (21)) = де* о (21). о
2.1.5.	Пусть Е — векторная решетка, a F — это /f-пространство. Возьмем Si,..., Sn G L(E, F) и обозначим символом (Si,..., Sn) линейный оператор (ei,..., еп) SiCi + ... + Snen, действующий из Еп в F.
(1)	Пусть Р : Е —» F — возрастающий сублинейный оператор. Для произвольных ei,... ,еп € Е положим Q(ex,... ,en) := Р(ех V ... V еп). Тогда Q : Еп —> F также сублинейный оператор, причем справедливо представление:
{n	1
(Sb...,Sn): S1,...,Sn<=L+(E,F),
fc=l	J
<1 Отождествим 1Цп,Е) с En. Тогда оператор & e L+(En,F) имеет представление — (Si,..., Sn), где Si,..., Sn G L+(E, F). Вхождение У о Дп G дР означает, что Si 4-... + Sn G дР. Следовательно, для АГ-пространства E требуемое вытекает из 2.1.4 (2). Однако в случае конечнопорожденного канонического оператора рассуждения из 2.1.4 (2) остаются в силе и для векторной решетки Е, так как порядковая полнота нужна только для корректного определения канонического оператора. О
(2)	Пусть S : Е —> F — положительный оператор, а сублинейный оператор Q : Еп —> F определен формулой
Q(ei,...,en) := S(ex V ...V еп) (ех,..., en G Е).
Тогда
0Q = hs1,...,Sn): Si,...,Sn G L+(E,F), £sfc = SV.
<	k=l J
< Непосредственно следует из (1), так как dS = {S}. >
Для дальнейших нужд нам потребуются некоторые сведения об ортоморфизмах (см. Приложение 2).
Рассмотрим /f-пространство Е. Мультипликатором в Е мы будем называть такой ортоморфизм а : Е —> Е, что 0 < ае е для всех е 6 Е+, т. е. в другой записи 0 < а < 1е- Совокупность всех мультипликаторов в Е обозначается М(Е), так что М(Е} = [0, 1е] — порядковый интервал в пространстве регулярных операторов Lr(E). Названные операторы являются ортоморфизмами и обладают всеми свойствами последних.
2.1. Метод канонического оператора	85
(3)	Опорное множество конечнопорожденного канонического сублинейного оператора еп допускает следующее представление:
{п	"
(ai,...,an) : ai,...,an € М(Е), ^ак = 1Е ► •
fc=i
<1 Это частный случай формулы (2) при Т — Те- >
Рассмотрим следующие сублинейные операторы из Е в Е: модуль | • | : е |е|, положительная часть (•)+ : е i-> и отрицательная часть (•)” : е е".
(4)	Имеют место формулы:
эт(|.|) = [-т,т], ат((.)+) = [о,т], ат((.)") = [-т,о], 0(|-|) = [-Ze,Ze], Э((-)+) = [0,Ze], <?(()-) = [-Ze,0].
<] Эти формулы содержатся в (2) и (3) как частные случаи. (Истинность легко проверить и непосредственно.) >
2.1.6.	Обратимся к вопросу вычисления опорных множеств составных сублинейных операторов.
(1)	Теорема. Пусть Р\ : X —> Е — сублинейный оператор и Р2 : Е —> F — возрастающий сублинейный оператор. Тогда
д(Р2 о Р1) = {То : т е L+(U(9P1,Е),F), Т о ДаР1 е ЭР2}.
При этом если dPi = cop(2li) и дР2 = сор(212), то
д(Р2 о Pl) = {Т О (Й!) : Т е £+(М*1, Е), F), (За € де**) To^t=ao (Я2)} .
< Согласно 2.1.3, справедливо представление Р2 0 Pi = Р2 0 £211 0 (211)- Привлекая 2.1.4 (2) и 1.4.14(4), последовательно получаем
а(Р2 О Л) = д(Р2 О <21х>) = д(Р2 оеЯ1) о (Six) =
= {T€L+(/oo(2li,^),P): ТоДа1 €dP2}o(5lx) =
= {To(2tx) : Т>0, (3a G де*2)Т о = а о (Я2)} ,
что и требовалось установить. 1>
(2)	Теорема. Для любого проектора тг на какую-либо полосу в К-прост-ранстве Е (т. е. тг € ty(E)) имеет место представление
d(P2oPi)= (J (<)(Го7гоР1)+а(То7г<'оР1)),
тедР2
где 7rd := Те — тг — проектор, дополнительный к тг.
< В силу теоремы (1) будет
a(P2oPx) = {So(aPx): SeL+(/oo(aPi,E),F), SoAaP1 edP2}.
86 Глава 2. Геометрия субдифференциалов
Если Eq := тг(Е), то 1<х)(дР1, Eq) служит полосой в /^-пространстве ^(дР^Е). Пусть П — проектор на эту полосу. Как несложно проверить, По Д^ = Адрг 07г. Предположим, что В о € дР2 для некоторого В е L^fJ^dPi, Е), F) и положим Т := В о &эрг. Тогда
Т О 7Г — В о Д^ о 7Г = В о П о Д^, То И = BondAaP1.
Далее, по теореме (1), выполнены соотношения
S о П о {dPi) е д(Т о 7г о Рх), Sondo{dP1) ed(ToirdoPi)
и, кроме того, S о (dPi) = (S о П + S о nd) о (dPi). Из всего сказанного следует, ЧТО
sо{dPi) edtToKoP^ + dlTo-i^oPi).
Иначе говоря, включение С установлено. Противоположное включение очевидно. О
(3)	Если Pi : X —> Е — сублинейный оператор, а Р2 : Е —> F — возрастающий сублинейный оператор, то
д(р2ор1)= J dtTopj.
теэр2
<1 Следует из (2) при тг = /р. 1>
2.1.7.	Продолжим извлечение следствий из нашего основного результата — теоремы 2.1.6 (1).
(1)	Для произвольных сублинейных операторов
Рх,...,Рп:Х-»Е
справедливо представление
d(Pi V... VPn) = |J (a^o dPi +...+ anodPn).
Л1+-..+<*«=/£;
< Определим оператор Р : X —> Еп формулой:
Р(х):=(Р1(х),...,Рп(х)) (хеХ).
Ясно, что Р — сублинейный оператор и £п о Р = Рг V... V Рп. Заметим далее, что
дР = дР1х...хдРп:={(Т1.......Тп):ТкедРк (k := 1,...,п)}.
2.1. Метод канонического оператора
87
Отсюда последовательным применением 2.1.6 (2) и 2.1.5 (3) получаем
0(P1V...VPn) = U (d(a1oP1) + ... + d(anoPn)).
Л1,...,а„€Л/(Е)
Для завершения доказательства следует сослаться на 1.4.14(5). О
(2)	Пусть Е — векторная решетка, a F ~ произвольное К-пространство. Для произвольных сублинейных операторов Pi,... ,Pn : X Е и положительного оператора S : Е F справедливо представление
д(8(Р!У...урп))= U (a(s1op1) + ... + <j(snopn)).
Si..5neL+(E,F)
Si +...+Sn=S
<1 Определим оператор P так же, как и в (1), a Q — как в 2.1.5 (2). Тогда Q о Р = S(Pi V ... V Рп). Остается применить 2.1.6 (2) и 2.1.5 (2). >
Идеальный центр 3?(Е) пространства Е определяют соотношением
^(Е) := {S G Er(E) : (3n G N)|S| п1Е}-
Ясно, что ^(Е) — кольцо по отношению к обычной суперпозиции операторов (см. Приложение 2).
(3)	Пусть Т G 06а иа~ мультипликатор в Е. Тогда для каждого f G loo (21, Е) будет Taf — otTf, т. е. Т — гомоморфизм модулей /оо(21,Е) и Е, где модули рассматриваются над кольцом 2?(Е).
Пусть тг произвольный порядковый проектор в Е. Для всех f G /оо (21, Е) справедливо
-7Г О 62l(-/) Т7Г/ 62((7Г/) = ^ ° ^21 (/)•
Таким образом, для дополнительного проектора 7rd := Ie — я будет 7rd о Т о тг = 0. Значит, То7г = 7гоТ о я*. Кроме того, тг о Т о 7rd = 0. Окончательно Т о тг = = 7гоТо7г+тгоТо7г^ = тгоТ. Из последнего соотношения видно, что Т коммутирует с конечнозначными элементами, т. е. с элементами вида а := tiiri +.. .+$пЯп> где 7Г1,..., 7ГП — порядковые проекторы и ti,..., tn — действительные числа. В самом деле,
Taf = Т ( £ tkirkf ) = £ tkirkTf = aTf.
U=i / fc=i
Для произвольного мультипликатора а и числа е > 0 найдется конечнозначный элемент р£ такой, что |ре — а| С с!е- Отсюда, учитывая положительность оператора Т, мы выводим
\T(af) - aTf\ = ]Т(а - pe)f + T(pef) - aTf\ С
T(|(a - p£)/|) + he - a||T/| < 7W|) + eT(|/|) = 2£T(|/|).
Осталось e устремить к нулю. >
88
Глава 2. Геометрия субдифференциалов
2.1.8.	Пусть X — упорядоченное векторное пространство, a F — некоторое Х-пространство. Положительный оператор Т : X —> F именуют дискретным, если [0,Т] = [0,If] оТ. Здесь [О, Г] := {S € L~(X, F) : 0 S Т} и [0,/f] := {a G L~(F) : 0 < а If} — порядковые интервалы в L~{X,F) и L~(F) соответственно. Точнее было бы говорить о модульно-дискретных операторах, так как это определение использует модульную структуру пространства F над кольцом Orth(F). Тем не менее, допуская небольшую вольность, мы применяем термин дискретный оператор, не путая его с понятием дискретного элемента из П.1.6 (4). Оператор Т : X —> F мы назовем слабым решеточным гомоморфизмом, если для любых х,у € Е выполнено
TxVTy = inf {Ти: иеХ, и^х, и^у].
Как видно, это условие равносильно каждому из следующих:
Тх f\Ty = sup{Tu : и G X, и < х, и < у} {х,у Е X),
\Тх\ = inf{Ти : и € X, и х, и -ж} (х G X), (Тх)+ — inf{Ти : и е X, и х, и 0} (х € X).
Нулевой оператор мы будем считать слабым решеточным гомоморфизмом. Слабый решеточный гомоморфизм является положительным оператором. Если X — векторная решетка, то слабый решеточный гомоморфизм — в точности решеточный гомоморфизм. В следующем пункте будет показано, что классы дискретных операторов и слабых решеточных гомоморфизмов совпадают.
Положительный конус Х+ упорядоченного векторного пространства X именуют воспроизводящим, если X = Х+ — Х+. Положительный конус Х+ будет воспроизводящим в том и только в том случае, если упорядоченное векторное пространство X направленно или фильтровано вверх, т. е. для любых х,у G X существует такой и € X, что и х и и у.
(1)	Пусть X — упорядоченное векторное пространство и Т — дискретный оператор из X в F. Тогда либо F = {0}, либо Х+ — воспроизводящий конус.
< Пусть X := Х+ — Х+ и жо G X \ X. Пусть f — линейный функционал на X такой, что ker(/) D X и /(жо) = 1. Обозначим через f 0 е оператор х f(x)e (х G X). Ясно, что Т+/0Тжо € [0, Т], а потому Txq+Txq = &Txq для некоторого q 6 [0, 1е]- Отсюда следует Txq = 0. Итак, мы получаем, что при X X будет Т = 0. Если F ± {0} и е Е F\{0}, то T+f®e € [0, Т] и, стало быть, мы приходим к противоречивому равенству f — 0. t>
(2)	Пусть Т : X —» F — дискретный оператор или слабый решеточный гомоморфизм. Тогда либо конус Х+ воспроизводящий, либо оператор Т нулевой.
<1 Утверждение о дискретном операторе следует из (1). Если Т — ненулевой слабый решеточный гомоморфизм и х X4* — X4", то в X нет таких элементов и, чтобы и ±ж, поэтому множество {Ти : и ±ж} пусто и не может иметь \Тх\ в качестве инфимума. >
2.1. Метод канонического оператора
89
2.1.9.	(1) Теорема. Пусть X — векторная решетка, а Е — некоторое К-про-странство. Положительный оператор Т : X —> Е является решеточным гомоморфизмом тогда и только тогда, когда для любого S : X —* Е, удовлетворяющего О < S < Т, существует ортоморфизм р € Orth(E) такой, что 0 р 1е и S = р оТ. Другими словами, Т — решеточный гомоморфизм тогда и только тогда, когда Т — дискретный оператор.
<1 Рассмотрим сублинейные операторы Pi, Р2 : X2 —» Е, где
Р1(Ж1,Ж2) := Т(Ж1 V Х2) (xi,X2 G X),
:= Txi V Тх2 {хх,Х2 € X).
Как видно, Т будет решеточным гомоморфизмом в том и только в том случае, если Pi = Р2. Согласно 1.4.14(2) последнее равносильно равенству dP\ = &Р2. Из 2.1.5 (2) мы выводим
дРх = {(х1,х2) Т1Х1 + Т2х2 .Т\,Т2е L+(X,E), Ti + Т2 = Т}.
Остается заметить, что согласно 2.1.7 (1)
дР2 = {(#1,^2) aiTxi + ot2Tx2 • ai,0L2 € М(Е), ai 4- ot2 — Ie}*
Отсюда легко вытекает требуемое. О
Докажем теперь несколько более общий факт другим способом.
(2) Пусть X — упорядоченное векторное пространство, а F — некоторое К-пространство. Положительный оператор Т : X —> F дискретен в том и только в том случае, когда Т является слабым решеточным гомоморфизмом.
< Если Т — нулевой оператор, то доказывать нечего. Если же Т / 0, то Х+ — воспроизводящий конус согласно 2.1.8 (2).
: Пусть Т — слабый решеточный гомоморфизм, a S : X —> F удовлетворяет неравенствам 0 < S < Т. Возьмем х G ker(T) и такой u G X, что и х, и ~х. Тогда ±Sx Su Ти, что после перехода к инфимуму по и дает |5ж| < \Тх\ = 0. Как видно, ker(T) С ker(S), поэтому существует линейный оператор р0 : Ро —* Р, где Fq := Т(Х), такой, что S = роТ. Из последнего равенства видно, что ро положителен. Если f = Тх для некоторого х € X, то pv(f) С Ти при и х, значит, ро(/) inf{Ти : и € Х+,и > х} = /+. На основании 1.4.15 (2) ро допускает продолжение до линейного оператора р : F —> F, удовлетворяющего оценке р(/)	(/ € Р). Отсюда вытекают неравенства 0 р 1р. Кроме того,
S = р о Т, так как р о Т = ро о Т.
—>: Предположим, что [0,Т] = [0,/р] оТ. Рассмотрим сублинейный оператор р : X —* F, определяемый формулой
р(х) := ini{Tu : и € Х+, и^ х} (х € X).
Нужно доказать, что р(х) = (Тх}+ ддя всех х 6 X. При этом достаточно обосновать неравенство р(х) < (Тх)+, так как противоположное неравенство очевидно. Для фиксированного и € X в соответствии с 1.4.14(1) подберем такой оператор
90
Глава 2. Геометрия субдифференциалов
S G L(X, F), что Su = р(и) и Sx < р(х) (хЕХ). Из последнего неравенства при х < 0 мы получим Sx < р(х) = 0, а при ж > 0 мы выводим Sx р(х) = Тх. Итак, 0 < S < Т, поэтому в силу нашего предположения будет S = роТ для некоторого ортоморфизма р G Orth(F)+. Учитывая сказанное относительно р и S, заключаем
р(и) = Su = р(Ти) р((Ти)+)	(Ти)+,
что и требовалось. t>
2.1.10.	Теорема Канторовича для дискретного оператора. Пусть X — упорядоченное векторное пространство, Е — некоторое К-пространство. Пусть, далее, Xq — массивное подпространство в X и Tq G L+(Xq,E) — дискретный оператор на Xq. Тогда существует дискретное продолжение Т оператора Tq на пространство X. Эквивалентным образом: если Tq — слабый решеточный гомоморфизм, то существует его продолжение Т на все X, являющееся слабым решеточным гомоморфизмом.
<] Проведем для разнообразия доказательство, следуя классическому образцу.
Пусть сначала X = {жо + txi : #о € Xq, t G R} для некоторого xi G X \ Xq. Положим Tx\ := inf{To^o : £o € Xo, ^o} и Tq := T f Xq. Ясно, что T — положительный оператор (в силу массивности Хо). Если Т' € [0, Т], то Tf [ Xq = = aT [ Хо для всех жо G Хо и некоторого мультипликатора а G М(Е) по условию, т. е. T'xq = aTxQ. Поскольку выполнено
T'xi = ш£{Т'жо : xq G Хо, Х\ < жо} = аТх\*,
(Т - Т')ж1 = inf{(T - T')xq : xq е Xq, х\ жо} = (Ге - а) ° Тх\, то Г — а оТ.
Пусть теперь X = |Jf Xt, где (Xt) — фильтрованное вверх (по включению) семейство подпространств, содержащих Хо- Пусть, далее, положительные операторы Tt : Xt —> Е дискретны и Т3 есть ограничение Tt на Х3, как только Х3 С Xt. Рассмотрим продолжение Т оператора То на X, определяемое соотношениями Тж := Ttx (х G Xt). Введем также сублинейные операторы Р, Pt : X —> Е формулами
Р(ж) := ш£{Тж': ж' G X, 0 ж', ж ж'},
Pt(x) := ш£{Тж' : ж' G Xt, 0 ж', ж ж'}.
В силу предложения (1) Р и Pt всюду определены и, кроме того, dP=[0,T], dPt = [0,Tt\.
Из-за дискретности оператора Т выполнено (Т4ж)+ = Pt(ж) для таких ж и t, что ж G Xt. Отсюда мы выводим, что (Тж)+ = (Ttx)+ = Pt(x) Р(х) (Тх)+-Следовательно, (Тж)+ = Р(ж) для всех ж G X. Переходя к субдифференциалам, получаем [0, 1е] °Т = д(х (Тж)+) = дР = [0, Т], т. е. Т — дискретный оператор. По построению Т Г Хо = Tq. >
2.1.11.	Уже из 2.1.4, 2.1.6 и 2.1.7 видно, насколько важно иметь детальное аналитическое описание опорного множества канонического оператора В текущем разделе мы приводим результаты об интегральном представлении этих
2.1. Метод канонического оператора
91
опорных множеств в различных ситуациях. Рассмотрим сначала скалярный случай Е := R.
Условимся писать /оо(21) вместо /оо(21,]К) и, как обычно, мы будем использовать символ га вместо гад. Пусть <^(21) — булева алгебра всех подмножеств множества 21. Пусть, далее, X# := L(X,R) и Ьа(21) — множество всех ограниченных конечно аддитивных мер // : «^(21) R. Меру // называют вероятностной, если р(А) > О (А С 21) и //(21) = 1. Хорошо известно, что пространство /оо(21)^ сопряженное к /оо(21), линейно изометрично и решеточно изоморфно пространству Ьа(21). Изоморфизм осуществляется сопоставлением мере р соответствующего интеграла : /оо(21) -* К, т. е.
W :=//(«) dp(a) (felM). а
Отсюда вытекают следующие два факта.
(1)	Опорное множество де* биективно множеству всех конечно аддитивных вероятностных мер на 21.
(2)	Если 21 — слабо ограниченное подмножество X#, то ip € сор(21) в том и только в том случае, если существует конечно аддитивная вероятностная мера р на 21 такая, что
<р(х) = j\x | a) dp(a) (х Е X). а
Как обычно, здесь {х | а) := ot(x) (а 6 Х#,х 6 X).
Предположим теперь, что 21 — компактное топологическое пространство. Обозначим символом ограничение е* на подпространство С(21) вещественнозначных непрерывных функций на 21. Пусть гса(21) — пространство всех регулярных борелевских мер на компакте 21. В силу теоремы Рисса-Маркова пространства С (21)' и гса(21) линейно изометричны и решеточно изоморфны. Изоморфизм по-прежнему задается сопоставлением мере р интеграла по этой мере. Отсюда непосредственно вытекают следующие утверждения.
(3)	Опорное множество де* можно отождествить с множеством всех регулярных борелевских вероятностных мер на 21.
(4)	Пусть 21 — слабо компактное (т. е. сг(Х#,Х)-компактное) множество функционалов на X. Для <р € X# выполнено <р Е сор(21) в том и только в том случае, если существует регулярная борелевская вероятностная мера р на 21 такая, что
<р(я) = J*(х\ a) dp(ot) (х € X). а
Получение аналогичных результатов для произвольного канонического оператора опирается на теорию меры и интеграла в Х-пространствах. Детальное изложение такой теории выходит за рамки этой книги, однако необходимый минимум сведений собран в Приложении 3. Мы ограничимся здесь эскизным и
92 Глава 2. Геометрия субдифференциалов
фрагментарным описанием результатов о строении канонического оператора и элементов его субдифференциала, соответствующих сформулированным выше утверждениям (3) и (4). Векторнозначные варианты утверждений (1) и (2) мы отложим до пункта 2.4.4.
2.1.12.	Рассмотрим классы мер и пространств, которые необходимы для описания опорного множества канонического сублинейного оператора.
(1)	Определим интеграл по векторной мере р G ba(2l, j/, Е), где si — алгебра подмножеств множества 21. Обозначим через St(21, множество всех функций р : 21 —> R вида	где ха “ характеристическая функ-
ция множества А, причем Ai,..., Ап € «с/, ai,..., ап € R. Построим оператор
: St(2l,j</) —> Е, полагая
z п	\	П
м 52	):= 52 ak>AAk)-
' k=l	' k=l
Как видно, — линейный оператор, причем имеет место нормативное неравенство
IWI < Н/11оо1м1(а) (/GSt(«X)),
где ||/||оо :== suPaea |/(21)|- Подпространство St(2l, хУ) плотно по норме в пространстве /оо(21,^) всех ограниченных измеримых функций. Значит, допускает единственное распространение (по непрерывности) на все пространство Zoo (21, «с/) с сохранением линейности и указанного нормативного неравенства.
(2)	В этом параграфе мы будем рассматривать случай, когда 21 — компакт и зУ — борелевская сг-алгебра. Тогда I^(f) определен для каждой непрерывной функции / € С(21). Заметим также, что > 0 в том и только в том случае, если р 0.
Выделим нужные для дальнейшего специальные Е-значные меры. Положительную меру р : —> Е называют регулярной, если для каждого А е «с/ будет р(А) = inf{p(U) : U D A, U е Ор(21)}, где Ор(21) — совокупность всех открытых подмножеств 21. В случае, когда последнее условие выполнено только для замкнутых A € зУ, меру р называют квазирегулярной. Наконец, произвольную меру р : —* Е называют регулярной (квазирегулярной), если положительные меры р+ и р~ регулярны (квазирегулярны). Пусть гса(21, Е) и qca(2l,E) — соответственно множества регулярных и квазирегулярных Е-значных борелев-ских мер. Из определения видно, что rca(2l, Е) и qca(2l, Е) являются векторными подрешетками в са(21, л/, Е). Легко проверить, что супремум (инфимум) ограниченного в са(21,«я/,Е) возрастающего (убывающего) семейства квазирегулярных мер также будет квазирегулярным. То же самое верно и для регулярных мер. Таким образом, qca(2l, Е) и гса(21, Е) служат Е-пространствами.
(3)	Пусть, как и выше, 21 — компактное топологическое пространство и Е — некоторое Е-пространство. Отождествим алгебраическое тензорное произведение C(2l) ® Е с подпространством /оо(21,Е), сопоставив элементу pk ®
2.1. Метод канонического оператора
93
где еь G Е и ipk € С(21), отображение а н* <£fc(a)efc (а € 21). Обозначим символами Cr(2l, Е) и (21, Е) соответственно Ьг-замыкание и Ьо-замыкание множества С(21) 0 Е в решеточно нормированном пространстве /ОО(21,Е'), т. е. СГ(21,Е) := г(С(21) 0 Е) и <7^(21, Е) := rd(C(2l) 0 Е) (см 1.6.6). Как видно, Ся (21, Е) — это Ьо-пополнение решеточно нормированного пространства С(21) 0Е (с индуцированной из /^(21, Е) векторной нормой) (см. 1.6.6 (3)).
(4)	Если д € qca(2l, £r(E,F)), то существует единственный оператор € € £Г(СГ(2(, E),F) такой, что 1р(<р 0 е) = (f cpdp)e для всех <р 6 С(21) и е € Е.
а
Будем писать при этом 1ц(Г) = J f dp. Общий вид линейного оператора Т класса 21
£Г(СГ(21, E),F) дается формулой
Tf = j f(a)dp(a) (/€ Сг(21, Е)),
21
где р Е qca(2l, £r(E,F)).
(5)	Обозначим через £ж (Сг (21, E),F) множество всех регулярных операторов Т : Ся(21, Е) —> F, удовлетворяющих следующему дополнительному условию: для любого разбиения единицы (?r^)^es С ф(Е) и произвольного f Е выполнено Tf =	Если р € qca(2l, £n(E, F)), то существует един-
ственный € £г(С7Г(21, Е), F) такой, что Тд(<£0е) = (f <р dpje для всех <р е С(21) 21
и е € Е. Будем писать при этом I^(f) = J f dp. Общий вид линейного оператора 21
Т класса £%(С%(21, E),F) дается формулой
Tf = f f(a)dp(pi) (ftCJ&E)),
21
где р G qca(2l, £n(E, F)). Подробнее см. Приложение 3.
2.1.13.	Обозначим через := Е и ej •= ограничения канонического оператора на СГ(21,Е) и Ся(21, Е) соответственно.
(1)	Для возрастающего сублинейного оператора Р : Е —► F имеет место представление
д(Роег^ = {/м(.) : д € qca($X, ЕГ(Е, F))+, д(Я) G ЭР} .
< Если ьг — тождественное вложение Сг(21, Е) в /оо(21» £), то в силу 1.4.14 (4) будет
д (Р о	= д (Р о еа о ir) = д (Р о еа) о ьг.
Остается применить 2.1.4 (2) и 2.1.12(4). >
(2)	Для каждого возрастающего о-непрерывного сублинейного оператора Р : Е —> F выполнено представление
d (Р ° £«) = {W : Р G qca(2l, Ln(E, F)), д(И) G 9Р} .
94 Глава 2. Геометрия субдифференциалов
<1 Пусть — тождественное вложение (7^(21, Е) в ^(21, Е). Тогда вновь по 1.4.14(4) будет
д(Рое^) = д(Рое*о1^ = д(Р о г*) о
Привлечение 2.1.4 (2) и 2.1.12(5) завершает доказательство. >
(3)	Справедливо интегральное представление:
Ое^Е = {W : М е qca(2l,Orth(E))+, д(21) = 1Е} •
<1 Нужно положить в (2) Р := 1е и заметить, что если р Е qca(2l, Ln(E, Е))+, то из //(21) = 1е вытекает р(А) Е Orth(E) для всех А Е зУ. >
(4)	Если К-пространство Е является (ст, со)-дистрибутивным, то de^E = {W  М € rca(2t,Orth(E))+, д(й) = 1Е} •
2.1.14.	Теорема. Пусть отображение р : X х 21 —> Е таково, что оператор х р(х, а) (х Е X) сублинеен при всех а € 21, а отображение a i-> р(х, а) (а Е 21) кусочно т-непрерывно при всех х Е X. Положим
q(x) := sup{p(#,a) : a Е 21}.
Тогда оператор q : X Е сублинеен и имеет место представление
dq =	p(-,a)d//(a)^ : М € qca(2l,Orth(E))+, //(21) = Ie}•
и
Если К-пространство Е является (а, оо)-дистрибутивным, то в этой формуле вместо qca(2l, Е) можно взять rca(2l, Е).
<1 Введем оператор Р : X -+ С* (21, Е) формулой
Р(х) : а и-* р(х, а) (а Е 21).
Тогда q = ej о Р и в силу 2.1.6 (3) будет
a9 = J{9(T°p): Tectej}-
Остается применить 2.1.13(3). Вторая часть устанавливается теми же рассуждениями с привлечением 2.1.13(4). О
2.2. Экстремальная структура субдифференциалов
Изучим внутреннее устройство опорных множеств с геометрической точки зрения. Скалярная теория подсказывает, что между дискретными функционалами и крайними точками имеется естественная взаимосвязь, приводящая к классической теореме Крейна-Мильмана. С другой стороны, справедливость теоремы Канторовича о продолжении дискретного оператора наводит на мысль, что
2.2. Экстремальная структура субдифференциалов
95
опорные множества общих операторов аналогичны обычным субдифференциалам выпуклых функций. И действительно, такая аналогия может быть проведена весьма далеко и полно. Позже мы обсудим эту аналогию детальнее, а пока отметим, что в операторном случае справедливо существенно более тонкое утверждение, чем констатация возможности восстановления опорных множеств по их крайним точкам. С этого и начнем.
2.2.1.	Пусть Р : X —> Е — сублинейный оператор. Символом ext(P) мы обозначим совокупность всех крайних точек (или экстремальных точек) опорного множества дР. Таким образом, Т G ext(P) в том и только в том случае, если для любых Si, #2 £ д(Р) и 0 < Qi, аг £ К, «1 + Q2 = 1, из равенства aiS\ + Q2S2 = Т следует Т = Si = S2. Возьмем еще одно If-пространство F, и пусть Т G L + (Е, F). Оператор S € дР называют Т-крайней точкой множества дР (или Т-крайней точкой оператора Р) и пишут S € <?(Т, Р), если Т о S € ext(T о Р). Если £ — некоторое семейство положительных операторов, то полагают
:= Q <?(Т,Р).
Напомним, что оператор Т называют порядково непрерывным или о-непре-рывным, если для любого фильтрованного по убыванию ограниченного снизу множества U в Е выполнено T(inf U) = inf T(U). Пусть £о — класс всех о-непре-рывных операторов, определенных в /f-пространстве Е и со значениями в произвольных lf-пространствах. Множество <?(£о,Р) обозначают символом Sq(P), а его элементы называют о-крайними точками дР (или Р).
2.2.2.	Теорема Крейна-Мильмана для о-крайних точек. Каждое опорное множество является опорной оболочкой множества своих о-крайних точек. Символически:
дР = d(ego(P}) о ^о(Р))-
<1 Рассмотрим множество & всех таких сублинейных операторов Р': X —> Е, что дР' С дР и, кроме того, д(ТоР') является крайним подмножеством д(Т о Р) для любого о-непрерывного оператора Т, определенного на Е. Ясно, что Р € Упорядочим естественным способом, полагая Pi < Р2 dPi С дР^. Проверим, что & индуктивно.
Рассмотрим произвольную цепь С в Заметим, прежде всего, что для всякого х € X семейство {Р'(^) : Р' € С} фильтровано по убыванию. При этом О < Р'(х) + Р\—х) < Р'(х) + Р(-х), так что определен элемент Pq(x) := := т£{Р'(я) : Р' е С}. Очевидно, что возникающий оператор Ро : X —> Е сублинеен. Проверим, что Ро G €. Для этого возьмем о-непрерывный оператор Т, числа «1,^2 > 0 такие, что ai + <*2 = 1» и операторы Si,S2 € д(Т о Р), удовлетворяющие условию QiSi 4- а2$2 € д(Т о Ро). Поскольку для всякого Р' 6 € множество д(Т о Р') является крайним и содержит д(Т о Ро), то Si € д(Т о Р') и S2 € д(Т о Р'). В силу о-непрерывности оператора Т получаем
Srx inf{T о Р'(х) : Р' е €} = Tinf{P'(x) : Р' € €} = Т о PQ(x).
Следовательно, Si € д(Т о Ро). Аналогично S2 € д(Т о Ро).
96 Глава 2. Геометрия субдифференциалов
По лемме Куратовского-Цорна существует минимальный элемент Q в Обозначим
Qx : h inf a~\Q(x + ah) - Q(x)).
Ясно, что Qx < Q и dQ(x) = dQx — {S e dQ : Sx = Q(#)}. Помимо этого, для любого о-непрерывного оператора Т выполнено
д(То Qx) = d(ToQ)x = d(ToQ)(x) = {Sc д(Т о Q): Sx = ToQ(x)}.
Пусть для некоторых Si, S2 € д(Т о Р) и чисел ai, «2 > 0 таких, что ai + аг = выполнено aiSi + аг#2 € д(Т о Qx). Тогда Si,S2 € d(ToQ) в силу свойства множества д(Т о Q) быть крайним и включения d(ToQx) С д(Т о Q). Кроме того, ввиду уже доказанного будет aiSix + агЗгж = Т о Q(x). Значит,
О > ai(Six -То Q(x)) + Q2(S2# -То Q(x)) = 0.
Таким образом, Si, S2 € д(Т о Q)(x) = д(Т о Qx). Окончательно получаем, что Q входит в &. Ввиду минимальности Q отсюда следует, что Qx = Q- В силу произвольности х G X мы видим, что Q — линейный оператор. Тем самым Q е ^о(Р).
Итак, установлено, что в любом опорном множестве есть о-крайние точки. Поэтому для завершения доказательства достаточно заметить, что Sq(P) D <£q(Px) для всякого х G X. Последнее справедливо ввиду того уже отмеченного обстоятельства, что д(Т о Qx) является крайним подмножеством д(Т о Q) для любого о-непрерывного оператора Т и произвольного сублинейного оператора Q. Таким образом, для всякого х € X выполнены оценки
Р(х) > sup{Sx : S е <Г0(Р)} sup{Sx : S € <ГО(РЖ)} = Р(я),
завершающие доказательство. >
Теорема 2.2.2, как видно из приведенного доказательства, остается справедливой и при более слабых предположениях (ср. 2.3.7). Например, достаточно требовать, чтобы пространство Е и области значений рассматриваемых порядковонепрерывных операторов обладали лишь свойством цепной полноты, а не обязательно являлись К-пространствами. Напомним, что цепная полнота упорядоченного множества — это наличие точных границ у ограниченных фильтрованных (соответствующим образом) множеств. Здесь же уместно отметить и следующее обстоятельство. Поскольку ext(P) = &(1е,Р), то теорема Крейна-Мильмана в приведенной формулировке, в частности, означает, что субдифференциал восстанавливается и по множеству своих крайних точек.
Изучим более подробно признаки крайних и о-крайних точек, необходимые нам для дальнейшего.
2.2.3.	Пусть Т € £+(Р, Р). Для оператора S из дР эквивалентны следующие утверждения:
(1)	оператор Т о S входит в ext(T о Р);
2.2. Экстремальная структура субдифференциалов
97
(2)	если для операторов Ti, 7*2, Si, S2 выполнено
ТЪТ2 е L+(E,F), Si,S2 € L(X,F),
Ti+T2 = T, ToS = Si+S2, Siea(TioP), S2ed(T2oP),
то справедливы равенства Ti о S = Si иТ2о S = S2;
(3)	для оператора я? \ (x, у) у — Sx, определенного на пространстве X х Е, упорядоченном конусом epi(P), имеет место равенство порядковых отрезков
[0,Т]олУ = [0,То^].
<3 (1) —> (2): Если операторы Ti,T2,Si,S2 удовлетворяют условиям (2), то справедливы соотношения
2ToS = (TioS + S2) + (Si+T2oS);
Ti о S + S2 е д(Т о P), Si + T2 о S e d(T о P).
Таким образом, в силу (1) выполнено Т о S = 1\ о S + S2 = Si + Т2 о S. Отсюда вытекает, что Ti о S = Si и Т2 о S = S2.
(2)	—> (3): Заметим, что оператор & : (ж, у) Uy — Уж, где U € L(E,F) и V е ЦХ, F), положителен на пространстве X х Е, наделенном указанным порядком, в том и только в том случае, если U Е L+(E, F) и V € d(U о Р). Отсюда следует, что оператор sd положителен, ибо S € <ЭР, и, значит, [О, Т] о .я/ с [О, Т о^У]. Если для S выполнено (2) и оператор S6 положителен и мажорируется оператором Т о я/, то U,T — U € £+(Е, F). При этом выполнено V 6 d(U о Р) и Т о S - V G д((Т - U) о Р). Применяя (2) к операторам Ti := U, Т2 := Т — (7, Si V и S2 := Т о S - У, получаем V = Si = Ti о S = U о S, так что S3 — U о где J7 G [0,Г].
(3)	—* (1): Пусть S удовлетворяет (3) и ToS = aiSi-f-a2S'2, где Si, S2 G д(ТоР) и oti,ot2 > 0, ai 4- «2 = 1- Рассмотрим оператор ^(ж, у) := otiTy — otiSix. Тогда S3 Е [О, Т о ввиду соотношений
(То- ^)(.,0) = -a2S2, (Torf- ^)(0, •) = а2Т.
Таким образом, для некоторого Ti Е [0, Т] выполнено равенство Ti о
Иными словами, Т\ = а\Т и Ti oS = aiSi. Последнее означает, что Si = ToS. >
2.2.4.	Для удобства вспомним некоторые понятия из теории Е-пространств, используемые в дальнейшем изложении.
Для положительного оператора Т, действующего из F-пространства Е в ^-пространство F, множество N(T) := {е G Е : Т|е| = 0} называют нулевым идеалом Т. Если Т — это о-непрерывный оператор, то N(T) является полосой в Е (см. Приложение 1). Дизъюнктное дополнение N(T)d := {е € Е : (Vz G N(T)) |е| Л |z| = 0} также является полосой. Ее называют полосой существенной положительности Т или носителем Т. Это название вызвано тем, что элемент z € N(T)d строго положителен, т. е. z 0 и z / 0, в том и только в том случае, если строго положителен Tz.
4 Кусраев А. Г., Кутателадзе С. С.
98
Глава 2. Геометрия субдифференциалов
Для любой полосы N в К-пространстве Е, как известно, определен порядковый проектор PrN на N. Оператор Ргдг действует на е G Е+ по формуле
Ргдг е := sup ([0, е] П N).
Порядковый проектор Рг^(т)^, определенный носителем Т, обозначается символом Ргт.
2.2.5.	Теорема. Оператор S G дР входит в <£(Т, Р) в том и только в том случае, если для любых х € X и у G Е выполнено
Ту+ = inf (T((P(iz) - Su) V (P(u - x) - S(u - x) + ?/))). Uf~X
< Для всякого элемента (x, у) G X x E верно
(ж, у V Px) G epi(P), (0, у V P(x) -y) G epi(P).
Тем самым непустым является множество
Щх,у) •= {(^ v) е X х Е : P(u) v, P(u - х) - у}.
Таким образом, корректно определен оператор
Pi : (х,у) inf{To«$/(u,v) : (u,v) G
где, как и выше, я/(u, v) := v — Su. Ясно, что оператор Pi : X х Е —* F сублинеен, причем dPi = [0, Т о .с/]. Хорошо известно (и легко проверяется), что для сублинейного оператора Рг := (у Ту+) о будет дР% = [0, Т] о лУ, см. 2.1.5 (4). Тем самым на основании 1.4.14 (2) указанное в 2.2.3 (3) равенство порядковых отрезков имеет место в том и только в том случае, если Pi = Рг- Последнее означает, что для всех х G X и у е Е выполнено
Т((у - Sx)+) = inf {Tv-ToSu: Р(и) V (у + Р(и - х)) v} = иех, vee
= inf^(T(P(u) V (у + Р(и — х)) — Т о Su) =
= mf (Т(Р(и) V (у + Р(и - х)) - Su)) =
= inf (T((P(u) - Su) V (P(u-x)-S(u-x) + y- Sx))). u£X
В силу произвольности x G X и у G Е приведенное равенство равносильно исследуемому. О
2.2.6.	Отметим полезные следствия теоремы 2.2.5. По-прежнему считаем, что Е — произвольное /^-пространство, а Р : X —> Е — сублинейный оператор.
(1)	Пусть Т — положительный о-непрерывный оператор и S Е <£(Т,Р). Для проектора Р?т на носитель Т выполнено Ргт о S' G ext(Pr^ оР).
<1 Положим 7г:= Ргт и а:= infuex(<^(u, х, у) — у+), где ip(u,x,y):= (Pu — Su)\/ \/(Р(и — х) — S(u — х) + у). Тогда О 0 и нужно показать, что a = 0. По условию
2.2. Экстремальная структура субдифференциалов
99
S е ^(Т,Р), поэтому из 2.2.5 мы выводам Та < infM€x Т(<р(и, х, у) — у+) = 0. Но тогда тга = 0. >
Скажем, что множество положительных операторов £ С ЦЕ, F) разделяет точки Е, если элемент е € Е+ обращается в нуль лишь в том случае, когда Те = 0 для всех Т € £.
(2)	Если £ — множество о-непрерывных решеточных гомоморфизмов, определенных на Е и разделяющих точки Е, то Р) = ext(P).
< Сохранив обозначения из (1), заметим, что в силу 2.2.5 S G ext(P) означает a = 0, a S € <? (£, Р) равносильно тому, что Та = 0 для всех Т € £. О
(3)	Если конус epi(P) миниэдрален (т. е. предупорядоченное векторное пространство (X х E,epi(P)) является векторной решеткой), то $(Т,Р) D ext(P) для всякого Т. При этом Sq(P) = ext(P).
< В указанном случае для множества U(x>y), фигурирующего в доказательстве теоремы 2.2.5, верно U(XiV) = {(u, v) : (х, у)+ < (u,v)}. Стало быть, равенство [0, То si\ — [0, Т] о si переписывается в виде T(si(x, у)+) = Т о s/((x, г/)+) для всех (х, у) е X х Е и исследуемого S € ЭР в обозначениях 2.2.5. Из допущения S € ext(P) следует, что si(x,y)+ = (si(x,y))+. Поэтому интервалы [0,Т о si\ и [0, Т] о si совпадают, что и означает Т-крайность S. О
(4)	Если £ — порядковый отрезок [0, Т], то <^(£, Р) = <^(Т, Р).
<] Так как ip(u,x,y) у+ для любых u, х G X и у € Е, то соотношение 0 = infuGx T(<p(u, х, у) — у+) влечет аналогичное равенство с заменой Т на любой оператор Т' е [0,Г]. О
(5)	Пусть Г — ограниченное сверху фильтрованное по возрастанию множество о-непрерывных решеточных гомоморфизмов из F в К-пространство G. Для любого £ С L+(E, F) выполнено <?(sup Г о £, Р) = S’(Г о £, Р).
< Достаточно показать, что £(R о £,Р) = <?(Т о £,Р) для любого Т G £, где R := sup Г. Из условий видно, что R — это о-непрерывный решеточный гомоморфизм. Рассуждая так же, как и в (4), достаточно заметить, что для 6:= infuex Т(Ци,х,у) - у+) выполняется равенство Rb = sup{P'6 : R G Г}. О
(6)	Если F = G и Г — произвольное семейство проекторов, то
<Г(8ирГо£,Р) = (Г(Го£,Р).
<] Здесь работают те же соображения, что и в (5). >
Из изложенного, в частности, вытекает, что при нахождении о-крайних точек достаточно рассматривать только «большие» операторы с «малыми» областями значений. Так, если Е является пространством типа (L) и £ — семейство всех операторов на Е со значениями в регулярно упорядоченных пространствах, то <?(£, Р) = <£(1, Р), где 1 — сильная порядковая единица в сопряженной банаховой решетке Е'.
Пусть теперь Qi, Q2 : X —> Е — два (для простоты положительных) сублинейных оператора и Т е L+{E, F), где, как обычно, F — еще одно Е-пространство.
4!
100 Глава 2. Геометрия субдифференциалов
По аналогии с инверсной суммой (см. 1.3.8 (4)) положим
(<Э1#т<Э2)(®) := inf T(Qi(xi) VQ2(®2))-
+Х2—Х
Привлекая теорему о векторном минимаксе 1.3.11, легко видеть (ср. 1.3.10(5)), что справедливо следующее представление:
Qi#tQ2 = sup (Ti oQi фТ2 oQ2),
Ti^0,T2^0
Т1+Т2=Т
где выписанная точная верхняя граница вычисляется поточечно.
(7)	Для оператора S из дР положим Qi := Р - S, Qztx) := фД-ж) (ж G X). Тогда справедливы эквивалентности
S G <?(Т,Р) w Qi#tQ2 = 0^ToQ1eToQ2=0.
<1 Импликация S G <?(T, P) —> Qi#tQ2 = 0 обеспечена теоремой 2.2.5. Для доказательства обратной импликации заметим, что если Qi#tQ2 = 0, то Г о Qi ф (Т — Т') о Q2 = 0 для каждого 0 Tf Т. В частности, при Т' := получаем Т о Qx ф Т о Q2 = 0 и, сверх того,
0 = inf (T((P(u) - Su) V (P(u - x) - S(u - ж)))). - -uEX
Вновь используя теорему о векторном минимаксе (см. 1.3.10(5) и 4.1.10(2)), последовательно заключаем
inf (T((P(u) - Su) V (P(u - ж) - S(u - ж) + у))) =
u(zX
= sup ( inf (Ti(P(u) - Su) + T2(P(u - ж) - S(u - ж))) + Т2У J = Ti,T2^0	/
T1+T2=T
= sup{T2i/: Tt 0, T2 > 0, Ti+T2=T} = sup{T'y : Г G [0, T]} = Ty+,
откуда S G <?(T, P) согласно 2.2.5. Вторая эквивалентность вытекает из sup-представления Qi#tQ2- >
(8)	Пусть оператор Р задан в виде Р := ба о (21). Оператор S G дР является крайней точкой дР в том и только в том случае, если для всякого 0 G £(/00(21, Е), Е) из условий
(3^0, /ЗоЬ* = 1Е, /3o{ty = S
вытекает соотношение
/?|(21)ж — Да о 5ж| = 0 (жеХ).
< На основании (7) S G ext(P) в том и только в том случае, если для каждого ж G X выполнено
0 = Ы(ба ((21)(я + и) - Да о S(u + ж)) V e* ((2l)(u - ж) - Да о S(u - ж))) =
— inf ба ((21)^ — Да ° Su 4- |(21)ж — Да ° &ж|).
2.2. Экстремальная структура субдифференциалов	101
Таким образом, привлекая 2.1.4 (2) и теорему о векторном минимаксе, в продолжение начатой выкладки получаем
0 = sup inf /3 о ((2l)u — Да о Su) 4-1 (21) ж — Да о S<r|) =
ЗеЭе» ^х
= sup inf (/? о (2l)u — /3 о Да о Su 4- (3\(20# — Да ° Sx|) =
/ЗбВе» и^х
= sup (/?|(2l)z - Да о Sar|) 4- inf (/? о (21)и — Su) =
/зедЕ*	и^х
= sup /3|(21)а; - Да ° Sx\,
0o{*}=S
что и требовалось. О
(9)	Оператор S G де* является Т-крайним в том и только в том случае, если
T|$/|=TS|/| (/ецад.
<1 Прежде всего, с учетом (7) по аналогии с (8) мы получаем, что Т-край-ность S равносильна равенству
0= inf Т(еа (w — Да ° Su) 4- \f — Да ° Sf\).
ueU(2i,£)
Учитывая теорему о векторном минимаксе, мы выводим
S € <f(T,P) ~ (VP еЭ(Тоеа)) 0 inf (Я (и - Да о Su) 4-1/ - Да ° 5/|) =
= R\f — Да о Sf \ 4-inf (Ru — Ro Да оSu) =
= R\f — Да ° Su)\ 4- inf(/?u — To Su) w
~ (Я = T о S —> Л|/— Да ° S/l = 0) T о S|/— Да ° S/l = 0.
Осталось заметить, что
О = Т О 5|/ - Да О Sf\ > Т ($|/| - Да|$/|) =
= TS\f\ - T|S/| > 0 TS|/| = T|S/|,
откуда
TS\f - Да о Sf\ = T\Sf - S о Да о Sf\ = 0,
что и требовалось. 1>
2.2.7.	Теорема. Следующие утверждения эквивалентны:
(1)	оператор S входит в ext(P);
(2)	для любых операторов S\,S2 € дР и мультипликаторов ai,Q2 € [0, 1е] таких, что «1 4- «2 = и ai о Si 4- «2 ° ‘З'г = S', найдется порядковый проектор ТГ В Е, ДЛЯ которого ТГ о S = ТГ о Si И 7Td о s = 7Vd о S2, где 7Td := Ie — Л,'
102	Глава 2. Геометрия субдифференциалов
(3)	если для операторов Si,.. .,Sn G дР и мультипликаторов ai,..., an 6 G [0, Ге] выполнено n	n
T^otk^lE, y^otk° Sk = S, fc=l	fc=l
то аь о S = otk ° Sk для каждого k := 1,..., n.
< (1) —> (2): Если ai, ot2, Si, S% удовлетворяют условиям из (2), то ввиду равенства ext(P) = Р) и предложения 2.2.3 выполнено ai oS = Qi о Si. Пусть тг — порядковый проектор на полосу существенной положительности ар Из свойств мультипликаторов ясно, что тг о Si = тг о S. Кроме того, замечая, что ai о Trd = 0, имеем
TTd О S — TTd О (оц О S1 + 012 ° S2) = «I О 7Fd О Si + «2 °	° 52 =
= 0*2 0 7Td о S2 = (Ге — &1) О 7Td о S2 = 7Td о ^2-
(2) —> (3): Проверим для определенности, что в условиях (3) выполнено равенство an о S = an о Sn. Для этого заметим, что
52 ak ° Sk е d f 52 а* ° (ж •“* s'x v • • •v sn-ix) k=l	\k=l
Применяя правило 2.1.7 (2) для вычисления субдифференциалов, получаем, что совместна следующая система условий:
п—1	/п—1 \ п—1
52 ° ^ = I 52 а* ) ° zL ° 5г’
fc=l	\fc=l / Ь=1
n—1
A = Ie, /3i>---,0n-i 6 [0,Ге]. z=i
Поскольку оператор S' := Pi°Si входит в дР и, кроме того, «14-.. .4-ап-1 = = Ге-Пп, из равенства S = (1е— otn)oS'+otnoSn мы получаем, что для некоторого порядкового проектора тг в Е выполнено тг о Sn = тг о S и Trd о S' — TTd о S. Так как мультипликаторы коммутируют друг с другом, будет
тгЛ о S = Trd о (Ге — otn) о S' 4- 7rd о ап о Sn = (Ie — &n) ° ird о S' 4- otn ° ird ° Sn = = (Ге - ап)отга о S + otnoTrd о Sn.
Таким образом, an о ird о S = an о Trd о Sn. Окончательно заключаем
an ° 5 = 7rd о an о S 4- тг о an о Sn = an °	° 5n 4- тг о an о Sn = an о Sn.
(3) —> (1): Следует из 2.2.3. >
2.2.8.	Установленный факт позволяет выявить важнейшую особенность множества крайних точек субдифференциалов — возможность их «перемешивания», т. е. цикличность ext(P).
2.2. Экстремальная структура субдифференциалов
103
(1)	Пусть 5Ь52 € ext(P) и тг — произвольный порядковый проектор в Е. Тогда
S := 7Г о 5i + о 52 € ext(P).
<1 Пусть 5 := all 4- 0V, где U, V € дР и a,/3 € [0,1], a 4- /? = 1. Ясно, что
7г о 5 —атг о J7 4- /?7г о V = 7г о 51, ТГ** о 5 =Q7Td о и 4- 0ТГ** о у = ТГ** о 52.
Отсюда заключаем
51 — атг о U 4- (Зтг о V 4- 7rd о 51,
52 = Q7rd о U 4- Z?7rd о V 4- тг о 52.
Крайний оператор 51 записывается в виде 51 = тг о (aU 4- /3V) 4- 7rd5i. Стало быть, в силу 2.2.3 (2) будет атг о U = тг(а(7) = 7r(a5i) = атг о 51. Аналогичные рассуждения для 52 дают атг** о U = атг** о 52. Таким образом, мы приходим к равенствам aS = атг о 51 4- атг** о 52 = атг о U 4- атг** о U = aU. По сходным соображениям /3S — (3V. >
Заметим, что для любого семейства (S^es элементов дР и любого семейства мультипликаторов (a^)^es такого, что	= 1е, выполнено
^€S	° *% £ ЭР- Здесь суммирование операторов ведется относительно пото-
чечной о-сходимости. Иными словами,
5 = а$ о 5$ (Vz € X) Sx = о~У2 ° £е2	еен
где, в свою очередь,
У = о-^х, *-> у = o-hmse, S0:=^2x^ ees	е	(ее
(символом 9 обозначено конечное подмножество Е). Отметим, наконец, что запись у = о-lima^ означает, что имеются возрастающее семейство (а$) и убывающее семейство (Ь^) такие, что < х% С и sup(a^) = inf(Ь$) = у.
Сформулированное свойство дР называют сильной операторной выпуклостью опорного множества. В связи с этим свойством, очевидно, можно вывести следующие утверждения.
(2)	Пусть (5$)£gs — семейство элементов ext(P) и пусть (тг^)^ен — семейство порядковых проекторов, составляющих разбиение единицы, т. е. таких, что
6 / £2 тг?! ° ТГ{2 =0; 52 ТГ€ = 1Е-
Оператор	° также входит в ext(P).
Последний факт дает повод назвать (слабо порядково ограниченное) множество 21 в L(X,E) сильно циклическим, если для любых семейства (S^fes элементов 21 и произвольного разбиения единицы (тг^)^ен будет 52^62^ °	€ 21.
104
Глава 2. Геометрия субдифференциалов
Наименьшее сильно циклическое множество, содержащее данное множество 21, называют сильно циклической оболочкой 21 и обозначают scyc(2l) или 21(ср. 2.4.2 (4)).
(3)	Имеет место включение scyc(<?o(P)) С ext(P).
Изучим теперь связь о-крайних и крайних точек более полно.
2.2.9.	Теорема. Множество крайних точек опорного множества канонического оператора состоит из решеточных гомоморфизмов пространства Zqq (21, Е) в Е, лежащих в де %. При этом имеет место равенство ext (ба) = ^о(^а)-
<] Доказательство можно извлечь из 2.2.6 (8,9). Полноты ради дадим иное обоснование, не использующее теорему о векторном минимаксе.
Докажем, прежде всего, первую часть требуемого утверждения. Пусть сначала р е ext(sa) и р! € [0, р]. Ясно, что оператор о' := р' о Да лежит в порядковом отрезке [0,Ге]. При этом р' G д(а' ова)- Таким образом, по правилу субдифференцирования 1.4.14 (5) для некоторого pi G де* имеем р' = а' о рх. Аналогично р — р' = (Ie - се9) ° Р2 для некоторого р2 € де*. Итак, справедливо представлен ние р — а' о рх + (1Е — а') о р2. Значит, по теореме 2.2.7 а' о р = а' о рх = р' и [0, р] = [0, 1е] ° Р- Тем самым на основании 2.1.9 (1) р — решеточный гомоморфизм.
Предположим теперь, что р € де* и р — решеточный гомоморфизм. Если р — aio/i1-|-a2o/x2, где pi,p2 € де* и 01,02 > 0» «1+02 = Ге, то, в силу 2.1.9 (1), «1 ор\ = аор для некоторого а € [0, 1е]> Так как выполнено р^ о Да = ро Да = 1е (см. 2.1.4 (2)), то а = так что р\ = р.
Для доказательства второй части теоремы достаточно установить, что конус
epi (4) = {(/>У) е ММ х Е : <•+(/) у}
миниэдрален и сослаться на 2.2.6 (3). Здесь := (£а(/))+- В самом деле, по 2.2.6 (3) выполнено <?о(£а) ~ ех^(^а)- Кроме того, если ai о рг -|-а2 о р2 Е де% и ^1,^2 € де*, то ввиду соотношения де* = [0,Ге] ° (tea, вытекающего из правил субдифференцирования 1.4.14(5), 2.1.5 (4) и 2.1.6 (3), получается, что р\ о Да,р2 ° Да € [0,Ге]» причем &ipi о Да 4- «2М2 ° Да = 1е- Отсюда pi о Д<д = р2 о Да = Ге- Значит, pi,p2 € (tea- Таким образом, де* является крайним подмножеством в де*. Следовательно, ext (ва) С ext (eJ) = <?о(^а)-Если р е ext (ба), то Тор е ext (Т о е+) для любого оператора Т. Тем самым выполнено Торе ext (Т о ва)> ибо д (Т о £а) С д (Т о в+), так что ext (ва) С (ва)-Обратное включение очевидно.
Итак, следует установить только, что конус
epi (ej) = {(f, у) е /оо(21, Е) х Е : у > 0, f Дяу}
миниэдрален. Для этого покажем, что для любых двух элементов (/,г/) и (p,z) из Iqq (21, Е) х Е выполнено
(/, у) А (<Ь z) = ((/ - Д<а(у - z)+) V (д - Д<а(г - у)+) , у Л z).
2.2. Экстремальная структура субдифференциалов
105
Обозначим через h первую проекцию правой части последнего соотношения. Заметим, что элемент (Л, у Л г) является нижней границей элемента В самом деле,
f-h = f+ (Да(у - z)+ - /) Л (Да(г - у)+ -д) =
= Да(у - z)+ Л (Да(г - у)+ + f - д) Да(у - z)+,
т. е.	(y—z)+ = y—y/\z. Аналогично проверяется, что (д, z) мажорирует
(Л, у Az).
Пусть теперь (h!, р) — произвольная нижняя граница элементов (/, у) и (д, г). Тогда - h') у - р и 8^(д - hf) z - р. Таким образом,
у — р 0, z — р 0;
/-Л'Да(у-р), g-hf Да(г —р).
Следовательно, р < у Л г, причем
h — h! (f - Да(р - z)+) V (g - Да(г - у)+) -
-	(/ - Да (У - р)) V (д - Да(г - р)) =
= (/ - Да(у - У Л z)) V (д - Да(г - у Л z)) -
-	(/ - Дау) V (д - Даг) + Дар =
= Да(у Az — р),
т. е. (Л',р) меньше или равно (h,y Az) в смысле порядка, индуцированного конусом epi (sj). Тем самым установлено равенство (/, у) Л (д, г) = (Л, у Л г), что и завершает доказательство. >
2.2.10.	Теорема Мильмана. Пусть Р : Y —> Е — сублинейный оператор, действующий из векторного пространства Y в К-пространство Е. Пусть, далее, Т е ЦХ, У). Тогда справедливо включение
ext(P о Т) с ext(P) о Т.
<3 Пусть U € ext(P о Т). Ясно, что для некоторого V € ЭР будет U = V о Т в силу 1.4.14(4). Пусть Vo — сужение V на im(T). Ясно, что Vo лежит в ext(P о t), где ь — тождественное вложение im(T) в У. Значит, в силу 2.2.3, в упорядоченном пространстве У х Е с положительным конусом epi(P) оператор >о • im(T) х Е •—> Е, действующий по правилу
% • (гл е) е - Voe (у € im(T), е € Е),
будет дискретным. Подпространство im(T) х Е, очевидно, массивно в У х Е. Таким образом, по теореме Канторовича для дискретного оператора 2.1.10, существует дискретное продолжение У оператора Xq. Нет сомнений, что оператор Sy := У (у,О) лежит в дР, крайний там и, кроме того, совпадает с V на образе im(T). Иными словами, U = V оТ = S оТ и S € ext(P). 1>
106 Глава 2. Геометрия субдифференциалов
2.2.11.	Отметим важные следствия теоремы Мильмана.
(1)	Если субдифференциал дР является опорной оболочкой множества St, то выполнено
ext(P) С ext(62i) ° (21)-
<1 По условию и теореме Мильмана
ext(P) = ext(cop(2l)) = ext о (21)) С ext (е^) о (21),
что и требовалось. >
(2)	Для любого сублинейного оператора Р выполнено
ext(P) С ext (е^0(Р)) °
Теорема Мильмана и ее следствия дают весьма полную характеризацию внутреннего строения опорного множества «по модулю» того, как устроены крайние точки субдифференциала канонического оператора и его элементы. Устройство указанных элементов будет описано в параграфе 2.4.
2.3.	Субдифференциалы операторов, действующих в модулях
При изучении субдифференциалов мы сталкиваемся с более богатыми алгебраическими структурами, чем первоначально заданные векторные пространства. С этим обстоятельством мы столкнулись, в частности, в параграфе 1.5.
Специально подчеркнем, что опорное множество сублинейного оператора не просто выпуклое, но операторно-выпуклое множество, т. е. удовлетворяет аналогу обычного определения, в котором в роли скаляров выступают мультипликаторы. Иначе говоря, изучая обычные выпуклые объекты в векторных пространствах, мы с необходимостью сталкиваемся с более общими аналогами выпуклости — с выпуклостью в модулях над кольцами (в частности, над кольцом умножений на элементы какого-нибудь К-пространства ограниченных элементов).
Есть и еще одна значительно более важная причина, вызывающая интерес к выпуклым объектам в модулях. В приложениях часто приходится сталкиваться с задачами, в которых гипотеза «делимости» элементов неприемлема. Таковы, конечно же, все задачи целочисленного программирования. В каком объеме можно сохранить развитый выше аппарат субдифференцирования для случая общих систем — этот вопрос и будет сейчас в центре нашего внимания. Прежде всего мы остановимся на общих свойствах субдифференциалов в модулях над кольцами.
2.3.1.	Итак, пусть А — произвольное решеточно упорядоченное кольцо с положительной единицей 1д. Тем самым А не только кольцо, но в А имеется также отношение порядка <, относительно которого А является решеткой. При этом выполнены естественные условия согласования сложения и умножения с порядком. В частности, положительные элементы А+ кольца А составляют полугруппу относительно имеющегося в А сложения.
2.3. Субдифференциалы операторов, действующих в модулях
107
Рассмотрим теперь модуль X над кольцом А или, короче, А-модуль X. Этот модуль (как и последующие) всегда считается унитарным, т. е. 1л.т = х для всех х^Х.
Рассмотрим оператор р : X —> Е9, где, как и выше, Е := Е9 U {Ч-оо} и Е — некоторый упорядоченный A-модуль (читатель восстановит для себя естественное определение этого понятия). Оператор называют А-сублинейным или модульно-сублинейным, когда ссылка на кольцо А подразумевается, если для любых х, у G X и тг, р € А+ справедливо неравенство
р(7ГТ + ру) 7Гр(х) 4- ДО(р).
Как правило, в дальнейшем мы ограничиваемся изучением всюду определенных А-сублинейных операторов р : X Е. Стоит подчеркнуть, что р(0) = 0. В самом деле, р(0) < 0р(0) = 0 и, кроме того, р(0) = р(0 4-0) < 2р(0). В то же время легко видеть, что совсем не всегда р(тгх) = тгр(х) для любого х G X при тг 6 А+ и тг / 0 (в этом проявляется существенное отличие от R-сублинейных операторов — обычных сублинейных операторов, которые рассматривались нами ранее). Если р(тгх) = тгр(ж) при всех х € X и тг € А+, то р называют А+-однородным оператором.
Рассмотрим теперь множество НотДХ, Е), обозначаемое также Ьд(Х, Е) или даже L(X, Е), в случае, если это не вызывает разночтений. Это множество состоит из всех А-линейных операторов, действующих из X в Е, или, как их еще называют, А-гомоморфизмов. Таким образом,
Т G Ношд(Х, Е) <-* (Vx, у 6 X)(Vtt,р G А) Т(тгх 4- ру) = тгТт + рТу.
Для А-сублинейного оператора р : X —* Е определяют субдифференциал в нуле (= опорное множество) и субдифференциал в точке х € X соотношениями
дАр := {Т € Нотл (X, Е) : (Vx € X) Тх р(хг)}; дАр(х) := {Т G дАр : Тх = р(х)}.
Следовательно, имеет место представление
дАр(х) = {Т € Нотл(Х, Е) : (Vy G X) Т(у - х) < р(у) - р(®)}.
Если Z — группа целых чисел, то в связи с тем, что X и Е являются Z-модулями (= абелевыми группами), определены субдифференциалы д^р и 0zp(x), которые обозначают просто символами др и др(х). Как мы увидим ниже, это соглашение не вызывает коллизии обозначений.
Говорят, что A-модуль Е обладает свойством A-продолжения, если для любых A-модулей X, Y, а также А-сублинейного оператора р : Y —* Е и гомоморфизма Т G Нотд(Х,У) справедлива формула Хана-Банаха
дА(роТ) = дАРот.
108
Глава 2. Геометрия субдифференциалов
Если, помимо этого, для всякого у € Y субдифференциал др(у) непуст, то говорят, что Е допускает выпуклый анализ.
2.3.2.	Пусть A-модуль Е обладает свойством A-продолжения и р : X —> Е — некоторый А-сублинейный оператор. Справедливы утверждения:
(1)	существует Т G 9Ар такой, что Тх = у в том и только в том случае, если тгу < р(тгх) для всех тг € А;
(2)	оператор р является А+-однородным в том и только в том случае, если непуст его субдифференциал в каждой точке, т. е. дАр(х) / 0 для всех х е X.
< (1): Если Т е дАр и Тх = у, то тгу = тгТх = Ттгх < р(тггс). Если же, в свою очередь, известно, что тгу р(тгж) при всех тг € А, то при ти# = тггж будет (?Г1 — тг2)у < р((тг1 — тгг)#) = 0, т. е. 7Г12/ = 1Г2У- Значит, на A-модуле {тгят: тг € А} корректно определен А-гомоморфизм тгх >-> тгу при тг G А. Привлекая свойство продолжения, мы обнаруживаем искомый оператор Т.
(2): Если Т G дАр(х) и тг Е А+, то тгр(х) = тгТх = Ттгх < р(тгж) < тгр(х), откуда и вытекает А+-однородность р. Если же заранее известно, что р — это А-сублинейный А+-однородный оператор, то для всякого тг е А выполнено
7Гр(#) — ТГ^р(х) — ТГ~р(х) = р(7Г+х) - р(?г“ж) р(?Г+Ж - 7Г”х) = р(тгж).
Таким образом, дАр(х) / 0 в силу (1). [>
2.3.3.	Пусть Е — упорядоченная абелева группа (т. е. упорядоченный Z-mo-дуль). Положим Еь :=	— Е+ и допустим, что Еь является стертым /С-прост-
ранством. Напомним, что стертым К-пространством называют группу, получающуюся из К-пространств при игнорировании умножения на действительные числа, т. е. «стирании» в памяти части информации о пространстве.
2.3.4.	Теорема Бигарда. Упорядоченный ^-модуль Е обладает свойством ^-продолжения в том и только в том случае, если Еь является стертым К-пространством.
О Установим только более простую (и необходимую нам с самого йачала) часть теоремы, о том, что приведенное условие достаточно. Теорема Бигарда в полном объеме содержится в излагаемых ниже результатах (см. 2.3.17).
Итак, пусть Еь — стертое /^-пространство, р : X —> Е — субаддитивный (= Z-сублинейный) оператор и То : Xq —> Е — групповой гомоморфизм такой, что То € д(р о t), где l : Xq X ~ вложение. Нужно построить продолжение То на X или, что то же самое, проверить вхождение То в (др) о ь. Учитывая, что Еь — инъективный модуль (= полная группа), мы видим, что Еь вкладывается в Е как прямое слагаемое (по хорошо известному и легко проверяемому факту из теории групп). Тем самым можно считать, что Е = Еь (продолжением в дополнение Еь в Е «служит» р). Рассматривая X х Е вместе с полугруппой положительных элементов epi(p) := {(х,е) : е р(х)}, мы сводим дело к «групповому» аналогу теоремы Канторовича 1.4.15. Итак, можно считать, что Xq — массивная подгруппа группы X (т. е. Xq 4-	= X) и Tq : Xq —> Е — поло-
жительный групповой гомоморфизм. Необходимо построить его положительное
2.3. Субдифференциалы операторов, действующих в модулях
109
продолжение. Стандартное применение леммы Куратовского-Цорна сводит дело к случаю, когда X = {тх + Xq : т G Z,хо € Хо}- Положим
U := {е € Е : (Эжо € Xo)(3m > 1) тх xq Л е = TqXq/тп},
V := {/ G Е : (ЗжОо € X0)(3n > 1) пх жОо Л f = TqXqq/п}.
Понятно, что U и V непусты в силу массивности Хо- При этом выполнено U V. В самом деле, при е € U и f 6 V будет е = TqXq/ш^ f == TqXqq/п и xq < тх, пх < ягоо- Значит, nxQ < птх < mxQQ и hTqXq тпТо^оо- Поэтому е < /. Выбираем теперь ё G Е так, чтобы было U < ё < V (например, ё := inf V). Положим Т(тх 4- ж0) := тё -h TqXq. Проверим корректность такого определения. В самом деле, пусть тх 4- xq = пх 4- яоо- Надо показать, что тё 4- TqXq = пё 4- То^оо-Будем для определенности считать, что п > т (в случае п = т нечего доказывать). Тогда (п — т)х = xq — а?оо и, значит, ё То(#о — #оо)/(^ — т) и ё < Tq(xq — яоо)/(га — т) по определению ё. Итак, Т — корректно заданное продолжение Tq. Не вызывает сомнений, что Т — это групповой гомоморфизм. Проверим корректность Т. Если тх 4- xq пх 4- яоо и для определенности п > т, то (n — т)х xq — xqo и ё — (TqXq — TqXqq)/(ti — m). Тем самым Т(тж4-жо) = тё + TQXQ пё + ТоХоо = Т(пя4-яоо), что и завершает доказательство. >
2.3.5.	Нам понадобятся также некоторые свойства Z-сублинейных операторов, вытекающие из теоремы Бигарда (точнее, из уже доказанной ее тривиальной части).
(1)	Пусть р : X Е — некоторый Z-сублинейный оператор. Для всякого п € N выполнено д(пр) — пдр.
<1 Включение пдр С д(пр) очевидно, так как по определению пдр = {пТ : Т G др}. Допустим теперь, что Т G д(пр). Привлекая 2.3.4, возьмем какой-либо гомоморфизм Tq € др. Тогда Т — пТо € д(п(р — Tq)). Так как р(х) — Tqx 0, то образ im(T - пТо) лежит в Еь. Значит, оператор S := n^tT - пТо) определен корректно. При этом S G д(р — Tq). Положим теперь Q := S 4- Tq. Ясно, что Q е др, причем nQ = п(п-1(Т — пТо)) + nTQ = Т. Окончательно заключаем: Т G пдр. о
(2)	Для всякого п € N верно
п
У2 др = пдр. fc=i
<] Включение D вытекает непосредственно из определений. Для обоснования обратного включения достаточно заметить, что множество, стоящее в левой части доказываемого соотношения, очевидным образом содержится в д(пр), и применить (1). [>
(3)	Пусть Ti, Тг € др, причем для некоторого п Е N верно пТ\ — пТг. Тогда Тх = Т2.
по
Глава 2. Геометрия субдифференциалов
<1 Поскольку 71 - Т2 £ д(р — Т"2) и 7Ь С др, то im(7i - Т2) С Еь- В самом деле, р(х) — Т2Х — (71Х — Тгж) > 0, р(х) — Т2Х О,
71Ж - Г2ж = -(р(я) - Т2х) 4- (Т\х - Т2х) 4- р(х) - Г2ж,
что и завершает доказательство. о
(4)	Пусть р : X —> Е — некоторый Z-сублинейный Z+ -однородный оператор и х 6 X. Тогда для всякого h € X существует о-предел
pf(x)(h} := о- lim(p(nx 4- h) — p(nx)) = inf{p(nx 4- ti) — p(nx) : n € N}.
При этом p'(x)(-) : X —> E ~ это Z-сублинейный, Z+ -однородный оператор, причем Э(р'(ж)) = dp(x).
<] Положим zn := p(nx 4- h) — p(nx). Как видно, p(nx) = p(nx 4- h — ti) < < p(nx 4- h) 4-p(—h), t. e. zn —p(~h) для всех n e N. Далее, в силу предположения о субаддитивности и ^-однородности для m > п можно написать
zn = р(пх 4- h) — р(пх) = р(пх 4- Л) 4- p((m — п)х) — (т - п)р(х) — пр(х) р(пх 4- h + (т — п)х) — тр(х) = zm.
Отсюда видна корректность определения оператора р'(х). Нетрудно установить, что оператор р'(т) : X —* Е Z-сублинеен и Z+-однороден. При этом р(пх 4- h) — —р(пх) < р(Л), откуда dp'(x) С др. Кроме того,
р'(т)(т) = o-hm(p(nx 4- х) — р(пх)) = р(х), nGN
что и завершает доказательство. >
(5)	Для каждого n G N выполнено (прУ(х) — пр'(х).
(6)	Для Z-сублинейного р : X —> Е положим hp(x) sup {Гт : Т е др}. Тогда hp — наибольший Z-сублинейный Z+ -однородный оператор, мажорируемый р. При этом dhp = др.
2.3.6.	Перейдем теперь к теореме Крейна-Мильмана для групп. Прежде всего условимся называть оператор Т 6 др крайним, если из вхождений 71,7г G др и Ti +Т2 — 2Т вытекает Т = Т\ = 7^. Множество всех крайних операторов в субдифференциале др обозначено символом ext(p). Как видно, это обозначение согласовано с общепринятым.
Распространим теперь понятие канонического оператора и соответствующий формализм на случай групп. Именно, для непустого множества 21 символом /оо(2(, Е) мы обозначим Z-модуль порядково ограниченных Е-значных отображений на 21. Это множество наделяют естественной структурой упорядоченного Z-модуля (подмодуля обычной декартовой степени Е* с покоординатными операциями). Символом мы обозначим канонический Z-сублинейный оператор, определяемый формулой
: Zoo(21, Е) Е, еМ := sup /(21) (/ € 1^(21, Е)).
2.3. Субдифференциалы операторов, действующих в модулях
111
Если при этом 21 — некоторое поточечно порядково ограниченное множество гомоморфизмов из X в Е, то определим гомоморфизм (21) : X —> /оо(21,£'), как и в 2.1.1, по формуле (21) : х (Тх)т&ъ т- е. (21)я:: 21 Э Т >-> Тх € Е.
2.3.7.	Теорема Крейна-Мильмана для групп. Для каждого %-субли-нейного оператора р справедливо представление
dp = <?£ext(p) ° (ext(p)).
<1 Доказательство этого утверждения проводится по образцу соответствующей теоремы 2.2.2 об о-крайних точках, однако содержит небольшие тонкости.
Итак, рассмотрим множество & всех таких Z-сублинейных операторов q : X -+ Е, что q(x) < Дх) для всех х € X и, кроме того, q экстремален для р. Последнее означает, что для Ti, Т2 € др таких, что Ti -F Tj 6 2dq, будет Ti,Т2 € dq. Ясно, что р € Снабдим & естественным порядком и рассмотрим произвольную цепь £ в Л Заметим, что р(—х) -I- q(x) q(x) 4- q(— х) 0. Таким образом, определен элемент ро(х) := inf{q(x) : q G €}. В силу о-непрерывности сложения возникающий оператор ро, очевидно, Z-сублинеен. Непосредственно проверяется, что ро £	' Следовательно, на основании леммы Куратовского-Цорна в & име-
ется минимальный элемент q. В силу минимальности и 2.3.5 (6) верно, что q = hq. Значит, согласно 2.3.5 (4) определен оператор q'(x). При этом если 71,7г 6 др и Ti 4- Т2 € 2d(q'(x)), то 71,7г € др ввиду экстремальности q. В силу 2.3.5 (5) будет Т\Х 4- Т2х = 2q(x). Учитывая неравенства Т±х < qf(x) и Т2ж < q'(x), мы заключаем, что 71,7г € dq(x) = d(q'(x)). Итак, q'(x) экстремален для р, поэтому q = q'(x) для всех х G X. Последнее, как легко видеть, означает, что q является гомоморфизмом, т. е. q 6 ext(p). Тем самым можно сделать вывод о непустоте ext(p) для каждого р.
Для завершения доказательства достаточно рассмотреть случай, когда р — это Z^-однородный оператор. В этом случае, как фактически уже отмечено, при каждом х е X оператор р’(х) является экстремальным для р, т. е. ext(p'(#)) С С ext(p). Привлекая 2.3.2 и 2.3.4, мы получаем требуемое представление. О
Ниже нам понадобится еще одно свойство крайних точек.
2.3.8.	Для любого ^-сублинейного оператора р : X —> Е и произвольного n G N выполнено равенство
ext (пр) = next(p).
< Пусть сначала Т G ext(np). Тогда на основании 2.3.5 (1) Т = nS, где S G др. Проверим, что S G ext(p). В самом деле, если 2S = Si 4- S2, где ShSz € др, то 2Т = 2nS = nSi 4- nS2. Таким образом, nS = nSi = nS2. По предложению 2.3.5 (3) получаем S = Si = S2, что и нужно.
Если теперь Т G ext(p) и 2nT = Ti 4- Т2, где Т1,7г € д(пр), то согдасно предложению 2.3.5 (3) будет Ti = nSi и Т2 = nS2 для некоторых Si, 5г G др. При этом 2nT = n(2T) = n(S'i 4- S2). Привлекая 2.3.5 (3), имеем 2Т = Si 4- S2, откуда Т = Si 4- S2. Следовательно, Ti = nSi и Т2 = nS2. Тем самым nT G ext(np). >
112
Глава 2. Геометрия субдифференциалов
2.3.9.	Для дальнейших нужд нам потребуются дополнительные сведения об ортоморфизмах в ^-пространствах. Пусть Е — некоторое К-пространство, а 1е ~ это, как обычно, тождественный оператор в Е. Полосу, порожденную оператором 1е в /^-пространстве регулярных операторов Lr(E), обозначают символом Orth(E). Напомним, что элементы Orth(E) называют ортоморфизмами. В теории /С-пространств проверяется, что ортоморфизм тг можно охарактеризовать как регулярный оператор, коммутирующий с проекторами (элементами базы Е) или с мультипликаторами (элементами М(Е)). Другое характеристическое свойство ортоморфизма тг, послужившее поводом к его названию, таково: если ci Л в2 = 0, то 7Г61 Л в2 = 0. В Orth(P) выделяют наименьшее нормальное подпространство <2^(Е), содержащее 1е>С этим подпространством мы уже встречались в 2.1.7 (2). Как известно, его называют идеальным центром Е. Очевидно, что относительно естественных кольцевой и порядковой структур Orth(P) и 3£\Е) являются решеточно упорядоченными алгебрами. При этом служит фундаментом Orth(E), т. е. в Orth(F) \ {0} нет элементов, дизъюнктных к ЗР(Е). В свою очередь, как по сути уже отмечено, Orth(B) — централизатор в алгебре Lr(E). Подчеркнем также, что в силу коммутативности алгебры Orth(jE7) композицию ортоморфизмов 7Г107Г2 часто обозначают просто 7Г17Г2. Итак, остановимся на необходимых нам фактах об ортоморфизмах.
2.3.10.	Для положительного оператора Т € Lr(E) эквивалентны следующие утверждения:
(1)	Т € Orth(E);
(2)	Т 4- 1е ~ решеточный гомоморфизм;
(3)	Т + 1е обладает свойством Магарам, т. е. сохраняет порядковые отрезки.
< (1) —> (2): Если Т G Orth(E), то по определению Т 4- Ie € Orth(P). Кроме того, ортоморфизмы сохраняют точные границы непустых ограниченных множеств (см. Приложение 2).
(1)	—> (3): Пусть 0^е€Еи0^/^(Т-Ь 1е)с. Используя спектральную теорему Фрейденталя, можно выбрать такой ортоморфизм 0 < о < /в, что / — а(Т 4- 1е)с- Так как ортоморфизмы коммутируют, будет f = (Т 4- 1Е)(рё), причем 0 ае < е. Это означает, что Т 4- 1е сохраняет порядковые интервалы.
(2)	(1): Поскольку Ie Ie + Т, то по 2.1.9 (1) найдется мультипликатор
7 6 M(E), для которого 7 о Т = 1е — 7- Отсюда для каждого проектора Р в Е вытекает 7 о (Т о Р — Р о Т) = 0, ибо ортоморфизмы коммутируют друг с другом. В частности, для проектора Р7 на ядро ker(7), которое, очевидно, служит полосой F, получается 7 о Т о Ру = 0.
Кроме того, 7 о Т о Р7 = (1Е —	= Ру* Таким образом, ker(7) = 0. Значит,
Т о Р = Р оТ для всякого проектора Р. Как уже отмечено, это свидетельствует о том, что Т е Orth(P).
(3)	—> (1): Пусть Ci Л 62 = 0. Тогда
Tei Л 62 Tei С Tei 4- ei = (1е 4- Т)е\.
Так как 1е + Т обладает свойством Магарам, то для некоторого е из порядкового
2.3. Субдифференциалы операторов, действующих в модулях
113
интервала [0, ei] выполнено в2 Л Tei = Те + е. Имеем оценки в2 > Те\ Л в2 = = е + Те е и ei > е > 0. Значит, 0 = ei Л в2 > е Л е 0. Тем самым е = 0, а следовательно, и Tei Л 62 = 0. О
2.3.11.	Пусть А — подкольцо и подрешетка в Orth(E). Для тг,7 € А4" таких, что 7Г > 1е, положим
К х](7) := inf{<5 G А+ : 5тг 7}.
Тогда [тг-1] : А —> Orth(E1)* — возрастающий А-сублинейный оператор, причем 7 = к~1](7Г7) Для всех У £ а4-.
<J Прежде всего заметим, что при тг51 > 7 и тг#2 > 7 справедливы неравенства тг(<51 Afo) > 7П$1 Л7п52 > 7- Отсюда следует, что [тг]-1 (7)	7 и тг[тг-1](7) > 7. Если
72	71, то
тг([7Г_1](72) л 71) > 72 Л 7Г71	71 Л 72 = 71-
Это означает, что справедлива оценка [тг-1](72) Л 71	к"1](71)- Таким образом,
к’1] — возрастающий оператор.
Заметим теперь, что для любых 71,72 € А+ согласно уже доказанному будет 7г(к~1](71) + к”1](72)) > 71+72, т. е. к"1](71+72)	к"Х](71) + к“1](72)- Кроме
того, если //,7 е А+, то справедливо равенство 7г/1[7г-1](7) = М7Гк~1](7)	М7,
т. е. k-1](/ry)	мк"Г](7)-
Иными словами, оператор [тг”1] действительно А-сублинеен.
Для завершения доказательства заметим, что верны оценки к-1](тг7)	7 и
7rk-1]k7) Отсюда вытекает равенство тг[тг-х](тг7) = яу. Учитывая, что кег(тг) = {0} в силу условия тг > окончательно заключаем: 7 = [тг-1](тгу). >
2.3.12.	Перейдем к установлению основного факта текущего параграфа, состоящего в том, что аддитивные миноранты сублинейного оператора автоматически оказываются гомоморфизмами при условии, что речь идет о подкольце (и подрешетке) А кольца ортоморфизмов Еь, естественно действующем в Еь- Идея доказательства этого факта весьма прозрачна. В самом деле, почти очевидно, что крайние точки субдифференциалов должны коммутировать с мультипликаторами. Кроме того, по теореме Крейна-Мильмана для групп каждый субградиент — элемент субдифференциала — получается «интегрированием» крайних точек. Остается заметить, что соответствующие «дисперсные» интегралы, элементы субдифференциала канонического оператора, коммутируют с ортоморфизмами.
2.3.13.	Пусть Е = Еь и пусть 21 — произвольное множество. Если группа loo^i, Е) наделена естественной структурой &(Е)-модуля, то выполнено
de% С Hom^(E)(^oo(2l,
< Пусть Р — произвольный проектор в Е и a G де*. При каждом у € Joo(2l, Е) справедливо
-Р о €<ь(-у) а о Ру <$ е* о Р(у) = Ро е*(у)-
Таким образом, для дополнительного проектора Pd := 1е~Р будет PdoaoP = 0.
114 Глава 2. Геометрия субдифференциалов
Значит, а о Р = Р о а о Р. Кроме того, Р о а о Pd = 0. Окончательно а о Р = PoaoP + PoaoPd = Роа. Из последнего соотношения следует, что оператор а коммутирует с конечнозначными элементами. Учитывая свойства ортоморфизмов (см. Приложение 2) и взяв п € N и тг G <2^(Е), подыщем конечнозначные элементы ап, /Зп такие, что 0 < тг - ап < п-17е и 0 /?п - тг п”1/#. Из соотношения ап о а С а о тг С /Зп о а теперь мы выводим, что а служит ^(Е)-гомоморфизмом. О
2.3.14.	Для всякого А-сублинейного оператора р имеет место включение
дАпЗГ(Еь)р с дАр
<] Возьмем тг € А-1" и для n G N положим an := тг Ап1е- Рассмотрим оператор Т € дЛГ}&(Еь^р и точку х из области определения оператора р. Тогда
(тг - an)p(x) р((тг - an)x) Т(тг - an)x = Ттгх - anTx.
Таким образом, тгр(ж) — Ттгх an(p(x) — Тх). Поскольку р(х) — Тх € Еь, из последнего неравенства вытекает, что тгр(ж) — Ттгх тгр(х) — тгТх. В силу произвольности х мы заключаем: Тотг = тгоТ,т. е. Те дАр. О
2.3.15.	Теорема. Аддитивные опорные модульно-сублинейного оператора являются модульными гомоморфизмами.
<3 Итак, для А-сублинейного оператора р : X —» Е нужно доказать равенство др = дЛр.
Установим, прежде всего, что для всякого Т е ext(p) будет Т е дАг^Еь^р. Возьмем тг € А+П^Г(Еь). Отметим, что для некоторого n е N выполнено тг < п!д, ибо = 1еь- Поскольку 1л действует в качестве тождественных операторов как в X, так и в Е, мы получаем:
пТ = о Т = тг о Т + (п!д - тг) о Т;
пТ = Т о тг + Т о (п1д — тг);
2пТ = тг о Т + Т о (п!д — тг) + (Т о тг — (п!д - тг) о Т).
Учитывая очевидные вхождения
тг о Т + Т о (п1д — тг) е д(пр),
Т о тг 4- (п1д — тг) о Т е д(пр)
и предложение 2.3.5 (2), по которому пТ е д(пр), мы видим, что
пТ = тг о Т + Т о (п1д — тг).
Таким образом, Т о тг = тг о Т.
Рассмотрим теперь оператор pi := р—Т, где Т е ext(p). Ясно, что im(pi) С Еъ-В силу ранее доказанного будет
ext(pi) С дАп2^Еь>)р\.
2.3. Субдифференциалы операторов, действующих в модулях
115
Кроме того, по теореме Крейна-Мильмана для групп 2.3.7 и предложению 2.3.13 имеют место соотношения
dpi = d£ext(P1) о (ext(pi)); ^ext(P1) С HomAnar(Eb)(/^(ext^i),ЕЬ), Еь).
Отсюда непосредственно можно сделать вывод о равенстве
dpi = dAn&(Eb}pi.
Если S е др, то S - Т е dpi и, значит, оператор S — Т является А П ^(£ф)-гомоморфизмом. Таков же и оператор Т. Окончательно S G дАГ]^^Еь^р. Ссылка на 2.3.14 завершает доказательство. О
2.3.16.	Упорядоченный A-модуль Е обладает свойством А-продолжения.
<] Нужно апеллировать к теореме Бигарда 2.3.4 и к 2.3.15. О
Сейчас мы займемся обращением последнего утверждения. Точнее говоря, мы установим, что с точностью до элементарных оговорок выпуклый анализ имеет место в тех и только тех случаях, когда речь идет о пространствах Канторовича, рассматриваемых как модули над алгебрами своих ортоморфизмов. С учетом теоремы 2.3.15, которая автоматически обеспечивает выполнение условий коммутации, мы можем сделать несколько парадоксальный вывод о том, что никакого специального «модульного» выпуклого анализа просто нет.
Начнем с аналога теоремы Иоффе о веерах 1.4.10.
2.3.17.	Теорема. Если упорядоченный A-модуль Е обладает свойством A-продолжения, то Еъ — это стертое К-пространство.
<] Установим сначала, что ограниченные множества в Еъ имеют точные верхние границы. Для этого следует показать, что любое семейство ([а$, попарно пересекающихся порядковых интервалов, т. е. таких, что а$ < при всех £, т] G S, имеет общую точку.
Рассмотрим A-модуль X, представляющий собой прямую сумму 5 копий кольца А. Пусть, далее, Хо ~ это A-подмодуль в X, определенный следующим образом:
Хо := тг := 7г(.) € X :
52’г^> = 0 >.
Рассмотрим оператор р : X —> Е, заданный соотношением
р(7Г) = 52 (7Г(^)+г*е “	а«) = 52	+ 7Г(^)+(6« - ае)) •
«€=
Ясно, что оператор р является А-сублинейным. При этом для элемента тг Е Xq в силу определения имеем
°=52’г(£) = 52(7г^)+~7г(£) ) = 527г(7?)+ -52^) •
«€= еез	Ties	«es
116 Глава 2. Геометрия субдифференциалов
В силу леммы о двойном разбиении (ср. 1.4.10) можно подыскать такое семейство	положительных элементов А, что
7r(’?)+ = 22	= S ’’’«’J ($’ G S)-
$es	Ч€=
Таким образом, для нашего тг € Хо будет
Р(7Г) = 22	“ 22 7Г^)~а« = 22	~ а«) > °-
лез	«ез	е.чез
В силу произвольности тг Е Xq, заключаем, что существует оператор Т Е с?лр, для которого Ттг = 0 при тг Е Хо. Возьмем какой-либо индекс £ Е Е и положим я^(£) := 1д и тг^(р) := 0 при р / £. Так как тг^ — 7гп Е Xq для любых £ и ту, то Ттг$ = Ттг^ для всех £ Е S и фиксированного £ Е S. Иными словами, для произвольных £, т} € S выполнено — р(—тг^) < Ттг^ < Осталось заметить, что р(тг^) = brj и р(-7Г$) = -ае.
Для доказательства того, что условно полная упорядоченная группа Еь является стертым /f-пространством, достаточно восстановить в Еь операцию умножения на |.
Рассмотрим у Е Е+ и положим р(у) := inf{z Е Е+ : 2z у}. Поскольку множество, фигурирующее в правой части последнего соотношения, фильтровано вниз, в силу о-непрерывности сложения выполнены оценки р(у) < у и 2р(у) у. Отсюда вытекает, что для 7Г1,тг2 Е Л+ и уъУ2 € Е+ справедливо 2(7Г1р(1/1) 4- 7г2р(1/2)) > 7Г13/1 + 7T2Z/2- Следовательно, р(я1У1 4- тг23/2) < 7Г1Р(?/1) + Л2Р(У2)- Более того, оператор р : Е+ —> Е возрастает. В самом деле, если yi ^У2У то
2(р(2/2) Л г/1) = 2р(г/2) Л 22/1 > У2 Л 2г/1 > 2/1 Л 2/2 = 2/1
и, значит, р(у2)	р(У2) Л ?/i	р(х/1)- Отметим дополнительно, что для всякого
у Е Е+ выполнено р(2у) = у. Действительно, р(2у) ^у и 2р(2у)	2у. Тем самым
2р(2у) = 2у, откуда у - р(2у) = -у(у - р(2у)).
Рассмотрим теперь q : Еь —> Е, определенный соотношением q(y) := р(р+). В силу ранее установленного q — возрастающий Л-сублинейный оператор. Значит, по условию dAq / 0. Для у Е Еь положим
(у) := sup{Ty : Т € dAq}.
Возьмем у е Е+. Тогда для всякого тг Е А будет
тгу = 7Г+у - 7Г_у = р(2тг+у) - р(2тг-у) = у(2тг+у) - у(2тг-у) < у(2тг+у - 2тг-у) = у(2тгу) = у(тг(2у)).
Стало быть, в силу 2.3.2 (1) найдется оператор Т G dAq такой, что
Т(2у) = у^ q(2y)	р(2у) = у.
1
2
2.3. Субдифференциалы операторов, действующих в модулях
117
Значит, 2q(y) = q(2y) — у, ибо q — это 2+-однородный оператор. Следовательно, У — [|)(2г/) для всех у € Отсюда непосредственно вытекает, что оператор [~] — возрастающий Л-гомоморфизм. Именно этот оператор мы и искали. Теорема доказана полностью. О
2.3.18.	Теорема. Пусть А является d-кольцом, т. е. для любых тп € А и ТГ2 G Л+ справедливы соотношения (тгхтгг)-1" = тг^тгг, (тг27Г1)+ = я^тт*. Упорядоченный A-модуль Е обладает свойством A-продолжения в том и только в том случае, если Еь является стертым К-пространством и естественное линейное представление А в Еь служит кольцевым и решеточным гомоморфизмом на подкольцо и подрешетку кольца ортоморфизмов Orth(Eb). При этом для любого А-сублинейного оператора р, действующего в Е, выполнено дАр = др:
<] Пусть сначала известно, что Е обладает свойством Л-продолжения. По теореме 2.3.17 Еь является (стертым) К-пространством. Рассмотрим естественное линейное представление ср кольца А в пространстве Еь, определенное соотношением
9р(тг)г/ := тгу (у е Еь, 7Г € Л).
Установим, прежде всего, что ср — решеточный гомоморфизм. Для этого, взяв у € Е+, определим оператор р : Л —> Е соотношением р(тг) := тг+?/. Оператор р является Л-сублинейным и возрастающим. Значит, если Т € дАр, то 0 < Т1д < у. Таким образом, Ттг = 7гТ1д = тп/i, где yi := и у± е [0, у]. В свою очередь, зафиксировав элемент yi € [0, у] и положив Ттг := тггц для тг 6 Л, мы получим элемент дАр. Учитывая Л "^-однородность оператора р (обеспеченную условиями теоремы) и привлекая 2.3.2, мы приходим к соотношению
^(тг4")?/ = тг+у = р(тг) = sup{T7r: Т е дАр} — sup?r[0,?/] = ср(тг)+у.
Проверим теперь, что im(<£>) С Orth(Eb). Для этого фиксируем элементы тг € Л+ и z, у € Е+ такие, что 0 z < тгу. При каждом ти G А верно 7Г1 z < 7г+ z < тг^тгу = = (7Г17г)+1/ = р(тг17г). Значит, на основании 2.3.2 (1) найдется оператор Т 6 дАр такой, что Ттг = z. Следовательно, z — тгТ1д, причем Т1д 6 [0,2/]. Тем самым ср(тг) служит оператором Магарам.
В силу произвольности тг, опираясь на 2.3.10, мы делаем вывод о том, что <£>(тг) — ортоморфизм при 7Г е Л.
Для завершения доказательства достаточно установить, что если ср является решеточным гомоморфизмом Л в /f-пространство Orth(F^), то для произвольного Л-сублинейного оператора р : X —> Е будет др — дАр.
Изучим сначала случай, когда Е = Еь- Возьмем Т G др и точку х € X. Рассмотрим оператор 1тг := Ттгх, где тг G Л. Так как 1тг р(тпг) 7г+р(я) + тг~р(—х), то ker(t) э ker(<£>). Следовательно, по общим соображениям оператор t допускает снижение t на решеточно упорядоченное фактор-кольцо Л := Л/ ker(^). Наделим Е ассоциированной структурой точного модуля над Л. При этом А можно рассматривать как подкольцо и подрешетку Orth(F). Заметим дополнительно, что ДЛЯ 7Г е Л И 7Гх, 7Г2 G 7Г ВЫПОЛНвНО р(7Г1Х) = р(7Г2Х), ибо
р(7Г1Ж) - р(7Г2Я)	р((7Г1 - 7Г2)я:)	(7Г1 - 7Г2)+р(х) + (я"1 - ТГ2)~р(—х).
118
Глава 2. Геометрия субдифференциалов
Таким образом, корректно определен оператор р : А —> Е, действующий по правилу р(тг) := р(тпг) (тг € тг). Ясно, что оператор р является А-сублинейным. При этом t € др. В силу теоремы 2.3.15 др = дАр, т. е. йг = тгЙЦ для тг € А. Отсюда вытекает, что Ттгх = тгТх, т. е. Т G дАр.
Рассмотрим теперь общий случай и вновь возьмем Т € др и точку х € X. Заметим, что для каждого тг Е А выполнено
р(тгж) — ТгТх = р(7Г+Х — 1Г~х) — (7Г+ — 1Г~)Тх < С 7Г+(р(х) — Тх) + 7Г“(р(-ж) — Т(—х)).
Таким образом, выражение д(тг) := р(тгх) — Ттгх определяет оператор, действующий из А в Е&. Ясно, что этот оператор А-сублинеен и, значит, по уже доказанному dq = dAq. Оператор Sir := Ттгх — тгТх, очевидно, входит в dq, а потому Sir — 7г51д = 1г(Тх — Тх) = 0. Последнее означает, что Т G дАр. >
2.3.19.	Условие, наложенное нами в теореме 2.3.18 на кольцо А, можно изменить, однако избавиться полностью от подобного рода предположений в принципе невозможно, если желательно сохранить А+-однородность Ж+-однородного А-сублинейного оператора. Теорема 2.3.18 показывает, что свойство продолжения обязательно имеет место в усиленной форме, т. е. групповой гомоморфизм, определенный на подгруппе и мажорируемый модульно-сублинейным оператором, допускает мажорированное продолжение до модульного гомоморфизма.
Для описания модулей, допускающих выпуклый анализ, нам понадобится еще одно понятие. Подкольцо А кольца ортоморфизмов называют почти рациональным, если для всякого п G N имеется убывающая сеть ортоморфизмов (тг^)^ен из А такая, что при каждом у € Е+ выполнено
(1/п)у = о-1пп7г^г/ = inf тг^у.
2.3.20.	Кольцо А является почти рациональным в том и только в том случае, если каждый А-сублинейный оператор является А+-однородным.
<1 Допустим сначала, что А-сублинейные операторы являются А+-однород-ными. Возьмем у G Е+ и, привлекая предложение 2.3.11, рассмотрим А-сублинейный оператор 7	[тг”1](7+)т/, где тг G А+. По условию этот оператор
А+-однороден, т. е.
У = к-1]Мл)у = 7г[7Г_1](1д)з/.
Ввиду произвольности у отсюда следует, что [тг”1](1д) = тг"-1. Рассмотрим в качестве тг оператор п!д.
Тогда в силу определения оператора [тг”1] получается
[(п1д)-1](1д) = inf{<5 € А+ : пб 1л},
откуда и вытекает почти рациональность кольца А.
Пусть теперь заранее известно, что кольцо А почти рационально. Рассмотрим некоторый А-сублинейный оператор р : X —> Е. Заметим, что для любого
2.4. Внутреннее строение субдифференциалов
119
тг € А такого, что 0 тг 1д, даже без предположения о почти рациональности р(тг.т) = тгр(ж) для всех х 6 X, Действительно,
р(х) = р(кх 4- (1д — 7г)ж)	7гр(а;) 4- (1д - тг)р(ж) = р(х)-
Таким образом, в силу 2.3.15 для установления А+-однородности р достаточно убедиться в том, что р является ^-однородным оператором. Для проверки последнего свойства возьмем п € N и выберем семейство мультипликаторов (тг$)$€В, для которого 7Г£ 1 и 7г^ е А. Положим := (1д — (п — 1)тг^)+. Ясно, что
€ А+. При этом выполнено — (п — 1)тг^	— n”x(n — 1)1д = ггЧд.
Следовательно, щ	и Т Возьмем элемент х € X. Тогда будет
О < пр(х) — р(пх) и, значит,
О а%(пр(х) - р(пх)) = пщр(х) — р(гш^х) = 0.
Переходя к пределу, убеждаемся, что р — это ^-однородный оператор. >
2.3.21.	Теорема. Упорядоченный A-модуль Е допускает выпуклый анализ в том и только в том случае, если Еь — это стертое К-пространство и естественное линейное представление А в Еь является кольцевым и решеточным гомоморфизмом на почти рациональное кольцо ортоморфизмов в Еь-
< Операторы тг н-> тг+у (тг е А) и z >—> z+ (z € Еь), где у € Е+, очевидно, А-суб-линейны. Значит, если A-модуль Е допускает выпуклый анализ, то в силу 2.3.2 эти операторы А+-однородны. Ввиду 2.3.10 последнее означает, что естественное линейное представление Ав Еь является кольцевым и решеточным гомоморфизмом на подкольцо и подрешетку Orth(E^). В силу 2.3.20 это подкольцо почти рационально. Для завершения доказательства достаточно осуществить необходимые факторизации, как в доказательстве теоремы 2.3.18, и сослаться на эту теорему и на 2.3.20. >
2.4. Внутреннее строение субдифференциалов
Из результатов предыдущих двух параграфов непосредственно вытекает, что опорные множества общих сублинейных операторов по своей экстремальной структуре весьма напоминают субдифференциалы скалярных выпуклых функций во внутренних точках их областей определения. В то же время для последнего случая выполнены следующие связи, устанавливаемые в стандартных рамках выпуклого и функционального анализа:
(а)	субдифференциал — это выпуклое слабо компактное множество;
(Ъ)	элементы наименьшего субдифференциала, содержащего некоторое слабо (порядково) ограниченное множество 21, получаются применением операций взятия выпуклой оболочки 21 и перехода к замыканию;
(с)	крайние точки наименьшего субдифференциала, порожденного множеством 21, лежат в слабом замыкании исходного множества 21.
Вопрос об операторных вариантах приведенных утверждений — тема текущего параграфа. Ниже в 2.4.10-2.4.13 мы дадим явное представление элементов субдифференциала и его крайних точек с помощью конкретной процедуры,
120
Глава 2. Геометрия субдифференциалов
применяемой к о-крайним точкам. Метод исследования — теория булевозначных моделей или, как еще говорят, булевозначный анализ.
Приблизительный план использования названного метода таков. Следует сначала подобрать булеву алгебру и отвечающую ей модель теории множеств, в которой изучаемый (= «внешний») оператор станет изображать скалярную выпуклую функцию в модели (= превратится во «внутреннюю» выпуклую функцию). После этого, интерпретируя во внешних терминах внутренний геометрический смысл субдифференциала функции, следует получить искомый ответ. Прямая реализация этого плана возможна, но связана с некоторыми техническими неудобствами (так, понятие о-крайней точки «плохо» интерпретируется). В этой связи ниже предпринят обходной маневр — указанный план использован лишь для анализа канонического сублинейного оператора. Общий случай выводится с учетом как специфики строения его субдифференциала, так и того факта, что любой сублинейный оператор лишь линейной заменой переменной отличается от канонического.
В этой связи отметим, что главная цель текущего параграфа — показать, как центральные понятия субдифференциального исчисления для операторов возникают при внешней расшифровке соответствующих скалярных предшественников в подходящей модели теории множеств. Необходимые сведения из теории булевозначных моделей теории множеств имеются в [141, 144] (см. Приложение 4).
2.4	.1. Начнем со вспомогательных сведений о способах изображения пространства ограниченных функций и сопряженного пространства в булевозначных моделях.
(1)	Пусть 21 — некоторое непустое множество. В силу принципа максимума в имеется объект /ОО(21Л,<^’) такой, что (/оо(21л,^) — это /^-пространство ограниченных функций с областью определения 21Л и значениями в = 1.
Рассмотрим спуск
/оо(21л,^Н = {t е : h е /оо(21л,^)] = 1}.
Осуществим спуск алгебраических операций и отношения порядка из Iqq (21л,^) в /оо(21л,^)|. Очевидно, что множество /оо(21л,^)| тем самым превращается в /f-пространство и, более того, в модуль над
(2)	Отображение «подъем», сопоставляющее ограниченной ^l-значной функции на 21 ее подъем — ограниченную &-значную функцию на 21Л внутри V<B\ осуществляет алгебраический и порядковый изоморфизм 1^ (21, <^Ц) и (21л, ^) |.
< Это утверждение почти очевидно, если держать перед глазами канву конструкции. Для полноты поясним некоторые моменты.
Итак, пусть f 6	Как отмечено в [144, 3.5.5 (3)] (подробнее см.
П4.11), тогда [/Т : 21Л —» = 1, причем для А € 21 будет [/(А) = /Т(ЛЛ)] — 1. Из определения порядка в ясно, что /Т(21Л) ограничено внутри V^B) и, стало быть, /Т € /ОО(21Л,^’). Нас интересует оператор Up : f w f] из £«,(21,^1) в ^оо(21л»^)1- Пусть g G /оо(21л,^)1- Тогда
h : 21л - Л (3t G ^)|<?(2Г)|	= 1.
2.4. Внутреннее строение субдифференциалов
121
Ясно, что д — Up(p|), т. е. Up ~ это эпиморфизм. Прочие утверждения об Up проверяются столь же просто. 1>
Смысл приведенного утверждения состоит, в частности, в том, что пространство /Оо(21Л,‘^’Н, с одной стороны, можно рассматривать как еще одну реализацию пространства /оо(21,^|), а с другой — как область определения dom(Z-(2lA,^)).
(3)	Рассмотрим в V(B) объект	для которого выполнено
Воо(21Л,«^)^ ~ это сопряженное к /оо(21л,^’) пространство] = 1.
Спуск U(2lA,^)#l наделяется спущенными структурами. Нет сомнений, в частности, ЧТО /оо(21Л^)#1 — ЭТО «^j-модуль.
Пусть // G /оо(21л?«^)^Ь т. е.
[д — ЭТО «^-гомоморфизм /Оо(21Л,‘^’) в ^] = 1.
Пусть, далее, д| : /оо(21л,^)!	~ спуск д. Для f G /оо (21,^1) положим
Ж(/) '•= М(/Т)-
(4)	Отображение «спуск» р »-> р[ осуществляет изоморфизм &[-модулей U(2lA,^)#l и Нот^|(/оо(21,«^|),«^|), где символом Hom^(ioo(2l,^|)^|) обозначено пространство & [-гомоморфизмов из /оо(21,«^1) в ^1*
< Единственным не вполне очевидным утверждением является то, что каждый «^-модульный гомоморфизм Т : /оо(21,«^Ч) —> &[ (а на самом деле и любое -однородное отображение) представляет собой спуск подходящего отображения внутри Для проверки этого утверждения положим
*(/):= Т(Д) (/GU(2l\^)l).
«
Следует убедиться, что t — экстенсиональное отображение, ибо то, что t — это Si 1-гомоморфизм Zoo(2l,^)l в ^|, бесспорно.
Проведем доказательство экстенсиональности t (не апеллируя к его аддитивности). Прежде всего, для элемента ь(Ь) из V^B\ представляющего перемешивание 1Л и 0л с вероятностями Ь и U соответственно (см. теорему Гордона), выполнено, что б(Ь) 6 S$[. При этом для функций f и g из 21А в «^ внутри V^B) последовательно заключаем
I/ = <7 ] > ь ~ I (VA е W)f(A) = «/(А)] b ~
- Д[/(Ал) = 5Ил)1^6- Al/l(A) = 5l(4)J>ftw
Дей	деа
W (VA € Й)4(6)/1(Л) = t(6)pl(A) w
122
Глава 2. Геометрия субдифференциалов
Отсюда для f,g€ ^оо(21Л,<^)1 с учетом положительной однородности Т мы получаем
[/ = gj > b w 4(6)Д = t(b)g[ -» T(i(d)/l) = T(^b)gl) -»
- ^)Т(Д) = t(b)T(5l) w [Г(Д) = T(<H) ] > b
в силу теоремы Гордона. >
Обратное отображение к отображению «спуск» /1 /ц мы обозначим так: t где t G Hom^|(Zoo(2l,<^|),^’|). Значит, в подробной записи
*т(/) = t(fl) (f е
2.4.2.	Дадим теперь описание пространства гомоморфизмов
Hom^|(/oo(2l,^i),^i)
в терминах мер. Это будет сделано путем интерпретации в булевозначной модели следующего утверждения: сопряженное пространство к банахову пространству Ioq (21, R) линейно изометрично пространству конечно аддитивных вещественных мер, определенных на 21.
Сначала введем соответствующий класс мер. Пусть В — булева алгебра и 21 — произвольное непустое множество. Тогда множество В21 всех отображений из 21 в В с поточечным упорядочением (а значит, и с поточечными решеточными операциями) — также булева алгебра. Взяв тг G В21 и Ь € В, по определению будем считать, что bn : а Ь Л 7г(а) (а € 21). Пусть В := ®(Е) для некоторого /^-пространства Е. Конечно аддитивную меру р G Ьа(Ва,В) называют модулярной, если Ър(тг) = p(bn) для всех b G В и тг 6 В21. Пусть Ьае(В21,В) обозначает множество всех В-значных модулярных мер на В21. Тогда Ьае(В21,В), снабженное обычными поточечными операциями и упорядочением, представляет собой векторную решетку. Более того, Ьае(В21,В) будет пространством Банаха-Канторовича, если определить в нем В-значную норму формулой |/i| := |/z|(l), где |/z| — полная вариация меры р, а 1 — отображение из 21 в В, тождественно равное 1 := /#.
Пусть {©, 1} — двузначная булева алгебра внутри В силу принципа максимума в модели имеется объект {©, I}21 — множество всех двузначных отображений, определенных на 21Л. Более того, в модели справедливо утверждение: множество { ©, 1} 21 при поточечном упорядочении служит булевой алгеброй, изоморфной булевой алгебре ^(21Л) всех подмножеств 21л. Так как спуск двухэлементной булевой алгебры {0,1} изоморфен В, то в дальнейшем мы будем отождествлять булевы алгебры В и {©,!}{.
(1)	Отображение «подъем», сопоставляющее В-значному отображению на 21 его подъем — {©, 1}-значное отображение на 21Л внутри осуществляет алгебраический и порядковый изоморфизм булевых алгебр В* и {©, I}21
< Это утверждение устанавливается в точности теми же рассуждениями, что и в 2.4.1 (2). [>
2.4. Внутреннее строение субдифференциалов	123
(2)	Рассмотрим теперь в модели объект Ьа(21Л,«^), для которого выполнено [Ьа(21Л,^) — пространство ограниченных конечно аддитивных вещественнозначных мер на 2(л]| = 1. Спуск Ьа(21л,^)| наделяется спущенными структурами. Легко убедиться в том, что ba(2tA,«^)j, — это «^-модуль. Более того, Ьа(21А,<^)| будет пространством Банаха-Канторовича, но этот факт в полном объеме нам не потребуется.
Возьмем элемент // е Ьа(йЛ,«^)|, т. е. — это ограниченная конечно аддитивная «^-значная мера на 2lA J = 1. Пусть, далее, //| : {©, I}21 |	— спуск
//. Для 7Г е В21 положим
wW •- Н(’гТ)-
(3)	Отображение «спуск» р w ру осуществляет изоморфизм &[-модулей Ьа(21А,^)|иЬае(В21,^).
<1 Здесь работают те же соображения, что и в 2.4.1 (3). Е>
2.4.3.	Построим теперь интеграл от ограниченной вектор-функции по модулярной мере. Возьмем меру р 6 Ьае(Ва, Orth(E)), где В := %$(Е) и Е С Не ограничивая общности, можно предположить, что мера р положительна, т. е. //(тг) > 0 для всех тг € В21. Общий случай сводится к этому, как обычно, с помощью разложения Жордана р = р+ — р~. Интеграл строится в три шага, представленные ниже в (1), (3) и (4).
(1)	Начнем с конструкции интеграла «ступенчатых» отображений. Обозначим
< й(-) = ]>27rfc(*)efc : 7Гь---’7Гт € В21, ei,...,em € Е >.
I а?=1
Как видно, Jf? — подрешетка векторной решетки /оо(21, В). На множестве интеграл определяют формулой
/Д(Л):= /	dp:=Y]ekp(7rk),
J \fc=i / fc=i
Легко проверить, что тем самым корректно задан положительный оператор из в Е. Кроме того, этот оператор обладает следующим свойством:
/Д(ЬЛ) = bl^h) (be В,he jT);
1Ш1^|Л|//(1) (Л€^).
Для того чтобы распространить интеграл на Zoo (21, Е) нам потребуется вспомогательный факт о том, что множество Ж в определенном смысле плотно в /о©(21? -£)•
(2)	Пусть 0 х е Zoo(2l? Е). Для любого е > 0 найдутся разбиение единицы (bn)neN в В и последовательность (hn)neN С такие, что
|bnx(a) - bnhn(a)\ е|х| (а € 21, n G N).
124
Глава 2. Геометрия субдифференциалов
<3 Данное утверждение является интерпретацией в модели следующего факта: ограниченная функция с любой наперед заданной точностью приближается ступенчатыми. Последнее справедливо внутри в силу принципа переноса. Теперь требуемое несложно выводится с помощью рассмотренных выше приемов булевозначного анализа.
Не умаляя общности, предположим, что Е = и е := |я| — единица К-про-странства Е, Обозначим символом <р(21, я, е, п,/, #) формулу теории множеств Цермело-Френкеля ZFC, формализующую утверждение: f и g — функции из конечного множества {0,1,..., п — 1} в <^(21) ~ {О, I}21 и R соответственно, причем |х(а) — Xf(k)9(ty\ < е для всех a € 21. Тогда высказанное утверждение можно записать в виде
(VO < е е P)(3n G N)(3/)(^)^(Sl,^6,n,/^),
где Р — любое плотное подмножество R. Последняя формула истинна внутри с заменой R на Р на RA, 21 на 2lA, N на NA. Значит, пользуясь правилами вычисления булевых оценок истинности, можно написать:


Отсюда, пользуясь принципом исчерпывания для булевых алгебр, мы выводим, что для любого 0 < г € R найдется счетное разбиение единицы (6П), для которого |[ (3/)(3<?) <£>(21, х, пА, /, д) J > Ьп при всех n € N. Далее, в силу принципа максимума булевозначного анализа существуют элементы fn,gn € такие, что
bn<[f : {0,1,... ,пА-1} ->{©,!}], bn h : {0,1,-.-,пА - 1} Я],
bn < (Va G ЯЛ) |х(а) -	/п(&)Рп(&)| < ел
к<пЛ
Без потери общности можно считать, что |[/п : {0,1,... ,пА — 1} —> {ОД}] = 1 и [Зп * {0,1,...,пА — 1} —> <^] = 1. Пусть теперь и д'п — ограничения на множество {0,1,...,п — 1} спусков /п| и дп[ соответственно. Тогда
: {0,1,..., п — 1} —> В21, д'п : {0,1,..., п — 1} —> 01 [ и при этом
п—1
bn х(а) - ^2 /n(fc)#n(fc) < £bne	N).
fc=o
Полагая hn := ]Г£=о fn(k)9n(ty, приходим к требуемому, о
(3)	Обозначим символом Ж подмножество ^(21, Е), состоящее из отображений вида Л(а) = bnhn(ot) (а € 21), где (6П) — разбиение единицы в В, а — порядково ограниченная последовательность в Ж, Как видно, — векторная подрешетка и подмодуль в 1^ (21, Е), Для отображения h G указанного
2.4. Внутреннее строение субдифференциалов
125
вида положим по определению оо =	1 bnIp(hn)»
fc=i
Нетрудно проверить, что тем самым корректно определен положительный оператор из в Е, обозначаемый также символом
(4)	Наконец, возьмем элемент 0 < х € Iqq (91, Е). Согласно (2) для е :— 1/п найдется отображение hn G такое, что |х — hn\ < (1/п)|х|. Таким образом, последовательность (hn) сходится с регулятором к х. Положим по определению 1Дх) := r-limn_>oo I^(hnY Вновь нетрудно проверить как корректность этого определения, так и то обстоятельство, что возникающий оператор 1ц • ^oo(2l> Е) —> Е линеен и положителен. Более того, является модульным гомоморфизмом: plp(x) = 1Дрх) для любых р € Orth(E) и х G /^(й, Е). Отметим также, что этот оператор ограничен в следующем смысле:
1М®)| |ф(1) (хеи(Я,Е)).
2.4.4.	Линейный оператор Т :	(й, Е) —> Е называют ограниченным, если су-
ществует такой ортоморфизм р € Orth(E), что \Тх| < р|ж| для всех х € Zqo(21? Е). Точную йижнюю границу в Orth(E) всех р, удовлетворяющих последнему соотношению, обозначают символом | Т\ и называют абстрактной нормой оператора Т. Пространство 1/ь(/оо(й, Е), Е) всех ограниченных операторов из /^(й, Е) в Е с Ог1Ь(Е)-значной нормой представляет собой пространство Банаха-Канторовича. (Соответствующие подробности см. в [131, 132].)
(1)	Теорема. Для любого линейного ограниченного оператора Т из /оо(й, Е) в Е существует единственная модулярная конечно аддитивная мера р := рт •
—> Orth(E) такая, что
Тх = У xdp (х е 1оо(9[,Е)).
Отображение Т	рт осуществляет сохраняющий Е-значную норму изоморфизм
Orth( Е)-модулей ^(/^(й, Е), Е) и Ъае(В*, Orth(E)).
<] Мы уже видели в 2.4.3, что для каждой модулярной конечно аддитивной меры р : В* —> Orth(E) интеграл является ограниченным линейным оператором из /оо(й, Е) в Е, причем |/д| = |/1|.
Наоборот, возьмем 0 < Т G Lb(l<x>(9L,E),E). Тогда Т входит в опорное множество сублинейного Е-значного оператора х и-* р|х| (х € 1^(91, Е)). Так как последний, очевидно, Ог1Ь(Е)+-однороден, то в силу 2.3.15 оператор Т — модульный гомоморфизм и, в частности, Ог1Ь(Е)-однороден. Отсюда вытекает, что для произвольного тг G отображение е Т(тг(-)е) (е € Е) будет ортоморфизмом. Обозначим этот ортоморфизм символом р(тг). Нетрудно проверить конечную аддитивность и порядковую ограниченность так возникающего отображения р :	—> Orth(E). Более того, из определения р вытека-
ет равенство р(л)е = Т(л(-)е) (тг € Ва,е G Е). Последнее влечет совпадение
126
Глава 2. Геометрия субдифференциалов
на Я? операторов Т и Но тогда эти операторы совпадают и на В самом деле, если bnh € (n € N) для некоторого разбиения единицы (Ьп), то bnTh = T(bnh) = Ip(bnh) = bnlph, следовательно, Th = I^h. Наконец, равенство на всем пространстве Zoo (21, Е) устанавливается путем перехода к соответствующим г-пределам. [>
Как и выше, отображение 1 : 21 —> В тождественно равно 1 € В. Конечно аддитивную меру /1 е Ъае(В*,Е) называют вероятностной, если /1(1) = 1е-
(2)	Опорное множество де^Е биективно с множеством всех вероятностных модулярных Ог1Ь(Е)-значных мер на В*, где В := ф(Е). Иными словами, справедливо интегральное представление:
деъ,Е = {/Д-) : М G bae(j5a,Orth(2?))+, д(1) = 1Е] .
<1 Как видно, |£21,е(я)| < |т| для всех х € Zoo(2l,E). Значит, опорное множество канонического оператора состоит из ограниченных операторов, которые в соответствии с (1) являются интегралами по ограниченной конечно аддитивной модулярной мере. Условие а о Д<^е = 1е из 2.1.4 (3) равносильно равенству д(1) = 1Е. >
2.4.5.	Пусть вал — канонический сублинейный функционал, отвечающий множеству 21л внутри т. е. такой элемент для которого
[вал : /оо(21Л^) ->	= 1,
I(V/ €	= sup/(2T)] = 1.
Подсчет показывает, что для каждого / € /оо(&»^1) будет
1^21Л(/Т) = £а(/) ] = 1-
(1) Пусть де^ — это субдифференциал сублинейного функционала внутри Тогда для любых оператора t € Hom^|(Zoo(2l,^|),^| ) и элемента ц € ^оо(21л,^)#1 выполнено
w £ С cfegG щ е де* (9бал)|.
<3 Последовательно привлекая установленное ранее, выводим:
6 (5б2(л)|	] = !<->
-	[(V/ е Мйл,адт(/) еал(/)] = 1 ~
-	Л ьт(/) ^(П1 = i -
/еи(ал,^)1
~ Л Р(ДК*НЛТ)] = 1~
/еи(*л^)1
2.4. Внутреннее строение субдифференциалов
127
/е/оо(21Л^)1
Л [t(5) ^ея(р)] = 1 <->
geloot^l)
~ (Vp € ЦЗДШ £»(<?)] = 1 ~
<-* (Уд е	£я(р)«-»t е де*.
Вторая из доказываемых эквивалентностей представляет фактически иную запись уже установленной. 1>
(2) Пусть ext(6giA) — множество крайних точек субдифференциала де^ внутри Тогда для произвольных оператора t € Hom^|(Zoo(2l, ),<^Jj и элемента у е	выполнено
е ext(62iA)l <-* t G. ext(ssi);
е ext(£2i) <-> р € ext(e2(A)|.
<] Вновь ограничимся доказательством первой эквивалентности. При этом удобно воспользоваться тем, что крайние точки субдифференциала канонического оператора суть лежащие в нем решеточные гомоморфизмы (см. 2.2.9). С учетом этого имеем цепочку эквивалентностей
е ext(s<2iA)| w G ext(e2i)] = 1 <-»
~ 1*т е а£а] Л [(V/ е /оо(йЛ,^))«т(1/1 = 1«т(/)1 ] = 1 ~
~t6<teaA Д |[tT(l/l) = 1<т(/)1] = 1 ~
~ t € де* Ь (V/ € /оо(21,^Ж1/1) = Ш\ ~ t е ext(sa),
из которой вытекает требуемое. 1>
2.4.6.	Условимся в терминологии. Пусть В := *В(Е) := %i(E) — база К-про-странства Е, т. е. полная булева алгебра порядковых проекторов в Е или (что то же самое) алгебра положительных идемпотентных мультипликаторов в Е. Возьмем разбиение единицы в В. Если (T^)^es — семейство операторов из L(X, Е) и оператор Т е L(X, Е) таков, что Тх = Ь^Т^х Xя* хеХ,тоТ называют перемешиванием (7$)$ез с вероятностями (Ь$)$е=. Пусть Е :=	:= Т] и
:= Тогда будет перемешиванием семейства (ф С с вероятностями (Ь^). Отсюда видно, что такое внешне незаконное использование занятого слова «перемешивание» фактически корректно.
Взяв канонический сублинейный оператор б<а, мы ясно видим, что 6-функции £а' f /(^4) (/ Zoo(21, ^)) лежат в ext(£2i)- Перемешивания семейства называют чистыми состояниями на 21. Очевидно, что чистые состояния — это о-крайние точки канонического сублинейного оператора.
128
Глава 2. Геометрия субдифференциалов
2.4.7.	Отображение «спуск» осуществляет биекцию между множеством чистых состояний на 21 и подмножеством состоящим из 6-функций в точках стандартного имени 21Л внутри булевозначной модели V(B>. Иными словами, t е Hom^j (/00(21,^1),^!) — это чистое состояние на 21 в том и только в том случае, если
[(ЭА€Йл)(<Т =£д)] = 1.
<1 Ясно, что
[(34 е 2T)(it = £д)] = 1 ~ \/[«г = £Ал] = 1.
AG21
Последнее, как очевидно, бывает в том и только в том случае, если найдутся разбиение единицы (6$)$es и семейство (А^)^е точек 21 такие, что есть перемешивание (£да)$€5 с вероятностями (^)^gs-
Далее, привлекая свойства перемешивания и теорему Гордона, мы выводим:
<г = Е6«%л w «62
(v/ е u(a\^))«f(/) = Е^Ал(/)
CGS
= 1
~ (V/ G /оо(21,^1))«Т(/Т) = £ W ~
CGS
- (V/ G /оо(й,^1))«(/) = Е V(^) ~
«63
~ W е Zoo(2l,^l))(ve G	~
W (V/ € ioo(a,^l))(VC € 2)[t(6€)t(/) = ^)£л€(У)1 > Ь« ~ - (V/ € Zoo(2t,^l))i(/) = El(M^(/) -1 = E^e)^-
Установленная эквивалентность делает требуемое очевидным. [>
Перейдем к описанию строения крайних точек и элементов субдифференциала канонического оператора. Метод получения нужных описаний состоит в интерпретации во внешних терминах теорем Крейна-Мильмана и Мильмана, сформулированных для функционалов в нужной булевозначной модели.
2.4.8.	Каждая крайняя точка субдифференциала канонического оператора является поточечным r-пределом сети чистых состояний.
< Рассмотрим крайнюю точку субдифференциала канонического оператора, действующего из /оо(21, Ео) в Eq для некоторого К-пространства Eq. В силу теоремы Мильмана 2.2.10 можно считать, что рассматриваемая крайняя точка — это сужение на Ioq(^L,Eq) крайней точки t субдифференциала канонического оператора действующего из Zoo (21, Е) в Е, где Е := т(Ео) ~ максимальное расширение /f-пространства Eq (ср. 1.6.6).
Иначе говоря, Eq можно считать нормальным подпространством и даже фундаментом некоторого расширенного JC-пространств а Е. Отметим, что этот факт
2.4. Внутреннее строение субдифференциалов
129
несложно вывести и на основе техники булевозначного анализа. Для этого, прежде всего, нужно заметить, что Eq допустимо рассматривать как подмножество булевозначного универсума V^B) над базой В := ty(Eo) исходного пространства £*о, совпадающей с базой т(£?о)« Затем в качестве Е следует взять ЕЬТ!-
Учитывая, что £?оТ = -ЕТ и элемент «^ := Е] играет роль поля вещественных чисел внутри V^B) по теореме Гордона, мы видим, что нам следует разобрать лишь тот случай, когда изучаемый оператор действует на спуск поля вещественных чисел. (Подробнее см. в [144, §5.2].)
Как установлено в 2.3.15, если t €	и t € де*, то t автома-
тически является модульным гомоморфизмом, т. е. t G Hom^j(/oo(2l,«^’i),«^|). Работая в V^B\ на основании 2.4.5 (2) мы видим, что tf € ехЦвал) На основании классической теоремы Мильмана 5-функции плотны в слабой топологии в множестве крайних точек субдифференциала (скалярного) канонического оператора. В силу принципа переноса
[(Vn € Ж)(М € ^йп(/оо(21Л,^)))(ЭА € ЙЛ)(У/ G 0) |tT (/) - /(А)| < 1/n] = 1.
Раскрывая булевы оценки по правилам из П4.1 и учитывая формулу П4.7 (4), для любого п е N и любого конечного множества 0, мы получим
(V/ € 0) [ (ЗА G ЯЛ)|£т(АТ) - ЛТ(А)|	1/пл 1 = 1.
Привлекая 2.4.7, мы найдем чистое состояние te, для которого
(feO).
Наделяя множество индексов <^finGoo(2l,<^4)) естественным порядком и превращая его тем самым в направление, мы видим, что возникающая сеть чистых состояний (te) — поточечно r-сходящаяся к t. >
2.4.9.	Субдифференциал канонического сублинейного оператора совпадает с поточечным r-замыканием сильно операторно-выпуклой оболочки множества 6-функций,
<3 Рассуждая так же, как в 2.4.8, мы сводим дело к случаю канонического оператора, действующего в спуск
Итак, пусть X — сильно операторно-выпуклая оболочка множества 5-функций на 21 и t € де<&. Ясно, что X состоит из «^-гомоморфизмов и что элемент t также «^-гомоморфизм. Тем самым X :=	: s G X} является сильно цикли-
ческим множеством элементов V^B\ где В := ф(«^|), и при этом для а,/? € «^1 выполнено [oXf + /ЗЗГГ С Х|] = 1, как только [а,/? > 0Л Л а 4-/3 = 1л J =1. Здесь мы используем то обстоятельство, что /©о(21Л,«^)^1 — это ^j-модуль. Окончательно, привлекая 2.4.5, мы видим, что Xf — это выпуклое подмножество внутри у(в). В самом деле,
[(Уа,/?е^)(а>0ЛЛ^>0ЛЛа + ^= 1Л)^ (аХТ + /?Х? СХ?)] =
= Д Л 1<ФТ W е XT] = Л Д |(ар)Т + (/?«)Т €ХТ]=1-
а,0Е&1 P,qtX а>0,/^0
а+0=1	а+3=1
5 Кусраев А. Г., Кутателадзе С. С.
130 Глава 2. Геометрия субдифференциалов
Значит, в силу классической теоремы Мильмана плотно в слабой топологии в де** внутри Замечая, что & € (б£2и|), находим необходимую сеть элементов X, r-сходящуюся к t (см. 2.4.8). >
Перейдем теперь к формулировке основных результатов о строении субдифференциалов сублинейных операторов, действующих в К-пространство.
2.4.10.	Теорема. Любая крайняя точка субдифференциала служит поточечным r-пределом сети элементов сильно циклической оболочки множества о-край-них точек.
<] Пусть Р : X —> Е — рассматриваемый сублинейный оператор и Т G ext(P). В силу 2.2.11(2) для некоторого t Е ext (e^0(pj) будет Т — to (<£о(Р)). Пусть (ty) — сеть чистых состояний, поточечно r-сходящаяся к t. Ее существование гарантирует 2.4.8. Бесспорно, что Ц о (<f0(P)) — это требуемая сеть. >
2.4.11.	Теорема. Крайние точки наименьшего субдифференциала, содержащего данное слабо порядково ограниченное множество линейных операторов 21, представляют собой поточечные r-пределы подходящих сетей перемешиваний элементов 21.
<1 На основании 2.2.11(1) множество крайних точек 21 лежит в множестве ext (ей) о (21). Остается сослаться на 2.4.9. 1>
2.4.12.	Теорема. Слабо порядково ограниченное множество линейных операторов является субдифференциалом в том и только в том случае, если оно операторно-выпукло и поточечно о-замкнуто.
<1 Ясно, что операторно-выпуклое и поточечно о-замкнутое слабо порядково ограниченное множество 21 заведомо является сильно операторно-выпуклым. Учитывая, что r-сходимость влечет о-сходимость, и привлекая 2.4.9, заключаем
21 С ^£21 о (21) С 21
(левое включение справедливо без каких-либо предположений). Значит, 21 — субдифференциал. Оставшаяся еще необоснованной часть утверждения бесспорна. >
2.4.13.	Теорема. Слабо порядково ограниченное множество линейных операторов является субдифференциалом в том и только в том случае, если оно циклично, выпукло и поточечно г-замкнуто.
<1 Цикличность в сочетании с выпуклостью и r-замкнутостью обеспечивает сильную операторную выпуклость и поточечную о-замкнутость. Ссылка на 2.4.12 завершает доказательство. О
2.5. Шапки и грани
Продолжим изучение весьма своеобразной геометрии выпуклых множеств в пространстве операторов. Конусы положительных операторов, как правило, лишены крайних лучей (а значит, и шапок, т. е. непустых выпуклых слабо компактных подмножеств с выпуклым дополнением), субдифференциалы, вообще говоря,
2.5. Шапки и грани
131
некомпактны ни в одной локально выпуклой топологии, но в то же время восстанавливаются по собственным подмножествам своих крайних точек. Природа отмеченных эффектов, ограничивающих возможности непосредственного применения стандартных геометрических методов, вскрыта в булевозначном анализе. Оказывается, что имеющиеся препятствия в известном смысле кажущиеся — их можно преодолеть за счет подходящего выбора булевозначной модели, в которой следует проводить исследование. Детализация отмеченного положения для задач изучения внутреннего строения субдифференциалов — сильно операторновыпуклых поточечно о-замкнутых и слабо порядково ограниченных множеств — проведена в предыдущем параграфе. Цель дальнейшего изложения — ослабить условие ограниченности в духе классической теории шапок, развитой Г. Шоке и его последователями. Особенность нашего подхода состоит во введении операторных шапок, которые в нетривиальных ситуациях не являются таковыми в классическом смысле (хотя и совпадают с ними в скалярном случае). Даются критерии субдифференциалов, служащих шапками и гранями множеств операторов. При этом выявляется существенный эффект: грани (и крайние точки), представленные субдифференциалами, «экстенсиональны», а шапки — нет. Точнее говоря, для изучения выпуклых множеств операторов приспособлены не обычные шапки, а операторные шапки, т. е. субдифференциалы, представляющие собой спуски — изображения скалярных шапок в подходящей булевозначной модели.
2.5.1.	Пусть X — вещественное векторное пространство, Е — расширенное К-пространство и U — операторно-выпуклое поточечно о-замкнутое подмножество в пространстве L(X, Е) линейных операторов из X в Е.
Подмножество С множества U называют операторной шапкой U или, более образно, спущенной шапкой, если С — субдифференциал, удовлетворяющий следующему условию экстремальности: для любых х, у G U и мультипликаторов а,/3 € М(Е) таких, что а + 0 — 1е и ах 4-0у € С, найдется порядковый проектор b G В := &(Е), для которого Ьх € ЬС и Ь'у € Ь'С (здесь, как обычно, Ь' := 1е — Ь — проектор, дополнительный к Ь).
Согласно 2.4.12, подмножество С С U является операторной шапкой U в том и только в том случае, если оно слабо порядково ограниченное поточечно о-замкнутое операторно-выпуклое множество, удовлетворяющее вышеупомянутому условию экстремальности.
Взяв W С L(X, Е), положим := {А^ : А G W}, где, как обычно, Т — символ подъема в отделимый булевозначный универсум построенный над булевой алгеброй В := &(Е) (см. Приложение 4). В соответствии с теоремой Гордона мы будем каноническим образом отождествлять /Г-пространство Е со спуском булевозначного поля действительных чисел при этом мы будем писать Е = или, что то же самое, Е] = ^. В частности, если А € ЦХ,Е), то А| — это КЛ-линейное отображение стандартного имени ХЛ в <^, т. е. линейный функционал на 1КЛ-векторном пространстве Х\
2.5.2.	Субдифференциал С служит операторной шапкой множества U С С L(X, Е) тогда и только тогда, когда — шапка множества [Л внутри
5!
132
Глава 2. Геометрия субдифференциалов
<1 Используя правила осуществления спусков и подъемов, проведем следующие булевы оценки истинности:
[С1 - шапка [Л ] = [(Va > O)(V>0 > 0)(Vx € L7T) (V?/ G t7T)
(a + 0 = 1Л A ax + fry & CT) -> (i € C1 Vy G CJ)| =
= A A kTGCMvhTeC1]-
a^O,/3^0 x,y€U a+/3=IE ax+0yeC
Если С — операторная шапка J7, то для точек х,у Е U и мультипликаторов a,/3 G М(Е), а + /3 = 1е и ах + (Зу G С, найдется проектор Ъ 6 В := ф(Е), при котором Ьх € ЬС и Ь'у € УС. Иначе говоря, для подходящих х' и г/' из С будет х = Ьх' и у = Ь'у'. Ясно, что |[xf € (ЬС)Т J = 1 и [з/f € (b'Cty ] = 1. Учитывая логическую истинность формулы
(жТ € (6С)Т) Л ((6С)Т = Ст) —» xf G Ст,
а также правила вычисления булевых оценок (см. Приложение 4), можно написать
[хТеСт]>[хТе(ЬС’)т]л[(ЬС’)т = С1 ] = (ЬСТ = СТ]>Ь;
ЬТ е Ст ] > hT € (Ь'су ] л [(УС/ = СЧ = [УСТ = СЧ > У.
Суммируя сказанное, можно заключить, что [С^ — шапка [Р ] = 1.
Если, в свою очередь, известно, что Ст — шапка 1Л внутри то при нужном выборе параметров а, /3, т, у на основании проведенных вычислений имеем [xf € СЧ V [з/Т £ СЧ = 1. Значит, для подходящего b G В будет ЦггТ G СЧ Ь и [?/Т € СЧ > У. Отсюда в силу принципа максимума мы выводим существование х' и у' из таких, что = x'J > Ь и = ?/'] > У, т. е. Ьх] = Ьх' и Ь'у] = Ь'у'. Последнее как раз и означает, что х G ЬС и у G Ь'С. >
2.5.3.	Множество называют хорошо накрытым, если оно представимо в виде объединения своих операторных шапок. Операторным лучом или Е-лучом из S в Т называют множество {S + а(Т — S) : 0 < a G Orth(E)} в пространстве L(X, Е). Крайним операторным лучом множества U именуют операторный луч, который является крайним множеством в U.
Из классической теоремы Крейна-Мильмана немедлено вытекает следующее утверждение (см. [237, с. 78])
(1)	Теорема Шоке. Пусть К — замкнутый выпуклый конус в локально выпуклом пространстве, являющийся объединением своих шапок. Тогда К служит выпуклым замыканием множества своих крайних лучей.
В [261] Л. Азимов получил следующее обобщение этого факта:
(2)	Теорема Азимова. Хорошо накрытое выпуклое замкнутое множество в локально выпуклом пространстве служит выпуклым замыканием множества своих крайних точек и крайних лучей.
Дадим булевозначную интерпретацию этой теоремы.
2.5. Шапки и грани
133
2.5.4.	Теорема. Справедливы следующие утверждения:
(1)	хорошо накрытое множество есть поточечное о-замыкание сильно выпуклой оболочки множества своих крайних точек и крайних операторных лучей;
(2)	множество U хорошо накрыто в том и только в том случае, если хорошо накрыт конус Ни, составленный поточечными о-пределами сетей элементов множества
{(aT,a) е ЦХ,Е) х Е : а О, Г € [7}.
< (1): Пусть U — хорошо накрытое множество. В силу допущений — выпуклое подмножество пространства ЦХ, Е)^. Рассуждая так же, как и в 2.4.1 (3), мы заключаем, что ЦХ, Е)^ совпадает с пространством Хл# линейных функционалов над Хл (= КЛ-гомоморфизмов из Хл в внутри При этом замкнуто в мультинорме {Т \Тх\ : х € Хл} в смысле рассматриваемого булевозначного универсума. Используя внутреннюю характеризацию субдифференциалов 2.4.12 и привлекая 2.5.2, видим, что U* является хорошо накрытым множеством внутри	Стало быть, по теореме Азимова	представляет собой
выпуклое замыкание множества своих крайних точек и крайних лучей. Используя спуски, приходим к требуемому.
(2): Ясно, что подъем {(аТ,а) : а О, Т € (7}т изображает коническую оболочку [Л х 1Л внутри Отсюда видно, что интересующее нас множество Ни таково, что (НиУ служит преобразованием Хёрмандера Н(1Л) множества W в булевозначном универсуме Привлекая 2.5.2 и соответствующий скалярный результат, приходим к нужному заключению. О
2.5.5.	В связи с теоремой 2.5.4 развернутые признаки шапок достаточно формулировать для более удобного случая конусов положительных операторов.
(1)	Замкнутое выпуклое множество С является шапкой конуса положительных элементов в топологическом упорядоченном векторном пространстве в том и только в том случае, если для всяких положительных элементов с\ и сг таких, что Ci + С2 6 С, найдутся ai > 0 и &2	0, удовлетворяющие соотношениям
Q1 + »2 = 1> С1 G Q1C И С2 G &2С.
< —>: Пусть сначала известно, что С — это шапка и с = с± 4- С2, где с\ О, С2 0 и с € (7. Предположим, что при любом А > 1 будет Aci С и Асг 0 С. Тогда по определению шапки
t := А“1(Ас1) + (1 - A-X)(A(A -	£ С.
В то же время t = с, что означает ложность сделанного допущения. Итак, имеется А > 1 такое, что один из элементов Aci и Асг лежит в (7. Пусть для определенности это Aci. Обозначим Ao := sup{A > 0 : Aci Е С}. Тогда Ao > 1 и при каждом А > Ао верно Aci С. Поскольку A”1(Aci) 4- (1 — А-1)(А(А — 1)-1С2) € С, то А(А - 1)“ХС2 € С, как только А > Ао- В силу замкнутости С мы заключаем: Ао(Ао - 1)“хс2 G С. Отсюда с2 € (Ао - 1)/Ао<7 и a € 1/А0(7.
<—: Пусть теперь для ai > 0, аг > 0, ai + аг = 1 и Ci,C2 > О справедливо QiCi + &2С2 € С и все же С\,С2 С. Если выполнено сформулированное условие,
134
Глава 2. Геометрия субдифференциалов
то QiCi = 7x6?! и а2С2 = 726/2 при некоторых <А, Й2 € С, 71 > 0,72 > 0 и 71+72 = 1. Поскольку ci = (71/07)di и С2 = (72/^2)^, то 71/ai > 1 и 72/02 > 1. В то же время неравенство 71/07 > 1 обеспечивает соотношение 72 = 1 ~71 < 1 -07 = 02-Получаем противоречие, т. е. хотя бы одна из точек ci или С2 попадает в С. Окончательно заключаем, что С — это шапка. >
(2)	Пусть р — положительный монотонный сублинейный функционал на пространстве (Х,Х+). Субдифференциал др служит шапкой конуса Х#+ положительных линейных функционалов на X в том и только в том случае, если выполнено каждое из следующих утверждений:
(a)	inf{p(z) : z > Ti, 2 > х2} = p(zi) Vр(т2) при xi,x2 € X;
(б)	конический отрезок {р < 1} фильтрован по возрастанию;
(в)	[ti, —>) А [я?2, —>) А {р < 1	0 для любых е > 0 и 27,#2 € {р < 1}, где
[ж, —>) := {я/ е X : х < х'}.
<1 Пусть сначала известно, что др — шапка в Х#+. Определим два сублинейных функционала q, г : X х X —> R, полагая
Q : (xi,Х2) ь-> inf{p(z) : z х\, z Тг}; r:(Ti,x2)h->p(Ti)Vp(ir2).
Заметим, что dq(-,X2) = dq(xi, •) = Таким образом,
dq = {(Л,/2) ёХ*хХ*:	О, Л + /2 € др}.
Учитывая 2.1.7 (1), мы получаем
dr = {(07/1, <*2/2) : 07 0, 02 0, ai + «2 = 1, /1 £ др, f2 G др}.
Остается учесть предложение 2.5.5 (1) и заметить, что др является шапкой в том и только в том случае, если dq = dr, чтобы сделать вывод о справедливости импликаций (а) —> (б) и (а) —> (в). Для завершения доказательства достаточно проверить соотношения (б) —* (а) и (в) —* (а).
Итак, в условиях (б) пусть t := p(xi) V p(xz). Тогда для каждого е > 0 будет (t + £)-1#i € {р < 1} и (2 + б)-1Ж2 € {р < 1}. По условию для некоторого z е X выполнено z (t + e)-1xi, z (t + е)"1^ и p(z) < 1. Положим zq := (t + e)z. Видно, что p(zo) = (t + e)p(z) < £ + £• Отсюда заключаем
p(iri) Vp(z2) inf{p(z) : z x\, z x2} p(zQ) p(o?i) Vp(x2) +
В силу произвольности £ мы заключаем: (а) вытекает из (б). Оставшаяся импликация (в) —> (а) проверяется столь же просто. О
Для дальнейшего полезно подметить, что 2.5.5 (1) справедливо при рассмотрении векторного пространства X над плотным подполем (с единицей) в R.
2.5.6.	Следующие утверждения эквивалентны:
(1)	р — верхняя огибающая опорных функций шапок;
(2)	р — верхняя огибающая дискретных функционалов;
2.5. Шапки и грани
135
(3)	р — функционал Минковского некоторого аппроксимативно фильтрованного конического отрезка, т. е. пересечения фильтрованных по возрастанию множеств.
< (1) —> (2): Обеспечено тем, что крайние точки шапок конуса положительных форм являются дискретными функционалами.
(2)	—> (3): Пусть р(х) := sup{pf (ж) : £ G 3} при х е X, где для каждого £ выполнено р^ := Т$(х)+ и — подходящий дискретный функционал. Ясно, что р — это функционал Минковского пересечения S := n$es{p$ < 1} и, стало быть, S — аппроксимативно фильтрованный конический отрезок в силу 2.5.5 (2).
(3)	-* (1): Следует из общих свойств шапок и 2.5.5 (2). >
2.5.7.	Теорема. Пусть X — некоторое упорядоченное векторное пространство и Р : X —> Е — возрастающий сублинейный оператор. Равносильны следующие утверждения:
(1)	субдифференциал дР служит спущенной шапкой конуса L+(X, Е);
(2)	для всяких х\,х2 Е X выполнено
inf{P(z) : z Xi, z х2} = P(tfi) V Р(жг);
(3)	если Ai, А2 € L+(X,E) таковы, что Ai + А2 G ЭР, то найдутся мультипликаторы , a2 € М(Е), для которых оц+а2 = 1е и, кроме того, Ai G сц о дР, А2 € а2 о дР.
(4)	при любых xi,x2 G X таких, что P(xi) 1е и Р(^2) С 1е, и произвольном е > 0 имеются разбиение единицы и семейство (2^)^es элементов X, удовлетворяющие соотношениям
z$ Xi, z$ х2, b^P(z^)	(1 + е)Ь^Е (£ е 3);
(5)	подъем (ОРУ является шапкой конуса положительных форм на стандартном имени ХЛ пространства X внутри булевозначного универсума построенного над базой В рассматриваемого К-пространства Е ;
(6)	внутри множество {Р] < 1} фильтровано по возрастанию.
<] В силу 2.5.4 имеем (1)	(5), ибо (дР)Т = 0РГ внутри Эквивалент-
ности (1) w (2) <-* (6) обеспечены 2.5.5 (2) и принципом переноса булевозначного анализа (см. Приложение 4). Соотношение (1) <-* (4) обеспечено предложением 2.5.5 (2), ибо
J дР] — шапка ] =
= I(Vxi,х2 е XA)(V0 < е G R)(3z е ХЛ) z > хх Nz > х2 ЛР|(г)	1л +е] =
= Д [ (З2 G Хл)г Л 2 > Л Р(2)	1л + ел ].
Х1 ,Х2&Х е>0
Остается привлечь принцип исчерпывания для булевой алгебры, теорему Гордона и правила вычисления булевых оценок истинности. Наконец, эквивалентность (2) w (3) обеспечена 2.1.7 (1). >
136
Глава 2. Геометрия субдифференциалов
2.5.8.	Отметим полезные следствия теоремы 2.5.7.
(1)	Крайние точки операторной шапки конуса положительных операторов являются дискретными операторами.
(2)	Возрастающий положительный сублинейный оператор Р является поточечной точной верхней границей множества дискретных операторов в том и только в том случае, если подъем Pf — функционал Минковского аппроксимативно фильтрованного конического отрезка в булевозначном универсуме.
2.5.9.	Перейдем к характеристикам субдифференциалов, являющихся гранями. При этом пространства X и Е можно считать модулями над одним и тем же решеточно упорядоченным кольцом А с единицей (см. 2.3). Сублинейный оператор Р предполагается А+-однородным. Мы начнем с анализа некоторого обобщения понятия шапки, считая X упорядоченным модулем, Р — возрастающим и положительным оператором. Пусть, далее, F — еще один упорядоченный A-модуль, допускающий выпуклый анализ, и Т — положительный модульный гомоморфизм из Е в F.
Эквивалентны следующие утверждения:
(1) для всяких Ж1,Ж2 G X выполнено
inf{TP(z) : z xi, х2} = Т(Р(ж1) V Р(ж2));
(2) при любых А1? А2 6 L+(X,F) таких, что Ai 4- А2 € д(Т о Р), найдутся гомоморфизмы 71, Т2 из L+(E,F), удовлетворяющие соотношениям
Т\+Т2 = Т, A^d^oP), А2ед(Т2оР).
<1 Определим два оператора Qi, Q2 : X х X —> F формулами
<91(^1, #2) := inf{TP(z) : О £1, О #2}, Q2{x1,x2) := T(P(iti) V Р(ж2)).
Ясно, что, Qi и Q2 — сублинейные операторы, причем Qi Q2. Таким образом, интересующее нас в (1) равенство можно переписать как включение dQ\ С dQ2. Осталось вычислить субдифференциалы dQi и dQ2. Для А& G L(X, F) (k := 1,2) определим модульный гомоморфизм (Ai, А2) : X х X —> F формулой (Ai, А2) : (Ж1,ж2) Ai^i 4- А2х2 (х\,х2 € X). Тогда
(Ai, А2) € dQi Ai О, А2 0, Ai 4- А2 € д(Т о Р)*
(Ai, А2) € 0Q2 w (ЗТ1 О, Т2 > 0)Ti + Т2 = ТА
A Ai G d(Tj о Р) А А2 € д(Т2 о Р).
В самом деле, достаточно применить формулы субдифференцирования из 1.4.14(6) и 2.1.7 (2). >
2.5.10.	Оператор Р (и его субдифференциал (ЭР), удовлетворяющий равносильным условиям, сформулированным в 2.5.9, называют Т-шапкой полумодуля L+(X,E). Отметим некоторые свойства таких шапок.
2.5. Шапки и грани
137
(1)	Каждая Т-шапка служит S-шапкой при S € [О, Т].
< Обозначим для симметрии Т' := S и Т" :=Т — S. Тогда
О inf{T'P(z): z > xi, z > х2} - T'(P(xi) V Р(®2))+
+ inf{T"P(z) : z > xi, z х2} - T"(P(xi) V Р(х2)) inf{(T' 4- T")P(z) : z > хъ z > х2} - Г(Р(^1) V Р(х2)) = О,
что и нужно. О
(2)	Пусть Р — это Т-шапка и Т о А € ext(T о Р) для А G дР (т. е. А — это Т-крайняя точка дР). Тогда [О, Т о А] = [О, Т] о А.
<] Пусть 0 < S < То А. На основании 2.5.9 найдутся 71 > О, Т2 0, 71 +Т2 = Т такие, что S G д(7\ о Р) иТ о А - S € д(Т2 о Р). Итак, 2Т о А = (5 + ^2°^) + 4-((Т’о А — S') 4-71 о А), т. е. TioA = ShSg [0,Т]оЛ, ибо S + T2 о А е д(ТоР) и (Т о A- S) + Tio А е д(Т о Р). >
2.5.11.	Теорема. Следующие утверждения эквивалентны:
(1)	субдифференциал д(Т о Q) является гранью субдифференциала д(Т о Р);
(2)	для произвольных гомоморфизмов Ti,T2 € L(E,F) и Ai, А2 ,е L(X,F) таких, что
Тг О, Т2> 0, Ti + Т2 = Т;
Ai G 0(71 о Р), А2 е д(Т2 о Р), Ai + А2 G д(Т о Q),
будет Лх € д(Т\ о Q) и А2 Е д(Т2 о Q);
(3)	оператор (х, у) у 4- Q(—x), действующий из модуля X х Е с упорядочивающим полумодулем epi(P) := {(х, е) € X х Е : х Р(т)} в модуль Е, является Т-шапкой;
(4)	для каждых Xi,x2 Е X выполнено
inf Т(Л(т1, z) V R(x2, z)) = 0, R(x, z) := P(x — z) + Q(z) — Q(x). zex
<1	(1) —> (2): Пусть гомоморфизмы Ti, T2, Ai, A2 выбраны в соответствии с условиями (2). Рассмотрим элемент S из субдифференциала dQ. Очевидно, справедливы соотношения:
Л1+Т2о£€д(ТоР); А2 + Т1о5€<?(ТоР);
(A1+T2oS) + (A2 + rioS) = (A1+A2)+ToS€2aQ.
Значит, на основании (1) гомоморфизм Ai+T^oS лежит в d(ToQ), следовательно, AiX 4- T2Sx TQ(x) при всех х € X. Отсюда
AiX 4- T2Q(x) = sup{Aix 4- T2Sx : S 6 dQ} T о Q(x)
для любого x € X. Следовательно, Ai G д(Т\ о Q). Аналогично устанавливается, что А2 е д(Т2 о Q) (ибо А2 4- Ti о S' G д(Т о Q) при каждом S € dQ).
138 Глава 2. Геометрия субдифференциалов
(2)	—> (3): Положим &(х,у) := у + Q(—x) и возьмем гомоморфизмы и ей/г из L(X х E,F) такие, что «01, <0^ G д(Т о ^). Положим Т^е := «е/(0, е) для к := 1,2 и е 6 Е. Ясно, что Т\ 0, Тг > 0, ибо 0 х Е+ С epi(P). Кроме того, (Т1 4- 7г)е = «01(0, е) 4- «0г(О, е) < Т(е 4- Q(0)) = Те при всех е е Е. Значит, Ti 4- Тг = Т. Осталось убедиться, что «01 е д(Т\ о «^) и G 9(Т2 ° ^). Положим я/кх := «с4(~х,0) для х G X. Тогда
ей4(х, Р(ж)) = ТкР(х) 4- з<4(ж, 0) = ТкР(х) - «я4(-я, 0) = ТкР(х) - Акх 0.
Значит, Ак G д(Тк о P) при k := 1,2. Кроме того,
(Ai 4- A2)x = («01 4- .09(0, -x) T&(-x,0) = TQ(x).
В силу (2) мы заключаем, что Ак G Э(7^ о Q). Итак,
«0^(ж, е) = Тке - Акх Тке 4- TkQ(-x) = Тк&>(х, е)
для любых (ж, е) € X х Е, Тем самым «^ — это Т-шапка.
(3)	—> (4): Учитывая определение Т-шапки, для произвольных xi,x2 G X и еь е2 Е Е мы получим
P((ei + Q(~xiY) V (е2 4- Q(—x2))) =
= inf {Т(е 4- Q(-x)) : е - ei Р(х - Ж1), е - е2 Р(х - ж2)}.
Отсюда ввиду положительности Т вытекает соотношение
Р((е1 4- Q(xi)) V (е2 4- Q(x2))) =
= T((ei 4- P(z 4- Ж1) 4- Q(-z)) V (e2 4- P(z 4- ж2) 4- Q(-z))) =
= inf T((ei 4- Р(Ж1 - z) + Q(z)) V (e2 + P(x2 - z) 4- Q(^))).
zEX
Полагая ei := Q(x2) и e2 := Q(#i), приходим к (4).
(4)	—» (1): Пусть Ai, A2 — элементы д(Т о Р), причем Ai 4- А2 € 2д(Т о Q). Для Ж1,ж2 € X и произвольного z € X имеем
А1Ж1 4- А2х2 = Ai(xi - z) 4- А2(ж2 - z) 4- (Ai 4- A2)z
TP(xi - z) 4- ТР(х2 - z) + TQ(z) - TQ(xi)4-+TQ(z) - TQ(x2) 4- TQ(xi) 4- Т(?(ж2).
Переходя к инфимуму по z, заключаем
AiXi 4- А2х2 inf {T(P(xi - z) 4- Q(z) - Q(xi)) 4- Т(Р(ж2 - z)4-
4-Q(z) — Q(x2y) 4- TQ(xi) 4- TQ(x2)} TQ(xi) 4- 7Ч?(ж2)4-
+2 inf T((P(xi - z) + Q(z) - Q(X1)) V (P(x2 - z) + Q(z) - Q(x2))).
Учитывая (4), получаем Ai e д(Т о Q) и A2 G д(Т о Q). >
2.5. Шапки и грани
139
2.5.12.	В случае, если F — это (расширенное) Tf-пространство, эквивалентные условия теоремы 2.5.11 равносильны утверждению, что подъем д(ТoQ)T служит гранью подъема д(Т о P)i внутри булевозначного универсума, построенного над базой F. Отметим также, что теорема 2.5.11 в части (1) <-> (4) представляет собой обобщение критерия 2.2.6 (7). В качестве ее применения приведем признак грани, аналогичный 2.2.6 (8). Рассмотрим слабо порядково ограниченное множество 21 в L(X, Е), и пусть Р(х) := sup{Az : A G 21} (х G X). Пусть, далее, Q : X —> Е — сублинейный оператор, причем Q < Р.
2.5.13.	Теорема. Множество d(ToQ) является гранью д(ТоР) в том и только в том случае, если для каждого /3 Е L+(/oo(2l,E),F) такого, что f3 о Д^ = Т и /3 о (21) € д(Т о Q), при всех х±, Х2 € X выполнено
/3((Д<а О (?(Ж1) - <Я)Ж1) Л (Да о Q(x2) - (й)х2)) > О
или, что равносильно,
/3((21)ж — Да о Q(x))+= О
для каждого х Е X.
<1 Привлекая теорему 2.5.11, мы выводим следующий критерий грани:
О = mf Т((£а О (flXxi - z) + Q(z) - Q(xi)) V
V (sa о (21) (т2 - z) + <J(z) - <Э(ж2))) =
= mf Го£а((Да<Э(г) - (21)^ + (21)^ - Дя^(х2)) V
V (Да(?(г) - (2l)z + (21)х2 -	=
= mf Тоеа(Да<2(2) - (21)2) +
+ ((21)Х! - ДЯ6?(Х1)) V ((21)х2 - Да(?(х2)).
Если 0 0, /3 о Да = Т и Р о (21) е д(Т о Q), то
О mf (МяС?(2) - /3(21)2) + /3(((21)Ж1 - ДаЗСп)) V ((21)х2 - Да<2(х2))) =
= /3(((21)Х! - ДяССхО) V ((21)х2 - Да^(х2))).
Тем самым установлена необходимость доказываемых неравенств. Для проверки достаточности их выполнения воспользуемся теоремой о векторном минимаксе (см. 1.3.11, 4.1.10(2)), в силу которой имеется оператор /3 из д(Т о такой, что интересующий нас инфимум f из 2.5.11 (4) записывается в виде
/ = inf (p^Q(z) - /3(21)2) + /3(((2l)xi - AaQ(xi)) V ((21)х2 - Да<Э(х2))). zex
Отсюда следует, что множество
и-.= {P^Q{z)-0^z-. ZGX}
140 Глава 2. Геометрия субдифференциалов 
ограничено снизу и, стало быть, в силу имеющейся положительной однородности Q и (21) будет inf U = 0. Последнее означает, что TQ(z) = /3(21) z > 0 для z G X, т. е. /3 о (21) G д(Т о Q). Значит, по условию, f 0, что обеспечивает равенство / = 0.
Выполнение исследуемых неравенств при := х и х% = 0 приводит к нужному равенству
/3((й)х-Дао(?(х))+ = 0.
Последнее, в свою очередь, равносильно импликации
(V/3' 0)/3' < /3 - /3'({Я)х - Да(?(х)) О
при всяком х G X. Остается заметить, что
/?((Да(?(*1) - Л (Даб?(х2) - (й}х2)) =
=	+ /32(ДаС?(х2) - (Я)х2)
при подходящем выборе положительных Д и/32, составляющих /3, т. е. /3 = /З1+/З2. Последнее наблюдение завершает доказательство. >
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов
Основная цель данного параграфа — охарактеризовать сублинейные операторы, представленные в виде верхней огибающей семейства положительных п-дизъюнктных операторов, а также описать возникающие субдифференциалы и их крайние точки.
На протяжении всего параграфа X и Е — векторные решетки, причем Е порядково полна, если не оговорено иное.
2.6.1.	Сублинейный оператор Р : X —> Е называют п-субморфизмом, если для любого набора то,..., хп G X справедливо равенство
р ( V Хк | = у Р(х0 V ... V Xk-1 V sfe+i V ... V хп), \ к=0	/	/с=0
где по определению x~i := хп и rrn+i := xq. В случае п = 1 принято говорить, что Р — субморфизм и это означает, что Р сохраняет верхние границы непустых конечных множеств.
(1)	Всякий п-субморфизм является возрастающим оператором.
<1 В самом деле, если для произвольных х,у е'Х, х у, положить £о •’= У и xi = ... = хп := т, то по определению n-субморфизма для набора {^о,..., хп} будет Р(у) = Р(х) УР(у), что означает справедливость неравенства Р(х) Р(у)- >
(2)	Пусть Pk : X —> Е (к := 1,...,п) — субморфизмы. Тогда их сумма Р := Рк является п-субморфизмом.
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов 141
<] Возьмем произвольные элементы xq,^i, ... ,хп 6 X. Так как в векторной решетке постоянный слагаемый элемент можно выносить из-под знака супремума (sup^(x -I- х$) = х + sup^ х^), то
Р(ж0 V ... V хп) = Р1(жо v ... V хп) + ... 4- Pn(xQ V ... V хп) =
=	Р1(хо) V ... V Р1(ж„) + ... + Pn(®o) V ... V Рп{Хп) =
=	supfPi^fcJ + ... + Рп{хкп): fci,...,fcn € {0,1,... ,п}}.
Как видно, в каждом наборе {ii,..., гп} отсутствует по крайней мере один элемент из множества {0,1,...,п}. Поэтому, пользуясь ассоциативностью точных верхних границ, можно написать
Р(яо V ... V Хп) =
= \/ sup{Р1(х^) + ... + Pn(xin) :	€ {0,... ,n} \ {&}} =
fc=o
= V 52 Р^х° V • • • V Xk~1 V Xk+1 v • • • v жп) = fc=O Z=1
= \/ P(x0V...Vx*_i VXfc+1 V...Vxn), k=Q
что и требовалось доказать. I>
2.6.2.	Назовем линейный оператор Т : X Е п-дизгяонктным, если для любого набора попарно дизъюнктных элементов XQ,...,xn € X точная нижняя граница множества {|T#fc| : к := 0,1,..., п} равна нулю; символически:
(Vx0,xi,...,хп € Х)хк ± xi (к / I) —► |Тжо| Л ... Л \Тхп\ = 0.
Как видно, при п = 1 условие n-дизъюнктности означает, что xq ± xi влечет Txq ± Txi для любых Жо,Ж1 € X. Такие операторы Т принято называть d-гомоморфизмами. В другой терминологии 1-дизъюнктные операторы называют операторами, сохраняющими дизъюнктность.
(1)	Положительный оператор п-дизъюнктен в том и только в том случае, если он является п-субморфизмом.
<1 Пусть S — положительный n-дизъюнктный оператор и возьмем произвольные Xq, . . . , Хп е X. Если yk := Xq V ... V хп - х0 V . . . V Хк-1 V Хк+1 V ... V хп, то у к 0 и у к ± yi (к / /). Тем самым SyQ Л ... Л Syn = 0, что эквивалентно требуемому равенству из определения п-субморфизма.
Наоборот, пусть S — это n-субморфизм. Возьмем набор попарно дизъюнктных элементов xq, ... ,хп G X. Не ограничивая общности, можно считать все Хк положительными. Тогда
= s( 5~^Xfc j = s( Xk) = fc=0	' fc=0 '	' fc=0 '
142
Глава 2. Геометрия субдифференциалов
п	п
= У S(x0 V... Vzfc-1 Varfe+1 V... V a;n) = \/ Sxi>
k—0	fc=O Z:=O,...,n
l^k откуда заключаем
n	n	n /	n	\
A Sxk = — \/(-ад = -\/ £	=
fc=O	fc=0	fc=0 \l:=0,...,n	i=0	/
X l^k	'
n	n 1
= - У 52 $xi + 52 $х1= °’
k—Q Z:=O,...,n	l—Q
l^k
что и требовалось. о
(2)	Регулярный оператор Т : X —> Е сохраняет дизъюнктность в том и только в том случае, если его модуль |Т| является решеточным гомоморфизмом. В частности, каждый положительный оператор из X в Е, сохраняющий дизъюнктность, является решеточным гомоморфизмом.
<1 Ввиду (1) нужно лишь доказать вторую часть. Для х,у G X элементы х—х/\уиу—х/\у положительны и дизъюнктны. Если оператор 0 С Т G L~(X, Е) сохраняет дизъюнктность, то Т(х — х /\у) и Т(у — х /\у) также положительны и дизъюнктны. Следовательно, 0 = (Тх - г) Л (Ту — z) = Т(х) Л Т(у) - z, где z = Т(х Л у). Это и завершает доказательство. >
(3)	Пусть (T$)$€s : X —► Е — слабо порядково ограниченное семейство положительных n-дизъюнктных операторов. Тогда их верхняя огибающая Р (= точная верхняя граница относительно порядка в Sbl(X, Е)) является п-суб-морфизмом.
<1 Возьмем элементы • • - <xn € X. Применив (1), заключаем
P(xq V... Va?n) = supfT^Gro V ... V хп) : £ € S} =
= sup| У Т$(хо V...VXk-1 VXk+1 V... VХп): С G = fc=o
= У sup{T€(rr0 V ... V Хк-Х V хк+1 V ... V хп) : £ е 5} = к=0
= У Р(х0 V ... V хк-1 V Zfc+l V ... V хп),
fc=O
что и требовалось. О
2.6.3.	Установим теперь характеризацию n-субморфизма в терминах его субдифференциала.
Теорема. Пусть X — векторная решетка, а Е — произвольное К ^пространство. Для возрастающего сублинейного оператора Р € Sbl(X, Е) следующие утверждения равносильны:
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов 143
(1)	Р является п-субморфизм ом;
(2)	для любого набора из п 4- 1 оператора Tb,7i,.. .,Тп € L+(X, Е), где дР, существуют подходящие ортоморфизмы oij G Orth+(E) и операторы Т? € L+(X, Е) (i,j := 0,1,... ,п), такие, что совместна система условий:
Хч = 1Е, Т* = 0, y^Tiedp, ^a/ri = Ti (t,j := 0, j=0	i—Q	J=o
<1 (1)	(2): Определим отображения P', Po, Pi,..., Pn из Xn+1 в E форму-
лами:
P'(z0,Zb • • • л) = P(xq Vxi V ... V xn),
Pj(x0,xi,... ,xn) := Р(т0 V xi V ... V Xj_\ Vxj+i V ... V xn),
где (xq,xi, ... ,xn) € Xn+1 и j € {0,1,... , n}. Как видно, P' : Xn+1 -> E и Pj : Xn+1 —* E — возрастающие сублинейные операторы. По определению оператор Р будет п-субморфизмом в том и только в том случае, если выполнено соотношение Р = Ро V Pi V ... V Рп. Но согласно 1.4.14(2) последнее равносильно равенству dPf — 5(Р0 V Pi V ... V Рп). Воспользовавшись формулой 2.1.5 (1), заключаем:
дР' = |(xo,xi,.. . ,хп) Тохо 4- 71X1 4-... 4- Tnxn :
Ti&L+(X,E) (i := 0,1,... ,n), ]Гт»€др|.
Аналогично вычисляется опорное множество dPj (j := 0,1,..., n):
dPj = |(ж0,..., xn)	Tjx0 + ... +	+ 7y+1xJ+i + ... +	:
7VGL+(X,E)(i;=0,l,...,n,j/i),	£ T/€£>p}.
Применив формулу 2.1.7 (1) к вычислению субдифференциала 9(Pq V ... V Рп), мы получим, что последний совпадает с множеством операторов вида
(хо, Х1,..., хп) । > I 2	7"о I (жо) 4~... 4~ I 2 I
j/o	j/n
где ao•••«n Orth+(E),	= Сравнивая этот результат с вычислен-
ным выше множеством дР\ получаем требуемое. >
2.6.4.	Для дальнейшего анализа n-субморфизмов и их опорных множеств необходимы некоторые дополнительные сведения о линейных п-дизъюнктных операторах. В частности, будет показано, что регулярный п-дизъюнктный оператор представим в виде суммы из п регулярных операторов, сохраняющих дизъ-юнктность. Начнем с одного вспомогательного построения.
144
Глава 2. Геометрия субдифференциалов
Пусть Т и S — порядково ограниченные операторы, действующие из X в Е. Введем множество порядково ограниченных операторов и отображение |-| : JT(S) —> Orth(E) следующим образом:
W) := {Т е L~(X,E): (Эр G Orth(E)+)(|T| ро S)}, |Т| := inf {р € Orth(E)+ : \Т\ р о S} (Те JT(S)).
Заметим, что JT(S) совпадает с множеством JT(p), определенным в 1.6.12, если положить р(х) := S(|ж|) (х е X).
(1)	Тройка (^(S),H,Orth(E)) представляет собой решетку Банаха-Канторовича с порядково полунепрерывной М -нормой.
<1 Тот факт, что (JT(S),|-|,Orth(E)) — пространство Банаха-Канторовича, следует из 1.6.12. Монотонность нормы |«| видна непосредственно из ее определения. В частности, |7i| V |Т2| < |Ti V Т2| для положительных 7i,T2. Однако верно и противоположное неравенство, так как |Ti|S и Т2 |T2|S, откуда Т1 V т2 < (1311 V |7г|)5* Если (Га) — возрастающее семейство положительных операторов из JF(S), причем Т = supaTa, то имеют место эквивалентности
|Т| 7 (Va) |TQI 7 w sup|Ta| 7.
Тем самым |T| = supa|TQ|. >
Пространство имеет естественную структуру модуля над Orth(E’), определяемую формулой рТ := р о Т. В то же время ^(S) допускает структуру модуля над Orth(Orth(E)) согласно 2.1.8. Эти две модульные структуры идентичны в следующем смысле.
(2)	Для каждого р 6 Orth(E) существует единственный р е Orth(Orth(E')) такой, что роТ — р*Т для всех Т е
<1 Известно, что /-алгебры Orth(E) и Orth(Orth(E)) изоморфны. Изоморфизм между ними можно задать сопоставлением ортоморфизму р G Orth(Е) оператора p:cri—>роа(<т€ Orth(E)), см. Приложение 2. Для заданных Т Е &(S) и р Е Orth(E) произведение р*Т определено формулами |р* Т| = р* |Т| = ро|Т| и |Т — р * Т| = |Т| — р * |Т| = о |Т|. В силу 1.6.12 р о Т удовлетворяет тем же равенствам: |Т — роТ| = pL о |Т|, |роТ| = ро |Т|. Следовательно, р*Т — роТ, поскольку дизъюнктное разложение единственно в соответствии с 1.6.2 (3). >
2.6.5.	Ниже нам потребуется также один специальный вид порядкового проектирования в пространстве регулярных операторов. Пусть X и Е — векторные решетки, причем Е порядково полна. Рассмотрим положительный оператор S : G —* Е, определенный на идеале G С X. Если для каждого е G множество S([0, е] ClG), где [0, е] — порядковый интервал в X, порядково ограничено в Е, то можно определить
^b(S)e := sup{Sp : g G G, 0 < g < e} := sup{S(p Л e) : g G G} (e G X+).
Оператор : E+ —* F аддитивен и положительно однороден, т. е. может быть продолжен на все пространство X по формуле	:=	—	-
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов 145
Полученный оператор называют минимальным продолжением оператора S и обозначают тем же символом <£(S) := Sg(S). Рассмотрим некоторые свойства минимального продолжения.
(1)	Минимальное продолжение <£(S) совпадает с S на идеале G и обращается в нуль на его дизъюнктном дополнении G1.
<] Следует непосредственно из определения минимального продолжения. >
Нулевым идеалом Т € Е~(Х,Е), как и выше (ср. 2.2.4), мы называем множество ^(Т) := {ж G X : |Т|(|ж|) = 0}. Дизъюнктное дополнение нулевого идеала еЖ(Т)1, носитель или полоса существенной положительности оператора Т, обозначено символом В случае, когда еЖ(Т)1 = Е, говорят, что Т — существенно положительный оператор.
(2)	Оператор ttq := &g 0 &G ~ порядковый проектор в К-пространстве L~(X, Е), и при этом имеет место представление
7r£L~(E,F) = {Те L~(X,E) : G С еЖ(Т)}.
<1 Достаточно показать, что S := ttqT — осколок Т для каждого положительного Т € L~(X, Е). Пусть V := S Л (Т - S). Если х е Е+, то Sxa -> Sx для некоторой возрастающей сети (ха) С G в соответствии с определением тг^. Так как V S', то имеем У(х-ха) S(x—xa) —> 0. Учитывая (1) и неравенство V T-S, легко видеть, что V обращается в нуль на (7, поэтому Vx = o-lim Vxa = 0. I>
(3)	Предположим, что С и D — порядковые идеалы в X и G = С A D. Тогда nG = 7г<7 Л тгр. В частности, ttg и kd дизъюнктны тогда и только тогда, когда на идеале С ПП нет ненулевых регулярных операторов, со значениями в Е.
<3 Так как CC\D = {cf\d : с € С, d G Р}, то для О^хеЕиО^Тб Е) мы выводим
тгсТ(х) = sup{T(# Л с Л d) : с 6 С, d G D} = = supsup{T(x Л с Л d) : d € D} = 7Гс(тгрТ)(т). сео
Таким образом, ttg =	°	Л тгр. t>
Если G := Е(е) — идеал, порожденный элементом е € Е+, то пишут тге вместо 7Г(£.
(4)	Для вычисления проектора тге имеет место следующая формула:
7геТх = supТ(пе Ах) (х € Е+, Т е L+(E,F)), тгеТх = 7гвТх+ - тгеТх~ (хеЕ,Те L+(E,F)), тгеТ = 7гет+ - 7геТ- (Т е L^(E, F)).
2.6.6.	Теорема. Пусть X и Е — векторные решетки, причем Е — это К-пространство. Пусть Т — порядково ограниченный оператор из X в Е. Равносильны следующие утверждения:
(1)	Т является n-дизъюнктным оператором;
146 Глава 2. Геометрия субдифференциалов
(2)	для набора из п 4- 1 положительного оператора To,...,Tn G L~(X,Е), удовлетворяющего условию \Т\ = Tq 4-... 4- Тп, существуют наборы операторов {Tkj : к, I := 0,1,... , п} и {&[ : I := 0,1,...,п} такие, что совместна система условий:
О q G Orth(E), 0 Tkfi G L~(X, Е), Tktk = О,
= |Т|, &iTkj = Тк (к,1 := 0,1,...,п);
1=0	fc=O	/=о
(3)	для набора из п 4- 1 положительного оператора To,...,Tn G Т~(Х,Е), удовлетворяющего условию \Т\ = Tq 4-... 4- Тп, существуют наборы операторов {Skj : к,1 := 0,1,..., п} и {ai : I := 0,1,, п} такие, что совместна система условий:
О at G Orth(E), 0 Skj G L~(X, Е), SkJe = О, п	п	п
=	= аг|Т|, 2>W=T* (&,/:= 0,1,
/=0	fc=O	1=0
(4)	для дизъюнктного набора из п 4-1 оператора
Т0,...,Тпе£~(Х,Е),
удовлетворяющего условию |Т| = То 4-... 4- Тп, существует набор ортоморфизмов ао,..., an G Orth(E)+ такой, что ао 4-... 4- ап = 1е и ак о Тк — 0 (к := 0,1,..., п);
(5)	для любого дизъюнктного набора из п4-1 оператора То,..., Tn G 1Л(Х, Е), удовлетворяющего условию \Т\ = То 4-... 4- Тп, существует разбиение единицы тго> • • •, Ап в ф(Е) такое, что тгкоТк = 0, где к := 0,1,..., п;
(6)	Т представляет собой метрически n-разложимый элемент решетки Банаха-Канторовича
<] Без ограничения общности можно предположить, что Т 0.
(1)	<-> (2): Следует из 2.6.3.
(2)	—> (3): Если выполнено утверждение (2), то нужно положить Skj := akT^k (k, I := 0,1,... , n).
(3)	-» (4): Допустим, что Т = То 4-... 4- Тп, причем То,..., Tn G 1Л(Х, Е)+ — попарно дизъюнктные операторы. Пусть Skj и ai такие же, что и в (3). Тогда Skj ± Т/ (fc / I) и, суммируя левую часть последнего по к := 0,1,..., п, мы приходим к соотношению п/Т ± Г/. Поскольку акТк С Тк и акТк С акТ, то &кТк = 0.
(4)	w (5) <-* (6): Эти эквивалентности следуют из определений и из предложений 1.6.9 (1,2) и 2.6.4 (2).
(6)	—> (1): Предположим, что Т — метрически n-разложимый элемент решетки ^(Т). Возьмем набор во, ...,еп попарно дизъюнктных элементов из X. Положим лк := 7refc (к := 1,..., п) и тго := (тгх 4-... 4- где порядковые проекторы 7ге1,... ,7гвп в Е) определены как в 2.6.5 (4). Если Тк := тгкТ, то
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов 147
Tk ± 7} (к / I) в соответствии с 2.6.5 (3) и Tfc(efc) = T(efc) ввиду 2.6.5 (1). Более того, Т = То + Ti +... + Тп, стало быть, |То| Л•.. Л |ТП| = 0 по определению 1.6.9. Но |Ге*| = |Tfeejk| < Тк(|еЛ|) < |Т*|Т(|еЛ|) < |Т*|/, где f := Г(|е0|) V ... V Т(|еп|). Таким образом, учитывая, что точные границы множества ортоморфизмов вычисляются поточечно (см. Приложение 2), можно написать
Л |ТеЛ| < Д iTlbl/= ( Д |71|) / = О, fc=O	fc=0	\fc=O /
откуда и следует требуемое согласно 2.6.2 (1). >
2.6.7. (1) Теорема. Предположим, что X — векторная решетка, а Е — некоторое К-пространство. Регулярный оператор Т : X -+ Е будет п-дизъюнктным в том и только в том случае, если Т представим в виде суммы п регулярных операторов, сохраняющих дизъюнктность.
<] Достаточно применить 2.6.6 и 1.6.10. О
(2) Разложение n-дизъюнктного оператора Т = 71 +... + ТП из (1) единственно с точностью до перемешиваний относительно булевой алгебры фг(Р): именно, если Т = 52 Г=1 — еш>е °ДНО разложение Т в дизъюнктную сумму операторов SiT..,Sm (m G N), сохраняющих дизъюнктность, то для каждого i := 1,2,.. .,m найдется дизъюнктное семейство проекторов (тг^,... ,7г™) С фг(Е') такое, что Si = Y^Ti.
<] Согласно теореме 2.6.6 оператор Т является метрически п-разложимым элементом в а наборы {71,..., Гп} и {Si,..., Sn} состоят из метрически неразложимых элементов. Теперь, применяя предложение 1.6.10(3), для каждо-го i := 1,2,..., m подберем дизъюнктное семейство {П|,..., Щ1} С ^r(Orth(E)) такое, что Si = 52>=1Щ7у Наконец, в силу предложения 2.6.4 (2) найдутся попарно дизъюнктные проекторы (тт*,..., тг™) С ^Зг(Е), для которых справедливо 5г = Е;=1^(г:=0,1,...,тп).>
2.6.8.	Теорема. Крайние точки субдифференциала сублинейного оператора, действующего из векторной решетки в К-пространство, будут положительными n-дизъюнктными операторами в том и только в том случае, если он является п-субморфизмом.
<] Пусть Р : X —> Е — какой-нибудь n-субморфизм и Т 6 ext(P). Для обоснования n-дизъюнктности оператора Т воспользуемся критерием 2.6.6 (4). Возьмем операторы То, Т\,..., Тп €	(X, Е) такие, что Ti ± 7) (г / j), 52Г=о 7$ = 7\ В си-
лу теоремы 2.6.3 найдутся семейство операторов {Т- 6 L+(X, Е) : г :== 0,1,..., п} и набор ортоморфизмов од, од,..., otn G Orth+(E), удовлетворяющих следующим условиям:
Т/ =0 (г := 0,1,...,п);	6 ЭР (J := 0,1,...,п);
г=0
=	(г := 0,1,... ,п).
г=0	J=0
148
Глава 2. Геометрия субдифференциалов
Для каждого j := {0,1,...,п) положим Sj :=	Согласно второму со-
отношению Sj G дР. Кроме того, суммируя по г := 0,1,...,п в последнем равенстве, мы получим, что Т =	Зафиксиру-
ем j е {0,1,...,п}. В силу 2.2.7 выполнено равенство otjSj = ctjT. Тогда из дизъюнктности семейства {Т* : i = 0,1,...,п) вытекает, что для каждого г := 0,1,..., п, г / выполнено соотношение о^Т? ± Tj. Отсюда, суммируя по г, получаем otjSj ± 1}. Но поскольку ajSj = а7Т, то из неравенств 0 < &jTj < сцТ и 0 ajTj Tj мы выводим 0 oijTj otjT Л Tj = 0, т. е. otjTj = 0. Привлекая теорему 2.6.6 и используя произвол в выборе J, мы получим, что Т — это п-дизъюнктный оператор.
Предположим, что множество ext(P) состоит из n-дизъюнктных операторов. Согласно теореме Крейна-Мильмана для субдифференциалов (см. 2.2.2) выполнено соотношение Р(х) = sup{T(a;) : Т € ext(P)} при всех х 6 X. Требуемое теперь следует из предложения 2.6.2 (3). >
2.6.9.	Рассмотрим некоторые следствия из доказанной теоремы.
(1)	Сублинейный оператор, действующий из векторной решетки в пространство Канторовича, представим в виде верхней огибающей семейства положительных n-дизъюнктных операторов в том и только в том случае, если он является п-субморфизмом.
<1 См. теорему 2.6.8, теорему Крейна-Мильмана и предложение 2.6.2 (3). t>
Пусть X — произвольная векторная решетка, а Е — некоторое К-простран-ство. Сублинейный оператор Р : X —> Е называют субморфизмом, если P(xV2/) = = Р(я)\/Р(г/) для всех х, у € X. Если Р(х) — Р(|ж|) для всех х € X и отображение х w Р(х+) — субморфизм, то Р именуют М-полунормой.
Как и прежде, будем говорить, что оператор Р положителен, если Р(х) 0 для каждого х G X. Обозначим символом дьР множество всех решеточных гомоморфизмов, содержащихся в дР. В следующих двух предложениях Р — произвольный положительный субморфизм.
(2)	Крайние точки субдифференциала сублинейного оператора Р, действующего из векторной решетки в К-пространство, будут решеточными гомоморфизмами в том и только в том случае, если Р является субморфизмом,
<1 Следует из 2.6.8 при n = 1. О
(3)	Сублинейный оператор, действующий из векторной решетки в пространство Канторовича, представим в виде верхней огибающей семейства решеточных гомоморфизмов в том и только в том случае, если он является субморфизмом (ср. 2.5.7, 2.5.8 (2)). В частности, каждый положительный субморфизм Р, действующий из векторной решетки в К-пространство, представим в виде верхней огибающей семейства мажорируемых им решеточных гомоморфизмов, т. е. допускает представление
Р(х) = sup{Sx : S € Hom(B, F) А ЭР} (х G В).
<3 Следует из теоремы Крейна-Мильмана. >
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов 149
2.6.10.	Пусть Р : X —> Е — возрастающий положительный сублинейный оператор и S — решеточный гомоморфизм, содержащийся в дР. Тогда существует у Е Orth(F) такой, что 0^7^1ри5е ext (7 о Р).
<1 Для произвольного оператора Т е дР положим А(Т) := inf {А € Orth(F)+ : о Р)}. Так же, как и в 2.6.4 (1), устанавливается, что для любого тг € ^Р(Е) верно равенство А(тгТ) = тгА(Т). Тем самым А(тгТ + рТ) = = 7гА(Т) + рА(Т) для дизъюнктных тг, р € ф(Е). Кроме того, очевидно, что А(0) = 0 и А(£Г) = tX(T) для строго положительного t € R. Из этих свойств вытекает равенство А(аТ) = аХ(Т) для любого «ступенчатого» ортоморфизма a = 52£=1 tkiTk, где tti,..., тгп G ф(Е) и ti,... ,tn е R+. Для произвольного положительного ортоморфизма а существуют последовательности положительных ступенчатых ортоморфизмов (од) и (/?*) такие, что од С а С /3* и supfcQfc = a = inffc/?fc. Воспользовавшись уже доказанной однородностью и очевидной монотонностью отображения а w А(аТ), мы получим одА(Т) = А(апТ) < А(аТ) < А(^ПТ) = /3ПА(Т). Следовательно, Х(аТ) = аА(Т). Возьмем теперь решеточный гомоморфизм S из дР. Пусть 7 := А(5), и заметим, что S Е д(ур). Если тг ~ проектор на полосу кег(7), то тго5 = 0 и 3(7 о Р) = 3(тг^7оР), поэтому достаточно доказать, что irdS 6 ext(?rd7oP). Таким образом, можно считать, что тг = 0, т. е. кег(7) = {0}.
Пусть ЗВ := (—S, 1) : (х,е) е — Sx. Предположим, что отношение порядка в X х Е определено конусом epi(7P), а оператор ЗВ := (—В, 0) : (ж, е) 0е — Вх принадлежит [0, ^]. Тогда из неравенства ЗВ 0 вытекает 0 > 0 и Вх 0о^Р(х) (х € X), а неравенство ЗВ < У влечет 0 С 1е и (S — В)х < (1 — 0)уР{х) (х е X). Полагая х С 0, мы получаем, что В € [0,5] и, учитывая 2.1.9 (2), приходим к представлению В = pS, где р € [0,1р]. Таким образом pS € д('у0Р) и (1 -p)S € 3((1 -0)уР). Отсюда, используя установленную выше положительную однородность А(-), мы выводим /ту = А(р5) < 7/З и (1—0)7 = A((l—p)S) < (1—0)у. Следовательно, р7 = 0у и р = 0, т. е. обоснованы равенства [0,3*] = [0, /р] о ЗВ, поскольку ЗВ — (—В,0) — {—pS,p) = р(—S, 1) = рЗВ В соответствии с 2.2.3 мы приходим к требуемому вхождению S € ext(7 о Р). >
2.6.11.	Приведем два результата о мажорированном продолжении решеточных гомоморфизмов.
(1)	Теорема. Пусть X и Е — векторные решетки, а F — К-пространство. Пусть Р : Е —> F — положительный субморфизм, а Т : X —> Е — решеточный гомоморфизм. Тогда имеет место формула Хана-Банаха для решеточных гомоморфизмов:
dh(PoT) = (dhP)oT.
< Достаточно обосновать включение dh(P °Т) С (З^Р) о Т, так как противоположное включение очевидно. Возьмем S G Эн(Р о Т). Поскольку р о Т — субморфизм, то из 2.6.10 следует существование ортоморфизма р € [0, If] и оператора U € ext(P о Т) таких, что S = р о U. По теореме 2.1.9 (1) имеем U = V о Т для некоторого V € ext(p), стало быть, S = ро V оТ. В силу 2.6.10 р о V —
150
Глава 2. Геометрия субдифференциалов
решеточный гомоморфизм. Учитывая соотношения р^О, О^р^ГриУе ЭР, мы выводим р о V G ЭР, что и завершает доказательство. 1>
(2)	Теорема Хана-Банаха для решеточных гомоморфизмов. Пусть Р — положительный субморфизм из Е в F и пусть То — решеточный гомоморфизм из подрешетки Eq С Е в F такой, что Tqx < Р(.т) для всех х € Eq. Тогда То можно продолжить до решеточного гомоморфизма Т : Е —> F так, что Тх Р(х) для всех х е Е.
<] Требуемое немедленно вытекает из 2.6.10, если заменить Т на тождественное вложение Eq в Е. о
2.6.12.	В заключение этого параграфа рассмотрим вопрос о том, когда в субдифференциале нет решеточных гомоморфизмов. Зафиксируем возрастающий сублинейный оператор р : X —> Е. Определим отображения gp, hp : X —> Е формулами
др(х) := inf {p(xi) V ... Vp(xn) : |х| хг V ... V хп, хг,... ,xn € Х+, n € N}, hp(x) := inf {p(xi) V ... V p(xn) : х < Xi У ... V xn, xi,... ,хп € X, n G N}.
Легко заметить, что др(х) < р(|гг|) и hp(x) < р(х), а если р — субморфизм, то hP(x) = р(х) и др(х) = р(\х\) (х € X).
(1)	Отображения др и hp являются М-полунормой и субморфизмом соответственно.
<1 Докажем лишь, что отображение др является М-полунормой. Утверждение относительно hp устанавливается аналогичными рассуждениями. Положительная однородность и монотонность др, а также свойство др(х) — <7Р(И) очевидны. Докажем субаддитивность и сохранение точных верхних границ конечных множеств. Возьмем х, у € Х+ и такие элементы х\,..., xn, yi,..., ym 6 Х+, что х xi V ... V хп и у г/1 V ... V ут. Тогда
п т х + у^ V \/(xk+yi), k=i 1=1
поэтому из определения др мы выводим
пт	пт
9р(х + У) < V V (p(xfc) +р(уг)) = V р(хк) + У р(уг)-fe=iz=l	к=1	1=1
Переход к точной нижней границе приводит к требуемому неравенству др(х+у) С 9р(х) + 9р(у)- Воспользовавшись монотонностью оператора др, получаем неравенство др(х) V др(у) < др(х V у). Для доказательства обратного неравенства заметим, что для указанных xi,..., хп, у\,..., ут € Х+ выполнено
/ п	\	/ т
дР(х v у) I \/ р(хк) I v I у р(уг) \fc=i	/	\i=i
Следовательно, др(х V у) др(х) V др(у). О
2.6. Субдифференциалы, порождаемые суммами решеточных гомоморфизмов 151
(2)	Решеточный гомоморфизм Т : X Е входит в d(hp) в том и только в том случае, когда Т е др, и входит в d(gp) в том и только в том случае, если Т < S для некоторого S G др; символически:
d(hp) A Hom(X, Е) = др А Нот(Х, Е), d(gp) А Нот(Х, Е) = [0, др] А Нот(Х, Е),
где [О, ЭД := JM : S € др}.
<1 Включения С очевидны, так как hp(x] р(х) и gp(x) < р(|т|) (х G X). Проверим противоположные включения. Если х xi V ... V хп для некоторых Xi,...,хп € X, то для решеточного гомоморфизма Т G др будет
Тх T(xi V ... V хп) = Txi V ... V Тхп = p(xi) V ... V р(хп)-
Следовательно, Т € dhp. Если же и |т| < х\ V ... V хп и решеточный гомоморфизм Т содержится в [0, ад, то Г < S' для подходящего S G др, поэтому можно написать
Тх Т(|ж|) T(xi V ... V хп) =
= Txi V ... V Тхп Sxi V ... V Sxn р(жх) V ... V р(хп).
Переход к инфимуму дает неравенства Тх < дР(х) и Тх дР(х), равносильные требуемым включениям. О
(3)	Для каждого возрастающего сублинейного оператора р : X —> Е имеет место представление:
hp(x) = sup{Tx : Т € Hom(X, Е) А др} (ж € Х+).
<] Вытекает непосредственно из (2) и 2.6.9 (3). О
(4)	Если X — решетка с проекциями на главные полосы, то
др{х) = inf V ... V p(xn) : |х| = xi + ... + хп;
xi,... ,xn G Х+, Xk ± Xi (к / /), n € nJ.
2.6.13.	(1) Теорема. Пусть X — векторная решетка, Е — некоторое К-пространство и р : X —> Е — возрастающий сублинейный оператор. Опорное множество др не содержит ненулевых решеточных гомоморфизмов в том и только в том случае, когда для любого х € Х+ выполнено равенство
inf{p(zi) V ... Vр(хп) : я?1,... ,xn € Х+, х < #i V ... V xn, n € N} = 0.
Если же Е содержит слабую порядковую единицу 1, то указанные условия равносильны также следующему: для любых х G Х+ и 0 < е G К можно подобрать разбиение единицы в Ф(^) такое, что для каждого £ € 5 найдутся номер n(£) е N и положительные элементы х^^,...,	€ удовлетворяющие
условиям
X xly( V ... V Жп(«),€>	п(£)).
152 Глава 2. Геометрия субдифференциалов
<1 Первая часть теоремы следует из 2.6.12(2,3). Вторая часть выводится из первой и следующего факта, устанавливаемого в теории /^-пространств: для произвольного семейства (га)аел в /С-пространство Е со слабой порядковой единицей 1 выполнено infaGA za — 0 в том и только в том случае, если для любого О < е G R существует разбиение единицы в ф(Е) такое, что для каждого £ G S найдется индекс а(£) € А, для которого ^^za^ el. >
(2) Теорема. Пусть X — векторная решетка с проекциями на главные полосы, Е — некоторое К-пространство и р : X —> Е — монотонная полунорма. Опорное множество др не содержит ненулевых решеточных гомоморфизмов в том и только в том случае, когда для любого х G Х+ выполнено равенство
inf {p(a:i) V ... Vp(xn) : xi,..., xn G Х+,
Хк Л Xi = 0 (k / Z), х = xi + ... + xn, n € N) =0.
Если же Е содержит слабую порядковую единицу 1, то указанные условия равносильны также следующему: для любых х € Х+ и 0 < s Е R можно подобрать разбиение единицы (тг$в ф(Е|) такое, что для каждого £ € S найдутся номер n(£) € N и положительные попарно дизъюнктные элементы х^,... ,xn(^^ € X, удовлетворяющие условиям
X = Х1,е + . . . + Хп(()>(,	7Г(Р(Х1>() Е1 (/:= 1,...,п(£)).
<] Первая часть теоремы следует из 2.6.12(2,4). Вторая часть выводится из тех же соображений, что и (1). 1>
2.7.	Комментарии
2.7	.1. (1) Метод канонического сублинейного оператора, изложенный в 2.1.1-2.1.8, был предложен С. С. Кутателадзе [149] (см. также [1, 150, 154]). Некоторые авторы называют каноническим оператором Кутателадзе, см. [224, 234]. Метод канонического сублинейного оператора освещен в обзорах А. Г. Кусраева и С. С. Кутателадзе [136], С. С. Кутателадзе [154], А. М. Рубинова [224], В. М. Тихомирова [234].
(2)	Характеризация решеточного гомоморфизма 2.1.9 (1) получена С. С. Кутателадзе в [149]; в западной литературе этот результат принято называть теоремой Кутателадзе. Другое доказательство (не использующее теорему Хана-Банаха-Канторовича) предложили В. Люксембург и А. Шэп в [464]. Подробности см. в [130, 132].
(3)	Приведенные результаты об интегральном представлении из 2.1.14(3-5), 2.1.15 и 2.1.16 были впервые опубликованы в книге А. Г. Кусраева и С. С. Кутателадзе [140]. В основе этих фактов лежит теорема М. Райта, установленная в [592], см. Приложение 3. Относительно теории меры и интеграла в векторных решетках см. статью М. Райта [591] и монографии А. Г. Кусраева и С. А. Малюгина [145], А. Г. Кусраева [132].
2.7. Комментарии
153
(4)	Классы регулярных и квазирегулярных векторных мер, вообще говоря, существенно различны. Они не совпадают, даже если борелевская алгебра совпадает с бэровской, а Е — некоторое /f-пространство счетного типа. Соответствующий пример см. у М. Райта [591], где дана изящная характеризация К-пространств, для которых это различие исчезает:
Теорема Райта. Пусть Е — некоторое К-пространство. Равносильны следующие утверждения:
(i)	Е слабо (а, (ю)-дистрибутивно;
(ii)	всякая Е-значная бэровская мера на произвольном компакте допускает продолжение до регулярной Е-значной борелевской меры;
(iii)	всякая Е-значная квазирегулярная борелевская мера на произвольном компакте регулярна,
Болене подробное изложение этого круга вопросов см. в монографии А. Г. Кус-раева [132].
2.7	.2. (1) Понятие крайней точки ввел Г. Минковский. Он же установил следующий результат:
Теорема Минковского о крайних точках. Выпуклое замкнутое ограниченное множество в конечномерном пространстве есть выпуклая оболочка крайних точек этого множества.
Некоторое уточнение теоремы Минковского о крайних точках содержится в теореме Каратеодори (см. 1.1.9 (2)). Обобщение теоремы Минковского о крайних точках для неограниченного множества получил В. Кли.
Теорема Кли. Пусть С — замкнутое выпуклое множество в конечномерном пространстве, не содержащее прямых, и подмножество D С С содержит крайние точки и лучи С. Тогда С = со(Р).
Доказательства этих и других близких фактов можно найти в книгах К. Лейх-твейса [184], Р. Т. Рокафеллара [220], Р. Холмса [388].
(2)	Теорема 2.2.2 для функционалов (т. е. при Е = R) — классическая теорема Крейна-Мильмана — была установлена в 1940 г. М. Г. Крейном и Д. П. Мильма-ном в [435]. Разумеется, в скалярном случае различие между крайними точками и о-крайними точками исчезает. Следующая традиционная формулировка теоремы Крейна-Мильмана, включаемая в большинство курсов функционального анализа, легко выводится из 2.2.2 при Е = R:
Теорема Крейна-Мильмана. Выпуклый компакт в отделимом локально выпуклом пространстве совпадает с выпуклым замыканием множества своих крайних точек.
(3)	Как один из наиболее общих геометрических принципов функционального анализа теорема Крейна-Мильмана получила развитие в различных направлениях, см., например, книги Э. Алфсена [256], В. П. Солтана [229], статью Л. Азимова [261], обзор Ю. А. Шашкина [244].
154
Глава 2. Геометрия субдифференциалов
В связи с геометрией банаховых пространств стоит выделить проблему Дис-теля об эквивалентности свойств Крейна-Мильмана и Радона-Никодима (см. Дж. Дистель и Дж. Уль [342], Дж. Дистель [68], Р. Фелпс [512]). Имеются различные интересные взаимосвязи с теорией Г. Шоке (см. Г. П. Акилов и С. С. Кутателадзе [1], Э. Алфсен [256], Л. Азимов [261], Р. Фелпс [237], Ю. А. Шашкин [244]). О некоторых приложениях теоремы Крейна-Мильмана см. также в монографии Р. Эдвардса [248].
(4)	Вопрос о восстановлении опорного множества операторов по крайним точкам был впервые выдвинут, по-видимому, в работе Ф. Бонсола, Й. Лин-денштраусса и Р. Фелпса [294]. Для сублинейного оператора, действующего в Е-пространство ограниченных элементов, такой результат получил Д. Оутс [496]. А. М. Рубинов [223] разобрал случай Е-пространства с достаточным числом порядково непрерывных функционалов. А. М. Рубинов обнаружил, в частности, эффект восстановления опорного множества по слабо крайним точкам. Общий результат 2.2.2 получил С. С. Кутателадзе [152, 158]. Основные результаты параграфа 2.2 также принадлежат С. С. Кутателадзе, см. [152, 156, 158].
(5)	Характеризация крайних точек из теоремы 2.2.5, полученная С. С. Кутателадзе в [158], представляет собой, по существу, операторный вариант характеризации Р. Бака и Р. Фелпса крайних точек (см. [388]).
(6)	Применив результаты параграфа 2.2 к специальному сублинейному оператору, можно получить различные результаты о продолжении положительных операторов. Множество <?(Т) всех положительных продолжений положительного оператора Г, заданного на массивной подрешетке G векторной решетки Е, совпадает с опорным множеством ЭР, где Р : Е -+ F действует по формуле Р(е) := inf{T<7: е < g, д G (7} (е G Е). Теперь из теоремы Крейна-Мильмана следует, что выпуклое множество <?(Г) имеет крайние точки. Это простое следствие было независимо доказано 3. Липецким [450]. Относительно других результатов о продолжении, полученных 3. Липецким и его соавторами, см. [449, 451-453, 462] (а также книгу К. Алипрантиса и О. Бёркиншо [258] и обзор А. В. Бухвалова [25]).
2.7	.3. (1) Наше изложение в параграфе 2.3 следует С. С. Кутателадзе [157, 160]. О близких результатах см. также П. Анденаес [259], И. Бенко и Е. Шейбер [285], А. Бигард [289], В. Брекнер и Е. Шейбер [308], М. Орхон [497], Р. Фелпс [511], Г. Винсент-Смит [579], Д. Вуза [580]. Теорема 2.3.4 была установлена А. Бигардом в [289].
(2)	Доказательство теоремы 2.3.17 по существу повторяет схему, предложенную А. Д. Иоффе для теоремы 1.4.10. Существуют различные категории, отличные от категории модулей, для которых имеет место некоторый вариант теоремы Хана-Банаха (см. обзор Г. Васкеса [312]).
(3)	В связи с теоремой 2.3.21 стоит вспомнить методологическую установку Л. В. Канторовича о неразрывной связи Е-пространств с теорией неравенств и экономической проблематикой. Действительно, теорему 2.3.21 можно воспринимать в том смысле, что идеи математического программирования имманентны теории Е-пространств в следующем строго математическом смысле: выполнение
2.7. Комментарии
155
в абстрактной математической структуре любого из принятых вариантов формулировок принципа двойственности с неизбежностью приводит к тому, что исходный объект является К-пространством.
2.7	.4. (1) Внутренняя характеризация субдифференциалов в виде 2.4.12 была впервые высказана в качестве гипотезы в работе С. С. Кутателадзе [149]. Этот факт был установлен с использованием метода булевозначных реализаций А. Г. Кусраевым и С. С. Кутателадзе в [135]. Стандартное (т. е. не апеллирующее к булевозначной модели) доказательство внутренней характеризации субдифференциалов приведено в монографии А. Г. Кусраева [125].
(2)	Стоит отметить, что доказательство операторных вариантов (теоремы 2.4.10-2.4.13) хорошо известных в скалярном случае результатов некоторое время относилось к трудным и важным задачам локального выпуклого анализа. Были найдены несколько интересных частных решений для различных специальных классов пространств и операторов, которые так или иначе были связаны либо с компактностью субдифференциала в подходящей операторной топологии, либо со специфической геометрической интерпретацией отделимости в конкретных функциональных пространствах, см. обзоры С. С. Кутателадзе [154] и А. М. Рубинова [224], а также статьи В. А. Левашова [171-174], В. Л. Левина [179], А. Я. Заславского [76]. Однако общее положительное решение не удавалось найти как раз по той причине, что для произвольных пространств и операторный субдифференциал, как правило, не является компактным ни в какой подходящей операторной топологии и скалярные теоремы отделимости не дают адекватную характеризацию субдифференциалов.
(3)	Общее понятие счетно аддитивной модулярной векторной меры было введено М. Райтом [590]. О дальнейшем развитии теории модулярных векторных мер см. в монографиях А. Г. Кусраева и С. А. Малюгина [145], А. Г. Кусраева [132]. Конструкция интеграла по конечно аддитивной модулярной мере из 2.4.3, а также теорема 2.4.4 (1) принадлежат И. П. Глазыриной [39], см. также [125].
(4)	Г. Такеути назвал булевозначным анализом раздел функционального анализа, который использует одноименные модели теории множеств [560, 561]. В последнее время этот термин трактуют расширительно, включая в него методы, основанные на одновременном использовании двух различных булевозначных моделей теории множеств. Подробное изложение материала этого раздела имеется в [81, 141, 144, 283, 284, 562]. Методы теории булевозначных моделей в разных вариантах получили существенное развитие в различных разделах математики. Техника спусков и подъемов оказалась весьма приспособленной для этих целей. Погружение множеств с булевой структурой в булевозначный универсум основано на методе Соловея-Тенненбаума, предложенном ими ранее для погружения полных булевых алгебр [552].
(5)	Стоит подчеркнуть, что создание булевозначных моделей не было связано с теорией векторных решеток. Необходимые для этого языковые и технические средства окончательно сформировались в рамках математической логики уже к 1960 г. Однако все еще отсутствовала та генеральная идея, которая впоследствии привела к бурному прогрессу в теории моделей. Эта идея пришла с открыта-
156
Глава 2. Геометрия субдифференциалов
ем П. Дж. Коэна [97], установившем в 1963 г. абсолютную неразрешимость (в точном математическом смысле) классической континуум-проблемы. Именно в связи с осмыслением метода форсинга Коэна возникли булевозначные модели теории множеств, создание которых принято связывать с именами П. Вопенки, Д. Скотта и Р. Соловея.
2.7	.5. (1) Относительно метода шапок в теории Г. Шоке см. в книгах Л. Азимова [261], и Р. Фелпса [237]. В параграфе 2.5 представлены результаты С. С. Кутателадзе [163, 165].
(2)	Доказательство основных результатов 2.5 вновь использует теорию булевозначных моделей теории множеств. Несомненно, эти же результаты можно получить и стандартными средствами. Подчеркнем, однако, что вряд ли следует считать оправданными попытки избегать применения булевозначного принципа переноса и искать более привычные прямые доказательства. На этом пути часто возникают более громоздкие доказательства и, что важнее, теряется замечательная возможность расширения рамок классических теорем с помощью булевозначного анализа. Другими словами, воздерживаться от использования булевозначных моделей в подходящих ситуациях это то же самое, что игнорировать спектральную теорему (после того, как она установлена) при изучении общих свойств нормальных операторов в гильбертовом пространстве.
2.7	.6. (1) Понятие п-дизъюнктного оператора в векторных решетках введено С. Дж. Верно, С. Б. Гюйсмансом и Б. де Пахте [288] и было адаптировано к операторам в решеточно нормированных пространствах А. Г. Кусраевым [132]. Характеризации п-дизъюнктных операторов, представленные в 2.6.2 (1) и 2.6.6, получил В. А. Раднаев в [216, 518]. Следует подчеркнуть, что эквивалентность (1) w (6) в 2.6.6 дает чисто алгебраическую характеризацию п-дизъюнктных операторов как метрически n-неразложимых элементов ассоциированного пространства Банаха-Канторовича.
(2)	Теорему 2.6.7 (1) установили С. Дж. Верно, С. Б. Гюйсманс и Б. де Пахте [288] (см. также [287]); алгебраический подход к доказательству (см. 2.1.10, 2.6.6, 2.6.7 (1)) найден В. А. Раднаевым в [216, 518]. Единственность в смысле 2.6.7 (2) разложения п-дизъюнктного оператора в сумму п операторов, сохраняющих дизъюнктность, также установлена в [216, 518]. Разложение оператора в бесконечную сумму решеточных гомоморфизмов рассматривал И. И. Шамаев в [243].
(3)	Предложение 2.6.1 (2) нельзя обратить. Более того, для каждой векторной решетки Е найдется Е-значный сублинейный оператор, сохраняющий 2-суп-ремумы, но не являющийся суммой двух сублинейных операторов, сохраняющих конечные верхние грани. Следующий пример приведен в [216].
Пусть Е — произвольная векторная решетка, Р — отображение из Е х Е в Е, действующее по правилу Р(х,у) = (х + у)+ ((х,у) G Е х Е). Тогда Р является сублинейным оператором, сохраняющим 2-супремумы.
(4)	Формула Хана-Банаха для решеточных гомоморфизмов (см. теорему 2.6.11 (1)) установлена в [216]. Подход В. А. Раднаева основан на методах ис
2.7. Комментарии
157
числения опорных множеств и изучения их экстремальной структуры, развитых в 2.1 и 2.2. Вспомогательные факты из 2.6.4 взяты из [216]. Утверждение 2.6.10 установлено Г. Васкесом и А. ван Ружем [313] другим способом. Важное следствие 2.6.11(2) получено также Г. Васкесом и А. ван Ружем в [313]. Минимальное продолжение и проектирование, описанные в 2.6.5, используют в теории положительных операторов давно; в приведенном виде этот материал имеется в [130, 132].
(5)	Теорема 2.6.11 (2), часто цитируемая как теорема Липецкого-Люксембур-га-Шэпа в связи с публикациями [450] и [465] (см., например, [258, 287, 312, 313]), была впервые анонсирована в [152] и доказана в [158] С. С. Кутателадзе. (Фактически в [158] доказана теорема 2.1.10, которая содержит в себе 2.1.9 (1) как частный случай в силу 2.1.9 (2).) Многие подходы к теоремам типа Хана-Банаха для решеточных гомоморфизмов, за удивительным исключением оригинального, обсуждаются в работе С. Дж. Верно [287]; см. также обзор Г. Васкеса [312], в котором представлены история, взаимосвязи и значительная часть многочисленных обобщений теоремы Хана-Банаха.
(6)	В [143] поставлена проблема развития исчисления крайних точек субдифференциалов. В частности, там была сформулирована следующая задача:
Для каких сублинейных операторов Р : X Е и Q : Е F имеют место соотношения ext(Q ° Р) С ext(Q) о ext(P) или ext(Q о Р) = ext(Q) о ext(P))?
Аналогичный вопрос можно сформулировать относительно о-крайних точек:
Для каких Р и Q выполнены соотношения <£q(Q о Р) с Sq(Q) о ^Ь(Р) или
Разумеется, сформулированные задачи отчасти мотивированы теоремой Мильмана 2.2.10 (см., в частности, 2.2.6). В работе [216] замечено, что ext(?rP) = = 7rext(P) для сублинейного оператора Р : X —» Е и положительного ортоморфизма тг € Orth(E). Формулу из 2.6.11 (1) можно также рассматривать как частичное решение поставленной выше задачи, так как согласно 2.6.9 (2) и 2.6.10 она может быть записана в следующей эквивалентной форме:
7rext(PoT) = f [J 7rext(P) j oT.
(7)	Результаты из 2.6.12 и 2.6.13, полученные В. А. Раднаевым [215, 216], являются обобщением аналогичных скалярных результатов. Именно Г. Я. Лозанов-ский [189] установил, что сопряженная решетка a-полной банаховой решетки X безатомна (= не содержит дискретных функционалов) в том и только в том случае, если для любого е > 0 найдутся попарно дизъюнктные элементы a?i,... ,#п, для которых х = х\ + ... + хп и ||xfc|| < е k := 1,... ,п. В. Внук и Б. де Пахте [498] распространили этот результат на произвольные банаховы решетки. Для решеток Банаха-Канторовича аналогичные результаты приведены в [216].
Глава 3
Выпуклость и открытость
Изучение субдифференциалов до сих пор проводилось нами на алгебраическом уровне. Точнее говоря, мы изучали всюду определенные сублинейные операторы или, что эквивалентно, субдифференциалы выпуклых операторов во внутренних точках их областей определения. Привлечение топологии в таких ситуациях не является особенно осмысленным, так как при наличии естественного согласования со структурой порядка в рассматриваемых областях значений элементы субдифференциала автоматически будут непрерывными в том же смысле, в каком непрерывен субдифференцируемый оператор. Принципиально иначе обстоит дело для сублинейных операторов, определенных не на всем пространстве. Такие операторы часто возникают как производные по направлениями выпуклых операторов в граничных точках их областей определения. Здесь широко распахнуты двери для всевозможных патологий. В то же время рассмотрение субдифференциалов в граничных точках в подавляющем числе случаев — неизбежная необходимость. Достаточно вспомнить, что возникновение субдифференциального исчисления связано с современными разделами теории экстремальных задач, трактующими сложные способы задания допустимой области, в которой ищется наибольшее или наименьшее значение целевой функции.
Центральная тема текущей главы — взаимоотношения выпуклости и открытости в топологических векторных пространствах. Мы изучаем здесь условия, обеспечивающие свойство открытости выпуклого соответствия в некоторой его точке. Как обычно, открытость означает, что открытые множества, содержащие точку из области определения, переходят под действием рассматриваемого соответствия в окрестности фиксированного элемента из образа интересующей нас точки. Исследование этого свойства и его принципиальной разновидности, приводящей к понятию общего положения выпуклых множеств или операторов, позволяет добиться важного продвижения в задачах субдифференцирования. Фактически, у нас создается автоматическая возможность получать теоремы существования непрерывных операторов с нужными свойствами мажорации, анализируя лишь соответствующий алгебраический вариант задачи.
Рассмотрение топологии совместно с выпуклостью немыслимо без фундаментальной концепции двойственности векторных пространств. В этой связи мы развиваем аппарат исчисления поляр, представляющих собой фактически субдифференциалы функционалов Минковского, и даем приложения этого аппарата к двойственному описанию открытых соответствий. Отдельная важная тема — принцип открытости для выпуклых соответствий, возникающий как итог развития идей, заложенных в классическом принципе Банаха, и позволяющий существенно упростить проверку условий применимости изучаемых приемов субдифференцирования .
3.1. Открытость выпуклых соответствий
159
3.1.	Открытость выпуклых соответствий
Текущий параграф посвящен предварительному рассмотрению понятия открытости выпуклого соответствия в точке.
3.1.1.	Пусть X и Y — топологические векторные пространства. Рассмотрим выпуклое соответствие Ф из X в Y. Говорят, что Ф открыто (или почти открыто) в точке (х,у) € Ф, если для любой окрестности U точки х множество Ф(С7) — у (соответственно замыкание множества (Ф((7) — у) П (у — Ф(£7))) есть окрестность нуля в У. В случае, когда х = 0 и у = 0, говорят об открытости или почти открытости в нуле.
3.1.2.	Выпуклое соответствие Ф С X х У будет открытым в точке (х,у) € Ф в том и только в том случае, если для любой окрестности нуля U С X существует такая окрестность нуля V С Y, что Ф(х 4- А(7) D у 4- XV при всех 0 А 1.
< Если Ф открыто в точке (х, у) и U — окрестность нуля в X, то найдется такая окрестность нуля V С Y, что Ф(т + U) D у + V. Но тогда для любого О А 1 в силу 1.2.2 (1) будет
Ф(х + АС7) = Ф((1 - Х)х + Х(х 4-17)) D (1 - А)Ф(т) + АФ(ж + U) D Э(1-АЬ + А(г/ + У) = т/ + АУ.
Обратное утверждение сомнений не вызывает. [>
3.1.3.	Если выпуклое соответствие Ф (почти) открыто в какой-нибудь точке (х, у) € Ф, то Ф будет (почти) открытым в любой точке (xq, уо) 6 Ф, для которой Уо е соге(Ф(Х)).
<1 Осуществляя сдвиг (х',у') и-> (х' — х,у' — у), можно свести дело к случаю, когда х = 0, у = 0. Поэтому предположим, что 0 G Ф(0) и Ф (почти) открыто в нуле. Если уо € соге(Ф(Х)), то для некоторого е > 0 элемент yi := (1 4- е)уо входит в Ф(Х). Стало быть, существует xi Е X такой, что (xi,y\) € Ф. Если uq (1 +£)-1Ж1, то (xi,yi) = (1 + е)(ио,уо), причем уо е Ф(ио). Для любой окрестности нуля U С X имеем
1	<г	с
Ф(Ио + е(1 + er'U) Э —-Ф(ач) + т4-Ф(^) Э Уо + — Ф(17).
Итак, если Ф (почти) открыто в нуле, то Ф (почти) открыто в точке (uq, уо) для некоторого uq € X. Однако при достаточно малом 0 < А < 1 для подходящей окрестности нуля J7' С X выполнено A(uq — xq + U') С U, поэтому
Ф(жо + U) D Ф((1 - А)ж0 + А(и0 + 17')) D (1 - А)Ф(жо) + АФ(и0 + U') D
Э I/O 4- А(ф(ио 4- J7') - 1/о)*
Отсюда немедленно вытекает требуемое. О
3.1.4.	Пусть Y — это упорядоченное топологическое векторное пространство с конусом положительных элементов У+. Множество V С Y называют нормальным, если V — (V4-У+)Г1(У — У+). Говорят, что конус У+ нормален, если всякая
160 Глава 3. Выпуклость и открытость
окрестность нуля в Y содержит в себе нормальную окрестность нуля. Подчеркнем, что ниже, говоря о непрерывности отображения f : X —> Y* в точке то, мы всегда подразумеваем вхождение в dom(J) точки хо вместе с некоторой ее окрестностью.
Пусть X — топологическое векторное пространство, Y — упорядоченное топологическое векторное пространство с нормальным положительным конусом. Пусть f : X —> Y* — выпуклый оператор и xq G dom(/). Тогда f непрерывен в точке xq в том и только в том случае, если соответствие Ф := epi(/)-1 открыто в точке (f(xo),xo).
<1 Если соответствие Ф открыто в точке (J(xq),Xq), то для любой симметричной окрестности нуля V С Y найдется такая симметричная окрестность нуля U С X, что
Ф(/(х0) + V) D т0 + U.
Если х G xq 4- U, то (т, /(то) + у) € epi(/) или /(т) < /(то) + У для некоторого у G V. Следовательно, /(т) — /(то) 6 V — У+ для всех х € х0 + U. Элемент т' := 2то — х также содержится в xq + U, значит, f(xf) — f(xo) Е V — У+. В силу выпуклости f имеем 2/(xq) f(x') + f(x) или /(то) — f(x) < /(т')~/(то). Таким образом, /(то) — /(т) 6 V — У+, стало быть,
f(x) - /(то) е (V - У+) П (V + У+) (т е т0 + U).
Благодаря нормальности конуса У+ последнее означает непрерывность оператора / в точке то. Обратное утверждение очевидно. О
3.1.5.	Пусть X и У — топологические векторные пространства, a Z — упорядоченное топологическое векторное пространство с нормальным положительным конусом. Пусть, далее, Ф — выпуклое соответствие изХвУи/:Х—>£* — выпуклый оператор. Рассмотрим условия:
(а)	соответствие Ф открыто в некоторой точке (то,г/о) € Ф;
(б)	dom(/) D dom^) и сужение / на dom^) непрерывно в точке тог
(в)	существует точная нижняя граница в Z множества /(Ф-1(?/)) при всех у е Ф(Х).
(1) Если выполнены условия (а)-(в), то отображение h := Ф(/) : У —* Z*, определяемое соотношением
,= Iinf /(ф-1(г/)), если у е Ф(Х), [+оо,	если у $ Ф(Х),
является выпуклым и непрерывным в точке уо.
< Выпуклость оператора h обоснована в 1.3.5 и 1.3.9 (1). Покажем, что h непрерывен в точке yQ. Осуществляя сдвиг (х, у, z) i-> (ж — XQ,y — yQ,z — /(tq)), можно свести рассматриваемую ситуацию к случаю xq = 0, yQ = 0, J(xq) = 0. Введем соответствие Ф := {(x,z,y) : (х,у) € Ф, f(x) < z} из X х Z в У. Пусть W — произвольная окрестность нуля в Z, а число 0 < е < 1 и симметричная
3.1. Открытость выпуклых соответствий
161
окрестность нуля Wi С Z таковы, что e(Wi ± /г(0)) С W. Подберем окрестность нуля U С X, удовлетворяющую условию U П склп(Ф) с /~1(ИЛ1). Тогда, как нетрудно видеть, Ф([7 х 1У1) D Ф((7). В силу открытости Ф в нуле множество Ф(/7 хИ71) содержит некоторую симметричную окрестность нуля V. Если теперь у € V, то h(y) < /(ж) € Wi — Z+ для некоторого х е U А с1от(Ф). Следовательно, h(V) С Wi - Z+. Таким образом, ср(у) := h(y) — Л(0) е Wi — Л(0) — Z+ (у € V). Пусть у € eV. Тогда в силу выпуклости h мы получим
Ну) с (I - £)Н0) +	е - Л(0) - Z+).
Значит, <p(eV) С s(Wi — Л(0) — Z+) С W — Z+. С другой стороны, элемент —у также входит в симметричное множество eV. Вновь учитывая выпуклость Л, мы получаем: 0 = <£>(0)	(l+e)“1<£(i/)+£(l+s)'"^(-е-1?/). Отсюда -е^-е^у)	<р(у).
Стало быть, благодаря выбору V,
<р(у) е e(Wr + Л(0) + Z+) С W + Z+.
Окончательно
h(y) - /1(0) е (W + z+) n (W - z+).
Последнее означает непрерывность h в нуле ввиду нормальности конуса Z+. О
(2) Пусть X иУ — топологические векторные пространства, причем У упорядочено нормальным миниэдральным конусом. Пусть Ф — такое соответствие из X в У, что Ф~х открыто в точке (г/о,#о) и множество Ф(я) ограничено снизу для всех х € X. Тогда отображение т£оФ : X —> У* (определенное в соответствии с 1.3.5) выпукло и непрерывно в точке xq.
<1 Достаточно взять в (1) в качестве f тождественное отображение Iz пространства Z — У. [>
3.1.6.	Рассмотрим конусы и К2 в топологическом векторном пространстве X и положим х := (Кь-Кг)* С парой х свяжем соответствие Фх из X2 в X, определяемое формулой
Фх =	€ X3 : х = fci - fc2, ki G Ki (l := 1,2)}.
Ясно, что Фх — коническое соответствие.
Говорят, что конусы Ki и К2 составляют несплющенную пару или что х — несплющенная пара, если соответствие Фх открыто в нуле. Так как ФХ(У х V) = = V П Ki — V П К2 для всякого V С X, то несплющенность пары х означает, что для любой окрестности нуля V С X множество
хУ := (V А Кх - V А К2) А (V П К2 - V П Кх)
также является окрестностью нуля. Как видно, xV С V — V. Значит, несплющенность х равносильна тому, что система множеств {xV} служит базисом фильтра окрестностей нуля, если V пробегает какой-нибудь базис того же фильтра.
6 Кусраев А. Г., Кутателадзе С. С.
162 Глава 3. Выпуклость и открытость
Заметим, что множество Фх(Х х X) будет поглощающим в том и только в том случае, если К\ — К2 — X = К2 — К\. В этом случае принято говорить, что конусы Ki и К2 (алгебраически) воспроизводят пространство X или, короче, Ki и К2 образуют воспроизводящую пару.
3.1.7.	(1) Пара конусов х := (j<i, К2) несплющена в X в том и только в том случае, если пара А := х К2, Дг(Х)) несплющена в пространстве X2.
Здесь, как и выше, Дп : х (ж,..., х) — вложение X в диагональ ДП(Х) пространства Хп.
<1 Пусть Ф := Фх и Ф := Фд. Покажем, что при U, VcXnU + UcV справедливы включения
Ф(П х U)2 С Ф(У2 х V2), Ф(У2 х У2)(0) С Ф(У).
В самом деле, если х G Ф(П)2, то х = х^-Х2 при некоторых xi G UC\Ki (I := 1,2). Поэтому
(x,0) = (xi,Ж2) - (^2,^2) € Ф(П2 x U2).
Отсюда вытекает, что Ф((72) х {0} С Ф((72 х U2). По аналогичным соображениям {0} х Ф(С72) С Ф((72 х U2). Следовательно,
Ф(П х И)2 С Ф(П2 х U2) 4- Ф(П2 х U2) С Ф(У2 х У2).
Пусть теперь (0, х) е Ф(У2 х V2). Тогда (0, х) = (h, h) — (3/1,2/2) для некоторых h eV и (7/1,172) 6 V2 Г) (Ki х К2). Получаем: х = у\ - У2 € Ф(У2), что и доказывает второе включение. Требуемое теперь без труда вытекает из установленных соотношений. >
(2) Конусы Ki и К2 составляют несплющенную пару тогда и только тогда, когда коническое соответствие Ф из X в X2, определенное соотношением
Ф := {(h,x1,x2) ex х X2 txi + heKi (I := 1,2)}, открыто в нуле.
<1 В самом деле, если (Xi,/^) ~ несплющенная пара, то согласно (1) для любой окрестности нуля U в X найдется такая окрестность нуля V в X, что V2 С U2 A (Ki х К2) -U2 И Дг(Х). Следовательно, для (х, у) е V2 имеет место представление (х,у) = (u,v) — (h,h), где h е U, ueUnKinveUQ К2. При этом (h,x, у) е Ф. Последнее означает, что Ф(П) D V2.
Наоборот, пусть заранее известно, что Ф открыто в нуле. Возьмем произвольную окрестность нуля W в X. Выберем окрестность нуля V в X так, чтобы V 4- V С W. Множество Ф(У) содержит U2 для некоторой окрестности нуля U в X. Не нарушая общности, можно считать, что U С V. Интересующая нас несплющенность пары	вытекает из очевидного включения
U2 С Ф(У) С W2 A (Xi,K2) - W2 А Д2(Х). о
3.1.8.	Выпуклое соответствие Ф из X bY открыто в нуле тогда и только тогда, когда преобразование Хёрмандера множества X х Ф и конус Дг(Х) х {0} х R+ составляют несплющенную пару в пространстве X2 х Y х R.
3.1. Открытость выпуклых соответствий
163
<1 Пусть Ki := Н(Х х Ф) и Х2 •= Дг(Х)х {0} xR+. Рассмотрим произвольные окрестности нуля V С X и W С У и некоторое число е > 0. Подберем еще одну окрестность нуля Vx С X так, чтобы Vi + Vi + Vx С V. Если Ф открыто в нуле, то еФ тоже открыто в нуле. Следовательно, Wi С (еФ)(Ух) П W для некоторой окрестности нуля Wi С У. Положим U\ := V2 х Wi х [—6, б] и U := V2 х Wx [—6, е]. Тогда Ui С U A Ki - U П Т<2- Значит, пара (Кх, К2) несплющена.
Наоборот, предположим, что (Хх,Хг) — несплющенная пара, и возьмем произвольную окрестность нуля V в X. Пусть U := V2 х У х [—1,1], где Vi — такая окрестность нуля в X, что Vi + Vi С V. Если W — проекция на У множества U П Ki - U А К2, то W — окрестность нуля и И7 С Ф(У). t>
3.1.9.	Введем одно из центральных понятий субдифференциального исчисления.
Будем говорить, что конусы К\ и К2 в топологическом векторном пространстве X находятся в общем положении, если выполнены условия:
(1)	конусы Ki и К2 воспроизводят (алгебраически) некоторое подпространство Хо С X, т. е. Хо = Хх - К2 = К2 - Хх;
(2)	подпространство Хо дополняемо, т. е. существует линейный непрерывный проектор Р : X —* X такой, что Р(Х) = Хо;
(3)	К\ и К2 составляют несплющенную пару в Хо.
3.1.10.	Конусы Ki и К2 находятся в общем положении в том и только в том случае, если в общем положении находятся конус К\ х К2 и диагональ Дг(Х) пространства X2. При этом если пары (Хх, К2) и (Ki х К2, Дг(Х)) воспроизводят соответственно подпространства Хо С X и Zq С X2, а Хх С X — топологически дополнительное к Xq подпространство, то Zq разлагается в топологическую прямую сумму Xq и Д2(Хх).
<] Прежде всего заметим, что если Хх — алгебраическое дополнение Хо, то Ki и К2 воспроизводят Хо в том и только в том случае, когда К\ х К2 и Дг(Х) воспроизводят Zq = Xq + Дг(Хх). Если Хх и К2 находятся в общем положении и X = ХофХх, то Zq дополняемо. Действительно, пусть Рд : X2 —» X2 — проектор на диагональ вида Рд : (х, у) w |(х + У,х + 2/), a Q : X2 -* X2 действует по правилу Q : (х, у) (Рх, Ру), где Р — непрерывный проектор в X на Хо. Тогда, как нетрудно проверить, Q + Рд о (IX2 —Q) — непрерывный проектор на Zq. Вид последнего проектора показывает, что Zq — Xq ф Дг(Хх).
Несплющенность пары (Хх х К2, Дг(Х)) в Z% вытекает из 3.1.7 в силу включений
(Хх х К2) A U2 4- Д2(Х) A U2 D
D (Ki X К2) А и2 + Д2(Х0 А V) + Д2(Хх ПУ), V + V С и.
Наоборот, пусть конусы К± х К2 и Дг(Х) находятся в общем положении и воспроизводят подпространство Zq С X2. Тогда, как замечено выше, Zq = Xq + +Д2(Хх), где Хо := К\ - К2 и Хх — алгебраическое дополнение Xq. Если при этом Ро — какой-нибудь непрерывный проектор в X2 на Xq , то Pq, как известно,
6!
164
Глава 3. Выпуклость и открытость
открыт. Поэтому включение
Р0(и2 П (Kt х К2) + и2 П Д2(Х)) С Р0(С2) Г) (ЛГ1 П К2) + P0(U2) П Д2(Х0),
где U С X, немедленно приводит к несплющенности Ki х К2 и Д2(Хо) в Xq, значит, и к несплющенности К\ и Къ в Хо согласно 3.1.7. Таким образом, осталось показать дополняемость Xq. Пусть Р — непрерывный проектор на Zo, и положим Q := Р ~ Р& о Р. Поскольку Д2(ТС) С Zo, то Р о Рд = Рд, поэтому Q2 = Р — РоРдоР — РдоР-|- Рд о Р о Рд о Р = Q, т. е. Q — непрерывный проектор. Далее, Q(X2) = (/хз - Рд)^0) = Zo П (X) — Д2 (Хо), где Дз(Х) := {(ж, — х) : х € X}. Наконец, если определить тг : Д^(Х) —> X и р : X —* Д^(Х) соотношениями тг(ж, — х) := х и р(х) := (х, —ж), то оператор тг oQ о р : X —> X будет искомым проектором на Xq. t>
3.1.11.	Предложение 3.1.10 позволяет распространить понятие общего положения на любой конечный набор конусов. Говорят, что конусы .., Кп в пространстве X находятся в общем положении, если в общем положении находятся конус К} х ... х Кп и диагональ ДП(Х) пространства Хп.
Заметим, что преобразования Хёрмандера выпуклых конусов находятся в общем положении тогда и только тогда, когда тем же свойством обладают исходные конусы. Таким образом, естественно принять следующее определение.
Непустые выпуклые множества С\,..., Сп находятся в общем положении, если в общем положении находятся их преобразования Хёрмандера Я(С1),...,Я(СП).
3.1.12.	Если пересечение С1П.. .ПСп+1 содержит точку, внутреннюю для каждого, за исключением, быть может, одного из выпуклых множеств Ci,..., <7п-ы, то эти множества находятся в общем положении.
<1 Пусть жо — внутренняя точка выпуклого множества С. Так как отображение (x,t) н-* ж(1 4- £)-1 непрерывно в точке (жо,О), то найдутся окрестность нуля U С X и число е > 0 такие, что (жо 4- Я)(14-1)”*1 С С для всех t € (— е, е). Отсюда видно, что окрестность V (жо 4- U) х (1 — е, 1 4- ё) точки (жо, 1) содержится в Н(С). Следовательно, наше утверждение достаточно установить для случая конусов.
Итак, пусть Ci,..., Cn+i — конусы и Жо € int Ck при к = 1,..., п. Рассмотрим произвольную окрестность нуля U и предположим, что ежо eVhV + VI-V С (7 для некоторого е > 0 и симметричной окрестности нуля V. Однако €Жо также является внутренней точкой конуса С\ А ... А Сп, поэтому можно выбрать V, удовлетворяющую условию е(жо,..., Жо) 4- Vn С (71 х ... х Сп. Теперь нетрудно проверить соотношения
Vn+1 С (G х ... х Cn+i) A (Vn+1 + Vn+1 4- Vn+1) + Дп+1(Х)П
n(vn+1 + Vn+1) C (Cl X ... x C„+1) П Cn+1 - Д„+1(Х) П t/n+1;
(vi,...,vn+i) = (vn+i -ea;o,...,Vn+i -£X0)+
+(«i - Vn+i +	,vn - «n+1 + ?xq, ex0),
3.1. Открытость выпуклых соответствий
165
из которых видно, что конусы Ci х • • • х Cn+i и Дп+i (X) образуют несплющенную пару в Хп. Это и требовалось установить. О
3.1.13.	Отметим еще следующие простые факты.
Пусть Xi,.. .,Хп — произвольные топологические векторные пространства, Xq := Xi х ... х Хп и для каждого I := 0,1,..., п заданы выпуклые множества Bi С Xi и Ci С Х[. Тогда справедливы утверждения:
(1)	если для любого I := 1,..., п множества Bi и Ci находятся в общем положении, то в общем положении находятся множества Bi х ... х Вп и Ci х ... х Сп;
(2)	если Bq и Cq находятся в общем положении, то для любой перестановки 9 := {li,..., ln} множества индексов {1,..., п} в общем положении находятся множества Io(Bq) и Io(Cq), Iq : Xq Х^ х ... х Xin — перестановка координат
1е : (жь...,жп)	(xh,...,^n).
3.1.14.	Открытость выпуклых соответствий имеет весьма интересные и важные приложения в выпуклом анализе. В частности, в следующем параграфе понятие общего положения будет применено к изучению не всюду определенных (= принимающих бесконечные значения) сублинейных операторов. В этой связи возникает естественное желание выяснить, при каких обстоятельствах можно автоматически гарантировать открытость выпуклого соответствия. Тем самым возникает проблема распространения на различные типы выпуклых соответствий классического принципа открытости.
Покажем, как использовать в этой ситуации метод обкатывающего шара, предложенный С. Банахом. Другие приемы анализа открытости выпуклых соответствий мы обсуждаем ниже в 3.5 и 3.6.
Итак, пусть С — множество в топологическом векторном пространстве X. Говорят, что С является а-выпуклым, если для любой ограниченной последовательности (хп) в С и произвольной последовательности положительных чисел (Ап) такой, что	= 1, Рад	сходится и его сумма лежит в С.
Если же С содержит суммы сходящихся рядов Апяп Для произвольной последовательности (хп) в С и любых параметров Ап > 0, £^L0An ~ 1, то С называют идеально выпуклым.
Рассмотрим ускользающую для С последовательность ((xn,tn)) в X х R. Последнее означает, что
О tn in-bb Хп £ ^пС,
(^п-f-l	0, 1, . . . ).
Если для всякой сходящейся ускользающей для С последовательности ((xn,tn)) выполнено lima:n 6 (limtn)C, то множество С называют монотонно замкнутым. Наконец, С называют монотонно полным, если у всякой ускользающей для С последовательности Коши ((xn,tn)) есть предел (х, t) := lim(xn^n)? причем х G tC.
Нетрудно убедиться, что выпуклое множество С монотонно полно в том и только в том случае, если любая последовательность Коши в Н(С), возрастающая в пространстве X х R (с конусом Я(С)), сходится к некоторому элементу
166
Глава 3. Выпуклость и открытость
из Н(С). Последнее условие, в свою очередь, равносильно монотонной полноте конуса Я(С). Таким образом, можно сказать, что С монотонно полно в том и только в том случае, если монотонно полно преобразование Хёрмандера Н(С) множества С. Аналогичное суждение можно высказать и о монотонно замкнутых множествах. Рассмотрим, наконец, соответствие Ф С X х У. Говорят, что Ф — совершенно выпуклое соответствие, если Ф — идеально выпуклое подмножество X х У, а эффективное множество с!от(Ф) является или сг-выпуклым, или монотонно полным. Понятия а-выпуклости и идеальной выпуклости тесно связаны с монотонной полнотой и замкнутостью.
3.1.15.	Выпуклое множество в топологическом векторном пространстве монотонно замкнуто в том и только в том случае, если оно идеально выпукло.
<1 Пусть С монотонно замкнуто и выпукло. Так как монотонная полнота сохраняется при сдвигах, можно считать нуль элементом С. Возьмем (хп) С С, (An) С R+, и допустим, что А& = 1 и имеется сумма х := Y^kLo ^k%k-
Положим tn := ££=0 и Уп •= ^хь- Ясно» что 0	< *п+ь Уп € tnC,
2/n+i — Уп £ (^п+1 ~ *п)С и (г/n^n) —* (#, 1). Итак, указанная последовательность ускользает и сходится. Значит, х € 1С = С, т. е. С идеально выпукло.
: Пусть теперь известно, что С идеально выпукло. Вновь можно полагать, что 0 € С. Отметим, что для ускользающей последовательности ((xn,tn))> сходящейся к (х, t), можно считать, что tn > 0 и in+i / tn (другие случаи анализируются без труда). Рассмотрим элементы
Xq УО •= *0	Хп Хп—1 Уп	“ ЬП Ъп—1	(п := 1,2.
Ао - р	\		 tn ~ ^п—1 An— f	(п := 1,2,
Ясно, что An = 1, и при этом уп G С. Кроме того, оо	оо ,	,	,
V-"' %	_ ЧгЧ-1 ~ tn ^п+1 “ %п , Ч) ^0   #
h nVn~k *  tn+1-tn +f t-r
Итак, x/t G С, т. e. С монотонно замкнуто. I>
3.1.16.	Выпуклое множество С в локально выпуклом метризуемом пространстве a-выпукло в том и только в том случае, если С монотонно полно.
<]	Пусть (хп) — ограниченная последовательность в С и числа Ап > О таковы, что 52^=0 А& = 1. Нет сомнений, что последовательность yn := Ylk^o ^k%k фундаментальна, ибо
р	/ р	\
Уп+р ~~ Уп ~ ^n+k^n+k £ I ^n+fc I В = (tn+p — 1п)В, k=l	\fc=l	/
где tn := Afc, а В — выпуклое ограниченное множество, содержащее (жп). В силу монотонной полноты С, мы выводим, как и в 3.1.15, что ряд 52Хо ^пХп имеет сумму, которая входит в С.
3.1. Открытость выпуклых соответствий
167
Как и в 3.1.15, можно считать, что 0 € С. Пусть ((xn, tn)) — фундаментальная ускользающая последовательность. Найдем подпоследовательность индексов (n(fc)) такую, что
1 1 \	1
^п(А;+р)» ^хп(к) ]	2к'
tn(k+p) tn(k)
1
2*’
где d — (инвариантная относительно сдвигов) метрика, задающая топологию в рассматриваемом пространстве. Не нарушая общности, ограничимся случаем, когда £п(£4-р) > fn(fc) и яп(&+1) 7^ Положим
2к	11
Ук :=	хп(к))\ УО	= 2^’
где t := Имеем ук G y-(tn(M-i) ~ *n(fc))C' С С. С другой стороны,
/2fc	\
d(yk> 0) = d ( — (#п(&+1) — #n(fc)),0 1
1	1	\	.Л	1	\i
'7xn(k+l)’> j. xn(k) I + •••+« I Хп(к+Гр . xn(k) 1^1? ь	ь	I	\ С	ь	J
2fc раз
ибо d(|#n(fc+i), |яп(к)) < по условию. Окончательно заключаем, что (уп) — ограниченная последовательность точек С (последовательность ((хп, £п)) ускользает). Значит, ряд ^кУк сходится к элементу из С. Последнее означает, что (хп(к)) сходится. Отсюда вытекает требуемое. Е>
3.1.17.	Рассмотрим коротко вопрос об устройстве классов идеально выпуклых и а-выпуклых соответствий.
(1)	Замкнутое или открытое выпуклое подмножество топологического векторного пространства идеально выпукло.
<1 Возьмем выпуклое множество С в топологическом векторном пространстве X. Так как идеальная выпуклость сохраняется при сдвигах, то С можно считать коническим отрезком. Пусть последовательности (хп) С С и (An) С К таковы, что ^k = 1, все Хк строго положительны и ряд ^к%к сходится к некоторому элементу х € X. Положим sn := ХкХк и заметим, что sn 6 С и х = limn sn. Если С замкнуто, то, очевидно, х € С.
Пусть С открыто. Тогда функционал Минковского р := д(С) непрерывен и, как нетрудно проверить, С = {р < 1}. Предположим, что х £ С, т. е. р(х) = 1. Тогда, учитывая непрерывность р, напишем
оо	оо	оо
52 Afe = 1=р{х) < 52 Хкр(хк) 52 Afe(1 ~ H3*))=о-
fc=l	fc=l	fc=l
Отсюда вытекает противоречивое равенство p(xk) = 1. Следовательно, х € С. t>
168
Глава 3. Выпуклость и открытость
(2)	В конечномерном пространстве всякое выпуклое множество идеально выпукло.
<1 Возьмем произвольное выпуклое множество С в конечномерном пространстве X и докажем его идеальную выпуклость. Как и в (1) можно считать S коническим отрезком. Доказательство ведется индукцией по размерности С. Напомним, что размерностью выпуклого множества dim(C) называют размерность подпространства, параллельного аффинной оболочке этого множества. Допустим, что требуемое верно для всех выпуклых множеств меньшей размерности, чем dim(C). Пусть последовательности (хп) С С и (An) С R, точка х Е X и функционал р те же, что и в (1). Если р(х) < 1, то х Е С согласно 3.3.2 (3). Предположим, что р(х) = 1. По теореме Хана-Банаха существует линейный функционал I е др, для которого l(x) = 1. Поскольку функционал I непрерывен, то верно
оо	оо	оо
£=1== ЕXkl^ -* Е - ы)=°-fc=l	fc=l	k=l
Ввиду вхождения I Е др справедливо неравенство l(xk) < 1? стало быть, l(xk) = 1 для всех k € N. Таким образом, последовательность (хп) содержится в выпуклом множестве Со := С А Н, где Н — гиперплоскость {I = 1}. Множество Со имеет размерность меньшую, чем dim(C). Следовательно, по индукционному предположению х € Со- >
Следующие свойства (3)-(7) проверяются непосредственно.
(3)	Пересечение любого семейства идеально выпуклых множеств идеально выпукло.
(4)	Если Ф — совершенно выпуклое соответствие, то множество Ф(С) идеально выпукло для любого ограниченного идеально выпуклого множества С.
(5)	Идеально выпуклое подмножество а-выпуклого множества само о-выпукло. В частности, в секвенциально полном локально выпуклом пространстве всякое идеально выпуклое множество а-выпукло.
(6)	Сумма и выпуклая оболочка объединения двух a-выпуклых множеств будут a-выпуклыми, если одно из них ограничено.
(7)	Если Ф — это а-выпуклое соответствие, то Ф(С) будет a-выпуклым для каждого ограниченного множества С.
3.1.18.	Теорема. Пусть X и Y — метризуемые топологические векторные пространства, причем Y нетощее. Пусть, далее, Ф — совершенно выпуклое соответствие из X в Y и точка (яо,2/о) € Ф такова, что у® € соге(Ф(Х)). Тогда соответствие Ф открыто в точке (х$,уо).
<1 Без ограничения общности можно считать, что Хо = 0 и уо = 0. Также ясно, что для каждой окрестности нуля V в X множество с1(Ф(У)) является окрестностью нуля в У. В самом деле, по условию множество Ф(Х) А (—Ф(Х)) поглощающее. Возьмем окрестность нуля U С X такую, что aU 4- /317 С V, где а>0, /3>Оио' + /3=1. В силу 1.2.8 (2) множество Ф(С7) также поглощающее. Поскольку У нетощее, то с1(Ф(£7) А (—Ф(С7))) содержит некоторое открытое
3.1. Открытость выпуклых соответствий
169
множество W. Тем более W С с1(Ф(С7)) и — W С с!(Ф([7)). Благодаря выпуклости Ф будет с!(Ф(У)) D ас!(Ф(С7)) + с1(/?Ф(С7)) D aW — /3W. Отсюда видно, что с1(Ф(У)) — окрестность нуля.
Пусть теперь d — (инвариантная относительно сдвигов) метрика в X, задающая топологию. Положим Vn := {ж € X : d(x,0) < г/2п}, где г подобрано так, что Vo С V. Установим включение |с1(Ф(У1)) С Ф(У) (чем доказательство будет завершено). Пусть (ТГП) “ последовательность окрестностей нуля в У, построенная так же, как (Vn) в X. Возьмем произвольную точку у € | с1(Ф(У)). Положим z\ := у. Так как с1(Ф(Уз)) И Wi — окрестность нуля, то |с1(Ф(р2)) И 1У1) П |Ф(У1) / 0. Иначе говоря, имеются элементы #1,2/1,22, для которых
xi Е Vi, У1 € Ф(Я1), z2 € | с1(Ф(У2)) П 1У1, 1 1 / 1 1 \ ^2 = Z1--yi ^y=-y1 + -Z2j.
Так как с!(Ф(1^)) — окрестность нуля, то (гг — | с!(Ф(Рз)) И W2) П |Ф(р2) / 0, и вновь имеются элементы х2,у2,гз, для которых
х2 е V2, У2&Ф(х2), *з € |с1(Ф(Уз)) П W2,
1	1 (	1	1 , 1 А
2*3 = *2 - ^У2 I У = 2У1 + 4У2 + 4Z3J 
Продолжая проведенный процесс по индукции, получим последовательности (#п), (Уп), (^п), удовлетворяющие соотношениям
Хп € Уп, Уп е Ф(хп), Zn+1 е 1 с!(Ф(Уп+1)) n Wn,
Последовательность (хп) ограничена, так как хп+ь € Vn+t с Vn (fc:=l, 2,...), следовательно, все члены (#п), начиная с номера п, содержатся в окрестности нуля Vn. Значит, если с1от(Ф) — это сг-выпуклое множество, то существует сумма х := 52X1 2^хп и х е <1оп1(Ф). С другой стороны, если ип 52X1 2^хк^ то
(n+fc i \ n+fc	r
тп=п+1	/	тп=п-|-1
т. е. (ип) — последовательность Коши. Если tn := 52X1 то ((un,^n)) — ускользающая последовательность Коши для дот(Ф). Если последнее множество монотонно полно, то мы вновь приходим к существованию предела х =	ип
и справедливости вхождения х € с1от(Ф). Далее, по построению у = 52X1 так как zn —> 0. Отсюда ввиду идеальной выпуклости Ф вытекает, что у G Ф(х).
170
Глава 3. Выпуклость и открытость
Кроме того,
т. е. х лежит в V и у € Ф(У). >
3.1.19.	Пусть Ф — это <т-выпуклое соответствие, действующее из пространства X в метризуемое пространство Y. Если для любого ограниченного множества С в Y найдутся ограниченное множество В в X и число a > 0 такие, что аС С Ф(В), то Y полно.
<1 Из условия ясно, что для любой ограниченной последовательности (zn) в Y и всякой последовательности (An) С К такой, что An = 1, имеется сумма Отсюда с легкостью вытекает требуемое.
В самом деле, для произвольной последовательности Коши (уп) в Y образуем подпоследовательность (yn(k)\ Для которой 0 < 0k := ^(z/n(fc+i)»2/n(fc)) где, как обычно, d — метрика, задающая топологию в Y. Последовательность (z^, определенная соотношением Zk := (yn(k+i) ~~ Уп(к))/0к, ограничена. Пусть Afc := 0fc/ZX=o&»- Тогда ££L0Afc = 1 и ряд EX0AfcZfc сходится. Последнее означает наличие предела у последовательности (zn). Окончательно мы делаем вывод о сходимости (уп). >
3.1.20.	Пусть Ki и К2 — монотонно полные конусы в нетощем метризуемом топологическом векторном пространстве X, причем X = Ki— К2- ТогдаХ полно, а конусы К\ и К% составляют несплющенную пару.
<1 Рассмотрим соответствие
Фх := {(ki,k2,x) G X2 х X : х = fci - k2, kt G Ki (i := 1,2)},
фигурирующее в определении несплющенной пары, см. 3.1.6. Ясно, что Ф — мо-нотонно замкнутое выпуклое множество. Таким образом, Ф — идеально выпуклое соответствие, причем 0 € соге(Ф(Х2))? ибо Ф(Хг) = X по условию. В силу 3.1.16 с!от(Ф) = Ki х К2 является a-выпуклым. Из теоремы 3.1.18 следует открытость Ф в нуле. Учитывая положительную однородность Ф, можно сделать вывод о его а-выпуклости. Привлекая, наконец, 3.1.19, мы видим, что X полно. О
3.2. Метод общего положения
Наша ближайшая цель — развить метод общего положения, представляющий собой, образно говоря, автомат для получения топологических теорем существования из алгебраических эквивалентов теоремы Хана-Банаха-Канторовича. Существование такого автомата тесно связано с феноменом открытости выпуклого соответствия.
3.2.1.	Пусть X — топологическое векторное пространство, Е — упорядоченное топологическое векторное пространство. Для сублинейного оператора
3.2. Метод общего положения
171
Р : X —> Е в этой ситуации представляет интерес изучить совокупность всех линейных непрерывных операторов, содержащихся в субдифференциале дР. Указанное множество также обозначают символом дР и по естественным причинам сохраняют для него прежние названия: «ЭР — субдифференциал (в нуле)» и «дР — опорное множество». В тех случаях, когда имеется опасность недоразумений, используют более подробные обозначения и термины, говоря об алгебраическом субдифференциале даР и топологическом субдифференциале дсР. Иными словами, желая избежать двусмысленностей, полагают
даР := ЭР, дсР := (ЭаР) A Е),
где, как обычно, Е) — пространство всех линейных непрерывных операторов из X в Е.
3.2.2.	(1) Пусть Р : X —> Е — сублинейный оператор, причем dom(P) = X. Если положительный конус Е+ в Е нормален, то равносильны утверждения:
(а)	Р равномерно непрерывен;
(b)	Р непрерывен;
(с)	Р непрерывен в нуле;
(d)	множество дР эквинепрерывно.
<1 Импликации (а) —> (Ь) —* (с) очевидны.
(с) -> (d): Если Т е дР, то -Р(-л) Тх Р(х) (х е X). Поэтому для произвольной окрестности нуля U С X будет T(U) С np(U) := (P(U) — Е+) А А(-Р(-[/) -|- Е+). Тем самым
ТедР}.
В силу нормальности конуса Е+ и непрерывности в нуле оператора Р множества {np(U)} образуют базис фильтра, сходящегося к нулю. Отсюда вытекает эквинепрерывность дР.
(d) —> (а): Пусть V — симметричная нормальная окрестность нуля в Е. Подберем симметричную окрестность нуля U С X так, чтобы
и + и С	: Т € дР}.
Возьмем теперь произвольные х, у € U. Из субаддитивности Р получаем
Р(х) - Р(у) Р(х - у), Р(у) - Р(х) Р(у - х).
С другой стороны, ввиду 1.4.14(1) можно подобрать такие S,T € дР, что S(x - у) = Р(х - у) и Т(у - х) = Р(у - х). В силу выбора U имеем включения Р(х) - Р(у) G V - Е+ и Р(у) - Р(х) G V - Е+. Учитывая нормальность и симметричность V, мы окончательно получаем
Р(®) - Р(у) G (V + Е+) П (V - Е+) = V. >
172
Глава 3. Выпуклость и открытость
(2) Топологический субдифференциал всюду определенного непрерывного сублинейного оператора непуст.
<1 Это следует из установленного предложения и 1.4.14(2). >
3.2.3.	Из приведенных утверждений видно, что техника вычисления алгебраических субдифференциалов автоматически обслуживает топологический случай для всюду определенных непрерывных сублинейных операторов. Для не всюду определенного оператора Р даже при условии его непрерывности на dom(P) опорные множества daP и дсР не обязательно совпадают. В то же время потребности приложений (и просто здравый смысл) требуют решения задачи поиска формул субдифференцирования в топологической ситуации в классе топологических опорных множеств, ибо в указанных условиях можно говорить о более обозримом классе, нежели класс всех линейных операторов, — о классе непрерывных линейных операторов.
Как мы видели в 1.4, формулы субдифференцирования — это тонкие формы утверждений о существовании типа теоремы Хана-Банаха-Канторовича. Понятно, что формулы подсчета топологического опорного множества для суперпозиций — это еще более квалифицированные формы теорем существования, в которых при разумных дополнительных топологических ограничениях (ср. 3.2.2) гарантируется существование непрерывных операторов с предписанными алгебраическими свойствами.
Развиваемый ниже метод общего положения дает регулярный способ получения топологических теорем существования из алгебраической техники субдифференцирования, основанной на теореме Хана-Банаха-Канторовича.
В дальнейшем нам понадобятся некоторые соглашения. Всюду ниже будем считать, что Е — это К-пространство и положительный конус Е+ в нем нормален, т. е. что Е — топологическое К-пространство. Вскоре читатель увидит, что это предположение очень существенно и связано по сути с 3.2.2 (1). Следующее же соглашение носит чисто технический характер, ибо приводит к значительному упрощению многих формул.
Пусть X} и Xz — векторные пространства. Осуществим изоморфизм пространств L(Xi,E) х L(Xz,E) и L(Xi х Xz,E) следующим образом. Для операторов Ti G L(Xi.E) и Т2 € L(Xz,E) положим
(Т1,Т2)(^1,^2) •= Т1Х1 - Т2Х2 (ХЕ1 е Х1, Х2 е Х2).
В случае, когда число п рассматриваемых пространств Xi,... ,ХП больше двух, мы будем использовать процедуру отождествления индуктивно, используя представление
%! X ... X - (Х1 X ... X Хп-1) X Хп.
Таким образом, запись (71,..., Tn) € L(Xi х ... х Xn, Е) в дальнейшем означает, что Ti € L(Xi,E) (Z := 1,..., п) и
(71,..., 7’n)(a;i,..., хп} = Tix± —	~	~ Тпхп
3.2. Метод общего положения
173
для всех #i G Xi,...,xn G Хп. Приведенное соглашение тем самым действует и в топологических ситуациях, т. е. для пространств &(Xi,E) х &(Х2,Е) и J$f(Xi хХ2,Е) ит. п.
Для конуса К С X, положим
7ге(Х) := {Т G JJ?(X,E) : Тк 0 (к G К)}.
Как видно, тге(Х) — конус в ££(X, Е).
Пусть Р : X —> Е — сублинейный оператор, Т G <£?(Х,Е) и S е &+(E,F). Тогда (Т, S) G 7T£;(epi(P)) в том и только в том случае, если S 0 иТ G d(SoP).
<] Действительно, если S 0 и Т G d(S о Р), то для (h,k) G epi(P) будет Th < SoP(Zi) < Sk, т. е. Th — Sk < 0. Наоборот, допустим, что Th < Sk для всех (Л, к) е epi(P). При h = 0 и к 0 получаем Sk > 0, т. е. S > 0. Если же к = Р(Л), то будет Th S о P(h), т. е. Т G d(S о Р). >
Следующее предложение является ключевым.
3.2.4.	Пусть Ki,..., Кп — конусы в топологическом векторном пространстве X и Е — топологическое К-пространство. Если Ki,...,Kn находятся в общем положении, то справедливо представление:
7ГЕ(Х1 А . . . А Кп) = 7Te(Ki) + . . . + 7Ге(Хп).
<1 Предположим сначала, что п = 2. Пусть оператор Т входит в левую часть требуемого равенства. Положим Хо := Ki — К2 и рассмотрим коническое соответствие Ф из X2 в X, обратное к Ф из 3.1.7 (2). Так как
Kt Г\К2 — Ф(0,0) D Ф(т1,т2) 4-Ф(-Т1,-х2)
для любых Т1,ж2 G Хо, то при h G Ф(#1,х2) и k G Ф(-Я1, —я2) будет T(h + k) < 0, т. е. Тк < —Th. Итак, множество —Т(Ф(ж1,ж2)) ограничено снизу при xi,x2 G Хо и соотношение
Р(ж1,ж2) := inf{—Th : h G Ф(#1,ж2)}
корректно определяет сублинейный оператор из Xq в Е*. Легко видеть, что dom(P) = Xq. Более того, оператор Р непрерывен в силу 3.1.5. Стало быть, дР / 0 согласно 3.2.2 (2). Если S G J$f(X2) — линейный непрерывный проектор на Xq и (Ti, -Т2) G (дР) о S, то, как нетрудно видеть, Т = Ту 4- Т2, Ti е tte(Ki) (I := 1,2). Последнее означает, что Т G tte(Xi) 4- 7ге(Х2). Допустим теперь, что п > 2. Положим К := Кг х ... х Kn, Kq = Ki А ... А Кп и заметим, что К$ = К А ДП(Х). Если Т е пе(К0), то S := (Т, -Т,..., -Т) G тгЕ(К^. В силу уже доказанного tte(Kq) С 7Ге(Х)4-7г(Дп(Х)), ибо конусы К и ДП(Х) находятся в общем положении по определению, т. е. существуют операторы 7}, S/ 6 ^(Х, Е) (I := 1,...,п) такие, что (Si, -S2,..., -Sn) G 7Гя(Дп(Х)), (Ti, -T2,..., -Tn) G G тге(К) и (T,0,... ,0) = (Tt, -T2,..., -Tn) 4- (Si, -S2,..., -Sn). Из этих соотношений мы получаем, что Si = 0, Т = ]lXi 7} и Tf G ke(Ki) (I •= 1, • • • ^)-Противоположное включение очевидно. О
174
Глава 3. Выпуклость и открытость
3.2.5.	(1) Пусть пространство Е (топологически) полно и конусы К^х.. .хКп и ДП(Х) образуют несплющенную пару в подпространстве Zo С Хп, замыкание которого дополняемо в Хп. Тогда
ле(К1 А... А Кп) = ле(К1) + . • • 4- ле(Кп)-
Если же Е = R и X — локально выпуклое пространство, то в условии общего положения конусов Ki,..., Кп предположение о дополняемости можно опустить, сохранив при этом указанное представление.
<1	В самом деле, в силу полноты Е — непрерывный сублинейный оператор Р, построенный в доказательстве 3.2.4, можно продолжить по непрерывности с указанного там подпространства X на cl(Xg) и завершить доказательство по уже известной схеме. Если же Е = R и X локально выпукло, то любой функционал f € дР допускает непрерывное линейное распространение с Xq на все X2 по классическому принципу продолжения. >
(2)	Следует подчеркнуть, что при соблюдении нужного условия общего положения справедливо несколько более сильное утверждение:
В условиях 3.2.4 для каждого оператора Т € яе(К1 А ... А Кп) множество
{(Ti,...,Tn)GJ^(X,E)n: T = Ti + ... + Tn, TtE^Ki)}
непусто и эквинепрерывно на подпространстве ДП(Х) + П”=1 Кь
<1 Ограничимся случаем п = 2. Пусть Xq и Р те же, что и в доказательстве 3.2.4. Тогда ограничения операторов из указанного множества на подпространство Х§ составляют дР. С другой стороны, дР эквинепрерывно ввиду 3.2.2 (1). >
3.2.6.	Метод общего положения состоит фактически в последовательном применении 3.2.5 (1) и следующего очевидного утверждения.
Пусть X hY — топологические векторные пространства, Т — линейный непрерывный оператор из X bY и К С X — конус. Тогда
тге(Т(К)) = {S е J2?(y, Е) : S о Т € пЕ(К)}.
В качестве важнейшего приложения этого метода установим правило субдифференцирования суммы (не обязательно всюду определенных) сублинейных операторов — ключевую теорему локального выпуклого анализа. Для его формулировки условимся символом an обозначать отображение перестановки координат
tfn :	Ь-» ((ЯГ1,.(2/1,...
осуществляющее изоморфизм пространств (X х У)п и Xn х Yn.
3.2.7.	Теорема. Пусть X и Y — топологические векторные пространства, Е — топологическое К-пространство и К\,...,КП — конические соответствия из X bY. Если конусы an (П/Li и &n(X) х Yn находятся в общем положении, то справедливо представление:
яе(К1 + • • • + Кп) — тге(К1)+ • •. + ле(Кп)-
3.2. Метод общего положения
175
< Пусть оператор Л из Хп х Yn в X х Y действует по правилу п п \ ~Yxi’ Yvi I • ПЬ J
Тогда Ко = Х(К П (ДП(Х) х Уп)), где Ко :=	. + Кп и К := ап(ПГ=1 К).
Если (Г, S) G тге(А'о), то, в силу предложений 3.2.4 и 3.2.6, найдутся такие операторы з/ € ’ге(К') и ЗВ € тгЕ(Дп(Х) х Уп), что (Т, 5) о Л = si + ЗВ. Полагая Тх := 32/(0, ..., 0, х, 0,..., 0) и Si(x) = ^(0,..., 0, х, 0,..., 0) (а? стоит на l-м месте, а I := 1,2,..., 2п), мы получим набор линейных операторов, для которых
St,Ti&^(Х,Е) (1:= l,...,n); Si,Tt e^(Y,E) (I := п + 1,... ,2n);
]TS(=0; Si = 0 (Z:=n + l,...,2n); 1=1
'^Tix + '^2lTi+nyi-'^2lSiX = Tx-'^2lSyi (®eX, (x,yi) € Kt, Z:=l,...,n); /=1	Z=1	1=1	1=1
(ГЬ5/)€7ГЕ(^) (Z := 1,... ,n).
Отсюда вытекает, что T = 52/Li Ть а 2} = —S для всех I := п + 1,..., 2п или, что то же самое, (7}, S) G ke(Ki) (Z := 1,..., п). Таким образом, Т входит в правую часть рассматриваемого равенства. Противоположное включение тривиально. [>
3.2.8.	Будем говорить, что сублинейные операторы Pi,...,Pn : X —» Е находятся в общем положении, если в общем положении находятся множества ДП(Х) х Еп и an(epi(Pi) х ... х epi(Pn)). Аналогичную терминологию мы примем и для выпуклых операторов.
Теорема. Пусть X — топологическое векторное пространство и Е ~ топологическое К-пространство. Если сублинейные операторы P\,...,Pn : X —> Е находятся в общем положении, то имеет место формула Моро-Рокафеллара
d(p1 + ... + pn) = dP1 + ... + aPn.
<] Следует применить 3.2.7 к конусам epi(Pi),... ,epi(Pn). I>
Из теоремы 3.2.7 можно вывести правило подсчета опорного множества свертки сублинейных операторов. Рассмотрим топологические векторные пространства X, Y, Z и сублинейные операторы Р : X х Y -+ Е* и Q :Y х Z Е*.
3.2.9.	Теорема. Если конусы epi(P, Z) и epi(X, Q) находятся в общем положении, то имеет место представление
d(Q &P) = dQo dP.
Здесь dQ о dP — композиция dQ и dP, понимаемая в соответствии с 3.2.3, т. е.
dQ о ЭР ={ (Ti, Т2) е 3?(Х, Е) х ^(Z, Е) : (ЗТ € J^(y, Е))
Tix -Ту Р(х,у), Ту - T2z Q(y,z), (x,y,z) € X х У х Z}.
176
Глава 3. Выпуклость и открытость
<1 Если операторы 7\ G -Z(X,E), Т G &(Y,E) и Т2 G ^(Z,E) таковы, что (71, Т) € дР и (Т, Т2) G dQ, то для любых х е X, у eY и z G Z будет
Тхх - Т2г = (Tix - Try) + (Ту - T2z) Р(х, у) + Q(y, z).
Переходя в этом неравенстве к точной нижней границе по у € У, получим (71, Т2) € d(QAP). Докажем обратное включение. Определим операторы P,Q : X xY xZ-+EnV:XxYxZ—>XxZ соотношениями
Р(х, у, z) := Р(х, у), Q(x, у, z) := Q(y, z), V(x, у, z) := (х, z) ((х, y,z) G X xY x Z).
Очевидно, что если (71,7г) G d(QAP), то (71, T2) о V G d(P + Q). Далее, так как epi(P) = epi(P, Z) и epi(Q) = epi(X, Q), применима теорема 3.2.8. Стало быть, (Ti, T2)oV G dP+dQ. Пусть (Ti, T2)oV = Si+S2, где Si G дР и S2 G dQ. Положим (J7i, Vi) = Si(-,-,0) и (J72,V2) = S(0,-,-). Тогда (Ui,Vi) G дР и (t/2,V2) G dQ и для всех (x,y,z) e X2 xY x Z будем иметь
Tix - T2z = Uix - Viy 4- U2y - V2z.
Следовательно, T\ = <7i, T2 — V2 и U2 = Ц. Иными словами, (71,7г) G dQodP. D>
3.2.10.	Отметим несколько следствий установленного факта:
(1)	Рассмотрим пару конусов Ki С X xY и К2 с У х Z и предположим, что конусы Ki х Z и X х К2 находятся в общем положении. Тогда тге(Х2 о Ki) = = 7Ге(К2) О 7Ге(Т<1).
<1 Положим Р := 6е(К) и Q := 5е(К) и заметим, что QAP = 6е(К2 ° Ki), epi(P, Z) = Ki х Z х E+ и epi(X,Q) = X x K2 x E+. Остается сослаться на теорему 3.2.9. О
(2)	Пусть F — упорядоченное топологическое векторное пространство, Р : X —> F* — сублинейный оператор, Q : F —» Е* — возрастающий сублинейный оператор. Если конусы epi(P) х Е и X х epi(Q) находятся в общем положении, то справедливо представление
d(Q оР) = U{9(T о Р) : Т G 9Q}.
<1 Положим Ki epi(P) и К2 := epi(Q) и заметим, что в силу монотонности оператора Q имеем epi(Q о Р) = К2 о К\. Если S G d(Q о Р), то (S, 1е) £ ле(К2) ° <уке(К1) в силу (1), поэтому для некоторого Т G &(F, Е) справедливы вхождения (S,T) G 7ге(/<1) и (Т, 1е) € тге(К2). Первое из них обеспечивает соотношение S G д(Т о Р), а второе — Те 0Q. Итак, S входит в правую часть требуемого включения. Противоположное включение бесспорно. 1>
(3)	Пусть Р : X —> Е9 — сублинейный оператор, Т : У X — линейный непрерывный оператор, а конусы У х epi(P) иТ х Е находятся в общем положении. Тогда д(Р оТ) = (дР) о Т.
<1 Вытекает из (1), если положить Ki := Т и К2 := epi(P). >
3.2. Метод общего положения
177
(4)	Пусть Р : Y х X Е* — сублинейный оператор и К С X х Y — кони-ческое соответствие. Допустим, что множество Р(К(х) х {ж}) ограничено снизу для каждого хЕХ. Тогда формула Q(x) := inf(P(7<(x) х {ж})) определяет сублинейный оператор Q : X —> Е9. Если конусы X х epi(P) и К х X х находятся в общем положении, то
dQ = (dP)o7VE(K)o^
<1 Действительно, имеет место представление
Q = (P& 5е(К))оД2.
Из (3) вытекает dQ ~ д(Р А ° Аг- Остается применить теорему 3.2.9, учитывая, что epi(X, Р) = X х epi(P) и epi(JjR?(A’),A’) = К х X х Р+. >
3.2.11.	Для дальнейшего субдифференцирования необходимо найти условия вынесения линейного оператора слева из-под знака субдифференциала. Иными словами, мы сталкиваемся с вопросом справедливости формулы d(SoP) = SodP. Ситуация здесь не столь проста, как в 3.2.10 (3). (Мы это уже видели в 1.4.14 (5), изучая случай, когда S — мультипликатор.) Сейчас мы ограничимся тем случаем, когда S — положительный ортоморфизм. Более общая задача будет изучена в 4.5.
(1)	Если Р : X —> Е — некоторый сублинейный оператор, a a : Е —> Е — произвольный ортоморфизм, то da(ao Р) = а о даР.
<1 Ядро кег(а) положительного ортоморфизма, как уже отмечено, является полосой. Пусть тг — проектор на кег(а). По теореме 2.1.6 (2) д(а о Р) = д(/3 о Р), где /3 := а|н(Е)- Ортоморфизм /3 имеет нулевое ядро. Поэтому определен положительный оператор /З-1 : /3(тга(Е)) —> Е, обратный к /3, При этом /3(?rd(E)) — фундамент в TrdE. Пусть Т G d(j3 о Р). Тогда — 0 о Р(—х) < Тх < (3 о Р(х) для всех х е X, поэтому Т(Х) С /3(7Td(P)). Отсюда видно, что S := /З”1 оТ G L(X,E) и S е дР. Кроме того, /3 о S = Т. Значит, Т € /ЗодР, Обратное включение тривиально. Итак, д(аоР) = (3о дР и остается лишь заметить, что (3о дР = ао ЭР. О
(2)	ЕслиР : X —> Е* — положительный сублинейный оператор, то для любого a 6 Orth+(E) будет
д(а о Р) = о дР : а (3 G Inv(Orth+(E))},
где Inv(Orth+(E)) — множество положительных обратимых элементов алгебры Orth(E).
<1 Всякий положительный ортоморфизм а является инфимумом обратимых положительных элементов Orth(E), например, последовательности a + (~)Ле-Для обратимого /3 G Orth+(E) выполнено, очевидно, д(/3 о Р) = (3 о дР. В силу же положительности Р равносильны соотношения (Vx G dom(P)) Тх а о Рх и (Var G dom(P))(V/3 G Inv(Orth+(E)))(/3 a -+ Тх (3 о Px). >
Из этого предложения легко можно вывести, что если дР / 0, то множество
р| {0 о дР - (а - /3) о Т : а 0 € Inv(Orth+(E))}
не зависит от выбора Т € дР и совпадает с д(а о Р).
178
Глава 3. Выпуклость и открытость
Перейдем теперь к случаю произвольного сублинейного оператора Р : Х-*Е*. Пусть а, /3, тг — те же, что и в доказательстве (1). В максимальном расширении m(7rd(E)) полосы 7rd(E) существует фундамент Ei такой, что ^(Е) С Е\ и оператор /З-1 допускает единственное продолжение, скажем р, до положительного оператора, определенного на ?rd(E) и принимающего свои значения в Е\. Итак, р : 7rd(F) —> Ei и р о /3 = Поскольку р биективен, то можно положить а := р~х и получить тем самым положительный оператор а : Е\ —* Е. Тогда для каждого х G 7rd(E) будет ах = р~хх = р-1(р о /3)х = /Зх = ах, т. е. а и а совпадают на ird(E).
Положим
а дР := d(5£0(dom(P))) 4-аодяДР),
где Eq := тгЕ = кег(а), а множество ЭеДР) состоит из линейных операторов S : X —> Ei, для которых Sx С 7tdP(x) (х € X) и а о S : X —> Е непрерывен. Если domP = X, то 5(5B0(dom(P))) = {0} и> поскольку im(S) С 7rd(P), мы видим, что а о S = а о S. Таким образом, а • дР = а о дР.
(3)	Для сублинейного Р : X —* Е* и положительного а 6 Orth(E) выполнено д(а о Р) = а - дР.
<1 Возьмем произвольный оператор Т G д(а о Р). Положим Ti := тг о Т и определим сублинейный оператор Pi : X —> Ei формулой Pi (ж) := 7rd о Р(х) (х G X). Тогда из данных выше определений видно, что Ti G $(£E0(dom(P))) и Фе?1(Р) = dPi- Далее, для произвольного х е dom(P) = dom(Pi) будет ndTx < < 7vd о а о Р(х) = а о Р(х) = а о Pi (ж), стало быть, р о ird о Тх Pi (ж). Если обозначить Тг •= р о ird о Т, то Тг G dPi и Т = Ti + а о Тг. Следовательно, д(а о Р) С а • дР. Обратное включение очевидно. >
3.2.12.	Если сублинейные операторы Pi,...,Pn : X —> Е* таковы, что над-графики epi(Pi),..., epi(Pn) находятся в общем положении, то имеет место представление
д(Р1 V ... V Pn) = U(ax • dPi + ... + an  дРп),
где объединение взято по всем а±,..., ап 6 Orth+(E) таким, что ai+.. .+ап = 1е-< Пусть Р := Pi V ... V Рп, К epi(P) и Ki := epi(Pj) (Z := l,...,n).
Возьмем T 6 dP. Как отмечалось в 3.2.2, (Т, 1е) € ле(К). Имеет место очевидное соотношение К = Ki П ... П Кп, Поэтому найдутся операторы Ti G J$f(X, Е) и ai € &(Е) (I := 1,..., п) такие, что
(T,Ie) — (Ti,ai) + ... 4- (Tn,an);
(Ti,ai) е 7te(Ki), ..., (Tn,an) е тге(Хп).
На основании 3.2.3 и 3.2.11 (3) мы заключаем, что а/ 0 и Т/ G d(aioPi) = ai-dPi. Кроме того, Т = Т1+.. .+ТП и 1е = сц-К . .+ап, следовательно, Т входит в правую часть требуемого представления. Обратное включение опять очевидно, о
3.2. Метод общего положения
179
3.2.13.	Для сублинейных операторов Р : X xY Е9 и Q •. Y х Z Е9 введем следующее обозначение:
(<X?)0(<?P) = J (0 • 0Q) о (а • дР).
а,0^0 сх+@=1е
В силу 3.2.11 (3) это обозначение согласуется с 1.2.5.
Предположим, что Р : X х Y —> Е9 и Q : Y х Z —> Е9 — сублинейные операторы, причем конусы epi(P, Z) и epi(X, Q) находятся в общем положении. Тогда имеет место представление
d(Q (•) Р) = (dQ) (дР).
< Допустим, что (Ti,To) € a • дР и (То?Т2) € /3 • dQ, причем a,(3 € Orth+(E) и a + /3 = Ie- Тогда
I\x — T%z = (Т\х - Тъу) + (Toy — T%z)
а о Р(х, у)+(3о Q(y, z) Р(х, у) V Q(y, z).
Следовательно, (Ti,T2)(z, z) (Q® P)(x,z).
Наоборот, пусть (Т1,Тг) G d(Q 0 Р). По тем же соображениям, что и в 3.2.9, отсюда вытекает, что (ТьТг) ° A G д(Р V Q), где Р, Q и А фигурируют в доказательстве 3.2.9. Как видно из представления 3.2.12, найдутся положительные ортоморфизмы а, /3 € Orth(P), а 4- (3 = 1е, и операторы W € a • дР и У € /3 • dQ такие, что (Ti, Т2) о А =	+ У. Нетрудно понять, что a • дР = (а • дР) х {0} и
(3 dQ - {(0,V0,V2) : (-Vb,V2) € /З-dQ}. Пусть W = (C7i,СЛо,0) и Г = (0,Vo,Vj). Тогда должны выполняться равенства Ti = Pi, Т2 = Р2иРо = ~Ц)- Тем самым (Ti, Т2) € (/3 • 9Q) о (а • ЭР) С (9Q) О (ЭР). О
3.2.14.	(1) Для сублинейных операторов Pi,...,Pn : X -» Е9 справедлива формула
Э(Р1 Ф ... 0 Pn) = дРг А ... А дРп.
<1 Оператор Р := Pi ф ... ф Рп есть точная нижняя граница множества {Pi,..., Рп} в решетке Sbl(X, Е). Поэтому дР Q dPi для всех I := 1,..., n. С другой стороны, оператор Q : х sup{Tx : Т G dPi А... А дРп} мажорируется каждым из Pi. Значит, должно быть Q < Р. Но тогда дР\ А ... А дРп С dQ С дР. >
Взяв сублинейные операторы Pi,..., Pn : X —> Е9, положим
:= (J он -dPi D...f]an-dPn.
ai +...+an=lE
В силу 3.2.11 (3) это обозначение согласовано с 1.1.6 (8).
(2) Если положительный конус Е+ несплющен, то для любых сублинейных операторов P\,...,Pn : X —> Е9 имеет место представление
Э(Р1#...#РП) = ЭР1#...#ЭРП.
180
Глава 3. Выпуклость и открытость
<1 Не ограничивая общности, рассмотрим лишь случай п = 2. Пусть Y := X, a Z — произвольное пространство. Определим операторы Р : X х Y —» Е9 и Q.Y х Z Е9 формулами
Р(х,у) ^Р^х-у), Q(y,z) :=Р2(?/).
Тогда (Q 0 Р)(т, г) = (Pi#P2)(x) для всех х 6 X и z € Z. Следовательно,
9(Q0P) = W2)x{O}.
Нетрудно видеть, что несплющенность положительного конуса обеспечивает условие общего положения epi(P, Z) и epi(X, Q). Тем самым применима теорема 3.2.13, согласно которой
a(Pi#p2)x{o} = (aQ)o(ap).
Осталось сосчитать субдифференциалы:
о-9Р={(Т,Т): TGa-dPi}, 0 • 0Q = (0 • дР2) х {0}, (/3 • 9Q) о (а • ЭР) = (9Р1 П ЭР2) х {0}.
Теперь ясно, что (QQ) 0 (9Р) = (9Pi#9P2) х {0}. о
3.2.15.	Теорема о сэндвиче. Пусть P,Q : X —> Е9 — сублинейные операторы, находящиеся в общем положении. Если Р(х) + Q(x) 0 для всех хСХ, то существует линейный непрерывный оператор Т : X —> Е такой, что
—Q(x) Тх < Р(ж) (ж € X).
<1 По условию теоремы 0 € d(P + Q). В силу 3.2.8 имеет место формула Моро-Рокафеллара. Следовательно, 0 = Т 4- S для некоторых Т G дР и S € 9Q. Оператор Т (= —S) искомый. >
Заметим, что теорема о сэндвиче и формула Моро-Рокафеллара равносильны. Если для сублинейных операторов Р и Q имеет место теорема о сэндвиче, то для любого Т € д(Р + Q) из очевидного соотношения 0 е д(Р + Q - Т) вытекает существование такого S е &(Х,Е), что — Q(x) < — Sx < Р(х) — Тх для всех х G X. Это означает, что S € dQ иТ—Se дР, т. е. d(P+Q) С dP+dQ. Учитывая очевидное обратное включение, мы приходим к формуле Моро-Рокафеллара.
3.2.16.	Теорема Мазура—Орлича. Пусть Р : X —► Е9 — сублинейный оператор, a	и ~ семейства элементов X и Е соответственно. Допу-
стим, что конусы Д2(Х) х Е2 и сг2(К х epi(P)), где К — коническая оболочка семейства ((т$, —e^))^es, находятся в общем положении в X2 х Е2. Тогда равносильны утверждения:
(1)	существует оператор Т € <S?(X, Е) такой, что
Т е 9Р, Txt (С G S);
3.2. Метод общего положения
181
(2)	для любых Ai,..., Хп €	и £i,..., £Л € 5 выполнено
<1	Импликация (1)	(2) очевидна и верна без требования общего положе-
ния. Для доказательства (2) —> (1) нужно применить теорему о сэндвиче 3.2.15 к данному оператору Р и новому оператору Q : X —» Е*, определенному соотношением {п	п
: х =	Afc О
fc=i	fc=i
При этом следует заметить, что Q сублинеен, epi(Q) эКиР + Q^O. О
3.2.17.	Лемма Крейна. Пусть X — упорядоченное векторное пространство и сублинейный оператор Р : X —> Е монотонен в следующем смысле: Р(и) Р(х) для всех x,u G X при —х ^и х. Тогда для любого линейного оператора Т G дР существует линейный оператор S € дР такой, что —S S.
<] Взяв Т е дР, определим оператор Q : X —> Е* формулой:
Q(x):=
inf{— Ту : — х < у < х}, +оо,
если х 6 Х+, если х Х+.
Если х,у G Х+ и — х < и < х, —у v < у для некоторых u, v G X, то —х — у ^u + v ^х + у, следовательно, Q(x 4- у) < — Ти — Tv. Переход к точным нижним границам по указанным unv дает субаддитивность Q на Х+. Субаддитивность Q в случае х £ Х+ или у Х+, а также положительная однородность очевидны. Далее, в силу предположения о монотонности — Р(х) — Р(и) < — Ти, поэтому при х € Х+ будет — Р(х) < Q(x). Тем самым оператор Q сублинеен и (Р 4- Q)(x)	0 (ж G X). По теореме о сэндвиче 3.2.15 существует линейный опе-
ратор S 6 дР, для которого -S G dQ. Отсюда Sx Ту при — х < у < х, х 6 Е+. Подставив у := ±х, получим S ±Т, что и требовалось. О
3.2.18.	В заключение настоящего параграфа приведем борнологический вариант формулы Моро-Рокафеллара. Сначала напомним необходимые определения.
Борнологией на множестве X называют возрастающий (относительно с) фильтр ®, элементы которого образуют покрытие X. При этом множества из ® называют ограниченными. Отображение (или соответствие), действующее между множествами с борнологией, называют ограниченным, если образ всякого ограниченного множества является ограниченным множеством. Борнологическим векторным пространством называют пару (X,®), где X — векторное пространство, а ® — борнология, согласованная с векторной структурой в том смысле, что отображения (х,у) х + у из X х X в X и (Л, ж) Хх из JR х X в X являются ограниченными. Последнее, очевидно, равносильно замкнутости ® как относительно сложения множеств, так и умножения множества на положительные числа, а также относительно операции взятия уравновешенной оболочки.
182
Глава 3. Выпуклость и открытость
Множество всех ограниченных (эквинепрерывных) подмножеств топологического векторного пространства является борнологией, которую называют канонической (эквинепрерывной). Борнологию пространства (X,®) называют выпуклой, если фильтр ® имеет базис, состоящий из абсолютно выпуклых множеств. При этом говорят, что (X, ®) — выпуклое борнологическое пространство.
Введем теперь понятие борнологической несплющенности и борнологического общего положения.
Пусть X — борнологическое векторное пространство. Пару конусов х := := (Ki,К2) в X называют борнологически несплющенной, если коническое соответствие Фх из 3.1.6 является ограниченным (в смысле 3.1.6). Иными словами, х борнологически несплющена, если X = Ki — К2 и для каждого ограниченного множества А С X найдется такое ограниченное множество В С X, что
А С (В П Кг - В П К2) П (В П К2 - В П Xi).
Говорят, что конусы К\ и К2 находятся в борнологическом общем положении, если выполнены условия:
(1)	конусы Ki и К2 воспроизводят (алгебраически) некоторое подпространство Xq С X, т. е. Xq = Ki - К2,
(2)	подпространство Хо борнологически дополняемо, т. е. существует линейный ограниченный проектор тг в X, для которого Хо = 7г(Х);
(3)	(Ki,K2) — борнологически несплющенная пара в Хо-
Если К := Ki = К2, то естественно говорить о борнологически несплющенном конусе К.
Конечный набор конусов К±,..., Кп находится в борнологическом общем положении, если пара конусов Ki х ... х Кп и ДП(Х) находится в борнологическом общем положении. Понятно, как распространить понятие борнологического общего положения на конечное семейство выпуклых множеств.
Аналогично определяют борнологическую нормальность. Конус К в борнологическом векторном пространстве называют борнологически нормальным, если множество (В -I- К) П (В — К) ограничено для любого ограниченного В. Борнологическим К-пространством мы назовем такое К-пространство, которое одновременно является борнологическим векторным пространством и при этом положительный конус борнологически нормален. Наконец, обозначим символом дьР множество всех линейных ограниченных операторов, содержащихся в субдиффе-ренциале 3°Р, если Р действует в борнологических векторных пространствах.
3.2.19.	Пусть X — борнологическое векторное пространство, Е — борнологическое К-пространство и Pi,... ,Pn : X —> Е* — сублинейные операторы. Если конусы epi(Pi х ... х Рп) и ДП(Х) х Еп находятся в борнологическом общем положении, то имеет место представление
д^Р! + ... + рп) = эьр1 + ... + дьрп.
<1 Доказательство повторяет рассуждения из 3.2.4 и 3.2.8 с очевидными модификациями. [>
3.3. Исчисление поляр
183
3.3.	Исчисление поляр
Цель текущего параграфа — получить все основные формулы вычисления поляр конических отрезков и калибров. Решение этой задачи включает два этапа: построение функционала Минковского составного конического отрезка и нахождение субдифференциала составного сублинейного функционала. Первый этап сводится к простому вычислению, второй основан на методе общего положения.
3.3.1.	Пусть X — вещественное векторное пространство. Под функционалом Минковского непустого множества С С X понимают функцию д(С) : X —► R*, определяемую формулой
д(С) : х inf(#(C)(s)),
где Н(С) — преобразование Хёрмандера множества С (см. 1.2.6). Итак, в более подробной записи
р(С)(х) = inf {А > 0 : А е R, х G AC} (х G X).
Из 1.2.6 (1) и предложения 1.3.5 видно, что для выпуклого множества С отображение р(С) — положительный сублинейный функционал, т. е. д(С) € Са1(Х). Тем самым возникает отображение р из CS(X)\{0} в множество всех калибров Са1(Х). Функционал Минковского р(С) часто называют также калибром или калибровочной функцией множества С.
3.3.2.	Рассмотрим простейшие свойства отображения р.
(1)	Для любого выпуклого множества С будет р(С) = /i(sco(C)).
< Пусть С" := sco(C) := co(CU {0}). Очевидно неравенство р(С')	д(С), ибо
Н{С) С Н(С'). Возьмем 0 х G dom(/i(C")) и число е > 0. По определению р существует строго положительное A G R, для которого А /1(С")(ж)+е и х G АС'. Благодаря 1.1.6 (7) С' = |J{aC : 0 а 1}. Значит, х € аХС для подходящего 0 < а 1. Отсюда р(С)(х) аХ А /z(C")+£- Устремив е к нулю, мы приходим к соотношению р(С) < р(С'). О
Установленный факт позволяет ограничиться изучением функционала Минковского лишь для конических отрезков. Ввиду этого в дальнейшем мы будем рассматривать отображение р только на множестве CSeg(X).
(2)	Для любых С, D € CSeg(X) неравенство р(С) < p(D) выполнено в том и только в том случае, если tD С зС для любых 0 <t < з.
<1 Пусть р(С) < p(D). Возьмем 0 < t < s 6 R. Если х G tD, то р(С){х) < p(D) < t < з, значит, существует число р(С)(х) < г < з, для которого х € rC С sC. Тем самым tD С зС. Если же выполнено последнее включение при всех 0 < t < s € R и /i(D)(x) < t для некоторого t G R, то можно подобрать число г < t, удовлетворяющее условию х € rD, поэтому х G tD С зС. Отсюда /1(С)(ж) < s. Итак, p(D) (ж) < t влечет р(С)(х) t. Следовательно, м(С)(х)	м(£>)(х). о
184
Глава 3. Выпуклость и открытость
(3)	Для произвольных р е Са1(Х) и С € CSeg(X) равенство р = р(С) выполнено тогда и только тогда, когда {р < 1} С С С {р < 1}, где {р < 1} := {х € X : р(х) < 1} и {р 1} := {ж € X : р{х) < 1}.
<1 Если В := {р < 1} и D := {р < 1}, то при 0 < t < s справедливы соотношения tD = s(t/s)D С sB, так как (t/s)D = {р < t/s} и t/s < 1. Стало быть, p(Z>)	д(В). Но, с другой стороны, по очевидным соображениям должно быть
р < р(Р) <	<	р. Теперь ясно, что при В С С С D будет р = р(С). Если же
р ~ р(С), то сразу видно, что В С С С D. о
(4)	Множество нулей {р(С) = 0} := {ж € X : р(С)(ж) = 0} функционала Минковского р(С) совпадает с множеством Q{fC : 0 t G R}. Если конический отрезок С алгебраически замкнут, то {р(С) = 0} совпадает с рецессивным конусом множества С; символически: {//(С) = 0} = гес(С).
< По определению функционала Минковского равенство ц(С)(х) = 0 имеет место в том и только в том случае, если х EtC для каждого t > 0. Вторая часть вытекает из 1.2.8 (4). о
(5)	Функция ц(С) — наибольший сублинейный функционал, удовлетворяющий включению Н(С) С epi(p(C)).
< Следует из 1.3.5, так как р(С)(ж) = inf{#(C)(x)}. >
(6)	Для каждого х € X будет р(—С)(ж) = р(С)(—я).
<] Очевидно из определения р(С). [>
(7)	Эффективное множество функционала совпадает с конической оболочкой множества С; символически: dom(p(C)) = сопе(С).
< Как видно из 3.3.1, dom(p(C)) совпадает с |J{AC : 0 A G R}. Остается сослаться на 1.1.8 (2). о
(8)	Функционал Минковского конического отрезка С всюду определен в том и только в том случае, если С — поглощающее множество; символически: dom(p(C)) = X <-> 0 G соге(С).
< Ввиду свойства (7) функционал р(С) всюду определен в том и только в том случае, если X = (J{АС : 0 А € R}. Последнее же равносильно соотношению 0 6 соге(С). О
(9)	Функционал р(С) является полунормой, если С — абсолютно выпуклое поглощающее множество.
< Следует из (6) и (8), так как абсолютно выпуклое множество является симметричным, а всюду определенный сублинейный функционал р будет полунормой лишь в том случае, если р(х) = р(—х) для всех х G X. О
(10)	Функционал р(С) является нормой, если С — абсолютно выпуклое поглощающее множество, не содержащее лучей.
<1 Следует из (4) и (9). >
(11)	Пусть С — поглощающий конический отрезок в X и р := р(С). Тогда множества {р < 1} и {р 1} совпадают соответственно с алгебраической внутренностью и алгебраическим замыканием С.
3.3. Исчисление поляр
185
<1 Согласно свойству (8) имеем dom(p) = X. Отсюда легко выводится алгебраическая открытость множеств {р < 1} и Х\{р ^1} = {р>1}. В самом деле, если р(хо) < 1 и р(уо) > 1, то для любого h G X при достаточно малом е > 0 будет p(xQ-\-eh) p(xo) + sp(/i) < 1 + ер(Л) < 1 и 1 < р(х0) -ep(h} + поэтому хо € core({p < 1}) и уо € соге(Х\{р < 1}). Далее, если хо € соге(С), то при достаточно малом е > 0 должно быть (1 + е)хо Е С, и предположение р(хо) = 1 ведет к противоречию: р((1 4- s)xo) = 1 + е < 1. Следовательно, core(C) С {р < 1} С С, откуда core(C) = {р < 1}. Остается заметить, что если хо не входит в алгебраическое замыкание С, то для некоторого 0 < s < 1 будет (1 — е)хо С, поэтому р((1 - s)xo) > 1 и р(хо) > 1/(1 - е) > 1, т. е. х {р 1}. >
3.3.3.	Рассмотрим двойственность между вещественными векторными пространствами X У, заданную билинейной формой (• | •). Если не оговорено противное, то двойственность считается отделимой, т. е. бра-отображение х (х| (х € X) и кет-отображение у |р) (у € У), где
<х| : г/1—> {х\у}, \у) : х (х\у) (х€Х,уЕ У),
мы считаем (инъективными) вложениями X в У# и У в X# соответственно. Как обычно, X# обозначает алгебраически сопряженное пространство к X, т. е. X# := L(X,R). Без специальных оговорок мы будем пользоваться удобным и обычным в рассматриваемой ситуации отождествлением X с подпространством в У*, а У — с подпространством в X#. При этом билинейная форма двойственности X <•+ У индуцируется билинейной формой двойственности X *-> X# (в случае отождествления У с подпространством X#):
(х,х#) Ь-» (х|х#) := х#(х) (х € X, х# G Х#).
Если двойственность фиксирована, то, говоря о топологическом субдифференциале, мы имеем в виду любую локально выпуклую топологию, согласованную с двойственностью. Так, если р G Sbl(X), то по определению
др := {у е У : (х\у) р(х) (х € X)} = (<Эар) П У.
Сформулируем теперь основные определения текущего параграфа. Полярой С° выпуклого множества С С X называют множество др(С) С У, а полярой р° сублинейного функционала р : X —* R называют функцию д(сф) : У —> R*. В более подробной записи
с° := {У е У : <х|г/> 1 (х 6 С)},
р°(у) := inf{A > 0 : у € Хдр} (у € У).
Аналогично определяют поляры множества D С У и сублинейного функционала q : X —> R*. Подробнее говоря,
D° := {х € X : (х\у)	1 (у е £>)},
q°(x) := inf {А > 0 : х G Xdq} (х е X),
186 Глава 3. Выпуклость и открытость
где dq := (daq) Q X. Биполяру С°° множества С С X и биполяру р°° сублинейного функционала р : X —> R* определяют, как обычно, формулами
С°° := (С°)°, р°° := (р°)°.
Заметим, что если D := sco(C) и q := р V 0 — соответственно наименьший конический отрезок, содержащий (7, и наименьший калибр, мажорирующий р, то С° = D° и р° = q°. Это следует из 3.3.2 (1) и соотношения d(p V 0) = co(9pU {0}). Таким образом, при изучении поляр можно ограничиться лишь рассмотрением конических отрезков и калибров.
Операторами поляры называют следующие две композиции:
д о р : CSeg(X) —> CSeg(y), р о 0 : Cal(X)Cal(Y).
Оставшаяся часть текущего параграфа посвящена следующему вопросу: как преобразуют операторы поляры различные операции в CSeg(X) и Са1(Х)? Разумеется, что для решения поставленной задачи нужно найти ответы на аналогичные вопросы для каждого из операторов д и р в отдельности. Случай оператора д обслуживает метод общего положения, изложенный в предыдущем параграфе. Следовательно, нам необходимо подробнее изучить оператор р.
3.3.4.	Пусть X иУ — вещественные векторные пространства. Предположим, что A, Be CSeg(X), С € CSeg(Y), (AJ С CSeg(X), Т е L(X, У) и a € R+. Тогда справедливы формулы:
(1)	/z(AnB) = M(A)V/z(B);
(2)	д( U AJ = inf (М(Д€));
Ces
(3)	р(В х С)(х, у) = р(В)(х) V р(С)(у) (х е X, у е У);
(4)	р(Т(В))(у) = inf{M(B)(x) : Тх = у} (у е У);
(5)	р(а * А) = ар(А);
(6)	p(ot • А) — а * р(А) (здесь конический отрезок А алгебраически замкнут).
< (1): Если А — конический отрезок, то множество Н(А)(х) насыщенно вверх, т. е. из t е Н(А)(х) и s t следует, что s 6 Н(А)(х). Благодаря этому выполнено
inf(Н(А)(х) А Н(В)(х)) = inf(H(A)(x)) V inf(H(B)(x)).
Осталось заметить, что
Н(А А В)(х) = Н(А)(х) П Н(В)(х).
(2): Ясно, что
h(|JaAx)=Ub(A€)(x).
3.3. Исчисление поляр
187
Отсюда ввиду ассоциативности точных нижних границ мы получаем inf (н( U = inf inf(B(A^)(a:)).
Последнее равносильно требуемому.
(3): Ввиду очевидного соотношения Н(А х В)(х,у) = Н(А)(х) П Н(В)(у), из тех же соображений, что и в (1), мы выводим искомое.
(4): Как видно, соотношение у € АТ(В), где А > 0, выполнено в том и только в том случае, если у — Тх для некоторого х 6 АВ. Следовательно,
Я(Т(В))(у) = |J{H(B)(x): Тх = у}.
Остается привлечь ассоциативность точных границ (см. (2)).
(5): При а > 0 требуемое равносильно формуле /1(о”1А) = ад(А) (см. 1.5.9), которая легко выводится из определения функционала Минковского. Если же а = 0, то, используя (2), мы можем написать:
/1(0 * А) = /i(cone(A)) = м( [J а”1 А ) = inf а/1(А) = 5к(с1от(/1(А))) = 0/1(А). ' а>0	'
(6): При а > 0 требуемая формула совпадает с (5). Неочевидным здесь может быть лишь случай а = 0. Однако по смыслу операций • и *, введенных в 1.1.6 (5) и 1.5.9 соответственно, для а = 0 требуемое совпадает с формулой
м(гес(А)) = ад/1(А) = 0}),
которая в случае алгебраически замкнутого А вытекает из 3.3.2 (4) и того, что для любого конуса К будет /1(Я) = Sr(K). О
3.3.5.	Теорема. Пусть ГсХхКиДсУхЯ- выпуклые соответствия, причем 0 G Г(0) и 0 € Д(0). Тогда справедлива формула:
М(ДоГ)=д(Д)0М(Г).
Если сверх сказанного Г и Д алгебраически замкнуты, то
Q Г) = д(Д) Д д(Г).
<1 Положим р := д(Д о Г), q := д(Г), г := д(Д), <7о “ д(Г х Z), го := р(Х х Д). Заметим, что имеют место соотношения
Д о Г = П((Г х Z) П (X х Д)), 9o(w) = q(x,y), rQ(w) = r(y,z), где П : w (a:,z) и w := (х,у, z). Теперь последовательным применением 3.3.4 (4), 3.3.4 (1) и 3.3.4 (3) мы приходим к первому из требуемых равенств: р(х, z) = д(П((Г х Z) П (X х Д)))(х, z) = inf{д((Г х Z) П (X х Д))(ш): у € Y} = = inf{(<7o V r0)(w) : у € У} = inf{g(;r, у) У r(y, z) : у £ Y} = р 0 q(x, z).
188
Глава 3. Выпуклость и открытость
Для доказательства второго равенства нам потребуется следующий вспомогательный факт. Если s, t € R+, то
• г Г 5 * 1
и := тг max <—,— > = s 4-1 la р J a>0,4>0
a+0=l
Действительно, при s 4-1 / 0, полагая a := s/(s 4-1) и /3 := t/(s 4-1), мы получим, что и s 4-1. С другой стороны, _ (£ $ \
и = inf sup I —s 4- -rt) s 4-1, a>O,0>Oe>O,<5^O W P / a+0=l e+5=l
Случай, когда s 4-1 — 0, тривиален.
Положим теперь p := /z(A 0 Г), q := //(Г), r := Введем также обозначения a := inf{g(a:, у) : у G У, r(y,z) = 0} и b := inf{r(t/, z) : у G У, q(x, у) = 0} и заметим, что г A q(x, z) < а /\Ь. Пользуясь уже доказанной выше формулой и привлекая правила 3.3.4 (2,5), получаем
р(х, г) — inf (a * г) 0 (/3 * q)(x, г)) = а Л b Л inf inf (^q(x,y) V — r(y, z)) = Ct,0^0	y£Y	a,0>Q \p	a J
<*+&=!	a+3=l
= a A b A inf (q(x, y) 4- r(y, z)) = r A q(x, z), yeY
что и требовалось. t>
3.3.6.	Отметим несколько простых следствий.
(1)	Пусть С G CSeg(X) и Г С X х У — выпуклое соответствие, причем 0 G Г(0). Тогда
д(Г(С))(у) = inf{M(C)(x) V/z(r)(x,y) : х 6 X}.
<1 Положим А := У х С и заметим, что Г о Д = У х Г(С). Как видно,
М(УхС)(2/,х)) = м(С')(х) (j/.хСУ),
поэтому достаточно применить 3.3.5 к композиции Г о А. [>
(2)	Если Г — коническое соответствие, то
м(Г(С))(у) = mf{/z(C)(x): у G Г(х)}.
< В этом случае /х(Г) = 5к(Г) и требуемое следует из (1). О
(3)	Если Г G 1(У,Х), то
3.3.7.	Возьмем полулинейную решетку CS+(X), введенную в 1.5.9, и переопределим в ней умножение на нуль, положив ОоС := П{АС : 0 < А G R}. Согласно 1.2.8 (4) для алгебраически замкнутых конических отрезков новое умножение
3.3. Исчисление поляр
189
совпадает со старым, т. е. О о С = 0 • С. Для а > 0 положим а о С = а • С = аС. Полученную таким образом алгебраическую систему мы обозначим символом CSj (X). Таким образом,
CS+ (X) := (CSeg(X), +, о, ^).
Легко понять, что CS* (X) — порядково полная коническая полурешетка. Обозначим символом CS*(X) часть CS#(X) (см. 1.5.9), состоящую из алгебраически замкнутых конических отрезков.
Теорема. Справедливы следующие утверждения:
(1)	отображение р является алгебраическим и решеточным гомоморфизмом изСЗ+(Х) наСа1#(Х);
(2)	отображение р является алгебраическим и решеточным гомоморфизмом изСЗ*(Х) наСа!+(Х);
(3)	выполнены равенства р о sk = sho/i и р о sh = skop, где sh(p)(x) := := тах{р(ж),р(-ж)} и sk(p)(x) := inf{p(#i) + р(—#2) • £i + #2 = #}•
<] Большая часть требуемого уже доказана в 3.3.2 и 3.3.4. Так, например, сюръективность отображения р : CS#(X) —> Са1+(Х) следует из 3.3.2 (3). Остается лишь удостовериться в справедливости следующих формул:
(а)	р(А + В) = р(А)#р(В);
(b)	р(со(А U В)) = р(А) ф /1(В);
(с)	М(Л#В) = М(А) + М(В).
(а): Воспользуемся представлением А + В = +(Л х В), где, как обычно, -Ь : X2 —► X и +(ж, у) := х + у. Благодаря правилам 3.3.4 (3,4) верны соотношения
р(А + В)(ж) = inf{р(А х В)(т/, z) : у + z = х} =
= inf {р(А)(у) V p(B)(z) : у + z = х} = р(А}#р(В).
(Ь): Положим 7 := тш{//(А)(ж),//(В)(ж)}. Привлекая формулу 3.3.4 (2) и доказанное в (а), можно написать
/х(со(Л U В))(х) = р[J{cb4 + /ЗВ : а,/3 € R+, а + /3 = 1}^(ж) =
= 7 Л inf {а * р(А)#(3 * ^(В)(ж) : 0 < а, /3 ЕЙ, а + /3 = 1} =
= 7Л inf inf	vip(B)(z)
х~у~\-z а,0>О \ а	Р
а+3=1
Отсюда, так же, как в 3.3.5, мы выводим
/х(со(Л U В))(ж) = inf (р(А)(у) +/i(B)(z)) = р(А) ® р(В)х.
x—y+z
(с): Как видно, (Л#В) х {0} = Д 0 Г, где Г := Д2(А) и Д := В х {0}. Если А и В алгебраически замкнуты, то Г и Д также алгебраически замкнуты.
190
Глава 3. Выпуклость и открытость
По теореме 3.3.5 будет
КА#В)(х) = А д(Г)(х,0) = inf (М(Д2(Л)(х,у) + м(В)(у)).
У&Х
Нетрудно видеть, что р(£^2(А))(х,у) = /1(А)(х) при том условии, что х = у и р(Д2(А))(х, у) = +оо в противном случае. Отсюда видно, что крайняя правая часть выписанной выше цепочки равенств совпадает с ц(А)(х) 4- р(В)(ж). Это и требовалось установить. >
3.3.8.	Теперь у нас имеется почти все необходимое для того, чтобы вывести формулы преобразования поляр. Прежде чем непосредственно переходить к вычислительным вопросам, отметим несколько нужных нам общих свойств отображений 3 и р, а также операторов поляры д о ц и р о Э. Все они представляют собой простые следствия изложенных выше результатов и классической теоремы о биполяре, устанавливаемой в стандартных курсах функционального анализа. Дадим необходимые определения. Пусть фиксирована двойственность X X'. Опорной функцией множества С С X называют отображение s(C) : X' —► R, определяемое соотношением
з(С) : х' 8ир{(я|д/) : х е С}.
Очевидно, что опорная функция сублинейна и $(С) = $(со(С)). Если 0 6 С, то s(C) 6 Cal(X'). Калибр р G Са1(Х) называют замкнутым, если он имеет замкнутый надграфик epi(p) С X х R (в какой-нибудь, а тогда и в любой, локально выпуклой топологии на X, согласованной с двойственностью X w X').
Понятно, что опорная функция конического отрезка является замкнутым калибром.
(1)	Теорема о биполяре. Конический отрезок С совпадает со своей биполярой С°° в том и только в том случае, если он замкнут. Калибр р совпадает со своей биполярой р°° в том и только в том случае, если он замкнут.
<3 Доказательство первой части можно найти, например, в [89, 96, 245, 248, 261]. Вторая часть без труда выводится из следующего утверждения, которое в более общей ситуации будет установлено в параграфе 4.3:
Для того чтобы сублинейный функционал р : X —* R. совпадал с верхней огибающей множества всех непрерывных линейных функционалов, опорных к р (т. е. р(х) = sup{Zx : I € dp} (х € X)), необходимо и достаточно, чтобы р был замкнут.
Из равенства р = р°° очевидно следует замкнутость р. Если же р замкнут, то в силу сказанного выше равенства р = р°° и др = д(р°°) равносильны. Но последнее легко выводится из определений и доказательства первой части:
д(р°°) = 9((р о 3) о (р о д)р) = (д о р) о (д о р)(Эр) = (Эр)°° = др.
Последнее равенство верно согласно первой части, так как др — замкнутый конический отрезок. >
3.3. Исчисление поляр
191
(2)	Отображение д есть изотонная биекция между решетками замкнутых калибров на X и замкнутых конических отрезков в X'.
(3)	Отображение ц устанавливает антитонную биекцию между решетками замкнутых конических отрезков в X и замкнутых калибров на X.
(4)	Оператор поляры дор (соответственно род) устанавливает антитонную биекцию между решетками замкнутых конических отрезков в X и в X1 (соответственно между решетками замкнутых калибров на X и на X').
(5)	Функционал Минковского поляры конического отрезка равен поляре функционала Минковского этого конического отрезка: р(С°) = р(С)°.
(6)	Субдифференциал в нуле поляры калибра равен поляре субдифференциала в нуле этого же калибра: д(р°) = (др)°.
(7)	Опорная функция поляры конического отрезка совпадет с полярой опорной функции самого конического отрезка; символически: s(C°) = з(<7)°.
(8)	Функционал Минковского и опорная функция каждого замкнутого конического отрезка — полярные калибры.
(9)	Субдифференциал в нуле др и лебегово множество {р < 1} замкнутого калибра р — полярные друг к другу конические отрезки.
3.3.9.	Приведем правила вычисления поляр, для которых необходимые формулы субдифференцирования получены в 3.2. Как и ранее, X — локально выпуклое пространство.
(1)	Если замкнутые конические отрезки Ci,..., Cn € CSeg(X) находятся в общем положении, то
(с1#...#сп)° = с1°+...+с:.
Если калибры pi,...,pn € Са1(Х) находятся в общем положении, то
(pi 4-... 4- Рп)° = Р°#--- #Рп-
<1 Первая часть вытекает из 3.3.7 (с) и 3.2.8. Для обоснования второй части нужно применить сначала 3.2.8, а затем 3.3.7 (a). t>
(2)	Если конические отрезки Ci,... ,Cn € CSeg(X) находятся в общем положении, то
(Ci п... п сп)°=со^0 и... и с:).
Если надграфики калибров pi,... ,pn € Са1(Х) находятся в общем положении, то
(P1V ...Vpn)°
<1 Первое утверждение можно установить с помощью 3.3.4 (1) и 3.2.12. Второе утверждение — результат последовательного применения 3.2.12 и 3.3.7 (Ь). >
192
Глава 3. Выпуклость и открытость
(3)	Пусть соответствия Г cXxYn^cYxZ таковы, что 0 € Г(0), О G Д(0) и конусы Н(Г х Z) и Н(Х х Д) находятся в общем положении. Тогда (Д о Г)° = Д° 0 Г°. Если же сверх сказанного соответствия Г и Д замкнуты, то (Д0Г)° = Д°оГ°.
<1 Следует привлечь сначала 3.3.5, а затем 3.2.9 и 3.2.13. >
(4)	Пусть калибры р € Са1(Х х У) и q € Са1(У х Z) таковы, что конусы epi(p, Z) и epi(X, q) находятся в общем положении. Тогда
(q Др)° = q° Qp°, (q Ор)° = q° Д р°.
<1 Следует привлечь 3.2.9 и 3.2.13, а затем 3.3.5. >
3.3.10.	Рассмотрим несколько следствий из 3.3.9 (3).
(1)	Пусть Г — выпуклое соответствие из X bY, причем 0 € Г(0). Если конический отрезок С G CSeg(X) таков, что множества Г и С х У находятся в общем положении, то
Г(С)°= U (—а • Г°)(/? • С°).
а,0^0
а+/3=1
< Применим формулу 3.3.9 (3) к вычислению поляры (ГоД)°, где Д := У хС С С Y х X. По условию множества У хГиДхУ = У х С х У находятся в общем положении, поэтому (Г о Д)° = {0} х (—Г(<7)°). Заметим, что Г о Д = У х Г(С), поэтому (Г о Д)° = {0} х (-Г(С)°). Таким образом,
{0} х (—Г(С)°) = □ (а • Г°) о (/3 • {0} х (—С°)) =
а+0=1
= {0} X 0J{(a-r°)(-/?-C°) :	> °, а+‘/?= i}) ,
что равносильно требуемому представлению. О
(2)	Если Г и С удовлетворяют условиям (1), то выполнены включения
-^Г°(-С°) С Г(С)° С -Г°(-С°).
(3)	Если выполнены условия предложения (1) и, сверх того, Г — коническое соответствие, то
Г(С)° = —Г°(—С°).
Если же Г — линейное соответствие, то
Г(С)° = Г°(С°).
(4)	Если Т : X —* У — слабо непрерывный линейный оператор, то множества С х У и Т находятся в общем положении (в слабой топологии). Более того, сопряженный оператор Т' := (Т°)“х : У' X' также слабо непрерывен, а множества Т° и X1 х D находятся в общем положении (относительно слабых топологий в X'
3.3. Исчисление поляр
193
и Г). Следовательно, выполнены следующие хорошо известные в функциональном анализе соотношения:
Г(С)° = Т'~\С°), T'(D)° = T~\D0).
В частности, при С = X и D = Y1 мы получим
с1(Т(Х)) = (кег(Т'))0, с!(Т'(У')) = (кег(Т))°.
3.3.11.	По изложенной выше схеме могут быть сосчитаны и более сложно устроенные поляры. Ограничимся рассмотрением лишь еще одного случая, а именно поляры правой частичной суммы соответствий. Пусть Г1,...,ГП — выпуклые соответствия из X в У. Определим правую инверсную (частичную) сумму Г1#... #ГП этих соответствий формулой
Г,#...#ГП:= (J (а1Г1 + ... + апГп).
4--«.4"Лп=1
Заменив + на 4-, получим определение левой инверсной суммы #. Можно показать, что правая (левая) инверсная сумма выпуклых соответствий есть выпуклое соответствие. Введем обозначения:
(Х”-1^) := {(XI,... ,хп,у) G Хп х Y : (хЬУ) € ГЦ, (Г/Уп-1) := {(х,У1,..., уп) € X х Yn : (х, У1) € Г(}.
Пусть выпуклые соответствия Г1,..., Гп, действующие из X в Y, таковы, что О € Г/(0) (I := 1,...,п). Если множества (Г/Уп-1) (I := 1,...,п) находятся в общем положении, то
(г1 + ... + гп)° = п#...#п.
Если же в общем положении находятся множества (ХП-1Г/) (I := 1,... ,п), то выполнено
(г1+...+гп)° = п#...#г°.
<1 Стандартный путь обоснования указанных формул — вычисление функционала Минковского частичной суммы с последующим применением нужных правил субдифференцирования. Однако можно воспользоваться уже готовыми формулами для подсчета поляр, полученными в предыдущих пунктах. Для этой цели представим правую сумму в виде
Г1 + ... + Гп = л(р(Г/Уп-1)), '/=1 '
где Л:ХхУп—>ХхУ действует по правилу Л : (х, у\,..., уп) (х, у\ + .. .+?/п). Легко видеть, что сопряженный оператор Л' : Xf х Yf —» X' х (У'п) имеет вид
7 Кусраев А. Г., Кутателадзе С. С.
194
Глава 3. Выпуклость и открытость
В силу 3.3.10(4) можно написать
(Г1 + ... + Гп)о = Л'_1
Очевидно, что поляра (Г/Уп“х)° совпадает с множеством наборов ... , р^) таких, что (ж', у[) € Г° и у'к = 0 при k / I.
Учитывая условие общего положения, можно воспользоваться формулой 3.3.9 (2), следовательно,
(П 4-... + гп)° = Л'-1 (со( U(r^n-1) \	4=1
: у[ € Г?(х'), х' G X'
«1,.
= U (а1Г?) + ... + (апГ°) = П#...#Г’.
ai + ...-han=l
Совершенно ясно, что если множества (Хп”хГ/) (/ := 1,..., п) находятся в общем положении, то в силу доказанного будет выполнено также второе из требуемых соотношений, о
3.3.12.	Выясним, как вычисляются поляры конических отрезков и калибров, если не требовать условия общего положения. Напомним, что для С 6 CSeg(X) и р € Са1(Х) выполнены равенства С°° = с1(С) и р°° = с1(р), где с!(С) — замыкание С в слабой (или в любой согласованной с X X') топологии, а с!(р) определено соотношением epi(cl(p)) = cl(epi(p)) или по любой из формул с!(р) := /1(с1{р < 1}), cl(p) := s(dp) (см. 3.3.8).
Для любых Ci,..., Сп € CSeg(X) и pi,... ,рп € Са1(Х) справедливы представления:
(1)	(Ci и... и Сп)° = Cf п... п с°,-
(2)	(pi®...®p„)°=p?V...Vp°;
(3)	(С1 + ...+Сп)о=С?#...#С°;
(4)	(pi# .. • #Рп)° = Pi + • • •+р°п;
(5)	(с1(С1) П ... П с1(Сп))° = с1(со(С1 и ... и Сп))-,
(6)	(cl(pi) V ... V cl(pn))° = с!(р? ф ... фр°п);
(7)	(cl(Ci)#... #с1(С'п))° = с1(С? + ... + С°);
(8)	(с1(Р1) + ... + cl(pn))° = с1(р?#... #р°).
<1 Формулы (1)-(4) вытекают непосредственно из 3.2.14 (1,2) и 3.3.7 (1). Далее, по теореме о биполяре
А := cl(co(Ci U ... U С°)) = (С° U ... U С°)°°.
3.3. Исчисление поляр
195
Учитывая (1) и вновь привлекая теорему о биполяре, получим
А = (Ci° А ... А С°°)° = (cl(Ci) А ... A cl(Cn))°.
Тем самым доказано (5). Применив теперь (2) к соотношению
р := с!(р? Ф ... Фр°) = (pj Ф ... Фр°)°°,
мы приходим к равенству р = (pj0 ф ... Фр°°)°, которое равносильно (6). Аналогично выводятся (7) и (8). О
3.3.13.	Сложнее обстоит дело с операциями композиции и инверсной композиции.
(1)	Для любых замкнутых выпуклых соответствий Г СХ xY и^сУ х Z выполнены эквивалентности
(ж', /) е (Д О Г)° <-> (х', О, /) е с!(со(Г° х {0} и -{0} X Д°)), (ж', /) е (Д 0 Г)° ~ (х', 0, /) е с1(Г° х {0} - {0} х Д°).
<3 Докажем первое утверждение, второе выводится аналогично. Напомним, что Д о Г = П((Г х Z) А (X х Д)), где П : (ж, р, z) i-> (х, z). Если В = Д о Г, то согласно 3.3.6 (2)
д(В)(х, z) = inf (д(Г х Z) А (X х Д))(ж, у, г)).
yeY
Следовательно, (ж', У) € др(В) = (Д о Г)° в том и только в том случае, если
(/,0,z')g((FxZ)A(Xx Д))°.
Остается привлечь 3.3.12(5) и заметить, что (Г х Z)° = Г° х {0} и (X х Д)° = = {0} х (-Д°) = -{0} х Д°. >
(2)	Если Г — замкнутое выпуклое соответствие из X в У, то для любого С € CSeg(X) выполнена эквивалентность
у' е Г(с1(С))° ~ (0, у1) е с1(со((-Г°) и (С° х {0}))).
<1 Нужно применить (1) к соответствиям Д := Г и Г := У х (7. О
(3)	Для тех же Г и С верно включение
Г(с1(С))° Э -|г° М670) •
Если же, сверх того, С° — окрестность нуля в какой-нибудь топологии г, согласованной с двойственностью X X', то
Г(с1(С))° С -с1(Г°(-2Со)).
7!
196
Глава 3. Выпуклость и открытость
<1 Возьмем у' € Г(с1(С))°. В силу (2) найдутся сети (x'Q) С X', (yfa) С У', (и'а) сС°, (ta) С R+, (sa) С R+ такие, что
(х'&Уа) G -Г°, *а+*а = 1, =	0 = lim(sau„ - tax'a),
причем последний предел можно понимать в смысле топологии т. В силу предположений при достаточно больших а будет ~sau'a 4- tax'a € С° или tax'a е saxf + +С° С 2С°. Итак, taya 6 (-Г°)(^а:'а) С -Г°(-2С°), поэтому у е -Г°(-2С°). >
(4)	Для любого выпуклого соответствия Г С X х У выполнено
(с1(Г)(0))° = -с1(Г°(Х')).
3.4. Двойственная характеризация открытости
Основное содержание текущего параграфа — описание открытости выпуклых соответствий в локально выпуклых пространствах на языке двойственности.
3.4.1.	Мы будем рассматривать векторные пространства X и У, а также выпуклое соответствие Ф из X в У. Предположим, что 0 € Ф(0) и 1т(Ф) — поглощающее множество. Напомним определения операций симметричной оболочки sh((7) := со(С U -С) и симметричного ядра sk(C) := С П -С.
Допустим, что на X задана некоторая локально выпуклая топология т. Система множеств {t зк(Ф(У)) : t G R, t > О, V 6 т(0)} является, как нетрудно видеть, базисом фильтра окрестности нуля в однозначно определяемой локально выпуклой топологии на У. Эту топологию мы обозначим символом Ф(т). Аналогично система множеств {t с1(зк(Ф(У))) : t € R, t > О, V 6 т(0)} определяет единственную локально выпуклую топологию на У — топологию Ф(т). Как видно, если на У имеется векторная топология р, то соответствие Ф открыто (соответственно почти открыто в нуле) в том и только в том случае, если Ф(т) (соответственно Ф(т)) слабее топологии /л
Допустим теперь, что 2J — некоторая выпуклая борнология на X. Система множеств {t эЬ(Ф(5)) : t € R, t > О, S € ®} составляет базу некоторой выпуклой борнологии на У. Обозначим эту борнологию символом Ф(®). Пусть & — борнология на У. Если Ф(®) С 6, то говорят, что соответствие Ф ограничено относительно борнологий Ж и &. Предположим, что пространства X и У образуют двойственные пары с пространствами X' и У' соответственно, и задана выпуклая борнология ® на X', которая содержится в слабой борнологии, т. е. ® состоит из слабо ограниченных множеств. Обозначим символом £(ЯЗ) единственную локально выпуклую топологию на X, определяемую базисом фильтра {S° : S е ®}. Эту топологию называют -топологией на X или же топологией равномерной сходимости на множествах Для непустого множества С С X мы обозначим через С* опорную функцию s(C) : X' —> R* (см. 3.3.8). Если С С X х У, то следует иметь в виду наши соглашения об отождествлении (X х У)' и X' х У' (см. 2.3). Поляру множества А относительно (алгебраической) двойственности X w X#
3.4. Двойственная характеризация открытости
197
мы будем обозначать символом А*, а относительно двойственности X w X' — как обычно, через А°. Всюду ниже мы предполагаем, что ® имеет базис из слабо замкнутых абсолютно выпуклых множеств, т. е., как еще говорят, ® — насыщенное семейство.
3.4.2.	Теорема. Топология Ф($(®)) есть топология равномерной сходимости на множествах Ф*(®); символически: Ф(£(®)) = £(Ф*(®)). Если f(®) согласована с двойственностью X X', то топология Ф(£(®)) есть топология равномерной сходимости на множествах Ф°(®); символически: Ф(£(®)) = £(Ф°(®)).
< Пусть S — абсолютно выпуклое слабо замкнутое множество из ® и V := S°. Поскольку множество Ф(У) поглощающее (см. 1.2.8), то эк(Ф(У))* = вЬ(Ф(У)*). Привлекая правила подсчета поляры к образу 3.3.10(1,2), запишем:
| sh($*(V)) С зк(Ф(У))* С 8Ь(Ф*(У)).
Отсюда следует, что Ф(£(®)) есть топология равномерной сходимости на множествах вида зЬ(Фф(У)).
В силу ранее сделанных замечаний (см. 3.3.13) будет
-1с1(Ф"(У)) С Ф*(3)* С — с1(Ф**(У)),
где с! означает замыкание в топологии <т(У#,У). Воспользовавшись на этот раз формулами 3.3.10(2) для соответствия Ф**, а также соотношением Ф* = Ф***, получим
4Ф*(У) э с1(Ф*($)) D |$(V). £
Из всего сказанного мы выводим, что Ф(£(®)) есть топология равномерной сходимости на множествах зЬ(с1(Фе(5))). Однако поляры 8Ь(с1(Ф*(3)))е и 8Ь(Ф*(5'))е совпадают. Окончательно заключаем, что Ф(£(®)) есть топология равномерной сходимости на множествах Ф*(6).
Предположим теперь, что £(®) согласуется с двойственностью X «-> X1. В этом случае V9 = V° и Ф°(5) = Фе(У*)пУ', поскольку S" = S. Вновь привлекая правила подсчета поляр и теорему о биполяре, получим
Ьь(Ф°(5)) С 8Ь(Ф(У)°) с 8Ь(Ф°($)). £
Переходя в этом соотношении к полярам, заключаем
2зЬ(Фо(5))° D 8к(Ф(У))°° D 8Ь(Ф°(5))°.
Отсюда немедленно вытекает, что Ф(£(®)) = £(Ф°(®)). О
3.4.3.	Отметим следующие следствия теоремы 3.4.2:
(1)	Пространство, сопряженное к пространству (У, Ф(£(®))), совпадает с объединением a (Y# -замыканий множеств ЛзЬ(Ф*(5)), когда S пробегает множество а А — множество R+. В частности, если X — локально выпуклое
198 Глава 3. Выпуклость и открытость
пространство, а X' — его сопряженное, то сопряженное пространство к (У, Ф(т)) совпадает с подпространством в Y#, порожденным множеством sh($*(X')).
<1 В самом деле, функционал у# е Y# входит в (У, Ф(£(Ж)))' тогда и только тогда, когда у# содержится в поляре некоторой окрестности нуля относительно двойственности У w У*. Однако по теореме 3.4.2 множества вида А • зЬ(Ф*(5))е* составляют базис возрастающего фильтра {V* : V € Ф(£(®))}. Осталось заметить, что 8Ь(Ф*(5))е* есть п(У#,У)-замыкание множества зЬ(Ф*(5)). О
(2)	Пусть X и Y — локально выпуклые пространства, а Ф — выпуклое соответствие, удовлетворяющее условиям из 3.4.1. Тогда равносильны утверждения:
(а)	соответствие Ф почти открыто в нуле;
(б)	соответствие Ф° ограничено относительно эквинепрерывных борнологий сопряженных пространств X' и Y'.
<3 Пусть ® — эквинепрерывная борнология на X'. Тогда £(ЯЗ) — исходная топология пространства X. Значит, соответствие Ф почти открыто в нуле в том и только в том случае, если Ф(£(®)) слабее топологии пространства У. По теореме 3.4.2 последнее равносильно тому, что топология £(Ф°(®)) слабее топологии пространства У или, что то же самое, Ф°(®) состоит из эквинепрерывных подмножеств пространства У'. >
3.4.4.	Теорема. Пусть X и У — локально выпуклые пространства, а X' иУ — соответствующие сопряженные пространства. Пусть, далее, Ф — выпуклое соответствие из X bY такое, что О € Ф(0) и О G соге(Ф(Х)). Тогда равносильны утверждения:
(1)	соответствие Ф открыто в нуле;
(2)	Ф* А (X' х У*) есть ограниченное соответствие из X' в Y' относительно эквинепрерывных борнологий X' и Y';
(3)	соответствие Ф почти открыто в нуле и Ф*(Х') С У';
(4)	соответствие Ф почти открыто в нуле, множество Ф(Х) — окрестность нуля bY и, кроме того, для любых xf е X' и у$ 6 соге(Ф(Х)) выполнено
Ф’Чг/оГСг') т£{Ф*«У) + {yQ\y') : у’ € У'}
(знак — подразумевает точность формулы, т. е. равенство с тем дополнительным условием, что точная нижняя граница в стоящем справа от него выражении достигается).
< (1) —> (2): Если абсолютно выпуклое множество S С X' эквинепрерывно, то при условии открытости Ф в нуле множество Ф(5°) является окрестностью нуля в У. Отсюда, учитывая включение — 2Ф(5°)* D Фе(5°°) D Ф*(5) (см. 3.3.10(2)) и эквинепрерывность множества Ф(5°)е, мы получаем (2).
(2)	—> (3): Включение Фе(Х') С У' непосредственно следует из (2). Соответствие Ф почти открыто в нуле согласно 3.4.3 (2), так как Фо(5) С Ф*(5) для любого S С X'.
3.4. Двойственная характеризация открытости
199
(3)	—> (4): Множество Ф(Х)е — часть Ф*(0), а потому содержится в У'. Следовательно, биполяры множества Ф(Х) относительно двойственностей У <-> У' и У У# совпадают. Биполяра Ф(Х)ее совпадает с алгебраическим замыканием множества Ф(Х). В свою очередь, биполяра Ф(Х)°° есть окрестность нуля в У. Таким образом, алгебраическое замыкание множества Ф(Х), а значит, и само Ф(Х) являются окрестностями нуля. Пусть (жо,2/о) в Ф, Уп G соге(Ф(Х)), и положим Ф := Ф — (жо, Уо)- Тогда 0 € Ф(0) П соге(Ф(Х)) и Ф*(Х') С У'. Нетрудно проверить, что для любых ж' 6 X' и у# € У# выполнено
(Ф-1(0))*(ж') = 8ир{(ж|ж') : ж е Ф~х(0)} = 8ир{(ж|ж') - <0|г/^> : ж G Ф’^О)} эир{(ж|ж') - (у\у#) : ж G Ф-1(2/), у € У} = Ф*(ж',г/#).
Предположим, что а := (Ф~х(0))*(ж') > 0. Условие 0 G соге(Ф(Х)) влечет за собой, что Я(Ф) —X х {0} х R+ = X х У х R, т. е. множества Ф и X х {0} находятся в алгебраическом общем положении. Тогда ввиду 3.3.10(1) будет (Ф“1(0))е = = (-(Ф"1)>)(У*) = (-(Фв)~х)(У#). Таким образом, (1/а)ж' G (-(Фе)-х)(У#). Следовательно, (?/#, (1/а)ж') € -(Фе)“х или ((1/а)ж',г/#) G Ф* для некоторого у#. Как видно, Ф*(ж',а?/#) < а и тем самым
(ф-х(0))*(ж') = т£{Ф*(ж',г/#) : у* G У#},
причем точная нижняя граница в правой части равенства достигается. Заметим далее, что если Ф*(ж',?/#) < А < +оо, то у# € АФ*((1/А)ж') С У'. Поэтому
а = ш£{Ф*(ж'У) :
Если же а = 0, то согласно доказанному для любого 0 < е < 1 существует ие е Y' такое, что Ф*(ж',ие) < е и ие G Ф°(ж')- Поскольку Ф почти открыто в нуле, то ввиду следствия 3.4.3 (2) (ие) эквинепрерывно. По этой причине имеется предельная точка у' для семейства (ие) и ясно, что Ф*(ж', у') =0. Случай а = +оо тривиален. Переход от Ф в Ф сводится к простым вычислениям:
= (Ф-1(0))*(я/) + <х0|х') = (sola/) + ш£{Ф*(х',у') = У' 6 Y'} = = т£{Ф*«У') + (уо|у'): у'ZY'}.
(4)	—* (1): Рассмотрим абсолютно выпуклую окрестность нуля U С X и покажем, что V С Ф(С7), где
V := cl (ф П -Ф Qt7)) Л соге(Ф(Х)).
Если уо $ соге(Ф(Х))\Ф([7), то U А Ф"х(</о) = 0- Следовательно, существует функционал ж' G ((|)t7)° такой, что ш£{(ж|ж') : ж € Ф“1(2/о)} =: А > 1, или, что то же самое, (Ф~х(г/0))*(-^/) = -А < —1. В силу (4) для некоторого у' е Y' выполнено
- <у|у'> (Ф-1(г/о))*(-х') + (уо|у),
200
Глава 3. Выпуклость и открытость
каковы бы ни были (х,у) е Ф. Если в последнем неравенстве считать х € (|)[7 и ±2/ € Ф((|)С7), то будет
(у|1/> С (Ф) - А + {уо\у) < 1 - А + (уо|у) =: У < (уо\у)-
Таким образом, < /1 < (г/о|з/) Для всех У € V- Тем самым г/о V. 1>
3.4.5.	Применим теорему 3.4.4 к соответствию epi(/) для выпуклого оператора /. Для этого нам необходимо еще одно определение. Преобразованием Юнга-Фенхеля функции д : X —> R или сопряженной к д функцией называют отображение д* : X# —* R, действующее по правилу
д*(х#) := sup{(x) — д(х) : х G X}.
Преобразование Юнга-Фенхеля будет рассмотрено подробно в следующей главе. Заметим пока, что опорная функция множества С С X есть не что иное, как сопряженная функция к индикаторной функции:
С*(х*) := s(C)(x#) = <5к(С)*(х*).
Напомним также, что через а} обозначено лебегово множество {х Е X : <Ф) 5% а}.
Пусть X — локально выпуклое пространство, Е — упорядоченное локально выпуклое пространство с нормальным положительным конусом. Пусть f : X —> Е* — выпуклый оператор, 0 G core(dom(/)) и /(0) = 0. Тогда равносильны следующие утверждения:
(1)	оператор f непрерывен в точке 0;
(2)	для каждого эквинепрерывного множества S С при любом а G R множество
UW)’^}
y'ZS эквинепрерывно;
(3)	оператор f почти непрерывен в точке 0 и для всякого у1 6 Е,+ выполнено {(у' °f)* ^a}GX' (абК);
(4)	0 € int(dom(/)), оператор f почти непрерывен в точке 0 и для каждых у’ G и х € core(dom(/)) существует xf е Xf такой, что
(f(x)\y') + (у' ° /)*(^') =
<1 Нужно применить 3.4.4 к соответствию Ф := (epi(/))-1. Ограничимся следующими замечаниями. Пара (х#, у#) из (X х Е)# входит в dom^*) в том и только в том случае, если > 0 и (у# о /)*(х#) < -Foo. Более того, для 0 < y# Е E# и x# G X# выполнено Ф*(х#,т/#) = (у# о /)*(т#). В частности, (х#,у#) G Ф* тогда и только тогда, когда (у# о /)*(##) < 1. Наконец, для х Е core(dom(/)) будет Ф-1(ж) = f(x) + Е+, значит, (Ф~х(х))*(г/^) = (f(x)\y#) при у# 0 и (Ф-1 (х)У(у#) = +оо в противном случае. >
3.4. Двойственная характеризация открытости
201
3.4.6.	Для случая линейного оператора Т, действующего из локально выпуклого пространства X на локально выпуклое пространство У, из 3.4.4 и 3.4.5 можно вывести такие следствия.
(1)	Оператор Т непрерывен в том и только в том случае, если Т слабо непрерывен и образ всякого эквинепрерывного множества в Y' относительно сопряженного оператора Т' является эквинепрерывным множеством.
(2)	Для того чтобы оператор Т был открытым, необходимо и достаточно, чтобы отображение Т было слабо открытым и каждое эквинепрерывное множество в X' являлось образом некоторого эквинепрерывного множества в Yf относительно алгебраически сопряженного оператора T#.
(3)	Для того чтобы оператор Т был топологическим изоморфизмом, необходимо и достаточно, чтобы Т являлся слабым изоморфизмом, а сопряженный оператор Т' представлял собой борнологический изоморфизм относительно эквинепрерывных борнологий пространств Y' и Х(.
3.4.7.	В дальнейшем нам потребуется еще одно понятие, родственное открытости. Соответствие Ф называют полунепрерывным сверху в точке xq € X, если для любой окрестности нуля V С Y существует окрестность нуля U С X такая, что Ф(#о Я- U) С Ф(хо) 4- V. Следующий результат дает двойственную характеризацию полунепрерывности сверху.
Теорема. Пусть X и Y — локально выпуклые пространства, а Ф — выпуклое соответствие из X в Y, причем Ф(0) — конус. Тогда равносильны утверждения:
(1) Ф полунепрерывно сверху в нуле;
(2) множество Ф°(Х') замкнуто и для каждого эквинепрерывного множества В С Y' найдется эквинепрерывное множество А С X' такое, что
Ф°(А)эФ°(Х')ПВ.
<□ (1) —> (2): Возьмем у' € Ф(0)° и положим
f(x) := inf{ —<y|j/> : у € Ф(х)}.
Понятно, что f : X —* К — выпуклая функция (см. 1.3.5). Пусть V — такая окрестность нуля в У, что |(г/|?/')| С 1 для всех у е V. Подберем окрестность нуля U С X, для которой Ф((7) С Ф(0) + V. Тогда для каждых х € U и у € Ф(ж) будет у = u + v для некоторых u G Ф(0) и v Е V, поэтому С 2 и /(ж) > —2. Итак, выпуклая функция f : X —> R ограничена снизу на окрестности нуля U. Положим
р(х) := inf{t-1(y(te) - /(0)) : t > 0}.
Нетрудно видеть, что р : X —* R — сублинейный функционал, причем р(х) —2 для всех х € U. Последнее следует из того, что р(х) /(0) — /(—х) (х 6 X). Из ограниченности снизу функционала р на U следует, что р —2q, где q = p(U). Значит, др 0 в силу 3.2.15. Возьмем х' € др. Как видно,
(х|®'> р(х) < /(х) - /(0)	/(х) + 1	+1
202
Глава 3. Выпуклость и открытость
для всех х € X и у € Ф(т). Отсюда вытекает, что (ж', —у') € Ф° или —у' € Ф°(ж') С С Ф°(Х'). Итак, Ф(0)° С —Ф°(Х'). Обратное включение следует из 3.3.13(4). Тем самым доказана замкнутость множества Ф°(Х'). Пусть теперь В — симметричное эквинепрерывное множество в У. Тогда В° — окрестность нуля в У. Стало быть, существует симметричная окрестность нуля U С X, для которой С Ф(0) -I- В°. Переходя к полярам и привлекая 3.3.10(2), получаем:
Ф°(17о) D Ф°(Х') А В.
Остается заметить, что U° симметрично и эквинепрерывно.
(2) —> (1): Для симметричной окрестности нуля W С У подберем замкнутую симметричную окрестность нуля V С У так, что V -I- V С W. Согласно (2), существует симметричное эквинепрерывное множество А С X' такое, что
Ф°(А) D Ф°(Х') А У°.
При этом мы перейдем к полярам в последнем соотношении, учитывая 3.3.12 (5) и 3.3.13(3). Получим
-Ф(А°) С —ФОО(А°) с с1(-Ф°(Х')° + V°°) С С -Ф(0) 4- V 4- V С -Ф(0) 4- W.
Последнее дает Ф(С7) С Ф(0) -I- W, где U А° — это окрестность нуля в X. >
3.4.8. Пусть Xi,... ,Кп — конусы в X. Говорят, что эти конусы удовлетворяют условию (N), если для любой окрестности нуля U С X найдется такая окрестность нуля V С X, что
(Х1 4- V) А ... А (Кп + V) С Xi А ... А Кп + U.
Так же, как и в 3.1.7(2), с набором конусов Xi,...,Xn свяжем коническое соответствие Ф из X в У := Хп по формуле
Ф := {(Л,Т1,...,тп) € X х У : xi + h е Ki (I := l,...,n)}.
(1)	Соответствие Ф”1 полунепрерывно сверху в нуле в том и только в том случае, если конусы К±,..., Кп удовлетворяют условию (N).
<1 Заметим, что Ф""х(0) = К\ А ... А Хп. Если V — симметричное множество в X, то Л € Ф-1(УП) тогда и только тогда, когда существуют х\,...,хп € V и ki е Ki,...,kn е Кп такие, что xi 4- h = ki, I = l,...,n. Значит, включение h G Ф~1(УП) равносильно тому, что h € Ki + V (/ := 1,..., п). Окончательно Ф~1(УП) = (Xi 4 V) A... A (Xn 4- V). Остальное вытекает из определений. О
(2)	Если Кг,...,Кп и Ф те же, что и выше, то
Ф°
<	..., е (X х Y)' : —k{ S К?, h' + ^k'^Q >.
<	Z=1
3.4. Двойственная характеризация открытости
203
<1 Действительно, если (Л', к{,..., к'п) € Ф°, то
(h\h') -	0 (xi + h€Ki, /:=1,...,п).
1=1
Полагая h := 0, получим — к{ € К?	п). Если же положить xi := —Л, то
(Л|Л' 4- £Xi k'l) = поэтому h' + Sb=i К = 0. Наоборот, если hf G X', Щ € -К° (I := 1,..., п) и hf — —	к[, то
(h\h') -+ h\ki) < О,
1=1	1=1
как только Xi 4- h € Ki для всех I := 1,..., п. О
3.4.9.	Теорема Джеймсона. Для конусов К\,..., Кп в локально выпуклом пространстве X равносильны утверждения:
(a)	Ki,..., Кп удовлетворяют условию (N);
(Ь)	конус К[ 4-... 4- К° замкнут и для каждого эквинепрерывного множества СсХ' найдется такое эквинепрерывное множество В С X', что
Х£ А В 4-... 4- X° А В D (Х° 4-... 4- X°) А С.
<1	Достаточно применить теорему 3.4.7 к соответствию Ф := Ф”1 и учесть 3.4.8 (1). При этом нужно иметь в виду, что из предложения 3.4.8 (2) следуют равенства Ф°(У') = К° + ... 4- Х° и Ф°(СП) = А С 4-... 4- К° А С. >
3.4.10.	Дадим, наконец, двойственную характеризацию несплющенности конусов. Пусть х := (Ki, К2) — воспроизводящая пара конусов в локально выпуклом пространстве X. Воспроизводимость означает, что X = Ki — К2. Определим Фх так же, как и в 3.1.6, а Ф — это то же, что и в 3.1.7 (2). Тогда несплющенность пары х равносильна открытости в нуле каждого из соответствий Фх С X2 х X и Ф С X х X2. Как и в 3.4.8 (2), верно, что
Ф* = {(h*, kf,kf)e(XxXx X)* : -kf € Kf (I := 1,2), h* + kf + kf = 0}.
С другой стороны, нетрудно сосчитать
Ф* = {(xf,xf,h*) € (X х X х X)* : xf - h* G K[, h* - xf G K%}.
Заметим, что для S С X# будет Ф* (S2) = (S—A’*)0(S+/C2)- Нормальной оболоч-кой множества СсХ относительно пары конусов (Xi, К2) называют множество
со(((С - Xi) А (С + Х2)) U ((С - К2) П(С + Xi))).
Как видно, 8Й(Ф* (S2)) — нормальная оболочка S относительно пары (X^XJ). Если S симметрично, то
Ф*($) = {(kf, kf) G КГ X к; : kf + kf G S}.
Теперь из теоремы 3.4.4 вытекает следующий результат.
204
Глава 3. Выпуклость и открытость
Теорема. Равносильны утверждения:
(1)	пара конусов (Ki.Kz) несплющена;
(2)	нормальная оболочка всякого эквинепрерывного множества в X' относительно пары конусов (К*, К*) является эквинепрерывной;
(3)	для любого эквинепрерывного множества S С X' множество
{(fcf, kf) € К* х К% : kf + kfeS}
содержится в (X х X)f и является эквинепрерывным.
3.5.	Открытость и полнота
В параграфе 3.1 было показано, как метод обкатывающего шара Банаха можно приспособить для изучения открытости выпуклых соответствий. Здесь мы рассматриваем иной подход к названной проблематике.
3.5.1.	Основную роль в новом подходе наряду с аппаратом двойственности будет играть равномерность Хаусдорфа на множестве непустых выпуклых замкнутых множеств топологического векторного пространства. Введем необходимые определения.
(1)	Пусть X — отделимое равномерное пространство с базисом фильтра окружений диагонали Ж. Обозначим символом <^ci(X) множество всех непустых замкнутых подмножеств X, Для каждого W € W положим
W := {(Л В) € ^ci(X)2 : А G W(B), В € W(A)}.
Как видно, множество W симметрично, т. е. W = W \ содержит диагональ множества ^ci(X)2 и если для некоторого V € W выполнено V о V С И7, то V о V С W. Кроме того, ясно, что множество W := {V : V € является базисом некоторого фильтра. Таким образом, существует единственная равномерность на множестве ^ci(X), в которой фильтр окружений диагонали определен базисом Эту равномерность называют равномерностью Хаусдорфа. В дальнейшем говоря о равномерном пространстве ^»ci(X) или его подпространствах, а также о равномерной топологии на ^С1(Х) и его подпространствах мы всегда будем иметь в виду равномерность Хаусдорфа. Очевидно, что равномерность Хаусдорфа на ^ci(X) отделима. Отображение х {ж} (ж G X) служит равномерным изоморфизмом X на замкнутое подпространство в ^ci(X).
В том случае, когда X — топологическое векторное пространство с базисом фильтра окрестностей нуля У, базис фильтра окружений диагонали в <^ci(X) имеет вид V := {V : V € У}, где
У:={(Л,В)€^с1(Х): А С В + V, В С А + V}.
(2)	Пусть d — некоторая полуметрика на множестве X, причем диаметр sup{d(#,?/) : х € X, у Е X} множества X конечен. Предположение о конечности диаметра X не является существенным ограничением, так как каждое
3.5. Открытость и полнота
205
полуметрическое пространство (X,d) равномерно изоморфно полуметрическо-му пространству (X,d') с конечным диаметром. Можно положить, например, d'(x,y) := min{l,d(a:,?/)} (см. Дж. Келли [93]).
Итак, пусть (X, d) — полуметрическое пространство с конечным диаметром. Определим функцию d : ^ci(X)2 —> R+ формулой
d(A, В) sup{d(x, В) : х е А} V sup{d(x, А) : х € В}, где d(z, С) := inf{(d(x, у) : у € С} — это d-расстояние от точки х до множества С, Если обозначить Рд(А) := {х € X : d(ir, А) < А}, то определение d можно переписать в виде:
d(A,B) := inf {А > 0 : А С УА(В), В С УДА)}.
Можно показать, что d — полуметрика на ^ci(X). Более того, d будет метрикой в том и только в том случае, когда метрикой является d. Функцию d называют (полу)метрикой Хаусдорфа или хаусдорфовой (полу)метрикой.
Предположим теперь, что равномерность W на множестве X порождается мультиметрикой — множеством полуметрик — ЭЛ. Это означает, что множество окружений диагонали вида {(х,у) G X х X : d(x,y) < е}, где d е ЭЛ и е > 0, образует базу равномерности W. С каждой полуметрикой d € ЭЛ свяжем функцию d. Положим ЭЛ := {d : d G ЭЛ}. Заметим, что если ЭЛ фильтровано вверх, то ЭЛ также фильтровано вверх. Более того, несложно показать, что мультиметрика ЭЛ порождает в точности ту же равномерность на ^С1(Х), что и базис фильтра окружений диагонали
3.5.2.	Метрическое пространство (X, d) полно в том и только в том случае, если полно ассоциированное с ним метрическое пространство (^ci(X), d).
<] Из полноты ^ci(X) вытекает полнота X, поскольку отображение х w {ж} есть равномерный гомеоморфизм X на замкнутое подпространство в <^ci(X). Предположим теперь, что X — полное метрическое пространство, и пусть (Ап) — последовательность Коши в <^С1(Х). Возьмем произвольное е > 0. Для любого k G N существует такой номер п(к) G N, что d(An,Am) < е2~к при m, п п(к). Пусть (т(к)) — строго возрастающая последовательность натуральных чисел, причем т(к) п(к) (к € N). Построим по индукции последовательность (хк) в X, удовлетворяющую условиям:
%k G. Атр^, d(xk,Xk-\-i) С 2 е.
Индукцию начнем с произвольного Хо € Ап(О)*
Допустим, что xi,...,Xk уже выбраны. Поскольку
d(xk<f Am(fc+1)) d(Am(fc), Am(fc_|_i}) <2 s,
то d(xk,a) 2“fes для некоторого a G Am(fc+i). Полагаем •= Ясно, что (x^ — последовательность Коши. Значит, существует предел х := lim(xfc). Нетрудно видеть, что
х € А := Q cl( IJ Ат nGN х т^п
206 Глава 3. Выпуклость и открытость
и d(x, xq) < 2s. Отсюда вытекает, что множество А непусто и при т > п(0) будет sup{d(z/, А) : у € Ат) < 2s из-за произвольности т := т(0) > п(0) и Xq G Ат(о). Если а е А, то a G cl (Um>n(0) Ат). Поэтому для некоторых к п(0) иа& Е А^ имеем d(a,ak) < г. Тогда при т п(0) справедливы неравенства
d(a, Ат) d(a, Ак) 4* d(Ak,Am) d(a, ак) 4- г2~т^ < 2г.
Отсюда следует, что d(A, Am) < 2s. О
3.5.3.	Всюду ниже в этом параграфе X — локально выпуклое пространство. Пусть С1С(Х) — множество всех непустых замкнутых выпуклых подмножеств пространства X. Множество С1С(Х), упорядоченное по включению, является полной решеткой. Точная верхняя граница семейства замкнутых выпуклых подмножеств равна замыканию выпуклой оболочки объединения, а точная нижняя граница совпадает с пересечением. Множество С1С(Х) станет конической решеткой, если ввести в нем сумму двух элементов А и В G С1С(Х) как замыкание множества {а 4- b : а € A, b 6 В}, а умножение на положительные числа определить как в § 1.5. Несложно проверить, что операции суммы и точной верхней границы двух замкнутых выпуклых множеств являются непрерывными отображениями С1С(Х)2 в С1С(Х).
Для произвольного подмножества S С X, положим
С1С(Х, S') := {С G С1С(Х) : S С С}.
Вместо С1С(Х, {#}) мы будем писать С1С(Х,х). Таким образом, множество С1С(Х, 0) состоит из всех замкнутых конических отрезков в X. Пусть, наконец, С1Сь(Х) — совокупность всех непустых ограниченных замкнутых выпуклых подмножеств X. Тогда в С1Сь(Х), наряду с операциями суммы и точной верхней границы, непрерывной будет также и операция умножения на положительные числа, рассматриваемая в качестве отображения из JR+ х С1С&(Х) в С1Сь(Х).
3.5.4.	(1) Множество С1С(Х) служит замкнутым подпространством равномерного пространства <^ci(X). Для любого S С X множество С1С(Х, S) есть замкнутое подпространство в С1С(Х).
<] Возьмем сеть (Са)аеА? которая состоит из замкнутых выпуклых множеств и сходится к некоторому замкнутому множеству С С X. Пусть х, у 6 С, 0 < А < 1, и z := Хх 4- (1 — Х)у. Рассмотрим произвольную окрестность нуля V С X. Подберем абсолютную выпуклую окрестность нуля U так, чтобы U С V. Ввиду определений 3.5.1 существует такой индекс Qq, что
С a С С 4- U, С С Ca +U
для всех а > а0- Очевидно, что для тех же а из-за выпуклости Са и U имеем
z G ХС 4- (1 - А)С С ХСа 4- (1 - А)Са 4- XU 4- (1 - А)ЕЛ = Са 4- U,
следовательно,
Са cCu{z} + !7, Cu{z} cCa + U.
3.5. Открытость и полнота
207
Таким образом, сеть (Са) сходится к множеству С U {z}. Значит, С = С U {z} и z G С, т. е. С выпукло. Вторая часть предложения очевидно следует из первой. [>
(2)	Метризуемое локально выпуклое пространство X будет полным в том и только в том случае, когда полно равномерное (метризуемое) пространство С1С(Х).
< Это следует из (1) и 3.5.2. о
3.5.5.	Рассмотрим сеть (Ca)aeA в С1С(Х). Множество
Q cl(co( |J cQ)
называют верхним пределом сети (Са) и обозначают limsup(Ca).
(1)	Если сеть (Са) в С1С(Х) сходится к некоторому множеству С € С1С(Х), то С = limsup(CQ).
<1 Пусть U и V — выпуклые окрестности нуля, причем U 4- U С V, а индекс Qq таков, что CacC + U uCcCQ-\-U при а а0, то справедливы соотношения cl(co( U Са))с с1(с + с С + V’
Cccl(co( U CQ)) cC + V.
Следовательно, С ~ limsup(CQ) в силу произвольности V. >
Базис фильтра в X, состоящий из замкнутых выпуклых множеств, называют фундаментальным семейством, если он, рассматриваемый как сеть в С1С(Х), является сетью Коши. Последнее означает, очевидно, что для любой окрестности нуля U С X существует такой элемент А G что А С В + U для всех В G &. Ясно, что фундаментальное семейство сходится в том и только в том случае, если для любой окрестности нуля U множество П{С : С €	+ U
содержит некоторый член (а тогда и все последующие члены) этого семейства.
(2)	Предположим, что множество % С С1С(Х) sup-замкнуто, т. е.
sup(CQ) := cl[ со| II Са ) ) €
для каждого семейства (Ca)aeA С Тогда Щ полно в том и только в том случае, если всякое фундаментальное семейство в сходится.
<] Из (1) видно, что сходимость фундаментального семейства равносильна сходимости соответствующей сети в топологии, порожденной равномерностью Хаусдорфа. Поэтому из полноты вытекает сходимость фундаментальных семейств (без предположения о sup-замкнутости). Наоборот, допустим, что в сходятся фундаментальные семейства. Пусть (Са)&еА — сеть Коши в , и положим Д» := cl ( co(Ua^/3^))- Семейство (В^ед, как видно, содержится в фундаментально и, стало быть, имеет предел В € %. Последнее, по определению,
208
Глава 3. Выпуклость и открытость
означает, что для любой окрестности нуля U С X найдется такой индекс 7 6 А, что В С Ву С В + U. Но тогда для всех о > 7 будет Са С В + U. Включение В С Са + U вытекает из того, что (Са) — сеть Коши. Итак, (Са) сходится к В в равномерной топологии. [>
3.5.6.	Локально выпуклое пространство X называют гиперполным. если полно равномерное пространство С1С(Х, 0). Как видно, для гиперполного X полно пространство С1С(Х, 5) при любом непустом подмножестве S в X. Из 3.5.5 (2) вытекает, что X гиперполно в том и только в том случае, когда всякое фундаментальное семейство в X. имеющее непустой верхний предел, сходится (разумеется, к этому верхнему пределу), а также в том и только в том случае, когда сходится всякое фундаментальное семейство, состоящее из замкнутых конических отрезков.
Обозначим через С1А(Х) множество всех абсолютно выпуклых замкнутых подмножеств X. Говорят, что X гиперполно в смысле Келли, если полно равномерное пространство С1А(Х). Вновь из 3.5.5 (2) мы выводим, что X гиперполно в смысле Келли в том и только в том случае, если всякое фундаментальное семейство, состоящее из абсолютно выпуклых множеств, сходится. Еще одно эквивалентное условие содержится в следующем предложении:
(1)	Локально выпуклое пространство X будет гиперполным в смысле Келли тогда и только тогда, когда в С1С(Х. 0) сходится всякое фундаментальное симметричное семейство. (Семейство & называют симметричным. если из С G вытекает —С G ^.)
<1 Пусть & — симметричное фундаментальное семейство. Обозначим через &8 семейство {С8 : С G &}. где С8 := cl(co(C U -С)). Тогда &8 также фундаментально, причем &8 С С1А(Х) и Q(<F) = P|(<F5). Отсюда сразу же следует достаточность; необходимость очевидна. >
(2)	Имеются еще два естественных понятия гиперполноты. Семейство & С С С1С(Х,0) называют коническим (линейным), если для любых Сб/и строго положительного числа А (произвольного числа А / 0) будет AC G &. Ясно, что & — линейное семейство, если оно симметричное и коническое. Будем говорить, что X конически гиперполно (совершенно полно), если всякое фундаментальное коническое (линейное) семейство сходится. Для конически гиперполного или совершенно полного пространства полны соответственно равномерные пространства всех замкнутых конусов или замкнутых подпространств, однако обратное утверждение неверно.
3.5.7.	Концепция гиперполноты допускает естественную локализацию. Тем самым возникает полезная возможность использовать вместо гиперполноты менее ограничительные «локальные» требования.
Говорят, что замкнутое выпуклое множество С С X обладает свойством Келли или келлиево. если всякое фундаментальное семейство для которого С = сходится (к множеству С). Если в этом определении требуется, чтобы фундаментальное семейство & было симметричным, коническим или линейным, то говорят соответственно о симметрическом, коническом или линейном
3.5. Открытость и полнота
209
свойстве Келли, Непосредственно из определений вытекают следующие утверждения:
(1)	X гиперполно тогда и только тогда, когда всякий замкнутый конический отрезок в X обладает свойством Келли;
(2)	X гиперполно в смысле Келли тогда и только тогда, когда всякое абсолютно выпуклое замкнутое множество в X обладает симметрическим свойством Келли;
(3)	X конически гиперполно тогда и только тогда, когда всякий замкнутый конус в X имеет коническое свойство Келли;
(4)	X совершенно полно тогда и только тогда, когда всякое замкнутое подпространство обладает линейным свойством Келли,
Двойственным по отношению к свойству Келли является свойство Крейна-Шмульяна. Рассмотрим локально выпуклое пространство X с сопряженным X' и, как обычно, мы будем обозначать поляру множества U С X относительно двойственности X w X' символом U°, Множество С С X' называют почти слабо замкнутым, если пересечение С П U° слабо замкнуто для любой окрестности нуля U в X, Пусть S — слабо замкнутое выпуклое множество в X'. Говорят, что S обладает свойством Крейна-Шмульяна, если всякое слабо плотное почти слабо замкнутое выпуклое подмножество С С S совпадает с самим множеством S, Если в этом определении S и С — абсолютно выпуклые множества или конусы, или подпространства, то говорят соответственно о симметрическом, коническом или линейном свойстве Крейна-Шмульяна,
3.5.8.	Теорема. Пусть С — замкнутый конический отрезок (абсолютно выпуклое множество, конус, подпространство) в локально выпуклом пространстве. Тогда множество С обладает свойством Келли (симметрическим, коническим или линейным свойством Келли) в том и только в том случае, если поляра С° имеет свойство Крейна-Шмульяна (соответственно симметрическое, коническое или линейное свойство Крейна-Шмульяна).
<1 Ограничимся доказательством лишь того случая, когда С — произвольный замкнутый конический отрезок. Симметрический, конический или линейный случаи получаются повторением тех же рассуждений с некоторыми простыми видоизменениями.
Предположим, что множество С келлиево, и пусть S — слабо плотное почти слабо замкнутое выпуклое подмножество в С°. Обозначим буквой & семейство всех множеств вида (S П U°)°, где U — окрестность нуля. Ясно, что содержится в С1С(Х, С) и является базисом фильтра. Пусть U и W — произвольные окрестности нуля, а V — такая окрестность нуля, что V 4- V С W, Привлекая элементарные свойства поляры, получим
(V + (U° A S)°)° С V0 А (17° A S)°° = V° A U° A S С V° A S,
Следовательно, W + (S А (7°)° D (S A V°)°. Тем самым & — фундаментальное семейство в С1С(Х, С). Если х С, то для некоторого xf € С° выполнено
210 Глава 3. Выпуклость и открытость
(ж|ж') > 1, а поскольку S слабо плотно в С°, то можно считать, что х' 6 S. Но х' 6 V° для некоторой окрестности нуля V. Значит, х (S П У°)°. Отсюда вытекает, что С = Итак, семейство рассматриваемое как сеть в С1С(Х, С), сходится к С в равномерной топологии. Значит, какова бы ни была окрестность нуля V, найдется такая окрестность нуля U, что С + V D (С А (7°)°. Переходя к полярам и привлекая правило из 3.3.12(3), получим
S D (S A U°)°° D (С + V)° = CO#V°.
Из-за произвольности V отсюда следует, что S Z) [0,1)С°. Если х’ € CQ и х’ € V0 для некоторой окрестности нуля V, то [0,1)ж' С SQ V°, а ввиду слабой замкнутости множества S А У ° имеем ж' е S. Таким образом, S — С° и С° имеет свойство Крейна-Шмульяна.
Допустим теперь, что С° обладает свойством Крейна-Шмульяна. Рассмотрим фундаментальное семейство & такое, что С = Положим := {А° : A G и S U(<F°). Из фундаментальности семейства & можно вывести, применив 3.3.12(3), что для любой окрестности нуля U существует элемент А € & такой, что А° D а{7° П /3D при всех D G <Я"0, а 0, /3 0, а + /3 = 1. Но тогда для тех же а и /3 будет S D А° D cl(al70 A/3S). Если число 0 < е < 1 произвольно и А := (1 — s)/s, то
S D с1(еАСЛ° А (1 — e)S) = (1 - e) cl(S А (7°).
Поэтому S A U° D [0,1) с1(5 А (7°). Пусть гс1(В) — совокупность таких ж' € X', что [0,1)ж' С В. Ясно, что гс1((7° A S) = U° A rcl(S). Поэтому
cl(S А 77°) = cl(rcl(S) А (7°).
Ввиду доказанного выше
[0,1) с1(гс!(5) A U°) С S A U° С rcl(S) А 17°, а по определению операции rcl будет
cl(rcl(S) A U°) С rcl(S) A U°.
Итак, множество rcl(S) выпукло и почти слабо замкнуто, а поскольку rcl(S)° = = S° = П(^) — С, верно также, что S слабо плотно в С°. По свойству Крейна-Шмульяна С° = rcl(S). Наконец, воспользуемся еще раз тем, что для любой окрестности нуля U существует такой элемент A G что А° D aU° A/3rcl(S) при а > 0, /3 > 0, а Ч- /3 = 1. Ввиду этого А° D	Далее, применив теорему
о биполяре 3.3.8 (1) и формулу 3.3.12 (7), мы приходим к соотношениям
А С cl(C7 + С) С 2U + С.
Ввиду произвольности U последнее означает, что & сходится к С. О
3.5. Открытость и полнота
211
3.5.9.	Из установленного факта сразу вытекают двойственные характеризации гиперполноты.
(1)	Локально выпуклое пространство гиперполно (гиперполно в смысле Келли, конически гиперполно, совершенно полно) в том и только в том случае, если в сопряженном пространстве всякое почти слабо замкнутое выпуклое множество (соответственно абсолютно выпуклое множество, конус, подпространство) является слабо замкнутым.
(2)	Теорема Крейна-Шмульяна. Метризуемое локально выпуклое пространство полно в том и только в том случае, если всякое почти слабо замкнутое выпуклое подмножество сопряженного пространства слабо замкнуто.
<1 Это следует из (1) в силу 3.5.4 (1,2). [>
(3)	Теорема Банаха-Гротендика. Для произвольного локально выпуклого пространства X равносильны утверждения:
(а)	X полно;
(Ь)	всякий линейный функционал на X', непрерывный на каждом эквинепре-рывном подмножестве X, будет также и <r(Xf, Х)-непрерывным;
(с)	всякая почти слабо замкнутая гиперплоскость в X' слабо замкнута.
3.5.10.	Теорема. Пусть X и Y — локально выпуклые пространства, а Ф — выпуклое замкнутое соответствие из X bY, почти открытое в какой-нибудь точке. Предположим, что т!(Ф(Х)) / 0 и множество Ф“1(и) келлиево для любого и € ш!(Ф(Х)). Тогда соответствие Ф открыто в любой точке (х,у) 6 Ф, для которой у € т!(Ф(Х)).
<] Без ограничения общности, можно считать, что х = 0 и у = 0. В силу теоремы 3.4.4 требуемое будет установлено, если доказать, что для любых х' € X' и уо е т1(Ф(Х)) справедлива формула
Ф'ЧуоГСг') = infix',у') -	: у' € У'},
причем точная нижняя граница в правой части достигается. Ввиду предложения 3.1.3 соответствие Ф почти открыто в точке (хо,уъ) для некоторого xq 6 с!от(Ф). Положим Ф := Ф - (жо,уо) и G := Ф“1(0). Тогда Ф почти открыто в нуле, 0 € ш!(Ф(Х)) и множество G келлиево. Элементарный подсчет убеждает, что требуемое утверждение будет доказано, если установить справедливость точной формулы
G*(z') = т£{Ф*(гг',у') : у' е У'}
для всех х' € X’. Последнее же равносильно совпадению множеств
Sa := {я/ € X' : G*(x') а}, Qa := {х' е X': (V G У')Ф*(х',у') а}
при всех а > 0 (при а < 0 будет Sa = Q& = 0). В самом деле, легко показать, что 0	G*(x') < Ф*(я/, у'), каковы бы ни были ж' € X' и у' € У'. Если же Qa = Sa
212
Глава 3. Выпуклость и открытость
при а > 0, то для а := G*(tz) имеем х' е Sa. Следовательно, существует такой Ув е Y', что Ф*(ж',?/о) а = G*(x'). Тем самым
G*(ir') = Ф*«2/о) = infix',у') : у’ С У'}.
Заметим далее, что Sa = aS\ и Qa = aQi при а > 0.
Таким образом, осталось проверить справедливость равенства Qi = Si, ибо So = n{Sa : а > 0} и Qo = Pl{Qa : а > 0}.
Второе из этих равенств следует из того, что если Ф*(ж',^)	1/п, то по-
следовательность (у'п) эквинепрерывна согласно 3.4.3 (2). Если у' — предельная точка этой последовательности, то равенство Ф*(х',У) = 0 верно ввиду полунепрерывности снизу функционала Ф*.
Включение Si D Qi очевидно. Поскольку Si = G°, а значит, S° = G°° = G, из соотношения xq Sf вытекает, что (х,0) Ф. Следовательно, для некоторых функционалов ж' € X' и у' € У' будет (гг|я/) —	< 1 при (ж, у) Е Фи
— (0|?/) = (xolx') > 1. Это влечет хо 0 Qp Учитывая слабую замкнутость Si, получим, что Si = Qi°. В силу теоремы о биполяре соотношение Si = Qi обеспечено слабой замкнутостью Qi. Значит, принимая в расчет келлиевость множества Qi = SJ = G, достаточно установить, что Qi почти слабо замкнуто, и сослаться на теорему 3.5.8.
Пусть U — окрестность нуля в X и сеть (ж^)а€л в Qi П U° слабо сходится к некоторому xf G X'. Тогда xf Е U° и покажем, что х' G Qi. Заметим, что Qi = ск)ш(Ф°), следовательно, существует сеть (уа)аеА в У' такая, что (х^Уа) € Ф° при а € А. Множество Qi О [7° эквинепрерывно, а Ф почти открыто в нуле, следовательно, сеть (?/а)аеА эквинепрерывна в силу 3.4.3 (2). Если у' — предельная точка сети (г/а)аеА> то благодаря слабой замкнутости множества Ф° имеем у' е Ф°(я/) или xf € с1от(Фо) = Q±. Итак, множество U° П Qi слабо замкнуто. >
3.5.11.	Сделаем несколько дополнительных замечаний по поводу теоремы 3.5.10. Прежде всего ясно, что случай гиперполного X обслуживает весь класс выпуклых соответствий без «локальных» требований келлиевости к прообразам точек у € ш1(Ф(Х)). Далее, очевидно, что для бочечного пространства У можно опустить предположение о почти открытости Ф. Иными словами, справедливо следующее утверждение:
(1)	Теорема. Пусть X и У — локально выпуклые пространства, причем X гиперполно, а У бочечно. Тогда всякое замкнутое выпуклое соответствие Ф С X х У открыто в любой точке (х,у) € Ф, как только у € т1(Ф(Х)).
Если Ф — симметричное соответствие, т. е. Ф = —Ф, то в теореме 3.5.10 достаточно требовать, чтобы Ф~1(г/) обладало симметричёским свойством Келли, а в (1) предполагать гиперполноту X в смысле Келли. Для линейных соответствий схема доказательства теоремы 3.5.10 приводит к следующему результату.
(2)	Теорема Птака. Пусть X nY — локально выпуклые пространства иФ — замкнутое линейное соответствие из X в Y. Пусть, далее, X совершенно полно, а Ф почти открыто в нуле. Тогда Ф открыто в нуле.
3.6. Решета, совершенные ткани и принцип открытости
213
3.6. Решета, совершенные ткани и принцип открытости
Анализ доказательства классического принципа открытости, которое было дано самим С. Банахом (см. 3.1.18), показывает, что лежащий в его основе метод обкатывающего шара применим и в том случае, если фундаментальную последовательность шаров метризуемого топологического векторного пространства заменить на убывающую последовательность множеств, измельчающихся в том или ином смысле. Систематическое использование этого наблюдения ведет к новым результатам об автоматической открытости выпуклых соответствий.
3.6.1.	Рассмотрим множество /(N) := {0} U (|J{Nfc : к Е N}) всех мультийн-дексов, где, как обычно, N — множество натуральных чисел. Отношение порядка в Z(N) определим так: (щ,..., п&) (mi,..., mi) в том и только в том случае, если к < I и (ni,...,nfc) = (mi,... ,mfc). Нулевой мультииндекс 0 — наименьший элемент множества Z(N). Тканью произвольного множества М называют отображение ы из Z(N) в ^(Af), удовлетворяющее условиям:
(1)	о>(0) = А/;
(2)	cu(p) С cu(/z), если только р <
(3)	о>(д) = |J{cd(i/) : и > д} при всех /х Е Z(N).
Предположим теперь, что М — топологическое пространство. Ткань tu множества М называют решетом, если для всякой строго возрастающей последовательности мультииндексов (i/fe) множество {сс>(&%) : к Е N} есть базис некоторого сходящегося фильтра в М. Хаусдорфово топологическое пространство называют суслинским (или аналитическим), если оно обладает решетом. Можно показать, что топологическое пространство является суслинским, если и только если оно служит непрерывным образом польского (т. е. полного сепарабельного метрического) пространства. Подмножество топологического пространства называют суслинским {аналитическим), если оно является суслинским (аналитическим) топологическим пространством в индуцированной топологии.
Если множество М лежит в топологическом векторном пространстве X, то можно рассматривать и более квалифицированные ткани. Именно, ткань ш множества М называют совершенной, если для любой строго возрастающей последовательности мультииндексов (^) существует последовательность неотрицательных чисел (Afc) такая, что множество {k Е N : А& / 0} бесконечно и ряд tk%k сходится к некоторому элементу из М при любом выборе хь G cu(i/&) и tk Е [0, А&] {к := 0,1,...). При этом говорят, что (А&) ^-ассоциирована с (i/fc).
Множество М в топологическом векторном пространстве X называют тканым в точке х Е М (или просто тканым, когда х = 0), если М — х допускает совершенную ткань. Если в этом определении М = X, то говорят, что X — тканое пространство.
3.6.2.	Классы суслинских и тканых множеств устойчивы относительно основных теоретико-множественных конструкций. Прежде, чем сформулировать соответствующий результат, напомним, что подмножество М топологического
214 Глава 3. Выпуклость и открытость
пространства обладает свойством Бэра, если для некоторого открытого G множество М A G := (M\G) U (G\M) будет тощим.
Теорема. Справедливы следующие утверждения:
(1)	непрерывный образ суслинского (непрерывный линейный образ тканого) множества вновь есть множество суслинское (тканое);
(2)	объединение, пересечение и произведение не более чем счетного множества суслинских (тканых) множеств есть множество суслинское (тканое);
(3)	любое суслинское подмножество хаусдорфова топологического пространства обладает свойством Бэра;
(4)	если (Мп) — последовательность суслинских (тканых) множеств, то множество \J^LQ(Mn х {п}) (соответственно, множество UXo(^o + • • • + Мп)) также суслинское (тканое);
(5)	если V — множество второй категории в топологическом векторном пространстве и обладает свойством Бэра, toV — V — окрестность нуля;
(6)	если суслинское топологическое векторное пространство является бэров-ским (т. е. всякое его непустое открытое подмножество нетощее), то оно есть польское пространство.
<1 Устойчивость класса тканых множеств относительно указанных операций устанавливается путем явного построения соответствующей совершенной ткани. Приведем коротко эти построения.
(а)	Пусть М — подмножество топологического векторного пространства X и ш — совершенная ткань множества М. Если Т — линейный непрерывный оператор из X в некоторое топологическое векторное пространство, то отображение у Тш(у) := Т(ш(у)) (у € I(N)) есть совершенная ткань множества Т(М).
(б)	Если wk — совершенная ткань множества Мь при k € N, то совершенную ткань ш множества М := Ukto можно определить соотношениями
о>(0) := М, w(n\) := МП1 (тц € N);
ш(пъ,...,пк) :=a>no(ni,...,nfe) (fc,n0,...,nfc € N).
(в)	Конструкция совершенной ткани множества М := Пь=о следующая. Пусть — биективное отображение Ns+1 на N. Положим по определению
оо	оо
О>(по) := w°(n°) х JJ Mi, w(no,^1(п°,nJ)) := w°(ng,n°) х wx(nj) х JJMi, i=l	i=2
cu(no,^i(n?,nQ),^2(^2»nLno)) := uQ(nQ,ni,n2) x o?(nj,n}) X O?2(nJ) X JjMi,...
г=3
Для возрастающей последовательности мультииндексов (ук) существуют последовательности (п£1), (п£), ... натуральных чисел таких, что
yk := (ng, nJ), nJ, nJ),..., 'фк(п%,..., nJ)).
3.6. Решета, совершенные ткани и принцип открытости
215
Допустим, что последовательность (Ад.) является (^-ассоциированной с (пгк) при всех г. Положим
Мо := Ад, /11 := inf{Aj, Ад}, /12 := inf{A2, А|, Ад},...
Тогда последовательность (/1^) будет (^-ассоциированной с последовательностью (i/fc).
(г)	Если Мп — подмножества одного и того же топологического векторного пространства X, a An (-20 — диагональ пространства XN, то проекция множества (ГС=о ^n) An(X) н& любое координатное пространство совпадает с fXXi Поэтому тканость пересечения вытекает из (а) и (в).
(д)	Конечная сумма подмножеств М\ + ... + Мп совпадает с образом произведения Mi х ... х Мп при отображении Хп Э (#i,...,хп) —> Xi 4-... + хп € X. Следовательно, из (а), (б) и (в) вытекает (4). >
3.6.3. Интересные примеры тканых множеств связаны с понятиями монотонной полноты и идеальной выпуклости (см. 3.1.14).
Назовем нитью в X последовательность (Vn) поглощающих и уравновешенных подмножеств X, для которой Vn+i + Vn+i С Vn при всех п G N. Если Vn — окрестность нуля для каждого п, то нить называют топологической. Нить (Vn) именуют порождающей, если она служит базисом фильтра окрестностей нуля.
(1)	Пусть С — идеально выпуклое или монотонно полное выпуклое подмножество в X. Предположим, что либо X метризуемо, либо X есть объединение последовательности ограниченных абсолютно выпуклых подмножеств. Тогда С ткано в любой точке х € С.
<] Достаточно рассмотреть случай х — 0 € С. Если X метризуемо и (Uk)~ порождающая нить в X, состоящая из уравновешенных множеств, то совершенная ткань си множества С определена формулами
о>(0) := С, w(riQ,...,	:= ngt/g А... A nkUk и С.
Если (Dn) — последовательность ограниченных абсолютно выпуклых множеств и U^=o — X, то полагаем
<j(0) := С, (j(n0,...,nfc) :=(v(n0) = С А £>По.
Пусть (n0fc€N “ это строго возрастающая последовательность. Тогда и-ас-социированная последовательность (А$) имеет вид Аг := (sup{ni,... ^J)"1, в первом случае и Аг := 2~г (г € N) — во втором случае. t>
Из теоремы 3.6.2 и предложения (1) можно извлечь следующие примеры тканых пространств.
(2)	Если топологическое векторное пространство представимо в виде объединения абсолютно выпуклых полных ограниченных подмножеств, то оно ткано.
(3)	Любое полное метризуемое топологическое векторное пространство ткано.
(4)	Сопряженное к метризуемому топологическому векторному пространству является тканым с любой отделимой локально выпуклой топологией, в которой ограничены все равностепенно непрерывные множества.
216
Глава 3. Выпуклость и открытость
(5)	Индуктивный и проективный пределы любой последовательности тканых топологических векторных пространств являются ткаными.
3.6.4.	Перейдем к доказательству результатов об автоматической открытости. Мы будем называть соответствие суслинским, тканым и т. п., если соответствующим свойством обладает его график. Скажем также, что соответствие Г полуткано в точке х € бот(Г), если оно идеально выпукло и dom(r) ткано в точке х.
Теорема. Пусть X и Y — топологические векторные пространства, причем Y бэровское. Пусть (Гп) — возрастающая последовательность выпуклых суслин-ских соответствий из X в Y, и предположим, что core((J^L0 ГП(Х)) / 0. Тогда Y — польское пространство и для любого у® € core(|J^1 ГП(Х)) существует такой номер т, что соответствие Гт открыто в точке (жо,г/о) при xq € Г-1(?/о)-
<1 Если V :=	то множество (V — уо) П (уо — V) поглощающее,
а значит, не является тощим. Поскольку (Гп) возрастает, то будет
оо
(V - Уо) п (Уо - V) С U (ГП(Х) - уо) П (уо - ГП(Х)). п=0
Стало быть, существует номер m такой, что U := (rm(X) — у$) A (t/o — Гт(Х)) — нетощее множество. Кроме того, U — симметричное и суслинское множество, поэтому является окрестностью нуля в соответствии с 3.6.2 (3,5). Докажем открытость соответствия Г := Гт в точке (жо, 2/оХ жо € Г-1(?/оЬ причем достаточно рассмотреть случай xq = 0, г/о = 0- Возьмем произвольную окрестность нуля V С X и подберем замкнутую симметричную окрестность нуля Ц С X так, чтобы (|)Vl + (|)Vi С V. Как легко видеть, множество Ui Г(14) поглощающее, поскольку 0 € соге(Г(Х)). Но тогда Ui А (—Ui) — нетощее подмножество пространства Y. Далее, заметим, что ГА(У1ХУ) — борелевское подмножество соответствия Г, следовательно, его проекция на У, совпадающая с Ui, является суслинским множеством. Пространство У также суслинское, так как У = U^=on^* Таким образом, по 3.6.2 (6) У — польское пространство. Из сказанного ясно также, что U := (|)((/i А (—Hi)) — нетощее суслинское множество. Выпуклость же соответствия Г дает справедливость соотношений
и -и с G) +(0 с г (G) г‘+(0 1/1)с г(п
Осталось заметить, что по 3.6.2 (3) суслинское множество обладает свойством Бэра, и сослаться на 3.6.2 (5). >
3.6.5.	Отметим два следствия из доказанной теоремы.
(1)	Пусть Г — выпуклое суслинское соответствие из топологического векторного пространства X в бэровское топологическое векторное пространство Y, причем соге(Г(Х)) / 0. Тогда У — польское пространство, а Г открыто в точке (xQ,yQ) е Г при yQ е соге(Г(Х)).
3.6. Решета, совершенные ткани и принцип открытости
217
(2)	Для сублинейных операторов р\,ръ : X —> У*, где X — топологическое векторное пространство и Y — топологическое К-пространство, имеет место представление Моро-Рокафеллара, если выполнены условия:
(а)	У+ — суслинское множество;
(б)	dom(pi) — дот(рг) — дополняемое пространство, нетощее в себе;
(в)	pi : dom(pi) —> У есть борелевское отображение при i := 1,2.
3.6.6.	Теперь мы несколько изменим квалификацию рассматриваемых соответствий. При этом существенно расширится класс допустимых пространств-образов. Множество в топологическом пространстве Q называют секвенциально борелевским, если оно входит в а-алгебру ^S(Q), порожденную совокупностью всех секвенциально замкнутых подмножеств в Q.
(1)	Теорема. Пусть X — произвольное топологическое векторное пространство, a Y — индуктивный предел полных метризуемых топологических векторных пространств. Предположим, что Г — секвенциально борелевское соответствие из X в Y, эффективное множество dom(T) которого суслинское. Тогда Г открыто в любой точке (хо,уо), как только уо 6 соге(Г(Х)).
<1 Не ограничивая общности, можно предположить, что xq = 0, уо = 0. Пусть
•= (C4i) — произвольная топологическая нить в X, см. 3.6.3. Рассмотрим последовательность У := (Цг), где
Vn := (2-пГ)({7п) О —(2-пГ)([7п).
Очевидно, что У — нить, и нужно установить, что эта нить топологическая.
Пусть У := Пт Та(Уа), где Ya — полные метризуемые топологические векторные пространства, a Ta : Ya —> У — линейные непрерывные операторы. Положим
Та)) Га := ua (Г),
Vna :=(2-пГа)((7п) А-(2~пГа)(ип)
и рассмотрим нити := (Vna)nGN- Так как Vna = T~1(Vn), то теорема будет установлена, если показать, что Уа является топологической нитью для всех а. Однако в силу борнологичности метризуемого пространства достаточно убедиться в том, что нить поглощает любое ограниченное множество в У. Допустим, что последнее неверно и множество Vma не поглощает некоторое ограниченное множество. Тогда существует ограниченная последовательность (yk) в Ya такая, что к~гук £ Vma для всех к. Очевидно, что замкнутая линейная оболочка Z последовательности (уявляется польским пространством. В силу непрерывности оператора иа имеем Га € &8(Х х Уа), а значит, множество Фа := (X х Z) А Га суслинское, поскольку оно секвенциально борелевское подмножество суслинского множества dom(F) х Z. Таким образом, соответствие Фа из X в Z удовлетворяет всем условиям 3.6.5 (1) при Хо = 0 и уо = 0. Стало быть, оно открыто в нуле. Но тогда для достаточно больших к будет к-1ук € (2"’гпФа(С7т) А (—(2“тпФа)(СТгп)). Полученное противоречие показывает, что нить У поглощает всякое ограниченное множество в У. о
218
Глава 3. Выпуклость и открытость
(2)	Теорема Шварца. Пусть X — индуктивный предел полных метризу-емых топологических векторных пространств, Y — суслинское топологическое векторное пространство и Т — линейный оператор из X в Y с секвенциально борелевским графиком. Тогда Т непрерывен.
<1 Достаточно в качестве Г в теореме (1) взять линейное соответствие. >
3.6.7.	Обратимся теперь к автоматической открытости выпуклого соответствия, связанной с понятием совершенной ткани. Начнем со следующего вспомогательного утверждения.
Пусть X hY — топологические векторные пространства. Пусть Г — выпуклое соответствие из X в Y, причем 0 € Г(0) и Г(Х) А (—Г(Х)) — нетощее множество в Y. Предположим, что Г полуткано или ткано в нуле. Тогда существует последовательность (Ф/с) соответствий из X в Y, обладающая свойствами:
(1)	Фь С Г и Ф^+1 С Фк для всех k € N;
(2)	для любой последовательности ((хк.Ук)) из вхождений ук € Фк(%к) (& G N) следует, что ряд Хк сходится к некоторому х € dom(r), а если сходится и ряд SbLo У к к элементу у eY, то у G Г(х);
(3)	множество сЦФ/ДХ)) есть окрестность нуля для всех k е N;
(4)	для любой окрестности нуля U С X существует такой номер т, что Х^к=т <1от(Ф^) с U для всех п> т.
< Ограничимся утверждением относительно полутканого (в нуле) соответствия. К этому сводится и случай тканого соответствия Г с помощью связанного с ним соответствия Г из X х Y в Y, определяемого формулой:
f := {(х, y,z) е X xY2 : у£ Г(х), z = у}.
Итак, пусть соответствие Г полуткано в нуле. Пусть и — совершенная ткань множества dom(F). Поскольку dom(r) = U^==o<j(no), то будет
оо
Г(Х)П(-Г(Х))= □ ГМпо))П(-ГМп^))).
no,TiQ=D
Так как множество в правой части этого равенства нетощее, то найдутся такие номера по и nfQ, что замыкание множества Г(а>(по))П(—Г(о>(по))) имеет непустую внутренность. Положим во := си(по) и е'о := си(пд). Далее,
оо
Г(е0) А (-Г(еЬ)) = |J Г(ш(п0,п1)) П (-Г(о;(п^ nJ))), ni,n;=o
значит, по тем же соображениям, что и выше, замыкание множества Г(о?(по, ni))A П(—Г(си(по,п'1))) имеет непустую внутренность при некоторых ni,nx 6 N. Обозначим ei := о>(по,П1) и е'х :=	Продолжая этот процесс, получим по-
следовательности (п^), (n^), (efc) и (е*.), причем
int (с!(Г(ек) А (-Г(е^))))	0 (к = 0,1,...).
3.6. Решета, совершенные ткани и принцип открытости
219
Пусть (Afc) и (А*.) — это последовательности неотрицательных чисел, (^-ассоциированные с (пк) и (п^) соответственно, причем можно считать, не умаляя общности, что 0 < А*, А* < 1, А&+1 < А&/2 и А^.+1 < А^/2 для всех к Е N. Положим
цк = min{Afc, др, Фк ••= [о,цк/2](ек хУ)ПГ + [0,цк/2](е'к х У) Г)Г.
Поскольку последовательности (е^) и (е^) убывают, а Г выпукло и (0,0) Е Г, то &k С Г и С Ф& (fc € N). Если окрестность нуля U С X и элемент х Е X таковы, что х 4- U содержится в замыкании Г(е^) П (—Г(е^)), то
и С if/ - \и С i с1(Г(е„)) + | сЦГ(е^)) С | с1(Г(еп) 4- Г«)) С С cl (—Фк(Х) + — Фк(X)) С — с!(Ф*(Х)).
\ Mfc	Рк / Рк
Таким образом, с1(Ф^(Х)) — окрестность нуля.
Рассмотрим последовательность ((%к,Ук))ке^ в Ф& и представим ее в виде (хк,ук) = ^(4-^) + ф(4>у£),
где ак, /Зк € [0,/Zfc], (хк,ук) € Г, (хк,ук) Е Г, хк Е е^, хк € e'fe, причем можно считать, что &к + /Зк > 0. В силу тканости множества dom(r) ряды Тл=оакх'к и ]LkL0 сходятся. Но тогда сходится и ряд Y^=Qxk к некоторому х Е dom(F). Допустим, что ряд Ук также сходится и обозначим через у его сумму. Тогда
\ I ак / , Рк ц\	\ ак / . Pk ff\
’= ?0	’ К	’
где Хк := (&к + Z?fc)/2.
Принимая во внимание неравенство	и идеальную выпуклость
соответствия Г, получим (ж, у) Е Г, т. е. выполнено (2). Наконец, предположим, что (4) не имеет места. Тогда существуют окрестности нуля U С X, последовательность (хк) элементов X и возрастающие последовательности натуральных чисел (пк) и (тпк) такие, что Хк € dom^^), гпк С п&+1 при всех к и
i=nfc
Это, однако, невозможно, поскольку ряд Хк должен сходиться в силу (2). 1>
3.6.8.	Теорема. Пусть X и Y — топологические векторные пространства, причем Y метризуемо. Предположим, что выпуклое соответствие Г из X в Y полутканов точкеxq Е dom(T), ауо Е Г(жо) такова, что (Г(Х)—?/о)П(г/о~Г(Х)) — нетощее подмножество в Y. Тогда Г открыто в точке {xq, уо).
220
Глава 3. Выпуклость и открытость
<1 Не умаляя общности, можно считать xQ = 0 и уо = 0, так как общий случай сводится к этому посредством сдвига (ж, у) (х — xq, у - уо). Применим предложение 3.6.7 к соответствию Г. Пусть последовательность соответствий (Ф&) удовлетворяет всем условиям из этого предложения. Ввиду 3.6.7 (3) и метризуемости Y существует порождающая нить (14) в пространстве У, для которой Vk С с!(ФЦХ)) при всех к G N. Отсюда
УкСФ(Х) + П+1 (fc := 0,1,...).
Далее, для произвольной окрестности нуля U С X в соответствии с условием 3.6.7 (4) подберем такой номер т, чтобы
оо п
□ £ d°mW С и.
n=m-H
Покажем, что тогда Vm С Г(С7), В самом деле, если у G Vm, то существуют такие последовательности (уп) и ((xn,zn)), что
Ут — У, Уп£Уп, (жп,гп)ЕФп, ?/n = ^n+?/n+i (n>m).
Суммируя последние равенства по п от т до I > т, получаем
<
Ут = 52 Zk +^+Ь к—тп
а поскольку уцл -> 0, ряд Y^Lm zn сходится к ут = у. В силу условия 3.6.7 (2) и выбора окрестности U ряд ^£~тхк сходится к некоторому х € L7, причем (х,у) € Г. Итак, Vm С Г(С7), что и завершает доказательство. [>
3.6.9.	Если бэровское топологическое векторное пространство допускает совершенную ткань, то оно полно и метризуемо.
<1 Пусть X — бэровское и тканое топологическое векторное пространство, а Г := Дг(Х) — диагональное соответствие из X в У := X. Поскольку соблюдены условия предложения 3.6.7, существует последовательность (Ф/с) соответствий из X в У, обладающая свойствами 3.6.7 (1-4). Положим Uk := с1(дот(Ф^)) и заметим, что dom^k) = Ф^(Х) (fc € N). В силу 3.6.7 (3) и 3.6.7 (4) из (Uk) можно извлечь подпоследовательность, являющуюся порождающей нитью. Следовательно, пространство X метризуемо. Далее, пространство X является нетощим множеством в своем пополнении X. Действительно, если X С U^=o и за" мкнуты в X, то в силу бэровости пространства X имеем VmD U для некоторого m € N и подходящего открытого множества U в X. Но тогда V D U, где U — замыкание U в X. Тем самым ясно, что U имеет непустую внутренность в X. Применив теорему 3.6.8 к Г := Дг(Х), рассматриваемому как соответствие из X в X, мы получим, что X = Г(Х) — окрестность нуля в X, т. е. X = X. >
3.6.10.	Теорема. Пусть X и У — топологические векторные пространства, а Г — выпуклое замкнутое соответствие из X в У. Допустим, что dom(T) ткано
3.6. Решета, совершенные ткани и принцип открытости
221
в точке Xq Е dom(r) и множество (Г(Х) — уо) О (уо — Г(Х)) нетощее в Y для некоторого уо € Г(хо). Тогда Г открыто в точке (хо,уо).
<1 Рассуждая так же, как и при доказательстве теоремы 3.6.8, получим представление
I
У = Ут= 52 Zn + Zl € W (1 > ТО)' п=т
Однако уже нельзя утверждать, что yi+i —> 0. Пусть V С Y — произвольная окрестность нуля. Тогда
У1+1 е И+1 с с1(Фж(Х)) с Ф/+1 (X) + и
Стало быть, i/z-i-i -*j+1 € V и ^'+1 € Ф/+1(х{+1) для некоторых z'l+1 и х{+1. Отсюда видно, что
I
Ут ~	~ ^4-1 £ У G > Ml)*
п—т
Ряд Хп СХ°ДИТСЯ к некоторому х € (7, поэтому для произвольной окрестности нуля Uq С X номер I МОЖНО выбрать так, чтобы X — 52n=m Хп Е Uq И xj+1 € (То. Отсюда
I
х- хп - х{+1 е 2170.
п=тп
Таким образом,
I
52 (хп, zn) + (х{+1, z'l+1) € Г П ((х, у) + (2С7о) X V),
п=тп
откуда в силу замкнутости Г и произвольности окрестностей Uq и V следует (х,?/) € Г. О
3.6.11.	Теорема. Пусть X и Y — топологические векторные пространства, причем Y бэровское. Пусть (Гп) — возрастающая последовательность выпуклых соответствий изХвУ, тканых в точке (хо, уо). Если уо Е core(U{Tn(X) : n G N}), то Y полно и метризуемо, а Гт открыто в точке (х0, Уо) Для некоторого номера т.
<1 Так же, как и в 3.6.4, устанавливается, что для некоторого т G N множество (Гтп(Х)-1/о)П(1/о-Г'Гп(Х)) нетощее. Положим Г := Гш-Гш и Ф := U{nT : n е N}. В силу 3.6.2 Ф — тканое подпространство в X х У. Рассмотрим соответствие Ф из X х Y в У, определенное формулой
Ф := {(х, у, z) € Ф х У : у = z}.
Тогда Ф — замкнутое линейное соответствие и
Ф(Х) D Г(Х) D (Гт(Х) - т/о) П (т/о - Гт(Х)),
222
Глава 3. Выпуклость и открытость
так что Ф(Х х Y) — нетощее подпространство Y. Кроме того, с!от(Ф) = Ф ткано в нуле. По теореме 3.6.10 Ф открыто в нуле. Но тогда открыто также соответствие Ф и, в частности, Ф(Х) = Y. Таким образом, Y — бэровское пространство, а в силу 3.6.2 оно ткано. По теореме 3.6.9 Y метризуемо и полно. Теперь из 3.6.9 вытекает открытость Гт в точке (то,2/о)- >
3.6.12.	Укажем несколько следствий изложенных результатов.
(1)	Теорема. Пусть Y — индуктивный предел бэровских топологических векторных пространств и Г — выпуклое замкнутое соответствие изX bY. Допустим, что эффективное множество dom(F) ткано в точке xq. Тогда Г открыто в точке (х0, Уо) Для любого уо е Г(то) А соге(Г(Х)).
(2)	Теорема. Пусть Y — индуктивный предел бэровских метризуемых топологических векторных пространств, а Г — выпуклое соответствие из X в Y, полутканое в точке х$ G dom(F). Тогда Г открыто в точке (то,уо) для любого уо G Г(т0) А соге(Г(Х)).
(3)	Теорема. Пусть X и Y — метризуемые топологические векторные пространства, причем Y бэровское. Допустим, что Г — идеально выпуклое соответствие из X в Y, эффективное множество которого a-выпукло. Тогда Г открыто в любой точке (xq, уо), для которой г/о € Г(то) А соге(Г(Х)).
(4)	Теорема Де Вильде. Пусть X и Y — топологические векторные пространства, причем Y ткано, а X есть индуктивный предел бэровских пространств. Тогда всякий линейный оператор из X в Y, имеющий замкнутый график, непрерывен.
3.6.13.	Теорема. Пусть X и Е — топологические векторные пространства, причем Е упорядочено нормальным конусом. Выпуклый оператор f : X Е является непрерывным в точке xq G core(dom(/)) в каждом из следующих случаев:
(1)	X есть индуктивный предел бэровских топологических векторных пространств, epi(/) замкнуто, множество f(X) и конус Е+ тканы в точке /(то) и в нуле соответственно;
(2)	X есть индуктивный предел полных метризуемых топологических векторных пространств, epi(/) — секвенциально борелевское соответствие, а множество f(X) и конус Е+ суслинские;
(3)	X есть индуктивный предел метризуемых бэровских топологических, векторных пространств, epi(/) — это идеально выпуклое соответствие, а множество f(X) и конус Е+ тканы в /(то) и в нуле соответственно.
< Нужно лишь собрать воедино 3.6.6 (1), 3.6.12(1,2) и 3.1.4. О
3.6.14.	Теорема. Пусть X hY — упорядоченные топологические векторные пространства с нормальными положительными конусами. Предположим, что выпуклый оператор f : X —> У* удовлетворяет условиям:
(а)	то G int(dom(/)), /(т0) € int(Im(/));
(б)	сужение оператора f на dom(/) инъективно и обратное к нему отображение возрастает.
3.6. Решета, совершенные ткани и принцип открытости	223
Тогда оператор f открыт в точке Xq в каждом из следующих случаев:
(1)	Y — индуктивный предел бэровских метризуемых топологических векторных пространств, а соответствие epi(/) полуткано в точке Xq;
(2)	Y — индуктивный предел бэровских топологических векторных пространств, dom(/) ткано и надграфик epi(/) замкнут;
(3)	X гиперполно, Y бочечно и надграфик f замкнут
< Без ограничения общности можно считать, что xq = 0 и /(а?о) = 0. В каждом из указанных трех случаев соответствие epi(/) открыто в нуле в силу 3.1.4, 3.6.12(1) и 3.6.12(2). Пусть U С dom(/) — нормальная симметричная окрестность нуля в X. Выберем симметричную окрестность нуля V С Y так, чтобы V С epi(/)(C7), а это равносильно включению V С f(U) 4-У4". Ввиду выпуклости f будет -f(U) С f(U) - У4", значит, верно также V С —f(U) — У4" С /(С7) - У+. Итак, V С nh(/((7)), где nh(Z) обозначает нормальную оболочку Z относительно У+. Привлекая изотонность отображения (/|dom(/)) » легко проверить, что nh(/(J7)) С /(nh([/)). Но nh(C7) = U, стало быть, V С /([/). О
3.6.15.	Теорема. Пусть (Кп) — последовательность монотонно полных конусов в метризуемом топологическом векторном пространстве X. Тогда равносильны следующие утверждения:
(1)	X = UXi(^i + • • • + Кп) * X нетощее;
(2)	X = К\ -I-... 4- Кт для некоторого m G N и X полно;
(3)	X = Ki + ... 4- Кт для некоторого m € N и для любой окрестности нуля U С X существует такая окрестность нуля V С X, что всякий элемент х е V допускает представление х = к\ 4- ... 4- кт при подходящих ki € U A Ki (i :=1,2,...).
<]	Нужно применить теорему 3.6.11 к последовательности конических соответствий Гп из У := в X, где
Гп := {(fei,...,fcn,0, ...,ж) € У х X : х = к\ + ... 4- кп}.
Ясно, что ГП(У) = Ki 4-... 4- Кп, а открытость Гп в нуле равносильна утверждению (3). Остается заметить, что Гп есть образ монотонно полного конуса Ki х ... х Kn С Хп относительно линейного непрерывного оператора (fci,..., kn) и-» (fci,..., kn, ki 4- ... 4- fcn) (&i, • • • , kn e X). Поэтому Гп ткано в нуле. 1>
3.6.16.	Теорема. Пусть (Кп) — последовательность суслинских конусов в бэровском топологическом векторном пространстве X, причем X — и~ 1(*1 + 4-... 4- Кп). Тогда X — полное метризуемое сепарабельное топологическое векторное пространство и имеет место утверждение 3.6.15 (3).
<] Нужно применить теорему 3.6.4 к последовательности конических соответствий Гп из 3.6.15. О
224
Глава 3. Выпуклость и открытость
3.7.	Комментарии
Теория топологических векторных пространств с той или иной полнотой изложена в целом ряде превосходных монографий, см., например, книги Н. Бурба-ки [22], Л. В. Канторовича и Г. П. Акилова [89], А. П. Робертсона и В. Робертсона [219], У. Рудина [227], X. Шеффера [245], Р. Эдвардса [248].
Общие сведения о борнологических векторных пространствах, необходимые в 3.2.17, см. в монографии Г. Хогбе-Нленда [387].
3.7	.1. (1) Понятие несплющенности следует отнести к работе М. Г. Крейна [101]; для банахова пространства X и совпадающих конусов Ki = К2 утверждение 3.1.20 — классическая теорема Крейна-Шмульяна [101]. Позже несплю-щенность появилась в работе Ф. Бонсола [293] под названием локальной разложимости нормированного пространства. Дальнейшая история, а также различные сферы приложения отражены в монографиях Г. Джеймсона [406], М. А. Красносельского [98], М. А. Красносельского, Е. А. Лифшица и А. В. Соболева [100], X. Шеффера [245], Б. 3. Вулиха [30, 31], Ч. Вонга и К.-Ф. Нга [589].
(2)	Принцип открытости 3.1.18 для замкнутых выпуклых соответствий в банаховых пространствах установили К. Урсеску [572] и С. М. Робинсон [526].
Относительно идеальной выпуклости см. работы Е. А. Лифшица [188] и Г. Джеймсона [406, 407]. Эта концепция дополняет возможности метода обкатывающего шара С. Банаха и имеет определенные методические преимущества (см. курсы функционального анализа Р. Холмса [388] и С. С. Кутателадзе [168]).
(3)	Открытость выпуклого соответствия дает единообразный подход к ряду свойств выпуклых объектов: несплющенности конусов и выпуклых множеств, непрерывности и открытости выпуклых операторов, теореме о замкнутом графике и принципу открытости для выпуклых соответствий.
Все эти взаимосвязи были рассмотрены в работе А. Г. Кусраева [110], из которой в основном и позаимствован материал параграфа 3.1, см. также [125]. В этой же работе введено понятие топологического общего положения конусов и выпуклых множеств.
3.7	.2. (1) Возможность продолжения линейных операторов с заданными свойствами исследована С. Мазуром и С. Орличем. Понятие алгебраического общего положения конусов мотивировано теоремой Мазура-Орлича 3.2.16. В связи с задачами субдифференцирования это понятие было развито С. С. Кутателадзе [149,150], М. М. Фельдманом [238, 239] и подробно исследовано в книге Г. П. Акилова и С. С. Кутателадзе [1] и в статьях С. С. Кутателадзе [154], С. С. Кутателадзе и М. М. Фельдмана [170].
(2)	Общий топологический вариант метода общего положения, изложенный в параграфе 3.2, предложен А. Г. Кусраевым [ПО] и систематически развит в работах [21, 125, 133, 134, 136]. Существо дела состоит в том, что общее положение нужных конусов обеспечивает выполнение формулы Моро-Рокафеллара 3.2.8. Метод общего положения — одно из основных аппаратных средств, развиваемых в настоящей книге — ослабляет традиционное в выпуклом анализе условие внутренней точки и приводит к новым результатам даже в скалярном случае (относи-
3.7. Комментарии
225
тельно классических результатов см. [4, 79, 212, 233]). Следует подчеркнуть, что топологическое общее положение конусов дает лишь достаточное условие справедливости формулы Моро-Рокафеллара. Необходимые и достаточные условия, при которых имеет место равенство Моро-Рокафеллара, изучал А. Г. Бакан в [6].
(3)	В связи с утверждением 3.2.2 (2) уместно затронуть вопрос о непустоте субдифференциала, имеющий самостоятельный интерес и свою историю. Дело в том, что если пространство значений Е не является порядково полным, то этот вопрос значительно усложняется, ибо нельзя применить принцип продолжения 1.4.13. Используя известный пример X. Корсона и Й. Линденштраусса (открытого непрерывного эпиморфизма, не допускающего линейных операторов усреднения), Ю. Э. Линке построил непрерывный сублинейный оператор в решетках непрерывных функций, имеющий пустой субдифференциал [486]. Проблема непустоты субдифференциала обсуждена Дж. Зовом в [605]. Непу-стота субдифференциала изучалась рядом авторов (см. М. М. Фельдман [238], Ю. Э. Линке [485], М. Валадье [574], Дж. Зов [603]) с использованием техники (непрерывных, аффинных, полулинейных) селекторов, геометрического понятия точки Штейнера и т. д. Следующий результат, полученный Ю. Э. Линке, содержит один из наиболее полных ответов на вопрос о непустоте субдифференциала для непрерывного сублинейного оператора (см. [485]).
Теорема. ПустьХиУ - полные локально выпуклые пространства, причем Y упорядочено нормальным и замкнутым конусом. Тогда любой компактный сублинейный оператор Р : X —> У имеет компактный опорный оператор, а если, сверх сказанного, X сепарабельно, то любой непрерывный сублинейный оператор имеет непрерывный опорный оператор.
(4)	Операторный вариант леммы Крейна, который мы поместили в 3.2.17, взят из диссертации Онно ван Гаанса [363], где приводится несколько иное доказательство. Оригинальная лемма М. Г. Крейна для линейных функционалов была установлена в [101] и утверждает фактически, что сопряженный положительный конус в упорядоченном нормированном пространстве является воспроизводящим, если норма монотонна. Аналогичное утверждение имеет место и для операторов с абстрактной нормой.
Теорема. Пусть X — упорядоченное нормированное пространство, причем ||х|| С НИ’ как только -у^х^уиуе Х+. Тогда для любого оператора с абстрактной нормой Т : X —> Е существует положительный оператор с абстрактной нормой S : X —> Е такой, что —S < Т < S и |S| С |Т|. В частности, каждый оператор с абстрактной нормой из X в Е допускает представление в виде разности положительных операторов с абстрактной нормой.
<1 Действительно, если положить Р(х) := ||ж|||Т|, то Р — сублинейный оператор, монотонный в смысле 3.2.17, и Т е дР. Согласно 3.2.17 существует линейный оператор S : X Е, для которого S € дР и —S СТ S. Из первого соотношения следует М < |Г|, а из второго — S 0. t>
3.7.3. (1) Понятия поляры (см. 3.3.3) и опорной функции (см. 3.3.8) ввел Г. Минковский. Свойства функционала Минковского, поляр и опорных функ-
8 Кусраев А. Г., Кутателадзе С. С.
226
Глава 3. Выпуклость и открытость
ций, отмеченные в 3.3.8 (1-9), также восходят к Г. Минковскому. Формализм, представленный в 3.3.9-3.3.13, взят из работ А. Г. Кусраева [ПО, 125]. Он составляет аппаратную базу теории (скалярной) двойственности векторных пространств. Многие из этих формул в той или иной общности использовались ранее для различных целей. Например, первую из формул 3.3.9 (1) для симметричных выпуклых множеств получил Дж. Келли [93].
(2) В некоторых задачах выпуклого анализа возникают пространства, которые очевидным образом спарены с подходящим пространством операторов, тогда как естественного пространства линейных функционалов просто нет. В этой ситуации, типичной при изучении выпуклых операторов и операторно-выпуклых множеств, говорят о векторнозначной или, короче, векторной двойственности. Разработке этого круга вопросов посвящена монография А. Г. Кусраева [125]. В частности, им установлена векторная теорема о биполяре, а также векторнозначные версии классических теорем Макки-Бурбаки, Макки-Аренса, критерия рефлексивности Какутани и т. п.
3.7.4. (1) Основной результат параграфа — теорема 3.4.4 — принадлежит А. Г. Кусраеву [110]. Следствия для линейных операторов 3.4.6 хорошо известны (см. [248]). Теорема Г. Джеймсона доказана в [408].
(2) Те же рассуждения, что и в 3.4.10, приводят к следующему результату.
Воспроизводящая пара конусов и в произвольном локально выпуклом пространстве почти несплющена в том и только в том случае, если нормальная оболочка всякого эквинепрерывного множества относительно сопряженной пары также эквинепрерывна.
3.7.5.	Необходимые нам в параграфе 3.5 сведения из теории равномерных пространств можно найти в книгах Н. Бурбаки [23], Дж. Келли [94], Р. Энгель-кинга [250].
(1)	В. Итак [210, 517] первым применил метод двойственности к анализу феномена автоматической открытости (непрерывности) в случае линейных соответствий и обнаружил связь принципа открытости с теоремой Крейна-Шмульяна (см. также [211, 245, 248, 516]). Дж. Келли [93] связал оба эти факта с полнотой тех или иных пространств замкнутых выпуклых множеств. Гиперполнота (см. 3.5.6) является естественным обобщением совершенной полноты (= В-пол-ноты) В. Птака и гиперполноты в смысле Дж. Келли (см. 3.5.6 и 3.5.7). В случае линейных соответствий и операторов следует также отметить работы Г. С. Коллинза [323], В. Л. Левина [175], Д. А. Райкова [217], В. Робертсона [524], А. П. Робертсона и В. Робертсона [525]. Подробное изложение теории В. Птака и близкого круга вопросов имеется в монографиях Р. Эдвардса [248], Дж. Келли и И. На-миоки [177], А. П. Робертсона и В. Робертсона [219].
(2)	Материал параграфа 3.5 взят в основном из работ А. Г. Кусраева [110,125] и представляет собой обработку идей В. Птака и Дж. Келли с помощью аппарата двойственности, представленного в 3.3 и 3.4. Двойственность свойств Келли и Крейна-Шмульяна 3.5.8 и принцип открытости 3.5.10 установлены А. Г. Кус-раевым в [ПО, 117]. Последний результат для случая банаховых пространств
3.7. Комментарии
227
получен ранее К. Урсеску [572] и С. М. Робинсоном [526]. Теорему 3.5.11 (2) установил В. Птак в [211]. Теоремы Крейна-Шмульяна 3.5.9 (2) и Банаха-Гротендика 3.5.9 (3) относятся к математической классике.
(3)	Локально выпуклое пространство X принято называть Вг-полным, если нуль в нем обладает линейным свойством Келли. В силу теоремы 3.5.8 Вг-полнота X равносильна тому, что всякое почти слабо замкнутое слабо плотное подпространство в Xf совпадает с X' или, короче, что X' имеет свойство Крейна-Шмульяна. Обозначим через (С), (Вг), (В), (SHC), (СНС) и (НС) соответственно классы полных, Вг-полных, совершенно полных, гиперполных в смысле Келли, конически гиперполных и гиперполных локально выпуклых пространств. Тогда имеют место включения:
(НС) С (SHC) С (В) с (Вг) с (С), (НС) С (СНС) С (В).
(4)	Есть многие основания предполагать, что эти включения строгие. Однако мы не располагаем всеми необходимыми примерами. Нам известно только, что (С) / (Вг) и (Вг) / (В). Пример полного, но не Вг-полного пространства имеется в книге Р. Эдвардса [248]. Пример, показывающий, что (Вг) / (В), построил М. Валдивиа [575].
(5)	С каждым топологическим пространством X можно связать специальную топологию на ^С1(Х), введенную Л. Вьеторисом в 1921 году. Возьмем конечную последовательность открытых множеств [Ti,..., Un в X и обозначим
[t/i,...,C/n] =	€ ^С1(Х) : Л С Qt/fc ^к-.= 1,...,п)Апик^0
fc=l
Семейство множеств вида [C/i,..., Un] образует базу топологии на множестве ^С1(Х), которую называют топологией Вьеториса (Р. Энгелькинг [250, 2.7.20]) или экспоненциальной топологией (К. Куратовский [106]) на ^С1(Х). Пусть ^СотрРО — множество всех непустых компактных подмножество X. Имеет место следующий факт (см. Р. Энгелькинг [250, 8.5.16]):
Для произвольного равномерного пространства X топология на ^Сошр(Х)? индуцированная хаусдорфовой равномерностью, совпадает с топологией Вьеториса.
(6)	Топология, индуцированная метрикой Хаусдорфа на множество ^ci(X), не определена метрической топологией на множестве X. Дж. Келли [94, с. 178] приводит пример двух метрик d и е на множестве всех неотрицательных чисел X := которые порождают одну и ту же топологию в X, но топологии метрических пространств (£Pc\(X),d) и (^с\(Х),ё) различны. Кроме того, существует сепарабельное метрическое пространство (X, d) такое, что топология Вьеториса на <^ci(X) и топология, индуцированная метрикой Хаусдорфа d, несравнимы, см. Р. Энгелькинг [250, 4.5.22], Э. Майкл [476].
(7)	Подпространство CompC (X) в С1С(Х), состоящее из непустых выпуклых компактов, с индуцированной топологией играет важную роль в теории выпуклых фигур. Пусть ^о(Х) обозначает множество всех выпуклых многогранников.
8!
228
Глава 3. Выпуклость и открытость
(Выпуклым многогранником называют выпуклую оболочку конечного множества.) Ясно, что фо (X) С Comp С (X). Здесь уместно упомянуть еще два классических результата, широко используемых при изучении свойств выпуклых фигур, см. книги В. Бляшке [16], К. Лейхтвейса [184], а также обзор В. М. Тихомирова [233].
Теорема Бляшке о выборе. Пространство Comp С (Rn) является локально компактным. В частности, из любой равномерно ограниченной последовательности выпуклых фигур в Rn можно выделить сходящуюся (в метрике Хаусдорфа) подпоследовательность.
Теорема Минковского об аппроксимации. Для любой выпуклой фигуры A G Comp С (Rn) и для любого числа е > 0 существуют многогранники А', А" € € фо(Жп) такие, что А' С А С А" и h(A', Л") < е.
3.7.6.	(1) Понятие суслинского (аналитического) множества было введено М. Я. Суслиным и Н. Н. Лузиным в 1917 году. Понятие решета ввел Н. Н. Лузин. Теория суслинских (аналитических) множеств хорошо представлена в монографической литературе, см. книги Н. Бурбаки [24], К. Куратовского [106], Дж. Христенсена [316], М. Де Вильде [341].
(2)	Концепция тканого пространства была предложена М. Де Вильде, см. [341]. Им же получены варианты (см. 3.6.12 (4)) принципа открытости и теоремы о замкнутом графике для линейных операторов, определенных в тканых топологических векторных пространствах [341]. Глубокий анализ методов гиперполноты и совершенных тканей с единых позиций дал В. Робертсон [524].
(3)	Исследования автоматической непрерывности или открытости линейного оператора при тех или иных предположениях об измеримости в сочетании с методом категорий Р. Бэра восходит к Л. Шварцу, доказавшему 3.6.6 (2). Другие результаты в этом направлении см. в книге Дж. Христенсена [316].
(4)	Оба подхода, упомянутые в (2) и (3), приспособлены к случаю выпуклых соответствий А. Г. Кусраевым в [117, 121, 125]. Варианты и частные случаи теорем об автоматической непрерывности или открытости выпуклых операторов 3.6.13 и 3.6.14 получены Дж. Бейкером [274] и Дж. Борвейном [296-298]. Теоремы 3.6.15 и 3.6.16 получены М. Нейманом [488]. Результаты о несплющенности 3.6.17 хорошо известны для случая совпадающих конусов, за исключением 3.6.17 (1,2) (см. работы Г. Джеймсона [406], Ч. Вонга и К.-Ф. Нга [589]). Другие обобщения принципа открытости, а также библиографию по этому вопросу см. в монографиях М. Де Вильде [341], Дж. Келли и И. Намиоки [177], Г. Кёте [434], А. Г. Кусраева [125], Ж.-П. Обэна и Е. Франковской [271], Ж.-П. Обэна и И. Эк-ланда [204], Дж. Христенсена [316], Р. Эдвардса [248].
Глава 4
Аппарат субдифференциального исчисления
Настоящая глава — кульминация книги. Здесь на основе ранее развитых методов описываются основные формулы субдифференциального исчисления и используемые при их получении технические приемы.
Мы начинаем с вывода правил замены переменных в преобразовании Юнга-Фенхеля. Затем с их помощью для сложных функций находятся формулы вычисления £-субдифференциалов, представляющих собой некоторое обобщение субдифференциалов, призванное учесть возможность приближенного с точностью до е решения экстремальных задач. Следует подчеркнуть, что анализ е-суб-дифференциалов, превращающихся формально при е = 0 в обычные субдифференциалы, имеет свои особенности и тонкости. Остальные технические разъяснения будут даны в нужных местах. Сейчас достаточно отметить, что соответствующие различия, вообще говоря, связаны с тем, что элемент нуль мал в любом сколь-либо разумном смысле, а «малое е» может обозначать весьма значительную невязку.
При изучении преобразования Юнга-Фенхеля встает вопрос об его инволю-тивности. На языке экстремальных задач речь в этом случае идет об условиях разрыва двойственности. Ввиду большой идейной и практической значимости названной проблемы мы обсуждаем несколько подходов и вариантов ее анализа.
Чрезвычайно важен вопрос о справедливости аналогов классического «цепного правила» исчисления: субдифференциал суперпозиции равняется суперпозиции субдифференциалов. Ясно, что в общем случае такое правило не выполняется. В то же время при суммировании, интегрировании, взятии конечного супремума аналог цепного правила справедлив. Техника изучения эффектов, управляющих названными явлениями, получила наименование дезинтегрирование. Аппарат дезинтегрирования тесно связан с положительными операторами, сохраняющими порядковые отрезки, т. е. удовлетворяющими условию Магарам (с которым мы уже сталкивались). Изучение порядково непрерывных операторов с этим свойством, называемых операторами Магарам, представляет и значительный самостоятельный интерес для общей теории А-пространств.
Всюду ниже под топологическим К-пространством понимается /С-прост-ранство, снабженное такой отделимой векторной топологией, что конус положительных элементов нормален. Напомним также, что понятие общего положения было введено только для непустых множеств (см. 3.1.11). Таким образом, в формулировках, содержащих условие общего положения, неявно предполагается непустота рассматриваемых множеств, хотя это часто не оговаривается. В точных
230 Глава 4. Аппарат субдифференциального исчисления j
формулах замены переменного в преобразовании Юнга-Фенхеля мы системати- ! чески используем знак — вместо =. Как и в 3.4.4, знак — означает равенство с ’ тем дополнительным условием, что достигается точная (как правило, нижняя) граница в стоящем справа от него выражении.
4.1.	Преобразование Юнга-Фенхеля
Текущий параграф посвящен правилам вычисления преобразований Юнга-Фенхеля составных выпуклых операторов.
4.1.1.	Пусть X — топологическое векторное пространство, Е — топологи- г ческое К-пространство и f : X -+ Е. Преобразованием Юнга-Фенхеля f или сопряженным к f называют оператор /* : J$?(X, Е) —> Е, определенный соотношением
Г (Г) = sup{Tx - /(ж) : х е X} (ТЕ Я\Х,Е)).
С этим преобразованием мы сталкивались и ранее (см. 3.4.5). Повторяя указанную процедуру, с оператором f можно связать его второе преобразование Юнга-Фенхеля — второй сопряженный оператор f**. Этот оператор для х 6 X определяется формулой
Г*(ж) = sup{Trr - /*(Т) : Т G -$?(Х,Е)}.
С очевидными оговорками х можно рассматривать как элемент пространства J2f(j2?(X, Е),Е) (точнее, L(&(X, Е),Е)), если отождествить точку х из X с «5-функцией» х : Т —> Тх для Т G <Sf(X, Е). С точностью до указанного отождествления второе преобразование Юнга-Фенхеля /** можно рассматривать как сужение повторного преобразования Юнга-Фенхеля (/*)* : ££{££(Х, Е),Е) —> Е на пространство X.
Напомним, что для фиксированных е € Е иТ е &(Х,Е) вводится оператор из X в Е, действующий по формуле Те : х Тх + е и называемый аффинным. Если Тех < /(х) для всех х 6 X (в дальнейшем в таких ситуациях мьгбудем писать сокращенно: Те < /), то Те называют аффинной минорантой или аффинным опорным к /.
В соответствии с соглашениями из 3.2.3 мы будем отождествлять пространства ^(Xi,E) х J2?(X2,E) и «^(Xi х Х2,Е) путем сопоставления операторам Ti € Jf\Xi,E) и Т2 € ^(Х2,Е) оператора (Ti,T2) € <Sf(Xi х Х2УЕ), действующего по правилу:
(Т1,Т2)(я1,х2) :=	— Т2х2 (#i е Xi, Х2 Е Х2).
4.1.2.	Для оператора f : X —> Е справедливы утверждения:
(1)	операторы f* и f** выпуклы;
(2)	для х G X иТ € <5?(Х, Е) имеет место неравенство Юнга-Фенхеля
Tx<f(x) + f*(T);
4.1. Преобразование Юнга-Фенхеля
231
(3)	аффинный оператор Те является минорантой f в том и только в том случае, если (Г, -е) € epi(/*);
(4)	/** У, причем f** = f в том и только в том случае, если f представляет собой верхнюю огибающую (= поточечную точную верхнюю границу) некоторого семейства непрерывных аффинных операторов;
(5)	если f д, то f* д* и f** д**;
(6)	если f*(T) = —оо хотя бы для одного Т G	Е), то f = 4-оо, и в этом
случае f* = —оо.
<1 (1): Если /* = Ч-оо или /** = 4-оо, то выпуклость /* или соответственно /** не вызывает сомнений. Поэтому мы будем считать, что /* ф 4-оо и /** ф 4-оо, т. е. epi(/*) и epi(/**) — непустые множества. Для х G X и Т € &(Х, Е) положим по определению
lx : S Sx - f(x) (S G E)), lT:y»Ty-f*(T) (г/GX).
Тогда, как без труда проверяется, 1т и 1У — аффинные операторы и
epi(/‘) = A{epi(/x) : f(x) G Е}, epi(/**) = Г){ер1(М : Г(Т) € Е}.
Указанные представления поясняют выпуклость /* и /**.
(2): Как видно из определений, если /*(Т) = -оо, то f = +оо, а при /(ж)=—оо будет /* = 4-оо. В каждом из этих случаев неравенство Юнга-Фенхеля бесспорно. Если же f*(T) / —оо /(ж), то указанное неравенство очевидно.
(3): Включение (Т, — е) G epi(/*) означает, что —е > с := /*(Т), значит, в силу неравенства Юнга-Фенхеля будет Те < Т~с < /. Если же Те < /, то Тх - f(x) —е (х G X), т. е. /*(Т)	-е.
(4): Если /*(Т) G Е, то epi(Zr) D epi(/) и в силу указанного выше представления для epi(/**) видим, что epi(/**) D epi(/), т. е. /**	/. Допустим теперь,
что /** = f 4-оо. Несомненно, что в этом случае f = suppT : f*(T) G E}. Пусть f = sup{Te : Te /}. Если Te f, to f*(T) -e и, следовательно, Тх - /*(Т) Те для х Е X, Итак, /** sup{Te : Те /} = /. Случай f = 4-оо тривиален.
(5): Неравенства /* > #* и /**	д** при условии, что f д, вытекают
из данного выше представления надграфиков соответствующих преобразований Юнга-Фенхеля.
(6): Если /*(Т) = -оо, то по определению /* будет Тх' - /(ж') = -оо для всех х' G X. Но это означает, что f тождественно равен 4-оо, что влечет, в свою очередь, /*(Т) = -оо для любого Т G «5?(Х, Е). >
4.1.3.	При исследовании преобразований Юнга-Фенхеля, как уже отмечалось, возникают две основные проблемы. Первая состоит в нахождении явных формул для вычисления преобразования Юнга-Фенхеля при замене переменной. Вторая заключается в поиске обозримых условий его инволютивности. Как
232
Глава 4. Аппарат субдифференциального исчисления
станет ясно из дальнейшего, указанные проблемы мотивированы теорией экстремальных задач. Более того, их решения легко применять к таким классическим вопросам, как обоснование справедливости принципа Лагранжа, нахождение признаков решений экстремальных задач и выяснение условий справедливости критериев оптимальности для пар двойственных задач.
Займемся проблемой замены переменной. Для этого, прежде всего, с произвольным множеством С в X и ^-пространством Е свяжем Е-значную опорную функцию С (ср. 3.3.8), т. е. отображение С*, действующее на оператор S на <&(Х,Е) по правилу
C*(S) = <5e(C)*(S) = sup{Sx : хе С}.
Отметим простые связи между опорной функцией надграфика отображения и его преобразованием Юнга-Фенхеля.
Пусть f — выпуклый оператор из X в F, где F — (пред)упорядоченное топологическое векторное пространство. Пусть, далее, Т е &(X,F) и S е &(F,E). Тогда справедливы утверждения:
(1)	если epi(/) / 0, то (Т, S) е dom((epi(/))*) в том и только в том случае, когда S >0 иТ е dom((S о /)*);
(2)	если S 0, то имеет место равенство
= (S о
<1 Предположим, что epi(/) / 0, ибо в противном случае в (2) доказывать нечего, а (1) неверно. Если с € F+, S е Ji£\F,E) и Т е ^(X,F), то для любых (х,у) е epi(/) будет (ж, у + с) е epi(/). Иначе говоря, —Sc + Тх — Sy = = Ту — S(y + с) < (epi(/))*(T,S) =: е. Допуская, что правая часть этого неравенства конечна, нетрудно убедиться, переходя к точной верхней границе по (х, у) е epi(/), что e — Sc^e, значит, —Sc 0. В силу произвольности с > 0 отсюда мы выводим, что S 0. С другой стороны, если в указанном соотношении сначала перейти к точной верхней границе по у е (epi(/))(#), полагая с := 0, а затем к точной верхней границе по х 6 dom(/), то будет (S о f)*(T) С (epi(f))*(T, S). Последнее означает, что Т € dom((S о /)*). Кроме того, при S 0 очевидно выполняется:
epi(/)*(T, S) — sup{Ta: — Sc : (х,с) € epi(/)}
sup{Tx - S о f(x) : х е X} = (5 о /)*(Т).
Установленные неравенства обеспечивают требуемое для (1) и (2). 1>
(3)	Если Ф — непустое выпуклое соответствие из X в Е и f := inf оф, то f*(T) = Ф*(Т,/Е) для любого Т G &(Х,Е).
<] Непосредственно из определений оператора (1.3.5) и преобразования Юнга-Фенхеля (4.1.1) выводим:
Г(Г) = sup{Tx - inf {е еЕ: ее Ф(х)} : х € X} =
= sup{Tx — е : х G X, е G Е, (х, е) е Ф} =
= ъщ>{(Т,1Е)(х,е) : (х,е) € Ф} = Ф*(Т,/Е). >
4.1. Преобразование Юнга-Фенхеля
233
(4)	Для выпуклого оператора f : X —> Е справедливы соотношения:
epi(/)*(TJ£) = Г (Г), epi(f)*(T, 0) = dom(/)‘(T).
<] Первая формула получается из (2) при S = 1е- Она также следует из (3), если Ф := epi(/), так как f = т£оф. Вторая формула — очевидное следствие первой. !>
(5)	Для сублинейного оператора f := Р : X —> Е справедливы соотношения:
Р* = 6E(dP), dom(P*) = дР.
<1 В самом деле, если S € дР, то Sx—Р(х) 0 для всех х € X и (S — Р)(0) = О, поэтому P*(S) = 0. Если же Sx Р(т), то последовательность (S — Р)(пх) = = n(S — Р)(х) не ограничена сверху, стало быть, P*(S) = +оо. [>
4.1.4.	Теорема. Пусть X и Y — топологические векторные пространства и Ф1,..., Фп — непустые выпуклые соответствия из X в Y такие, что множества an (П/=1 $/) и ^п{Х) х Yn находятся в общем положении. Тогда для любого Т е J^(y, Е) имеет место точная формула
(ф2+ ... +фп)* (., т) ф: (., г) ©... ф ф: (., ту
Точность формулы означает, что конволюция в правой части точная, т. е. для каждого S € J? (X, Е) такого, что (S, Т) € с!от((Ф1Ч- ... -i-Ф)*), существуют линейные непрерывные операторы Si,..., Sn из X в Е, для которых
(ф+ ... +фп)* (s, г) = ф; (Si, г) + ... + ф* (sn, т),
S = Si 4- ... + sn.
<J Рассмотрим Т € ££ (Y,E) и Si,..., Sn € & (X, Е), Если Ф := Ф1+ ... 4-Фп и S := Si + ... 4- Sn, то
Ф* (S,T) = sup{Siir+ ... + Snx-Ty: (т,?/)€Ф} =
= sup
Y^x-Tyt)
1=1
(x,yi) € Ф(, y = ^yi Z=1	.
f>up {Six - Tyt : (x,yi) e Фг} =	T).
/=1	1=1
Отсюда вытекает, что при Ф* (S, Т) = 4- оо доказываемое равенство справедливо. Пусть (S,Т) € 4от(Ф *) и е := Ф *(S,Т). Ясно, что с!от(Ф1) П ... П дот(Фп) / 0, а потому е > —оо. Рассмотрим оператор «с/, действующий из X х R в Е по правилу (x,t) := Sx — te. Легко видеть, что №,Т) G тгЕ (<тз(Я(Ф))), где аз — перестановка координат, устанавливающая изоморфизм пространств X х Y х R и X х R х Y. Отметим, что
а3 (Я(Ф)) = а3(Я (Ф1))+ ... 4-а3 (Я(ФП)).
234
Глава 4. Аппарат субдифференциального исчисления
При этом в силу условий теоремы конусы ап (Пь=1 аз (Н (Ф^))) и Дп (Ххй) хУп, где ап — подходящая перестановка координат в (X х R х У)п, находятся в общем положении. По теореме 3.2.7 существуют линейные непрерывные операторы «с/1,..., srfn из X х R в Е такие, что srf =	и Г) € тг# (аз (Я(Ф)))
(Z := 1,2, ...,п). Следовательно, для Si := jz^(-,O) и ei := .*У(0,1) (/ := 1,...,п) будет S = 51 4- ... 4- 5n, е = ех 4- ... + еп, кроме того, Фг* (5/, Г) < е/ при всех Z.
Итак, Ф* (S,T) = е = ех + ... + еп > Ф? (5Х,Т) + ... + Ф* (5П,Т). о
4.1.5.	Из теоремы 4.1.4 вытекают следующие следствия:
(1)	Пусть выпуклые операторы fi,... ,fn : X —> Е не равны тождественно 4-ос и находятся в общем положении. Тогда справедлива точная формула

< Доказательство получается совместным применением теоремы 4.1.4 и предложения 4.1.3 (2) к epi(/i), ... ,epi(/n), поскольку
ePi(/i + • • • 4- /п) = epi(/i) + ... + epi(fn). О
(2)	Если непустые выпуклые множества Сх,... ,СП находятся в общем положении, то справедлива точная формула
(Схп ... псп)* е ... ф с;.
< Нужно применить (1) к операторам 6е (Ci) (I := 1,..., п). >
(3)	Пусть F — векторная решетка, S € Е) и /х,... ,fn : X —> F* — выпуклые операторы. Если надграфики epi(fi), ..., epi(/n) непусты и находятся ] в общем положении, то имеет место точная формула с точными конволюциями:
(S о (Д V... V/п))* — inf < о/[)* : Sle^+(F,E),	=
<3 По следствию (2) и предложению 4.1.3 (2) для любого Т G ££ (X, Е) будет
(S о (Л V ... V fn))*(T) = (epi(/x V ... V /П))*(Т, 5) =
= (ещ(Л) П ... П epi(/n))*(T, 5) = (epi(/x)* Ф ... Ф epi(/)*)(T, 5);
причем последняя конволюция точная. Отсюда, привлекая вновь предложение J 4.1.3 (2), немедленно получаем требуемое. >	•
4.1.6.	Теорема о сэндвиче для соответствий. Пусть X — топологичес- j кое векторное пространствоиР- предупорядоченное топологическое векторное пространство. Предположим, что непустые выпуклые соответствия Ф С X х F и Ф С X х F удовлетворяют условиям:
4.1. Преобразование Юнга-Фенхеля
235
(1)	множества а2 (Ф х Ф ) и Д2 (А’) х Е2 находятся в общем положении (Ф := := {(я, у) е X х F : -у € Ф (ж)});
(2)	для любого х € X из d € Ф (х) и с & Ф (ж) следует c^d.
Тогда для всякого непрерывного положительного оператора S : F —> Е существуют элемент е € Е и линейный непрерывный оператор Т : X Е такие, что
Тх — Sc е Ту 4* Sd
для всех (х,с) Е Ф и (y,d) G Ф.
<1 Действительно, из условия (2) вытекает, что F + D Ф (х) + Ф ~(х) для всех х Е X. Следовательно, (Ф 4- Ф “)* (О, —S) < 0 для произвольного S €	+ (F, Е).
В силу условия (1) можно применить теорему 4.1.4 к соответствиям Ф1 := Ф и Ф2 := Ф “. Стало быть, существуют операторы 71 и Т2 из ££ (X, Е), для которых
Ti + Т2 = О, Ф*(Т1, -S) 4- (Ф~)*(Т2, -S) 0.
Отметим, что величины Ф*(71, -S) и (Ф“)*(Т2, -S) конечны и, кроме того, (Ф “)*(Т2, -S) = ф *(Т2, S). Если теперь Т := Т2 = -Ti и элемент е € Е удовлетворяет неравенствам
Ф*(Т,5)^е^-Ф*(-Т, S),
то Т и е — искомые объекты. [>
4.1.7.	Теорема о сэндвиче для выпуклых операторов. Пусть X и F те же, что и в 4.1.6. Допустим, что f,g: X —» F — выпуклые операторы, не равные тождественно 4- оо, и при этом
(1)	f и g находятся в общем положении;
(2)	/(ж) 4- д(х) 0 для всех х е X.
Тогда для любого непрерывного положительного оператора S : F —> Е существуют элемент е € Е и линейный непрерывный оператор Т из X в Е такие, что
—S(g(x)) ^Tx + e^S(f(x)) (ж € X).
< Нужно лишь применить 4.1.6 к соответствиям Ф := epi(/) и Ф := epi(p). [>
4.1.8.	Теорема. Пусть X, Y и Z — топологические векторные пространства, Е — топологическое К-пространство. Пусть, далее, fi : X х Y Е и f2:YxZ—>E — выпуклые операторы, не равные тождественно 4- оо. Если множества epi(/i, Z) и epi(X, /2) находятся в общем положении, то справедлива точная формула
(ft д ЛГ =* Л* Д /Л
т. е. для (Ti,T2) Е dom((/i Д /2) *) существует непрерывный линейный оператор Т из Y в Е такой, что (Ti,T) € dom(/i), (Т,Т2) G dom^) и
(Л А Л)* (Тьт2) = Л* (ТьТ) 4- /2* (Г,Г2).
236	Глава 4. Аппарат субдифференциального исчисления
<1 Обозначим W := X х У х Z. Определим операторы $i,g2 • W —> Е и Л : W —> X х Z следующими соотношениями:
gi : (x,y,z) fl (х,у), д2: (x,.y,z)» f2(y,z), Л: (x,y,z)	(x,z).
Тогда для произвольных Т\ G (X, Е) и Т2 €	(Z, Е) справедливы равенства
(Л д Л)*(Т1, т2) = sup (Т1Х - T2z - inf (fi(x,y) + /2(у,г))) = (x.x)eXxZ
= sup ((Ti, T2) о Aw- (gi + ff2)(w)) = (gi + g2)*((Ti, T2) о Л). w:=(x,y,z)€X хУ xZ
Поскольку epi(pi) = epi(/i, Z) и epi(p2) = epi(X, /2), то выполнены условия следствия 4.1.5 (1). Таким образом,
(/2 А /1)* (Ть Т2) = д{ ф ^((Ть Т2) О Л);
причем конволюция в правой части этой формулы точная. Заметим, далее, что
51*(Г1,Т,Т2) = <	/Г(Т1,т), Фоо,	если Т2 = 0, если Т2 0;
52*(Т1,Г,Т2) = J	\f2(T,T2),	если Ti = 0,
	1+00,	если Т\ 0.
Подставляя эти выражения в конволюцию д% ф д2 и учитывая вид оператора Л, приходим к требуемому. >
4.1.9.	Из теоремы 4.1.8 можно извлечь различные следствия о вычислении преобразования Юнга-Фенхеля составного отображения. Отметим сначала группу следствий, связанных с суперпозицией соответствий и отображений.
(1)	Пусть Г С X х У и Д С У х Z - непустые выпуклые соответствия такие, что множества Г х Z и X х Д находятся в общем положении. Тогда выполняется точная формула
(ДоГ)* = Д* д г*.
Точность формулы означает, что для любых Ti е Jzf (X, Е) и Т2 е & (Z, Е) найдется линейный непрерывный оператор Т G (Y,E), обеспечивающий справедливость соотношения
sup (T1x-T2z')= sup (Т1Х-Т?/)+ sup (Ty — T2z).
(x,z)€Aor	(x,y)er	(y,z)G&
<1 Нужно применить теорему 4.1.8 к операторам Д := 5е (Г) и /2 •= $Е (А) и воспользоваться соотношениями /2 А /1 = 6е (Д о Г), epi(/i, Z) = Г х Z х Е+, epi(X, /2) = Хх Д хЕ + . о
4.1. Преобразование Юнга-Фенхеля
237
(2)	Пусть F — предупорядоченное топологическое векторное пространство, f : X —» F* — выпуклый оператор и g : F —> Е* — возрастающий выпуклый оператор. Если множества epi(/) х Е и X х epi(g) находятся в общем положении, то для любого Т € ££ {X, Е) имеет место точная формула
(gofyiT) -mf{(So/)‘(T) + P*(S): Se^+(F,E)}.
<J По определению композиции epi(^ojf) = epi(^)oepi(/). В наших допущениях можно применить (1). Следовательно, (epi(£o/))* = epi(g)* Д epi(/)*, причем свертка в правой части точная. С учетом 4.1.3 (2) последнее можно переписать в виде
(<7°/)*(П -inf{epi(/)*(T,S)+/(S): Se^(F,E)}.
При вычислении инфимума в правой части можно ограничиться положительными S. В самом деле, если е:= g*(S) < +оо, то для произвольных n € N и у € F+ будет nSy = S(ny) О + g(ny) е, значит Sy 0. Вновь привлекая 4.1.3 (2), получим требуемую точную формулу. >
(3)	Если выполнены все условия предложения (2) и, сверх того, g := Р — сублинейный оператор, то для каждого Т е & (X, Е) верна точная формула
(Ро/)*(Т) =±inf{(So/)*(T): SedP}.
< Это частный случай формулы (2), так как для сублинейного g := Р верно P*(Sf) < Ч-оо в том и только в том случае, когда S € дР, см. 4.1.3 (5). О
(4)	Пусть Y — еще одно топологическое векторное пространство и заданы выпуклый оператор f : X —> Е9, оператор S е ^(Y,X) и точка х е X. Обозначим gr(Sx) := {(y,Sxy) : у G Y} и пусть множества gr(Sx) х Е и Y х epi(/) находятся в общем положении. Тогда для каждого Т € ££ (У, Е) имеет место точная формула
(/oS®)*(T) =± inf {/*(£7) —	: Ue 3?(Х,Е), T = UoS}.
<j Как видно, epi(/ о S'®) = epi(/) о gr(S®). В силу наших допущений можно применить (1). Следовательно, (epi(/ о S®))* = epi(/)* Д (gr(S®))*, причем свертка в правой части точная. В силу 4.1.3 (5) будет
(&(Sx)r(T, U) = (6Е (gr(Sx)))*(T, U) = sup{Ty -Uz: Sy+ х = z} = = sup{Ty - U о Sy — Ux : у € Y} = -Ux + sup{Ty — U о Sy : у € У}.
Таким образом, (gr(S®))*(7’, U) = 0, если Т = U о S, и
(gr(Sx))*(T,U) = +оо
в противном случае. Отсюда с учетом 4.1.3 (2) заключаем:
(/ О Sxy(T) - (epi(/ О SX)Y(T,IE) =
= в WW +	и)) -
= inf {/* (СЛ) -Ux: U е Jf(X, E),T = Uo S}. О
238
Глава 4. Аппарат субдифференциального исчисления
(5)	Пусть f : X xY —> Е9 ~ выпуклый оператор, уо Е Y и д : X —> Е* — частичный оператор, д(х) = /(х, уо) (xGX). Если множества epi(/) и X х {уо}хЕ находятся в общем положении, то выполняется точная формула
<?*(•) inf{f*(-,T)-TyQ: Te^(Y,E)}.
<1 Нужно применить (4) к f и аффинному оператору S : X —* X х Y, действующему по правилу х w (х,уо}. >
4.1.10.	Здесь уместно коротко остановиться на теоремах о векторном минимаксе. Рассмотрим непустые множества А и В и отображение f : А х В —> Е. Легко видеть, что справедливо неравенство
inf sup f(x,y) sup inf f(x,y). xeA	уев xeA
Предложения, утверждающие, что при определенных условиях указанное неравенство является равенством, называют теоремами о минимаксе (при Е = R) или теоремами о векторном минимаксе (при произвольном Е). Простые достаточные условия минимакса связаны с понятием седловой точки.
Пару (а, Ь) € А х В называют седловой точкой отображения /, если для всех х € А и у € В выполняются неравенства f (а, у) < f (а, b) < f (х, Ь). Если (а, Ь) — седловая точка отображения /, то будет
inf sup f(x,y) = f(a,b) = sup inf f(x,y). xeA y^B	уев X^A
Приведем еще одну общую теорему о минимаксе, неявно содержащуюся в предложении 4.1.9 (2).
(1)	Теорема о векторном минимаксе. Допустим, что /ид удовлетворяют условиям предложения 4.1.9 (2) и, кроме того, g = р**. Тогда для отображения h : X х Jzf + (F,E) —> Е, где h (х, a) := а о /(х) — g *(о), верно равенство
inf	sup	h(x, a) = sup inf h(x,a).
xeX	+ (F.E)	+ (F,E) xeX
< В самом деле, положив Т := 0 в 4.1.9 (2), заметим, что с одной стороны
(9 ° /)‘(0) = - inf { (g о /)(х) : х G X} = - inf: х G X} = = ~ (sup {а о f(x) - g*(a) : a G -Sf + (F, E)}).
xtX
С другой стороны,
(а о /)*(0) = - inf (а о /)(х). хеЛ
Требуемое вытекает теперь из 4.1.9 (2):
(9 ° /)*(0) = inf{(a о /)*(0) + g*(a) : a G ^+(F, Е)} =
{a о /(ж) - /(а)} : a G ^+(F, E)} =
= -sup{ inf h(x,a): a e (F, E)\. >
= inf ( — inf I xEX
4.1. Преобразование Юнга-Фенхеля
239
(2)	Если выполняются все условия из (1) и, сверх того, оператор д сублинеен, то
inf sup (а о/)(#) = sup inf (а о/) (ж).
otEdg	aEdg
<1 Следует непосредственно из (1), если воспользоваться тем, что для сублинейного д := Р будет dom(P*) = дР. >
Именно к последнему утверждению чаще всего относят наименование «теорема о векторном минимаксен (ср. 1.3.10(5)).
4.1.11.	Рассмотрим теперь несколько следствий о вычислениях преобразования Юнга-Фенхеля образов и прообразов. Как и выше, X и Y — топологические векторные пространства, F — предупорядоченное топологическое векторное пространство, Е — топологическое /^-пространство.
(1)	Пусть Ф С X х Y — выпуклое соответствие, а С — выпуклое подмножество Y. Если Ф и X х С находятся в общем положении, то для каждого Т е (X, Е) имеет место точная формула
ф-^СУСГ) =Hnf {Ф* (Т, S) + С* (S) : Se^(Y,E)}.
<1 К соответствиям Ф и Ф := С х X можно применить предложение 4.1.9 (1), так как множества Ф х X и X х Ф находятся в общем положении в пространстве X х Y х X. При этом Ф-Х(С)*(Т) = (Фо Ф)*(Т,0) и Ф*(5,0) = C*(S) для Т € Я?(Х, Е)и8е &(Y, Е). >
(2)	Если Ф С X х Y — выпуклое соответствие и для некоторого у € У множества Ф и X х {у} находятся в общем положении, то для каждого Т €	(X, Е)
имеет место точная формула
^~ЧуУ(Т) =± т!{Ф*(Т, S) + Sy : S G ^(Y, £)}.
<1 Нужно лишь в (1) положить С := {?/}. Эта формула уже отмечалась в 3.5.10. t>
(3)	Предположим, что f : X —> F* — выпуклый оператор, а С — выпуклое подмножество F. Если epi(f) и X х С находятся в общем положении, то для множества В := /~г(С — F+) = Uced/ с) и оператора Т € «^(Х,Е) верна точная формула
В*(Г) =± inf{(So/)*(T) + C*(S) : S е 3>+(F,E)}.
<] К соответствию Ф := epi(/) и выпуклому множеству С можно применить предложение (1). При этом следует иметь в виду, что Ф”1(С) = /"^С — F+), (С - F+)*(S) = C*(S) при S > 0 и (С — F+)*(S) = -hoc в противном случае. >
(4)	Пусть выпуклый оператор f : X —> F* таков, что epi(/) и X х (—F+) находятся в общем положении. Тогда для лебегова множества {f < 0} := {х G X : /(ж) < 0} справедлива точная формула
{/ 0}*(Т) =± inf{(S о /)*(Т) : S € J^+(F,F)}.
240	Глава 4. Аппарат субдифференциального исчисления
<1 Нужно применить (3) к выпуклому множеству С := —F+, заметив при этом, что (-F+)* — индикаторный оператор конуса Е). >
(5)	Рассмотрим выпуклый оператор f : X х У —> F* и выпуклое множество С С Y. Допустим, что epi(/) и X х С х (—F+) находятся в общем положении. Тогда для выпуклого соответствия Ф := {/ ^ 0} при каждом Т е &(Х, Е) верна точная формула
ф-1(С)*(Т)=^Ы{(ао/)*(Т,5)+С*(5): Se^(Y,E), ae^+(F,E)}.
< Этот факт устанавливается последовательным применением (1) и (4). [>
4.1.12.	(1) Если в 4.1.8 положить /i := f и /2 := то мы получим формулу
Л*(Т) = /*(Т,0) (Т € &(Х,Е)),
где h(x) := inf{f(x,y) : у € У}. Она верна, если в общем положении находятся множества epi(/) и X х У х Е+.
(2)	Теорема. Пусть h: XxY —> Е9 ид : X х У —> F* — выпуклые операторы и Ф С X х Y — выпуклое соответствие. Положим
/(х) := inf{h(x,y) : у € Ф(ж), д(х,у) 0}.
При том условии, что в общем положении находятся тройка выпуклых множеств ерг(Л), Ф х Е+, {д < 0} х Е+, а также пара epi(g), X х У х (—F+), для каждого Т 6 &(Х, Е) верна точная формула
f(T)	inf(Л* СП, Si) + Ф*(Т2,52) + (аоР)*(Т3,5з)),
где инфимум берется по всем a € <Sf+(F,F) и наборам Т1,Т2,Тз G &(Х,Е) и Si, S2, S3 € Е) таким, что Т = Ti 4- Т2 + Т3 и 0 = Si + S2 4- S3.
<1 Прежде всего заметим, что
f(x) = inf ((Л -к £е(Ф) + 6е(-Е+) о д)(х, г/)).
yeY
Следовательно, в соответствии с (1) будет
/*(Г) = (Л + ЫФ) + 6E(-F+)o9y(T,0).
Применив 4.1.5 (1), получим точную формулу
г (Г) =± inf {Л‘(ГЬ51) + Ф*(Т2,52) + (<5e(-F+) ор)*(Т3,5з): Гг е &(Х,Е), Si € -ВДЕ) (/ := 1,2,3); Т1+Т2 + Т3 = Т, Si + S2 + S3 = о}.
Остается применить 4.1.9(3) к суперпозиции Je(—F+) од. >
4.1. Преобразование Юнга-Фенхеля
241
4.1.13.	Теорема. Пусть : X х У -+ Е* и fz : У х Z —> Е* — выпуклые операторы. Пусть, далее, множества epi(/i,Z) и epi(X,/2) находятся в общем положении. Тогда для любых € Jz?(X, Е) и Т2 € ^(Z, Е) справедлива точная формула
{h 0 Л)*(Т1,Г2)	inf((«!,	•) ф (а2 О /2)‘(., Г2)),
где инфимум в правой части берется по всем Qi,q2 € Orth+(7?), a± 4- az = Ie-Точность формулы означает, что для любой пары (Ti, Т2) G dom(/2 0 /1)* существуют ai,a2 G Orth+(E) и Si, Sz G &(Y,E) такие, что ai + а2 = Ie, Si 4- S2 = О и выполнено равенство
(А © ЛГСГ1, Т2) = (Qi о /1)*(Тх, SJ + (az О /2)*(S2,Т2).
<] Рассуждая так же, как и в доказательстве теоремы 4.1.8, и сохраняя те же обозначения, мы получаем соотношение
(Л © /1Г(Т1,Т2) = (91 V 92Y((TuTz) О Л).
Так как множества epi(gi) и epi(g2) находятся в общем положении, то применимо предложение 4.1.5 (3), в соответствии с которым имеет место точная формула с точными конволюциями
(Л 0/1)*(Т1,Т2) inffax О91)* 0 (02 ор2)*((Т1,Т2) ОЛ)},
где инфимум берется по всем «i, а2 G Orth+(EI), 0*1 + а2 = Те- Доказательство завершается так же, как и в 4.1.8. О
4.1.14.	Пусть 21 — компактное топологическое пространство. Возьмем отображение f : X х 21 —> Е* и положим
h(x) — sup{/(x,a) : a G 21}.
Допустим, что для каждого a G 21 частичное отображение fa : х f(x,a) (х 6 X) является выпуклым. Тогда h : X —> Е* также выпуклый оператор (см. 1.3.7 (1)). Пусть, кроме того, для каждого х G p|{dom(/Q) : a G 21} частичное отображение fx : a w f(x, a), где a G 21, является кусочно r-непрерывным (см. 2.1.12 (2)). Положим
:=
если х € dom(/a), в противном случае.
Тогда при указанных предположениях <р — выпуклый оператор из X в <7^(21, Е) и выполняется равенство h = £^092, где е* — ограничение канонического оператора би на 6^(21, Е).
(1)	Если f удовлетворяет всем указанным условиям, F — это К-пространство и Р : Е —> F — возрастающий о-непрерывный сублинейный оператор, то для
242
Глава 4. Аппарат субдифференциального исчисления
каждого Т € ^(Х,Е) имеет место соотношение
(Р о — inf
/(•,а)с!д(а)
где инфимум берется по всем р G qca(2l, Ln(E, F))+, для которых /z(2l) € 9Р. <3 Нужно привлечь 4.1.9 (3) и описание де* из 2.1.13(3). 1>
(2)	Если К-пространство Е является (<т, сю)-дистрибутивным, то также имеет
место формула
h*(T) inf <
f(-,a)dp(a)\ (Т*)>,
где инфимум берется по всем р € гса(21, Orth(E'))_|", для которых р(Я1) = 1е-<3 Нужно привлечь 4.1.9 (3) и описание де* из 2.1.13(4). >
4.2. Формулы субдифференцирования
В этом параграфе выводятся основные формулы для вычисления субдифференциалов составных выпуклых операторов. Всюду ниже X, Y и Z — топологические векторные пространства, F — предупорядоченное топологическое векторное пространство, Е — топологическое Х-пространство.
4.2	.1. Рассмотрим топологические векторные пространства X и Е. Допустим, что Е упорядочено посредством некоторого положительного конуса Е+. Символом J2?(X, Е), как всегда, мы обозначаем множество всех непрерывных линейных операторов из X в Е. Возьмем выпуклый оператор f : X —> Е\ где Е* = 7?U{+oo}, а +оо — наибольший элемент Е*. Зафиксируем элементы е € Е+ и xq е dom(/). Оператор Т G (X, Е) называется е-су б градиентом f в точке ж0, если Тх — Txq С /(ж) — /(яо)+£ для всех х € X. Множество всех s-субградиентов оператора / в точке xq называют е-субдифференциалом f в точке xq и обозначают символом де/(хо).
(1)	Таким образом, е-субдифференциал / в точке xq G dom(/) определяется формулой
Шо) := {т € <£ (X, Еу.Тх- TXQ /(х) - /(я0) + е (х G X)}.
Заметим, что е-субдифференциал 9е/(жо) может быть пустым, состоять из единственного элемента или же содержать целые лучи. Будем считать также, что def(xQ) = 0 при xq dom(/).
Возьмем произвольный вектор h Е X. Если существует точная нижняя граница множества
{а"х(/(жо + ah) - f (xq) + е) : а > 0},
то ее называют е-производной оператора f в точке Хо по направлению h и обозначают символом fe(xQ)h.
4.2. Формулы субдифференцирования
243
(2)	Итак, е-производная по направлениям оператора f в точке xq G dom(/) определяется формулой
у :	. inf +	+ е
а>0	Ot
При 6 = 0 пишут 9/(#о) •= до/(яо)> /'(^о) := /°(то) и говорят о субградиентах, субдифференциале и производной по направлениям оператора f в точке xq. Введем обозначения Де(Л,а) := а“1(/(жо + ah) — /(то) + б) и Д := До- Полезно подчеркнуть, что при 6 = 0 разностное отношение Де(Л,а), фигурирующее в определении 6-производной по направлению, возрастает по а.
(3)	Если xq,xq 4- yh G dom(/), то для любых 0 < а 0 < у выполняется неравенство A(h,a) < Д(Л,/3).
< В самом деле, для указанных а и 0, благодаря выпуклости /, будет
Д(Л,/3) - Д(Л,а) = Д(Л,/3) - аГ1 (/((/? - а)0~гхо 4-	4- 0h) - /(#о)) >
> Д(М) -	- a)f(x0) + p-'aftxo + ph) - /(х0)) =
= Д(Л,0) -	+ Ph) ~ f(xo))) = 0. >
(4)	Для односторонней производной по направлениям выпуклого оператора f в точке xq 6 dom(/) имеет место формула
fl, \h-n lim ^Х° + ah) ~ «ю	a
Отсюда видно принципиальное отличие 6-субдифференциалов и 6-производ-ных в случае 6 / 0 от аналогичных объектов при 6 = 0. При последнем выборе параметра 6 производная определена локальным поведением оператора; в то же время как при 6 > 0 для вычисления 6-производной необходимо знать, вообще говоря, все значения исследуемого отображения.
(5)	Взяв выпуклое множество С С X и точку х € С, положим деС(х) := := де(дЕ(С))(х) и дС(х) := 9(<5Е(С))(т). Таким образом,
Т е деС(х) w (V/ G С) Тх' Тх 4- 6.
Если х С, то согласно (1) деС(х) = дС(х) = 0. Положим также Се(х) := := $е{С)£(х) и С'(х) := 5Е(С)'(т). Как видно из определения (2), для х е С верна формула Се(х) = ец(С — х). В случае когда 6 = 0 имеют место формулы С"(т) = <5E(Fd(C,ir)) и аод = {Т G 3?(Х,Е) : (УЛ G Fd(C,x))Th 0}.
4.2	.2. (1) е-производная по направлениям выпуклого оператора f : X Е* в точке xq есть сублинейный оператор. Опорное множество этого оператора совпадает с £-субдифференциалом оператора f в точке xq; символически: def(xQ) = = df£ (т0).
<] Действительно, возьмем то С dom(/). Рассмотрим произвольные Л и k € X, и предположим, что xq 4- ah G dom(f) и Xq 4- /Зк G dom(/), где a и 0 — строго
244 Глава 4. Аппарат субдифференциального исчисления
положительные числа. Тогда при 7 := а0(а + 0)~г в силу выпуклости f будет
Де(Л, а) + Де(£, /3) = 7-1 (f(x0 + ah) + f(x0 + /Зк) - f(x0) + s) > \ot + 0	а + р	/
> 7-1(/(я:о + 7(Л + к)) - f(xQ) + е) > /£(х0)(Л + к).
Переходя к точной нижней границе по а и /3 в соотношении
Де(И + Ae(fc,X?) > Л*о)(Л + к),
получим: fe{xo)h-\-fe{x^)k fe(xo)(h + k). Если указанное предположение относительно h и к не выполнено, то последнее неравенство очевидно. В то же время, для любого а > 0 выполнено
fe(x0)(ah) = inf а •	+	= о/е(жо)Л
/?>о	0а
Ясно также, что /е(хо)0 = 0. Тем самым оператор /е(^о) сублинеен. Оставшаяся часть предложения очевидна. >
(2) Пусть f : X —> Е* — выпуклый оператор, непрерывный в некоторой точке х е int(dom(/)). Тогда dkf(x) / 0 и
fe(x)h = sup{T7i : Т € def(x)} (Ji е X).
<1 Это вытекает из предложения (1) в силу теоремы Хана-Банаха-Канторовича (см. 1.4.14(2)), так как в рассматриваемой нами ситуации dom(/e(rr)) = X и оператор f€(x) непрерывен, о
4.2.3.	Напомним, что при рассмотрении элемента х из X мы условились отождествлять этот элемент с оператором х : Т Тх, где Т € J5? (X, Е). Так, в частности, запись х G Эе/*(То) означает выполнение соотношения
Tx-Tox^F(T)-f(TQ) + e (Те#(Х,Е)),
где, как обычно, /* — преобразование Юнга-Фенхеля оператора /.
Пусть f — выпуклый оператор из X в Е* и х Е dom(/). Тогда справедливы следующие утверждения:
(1)	для произвольных е Е Е+ и Т € ££ (X, Е) вхождение Т Е def(x) имеет место в том и только в том случае, когда f(x) + f*(T) < Тх + е;
(2)	если 0 6 е, то d$f(x) С d^f(x);
(3)	если е, 5 Е Е+, а, 0 Е Orth(E)+ и а 4- 0 = 1е, то das+06f(x) Dao def(x) + /3 О dsf(x);
(4)	из Т € def(x) следует, что х € d£f*(T);
(5)	если f**{x) = f(x), тоТ € 9е/(х) w х € def*(T);
4.2. Формулы субдифференцирования
245
(6)	если д : X —> Е* — выпуклый оператор такой, что f д и 6 := д(х) — f(x), то def(x) С де+&д(х).
< (1): Если f(x)+f*(T)	Тд?4-£, то f*(T) < 4-оо. Следовательно, f(x') > —оо
для всех х' G X. Кроме того, х G dom(/) и, стало быть, / — собственная выпуклая функция. Если же d£f(x) 0, то по аналогичным соображениям f вновь будет собственной выпуклой функцией. Но д ля собственной выпуклой функции имеют место эквивалентности
Т е d€f(x) w Тх' - Тх f(x') - /(ж) 4- е (х' 6 X) ~
W Тх' - f(x') ^Тх~ /(х) 4- е {х' е X) ~ f(x) + /*(Т) Тх + е, откуда и вытекает требуемое.
(2): Очевидно из определений.
(3): Пусть S G Эе/(х) и Т 6 ^/(я). Тогда для S и Т имеют место неравенства из определения 4.2.1 (1). Применив к этим неравенствам положительные опера-торы а и 0 соответственно и сложив затем полученные неравенства, с учетом равенства a 4- 0 = Ie мы приходим к соотношению
а о S 4- 0 оТ f(x') - f(x) + ote + 06 (х' G X), которое равносильно требуемому включению.
(4): Если Т G def(x), то согласно (1) f(x) 4- f*(T) < Тх 4- е. В то же время для S G dom(/*) имеем Sx 4- f(x) < f*(S) < 4-оо. Сложив эти два неравенства, мы получим соотношение
Sx-Tx^f*(S)-f*{T) (S G dom(/*)),
равносильное вхождению х Е d£f*(T).
(5): Предположение х G d£f*(T) дает в силу (4) Т G с?е/**(х). Учитывая соотношения /**(я) = f(x) и /**(я) f (х) (см. 4.1.2 (4)), мы приходим к требуемому вхождению Т G d£f**(x).
(6): Очевидно из определений. О
4.2.4.	Приведем еще несколько утверждений, являющихся по существу переформулировками или частными случаями уже отмеченных свойств.
(1)	Включение Т 6 df(x) имеет место в том и только в том случае, если f(x) + f*(T)=Tx.
<1 Это следует из 4.2.3 (1) при е = 0. Е>
(2)	Если f = /**, то соответствие d£f* является обратным к соответствию d£f; символически:	= 0ef*.
<1 Это следует из 4.2.3 (5) и определения обратного соответствия 1.2.1 (2). О
(3)	Если df(x) ± 0, то f**(x) = f(x) и df(x) =
<1 Если Т G df(x), то согласно (1) /(ж) = Тх — f*(T), что вместе с неравенством /** f дает /**(#) = f(x). >
Рассмотрим отображение h : X Е*, действующее по формуле
h(y) := f(x 4- у) - f{x) (у G X).
Ясно, что h — выпуклый оператор.
246 Глава 4. Аппарат субдифференциального исчисления
(4)	Выпуклый оператор h* : Jzf (X, Е) —> Е* принимает положительные значения, и справедливо представление
df(x) = {Л* = 0} := {Т е <£ (X, Е) : h*(T) = 0}.
<] В силу (1) нужно лишь заметить, что сопряженный оператор Л* имеет вид h*(T) = f*(T) + f(x)— Тх	о
(5)	е-субдифференциал f в точке х совпадает с е-лебеговым множеством оператора h*, т. е.
def(x) = {Л* е} := {Т G <£ (X, Е) : Л*(Г) е}.
<1 Очевидно, что Т G def(x) тогда и только тогда, когда Ту < h(y) + £ для всех у G X. Но это то же, что и Л*(Т) е. t>
(6)	Пусть f — выпуклый операторизХ вF, гдеF — предупорядоченное топологическое векторное пространство. Пусть, далее, Т G ££ (X, F) и S е ^(F,E). Тогда (T,S) € 0e(epi(/))(x,/(ж)) в том и только в том случае, когда S 0 и Tede(Sof)(x).
<]	Применив 4.2.3 (1) и 4.1.3 (1,2), а затем вновь 4.2.3 (1), выводим цепочку эквивалентностей
(T,S) е de(epi(/))(x,/(x)) ~
~ (epi(/))‘(T, S) < е + Тх - (S о /)(х) ~
w (So/)(x) + (So/)*(T)^£ + Tx w Т 6 9e(S о
содержащую обоснование требуемого утверждения. >
4.2.5.	Перейдем теперь к вычислению s-производных и е-субдифференциалов отображения /. Как уже отмечалось ранее, случаи е > 0 и £ = 0 существенно отличаются друг от друга, несмотря на их внешнюю похожесть. Поэтому указанные случаи анализируются различными методами. Так, при е = 0 сначала производят подсчет производных по направлениям, а затем применяют метод общего положения для нахождения соответствующих опорных множеств. В случае же £ / 0, привлекая правила замены переменных в преобразовании Юнга-Фенхеля, находят формулы вычисления s-субдифференциалов, которые после этого сворачивают в формулы для е-производных на основе 4.2.1. На таком пути формально охватывается и случай £ = 0, причем возникающие формулы совпадают с уже найденными. Однако следует помнить, что условия, накладываемые на операторы при произвольных £, существенно более жесткие, чем нужные для обслуживания £, равного нулю. Ниже (см. 4.2.6 и 4.2.7) мы аккуратно оттеним указанное различие на (принципиальном) примере е-субдифференциала суммы, хотя в дальнейшем формулировать упрощающие условия при £ = 0 мы не будем.
Пусть С — (выпуклое) множество в X. Элемент h 6 X называют допустимым направлением для множества С в точке х € С, если существует t > 0 такое, что
4.2. Формулы субдифференцирования
247
х + th Е’С (при этом из-за выпуклости С будет х 4- t'h G С для всех 0 < t' < t). Совокупность таких направлений обозначают символом Fd(C, ж). При х С для удобства полагают Fd(C,x) = 0.
(1)	Множество допустимых направлений Fd(C, х) представляет собой выпуклый конус. При этом дС(х) = тге(Е6(С,х)).
Если f : X —> Е* — выпуклый оператор и х € dom(/), то вводят обозначение Fd(/,ir) := Fd(epi(/),(x,/(a:))). Следовательно, Fd(/,ir) состоит из таких пар (Л, k) € X х Е, что £-1(/(я 4- th) — f(x)) < к при достаточно малом t > 0.
(2)	Односторонняя производная по направлениям ff(x) и конус допустимых направлений Fd(/,rr) связаны соотношением f'(x) = inf oFd(/,a?), т. е.
f'(x) : h inf{fc G E : (h,k) € Fd(/,x)}.
<] Это видно из определения односторонней производной по направлениям 4.2.1 (4). о
(3)	Пусть f : X —> F* — выпуклый оператор, a S : F —* Е — положительный оператор. Тогда Т G d(S о /)(ж) для некоторых х € dom(/) и Т G Jzf(X, К) в том и только в том случае, если (T,S) G 7T£?(Fd(/, ж)). В частности, Т 6 df(x) и (r,ZE)€7rE(Fd(/,x)).
<] Выводится непосредственно из определений. О
4.2.6.	Теорема. Если выпуклые операторы fa,..., fn : X Е* и точка х G X таковы, что конусы Fd(/i х ... х fn, (х,..., х)) и ДП(Х) х Еп находятся в общем положении, то имеет место представление
d(fa 4- ... + fn)(x) = dfa(x) 4- ... 4- dfn(x).
<1 Предположим, что х G dom(/i) А... Пdom(/n), так как в противном случае утверждение теоремы тривиально. Если f := fa 4- ... 4- fn и h € Fd(dom(/fc),x) для каждого k := 1,..., п, то
f(x)h = o-lim	+ th) - fi(x)) =
u° i=i
= o-lim+ th) - fi(x)) = ^2 1=1	1	!=1
Если h не входит в какое-нибудь из множеств Fd(dom(/fc),#), то обе части полученного равенства равны 4-оо. Следовательно, в силу 4.2.2 (1) будет
0(fi + • • • + fn)(x) = d(J{(x) + ... + fn(x)).
Рассмотрим теперь конические соответствия К$ := Fd (fa х ... х /п, (х,..., х)) и К := epi(/i(z) х ... х /^(х)). Заметим, что dom(K0) = dom(K). Кроме того, Ko(*) + Е+ С Xq(x) для всех х 6 X. Отсюда видно, что
Ко - Дп(Х) хЕп = К~ ДП(Х) х En = (dom(K) - Дп(*)) х Еп.
248
Глава 4. Аппарат субдифференциального исчисления
По условию конусы Ко и ДП(Х) х Еп находятся в общем положении. Но тогда в общем положении находятся К и ДП(Х) х Еп, ибо Ко С К. Последнее же означает, что сублинейные операторы /{(ж),..., находятся в общем положении. Остается привлечь формулу Моро-Рокафеллара (см. 3.2.8). О
4.2.7.	Теорема. Если выпуклые операторы fi,..., fn : X Е* находятся в общем положении и х € dom(/i) П ... П dom( fn), то для произвольного е € Е+ справедливо представление
а£(л+... + /n)(x)= J (<?61л(х)+... + эе„/п(х)).
ei^0,...,en>0 £1+ ...+£„=£
<1 Вновь возьмем / := /1 + ... + /п и х G dom(/). Если Т G d£f(x), то согласно 4.2.3 (1) будет
f(T) 4- Л(х) + ... 4- /п(х) Тх + е.
В силу предложения 4.1.5 (1) существуют операторы Ti,..., Тп € ££ (X, Е) такие, что Т = Тг + ... + Тп и /*(Т) = /ПТх) + ... + /*(ТП). Положим 5г := /;(!}) + +Л(Ж) - (I := 1,2, ...,п). Тогда 51 > О, ...,5П > 0 и е (51 + ... + (Sn-Считая ci := 6i при I > 1 и 6i := 6 — (б2 + • • • + £п)> получаем е = 61 + ... + еп и -F fi(x) < Tix + ci для всех I := 1,2,...,п. Отсюда в силу 4.2.3 (1) имеем Ti € d£lfi(x). Значит, Т € d£1fi(x) + ... -h d£nfn(x), Противоположное включение очевидно. О
Вновь подчеркнем, что при 6 = 0 формула из теоремы 4.2.7 переходит в аналогичную формулу из теоремы 4.2.6. В то же время требование общности положения конусов Fd (Пь=1 /ь (ж,...,я)) и ДП(Х) х Еп слабее требования общности положения операторов /1,... ,fn.
4.2.8.	Теорема. Пусть /i : X х У —> Е9 и fa :Y х Z —> Е9 — выпуклые операторы и fa 6 Е+. Допустим, что свертка fa А /1 является 6-точной в некоторой точке (x,y,z), т. е. (х,у) G dom(/i), (у, z) € dom(/2) и 5 + (/2 А /1)(т,р) = — /1 У) + /г(?Л ZY Если, кроме того, выпуклые множества epi(/i, Z) и epi(X, /2) находятся в общем положении, то справедливо представление
de(f2 A fi)(x,y) = (J d£2f2(y,z)odS1fi(x,y).
£1^0,£2^0 £1+£2=е4-<5
<1 Доказательство можно провести по схеме 4.2.7 с учетом 4.1.8. Дадим иное доказательство, апеллирующее к теореме 4.2.7.
Используя обозначения теоремы 4.1.8, для (Ti,T2) € 9е(/2 А /i)(x,p) в силу 5-точности свертки /2Д/i в точке (х, у, z) имеем (Ti, Т2) оЛ € d£+$(gi +р2)(х, у, z)-Для операторов pi и р2 выполнены условия теоремы 4.2.7. Значит, существуют 61 и б2 из Е+, для которых 61 4-б2 = б + 5 и (Ti,0, Т2) € d£1gi(x,y, z) + d£2gz(x,y, z). Таким образом, принимая во внимание представления
9*19Ах,у) = (deifi(x,y)) х {0}, d*292(y,z) = {0} х (ае2/2(»,г)),
4.2. Формулы субдифференцирования
249
заключаем, что для некоторых Т{, Si €	(X, Е) и Т£, S2 G & (X, Е) имеют место
соотношения
(т;,51) € deifi(x,y), (S2,T^) е dS2f2(y,z), (T1,0,T2) = (T{,S1-S2,r2).
Отсюда Ti = T'i ((:= 1,2) и S := Si = S2. Следовательно,
(Ti,T2) € dS2f2(y,z) odeifi(x,y).
Противоположное включение очевидно. О
4.2.9.	Теорема. Пусть V-свертка /2 0/1 выпуклых операторов fi : XхУ—>Е* и f2 :Y х Z Е* является 6-точной в некоторой точке [x,y,z)eXxY х Z, т. е. (х,у) е dom(/x), (y,z) е dom(/2) и <5+ (/20/i)(z, z) = fi(x,y) V/2(?/,z). Если при этом выпуклые множества epi(/i, Z) и epi(X, /2) находятся в общем положении, то справедливо представление
de(f2 0 /1)(ж, z) = (J (а£2(а2 о f2)(y, z) о d£1 (oi о /1)(ж, у)),
где объединение берется по всем si,s2 € Е+ и ai,a2 € Orth(£?+) таким, что £1 4- £2 = е 4- 6 и OLi 4- OL2 — 1е>
< Допустим, что (Ti,Т2) € 0е(/2 0/1)(ж,г). Используя 4.2.3(1) и 4.1.13, а также 5-точность V-свертки /20/1 в точке (х, у, z), можно найти некоторый оператор S G ££ (X, Е) и ортоморфизмы а2 € Orth(E')+, ai 4- a2 = Ie, такие, что
«1 о /1 (*, у) + a2 О f2(y, z) + (ai о Д)*(Тх, S) 4- (а2 о /2)*(S, Т2)
Tix — T2z 4- £ 4- (5.
Положим £i := (ai о /1)*(T’i, S) 4- Oi о fi(x, у) — Т\х 4- Sy и е2 := е 4- S — £Х. Тогда (Ti,S) е d£1(aiofi)(x,y) и (S,T2) € d£2(ot2of2)(y,z), т. е. (Ti,T2) входит в правую часть требуемого равенства. Противоположное включение проверяется просто, о
4.2.10.	Теорема. Предположим, что f,g,h иФ удовлетворяют всем условиям теоремы 4.1.12 (2). Пусть, сверх того, h(x, у) = /(ж) 4- <5 для некоторых 5 € Е+ и (х, у) G dom(ft) А Ф, д(х, у) 0. Тогда для каждого е G Е+ имеет место представление
def(x)= (Г: (Т,0) е |J(Sei/i(x,2/) + 5£2$(x,y) + Se3(aoflr)(x,y))j,
где объединение берется по всем £i, е2, £3 Е+ и a € ££ (F, Е)^, удовлетворяющим условиям
£1 4- £2 4- £з OL ° д(х, у) 4- £ 4- (5.
< В соответствии с 4.1.3 (1) при указанных условиях вхождение Т € d£f(x) означает существование операторов a G	Е), Т1,Г2,Гз € «2?(Х, Е) и
Si, S2, S3 G J^(y, jE?) таких, что Т — Ti 4- Т2 4- Тз, 0 = Si 4* S2 4~ S3 и
/(ж) + Л*СГ1, S1) + Ф*(Т2, S2) 4- (а о д)*(Т3, S3)) Тх + £.
250
Глава 4. Аппарат субдифференциального исчисления
Пусть у G Y удовлетворяет условиям теоремы. Заменим в последнем равенстве f(x) на Л(х, у) — 5 и положим
£i := h(x,у) + Л*(Т1,Si) - Т\х + Siy,
£2 := Ф*(7г,S2) — Т2х + 623/,
£3 := (аод)(х,у) + (а о д)* (Т3, S3) -T3x + S3y.
Тогда £1 + £2 + £3 (а о д)(х, у) + Е + 6 и, вновь привлекая 4.1.3 (1), получаем (7i,Si) € d£ih(x,y), (T2,S2) G <?£2Ф(а:,у), (T3,S3) € д£з(а о д)(х,у). Тем самым
(Т,0) € d£lh(x,y) + д£2Ф(х,у) + д£3{а о д)(х,у),
и установлено включение левого множества требуемого представления в правое. Противоположное включение доказывается проведением тех же рассуждений в обратном направлении. о
4.2.11.	Следующие факты без труда выводятся из 4.2.7 и 4.2.8.
(1)	Пусть Г С X х У и Д CYxZ — выпуклые соответствия и у G Г(а?)ПД"1 (г) для некоторых х Е Х,у е Y,z G Z. Если при этом множества Г х Z и X х Д находятся в общем положении, то
Э£(ДоГ)(х,у) =	Э£2Д(у,г)оЭ£1Г(х,у).
£1 ^0, £2^0 £1+£2=£
<1 В 4.2.9 нужно положить /1 := Г и /2 := А- >
(2)	Пусть f : X —> F9 — выпуклый оператор, д : F —> Е* — возрастающий выпуклый оператор, причем в общем положении находятся выпуклые множества epi (/) х Е и X х epi (g). Тогда
de(gof)(x) = J d£t(Tof)(x).
Tedci9(f(x))
£1^0, £2 ^0, £1 4-£2=£
< Вытекает из (1) и 4.2.4 (6) с учетом равенства epi(g о /) = epi(g) о epi(/). 1>
(3)	Пусть f : X —> Е* — выпуклый оператор, Тх — непрерывный аффинный оператор, где Т Е & (Y,X) их Е X. Если выпуклые множества ТххЕ hYx epi(/) находятся в общем положении, то
d£(foTx)(y) = def(Ty + x)oT.
<! Эта формула также следует из (1) и 4.2.4 (6) с учетом того, что при любом £ > 0 множество de(JS оТх) состоит из единственной точки {Т}. >
(4)	Если выпуклые множества Ci,... ,СП находятся в общем положении и х Е С\ П ... П Сп, то
<?£(Ci п... псп)(х) = и (deic-i(x)+ ...+э£псп(х)).
Е1+ ...4-£п=£
<] Следует из 4.2.7 с учетом обозначений из 4.2.1 (5). О
4.2. Формулы субдифференцирования
251
(5)	Пусть Ci,...,Cn — заданные выпуклые множества и х € Ci П ... П Сп. Если конусы Fd(Ci,х), • •, Fd(Cn,х) находятся в общем положении, то
ад А ... А Сп)(х) = dCi(x) + ... + дСп(х).
<] Это следует из 4.2.6, если положить fi := <5e(G) G :== 1»...,п). Другое доказательство получится, если заметить, что
Fd(Ci А ... A Cn,x) = Fd(Ci,x) А ... A Fd(Cn,x)
и применить 4.2.5 (1) и 3.2.5 (1). t>
(6)	Пусть /1,..., fn : X —* F* — выпуклые операторы иТ €	(X, Е}. Если
х € dom(/i) А ... A dom(/n) и конусы Fd(/i, х) (Z := 1,..., п) находятся в общем положении, то имеет место представление
d(So(fiv...v /п))(х) = □ (0(Si о Л)(х) + ... + d(sn о /п)(х)),
где объединение берется по всем Si,..., Sn таким, что $1 = S*
< Достаточно применить (5) к множествам Ci := epi(/i), ..., Cn := epi(/n) с учетом 4.2.5 (3). О
(7)	Пусть F — векторная решетка, fi,...,fn‘.X-+F*~ выпуклые операторы и Т €	(X, Е). Если epi(//) (/ := 1,..., п) находятся в общем положении, то
имеет место представление
д£(Т о (Л v... v Шх) = J (д£1 (Ti о Л)(х) + ... + д£п(тп о /п)(х)), где объединение берется по всем Ti,...,Тп иеп таким, что
£teE+, Ti&^+(F,E) (/:= 1,2,...,n);
£n+i := e ~	°’ У?Ti=T;
1=1	1=1
(T О (Л v... V /п))(х) £(Tt O /,)(*) + en+1.
1=1
<1 Достаточно обосновать включение С, так как обратное включение проверяется непосредственно. Пусть g := Т о (/i V ... V /п)) и S € d£g(x). Тогда g(x) + g*(S) < Sx 4- е и согласно 4.1.5 (3) можно подобрать операторы Т1,...,ТП е Jzf+(F,E) и Si,...,Sn е &+(Х,Е) такие, что Т\ + ... + Tn = Т, Si 4- ... + Sn = S и g*(S) = (Ti о /i)*(Si)	+ (Tn о /n)*(Sn). Положим
£i := (Г/ о fi)(x) 4- (Ti о fi)*(Si) - Six. Тогда ei 0 (/ = 1,... ,n) и
= g(x) +g*(S) - Sx - 6 < e - <5, 1=1
6 := g(x) - Yd=iTi ° Как видно, 0^5^ en+i и Si G d€l(Ti о fi)(x) (Z = 1,... ,n). >
252 Глава 4. Аппарат субдифференциального исчисления
4.2.12.	Пусть д : X —» F* — выпуклый оператор, д(х) е для некоторых х € X и е G F. Если множества epi(g — е) и —(X х F+) находятся в общем положении, то справедливо представление
9e({g^e})(x) = (J 9s(Tog)(x).
Te^ + (F,E) 0^6^Т(д(х)-е)+е
<3 Пусть f := д — е и h := 5е(—F+). Ясно, что
е}) = h о /.
Более того, учитывая равенство epi(ft) = (—F+) х Е+ и формулу 4.1.9 (3), заключаем, что выполнены условия следствия, а потому
d£({g<e}) = de(hof)= J J 0£2(Го/)(х).
ei^o,£2^0 Ted£1h(f(x)) £1+е2=£
Видно, что Т G d£1(h(f(x)) w (Vy € -F+)Ty Т(д(х) - е) + £i. Раз д(х) е по условию, то
Т € d£1 h(f(x)) ~ Т € -Sf + (F, Е) Л 0 Т (д(х) - е) + si.
Осталось заметить, что
S 6 д£2(Т о /)(т) ~ S G д£2(Г о д)(х). О
4.2.13.	Пусть 21 — компактное топологическое пространство. Рассмотрим отображение f : X х 21 —> Е*. Допустим, что выполнены все условия из 4.1.14 (2). Тогда для выпуклого оператора
h(x) := sup{/(x,a) : a € 21} (х € X)
при любых е € Е+ и х G dom(ft) будет
9eh(x) = \j(ds^f	(x)j,
21
где объединение берется по всем р и 6, удовлетворяющим условиям
О 6 е; р € гса(21, Е)+, р(е) = е (е € Е);
8 + sup f(x, а) е + / f(x,a)dp(a).
J
21
<1 В самом деле, если выполнены условия из 4.1.14(2), то h = sj о где (р : X —> 6^(21, Е*) имеет вид р{х) = (а ь-> /(rr,a))ae2i(^ € X). В силу этого достаточно использовать 4.1.14(2) и данное в 2.1.13(3) описание субдифференциала >
4.3. Инволютивность преобразования Юнга-Фенхеля
253
4.3.	Инволютивность преобразования Юнга-Фенхеля
Всякое замкнутое выпуклое множество в локально выпуклом пространстве есть пересечение всех содержащих его замкнутых полупространств. Применительно к надграфикам этот результат утверждает, что всякая полунепрерывная снизу выпуклая функция, определенная на локально выпуклом пространстве, является верхней огибающей всех своих непрерывных аффинных минорант. Отсюда вытекает, что оператор сопряжения инволютивен на классе выпуклых полунепрерывных снизу функций. Распространение последнего факта на общие выпуклые операторы представляет собой важную и нетривиальную проблему, для решения которой указанный выше геометрический подход оказывается малоэффективным. В текущем параграфе излагается один возможный вариант решения этой проблемы, основанный на новой концепции полунепрерывности снизу выпуклого оператора.
4.3.1.	В пределах данного параграфа X := (Х,т) — локально выпуклое пространство, а Е — это /f-пространство со слабой единицей 1. Напомним, что разбиением единицы (элемента тг) в булевой алгебре проекторов (на компоненты Е) называют семейство (тг^)^е2 С фг(2?), для которого тг$ о тг,, = О для всех £,?/ € Е, £ / т/, и sup{7T£ : £ Е 5} = Ie (sup{7r^ : £ Е 5} = тг). Символами {e}dd и [е] обозначаются соответственно компонента, порожденная элементом е Е Е, и проектор на эту компоненту. Для a, b Е Е* мы будем писать а С Ь, если либо а Е Е и b — H-оо, либо a, b Е Е, а Ь и {b — a}dd = {a}dd V {Ь}^. Последнее соотношение равносильно тому, что проектор [Ь — а] совпадает с точной верхней границей проекторов [а] и [6], т. е. [6 - а] = [6] V [а] = [&] + [а] — [6] о [а].
Пусть a,b Е Е, а < Ь и е := |а| 4-16|. Соотношение а <^Ь равносильно каждому из следующих утверждений:
(a)	е = sup {е А п(Ь — а) : п Е N};
(Ь)	для любого х Е Е+ равенство (х Л (b — а) = 0 влечет х Ле = 0;
(с)	для любого ненулевого проектора р Е фг(В), р < [е], существуют число е > 0 и ненулевой проектор тг Е tyv(E) такие, что тг р и тг{а + el) < тгЬ;
(d)	существуют разбиение С фг(Е’) проектора [е] и семейство строго положительных чисел (A^)^es, для которых тг% (а + А^1) С тг^Ь.
Для удобства мы будем считать, что {4-oo}dd = Е и [4-ос] = /д.
4.3.2.	Пусть f — отображение из X в Е*, .То Е X — фиксированный элемент и & — какой-нибудь базис фильтра т(.т0). Тогда равносильны утверждения:
(1)	для любых е < /(жо), е Е Е, и ненулевого проектора р < [/(^о) - е] существуют ненулевой проектор тг р и окрестность a Е & такие, что при х Е a выполняется неравенство тге < тг о f(x);
(2)	для любого е Е Е, е < f(xo), существует разбиение (тга)ае^ проектора [/(х0) — е] такое, что тгае < тга о /(я0) при каждом ж Е a, a Е
254
Глава 4. Аппарат субдифференциального исчисления
(3)	для любого е € Е такого, что е f(%o), существует разбиение единицы С такое, что тгае < тга о /(х) для всех х G а и a €
(4)	для фиксированного с G Е+, [с] > [/(#о)Ь ПРИ любом числе е > 0 найдется разбиение единицы (тга)ае^ С фт(Е) такое, что для всех z Q а и a Q выполняется
(a)	—€irac тга(/(х) - /(хо)), если xq е dom(/) и
(Ь)	(1Д)тгас 7га(/(х)), если xq $ dom(/).
Если какое-нибудь из условий (1)-(4) выполняется для &, то это же условие справедливо и для любого другого базиса того же фильтра t(xq).
<	(1) —> (2): Пользуясь леммой Куратовского-Цорна, выберем максимальное семейство (тга)ае jr попарно дизъюнктных проекторов таких, что тга < [/(хо) - е] и тгае тга(/(х)) при х Е ot и a € <Я\ Максимальность понимается относительно следующего упорядочения в множестве всех попарно дизъюнктных семейств порядковых проекторов:
(Va е < тг").
Положим р := [/(х0) — е] Л (Ie — V{ir« : a € ^}). Если р / 0, то в силу (1) существуют ненулевой проектор тг € фг(Е), тг р, и окрестность /3 € & точки хо, для которых 7ге < тг/(х) при всех х € (3. Полагая тг# := тг# V тг, получим противоречие с максимальностью (тга)ае<^. Значит, р = 0, а это означает, что ~ разбиение проектора [/(хо) — е].
(2)	—> (3): Если (тга)ае^ ~ разбиение проектора [/(хо) — е], удовлетворяющее (2), то из него можно получить требуемое разбиение единицы, прибавив к какому-нибудь тга проектор тг := Ie —	: a €
(3)	—> (4): Если хо € dom(/), то в (3) следует положить е := /(хо) — ес. В противном случае е := (1/е)с.
(4)	(1): Предположим, что е /(хо) и хо € dom(/). Если р < [/(хо) - е] и
р / 0, то ре С р/(хо). Поэтому существуют ненулевой проектор тго < р и число е > 0, для которых тгов 7Го/(хо) —етгос. Согласно (4) имеется разбиение единицы Для которого -£7гас 7га(/(х) - /(хо)) при х € а, а € Выберем а € <Я" так, чтобы тг := тга Л тго / 0. Тогда для х 6 а справедливы неравенства 7ГС 7г/(хо) — £7ГС 7г/(х).
Если Хо dom(/), то из условия [с] > [/(хо)] следует, что с — порядковая единица в Е. Следовательно, существуют семейство (s$ )$ен в \ {0} и разбиение единицы (p$)$gs в ^Зг(Е) такие, что := р$е (1/е^)р^с для всех £ G S. В силу (4) для каждого £ G 5 существует разбиение единицы (тг^,а)а€^ такое, что (1/е$)р£) 7г$,а с р$тг$,а/(х) при всех a G /, х € а, £ G S. Полагая 7га:= \/{р^,а : С € получим требуемое в (1) разбиение единицы (тга)а€^г.
Допустим теперь, что выполняется (1) и — какой-нибудь базис фильтра т(х). Для е /(хо) и ненулевого проектора р [/(^о) — е] возьмем ненулевой проектор тг и окрестность a G «Я* так, чтобы тге /(х) (х G о). Поскольку еЯ* и «Я*' — базисы одного и того же фильтра, существует /3 G «Я'' такой, что /3 С а. Ясно, что неравенство тге тг/(х) верно при всех х € /3. >
4.3. Инволютивность преобразования Юнга-Фенхеля
255
4.3.3.	Отображение f : X —> Е9 называют полунепрерывным снизу в точке хо € X, если выполняется одно (а значит, и любое) из условий 4.3.2 (1-4). Обращаем внимание читателя на схожесть разных определений 3.4.7 и 4.3.3. Эти понятия встречаются в разных контекстах, и мы надеемся, что путаницы не возникнет. Сразу же отметим простейшие свойства полунепрерывных снизу отображений. Будем говорить, что отображение / полунепрерывно снизу, если оно полунепрерывно снизу в каждой точке xq G X.
(1)	Если отображение f : X —> Е9 полунепрерывно снизу в точке xq G X и a € Orth(E')+, то отображение а о f полунепрерывно снизу в точке xq.
(2)	Сумма конечного числа отображений из X вЕ*; полунепрерывных снизу в точке, полунепрерывна снизу в той же точке.
< Допустим, что отображения /1, /2 * X Е9 полунепрерывны снизу в точке то. Если е < /1(^о) + /2(^0)? то имеет место представление е = ei 4- 62, где ei	(/ := 1,2). Пусть f := /1 + /2 и 0 р [/(х0) - е] [Л(х0) - ei] V
V[/2(#o) — вг]. Тогда для р мы также получаем представление р = р\ 4- где Pl [Л(жо) — ej (I := 1,2), причем можно считать, что pi о р% = 0. Подберем теперь не равные одновременно нулю проекторы тц < pi и окрестности оц € так, чтобы тг/е < 7Tifi(x) (х € а/). Полагая тг := 7Г1 4- яг, ot := ai П аг? получим тге 7г/(т) (х € а). 1>
(3)	Точная верхняя граница непустого множества отображений из X в Е9, полунепрерывных снизу в точке, полунепрерывна снизу в той же точке.
< Рассмотрим семейство отображений (Д : X —» E*)^es? полунепрерывных снизу в точке то € X. Положим / := sup{/^ : £ € S}. Пусть е < /(хо). Если 0 р < [/(жо) — е], то существуют £еЕиО/тго^р такие, что тгов тгоЛС&о)
тго/(^о)- Ввиду полунепрерывности снизу Д найдутся ненулевой проектор тг < 7Го и окрестность а € /, для которых тге < Л(х) (ж 6 а). Но тогда для тех же х будет тге < f(x). О
4.3.4.	Введем теперь (интересный сам по себе) класс проскалярных аффинных операторов, связанный с указанной выше концепцией полунепрерывности. Ниже будет показано, что полунепрерывные снизу выпуклые операторы и только они являются верхними огибающими семейств проскалярных аффинных операторов. Предварительно приведем два простых факта.
(1)	Пусть (X, г) — локально выпуклое пространство, а Е — произвольное К-пространство. Тогда для оператора Т (X, Е) равносильны утверждения:
(a)	lim supx_^0 \Тх\ = infyeT(0) suPxev \Тх\ = 0 (супремумы вычисляются, как обычно, в Е9)-,
(Ь)	существуют окрестность нуля V С X и элемент е € Е+ такие, что верно T(V) с [—е,е];
(с)	существуют непрерывная полунорма р : X —> К и элемент е € Е+ такие, что \Тх\ < ер(х) для всех х 6 X.
< Если выполнено (1), то е = sup T(V) < 4-оо для некоторой симметричной окрестности нуля V € т(0). Но тогда T(V) С [—е, е]. Если же верно послед-
256
Глава 4. Аппарат субдифференциального исчисления
нее включение, причем V абсолютно выпукло, то условие (3) справедливо для р := р(У). Наконец, из (3) вытекает, что lim supTx = е • lim supp(#) = 0 ввиду х—>0	х—>0
непрерывности р. [>
Оператор Т € «5? (Х,Е) мы будем называть о-ограниченным, если Т удовлетворяет любому из равносильных условий (а)-(с) предыдущего предложения. Символом (X, Е) мы обозначим множество всех о-ограниченных линейных операторов из X в Е.
(2)	Оператор Т е L(X, Е) полунепрерывен снизу в какой-нибудь точке в том и только в том случае, если найдется разбиение единицы (тг^ен С tyt(E) такое, что 7Г£ о Т € -Йо (X, Е) для всех £ е Е.
<1 Ясно, что если линейный оператор полунепрерывен снизу в какой-нибудь точке, то он полунепрерывен снизу в любой точке. Пусть Т полунепрерывен снизу в нуле. Возьмем е е Е+. Согласно 4.3.2 (2) существует разбиение (7га)ае^ проектора [е] такое, что — тгае тта о Тх (х е а, а G <Я"). Здесь & — базис фильтра т(0). Заменив х на —х в последнем неравенстве, получим |тга оТх\ < тгае < е. В силу (1) это означает, что тга, о Т G (X, Е).
Пусть (e^)^es — такое семейство в Е+, что ([е^]) ~ разбиение единицы. Для каждого £ G Е подберем разбиение (тга^)ае^ проектора тг^ так, чтобы для х е a |?Га,£ ° Тх\ < 7га^ е. Согласно (1) это означает, что тга,$ о Т е (X, Е). Остается заметить, что (тга^)(а — разбиение единицы. [>
4.3.5.	Линейный оператор Т : X —> Е мы будем называть проскалярным, если он удовлетворяет любому из эквивалентных условий предложения 4.3.4 (2). Множество всех проскалярных линейных операторов мы обозначим символом ^(Х, Е). Понятно, что Т 6 «^(Х, Е) в том и только в том случае, если Т линеен и выполнено одно из условий:
(а)	Т и —Т полунепрерывны снизу в нуле;
(Ь)	Тх —	° Т$х, где Т$ G (Х,Е) для всех £ и (тг^) — разбиение
единицы в %h(E).
Под аффинным оператором А : X —» Е так же, как и в 4.1, мы будем понимать оператор вида Ах = Тех := Тх 4- е (х 6 X), где Т G ££ (X, Е) и е е Е. Аффинный оператор А := Те называют о-ограниченным или проскалярным, если Т G (^, Е) или Т G ^r(X, Е) соответственно. Множество всех проскалярных минорант отображения f : X —> Е* мы обозначим символом т. е.
Xr(/) {Те :T*^f, Те Х(Х,Е)}.
4.3.6.	Рассмотрим теперь три вспомогательных факта.
(1)	Пусть Р — сублинейный оператор из векторного пространства X в Е*, где Е — это К-пространство. Допустим, что точка xq е dom(P) и поглощающий конический отрезок СсХ таковы, что
е := inf {Р (ж -h Xq) : х е С} > —оо.
Тогда для всех х е X выполняется неравенство
д(С)(х)(е-Р(х0))^Р(х).
4.3. Инволютивность преобразования Юнга-Фенхеля
257
< Действительно, для любого с € С будет е < P(xq + с) < Р(#о) + Р(с) или е - P(xq) < Р(с). Если элемент х € X таков, что х € tC при некотором t > О, то с := x/t G С и, значит, е — Р(то) Р(т/£) или t(e — Р(хо)) Р(х)- Переходя к супремуму в левой части последнего неравенства по указанным t, получим требуемую оценку. Если множество таких t пусто, то супремум равен — оо. Но и в этом случае верно равенство р (С)х = 4-оо. Поэтому р (С)(х)(е — P(xq)) = —оо при е / P(xQ) и р(С)(е — Р(то)) = 0 при е = P(xq). В обоих случаях нужные неравенства выполняются. >
(2)	Пусть f — выпуклый оператор из векторного пространства X в Е*. Предположим, что точка Xq 6 dom(/) и конический отрезок С С X таковы, что
е := inf {/(xq 4- х) : х е С} > —оо.
Тогда для каждого 0 < е < 1 при всех х € X верно
f(x0) + (1 + е) (е - /(хо)) • max (	Ц < /(х).
< Положим g(x) := f(x 4- Жо) ~ /(#о)> d := е - /(жо)- Тогда —оо < inf {д(х) : х е С} = d < 0. Пусть Р := Н(д) — преобразование Хёрмандера оператора д. Если \t| < е и х € (1 - е)С, то ж/(1 4-t) G С. Поэтому
Р((0,1) + (х, 0) = (1 + 0 /(х/(1 + 0) > (1 + t)d > (1 + e)d.
В силу (1) для всех х € X и t € R выполняется
Р(х, 0 > (1 + e)d • д((1 - е)С х (-Е, е)) = (1 + e)d • max
При t = 1 отсюда мы получим, что
, х ,,	. ,	(u(C)x 11
р(х) > (1+ €)d-max | 1£
Воспользовавшись соотношениями /(х) = д(х — хо) + /(#о) и d = е — /(хо), мы приходим к требуемой оценке
/(х) > (1 + е)(е - /(х0)) • max {	д(С)(х - х0), -1 + /(х0). >
1 — 6	£ )
(3)	Если f, С ие те же, что и в (2), то при е := 1/2 будет f(x) 3(е — /(#о)) • max {р(С)(х - xq), 1} 4- /(xq).
< Очевидное следствие (2). [>
Г р(С)х 11
( 1 — е ’ е J ’
9 Кусраев А. Г., Кутателадзе С. С.
258
Глава 4. Аппарат субдифференциального исчисления
4.3.7.	Рассмотрим вопрос о существовании аффинных минорант у выпуклого оператора.
(1)	Допустим, что f — выпуклый оператор, действующий из локально выпуклого пространства X в Е* и ограниченный снизу элементом a € Е на некотором открытом множестве U. Тогда для любой точки xq G U П dom(/) существуют аффинный оператор А: X —> Е и окрестность нуля V такие, что
f ; 3(а - /(ж0)) 4- f(xQ) Ах0;
|Аж - Аж0| 3(/(ж0) - а) (х € V).
< Если выполнены указанные условия, то для некоторой непрерывной полунормы р на X будет
е := inf {f(xQ 4-ж) : р(х) 1} > -оо.
Положим
д(х) := —3(е - f(xQ)) • тах{р(ж - х0), 1} - f(x0) (х G X).
Полагая С := {р < 1} в 4.3.6 (3), получим f(x) 4- д(х) > 0 (ж € X). По теореме о сэндвиче (см. 3.2.15) найдется аффинный оператор А : X —> Е такой, что
-д(х) Ах /(ж) (ж е X).
В частности,
Аж0 -g(xQ) = 3(е - /(ж0)) + /(ж0) 3(а - /(ж0)) + /(ж0).
Если Th :== А(жо 4- Л) — Ажо, то Th	—#(жо 4- h) — /(жо) для всех h G X.
Подстановка в это неравенство выражения для д приводит к оценке
Th -3(/(жо - е)) • max {p(h), 1} (ж G X).
Если h 6 V := {р 1}, то Th	—3(/(жо) — е). Ввиду симметричности множе-
ства V отсюда мы выводим, что \Th\ < 3(/(жо) — е) для всех h Е V. >
(2)	Если выпуклый оператор f : X —> m(E)* полунепрерывен снизу в некоторой точке xq G dom(/), то (/) / 0, те. существует хотя бы одна проскалярная аффинная миноранта оператора f.
<1 Пусть е <С /(жо) и пусть разбиение единицы (7ra)aCjr в ^Зг(Е), где & — базис фильтра окрестностей точки Жо, таково, что тга(/(ж) — е) 0 для всех ж G a и a Е &. Оператор тга о f ограничен снизу (элементом тгае € Е) на множестве а. Поэтому согласно (2) существует о-ограниченная аффинная миноранта Аа оператора 7га о /, удовлетворяющая условию
|Ааж - Ааж0| с := /(ж0) - е (ж е /3),
4.3. Инволютивность преобразования Юнга-Фенхеля
259
где /3 — окрестность нуля, содержащаяся в а — Xq, и элемент с € Е+ не зависит от а. Отсюда видно, что формулы
Tah := Aq(/i) — Аа(0), а :=	?Га Аа(0);
А:=Та, ТД :=52тгаоТаЛ (Л G X)
корректно определяют аффинный оператор А : X —> т(Е), причем если Th := := Ah — АО, то 7га оТ G «Sfo (X Е) для всех а € /, т. е. Г является проскалярным. Далее, просуммировав по a G & неравенства 7га о Аа < 7га о /, мы получим, что A G «<(/). >
4.3.8.	Обратимся теперь непосредственно к вопросу об инволютивности преобразования Юнга-Фенхеля. Пусть X — локально выпуклое пространство, а Е — расширенное АГ-пространство.
(1)	Выпуклый оператор f : X —> Е* полунепрерывен снизу в некоторой точке хо е dom(/) в том и только в том случая, если
/(ж0) = sup{Ax0 : A G
<3 Допустим, что f полунепрерывен снизу в точке жо € dom(/). В силу 4.3.7 существует оператор A G Хг(/)- Если д := f — А, то д полунепрерывен снизу в точке хо и я^(д) 4- А = Хг(/). Поэтому требуемое означает, что д(хо) = = sup{Axo : А €	(<?)}. В силу этих рассуждений можно считать с самого
начала, что /	0. Положим
д(хо) := sup{Ax0 : А € <й4(/)}.
Нужно показать, что д(хо) = /(жо). Допустим, что это не так, т. е. д(хо) < /(жо). Тогда найдутся ненулевой проектор тг 6 ?Jr(E) и число 6 > 0 такие, что /(жо) — 5тг1 д(яо)4"3£тг1. Поскольку f полунепрерывен снизу в точке жо, то существует разбиение единицы (7rQ)Qejr С фг(-Е), где & — базис фильтра окрестностей жо, такое, что
iraf(x) еа, еа тга(/(жо) - <5тг1) (ж G а, а € &).
Так как sup{?ra : a G	= 1е, то р := тг^ о тг / 0 для некоторого (3 €
Применим теперь предложение 4.3.7 (1) к оператору 7Гр/ в точке Жо 6 UDdom(/), где U := int (/3). Тем самым найдем аффинный оператор А^ € «^(тг#/) С (/) (У 0), удовлетворяющий оценкам
Kpf(xo) 4- 3(ер - тгяДжо)) ApxQ;
\Арх - АрХо\ З(7г/3/(жо) - ер) (х G V),
где V — некоторая окрестность нуля, а ^ (/) — множество всех аффинных минорант оператора /. Подставляя в эти выражения ер = 7Tp(f(xo) — 5р1), получим
А^жо > npf(xo) - 3Spl 7Г/?р(ж0) 4- 6р1,
\Арх — Аржо| 3(5р1	7Г/?(351) (ж € V).
9
260
Глава 4. Аппарат субдифференциального исчисления
Первое неравенство дает Архо лрд(хо), а из второго вытекает, что Ар — про-скалярный оператор, т. е. Ар ЕЕ л4(/). Таким образом, мы приходим к противоречию
w(^o) = sup {7173Ахо : А 6 Xr(/)} > ApxQ > npg(xQ), доказывающему равенство f(xo) = д(хо)- >
(2)	Если оператор f полунепрерывен снизу, то утверждение (1) верно для всех хо € X.
<1 Для любого х € X положим g(x) := sup{Ax : A е Хг(/)} и покажем, что д = /. Возьмем xq € cl(dom(/)) \ dom(/) и подберем сеть (ху) С dom(/), сходящуюся к Xq- Если a д(хо) < +оо, то для любого е 0 найдется такое разбиение единицы (тга)ае^ С фг(Е'), что тга/(х) тга(а 4- е) для всех х € а. Пусть пр 0 и ху € /3 для всех у 1/(0), где 1/(0) — подходящим образом фиксированный индекс. Тогда для таких у при 0 < t < 1 и zt^ := txo + (1 - t)xy будет
тгрд^у) np(ta + (1 - t)g(xy)) tnp(g(xy) - e) + (1 - t)npg(xy), npg(ztiy) ^(xj - tnpe,
ибо f(xy) = g(xy) в силу уже доказанного. Далее, для фиксированного и р(0) имеем lim zt,y = ху. Ввиду полунепрерывности снизу д в точке ху найдется разбиение единицы (Ра)аЕ^(р)» ДЛЯ КОТОРОГО
рад(х) > рад(ху) - (1/2)е (х е о, а е # (у) с т(ху)).
Найдем такой индекс 7 Е чтобы тг := р7 о пр / 0. Для достаточно малых t > 0 имеем ztiy ЕЕ 7. Следовательно,
я(д(ху) - te) ng(zt,y) л(д(ху) - (1/2)е).
Отсюда при t —» 0 получаем противоречивое соотношение е < 0. Тем самым должно быть д(хо) = +00 = f(xo)-
Предположим, наконец, что хо cldom(/). Подберем функционал х' ЕЕ X1 так, чтобы
t := sup{ (х|х') : х € dom(/)} < (хо|х').
Пусть аффинный оператор А : X —> Е действует по правилу А : х se((x|x') — t), где е € Е+ и е := 1/((жо|т') — t). Если х G dom(/), то Ах 0	f(x). Если
х dom(/), то Ах < +оо = /(х). Кроме того, Axq = б((хо|х') — t)e = е. Следовательно, д(хо) = sup {Лхо : А € ^4 (хо)} > sup (Е+) = -Foo = /(хо). Г>
4.3.9.	Отметим простые следствия из установленных фактов. Допустим, что X и Е такие же, как и в 4.3.8.
(1)	Выпуклый оператор f : X —► Е* полунепрерывен снизу в некоторой точке Хо € dom(/) тогда и только тогда, когда
/(хо) = sup {Тхо - /* (Т) : те (X, Е)}.
< Этот факт выводится из 4.3.8 так же, как и 4.1.2 (4). >
4.3. Инволютивность преобразования Юнга-Фенхеля
261
(2)	Для выпуклого оператора f : X —» Е* равносильны утверждения:
(a)	f полунепрерывен снизу;
(b)	f является верхней огибающей множества всех своих проскалярных аффинных минорант;
(с)	f(x) = sup {Тх — f*(T): Те (X, Е)} (х G X).
(3)	Пусть f* и f** определены относительно двойственности X «^(Х, Е):
Г(Т) = sup{Тх - f(x) : хеХ} (Те ЯДХ,Е)).
/**(х) = sup{Tx - Г(Т) : т е j^(X,E)} (х е X).
Для того чтобы f** = /, необходимо и достаточно, чтобы отображение f было выпукло и полунепрерывно снизу.
(4)	Сублинейный оператор Р : X —> Е* полунепрерывен снизу в том и только в том случае, если
Р(х) = sup {Тх : Те daP П X (X, Е)} (х е X).
4.3.10.	Теперь мы откажемся от предположения о расширенности Е. Пусть Е — локально выпуклое Х-пространство. Это означает, что Е является К-про-странством и снабжено отделимой локально выпуклой топологией, в которой конус Е+ нормален. Обозначим символом лг/(/) множество всех непрерывных аффинных минорант отображения f : X —> Е9, т. е.
(/) := {Те : Те f, Т е (X, Е)}.
Из нормальности конуса Е+ легко следует, что &о(Х,Е) С J^(X, Е). Однако результаты 4.3.9 показывают, что полунепрерывный снизу выпуклый оператор лишь «кусочно» является верхней огибающей множества своих о-ограниченных аффинных минорант. В этой связи мы введем такое определение. Для множества А С (Е9)х мы будем писать f(x) = 7r-sup{Z(a:) : I е Л}, если для любого е е Е, е < f(x), найдутся ненулевой проектор р е фг(Е) и отображение I е А такие, что ре pl(x) pf(x). При этом мы полагаем, что р(4-оо) = +оо.
(1)	Теорема. Пусть X — локально выпуклое пространство, Е — локально выпуклое К-пространство. Если выпуклый оператор f : X —> Е9 полунепрерывен снизу в точке xq е dom(f), то
/**(ж0) = f(xQ) = 7r-sup{Ax0 : А е si (/)}.
(2)	Если X и Е те же, что и в (1), то для любого полунепрерывного снизу сублинейного оператора Р : X —> Ее имеет место представление
Р(х) = 7r-sup{7b;: Т е dP} (х е X).
262
Глава 4. Аппарат субдифференциального исчисления
4.3.11.	В заключение данного параграфа приведем результат о булевозначной реализации полунепрерывных снизу отображений, дающий новый взгляд на изложенное выше. Так же, как и в 2.4 фиксируем полную булеву алгебру В, и пусть — поле действительных чисел в булевозначной модели V^B\ Напомним, что по теореме Гордона 2.4.3 спуск является расширенным ^-пространством. Положим Е :=
Возьмем локально выпуклое пространство (X, т). Легко проверить, что (ХА,тА) есть топологическое векторное пространство над полем RA внутри V^B\ В силу принципа переноса П4.6(1) и принципа максимума П4.6(3) существует элемент ЗС € V^B^ такой, что [«Ж~ — пополнение (ХА,тА)] = 1. Как обычно, мы будем считать, что выполнено соотношение [ХА — плотное Кл-линейное подмножество ЗС] = 1. Вновь используя принцип переноса, замечаем, что («2Г — полное локально выпуклое пространство] = 1.
Теорема. Пусть Ф : X —> Е* — полунепрерывное снизу отображение. Тогда существует единственный элемент Ф € такой, что
[Ф : ЗС ЗЯ* — полунепрерывная снизу функция] = 1
и
1Ф(т) = Ф(тА)1=1
для всех х G X. Наоборот, если Е V^B) и
(: ЗС —> ЗЯ* — полунепрерывная снизу функция] = 1,
причем для каждого х Е X либо (тА) = +оо] = 1, либо (тА) < -hoc] = 1, то существует единственное полунепрерывное снизу отображение Ф : X —> Е*, для которого Ф = (р. Соответствие Ф —> Ф обладает следующими свойствами:
(1)	отображение Ф выпукло (сублинейно или линейно) <-» ([функция Ф выпукла (сублинейна или линейна)] = 1;
(2)	Ф € Х(Х, Е) w [ф е «Г'] = 1;
(3)	Те € ^(Ф) ~ [Г Е (Ф)] = 1;
(4)	Ф €	(Х,Б) ~ (ЗС € R+)(3C7 €т) ([ 8ир{Ф(я:)} < СЛ] = 1).
< Покажем, что отображение Ф : X —* Е* полунепрерывно снизу, если и только если Ф| : ХА —> ЗЯ* — полунепрерывная снизу функция внутри V(B\ Последнее означает, что выполняется равенство
[(Vx0 G XA)(Ve € 3g)(e < Ф?(т0) -+ (За € rA)(Vx G a)(e ФТ(хЛ))) ] = 1.
Вычисление оценок для первых двух кванторов общности приводит к следующей эквивалентной формулировке: для любых xq € X и е € Е должно быть
[е < Ф(х0) -* (За Е ta)(Vt € а) (е Ф|(хА))] = 1
или
[е < Ф(а:о)]| = \/ Д [е < Ф (xA)J.
абт х€а
4.4. Операторы Магарам
263
Заметим, что р < [е < Ф(#о)] в том и только в том случае, если ре С рФ(жо). Следовательно, используя принцип перемешивания, можно найти разбиение (тга)ает проектора тг на компоненту {Ф(яо) — такое, что тгае 7гаФ(ж) для всех х € а. Суммируя сказанное, заключаем, что [функция Ф| полунепрерывна снизу] = 1 лишь в том случае, если выполнено условие: для всех Xq€ X ие€ Е, е существует разбиение (тга) проектора тг := [Ф(#о) — е] такое, что тгае < тгаФ(гг) при х G а. Последнее же есть условие полунепрерывности снизу отображения Ф ввиду 4.3.2. Пусть с!(ер1(Ф|)) — замыкание надграфика ер!(ФТ) С ХЛ xRA в пространстве ЗС х Si. Тогда внутри существует единственная полунепрерывная снизу функция Ф : 33 —> Si9, определяемая условием ер!(Ф) = с!(ерЦФТ)). При этом будет [(Vrr G ХЛ)(Ф(д;) = ФТ(а;))] = 1, т. е. [Ф(я) = Ф(ггл)] = 1 для всех х € X. Так как полунепрерывная снизу функция однозначно восстанавливается по своим значениям на плотном множестве, то верно и обратное, т. е. для полунепрерывной снизу функции р : SIS —* Si9 при указанном условии имеется и притом единственное полунепрерывное снизу отображение Ф : X Е9 (а именно, Ф :=(</? [ ХЛ)|) такое, что Ф| = р [ ХЛ, и тем самым Ф = р. Оставшиеся утверждения сводятся к несложным вычислениям. 1>
4.4.	Операторы Магарам
Субдифференцирование интегральных функционалов или операторов играет в выпуклом анализе такую же важную роль, какая в вариационном исчислении принадлежит правилу дифференцирования интеграла по параметру. Однако явление перестановочности операций субдифференцирования и интегрирования оказывается сложнее своего классического аналога и требует привлечения довольно тонких функционально-аналитических методов. Исследование указанного явления неразрывно связано с анализом специального класса сублинейных операторов, которому и посвящен настоящий параграф.
4.4.1.	Пусть X и Е — некоторые /^-пространства и Р — возрастающий сублинейный оператор из X в Е. Говорят, что Р удовлетворяет условию Магарам (= обладает свойством Магарам), если для любых х € Х+ и ei,C2 € Е+ из равенства Р(х) = ei + ег следует существование таких Я1,Ж2 € что х = Х1Ч-Ж2 и P(xi) — ei (I := 1, 2). Возрастающий порядково непрерывный сублинейный оператор, удовлетворяющий условию Магарам, называют сублинейным оператором Магарам. Заметим, что для линейного положительного оператора Т : X —> Е указанное здесь условие Магарам выполняется лишь в том случае, если Т([0, ж]) = [О,Тгс] для всех х € Х+. Итак, линейный оператор Магарам — это порядково непрерывный положительный оператор, сохраняющий порядковые отрезки.
Символом Хр мы обозначим носитель Р, т. е.
Хр -.= {хеХ: Р(|а:|) = 0}d.
Пусть, кроме того, Ер := {Р(|х|) : х G X}dd и ^т(Р) — наибольший фунда-мент в максимальном расширении т(Х) пространства X (см. 2.4.8), на кото
264
Глава 4. Аппарат субдифференциального исчисления
рый Р распространяется по о-непрерывности. Таким образом, z е @т{Р) в том и только в том случае, если z € m(X) и множество {Р(х) : 0 С х С |z|} ограничено в Е. Будем говорить, что сублинейный оператор Q : X —> Е абсолютно непрерывен относительно Р, если Q{x) € {P(x)}dd для всех х 6 X, Обозначим символом Orth00 (Е) множество всех упорядоченных пар (а, ^(а)) таких, что a G Orth(7n(E)) и ^(а) := {е € Е : ае € Е}. Заметим, что алгебра ортоморфизмов Orth(m(I?)) является расширенным /^-пространством. Кроме того, сопоставление а (а, ^(а)) осуществляет биекцию Orth(m(E’)) на Orth°°(E). Таким образом, на множестве Orthoo(JE') имеется естественная структура /-алгебры и расширенного ^пространства, см. П2.5.
4.4.2.	Примеры.
(1)	Всякий возрастающий сублинейный функционал удовлетворяет условию Магарам.
(2)	Оператором Магарам является любой сублинейный ортоморфизм, т. е. возрастающий сублинейный оператор, действующий в К-пространстве и оставляющий инвариантной каждую компоненту.
(3)	Пусть Е — произвольное АГ-пространство, 21 — произвольное множество. Обозначим символом li (21, Е) совокупность всех о-суммируемых семейств элементов Е, индексированных посредством 21:
Z1 (21, Е) := <
(ea)ae2i €	1е<*1 Е ►.
а€21
Определим операторы Р и Т из li (21, Е) в Е формулами
Р(и) := 0-^2 е+, Ти:=о-'£е.а (« := (ea)Q62i
Тогда li (21, Е) с естественными сложением, умножением на скаляр и упорядочением есть К-пространство, а Р и Т — соответственно сублинейный и линейный операторы Магарам. Как видно, Т е дР.
(4)	Пусть Zqq (21, Е) ~ пространство всех порядково ограниченных отображений из 21 в Е. Нетрудно убедиться, что канонический сублинейный оператор е удовлетворяет условию Магарам. Однако не является оператором Магарам для бесконечного 21, так как в этом случае нарушается условие порядковой непрерывности. Тем не менее сужение на li (%L,E) есть оператор Магарам. В частности, оператором Магарам является конечно-порожденный канонический оператор еп :=	: Еп -+ Е,вп : (ех,... ,еп) >-* ei V ... V еп.
(5)	Пусть (Q, S,^) — вероятностное пространство, а Е — банахова решетка. Рассмотрим пространство X := L\ (Q, S, р, Е) интегрируемых по Бохнеру Е-значных функций, и пусть Р : X —* Е — интеграл Бохнера от положительной части
Ptf) =- / f+d^ (f G X).
4.4. Операторы Магарам
265
Если банахова решетка Е имеет порядково непрерывную норму (т. е. ха | 0 влечет ||rrQ|| —> 0), то X является /^-пространством при естественном упорядочении (/ > 0	/(t)	0 для почти всех t G П). При этом Р — сублинейный оператор
Магарам.
4.4.3.	Теорема. Пусть X и Е — некоторые К-пространства, а Р — сублинейный оператор Магарам из X в Е. Тогда существует линейный и решеточный изоморфизм h расширенного К-пространства Orth00 (Ер) на правильное К-под-пространство Orth00 (Хр) такой, что выполнены условия:
(1)	h (фг(Ер)) является правильной подалгеброй tyr(Xp);
(2)	h(Z (Ер)) — подрешетка и подкольцо в Z(Xp);
(3)	для возрастающего о-непрерывного сублинейного оператора Q : X —> Е, абсолютно непрерывного относительно Р, выполняется iroQ(x) = Qoh(ir)(x) для всех тг € Orth00 (Ер)+ и х € ^(тг); при этом Q есть оператор Магарам.
<1 Не Ограничивая общности, можно предположить, что X = Хр и Е = Ер. Для каждой компоненты L в /f-пространстве Е положим h(L) := {х € X : Р(|ж|) е L}. Ввиду сублинейности Р множество h(L) есть векторное подпространство в X, причем h ({0}) = {0} и h(E) = X. Более того, h(L) — компонента в X для любого L е ® (Е). (Везде ® (Е) — полная булева алгебра компонент в Е.)
В самом деле, если х € h(L) и |г/| < х, то Р (\у\) < Р(х) € L, т. е. у е L, что и доказывает нормальность подпространства h(L). Пусть множество А С h(L)QX+ направлено вверх и ограничено сверху элементом xq 6 Х+. Тогда множество Р(А) С L ограничено сверху элементом P(xq). Учитывая о-непрерывность оператора Р, получаем
Р (sup (А)) = sup {Р(х) : х е А} € L.
Тем самым sup (А) 6 L. Отсюда заключаем, что h(L) — компонента в X.
Легко заметить, что отображение h : ® (Е) —* ® (X) изотопно: С Z/2 влечет h(Li) С h(L2). Покажем, что h инъективно. Предположим, что h(Li) = h(L2) для Li, Z/2 G ® (Е) и тем не менее Li Возьмем элемент 0 < е е L\ такой, что edZ/2- Так как е € Li С Е = Р (X)dd, то найдутся 6<с\ЕЕи^<х^Х такие, что ci < е/\Р(х). Если ег := Р(х)—е\, то, благодаря условию Магарам, х = Я1+Я2 и P(xi) = ei (I := 1,2) для некоторых 0 < xi € X (I := 1,2). Но тогда Xi € h(Li) и Л(Рг), что противоречит предположению h(Li) = ^(Рг)- Это доказывает инъективность h.
Пусть — упорядоченное по включению множество компонент в X, совпадающее с образом h, т. е. := {h(L) : L G ® (Е)}. Установленное выше означает, что h — изоморфизм упорядоченных систем ® (Е) и . Выясним, какие операции в соответствуют булевым операциям в ®(Р) при изоморфизме h. Прежде всего отметим, что
ft(inf(ll)) = л(Пя) = р|{Л(£) : L е 11} (ЯС ®(Е)).
266
Глава 4. Аппарат субдифференциального исчисления
Далее, пусть Iq ф Р2 — дизъюнктное разложение К-пространства Е. Тогда ft(Li) П Л(Р2) = {0}. Если же х € X, то Р(х) = ei + е2, где в/ := Рг^Де) (/ := 1,2), стало быть, в силу условий Магарам для Р существуют такие и х2 из Х+, что |х| = х± + х2 и Р(х{) = ei (I := 1,2). Далее, для некоторых #i,x2 € X имеем х = х\ + <т2 и |х/| = х\ (I := 1,2). Последнее дает Х\ € Л(Ь1) и Х2 Е Д(Р2). Следовательно, X есть алгебраическая прямая сумма подпространств A(Li) и Л(Р2). Более того, если xi € h(Li) (I := 1,2), то Р(|#1| Л |ж2|) Р(|д?1|) ЛР(|я2|) е L} ПР2 = {0}. Значит, Р(|ж1| Л |я2|) = 0 и, благодаря существенной положительности Р (X = Хр) будет #idr2. Итак, компоненты h(L\) и Л(Р2) образуют дизъюнктное разложение Jf-пространства X. Тем самым h(Ld) = h(L)d для всех L Е ®(Р). Поскольку отображение h : ®(Р) -* SB' сохраняет точные нижние границы и дополнения, оно является о-непрерывным мономорфизмом ®(Р) на о-замкнутую (т. е. правильную) подалгебру базы ®(Х). Пусть SB — булева алгебра проекторов на компоненты из SB'. Обозначим тем же символом h соответствующий изоморфизм из фг(Р) на SB С ^Jr(X). Тогда по определению изоморфизма h мы получим, что Ь(тг)х = 0 при х € h(?r(P)d) и Н(тг)х = х при х е Д(тг(Р)) для каждого 7Г Е ^Зг(Р).
Рассмотрим какой-либо сублинейный оператор Q : X —> Р, абсолютно непрерывный относительно Р. По определению изоморфизма h для тг € ® (Р) и х € X выполнено
Q о Л,(тг)я е {Ро h(Tr)x}dd С 7Г(Р).
Следовательно, TrdoQoh(jr) = 0 или Qoh(ir) — noQohfa). Заменив в предыдущих рассуждениях тг на 7rd, получим 7roQo/i(7rd) = 0. Привлекая 1.4.14 (4) и 3.2.11 (1), заключаем
{0} = Э(тг о Q о h(ird)) = тг о (dQ) о (1Х - тг).
Поэтому тг оТ = тг оТ о Ь,(тг) для всех Т G Q. Но тогда 7roQ = 7roQo h(ir). Тем самым мы приходим к требуемому соотношению iroQ = Qoh(Tr). Изоморфизм h единственным образом продолжается до изоморфизма пространства Qrth00 (Р) на правильное подпространство в Orth00 (X), образованное теми элементами из Orth00 (X), спектральные функции которых принимают свои значения в булевой алгебре SB — Л(^Зг(Р)). Этот изоморфизм мы обозначим тем же символом Л. Если а := А/тг/, где Ai,..., An € R+ и {tfi, ..., тгп} — разбиение единицы в алгебре фг(Р), то, очевидно, iriootoQ = ttioQ (А(Л(тг/)) = 7Г/ оQоh(a) для всех I. Суммирование по I дает а о Q = Q о h(a). Наконец, если а Е Orth00 (Р)+, то а = sup(a$) для некоторого фильтрованного вверх семейства (а$) в Z(E). Элементы же Z(E) являются r-пределами ортоморфизмов вида А/7Г/. Таким образом, для завершения доказательства остается лишь привлечь ^-непрерывность оператора Q. >
4.4.4.	Пусть X и Е — некоторые К-пространства и Т : X —> Р — регулярный оператор такой, что \Т\ — оператор Магарам. Тогда если (Тх)+ > 0 для некоторого х Е Х+, то существует такой проектор тг € фг(Х), что Т(тгх) > 0 и оператор Т о тг положителен.
4.4. Операторы Магарам
267
<1 Пусть Тх 0. Рассмотрим множество П всех проекторов тг 6 фг(Х), удовлетворяющих неравенству 0 > Тотгх. Легко видеть, что П / 0ив силу порядковой непрерывности оператора Т всякая цепь в П ограничена сверху. Следовательно, по лемме Куратовского-Цорна существует максимальный элемент тго множества П. Если проектор 0 < я'х я-q таков, что Т о тгхх 0, то
Г о (7П + 7Го)ж То 7Г1Ж + Т о 7ГоЯ 0,
и мы приходим к противоречию: яо < яо 4- я'х G П. Значит, Т о тцх 0 для любого О/я-i Е [0,я$]. Покажем, что всякий такой проектор на самом деле удовлетворяет неравенству Т о тг±х 0. Для этого предположим, что я'х / 0, я'хб/я'о и (То 7Г1я)~ > 0. Пусть р — проектор на компоненту, порожденную элементом (Т о 7Tix)“. Тогда 0 > р о Т о ttixe и в силу теоремы 4.3.3 имеем Т о h(p)itix < 0. Отсюда вытекает, в частности, что h(p) о я'х > 0, а поскольку h(p) о я^с/яо, то, благодаря упомянутому выше свойству проектора я-q, получаем Т о h(p) отг^х 0. Это противоречие показывает, что Т о ttix > 0 для всех я'х / 0, ялЛго. Пусть, наконец, [ж] — проектор на компоненту, порожденную элементом х. Тогда тг :=тгд о [х] — искомый проектор. В самом деле, Т о тгх = То тг$х и Тх = = Т о 7ГдЖ — (—Т о тгож). Отсюда видно, что Т о ttqX > (Тх)+ > 0. С другой стороны, если 0 < у Е {x}dd и	~ характеристика (или спектральная
функция) элемента у относительно х, то е\ = 0 при А < 0, а при А 0 имеем Г о тг(еух) = Т о я-д(ер = Т о 7Tq о [вд]а: > 0. Привлекая спектральную теорему Фрейденталя, известную из теории Х-пространств, окончательно получим:
оо	оо
То7г(у) = Тотг([ Xde{\ = У Xd(Toir(evx)) > 0. >
4 О	о
4.4.5.	Теорема. Пусть X и Е — некоторые К-пространства и Т : X Е — существенно положительный оператор Магарам. Тогда существует изоморфизм <р булевой алгебры ® (Т) единичных элементов {T}dd на фг(Х) такой, что Т о p(S) = S для всех S G ® (Т).
<1 Пусть То — единственное о-непрерывное продолжение оператора Т на @т(Т). Тогда сопоставление каждому оператору S € ®(7Ь) его сужения на X есть изоморфизм булевых алгебр ®(7Ь) и ®(Т). Булевы алгебры фг(Х) и ^Зг(^тп(Т)) также изоморфны. Тем самым, не ограничивая общности, мы можем предполагать, что X = ®т(Т). Всякому проектору тг G фг(Х) поставим в соответствие оператор (тг) := Т о тг. Тогда — возрастающее отображение из фг(Т) в {T}dd, причем V>(0) = 0 и = Т. Ясно, что если проекторы тг и р дизъюнктны, то носители операторов ^(я") и ^(р) также дизъюнктны, поэтому ^(я-)с!^(р)-Кроме того, для тг G ^Зг(Х) справедливы равенства
— я-) = Т о (1Х — 7г)=Т — Т о тг = Т — гр^тг).
Следовательно, = ^(я')</. Итак, г/^тг) Е ® (Г) для всех тг Е %к(Х).
268
Глава 4. Аппарат субдифференциального исчисления
Рассмотрим два произвольных проектора tti и тгг из фг(Х). Поскольку проекторы pi := тг/ — 7Г1 о 7Г2 (I := 1,2) дизъюнктны, то операторы ^(Р1) и также дизъюнктны. С другой стороны,
V>(tT1) Л ^(тгг) “ ^(7Г1 Л 7Г2) = Т о 7Г1 Л Т о 7Г2 “ Т о 7Г1 о 7Г2 =
= (Г о 7Г1 — Т о 7Г1 о 7Г2) Л (Т о 7Г2 — Т О ТГ1 О ТГ2) — ^(Pl) Л ^(^2) = О-
Значит, ^(7Г1 Л тгг) = ^(тп) Л Таким образом, ф — гомоморфизм булевой алгебры фг(Х) в булеву алгебру 0 (Т). Из существенной положительности оператора Т следует, что если ^>(тг) = 0 для некоторого тг € ^Зг(Х), то тг = 0. Это означает, что *ф на самом деле является мономорфизмом, и нам осталось установить сюръективность ф.
Пусть S € 0 (Т). Рассмотрим множество
П := {тг G Orth(X)+ : Т о тг S}.
Пользуясь леммой Куратовского-Цорна, покажем, что П содержит максимальный элемент. В самом деле, П непусто и для линейно упорядоченного множества (^)^gs в П множество (Т о тг^)^€= ограничено, так как оно содержится в [0, S]. Но тогда из предположения X — @т(Т) вытекает, что (тг$)$ен — ограниченное множество. Если тго := sup{tt^ : £ G Е}, то тго = о-Нттг^. Благодаря порядковой непрерывности оператора Т мы имеем:
Т о тго = Т о (o-lim тг$) = o-lim Т о тг$ S,
т. е. тго G П. Таким образом, в множестве П имеется максимальный элемент тг € П. Покажем, что Т о тг = S. Для этого предположим противное, и пусть оператор Si := S — Т о тг принимает строго положительное значение на некотором 0 < то € X. Тогда при подходящих 0<е<1и0/р6 фг(Е) имеем p(SiTo—ероТхо) > 0. Оператор po|Si—£T| абсолютно непрерывен относительно Т и по теореме 4.4.3 он является оператором Магарам. Согласно предложению 4.4.4 существует такой проектор тге € фг(Х), что (Si— бТ)отгеТо > 0 и (Si —еТ)отге > 0. Первое из этих соотношений влечет тге > 0, а из второго имеем Т(тг 4- етге) С S. Итак, тг < тг + £тге е П, что противоречит максимальности тг в П. Этим обосновано соотношение S = Т о тг. Далее, по условию, S Л (Т — S) = 0. Значит, 0 = (То тг) Л (Т о (1Х - тг)) > Т(тг Л (1х - тг)) > 0. Последнее, ввиду существенной положительности Т, приводит к равенству тгА(/% — тг) = 0, равносильному включению тг 6 ^Зг(Х). Сюръективность ф тем самым доказана. Осталось заметить, что <р := и есть искомый изоморфизм, ибо Т о ip(S) = ф о <p(S) = S. >
4.4.6.	Отметим следующие следствия теорем 4.4.3 и 4.4.5.
(1)	Пусть X, Е иТ те же, что и в теореме 4.4.3. Тогда операторы Si и S2 из компоненты {T}dd дизъюнктны в том и только в том случае, если дизъюнктны их носители Xsr и Xs2 •
<1 Дизъюнктность носителей Xsx и Х$2 влечет, очевидно, дизъюнктность операторов Si и S2 (этот факт не зависит от условия Магарам и верен для любых
4.4. Операторы Магарам
269
регулярных операторов). Для доказательства обратного заметим сначала, что если Ti и Т2 — положительные о-непрерывные операторы и Ti 6 {Тг}6^, то Х^ С %тг В самом деле, допустив противное, можно подобрать такой про» ектор тг, что 0 < Ti о тг < Ti и X^o^dX^, а это в силу предыдущего замечания противоречит вхождению € {Tz}dd.
Пусть теперь Si и Sz дизъюнктны. Тогда дизъюнктны также проекции 7\ и 7*2 оператора Т на компоненты {Si}dd и {Sz}dd. С другой стороны, Xst = X? в силу сделанных выше замечаний. По теореме 4.4.5 должно быть Хт\йХт2, поэтому XS1dXS2. >
(2)	Пусть Р : X —> Е — возрастающий о-непрерывный сублинейный оператор. Тогда равносильны условия:
(а)	Р удовлетворяет условию Магарам;
(Ь)	существует изоморфизм h булевой алгебры %$т(Ер) на правильную подалгебру булевой алгебры фг(Хр) такой, что тг о Р = Р о Л(тг) для всех тг € фг(Ер);
(с)	на Хр можно определить структуру упорядоченного модуля над кольцом Z(Ep) так, что естественное линейное представление Z(Ep) в Хр есть кольцевой и решеточный изоморфизм Z(Ep) на подкольцо и подрешетку в Z(Xp), а оператор Р является Z(Ep)+-однородным.
<3	Импликации (а) —> (Ь) и (Ь) —> (с) установлены в ходе доказательства теоремы 4.4.3. Умножение в Хр на элементы кольца Z(Ep) вводится правилом: olx := h(a)x. Если же выполнено (с) и Р(х) = ei 4- ez для некоторых х € X4" и ei,C2 € Е+, то можно подобрать такие ортоморфизмы 01,0*2 € Z(Ep)4", что Oi 4- 02 = Ie, ei = <*1в и ez = 026, где е =	4- ez- Полагая х± := oix и xz olzx,
получим требуемое в определении условия Магарам разложение х = х\ 4- xz, так как P(xk) = P(ojtir) = OfcP(x) = ek (k = 1,2). >
4.4.7.	Теорема. Для любого порядково непрерывного сублинейного операто-ра Р : X —> Е равносильны утверждения:
(1)	Р есть оператор Магарам;
(2)	множество ЭР состоит из операторов Магарам.
<] (1) —> (2): В силу 1.4.14(2) Р возрастает тогда и только тогда, когда ЭР С £+ (X, Е). Если Р — оператор Магарам, то согласно 4.4.6 (2) он будет модульно сублинейным, а по 2.3.15 любой оператор Т € ЭР является модульным гомоморфизмом. Допустив, что 0 е Тх, можно подобрать такой ортоморфизм 0 а < 1е, что е = a(Tx) = То h(pi)x. Следовательно, Т сохраняет отрезки, ибо 0 < Л(а) < 1х- Порядковая непрерывность Т G ЭР очевидна.
(2)	—»(1): Предположим, что ЭР состоит из операторов Магарам. Не ограничивая общности, положим X = Хр. Обозначим Q(x) := Р(ж+) для х € X. Ясно, что Q — сублинейный оператор.
Поскольку 9Q = U{ [О, Т]: Т € ЭР}, то 9Q также состоит из операторов Магарам. Если покажем, что Q — оператор Магарам, то это же самое, разумеется, верно и для Р. Пусть (T^)^es ~ максимальное семейство попарно дизъюнктных элементов 9Q, которое существует в соответствии с леммой Куратовского-Цорна. Если S е {dQ)dd, S > 0, то 0 < So S для некоторого So € dQ.
270 Глава 4. Аппарат субдифференциального исчисления
Следовательно, S не может быть дизъюнктным ко всем Т%. Таким образом, (dQ)dd = {Т% : £ € E}dd. Для произвольных индексов £ и т? Е Е рассмотрим оператор Т := (1/2)Т^ + (1/2)1^. Так как Т € 9Q, то по условию Т — оператор Магарам, причем и абсолютно непрерывны относительно Г. В силу 4.4.6 (1) носители Xq и Xq операторов и Тц дизъюнктны. Нетрудно видеть, что (Х% := Xq) — полная система компонент в X. По теореме 4.4.3 для каждого £ 6 S существует о-непрерывный гомоморфизм булевой алгебры фг(Ер) на правильную подалгебру булевой алгебры фг(Х$) такой, что тгоТ^ = Т^о^(тг) при тг € tyt(Ep). При этом всякий проектор тг € мы считаем действующим на всем X. Значит, <Pr(JQ) С ^Зг(Х).
Определим отображение h : фг(Ер) —> ^)г(Х) по формуле
Л : тг W \/{/1€(тг) : £ € Н}.
Нетрудно видеть, что h — изоморфизм фг(Ер) на некоторую правильную подалгебру в <Рг(Х). Пусть теперь S G dQ и := S о где — проектор на компоненту Х%. Тогда S = sup(S^) и, кроме того, справедливы равенства
тг о S = sup (тг о S$) = sup (S^ о (тг)) =
= sup (S' о о (тг)) = S о (sup (тг))) = S о Л(тг).
Наконец, учитывая, что Q есть верхняя огибающая своего опорного множества dQ, получаем
тг о Q(x) = sup {тг о Sx : S Е dQ} = sup {S о Л(тг)ж : S Е OQ} = Q о /г(тг)х.
Остается сослаться на 4.4.6 (2). >
4.4.8.	В дальнейшем нам потребуется еще один факт о представлении порядково непрерывных операторов. Пусть X и Е — некоторые К-пространства, а т(Х), как обычно, — максимальное расширение пространства X с фиксированной алгебраической и порядковой единицей 1. Предположим, что на некотором фундаменте ^(Ф) С т(Х) определен существенно положительный оператор Магарам Ф, действующий в Е, причем ®(Ф) = ®т(Ф). Пусть Хо := X П ^(Ф), Фо — сужение оператора Ф на фундамент Хо и примем Фо за единицу в компоненте {Фо}** с Lr (Хо,Е).
Обозначим символом «£ф(Х, Е) множество всех регулярных порядково непрерывных операторов из X в Е, ограничение которых на Хо входит в компоненту {Фо}^, т. е.
_^ф (X, Е) := {S € Ln (X, Е): S [ Хо G {Фо}^}.
Как видно, оператор S входит в (X, Е), если и только если он есть продолжение по о-непрерывности некоторого So G {Фо}^. Отсюда, в частности, следует, что (X, Е) — компонента в Ln (X, Е).
Рассмотрим множество X' С т(Х), определенное соотношением
X' := {х' Е т(Х) : х'• X С ^(Ф)}.
4.4. Операторы Магарам
271
4.4.9.	Теорема. Множество X' является фундаментом в пространстве т(Х), линейно и решеточно изоморфным пространству (Х,Е). Изоморфизм осуществляется сопоставлением элементу xf G Xf оператора Sx> G	(X, Е) по
формуле
(х) = Ф (х • ж') (хеХ).
< Тот факт, что X' — нормальное подпространство в т(Х), виден непосредственно из определений. С другой стороны, базы пространств j£$>(X, Е) и т(Х) изоморфны согласно 4.4.5. Поэтому X' будет фундаментом т(Х), если только установить требуемый изоморфизм пространств X' и J^(X,E*).
Очевидно, что если х' € X', то Sxf — регулярный порядково непрерывный оператор из X в Е. Заметим, что Фо — оператор Магарам. Следовательно, если е € 0 (1), т. е. е — единичный элемент относительно 1, то по теореме 4.4.5 оператор Se является единичным элементом относительно Фо, а потому Se € {Фо}а</-Пусть (вд )дек ~ характеристика элемента х'. Тогда по спектральной теореме Фрейденталя
оо
х'= I Xdexx,
-оо
где интеграл в правой части представляет собой r-предел интегральных сумм вида In (едп+1 -еА„), ln G (А„, An+i), Ап -> +оо, и А_п -» -оо при п +оо. Отсюда видно, что оператор SXf имеет представление
оо
SX’(x) = J Ad($(x-e®)),
—ОО
т. е. оператор Sx> получается из операторов вида Se, е := вд , посредством операций суммирования и о-предельного перехода. Так как всякая компонента замкнута относительно этих операций, то должно быть Sx, € {Фо}^« Таким образом, So € {Фо}" И Sx> € «£?ф(Х, Е). Ясно также, что сопоставление х' Sx> есть инъективный линейный оператор из X' в «Йф (X, Е) и при этом О 0 в том и только в том случае, если Sx> 0.
Осталось показать, что для любого S € «£ф (X, Е) найдется х' € X' такой, что S = Sx'. В самом деле, пусть Т — сужение S на Хо, и рассмотрим характеристику (вд )дек оператора Т (относительно единицы Фо). В силу 4.4.5 семейство (h (вд ))дек есть разложение единицы в 0 (1). Следовательно, для некоторого х' е т(Е) имеем = h (вд) при всех А € R. Более того,
(х) = Ф(х-е^)
для любых А € R и х е Xq. Привлекая спектральную теорему Фрейденталя и элементарные свойства о-суммируемых семейств, для любого х G Xq" мы получаем соотношения
Тх — У Ай(вд)^х = У Ас{(вд(х)) =
—оо	—оо
272 Глава 4. Аппарат субдифференциального исчисления
оо	оо
- У Xd$(x-eXb) = $(x- J =Ф(х-х').
—ОО	—оо
Допустим теперь, что х € Х+, (ха) С Xq" и sup(#a) = х. Тогда Ф(ха-х')^ S(x), а поскольку ^(Ф) = ^т(Ф), то семейство (xQ • xf) ограничено в ^(Ф). Значит, х • хг € ^(Ф) и Sx — Ф(х • х'). Таким образом, ж' G X' и справедливо требуемое представление. О
4.4.10.	Изложенного в этом параграфе достаточно для того, чтобы подметить некоторую аналогию между операторами Магарам и о-непрерывными изо-тонными сублинейными функционалами и заподозрить справедливость того положения, что любой факт о функционалах указанного вида должен иметь свой параллельный вариант и для операторов Магарам. Теория булевозначных моделей вскрывает подноготную такой аналогии и позволяет превратить высказанное эвристическое соображение в точный метод исследования. Приведем без доказательства лишь один результат в этом направлении. Так же, как и в 2.4.3 мы предполагаем, что В — полная булева алгебра и 3% — поле вещественных чисел в булевозначном универсуме V^B\
Теорема. Пусть X — произвольное К-пространство, а Е — расширенное К-пространство	Допустим, что Р : X —► Е — сублинейный оператор Ма-
гарам, причем X = Хр = ^т(Р) и Е — Ер. Тогда существуют такие 33 и р € что справедливы утверждения:
(1)	— это К-пространство, а р : 33 -+ 3% — некоторый о-непрерывный
изотопный сублинейный функционал, причем S3 = 33р = 0т(р)] = 1;
(2)	если X' := 33 и Р' = р[, то X' — это К-пространство, а Р' : X' Е — сублинейный оператор Магарам;
(3)	существует линейный и решеточный изоморфизм h из X на X' такой, что Р = Р'oh;
(4)	оператор Р линеен в том и только в том случае, если внутри V^B) линеен функционал р;
(5)	для линейного оператора Ф выполнено включение Ф G дР в том и только в том случае, если существует р G V^B), для которого	€ <9Р] — 1 и Ф = (р |) oh.
4.5.	Дезинтегрирование
В этом параграфе мы будем интересоваться равенством d (Т о Р) = Т о дР, а также родственными формулами для вычисления опорных множеств, сопряженных операторов, е-субдифференциалов и т. п. Явление, выраженное этими формулами, называют дезинтегрированием, а сами эти формулы — формулами дезинтегрирования. Общие приемы дезинтегрирования унифицируют в привычной форме правил исчисления разнообразные факты теории К-пространств, в основе которых лежит теорема Радона-Никодима. Здесь легко увидеть и аналогию с тем, что исчисление опорных множеств унифицирует различные вариан
4.5. Дезинтегрирование
273
ты принципов продолжения, основанных на применении теоремы Хана-Банаха-Канторовича.
4.5.1.	Рассмотрим /^-пространства Е и F, а также векторное пространство X. Пусть Р : X —> Е — сублинейный оператор и Т : Е —» F — положительный оператор. Тогда оператор Т о Р сублинеен и выполнено очевидное включение д(Т о Р) э Т о дТ. Простые примеры убеждают, что это включение часто оказывается строгим. Так, если X = Е и оператор Р : Е —> Е действует по правилу е ь-> е+, то
д(Т о Р) = [О,Г] := {S € L(E,F) -.O^S^T}
и
дР = [0,1Е] := {тг € ЦЕ) : 0 тг 1Е}.
Однако равенство [О, Т] = Т о [0,1Е] есть не что иное, как ограниченная версия теоремы Радона-Никодима: для всякого оператора 0 < S* < Т существует ортоморфизм 0 < тг < 1Е в Е такой, что S = Т о тг.
Последнее утверждение неверно уже для оператора Т : К2 —» К2, Тх := := (/(#),/(#)) (х G R2), где f : R2 —> R — линейный положительный функционал.
Если для положительного оператора Т : Е —> F выполняется соотношение [О, Т] = Т о [0,1Е], то Т удовлетворяет условию Магарам.
О В самом деле, допустим, что 0 < f < Те для некоторого е е Е+. Если Р(е) = Т(е+), то Р — сублинейный оператор, причем —Р(—е) = 0 < f < Р(е) = Те. В силу 1.4.14(3) существует S G дР = [0,1Е] такой, что f = Se. По условию S = Т о а для подходящего ортоморфизма 0 < а < 1Е, поэтому f = Т о ае и О ае е. Тем самым Т сохраняет порядковые отрезки. >
4.5.2.	Теорема. Пусть Е и F — некоторые К-пространства hQ — сублинейный оператор Магарам из Е в F. Тогда для любого векторного пространства X и произвольного сублинейного оператора Р из X в Е имеет место формула
d(Qop)^QQodP.
<1 Напомним следующее правило линеаризации (см. 2.1.6 (3)):
d(Q оР) = |J{d(T О Р): т € 0Q}.
Поэтому, принимая в расчет теорему 4.4.7, достаточно показать справедливость представления д(Т о Р) = Т о дР для произвольного линейного оператора Магарам Т из Е в F. Если требуемое выполнено для ограничения То оператора Т на свою компоненту существенной положительности, т. е. носитель Т, а тг — проектор в Е на этот же носитель, то с учетом 3.2.11 (1) заключаем
д(Т о Р) = д(Т0) о (тгР) = То о Э(тгР) = То о тгдР = Т о дР.
Следовательно, можно считать Г существенно положительным оператором.
274
Глава 4. Аппарат субдифференциального исчисления
Пусть D — стоунов компакт базы Х-пространства Е, а 23 (D) — алгебра открыто-замкнутых подмножеств D. Не ограничивая общности, можно предположить, что Е является фундаментом в Х-пространстве (D) и функция, тождественно равная единице, входит в Е. Рассмотрим пространство St(D,X) всех Х-значных ступенчатых функций на D, т. е. и Е St(D, X) в том и только в том случае, если и := ^2^ ЩХа Для некоторых жь..., хп Е X и ei,..., еп Е 23(D) (как обычно, хе — характеристическая функция множества eCD). Обозначим символом [е] проектор в Е, соответствующий открыто-замкнутому множеству е. Легко видеть, что соотношение
:	° [ef] о Pxi (и := ^ж/д^ € St(D,X))
1=1	\	1=1	/
корректно определяет сублинейный оператор S? из St(D,X) в F.
Предположим, что А Е д(Т о Р), и рассмотрим оператор М : х • xd Ах на подпространстве постоянных Х-значных функций L := {ж • xd • ж Е X}. Тогда	для любого и Е L. По теореме Хана-Банаха-Канторовича
существует линейный оператор «й/ : St(D,X) —> F такой, что «я/ € и я/ — продолжение на St(D,X).
Теперь для любого ж Е X определим функцию <рх : 23 (D) —> F, полагая <£®(е) := <я/(жхе)« Из определения <рх и из очевидного неравенства
кх(е)| Т о [е] (Р(ж) V Р(-ж)) (е Е 23 (D), ж Е X)
следует, что <рх — аддитивная о-непрерывная функция.
Пусть ^m(T) С Coo(D) — максимальная область определения оператора Т, а Е С Ei С Соо(Е) и Е2 С Cqo(D) таковы, что у € Ek в том и только в том случае, если у • Ei С S>m(T) (k / Z; k,l := 1,2).
Определим оператор Sx : Е% —> F равенством
оо Sx(y) = У ^d(px(eyx), — ОО
где (вд) — характеристика элемента у € Ез-
Ограниченность <рх и существование интеграла для любого у € Е2 следуют из указанного выше неравенства для <рх, стало быть, Sx — порядково непрерывный регулярный оператор, причем |S®| Т о тг, где тг : Е2 —> ^т(Т), тг • У »-> У • (Р(ж) V Р(—ж)). Таким образом, Sx € <£t(E2,F) для любого ж Е X. Пусть теперь U : J^r(E2,F) —> Ei — изоморфизм из теоремы 4.4.9 и V : ж w Sx (ж Е X). Положим S := U о V. Тогда S : X —> Е\ — линейный оператор и для любых ж Е X и е Е 23(D) будет
Т о [е] О Sx = T(xeU(Sx)) = Sx(xe) = <рх(е) = л/(ххе).
С другой стороны, по определению срх выполняются неравенства
—Т о [е] о Р(—ж) Т о [е] о Sx Т о [е] о Р(ж).
4.5. Дезинтегрирование
275
Из этих соотношений следует, что Т’о£ = Аи6'€ дР. В частности, S 6 L{X, Е), что и доказывает требуемое, так как оставшееся неустановленным противоположное включение очевидно. О
Комбинируя теорему 4.5.2 с техникой замены переменной в преобразовании Юнга-Фенхеля, можно получить целый ряд формул дезинтегрирования для сопряженных операторов, е-субдифференциалов. Приведем несколько примеров.
Сначала введем необходимые понятия. Выпуклый оператор f : X Е называют регулярным, если существуют элементы ei, е2 € Е и сублинейный оператор Р : X —* Е такие, что
Р(х) + ei f(x) Р(я) 4- е2 (х € X).
Если, кроме того, X — также К-пространство, оператор f является возрастающим и о-непрерывным, а Р — оператор Магарам, то говорят, что / — выпуклый оператор Магарам.
Нетрудно видеть, что выпуклый оператор f регулярен в том и только в том случае, если он допускает представление f = £<2i,eo(21)u, где 21 — слабо порядково ограниченное множество в L(X,E),u 6 ^(21, Е), a (2l)u — аффинный оператор из X в /-(21, Е), действующий по правилу
(21)u : х	(а(ж) + u(ot))ae*.
4.5.3.	Теорема. Пусть f : X —> Е — регулярный выпуклый оператор, а g : Е F — выпуклый оператор Магарам. Тогда для любого S € L(X, F) имеет место точная формула
(д о /)*(£) inf {Т о /*({/) 4- д*(Т) : U € L(X, Е), Т е L+(P, F), S = Т о U}.
< Заметим прежде всего, что если Т е L+(E, F), S 6 L(X, Е) и S = Т о (7, то (р о/)*(£) Т°/*(С7) 4-£*(Т). В частности, если (до f)*(S) = 4-оо, то требуемая формула справедлива. Предположим, что S € dom((g о /)*). Тогда в соответствии с правилом вычисления преобразования Юнга-Фенхеля, установленным в 4.1.9 (2), существует оператор Т е dom(#*) такой, что
(so/)‘(S) = (To/)V)+j’(T).
По условию существуют сублинейный оператор Магарам Р и элементы ei, е2 € Е, для которых Р(ё) 4- е\ < д(е) < Р(е) 4- е2. Отсюда вытекает, что dom(^*) С дР. В силу теоремы 4.4.5 мы заключаем, что Т — оператор Магарам.
Воспользуемся представлением f = £*,е ° (2l)u, где 21 и и те же, что и в 4.5.2. Применив формулу 4.1.9 (4) к сублинейному оператору Т о и аффинному оператору (21)w и принимая во внимание соотношение д(Т os<^e) Т °de^Ei мы получим:
(Г О /)*(£) = inf {(/3 О m*(S):	д(т О еа,в)} =
= inf { — Т о a(u) : а € cte<a,E, Т о а о (21) = S}.
276
Глава 4. Аппарат субдифференциального исчисления
Поскольку последняя формула точная, найдется оператор a Е де^Е такой, что Т о а о (й) = S и (Т о /)*(5) = — Т о а(и). Пусть U := а о (й). Снова воспользуемся правилом замены переменной в преобразовании Юнга-Фенхеля, на этот раз для суперпозиции с^е ° (2l)u. Тогда
f*(U) = inf {(ао (й)и)*([7) : а е д^Е} =
= inf {—а(и) : а Е де^Е, а о (й) = 17} С -а(и), следовательно,
Т о /*(!/) -То а(и) = (То /)*(£).
Из всего сказанного следует, что Т oU = S и Т о /*(17) + д*(Т)	(<7 °/)*(£), а
это означает справедливость требуемого точного представления. Г>
4.5.4.	Стоит отметить два частных случая установленной теоремы.
(1)	Если f : X —> Е — регулярный выпуклый оператор, а Р : Е —> F — сублинейный оператор Магарам, то для любого S Е L(X, F) имеет место точная формула
(Р о /)*(£) =± inf {Т о /*(17): Т Е ЭР, Т о U = S}.
(2)	Если f тот же оператор, что и в (1), а Т : Е —> F — линейный оператор Магарам, то для каждого S Е L(X, Е) верна точная формула
(Т о /)*(£) =± inf{T о /*([/) : Т о U = S}.
В частности, если Т : Ё2 —» Е — сложение +, мы вновь получаем точную формулу
(/1W=*/1W
но при более жестком требовании о регулярности операторов /1 и /2, чем в 4.1.5 (1).
4.5.5.	Приведем теперь несколько простых следствий, соответствующих примерам 4.4.2.
(1)	Будем говорить, что семейство выпуклых операторов /а : X —* Е (а € А) равномерно регулярно, если найдутся с := (са)аед, е := (еа)а6д € Zi(A,E) и семейство сублинейных операторов Ра : X —► Е (а Е А) такие, что сумма 22а€А Ра(х) существует для всех х Е X и при этом
Ра(х) + Са /а(^) Ра(х) 4- ва (х Е X)
при всех а Е А. Очевидно, что если (/а)аел — равномерно регулярное семейство выпуклых операторов (при этом (/а(^))а€Д €	Е)), то корректно определено
отображение
Л*) := £ fa(x) (х€Х).
а£А
4.5. Дезинтегрирование
277
Ясно, что f — регулярный выпуклый оператор. В этой ситуации для каждого S € L(X, Е) справедлива точная формула
г (S)	inf |	:	€ М*, Я) (а € А), £	= S >.
Равенство	Sa = S здесь и в дальнейшем всегда означает справедливость
равенства Sax = Sx для всех х € X.
(2)	Пусть вновь (/Q) — равномерно регулярное семейство выпуклых операторов. Так как /х(А, Е) С /оо(А,Е), то (/а(я))а€д входит в Ioq(A, Е). Значит, можно определить регулярный выпуклый оператор f : X —> Е соотношением
f(x) := sup {fa(x) : а е A} (xt X).
При этом для каждого S е L(X, Е) имеет место точная формула
/•(S) - inf J £ тга о £($«): Sa & ЦХ,Е),
L абА
7Га G Orth(E)+ (a G А), Sa = S, У^1га = 1Е а€А	а€А
(3)	Пусть X — векторное пространство, a (Q, Е, /1) и Е те же, что и в 4.4.2 (5). Пусть Ф : X —> Li(Q,E,/z,E) — регулярный выпуклый оператор и
f(x) := У $(x)dii (хеХ).
Q
Тогда для любого S е L(X,E) имеет место точная формула
/*(S) — inf < /V(l7)dM: I7€L(X,Li(Q,S,m,E)), Sx =	Uxdp (х € X) I.
п	О	'
4.5.6.	Теорема. Пусть f : X —> Е — регулярный выпуклый оператор и д : Е —> F — выпуклый оператор Магарам. Тогда для любых х е X нее F4" имеет место представление
de(g о /)(®) = U {Т °	•• т е ЪМх)), 5 G Е+, A G F+,T6 + А = е}.
<1 Если U G dgf(x), Т G dxg<J(x)) и е = Т<5 + А, где A G F+ и 5 G Е+, то по определению
Ux' -Ux^ f(x') - f(x) + 6,
Те - Tf(x) g(e) - g(f(x)) + A.
278 Глава 4. Аппарат субдифференциального исчисления
В частности, Т € dom(^*). Поэтому Т 0. Применив Т к первому из указанных неравенств и воспользовавшись вторым, получим
Т о Ux' - Т о Ux < Т о /(ж') -То /(х) + Тб g(f(x')) - $(/(ж)) + Тб + Л.
Отсюда, благодаря произвольности х' € X, имеем Т о U G д£(д о /)(х). Покажем обратное включение. Для этого рассмотрим оператор S Е д£(д о /)(х). По формуле е-субдифференцирования суперпозиции (см. 4.2.11 (2)) найдутся р, /1 € F+, а также оператор Т € dug(f(x)) такие, что е = v + p и S Е д^(То/)(х). Последнее означает, что (То/)*(£) +То/(я) < Sx + p. В силу 4.5.4 (2) существует оператор U Е L(X, Е) такой, что S = Т oU и (То /)*(£) = Т о Следовательно,
То/*([/) +То/(х) ^ToUx + p
или, что то же самое,
Т(/*([/) + /(х)-С/х)^М.
Положим б := /*(17) + f(x) — Ux и А := е - Тб. Тогда 5>0, A = jLz-T5 + i/>i/, и Тб 4- А = £. Понятно также, что U € d$f(x) пТ G d\g(f(x)). Таким образом, S входит в правую часть требуемого равенства. >
4.5.7.	Приведем несколько следствий теоремы 4.5.6, несложные доказательства которых мы оставляем читателю.
(1)	Если f, х и е те же, что и в теореме 4.5.6, а Т: Е —> F — линейный оператор Магарам, то справедливо представление
9е(Т о /)(Ж) = |J{T о dsf(x): 8 &Е+, Тб = е}.
(2)	Пусть (fa)a&A ТО же, что и в 4.5.5 (1), / :=	е € Е+ и х € X.
Тогда имеет место представление
dsf(x) = UEu (ж) : ea G Е+ (a G Л), £ = £ ( • LaGA	а€А )
Здесь же уместно отметить, что при А — N и е = 0 получается субдифференциальный вариант классического правила почленного дифференцирования рядов:
Z ОО	ч	ОО
'п=1 '	П=1
(3)	Пусть (/Q) то же, что и в 4.5.5 (2), а f := sup{/a : a € А}. Тогда для любых х € X и е G Е+ справедливо представление
9ef(x) = U( 52 °	’
'а€А	7
4.5. Дезинтегрирование
279
где объединение берется по всем 6 € Е и семействам (тга)а€д С Orth(P) и (^a)aeA С Е, удовлетворяющим условиям:
0^5; 0 еа (а € Л),
а€.А
0 тга (а € Л), ^2 7га = 1е, лед
f(x) 527Га °	+s-
а£А
(4)	Пусть Ф, f и Е удовлетворяют условиям из 4.5.5 (2). Тогда для любых х Е X и е € Е+ выполняется представление
def(x) = | У S(-)dp.: 5eLi(fi,S,/z,^)+, $€&$(*)./ 6dp, = e Q
Q
(5)	Пусть	• X —> Е — регулярные выпуклые операторы, а S :
Е —> F — линейный оператор Магарам. Тогда верно представление
de(S О (Л V ... V /п))(х) = U(S1 О dS1fi(x) + ... + Sn о dSnfn(x)),
где объединение взято по наборам Si,... ,Sn € L(E, F) и 3i,... ,5n € E таким, что
0^6i (/:= l,...,n), 5:=е-^ЗД>0;
1=1
O^Si	S = ^Sf,
1=1
n
s О (Л V ... V fn)(x) < $2 St О fi(x) + S.
1=1
4.5.8.	Можно получить более специальные формулы дезинтегрирования, используя теорию лифтинга или измеримых селекторов. Мы воздержимся от подобных детализаций. В заключение отметим только одно прямое обобщение оригинальной теоремы Штрассена о дезинтегрировании, которое можно легко получить из 4.5.7 (1) при е = 0.
Если X и Е — нормированные пространства и Р : X —* Е — непрерывный сублинейный оператор, то мы положим ||Р|| := sup{||P(x)|| : ||х|| < 1}.
Теорема. Пусть (Q,E,p) — пространство с полной конечной мерой и Е — банахова решетка с порядково непрерывной нормой. Рассмотрим сепарабельное банахово пространство X и семейство (P^^eQ непрерывных сублинейных операторов Рш : X —> Е. Предположим, что для каждого х Е X отображение w Р<ЛХ) входит в £1(П,Е,д,Р) и функция ш —> ll-Fuzll (tu € О) суммируема. Тогда для любого Ф €	(X, Р) такого, что
ф(х)< Jpu(x)d^) (хеХ),
Q
280
Глава 4. Аппарат субдифференциального исчисления
существует семейство (Фц^еп линейных операторов Фш € &(Х, Е), для которого Фш е ЭРШ при всех w Е О, Ф(.)Х € Ех(П, S, р, Е) для каждого х € X и
Фх = J Фшх<1р(ш) (х G X). Q
<1 Из предложения 4.5.7 (4) при е = 0 следует существование линейного оператора Т : X —> £i(Q, Е, р, Е), для которого
Фх = j Txdp (х е X) Q
и Тх < Р( )(ж) при всех х Е X. Пусть Хо ~ это счетное Q-линейное подпространство в X (где, как обычно, Q — поле рациональных чисел). Используя счетность Хо, можно построить множество полной меры По С П и отображение Tq : X —> Eq° такие, что для всех х € Хо будет Tqx < Р(.)(ж) поточечно на По и [ТЬхг] = Тх, где [и] — класс эквивалентности измеримой вектор-функции и. Для фиксированного w G По оператор х (Тох)(си) (х € Хо) линеен и непрерывен. Пусть Ф^ — единственное продолжение этого оператора по непрерывности на все X. Тогда Ф^ € дРш для каждого ш € По- Привлекая теорему Лебега о предельном переходе под знаком интеграла (Бохнера), мы получим все остальные требуемые свойства семейства (Ф^)- О
4.5.9.	Рассмотрим те же (П, E,/i) и X, что и в теореме 4.5.8. Пусть при этом Е ~ банахова решетка. Предположим, что для каждого cu G П задан выпуклый оператор Д, : X —> Ее, причем существует открытое множество G С X такое, что G С dom(fw) (а; е П) и для каждой точки х € G вектор-функция f(.)(x) : о; *-► А>(я) интегрируема по Бохнеру. Положим по определению
f(x) := J
если вектор-функция f(.)(x) конечна при почти всех и) € П и интегрируема по Бохнеру и /(ж) = +оо во всех остальных случаях. Тогда f : X —* Е* — выпуклый оператор и G С dom(f). Возьмем фиксированную точку хо € G и займемся вычислением субдифференциала 5/(#о)- Обозначим символом J* df^XQ^ dp(w) Q
множество всех линейных операторов Ф из X в Е, представимых в виде
Фх = J Ф1лд^р(Ь) (х € X), Q
где (ФцО^еп — семейство линейных операторов Ф^ е J$?(X, Е), для которого Фо, е дР„ при всех и) е П и Ф(.)Х G Li(Q, E,/i, Е) для каждого х € X. В этих обозначениях теорему 4.5.8 можно переформулировать следующим образом.
4.5. Дезинтегрирование
281
(1)	Теорема. В условиях теоремы 4.5.8 формула
Р(х) = у Pu(x)d^t) (хеХ)
определяет сублинейный оператор из X в Е и имеет место формула
дР = у дРша^ш).
Q
<] Включение D очевидно, а противоположное включение представляет собой иную запись утверждения теоремы 4.5.8. >
(2)	Теорема. Пусть X — сепарабельное банахово пространство, Е — банахова решетка с порядково непрерывной нормой. Предположим, что операторы (cu € Q) и / непрерывны в точке Xq. Тогда имеет место представление
df(x0) = У dfu(x0)dfi(w).
я
<1 В силу наших предположений для всякого h G X можно подобрать такое 6 > 0, что xq + Xh е G при всех 0 < А < 6. Таким образом, при указанных А все значения + АЛ) (cu G Q) и f(xQ + АЛ) конечны и имеет место равенство
А-1(/(х0 + АЛ) - /(хо)) = А-1 У (Л,(х0 + АЛ) - /ш(х0)) dfj,(w).
я
Осуществим переход к о-пределу в этом соотношении при А —> 0. Так как норма в Е порядково непрерывна, то из о-сходимости вытекает сходимость по норме. Следовательно, возможен переход к пределу под знаком интеграла Бохнера. Тем самым возникает равенство
f'(xQ)h = I f^x0)hdp^) (Л € X). о
Остается применить теорему (1) к операторам Р := /'(^о) и := /^(xq) (cu е Q). о
4.5.10.	Как видно из изложенных результатов, дезинтегрирование возможно лишь в классе операторов, подчиненных весьма жесткому ограничительному условию Магарам. Тем не менее имеется настоятельная потребность в вычислении субдифференциала d(Q о Р) и в том случае, когда Q не является оператором Магарам. Правило линеаризации 4.2.11 (2) позволяет ограничиться случаем линейного положительного оператора Q:=T. Итак, возникает следующая проблема: как выразить явно субдифференциал d(Tof) через положительный оператор Т и выпуклый оператор /? Подход к решению этой проблемы намечен по существу в 4.5.5 (2). Пусть (fa)aeA ~ равномерно регулярное семейство выпуклых операторов из X в Е и f := sup (/Q). Положим
Ф(ж) := (/а(х))аеА {х е X).
282
Глава 4. Аппарат субдифференциального исчисления
Тогда Ф : X —» ^(А, £?) — выпуклый оператор и f =	° Ф- Однако •
U(A, Е) —► Е не есть оператор Магарам и, вообще говоря, df(x) де^Е°дФ(х). С другой стороны, ограничение Q канонического сублинейного оператора £д,Е на li(А, Е) служит оператором Магарам. Значит, если Ф(Х) С /i(A, Е), то f = фоф и Of(x) = 9<9(Ф(ж)) о 9Ф(х). Стало быть, решение поставленной задачи связано с поиском такой модификации оператора Т, чтобы Т превратился в оператор Магарам.
4.5.11.	Сейчас мы опишем общий прием, позволяющий превратить в оператор Магарам всякий положительный оператор. Пусть X — архимедова векторная решетка, Е — по-прежнему Х-пространство, а Т : X -+ Е — произвольный положительный оператор. Обозначим через V множество всех отображений v : X —> ^Зг(Х) таких, что v(X) — разбиение единицы в ^Зг(Е). Если D — стоунов компакт Е, то V можно отождествить с множеством всех отображений и : D(u) —> X вида u(t) =	где (Z^) — семейство попарно непересека-
ющихся открыто-замкнутых множеств, объединение D(u) = (J плотно в Z>, а (х$) — такое семейство элементов в X, что х% — х^ влечет = D^. Отсюда видно, что V естественным образом превращается в векторную решетку. Определим т(£?)-значную монотонную полунорму р на V по формуле
P(v) := v(s) о Г(|х|).
хех
Монотонность р означает, что из |v|	|и| следует р(у) < р(и). Положим Vo •=
:= {v G V : p(v) = 0}. На фактор-пространстве Y = V/Vq определим m(E)-значную норму
\у\ := mf{p(v) : v G у} (yE У).
Тогда У — векторная решетка, а | | — монотонная т(Е)-значная норма. Введем в У структуру топологической группы, принимая за базис фильтра окрестностей нуля семейство множеств
{у е Y : |у| < el} (е G R, е > 0),
где 1 — фиксированная единица в т(Е). Пополнение топологической группы У мы обозначим через У. Векторная норма |-| продолжается по непрерывности с У на У. Положим, наконец,
ЕТ(Х) := & е У : |г| G Е}, Фг := |z+| - |z'| (г€Ег(Х)).
Можно показать, что Ет(Х) — это Х-пространство, Ф : Ет(Х) —> Е — существенно положительный оператор Магарам и для любых х G X и тг G tyx(E) выполняется тг о Тх = Ф о г(х ® тг), где г — фактор-отображение из V в У. В частности,
Тх — Ф о jx (хе X),
4.6. Инфинитезимальные субдифференциалы	283
где ]{х) := г(х 0 Ie)- Поэтому для любого сублинейного оператора Р : Z X будет
д(ТоР) = а(ФО<7оР) = ФодОоР).
Тем самым задача дезинтегрирования для произвольного положительного оператора Т сводится к вычислению субдифференциала 5(j о Р) для оператора joP:Z->ET(X).
4.6.	Инфинитезимальные субдифференциалы
В 4.2 мы познакомились с правилами подсчета е-субдифференциалов. Эти правила, доставляющие формальный аппарат учета границ точности при вычислениях с субдифференциалами (например, при анализе выпуклых экстремальных задач, см. 5.2 и 5.3), не в полной мере коррелируют с практическими приемами «отбрасывания малых», применяемыми в большом количестве прикладных работ. Так, например, «приближенный» субградиент суммы рассматривают как сумму «приближенных» субградиентов слагаемых. Разумеется, это не соответствует точному правилу е-субдифференцирования суммы, представленному теоремой 4.2.7.
Правила приближенного подсчета скорее отвечают обычным инфинитезимальным представлениям о том, что сумма двух бесконечно малых бесконечно мала. Иначе говоря, практические приемы использования е-субградиентов соответствуют взглядам на е как на актуальную бесконечно малую величину — инфинитезималь.
В современной математике подобные концепции оформлены в рамках инфинитезимального анализа, к которому иногда применяют выразительный, но несколько эпатажный термин — «нестандартный анализ». Используя указанный подход, удается развить удобный аппарат приближенных — инфинитезимальных — субдифференциалов, адекватно отражающий правила подсчета «практического» оптимума. Необходимые для дальнейшего сведения из инфинитезимального анализа приведены в Приложении 5.
4.6.1.	Пусть X — векторное пространство, Е* — упорядоченное векторное пространство Е с присоединенным наибольшим элементом +оо. Рассмотрим выпуклый оператор f : X £** и точку х из эффективного множества dom(/) := {х е X : f(x) < -Foo} оператора F. Напомним, что для элемента s > О (из конуса положительных элементов Е+ пространства Е) е-субдифференциал f в точке х представляет собой множество dsf(x), определяемое формулой
def(x) := {Т е L(X, Е) : (Vx € X) (Тх - Тх f(x) - f{x) + e)},
где L(X, Е) — пространство линейных операторов, действующих из X в Е.
4.6.2.	Пусть в Е выделено фильтрованное по убыванию семейство S' положительных элементов. Считая Е и стандартными множествами, определим монаду ц{(^) соотношением
Д(^) :=ППМ:£е°^-
284
Глава 4. Аппарат субдифференциального исчисления
Элементы называют положительными бесконечно малыми или инфинитезимальными (относительно &).
В дальнейшем без особых оговорок подразумевается, что Е — это /С-про-странство, а монада //(<?) — это внешний конус над °К и, кроме того, //(^)А°Е = 0. (В приложениях, как правило, — фильтр единиц в Е.) Будет использоваться также отношение бесконечной близости между элементами Е, т. е.
61 ~ ^2	61 - 62	Л в2 — Ci G
4.6.3.	Имеет место равенство
А 0е/(Ж) = (J 3£/(Х).
eG°^	ебд(^)
<3 Для Т € L(X, Е) последовательно заключаем:
Тер def(x) W (Vste G <^)(Vx G X)(Tx -Tx^ f(x) - f(x) + e) ~
w (V8te e <?) f*(T) := sup (Tx - f(x)) <Tx- f(x) 4- e ~ jcGdom(/)
w (Vste G <T) 0 < /*(T) - (Tx - f(x)) < e ~ f*(T) - (Tx - f(x)) « 0 w
<-* (Зе e E+)e fa 0/\ f*(T) = Tx — f(x) + e <-+T e |J def(x),
что и требуется. О
4.6.4.	Внешнее множество, фигурирующее в обеих частях равенства 4.6.3, называют инфинитезимальным субдифференциалом f в точке х и обозначат ют Df(x). Элементы Df(x) называют инфинитезимальными субградиентами f в точке х. Специальных указаний на множество при этом не делают, так как вероятность недоразумений незначительна.
4.6.5.	Пусть выполнено предположение стандартности антуража, т. е. параметры X, f, х — стандартные множества. Стандартизация инфинитезимального субдифференциала отображения f в точке х совпадает с (нулевым) субдифференциалом f в точке х, т. е.
*Df(x) = df(x).
<1 Для стандартного Т G °L(X, Е) в силу принципа переноса выполнено
Т е *Df(x) Df(x) ~ (Vste € <?)(V х € Х)(Тх -Тх^ f(x) - f(x) + е) (Ve е <T)(Vz е Х)(Тх -Тх^ f(x) - f(x) + е) Т е df(x),
ибо inf <£ = 0 на основании соотношения p(<£) П °Е = 0. 1>
4.6.6.	Пусть F — стандартное К-пространство и g : Е —> F9 — возрастающий выпуклый оператор. Если множества X х epi(g) и epi(/) х F находятся в общем положении, то
D(gof)(x)= [J D(Tof)(x).
TEDg(f(x))
4.6. Инфинитезимальные субдифференциалы
285
Если, кроме того, параметры (за исключением, быть может, точки х) стандартны, то для стандартных ядер справедливо представление
°D(gof)(x) = J °Р(То/)(х). T€°Dg(f(x))
<J Отметим, что по условию монада д(<^) — это нормальная внешняя подполугруппа в F, т. е.
б (Е ► [0, б] С д(<?), “Ь д(^)
Учитывая это обстоятельство и привлекая как 4.6.3, так и правила вычисления е-субдифференциалов, последовательно получаем
D(g°f)(x) = U 9е(5°/)И = е€д(<£)
= U U U d£2(Tof)(x) = £бд(<£) £1+£2=£ £1^0, £2^0
= U U 9fJ(To/)(i) = ei>о,е2>о теае1д(/(г)) Е1~0, £2^0
= и U U de2(Tof)(x) = ei^O,ei«0 T€deig(J(x)) £2^0,е2~0
= U U D(Tof)(x).
Ted€1g(f(x))
Пусть теперь выполнено предположение о стандартности антуража и, кроме того, S € °D(g о /)(£). Тогда для некоторого бесконечно малого е будет
(ff°/)‘(S)= sup (Sx - g O /(x)) Sx - g(f(x)) + e. xEdom(gof)
По формуле 4.1.9 (2) замены переменной в преобразовании Юнга-Фенхеля с учетом принципа переноса имеется стандартный оператор Т € °L(E, F) такой, что Т положителен, т. е. Т е L+(E,F) и, кроме того,
(FW) = (ToW)+m
Отсюда следует
sup (Sx-Tof(x)) + sup (Те - g(e)) - Sx + g(f(x)) = x€dom(/)	eGdom(p)
= sup (Sx - Sx — (To f(x) - To /(£))) + xGdom(/)
4-	sup (Te-Tof(x) - (g(e) -g(f(x)))). eGdom(p)
286
Глава 4. Аппарат субдифференциального исчисления
Положим
£1 := sup (Те —То f(x) - (д(е) - g(J(x)))),
eEdom(g)
£2 := sup (Sx - Sx - (T о f(x) — Т о f(x)}}.
x€dom(/)
Ясно, что S € de2{T т. е. S € °D(Tof)(x) иТ G d£1g(J(x)), таким образом, Т € °Dg(f(x)), ибо Si «О и е2 «0. >
4.6.7.	Пусть fi,...,fn:X-+E9 — выпуклые операторы, причем п — стандартное натуральное число. Если fi,... ,fn находятся в общем положении, то для точки х € dom(/i) А ... A dom(/n) выполнено
D(fi + ... + /п)(я) =	+ • • • + Dfn(x).
<] Нужно применить 4.6.3 и правило е-субдифференцирования суммы, приняв во внимание, что сумма стандартного числа бесконечно малых слагаемых вновь бесконечно мала. [>
4.6.8.	Пусть fiT-'ifn • X —> Е* — выпуклые операторы, причем п — стандартное число. Допустим, что /1,. ..,fn находятся в общем положении, Е — это векторная решетка их G dom(/i V.. .Vfn)» Если F — стандартное К-пространство и Т 6 L+(E, F) — положительный линейный оператор, то элемент S € L(X,F) служит инфинитезимальным субградиентом оператора Т о (Д V .. .V fn) в точке х в том и только в том случае, если совместна следующая система условий:
п
Т = TkeL+(E,F) (fc := 1,... ,п);
fc=l
n	n
^Tkx « T(fi(x) V ... V /„(«)); S € 52 Wfe о fk)(x).
fc=l	fc=l
<1 Определяем следующие операторы:
(Л,..., fn) : X (£-)•, (Л,..., fn)(x) := (Д (х),..., /n(s));
х: En -> Е, x(ei,...,en)	V... V еп.
Тогда справедливо представление:
ro/iV...V/n = Toxo(fb...,/n).
Отсюда, учитывая 4.6.5 и вспоминая, что Тох — сублинейный оператор, выводим требуемое. О
4.6.9.	Пусть X — векторное пространство, Е — некоторое К-пространство и 21 ~ слабо порядково ограниченное множество в пространстве L(X,E). Рассмотрим регулярный выпуклый оператор f := о (21)е, где, как обычно, €& — канонический сублинейный оператор,
: «00(21, Е) -» Е,	:= sup f (21)
4.6. Инфинитезимальные субдифференциалы
287
и аффинный оператор (21)е для е G /оо(21, Е) действует по правилу (21)ех := (21)ж + е, (21)ж : Т G 21 Тх.
4.6.10.	Если д : Е —> F* — возрастающий выпуклый оператор, действующий в стандартное К-пространство F, причем в образе f(X) имеется алгебраически внутренняя точка dom(p), а элемент х из X таков, что f(x) G dom(p), то справедливо представление
D(gof)(x) = {То(й): ТоДа е Dg(f(x)), Т > 0, ТоДа/(ж) « То{Ъ}ех].
< Если S G D(g о /)(х), то по 4.6.3 S G dg(g о /)(#) при некотором е ъ 0. Остается привлечь соответствующее правило е-субдифференцирования.
Если же Т > 0, То Д<д G Dg(f(x)) и То Да/(£) « То (21)е£, то для некоторого е ~ 0 будет То Да е deg(f(x)). Положим, кроме того, 6 := Г о Да/(ж) — Т о (21)еяг. Тогда 6	0 и 6 « 0 по условию. Значит, Г о (21) € d£+&(g о /)(£). Остается
заметить, что е 4- 6 « 0. О
4.6.11.	Пусть в условиях 4.6.10 отображение g — это сублинейный оператор Магарам. Тогда
D(gof)(x)= (J J T(dsf(x)).
TeDg(f(x)) <5^0,Т<5«0
<] В силу 4.6.5 можно считать, что g := Г. Если С € &(Х,Е) и для всякого х е X выполнено Сх — Сх f(x) — f(x) 4- 6 и Тб ъ 0, то ТС € дт&(Т о f)(x) С С D(T о f)(x). Для завершения доказательства возьмем S G D(T о f)(x). В силу 4.6.3 имеется бесконечно малое е такое, что S G д€(Т о f)(x). Привлекая соответствующее правило е-субдифференцирования, найдем <5 > 0 и С Е дз/(х) такие, что Т5 < е и S = ТС. Это и требовалось, о
4.6.12.	Пусть Е — некоторое множество и ~ равномерно регулярное семейство выпуклых операторов. Справедливы представления:
£>)(«) = и ЕЫ®
V «6=	7 6eh(s,E) «es
6>0,<5»0
IH sup Д1(ж) =	52	: 0	< 1e> 12 °* = 1b’
/	I ^e=	ees
52	» sup f^x), 52	« 0 K-
Сен	^€S ees
< Доказательство немедленно вытекает из 4.6.11 с учетом правил дезинтегрирования 4.5.7 (1). >
288
Глава 4. Аппарат субдифференциального исчисления
4.6.13.	Полезно отметить, что формулы 4.6.7-4.6.12 допускают уточнения, аналогичные 4.6.6 в случае стандартности антуража (в который, быть может, не включена точка ж). Подчеркнем также, что по приведенным образцам выводится полный спектр всевозможных формул субдифференциального исчисления (свертки, лебеговы множества и т. п.). Сформулируем некоторые их них.
4.6.14.	Теорема. Пусть Д : X х У —» Е* и /2 '-Y х Z —» Е* — выпуклые операторы и б, е G Е+. Допустим, что в некоторой точке (x,y,z) свертка f2 & fi инфинитезимально точна, т. е. выполнено приближенное равенство (/2 А Д)(т,у) « fi(x,y) 4- Д(г/, z). Если, кроме того, выпуклые множества epi(/i,Z) и epi(X, Д) находятся в общем положении, то справедливо представление
£>(Д A fi)(x, у) = Df2(y, z) о Dfx(x, у).
<1 Положим б:= fi(x, у) + Д(г/, х) — (/2 А Д )(т, у)- По условию б — бесконечно малая величина.
Сначала докажем, что правая часть доказываемого равенства содержится в левой. Возьмем (7i,T) € Dfi(x,y) и (ТД2) € РД(?/, г). Тогда для некоторых бесконечно малых положительных £1,62 будет (Ti,T) Е deifi(x,y) и (Т,Т2) € d£2f2(y,z). Можно считать, не нарушая общности, что £1 Л £2 б. В силу 4.2.8 оператор (Т1Д2) попадает в сЦД A fi)(x,y), кактолькое £14-£2 — 6. Следовательно, (71,7г) € £>(Д A fi)(x,y).
Установим противоположное включение. Для этого возьмем какой-нибудь положительный бесконечно малый элемент е и оператор (71,7г) из -Р(Д A fi)(x, г/). В силу теоремы 4.2.8 найдутся положительные £1,62 такие, что (71,7г) Е € ^2/2(2/^) о d€lfi(x,y) И при ЭТОМ £1 + €2 = £ 4" б. ЯСНО, ЧТО ВеЛИЧИНЫ £1 и £г бесконечно малы, о
4.6.15.	Теорема. Пусть V-свертка /2®/1 выпуклых операторов Д : X хУ —» —> Е* и Д -Y х Z —> Е* инфинитезимально точна в некоторой точке (х, у, z) Е € X х Y х Z, т. е. (Д ® Д)(®^) » fi(x,y) V Д(?/,z). Если при этом выпуклые множества ерЦД, Z) и epi(X, Д) находятся в общем положении, то справедливо представление
D(f2 0 /1)(ж, Z) = (J(Z>(ck2 о /2)(У, г) О D(ai о у)),
где объединение берется по всем oi,o2 G Orth(E+) таким, что 01 4- 02 = Те-
<1 Положим б : = Д (т, у) V Д (у, z) — (Д ® Д)(х, z). По условию б — бесконечно малая величина. Допустим, что (ТьТг) G Эе(/2 ® Д)(т,г) Для некоторого бесконечно малого £. В силу б-точности V-свертки Д 0 Д в точке (х, у, z) можно найти оператор S Е & (X, Е) и ортоморфизмы 01,02 € Orth(E)+, 01 4- 02 = Ie, такие, что
«1 о Д (х, у) 4- 02 О Д (у, z) + (oi о Д )* (7\, S) 4- (о2 о Д )* (S, Г2)
< 71# - T2Z 4- £ 4- б.
Положим £1 := (oi О Д)*(Т1, S) 4- oi о Д (ж, у) - Т\х 4- Sy и £2 := £ 4- б - £Х. Тогда (7i,S) € 9ei(oi о Д)(х,?/) и (5,Т2) G 9е2(о2 о Д)(г/, z). Ясно, что величины £1 и
4.6. Инфинитезимальные субдифференциалы
289
£2 бесконечно малы, т. е. (71,7г) входит в правую часть требуемого равенства. Противоположное включение проверяется столь же просто. >
4.6.16.	Теорема. Пусть h : X х Y Е* и д '. X xY F* — выпуклые операторы и Ф С X х Y — выпуклое соответствие. Положим
/(ж) := inf{/i(x, у) : у € Ф(ж), д(х,у) 0}.
Допустим, что в общем положении находятся тройка выпуклых множеств ер!(Л),Ф х Е+,{д	0} х Е+, а также пара epi(g),X xYx (—F+). Пусть, сверх
того, h(x, у) « /(ж) для некоторых (х, у) 6 dom (Л) А Ф, д(х, у) 0. Тогда имеет место представление
Df(x) =	: (Т, 0) & Dh(x, у) + РФ(х, у) + (J (£>(а о д)(х, у))} ,
где объединение берется по всем a € ££ (F,E)+.
<] Пусть £ — некоторая положительная инфинитезималь. Вхождение Т в def(x) означает существование операторов a € Jzf+(F, Е), 71,7г, Тз € «Sf(X, Е) и Si, S2, S3 £ Е) таких, что Т = Ti 4- Т2 + 7з, 0 = Si 4- S2 4- S3 и
f(x) 4- h*(Ti, Si) + Ф*(Т2, S2) + (а О g)*(T3, S3)) Тх 4- £.
Пусть у 6 Y удовлетворяет условиям теоремы. Положим 6 := f(x) — h(x, у) и введем обозначения
61 := h(x, у) + Л*(Ti, Si) - 71Я 4- Siy,
£2 •= Ф*(7г, S2) — Т2Х 4- S2?/,
63 := (« о 9)fa 2/) 4- (а о ^)*(Т3, S3) - Тзя 4- S3y.
Тогда614-б24-63 < (aog)(x,y)+£ + S и, привлекая 4.1.3(1), получаем включения (Ti,Si) G d£1h(x,y), (T2,S2) е д£2Ф(х,у), (T3,S3) € д£з(ою д)(х,у). Тем самым
(Т,0) е д£1 h(x,у) + д£2Ф(х,у) 4- д£з(а о д)(х,у).
Поскольку величины £i, е2, £3 бесконечно малы, то установлено включение левого множества из доказываемого равенства в правое. Обратное включение проверяется аналогичными рассуждениями. >
4.6.17.	Пусть, как и выше, f : X —> Е* ~ выпуклый оператор, действующий в стандартное /Г-пространство Е, и ЗС := ЗС{*) — обобщенная точка в dom(/), т. е. сеть элементов dom(/). Говорят, что оператор Т € L(X,E) — это инфинитезимальный субградиент f в обобщенной точке 33, если для некоторого бесконечно малого положительного £ выполнено
/*(Т) liminf(71e^ - /(^)) + £
(здесь, конечно, действует правило ТЗС := То 33). Таким образом, в предположении стандартности антуража инфинитезимальный субградиент — это обычный
10 Кусраев А. Г., Кутателадзе С. С.
290
Глава 4. Аппарат субдифференциального исчисления
опорный оператор в обобщенной точке (см. [1,140]). Условимся обозначать символом совокупность всех инфинитезимальных субградиентов / в 33. Это множество по понятным причинам называют инфинитезимальным субдифференциалом f в Приведем выводы двух основных правил субдифференцирования в обобщенной точке, представляющие интерес в связи с тем, что точные формулы для соответствующих е-субдифференциалов неизвестны.
4.6.18.	Пусть fiy.'fn ~ стандартный набор выпуклых операторов в общем положении и обобщенная точка S3 лежит в пересечении dom(/i) П... A dom(/n).
D(fi + • • • + fn) W =	+ • • • +
<1 Пусть Tfc G Dfk(j33) для k := 1,..., n, t. e.
fk(Tk) < liminf(Tfetr - fk(S3)) +ek
при подходящих бесконечно малых £i,..., еп. При этом
(Л + • • • + У„)‘(Т1 + ... + тп)<± f*k(Tk)
fc=l
с £ (liminf(Tfc^ - А(^)) + £k) liminf £(Tfe^ - fk(K)) + k—1	fc=l	fc=l
в силу обычных свойств преобразования Юнга-Фенхеля и нижнего предела. Остается заметить, что ei + ... + еп « 0, и сделать вывод о справедливости включения D для множеств, рассматриваемых в интересующем нас равенстве.
Для проверки противоположного включения, сведя дело к п = 2, возьмем Т G P(/i + f2)(S3). Тогда при некоторых е « 0 и Ti, Т% таких, что 7\ +Т2 = Г, будет
(Л + /2)*(Г) = /1*(т1) + у2*(Т2),
/1(Т1) + /2*(Т2) - liminf(rr - (Л + /2)(О < е.
Положим по определению
<51 := К(Т1) ~ liminfCTiX - №)},
<52 := f2’(T2) - liminf(T2r - /2(^)).
Видно, что при k := 1,2 выполнено
0^ sup (Ткх - fk(x)) -limsup(Tfc^ - fk(^)) < 8к. o;€dom(/fc)
Значит, остается убедиться в бесконечной малости 61 и <$2- Имеем
2
51 + 52 О + lim inf - (Л + /2)(^Г)) - liminf(Tfc^ - fk(&))
к=1
(е + limsup(Ti^ - Л(^)) - liminf(Ti^ - /i(^)))a
_______________4.6. Инфинитезимальные субдифференциалы_____ 291
Л (е + limsup(T2JT - /2(<Г)) - liminf(T2^ - /2(^)))
< (е + Л*(71) - liminf(Ti^ - h{X)))^
Л (е + /2 (Т2) - liminf(T2^ - /2(^))) е + 5i Л 62.
Отсюда 0 Ji V $2 что и завершает доказательство. О
4.6.19. Пусть F ~ стандартное К-пространство ng : Е —> F* — возрастающий выпуклый оператор. Если множества X х epi(g) и epi(/) х F находятся в общем положении, то для обобщенной точки ЗС в dom(g о /) выполнено
D{gof)(X) = (J D{Tof){X).
T&Dg(f(X))
<1 Если известно, что
(To/)*(S) ^liminf(S^-To/(0 + ei, дДТ) С liminf(To/(^)-go/(<Г))+е2
для некоторых бесконечно малых £i и е2, то
{д ° /)*($) (Т о /)*($) + g*(T)	- Т о /(<Г))+е1+
+ liminf(Tо /(^) -go /(<Г)) + £2 С liminf(S^ -до /(#•)) + £1 + е2.
Следовательно, S G £>(д о/)($") и правая часть анализируемой формулы символизирует множество, входящее в ее левую часть.
Для завершения доказательства возьмем S € D{g о /)(^Г). Тогда найдутся бесконечно малое £ и оператор Т такие, что
{д ° fi* (&) = (Т О /)• (5) + g* (Т)	lim inf {SX - go f{X)) + e.
Положим
51 := (Г °	- limmf(S^ -To f{X)),
52 := 9*{T) - liminf(T о f{X) -go f{X)).
Учитывая свойства верхних и нижних пределов, мы выводим, во-первых,
51 > (Г о /)*(S) - limsup(S^r -То f{X)) > О,
52 > g*(T) - limsup(T о /(^Г) -до /(^Г)) > О
и, во-вторых,
51 + <J2 sS lira inf {SX -go f{X)) + e - liminf(S^r -To f{X})-
-	liminf(T о f{X) - g о f{X))	(limsup(S^ - T о f{X))~
-	liminf(S^ -To f{XY) + £) A (limsup(T о f{X) -go f{X))-
— liminf(T о f{X) — gf{X)) + e) 5i A 52 + £,
10’
292 Глава 4. Аппарат субдифференциального исчисления
ибо справедливы очевидные неравенства
limsup(T о /(еГ) -до /(<Г))	/(Г),
limsup(S^ - Т о /(^)) (То /)*(£).
Таким образом, 0 < 61 V 62	£ и « 0, ($2 ~ 0. Это означает, что Т 6 Dg(f(^))
и$бР(То/)(Д >
4.6.20.	Дадим теперь некоторое обобщение понятия инфинитезимального субдифференциала, апеллирующее к предельно широкому спектру внешних возможностей.
Пусть, как и прежде, f — выпуклый оператор и В — возможно внешнее подмножество dom(/). Полагаем
Р/(В) := П Df(x).
хеВ
Внешнее множество Df(B) называют инфинитезимальным субдифференциалом f вдоль множества В.
Пусть теперь SS — (вообще говоря, внешний) базис фильтра в эффективной области определения dom(/) выпуклого оператора /. Иногда такой базис называют обобщенной точкой. Определим инфинитезимальный субдифференциал f вдоль базиса фильтра Зё (в обобщенной точке 3S) соотношением
D/(^) := J £>/(В).
вез»
4.6.21.	Для оператора Т из L(X, У) эквивалентны утверждения:
(1)	Т G Df(&);
(2)	(ЗВ G ^)(Vz G В)(3е е д(<£))Т G d£f(x);
(3)	(ЗВ G ^)(Ve G °<?)(V£ G В) Т G d£f(x);
(4)	(ЗВ G ^)(Vt G В) (Зе G д(<^))(/*(Т) Tx - fx + e), где f* — это преобразование Юнга-Фенхеля оператора f;
(5)	найдется В G ЗВ такое, что (Vr G В) sup ((Тх — Тх) — (fx — fx)) « 0.
xGdom(/)
< Привлекая определения, видим:
Df(&) = U А = U A A = U А А вея хев	вея хев ее°£	вея ее°£ хев
что означает эквивалентность (1)	(3). Ссылка на принцип Коши П5.25(5)
обеспечивает (2) w (3). Прочие эквивалентности следуют из определения преобразования Юнга-Фенхеля. !>
4.6.22.	Пусть := {С С X : (ЗВ € С D В} — внешний фильтр, порожденный базисом Зё. Тогда Df(&) =
4.6. Инфинитезимальные субдифференциалы	293
<] Ясно, что	и поэтому
W) = U P/(C)D U Df(B) = Df(@). c&f	вея
Если теперь Т G Dfffi), то в силу 4.6.21 для некоторого С из будет выполнено условие
(VzGC) sup ((Тх - Тх) - (fx - /ж)) « 0.
xEdom(/)
Множество С содержит некоторый элемент В базиса по условию. Апеллируя к 4.6.21, видим, что Т € Df(B) С Df(38). >
4.6.23.	Пусть 38 — внутренний фильтр в X и f : X —> R — (всюду определенная) выпуклая функция. Тогда для x# € X# выполнено
X* € Df(&) ~ (Зе € д(й+)) Г(Х*) liminf (х*(&) - /(^)) + е,
где /i(R+) — множество положительных инфинитезималей в R.
<1 Для проверки импликации вправо заметим, что в силу 4.6.21 для некоторого внутреннего В из 38 и любого стандартного 6 > 0 будет
inf {(т | х*) — f(x) : х е В} + б.
Отсюда следует, что
(Vs € °R+)	liminf ({х | х#) — f{x)) + е.
хе В
Остается сослаться на принцип Коши П5.25 (5).
Установим теперь импликацию влево. Для этого возьмем бесконечно малое 6 > 0 и подберем В € 38 так, чтобы было
liminf (х | х*) — f(x) inf(x*(B) — f(B)) 4- 6. хеВ
После этого можно сослаться на 4.6.21. О
4.6.24.	Пусть Z — стандартное К-пространство ид : У -* Z* — возрастающий выпуклый оператор. Если множества X х epi(g) и epi(/) х Z находятся в общем положении и 38 — базис фильтра в dom(/), то
D(g°f)(&)= U D(Sof)(<2).
<1 Доказательство состоит в проверке двух включений. Для проверки одного из них возьмем S е Dg(f(&)) яТ G D(Sof)(&). Тогда в силу 4.6.21 выполнены соотношения
(ЗВ € ^)(W G В)(3е е М(Л) Т G de(S о /)($);
(ЗВ € Я)(Чх G B)(3S G n(S)) S G dsg((S о f)(x)).
294 Глава 4. Аппарат субдифференциального исчисления
Поскольку S6 — это базис фильтра, для некоторого В Е SS будет Вс В А В. При этом для х € В справедливы неравенства
(5 о /)*(Т) g*(S) + (S О /)*(Т) Тх - g(J(x)) + £ + <5.
Здесь мы учли подходящее правило подсчета преобразования Юнга-Фенхеля. Инфинитезимали составляют конус. Поэтому е 4- 5 ~ 0 и ссылка на 4.6.21 гарантирует вхождение Т Е D(g о /)(^). Следовательно, множество из правой части доказываемого включения содержится в множестве, стоящем в его левой части.
Для доказательства оставшегося все еще непроверенным включения возьмем Т Е D(g о /)(<Й?). В силу 4.6.21 для некоторого В из будет
^х Е В)(3е Е mW)(p о /)*(Т) Тх - g(f(x)) 4- £.
Применяя точную формулу для преобразования Юнга-Фенхеля композиции выпуклых операторов, найдем положительный оператор S Е £+(У, Z), для которого
(po/)*(T) = ^*(S) + (So/)*(T).
Взяв х Е В, положим
ei:= p*(S)-(S/(x)-po/(x)); е2 := (So/)*(T)-(Tx-S/^).
Ясно, что 0 ei -I- £2 Стало быть, £i и £2 — бесконечно малые величины.
Итак, S Е Dg(f(B)) С Dg(f^)) иТ Е £>(3 о /)(В) с D(S о /)(<£). >
4.6.25.	Пусть fi,...,fn:X-->Y*-- выпуклые операторы, причем п — стандартное число. Если fi,..., fn находятся в общем положении и — базис фильтра в dom(/i) А ... A dom(/n), то
D(h + ... +	= P(/i)(^) + ... + Р(/„)(^).
< Если Tk € Р(Д(^)), то найдутся Bi,..., Вп € такие, что для каждого х из Вк при некотором бесконечно малом £& выполнено Tk Е d£k(fk)(x). Если теперь х Е Bi А ... А Вп, то выполнено
Ti 4-... 4- Tn Е Qei+...+en (/i 4-... 4- /п)(#)-
Сумма стандартного числа бесконечно малых бесконечно мала. Следовательно, ссылка на 4.6.21 подтверждает, что множество в правой части доказываемого равенства содержится в множестве из левой части.
Пусть теперь Т Е D(fi 4- ... 4- /п)(^)- Привлекая 4.6.21, видим, что для некоторого В Е S8 выполняется условие
(Vx Е ^)(3£ Е mW) Т е de(fi 4-... 4- /п) W.
Таким образом, взяв х Е В, можно подыскать инфинитезималь £, для которой
(/i + ... + /n)*(T)^Tx-(/14-... + /n)(x)+£.
4.6. Инфинитезимальные субдифференциалы
295
Используя точную формулу 4.1.5 (1) для подсчета преобразования Юнга-Фенхеля, найдем операторы 71,..., Тп € L(X, У), удовлетворяющие соотношениям
т = ^тк-, (£л)*(г) = £/;(тк).
fc=l 'fc=l '	fc=l
Полагаем теперь
£* := (Г*) - (rfcx - fkx) (к := 1,..., п).
Ясно, ЧТО Efc > О И Е] + .. . + Еп СлвДОВаТвЛЬНО, Ek К О И Тк € Dfk(x) для каждого к := 1,..., п. Это и требовалось установить, о
4.6.26.	Пусть f\,...,fn: X -+Y* — выпуклые операторы, причем п — стандартное число. Допустим, что	находятся в общем положении, Y —
векторная решетка и SS — базис фильтра в dom(/i V ... V /п). Если Z — стандартное К-пространство и Т G L(Y, Z) — положительный линейный оператор, то элемент S G L(X, Z) служит инфинитезимальным субградиентом оператора То (fay.. .V fn) вдоль & в том и только в том случае, если для некоторого В G & совместна следующая система условий:
Т = ^Тк; T(=L+(Y,Z), к:=1,...,п;
£ Tk(fk(x)) » Т(А(г) V ... V /n(x)) (x G В); fc=l
$б£р(ТкоДО).
fc=l
<1 Определим следующие операторы:
(А, • • •, М : x (У**)*; (A,..., /п)(х) := (A(x),...,/„(x));
х:Уп-»У; х(у1,...,уп) :=!/i V---Vj/n-
Тогда справедливо представление
Т о A v ... V /п = Т О X О (А,..., /п).
Учитывая 4.6.25, мы выводим требуемое. [>
4.6.27.	Пусть X — векторное пространство, Y — некоторое К-пространство и У — слабо порядково ограниченное множество в L(X,Y), a f = о {&/}у — регулярный выпуклый оператор.
Пусть, далее, g :Y —> Z* — возрастающий выпуклый оператор, действующий в стандартном К-пространстве Z, причем в образе f(X) имеется алгебраически внутренняя точка dom(g), а базис фильтра S3 в X таков, что f(&) — базис
296
Глава 4. Аппарат субдифференциального исчисления
фильтра в dom(g). Оператор S из	входит в инфинитезимальный суб-
дифференциал D(g о /)(^) в том и только в том случае, если найдется В G SB такой, что совместна следующая система условий:
S = To Т^О;	Dg(f(B));
(\/х е В) Т о ~Т о (лУ)уТ.
< В силу 2.1.4 (2) и 4.2.11(2) разрешимость приведенной системы означает, что S € D(g о f)(x) для каждого х € В. Таким образом, остается установить обратную импликацию. Как легко видеть,
D(g о - D(g о^о = d(g о <^)(^) о (^У),
где S3) :=	Значит, нам достаточно получить представление оператора
Т & D(g о <^-)(^). Итак, пусть
(ЗВ € <^)(Vx 6 В)(3е е д(<?)) (д о <£^)*Т < Т о - д °	° (s3)vx + е.
В силу 4.1.9 (2) выполнено
(9о4)Т = /(ТоДх).
Полагая у {j3)yx для х € В, получаем
е > (g ° <^)*Т + Т о Я^у -Ту = д*(Т о Д^) + д о S^y -Ту =
= sup (Т о Д^у - Г о Д^ о S^. о S^y) -2/edom(^)
- (9У - 9 ° <^У) + Т О Д^ о S^y -Ту^О.
Отсюда следует, что Т о Д^ е Dg(f(B)) и Т о Д^/т «То (£?)ух. Тем самым требуемое утверждение установлено. >
4.7. Комментарии
4.7.1.	(1) Преобразование Юнга-Фенхеля имеет давнюю историю, которая отражена в монографиях В. М. Алексеева, В. М. Тихомирова и С. В. Фомина [4], А. Д. Иоффе и В. М. Тихомирова [79], М. А. Красносельского и Я. Б. Рутицкого [99], Р. Т. Рокафеллара [220], а также в обзорах А. Д. Иоффе и В. М. Тихомирова [78], А. Д. Иоффе и В. Л. Левина [77], А. Г. Кусраева и С. С. Кутателадзе [136], В. М. Тихомирова [233]. В современной форме оно введено В. Фенхелем [358, 359] в конечномерном пространстве, а затем А. Бронстедом [309] и Ж.-Ж. Моро [480] — в бесконечномерной ситуации.
(2)	Понятие сопряженной функции тесно связано с классическим преобразованием Лежандра для дифференцируемых функций (см. [220]). На этом основании некоторые авторы предпочитают говорить о преобразовании Лежандра или
4.7. Комментарии
297
преобразовании Лежандра-Юнга-Фенхеля (см. [234]). Преобразование Лежандра встречается уже у Л. Эйлера и даже у Г. В. Лейбница, но в явном виде оно было введено А.-М. Лежандром в 1789 году.
Пусть С — открытое множество в Rn и f : С —> R — дифференцируемая функция. Пусть, далее, D := imdf := df(C) — образ С относительно отображения df : х н-> df(x) (х G С). Введем функцию д : D —* R формулой (р(ж*)) := ((б!/)_1(ж*),ж*) - /((d/)"1^*)) (ж* G £>). Пару (Р,^) называют преобразованием Лежандра пары (C,f). Связь преобразования Лежандра с сопряженной функцией отражена в следующей теореме (подробности см. в книге Р. Т. Рокафеллара [220]):
Теорема. Пусть f : Rn —* R* — замкнутая выпуклая функция дифференцируемая на множестве С := int(dom(/)) 0. Тогда пара (C,f) имеет преобразование Лежандра (D,g), причем D = df(C) С dom(/)* и g = /*|р.
(3)	Для операторов со значениями в векторной решетке преобразование Юнга-Фенхеля появилось в работах К. Раффена [519], В. Л. Левина [179, 180] и М. Валадье [574]. Алгебраический вариант исчисления сопряженных операторов построил С. С. Кутателадзе [154], см. также статьи К.-Г. Эльстера и Р. Незе [353], Е. С. Левитина, А. А. Милютина и Н. П. Осмоловского [182], Ж.-П. Пено и М. Тера [509], К. Залинеску [598, 599], Дж. Зова [604,605]. Синтез алгебраических приемов, развитых в этих работах, и метода общего положения (см. [110, 125]) привел к «непрерывному» исчислению сопряженных операторов, которое и изложено в параграфе 4.1.
4.7.2.	(1) Понятие s-субдифференциала скалярных функций ввел Р. Т. Ро-кафеллар [220]. Дальнейшие результаты, касающиеся скалярного случая, можно найти в монографиях В. Ф. Демьянова и Л. В. Васильева [61], Е. А. Нурмин-ского [203], Ж.-П. Обэна и И. Экланда [204], И. Экланда и Р. Темама [249]. Общее s-субдифференцирование в классе выпуклых операторов развито в работах С. С. Кутателадзе [155, 159]. Некоторые правила г-субдифференцирования получили независимо и почти одновременно В. Ф. Демьянов и В. К. Шомесова [66], Ж.-Б. Ирриарт-Уррути [379] и М. Тера [563, 564].
(2)	Пусть X — вещественное векторное пространство, а Е — векторная решетка. Соответствие Ф из X в L(X, Е) называют циклически монотонным, если для любого п > 2 выполняется неравенство
Т1(Х1 - Хо) 4- Т2(ГГ2 - Я1) 4- ... 4- тп(хп - жп-1) > 0,
каковы бы ни были xq, ... ,xn е X, хо = хп, иД 6 Ф(я^) (k := 1,... , п). Если же указанное условие выполняется только для п = 2, то соответствие Ф принято называть монотонным. Легко понять, что субдифференциальное соответствие х df(x) выпуклого оператора f : X —> Е* является циклически монотонным, а значит, и монотонным.
(3)	Монотонное (циклически монотонное) соответствие называют максимальным, если для любого монотонного соответствия Ф С X х L(X, Е) из Ф С Ф вытекает Ф = Ф. Структура максимальных монотонных соответствий и их связь
298
Глава 4. Аппарат субдифференциального исчисления
с субдифференциальными соответствиями в общей ситуации мало изучена, однако имеется ряд глубоких фактов для двойственности X <-> X' в случае банахова пространства X. Следующий факт установлен Р. Т. Рокафелларом [528]:
Теорема Рокафеллара. Пусть X — банахово пространство с сопряженным X'. Если f : X —> R* — собственная полунепрерывная снизу выпуклая функция, то ее субдифференциальное соответствие df представляет собой максимальное монотонное соответствие из X в X'.
Очевидно, что если максимальное монотонное соответствие циклически монотонно, то оно будет и максимальным циклически монотонным соответствием. Интересно, что при некоторых условиях субдифференциальными соответствиями исчерпывается запас максимальных циклически монотонных соответствий. Этот результат также установил Р. Т. Рокафеллар.
Теорема. Пусть X — банахово пространство с сопряженным X'. Субдифференциалы полунепрерывных снизу собственных выпуклых функций на X и только они служат максимальными циклически монотонными соответствиями из X в X'.
Доказательство этих, а также других близких результатов см. в книге Р. Фелпса [512].
(4)	Монотонные соответствия стали предметом интенсивного изучения в связи с различными аспектами нелинейного анализа независимо от теории субдифференциалов. Значительный вклад в это направление внесли X. Брезис, Ф. Браудер, Г. Дж. Минти, Р. Т. Рокафеллар и др. Обширный материал по теории монотонных соответствий, ее приложениям, а также по смежным вопросам имеется в двухтомнике Е. Зайдлера [601], в книгах В. Барбу и Т. Прекупану [277], К. Деймлинга [330], Ж.-П. Обэна [267, 268, 270], Ж.-П. Обэна и Е. Франковской [271], Ж.-П. Обэна и И. Экланда [204], Д. Паскали и С. Сбёрлана [506], Р. Фелпса [512], И. Экланда и Р. Темама [249].
(5)	Большое число исследований посвящено вопросу об однозначности субдифференциального соответствия, т. е. условиям дифференцируемости выпуклой функции.
Банахово пространство называют асплундовым или пространством Асплун-да, если всякая выпуклая функция f : X —> R*, непрерывная на множестве D := int(dom(/)), дифференцируема (по Фреше) в каждой точке некоторого (^-подмножества D. Если в этом определении заменить дифференцируемость по Фреше дифференцируемостью по Гато, то принято говорить о слабом асплундо-вом пространстве. Эти термины связаны с работой Е. Асплунда [263]. Классический результат С. Мазура утверждает, что сепарабельное банахово пространство является слабо асплундовым.
(6)	Асплундовость и слабая асплундовость имеют глубокие связи с различными геометрическими свойствами банаховых пространств. Так, например, банахово пространство X является асплундовым в том и только в том случае, если X' обладает свойством Радона-Никодима, см. [512; теорема 5.7]. Подробное изложение этих аспектов выпуклого анализа можно найти в монографиях Р. Д. Бур-
4.7. Комментарии
299
гена [306], Дж. Джайлза [365], Дж. Дистеля [68], Дж. Дистеля и Дж. Уля [342], Р. Фелпса [512].
4.7.3.	(1) Фундаментальная роль полунепрерывности в выпуклом анализе отражена в монографиях В. М. Алексеева, В. М. Тихомирова и С. В. Фомина [4], А. Д. Иоффе и В. М. Тихомирова [79], Ж.-П. Обэна и И. Экланда [204], Р. Фелпса [512], Р. Т. Рокафеллара [220], И. Экланда и Р. Темама [249]. Большинство тонких результатов о полунепрерывных выпуклых функциях не допускает прямого распространения на выпуклые операторы. Наиболее благополучно в этом смысле обстоит дело в том случае, когда выпуклый оператор действует в К-про-странство ограниченных элементов с топологией сходимости с регулятором (или, что то же, с нормой, порожденной единицей).
(2)	Для векторнозначных отображений существуют различные понятия полунепрерывности. Определение, данное в 4.3.3, а также основные результаты 4.3.8-4.3.10 впервые опубликованы в [140]. Вопрос об инволютивности преобразования Юнга-Фенхеля в классе выпуклых операторов изучали также Дж. Борвейн, Ж.-П. Пено и М. Тера [303, 509]. Субдифференциал выпуклой векторнозначной функции впервые рассмотрел В. Л. Левин [179].
(3)	Напомним классический результат об инволютивности преобразования Юнга-Фенхеля в классе замкнутых выпуклых (скалярных) функций. Функцию f : X —> R* называют замкнутой, если ее надграфик epi(/) замкнут в топологии произведения X х R. Собственная функция замкнута в том и только в том случае, если она полунепрерывна снизу в каждой точке.
Теорема Фенхеля-Моро. Пусть X — локально выпуклое пространство и f : X —> R* — выпуклая функция. Тогда f** = f в том и только в том случае, если f замкнута.
Поскольку для сублинейного оператора р : X —> R* выполняется р* = #к(с?р) и р** = sup(Sp) (ср. 1.5.7), то теорема Фенхеля-Моро содержит как частный случай следующий факт.
Теорема Хёрмандера о сублинейных функциях. Пусть X — локально выпуклое пространство и р : X R* — сублинейная функция. Тогда р — sup(dp) в том и только в том случае, если р замкнута.
Замыкание надграфика epi(/) служит надграфиком некоторой функции, которую называют замыканием функции f и обозначают символом с1(/). Таким образом, замыкание определяется формулой cl(epi(f)) = epi(cl(/)). Легко видеть, что /** = с1(/) для любой выпуклой функции. Эти результаты можно найти в любом курсе выпуклого анализа, см., например, литературу, указанную в 4.7.3 (1).
4.7.4.	(1) В цикле работ [467-470] Д. Магарам разработала оригинальный подход к изучению векторных мер и положительных операторов в функциональных пространствах. Краткое описание развитого ею метода и формулировка основных результатов имеются в обзоре [470]. В. Люксембург и А. Шэп [464] распространили фрагмент теории Д. Магарам, связанной с теоремой типа Радона-Никодима, на положительные операторы, действующие в Tf-пространствах. Тер
300
Глава 4. Аппарат субдифференциального исчисления
мины «свойство Магарам» и «оператор Магарам» были введены соответственно в [464] и [116,125]. В [467-470] операторы со свойством Магарам названы «fullvalued».
(2)	Сублинейные операторы Магарам введены и изучены А. Г. Кусраевым в [116, 122]. Теорему 4.4.10 установил А. Г. Кусраев; для линейных операторов она опубликована в [116]. Этот факт означает, что по существу всякий сублинейный оператор Магарам представляет собой о-непрерывный возрастающий сублинейный функционал в подходящей булевозначной модели. Теорема 4.4.9 в случае функционалов установлена Б. 3. Вулихом и Г. Я. Лозановским [33], а в общем случае — А. Г. Кусраевым [122]. Подробнее об операторах Магарам см. в монографии А. Г. Кусраева [132].
(3)	Для операторов Магарам имеет место аналог теоремы Радона-Никодима. Сформулируем этот результат, полученный В. Люксембургом и А. Шэпом [464].
Пусть Е и F — некоторые К-пространства, S и Т — положительные порядково непрерывные операторы из Е в F, причем Т обладает свойством Магарам. Тогда равносильны следующие утверждения:
(i)	S € {Т}±х;
(ii)	S абсолютно непрерывен относительно Т;
(iii)	существует ортоморфизм 0 < р е Orth°°(E) такой, что Sx = Т(рх) для всех х € ^(р);
(iv)	имеется такая последовательность ортоморфизмов (pn) С Orth(E), что Sx = supn Т(рпх) для всех х £ Е±.
(4)	Между операторами Магарам и решеточными гомоморфизмами имеется двойственность. Пусть Е и F — векторные решетки и Т : Е —> F — порядково ограниченный оператор. Тогда для каждого функционала / € F~ будет f оТ € Е~. Возникающий таким образом оператор f н-» f оТ из F~ в Е~ называют порядково сопряженным к Т и обозначают, как обычно, символом Т'. Если обозначить символом (•, •) билинейную форму как двойственности Е Е~, так и двойственности F w F~, то данное определение можно записать в виде
{T'f,x) = (f,Tx} (xeE,feF-).
Известно, что Т* : F~ —> Е~ — порядково ограниченный и порядково непрерывный оператор. Более того, имеет место следующий результат (см. [132, 258]):
Если F~ разделяет точки F, то положительный оператор Т : Е —* F будет решеточным гомоморфизмом в том и только в том случае, когда Т' : F~ —> Е~ удовлетворяет условию Магарам.
4.7.5.	(1) Замечания, сделанные в начале пункта 4.2.5, относятся и к параграфу 4.5. Так, например, если в теореме 4.2.6 положить е = 0, то мы получим формулу
9(д о = U<T ° df№ : Т € dg(f(x))}.	(*)
4.7. Комментарии
301
Действительно, в этом случае А = 0 и Т(6) = 0, причем последнее влечет равенство Т о dfif(x) = Т о df(x). Однако указанная выше формула справедлива при более слабых ограничениях, чем в 4.5.6.
Пусть f : X —> Е* — произвольный выпуклый оператор и xq G core(dom(/)). Пусть, далее, g : Е F* — выпуклый оператор, удовлетворяющий следующим условиям:
(а)	существуют элемент е G Е+ и сублинейный оператор Магарам Р : X —> Е такие, что
Р(х) + е f(x) Р(х) + е (хе dom(p));
(b)	f(xo) € core(dom(p)); причем если последовательность (еп) элементов Е о-сходится к f(xo), то en € dom(g), начиная с некоторого номера.
Тогда имеет место формула (*).
<1 В наших предположениях оператор f секвенциально о-непрерывен в точке хо, поэтому (gof)'(xo) = g'(f(xo))°f'(xo)- Кроме того, g'(f(xo)) Р- Стало быть, gf(f(xo)) — сублинейный оператор Магарам в силу 4.4.7. Остается применить 4.5.2. t>
(2)	Дезинтегрирование в АГ-пространствах, изложенное в 4.5.2-4.5.7, развито А. Г. Кусраевым [122,124]. Многочисленные частные случаи и модификации приведенных в 4.5 формул разбросаны в литературе по выпуклому анализу. В случае функционалов (т. е. при F = R) формулу типа 4.5.2 (точнее, типа (*)) впервые получил В. Л. Левин, см. [176, 179, 181]. Для сравнения сформулируем результат В. Л. Левина.
Пусть X и Е — локально выпуклые пространства, причем Е также К-пространство с условием (А), т. е. всякая о-сходящаяся сеть в Е сходится топологически. Пусть выпуклый оператор f : X Е* непрерывен в точке xq € int(dom(/)), а выпуклая функция g : Е —> R* непрерывна в точке f(xo) € int(dom(g)). Тогда имеет место представление
d(g о f)(x) = {T’ef : Т € Э/(х); е’ G 9g(f(x))}.
<1 Очевидное следствие формулы (*) из (1). О
Доказательство В. Л. Левина [181] опирается на установленную им в [176] компактность в слабой операторной топологии субдифференциала df(xo) при указанных выше предположениях. Однако, как уже отмечалось в 2.7.4 (2), компактность не является адекватным инструментом при анализе субдифференциалов, поскольку циклическая компактность, служащая характеристическим свойством субдифференциала, сводится к компактности лишь при выполнении определенных условий, см. [125].
(3)	Теорема 4.5.8 получена М. Нейманом [487]. В скалярном случае (т. е. при Е = R) она превращается в известный результат В. Штрассена [556], называемый обычно теоремой Штрассена о дезинтегрировании. Субдифференциал выпуклой функции, представимой как интеграл измеримого семейства выпуклых функций, был объектом изучения многих авторов, см., например, работы
302
Глава 4. Аппарат субдифференциального исчисления
М. Валадье [574], Е. Г. Гольштейна [41,42], В. Л. Левина [176, 177, 181]. Скалярный вариант (Е = R) теоремы 4.5.9 (2) получили независимо М. Валадье и В. Л. Левин, используя разные идеи и технические средства. Наше доказательство идейно ближе к работе В. Л. Левина [181], но все же существенно от него отличается.
(4)	Пусть (Q, S,/z), X и Е те же, что и в пп. 4.5.8 и 4.5.9. Зафиксируем некоторое банахово пространство L сильно измеримых вектор-функций, т. е. L С L°(Q,	X). Предположим, что отображение f : Q х X —> Е* удовлетво-
ряет условиям: /(си, •) : ж м /(си, х) — выпуклый оператор из X в Е* для почти всех cu Е Q и вектор-функция /(•,£(•)) : си /(cu,x(cu)) сильно измерима для любого х Е L. Рассмотрим интегральный оператор If : L -* Е*, определяемый формулой
//(#) := / /(cu, rr(cu))
если вектор-функция /(-,я(-)) конечна при почти всех cu Е П и интегрируема по Бохнеру, и If(x) = -Нею во всех остальных случаях. Тогда If : L —> Е* — выпуклый оператор. Представляют значительный интерес формулы для вычисления преобразования Юнга-Фенхеля (If)* и субдифференциалов dlf(u) и deIf(u), где и Е dom(Zy) и 0 < 8 Е Е.
(5)	Направление, указанное в (4), разработано лишь в скалярном случае Е = R. Из обширной литературы, затрагивающей субдифференцирование и замену переменной в преобразовании Юнга-Фенхеля выпуклых интегральных функционалов, укажем монографии А. Д. Иоффе и В. М. Тихомирова [79], К. Кастена и М. Валадье [182], В. Л. Левина [181], в которых имеются также дальнейшие литературные ссылки и комментарии. В общей постановке (4) эти задачи ждут своих исследователей.
(6)	Идея, высказанная в 4.5.11, восходит к Д. Магарам. До некоторой степени она реализована А. Г. Кусраевым в [125, 132]. Однако соответствующие формулы субдифференцирования и замены переменной в преобразовании Юнга-Фенхеля все еще не получены. Отсутствуют также общие формулы дезинтегрирования в случае не всюду определенных операторов, т. е. формулы типа 4.5.2 для оператора Р, допускающего бесконечные значения. В этих направлениях также желательны дальнейшие исследования.
4.7	.6. (1) Понятие инфинитезимального субдифференциала было введено С. С. Кутателадзе в [251]; из этой же работы заимствован материал, представленный в 4.6. Близким к понятию инфинитезимального субдифференциала является субдифференциал относительно последовательности, рассмотренный Е. Г. Гольштейном [42] и В. Л. Левиным [177].
(2)	В теории экстремальных задач известное внимание уделяется проблеме учета точности соблюдения критериев оптимальности при практической реализации вычислений. Общепринятый качественный подход к названной проблеме отражен в выпуклом ^-программировании, дающем аппарат оценок приближения к оптимуму по функционалу. Развитый на этом пути инструментарий достаточ
4.7. Комментарии
303
но специфичен и в некотором смысле оказывается искусственно усложненным. В то же время он не вполне коррелирует с бытующими приемами, основанными на поиске «практического оптимума» с помощью «практически точного» соблюдения требований дополняющей нежесткости, отвечающих классическому случаю е = 0. В результате можно говорить об определенном расхождении и даже разрыве теоретических и практических воззрений. В 4.6 намечен подход к преодолению имеющихся трудностей в рамках нестандартного анализа.
(3)	Суть изложенной в 4.6 схемы в том, что необходимое представление субградиентов осуществляется в некотором смысле независимо от выбора исследуемой точки за счет точности применяемых правил вычисления преобразований Юнга-Фенхеля. Иными словами, поведение инфинитезимальных субградиентов, по форме аналогичное свойствам обычных «точных» субградиентов, по существу родственно случаю s-субдифференциалов, учитывающих поведение рассматриваемых операторов «в целом», во всей области их определения. Таким образом, хотя по форме правила подсчета инфинитезимальных субдифференциалов аналогичны обычным правилам локального субдифференцирования, условия их справедливости существенно более жесткие и совпадают с условиями для преобразований Юнга-Фенхеля или е-субдифференциалов.
(4)	По изложенной схеме можно получить аналоги для всего спектра правил субдифференциального исчисления (дезинтегрирование, свертки Рокафеллара, лебеговы множества и т. п.). Естественным путем отсюда выводятся и признаки инфинитезимальной оптимальности, которые будут рассмотрены в следующей главе.
Глава 5
Выпуклые экстремальные задачи
Традиционным полем приложений выпуклого анализа является теория экстремальных задач. Здесь мы затронем тот раздел современной теории экстремальных задач, который принято называть выпуклым программированием. Истоком этого раздела стали работы Л. В. Канторовича, В. Каруша, X. Куна и А. У. Таккера. Дальнейшее изложение ведется в значительной общности так, что без особых оговорок всюду изучаются задачи многоцелевой оптимизации, характеризующиеся векторнозначными функциями цели. Абстрактность нисколько не затрудняет существа дела, к чему имеются глубокие общие причины, раскрываемые в логике и теории множеств. Основные идеи приводимых ниже результатов весьма эффективны в анализе скалярных (одноцелевых) задач.
Характерная особенность задач многоцелевой оптимизации состоит в том, что при поиске оптимального решения приходится учитывать различные, противоречащие друг другу интересы (стремления), составляющие единую комплексную цель. При этом невозможно, как правило, выделить какую-либо отдельную цель, не игнорируя остальные и не меняя тем самым первоначальной постановки задачи. Указанное обстоятельство приводит к возникновению специфических трудностей, не типичных для скалярного случая: следует уточнить, что нужно понимать под решением векторной программы, надо решить, как следует согласовать разные цели, и возможно ли в принципе согласование противоречивых интересов. В этой связи обсуждаются разные понятия оптимальности для многоцелевых задач: идеальный и обобщенный оптимумы, оптимум в смысле Парето, приближенный и инфинитезимальный оптимумы.
Аппарат субдифференциального исчисления представляет собой эффективный инструмент для анализа выпуклых экстремальных задач. Формулы замены переменного в преобразовании Юнга-Фенхеля быстро приводят к обоснованию различных вариантов эвристического принципа Лагранжа, который утверждает, что поиск оптимума в экстремальной задаче с ограничениями сводится к решению аналогичной безусловной задачи для подходящего лагранжиана.
С помощью исчисления е-субдифференциалов мы выводим признаки оптимальности, приближенной и инфинитезимальной оптимальности, а также разбираем концепцию оптимальности в смысле Парето. Основной упор делается на общие концептуальные моменты. В то же время мы сочли возможным оставить в стороне многие аспекты, хорошо представленные в обширной монографической литературе по теории экстремальных задач.
5.1. Векторные программы. Оптимальность
305
5.1.	Векторные программы. Оптимальность
Здесь обсуждаются различные понятия оптимальности в задачах векторной оптимизации.
5.1.1.	Пусть X — векторное пространство, Е — упорядоченное векторное пространство, f : X —> Е* — выпуклый оператор и С С X — выпуклое множество. Векторной программой мы будем называть пару (С, /) и записывать ее символически в виде
х € С, f(x) —> inf.
Векторную программу принято называть также многоцелевой или многокритериальной экстремальной или оптимизационной задачей. Оператор f называют целью программы, а множество С — ее ограничением. Точки х G С именуют допустимыми элементами, реже допустимыми планами.
Указанная выше запись векторной программы отражает то обстоятельство, что рассмотрению подлежит следующая экстремальная задача: найти точную нижнюю границу значений, принимаемых оператором f на множестве С. В случае, когда С — X, говорят о безусловной задаче или задаче без ограничений.
Ограничения в экстремальной задаче могут быть заданы по-разному и включать, например, уравнения и неравенства. Пусть g : X —> F* — выпуклый оператор, Л € L(X, Y) и у е У, где У — векторное пространство, a F — предупорядоченное векторное пространство. Если ограничения С\ и имеют вид
Ci := {я е С : д(х) 0},
С% := {х е X : д(х) 0, Ля = у},
то вместо (Ci,f) и (С2, /) пишут соответственно (С, д, f) и (Л, д, f) или же более выразительно
х е С, д(х) 0, f(x) —> inf;
Ля = у, д(х) 0, f(x) -> inf.
5.1.2.	Элемент е := infxecf(x) (если он существует) называют значением программы (C,f). Ясно, что е — —f*(0). Допустимый элемент Xq называется идеальным оптимумом или решением, если е = /(яо). Таким образом, яо — идеальный оптимум в том и только в том случае, если /(яо) — наименьший элемент образа f(C), т. е. я0 6 С и f(C) С /(яо) + Е+.
Непосредственно из определений видно, что яо есть решение безусловной задачи /(я) —* inf тогда и только тогда, когда нулевой оператор входит в субдифференциал df(xo):
У(я0) = inf /(я)	0 € df(xQ).
xG.X
В теории экстремума различают локальный и глобальный оптимумы. Для нас это различие несущественно, так как мы будем рассматривать лишь задачи минимизации выпуклых операторов на выпуклых множествах.
306 Глава 5. Выпуклые экстремальные задачи
Пусть xq € С — идеальный локальный оптимум в программе (С, f) в следующем (очень слабом) смысле: существует множество U С X такое, что 0 € core U и
f(x0) = inf{f(x) : х G С П (xq + U)}.
Тогда /(хо) = inf {/(яг) : х G С}.
<] Пусть Xq и U удовлетворяют указанному условию. Для произвольного h G С подберем 0 < е < 1 так, чтобы e(h — xq) G U. Тогда для z := а?о + e(h — xo) = = (1 — z}xq 4- eh будет z G С П (xq 4- 17), значит, /(xo) < /(z). Отсюда ввиду выпуклости f заключаем: /(xq) C f(z) < (1 -e)/(x0) +ef(h) или f(xQ) < /(Л). t>
5.1.3.	Можно убедиться на простейших примерах, что идеальный оптимум в векторных программах существует крайне редко. Это обстоятельство побуждает вводить различные понятия оптимальности, подходящие для тех или иных классов задач. Среди них — приближенная оптимальность, полезная даже в скалярной ситуации (т. е. в задачах со скалярной целевой функцией).
Зафиксируем положительный элемент е G Е. Допустимая точка xq называется е-решением или е-оптимумом программы (C,f), если /(#о) е + е, где е ~ значение программы. Таким образом, xq есть ^-решение программы (С, f), если и только если Жо G С и /(то) ~ е — нижняя граница образа f(C) или, что то же самое, f(C) 4- е С /(#о) 4- Е+. Очевидно, что точка xq будет ^-решением безусловной задачи f(x) —> inf в том и лишь в том случае, когда нуль входит В def(xQ), т. е.
/(х0) inf f(x) + е 0 G 9е/(х0). хех
5.1.4.	Обобщенным е-решением программы (C,f) называют множество 21 С С при условии, что inf^ea f(x) С е 4- е, где е, как и выше, — значение программы. Если е = 0, то говорят просто об обобщенном решении. Обобщенное е-решение всегда существует (например, 21 = С), но интересно выбрать по возможности меньшее из таких решений. Минимальное (по включению) возможное обобщенное е-решение — идеальный е-оптимум при 21 = {жо}-
(1) Любое обобщенное е-решение является е-решением некоторой векторной выпуклой программы.
<1 В самом деле, рассмотрим оператор & : X* —> Е* U {4-оо}, действующий по правилу
f(x(ot}), если imx С dom(/),
+оо, если imy dom(/)
для a G 21, х G X*. Пусть Хо € X*, Хо(«) := ot (a G 21), и предположим, что <^(уо) € Zoo(2l, Е) (это не ограничивает общности).
Возьмем теперь р G Эеъ(~-&(хеУ}, где е* : /оо(21, £) —► Е — канонический оператор (см. 2.1.1). Согласно 2.1.5 имеем
/ОО, роД^Е = 1Е, ро#(хо) = -е*(-<^(Хо)) = inf f(x).
^(х) • &
5.1. Векторные программы. Оптимальность
307
Если 21 — обобщенное е-решение, то для х 6 С21 верно
М ° <^(х) > -Ея(-^(х)) = inf /(а) > inf/(х) > inf /(а) - е = д(<^(хо)) - £ аб21	хЕС	а€21
Следовательно, хо есть ^-решение программы
хе (7я, ^(x)-Hnf.
Наоборот, если хо ~ это 6-решение последней задачи, то для каждого х € С будет
М ° «^(хо) Д ° & о Да,х(х) + е = Д о Да,в ° /(®) + £ = /(я) + £•
Таким образом, имеют место соотношения
inf /(а) = д о ^-(хо) > inf /(х) + е, q€21	xGC
т. е. 2( есть обобщенное 6-решение программы t>
(2)	Множество 21 С X является обобщенным е-решением безусловной задачи f(x) —* inf в том и только в том случае, если совместна система условий:
р € L+(/oo(2l, Е), Е), р о = 1е\
М ° ^(Уо) = inf /(а), 0 е д£(р о (хо).
а Ей
<1 Следует из (1). О
5.1.5. Рассмотренные выше понятия оптимальности связаны с точной нижней границей целевой функции на множестве допустимых элементов, т. е. со значением программы. Понятие минимального элемента ведет к принципиально иной концепции оптимальности.
Здесь удобно допустить, что Е — предупорядоченное векторное пространство, т. е. конус положительных элементов не обязательно острый. Тем самым подпространство Eq := П (—Е+), вообще говоря, не сводится к одному нулевому элементу. Для и € Е положим
[u] := {v G Е : и v, и < и}.
Запись и ~ v означает, что [и] = [и].
Допустимая точка жо называется е-оптимальной по Парето или г-Парето-оптимальной в программе (С, /), если /(жо) — минимальный элемент множества /(С) 4- 6, т. е. если (/(жо) — Е’+) И (/(С) 4- е) = [/(^о)]• Более подробно, 6-Парето-оптимальность точки жо означает, что жо € С и для любой точки х € С неравенство /(жо) > /(ж) 4-6 влечет /(жо) ~ /(ж) 4-е. Если 6 = 0, то говорят об оптимальности по Парето, опуская указание на 6. При изучении Парето-оптимальности часто используют метод скаляризации. т. е. сведение рассматриваемой программы к скалярной (одноцелевой) экстремальной задаче. Скаляризацию можно проводить по-разному. Рассмотрим один из возможных вариантов.
308
Глава 5. Выпуклые экстремальные задачи
Предположим, что предпорядок < в Е задается формулой:
и v (VZ 6 dq) lu lv,
где q : Е —> R — сублинейный функционал. Это равносильно тому, что конус Е+ имеет вид Е+ := {и е Е : (\/l 6 dq) lu 0}. Тогда допустимая точка xq будет е-Парето-оптимальной в программе (С, f) в том и только в том случае, если для каждого х G С либо /(хо) ~ /(я) + £, либо существует функционал I е dq, для которого lf(xo) > l(f(x) + e). В частности, для s-Парето-оптимальной точки Xq G С выполняется
~ + £) ^ °-
Обратное утверждение неверно, так как последнее неравенство равносильно более слабому понятию оптимальности. Говорят, что точка xq G С слабо е-Парето-оптимальна, если для каждого х € С найдется такой функционал I G dq, что Z(/(x) — /(хо) + е) > 0, т. е. если ни для какого х € С несовместна система строгих неравенств 1$(xq) < l(f(x) + е) (I 6 dq). Как видно, слабая е-Парето-оптимальность равносильна тому, что q(f(x) — У(#о) + е) > 0 для всех х G С, и это понятие нетривиально лишь в случае 0 dq.
5.1.6. Роль s-субдифференциалов раскрывается, в частности, тем, что е-реше-ние при достаточно малом е можно рассматривать как претендента на «практический оптимум» — на «практически точное» решение исходной задачи (см. 5.1.3-5.1.5). Как уже отмечалось, найденные в 4.2 правила вычисления е-суб-дифференциалов, доставляя формальный аппарат учета границ точности решения экстремальной задачи, не вполне соответствуют практическим приемам оптимизации, при которых применяют упрощенные правила «отбрасывания малых».
Адекватный аппарат инфинитезимальных субдифференциалов развит в 4.6. С ним, естественно, связано понятие инфинитезимального решения. Соответствующее определение дается в рамках теории внутренних множеств Э. Нельсона (см. Приложение 5).
Пусть X — векторное пространство, Е — упорядоченное векторное пространство, причем в Е выделено фильтрованное по убыванию множество § положительных элементов. Считаем, что X, Е и S стандартны. Возьмем стандартный выпуклый оператор f : X —> Е* и стандартное выпуклое множество С С X. Напомним, что запись ei « е% означает справедливость неравенства — е ei — в2 е для каждого стандартного е
Допустим, что существует конечное значение е := infxecf(x) программы (C,f). Допустимую точку Xq называют инфинитезимальным решением, если верно /(xq) ~ е, т. е. если для каждого х G С и любого стандартного е G выполняется /{xq)	/(#)+£. Учитывая определение инфинитезимального субдиф-
ференциала из 4.6.4 и сказанное в 5.1.3, можно сформулировать утверждение.
Точка Xq Е X является инфинитезимальным решением безусловной задачи f(x) —> inf в том и только в том случае, если 0 G Df(xo).
5.1. Векторные программы. Оптимальность
309
5.1.7. Обобщенное s-решение, введенное в 5.1.4, существует всегда. Однако класс всех допустимых множеств, из которых черпаются обобщенные решения, может оказаться необозримым. Само обобщенное решение — объект также трудный для анализа, ибо не имеет никакой заранее предписанной структуры. В 5.5 мы введем еще одно понятие обобщенного решения, которое существует уже не всегда, но зато обладает хорошими структурными свойствами. Здесь мы докажем одно мотивирующее предложение.
Пусть X — произвольное множество, Е — некоторое К-пространство и е — порядковая единица в Е. Тогда для всякого ограниченного снизу отображения f : X —>	не равного тождественно +оо, существуют разбиение единицы (тг^)^е= в
булевой алгебре проекторов tyt(E) и семейство в X такие, что < infx€x f(x) + е для всех £ е S.
<1 Воспользовавшись реализационной теоремой для /f-пространств, можем считать без ограничения общности, что Е — фундамент в К-пространстве Coq(Q), а е совпадает с функцией, тождественно равной единице на Q. Положим е := inf {/(ж) : х € X]. Поскольку е +оо, то e(t) < e(f) + 1 для всех t из некоторого котощего множества. По смыслу точных границ в /С-пространстве C'oo(Q), существует множество Qo С Q такое, что Q\Qq — тощее множество и
-оо / e(t) inf {f(x)(t) : х G X} < 4-оо
для всех t Е Qq. Для каждого t € Qq существует xt € X такое, что f(xt)(t) < < e(t) + 1, а в силу непрерывности е и f(x) неравенство /(xt)(r) < е(т) + 1 выполняется в некоторой открыто-замкнутой окрестности Qt точки t. По теореме Цермело множество Qq можно вполне упорядочить, т. е. существуют кардинал А и биекция р : [О, А) —» Qq, где [О, А) — множество всех ординалов £ < А. Положим
:= elf	x€ := x<p(&)	[O’'M)*
Тогда f(x£)(t) < e(t) 4- 1 для всех t € Q$, а семейство (Q^)^[o,A) состоит из попарно непересекающихся множеств с плотным в Q объединением. Если 7г^ — проектор, соответствующий открыто-замкнутому множеству Q% и S := [О, А), то и	“ искомые семейства. >
5.1.8.	Доказанное предложение наводит на мысль, что обобщенным е-реше-нием экстремальной задачи f(x) —> inf следует назвать семейство вместе с разбиением единицы	Приведем формализацию этой идеи. Прежде всего
несколько расширим понятие выпуклого оператора, заменив пространство Е* на более широкий объект Е*. Мотивировка такого расширения станет ясной из последующего изложения.
(1)	В декартовом произведении Е х ф(Е) выделим подмножество Е*, состоящее из таких пар (гг, тг), что тле = 0. В множестве Е* можно корректно ввести сложение, умножение на положительные числа и упорядочение с помощью
310
Глава 5. Выпуклые экстремальные задачи
формул:
(ж, тг) 4- {у, р) := (?rd Л pd(x 4- у), тг V р), А(ж, тг) := (Аж, тг), (ж,7Г)	(?лр) 7Г p&pdx pdy (х,у е Е; п,р € ф; А е R+).
Нетрудно проверить, что Е* — порядково полная R-коническая решетка (см. 1.5.1). Отображение, сопоставляющее элементу х € Е пару (ж,0), служит вложением Е в Е* с сохранением операций и порядка. Мы будем отождествлять Е с соответствующим подмножеством Е*. Проектор тг € ^Р(Е) можно продолжить до проектора на Е* следующим образом: если z := (ж, р) G Е*, то полагаем тгг := (тгж, тгр). Множество вида тгЕ* естественно назвать полосой в Е*. Пара (0, тг), обозначаемая символом 4- ск^^остт, будет наибольшим элементом в полосе пЕ*. Элемент 4-оо := оо :=oci — наибольшим элементом Е*. Таким образом, в каждой полосе тгЕ* имеется своя бесконечность ос^, причем все они являются осколками бесконечности оо, т. е. оск Л ося± = 0 и оск V ос7Г±= оо. Очевидно, что множество всех бесконечных элементов ос^ (включая 0 =<хо) с индуцированным из Е* порядком образует полную булеву алгебру, изоморфную ф(Е).
(2)	Обозначим символом C^((2,R) множество всех непрерывных функций из Q в R := RU{±oo}, принимающих значение —оо на нигде не плотном множестве. Введем в C+(Q, R) операции сложения и умножения на положительные скаляры, полагая (и + v)(t) = u(t) 4- v(t) и (Au)(t) = А • u(f), причем правые части этих соотношений имеют смысл для каждого t из подходящего котощего множества Qq С Q. Напомним, что множество в топологическом пространстве называют котощим, если его дополнение является тощим множеством. Порядок в С+ (Q, R) определяется поточечно, т. е. и v означает, что u(t) v(t) для всех t G Q. Тогда C+(Q,R) — порядково полная R-коническая решетка (см. 1.5.1). Ясно, что Coo(Q) С C+(Q,R), причем порядок и операции в Cqo(Q) индуцированы из C+(Q,R). Из результатов о функциональном представлении К-пространств (см. П1.13) вытекает следующее утверждение.
Пусть Е — произвольное К-пространство и Q — стоунов компакт булевой алгебры ф(Е). Тогда существует полулинейный изоморфизм, отображающий R-коническую решетку Е* в R-коническую решетку C+(Q,R). Образ Е относительно этого изоморфизма служит фундаментом в COO(Q), а образ Е* совпадает с С+ (Q, R) в том и только в том случае, если Е расширенно.
Очевидно, что элемент Е* при указанном изоморфизме переходит в функцию, принимающую значение 4-оо на открыто-замкнутом множестве Qn С Q, соответствующем проектору тг. При этом ограничение этой функции на Q \ Qn входит в C^Q \
(3)	Пусть X — банахово пространство. Рассмотрим отображение f : X —> Е*. Эффективное множество и надграфик мы определим обычным образом:
dom(/) := {ж € X : /(ж) € Е}, epi(/) := {(х,е) € X х Е : /(ж)	е}.
5.1. Векторные программы. Оптимальность	311
Полунепрерывность снизу отображения f вводится по аналогии с 4.3.3. Учитывая специфику рассматриваемой ситуации, можно дать такое определение. Возьмем точку Хо G X. Обозначим через тг^ проектор в Е, для которого ^/(xq) =0^ и 7г^/(ж0) £ Е. Будем говорить, что f полунепрерывно снизу в точке xq, если для любого числа е > 0 существует счетное разбиение единицы (тгп)п€^ такое, что для всех п е N и х € X, ||х - а?0|| Vn выполняется
</(®) > <(/(жо) - £1), <'№) > (1Д)тг"1,
где тг„ := 7ГП Л тг^ и тг" := тгп Л тгоо- Нетрудно убедиться, что отображение / : является полунепрерывным снизу в точке а?о € X тогда и только тогда, когда
f(xo) = sup inf {f(x) : x € X, ||ж - xq||	1/n}.
neN
Подчеркнем, что точные границы в этой формуле вычисляются в Е*.
Для произвольного отображения f : X Е* мы обозначим символом fq функцию из X в R, действующую по правилу fq'X^ f(x)(q). Легко видеть, что отображение / выпукло в том и только в том случае, если выпукла функция fq при всех q 6 Q. Если функция fq полунепрерывна снизу в точке х$ при всех Q е Q, то отображение f будет полунепрерывным снизу в той же точке в указанном выше смысле. Обратное утверждение, вообще говоря, не имеет места.
5.1.9.	До конца параграфа X — произвольное банахово пространство, а Е — расширенное /f-пространство, отождествляемое с Coo(Q) для подходящего экстремально несвязного компакта Q (см. П1.13). Обозначим символом C^Q^X) множество классов эквивалентности непрерывных вектор-функций и, действующих из котощих множеств dom(u) С Q в пространство X. Подробнее говоря, мы обозначим символом ^(Q,X) множество вектор-функций и : dom(u) —> X, удовлетворяющих условиям: a) dom(u) — котощее подмножество Q и б) отображение и непрерывно. Введем отношение эквивалентности ~ в ^(Q,X) следующим образом: вектор-функции и и v считаются эквивалентными, если они совпадают на общей части своих областей определения, т. е. и v означает, что u(t) — v(t) при всех t € dom(tt) Adom(v). Фактор-множество &(Q,X)/~ обозначается символом Coo(Q,X).
Множество Coo(Q, X) можно естественным образом снабдить структурой модуля над кольцом Coo(Q)- Пусть й обозначает класс эквивалентности вектор-функции и е ^(Q,X). Возьмем теперь u,v €	и а € Coo(Q). Положим
w(t) := u(t) + v(t) (t e dom(u) A dom(v)),
z{f) := a(t)u(t) (t e dom(u) A Dom(a)),
где Dom(a) := {£ 6 Q : |a(f)| < +00}. Примем по определению u + v := w и a • й := i. Корректность этих определений проверяется без труда. Не вызывает сомнений и справедливость аксиом модуля над кольцом Coo(Q)- Более того, непрерывное продолжение поточечной нормы определяет разложимую норму на C^iQ^X) со значениями в Cqo(Q). В самом деле, для z € Coo(Q,X) существует
312
Глава 5. Выпуклые экстремальные задачи
единственная функция xz G C^Q) такая, что ||u(f)|| = xz(t) (t е dom(u)) для каждого представителя и класса эквивалентности z. Положим |г| := xz и заметим, что так определенное отображение || : COO(Q,X) —> Coo(Q) удовлетворяет аксиомам 1.6.1 (1-3). Более того, |аж| = |а||х| для всех а € Cqo(Q) и a: G C^(Q,X). Введем теперь пространство
ад := {«€Coo(Q,X): |z| € Е}
и снабдим его индуцированной векторной нормой. Разложимость этой нормы можно показать так же, как и в 2.3.2 (1). Если Е = Coo(Q), то Е(Х) = Coo(Q,X).
Если X — банахово пространство, то Е(Х) — пространство Банаха-Канто-ровича, максимальным расширением которого служит Coq(Q, X).
<1 Это утверждение можно без труда вывести из 1.6.5. Подробности см. в [132]. О
В дальнейшем, допуская вольность, мы будем отождествлять классы эквивалентности z G Е(Х} с представителями u G z. Если z G Е(Х) и тг G ^)г(Е), то символом ттг мы обозначим вектор-функцию из dom(z) в X такую, что (тгг)($) = z(f) при t G Qv П dom(z) и ;rz(£) = 0 при t G dom(^)\Q7r, где Qn — открытозамкнутое подмножество Q, соответствующее проектору тг. Заметим, что при этом |тгг| = 7r|z|. Если функция, тождественно равная единице, входит в Е, то каждый элемент х G X можно отождествить с постоянным отображением t i-* х (t G Q) и считать X С Е(Х). Если теперь (х$) — семейство в X и (тг^) — разбиение единицы в ^Зг(Е), то “ отображение из Е(Х), принимающее значение х% на множестве .
5.1.10.	Теорема. Справедливы следующие утверждения:
(1)	для любых 0<€GRhzG Е(Х) существуют семейство в X и разбиение единицы (тг^) в ty(E) такие, что выполнено \z —
(2)	для любого семейства (г^) в Е(Х) и для произвольного разбиения единицы (тг^) в ty(E) существует единственный элемент z G Е(Х) такой, что tt^z = ir^z^ для всех
(3)	пространство (Е(Х), ||) r-полно, т. е. для любой последовательности (zn) в Е(Х) из условия r-limn^^ool^n — zm\ = 0 следует существование z е Е(Х) такого, что r-limn_>oo|z - zn\ = 0.
< См. [132; 2.3]. >
5.1.11.	Теорема. Пусть Е — расширенное К-пространство с единицей 1. Для любого полунепрерывного снизу отображения f : X —> Е* существует единственное отображение f : Е(Х) —> Е*, удовлетворяющее следующим условиям:
(1)	для любых тг G ^Зг(Е) и u, v G Е(Х) из тги = тги следует 7rf(u) = 7r/(v);
(2)	f полунепрерывно снизу в следующем смысле: для любого u G Е(Х) выполняется равенство
f(u) = sup inf {f(v) : v e E(X), |u - v| el};
eio
(3)	7rf(x) = /(тле) для всех x G X и тг € ^P(E).
5.1. Векторные программы. Оптимальность
313
При этом f выпукло (сублинейно, линейно) в том и только в том случае, если f — выпуклое (сублинейное, линейное) отображение.
<1	Пусть Eq(X) — множество всех элементов z G Е(Х) вида z — где (тг^) — разбиение единицы в фг(£?) и (х$) С X. Для всякого такого z положим
Л2) = 527г«^а:«)-
Далее, пусть для произвольного z Е Е(Х) по определению будет
f(z) = sup inf < f(zf) : zf G Eq(X), \z - zf\ < —11.
n€N l	П )
Проверим справедливость условий (l)-(3). Пусть
«=527г^«
и тг G tyx(E). Если ttu ~ ttv, то тг о 7г$Я£ = тг о тг^у^ и, значит, = у$ всякий раз, когда тг о 7Г^ / 0. Отсюда
«•/(«) = 52 7го7г«л*«) = 52 7ГО7ГеЛ%) = 7r/(v)-
7ГО7Г$/0	тготг^^О
Для произвольных u, v G Е(Х) справедливость требуемого соотношения следует из того, что если тги = irv, то выполняются равенства
7rf(u) = sup inf 17rf(u') : uf G jEo(X), |u — v!\	—11 =
neN I	n )
= sup inf	/7rf(vf) :	v!,vf G E$(X), |u —	u'|	—1,	тги'	= тги'I =
n€N	l	П	)
= sup inf	< 7г/(г/) :	|u — v'|	—1, vf	G Eq(X) > =	7vf(v).
пен	I	n	)
Если zq G E(X), to по определению f будет
7(z0) sup inf {f(z) : z G E(X), \z - z0| -If = пен I	n )
= sup inf sup inf f f(u) : и e Eq(X), |u — z\ < —11 nGN |z-.okil	V	1 mJ
sup inf |/(u)	:	и E	Eq(X),	|u — z|	-^1;	\z	— zo|	С —1
n,mGN I	Tb	TI
sup inf <f(u)	:	и G	EQ(X),	|u - zq| ( -	+	— ) 11 =
m,nGN I	\Tl	m /	)
= sup inf {/(u) : и E Eq(X), |u - z0| £1} = /(zo)-£>0
Следовательно, f полунепрерывно снизу в точке zq.
314
Глава 5. Выпуклые экстремальные задачи
Свойство (3) вытекает непосредственно из определения /. Из (3) видно, что если f — выпуклый оператор, то и f — выпуклый оператор. Наоборот, допустим, что f — выпуклое отображение. Тогда для и =	v = и 0 < А < 1
справедливы соотношения
/(Au + (1 - A)v) = f QjT + (1 - Л)у€)} =	+ (1 “ л)%) <
+12	“ A)№«) = -W) +11 - A)/(v)-
Наконец, для произвольных u,v € E(X) заключаем
/(Au — (1 — A)v) = sup inf < f(z) : \z — Xu - (1 — A)v| C —11 < n€N I	n J
sup inf < f(Xu' -4- (1 — A)v') : |u - ur\ -1, |u - v'|	-1 >
n€N [	n	n J
sup inf I A/(u') + (1 - A)/(v') : |u - u'|	^1, |v - v'|	-1 >
nGN l	П	П J
C A/(u) 4- (1 - A)/(u) (z, u', v' e E0(X)).
Это доказывает выпуклость оператора /. Утверждения относительно линейности и сублинейности отображения / устанавливаются аналогично. >
5.1.12.	Пусть f : X —> Е* — полунепрерывное снизу отображение. Проведенный выше анализ делает оправданным следующее определение. Будем говорить, что элемент z € Е(Х) — обобщенное £-решение безусловной задачи /(ж) —> inf, если f{z) infxex /(#) 4- е. К изучению обобщенных е-решений мы вернемся в параграфе 5.5.
5.2.	Принцип Лагранжа
«Можно высказать следующий общий принцип. Если ищется максимум или минимум некоторой функции многих переменных при условии, что между этими переменными имеется связь, задаваемая одной или несколькими функциями, нужно прибавить к функции, экстремум которой ищется, функции, задающие уравнения связи, умноженные на неопределенные множители, и искать затем максимум или минимум построенной суммы, как если бы переменные были независимы. Полученные уравнения, присоединенные к уравнениям связи, послужат для определения всех независимых неизвестных».
Так писал Ж. Лагранж в своей книге «Теория аналитических функций» в 1797 г. Это положение, именуемое ныне принципом Лагранжа, относится к числу важнейших идей, на которых строится современная теория экстремальных задач. В текущем параграфе мы дадим обоснование принципа Лагранжа для многоцелевых задач выпуклого программирования.
5.2. Принцип Лагранжа
315
5.2.1.	Рассмотрим векторную программу
Аж = у, д(х) < 0, f(x) —> inf,	(Р)
где f : X —> Е* и д : X —> F* — выпуклые операторы, Л € &(Х, У), у € У, X и У — топологические векторные пространства, Е и F — предупорядоченные топологические векторные пространства. Везде (за исключением 5.2.10) мы будем предполагать, что Е — это некоторое F-пространство. Перечислим несколько условий, которые потребуются ниже.
(а)	Условие Слейтера: существует точка xq 6 С, для которой элемент -д(хо) входит во внутренность конуса F+.
(б)	Слабое условие Слейтера: выпуклые множества epi(p)O(C х F) и — X xF+ находятся в общем положении.
(в)	Условие штрафа: существует возрастающий сублинейный оператор р: F —> Е такой, что если д(х) 0, то р о д(х) 0, какова бы ни была точка х G С.
(г)	Условие квазирегулярности: точная нижняя граница множества {{(р °:	€ С} в булевой алгебре компонент ®(Е) есть нулевая компо-
нента. Иными словами, для каждого ненулевого проектора тг G фг(Е) найдутся ненулевой проектор тг' тг и элемент х’ € С такие; что тг'р о д(хг) < 0.
(д)	Условие открытости: подпространство Л(Х) дополняемо в У, а оператор Л : X —> Л(Х) открыт, т. е. для любой окрестности нуля U С X множество Л(С7) будет окрестностью нуля в Л(Х).
(е)	Условие непрерывности: оператор / непрерывен в некоторой точке х G С.
Программу (C,g,f) называют регулярной по Слейтеру (слабо регулярной по Слейтеру), если выполняются (а) и (е) (соответственно (б) и (е)). Если же имеют место (в), (г) и (е), то говорят, что рассматриваемая программа квазирегулярна. Соответствующие понятия регулярности для программы (Р) определяются так же, нужно лишь положить С := {Л = у} и добавить условие открытости (д). Условие непрерывности (е) можно, разумеется, ослабить и заменить его требованием общности положения подходящих выпуклых множеств. Мы воздерживаемся от этого, чтобы избежать громоздкости. Смысл условий регулярности станет абсолютно ясным при выводе принципа Лагранжа и признаков оптимальности.
5.2.2.	Пусть а е J2?+(E), /3 G &+(F,E) и 7 е &(Х,Е). Положим по определению
L(x) :== L(x, а, /3, у) := а о f(x) + /3 о д(х) + 7 о Лх — уу.
Если а £ &+(Е) или /3	&+(F,E), то считают L(x,a,0,7) = —00. Тем са-
мым L определен на произведении X х в$?+(Е) х J£+(F,E) х J£(Y,E), причем операторы L(-,a,(3,y) и —Ь(х,выпуклы для всех х,а,0,у. Отображение L называют лагранжианом программы (Р), а операторы а, /3 и у — множителями Лагранжа.
5.2.3.	Пусть X,Y nZ — топологические векторные пространства. Рассмотрим оператор Л G &(Х, У), удовлетворяющий сформулированному выше условию
316
Глава 5. Выпуклые экстремальные задачи
открытости 5.2.1 (д). Тогда для любого оператора Т 6 Jf(X, Z) равносильны следующие условия:
(1)	кег(Л) С кег(Т);
(2)	существует линейный непрерывный оператор S : Y —> Z такой, что SoA=T.
<1 Импликация (2) —> (1) очевидна. Докажем (1) —* (2). Из (1) вытекает, что если Axi = Лт2, то Txi = Тх2, каковы бы ни были xi и х% из X. Значит, для каждого у G Л(Х) множество Т(Л"’1(^)) состоит из единственной точки, которую мы обозначим символом Soy. Таким образом, равенством Soy = Г(Л-1(т/)) (г/ е Л(Х)) определяется линейный оператор So : Л(Х) —> Z, причем So о Л = Г. Если V — окрестность нуля в Z, то S^"1(V) = Л(Т”1(У)) есть окрестность нуля в Л(Х) ввиду непрерывности Т и условия открытости для Л. Следовательно, So G e27(A(X),Z). Если Р — непрерывный проектор в У на подпространство Л(Х), то оператор S := So о Р искомый. >
5.2.4.	В предложении 5.2.3 условие открытости Л можно заменить на следующее: пространства X и Л(Х) метризуемы, причем Л(Х) нетощее и дополняемо в У. В самом деле, при соблюдении этих требований Л есть открытое отображение из X в Л(Х) (см. 3.1.18).
Если же У локально выпукло и Z := R, то можно опустить и требование дополняемости Л(Х) в У. В самом деле, функционал So : Л(Х) —> R (см. 2.3) по теореме Хана-Банаха допускает продолжение до непрерывного линейного функционала S : У —> R.
5.2.5.	Пусть С С X — выпуклое множество и f : X —> Е* — выпуклый оператор, непрерывный в точке xq € С. Тогда множества epi(/) и С х Е+ находятся в общем положении.
О Можно считать, что хо = 0 и /(хо) = 0. Возьмем произвольные окрестности нулей U' С X и V С Е, число ef > 0 и положим Wf := U' х V' х (-е', е'). Подберем число е > 0 и окрестности нулей U С X и V С Е так, чтобы удовлетворялись условия:
2е < е', V - eV С V', V А Е+ - V А = V, exo + U С U', /(х0 4- (1 /e)U) С V.
Если (х, e,t) е W := U х V х (—е,е), то
(x,e,t) = (ех0 + х, е/(х0 4-х/е)+ 4-е+, e4-*+) - (sx0, ef(xo 4-х/е)+ 4-е", e + t~).
Отсюда видно, что W С H(epi /) A Wf — Н(С х Е+) A W'. О
5.2.6.	Пусть е G Е — значение слабо регулярной по Слейтеру задачи (С, g, f). Тогда найдутся такие /3 € <Sf+(F, Е) и Л € &(Х, Е), что
inf {/(х) 4- /3 о д(х) 4- Л(х)} = е 4- sup{A(x)}.
Х^х	хес
<3 Рассмотрим отображение h : X Е*, действующее по формуле Д(х) := := /(х) — е 4-	° 9с(х), где дс := д 4- <5f(C). Очевидно, что h — выпуклый
5.2. Принцип Лагранжа
317
оператор и inf {h(x) : х € X} = 0 или, иначе, Л*(0) = 0. Применим правило вычисления сопряженного к сумме (см. 4.1.5 (1)). Нужное нам условие общего положения выполняется в силу 5.2.5. По соответствующей точной формуле существует линейный непрерывный оператор 7': X —* Е такой, что
(/ - е)* (У) + (W) о дсу (-У) = 0.
Воспользуемся теперь точной формулой для вычисления сопряженного к суперпозиции (4.1.9 (3)). На этот раз нужное условие общего положения дает слабая регулярность по Слейтеру. Итак, существует оператор /3 €	такой, что
(Z? ° дсГ (-У) = (6E(F~) о дс)* (-У).
Учитывая это, получим
о = (/ - е)* (У) + (/? о дс)* (-Y) > inf {(/ - е)* (7)+
+ (/з °дсГ (-7) •• 7 е Е)} = (/ - е + /3 о Рс)*(0).
Из включения (3 € cME(F“) видно, что (3	0, поэтому f — е + (3 о дс <
f - е 4- <5е(^~) °0си(/-е + /3о дс}* (0)	Л*(0) = 0. Окончательно
(/-е + /?ор + 5Е(С))*(0) = 0.
Поскольку оператор f — е + (Зд непрерывен в некоторой точке множества (7, то благодаря 5.2.5 вновь можно применить правило вычисления сопряженного к сумме. При этом мы получим, что существует оператор А € -2?(Х, Е) такой, что
(/— е 4-/3 ор)* (—А) + С*(А) = 0.
Привлекая теперь определение сопряженного оператора, мы немедленно приходим к требуемому соотношению. 1>
5.2.7.	Пусть е € Е — значение квазирегулярной задачи (C,g,f). Тогда найдутся множители Лагранжа a € Orth+(J5), /3 € j£?+(F, Е) и А € «£?(Х, Е) такие, что ker(a) = {0} и
ае 4- sup {Ах} = inf {af(x) 4- (3g(x) + Ах}. хес Х^х
<1 Рассмотрим выпуклый оператор h : X —> Е9, определяемый формулой h(x) := (/(х) — е) Vрод(х), где е — значение программы (C,g,f). Ясно, что
0 = inf {h(x) : х G С} = inf {h(x) 4- 5e(C)} xE.X
или, что то же самое, (h 4- <5е(С))* (0) = 0. Так же, как и в 5.2.6, можно получить Л* (—А) = С* (А) для некоторого А G JSf(X, Е). Воспользуемся теперь
318
Глава 5. Выпуклые экстремальные задачи
правилом вычисления сопряженного оператора к супремуму выпуклых операторов из 4.1.5 (3). Соответствующая точная формула обеспечивает существование ортоморфизмов a, a' € Orth+(E) и операторов А1,Аг € Е) таких, что а 4- а! = —А = Ai 4- А2, и
(ао(/- е))* (Ах) + (а' о р о р)* (А2) = -<5Е(С)* (А).
Привлекая точную формулу 4.1.9 (3), получаем
(а(/ - е))* (Аг) + (/3 о д)* (А2) = -С*(А),
где /? Е д(а' о р). Так как а' о р — возрастающий сублинейный оператор, то /3 G Е) (см. 1.4.14 (6)). В силу 4.1.5 (1) и предыдущей формулы будет
(ао(/-е) + ^ор)*(-А)^-С*(А).
С другой стороны,
а(/(ж) - е) 4- (Зд(х) а(/(ж) - е) 4- а'р о д(х) h(x)
и в соответствии с 4.1.2 (5) верно
-С*(А) = Л*(-А)	(а(/ - е) 4- (Зд)* (-А).
Тем самым возникает равенство
С*(А) = -(«(/-е) + ^)*(-А).
Учитывая определение преобразования Юнга-Фенхеля, выводим
sup {Аж} = — sup {—Аж — af(x) 4- ае — /Зд(х)} = хЕС	хЕХ
= — ае 4- inf {а/(ж) 4- (Зд(х) 4- Аж}.
Докажем, что кег(а) = {0}. Обозначим через тг проектор на компоненту ker(a) С Е. Ясно, что тга = атг = 0. Из уже доказанного равенства видно, что
ае 4- Аж' а/(ж) 4- (Зд(х) 4- Аж (ж € X, ж' G С).
При ж = х' € С имеем а(/(ж) — е) + /Зд(х) 0. Следовательно,
0 тг(а/(ж) — ае) 4- тг/3<?(ж) = тг/3д(х) тга'рр(ж) = л(1е — <*)рд(х) — ярд(х).
Итак, тгрр(ж) > 0 для каждого ж Е С. Предположение тг / 0, в силу условия квазирегулярности 5.2.1 (г), влечет существование О^тг'^тгиж'еС таких, что тг'рр(ж') < 0, и ведет к противоречию тг'рр(ж') = тг'(тгрр(ж')) > 0. Поэтому тг = 0 или, что то же самое, кег(а) = {0}. >
5.2.8.	Сформулируем теперь вариант принципа Лагранжа, утверждающий в новой ситуации, что конечное значение векторной программы есть значение безусловной задачи для подходящего лагранжиана.
5.2. Принцип Лагранжа
319
Принцип Лагранжа для значений векторных программ. Пусть е$Е — значение векторной программы (Р).
(1)	Если программа (Р) слабо регулярна по Слейтеру, то найдутся такие множители Лагранжа 0 G Е) и 7 €	Е), что
е = inf {/(х) + 0д(х) +	- 7у}.
хбХ
(2)	Если программа (Р) квазирегулярна, то найдутся такие множители Лагранжа a G Orth+(E’), 0 G JS?+(F, E) и у G ^(Y, E), что ker(a) = {0} и
ae — inf {af(x) 4- 0g(x) 4- 7Л2: — yy}.
x^X
< Нужно применить 5.2.6, положив С := {т G X : Лх = у}. Тогда С* (А) / 4-00 в том и только в том случае, если кег(Л) С кег(А). При выполнении последнего условия будет С*(А) = Ахо, где xq G X и Лто = У- Остается привлечь 5.2.3. В этих рассуждениях неявно предполагается, что С / 0. Если С = 0, то следует взять 7 = 0. Во второй части рассуждения те же, нужно только использовать 5.2.7 вместо 5.2.6. >
5.2.9.	Принцип Лагранжа для 6-решений векторных программ. Допустимая точка xq является е-решением квазирегулярной векторной программы (Р) в том и только в том случае, если существуют множители Лагранжа a G Orth+(E), 0 G E) и 7 G &(Y,E) такие, что ker(o) = {0}, выполняется условие дополняющей нежесткости 6 := ae 4- 0g(xo) 0 и xq есть 6-решение безусловной задачи для лагранжиана L(x) := af(x) 4- 0g(x) 4- 7ЛТ — 7?/ (х G X).
<] Если xq — это ^-решение нашей программы, то /(то) е 4- £. Учитывая 5.2.8 (2), мы видим, что
а/(т0) < ае 4- ае < ае 4- Ь(х, а, 0, у) (х G X),
причем а, 0 и 7 удовлетворяют нужным условиям.
Прибавив к обеим частям неравенства 0д(хо), получим
Цх0, а, 0,7) Цх, а,0,7) 4- ае 4- 0д(хо).
При х = то видно, что 6 = ае 4- 0g(xQ) 0. Следовательно,
L(xq,а, 0,у) < inf {L(x, а, 0,7)} 4- 6, xGX
т. е. xq есть 5-решение безусловной задачи L(x,a,0,y) := L(x) —> inf.
Наоборот, пусть то есть 5-решение указанной задачи, причем кег(о) = {0} и 5 := ае 4- /3#(то) > 0. Тогда выполняется
«/(яо) 4- 0g(xo) af(x) 4- 0д(х) 4- у Ах -уу + 6 (т G X).
При х G {Л = у} и д(х) 0 неравенство легко приводится к виду
0 а(/(т) - /(т0)) 4- ае 4- 0д(х) а(/(т) - /(т0) 4- е).
Отсюда и следует требуемое неравенство /(то)	/(т) 4- е, ибо кег(а) = {0}. О
320
Глава 5. Выпуклые экстремальные задачи
Пусть предпорядок в Е задается так, как описано в 5.1.5, причем функционал q непрерывен и 0 0 dq. Тогда справедливо следующее утверждение.
5.2.10.	Принцип Лагранжа для е-Парето-оптимальности. Если допустимая точка xq является Е-Парето-оптимальной в регулярной по Слейтеру программе (Р), то существуют непрерывные линейные функционалы a G Е', 0 е Ff и у G У' такие, что a > 0, /3 > 0, 6 := ae + 0д(хо) 0 и xq является 6-решением безусловной задачи для лагранжиана L(x, а, /3,7).
Наоборот, если 5 > 0, xq есть 6-решение безусловной задачи
L(x, а, /3,7) inf
и, кроме того, кег(а)пЕ+ С {е G Е : q(e) = 0}, toxq будетЕ-Парето-оптимальной точкой в программе (Р).
< Как уже отмечалось в 5.1.5, для е-Парето-оптимальной точки верно, что q(f(x) — /(то) + е) > 0 для всех х G X при условии д(х) 0 и Лт = Лжо. Возьмем множество
С := {/(т) — /(то) + £ + а : х G X, д(х) 0, Лт = Лто, a G Е4*}.
Понятно, что С выпукло и q(c) 0 для всех с € С. Применив теорему о сэндвиче 3.2.15 к выпуклым функциям q и 5r(C), найдем функционал a G dq, для которого ас 0 при с G С. Тем самым а/(#о)	а/(ж) + если д(х) 0 и
Лх = Ахо- Иными словами, xq есть а(е)-решение программы
Лт = Лто, д(х) < 0, af(x) —> inf
со скалярной целевой функцией а/. Заметим, что а 0, так как q возрастает, и а / 0, ибо 0 dq. В силу условия Слейтера для некоторой допустимой точки х элемент 1 := — д(х) является внутренней точкой F+, а тогда и сильной единицей в F.
Положим по определению
ч p(u) := inf {t G R : u £1} (u G F).
Нетрудно заметить, что p — возрастающий непрерывный сублинейный функционал, причем д(х) 0 в том и только в том случае, если рд(х) < 0. Ввиду сказанного ясно, что xq есть а(е)-решение скалярной задачи
Лт = у, рд(х) < 0, af(x) —> inf.
Для этой задачи выполняются условия теоремы 5.2.8 (2). Следовательно, существуют А, р G R и 7' G У' такие, что А > 0, р > 0 и
Хе = inf {Xaf(x) -I- црд(х) + 7'(Лх - у)},
xGX
где е — значение рассматриваемой программы. Отсюда вытекает, что для некоторого /3' G d(pp) будет
—Ае = (Ла/ + ррд + 7'(Л - у))* (0) = (Ла/ + 0'д + 7'(Л - 2/))* (°)-
5.3. Признаки оптимальности и приближенной оптимальности	321
Полагая /3 := /3'/А, 7 := 7'/А, находим
е = inf {otf(x) + 0g(x) + 7(Лж - у)}. х€Х
Принимая в расчет неравенство а/(жо) С е 4- as, можно написать
а/(ж0) - as е af(x) + 0д(х) + 7(Лж -у) (ж € X)
или, что то же самое,
Е(ж0, а, 0, у) L(x, а, /3,7) 4- 0д(хо) 4- as (х € X).
Полагая х = xq в этом неравенстве, увидим, что S := as 4- 0д(хо) 0. Тем самым жо есть (5-решение безусловной задачи для лагранжиана.
Допустим теперь, что 5 := as 4- 0д(хо) > 0 и жо - это 5-решение задачи Ь(ж,а,/3,7) —> inf, где 0 < а € Е', 0	/3 € F', 7 € У', 0 s G Е. Тогда
для каждого допустимого х будет a(s + f(x) — /(жо)) > 0- Покажем, что нуль есть минимальный элемент множества {/(ж) — /(жо) 4- s : д(х) 0, Лж — у}. Если ж — допустимая точка и с := /(ж) — /(жо) 4- s < 0, то ас < 0 и —с > 0. Итак, а(—с) = 0, т. е. —с € ker(a) П Е+. В силу дополнительного предположения относительно а выполняется q(—c) = 0, поэтому 1с 0 для всех I G dq, откуда с > 0. Эти рассуждения показывают, что если для допустимой точки ж верно /(жо) — s > /(ж), то верно также /(жо) — s < /(ж), т. е. жо есть s-Парето-оптимум в задаче (Р). t>
5.3.	Признаки оптимальности и приближенной оптимальности
В этом параграфе из установленных выше вариантов принципа Лагранжа выводятся признаки e-оптимальности, обобщенной s-оптимальности и s-Парето-оптимальности для векторных программ. Сформулированные утверждения при s = 0 превращаются в признаки точной оптимальности. Стоит подчеркнуть, что случай s = 0 можно анализировать несколько иначе при менее жестких требованиях к данным рассматриваемой программы (ср. 4.2.5). Однако все подобные детали мы ниже опускаем.
5.3.1.	Теорема. Допустимая точка жо является е-оптимальной в слабо регулярной по Слейтеру задаче (Р) в том и только в том случае, если совместна система условий:
0e&+(F,E), у e£\Y,E);
0 si,s2 € Е, /Зор(ж0) 4-s Si 4- s2;
0 е 0£1/(хО) +<?e2(/3off)(x0) + 70Л.
<1 Предположим, что приведенная система совместна. Тогда по теореме 4.2.7 заключаем
О € <?£1+е2 (/ + /Зд + 7Л)(2!о),
11 Кусраев А. Г., Кутателадзе С. С,
322
Глава 5. Выпуклые экстремальные задачи
т. е. xq есть (ех 4- ^-оптимум в безусловной задаче f(x) 4- 0д(х) 4- уЦх) —> inf. Для допустимой точки xq выполняется
Л^о) f(x) 4- 0д(х) - 0g(xQ) + + г2 -	- 7Лт0
f(x) 4- 0д(х) 4- е f(x) 4- е.
Отсюда видно, что xq является е-оптимумом в задаче (Р).
Пусть теперь известно, что xq является е-решением рассматриваемой программы. В силу принципа Лагранжа 5.2.8 (1) значение е € Е программы (Р) есть значение безусловной задачи для лагранжиана L(x) := f(x) 4- 0g(x) 4- 7Лх — 7ЛХ0 при подходящих множителях Лагранжа 0 G Е), 7 G <5?(У,Е). Следовательно, Лжо) — е е = infxex {£(#)} < Цх). Из этого соотношения вытекает /(хо) — £ < L(xq) = /(хо)+ад(хо). Значит, элемент <5 := е + 0д(хо) положителен. Кроме того,
О ^ £ 4- Цх) - Л#о) = f(x) + 0д(х) 4- 7Ля - (Лжо) + 0g(xQ) 4- 7^0) 4- S
для всех х G X и, стало быть,
0 е dfi(f 4-/30^4-70 Л)(ж0).
Привлекая формулу для е-субдифференцирования суммы (теорема 4.2.7), найдем такие 0 < £Х, е2 G Е, что £1 4- £2 = 6 и
0 € d£1f(x0) + де2(0 ° д)(хо) 4-7 ° Л. О
5.3.2.	Теорема. Допустимая точка Xq является е-оптимальной в квазирегу-лярной задаче (Р) в том и только в том случае, если для некоторых a G Orth(E), 0 G &(F,E) и у G (У, Е) совместна система условий
а 0, /3^0, кег(о) = {0},
О^р, A G Е, р 4- А ае 4- 0g(xQ), 0 G dy(a о f )(xq) 4- dx{0 о g)(xQ) 4- 7 0 Л.
<] Для доказательства нам нужно применить принцип Лагранжа из 5.2.9 для ^-решений и воспользоваться формулой е-субдифференцирования суммы из 4.2.7. О
5.3.3.	Если соблюдены все условия теоремы 5.2.6, то допустимая точка xq является е-оптимальной для программы (С, g, f) в том и только в том случае, если для некоторых Х,р,и G Е, 0 G Е) и у G Е) совместна система условий
А^О,	^^0, А 4- у е 4- 0g(xQ) 4-
suPx€C {?£} < 7(®о) + д; о G <?д/(а:о) + dv(0 о 5)(x0) + 7.
<1 Доказательство можно извлечь из 5.2.6 по той же схеме, что и в 5.3.1. О
5.3. Признаки оптимальности и приближенной оптимальности	323
5.3.4.	Теорема. Множество допустимых точек {ж?,...	} является обоб-
щенным е-оптимумом в слабо регулярной по Слейтеру векторной программе (Р) в том и только в том случае, если совместна система условий:
о £1, £2 ё Е, 0	ai,...,Qn € Orth(E);
n	n
ei +£2	+ e, y^ak = lE;
fc=i	fc=i
° f(xty = Л • • •Л Я4); fc=i
О € ak9eif(xk) + de3(0k ° $)(4) + 7fc ° A (k := 1,..., n).
< Пусть {x?,... ,^0} — обобщенное е-решение программы (Р). Положим w := (/(х°), • • ч /(4)) и допустим, что а 6 Оеп,е(—w), где
£n.E(ei, •.., en) = ei V ... V еп ((еъ...en) G Еп).
В силу 2.1.5 (2) существуют ортоморфизмы 0 ац,... ,an € Orth(f?) такие, что
Qi + ... + ап = /е,
о* о /(®g) = -£n,E(-w) = /(х?) Л... Л /(х°), fc=l
п
a(ei,...,en) = 52а*ек ((ei,...,en) G En).
fc=i
Определим операторы ip : Xn —► E9, : Xn (En)9 и A : Xn —* Yn формулами
n y>(xi,...,xn) = y^ock° f(xk), fc=i
V»(xi,... ,xn) = (g(xi),... ,g(xn)),
A(xi,...,xn) = (Лх1,...,Лхп).
Ясно, что ip и ф - выпуклые операторы, непрерывные в некоторой точке (xq, ... ,хо) такой, что Axq = у, а А — линейный непрерывный оператор, удовлетворяющий условию открытости. А так как множества (epi(^) П ({Л = у}хЕ))п и — Хп х (Е+)п находятся в общем положении, то в общем положении находятся и множества epi(^) П ({А = v} х Еп) и — Хп х (Е+)п, совпадающие с ними с точностью до перестановки координат. Следовательно, программа
Xu = v,	0, <р(и) —> inf
И
324
Глава 5. Выпуклые экстремальные задачи
слабо регулярна по Слейтеру и вектор uQ = (ж?,..., является для нее 6-ре-шением. По теореме 5.3.1 существуют операторы 0 G <5f+(Fn, Е) и 7 G «5?(УП,Е*) и элементы 61,62 € Е такие, что
€1^0, 62 > 0, /Зо^(и°) +е > sj +е2, 0 € де1 <р(и0>) + dS2 (/3 О ^)(и°) + 7 о А. Понятно, что /3 и 7 задаются наборами 0i,...,0n е -£’+(F,Е) и 71,...,7П € G ^(Y, Е) в соответствии со следующими формулами:
71	П
&(xi,...,xn) =	7(Ж1,...,ЖП) = 527fcCrfc),
fc=l	k=l
поэтому предыдущие соотношения можно записать в виде
п
Е1 + £2 52 & °	+ £,
fc=l
0 € akdS1f(xk) + д£2(/Зк °9)(х°к) + 7fe 0Л (fc :=
Обоснование обратного утверждения мы оставляем читателю. 1>
5.3.5.	Теорема. Если допустимая точка хо является е-Парето-оптимальной в регулярной по Слейтеру программе (Р), то существуют непрерывные линейные функционалы a € Ef, /3 е F', у € Y' и числа 61,62 G R такие, что совместна система условий:
a > 0, /?^0, 61 > 0, 62^0; 61 4- 62 осе 4- /3 о^(т0);
0 € 3£1(ао/)(х0) + де2(0 о д)(х0) + 70Л.
Наоборот, если приведенные условия выполняются для некоторой допустимой точки хо и, сверх того, кег(а) ПЕ+ С {q = 0}, то то является е-Парето-оптимумом в программе (Р).
<] Выводится непосредственно из принципа Лагранжа для приближенной Парето-оптимальности (см. 5.2.10) с применением правила субдифференцирования суммы 4.2.7. >
5.3.6.	В заключение параграфа рассмотрим еще одно простое приложение субдифференциального исчисления к выводу критерия 6-оптимальности в конечношаговой динамической задаче.
Пусть Xq, ..., Х^ — топологические векторные пространства, a Gk — непустое выпуклое соответствие из Xk-i в Xk, к := 1, ...,ЛГ. Совокупность C?i,...,Gjv задает динамическое семейство процессов	где Gk,t — соответствие
из Xk в Xi, определяемое равенствами:
Gkj •= Gfc+i о... о Gi (к 4-1 < /);
Gk,k+i := Gfc+i (к := 0,1,..., N - 1).
Очевидно, что Gk,i ° G^m = Gk,m для всех к < I < m N.
5.3. Признаки оптимальности и приближенной оптимальности	325
Траекторией рассматриваемого семейства процессов называется упорядоченный набор элементов (жо,...,xn) такой, что вхождение xi € Gk,i(xk) имеет место для всех к < I N. При этом говорят, что хо — начало траектории, а xn — ее конец.
Пусть Е — топологическое АГ-пространство. Зафиксируем выпуклые операторы fk : Xk —* Е* (fc := 0,1,..., АГ) и выпуклые множества Во С Хо и Bn С Xn-Для набора у := (хо,. *., xn) положим
N
fc=l
Допустимой мы будем называть такую траекторию, для которой начало входит в Во, а конец попадает в Bn-
Траекторию у0 :=	называют е-оптимальной, если Жд G Во,
xQN G Bn и /(у0) < /(у) -I- е для любой допустимой траектории у. Динамическая экстремальная задача состоит в поиске е-оптимальной (или оптимальной в каком-либо другом смысле) траектории рассматриваемого динамического семейства.
Введем множества
N	N
Со~ВохХ; Ci := х J] Xfe; С2 := Хо х G2 х [J Xfc; ;
fc=2	fc=3
N-2	N—l	N
CN := П Xk X Gn-, Cn+1 := П Xk X BN, X := J] Xk.
fc=O	fc=l	fc=O
Пусть оператор fk'.X—>E9 определяется формулой
A(r) = fk&k) (У := (ж0,...,xN), к := 0,..., N).
5.3.7.	Теорема. Пусть выпуклые множества Со х E+,...,Cn+i х Е+, epi(/o)» • • •, epi(/;v) находятся в общем положении в пространстве ХхЕ. Допустимая траектория (ж®» • • •, будет e-оптимальной в том и только в том случае, если совместна следующая система условий:
N	N
Q^5,Sk,€k£E-, ak e^(Xk.E) (fc := 0,...,N); 54- ^6k +	= e;
fc=O	fc=O
(«*-!,«*) e	- {0} x 9ekfk(x°k) (k := 1.....Я);
~ao G ds0Bo(xo) + d£Qfo(xo); ощ G O^Bn^xn)-
<3 Как видно, е-оптимальная траектория u (д?д,... ,x%) будет также s-решением программы
v G Со п ... п Cjy+1, f(y) -4 inf.
326
Глава 5. Выпуклые экстремальные задачи
Следовательно,
(N	N+1	\
52Л+52мс*) («). fc=0	fc=O	/
Ввиду предположения об общем положении можно применить теорему 4.2.7 о субдифференцировании суммы. Значит, найдутся 0 < 6 k 6 Е (к := 0,..., 2V), О < 6 := Е Е, а также линейные операторы	(X, Е), для которых
выполнены соотношения
N	W+1
^£к + ^6к = £'
fc=O	fc=O
(I := 0,1,... ,N),
N+l	N
o=22-24+52^-fc=0	fc=0
Нетрудно видеть, что операторы и Зв := ЗВ\ 4-... + Зв^ можно записать в виде:
Ч = (се'о,О,О,...,О,О,О),
= (ао»«рО, ...,0,0,0),
^2 = (0,—Q1,	•••’0,0,0),
£?n-i = (0,0,0,..., -^-2?«ЛГ-1,0), £?n = (0,0,0,..., 0, — Ofyv—19 <2jy), = (0,0,0,..., 0,0, —
Зв = (-00,01,02, • • - ,0N-2,0N-1,0n),
где afe, ot'k е &(Хк,Е) и -0i G d€lfi(x$) (I := 1,... ,2V). Отсюда а'к = ак - 0к (к := 1,..., ЛГ). Теперь для к := 1,..., N ввиду субдифференциальных вхождений для операторов можем написать
(otk-i,a'k) = (<*k~i,ak -0k) = (otk-i,otk) 4- (0, -0k) E d^G^fx^^.Xk)
и далее
(afc-i,aifc) G 56kGfc(4-i,4) “ {°} x ^e*/fc(4)-
Кроме того, при fc = 0n/i: = N + l получаем соотношения
-а0 = <*0 - 00 € dSoB0(x%) + deofo(x%), aN € dSN+iBN(x°N),
что и требовалось. О
5.3. Признаки оптимальности и приближенной оптимальности	327
5.3.8.	Рассмотренную выше динамическую экстремальную задачу называют терминальной, если целевое отображение зависит только от конечного состояния:
/(у) =	(у := (х0,..., xN) G X).
Будем считать, что f — выпуклый оператор из Хм в Е.
Если (жо,..., ждг) — это ^-оптимальная траектория в терминальной задаче, то есть s-решение экстремальной задачи
х G С := Go,n(Bo) П В#, /n(x) —► inf.
Это следует из того, что для a G Во и b Е С по очевидным соображениям найдется траектория с началом а и концом Ь. С другой стороны, если х — это е-решение указанной экстремальной задачи, то х е Gq,n(xq) для некоторого ж0 6 Bq и траектория, соединяющая жо и ж, будет s-оптимальной. Вместе с тем понятно, что интересна характеризация оптимальной траектории в целом, а не только ее конечного состояния. Этим и отличается рассматриваемая задача от программы вида ж € С, f(x) —> inf.
Последовательность линейных операторов ак € £\Хк,Е) (к := О, называют е-характеристикой траектории (жо,...,ждг), если для некоторых О^£1,...,€дгбЕ| выполняются соотношения
£1 + • • • 4*	= б,
akx - aiy akxk ~ otixi 4- £k+i 4- ... 4-(x,y)eGkj (0^k<l^N).
5.3.9.	Теорема. Пусть выпуклые множества Со х Е+,... ,Cn+i х Е+ и Пь^о1 Xk х epi(/) находятся в общем положении. Тогда допустимая траектория (жо,... ,хк) будет £-оптимальной в том и только в том случае, если для некоторого 0 С 6 G Е существует 3-характеристика (ао,..., °w) этой траектории такая, что выполнены условия
i/,/ieE+, v + p + 6 = oto(xo) С inf {ао(я)} 4-д; хе Во
&N € ^/(ждг) 4~ OxBN(xN).
<1 Субдифференциальные вхождения из 5.3.7 можно переписать в эквивалентной форме:
(afc_i,afc) е d6kG(xk-i,xk) + de^fk^iixk-i) х {0} (fc := 0,1,... ,N - 1);
-a0 € д^Во(хо); ощ 6 д£к/лг(ждг) 4- дбВм(хк).
Отсюда немедленно вытекает требуемое. [>
5.3.10.	Сформулированные в текущем параграфе признаки оптимальности используют предикат принадлежности G. Например, критерий Ферма звучит
328
Глава 5. Выпуклые экстремальные задачи
так: х — решение безусловной задачи f(x) н-» inf в том и только в том случае, если 0 € df (х). Элемент 0 можно рассматривать как субдифференциал нулевого функционала. При этом вхождение О G df(x) переписывается в виде включения {0} С Of(x). В связи с этой особенностью в негладком анализе и теории экстремальных задач часто вместо слова «вхождение» используют термин «включение».
5.4. Признаки инфинитезимальной оптимальности
Здесь мы анализируем инфинитезимальные решения выпуклых векторных программ (см. 5.1). Необходимый аппарат содержится в 4.6 и Приложении 5.
5.4.1.	В стандартной безусловной программе f(x) —> inf имеется инфинитезимальное решение в том и только в том случае, если, во-первых, образ f(X) ограничен снизу и, во-вторых, существует стандартное обобщенное решение (х£)£^ рассматриваемой программы, т. е. х£ € dom(/) и f(x£) < е 4- е для всех е S, где е := inf f(X) — значение программы.
< В силу принципов идеализации П5.2(2) и переноса П5.2(1) с учетом 4.6.3 заключаем
(Эх0 е X) о € Df(x0) w (Зх е х) (V8^ g <?) о g def(x0)
w (V^Vo С <?) (Эх G X)(Ve G <?)0 G def(x) ~
w (У»‘£ G <?) (Зхе G X) 0 G де/(хе) ~
~ (W G (Эх G X)(Vx G X) /(хе)	/(х) + е. >
5.4.2.	Рассмотрим регулярную выпуклую программу
д{х) 0, f(x) -> inf.
Таким образом, д, f : X —> Е* (для простоты dom(/) — dom(<?) = X) при каждом х € X либо д(х) 0, либо д(х) > 0 и, кроме того, для некоторого х G X элемент д(х) — это единица в Е.
5.4.3.	В случае стандартного антуража допустимая внутренняя точка хо является инфинитезимальным решением рассматриваемой регулярной программы в том и только в том случае, если совместна следующая система условий:
а,/3 €° [0, Ze], a + /3 = ZE, ker(a) = {0};
(3 о g(xQ) « 0, 0 е D(a О /)(ж0) + D(j3 о д)(х0).
<1 При совместности рассматриваемой системы для допустимого х при некоторых бесконечно малых Si и будет
а/(#о) af(x) 4- /Зд(х) - /3g(xQ) 4- £i 4- е2 otf(x) 4- е
5.4. Признаки инфинитезимальной оптимальности
329
для каждого стандартного е G В частности, а(/(хо) — /(х)) С аг при г €	,
ибо а — это стандартное отображение. В силу условия кет (а) = {0} и общих свойств мультипликаторов видим, что Хо — инфинитезимальное решение.
—Пусть
е := inf {/(х) : х € X, д(х) < 0}
— значение рассматриваемой программы. По условию и в силу принципа переноса е — стандартный элемент. Значит, вновь привлекая принцип переноса, по теореме о векторном минимаксе 4.1.10 (1) найдем стандартные мультипликаторы а,/3 €° [0, 1е] такие, что
а + /3 = 1Е, 0 = inf {а(/(х) - е) + /3#(х)}.
хех
Обычным рассуждением проверяется, что ker(a) = {0}. Кроме того, поскольку Xq является инфинитезимально оптимальным решением, для некоторого бесконечно малого г будет г = /(хо) — е. Следовательно, при любом х € X справедлива оценка
-аг af(x) - af(xv) 4- /Зд(х).
В частности, 0 > /Зд(хв) —аг —г, т. е. 0д(хо) ~ 0 и
о е das+f3g(xo)(af + (Зд)(х0) С D(af + /?ff)(x0),
ибо аг + /З^(хо) « 0. О
5.4.4.	Рассмотрим регулярную в смысле Слейтера программу
Лх = Ах, д(х) 0, /(х) —> inf;
т. е., во-первых, Л € L(X, X) — линейный оператор со значениями в некотором векторном пространстве X, отображения f : X —* Е* и д : X —> F* — выпуклые операторы (для удобства dom(/) = dom(g) — X), во-вторых, F — архимедово упорядоченное векторное пространство, Е — стандартное Х-пространство ограниченных элементов и, наконец, в-третьих, для некоторой допустимой точки х элемент д(х) является сильной единицей в F.
5.4.5.	Критерий инфинитезимальной оптимальности. Допустимая точка хо является инфинитезимальным решением регулярной в смысле Слейтера программы в том и только в том случае, если совместна следующая система условий:
0<=L+(F,E), уеЦХ,Е), 7д(х0)^0,
0 е Df(x0) + D(J3 о д)(хо) + 7 о Л.
<1	: При совместности рассматриваемой системы для всякой допустимой
точки х и некоторых бесконечно малых £i и £2 будет
/(Яо) /(я) + £1 + Рд(х) - 0д(хо) + £2 - ?Ла: + 7ЛЖ0
/(х) + ei + б2 - 0д(хо) <	+ е
при любом стандартном г € <?.
330
Глава 5. Выпуклые экстремальные задачи
—Если xq — инфинитезимальное решение, то оно и s-решение для подходящего бесконечно малого е. Остается привлечь соответствующий критерий s-оптимальности. о
5.4.6.	Допустимая точка хо называется инфинитезимально Парето-опти-мальной в программе 5.4.4, если xq является е-Парето-оптимальной для какого-нибудь бесконечно малого е (относительно сильной единицы 1е в пространстве Е), т. е. если для допустимого х выполнено f(x) — /(хо) — £1е, то f(x) - f(xQ) = slE при е е м(®+)-
5.4.7.	Пусть точка xq инфинитезимально Парето-оптимальна в регулярной в смысле Слейтера программе. Тогда при некоторых линейных функционалах а, /3 и у на пространствах Е, F и X соответственно совместна следующая система условий:
а > 0, /3^0, 0g(xQ) « 0,
0 € D(ot о /)(х0) + D(J3 о #)(х0) + 7 ° Л.
Если, в свою очередь, приведенные соотношения выполнены для некоторой допустимой точки хо, причем п(1е) = 1 и кет (а) П Е+ = {0}, то хо служит инфинитезимально Парето-оптимальным решением рассматриваемой программы.
< Первая часть доказываемого утверждения вытекает из обычного признака s-Парето-оптимальности с учетом отмеченных ранее свойств бесконечно малых. Если же выполнена гипотеза второй части интересующего нас предложения, то, привлекая определения, для любого допустимого х Е X заключаем:
0 а(/(х) - /(то)) -k (3g(x) - 0g(xQ) + Si + е2
а(/(х) - /(х0)) + si + е2 - Ш)
при подходящих бесконечно малых Si и е2. Положим е := si +£2 — /?<7(#о)- Ясно, что s~0 и О 0. Если теперь для допустимого х верно f(x) — /(хо) С —то получаем равенство а(/(хо) —/(х)) = г. Иными словами, ot(f(x) — J(x) —sIe) = 0 и /(х) — /(х) = si#. Последнее как раз и означает, что х — это е-Парето-оп-тимальное решение. О
5.4.8.	Применим теперь инфинитезимальные субдифференциалы и к выводу критерия инфинитезимальной оптимальности в дискретной динамической экстремальной задаче. Так же, как и в 5.3.6 рассмотрим динамическое семейство процессов (Gfcj)fc<^N? где k,l,N € N, заданное непустыми выпуклыми соответствиями Gk из Xk-i в Xk (fc:= 1,..., N).
Пусть Е — топологическое пространство Канторовича. Рассмотрим некоторые выпуклые операторы fk : Xk —> Е* (к := 0,1, ...,ЛГ), а также выпуклые множества Во С Хо и С Х^. Имея набор у := (хо,... ,хдг), положим
N
к=0
Траекторию у0 := (х§,..., х^) называют инфинитезимально оптимальной, если Хо € Во, х^ € и /(у0) достигает инфинитезимального минимума на множестве всех допустимых траекторий. Здесь мы сталкиваемся с частным случаем
5.4. Признаки инфинитезимальной оптимальности 331
общей дискретной динамической экстремальной задачи, состоящей в поиске оптимальной в том или ином смысле траектории динамического семейства. Пусть X, Со, Ci,...,С*дг+1 те же, что и в 5.3.6.
Определим оператор Д : X Е* формулой
А(у) := A(^fc) (у := (ж0,...,xN), k:=0,...,N).
5.4.9.	Теорема. Пусть выпуклые множества
Со х Е+,Сы+1 х Е+, epi(/0),• • •,epi(/w)
находятся в общем положении в пространстве X х Е. Допустимая траектория (хд,..., является инфинитезимально оптимальной в том и только в том случае, если совместна следующая система условий:
ake^(Xk,E) (fc:=0,...,2V);
(ofc-bOfc) €	- {0} х Dfk(xk) (k := 1,.. .,2V);
—Qo £ DBq{xq) + D/o(^o); &N € DBn(xn).
<1 Как видно, инфинитезимально оптимальная траектория и := будет также инфинитезимальным решением программы
v G Со А • • • A Cn+i, f(v) -* inf,
следовательно,
(N	N+l	\
£Л + $2 над («)•
fc=0	fc=0	/
Ввиду гипотезы общего положения можно применить теорему 4.2.7 из [2]. Значит, найдутся линейные операторы € -5С(Х,Е), для которых выполнены соотношения
rfkeDCk(u) (fc:=0,l,...,W),
(/:=0,l,...,W),
N+l	N
o=52^+E^-
k=0	fc=0
Нетрудно видеть, что операторы i/k и S) :=	+ • • • +	можно записать в виде
= (4,0,0,...,0,0,0),
<<^1 = («о, 4,0,...,о,0,0), = (0, -ai,a'2,  •. ,0,0,0),
<4v-i = (0,0,0, ...,-aw-2,4v-i,0), si^n = (0,0,0,... ,0, — aN-i,ot'N),
•4r+i = (0,0,0, ...,0,0,—aw),
= (-/3o,^i,/?2,... ,/?w-2,/?w-i,/?w),
332
Глава 5. Выпуклые экстремальные задачи
где otk,ot'k 6	и —0i € Dfi^x®) (l:= 1,...,7V). Отсюда заключаем, что
ак = otk—ftk (fc = 1,..., N). Теперь для к := 1,..., N ввиду субдифференциальных вхождений для операторов можем написать
(afc_i,<4) = (ак-1,ан ~0k) = (afc-i,«t) + (0, -0k) € DGk(xk_!,Xk)
и, далее,
(а*_ъак) € DGktx^xl) - {0} х Dfk(x°k).
Кроме того, при Ат = 0 и Ат = 7V Ч-1 получаем соотношения
-«о = «о - 0о € DBo(xq) + Dfo(xo), aN € DBn(x°n). t>
5.4.10.	Если (хо, • • •, #jv) — инфинитезимально оптимальная траектория терминальной задачи, то является инфинитезимальным решением следующей экстремальной задачи:
х е С := Со,лг(Во) И Вдг, /n(x) -> inf.
Это следует из того, что, очевидно, найдется траектория с началом а € Bq и концом b € С. С другой стороны, если х — инфинитезимальное решение сформулированной экстремальной задачи, то х G Gq^(xq) для некоторого xq € Bq, а траектория, соединяющая ж0 и х, будет инфинитезимально оптимальной.
Последовательность линейных операторов &к € &(Хк,Е) (к := 0,...,7V) называют инфинитезимальной характеристикой траектории (xq, ... ,ж^), если выполнены следующие соотношения:
otkx - оцу « akXk ~ otixi ((x, у) е Gk,b 0 О <1 < TV).
5.4.11.	Теорема. Предположим, что выпуклые множества Cq х Е*+,..., N-1
Cjv+i х Е+ и U Хк х epi(/) находятся в общем положении. Тогда допустимая fc=o
траектория (xq, ... ,xn) будет инфинитезимально оптимальной в том и только в том случае, если существует инфинитезимальная характеристика (оо, •. •, этой траектории такая, что
chqXq « inf {аоя}; oin € Df(xN) + DBN(xN). хеВо
< Субдифференциальные вхождения теоремы 5.4.9 можно переписать в эквивалентной форме:
(ak-i,ak) € DG(xk-i.Xk) + Dfk-i(xk-i) х {0} (k:= 0,1,... ,N - 1);
—oo € DBq(xq); on € D/n^xn) 4-DB^(xn)-
Отсюда немедленно вытекает требуемое. >
5.5. Признаки обобщенной оптимальности
333
5.5.	Признаки обобщенной оптимальности
Здесь рассматриваются признаки обобщенной оптимальности в смысле определений 5.1.7 и 5.1.12. Для этого нам потребуются некоторые дополнительные конструкции. Всюду в этом параграфе, за исключением 5.5.3 и 5.5.4, X — банахово пространство, а X' — сопряженное к нему.
5.5.1.	Введем теперь пространство слабо непрерывных вектор-функций, аналогичное Е(Х), см. 5.1.9. Предположим, что Z С X' ~ нормирующее подпространство, т. е.
||ж||х = sup{|<z,z>| : z € Z, ||z||	1} (же X).
Здесь, как обычно, X' — сопряженное пространство, а (•, ) ~ каноническая билинейная форма двойственности X X', см. [168].
Обозначим через ^W(Q, X) множество сг(Х, ^-непрерывных вектор-функций и : dom(u) X таких, что dom(u) — котощее множество в Q.
Рассмотрим фактор-множество Cqq^Q.XIZ) := ^w(Q,X)/~, где и ~ v означает, что u(t) = v(t) (t е dom(u) П dom(v)). Множество COO(<2,X|Z) можно естественным образом превратить в векторное пространство: если и — класс эквивалентности вектор-функции и е	то под линейной комбинаци-
ей Хи 4- pv понимается класс эквивалентности поточечной линейной комбинации Xu(t) -h pv(t), t € dom(n) П dom(v). Для a € C^Q) вектор-функция t a(t)u(t), t € dom(a) П dom(u), входит в X) и, стало быть, определяет класс эквивалентности, который мы обозначим aw. Для и G ^W(Q,X) и z G Z мы обозначим символом (и, г) продолжение по непрерывности функции t i-» {u(t),z} (t € dom(u)) на все пространство Q. Если и ~ v, то по очевидным соображениям (и, z) = (v, z). Следовательно, для w е C^Q, X\Z) и произвольного и Ew можно положить (w,z) := {и, z). Множество R(u) := {(и, z): zeZ, ||z|| < 1} порядково ограничено в Cqo(Q), так как оно поточечно ограничено на котощем множестве dom(tz). Таким образом, для произвольного и € w можно положить
|w| := |u| := sup{(u, z) : z € Z, ||z|| < 1},
где супремум берется в Coo(Q). Заметим, что функция ||u(-)|| : t |h(£)|| (t G dom(u)) служит поточечным супремумом того же множества R(u). Поэтому функции |и| и ||и(*)|| совпадают на котощем подмножестве Q. Тем не менее эти функции могут различаться на dom(u).
Легко видеть, что | | — разложимая норма со значениями в Coq(Q). Более того, COQ(QyX\Z) естественным образом наделяется структурой точного модуля над кольцом Coq(Q), причем |au| = |а||и| для а G Coq(Q) и и € Cqq(Q, X\Z). Положим
EW(X,Z) := {ueCMX\Z) : |u| € E}.
Выделим важный частный случай EW(X') := EW(X',X), возникающий при X ~ X' и Z .= X С X".
334
Глава 5. Выпуклые экстремальные задачи
Если X — банахово пространство, то для каждого фундамента Е С Cqo(Q) множество EW(X, Z) с алгебраическими операциями и Е-значной нормой |-|, индуцированными из COO(<Q,X\Z), является пространством Банаха-Канторовича над Е, a Coo(Q,X\Z) будет его максимальным расширением. В частности, EW(X') — пространство Банаха-Канторовича над Е.
Возьмем непрерывную вектор-функцию и 6 ^(Q,X) и слабо непрерывную вектор-функцию v Е ^w(Q>Xf) и для произвольного q € dom(<p) := dom(u) П Cldom(v) положим <p(q) := (u(q),v(q)). Заметим, что для любых q,qQ € dom(^>) имеют место соотношения
1^(9) ~ ^(9о)| < |(«(9) ~ u(9o),«(9))l + l(u(9o),v(9) ~ ^(9о)>| «£
М(9)М9) - Ч9о)|| + \{u(q0),v(q) - v(go))|-
Ввиду сильной непрерывности и и слабой непрерывности v оба слагаемых в правой крайней части цепочки неравенств стремятся к нулю при q —► go- Следовательно, функция <р непрерывна. Как видно, множество dom(</>) является ко-тощим, поэтому <р имеет единственное продолжение до непрерывной функции ф : Q —> R. Положим (и, и) := ф. Положим далее Е* := Orth(E) и заметим, что если |и| 6 Е и |v| € Е*, то (u, v) < М |и|. (Алгебра ортоморфизмов отождествляется с фундаментом в тЕ согласно П2.5 (9).) Тем самым определен билинейный оператор (•,•): Е(Х) х EW(X') —> Е. При этом для любого ортоморфизма выполняется (au,v) = (u,cw) = a(u,v).
5.5.2.	Напомним (см. 4.3.4), что множество всех о-ограниченных операторов из X в Е обозначается символом ^(q(X,E). В случае банахова пространства X вхождение Т € £q(X,E) означает, что множество {|Тт| : ||ж|| < 1} порядково ограничено в Е (см. 4.3.4(c)). Положим по определению
|Т| := sup{|Tx| : х € X, М < 1}.
Ясно, что отображение | | : JZq(X,E) —> Е также удовлетворяет аксиомам 1.6.1 (1-3). В этом случае принято обозначение Ьд(Х, Е) := J^o(X,E), а элементы пространства Ьд(Х, Е) называют также операторами с абстрактной нормой. Нетрудно показать, что Ьд(Х,Е) — это пространство Банаха-Канторовича.
(1)	Для каждого оператора с абстрактной нормой Т : X —» Е существует единственный элемент ит € EW(X'), удовлетворяющий условию
Тх = (х, ит) (х G X).
ОтображениеТ	ит осуществляет линейную изометрию между пространствами
Банаха-Канторовича ЬДХ, Е) и EW(X').
<1 Если е := |Т|, то для каждого х 6 X функция Тх € Coo(Q) принимает конечные значения в точках множества Qq := {t Е Q : e(t) < +оо}, так как |Тх| < е||ж||. Последняя оценка влечет также, что для произвольной t Е Qq функционал v(t) : х (Tx)(t) (х Е X) ограничен и ||v(t)||	e(t). Тем самым возникает
отображение v : Qq —> Xf, непрерывное в слабой топологии a(Xf,X). Пусть ит
5.5. Признаки обобщенной оптимальности
335
обозначает класс эквивалентности функции v. Тогда Тх = (ж, up} для всех х G X. В частности, существует точная верхняя граница sup{(x, up) : ||х||	1} = е. Сле-
довательно, up G EW(X') и |ит| = |Т|. Как видно, отображение Т ь-* up является линейной изометрией из La(X, Е) в Ew(Xf). Ясно также, что это отображение сюръективно. >
Линейный оператор Т : Е(Х) Е называют ограниченным или, более полно, проограниченным если существует положительный ортоморфизм a G Е* такой, что |Ttz| < a|u| для всех и € Е(Х). Множество всех ограниченных линейных операторов из Е(Х) в Е мы обозначим символом Lb(E(X), Е). Из данного определения и из порядковой непрерывности ортоморфизмов (см. П2.5 (2)) следует, что произвольный оператор Т € Ьь(Е(Х),Е) является to-непрерывным, т. е. из равенства to-lim „ uv = 0 вытекает to-lim v Тиу = 0.
(2)	Для каждого ограниченного линейного оператора Т : Е(Х) —* Е существует единственный элемент vp € Е^(Х'), удовлетворяющий условию
Tu = {u,vp) (uEE(X)).
Отображение Т	vp осуществляет линейную изометрию между пространствами
Банаха-Канторовича Еь(Е(Х),Е) и E*V(X').
<1 Если v е Е^(Х'), то из оценки (u,v) < |v| • |u| следует, что оператор Sv : и ь-* (u, v) (u G Е(Х)) входит в Ьь(Е(Х),Е) и |SV| < |v|.
Возьмем теперь произвольный оператор S € Еь(Е(Х), Е) и обозначим a := |S|. Для произвольного х € X оператор <рх : е S(x 0 е) является ортоморфизмом в Е, так как |<Ае(е)| а(е)||я|| (см. П2.5 (3)). Здесь и далее элемент х 0 е € Е(Х) определяется непрерывной вектор-функцией q e(g)||x|| (|e(g)| < +оо). Тем самым отображение S' : х <рх из X в Е* служит оператором с абстрактной нормой и |S'| < а. Согласно предложению (1) существует единственный элемент v := vsf € E^(Xf) такой, что |S'| = |v| и S'x = (х, v) для всех х 6 X. По определению S" для элемента вида z := 52ь=1	0в£ будет Sz = 53fc=i Sf{xk®cn) = {z, v).
Как видно, операторы S и Sv совпадают на множестве всех элементов z указанного вида. В соответствии с теоремой 5.1.10 такое множество Ьо-плотно в Е(Х) (см. 1.6.6), и ввиду бо-непрерывности операторов S и Sv мы видим, что S = Sv. Кроме того,	= |S|, что вместе с уже доказанным противоположным
неравенством дает |S| = |v|. I>
(3)	Если Е — расширенное Е-пространство, то имеет место равенство La(X,E) = L,(X,E).
<1 Нужно лишь показать, что произвольный проскалярный оператор Т : Х-+Е ограничен на единичном шаре пространства X. Согласно 4.3.5 имеет место представление Тх = о-^тг^ о Т$х, где (тг^) — разбиение единицы в фг(Е) и Т% е (X, Е) для всех £. В расширенном Е-пространстве Е существует элемент е := о-52Если ||ж||	1, то \Тх\	о-52
следовательно, |Т| е и Т е £д(Х, Е). О
5.5.3.	В главе 4 выпуклые операторы f : X —> Е и их субдифференциалы изучались в рамках векторнозначной (Е-значной) двойственности Е	(X, Е),
336
Глава 5. Выпуклые экстремальные задачи
заданной билинейным оператором (ж, Т)	Тх (х е Х,Т е	На-
ша ближайшая цель — изучить полунепрерывные снизу выпуклые операторы f : X Е* относительно векторнозначной двойственности Е(Х) w EW(X'), заг даваемой билинейным оператором (•,•): Е(Х) х EW(X) Е. Но для этого нам необходимо убедиться в том, что для операторов со значениями в Е* остаются в силе некоторые основополагающие факты. Начнем с алгебраического варианта формулы Моро-Рокафеллара.
Пусть X — произвольное векторное пространство, а Е — некоторое К-про-странство. Рассмотрим сублинейный оператор р : X -* Е*. Опорное множество (субдифференциал в нуле) оператора р вводится точно так же, как и в 1.4.11:
&*р := {Т G Е(Х, Е) : (Vz G X) Тх р(х)}.
Однако, в отличие от определения 1.4.11, вхождение Т G дар не сводится к справедливости для всех х G dom(p) неравенства Тх < р(х), а требует также выполнения неравенств вида тг^Тх < тг^е, если элемент р(х) G Е* определяется парой (е, тг). В соответствии с этим изменится и определение общего положения (ср. 3.1.9 и 3.2.8).
Будем говорить, что сублинейные операторы pi,..., рп : X —> Е* находятся в алгебраическом общем положении, если существует такое подпространство Zq с Хп, что Zo = П£=1 скип(тгрк) — ДП(Х) для любого проектора тг € ?$(Е). Это условие можно несколько ослабить, однако для наших дальнейших целей оно вполне приемлемо. Нетрудно видеть, что для двух сублинейных операторов условие общего положения равносильно существованию подпространства Xq С X. обеспечивающего справедливость равенства Xq = dom(7rpi) — dom(7rp2) при всех 7Г G ЯЗ(Е).
(1)	Если сублинейные операторы pi,... ,рп : X Е* находятся в алгебраическом общем положении, то справедлива формула Моро-Рокафеллара
^(Pl + • • • + Рп) = Э°Р1 + • • • + ^Рп-
<1 Ограничимся наброском доказательства для случая п = 2. Как обычно, нужно лишь установить включение С. Возьмем Т G da(pi 4рг) и (х, у) G Zq. В силу условия общего положения для любого тг G ф(Е) имеет место представление (х,у) = (hi,h,2) - (h,h) = (k,k) - (fci,fc2) для некоторых hi,ki G dom(7rpi) (i 1,2) и h, k G X. Тем самым справедливы соотношения
Th 4 Tk = T(h + k) ^pi(h + k) 4рг(^ 4- k) =
- pi(h -I- x 4- k - x) 4- pz(h 4 у 4- k - y) =
pi(h + x) + p^k - x) + P2<ji + y)+ P2(k - y).
Заметив, что /i+а; = h\, k—x = fcj € dom(Trpi) и h+y = h?, k—y = &2 € dom(7rp2), выводим неравенство
—irpi(k — x) — тгр2(к — у) 4 кТк тгр1(Л 4- x) 4 ivp2(h 4 у) — nTh,
5.5. Признаки обобщенной оптимальности
337
справедливое для любого тг € ф(Е). Возьмем два произвольных разбиения единицы (7r^)ces и (Р7?)г?ен в булевой алгебре порядковых проекторов ф(Е). Положим := Рт) ° Тогда (rn^)(r?^)GHxS — разбиение единицы в ф(Е), служащее измельчением разбиений единицы	и (рт?)т?€н- Согласно сказанному выше
для любых £ € 5 и ту € Н найдутся 6 X и е X такие, что
(h$ + х) G dom(7T£Pi) С domtr^pi), (к^ - х) е dom(p7?pi) С dom(rr?^pi);
,	+ у) е dom(7F£P2) С dom(rT?,^p2),	- у) € dom(p^p2) С dom(rT/j<p2)
и, кроме того, выполняются соотношения:
а := 52 ( ~	~х)~ PvP2(k4 - У) + РпТкп) =
= 52 ( - гп,£Р1(.кт) ~х)~ Ч^Р2(кп - у) + г^Ткг)} (ть£)
52	+ х) + гч,€Р2(Л« + У) -	=
= 52 fapith/: + х) + 7Г€р2(^ + у) е
Тем самым, оператор ро : Zq —> Е корректно определяется формулой
Ръ(х, у) := inf <! 52 (7Г«Р1(Ле + ж) +	+ У) ~	: h(, к( € X
1 €
4- х е dom(7r^pi), + у € dom(7F$p2) (£ G G Н), (тг$) € Prt(E)},
где Prt(E) — множество всех разбиений единицы в булевой алгебре ty(E). Нетрудно видеть, что ро — сублинейный оператор. Пусть теперь Р — произвольный линейный проектор из X2 на Zq и р ро ° Р- Тогда р : X х X —> Е — всюду определенный сублинейный оператор. Для линейного оператора (7i,—Т2) G др-, действующего по правилу (Zi, —Т2) : (х, у) w Tix+T2p, будет Ti € dapi, Т? G даръ иТ = 71 + 7*2. [>
Рассмотрим теперь формулу для вычисления опорного множества супремума конечного числа сублинейных операторов.
(2) Если сублинейные операторы pi,.. .,pn : X —> Е* находятся в алгебраическом общем положении, то справедлива формула
9°(Р1 V... Vpn) = U {d“(ai opi) + ...+ д°(ап орп)}-
O^cti ,...,anEE
ai+ ...+an=^E
<1 Введем сублинейные операторы Qi,..., qn : X х Е —» Е*, полагая qk(x, е) — — + (Хтг, где тг — наименьший порядковый проектор, для которого 7rdpk(x) Kde. Напомним, что <хо= 0 и oci= +оо, поэтому qk(x,e) — 0 при (х,е) € epi(pfc) и
338
Глава 5. Выпуклые экстремальные задачи
qk(x,e) = +оо, если не существует ненулевого порядкового проектора р, для которого ppk{x) ре. Легко видеть, что dom(p^) = epi(pp) для любого порядкового проектора р. Следовательно, операторы q\,..., qn находятся в алгебраическом общем положении и к ним можно применить (1). Остается заметить, что 6 daqk лишь в том случае, если •= <^(0, •) > 0 и Tk € opfe), где Тк := ^(-,0). О Используя технические приемы, развитые во второй и четвертой главах, из теоремы Моро-Рокафеллара можно вывести алгебраические варианты всех полученных ранее формул субдифференцирования. В следующих двух пунктах мы ограничимся выводом нескольких формул, которые необходимы для целей данного и следующего параграфов.
5.5.4.	Принято говорить, что выпуклые операторы /1,..., /п • X —> Е* находятся в алгебраическом общем положении, если в общем положении находятся преобразования Хёрмандера этих операторов Я(/1),... ,Я(/П). Напомним, что преобразование Хёрмандера H(f) : XxR —» Е* выпуклого оператора f : X —> Я* вводится формулой
Н(/) : (x,t) ~
I 4-оо,
если t > О, если t С 0.
Преобразование Юнга-Фенхеля f* : ЦХ, Е) Е (здесь Е := Е* - Я*) отображения f : X Е* определяется так же, как и в 4.1.1:
f*(T) = swp{Tx — f(x) : хеХ} (TeL(X,E)).
Однако теперь супремум вычисляется в Е. Непосредственно проверяется, что 7г/*(Т) = (тг/)*(7гТ) для тг G ф(Е) и Тб ЦХ, Е). Отсюда вытекает, в частности, что если тгТ = tvS для некоторых S,T е ЦХ,Е), то тг/*(Т) = тг/*(5). Заметим также, что если Т G dom(?r/)*, то ir^T = 0.
(1)	Если выпуклые операторы j\,..., fn : X —> Е* находятся в алгебраическом общем положении, то справедлива формула
(/1+ + =
Указанная формула точна в следующем смысле: для произвольного проектора к е ф(Е) и для любого Т € склп(тг(/1 4- ... 4- fn)*) существуют линейные операторы Ti € ЦХ, Е) (г := 1,..., п) такие, что
Т = Тх 4- ... 4- Тп,
тг(/1 + ... + /п)*(Г) = тгЖТх) -к ... 4- 7Г/:(ГП).
<1 Вновь ограничимся случаем п = 2. Если f := /1 4- /2 и Т = Т\ 4- 7Ь, то непосредственное вычисление показывает, что
/W/iWW
Отсюда видно, что если /*(Т) = (е,р), то оср= pf*(T) = p/i(Ti) 4- р/гСПг)- Поэтому остается доказать утверждение о точности формулы.
5.5. Признаки обобщенной оптимальности
339
Пусть Т G dom(7r/*) и е := тг/*(Т) = (тг/)*(яТ). Можем считать при этом, что 7гТ = Т. Тогда	Тх — te (х е X, t е R). Стало быть, опера-
тор & е Ъ(Х х R, JS), действующий по правилу S’ : (a?,t) ь-* Тх — te, входит в dH(f). Согласно 5.5.3 (1) существуют операторы ^2 € L(XxR, Е) такие, что € 9Я(тг/г) И S =	+ ^2, так как Я(?г/) = Я(тг/1) -h Я(тг/2)« Положим
Тг := ^(-,0) и Ci := ^(0,1) (г := 1,2). Тогда	е* и е = ei 4- е2, что и
требовалось. О
(2)	Если выпуклые операторы fa... ,fn : X —> Е* находятся в алгебраическом общем положении, то справедлива формула
{п	П	}
ф(а« о /,)* : а/ € Orth(E)+,	= IE к
/=1	/=1	J
Указанная формула точна в следующем смысле: для произвольного проектора тг е ф(Е) и для любого Т € dom(7r(/i\/.. .V/n)*) существуют линейные операторы Т[ € L(X, Е) и ортоморфизмы оц € Orth(E') (I := 1,..., п) такие, что
Qi 4- ... Ч- otn = Ie, T = Ti 4- ... 4“ Tn,
*(A v ... V /n)*(T) = TT^iA)*^) + ... + x(an/n)*(Tn).
<1 Устанавливается по той же схеме, что и в 4.1.5 при использовании (1) и 5.5.3 (2). >
5.5.5.	Определим алгебраический е-субдифференциал оператора f : X —* Е* в точке xq G dom(/) формулой (ср. 3.2.1)
:= {Т G L (X, Е) : Тх - Тх0 /(х) - /(т0) + е (х € X)}.
(1)	Если выпуклые операторы fa..., fn : X Е* находятся в алгебраическом общем положении, то для любых xq € dom(/i 4- ... 4- fn) и0 < е G Е справедлива формула
W1 +  •  + /п)(хо) = U ^Л(®о) + • • • + С/п(®о). £i^0v..,en^0 €1+...+Еп=Е
<1 Выводится из (2) так же, как и 4.2.7. О
Как и раньше в 4.2.5-4.2.7 при е = 0 мы будем использовать следующее обозначение: 0а/(то) := Зо/(#о)- Таким образом, справедливо
(2)	Если выпуклые операторы fa...fn : X Е* находятся в алгебраическом общем положении, то для любой точки xq 6 dom(/i 4- ... 4- /п) справедлива формула
+...+ Ш = 9°Л(а:о) + •.. + 5%(а:о).
(3)	Теорема о сэндвиче. Пусть f,g : X -» Е* — выпуклые операторы, находящиеся в общем положении. Если f(x) + g(x) 0 для всех х € X, то существует аффинный оператор А : X —> Е такой, что
-д(х) Ах д(х) (х € X).
340
Глава 5. Выпуклые экстремальные задачи
<1 По условию (/ + <?)*(0)	0. В силу предложения 5.5.3 (2) найдутся операторы S,T е £(Х,Е), для которых 0 = Т + S и f*(S) + £*(Т)	0. Отсюда
—#*(—S') <	Теперь если —p*(—S) —е f*(S), то аффинный оператор
А, определяемый формулой Ах := Sx — е, будет искомым. [>
5.5.6.	Обозначим символом Г(Х, Е) множество всех полунепрерывных снизу выпуклых операторов из X в Е*. Ясно, что Г(Х, Е) — это А-коническая полурешетка при А = Orth(E) (см. 1.5.1). Пусть V — решеточно нормированное пространство над Е. Отображение f : V -+ Е* называют полунепрерывным снизу в точке vq G V, если для любого 0 е € Е, е |vo|, выполняется равенство
/(vo) = supinf{/(v) : v eV, |v - vo| ее}-e>0
Можно показать, что если в Е имеется порядковая единица 1, то полунепрерывность снизу f в точке vq равносильна равенству
/(v0) = inf sup{/(v) : v е V, |v - v0| б!}.
Скажем, что / полунепрерывно снизу, если оно полунепрерывно снизу в любой точке vo € V. Пусть Г/1(У, Е) обозначает множество полунепрерывных снизу выпуклых операторов f : V —> 2?*, удовлетворяющих следующему дополнительному условию A-однородности: для любых и, v е V и тг G ^(Е) равенство 7Ш = 7rv влечет 7г/(и) = 7r/(v). Легко видеть, что Гд(У, Е) также А-коническая полурешетка.
(1)	Для произвольного расширенного К-пространства Е отображение f*-> f служит полулинейным изоморфизмом А-конических полурешеток Г(Х,Е) и Гь(Е(Х),Е), сохраняющим точные верхние границы конечных множеств. То же самое отображение осуществляет изоморфизм между пространствами Банаха-Канторовича Ьд(Х, Е) и Ьъ(Е(Х}, Е).
< Аддитивность указанного отображения очевидна, а равенство af = af выводится непосредственно из определений с использованием порядковой непрерывности ортоморфизмов и их перестановочности с порядковыми проекторами. Остальные утверждения, за исключением, быть может, сюръективности, легко следуют из 5.1.10 и 5.1.11. Сюръективность следует из того, что Ео(Х) будет r-плотным в Е(Х), см. 5.1.11. В самом деле, если g € Th(E(X), Е) и /(х) := f(x) (х е X), то f е Г(Х,Е) и g — f. Последнее равенство выводится из А-одно-родности и полунепрерывности оператора д. >
В силу 5.5.2 (1) пространство Ьд(Х, Е) можно отождествлять с пространством вектор-функций E^(Xf). Ограничение отображения /* : L(X, Е) -+ Е на подпространство Ew(X') мы будем обозначать тем же символом. Значит,
Г (v) := sup{(z, v) - f(x) :хеХ} (v е Е* (X')).
Аналогичным образом, отождествив согласно 5.5.2 (2) пространства Ьь(Е(Х),Е) и Е£,(Х') и взяв отображение д : Е(Х) —» Е*, положим
/(v) := sup{(u, v) - g(u) : u е £?(%)} (v € ^(Х'))-
5.5. Признаки обобщенной оптимальности
341
(2)	Для любого полунепрерывного снизу выпуклого оператора f : X —> Е* выполняется /*(v) = (/)*(u) (у G Е* (X')).
< Пусть д := f. Возьмем v е Е^(Х'). Очевидно, что /*(v) < £7*(v). Если uq G Eq(X) имеет вид uq = ^л^х^, то
(u0,v) -7(uo) =	-/(»{))
Для произвольного и € Е(Х) будет
(u,v) — f(u) = inf sup {(г/, v} — f(u') : u' € Eq(X), |u — u'| ее}
< inf sup {/*(v) : uf G Eq(X), |u — u'| < ее} /*(u). t>
(3)	Если E — расширенное К-пространство, то отображение f *-> f* служит биекцией между Г(Х, Е) и I\(E(X'), Е), а также между Гд(Е(Х),Е) и ГЛ(Е(Х'),Е).
< Так же, как и в 4.3.8 и 4.3.9 устанавливается, что выпуклый оператор f полунепрерывен в том и только в том случае, если f = /**. Остальное следует из (1), (2) и 5.5.3 (3). О
5.5.7.	Пусть f : X —> Е* — полунепрерывный снизу выпуклый оператор и Xq е dom(/). Обозначим символом O°f(xo) ту часть Off(xo), которая состоит из операторов с абстрактной нормой, т. е. d°f(xo) := d“f(xo) А £д(Х, Е).
(1)	Оператор Т е £д(Х, Е) входит в субдифференциал d£f(xo) в том и только в том случае, если Т е d£f(xo).
< Если Т € d£f(xo) и z :=	^о(Х), то для каждого £ имеем
тг^Тх^ - тг^Тхо	- тг$/ (х0) + е.
Суммируя эти неравенства по получим
Tz - Тхо /(г) - /(х0) +
Теперь для произвольного u G Е(Х) справедливы соотношения
fu - Тхо — liminf (Tz - Тт0) liminf (/(z) - /(т0)) + е = f(u) - f(x0) + £-
zeEQ(X)	zEE0(X)
z—*u	z—*u
Значит, T e d£f(xo)- Обратное утверждение тривиально. О
(2)	Доказанное утверждение дает повод к следующему определению. Оператор Т 6 Ьд(Х, Е) называется обобщенным е-субградиентом выпуклого оператора f : X —> Е* в точке z G Е(Х}, если Т G dff(z). Обозначим через d°f(z) множество всех обобщенных б-субградиентов f в точке z:
d°f(z): = {Г G LA(X, Е): Те =
= {Те La(X,Е): (?х eX)Tx-Tz^ f(x) - f(z) + s}.
Как обычно, d°f(z) по определению совпадает с d°f(z) при е = 0.
342
Глава 5. Выпуклые экстремальные задачи
5.5.8.	Говорят, что отображение f : X —* Е* удовлетворяет условию Липшица (или что оно липшицево) на множестве U С X, если U С dom(/) и можно подобрать элемент L G Е (называемый липшицевой константой) так, что
Ш-№)1^Ь||х-у|| (х,уеи).
Отображение f:X-+E^ называют локально липшицевым на множестве UСX, если оно липшицево в некоторой окрестности любой точки из 17.
Пусть теперь Z — решеточно нормированное пространство над Е, и рассмотрим отображение f : Z —► Е*. Скажем, что / липшицево на множестве U С Z, если U С dom(/) и можно подобрать ортоморфизм L е Orth(E) (также называг емый липшицевой константой), для которого
\f(z)-f(z')\<L\x-y\ (z,z'eU).
(1)	Выпуклый оператор f : X —> Е* будет локально липшицевым на множестве intdom(f) в том и только в том случае, если f порядково ограничен сверху на некотором шаре, целиком содержащемся в множестве intdom(/).
<1 Необходимость очевидна. Докажем достаточность. Пусть выпуклый оператор f : X —> Е* порядково ограничен сверху элементом е € Е+ на шаре Xq + еВ С intdom(/), где В — единичный шар пространства X. Заменив, если необходимо, f на оператор х /(xq 4- х) — f(xo), можем считать, что xq = 0 и /(0) = 0. Если х € еВ, то —х € еВ. Стало быть,
о = /(0) =	< |/(х) + |/(-х)
\	j &	£
и — е < —/(—ж) < f(x)- Итак, f(eB) С [—е, е], т. е. f порядково ограничен на шаре еВ. Для произвольного u G intdom(/) подберем 0 < 6 < 1 так, чтобы х 5~1и Е dom(/). Если число 0 <	< е таково, что (1 — S)ef < е, то
V := (1 — $)е'В С еВ и u + V — окрестность точки и. При этом для произвольного v € V найдется z G В, для которого
f(u + v) = f(6x + (1 - 6)e'z)	6f(x) + (1 - <5)/(е'г) Sf(x) 4* e.
Тем самым f ограничен сверху на и 4- V. Ограниченность f на и -F V устанавливается повторением начальных шагов наших рассуждений.
Итак, для произвольной точки а?о G int dom(/) существует е > 0 такое, что f порядково ограничен в окрестности xq 4- 2еВ, т. е. J(xq -I- 2еВ) С [—е, е] для некоторого элемента е е Е+. Возьмем произвольные х,у G У(жо) ’•= Xq +еВ и положим z := у 4- е(у — х)/||?/ — s||. Тогда z G V(xq) 4- еВ = xq 4- 2еВ. Стало быть, f(z) < е. Заметим, что справедливо представление у = (1 — Х)х + Xz, где
:= II?/ — ЖИ(£ + \\У — ^Н)”1- И силу выпуклости f мы заключаем:
f(y) < (1 - X)f(x) 4- Xf(z) = f(x) + A(f (z) - f(x))
5.5. Признаки обобщенной оптимальности
343
и, следовательно,
f(y) - /(®) С А(е - (-е)) = 2е||у - х||(е + ||у - х||)-1 2е||у - х||.
Здесь элементы хну можно поменять местами, поэтому \f(y) — f(x)\ < 2е||?/ —ж|| для всех х,у G V(xo). >
(2)	Пусть выпуклый полунепрерывный снизу оператор f : X Е* удовлетворят условию Липшица на некотором открытом множестве U С X. Тогда для произвольной вектор-функции u G ^(Q, X), удовлетворяющей условию u(q) G U (q G dom(w)), существует котощее множество Q(u) С Q такое, что при всех q € Q(u).
<1 Если L G Е+ — липшицева константа функции f на множестве U и Qq := := {q € Q : |L(q)| < оо}, то функция fq : X —* IR конечна и непрерывна на U для каждого q G Qq. Это утверждение очевидным образом следует из оценки
|/9(я) - /«(®о)| = |/(®) - №o)l(q) С b(q)h - ®о||,
справедливой для любых x,xq G U и q е Qq.
Обозначим en := inf : v! € Eq(X}, |u ~ u'\ < ^1|. Существуют кото-щие множества Qn С Q и Qf С Q такие, что
e„(g) = inf {/(u')(q) : u' € Е0(Х), |u - u'|	(q е Qn),
/(«)(q) = sup en(q) (q 6 Q').
nGN
Из определения f (см. 5.1.11) непосредственно видно, что f(u')(q) = fq(u'(q)) для всех q G Qq П dom(w'), если uf G Eq(X). Для каждого n G N можно подобрать йп € Eq(X) так, что |й - йп| < (1/п)1 и еп < /(йп) < еп + (1/п)1. Множество Q" := ПХ1 dom(un) будет котощим.
Если Q(u) := QonQ'n(p|neN Qn\ то Q(u) — котощее множество и для каждого q G Q(u) выполняются равенства
f(u)(q) = lim /(un)(Q) = Ит fq(un(q)) = fq(un(q)). > П—+OO	n—>oo
5.5.9.	(1) Если выпуклый оператор f : X —> E* Липшицев в некоторой окрестности точки Xq G intdom(/), то с^/(то) =
<1 В самом деле, если оператор f удовлетворяет условию Липшица с константой L на шаре B(xq,t) и Т G 3?(то), то T(x—xq) /(я)—/(то)+£ < £||т—xq|| +е для всех х G B(xq,t). Если положить х := xq ± th, где 0<HRh/iGX, то ±Th L\\h\\ + e/t. Устремив t к нулю, получим, что \Th\ Ь||Л|| для всех h G В(0,г) или \Th\ (£/г)||Л|| для всех h G В(0,1), т. е. |Т| L/r и Г G f(xo). Обратное включение очевидно. [>
(2)	Пусть Е — это К-пространство с единицей 1, uq G Е(Х) и е > 0. Пусть выпуклый полунепрерывный снизу оператор f : X Е* таков, что оператор
344
Глава 5. Выпуклые экстремальные задачи
f : тЕ(Х) —> тЕ* удовлетворяет условию Липшица с константой L на множестве U {u е Е(Х) : |u — uo| £1}. Тогда
d^ftuo) = {f: Те
< Заметим, что в условиях предложения \f'(uo)h\ С L\h\ (h € тпЕ(Х)). Следовательно, ^/(uq) С L0a||). Оператор h w |Л| является А-сублинейным при А := Orth(mE). Стало быть,	состоит согласно 2.3.15 из А-линейных опе-
раторов. Кроме того, каждый оператор Т G Э0,/(«о) ограничен и |Т| С L. Теперь требуемое вытекает из 5.5.6 (1). >
(3)	Пусть выпуклый полунепрерывный снизу оператор f : X -* Е* удовлетворят условию Липшица на некотором открытом множестве U С X. Тогда для произвольной вектор-функции Uq € ^(Q,X), удовлетворяющей условию uo(q) € U (q е dom(u)), и любой вектор-функции v € ^W(Q,X) включение v е d£f(uo) выполняется в том и только в том случае, если существует котощее множество Q(u0) С Q такое, что v(q) е de(g)/g(uo(Q)) для всех q G Q(u0).
< Пусть вхождение v Е d°f(uo) имеет место для некоторых uq G ^(Q,X) и v € ^W(Q,X), причем u0(q) € U (q € dom(u)). Тогда
(x,v}(q) - (u0, v)(q) f(x)(q) -	+ e(q) (xeX, q€ Q).
В соответствии с 5.5.2 (1) и 5.5.7 (2) можно подобрать котощее множество Q(uq) С {|е| < оо}, на котором выполняются равенства /(&o)(q) = /g(wo((7)), (uQ,v}(q) = {uo(q),v(q)j и (x,v}(q) = (x,v(q)). Отсюда (x,v(q)) - (u0(q),v(q)}
fq(X) - /ч(ио(<1У) + e(g) Для всех X G X, q E Q(Uq). >
5.5.10.	Рассмотрим теперь экстремальную задачу (Р) при следующих предположениях: F — порядково полная банахова решетка, f : X —> Е* и g : X —>F*-полунепрерывные снизу выпуклые операторы, а линейный оператор Л из банахова пространства X в банахово пространство Y удовлетворяет условию открытости 5.2.1 (д). Одновременно мы будем рассматривать задачу
Ли = у, g(u) 0, /(и) —»inf.	(Р)
Здесь Л — линейный оператор из Е(Х) в Е(У), ставящий в соответствие элементу z е Е(Х) элемент й Е E(Y), определяемый равенством u(q) := A(z(q)) (q € dom(z)). Будем предполагать, что f и g удовлетворяют условию Липшица в окрестности множества im(zo) для некоторого zq е Е(Х). Как видно, допустимый элемент z € Е(Х) задачи (Р) определяется условиями g(z) < 0 и Kz = у. Элемент uq Е Е(Х) называют обобщенным е-решением задачи (Р), если он является допустимым элементом для задачи (Р) и /(ио)	/(ж) 4- е для всех допу-
стимых элементов х задачи (Р). Понятно, что uq будет обобщенным е-решением безусловной задачи /(х) —> inf тогда и только тогда, если 0 € d^f{uo),
(1)	Допустимый элемент является е-решением задачи (Р) тогда и только тогда, когда он служит обобщенным е-решением задачи (Р).
<1 Пусть zo — обобщенное 5-решение задачи (Р). Допустимый элемент z задачи (Р) можно равномерно приблизить элементами вида	причем х^ можно
5.5. Признаки обобщенной оптимальности
345
выбрать из im(zo)- Значит, /(zo) Остается заметить, что допустимое множество задачи (Р) r-замкнуто и d-замкнуто. [>
(2)	Пусть Е — расширенное К-пространство. Если линейный оператор Т : E(Y) Е удовлетворяет условию Т о Л € Lb(E(X), Е), то существует оператор S € £д(У, Е) такой, что Т о Л = S о Л.
<] Положим Уо •= пп(Л), и пусть Р — ограниченный линейный проектор на Уо, а То — ограничение Т на E(Yq). Тогда im(A) = E(Yq)- Возьмем произвольный порядковый проектор тг € ty(E). Если z = Au € E'(lo), то
7гТ02 = 7гТ0(Ли) = 7гТ о Au = Т(7гЛи) = TqTTZ.
В силу открытости Л единичный шар пространства Уо содержится в образе относительно Л некоторого шара в X радиуса г. Отсюда видно, что если z € 2?(Уо) и |z| < 1, то z = Ku для некоторого и е Е(Х), |u| < rl. Таким образом, |Toz| |То о Л|. |u| a(rl), где а := |Т о Л| G Orth(E), следовательно, |Т0| га и То е Ть(Е(Х),Е). Согласно 5.5.6 (3) То = So для некоторого So € Тд(Уо,^), см. 5.5.6 (1). Положив S := So о Р, получим требуемый оператор S G Тд(У, Е). О
5.5.11.	Приведем теперь признаки обобщенной s-оптимальности в задаче (Р). В следующих двух теоремах f,guh. удовлетворяют предположениям из 5.5.10. Будем также считать, что сублинейный оператор р : F —> Е, фигурирующий в условии квазирегулярности (см. 5.2.1 (в, г)), порядково ограничен на единичном шаре, т. е. sup{|р(я)| : х € F, ||х|| < 1} существует в Е.
(1)	Теорема. Допустимая точка uq является обобщенно ^-оптимальной в квазирегулярной задаче (Р) в том и только в том случае, если для некоторых a е Orth(E), 0 е La(F,E) и у е Тд(У, Е) совместна система условий
а 0, кег(а) = {0}, /3 > 0,
0 гл Ле Е, i/ + А as + 0g(uQ),
0 G d°(a о /)(и0) + д°(0 о g)(uQ) + 7 ° Л.
<] Пусть uq — обобщенный s-оптимум в задаче (Р). Тогда согласно 5.5.10(1) uq будет s-оптимальным в задаче (Р). Повторив рассуждения из 5.2.8 (2), 5.2.9 и 5.3.2, мы приходим к требуемым условиям с той лишь разницей, что в субдифференциальном вхождении фигурируют алгебраические субдифференциалы и 7 е L(Y, Е). Остается привлечь 5.5.9 (2) и 5.5.10(2). [>
(2)	Теорема. Пусть вектор-функция uq G &(Q,X) такова, что uq — допустимая точка задачи (Р). Тогда uq является обобщенным с-решением в квазирегулярной задаче (Р) в том и только в том случае, если существуют котощее множество Q(P), скалярные функции a,v,X 6 Е С C^Q) и вектор-функции 0 G ^W(F') и 7 €	для которых совместна следующая система условий:
0 < a(q) < 1, 0 @(q), 0 < v(q), 0 X(q), v(q) 4- X(q) a(q)e(q) + (g-(u0),/?(?)>, 0 e a(q)dv(<l)f (uo(q)) +	/?(д)>(ко(«)) + A'?(g).
<1 Выводится из (1) с помощью 5.5.9 (3). О
346
Глава 5. Выпуклые экстремальные задачи
5.6. Существование обобщенных решений
Здесь устанавливается векторнозначный вариант теоремы Экланда, затем даются некоторые его применения к изучению обобщенных решений и е-суб-дифференциалов. Всюду в этом параграфе Е — расширенное Х-пространство.
5.6.1.	Теорема. Пусть f — полунепрерывное снизу отображение из X в Е*. Допустим, что f ограничено снизу и для некоторых 0<е€Еи XqEX справедливо неравенство /(хо)	•* я Е X] + е. Тогда для любого обратимого
О < А Е Е существует zx е Е(Х) такой, что
f(zx) №о), \z\ - х0| А,
f(zx) = inf {f(x) + A"4| zx - x| : хе X}.
<] Пусть тг — проектор на компоненту {e}dd, и допустим, что для отображения тг/ требуемое утверждение доказано, т. е. существует zx Е Е(Х) такой, что nf(zx) 7г/(жо), 7г|зд — хо| А и тг/(^д) совпадает с инфимумом значений тг/(х) + А”1г7г|^д — при х Е X. Тогда элемент 7Г2д -I- тг^Хо удовлетворяет всем необходимым условиям, так как irdf(xo) = inf{ndf(x) : х Е X}. Итак, в дальнейшем без ограничения общности можно считать, что е — порядковая единица в Е, Допустим теперь, что /(хо) = (е, тг) е Е* и для отображения irdf установлено существование элемента zx Е Е(Х) с указанными выше свойствами. Тогда элемент irdzx + тгхо будет искомым. Тем самым можно считать, не умаляя общности, что /(хо) € Е.
Определим по индукции последовательность (un) в пространстве Е(Х). Начнем с uq := хо и допустим, что член un уже определен. Если
/(г) > 7(un) - A-1e|un - г|
для всех z Е Е(Х), то положим un+i := un. В противном случае для некоторого элемента z Е Е(Х) и ненулевого проектора тг 6 фг(Е’) будет
7r/(z) < тг/(ип) - тгА-1е|«п - z\.
Элемент v := irz + 7rdun в силу 5.1.11 (1) удовлетворяет соотношениям
7r/(z) = Ttf (v), irdf(y) = 7Tdf (Un);
значит, f(v) 7(un) - A-1e|un - v|.
Множество всех v E E(X), удовлетворяющее последнему неравенству, мы обозначим через Vn. Положим
е := (/(un) - inf{/(v) : v € Vn}) + ^1.
Существуют разбиение единицы (тг^) в фг(2?) и семейство в Vn такие, что
’’«/(г’е) < inf f(Vn) + е,
5.6. Существование обобщенных решений
347
ибо е (1/2)п1. Если un+i :=	то 7r^/(un+i) = 7r$/(v$), поэтому
7(«n+i) <inf/(Vn) + e
И
7(«n+i) 7(«n) - A-1e|un+i ~ «п|-
В частности, un+i € Vn. Заметим, что
Л ^lun+fc - U„| < A ^lUn+i - un| + ... + A ^lun+fc -Un+fc-l| <
< 7(«n) - f(Un+l) + • • • + /(un+fc_i) - 7(un+fc) = /(u„) - 7(Un+fe).
Последовательность (7(un)) С E убывает и ограничена снизу, поэтому
o-lim (/(un) - 7(u„+fc)) = 0.
n,fc—+OO
Но тогда также o-lim n,fc—ooHn+fc ~un| = 0. В силу о-полноты пространства Е(Х} существует элемент zx G Е(Х), для которого o-limn—oo|wn - zx\ = 0. В силу полунепрерывности снизу отображения / имеем
f(zx) sup inf f(un) = o-lim /(un). n>m	n—>oo
Далее, если в неравенстве
А в|ип — 'Un_|_/C| f(Un) ~ }(Цп+к)
положим п = 0 и перейдем к о-пределу при к —> оо, то получим
А_1ф0 - *a| < f(x0) - inf f(un) f(xQ) - inf{/(v): v 6 ^(X)} e. n
Обратимость элемента e дает теперь, что \zx — rro| А. Взяв х G X, положим
тг® := inf {тг е фг(Е) : irdx = ndzx}.
Заметим, что х / zx лишь в том случае, когда тгж / 0. Кроме того, тгах = nazx. Покажем, что для любых х^2аи0<7г^тгж будет
< irf(x) + А-1е|2д - х|.
Если это не так, то при подходящих 2А/хеХиО<7г^7Га; выполняется
7t/(za) - 7ГА_1Е|2Л - Х| > 7Г/(х).
Но тогда для элемента w := irx + i^zx верно /(w)	/(^д) — еА“ 1|гд — w|. По-
скольку f(zx) /(un) — А-1е|£д — un| для всех п € N, то
/(«’) < 7(«п) - А-1г( |za - un| + |w - 2д| ) 7(un) - A-1E|un - w|.
Глава 5. Выпуклые экстремальные задачи
Следовательно, w 6 Vn для всех п € N. С другой стороны, выбор un+i производится так, что
2/К+1) - Л«п) < inf Ж) + ^1 /(«) + ^1.
Переходя здесь к r-пределу при п —> оо и учитывая полунепрерывность снизу отображения /, получаем f(z\) С o-lim f(un) С /(w). Привлекая определение w, приходим к противоречию:
/(zx) «S /(w) < /(zA) - А-1фх - х| < /(zA).
Итак, для любого х € X можем написать
.Ж) = ^/(zx) + 7T^/(zx) С
^xf(x) + ТГхА^фх - ®| + ^/(х) f{x) + А-1фх - ®|.
Тем самым f(z\) есть точная нижняя граница множества значений отображения f(x) 4-	- я| (х е X). О
5.6.2.	Сделаем несколько дополнительных замечаний к установленному факту. Мы будем считать, что выполнены условия теоремы 5.6.1. Тогда имеет место несколько более сильное утверждение.
(1)	Существует z\ е Е(Х) такой, что отображение z i-> f(z) 4- А“1б|гд - zf достигает своего наименьшего на всем Е(Х) значения в точке z\.
<1 В самом деле, если z := 52 тг^, то
^/(zA) 74/(34) + 7r^A~1e|zx - 24!
для всех £, и суммирование по £ приводит к неравенству
7(zx) /(z) + A-1£|za - z|.
Для произвольного z е Е(Х) нужно осуществить предельный переход и воспользоваться полунепрерывностью снизу оператора /. О
(2)	Вектор-функция z\ обладает также следующим свойством: для любого z € Е(Х) и для каждого 0 < тг < irz, где ttz := sup{p G фг(Е) : Pdzx = pdz}, выполняется неравенство
irf(zx) < irf(z) + А-1фх - z|.
< Если z = x G X, то это утверждение содержится в доказательстве теоремы 5.6.1. Если z = 52 к^х^, то 7г^ о 7гЖс 7гх< для каждого £, значит, для 0 < р тгг будет := р о тгЖ€ тгЖ€ и
P«7r/(zx) < /4/(24) + p$A-1e|zx - хе|.
Суммирование по £ дает
pRzx) < pf(z) + A 1e\zx - z|.
5.6. Существование обобщенных решений
349
Для любого z € Е(Х) нужно приблизить z вектор-функцией вида и := 52^ где (тг^) — разбиение единицы в фг(Е) и (и$) е Ео(Х), а затем воспользоваться полунепрерывностью снизу f в точках >
5.6.3.	Теорема. Пусть отображение f : X —* Е* полунепрерывно снизу ограничено снизу и f +оо. Тогда для любого 0 < е Е Е существует ze € Е(Х) такой, что
nef(Ze) С inf {тге/(я) : X е X} + е,
Kef(ze) = inf {тге/(х) + e|ze - х| : х € X},
где тге — проектор на компоненту {s}dd.
<1 Без ограничения общности можно предположить, что 7ге = 1е, т. е. е — порядковая единица в Е, Тогда существуют разбиение единицы (тг^) в фг(Е) и семейство (х$) в X такие, что тг$/(д^) infxex {/(х)} + е (см. 5.1.7).
Согласно теореме 5.6.1 (где взято А := 1) для каждого х% существует элемент z$ Е Е(Х), который удовлетворяет соотношениям
*€/(««) <
тг$/(^) = inf {тг^/(т) 4-	- т|: х Е X}.
Положим ze := 52 и просуммируем полученные соотношения по £. Поскольку 7г^ге = тг^, то 7r$/(ze) = ir^f(z^) (см. 5.5.6 (1)). Значит,
f(ze) inf {f(x) : х € X} + е
и
f(z€) = inf {f(x) +е|ге - я| : х е X}. >
5.6.4.	Теорема. Пусть f : X Е* — полунепрерывный снизу выпуклый оператор. Допустим, что для некоторых Хо€Х,0^еЕЕиТ€ ^(Х,Е) выполняется Т G def(xo), Тогда для любого обратимого 0 X е Е существуют z\ е Е(Х) и Sx Е <£о(Х,Е) такие, что
кд-хоКА, ISa-tio’1*; Sxed°f(zx).
<] Положим g := f — Т и заметим, что если Т € def(xo), то 0 € d£g(xo), т. е.
g(x0) inf {^(л)} 4- е.
ХЕ.Л
Отображение д удовлетворяет всем условиям теоремы 5.6.1, поэтому для обратимого А 6 Е существует элемент zx 6 Е(Х) такой, что
<K*a) < д(х0), |гд - ж0| А, g(zx) = inf {g(x) + A-1e|zA — ж|: x G X}.
Последнее соотношение равносильно вхождению
О € Э^д - А-1фд - (-)D(^a).
350
Глава 5. Выпуклые экстремальные задачи
По формуле субдифференцирования суммы 5.5.5 (2) существует оператор
ТА 6 ^'‘Фа - (.)|)(zA) = А-^Ьа - (-)|)(za)
такой, что —Та € d°g(zx)- Легко видеть при этом, что
0“(|гл - (•)!)(**) = {Т € ЦХ,Е): (Ух € Х)Тх |х|} =
= {Г G ^о(ХЕ) : |Т| О} = &>(\zx - (.)|)(^a),
следовательно, |7\| < А-1е. Заметим теперь, что в силу непрерывности оператора Т будет д — f — Т, поэтому -7\ е - Т или Т - Тх € d°f(z\). Ясно, что Sx := Т — Т\ и есть искомый оператор. >
5.6.5.	Скажем, что отображение f : X —> Е* дифференцируемо по Гато в точке z € Е(Х), если J(z) € Е и существует оператор Т 6 La(X,E) такой, что
Tk = ^rJ^th^ НО	t
для всех h е X. При этом принято обозначать f'(z) := Т.
Теорема. Пусть f : X -+ Е* — полунепрерывное снизу и ограниченное снизу отображение. Предположим, что для некоторых 0<ееЕихъеХ выполняется /(то) < inf {/(т) : х G X} + е. Если для некоторого обратимого 0 < A G Е отображение f дифференцируемо по Гато в каждой точке множества {z G Е(Х) : \z — то| С А}, то существует элемент zx € Е(Х) такой, что
|х - za| < A, /(zA) 5$ /(х0), |/'(*а)| С А-1е.
<1 Отображение / удовлетворяет условиям теоремы 5.6.1, поэтому существует za, для которого |za - ®о| A, /(za) < f(x0) и
/(u) - /(za) > -A-*£|za - и| (и € Е(Х)).
Положим в этом соотношении u := zx 4- th. Тогда
t~4f(zx 4- th) - f(zx) > -А~МЯ
Переходя к пределу при t —> 0, получим f'(zx)h —А'"1е||Л|| или, заменив h на —h, f'(zx)h А~1е||Л||. Отсюда вытекает, что |/z(-2ta)| А”1^. >
5.6.6.	Установим теперь два предложения, утверждающие, что точки субдифференцируемости и субградиенты полунепрерывного снизу выпуклого оператора образуют достаточно представительные множества.
(1)	Пусть f : X —» Е* — собственный полунепрерывный снизу выпуклый оператор. Множество вектор-функций z G dom(/), для которых O°f(z) непусто, является r-плотным в dom(/). Точнее, для любых е > 0 и zq G dom(/) найдется вектор-функция z € dom(9°/) такая, что \z — z0| el.
5.6. Существование обобщенных решений
351
< Для произвольной точки Xq 6 dom(/) в соответствии с 4.3.9 (1) имеет место представление
Дт0) = sup{Srr - /*(S) : S е ^о(Х,Е) = £Л(Х,Е)}.
Для любого 0 < е 6 R существуют разбиение единицы (тг$) С ф(Е) и семейство (5$) С Ло(Х,Е) такие, что тг^5^(ж0) - ^/*(5$) > 7г$/(я0) - для каждого £. Так как fl$/*(S) = (tt$/)*(^S^), то последнее неравенство влечет ir^St е 9е7^1(тг$/)(то)- По теореме 5.6.4, примененной к оператору 7Г^/ : X —► тг^Е при А := х/ётг^1, подберем G Е(Х) £о(Х,Е) такие, что
К - Яо|	|S$ - те| х/етг^И, € 3°(7ге/)(ге).
Если z :=	7t$Z£ и Т := £$ тг$7$, то |г - т0| х/ё! и Т € d°f(z).
Возьмем теперь произвольный элемент zq 6 dom(/) и подберем разбиение единицы (р$) С ф(Е) и семейство (т^) С dom(/) так, чтобы \z — ^2^р^х^\
В силу уже доказанного, для каждого £ существуют элемент z$ 6 dom(/) и оператор Т$ е .&о(Х,Е) такие, что \z —	х/^ и Т$ G d°f(z$). Вновь положим
z := 12$ 'ЧЧ и := 12$ Тогда jz - 20| 2^1 и Т G d°f(z). >
(2)	Пусть f : X —* Е* — собственный полунепрерывный снизу выпуклый оператор. Множество всех субградиентов im(9°/) r-плотно в dom(/*). Точнее, для любых е > 0 и So 6 dom(/*) найдется оператор с абстрактной нормой S € im(<9°/) такой, что |S — So| £1.
<] Для произвольного оператора So G dom(/*) по определению /*(Sb) = = sup{So# - f{x) : х € X}. При любом е > 0 существуют разбиение единицы (?г$) С ty(E) и семейство (х$) С X такие, что я$5о(я$) —7Г£/(я$) > ^/*(So)—£7r^l для каждого %. Отсюда видно, что tf^So €	/)(<&$)• По теореме 5.6.4, при-
мененной к оператору тг^/ при А := у/ётг^1, подберем z$ € Е(Х) и 7$ е -2о(Х, Е) так, чтобы \z£ — £$|	\/£7г^1, |So — Т$|	х/^71^ и 2$ € d°f(z^). Если z $2$ flV$
и S :=	7г$Т$, то |So - «К и S G d°f(z). О
5.6.7.	Рассмотрим несколько простых следствий из только что установленных предложений. Как и выше, X — банахово пространство, а Е — расширенное Х-пространство. Для множества С С X мы обозначим символом С множество всех u G Е(Х), определяемых непрерывными вектор-функциями u G ^(Q,X) со свойством u(q) е С (q € dom(u)).
(1)	Допустим, что оператор с абстрактной нормой So : X —> Е ограничен на непустом выпуклом замкнутом множестве С С X. Тогда для любого е > 0 найдутся оператор с абстрактной нормой S : X Е и элемент u G Е(Х) такие, что
ueC, |5 — So| < £|S0|, C*(S) = S(u).
О Иными словами, для ограниченного на С оператора с абстрактной нормой существует сколь угодно близкий (в смысле векторной нормы) оператор с абстрактной нормой, достигающий обобщенного максимума на С. Для доказательства нужно положить в 5.6.6 (1) / := 6е(С). 1>
352
Глава 5. Выпуклые экстремальные задачи
(2)	Для любого оператора с абстрактной нормой Sq : X —> Е и для любого числа £ > 0 существует оператор с абстрактной нормой S : X —> Е такой, что |S — So| s|Sq| и S(u) = |S*| для некоторой u G Е(Х), удовлетворяющей условию |й| = 1.
<1 Этот факт означает, что множество операторов с абстрактной нормой, достигающих обобщенного максимума на единичном шаре, r-плотно в пространстве всех операторов с абстрактной нормой. Следует из (1), если взять в качестве С единичный шар пространства X. О
Вектор-функцию u е &(Q,X), а также соответствующий элемент й € Е(Х) называют обобщенной опорной точкой выпуклого множества С С X, если й G С и C*(S) — S(u) для некоторого S G ЬДХ, Е). При этом сам элемент S G ЬДХ, Е) мы будем называть опорным оператором множества С. Границу множества С мы обозначим символом bd (С). В то же время границу bd (С) множества С будем определять как множество всех элементов й 6 Е(Х), задаваемых такими вектор-функциями и G ^(<2,Х), что u(q) е bd((7) при всех q € dom(u). Следующее утверждение показывает, что замкнутое выпуклое множество в банаховом пространстве имеет много обобщенных опорных точек.
(3)	Пусть С С X — непустое выпуклое замкнутое множество. Множество всех обобщенных опорных точек множества С является r-плотным в bd (С). Точнее, для любого е > 0 и произвольного uq € bd (С) найдутся оператор с абстрактной нормой S : X —> Е и элемент ue С такие, что
|и-иоКфо|, C*(S) = S(u).
< Все выводится из 5.6.6 (2) при f := 8е(С). Возьмем Uq е bd (С) и 0 < е е К. Подберем разбиение единицы (тг$) С ф(Е) и семейство С bd(C) так, чтобы |тг^ио —	| < (l/2)sl. Для каждого £ выберем элемент у$ € X \ С, для кото-
рого — г/£|| < (1/4)е. По теореме отделимости найдутся такие функционалы у$ е X9, что ||^|| = 1 и (х, у^) < {у^у^} для всех £ и х € С. Определим оператор
: X —> Е равенством Т^х := (х, у^)п^1 и заметим, что — линейный оператор с абстрактной нормой, причем для х е С выполняется
Т^х Tgy$ =	- х$} + Т$Х£ (1/4)£7г^1 -I- Т$х$.
Тем самым Т$(х - х$) f(x) - f(x$) + (1/4)е7г$1 для всех х е С, т. е. е с^Дх^), где е := (1/4)етг^1. Согласно теореме 5.6.4 существуют такие ug G тг^Е(Х) и S$ е Ьд(Х,1Г£Е), что
К -	(1/2)^7Г€1, |Тг - SJ < (1/2)V?^1,	€ 9°(тг€/)(ие).
Положив S	и и :=	получим
|u0-u|^Vsl, |S-TK^1, Тх:=^7г^, Sed°f(u).
е
Последнее означает, что C*(S) = S(u). Кроме того, неравенство |S - Т| влечет S е Ьд{Х, Е), так как Т G La(X, Е). О
5.6. Существование обобщенных решений
353
Скажем, что оператор с абстрактной нормой S G Ьд(Х, Е) достигает своей нормы на элементе и G Е(Х), если |гх| 1 и |S| = Su.
(4)	Точки, в которых достигают своей нормы операторы с абстрактной нормой, r-плотны в множестве {u G Е(Х) : |u| = 1}. Точнее, для любого элемента uq G Е(Х), |uo| = 1, и для любого числа е > 0 существуют элемент u G Е(Х), |u0|	1, и оператор с абстрактной нормой S € Ьд(Х, Е) такие, что |u — ио| < £1
и S(u) = |S|.
<1 Следует из (3). >
5.6.8.	Теорема. Пусть f : X —* Е* — собственный полунепрерывный снизу выпуклый оператор. Тогда для любого х G dom(/) имеет место представление
f(x) = sup{S(x - у) + f(y): у е dom(d/), S G d°f(y)} = = sup{&r + /‘(S') : S G im(S°/)}.
Иными словами, собственный полунепрерывный снизу выпуклый оператор на банаховом пространстве является верхней огибающей семейства аффинных операторов, определяемых ее субградиентами с абстрактной нормой.
<1 Рассматривая собственный полунепрерывный снизу выпуклый оператор f : X —> Е*, положим по определению
g(x) := sup{Sx - /* (S) : S G d°f(z), z G dom(/)}.
Ясно, что g — полунепрерывный снизу выпуклый оператор, причем д < f. Предположим, что д(хо) < /(xq) для некоторого Xq G dom(/). Тогда можно подобрать число е > 0 и ненулевой проектор тг' в Е так, что выполняется неравенство тг'^(жо) + втг'1 <	— 2в7г'1. В силу предложения 4.3.8 (1) суще-
ствуют оператор с абстрактной нормой Т : X —> Е, элемент у G Е и ненулевой проектор тг тг', для которых выполняется Тх + у < /(х) (х G X) и kTxq 4- тп/ > 7г/(а?о) — 2б1 > тг^(^о)- Из этих двух неравенств вытекает, что тгТх - ttTxq тг/(ж) - 7г/(хо) + 2б7г1, т. е. тг G 9е(тг/)(хо), где е := 2в7г1. По теореме 5.6.4 существуют z € Е(Х) и S G ^q(X,E) такие, что \z — #о| у/етгИ, |S — Т| у/ётгИ. и S G д(тг f)(z). Положим Ах := Sx — S(z) 4- тг/(г) (х G X). Тогда А : X —> Е — проскалярный аффинный оператор и Ах тг/(я) (х G X). С другой стороны,
Axq = Sxq - S(z) 4* nf(z) Sxq - S(z) 4- T(z) 4- у =
= (S - T)(xq - z) + TxQ + у |S -T| • fz - жо| 4-Tx0 + y -£7T1 4- (nf(XQ) - £7Г1) = 7Г/(^о) “	TTff(^o)-
Согласно 5.6.6 существует проскалярный оператор S' G df(z') для некоторого г' G dom(/). Положим zq := ttz 4- 7rdz' и So := irS 4- 7rdS'. Тогда So G S/(^o) и Ao# := Sqx — So(^o) 4- tf/Uo) f(x) (x G X). Тем самым возникают противоречивые неравенства <?(жо) Ао(^о) и тгАо^о = kAxq тг/(хо) ~ 2ё7г1 > ^(^о) 4- £7г'1. О
12 Кусраев А. Г., Кутателадзе С. С.
354
Глава 5. Выпуклые экстремальные задачи
5.6.9.	Приведем формулировки теорем 5.6.1, 5.6.4, 5.6.6 и 5.6.7 в скалярном случае Е = К.
(1) Вариационный принцип Экланда. Пусть задача f : X —* К* — полунепрерывная снизу собственная выпуклая функция на банаховом пространстве X. Допустим также, что f ограничена снизу и f(xo) С inf{f(x) : х € X} + е для некоторых 0<s€Rhxo€ dom(/). Тогда для любого 0 < Л е R найдется точка z € dom(/) такая, что
(i) A||z - х0|| < f(xo)-f(z);
(ii) ||х - хо|| е/А;
(Hi) А||х - z|| + f (х) > /(z) (х ± z).
(2) Теорема Бронстеда-Рокафеллара. Пусть f : X —> К* — полунепре-рывная снизу выпуклая собственная функция на банаховом пространстве X. Допустим, что даны число е > 0, точка xq е dom(/) и функционал х$ Е d£f(xo). Тогда для любого А > 0 найдутся точка х е dom(/) и функционал х* € X' такие, что
х* € df(x), ||х - то|| е/А, ||т* - т^Ц А.
(3) Теорема Бишопа-Фелпса. Пусть С — непустое выпуклое замкнутое множество в банаховом пространстве X. Тогда:
(i) множество опорных точек С плотно в границе bd (С) множества С;
(ii) множество всех непрерывных линейных функционалов, достигающих своего наибольшего значения на С, плотно в конусе непрерывных линейных функционалов, ограниченных на С,
(4) Теорема. Пусть f — собственная полунепрерывная снизу выпуклая функция на банаховом пространстве X. Тогда для любого х € dom(/) имеет место представление
f(x) = sup{(x - у, у') + f(y) : у G dom(df), у' G df(y)} = = sup{(x, у') + /*(у') : у1 G im(d/)}.
< Действительно, как следует из 5.6.1, df(z) / 0. Кроме того, собственная полунепрерывная снизу выпуклая функция на банаховом пространстве является верхней огибающей семейства непрерывных аффинных функционалов, определяемых ее субдифференциалами. >
5.7. Комментарии
Библиография по теории экстремальных задач огромна. Мы перечислим лишь некоторые из наиболее известных монографий, в которых представлено выпуклое программирование и его важнейшие приложения. Вот список этих книг: В. М. Алексеев, В. М. Тихомиров и С. В. Фомин [4], Е. Г. Гольштейн [42], И. И. Ерёмин и Н. Н. Астафьев [74], К. Залинеску [600], А. Д. Иоффе и В. М. Тихомиров [79], В. Г. Карманов [92], П.-Ж. Лоран [190], X. Никкайдо [202],
5.7. Комментарии
355
Ж.-Б. Ирриарт-Уррути [383, 384], Б. Т. Поляк [206], Б. Н. Пшеничный [212, 213], Р. Т. Рокафеллар [220], В. М. Тихомиров [231], И. Экланд и Р. Темам [249], К. Эрроу, Л. Гурвиц и X. Удзава [251], М. Юрг [415]. В настоящей книге мы совсем не касаемся роли выпуклости и субдифференциалов в вариационном исчислении и оптимальном управлении; по этому поводу см. монографии: В. М. Алексеев, В. М. Тихомиров и С. В. Фомин [4], В. Барбу и Т. Прекупану [277], В. Г. Болтянский [17,18], Дж. Варга [27], Р. В. Гамкрелидзе [36], А. Д. Иоффе и В. М. Тихомиров [79], Л. Нойштадт [489], И. Экланд и Р. Темам [249], Л. Янг [254].
5.7.1.	(1) Многоцелевая оптимизация берет свое начало в экономике и ее становление связано, прежде всего, с именем В. Парето. Обстоятельный обзор этого предмета с 1776 по 1960 год содержится в работе В. Стэдлера [555]. В пятидесятые годы векторная оптимизация включается в общее математическое программирование. Последующее развитие предмета отражено в сборниках под редакцией Дж. Л. Кохрейна и М. Зелени [322], X. Тириеза и С. Зайонтса [569], М. Зелени [602].
(2)	Векторные программы с реализующимся идеальным решением в гладком случае рассматривал К. Риттер [523]; имеется много практических примеров задач «с клювом» (т. е. тех, где идеал достигается), см. комментарии в обзоре С. С. Кутателадзе [154]. Дальнейшие события, а также идейная сторона многокритериальной оптимизации отражены в обзорах А. Ахиллеса, К.-Г. Эльстера и Р. Незе [255], А. Г. Кусраева и С. С. Кутателадзе [136], а также в книге В. В. Гороховика [51].
(3)	В главе 5 изложены некоторые приемы анализа векторных программ, основанные на субдифференциальном исчислении. Понятия обобщенного решения (5.1.4) и инфинитезимального решения (5.1.6) ввел и изучил С. С. Кутателадзе в [150] и [164] соответственно. Обобщенное решение в смысле 5.1.12 определил А. Г. Кусраев.
5.7.2.	(1) Общий метод исследования гладких конечномерных задач нахождения экстремума при ограничениях в виде равенств был сформулирован Ж. Лагранжем еще в XVII веке. Суть этого метода состоит в так называемом принципе Лагранжа: решение экстремальной задачи с ограничениями представляет собой решение безусловной задачи для подходящего лагранжиана — суммы целевой функции и функций, задающих ограничения, с неопределенными коэффициентами, называемыми множителями Лагранжа. Оказалось, что при достаточно широких предположениях эвристический принцип Лагранжа верен для любых экстремальных задач с ограничениями в виде равенств, неравенств и вхождений. Наиболее завершенную форму принцип Лагранжа нашел в выпуклом анализе, так как для выпуклой экстремальной задачи необходимые и достаточные условия совпадают, а решение задачи на минимум с ограничениями в виде неравенств служит глобальным минимумом подходящего лагранжиана. Последнее утверждение принято называть теоремой Куна-Таккера из-за сыгравшей огромную роль в развитии математического программирования работы X. Куна и А. Таккера [437]. Сам X. Кун в своей работе [436] отметил, что упомя
12=
356
Глава 5. Выпуклые экстремальные задачи
нутый факт был получен ранее в малодоступной диссертации В. Каруша [418]. В этой связи некоторые авторы предпочитают говорить о теореме Каруша-Куна-Таккера.
(2)	Глубйна и универсальность принципа Лагранжа раскрыты в книгах В. М. Алексеева, В. М. Тихомирова и С. В. Фомина [4], А. Д. Иоффе и В. М. Тихомирова [79]. Об истории принципа Лагранжа можно прочитать в статье А. В. Дорофеевой и В. М. Тихомирова [70].
(3)	Принцип Лагранжа в форме различных теорем о седловых точках для разрешимых векторных программ был обоснован в статьях Дж. Зова [604, 606]. Ряд признаков существования простых векторных лагранжианов дан С. С. Кутателадзе и М. М. Фельдманом [170]. Принцип Лагранжа для значений векторных программ (алгебраическая версия 2.5.8 (1)) впервые установил С. С. Кутателадзе [151]. Условие Слейтера хорошо известно в выпуклом анализе; слабое условие Слейтера введено А. Г. Кусраевым [114].
(4)	При доказательстве вспомогательных утверждений 5.2.6 и 5.2.7 был применен метод штрафа — формальный прием, позволяющий сводить экстремальную задачу с ограничениями к безусловной экстремальной задаче. Использование метода штрафа приводит к недифференцируемой целевой функции, даже если данные изучаемой задачи изначально были гладкими. Поэтому указанный метод требует применения техники субдифференциального исчисления (см. обзор А. Г. Кусраева и С. С. Кутателадзе [136]). Метод штрафа впервые возник в работе Р. Куранта при решении некоторых физических задач. Применительно к задачам математического программирования он стал использоваться лишь с середины 1950-х годов. О роли этого метода в разработке численных алгоритмов поиска экстремума нелинейной функции при нелинейных ограничениях см. в монографиях Ф. П. Васильева [28], В. С. Михалевича, А. М. Гупала и В. И. Норкина [196], Н. Н. Моисеева, Ю. П. Иванилова и Е. М. Столяровой [197], Р. П. Федоренко [236], А. Фиакко и Г. Мак-Кормик [240].
5.7.3.	(1) В изложении результатов о приближенной оптимальности (5.3.1-5.3.5) мы следуем С. С. Кутателадзе [155,159]. В гладком случае оптимальность по Парето изучается в известном цикле работ С. Смейла [550].
(2)	Относительно динамических экстремальных задач типа 5.3.6 и их связи с моделями экономической динамики см. книги В. Л. Макарова и А. М. Рубинова [193,194], Б. Н. Пшеничного [212], А. М. Рубинова [225]. Принципиальная схема, изложенная в 5.3.6-5.3.9, опубликована в работах А. Г. Кусраева и С. С. Кутателадзе [133,134].
5.7.4.	В основу параграфа 5.4 положена статья С. С. Кутателадзе [164].
5.7.5.	(1) О пространствах вектор-функций Е(Х) и EW(X'), а также о двойственности Е(Х) j?w(X') подробнее можно найти в монографии А. Г. Кусраева [132]. Измеримый вариант пространств Е(Х) и EW(X'\ а также двойственности Е(Х) w EW(X') см. у В. Л. Левина [181]. В силу утверждения 5.5.2 (1) и результатов 4.3 полунепрерывные снизу операторы (в смысле 4.3.2-4.3.3) естественно
5.7. Комментарии
357
изучать относительно двойственности Е(Х) w EW(X'). В 5.5 и 5.6 представлено лишь начало такого изучения.
(2)	Выпуклые операторы со значениями в Е* ранее не рассматривались. Необходимость такого расширения области значений выпуклых операторов возникает в связи с техническими приемами, развитыми в 5.5 и 5.6. Приведем здесь иную мотивировку.
Пусть /1,/2 • X —>	— полунепрерывные снизу выпуклые функциона-
лы, определенные на произвольном нормированном пространстве X. Положим Е := R2 и определим операторы Fi : X —> Е* и F2 • X Е* формулами:
.= /(Л(ж)> Л(х)), если х е dom(A) Г) dom(/2), 1 4-оо,	если х £ dom(/i) П dom(/2);
Г2(х) = (Л(х),/2(х)) (хеХ),
где принимается 4-оо := (4-оо, 4-оо) и, стало быть,
Е* = К2 U {(0, 4-оо), (4-оо,0), 4-оо}.
Если жо Е dom(/i) и жо dom(/2), то оператор F2 полунепрерывен снизу в точке жо, a Fi — нет. Таким образом, если мы рассматриваем операторы со значениями в Ее, то происходит неестественное сужение класса полунепрерывных снизу операторов.
(3)	Аналогично дело обстоит при изучении интегральных функционалов. Пусть X — банахово пространство и (Q, Е, /х) — пространство с мерой. Рассмотрим функцию f : Q х X —> R*. Допустим, что функция /(а>, •) выпукла при почти всех си € Q, а композиция и ь-* /(си, u(u>)) измерима для всех и из некоторого пространства L измеримых по Бохнеру вектор-функций и : Q —> X. Тогда интегральный функционал If : L —► К* определяется следующим образом:
If (и) := /
если функция ш	u(cu)) суммируема, и If (и) := 4-оо — в противном случае.
Пусть Е := E°(Q, Е, /1) — Е-пространство (классов эквивалентности) измеримых функций, а / : L1(/z) —> R — интеграл Лебега. Тогда имеет место представление If = JoF, где оператор F : L —> Е* определяется формулой F(u) :и> ь-> /(а>, и(о?)). В рассматриваемом контексте функцию / принято называть интегрантом. Как видно, допущение к рассмотрению лишь операторов F со значениями в Е* приводит к нежелательному сужению класса интегрантов. Относительно теории ин-тегрантов, восходящей к Р. Т. Рокафеллару, см. монографии В. Л. Левина [181], К. Кастена и М. Валадье [315], И. Экланда и Р. Темама [249].
(4)	Материал пп. 5.5.3-5.5.5 показывает, что алгебраический вариант субдифференциального исчисления в полном объеме имеет место для выпуклых операторов со значениями в Е*. Условие общего положения из 5.5.3 и 5.5.4 можно несколько ослабить, но за счет более громоздкой конструкции.
358
Глава 5. Выпуклые экстремальные задачи
(5)	Различные варианты условия Липшица для отображений со значениями в упорядоченном векторном пространстве были введены А. Г. Кусраевым [107] и Л. Тибо [565]. Данное в 5.5.8 определение липшицевости наиболее приспособлено к двойственности Е(Х) <?-> EW(X'), как видно из 5.5.8-5.5.11. Оно было введено, по-видимому, Н. Папагеоргиу [503] и является частным случаем определения А. Г. Кусраева [107]; так, согласно [107] липшицевость отображения f : X —> Е* на множестве U С X означает справедливость соотношения 1/(я) - /(я')1 р(я - х') (х,х' е U), где р : X —> Е — непрерывный сублинейный оператор. Если оператор р порядково ограничен в том смысле, что для некоторого е G Е+ выполняется |р(ж)| < е при всех х € X, ||ж|| < 1, то |р(я)| < е||ж|| (х G X) и, следовательно, f удовлетворяет условию Липшица в смысле 5.5.8.
(6)	Основные результаты параграфа 5.5 получены А. Г. Кусраевым и Е. К. Басаевой. Здесь только намечено построение многоцелевого выпуклого программирования на основе векторной двойственности Е(Х) <-+ Ew(Xf). Представляет интерес дальнейшее развитие этого подхода и особенно его распространение на случай пространств измеримых вектор-функций типа Е(Х) и Ew(Xf). Здесь могут быть полезны методы, развитые А. Е. Гутманом [54], А. Г. Кусраевым [132], В. Л. Левиным [181].
5.7.6. (1) Основные результаты параграфа 5.6 (пп. 5.6.1-5.6.8) получены А. Г. Кусраевым. Как уже отмечалось, скалярный вариант 5.6.9 (1) теоремы 5.6.1 — вариационный принцип Экланда, получивший широкий спектр приложений в нелинейном анализе (см. обзор И. Экланда [351], а также монографии Ф. Кларка [320], Ж.-П. Обэна и И. Экланда [204], Р. Фелпса [512], И. Экланда и Р. Темама [249]). Относительно теорем 5.6.9 (2) и 5.6.9 (3) см. работы Э. Бишопа, Р. Фелпса, А. Бронстеда и Р. Т. Рокафеллара. Соответствующие ссылки и комментарии см. в книгах Р. Фелпса [512], Р. Холмса [388].
(2) Принцип Экланда 5.6.9 (1) имеет место и при более общих предположениях (см. [351]):
Теорема. Пусть (X, d) — полное метрическое пространство и / : X —> 1R* — полунепрерывная снизу функция, ограниченная снизу и не равная тождественно +оо. Пусть е > 0 и х G X таковы, что f(x) < infx/ex f(x') 4- е. Тогда существует точка у G X, удовлетворяющая следующим условиям:
(0 f(y) /(х);
(ii) d(/(x),№))^l;
(iii) f(y) < f(x')+ed(y,x') (у / x').
(3)	Вариационный принцип Экланда можно сформулировать так: если полунепрерывная снизу функция достигает приближенного минимума в какой-то точке, то некоторое малое возмущение этой функции достигает точного минимума в близкой точке. При этом возмущение может не быть дифференцируемой функцией, даже если исходная функция была гладкой. Аналогичный вариационный принцип с дифференцируемым возмущением был впервые установлен Дж. Борвейном и Д. Прейсом [300]. Обсуждение вариационных принципов и их
5.7. Комментарии
359
приложений имеется в книгах П. Лоевена [456], Н. Гусоуба [370], Ж.-П. Обэна и И. Экланда [204]; см. также препринт Л. Йонгксина и С. Шужонга [594].
(4)	Полностью за пределами этой книги остается замечательный раздел выпуклого анализа, посвященный дифференцируемости выпуклых функций и обладающий богатыми взаимосвязями с геометрией банаховых пространств. Важнейшие идеи и методы этого направления отражены в монографиях Р. Бургена [306], П. Лоевена [456], Р. Фелпса [512].
(5)	Вопрос о том, имеет ли опорные точки выпуклое замкнутое множество в вещественном банаховом пространстве, был сформулирован В. К ли [427] в 1958 году. Если это множество имеет внутреннюю точку, то ответ легко следует из теоремы Хана-Банаха: каждая граничная точка является опорной. Но даже в этой простой ситуации не каждый функционал является опорным. Очевидно, что для ограниченного выпуклого множества в рефлексивном банаховом пространстве (в силу его слабой компактности) каждый ограниченный функционал достигает нормы на единичном шаре, т. е. опорен для единичного шара. В то же время знаменитая теорема Р. С. Джеймса (см. [168]) утверждает, что в нерефлексивном банаховом пространстве существует ограниченный линейный функционал, не достигающий своего максимума на единичном шаре; доказательство можно найти в книгах Дж. Дистеля [68] и Р. Холмса [388]. Таким образом, проблема Кли существования опорных точек и функционалов нетривиальна в произвольных банаховых пространствах для выпуклых замкнутых множеств с пустой внутренностью и в нерефлексивных банаховых пространствах для выпуклых замкнутых ограниченных множеств соответственно.
(6)	Ответ на сформулированный Кли вопрос получили Э. Бишоп и Р. Фелпс, установившие в [290] теорему 5.6.9 (3) для вещественного банахова пространства. Р. Т. Рокафеллар и А. Бронстед, используя геометрические идеи и технику Э. Бишопа и Р. Фелпса, установили теорему 5.6.9 (2). Принятый нами в параграфе 5.6 аналитический подход основан на вариационном принципе Экланда. По существу эти подходы равносильны: как показал М. Фабиан в [357], принцип Экланда и теорему Бронстеда-Рокафеллара можно вывести из теоремы Бишопа-Фелпса.
(7)	Теорема Бишопа-Фелпса не имеет места в комплексном случае: В. И. Ломоносов [457] построил пример выпуклого замкнутого ограниченного множества в комплексном банаховом пространстве, не имеющего ни одного опорного функционала.
Глава 6
Квазидифференциалы
Отображение называют квазидифференцируемым во внутренней точке области определения, если в этой точке существует производная по направлениям, которая представляет собой разность двух сублинейных операторов. Квазидифференциал вводится посредством естественного расширения двойственности Минковского как элемент пространства множеств. Тем самым возникает возможность расширения приемов субдифференциального исчисления на довольно широкий класс квазидифференцируемых отображений, который включает выпуклые и вогнутые операторы.
Задача выражения квазидифференциала составного отображения через квазидифференциалы его составляющих естественным образом распадается на три этапа: 1) нахождение явного вида производной по направлениям сложной функции через производные по направлениям составляющих отображений; 2) представление полученной производной в виде разности сублинейных операторов; 3) вычисление квазидифференциала исходного отображения через квазидифференциалы составляющих. Первый этап состоит в вычислении соответствующих пределов и использует небольшие технические модификации приемов классического анализа. Второй этап не всегда очевиден и требует иногда изобретения каких-либо искусственных приемов. Третий этап опирается на двойственность Минковского, расширенную на класс квазилинейных операторов, представимых в виде разности сублинейных.
Следуя этой схеме, можно получить все основные правила исчисления квазидифференциалов, а именно, формулы для квазидифференциалов суммы, произведения, частного, композиции, супремума и инфимума.
Как мы видели в главе 4, аналог классического «цепного правила» исчисления — субдифференциал суперпозиции равняется суперпозиции субдифференциалов — выполняется лишь в специальных случаях. Эти случаи основаны, как мы видели выше, на технике дезинтегрирования, использующей операторы Магарам. Часть этой техники может быть распространена и на квазидифференциалы.
Квазидифференциальное исчисление позволяет вывести необходимые условия экстремума в многоцелевых экстремальных задачах с ограничениями, определяемыми квазидифференцируемыми отображениями. При этом по существу используются те же приемы, что были описаны в главе 5.
6.1. Пространство опорных множеств
361
6.1. Пространство опорных множеств
В этом параграфе мы рассмотрим более подробно продолжение двойственности Минковского (см. 1.5.6 и 1.5.7) на класс квазилинейных операторов — операг торов, представимых в виде разности сублинейных операторов.
6.1.1. Пусть X — векторное пространство, Е — произвольное /^-пространство и А := Orth(E). Напомним, что двойственностью Минковского называют отображение д : Sbl(X, Е) —» CS(X, Е), сопоставляющее сублинейному оператору р его субдифференциал в нуле др. Это отображение служит изоморфизмом А-конических полурешеток Sbl(X, Е) и CSc(X, Е), причем обратное отображение sup : CSc(X, Е) —* Sbl(X, Е) каждому множеству G CSc(X, Е) сопоставляет сублинейный оператор sup(^) : X —» Е, действующий по правилу
sup(^) : х sup{T\r : Т € (х € X).
Согласно 1.5.6 А-конические полурешетки Sbl(X, Е) и CSc(X, Е) допускают погружение в унитарные решеточно упорядоченные A-модули [Sbl(X, Е)] и [CSc(X, Е)] соответственно. Более того, двойственность Минковского д и отображение sup допускают продолжение до изоморфизмов этих решеточно упорядоченных A-модулей. Итак,
[0] : [Sbl(X,Е)]	[CSc(X, Е)], [sup] : [CSc(X, Е)]	[Sbl(X, Е)],
причем [<Э]-1 = [sup]. Остановимся немного подробнее на строении модулей [Sbl(X,E)] и [CSc(X, Е)] и изоморфизмов [0] и [sup].
Как уже отмечалось в 1.5.7, [Sbl(X,E)] можно отождествить с А-подмодулем в Ех, состоящим из всех отображений из X в Е, представимых в виде разности двух сублинейных операторов. Последнее множество, обозначаемое в дальнейшем символом QL(X, Е), действительно является модулем: если f = р — q для некоторых p,q G Sbl(X, Е) и а € Orth(E), то имеют место равенства
af := а о f = а+р + a~q — (а~~ р + a+q), доказывающие, что af € QL(X, Е). Элементы QL(X, Е) мы будем называть квазилинейными операторами. Итак, QL(X, Е) := Sbl(X,E) — Sbl(X, Е), причем структура упорядоченного A-модуля в это множество индуцирована из Ех, т. е. вводится с помощью поточечных операций. В частности, порядок в QL(X, Е) задан конусом положительных элементов {р G QL(X, Е) : р(х) > 0(ж Е X)}.
Упомянутое отождествление производят следующим образом. Паре сублинейных операторов р, q € Sbl(X, Е) ставят в соответствие квазилинейный оператор <£(р, q) : х р(х) - q(x) (х € X). Пусть : Sbl(X, Е) х Sbl(X, Е) [Sbl(X, Е)] -фактор-отображение из 1.5.6. Очевидно, что пары (р, q) и (pz,Qz) представляют один и тот же квазилинейный оператор в том и только в том случае, когда р 4- q' = р' 4- что означает эквивалентность этих пар в смысле 1.5.6, а значит, и справедливость равенства <р(р, q) = У>(р\(/)- Тем самым существует единственный изоморфизм г: [Sbl(X, Е)] —> QL(X, Е) такой, что го<р = ф. Иными словами, если \p,q\ — класс эквивалентности пары (р,д), то г([р,д]) = р — q.
362
Глава 6. Квазидифференциалы
6.1.2. Множество QL(X,E) с указанными операциями и порядком является решеточно упорядоченным A-модулем. Если операторы Zi,... ,lk € QL(X, Е) представимы в виде Ц —	— qif где pt,qi € Sbl(X, Е) (г := 1,..., fc), то супремум
и инфимум этих операторов (вычисляемые поточечно) также входят в QL(X, Е), причем имеют место представления
П	П (	П	4 п
\/ц = \Црг+ 52 «Л-52^’
г=1	г=1	' j=l
n	n	n C	n Л
Az<=52p>-Vbi+ 12 рЛ-
г=1 j=l г=1	'
<1 Определим операторы p, q : X —> E формулами
n ✓	n	x	n
p(x) := V \Pi(x>> + 52 «jf®)}’ eW :=129^®)-
Очевидно, что операторы p и q сублинейны. Следовательно, достаточно установить, что \/”=1 Ц = p — q. Последнее вытекает из следующих выкладок, в которых используется соотношение V... V an + b = (ai 4- b) V... V (an + 6), справедливое в любой векторной решетке:
п	п	п	п
V = V = V {р*(х) ~ 9<(x)}+52'^) ~q^ =
г=1	г=1	г=1	j=l
П z	п	ч
= V ] р»(ж) -q№>+52^) г ~q^=p^ ~q^-»=i i	j=i	j
Используя формулу ai A ... A an 4- b = (ai 4- 6) A ... A (an 4- b), мы аналогично выводим представление для поточечного инфимума:
Д/Дх) = Д {pi(x) - qi(х)} = р(х) - ^рДх) + A {Pi(х) - <!№)} =
ii	г=1	j—1	i=l
п (
=р(х) + А । —	- 52р>(ж)+р»(а;) ? =
1=1	j=l	'
n z	П	х
= р(х)-Vs9i(x)+ 52	=р(®)-9(а:)>
г=1	j=l,j/i	'
где на этот раз обозначено
р(^) := 52р>(ж)> «w := V + 52 р/ж)}-
>=1	г=1	*
Таким образом, точные границы конечного числа квазилинейных операторов также квазилинейны. О
6.1. Пространство опорных множеств
363
6.1.3.	Рассмотрим теперь подробнее модуль опорных множеств [CSc(X, 2?)]. Прежде всего проверим, что в Л-конической полу решетке CSc(X, Е) выполняется закон сокращения, что по умолчанию предполагалось в 1.5.7.
(1)	Пусть U,V,W € CSc(X,E). Если U + W D V + W, то U 3 V. Если же U + W = V + W,toU = V.
<1 Допустим, что U = др, V = dq и W = дг для некоторых сублинейных операторов р, q, г : X Е. Тогда, привлекая аддитивность и монотонность двойственности Минковского, мы выводим: д(р 4- г) = др 4- dr D dq 4- dr = d(q 4- г). Отсюда р 4- г q 4- г. Стало быть, р q или, что то же самое, U = др D dq = V. Второе утверждение очевидным образом следует из первого. >
Отношение эквивалентности в CSc(X, Е) вводится следующим образом: пары (Ui, Vi) и (U2, Vz) эквивалентны тогда и только тогда, когда Ui 4- V2 — U2 4- Vi, см. 1.5.6. Пусть [U, V] обозначает класс эквивалентности пары опорных множеств (17, V). Тогда алгебраические операции (сложение и умножение на элементы кольца Orth(F)) в [CSc(A\ Е] вводятся следующими формулами:
[Ur, Vi] + [С72, У2] := [Щ + С72, Vi + У2];
a[U,V] := [a+U,a+V] 4- [oTV,oTU]'
Эти определения корректны, так как согласуются с эквивалентностью в множестве упорядоченных пар опорных множеств. В частности, противоположный элемент задается формулой —[17, У] = [V, С7], а класс эквивалентности [U, V] будет нулем в том и только в том случае, если (17, V) ~ ({0}, {0}), т. е. если U = V. Отношение порядка в модуле [CSc(X, Е)] вводится с помощью конуса положительных элементов
К = {[U, V] е [CSc(X, Е*)] : U D V}.
Тем самым справедливы следующие соотношения:
[f7i, Vi] > [t72, V2] w [иъ Vi] - [172,У2] > 0 w Ui 4- V2 D Vi + U2-
Вложение l : CSc(X, E) —> [CSc(X, E)] из 1.5.6 имеет вид l(U) = [U, {0}]. Для произвольной пары опорных множеств (7, V G CSc(X,E) справедливы равенства [U, V] = [U, {0}] 4- [{0}, V] = [U, {0}] - [V, {0}] = l(U) - t(V), откуда видно, что конус £(CSc(X, Е)) является воспроизводящим.
Согласно теореме 1.5.6 двойственность Минковского допускает распространение [3] на модуль [Sbi(X, £*)]. Поскольку последний отождествляется с QL(X, Е), то возникает изоморфизм из QL(X, Е) на [CSc(X, 2?)], который мы будем обозначать символом полагая по определению &	[<9] о г”1. Обратный к нему
изоморфизм имеет вид У := г о [sup], так как ^~1 = г о [9]-1 = Отображение [0] определяется равенством (см. 1.5.6) [д](<р(р, <?)) = [ФР,0?Ь Значит, в силу наших соглашений можно написать ^(</>(р,д)) = [др, dq], каковы бы ни были р, q € Sbl(X, Е). Итак, если I — р- q, то = [dp, dq], причем @1 не зависит от конкретного представления I в виде разности сублинейных операторов. Элемент
364
Глава 6. Квазидифференциалы
$1 из A-модуля [CSc(X, Е)] называют квазидифференциалом (в нуле) оператора I и обозначают символом @1. При этом для опорных множеств др и dq приняты следующие названия и обозначения: dl := др — субдифференциал в нуле оператора I и dl := dq — супердифференциал в нуле оператора I.
Суммируя сказанное и учитывая 1.5.7, мы приходим к следующему утверждению.
(2)	Отображение $ := [<?] о г-1 осуществляет изоморфизм решеточно упорядоченных A-модулей QL(X, Е) и [CSc(X, Е)], причем обратный к нему изоморфизм имеет вид := го [sup]. Таким образом, если для некоторых I е QL(X, Е) и 17, V G CSc(X, Е) выполняется = [СТ, V] (или, что то же самое, ^(\U, V]) = /), то
dl = U, dl = V, l(x) = sup{Sa:: S eU} - sup{Tx : Т eV} (хе X).
Разумеется, субдифференциал и супердифференциал квазилинейной функции определяются неоднозначно, тогда как квазидифференциал — вполне определенный элемент модуля [CSc(X, Е)]. В самом деле, помимо представления I =p — q верно также I = (р 4- г) — (g + г), где г — произвольный сублинейный оператор, следовательно, @1 = [5р,	= [9(р+г),<?(#4-г)]. Пусть I = pi — qi = P2~q2,
где pi, qi e Sbl(X,E) (г := 1,2). Тогда pi 4-Q2 =P2+Qi- Полагая Ui = dpi, Vi — dqi (i := 1,2) и привлекая двойственность Минковского, получаем U\ 4- Vz = U2 + Vi. Таким образом, если две пары опорных множеств определяют одну и ту же квазилинейную функцию I, то они эквивалентны. Верно и обратное: если пары (CTi, Vi) и (U2, V2) эквивалентны, то по ним восстанавливается одна и та же квазилинейная функция:
sup S(x) — sup Т(х) = sup S(x) — sup T(x) (x e X). seUi TeVi seu2 tgv2
6.1.4.	Рассмотрим, как при изоморфизме <2 преобразуются произведение на элемент кольца А, сумма и решеточные операции.
(1)	Пусть a е Orth(E)J G QL(X,E) и ®l = [dl,dl]. Тогда @(al) = a&l. Подробнее, @(al) ~ [d(al), d(al)], где
d(al) = ot+dl 4- a~dl, d(al) = oTdl 4- a+dl.
<1 Из равенства @1 — [dl, dl] видно, что I = p - q, где
p(x) = sup S(x), q(x) — sup T(x).
sedi	Teoi
Отсюда al = (a+p + a~q) — (a~ p 4- a+g). Остается применить двойственность Минковского с учетом ее аддитивности и однородности (см. 1.4.12 и 1.4.14 (5)). 1>
(2)	Пусть li,...,ln е QL(X, Е). Тогда @(li 4- ... 4- ln) = ^li 4- ... 4- ^In-Подробнее, если I := li +	4- ln и = [дЦ, дЦ] (г := 1,..., п), то @1 = [dl, dl],
где dl = dli+ ... 4- dln, dl = dli+ ... 4- dln.
6.1. Пространство опорных множеств
365
< Если li = Pi — Qi, то достаточно применить двойственность Минковского к равенству 1г + ... + /п = (Pi + • • • + Рп) - (?1 + • • • + qn)- >
(3)	Пусть /i,..., 1п € QL(X,Е) и	(г :=	Положим
д(х) := li(x) V ... V 1п(х) и h(x) := 1\(х) Л ... Л 1п(х).
Тогда = [$р, dg], @h = [dh,dh], где
dg = op (J + 52	= 52
г=1 '	'	J=1
dh = 52 Qbh dh — op [J (дЦ + 52 j-l	i=l 4
<] Из условия @li = [дЦ, дЦ] видно, что Ц = Pi — qi, где
Pi(x) = sup S(x), qi(x) = sup T(x) sedii	Tedii
при всех i := 1,... ,n. Предложение 6.1.2 дает выражение операторов д и h через операторы рг и qz. Для завершения доказательства достаточно применить двойственность Минковского. При этом следует воспользоваться ее аддитивностью, а также формулой 2.1.7 (1), утверждающей, что точную верхнюю границу сублинейных операторов двойственность Минковского переводит в операторную оболочку объединения опорных множеств этих операторов. 1>
6.1.5.	Разность опорных множеств СТ, V € CScOX", Е) мы можем определить, используя вложение t, рассмотренное в 6.1.3. Именно, за такую разность можно принять элемент — модуля [CSc(X, Е)]. Но при этом указанная разность не совпадает, вообще говоря, с элементом вида ^(1У) ни для какого опорного множества W. Если все же t(C7) — t(V) = для некоторого опорного множества W, то [W, {0}] = [IT, V] или, что то же самое, (W, {0}) ~ (U, V), поэтому U = V+W. В этом случае мы пишем W = U-?-V. Однако разность W = U+ V может существовать и в более общей ситуации, чем наличие равенства U = V + W.
Определим операцию 4- явно. Пусть СТ, V 6 CSc(X, Е). Положим
U + V = {x: x+VcU}.
Пространство CSc(X, Е) не замкнуто относительно операции так как иногда результатом этой операции может быть пустое множество.
(1)	Если множество U + V непусто, то оно опорно.
<1 Согласно 2.4.12 непустое множество W С ЦХ,Е) опорно в том и только в том случае, когда оно: 1) слабо порядково ограничено, т. е. для любого х G X множество {Т(х) : Т Е W} порядково ограничено в Е; 2) операторно выпукло, т. е. если Т\,Тъ € W и а € Orth(E), 0 < а < 1е, то оЯ\ + (Ле — 0)^2 € W; 3) слабо о-замкнуто, т. е. если сеть (Т@) С W такова, что для каждого х € X существует Тх := o-lim/3 Т^(ж), то Т € W.
Положим W :=U+V. Для фиксированного Т G V верно W + Т С U, поэтому множество W+Т слабо порядково ограничено, ибо таковым является U. Но тогда множество W тоже слабо порядково ограничено.
366
Глава 6. Квазидифференциалы
Покажем, что множество W операторно выпукло. Пусть W непусто, и возьмем Ti,Т2 G W. Тогда для любого S € V будет Тх 4- S, Т2 4- S G U и, следовательно,
и Э а(Тх + S) + (1Е - а)(Г? + S) - сЛ\ + (1Е - а)Т2 4- S,
какой бы ни был ортоморфизм а 6 Orth(7?), О < а < 1Е. Отсюда, ввиду произвола в выборе S € V, получаем требуемое оЛ\ 4- (1Е — а)Т2 е W.
Наконец, допустим, что Т@ 4- S € U для любых /? и S € V. Тогда (Т 4- S) (х) = = o-lim (Т@ 4- S)(x) при всех я Е X, поэтому Т 4- S 6 U ввиду слабой порядковой замкнутости U. Тем самым Т Е W. 1>
Аналогичную операцию «вычитание» можно ввести в Sbl(X, Е). Для p,q G € Sbl(X, Е) положим по определению
(р 4- q)(x) := sup {r(x) : г € Sbl(X, Е), г + q р (х е X)}.
Это равенство определяет сублинейный оператор p+q € Sbl(X, Е) в том и только в том случае, если существует хоть один сублинейный оператор г G Sbl(X,El), для которого q 4- г р.
(2)	Если для сублинейных операторов p,q € Sbl(X, Е) существует р-q. то имеет место равенство д(р 4- q) = (др) 4- (dq).
< Если Т G (др) 4- (dq), то, по определению операции 4- для множеств, будет Т 4- dq С др или, что то же, Т 4- q р. Тем самым Т < р 4- Q. Наоборот, пусть W — объединение множеств дг по всем г € Sbl(X, Е), удовлетворяющим неравенству г 4- q р. Как видно из определений, д(р 4- q) = сор(Ж). В то же время U С (др) 4- (dq). Согласно (1) (др) 4- (dq) — опорное множество, следовательно, cop(tZ) С (др) 4- (dq). >
(3)	Пусть U, V и W — опорные множества, а р, q и г — сублинейные операторы. Еслир — g 4- г, то г — р-i- q; если U = V 4- W, toW = U 4- V.
<3 Допустим, что р = q 4- г. Тогда для любого сублинейного оператора г', для которого г' 4- q р, будет г' < г. Тем самым г = р 4- q. Второе утверждение следует из первого в силу двойственности Минковского с учетом (2). О
(4)	Пусть U\,V\,U2nV2 — опорные множества, a pi, qi,p2 nq2 — сублинейные операторы. Если pi — Qi = р2 — q2, то pi+qi = рг 4- q2; если (Ui,Vi) ~ (U2, V2), то
+	V2.
<1 Пусть г 4- Qi < pi- Тогда г Pi — i = Р2 — <72 и, стало быть, г + q2 р2. Переход в последнем соотношении к супремуму по всем указанным г дает Pi 4- Qi р2 4- q2. Обратное неравенство доказывается аналогично. Утверждение относительно опорных множеств выводится путем применения к уже доказанному двойственности Минковского и учета (2). О
6.1.6.	Пусть Е — векторная решетка, a F — произвольное АГ-пространство. Сублинейный оператор р : Е —* F называют мажорируемым, если существует линейный положительный оператор Л : Е —* F такой, что |р(ят)| < Л(|я|) для всех х € Е. При этом Л именуют мажорантой оператора р. Множество операторов
6.1. Пространство опорных множеств
367
% G L~(E,F) называют равномерно мажорируемым (с равномерной мажорантой Л), если \Тх\ Л(|я|) для всех х € Е и Т е Ж. Взяв х G Е+, положим
✓ П	П	х
С(х,р) := <! ^р(хк) : xi,...,xn € Е, 1**1 neZ>. fc=i	k=i	J
Для произвольного сублинейного оператора р : Е —> F равносильны следующие утверждения:
(1)	оператор р мажорируем;
(2)	существуют операторы Л1,Л2 € L~(E,F) такие, что для всех е G выполняются неравенства Л1(е) —р(—е)	р(е) < Л2(е);
(3)	опорное множество др порядково ограничено в К-пространстве ЕДЕ, F);
(4)	опорное множество др равномерно мажорируемо;
(5)	для любого х е Е+ множество С(х,р) порядково ограничено в Е.
< (1)	(2): Если Л — мажоранта оператора р, то р удовлетворяет условию
(2)	с операторами Л1 := —Л и Лг := Л.
(2)	—> (3): Если выполнено (2), то др содержится в порядковом отрезке [Л1, Аг].
(3)	—> (4): Если выполнено (3), то оператор Л := sup{|T| : Т € др}, где супремум вычисляется в ЕДЕ, F), будет равномерной мажорантой множества др.
(4)	—> (5): Пусть Л G ЕДЕ, F) — равномерная мажоранта множества др. Возьмем такие элементы х € Е+, xi,...,xn Е Е, что |#i| Ч- ... + |хп| < х. Привлекая теорему Хана-Банаха-Канторовича, для каждого хк подберем оператор Тк € др так, чтобы Ткхк =p(xk) (см. 1.4.14(1)). Тогда справедливы соотношения
= ЕТкХк	52 А(Ы) «£ Л(яг),
fc=l	к=1	к=1
что и доказывает порядковую ограниченность множества С(х,р).
(5)	—> (1): Для каждого х G Е+ положим Л(я) := зир(7(я?,р). Покажем, что Л —• аддитивный оператор из Е+ в F. В самом деле, пусть х = у 4- z, у, z € Е+. Возьмем такие у\,...,уп € Е и z\,...,zm G Е, что |?/i| 4- ... 4- \уп\ С У и kil 4- ...4фт| О Тогда |2/1| 4- ... 4- \yn\ + ki| 4- ...4-|гт| х,
n	m
Л(х)-
fc=l	Z=1
Переход в этом соотношении по указанным у к и zi дает Л(р) 4- Л(г) < Л(ж).
Рассмотрим теперь произвольные элементы xi,...,xn Е Е, для которых верно |ж 114-... 4- \хп | ж = р 4- г. В силу леммы о двойном разбиении существуют такие У1,...,Уп € Е и zi,...,zn G Е, что
|2/1| 4- • • • 4- \уп\ У, ki| 4- ... 4- |гп| О, хк = ук 4- zk
368
Глава 6. Квазидифференциалы
для всех к := 1,..., п. Учитывая определение Л, можем написать
= ^р(ук + Zk) «г	A(y) + A(z).
fc=l	k=l	k=l	fc=l
Очевидно, что оператор Л также и положительно однороден, т. е. Л(Аж) = АЛ(ят) при х е Е+ и А е R4". Таким образом, существует положительный оператор из Е в F, совпадающий с Л на конусе Е4", который мы обозначим тем же символом Л. Из определения Л видно, что р(х) < Л( |х|) для произвольного х G Е. При замене х на —х мы получим р(—х) Л(|х|), поэтому |р(х)| р(х) V р(—х) Л(|ж|) (х е Е). >
6.1.7.	Покажем теперь, что при некоторых условиях композиция квазилинейных операторов будет квазилинейной.
Пусть X — векторное пространство, Е — векторная решетка, a F — некоторое К-пространство. Рассмотрим операторы P,Q G Sbl(X, Е) и p,q G Sbl(E, F), предположив, что р и q мажорируемы. Тогда оператор R — (р — q) о (Р — Q) представим в виде разности двух сублинейных операторов.
<1 Рассмотрим сублинейный оператор (Р х Q) : X —* Е х Е и линейный оператор тг: Е х Е Е, определенные формулами
(Р х <2)(ж) = (Р(х), Q(x)); 7г(еь е2) = ех - е2.
Декартовы произведения ЕхЕ и FxF наделяют, как обычно, покоординатными алгебраическими операциями и порядком. Как видно, имеет место представление R — рк(Р х Q) - Q7r(P х Q).
Последнее соотношение не дает нам требуемого представления в виде разности сублинейных операторов, так как ртг и qir не являются возрастающими операторами. Следовательно, последние нужно заменить на возрастающие операторы р и q так, чтобы сохранить представление R = р(Р х Q) — q(P х Q). Сначала заметим, что сублинейный оператор г из предупорядоченного векторного пространства Z в F будет возрастающим в том и только в том случае, если г(г) О при z 0. В самом деле, последнее условие, очевидно, необходимо. Если же оно выполнено, то всякий оператор Т 6 dr положителен, так как —Tz < р(—z) < 0 для z € Z+. Остается сослаться на 2.1.1 (2).
Пусть теперь регулярные операторы Лх,Л2 С L^(E,F) таковы, что для каждого из операторов р и q выполнено условие 6.1.6 (2). Тогда для С1,в2 € справедливы неравенства
р(е2~ ei) ^p(e2)+p(-ei)	A2(e2) - Ai(ei),
q(e2 - ei) q(e2) + g(-ei) Л2(е2) - Ai(ei).
Эти неравенства можно переписать в виде
P7r(-(ei,e2)) — Л(—(ei,e2)) 0, Q7r(-(ei,e2)) -A(-(ei,e2)) 0,
6.2. Квазидифференцируемые отображения
369
где оператор Л : Е х Е —> F определяется формулой A(ai,a2) •= Ai(ai) —
(ai,a2 € Е). Последние соотношения показывают, что сублинейные операторы р = р7г — Ли^ = ^7г — Л возрастающие. Кроме того, очевидным образом выполняется равенство R = р(Р х Q) — q(P х Q). о
6*2. Квазидифференцируемые отображения
В этом параграфе мы вводим класс квазидифференцируемых операторов и устанавливаем формулы для квазидифференцирования суммы и произведения.
6.2.1. Пусть X — векторное пространство, а Е — некоторое /^-пространство. Рассмотрим отображение f : X —» Е* и точку Хо € core(dom(/)). Если для некоторого h € X существует предел
Г(*о)Л := Л0(Л) = olim	=
u	aJO	Ot
= l„f sup +.„sup ш /(хо + аЦ-Лзд), £>°0<a<e	Ot	е>0°<а<е	Ot
то его называют (односторонней) производной или, реже, производной Дини f в точке xq по направлению h. Допустим, что в точке xq существует производная f(xo)h по любому направлению h G X. Тогда возникает отображение /'(xq) : X —* Е, которое называют (односторонней) производной по направлениям или производной Дини. В этой ситуации говорят также, что отображение f дифференцируемо по направлениям.
Говорят, что функция f квазидифференцируема в точке xq, если выполнены следующие условия:
(1) для каждого h G X существует односторонняя производная / в точке а?о по направлению А;
(2) отображение /'(жо) • X —> Е квазилинейно.
Если отображение f квазидифференцируемо в точке Хо, то, в силу двойственности Минковского, квазилинейному оператору /'(xq) G QL(X, Е) отвечает элемент ^(/'(^о)) € [CSc(X, Е)], который называют квазидифференциалом f в точке xq и обозначают символом @/(xq).
Если f (xq) допускает представление в виде разности сублинейных операторов p,q G Sbl(X, Е) так, что @/(xq) = [др, dq], то
f'(xQ)h = sup{S(A) : S G др} - sup{T(A) : T e dq} = p(h) - q(h) (h G X).
При этом опорные множества др и dq принято называть соответственно субдифференциалом и супердифференциалом функции f в точке Хо и обозначать df(xo) и df(xo). Итак,
^f(xo) := [др, ЭД := [д/(х0),д/(х0)].
Предположим, что квазидифференцируемое отображение f имеет в точке xq квазидифференциал вида = [д/(яо), {0}] (или ^/(хо) = [{0}, д/(хо)])-
370
Глава 6. Квазидифференциалы
Тогда говорят, что f субдифференцируемо (соответственно, супердифференцируемо) в точке хо- Если отображение f в некоторой точке хо Е core(dom(/)) имеет производную по направлениям Т := /'(жо), являющуюся линейным оператором, то это отображение одновременно субдифференцируемо и супердифференцируемо, причем @f(xo) = [{Т}, {0}] = [{0},{-Т}].
Выпуклый оператор f субдифференцируем в каждой точке х0 Е core(dom(/)), ибо существует производная по направлениям /'(^о), являющаяся сублинейным оператором. При этом df(xo) = df(xo). Оператор / называют вогнутым, если —f — выпуклый оператор. Вогнутый оператор / супердифференцируем в любой точке хо €. core(dom(—/)), причем df(xo) = — д(—/)(жо). В этом случае производная по направлениям /'(хо) также существует, но является суперлинейным оператором, т. е. —/'(^о) — сублинейный оператор.
Еще более широкий класс квазидифференцируемых отображений составляют разности выпуклых операторов (или, что то же самое, суммы выпуклых и вогнутых операторов).
Рассмотрим теперь вопросы квазидифференцируемости суммы и произведения квазидифференцируемых отображений.
6.2.2. Теорема. Пусть операторы	квазидифференцируе-
мы в точке Хо Е core(p)™=1 dom(/J). Тогда их сумма также квазидифференциру-ема в этой точке и
+ ... 4- fn)(xo) = 0/i(*o) + ... 4- @fn(xo)-
Иными словами, если @fi(xo) = [dfi(xo), dfi(xo)] (г := 1,..., n), то квазидифференциал суммы
4- ... 4- fn)(xo) — [9(/i + ... 4- fn)(xo), d(fi 4- ... 4- fn)(#o)] вычисляется по формулам
4- ... 4- fn)(xo) = df^xo) 4- ... + dfn(xo), d(/i 4- ... 4- fn)(xQ) = dfi(xo) 4- ... 4- dfn(x0).
<1 Рассмотрим произвольные квазидифференцируемые в точке Хо отображения /1,...,/п« Покажем, что сумма f := /1 4- ... 4- fn имеет производную по направлениям в точке а?о:
1 / n п	\
f'(x0)h - o-lim - ( 52 fdxo + ah) ~ 52 Л^о) ) =
x г=1	г=1	z
n /	i	ч n
= 521	- (f^xo+ah) - ft(xo))) = 52 fi(xo)h-
г=1 4	z г=1
Предположим, что /г'(яо) — Pi ~ Qi :== 1,..., n). Тогда
f'(xo) = 52/i(zo) = (Pi - Qi) =E,Pi-Eqi-
г=1	г=1	г—1	г=1
6.2. Квазидифференцируемые отображения
371
Так как операторы Pi 4- ... 4- рп и qi 4- ... 4- qn сублинейны, то тем самым установлена квазидифференцируемость отображения f в точке xq. Далее в силу аддитивности отображения & : QL(X,E) —> [CSc(X, Е)] (см. 6.1.4 (2)) будет
0/(*о) =	Л(^о)) =
'4=1	'	/	М=1	'
= XZ ^(/<(^0» = 0/1(*о) + • • • + ^/п(хо), 1=1
что и требовалось. |>
6.2.3. Теорема. Пусть оператор f : X —> Е* квазидифференцируем в точке хо G core(dom(/)) и А € Orth(E). Тогда оператор Xf : х «-> Xf(x) также квазидифференцируем в этой точке и
0(А/)(хо) = А^/(т0).
Иными словами, если 0f(xo) = [Э/(хо),д/(хо)], то для квазидифференциала ^(А/)(то) = [<2(Л/)(то)> d(Xf)(xo)] справедливы равенства
<?(А/)(х0) = А+д/(х0) + А-д/(х0), 3(А/)(х0) = А+№о) + А-^/(х0).
<] В силу о-непрерывности произвольного ортоморфизма производная по направлению отображения А/ вычисляется следующим образом:
(А/)'(хо)Л = о-lim +	=	Л(f(xa + ah)-fM\ =
v J 7 v 7 aio	a	<*io \ a )
= л • olim /(^o + afe)-/(^o) = A/,( )л сцо	a
Пусть f(xo) = p-q для некоторых p,q C QL(X,E). Тогда в силу установленного выше равенства
(А/)'(х0)Л = А/'(х0)Л = А(р(Л) - q(Ji)) = (А+ - А“)(р(Л) - д(Л)) = = (А+р(Л) + A" q(h)) - (A-p(h) + X+q(h)).
Отсюда видна квазидифференцируемость оператора А/ в точке Хо- Наконец, в силу однородности отображения Q (см. 6.1.4 (1)) имеем
^(А/)(х0) = [<?]((А/)'(гг0)Л) = (d](Xf'(xo)h) = X[d](f\x0)h) = X^(f)(x0).
Формулы для вычисления субдифференциала и супердифференциала отображения А/ вытекают из 6.1.4 (1). О
6.2.4.	Если в условиях теоремы (1) положить Е = R и А € К, то мы получим, что для квазидифференцируемой в точке То функции f : X —> R* функция А/
372
Глава 6. Квазидифференциалы
также квазидифференцируема в точке xq и при этом формулы для вычисления субдифференциала и супердифференциала принимают вид:
aW)W = ( ^!10!
-Xdf(xo) при А О, а(л/)Ы = ( приЛ!!°’ V 07	[-Ад/(л0) при А 0.
6.2.5.	Далее рассмотрим вопрос о квазидифференцируемости произведения д• / двух квазидифференцируемых отображений f,g:X~+E\ действующего по правилу д- f : х w g{x)f(x). Однако последнее соотношение имеет смысл, если в Е введена структура кольца. При этом для осуществления указанной программы нужно будет потребовать, чтобы множество Е являлось /-алгеброй с единицей (см. П1.12). Хорошо известно, что всякая /-алгебра с единицей изоморфна алгебре своих ортоморфизмов (см. П2.5(7)). Поэтому естественно рассмотреть ситуацию, когда изучаемые отображения принимают значения в£* и Orth(E)*, причем умножение Е х Orth(E) Е имеет вид (тг, е) тг(е). Тогда произведение д • / : х ь-4 g(x)f(x) определено корректно и остается выяснить, как связаны между собой модули QL(X, Orth(E)) и QL(X, Е), [CSc(X, Orth(E))] и [CSc(X, Е)].
(1)	Для отображения <р : X —> Orth(E) и элемента е G Е определим отображение те((р) :=	: X —> Е, действующее по формуле те((р) : х ь-* (р(х)е.
Теперь возьмем сублинейный оператор р G Sbl(X,Orth(E)). Если е € Е+, то те(р) € Sbl(X, Е). Для произвольного е 6 Е выполняется тпе(р) € QL(X, Е), так как р(-)е = р(-)е+ — р(-)е“. Пусть квазилинейный оператор I G QL(X, Orth(E)) допускает представление I = р — д, где p,q € Sbl(X,Orth(E)). Тогда для произвольного е € Е будет
"1е(0 = р(-)е - ?(-)е = (р(-)е+ + q(-)e_) - (р(-)е" + «( )е+),
и, следовательно, me(l) G QL(X,E).
(2)	Аналогично, взяв множество U отображений из X в Orth(E) и элемент е € Е+, положим me(U) := U(-)e := {те((р) : </?€(/}. Если U — опорное множество, то легко проверить, что me(U) также опорное множество. Если же е G Е — произвольный элемент, то через me(L7) мы обозначим класс эквивалентности, определяемый парой опорных множеств ((7(-)е+, tf(-)e“), т. е. me(I7) = = [С7(-)е+, С7(-)е-] € [CSc(X,Orth(E))]. Наконец, для [U,V] е CSc(X,Orth(E)) положим
me([L7, V]) := [С7(-)е+ +	+ V(-)e+].
Таким образом, одним и тем же символом те мы обозначили два разных, хотя и тесно взаимосвязанных отображения: одно из них действует из QL(X, Orth(E)) в QL(X,E), а другое - из [CSc(X,Orth(E))] в [CSc(X,E)].
(3)	Для I G QL(X, Orth(E)) и е G Е имеет место равенство
6.2. Квазидифференцируемые отображения
373
< Достаточно установить, что для р е Sbl(X, Orth(E)) и положительного е € Е верно д(те(р)) = те(др). Тогда требуемое следует непосредственно из определений (1) и (2). Включение те(др) С 9(те(р)) очевидно. Докажем противоположное включение.
Возьмем произвольный оператор Т € 9(тпе(р)), т. е. Г 6 £(Х, Е) и Тх < р(х)е для всех х G X. Отсюда видно, что тгТ = Г, где тг — порядковый проектор на полосу е^. В максимальном расширении тпЕ рассматриваемого К-пространства Е выберем порядковую единицу 1 и тем самым мультипликативную структуру, для которой 1 служит кольцевой единицей. Существует положительный элемент d G тпЕ такой, что de = 7г1. Положим Sqx := d • Тх (х € X). Очевидно, что So — линейный оператор из X в тЕ. Возьмем произвольный оператор Si 6 др и введем новый оператор S : X —> тЕ формулой S := 7rSo + 7rdSi. Тогда для произвольного х G X имеют место соотношения
Sx = kSqX + ndSix — 7rd-Tx + irdS\
7rd • p(x)e + 7rdp(x) = тг(1)р(т) + irdp(x) = p(x).
Тем самым S € c?p, откуда, в частности, следует, что образ S содержится в Orth(E), так как Sx G [—р(-х),р(х)] С Е. Кроме того, (Sx)e = тг(5от)е = = 7r(d • Тх)е = яТх = Тх и, стало быть, Т — me(S) G те(ЭД, что и требовалось. о
Ниже для объектов вида те(^/) мы используем более короткое и выразительное обозначение (^/)е. Так, если рассматриваются отображения f : X Е* и g : X —> Orth(E)*, то выражение ^(т0)/(т0) — иное обозначение для те(^р(то)), где е := /(то), а р(гго)^/(жо) понимается в соответствии с 6.1.4 (1).
6.2.6.	Теорема. Пусть отображения f : X —> Е* и g : X —> Orth(E)* квазидифференцируемы в xq G core(dom(/)) A core(dom(^)). Тогда отображение gf = g . f : X Е*, действующее по правилу gf : х i-> р(т)/(т), также квази-дифференцируемо в этой точке и справедлива формула
• /)(*о) = р(^о)^/(^о) + ^g(x0)f(x0).
Более того, если @(gf)(xo) = [Э(^/)(то), dgf(xo)], то имеют место представления d(gf)(x) = g+(x0)df(x0) + g~(x0)df(x0) + dg(x0)f+(.x0) + dg(x0)f~(x0), d(gf)&) = g+&o)df(xo) + g~ (x0)df(x0) + dg(x0)f+(x0) + dg(x0)f~(x0).
<1 Пусть f и g квазидифференцируемы в xq E core(dom(/)) A core(dom(<j)). Для a > 0 положим (p(a,h) := f(xo + ah) — f(xo) — af'(xo)h. По условию	= 0- Следовательно, для некоторого е' € Е+ будет
|^(а,Л)/а| е' при всех достаточно малых а. Полагая е := е' + |У'(хго)Л|, можно написать
I(д(я0 + ah) - g(x0))(f'(x0)h + <p(a, h)/a)\	|g(®o + ah) - д(ж0)|(е) M 0.
374
Глава 6. Квазидифференциалы
Учитывая доказанное, заключаем:
(gf)'(x0)h = o-lim ^(д(х0 + ah)f(x0 + ah) - g(x0)f(x0)) =
= o-lim — (g(x0 + ah)f(x0 + ah) - g(xo)f(xo + ah) + g(x0)f(x0 -I- ah)-«10 Q \
-,Ы/Ы) = o-Um (»(»» +
+ o-lim (g(x0 + ah) - g(x0)) (f'(x0)h + <p(a, h)/a) +
+ o-lim g(ar0) •	- ———— = g'(xQ)(h)  f(x0)+g(x0) • f(x0)h.
«10	a
Итак, отображение gf имеет производную по направлениям в точке х0, причем
(gf)'(xo)h = g'(xo)(h)f(xo) + g(xo)f'(xo)(h) (Л € X).
В силу квазидифференцируемости операторов f и д существуют операторы г, s € Sbl(X, Orth(E')) и р, q € Sbl(X, Е) такие, что p'(^o) = г — s и /'(жо) — Р — Я-Покажем, что производная (<?/)'(хо) представима в виде разности сублинейных операторов:
=g'(x0)(h)f(x0) + g(x0)f'(x0)(h) =
=(r(h) - s(h))f(x0) +g(x0)(p(h) - q(h)) =
==r(h)f(x0) - s(h)f(x0) + g(x0)p(h) - g(x0)q(h) =
=r(h)f+(x0) - r(h)f~(x0) - s(h)f+(x0) 4- s(h)f~(x0)+
+ g+(x0)p(h) -g-(x0)p(h) -g+(x0)q(h) +g~(x0)q(h) = =(r(h)f+(x0) + s(h)f~(x0) + g+(x0)p(h) + g~(x0)q(h))-
- (r(h)f~(x0) + s(h)f+(x0) + g~(x0)p(h) + g+(x0)q(h)).
Вновь привлекая линейность отображения с учетом 6.2.5 (3) получаем:
®(д • f)(x0) = ®((gf)'(x0)) = ®(g\x0)f(x0)+g(x0)f'(x0)) = = @(g'(x0))f(x0) + g(x0)®(J'(x0)) = ^g(x0)f(x0)+g(x0)^f(x0). >
6.2.7.	Рассмотрим два частных случая установленной теоремы.
(1)	Пусть f и xq те же, что и в 6.2.6, а д : X R* — квазидифференцируе-мая в точке Xq функция. Определим отображение д : X —> Orth(7?)* формулой д(х) := д(х)1Е- Тогда отображения д и f удовлетворяют условиям теоремы 6.2.6. Следовательно, отображение, действующее по правилу gf:xt-+ g(x)f(x), квази-дифференцируемо в точке xq и справедливы формулы
d(a f}(x } = ( 9(х°№КХо>) + f+(xo)dg(xo) + f~(x0)dg(x0) при д(х0) > 0,
“	°	]~g(x0)df(x0) + f+(xo)dg(xo) + f~(х0)дд(х0) прир(х0) < 0,
6.2. Квазидифференцируемые отображения
375
d(af}(x } = I 9(xo)df(xo) + f+(.xo)dg(xQ) 4- f (x0)dg(x0) ° \-g(xo)df(xo) + f+Mdg(xo) + f~(x0)dg(x0)
при g(x0) 0, при g(x0) 0,
(2)	При E = R из теоремы 6.2.4 следует, что для квазидифференцируемых в точке #0 функций f : X —> R* и д : X —> R* функция д • f : X —> К* также квазидифференцируема в точке Хо и при этом формулы для вычисления субдифференциала и супердифференциала принимают вид:
d(gf)(x0) = <
g(xo)df(xo) + f(x0)dg(x0) -g(xo)df(xo) + f(x0)dg(x0) -g(x0)df(x0) - f(x0)dg(x0) . g(x0)df(x0) - f(xojdg(xo)
при g(x0)	0, f(x0)	0,
при g(x0) < 0, /(хо) > 0, при д(х0) < 0, /(хо)	0,
при g(x0) > 0, /(хо) О,
d(gf)(x0) =
g(x0)df(x0) + f(x0)dg(x0)
-g(x0)df(x0) + /(xo)9g(xo)
-g(xo)df(xo) - /(xo)0g(xo)
k g(x0)d/(x0) - /(x0)9g(x0)
при g(x0) > 0, /(x0) > 0, при g(x0) < 0, /(хо) > О, при g(x0) 0, /(х0) О, при g(x0) > 0, /(хо) 0.
6.2.8.	Теорема. Пусть отображение д : X -+ Orth(H)* квазидифференци-руемо в точке xq € core(dom(/)). Допустим, что для каждого х € dom(g) ортоморфизм д(х) обратим, и обозначим символом 1/д := | отображение, действующее по правилу х |-+ (g(x))-1. Тогда отображение 1/д квазидифференцируемо в точке хо и
^(1/5)(^о) = -(д(х0У)~2®д(х0).
Иными словами, если (l/д')(xq) = [9(1/^)(жо),3(1/^)(жо)]> то имеют место представления	__
д(1/р)(х0) = (д(хо))~2дд(хо), д^/д^хо) = (д(х0))~2дд(х0).
< Умножив выражение a~1((l/^)(iro + ah) ~ (1/д)(хо)) на тождественный ортоморфизм Ie := g(xo)g(xQ 4- cth)(g(xo))~1(g(xo 4- ah))^1, получим
(l/g)(xo + a/t)-(l/g)(xo) = g(xo)-g(xo + aA)	г + х
a	a
Переходя к о-пределу при а | 0, получаем равенство
(l/g)'(x0)/i = -(g(xo))“2g'(^o)/i-
Пусть теперь p,q — сублинейные операторы такие, что выполнено соотношение g\xo)(h) = p(h) - q(h). Тогда
(l/g)'(xo)/i = (g(^o))-29(/j) - (<?(х0))-2р(Л).
376
Глава 6. Квазидифференциалы
Поскольку (д(хоУ) 2 — положительный ортоморфизм, то
(lM(x0)GQL(X,Orth(E))
и отображение (1/д) квазидифференцируемо в точке яо- Формула для вычисления квазидифференциала (1/д) следует, как и выше, из линейности отображения о
6.2.9.	Если для отображения д : X —> Orth(E)* существует 1/р, то по определению полагают f /д := 1/д • /.
(1)	Пусть отображения f : X —> Е* и д : X —> Orth(E)* квазидифференцируемы в точке Xq G core(dom(/)) П core(dom(g))> причем существует 1/д. Тогда отображение f/g := 1/д • f квазидифференцируемо в точке xq и
а(}/д)Ы =
92(xq)
<1 Следует из 6.2.6 и 6.2.8. 1>
(2)	Если операторы fi и f% : X Е* квазидифференцируемы в некоторой точке xq G core(dom(/i)) Qcore(dom(/2)), то их разность fi — /2 квазидифферен-цируема в этой же точке и
^(fi - Л)(хо) = 0/i(xo) - 0/2(хо).
< Следует из 6.2.2 и 6.2.3. О
6.3.	Квазидифференциал композиции, супремума и инфимума
В текущем параграфе устанавливается, что композиция, супремум и инфи-мум квазидифференцируемых отображений квазидифференцируемы. Мы также выводим явные формулы для вычисления соответствующих квазидифференциалов.
6.3.1.	Пусть Е и F — некоторые К-пространства. Рассмотрим отображение g : Е —> F*, дифференцируемое по направлениям в точке во G core(dom(^)). Возьмем u G Е и d G F. Предположим, что для любой последовательности (en) С Е, еп | О, имеет место соотношение
inf sup
0<a<l/m
g(e0 + au'} - g(e0) a
-d =0.
Тогда d называют производной Адамара g в точке ео по направлению и и обозначают gf (ео)и := d. Такое обозначение оправдано тем очевидным наблюдением, что если производная Адамара существует, то существует и производная Дини (в той же точке по тому же направлению) и значения обеих производных совпадают. Таким образом, производную Адамара g в точке е0 по направлению и
6.3. Квазидифференциал композиции, супремума и инфимума
377
можно определить формулами
д'(е0)и := д'ео(и) := inf sup
’nfe 0<a<l/m
\и'-и\^ет
g(ep + au') - g(e0) a
sup ln[ <,(e,+a.')-g(e0)
0<a<l/m |u'-u|^em
Если производная Адамара p'(eo)u существует для каждого направления u G Е, то говорят, что отображение д дифференцируемо по Адамару в точке ео.
Определение производной Адамара упрощается, если F — регулярное ЕС-пространство. Напомним, что ЕС-пространство F называют регулярным, если для любой последовательности вложенных подмножеств F D Ai D ... D Ап D ... таких, что а = infnsup(An), существуют конечные подмножества А'п С Ап, удовлетворяющие условию o-lim n_+oosup(AJl) = а. Можно показать, что ЕС-пространство F будет регулярным, если F удовлетворяет двум требованиям: 1) F имеет счетный тип, т. е. любое подмножество, состоящее из попарно дизъюнктных множеств, не более чем счетно; 2) в F выполняется принцип диагонали, т. е. для любой двойной последовательности (еп?&) С F, имеющей пределы еп := o-lim еп^ (n е N) и е := o-lim еп, существует строго возрастающая последовательность натуральных чисел (кп) такая, что е = o-lim п—оо ёп,кп- (Подробности см. в монографиях Б. 3. Вулиха [30], Л. В. Канторовича, Б. 3. Вулиха и А. Г. Пинскера [90], А. Г. Кусраева [132].)
Пусть F — регулярное К-пространство. Элемент d € F будет производной Адамара отображения g : Е —> F* в точке ео € core(dom(g)) по направлению u G Е в том и только в том случае, если для любых последовательностей (an) С К и (un) С Е таких, что an | 0 и un и, имеет место соотношение
d = o-lim + anUn^ ~	= inf sup 9^° +	~ 9^ =
л—>°°	Qn	mGN n^m
. t 5(eo + anun) - g(e0)
= sup inf —--------------1
an
<1 Необходимость очевидна и верна даже без предположения о регулярности F. Докажем достаточность. Предположим, что для d выполняется указанное в формулировке условие. Возьмем последовательность (еп) С Е, en 1 0, и
положим
cm := sup
0<a<l/m
g(e0 + au') - g(e0) a
Нужно доказать, что с infm ст = 0. В силу регулярности F для каждого т G N существуют конечные подмножества
{^тД»• • • ? ^m,J(rn)} С (0, 1/т); {и-тд, . . . , Um>/(m)} С [и
378
Глава 6. Квазидифференциалы
такие, что
4 := SUp
fl(eo + am,ium>i) - g(e0)
(°)
Построим новую последовательность (un) С E, занумеровав подряд сначала группу {гид,... ,itij(i)}, затем {и2д,..., w2,/(2)} и т. д. Точнее говоря, полагаем ип := ит^ при п = 1(т — 1) + fc, где т € N, 1 < к 1(т) и /(0)	0.
Очевидно, что последовательность (un) будет о-сходиться к и. Проделав то же самое с последовательностью конечных множеств ({атд,..., ^7п,Цт)})тен> получим сходящуюся к нулю числовую последовательность (ап). Если при этом (ап) не является убывающей, то заменим ап на supfc^nQfc. Итак, ап J, 0 и ип -^4 и. Поэтому в соответствии с нашим предположением
0 = o-lim
п—>оо
ап	п—оо
что и требовалось. [>
6.3.2.	В нашей ситуации дифференцируемость по Адамару отображения д не гарантирует непрерывности производной по направлениям <7'(ео)(*) в отличие от случая, когда Е = Rn и F = R. Рассмотрим два случая, когда дифференцируемое по Адамару отображение имеет производную по направлениям, непрерывную в следующем смысле. Отображение <р : Е —* F называют mo-непрерывным в точке uq G F, если для любой последовательности (еп) С Е, еп | 0, выполняется
inf sup |</>(u)-</>(u0)| =0.
|u-uo|^e„
По соображениям, сходным с 6.3.1, мы можем подтвердить, что если F — регулярное АГ-пространство, то mo-непрерывность означает секвенциальную о-неп-рерывность.
Напомним, что множество U С Е называют нормальным, если для любых ui, U2 € U, е € Е из щ < е и2 следует е G U.
(1)	Пусть отображение д : Е F* дифференцируемо по Дини в некоторой точке во € core(dom(g)). Предположим, что существуют нормальное множество U С Е и mo-непрерывный сублинейный оператор р : Е —> F такие, что во € соге((7) и
- р(и2)| р(их - u2) (m, u2 e 17).
Тогда g дифференцируемо по Адамару в точке во и производная по направлениям ^(ео)(-) то-непрерывна.
6.3. Квазидифференциал композиции, супремума и инфимума
379
<1 Возьмем направление и 6 Е и последовательности (an) С R и (en) С Е, для которых ап | 0 и еп | 0. Легко видеть справедливость соотношений
sup
0<а<1/п |u'-u|^eTl
д(е0 + аи') - д(е0) а
- 5'(ео)и
< sup 0<а<1/п
g(e0 + аи) - д(е0)
+ sup 0<а<1/п
р(со 4- аи') - д(е0 4- аи) а
sup 0<а<1/п
а(е„+ »«)-»(€„)_ а
-F sup р(и' — и) Q 0, |uz-u|^en
из которых видна дифференцируемость по Адамару отображения д в точке во
по направлению и.
По условию во € соге((7), т. е. существует £о > 0 такое, что ео 4- е(и ± ei) € U для всех 0 < £ < во- Если |и' — и\ < еп, то с учетом нормальности U для тех же е можем написать во 4- ей' € во 4- е[и — еп, и 4- en] С во 4- [б(и — ei), е(и 4- ei)] С U. Итак, если 0 < а < 1/т < €q и \и' — и| еп, то во 4- аи' G (7 и справедливы оценки
\g'(eQ)u' - g'(eQ)u\ sup
0<а<1/тп
д(ео 4- аи') - g(eQ) д(ер 4- аи) - д(е0)
< р(и' — и) <
sup р(и' - и) 0,
lu'-ul^en
что и указывает mo-непрерывность д'(ео). >
(2)	Пусть К-пространство F регулярно. Если отображение д : Е —» F* дифференцируемо по Адамару в точке во € core(dom(<;)), то производная по направлениям д'(ео)(-) секвенциально о-непрерывна.
<1 Воспользуемся установленным в 6.3.1 вариантом определения дифференцируемости по Адамару в случае регулярного /f-пространства F. Возьмем последовательности (an) С R и (un) С Е, для которых an | 0 и un и. Положим
,	._ #(ео 4- amuk) - g(eQ) ,
d>k,n •— sup	g (e0>fc
m^n	°lm
По определению производной по направлениям o-lim n_>oo dk,n = 0 Для каждого фиксированного k Е N. В силу предположения о регулярности F существует строго возрастающая последовательность натуральных чисел (п^) такая, что o-lim fc—oo dk,nk — 0- Отсюда заключаем
|У(ео)ик - 5z(eo)w| <
g(e0 + аПкик) - g(ep) anie
-g'(e0)uk +
g(ep + anifeUfc) -g(eo)
ank
-g'(e0)u
dk,nk + Wfc 0,
380
Глава 6. Квазидифференциалы
где wk := supm>fc |апД (д(е0 + аПтит) - р(е0)) - 5'(е0)и|	0 по определению
производной Адамара. О
6.3.3.	Теорема. Пусть X — векторное пространство, а Е и F — некоторые К-пространства. Пусть отображение f : X —> Е* дифференцируемо по направлениям в точке xq € core(dom(/)), а отображение д : Е —> F* дифференцируемо по Адамару в точке /(жо) € core(dom(g)), причем </(/(хо))(’) — это то-непрерывное отображение. Тогда отображение go f дифференцируемо по направлениям в точке Xq И
(ffofy(x0)=g'(f(xQ))of'(x0).
< Возьмем произвольное направление h G X и выбрав a > 0, положим
v(a, h) := a”1 (f(xQ 4- ah) - f(xQ) - af(xQ)h), w(a, u) := a"1 (p(/(x0) + au) - g(f(x0)) - ag'(f (x0))u).
Так как f дифференцируемо по направлениям в точке xq, то o-lim Л) = 0. Следовательно, u(a,h) := f(xo)h + v(a, h) /'(то)Л при a | 0. Последнее означает, что en := sup0<Q<1/n |u(a, h) — /'(то)Л| 1 0. Используя введенные обозначения, можем написать
(д ° /)(то + oth) = g(f(xQ 4- ah)) = g(f(xQ) 4- af'(x0)h 4- av(a, h)) = = #(/(то) + au(a, h)) = g(f(xo)) 4- а^'(/(т0))и(а, h) 4- aw(a, u(a, h)).
Учитывая установленное соотношение, то-непрерывность </(ео)(’) и определение дифференцируемости по Адамару, заключаем:
sup _ У(/(аГо)хг<а!о)Л) s
0<a<l/n	Ot
sup (|У(У(х0))и(а,Л)-g'(f(x0))(f'(x0)h)\ + |w(a,u(a,/i))|)
0<a<l/n '	7
sup \g'(f(x0))u-g,(f(x0))(f,(x0)h)\+ sup |w(a,u)|	0.
0<a<l/n
Отсюда следует существование производной (g о /)(ж0)(Л) и справедливость ра-венства (р о /)(x0)(/i) = ^/(/(^о))(/,(а;о)(Л))- >
6.3.4.	Теорема. Пусть X — векторное пространство, а Е и F — некоторые К-пространства. Пусть отображение f : X —> Е* квазидифференцируемо в точке Xq е core(dom(/)), а отображение g : Е —» F9 квазидифференцируемо и одновременно дифференцируемо по Адамару в точке во := /(то) € core(dom(p)), причем производная ^'(во)(-) mo-непрерывна. Предположим, сверх того, что квазидифференциал Stg(eQ) определяется парой порядково ограниченных в L~(E, F) опорных множеств dg(eQ) и с?р(во). Тогда отображение go f квазидифференцируемо в точке Xq.
6.3. Квазидифференциал композиции, супремума и инфимума
381
Если дд(ео) U dg(eQ) С [Ai, Л2] для некоторых А^Лг € L~(E,F), то квазидифференциал о /)(жо) = [д(д о /)(жо), д(д о /)(#о)] может быть вычислен по следующим формулам:
Э(д ° ВЫ = U	d(gof)(x0)= (J д(Рс),
Седд(еа)	Седд(е0)
где
Рс(хо) := (С - Л1) sup S(x0) + (Л2 - С) sup Т(х0).
Sedf(xtt)	ТеЭ/(го)
<1 Согласно 6.1.7 и теореме 6.3.3 отображение д о f квазидифференцируемо в точке то и справедливо равенство
(р ° /)'W =	о ГЫ = (р - (?) о (р - Q),
где операторы P,Q е Sbl(X, Е) и р, q е Sbl(E, F) удовлетворяют соотношениям
Эр = Эр(е0), dq = dg(eo), dP = df(xQ), dQ = df(xo),
а операторы р и q можно выбрать даже мажорируемыми. Так же, как и в 6.1.7, положим Л := (Ai, —Л2) (Л : (ai,^) Aifai) — ММ), Р= ртг — Л, q := qir — Л, ^(^1,62) = ei — б2. В соответствии с 6.1.7 (д о /)'(яо) = p(F х Q) — q(P х Q), следовательно, д(д о /)(жо) = dpi и 9(д о /)(х0) = Э<11, где Pi •= р{Р х Q) и qi := q(p х Q). Здесь, как и в 6.1.7, (Р х <?)(ж) = (P(x),Q(x)). Поскольку р— возрастающий сублинейный оператор, то согласно формуле 2.1.6 (3) будет
Орх = U 0(S(P х Q)).
se&p
Применим теперь формулу 1.4.14(4):
Эр = Э(ртг - Л) = {(С о тг - Л) : Се др}.
Таким образом, справедливо представление
Opi= U ^(C-AJP + ^-OQ).
СЕдр
Аналогично устанавливается представление
Oqi= U 0((C-Ai)P + (A2-C)Q).
Cedq
Остается осуществить субдифференцирование. О
6.3.5.	Пусть отображения fi,...,fn:X-+E9 дифференцируемы по направлениям в точке xq. Тогда отображение f := /1V.. .V fn также дифференцируемо по направлениям в точке Xq и имеет место формула
f(xo)h = V {
(ai,...,an) 6 Гп(»о)
382
Глава 6. Квазидифференциалы
где
Гп(яо) := Гп(х0;/1,...,/п) = {(аъ... ,ап)  &к € Orth+(EI),
п	п	X
52 °* = 1е, 52 а*А(жо) = f(xo) р fc=i	fc=i	'
<1 Конечно-порожденный канонический сублинейный оператор еп : Еп —» Е, очевидно, mo-непрерывен и удовлетворяет неравенству
|en(u) - en(u')| р(и - и') (и, и' е Еп),
гдер(и) := еп|и| (см. 2.1.1). В соответствии с 6.3.2 (1) еп дифференцируем по Адамару в любой точке, а его производная по направлениям mo-непрерывна. Для х е X положим <р(х) := (Д(т),..., /п(я)), считая <р(х) = +оо, если fk(x) = 4-оо хотя бы для одного fc. Ясно, что полученное отображение <р : X —> (Еп)* дифференцируемо по направлениям в точке xq, причем <p'(xo)h = (/1(#о)Л,..., /4(^о)Л) для всех h е X. Таким образом, к композиции еп ° ср применима теорема 6.3.3. Поскольку f = еп ° мы получим формулу
f(xQ)h = е'п(<р(хо)) о <p'(x0)h (h е X).
Остается заметить, что <?(^п(^(жо)) = Гп(хо). Следовательно,
= V 52Qfeefe (w = (ei,--.,en) е £’”)• > (ai,...,an) € Гп(хо) &=1
6.3.6.	Пусть отображения Д,..., fn : X —> Е* дифференцируемы по направлениям в точке хо- Тогда отображение g := Д Л... Л /п также дифференцируемо по направлениям в точке xq и имеет место формула
g'ixojh = Л {52CVi-^^:ro),i}’ (ai,...,an) G Дп(жо) »=1
где
Дп(®о) := Дп(*о; Л, • • •, /п) := {(«1,... ,an) : afc G Orth+(£),
n	П	x
52«t = 1е, Ylak^xo>>=r fe=i	*:=!	’
< Доказательство проводится так же, как и в 6.3.5, но с той разницей, что формула дифференцирования по направлениям из 6.3.3 применяется к композиции 'фсхр, где := —£n(-u) = ei Л ... Л en (u = (ei,..., en) G Еп). Учитывая очевидные соотношения
Гп(^0? "~/1> • • • » ~fn) ~ ^п(^0» /1» • • • 1 fn)
6.3. Квазидифференциал композиции, супремума и инфимума	383
и <^'(uo)u ~ — e'n(—uq)(—п), заключаем
tl>'(<p(x0)) О <p'(x0)h = -e„(-p(x0))(-tp'(x0)h) =
п
= - V 52	=
(ai,...,a„) G Гп(«о;~/ь...-/n) *=1
=	A	22afc/fc(^o)ft,
(ai,...,an) G An(xo;/i v.Jn) *=1
что и требовалось. [>
6.3.7.	Теорема. Пусть отображения	: X —» Е* квазидиффе-
ренцируемы в точке xq € П£=1 core(dom(/k)). Положим f := /i V ... V /п и 9 fi А ... Л fn* Тогда отображения /ид квазидифференцируемы в точке xq и для квазидифференциалов ^/(#о) = [д/(яо),д/(#о)] и &д{х^) = [Э^(жо),^(жо)] имеют место представления
п	п
df(xo) = |J 52 ak (ё/*(жо) + 52	, df(%o) = 52 dfkM'
(cti,...,an) G Гп(т0) fc=l	fe=1
Og(xQ} = 52^A(xo), dg(x0) = |J ^ak(dfk(xQ) + ^dft(x0)). fc=l	(ai,...,an)GAn(®o)bl	Z/fc
<] Ограничимся доказательством требуемого для отображения /; отображение g рассматривается аналогично. Из предложения 6.3.5 следует дифференцируемость по направлениям отображения f в точке Жо, причем
п
f'(xo)h - V {5>/'(*о)л} (hex).
(ai,...,an) G Гп(а?о) ®=1
В силу квазидифференцируемости отображений fi в точке xq имеют место представления f'k(xo)h = pk(h) - qk(h) (к := 1,..., n; h G X), где Pk, qk ~ сублинейные операторы. Введем следующие обозначения:
п
Q(h) := 529fc(/l)’ P^h>> = Pk(h) + ^qi(h), fe=i	Z#fc
P(h)-.= (p1(h),...,pn(h))eEn (hex).
Как видно, P : X —> En и Q : X —> E — сублинейные операторы. Учитывая
384
Глава 6. Квазидифференциалы
введенные обозначения, выпишем следующую цепочку равенств:
z п	х
f'(xo)h = sup <	- Qj(ft)) J- =
(ai,...,an) € Гп(хо) I ^=1	J
= sup ^2 ai (Pi(h) - QiW) Г + 52 9г(Л) - Q(ti) =
(Qi,...,an) G Гп(жо) L ^=1	J 2=1
z n	s
= sup <52 (,aiPiW - OtiQiW + Qi(ft)) f - Q(h) =
(ai,...,an) G Г„(»о) I j—j	)
{n /	\ 'I
52 (агр№)+52 “j&w ) f - qw =
i=l '	j^i	' '
n
= sup	52 aiPiW - QW = гп(Ф))) ° P(h) - Q(h),
(Qi ,...,Q!n.) € Гп(Хо) 2—1
где <p(xq) := (/1(ж0),..., /п(^о))- Итак, /'(жо) = ^п(^(жо)) ° Р ~ Q, следовательно, / квазидифференцируемо в точке xq, причем Э/(хо) = ^(^п(^(жо)) ° Р) и ^/(#о) = 9Q- Остается вычислить субдифференциалы ^(^(^(хо)) оР) и 5Q, что несложно сделать, привлекая 2.1.6 (3) и 1.4.12(1):
э«(Фо))ор)= и д(АоР)= и 52а49р*+^2^)>
AGe^(<p(«o))	(аь.G Г„(ж0) г=1
/ n \ n
OQ = d( ^qO =52^‘-
\ i=l /	1=1
Полученные соотношения совпадают с требуемыми с точностью до обозначений. О
6.3.8.	Сформулируем теорему 6.3.7 в скалярном случае Е = R. Принципиальное отличие скалярного случая состоит в том, что точные границы достигаются, т. е. существует некоторое количество индексов к € {1,..., п}, для которых /(ж0) = fk(xo) и д(хо) = А(жо). В этой связи множества Гп(хо) и Дп(жо), а с ними и формула для вычисления квазидифференциалов несколько упрощаются. Сформулируем соответствующий результат.
Теорема. Пусть функции /1,..., fn : X —> R* квазидифференцируемы в точке Xq € C|fc=1 core(dom(/fc)). Положим f := V ... V fn и g := /1 Л ... Л fn- Тогда функции f ид квазидифференцируемы в точке xq и их квазидифференциалы могут быть вычислены по формулам
dj(x0) = co (J [dfk(xo)+ 52
fcGft(xo)
df(xo) = 52 @з(хо) = 52 ^(жо),
iG/?(®o)	iEQ(®o)
dp(#o) = СО U (д/кы+ 52 ёл(яо)},
fcGQ(so)	iGQ(x0),i/fc
6.4. Дезинтегрирование квазидифференциалов
385
где R(x0) := {к & {1,..., n} : f(x0) = Д(х0)} и Q(x0) := {к € {1,..., п} : д(х0) = = А(яо)}-
<3 Перепишем множество Гп(я:о) в виде
Гп(жо) =	ап) G Rn : ак > 0, ^ак = 1, ^^(/(жо) - А(аг0)) = о|.
к=1	к=1	'
Равенство од(/(а:о) - А(жо)) = 0 влечет ak(f(x0) - А(хо)) = 0 для всех к, так как У(#о) > А(#о) и, стало быть, сумма состоит из неотрицательных слагаемых. Таким образом, число отлично от нуля лишь только в том случае, когда соответствующий номер к входит в R(xq). Поэтому в формулах из 6.3.7 объединение и суммирование следует производить по номерам из R(xq). Аналогично, вид множества An(#o) приводит к суммированию и объединению по множеству номеров Q(xq). >
6.4.	Дезинтегрирование квазидифференциалов
В текущем параграфе техника дезинтегрирования применяется к квазидифференциалам. Оказывается, что в специальных случаях справедлив аналог классического «цепного правила» дифференциального исчисления — квазидифференциал суперпозиции равен суперпозиции квазидифференциалов.
6.4.1. Теорема. Пусть выполнены условия 6.3.4 и, сверх того, общая нижняя граница Л1 и общая верхняя граница Лг множеств дд(е^) и дд(ео) входят в полосу, порожденную оператором Магарам. Тогда квазидифференциал ^(ж0) = [d<^(#o)> $<р(жо)] может быть вычислен по формулам
Э(д ° /)(жо) = (ддМ о я- - Л) о (Of(xo) х df(x0)), д(д ° /)(^о) = (dgfxo) о тг - Л) о (df(xo) х df(x0)).
<] В 6.3.4 было установлено представление (g°f)'(xo) = po(PxQ)—qo(PxQ). Отсюда видно, что если р и q — сублинейные операторы Магарам, то в силу теоремы 4.5.2 имеют место формулы
д(д ° f )(жо) = др о d(P xQ)-dqo d(P х Q) =
= др о (дР х dQ) -dqo (дР х dQ).
Вспомним, что р= ро7г-Ли^:=^о7г — Л, где A((ai,tt2)) = Ai(ai) — и тг(в1,е2) =	ei	— б2-	Поэтому, учитывая линейность тг : Е2 —»	Е и	Л	: Е2	—>	F и
привлекая	формулу 1.4.14 (4), получаем др = (др) о тг — Л и dq	= (dq)	о тг —	Л.	Тем
самым мы приходим к соотношениям
д(д о f)(xQ) = (др о тг - Л) о (дР х дТ),
д(д о f)(x0) = (dq о тг - Л) о (дР х дТ),
эквивалентным требуемым. Итак, остается проверить, что р — оператор Магарам, так как свойство Магарам для оператора q устанавливается точно так же.
13 Кусраев А. Г., Кутателадзе С. С.
386
Глава 6. Квазидифференциалы
Согласно теореме 4.4.7 достаточно показать, что опорное множество др состоит из операторов Магарам.
В силу наших предположений So := |Лх | 4- |Л2| — оператор Магарам. Так как др С [—So, So], то в силу теоремы 4.4.7 р также оператор Магарам. Рассмотрим оператор р = ртг - (Ai, -Лг).
Субдифференциал др в более подробной записи имеет вид
др = {& ;= (Ti, Г2) е L+(E хЕ,Е): & = Sok- (Aj, -Л2), S € др},
причем 57(ei, е2) = T(ei) + Т(е2). Отсюда видно, что Т\ — S — Ai и Т2 = Л2 — S. Таким образом,
+ |Л<| С 2S0 (г:=1,2),
и, следовательно, Ti и Тг — операторы Магарам.
Возьмем теперь элементы d е F и ei,e2 € Е+ такие, что 0 < d ^(в^ег) = ~ Tiei + Тгв2. Тогда d = d\ 4- с?2 для некоторых 0 di < Тге^ (г := 1,2). Так как Тг — операторы Магарам, то существуют Е Е такие, что Т$(е-) = di. Следовательно,	= d. |>
6.4.2.	Для дальнейшего необходимо придать смысл выражениям вида 52^	в том случае, если (Д) — бесконечное семейство квазидифферен-
цируемых в точке хо отображений. Так же, как и в параграфах 4.4 и 4.5, воспользуемся тем, что оператор суммирования является оператором Магарам на К-пространстве l^A, Е) (4.4.2 (3)). Пусть, как обычно, X — векторное пространство, а Е и F — некоторые К-пространства.
(1)	Возьмем такой регулярный оператор Т : Е —> F, что S |Т| — оператор Магарам. Символом Ао мы обозначим f-алгебру Z(Ft), где Ft := T(E)dd. Тогда [CSc(X, Е)] и [CSc(X, F)] можно снабдить структурой решеточно упорядоченного Aq-модуля. Более того, существует единственное Ао-линейное регулярное отображение [hr] ' [CSc(X, Е)] —> [CSc(X, F)], для которого [Лт]([^Д0}]) = = [Т+ о Т- о при всех & е CSc(X, Е).
< Пусть сначала оператор Магарам Т = S положителен. Для опорного множества % е CSc(X,E), % — др, множество Т о := {S о U : U € также будет опорным, поскольку Soft = So др = d(S о р) в силу 4.5.2. Тем самым возникает отображение h := hs : CSc(X, Е) —> CSc(X, F), действующее по правилу ~ S о^. Несомненно, что это отображение аддитивно. Кроме того, оно будет и Ад-однородно, где Ao := Z(F$). В самом деле, согласно 4.4.3 (2,3) существует кольцевой и решеточный изоморфизм h! из /-алгебры Z(Fs) на правильную подрешетку и подкольцо в Z(Es) такой, что тг о S = S о Л(тг) для всех а € Z(Fs).
Таким образом, оператор S станет Ао-линейным, если рассматривать Е и F с естественной структурой Ао-модуля. Так как Ао С А := Orth(F), то А-ко-ническая решетка CSc(X, F) будет также и Ао-конической решеткой. В то же время структуру Ао-конической решетки в CSc(X,E) можно определить, полагая := Д'(а)^ для всех тг Е Z(Fs)- При этом hs станет Ао-полулинейным отображением.
6.4. Дезинтегрирование квазидифференциалов
387
Теперь обратимся к теореме 1.5.6. В соответствии с рассмотренной в ней конструкцией можно построить А0-модуль [CSc(X, Е)]д0 и Ог1Ь(Е)-модуль [CSc(X, Е)], причем эти два модуля совпадают по запасу элементов, а модульные структуры в них согласованы, т. е. умножение на элементы Ао индуцируется умножением на элементы Orth (7?). То же самое справедливо и относительно Ао-конической решетки CSc(X, F). Согласно теореме 1.5.6 существует единственное Ао-линейное отображение [hs] : [CSc(X,E)] —> [CSc(X, F)], для которого [hs]№, {0}]) = [S о {0}] при всех е CSc(X, Е).
Возьмем теперь регулярный оператор Т : Е —> F такой, что S := |Т| — оператор Магарам. Вновь по теореме 4.4.3 операторы Т+ и Т~ также будут Ао-л инейными. В соответствии со сказанным выше существуют Ао-линейные положительные операторы [^т+]Д^т-] • [CSc(X, Е)] —> [CSc(X, F)]. Положив [Ат] := [hgn+] — [hr-], получим искомый Ао-линейный регулярный оператор, действующий из [CSc(X, Е)] в [CSc(X, F)]. О
(2)	Пусть Т, S, Ао те же, что и в (1). Тогда QL(X, Е) и QL(X, F) можно снабдить структурой решеточно упорядоченного Ао-модуля. Более того, существует единственное Ао-линейное регулярное отображение [hT] : QL(X,E) —> QL(X, F), для которого [Ат](р) = op — Т~р при всех р € Sbl(X, Е).
<1 Если Т = S, то очевидно, что отображение [Л5] : QL(X, Е) —» QL(X, F)], действующее по правилу I н-> S о /, является Ао-линейным и положительным. В общем случае полагаем [hT] := [Аг+] — [hT ]. О
Оператор действующий на QL(X, Е) и QL(X, F), мы будем обозначать соответственно символами @е и 3>f-
(3)	Пусть Т : Е F — регулярный оператор, причем \Т\ — оператор Магарам. Тогда ° [hT] = [h/г] о @е-
<1 Пусть I := р - q, где p,q е Sbl(X,E). Тогда, используя (1), (2) и 4.5.3, последовательно заключаем:
[hT] о = [hT]([dp,dq]) = [hT]([dp, {0}]) - [hT]([dq, {0}]) =
= [т+ о др, Т~ о др] - [т+ о dq, Т~ о dq] =
= [д(Т+ о р), д(Т~ о р)] - [3(Т+ О Q), д(Т- о q)] =
= ^f(T+ op - Т” op) -	о q — T~ о q) =
= ^F(T+(p - g)) - ®f(T-(P - «)) = ®F о [hT]. >
В дальнейшем для простоты и выразительности обозначений мы пишем $ вместо ^е и а также То® вместо [Ат] о и & оТ вместо @f ° [Ат] •
6.4.3.	(1) Теорема. Пусть f : X —> Е* — квазидифференцируемое в точке xq отображение и Т : Е —* F — регулярный порядково непрерывный оператор такой, что |Т| — оператор Магарам. Тогда отображение Т о f также квазидифференцируемо в точке Хо и
^(Tof)(xo) = To^f(x0).
13s
388
Глава 6. Квазидифференциалы
Иначе говоря, для квазидифференциала ^(То/)(х0) = \d(Tof)(xQ), d(Tof)(xo)] имеют место представления
д(т о /)(Жо) = о а/(х0) + т~ о а/(Жо), д(Т О /)(х0) = т+ О а/(х0) + т~ О а/(хо).
< Из теоремы б.З.З немедленно следует справедливость формулы (То/)'(х0) = = То /'(ж0); требуемые предположения выполняются тривиальным образом, так как Т линеен, регулярен и порядково непрерывен. По условию /'(яо) € QL(X, Е), а ввиду 6.4.3 (2) Т о /'(хо) € QL(X, F). Таким образом, отображение То/' квазидифференцируемо в точке xq, Остается применить оператор & к равенству (Т о /)'(я0) = Т о /'(ж0) и воспользоваться предложением 6.4.2 (3) с учетом обозначений 6.4.2 (4). 1>
(2) Стоит выделить частный случай формул квазидифференцирования из (1), когда Т : Е —> F — линейный оператор Магарам. В этом случае формулы для вычисления ^(Т о /)(жо) = [д(Т о /)(я0), д(Т о /)(я0)] упрощаются:
д(т о /)(х0) = т о 0f(xQ), д(Т о /)(ж0) = т о df(xQ).
6.4.4. Рассмотрим вопрос о квазидифференцируемости бесконечной суммы. Зафиксируем непустое множество А. Символом Zi(A, Е), как обычно, мы обозначим совокупность всех о-суммируемых семейств элементов Е, индексированных посредством А. Возьмем семейство отображений fa : X —* Е* (а € А), и пусть xq € core(dom(/a)) для всех (а € А). Будем говорить, что это семейство равностепенно квазидифференцируемо в точке хо по направлению h € X, если существует убывающая к нулю последовательность (cn(-)) С Zi(A, Е) такая, что для некоторого no G N выполняется
fa(XQ 4* th) - fa(xo) < x,	4
sup ---------/	- f«(x0)h ^Cn(a)
0<t<l/n	1
для всех аеАипо^пеК.
В следующей теореме выражение o-zLqga	надо понимать в соответ-
ствии с 6.4.2. Точнее,
0-^2	>
а€А	L абА	а€А	J
причем	% — множество линейных операторов Т Е L(X,E), представимых в виде Тх = о-£2а€А ?<*х (х е гДе	для всех а € А.
Теорема. Пусть X — векторное пространство, Е — произвольное К-пространство, А — произвольное множество. Пусть fa:X-+E*(aeA.) — некоторое о-суммируемое семейство отображений и отображение f : X —> Е* определено равенством
f(x) = O-J2 А(®) (х € X).
аеА
6.4. Дезинтегрирование квази дифференциалов
389
Предположим, что xq е core(dom(/a)) для всех а € А и семейство (fa)aek равностепенно квазидифференцируемо по направлениям в точке xq. Если для любого a € А существуют pa, qa е Sbl(X, Е) такие, что /^(хо) = ра - (а G А) и при этом (ра(Л))аеА, (^а(Л))абА € 11(А,Е) для каждого h Е X, то отображение f квазидифференцируемо в точке xq и справедлива формула
@f(xo) = fajM = 0-^2 &fa(xo)-' а€А '	а€А
Таким образом, если ^/(х0) = [9f(xQ),df(xQ)], то
9f(x0) = d(o- fa(x0) \ = dfa(xo),
' абА	'	абА
9f(x0) = dfo-$2 /а(®о)) = °* 52 ^о(жо)-
' абА	'	абА
< Рассмотрим оператор Магарам Е из Zi(A, Е) в Е, определяемый формулой
^2 • (ва)а£А * > О~
аеА
Зададим оператор : X -> Zi(A,Е) равенством р(х) := (/а(^))аеА- Ясно, что xq € core(dom(<p)) и дифференцируемость <р по направлениям в точке .го вытекает из предположения о равностепенной дифференцируемости по направлениям в силу следующей оценки:
sup 0<t<l/n
p(xq + th) - <p(xq) t
- <p'(xQ)h
(^n(^))a£A
(no n € N).
При этом производная по направлениям имеет вид
<p’(x0)h = (fa(x0)h)aeA = Р(Л) - Q(ft),
где Р : h i-> (рв(Л))аеА и Q : h (qa(.h))aeA- Ввиду наших предположений последние соотношения корректно определяют сублинейные операторы Р, Q : X —> Zi(A, Е). Следовательно, <р квазидифференцируемо в точке xq. Так как f := S о то согласно 6.4.3 отображение f также квазидифференцируемо в точке xq и его квазидифференциал вычисляется с помощью формул
2/(х0) = д(Ъ о F)(x0) = Е о dF(x0) = о- J2 OfaM
аеА
9f(x0) = d(SоF)(x0) = So9F(x0) = о-^2 9fa(x0). >
atk
6.4.5. Теорема. Пусть семейство (fa : X —> Е*)аел и точка Xq удовлетворяют всем условиям теоремы 6.4.4. Положим
= V := Л 6
абА	а€А
390
Глава 6. Квазидифференциалы
Тогда отображения / ид квазидифференцируемы в точке xq и для (жо) = = [2/(яо),д/(жо)] и &д(хъ) = [9^(хо),Э^(жо)] имеют место представления
зл^о) = и	(°-52 ’г<*	+°- 52 ^л(жо))\
(тг«) € Гд(хо) <*€А	/З^а	'
df(x0) = о-^2 dfa(x0), dg(x0) = о-dfa(x0), абА	л€А
dg(x0) = (J ( o-52 ‘Ka (^A(®o) + o-^2 З/з^о)) ), (7Г«) e Aa(«o) '	№<*	'
где, по определению,
Га(Жо) := ГА(Яо; (/a)) := {(тГа)аеА : TTa e Orth+(E),
0-52*<*=Ie' °'52 7г«/«(яо)=/(^o) к aGA	aGA	'
&a(Zo) := Aa(Zo; (/a)) := {(тГа)аеА : ita e Orth+(E),
0*52 *<» =0-52 7г«л(а:о)=ям к aCA	a£A
<1 Рассмотрим только отображение /; случай отображения g разбирается аналогично. Ограничение на /i(A, Е) канонического сублинейного оператора £а * /оо(А,£?) —» Е, обозначаемое прежним символом, порядково непрерывно и тем более mo-непрерывно. При этом оно удовлетворяет неравенству
|£a(w) -£a(u')| <p(w-u') (гл, г/ G /ДА,Е)),
где p(u) := (cm. 2.1.1). В соответствии с 6.3.2 (1) оператор ед дифференцируем по Адамару в любой точке, а производная по направлениям то-непрерывна. Для х е X определим <р(х) G /ДА, Е)* формулой <р(х) : а ь-* /а(т). Ясно, что в силу предположения о равностепенной дифференцируемости по направлениям полученное отображение <р : X —> /ДА, Е)* дифференцируемо по направлениям в точке Xq и отображение <p'(xq) : X —> /ДА, Е) имеет вид (p'(xo)h : а н-» /^(то)Л для всех heX. Таким образом, к композиции £а ° применима теорема 6.3.3. Так как / = ед о то мы получим формулу
f'(xo)h = £'А(ф(хоУ) о <p'(x0)h (h € X).
Воспользуемся теперь формулой 4.5.7 (3) (при е = 0 и fa — Ie для всех a € А), согласно которой
£a(¥>(®0))u =	\/	0-^2 ^aea (« = (^a) € /1(А, Е)).
(тг0)ЕГа(жо) абА
6.4. Дезинтегрирование квазидифференциалов
391
Таким образом, справедливо представление
f'(x0)h = У o-^,irQf'a(x0)h (u = (eQ) G/i(A,E)).
(7га)еГА(х0) «СА
Дальнейшее является по существу повторением рассуждений из 6.4.4. В силу квазидифференцируемости отображений /а в точке xq имеют место представления fy(xo)h = pa(h) ~qa(h) (а € A; h € X), где — сублинейные операторы. Введем следующие обозначения:
QW — o-^qaih), pa(h) .= pa(h)+o-^2q0(h),
P(h):a^pa(h) (heX).
Как видно, Р : X	Zi (A, Е) и Q : X —» Е — сублинейные операторы. Учитывая
введенные обозначения, выпишем следующую цепочку равенств:
f'(xo)h = sup <! 0-^2 ^a(pa(h) - qa(h)} 1 = (тг«)6Га(жо) I	)
sup J 0-^2 ^a(pa(h) - qa(h)) > + 0-^2	~ QW =
(тга) G Га(жо) I a€A	' aGA
= sup -! О-У2 (*“₽<#) “	4- qa(h)) > - Q(/l) =
(^л)^Га(хо) I q€A	)
= sup	5 °-52 (7ëЫ(Л) + о-527Га9/з(Л) I > -Q(h) =
(7Га)€ГА(®0) l аед \	'
- sup	0-^2 KaPaW ~ Q(h) = 4M1»))oP(h) ~ QU1)-
(тг«)еГА(хо) аед
Итак, /'(ж0) = £д(^(яо)) ° Р -Q- Следовательно, отображение f квазидифференцируемо в точке жо, причем Э/(жо) = д(£д(<р(жо)) °-Р) и d/(#o) = 9Q- Остается вычислить соответствующие субдифференциалы 9(^д(^(жо)) ° Р) и 0Q. Это несложно сделать, привлекая 4.5.7 (2,3):
д(е'Мх0))оР)= (J d(SoP) = See'A(<p(xo))
= U (0-^2 тга(дра +0-^2 dqpU, (»<.)€ Га(®о) ' «еА	0^а
9Q = О"52 ) = ' абА ' аЕк
Полученные соотношения совпадают с требуемыми с точностью до обозначений. >
392
Глава 6. Квазидифференциалы
6.4.6.	В заключение параграфа займемся условиями квазидифференцируемости интегрального оператора.
Пусть (П, Е, р) — вероятностное пространство, X — сепарабельное банахово пространство, а Е — порядково полная банахова решетка с порядково непрерывной нормой. Рассмотрим семейство	отображений А : X —> Е*, квази-
дифференцируемых в точке Жо € core(dom(A))- Предположим, что при любом х из некоторого множества U С X отображение си А(т) почти всюду принимает значения из Е и интегрируемо по Бохнеру. Тогда можно определить отображение f : X —> Е*, полагая
/(х) :=у fu(x)dp(w)
Q
при х € U и /(ж) := +оо при х U. Выясним, при каких условиях отображение f квазидифференцируемо в точке xq е соге(С7). Пусть f^(xo)h — производная А в точке хо по направлению h. В силу квазидифференцируемости А справедливо представление
КМ = Рш~ Чш,
где рш, : X —> Е — некоторые сублинейные операторы при каждом cu G П.
Семейство ( A AcQ называют равностепенно квазидифференцируемым в точке хо по направлению h G X, если существует последовательность интегрируемых отображений (фп), ф : П —> Е, убывающая и о-сходящаяся к нулю почти всюду, для которой при некотором По € N выполнена оценка
А(^о “Ь th') .А (то) 1 \ i \ sup --------j—-f^Xo)h
0<t<l/n	1
для всех й/€(1ипо^пеК
Теорема. Пусть X — банахово пространство, а Е — банахова решетка с порядково непрерывной нормой. Пусть (A AgQ и f те же, что и выше. Определим отображение <р : X -+ L1(Q, Е, р, Е)е, сопоставив х е U класс эквивалентности интегрируемой вектор-функции си •-> А(х) и положив <р(х) := +оо при х U. Предположим, что семейство (ААеп равностепенно дифференцируемо по направлениям в точке Xq € core(£7) и для любого си € П производная по направлениям А(жо) допускает такое представление в виде разности сублинейных операторов А(^о) = Рш — Яш) что отображения ш ь-> p^(h) и ш q^(h) интегрируемы по Бохнеру при всех h € X. Тогда отображение f квазидифференцируемо в точке Xq и имеет место представление
@/(xq) = / ^<p(x0)dp. Q
Точнее, квазидифференциал ^/(xq) = [df(xQ),df(xo)] описывается следующим образом:
df(xQ) = / dy>(xo) dp, df{xo) =	9<p(xq) dp.
Q	Q
6.4. Дезинтегрирование квазидифференциалов	393
<1 При сделанных допущениях отображение 7М :	Е, д, Е) —> Е, опреде-
ляемое интегралом Бохнера
'*=/**М (и^.^.Е»,
Q
является линейным оператором Магарам (см. 4.4.2 (5)). Введем два новых оператора Р, Q : X —> L1(Q, Е, д, Р) посредством формул
P(h) : ш » pjji), Q(h) : и qjji) (h е X).
Из условия равностепенной дифференцируемости по направлениям следует
<р(х0 + th) - <р(х0)	,, X,	, (о). п
sup	-	р	рп * О,
0<«1/п
откуда видно, что р дифференцируемо по направлениям в точке xq и при этом для любого h € X производная по направлению p'(xo)h представляет собой отображение и i-> f^(xo)h. Отсюда следует справедливость представления р'(хо) — Р — Q, означающего квазидифференцируемость отображения р в точке xq. Так как f = о р, то применима теорема 6.4.3 (1), в соответствии с которой f квазидифференцируемо в точке xq и
^f(xQ) =	$>p(xq) =	° [дР, dQ],
что и требовалось. t>
6.4.7.	В случае сепарабельного X установленный факт удается уточнить с помощью теоремы Штрассена. Если	~ семейство опорных множеств
G CSc(X, Е), то символом f ^dp(iv) мы обозначаем множество всех линей-Q
ных операторов Т G L(X,E), представимых в виде
Тх — У Тш(х) (х € X),
Q
где (Tu)weQ “ такое семейство линейных операторов из X в Е, что Тш € для почти всех и Е Q и для любого х Q X отображение w ь-* Тш(х) интегрируемо по Бохнеру.
Теорема. Пусть (fw)weQ и f те же, что и выше. Предположим, что семейство (/w) равностепенно дифференцируемо по направлениям в точке xq G core(U) и для любого u> G Q производная по направлениям /^(то) допускает такое представление в виде разности сублинейных операторов f^(xo)	что отображения ш	и w qw(h) интегрируемы по Бохнеру при всех h € X. Тогда
отображение f квазидифференцируемо в точке xq и имеет место представление
^f(x0) = J 9f^(xo)dp,(u}).
n
394
Глава 6. Квазидифференциалы
Точнее, квазидифференциал = [df(xQ),df(xQ)] описывается следующим образом:
df(x0) = У дА,(я0)<4*(^), df(x0) = У ^(хо)^^).
п	п
<1 Так как выполнены все условия теоремы 6.4.6, то ^/(яо) = о (#о) = = [dP, dQ] = [9(ГМ о Р), 5(/м о Q)]. Остается привлечь теорему Штрассена о дезинтегрировании 4.5.8. о
6.5. Необходимые условия экстремума
Здесь мы приведем необходимые условия экстремума для квазидифференци-руемых отображений, оставаясь на уровне алгебраических рассмотрений предыдущих параграфов. При этом мы придерживаемся тех же терминологии и обозначений, что и в 5.1.
6.5.1.	Всюду в этом параграфе X — векторное пространство, а Е — произвольное /C-пространство. Рассмотрим программу (C,f), т. е. многоцелевую экстремальную задачу х G С, f(x) —> inf, где С С X — некоторое множество, а f : X —> Е9 — отображение, предполагаемое в дальнейшем квазидифференциру-емым в нужной точке core(dom(/)). Локальный оптимум в этой задаче понимается в смысле 5.1.2: точка Xq G С — идеальный локальный инфимум (супремум) в программе х G С, f(x) —> inf (или х G С, f(x) —> sup), если существует множество U С X такое, что 0 € coreU и /(xq) = inf{/(:r) : х € С П (хо + L7)} (соответственно, /(^о) = sup{/(x) : х G С П (xq + U)}). Локальный экстремум ниже всегда понимается в указанном смысле, даже если это явно не оговорено. Начнем с необходимых условий экстремума в безусловной задаче, т. е. при С = Х.
(1)	Теорема. Пусть отображение f : X —> Е9 квазидифференцируемо в точке xq G core(dom(/)). Если xq — идеальный локальный оптимум в безусловной векторной программе f(x) inf, то df(xo) С df(xo) или, что то же самое, &f(XQ) 0.
<1 Так как точка xq является идеальным локальным оптимумом программы f(x) —* inf и отображение f дифференцируемо по направлениям в этой точке, то для любого h € X при достаточно малых а > 0 справедливо неравенство
0 < f(xQ + ah) - f(xQ) a

Переходя в этом неравенстве к о-пределу при a j 0, мы видим, что f'(xo)h 0 для всех h € X. Далее, в силу квазидифференцируемости f в точке xq будет f(xo)h = = p(h) — q(h) > 0 (/i G X), где p,q G Sbl(X, E) таковы, что dp = d/(xo) и dg = Э/(жо). Тем самым р > Q, что равносильно включению dq С dp, совпадающему с точностью до обозначений с требуемым. 1>
(2)	Теорема. Пусть отображение f : X —> Е9 квазидифференцируемо в точке xq е core(dom(/)). Если xq — идеальный локальный оптимум в безусловной
6.5. Необходимые условия экстремума
395
векторной программе f(x) —> sup, то df(xv) С df(xo) или, что то же самое, о.
<1 Устанавливается теми же рассуждениями, что и в (1) или же применением (1) к отображению —О
(3)	Необходимые условия оптимальности в теоремах (1) и (2) допускают следующие эквивалентные формы записи:
df(x0) С dj(xo) <-> 0 G Q (d/(x0) - v),
vedf(x0)
df(x0) С df(x0) 0 G P| (df(xo) - v).
vG£/(xo)
<1 В самом деле, цепочка эквивалентностей
df(x0) С Of(xo) w (Vv G Э/(х0)) (v G df(x0)) w
~ (Vv G Of(x0))(0 G (Of(xo) - v)) « 0€ П (Ш - v)
vGdf(xo)
доказывает первое соотношение. Второе устанавливается аналогично. 1>
6.5.2.	Переходим к рассмотрению векторной программы вида (С, Г), где С := {ж G X : д(х) < 0}, причем отображения f и д квазидифференцируемы в нужной точке. Эту программу мы будем обозначать символом (g,f). Введем необходимое для дальнейшего условие квазирегулярности. Пусть X — векторное пространство, а Е и F — некоторые /f-пространства.
(1)	Рассмотрим отображения f : X —> Е* и д : X —> F*. Векторную программу (g,f) называют квозирегулярной в точке х$ € core(dom((j)), если выполнены условия:
(а)	существуют сублинейный оператор Магарам г : F —* Е и поглощающее множество U С X такие, что для любого х G xq + U выполняется неравенство Ях/(юо)	где тгж := [(го^(ж))“] — проектор на компоненту, порожденную
элементом (г о g (#))“;
(b)	для любых оператора Т G дг(д(хо)) и ненулевого проектора тг 6 ty(E) выполняется тгТ о dg(x$) П тгТ о дд(хо) = 0.
Условие (а) выполняется, если, например, существует такой сублинейный оператор Магарам г : F Е, что для любого х € X из д(х) 0 следует г о д(х) 0, ср. 5.2.1 (в).
(2)	Предположим, что f := I : X —> Е и д := L : X —> F — квазилинейные операторы. Тогда условие регулярности (1) квазилинейной векторной программы (L, I) перепишется в виде:
(а') существует сублинейный оператор Магарам R : F —> Е такой, что для любого h G X будет тг/(Л) > 0, где тг := [(Я о L(h))~];
(b') для любых операторов S е dL и Т € dR и ненулевого проектора тг G ty(E) имеет место соотношение тгТ о dL П тгТ о dL = 0.
396
Глава 6. Квазидифференциалы
(3)	Рассмотрим векторную программу (АГ, AJ), где L и I те же, что и выше, а К С X — конус (вообще говоря, невыпуклый), допускающий представление К =	где (^)ces “ семейство выпуклых конусов. В этом случае про-
грамму (АГ, А, /) мы будем называть квазилинейной.
Скажем, что квазилинейная программа (АГ, A, I) квазирегулярна, если выполнены условия:
(а") существует сублинейный оператор Магарам R : F —» Е такой, что для любого he К будет тг/(Л) > 0, где тг := [(А о А(Л))“];
(Ь") для любых оператора Т € dR, индекса £ Е Е и ненулевого проектора тг G ^З(Е) имеет место соотношение кТ о dL П (пТдЬ + 7гЛ/я(АГ$)) = 0.
Условие (а") выполнено, если существует такой сублинейный оператор Магарам R : F —> Е, что если h е К и L(h) 0, то R о L(h) 0, ср. 5.2.1 (в).
Если L — Р — Q для некоторых P,Q е QL(X, F), то условие (Ь") можно переписать в следующем эквивалентном виде: для любых операторов S Е dL и Т е dR, индекса £ Е Е и ненулевого проектора тг € ?)(Е) существуют проектор О / тг' тг и элемент х Е АГ^ такие, что n'TSx > тг'ТРх.
Как видно, при К = АГ$ = X программа (K,L,l) совпадает с программой (A, Z), а условия (а") и (Ь") превращаются в условие квазирегулярности (2).
6.5.3.	Теорема. Пусть для квазилинейной программы (К, А, /) выполнено условие квазирегулярности 6.5.2 (3). Тогда равносильны следующие утверждения:
(1)	нуль является решением программы (К, L, I);
(2)	для любых s е dl, S е dL и £ е S существуют ортоморфизм a е Orth (А), оператор Магарам у Е A+(F, Е) и линейный оператор Л € L(X, Е) такие, что
О а 1е, кег(а) = {0}, А € Ne(K^),
-A G а о (dl - s) 4- 7 о (dL - S).
<1 (1) —> (2): В силу квазилинейности I нуль будет идеальным решением квазилинейной векторной программы (К, L, /) в том и только в том случае, если для любого Л € АГ из L(h) < 0 следует 1(h)	0. Отсюда видно, что нуль является
идеальным оптимумом в векторной программе (АГ, А, I) тогда и только тогда, когда для любого £ G Е он является оптимальным в задаче h е K^,ip(h) —> inf, где р : h i—> 1(h) V г о L(h). Таким образом, если нуль — решение задачи (К, L,l), то для любого £ е S будет
1(h) VRoL(h) >0 (heK^).
Пусть сублинейные операторы р, q G QL(X, Е) и Р, Q € QL(X, F) таковы, что I = р — q и L = Р - Q. Тогда ввиду 1.4.14 (2) будет
inf (p(h) - s(h)) Vro (P(h) - S(h)) > 0 (he AT), sEdq sedQ
следовательно, для любых s 6 dq, S € dQ и £ € S справедливо неравенство
(р(Л) - s(/i)) V г о (P(h) - S(h))	0 (Л € Kt).
6.5. Необходимые условия экстремума
397
Пусть 8(К) обозначает Е-значный индикаторный оператор множества К. Последнее неравенство можно переписать в эквивалентной форме:
(р(Л) - з(Л)) V г О (Р(Л) - S(h)) +	О (Л€ X).
Привлекая формулы субдифференцирования 2.1.7 (1), 3.2.8 и 4.5.2, заключаем
о g - s) v г о (р - s)} + dS(Kj =
= U	(a(dp — $) 4- /3 ( U To(dP-s) И +ne(k(,o).
a,/3eOrth+(E)	Te9r	'
&+@=1е
Здесь NE(K$) := №(Ke,0) := 7rE(Kj := д8(К^ = {T : T'h 0, h € KJ -нормальный конус к выпуклому конусу (см. 3.2.3). Таким образом, для любых s G dq, S G dQ и £ G Е существуют ортоморфизмы а,/3 G Orth+(E), а + /3 = 1Е, линейный оператор Магарам Т G dr и линейный оператор Л G NE(K$) такие, что
-A G а о {dp — $) 4- /3 о Т о (dP — S)
или, что то же самое в силу двойственности Минковского,
а(р(Л) - $(Л)) + /3 о Т(Р(Л) - S(h)) 4- Л(Л) >0 (Ле X).
Обозначим через тг проектор на компоненту ker(a) С Е и заметим, что тга = 0 и 7г/3 = тг (1Е — а) = тг. Применив проектор тг к последнему неравенству, получаем
7гТо(Р(Л)-5(Л))4-7гА(Л)^0 (ЛеХ)
или эквивалентно
тгТ о S G тгТ о dP 4- 7гА.
Если теперь предположить, что тг 0, то в силу квазирегулярности рассматриваемой программы irTS TrTdP + TrNE{K$). Полученное противоречие означает, что тг = 0 или, что то же самое, ker(a) = {0}. Обозначив 7 := /3 о Т, получаем требуемые необходимые условия.
(2)	—> (1): Пусть выполнены необходимые условия (2). Субдифференциальное вхождение из (2) в силу двойственности Минковского равносильно неравенству
а(р(Л) - $(Л)) 4- 7(ЛЛ) - 5(Л)) 4- Л(Л) 0 (Л G X).
Возьмем какую-нибудь допустимую точку Л G X, т. е. Л G К и £(Л) < 0. Тогда 7^(Л) < 0, так как 7 — положительный оператор. Подберем s G dl, S G dL и £ G S так, чтобы Л G К$, s(h) = q(h) и S(h) = Q(h). Тогда
0 а(р(Л) - з(Л)) + 7(Р(Л) - 5(Л)) 4- Л(Л)
а(р(Л) - q(h)) 4- 7(Р(Л) - QW) = al(h) 4- 7^(Л) а/(Л).
Таким образом, а/(Л)	0 и поскольку ker(a) = {0}, получаем /(Л)	0. >
398
Глава 6. Квазидифференциалы
6.5.4. (1) Теорема. Пусть I : X Е и L : X F — квазилинейные операторы, причем L удовлетворяет условиям квазирегулярности 6.5.2 (2). Тогда нуль является решением квазилинейной векторной программы (L,l) в том и только в том случае, когда для любых s Е dl и S Е 3L существуют ортоморфизм a Е Orth(E’) и оператор Магарам у Е L+(F,E) такие, что совместна система условий:
О < a < 1е, кег(а) = {0},
0 е а о (QI — s) + 7 о (dL - S).
<1 Вытекает из 6.5.3 при = К := X. >
(2) Условие квазирегулярности 6.5.2 (3) можно несколько ослабить. Пусть — такое подмножество dL = dQ, что для любого h Е К найдется S Е %, для которого Sh = Qh. Скажем, что квазилинейная программа (K,L,l) %-квазирегулярна, если для любых оператора Т Е dR и ненулевого проектора тг Е ф(Е) выполняется тгТ о Щ А тгТ о dL = 0. Например, в качестве У/ можно взять множество всех о-крайних точек £§(dL} — <$q(Q), см. 2.2.1. Также можно положить := {S Е <§b(Q) ' (ЗД Е К) Sh = Qh}.
При этом в необходимых и достаточных условиях экстремума будут фигурировать только операторы S Е Положим по определению
% := {S Е U : S(h) = sup S'(h)}.
S'eu
Точка h = 0 будет идеальным решением &-квазирегулярной квазилинейной программы (К, L, I) тогда и только тогда, когда для любых h Е К, s Е (dl)h и S Е существуют ортоморфизм a Е Orth(E), оператор Магарам Е L+(F,E) и линейный оператор Л Е L(X, Е) такие, что
ker(o) = {0}, А Е NE(K^,
-А Е а о (dl — s) + 7 о (dL — S).
<1 Доказательство полностью повторяет рассуждения из 6.5.3. При этом обоснование равенства ker(a) = {0} вместо условия регулярности 6.5.2 (3) использует условие ^-квазирегулярности. О
6.5.5. Теорема. Предположим, что выполнено условие квазирегулярности 6.5.2 (1). Если допустимая точка Xq есть идеальный локальный оптимум квази-регулярной квазидифференцируемой задачи (g,f), то для любых s Е df(x$) и S Е dg(xo) существуют положительный ортоморфизм a Е Orth+(JE?) и оператор Магарам у Е L+(F, Е) такие, что совместна система условий
кег(а) = {0}, 7 о д(х^) = 0,
0 € ot(df(xQ) - s) + 7 о (dg(x0) - S).
<1 Положим f := f — f(xo) и g := год, где отображение г удовлетворяет 6.5.2 (1). Введем штраф р := f V д. Как видно, допустимая точка Xq будет идеальным локальным оптимумом в векторной программе (д, f) тогда и только
6.5. Необходимые условия экстремума
399
тогда, когда эта точка локально оптимальна в безусловной задаче <р(х) —> inf. В силу теорем 6.3.3 и 6.3.5 о производной по направлениям композиции и максимума отображение <р дифференцируемо по направлениям. Поэтому если xq — идеальный оптимум задачи (g,f), то согласно 6.5.1
(p'(x0)h О (he X).
Воспользовавшись формулой вычисления производной максимума из 6.3.5, получаем
<p'(x0)h = У (af'(xo)h + 0g'(xo)h^ (/i G X).
(а,3)еГ2(х0;/,р)
Включение (a, 0) e Г2(жо;/,р) означает по определению, что
о = ч>(хо) = af(x0) + /Зд(х0) = 0д(хо).
Следовательно, имеет место представление
Г2(ж0; f,g) = {(&,&) € Orth+(£?) : а + 0 = 1Е, 0д(хо) = 0}.
Пусть р — проектор на компоненту, порожденную элементом д(хо). Используя найденное представление для Г2(хо;/,р), находим, что V2(x& pf, рд) — {(р, 0)} и
Г2(хо;/ЛЛ) =	= (6,0) € Orth+(£), & + 0 = 1Е}.
Таким образом, привлекая 2.1.5 (3) и формулу для вычисления производной по направлениям композиции из 6.3.3, заключаем
pd<p'(x0)h = pd \J (a(f'(xo)h + 0g'(xo)h) = 6l+&=Ie
= pd(f'(x0)h V р'(^о)Л) = pd(J'(xo)h V r'(g(xo))(g'(xo)h)), p<p'(xo)h = pf'(xo)h (h G X).
Положим I := pdf'(xo), L := pdg'(xo) и R := pdr'(g(xo)) и заметим, что по условию I G QL(X,pdE), L G QL(X,F) и R € Sbl(F,pdE). Так как 0R C dr, то согласно теореме 4.4.7 R — сублинейный оператор Магарам. Как видно, ф(Ь) := 1(h) V Ro L(h) 0 для всех h е X, а условие квазирегулярности 6.5.2 (1) влечет квазирегулярность векторной программы (£,/). Согласно 6.5.4 (1) соотношение 0 < c/)(h) (h е X) справедливо в том и только в том случае, когда для любых s е df(xo) и S е дд(ха) существуют ортоморфизмы d,/3 е Orth+(E) и оператор Т е дг(д(хо)) такие, что ker(a) = {0} и
0 G pda(df(xQ) - s) + pd/3 оТо (dg(xQ) - S).
400
Глава 6. Квазидифференциалы
Далее, для проектора р при любом з € 9/(жо) будет
0 е р(5/(х0) - s).
Сложив последние два вхождения, содержащие р и получим
0 G (р + pda)(df(xQ) - s) + pd0T о (дд(х0) - S).
Обозначив a := p + pda и 7 := pd(3 о T, перепишем последнее соотношение в виде
0 € а(д/(яо) - «) + 7 ° (Эр(^о) - 5).
Легко видеть, что а € Orth+(E) и 7 € L+(F, Е) — оператор Магарам. Заметим, далее, что Т € 9R тогда и только тогда, когда Т G дг и Тод(хо) = год(хо) = д(хо). Кроме того, pdg(xo) = 0 и, следовательно, выполнены условия дополняющей нежесткости
7 0 9Ы = pd(3oT о g(xQ) = (3pd О р(ж0) = 0.
Пусть теперь тг — проектор на компоненту ker(a). Тогда тга = 0 и, поскольку ker(a) = ker(a) и тг/З — тг(1е — а) = тг, мы приходим к соотношению
0 е 7га(й/(х0) - з) + 7г(1б - а) о Г о (dg(xQ) - S) = тгТ о (dg(xQ) - S).
Последнее означает, что тгТ о S G тгТ о 9р(^о)- Тем самым предположение тг / 0 противоречит допущению (Ь) из условия квазирегулярности 6.5.2 (1). Следовательно, тг = 0 или, что то же, ker(a) = {0}. О
6.5.6.	Отметим несколько следствий установленной теоремы.
(1)	Пусть для квазидифференцируемой векторной программы выполнено условие квазирегулярности 6.5.2 (1) в некоторой допустимой точке xq G X и, кроме того, тгг о д(х$) < 0, каков бы ни был ненулевой проектор тг € ф(Е). Если при этом Xq — идеальный оптимум программы (р, /), то с?/(хо) С df(xo).
<1 Воспользуемся теоремой 6.5.5. По условию р := [(г ор(ж0))“] = 1е, поэтому 7 = pd0oT — 0. Следовательно, необходимые условия экстремума из 6.5.5 принимают вид: для любого s е df(xo) существует такой ортоморфизм a G Orth+(E), что кег(а) = {0} и 0 G а(й/(яо) — $) или эквивалентно as € adf(xo). Тем самым з £ 9/(^о) Для всех s G Э/(хо), что и требовалось. 1>
(2)	Для выпуклых программ квазирегулярность, понимаемая как в 6.5.2 (1), согласуется с квазирегулярностью в смысле 5.2.1. В самом деле, для выпуклых отображений f и g := г о g имеют место равенства
df(xQ) = df(xQ), df(xQ) = {0},
дд(хо) = dg(xQ), dg(xQ) = {0}.
Кроме того, требование (b) из условия квазирегулярности 6.5.2 (1) влечет равенство тгТ о dg(xo) П тгТ о dg(xo) = 0, справедливое для любого Т G дгу означает в
6.5. Необходимые условия экстремума
401
рассматриваемой ситуации, что 0 1гдд(хо), а последнее равносильно существованию такого Ло € что 7r^'(^o)^o < 0. Но
следовательно, существуют проектор 0 тг' тг и число to > 0, для которых ir'g(xo + t(M < тг'д(хо) < 0. Поэтому условия регулярности 6.5.2 (1) принимают вид: для некоторых сублинейного оператора Магарам г : F —> Е и поглощающего множества J7, во-первых, при любом х € #о + U справедливо соотношение яъ/(#о)	где 7гж := [д(т)~], а во-вторых, для произвольного ненулево-
го проектора тг Е ty(E) существуют проектор 0 =4 тг' тг и элемент х' € X (х'хо 4- tQho) такие, что (г о д)(х') < 0 (ср. 5.2.1 (в, г)).
(3)	Допустимая точка xq Е core(dom(/)) ncore(dom(g)) — идеальный оптимум квазирегулярной выпуклой программы (д, f) в том и только в том случае, если существуют положительный ортоморфизм a Е Orth+(£?) и оператор Магарам у Е L+(F, Е) такие, что совместна система условий
кег(а) = {0}, 7 о д(х0) = 0, 0 € adf(x0) 4-70 dg(xQ).
<] Необходимость указанных условий вытекает из 6.5.5 с учетом того, что операторы s Е df(xo) и S Е дд(хо) равны нулю. Достаточность устанавливается так же, как и в 5.3.1. Г>
(4)	Пусть отображения /, ip : X —► Е9 и д, t/> : X —> F* квазидифференцируе-мы в нужной точке. Каждую из экстремальных задач
ф^х) 0, f(x) -* inf, д(х) 0, <р(х) -> sup, ^(х) 0, <р(х) —> sup
мы сводим к рассмотренной выше задаче (д, /), полагая в них д := — ф, f := —<р. При этом возникают очевидные модификации условия квазирегулярности. Так, например, в программе ^(х)	0, f(x) —* inf условие квазирегулярности означает
существование сублинейного оператора Магарам г : F —> Е, для которого, во-первых, при любом х Е X выполняется ^/(хо) < тгж/(т), где 7ГЖ := [(г о 0(т))+], а во-вторых, для любых оператора Т € с?г(0(хо)) и ненулевого проектора тг Е ф(Е) выполняется тгТ о &&(xq) А тгТ о <?0(то) = 0.
Если допустимая точка xq является идеальным локальным оптимумом общей квазирегулярной квазидифференцируемой программы ф(х) 0, f(x) —> inf, то для любых s G df(xo) и S Е &ф(хъ) существуют положительный ортоморфизм a Е Orth+(E’) и оператор Магарам у Е L+(F, £*) такие, что совместна система условий
кег(а) = {0}, 7 о 0(хо) = 0,
0 Е a(df - $) + 7 о (dg - S').
<0 Следует из 6.5.5 при g := —-0. >
402
Глава 6. Квазидифференциалы
6.6.	Учет ограничений типа вхождения
В этом параграфе мы выведем необходимые условия экстремума в случае, когда в изучаемой задаче имеется ограничение в виде вхождения переменной в фиксированное множество. При этом условие регулярности последнего удобно формулировать, привлекая топологию в рассматриваемом векторном пространстве. В этой связи возникает необходимость определения топологических квазидифференциалов.
До сих пор мы рассматривали свойства квазидифференциалов, не привлекая топологию. Однако все результаты, полученные в параграфах 6.1-6.4, легко переносятся на случай топологических векторных пространств. Для этого достаточно изменить объем понятия квазилинейного отображения, понимая теперь под этим термином оператор, представимый в виде разности непрерывных сублинейных операторов.
6.6.1.	Пусть X — топологическое векторное пространство, Е — топологическое /^-пространство и Ас — алгебра непрерывных ортоморфизмов на Е. Как и ранее (см. 3.2.3), конус положительных элементов топологического Е-прост-ранства считается нормальным. Поэтому в полном соответствии с утверждением 3.2.2 (1) двойственность Минковского д определяет биекцию между множествами непрерывных (всюду определенных) сублинейных операторов и эквинепрерыв-ных опорных множеств.
Символом QLC(X,E) мы обозначим часть QL(X, Е), состоящую из квазилинейных операторов, представимых в виде разности непрерывных сублинейных операторов. Очевидно, что QLC(X,E) — решеточно упорядоченный Ас-модуль. Модульные и решеточные операции, а также отношение порядка наследуются из QL(X, Е). Элементы QLC(X, Е) мы будем называть непрерывными квазилинейными операторами.
Аналогично, совокупность эквинепрерывных опорных множеств CS|(X, Е) определяется как часть CSc(X, Е), состоящая из опорных множеств непрерывных сублинейных операторов, см. 3.2.2 (1). В силу теоремы 1.5.6 тождественное вложение id : CS^X,/?) —> CSc(X,E) продолжается до изоморфного вложения [id] Ас-модуля [CSc(X, Е)] в Ас-модуль [CSc(X, Е)]. Ввиду этого в дальнейшем мы будем считать, что [CS£(X, Е)] содержится в [CSc(X, Е)]. Ограничение изоморфизма определенного в 6.1.3 (1), мы обозначим символом ^с. Ясно, что осуществляет изоморфизм Ас-модулей [CS£(X, Е)] и QLC(X,E).
(1)	Пусть l,h,... ,ln £ QLC(X, Е) и a G Orthc(E). Тогда li + ... + ln> al, /1 V. ..\Нп и li А... /\1п — непрерывные квазилинейные операторы, и для вычисления 0c(li + ... +/п), 0c(al), 0c(li V... Vln) и ^c(li	сохраняют силу
формулы из 6.1.4 с заменой $ на @с.
<1 Следует из 6.1.4 и 3.2.2 (1). о
(2)	Укажем условия, при которых композиция непрерывных квазилинейных операторов будет непрерывным квазилинейным оператором.
6.6. Учет ограничений типа вхождения
403
Пусть X — топологическое векторное пространство, Е — топологическая векторная решетка, a F — топологическое К-пространство. Если L € QLC(X, Е) и I е QLC(E, F) — непрерывные квазилинейные операторы, причем имеется представление I = р — q, где р и q имеют общую непрерывную мажоранту, то lo L € QLC(X, F), т. е. оператор I о L будет непрерывным квазилинейным оператором.
< Доказательство проводится так же, как в 6.1.7, где в качестве общей мажоранты опорных множеств dp, dq появится непрерывный положительный оператор. >
6.6.2.	Как видно из 6.6.1, для сохранения формул исчисления квазидифференциалов из 6.2 и 6.3 в топологическом случае достаточно потребовать, чтобы в определении квазидифференцируемости 6.2.1 производную по направлениям можно было представить в виде разности непрерывных сублинейных операторов.
Пусть X — топологическое векторное пространств и Е — топологическое К-пространство. Рассмотрим отображение f : X —* Е* и точку xq из core(dom(/)). Будем говорить, что f топологически квазидифференцируемо в точке xq, если в этой точке существует производная Дини f'(xQ)h по любому направлению h G X в смысле 6.2.1 и отображение /'(жо) • h —> f'(xo)h (h € X) представляет собой непрерывный квазилинейный оператор.
Итак, если отображение f топологически квазидифференцируемо в точке xq, то квазилинейному оператору /'(хо) £ QLC(X, Е) в силу двойственности Минковского отвечает элемент ^(/'(жо)) € [CS^X, Е)], который называют топологическим квазидифференциалом f в точке xq и обозначают символом @cf(xQ).
Если /'(яо) допускает представление в виде разности непрерывных сублинейных операторов р и q, то ^c/(xq) = [др, dq]. При этом опорные множества др и dq называют соответственно топологическим субдифференциалом и топологическим супердифференциалом отображения / в точке гго и обозначают символами dcf{xo) и dcf(xo) соответственно. Итак, ^с/(#о) *•= Йс/(^о)»^с/(:го)]-
Формулы, составляющие исчисление топологических квазидифференциалов, выводятся так же, как и в 6.2.
(1)	Пусть X — топологическое векторное пространство и Е — топологическое К-пространство. Пусть А € Orthc(E) и отображения f,fi,...,fn:X-+E* и g : X Orthc(E)e топологически квазидифференцируемы в некоторой точке xq G core(dom(/)), xq € core(dom(/)) П core(dom(^)) или xq G Q™=1 core(dom(/i)). Тогда отображения Xf, gf, /1 + ... + /п, /iV...V/n и /iA...A/n квазидифференцируемы в точке xq, причем для вычисления Q}c{f\ + ... + /п), ^c(Xf), @c(gf), @c(fi V ... V fn) и @c(fi A ... A fn) имеют место формулы из 6.2.2, 6.2.3, 6.2.6, 6.3.7 с заменой Ф на ^с. Если для каждого х G core(dom(g)) ортоморфизм д(х) обратим, то отображение f /д топологически квазидифференцируемо в точке xq и имеет место формула 6.2.9 (1) с заменой & на &с.
< Следует из 6.2.2, 6.2.3, 6.2.6, 6.2.9 (1), 6.3.7 и 6.6.1 (1). О
404
Глава 6. Квазидифференциалы
(2)	Пусть X — топологическое векторное пространство, а Е и F — топологические К-пространства. Пусть отображения f : X —> Е9 и д : Е —> F9 удовлетворяют всем условиям теоремы 6.3.4 и, кроме того, топологически квазидифференцируемы в точках хо € core(dom(/)) и во := /(#о) G core(dom(g)) соответственно. Предположим также, что квазидифференциал 3>сд(ео) = [9сд(ео), <Эсд(ео)] определяется парой опорных множеств dcg(eo) и Осд(ео), имеющих общую непрерывную равномерную мажоранту. Тогда отображение go f квазидифференцируемо в точке хо и квазидифференциал @с(д о /)(хо) может быть вычислен по формулам из 6.3.4 с заменой & на @с.
<3 Следует из теоремы 6.3.4 и предложения 6.6.1 (2). о
6.6.3.	Пусть X — топологическое векторное пространство С С X и хо G С. Конус допустимых направлений Fd(C, #о) множества С в точке хо вводится формулой:
Fd(C,zo) := {h G X : (Зе > O)zo + [0,б)Л С С}.
Множество С называют К-регулярным в точке Хо, если К — выпуклый конус и А" С ci ( Fd(C*, гго))- Для /f-регулярного в точке хо множества С вводится нормальный конус Ne(C,xo) := тге(К) := {Т : Тк 0, к G К} (см. 3.2.3). Как видно, нормальный конус к множеству в точке определяется с помощью К.
(1)	Пусть множество С С X является К-регулярным в точке xq G С, а отображение f : X —> Е9 квазидифференцируемо в той же точке хо G core(dom(/)). Для того чтобы Xq была идеальным локальным оптимумом программы (C,f), необходимо, чтобы выполнялось включение
dcf(x0) С dcf(x0) + Ne(C,x0).
<3 Пусть xq G С является идеальным оптимумом векторной программы (С, /). Так же, как и в 6.5.1 (1) выводится, что f'(xo)(h)	0 для всех h е Fd(C,xo).
Но в рассматриваемой ситуации оператор /,(жо)(-) непрерывен, следовательно, неравенство f'(xo)(h)	0 выполняется для всех h G cl (Fd(C,xo))- Если те-
перь /'(жо)(-) = Р(’) ~ q(’) Для некоторых непрерывных сублинейных операторов p,q G Sbl(X,E), то в силу К-регулярности множества будет
0 /'(х0)(Л) = p(h) - q(h) (h G К).
Последнее означает справедливость неравенства q < р + <$е(К), которое, в свою очередь, равносильно соотношению
dcq С дср + дс5я(К) = дсР + Ne(C, xqY О
(2)	В предложении (1) необходимые условия оптимальности могут быть записаны в следующей эквивалентной форме: для любого s G dcf(xo) выполняется соотношение
0 G (dcf(xo) - $) + Ne(C,xo)
6.6. Учет ограничений типа вхождения
405
или, что то же самое,
(-№(С,хо))П(0с/(хо)-«)/0.
<1 Полученное в (1) включение означает, что для любого з € dcq верно вхождение 0 е (Эср - з) 4- Ne(K). о
6.6.4.	Рассмотрим теперь векторную программу (C,g,f). Пусть xq G С А Acore(dom(/)) A core(dom(^)), и предположим, что отображения f : X Е*, д : X —» F* топологически квазидифференцируемые в точке xq. Скажем, что векторная программа (С,#, /) квазирегулярна в точке хо, если выполнены условия:
(а)	существуют непрерывный сублинейный оператор Магарам г : F —> Е и окрестность U точки Xq такие, что для любого х G CQU выполняется неравенство 7Гж/(^о) С 7гж/(х), где := [(год(х))~] — проектор на компоненту, порожденную элементом (го^(х))“;
(Ь)	множество С является ЬГ-регулярным в точке хо;
(с)	для любых оператора Т € dr(g(xQ)) и ненулевого проектора тг € ф(Е) имеет место соотношение тгТ о дсд(дъ) А (яТдсд(хо) 4- kNe(C, Хо)) = 0.
6.6.5.	Теорема. Пусть отображения /ид квазидифференпируемы в точке xq е С Cl core(dom(/)) A core(dom(^)). Пусть векторная программа (С,д, f) квазирегулярна в точке xq. Если xq — идеальный локальный оптимум программы (C,g,f), то для любых s е 9с/(хо) и S € <Эсд(х0) существуют непрерывный ортоморфизм a е Orth(E), непрерывный оператор Магарам у е L+(F, Е) и линейный непрерывный оператор А € L(X, Е) такие, что совместна система условий:
O^o^Ie, кег(а) = {0}, A G Ne(C,xq), 7°<7(жо) = 0,
-А е a(dcf(x0) - *) + 7 о №) - S).
<1 Пусть f := f — /(xq) и д г о д, где отображение г удовлетворяет 6.6.4, и введем штраф </?:=/ V д. Как видно, допустимая точка хо будет идеальным локальным оптимумом в векторной программе (С, g,f) тогда и только тогда, когда она локально оптимальна в задаче (С, <р). В силу теорем 6.3.3 и 6.3.5 о производной по направлениям композиции и максимума отображение дифференцируемо по направлениям. Поэтому если xq — идеальный оптимум задачи (<7,<р), то
</(хо)Л>о (he К).
Воспользовавшись формулой вычисления производной максимума из 6.3.5, получаем
<p'(x0)h = У (af(x0)h + ^(x0)h) (hex).
(а,Д)€Г2(хо;/,р)
Включение (а,Д) € ^(хо;/,#) означает по определению, что
о = ¥>(х0) = af(x0) + (Зд(х0) = Рд(х0),
406
Глава 6. Квазидифференциалы
следовательно, имеет место представление
ГзСго! 7, д) = {(й, 0) G Orth+(£?) : а 4- /3 = 1Е, 0д(хо) = 0}.
Обозначим через р проектор на компоненту, порожденную элементом д(хо). Используя найденное выше представление для множества Гг^го;/,£?)> находим
Ъ&о; pf,pg) = {(р,0)},
Г2(*о;ЛЛЛ) = {(pda,pd0): (&,0) (Е Orth+(E), а + 0 = 1Е}.
Таким образом, привлекая 2.1.5 (3) и формулу для вычисления производной по направлениям композиции из 6.3.3, заключаем
pdip'(x0)h = pd у (af'(xQ)h + 0g'(xo)h) = oi+P—Ie
= Pd(f'(xo)h V g'(x0)h) = pd(f'(x0)h V г'(^(яг0»(У(а?о)Л));
ptp'(xo)h = pf'(x0)h (h G X).
Положим I := pdf'(xo), L := д'(хо) и R := pdr'(g(xo)) и заметим, что по условию I G QL(X,pdE), L G QL(X,F) и R G Sbl(F,pdE). Так как dR C dr, то согласно теореме 4.4.7 R — сублинейный оператор Магарам. Как видно, ф(И) := 1(h) V Ro L(h) 0 для всех h G К, а условие квазирегулярности 6.6.4 влечет квазирегулярность векторной программы (К, L,l). Согласно 6.5.3 соотношение 0 < (j)(h) (h G К$) справедливо в том и только в том случае, когда для любых s G dcf(xo) и S Е дсд(хо) существуют ортоморфизмы а,(3 Е Orth+(E), оператор Т Е dcr(g{xo)) и Л € Ne(K) такие, что кег(й) = {0} и
-pdX G Pda(dcf(xo) — s) + pd0oTo (dcg(x0) - S).
Далее, для проектора р (см. 6.6.1) при любом s Е dcf(xe) существует линейный оператор А € Ne(K^) такой, что
-рА € p(dcf(xQ) - з).
Сложив последние два вхождения, содержащие р и pd, получим
-A G (р + pda)(dcf(x0) - s) + pd0T О (3c5(zo) - S).
Обозначив a := p + pda и 7 := pd/3 о T, перепишем последнее соотношение в виде
-А Е a(dcf(xQ) - з) + 7 о (2С<?Ы - S).
Легко видеть, что а Е Orth+(E') и 7 Е L+(F,E) — оператор Магарам. Заметим, далее, что Т Е dR тогда и только тогда, когда Т Е dr и Тод(х$) = год(хв) = д(хо). Кроме того, pdg(xo) = 0 и, следовательно, выполнены условия дополняющей нежесткости
7 °д(хо) = pd0oT од(х0) = 0pd Од(х0) = 0.
6.6. Учет ограничений типа вхождения
407
Пусть теперь тг — проектор на компоненту кег(а). Тогда ка = 0 и поскольку ker(a) = ker(d) и тг/З = тг(1е — а) = тг, мы приходим к соотношению
-7гЛ е тга(0с/(жо) - з) + тг(7е - а) о Т о (dcg(xQ) - S) = тгТ о (9с^(т0) - S).
Последнее означает, что тгТ о S € (яТ о Зср(хо) + лХ). Тем самым предположение тг / 0 противоречит допущению (с) из условия квазирегулярности 6.6.4. Следовательно, тг = 0 или, что то же, ker(a) = {0}. t>
6.6.6.	Рассмотрим теперь необходимые условия обобщенного локального оптимума для векторных программ с квазидифференцируемыми данными. Для этой цели нам потребуется одно вспомогательное утверждение.
Пусть множество С С X является К-регулярным в точке xq Е С, а отображения	• X —> Е* квазидифференцируемы в той же точке Хо G
6 core(dom(/fc)) (k := 1,...,п). Если xq является идеальным (локальным) оптимумом программы xtC, fi Л ... Л fn(x) —> inf, то для любых (ах,..., otn) € € Дп(^о; fi, • • •, fn) выполняется включение
п	п
с 5>fe<?cA(xo) + ne(C,x0). fc=l	fc=l
<1 Положим f := /i Л ... A fn. Возьмем (аь ..., otn) € Дп(^о; fi, • • •»fn) и введем отображение 99 : X —* Е* формулой
4>(.х) :=^akfk(x).
fc=l
Допустим, что Xq — идеальный (локальный) оптимум программы (C,f). Тогда то будет идеальным (локальным) оптимумом программы (С, <£>). В самом деле, если ж € С, то р(хо) = /(то) С f(%)	<£(#). Отображение квазидифференци-
руемо в точке хо в силу 6.2.2 и 6.6.3. Согласно предложению 6.6.3 (1) имеет место включение 9с<^(то) С 0С(^(^о) + Ne(C, xq)- Осталось сослаться на 6.2.2 и 6.2.3. >
6.6.7.	Множество {х?,...,т®} С С называют обобщенным локальным оптимумом программы (Cyf), если существует такая окрестность нуля J7, что /(т?) Л ... Л f(x„) f(xi) А ... Л f(xn) для всех Xi € (т? + U) П С и i := 1,..., п.
Пусть отображение f : X Е* квазидифференцируемо в каждой из допустимых точек xj,..., т® € core(dom(/)). Если множество {я?,..., х^} является обобщенным (локальным) оптимумом безусловной программы f(x) —> inf, то для любых ai,..., an е Orth4"(7?) таких, что п
. + an = 1Е, ^2 aif(xi) = f(xi) Л... Л /(ж°), г=1
выполняются включения
akdcf{xk') С akdcf(xk) (fc := 1,..., п).
<1 Это утверждение является частным случаем нижеследующей теоремы 6.6.8 при С = X. [>
408
Глава 6. Квазидифференциалы
6.6.8.	Теорема. Пусть отображение f : X —> Е* квазидифференцируемо в точках . ,#0 е core(dom(/)), а множество С С X является Ki-регулярным в точке х® G С при I := 1,..., п, где /G,..., Кп — выпуклые конусы. Если множество {ж?,..., #0} является обобщенным (локальным) оптимумом программы (С, /), то для любых Qi,..., an € Orth+(E) таких, что
«1 + ... + an = 1Е, 52 akf(.xk) = /(^1) Л... А /(*п)> fc=i
выполняются включения
akdcf(x°k) С akdcf(x°k) + Ne(C, x°k) (k := 1,..., n).
<1 Определим отображения /i,..., /n, f • Xn —» E равенствами fi(x!,...,xn) := f(xt) (i := l,...,n), f := A ... Л fn.
Легко видеть, что точка (х°,..., х%) входит в Cn Acore(dom(y)) и является идеаль-ным локальным оптимумом в задаче (Сп, /) тогда и только тогда, когда множество {ж?,..., т® } служит локальным обобщенным оптимумом в программе (С, /). Кроме того, очевидно, что множество Сп будет К\ х ... х /^-регулярным в точке {х?,...,	Если {#?,..., х^} — обобщенный локальный оптимумом программы
(С, /), то в силу предложения 6.6.6 для любых (ai,..., an) € An(^oJ /1,• • •, fn) выполняется включение
£ а^МхЧ, ...,х°п) С £ akdc'fk(xt ...,x°n) + NE(CnM,..., т°)). fc=l	fc=l
Легко подсчитать содержащиеся в этом включении субдифференциалы и супердифференциалы:
эсА(х?,... ,4) = {0} х... х {0} х ас/(х2) х {о} х... х {о}, ЭсА(х?,... ,4) = {0} х ... х {0} х dcf(x°k) X {0} х ... х {0}.
Отсюда видна справедливость равенств
£акдсЛ(х°,... ,4) = aidW?) X ... X andc/(4), fc=l
52,xn) = »1^с/(^1) X ... X andc/(®n)-k=l
Ясно также, что №(СП,(ж?,... ,4)) = Ne(C,Xi) x ... x Ne(C,x^). Собрав теперь воедино полученные представления, получим
П akdcf(x°k) С П (afc0c/(x2) + №(C,4)), fc=l	fc=l
что равносильно требуемым п включениям. >
6.6. Учет ограничений типа вхождения
409
6.6.9.	Приведем удобную эквивалентную форму записи необходимых условий обобщенного экстремума из 6.6.8.
Пусть выполнены условия 6.6.8 и множество {ж?,..., х„} является обобщенным (локальным) оптимумом программы (С, f). Тогда для любых ортоморфизмов ai,...,otn G Orth+(E) таких, что
п
оц+ ... + an = IE, akf(xk) = f(xi) Л... Л /(х°), fc=l
и для любых операторов и Sk G dcf(x®) (k := 1,..., п) найдутся линейные непрерывные операторы Xk € Ne(C,x%) (k := 1,... ,п) такие, что выполняются включения
-Afc € ак(дс/(а$) - sk) (k := 1,... ,п).
6.6.10.	Рассмотрим векторную программу (C,g,f). Пусть точки х® G С А Acore(dom(/)) A core(dom((?)) (г = 1,...,п). Предположим, что отображения f : X —> Е9, g : X —> F* топологически квазидифференцируемы в точках х® (г := 1,...,п). Скажем, что векторная программа (C,g,f) квазирегулярна на множестве {ж?,.. ., ж° }, если выполнены следующие условия:
(а)	существуют непрерывный сублинейный оператор Магарам г : F Е и окрестности Ui точек х® такие, что для любого х G С A Ui будет тгже тгж/(ж), где е := /(ж?) Л ... Л /(ж^) и тгж := [(г о д(ж))~] — проектор на компоненту, порожденную элементом (г о д(х))~;
(Ь)	множество С является ^-регулярным в точке ж?;
(с)	соотношение irT о дсд(х®) А (тгТдсд(х^) 4- ttNe(C,x^)) = 0 имеет место для каждого i := 1,..., п, каковы бы ни были оператор Т е дг(д(х^)) и ненулевой проектор тг G ty(E).
6.6.11.	Теорема. Пусть отображения д : X —> F* и f : X —> Е* квазидифференцируемы в точках ж?,..., х„ G С Acore(dom(/)) Acore(dom(<j)). Предположим, что векторная программа (C,g,f) квазирегулярна в смысле 6.6.10 на множестве {х®,..., ж® }. Если множество {жр..., ж® } служит обобщенным локальным оптимумом программы (C,g,f), то для любых Si G df(x®) и Si 6 dg(x®) существуют ортоморфизмы «1,... ,an G Orth(E), непрерывные операторы Магарам 71, • • •, 7n £ L+(F,E) и линейные непрерывные операторы Xi G L(X, Е) такие, что
0 ^oti Ie, ker(ai) А ... А кег(ап) = {0},
7i 0 9Ы = 0, Xi е NE(Ki),
-Xi G oti{dcf(x^) - Si) + 7i О (дс#(ж?) - Si) (i := 1,..., n).
<J Пусть выполнены условия квазирегулярности 6.6.10. Обозначим е := /(Ж1)Л Л... Л /(ж°). Предположим, что множество {ж?,..., ж° } есть обобщенный оптимум программы (C,g,f). Тогда это множество будет обобщенным оптимумом и в задаче (С, ср) в силу 6.6.10(a).
410
Глава 6. Квазидифференциалы
Согласно 6.6.8, для любых наборов ортоморфизмов /?i,...,/3n € Orth+(E) таких, что п
01 + • • • + 0п = Те, Е М) =	М),
fc=l
справедливы неравенства
о	)hi {hi G Kiy i := 1,..., n).
Рассуждая так же, как и при доказательстве теоремы 6.6.5 с заменой ^{xq) и К на	и Ki, мы получим, что для любых «г € dcf{x%) и Si G дсд{х^) су-
ществуют положительный ортоморфизм oti G Orth+(E), непрерывный оператор Магарам 7г € L+(F,E) и непрерывный линейный оператор Аг G ЦХ,Е) такие, что совместна система условий
0 oti IE, ker(di) = {0}, Ai G Ne{C,X^), 7г °р(яо) = 0,
-Аг е /Зм(дс/(х°) - Si) + А7г о (дсд{х°) - Si).
Обозначим аг •= /?г^г и 7г := /?г7г- Если е G кег(«г) ДЛЯ всех г := 1,...,п, то &<(/?< |е|) = 0, а так как ker(di) = {0}, то /?<(|е|) = 0. Просуммировав последнее равенство по г, получаем е = 0.
Таким образом, для любых Si G Of{xV) и Si G dg(xf) существуют ортоморфизмы ai,..., ап G Orth(£?), непрерывные операторы Магарам 71,..., 7n G L+{F, E) и непрерывный линейный оператор Ai,...,An G L(X,E) такие, что совместна система условий
0	1Е, р| кег(аг) = {0},
г=1
7» ° 5(яо) = 0, А, € Ne(C,
-А» € ai(dcf(x%) -	+ 7i о (dcg(x^) - Si) (i := 1,..., n),
что и требовалось, о
6.7. Комментарии
6.7	.1. (1) Решеточно упорядоченный модуль [CSc(X, Е)] иногда называют решеткой Радстрёма-Хёрмандера (в случае Е = R). Порядковая структура [CSc(X, Е)] нуждается в детальном изучении, так как это пространство широко используется в выпуклой геометрии и интервальном анализе. Даже в случае Е = R не ясно, как в этой решетке устроены осколки, полосы, дедекиндово пополнение, порядковая сходимость и т. п. То же самое относится и к топологической структуре в случае, когда X и Е — топологические векторные пространства.
6.7. Комментарии
411
(2)	Элемент A-модуля [CSc(X, Е)] определяется как класс эквивалентности, поэтому возникает естественное желание выбрать в этом классе наилучшую в каком-нибудь смысле пару. Так, например, пару (U,V) можно назвать минимальной, если для любой другой пары ((7i,Vi), эквивалентной (17, У), из включений J7iCJ7hViCV следует, что Ui = U и Vi = V. В поиске минимальных пар нет удовлетворительных общих результатов. Укажем несколько промежуточных результатов: Д. Паллашке и Р. Урбански [501], М. Хэндшуг [376, 377], С. Щолтс [543].
(3)	Закон сокращения из 6.1.3 (1) выполняется в более сильном варианте, который может быть полезен. Именно, если U, W G CSc(X,E) и V := dcq для некоторого сублинейного оператора q : X ~» Е*, то включение U + W С V 4- W влечет UcV.
<1 В самом деле, рассуждая так же, как и в 6.1.3 (1), но пользуясь 3.2.8 вместо 1.4.12 (1), получаем р+г < q+r, где U = др и W = дг для некоторых сублинейных операторов р, г : X —> Е. Если q(x) < +оо, то можно сократить на элемент т(х) и, стало быть, p(rr) < q{x)\ в противном случае имеем р(х) < +оо = q(x). Итак, р q, что равносильно включению U С V. О
(4)	Условия, при которых композиция двух квазилинейных операторов будет квазилинейным оператором, получены в работе В. Ф. Демьянова и А. М. Руби-нова [334]. Предложение 6.1.7 является несколько более общей версией леммы П.Ш.1 из книги В. Ф. Демьянова и А. М. Рубинова [65]. Эквивалентные условия мажорируемости из 6.1.6 взяты из статьи Е. К. Басаевой и А. Г. Кусраева [10], см. также [9].
6.7	.2. (1) Квазидифференцируемые функции ввели и изучали В. Ф. Демьянов, Л. Н. Полякова и А. М. Рубинов, см. [63, 67]. Свойства этих функций в конечномерном случае изучены в работах В. Ф. Демьянова и А. М. Рубинова [64, 65, 334, 335], В. Ф. Демьянова и Л. Н. Поляковой [62], Л. Н. Поляковой [207— 209], см. также библиографию в [336]. Систематическое изложение квазидиффе-ренциального исчисления в конечномерном случае с многочисленными примерами и приложениями имеется в книгах В. Ф. Демьянова и Л. В. Васильева [61], В. Ф. Демьянова и А. М. Рубинова [65]. Применениям квазидифференциально-го исчисления к задачам механики, техники и экономики посвящена монография В. Ф. Демьянова, Г. Е. Ставроулакиса, Л. Н. Поляковой и П. Д. Панагиотопулоса [339]. Современное состояние исследований в области квазидифференциального исчисления отражено в [338], где систематизированы результаты, полученные в различных направлениях негладкого анализа, связанных или порожденных ква-зидифференциальным исчислением.
(2)	Квазидифференциалы отображений, определенных в банаховых пространствах и принимающих значения в банаховых Е-пространствах, изучали В. Ф. Демьянов и А. М. Рубинов [334] (см. также [65]). Подход к определению квазидифференциала вектор-функции, положенный нами в основу настоящей главы, принадлежит Е. К. Басаевой [7]. Эти подходы принципиально различны, но совпадают, если банахово Е-пространство образов имеет порядково непрерывную норму. Теоремы 6.2.2, 6.2.3, 6.2.6, 6.2.8 и 6.3.7 получены Е. К. Басаевой [7].
412
Глава 6. Квазидифференциалы
(3)	Возьмем отображение / : X —> Е* и точку xq G core(dom(/)). Верхней производной Дини f в точке xq по направлению h € X называют элемент
fD(x0)h := inf sup Л^о + а^-Лжо) е>0()<а<£	О!
Легко видеть, что отображение h /р(жо)Л можно определить процедурой 1.3.5, если в качестве соответствия Ф С X х Е взять конус допустимых направлений к надграфику epi(/) в точке (яо,/(яо))- Аналогично, нижняя производная Дини f в точке xq по направлению h 6 X определяется формулой
е>00<а<е	а
Как видно, /р(жо)Л = —(—f)\}(xQ)h. Если верхняя и нижняя производные Дини отображения f в точке xq по направлению h G X совпадают, то f имеет производную Дини в точке xq по направлению heX.
(4)	В работах В. В. Гороховика [49, 50, 369] введено понятие е-квазидиф-ференциала и изучены его основные свойства, см. также монографию В. Ф. Демьянова и А. М. Рубинова [65].
(5)	Пусть (X, т) — топологическое векторное пространство. Рассмотрим отображение f : X —» Е и точку Xq G dom(/). Обозначим
г f(xQ+ah + ar(a)) - f(x0)
&\Xq, h) suphmsup-------------------------- (n € A),
r(-)	«10	Ot
где точная верхняя граница берется по всем отображениям г (а) : dom(r) —> X таким, что dom(r) = (0,е) для некоторого 0 < £ G R и г(а) —> 0 при а | 0. Как видно, величина ^(жо,Л) (конечная или бесконечная) существует всегда и отображение <^(xq, •) положительно однородно.
Сублинейный оператор р : X —> Е* называют верхней выпуклой аппроксимацией отображения f в точке Xq, если
p(h) >&(xq,K) (heX).
Аналогично, нижней вогнутой аппроксимацией называют сублинейный оператор g : X —» Е* такой, что
-q(h) ^&(xQ,h) (heX).
Если р — верхняя выпуклая аппроксимация f в точке Xq, то опорное множество df(xo) := др называют субдифференциалом f в точке Xq.
Понятно, что верхняя выпуклая (нижняя вогнутая) аппроксимация и субдифференциал определены неоднозначно. В частности, выпуклая комбинация и максимум конечного числа верхних выпуклых аппроксимаций отображения в точке будут также верхними выпуклыми аппроксимациями того же отображения в той же точке.
6.7. Комментарии
413
Понятие верхней выпуклой аппроксимации скалярных функций введено Б. Н. Пшеничным в [212].
(6)	Пусть оператор f : X Е* квазидифференцируем в некоторой точке жо € core(dom(/)), причем /'(^о) = Р — Q для некоторых p.q € ЭЬЦХ,!?). Тогда для любых S € df(xo) и Т € 0/(жо) справедливы неравенства
Sh - q(h) f'(xQ)h p(h) - Th (h e X).
Операторы рт := p — T и qs := q — S сублинейны, следовательно, по определению из (5) они представляют собой соответственно верхнюю выпуклую и нижнюю вогнутую аппроксимации отображения f в точке жо- Тем самым квазидифферен-циалу [df(xo),df(xo)] соответствуют наборы верхних выпуклых аппроксимаций {рт : Т G 0/(жо)} и нижних вогнутых аппроксимаций {qs : S G Э/(жо)}, причем имеют место точные формулы
inf pr(h) = f'(x0)(h) = sup (~qs(h)) (h € X).
Tedf(xv)	sedf(x0)
(7)	Сублинейный оператор p : (X, т) —> E называют то-непрерывнъш>, если infyeT(0) supxeV (р(ят)| = 0. Предположим, что существуют то-непрерывный сублинейный оператор р : X —> Е и окрестность U G т(жо) С X такие, что
1/(^1) - fM\ р(щ - и2) (wi, и2 6 U).
Тогда для вычисления ^(жо,Л) справедлива более простая формула
г /(*0 + oth) - /(жо) ^(жо, h) = hmsup-----------------.
аЮ	ot
В самом деле, имеют место соотношения
|/(ж0 + ah + аг(а)) - /(ж0 + ah)\ р(г(а)),
следовательно, справедливы равенства
suplimsup +	+ №.4-аЫ-<»г(а))-/(ЗД + а>.)\
r(-) ajO \	ot	a	J
f(x0 + ah) - f(x0) = limsup —-------------—
alO	Ot
6.7.	3. (1) Дифференцируемость по Адамару в К-пространствах, а также порядковая непрерывность производной Адамара по направлению рассмотрены в работе Е. К. Басаевой и А. Г. Кусраева [10], см. также [9]. Там же установлены теоремы 6.3.3 и 6.3.4. Варианты этих теорем в банаховых пространствах установлены в работе В. Ф. Демьянова и А. М. Рубинова [334].
(2)	Дифференцируемость по Адамару, данная в 6.3.1, также имеет топологический вариант, который в случае банаховых пространств рассмотрен, например,
414
Глава 6. Квазидифференциалы
в книге В. Ф. Демьянова и А. М. Рубинова [65]. Пусть X — топологическое векторное пространство и Е — топологическое К- пространство. Производная Ада-мара отображения f : X —> Е* в точке Xq 6 int(dom(/)) по направлению h Е X определяется формулой
цю №«.+>'-)-/W
причем предел здесь понимается в смысле топологии, т. е. для любой окрестности нуля V С Е существуют окрестность нуля U С X и число е > 0 такие, что для любых а Е (0, е) и hf € h + U выполняется
+ _f,Mh 6V
(3)	Так же, как и в 6.7.2 (3) можно ввести верхнюю и нижнюю производные Адамара. Верхней производной Адамара отображения f : X —» Е* в точке xq Е Е core(dom(/)) по направлению h Е X называют элемент
4(Х»)Л:= inf sup f^ + ah'y-fM
£>0, иer(h) 0<а<£, h'eU	&
Аналогично, нижняя производная Адамара f в точке хо по направлению h Е X определяется формулой
sup inf
e>0, UEr(h) 0<a<£, h'eu	a
Если верхняя и нижняя производные Адамара совпадают, то их общее значение можно назвать производной Адамара отображения f в точке xq по направлению h Е X. Это определение существенно отличается как от определения 6.3.2, так и от соответствующего определения из монографии В. Ф. Демьянова и А. М. Рубинова [65].
6.7.	4. Основные результаты параграфа 6.4 о дезинтегрировании квазидифференциалов получены в работе Е. К. Басаевой и А. Г. Кусраева [10], см. также [9]. В случае X = Rn и Е = й теорема 6.4.7 приведена в [65].
6.7.	5. (1) Основные результаты параграфа 6.5 — теоремы 6.5.3 и 6.5.5 — получены в работе Е. К. Басаевой [8], см. также [9]. В скалярном случае Е = F = R, X — Rn теорема 6.5.5 хорошо известна, см., например, [65; теорема V.3.2]. В этой ситуации условие квазирегулярности допускает ослабление, но тогда и необходимые условия экстремума окажутся слабее. Точнее, если замыкание множества {h Е X : g'^XQ^h < 0} равно множеству {h Е X : g\x^h < 0} (регулярность), то для любых s Е df(xo) и S Е 9д(х^)
0 € (д/(я0) - s) + с1сопе(д0(яо) - S),
где clcone(^) обозначает замкнутую коническую оболочку множества %.
6.7. Комментарии
415
(2)	Условие квазирегулярности из 6.5.2 позволяет написать необходимые условия экстремума для S Е дд(хо), если для любых оператора Т € дг(д(хо)) и ненулевого проектора тг € ty(E) выполняется тгТ о дд(хо) П тгТ о дд(хо) = 0. Если же последнее условие нарушается, то существует максимальный проектор р такой, что для всех проекторов тг < р это условие выполнено, и часть необходимых условий запишется как в 6.5.5, но с ограничением на проектор р:
О € pa(df(xo) - s) + P7(£&(*o) - S).
Необходимые условия экстремума на проекторе pd будут принципиально иными: для любых s Е df(xo) и S G дд(хо) существуют положительный ортоморфизм а Е Orth+(pd£?), кег(а) = {0}, такой, что
0 е pda(9/(x0) - s) + Pd Сор(дг(д(хо)) odg(xQ) - S),
где Сор(^) обозначает множество cl(mix(co ^)), со — выпуклую оболочку, mix — множество всех перемешиваний относительно ^3(£?), с! — замыкание относительно поточечной о-сходимости. Этот факт можно установить, используя векторную теорему о биполяре из [125].
(3)	Необходимые и достаточные условия безусловного экстремума для квази-дифференцируемой целевой функции в конечномерном случае получены в [207].
В работе [58] введено понятие кодифференцируемой функции в конечномерном пространстве (см. также [59, 60, 333]). Классы кодифференцируемых и ква-зидифференцируемых функций совпадают, однако кодифференциал дает более квалифицированную локальную аппроксимацию. В частности, кодифференци-альное отображение непрерывно, в отличие от квазидифференциального отображения. Условия минимума непрерывных кодифференцируемых функций исследовались в [65,246].
(4)	Необходимые условия экстремума иногда удобнее записывать, используя субдифференциал и супердифференциал Пено, которые интересны и сами по себе. Приведем соответствующие определения. Пусть отображение f : X —» Е* дифференцируемо по направлениям в точке xq Е core(dom(/)). Субдифференциалом Пено оператора f в точке Xq называется множество с^/(хо)? определяемое равенством
0</(хо) := {Т Е L(X,E) : Th /'(х0)(Л) (Л € X)}.
Аналогично, супердифференциал Пено cP/(#o) оператора f в точке xq определяется равенством
^/(гг0) := {Т е L(X,E) : Th > f'(xQ)(h) (h € X)}.
Субдифференциал и супердифференциал Пено введены в работе Ж.-П. Пено [508].
(5)	Связь между квазидифференциалом и субдифференциалом Пено устанавливается с помощью операции 4-, введенной в 6.1.5.
416
Глава 6. Квазидифференциалы
Пусть отображение f : X —» Е* квазидифференцируемо в некоторой точке хо € core(dom(/)) и @f(xo) =	Тогда
d^f^xo) = df(x0) + 9f(x0), d*f(x0) = df(x0) -? дУ(х0)-
<1 Докажем первое равенство. Если /'(^о) = Р — Q, где p,q € Sbl(X, Е), то соотношение Т е d^f(xo) равносильно неравенству Т + q С р или включению Т+dq С др. Последнее же по определению 6.1.5 означает, что Т € 9/(жо)4-0/(жо). Второе равенство устанавливается аналогично. 1>
Связь квазидифференциала с субдифференциалом Пено установлена в [382] Ж.-Б. Ирриартом-Уррути.
(6)	Необходимые условия экстремума из 6.1.1 (1,2) можно записать в эквивалентной форме с использованием субдифференциала и супердифференциала Пено:	__
Ш) С ШЫ ~ 0 € ^/(ж0), OJ(xo) С df(x0) <-» О G д> f(x0).
В самом деле, нужно лишь заметить, что соотношения ОеВтАиАсВ равносильны, и воспользоваться предложением (5).
6.7.	6. (1) Данное в [334] определение квазидифференцируемого отображения, действующего из банахова пространства в банахово Е-пространство, можно сформулировать и для топологических векторных пространств. Пусть X — топологическое векторное пространство и Е — топологическое Е-пространство. Рассмотрим отображение f : X —> Е и точку а?о € int(dom(/)). Односторонняя производная по направлению h € X определяется, как обычно, формулой
f(xo)h := Л0(Л) := lim + «М ~/(*о), «10	а
но предел здесь, в отличие от 6.6.2, понимается в смысле топологии, т. е. для любой окрестности нуля V С Е существует число е > 0 такое, что для любого a € (0, б) будет
Дхо + аЛ)-/(»<,) _
a
Далее, отображение f называют топологически квазидифференцируемым в точке xq, если (а) существует односторонняя производная /'(жо) в точке xq по всем направлениям h € X и (Ь) производная по направлениям /'(жо) • X —> Е — непрерывный квазилинейный оператор.
Непрерывному квазилинейному оператору /'(хо) € QLC(X,E) в силу двойственности Минковского отвечает элемент ^(/'(хо)) € [CS£(X,E)], который называют топологическим квазидифференциалом. Как видно, данные определения совпадают с определениями из 6.6.2, если в Е порядково сходящиеся сети сходятся топологически.
(2)	Рассмотрение топологического квазидифференциала в экстремальных задачах при наличии ограничений типа вхождения искомого решения в данное множество оправдано тем, что в точке минимума производная по направлениям
6.7. Комментарии
417
будет положительна не только на конусе допустимых направлений, но и на его замыкании. Условие же регулярности множества в точке позволяет записать необходимые условия в терминах нормального конуса (см. 6.6.5). Другие виды /^-регулярности будут рассмотрены в следующей главе.
(3)	Классические методы невыпуклого математического программирования, основанного на локальной аппроксимации, не могут быть использованы для исследования и решения многих задач глобальной оптимизации. Таким образом, возникает потребность в развитии специальных глобальных средств для решения таких задач. Некоторые из них основаны на концепции обобщенной выпуклости, в которой развивается идея представления функции довольно сложной природы, как верхней огибающей множества достаточно простых функций. Эта концепция восходит к Г. Минковскому и была модернизирована С. С. Кутателадзе и А. М. Рубиновым [169]. Современному состоянию исследований в области двойственности Минковского посвящена монография А. М. Рубинова [541], в которой рассмотрены многие теоретические и численные аспекты глобальной оптимизации, основанные на этой концепции.
14 Кусраев А. Г., Кутателадзе С. С.
Глава 7
Локальные выпуклые аппроксимации
В современных исследованиях общих негладких оптимизационных задач весьма значительное внимание принято уделять поиску удобных выпуклых аппроксимаций для достаточно широких классов функций и множеств. Один из возможных видов локальной аппроксимации отображений — квазидифференциал — был рассмотрен в шестой главе. Несмотря на все свои достоинства, концепция квазидифференциала далеко не во всех случаях оказывается наиболее удобным и эффективным инструментом исследования. Разными авторами изобретено великое множество локальных выпуклых аппроксимаций: контингенция, гиперкасательные направления, верхние (нижние) выпуклые аппроксимации, конусы Адамара, Булигана и Кларка, производные Дини, Адамара и Рокафеллара — вот далеко не полный перечень используемых аппроксимаций. Вместе с тем нет универсального, пригодного для любых классов задач, типа локальной аппроксимации. Различные локальные выпуклые аппроксимации дополняют друг друга, причем для изучения разных конкретных классов задач могут оказаться более удобными любые из имеющихся типов локальных аппроксимаций.
Важной точкой отсчета теории локальных выпуклых аппроксимаций послужили определения субдифференциала локально липшицевой функции и касательного конуса к множеству, данные Ф. Кларком [317]. Введение кларковско-го касательного конуса повлекло за собой бурный всплеск исследований по негладкому анализу, распространение новых идей и методов, которые оказали, в свою очередь, существенное влияние на развитие теории экстремальных задач. Вместе с тем здесь еще не достигнута та же степень полноты и завершенности, что наличествует в субдифференциальном исчислении выпуклых операторов.
Способы локальной аппроксимации множеств и функций, развиваемые в субдифференциальном исчислении, связаны с построением достаточно сложных, зачастую труднообозримых формул. Возникающие понятия — гиперкасательные, пределы по Рокафеллару, производные Кларка — при первом знакомстве вызывают недоумение, так как смысл их формальных определений уловить совсем нелегко. Нестандартный анализ предлагает эффективные упрощающие процедуры — привлечение легализуемых им внешних понятий «убивает кванторы», что существенно сокращает сложность восприятия описываемых стандартных конструкций. Необходимые предварительные сведения из инфинитезимального анализа собраны в Приложении 5. Ниже мы широко и свободно пользуемся положениями нестандартного анализа для развития теории классификаций односторонних касательных к произвольным функциям и множествам. Особое внимание уделено инфинитезимальному статуту конуса Кларка и других аналогичных ре-гуляризирующих и аппроксимирующих конусов и соответствующему аппарату.
7.1. Топологии в векторных пространствах
419
7.1.	Топологии в векторных пространствах
Построение локальных аппроксимаций в векторных пространствах связано с особенностями монад, задающих топологические и родственные объекты, согласованные с имеющейся алгебраической структурой. Требуемые для дальнейшего сведения об этих объектах мы и приведем в текущем параграфе. При этом часто используется предположение о стандартности антуража, означающее, что областью изменения свободных переменных в исследуемых утверждениях служит класс стандартных множеств.
7.1.1.	Напомним фундаментальное понятие монады.
(1)	Пусть X — стандартное множество и ЗВ — стандартный базис фильтра в X. Это означает, что ЗВ 0, ЗВ С ^(Х), 0 ЗВ и из вхождений Bi, В% € ЗВ следует существование такого В € ЗВ, что В С В\ Г) В2. Символом /z(^) обозначают монаду ЗВ, т. е. внешнее множество, определяемое соотношением
:= р|{В : Ве°Я}.
Для стандартного базиса фильтра & элементы из называют бесконечно малыми или удаленными (относительно ^). Аналогично, элемент В € ЗВ такой, что В С также называют бесконечно малым или удаленным. Совокупность всех бесконечно удаленных множеств из ЗВ обозначают
Пусть ЗВ — базис фильтра и 61 ЗВ — фильтр, порожденный ЗВ, т. е. совокупность надмножеств элементов из ЗВ. Символически:
ЙШ := {F С X : (ЗВ е ^)(В С F)}.
По принципу переноса если ЗВ — стандартный фильтр (в стандартном множестве X), то 61^ также стандартный (базис) фильтра. При этом р(ЗВ) = p(fA3B). Отметим, что иногда бывает удобным рассматривать монаду произвольного внутреннего фильтра Ее определяют очевидным образом: /1(<^) := Q Подчеркнем, что монада фильтра 3 в стандартном множестве X обязательно является внешним надмножеством некоторого внутреннего элемента 3.
(2)	Внутреннее множество служит надмножеством некоторого стандартного элемента стандартного базиса фильтра ЗВ в том и только в том случае, если оно содержит монаду ц(ЗВ).
< Если A D В для некоторого внутреннего множества А и В 6 °^, то A D д(^) по определению. Если же, наоборот, A D /х(^), то> учитывая, что по принципу идеализации имеется внутреннее множество В G ЗВ, для которого В С р(ЗВ), мы выводим A D В. о
(3)	Каждый стандартный фильтр 3 является стандартизацией внешнего главного фильтра надмножеств монады р(3).
<1 В символах требуется установить
(VstA)((A е - (A D м(^))).
Последнее соотношение, очевидно, содержится в (2). О
14:
420
Глава 7. Локальные выпуклые аппроксимации
(4)	Пусть Е — стандартное направление, т. е. непустое направленное множество. В силу принципа идеализации в S имеются внутренние элементы, мажорирующие все стандартные точки Е. Такие элементы S называют бесконечно большими, недоступными или удаленными в 5. Рассмотрим стандартный базис фильтра хвостов := {[£,-+) := {р € S : т/ > £} : £ G S}. По определению т? € р(^) (Vst£ G Е) т/ ^ £, т. е. монада фильтра хвостов, как и следовало ожидать, составлена из бесконечно далеких элементов рассматриваемого направления. Используем обозначение °Е := д(^).
(5)	Пусть / С X хУ и - (базис) фильтра в X, причем dom(/) задевает т. е. (V F G ^) dom(f) Г) F 0 0. Положим, как это принято,
/(<Я := {В С Y : (3F G &)(В D f(F))}.
Таким образом, /(^) — фильтр в У, образ & при соответствии f. Если — базис фильтра в У, причем dom(/“1) задевает то прообраз фильтра Ч? при соответствии / — по определению образ этого фильтра при соответствии /-1, понимаемый в смысле данного выше определения.
(6)	Образ (прообраз) монады фильтра — монада образа (прообраза) этого фильтра; символически:
/Ш) = Ж^)),	= ГШ).
<1 Принимая гипотезу стандартности антуража, т. е. считая X, У, /, & стандартными объектами, с учетом принципа идеализации имеем
У е д(Ж)) - (УЛВ G Ж))0/ G В) w (VstF е ^)(у € /(F)) ~
w (VstF G	eFhye /(х)) ~
w (vstfi"^0 С ^)(3x)(VF е Л)(ж е F л у е /(х)) ~ w (Эх) (VstF € ^)(х € F Л у е /(х)) w
^->(3x6 д(^))(у G /(х)) (у G Ж«^)))-
Второе соотношение — то же, что и первое, но для соответствия /-1. >
(7)	Пусть и ^2 — два, стандартных базиса фильтра в некотором стандарт-ном множестве. Тогда
filD fil^2 Д(^1) С м(^2).
<1 —Если В2 стандартно и В2 D р(^2), то на основании (3) В2 G filSB2 и, стало быть, В2 G fil^i. Отсюда В2 D /1(^1). Следовательно, p(<^i) С /1(^2). •
: Пусть F2 — стандартный элемент fil^2> т. е. надмножество некоторого стандартного В2 € 3&2- По условию В2 содержит монаду p(«^i). Значит, в силу (3) В2 G fil^i. Поэтому и F2 € fil . Остается сослаться на принцип переноса. 1>
(8)	Пусть f : X -4 У и я/ — базис фильтра в X, a SS — базис фильтра в У. В случае стандартных параметров имеют место следующие эквивалентности:
D fil^ w Л1^) С filjy
W д(/(^)) с Д(^) ~ /(м(^)) С М(^).
7.1. Топологии в векторных пространствах
421
< Эквивалентность первых двух формул видна из выкладки:
/(^) D ЙШ <-> (VB € ад А 6 £/)(f(A) С В) ~ w (\/в € ад А € ^)(А С /-1 (В)) w (Г1 (Я) С
Равносильность первой и третьей формул обеспечена (7). Для завершения доказательства следует заметить, что с учетом (5) будет
/(д(^)) С Д(^) W д(^) С г1^)) ~ W д(^) С д(/_1(^))	С fiW.
Предложение доказано. О
7.1.2.	Рассмотрим теперь свойства монад фильтров окрестностей в топологических пространствах.
(1)	Пусть (Х,т) — стандартное предтопологическое пространство. Таким образом, для каждого (стандартного) х из X задан (стандартный) фильтр т(х) в X. Обозначим р(х) := рт(х) := /х(т(ж)). Элементы р(х) называют бесконечно близкими точками к х. Очевидно, что р(х) — монада фильтра окрестностей т(х) точки х.
Предтопологическое пространство (X, г) называют топологическим, если каждая окрестность точки в X содержит открытую окрестность этой точки. Иными словами, у любого х е °Х имеется бесконечно малая окрестность U G т(х), для которой р(х') С р(х) при всех xf е U.
Пусть G — (внешнее) множество в топологическом пространстве (Х,т). Положим h(G) := (J{/i(#) : х £ °G}. Множество h(G) называют гало G в X. Множество G П h(G) называют автогало или околостандартной частью G и обозначают nst (G). Если G D h(G), то G называют насыщенным или, более полно, т-насыщенным. Если для всякого х G G верно, что р(х) С G, то G называют вполне насыщенным (вполне т-насыщенным).
Стандартную точку х из X называют микропредельной для U, если p{x)nU 7^ 0. Стандартное множество, образованное всеми микропредельными точками U, называют микрозамыканием U и обозначают cl~ U.
(2)	Стандартное множество открыто в том и только в том случае, если оно насыщенно.
< Если G открыто и х € °G, то G D р(х). Значит, G содержит свое гало. Наоборот, если G D A(G), то, выбирая удаленный элемент Ux из фильтра т(х) для х е °G, видим, что G D Ux. По принципу переноса G открыто. С>
(3)	Микрозамыкание cl~ U каждого внутреннего множества U замкнуто. Если U — стандартное множество, то микрозамыкание cl~ U совпадает с замыканием cl U множества U.
<1 Пусть А := cl~ U = *{ж е X : р(х) A U / 0} и у G cl А. Следует установить, что у е А. По принципу переноса можно считать, что у — стандартный элемент. Возьмем стандартную открытую окрестность V точки у. По условию имеется
422	Глава 7. Локальные выпуклые аппроксимации
стандартная точка х G V такая, что х Е А. По определению стандартизации и монады мы выводим, что V D /1(ж) и p(x)nU / 0. Отсюда (VstV G т(у)) V HU 0. В силу принципа идеализации заключаем: р(у) П U / 0, т. е. у G cl~ U.
Пусть теперь U стандартно. Ясно, что °U С cl~ U. Стало быть, U С cl~ U и сП7 С cl~ U в силу уже доказанного. Если взять у € cl то (VstV € т(у)) V HU 0. Значит, по принципу идеализации р(у) A U / 0, т. е. у G cl~ U. О
(4)	Нестандартный критерий непрерывности. Пусть (Х,т) и (У, а) — стандартные топологические пространства, f : X —> У — стандартное отображение их — стандартная точка в X, Тогда отображение f непрерывно в точке х в том и только в том случае, если f переводит точки, бесконечно близкие к х, в точки, бесконечно близкие к /(ж), т. е. если
(Vx')(x' G -> У(х') е /га(/(х))).
< Достаточно сослаться на 7.1.1 (8). 1>
(5)	Пусть R — расширенная числовая прямая, т. е. R :=1U {—ею, 4-ос}, где 4-оо и —сю — присоединенные к R наибольший и наименьший элементы. Число t G R будет доступным, если найдется стандартное число п G °N, для которого |t| < п. Условие доступности t из R записывают также в виде t G ^R. Элементы из R, не являющиеся доступными, называют недоступными или актуальными бесконечными числами. Пишут t « 4-оо для t $ ~R и t > 0. По аналогии понимают записи t « —сю и t « оо.
Монада /z(R) представляет собой монаду фильтра окрестностей нуля обычной топологии на R. Элементы монады /i(R) называют также бесконечно малыми. Как видно, число t € R будет бесконечно малым, если для всякого n G °N верно |t| С 1/п. При этом пишут t « 0 или t € ju(R) и говорят, что t лежит в монаде нуля. Бесконечно малые называют еще инфинитезималями.
(6)	В инфинитезимальном анализе установлено, что для произвольного доступного числа существует и притом единственное бесконечно близкое к нему стандартное число. Стандартное число, являющееся бесконечно близким к доступному числу t G ~R, называют стандартной частью числа t и обозначают st(£) или °t. Для удобства полагают также °t = st(f) = 4-оо, если t « 4-сю, и соответственно °t — st(£) — —оо при t & —оо (при этом, конечно же, считают, что 4-оо « 4-оо и —оо ~ —оо). Таким образом, каждому (стандартному) t G R отнесена его монада p(t), т. е. элементы $ из R, для которых $ « t.
(7)	Для произвольных элементов s,t € R выполнены соотношения:
(3t' «	> s) ~ °s °t ~ (Vs > 0,6 G °R)(s °t 4- б);
(Vf « t)(t'	(°t G °R).
7.1.3.	Рассмотрим теперь способы введения согласованной топологии в векторном пространстве и особенности соответствующих монад.
(1)	Пусть U — звездное множество в векторном пространстве, т. е. [0,1] U С U. Множество U поглощает множество V в том и только в том случае, если для
7.1. Топологии в векторных пространствах
423
некоторого (а тогда и для любого) положительного инфинитезимального а будет aVcU.
<1 Раз U поглощает V, то по определению имеется /3 > 0, для которого /3V С U. По принципу переноса с учетом стандартности U и V можно заключить, что (3st/3 > 0) (3V С U. Теперь если a > 0 и а ~ 0, то aV = a/(3(J3V) С a//3U С U. Оставшаяся часть утверждения очевидна. 1>
Пусть х — стандартный элемент рассматриваемого стандартного векторного пространства X. Внешнее множество {ах : а > 0,а ~ 0} называют paduyc-монадой х или бесконечно малым указателем на ж, или, наконец, направлением на х. Объединение радиус-монад стандартных элементов X называют монадой направлений этого пространства и обозначают md (X).
Пусть х — стандартный элемент рассматриваемого стандартного векторного пространства X. Внешнее множество {ах : а > 0, а « 0} называют радиус-монадой х или конатусом вектора ж, или, наконец, направлением на ж. Термин «конатус» был предложен Т. Гоббсом [40, р. 173], писавшим, что конатус “is motion through a space and a time less than any given, that is, less than any determined whether by exposition or assigned by number, that is, through a point.” Объединение радиус-монад стандартных элементов X называют конатусом направлений этого пространства и обозначают cnt(X).
(2)	Стандартное звездное множество U является поглощающим в X в том и только в том случае, если U содержит конатус направлений cnt(X) пространства X.
< Следует непосредственно из определений и (1). 1>
7.1.4.	Нестандартный критерий векторной топологии. Пусть X — стандартное векторное пространство над основным полем F и JV — стандартный фильтр в X. Существует векторная топология т на X такая, что = т(0) в том и только в том случае, если монада фильтра содержит конатус направлений cnt(X) и, кроме того, является внешним -подмодулем X.
(Здесь, как обычно, ~F := {t С F : (3stn е N)|Z| n} — доступная часть основного поля скаляров F, наделенная естественной структурой внешнего кольца. Напомним, что F — это С или R.)
< -н Так как сложение непрерывно в нуле, то р{^) 4- м(^) — т- е-— внешняя подгруппа X. Пусть a С ~F и У — какой-нибудь базис JY, состоящий из уравновешенных множеств. Если n С °N таково, что |а| п, то для G € и ж G р(^) будет a/n х С G. Отсюда a/nx С p|{G : G С °^} = м(^) = = д(с/Г). Стало быть, ах G np(jY) — р(^). Окончательно ap^Y) = р(Л') для а С ~F. Необходимо, наконец, отметить, что JY имеет базис из поглощающих множеств, и сослаться на 7.1.3, чтобы заключить э cnt(X).
Возьмем U € °<Ж. В соответствии с 7.1.4 это означает, что U D д(<Ж). Если W — бесконечно малый элемент то его уравновешенная оболочка V также бесконечно мала (ибо V С /1(<Ж)). Кроме того, V 4- V С р(Л') 4- //(«Ж) С С /1(<Ж) G U. Итак,
(VstU е <Ж)(3 V G ^)(V уравновешено Л V 4- V С U).
424
Глава 7. Локальные выпуклые аппроксимации
По принципу переноса делаем вывод, что «Ж +	= JY и, кроме того, «Ж имеет
базис из уравновешенных множеств. На основании 7.1.3 отмечаем также, что Ж составлен из уравновешенных стандартных множеств. Тем самым JY действительно определяет векторную топологию на X. |>
7.1.5.	Для каждой точки х монады р(Х) := ^(т(0)) топологического векторного пространства (Х,т) имеется бесконечно большое натуральное число N € N — °N такое, что Nx € р(Х).
<1 Если V — стандартная окрестность нуля и n € °N, то на основании 7.1.4 множество A(n, V) := {m € N : m > n А тх е V} не пусто (ибо р(Х) С V). По принципу переноса имеется элемент N, для которого (V8tn 6 N)(Vst[7 € т(0)) (N G A(n, V)). Ясно, что элемент N — искомый. [>
7.1.6.	В приложениях иногда удобно рассматривать почти векторные топологии. Такая топология т на пространстве X характеризуется теми свойствами, что, во-первых, непрерывно умножение векторов из X на каждый скаляр из основного поля и, во-вторых, сложение непрерывно по совокупности переменных. Пару (X, т), равно как и само X, называют при этом почти топологическим векторным пространством. Естественность этого понятия легко осознать в связи со следующим очевидным утверждением.
Нестандартный критерий почти векторной топологии. Пусть X — векторное пространство над F. Существует почти векторная топология т на X такая, что т(0) совпадает с фиксированным фильтром JY в том и только в том случае, если монада является внешним векторным пространством над внешним полем стандартных скаляров °F.
< Доказательство аналогично 7.1.4. |>
В связи с установленным предложением отметим, что монада фильтра окрестностей нуля почти векторного пространства является выпуклым внешним множеством. Внутреннее выпуклое множество U содержит, очевидно, произвольные выпуклые комбинации своих элементов, т. е. для конечных наборов {cti,..., а#} положительных скаляров, составляющих в сумме единицу, и набора {ui,..., и к} элементов U будет oikUk е U. Здесь N — произвольный (внутренний) элемент N. Сформулированное свойство, называемое гипервыпуклостью, для внешних выпуклых множеств не выполняется (принцип индукции по внутренним натуральным числам в мире внешних множеств просто неверен). Примеры, подтверждающие высказанное положение, легко извлечь с учетом следующего полезного предложения.
7.1.7.	Нестандартный критерий локально выпуклой топологии. Векторная топология является локально выпуклой в том и только в том случае, если монада ее фильтра окрестностей нуля — гипервыпуклое множество.
<] —Стандартные окрестности локально выпуклой топологии содержат стандартные выпуклые, а потому и гипервыпуклые окрестности. Пересечение же гипервыпуклых внешних множеств вновь гипервыпукло.
: Каждая стандартная окрестность нуля рассматриваемой топологии т содержит выпуклую оболочку бесконечно малой окрестности (ибо эта оболочка
7.1. Топологии в векторных пространствах
425
целиком лежит в монаде т(0) в силу ее гипервыпуклости). По принципу переноса заключаем, что любая окрестность в т(0) содержит выпуклую окрестность нуля. >
В заключение текущего параграфа, несколько уклоняясь от магистрали изложения, отметим, что инфинитезимальный анализ топологических векторных пространств и операторов в них связан с изучением расположений точек различного вида. При этом, помимо уже встречавшихся нам околостандартных точек, важное место занимают специфические понятия «борнологического типа». Остановимся здесь лишь на простейших понятиях такого рода.
7.1.8.	Пусть (Х,т) — локально выпуклое пространство их— внутренняя точка X. Эквивалентны следующие утверждения:
(1)	при любом бесконечно малом a € F верно ах ~ т0;
(2)	П U nV;
Ver(O)
(3)	для всякой стандартной непрерывной полунормы р (элемента зеркала т) выполнено р(х) 6 ~F.
<1 (1) w (2): Воспользуемся алгоритмом Нельсона:
(Va € F)(<* ~ 0 —> ах ~ 0)
w (V3tV 6 r(0))(Va)((Vstn G N) |a| < n-1	ax G V) ~
w (VstV G r(0))(Va)(3stn G N)(|a| < n"1	ax € V) ~
(VstV G r(0))(3stn G N)(x G nV).
(1)	—> (3): Если p — непрерывная полунорма, то для всякого t € будет |£|р(:г) = р(\t|я) « 0 в силу 7.1.2 (4). Итак, р(х) €
(3)	—> (1): При каждой стандартной непрерывной полунорме р верно равенство р(ах) = |а|р(ж) « 0, как только |а| ~ 0. Останется заметить, что последнее и означает инфинитезимальность ах в топологии г. >
7.1.9.	Точка х, удовлетворяющая одному, а тогда и любому из эквивалентных условий 7.1.8 (1)-(3), называется доступной, реже конечной, в (Х,т). При этом пишут х € ltd(X,r) или просто х 6 ltd(X), если в указании на топологию нет особой необходимости, и говорят о принадлежности х доступной части пространства X.
Нестандартный критерий ограниченности. Пусть X — это стандартное локально выпуклое пространство. Стандартное множество U в X ограничено в том и только в том случае, если оно составлено из доступных точек пространства X, т. e.U С ltd(X).
< —Если U ограничено, то для произвольно взятой непрерывной полунормы р € 9ЛГ имеется стандартное t € °R такое, что p(U} < t. Значит, при a « 0 и х G U будет p(ax) < ta, т. е. ах « 0.
Разнообразия ради мы воспользуемся секвенциальным признаком ограниченности, Итак, пусть (ап) — стандартная последовательность скаляров, сходящаяся
426
Глава 7. Локальные выпуклые аппроксимации
к нулю, и (wn) — стандартная последовательность точек U. Нужно показать, что otnun —► 0. Пусть N — бесконечно большой номер. Тогда ак « 0 и, стало быть, на основании 7.1.8 (1) и условия будет &nUn ~ 0. >
7.1.10.	Точку х пространства X называют ограниченной и пишут х е bd (X), если найдется стандартное ограниченное множество, содержащее х.
Нестандартные критерии нормируемости. Пусть X — (отделимое) локально выпуклое пространство. Эквивалентны следующие утверждения:
(1)	X нормируемо;
(2)	внешние множества доступных и ограниченных множество в X совпадают, т.е. bd(X) = ltd(X);
(3)	монада нуля р(Х) состоит из ограниченных точек, т. е. р(Х) С bd (X).
< (1) —> (2): Ясно, что bd(X) С ltd(X) без каких-либо дополнительных гипотез о локально выпуклом пространстве X. Если же X нормируемо, то ltd(X) = {х € X : ||ж|| е ^R}, где || • || — подходящая норма. Тем самым ltd(X) лежит, например, в шаре Вх := {т € X : ||т|| < 1}.
(2) —> (3): Поскольку /1(Х) всегда лежит в ltd(X), то требуемое очевидно.
(3) —> (1): Пусть U — бесконечно малая окрестность в X. Имеем по условию, что для каждого х G U найдется стандартное множество V такое, что V ограничено и х eV. Тем самым на основании принципа идеализации U лежит в некотором ограниченном множестве. Остается сослаться на классический критерий Колмогорова. >
Приведенное утверждение показывает, в частности, что в общем (ненорми-руемом) случае доступных точек в пространстве больше, чем ограниченных. В нормированном же пространстве X, конечно, ltd(X) = bd(X).
7.2.	Аппроксимирующие и регуляризирующие конусы
В приложениях локального выпуклого анализа широко используются локальные аппроксимации множеств посредством конусов различных типов. В этом параграфе показано, что при обычном предположении стандартности антуража — в случае стандартности свободных переменных — конусы Булигана, Кларка и Адамара и связанные с ними регуляризирующие конусы определяются ясными инфинитезимальными конструкциями — прямыми апелляциями к бесконечно близким точкам и направлениям.
7.2.1.	Пусть X — вещественное векторное пространство. В этом пространстве наряду с фиксированной почти векторной топологией о ах с фильтром окрестностей нуля := сг(О) выделим почти векторную топологию г с фильтром := т(0). Как обычно, введем отношение бесконечной близости, ассоциированное с соответствующей равномерностью: xi ~ аХ2 <-* х\ — х% € Аналогичное правило действует для т. Ниже, если явно не оговорено противное, мы считаем а векторной топологией. При этом монаду фильтра окрестностей а(х) обозначаем р(сг(х)), а монаду	— просто р(сг).
7.2. Аппроксимирующие и регуляризирующие конусы
427
7.2.2.	Для фиксированных множеств F в X и точки х' из X в субдифференциальном исчислении рассматривают, в частности, следующие конусы Адамара Ha(F,x'), Кларка С1(Г,ж') и Булигана Bo(F,ir') в точке х' соотношениями:
Ha(F,xz):= (J int- А U€cr(x') xEFDU 0<а^с/
С1(Г, =:'):= пип + ve^T иео(х') хети х а> 0<а^а
Bo(F,x'):= Q
U€<r(x') а1
Clr U
x^Ff\U 0<а^о/
F-x а
где, как обычно, а(я') := х* + Если h € Ha(F, х')> то иногда говорят, что F эпилипшицево в х1 по отношению к Л. Ясно, что
Ha(F,s') С Cl(F,a/) С Bo(F,z').
7.2.3.	Выделяют также гиперкасателъный конус H(F,a/)> конус допустимых направлений Fd(F, х') и контингенцию K(F,x') множества F в точке xf соотношениями:
H(F,«'):= U П
ue<7(x’) xeFnu а> 0<а^а’
W>'):= П
а'>0
К(Г,т'):=Г)аг и а' 0<а^а'
Для экономии слов удобно считать, что х' е F. Например, можно без оговорок сказать, что конусы H(F, х'} и K(F,rr') — это соответственно конус Адамара и конус Булигана для случая, когда т или а — дискретная топология. Итак, ниже всегда xf G F. При этом ради экономии места принимают следующие сокращения:
(V*x) (Ух & ах') р :— (Ух)(х G F А ж « ах') —> р, (Vеh) p:=(\/h& Th') р := (V h)(h eXNh^ Th') -> p, (V*a) (p := (Va « 0) <p := (Va)((a > 0 A a ~ 0) —> <p).
Двойственным образом определяют кванторы 3*rr, 3*/z, 3*a, т. e. считают
(ЕГя) (p := (Зя « ax') p := (Зя)(я € F A x « ая') A p, (3*ft) p := (3 h « rft') p := (3 h)(h eX^h^ rh,') A p.
(3*a) p := (3 a « 0) p := (3 a)(a > 0 A a « 0) A p.
428	Глава 7. Локальные выпуклые аппроксимации
Установим, что упомянутые конусы определяются простыми инфинитезимальными конструкциями. При этом, говоря о QiQsQa-Konycax, где Qi — либо V, либо 3, мы имеем в виду определение конуса с инфинитезимальной приставкой (Q*s) (Q5a) (QS^)> т- е- переменные, по которым действуют кванторы, рассматриваются именно в таком порядке: (s, а, й).
7.2.4.	Конус Булигана является стандартизацией 333-конуса, т. е. для стандартного элемента hf выполняется
hr е Во (F\xf) ~ (3*х)(3* а)(Зей)(х + ahe F).
<1 Из определения конуса Булигана следуют эквивалентности
h' G Во (F,x')+-+
~ (VIZ G ф'))(Уа' G R)(VV G еЛ)(Зж € F П U)
(30 < a a')(Bh €hf + V)(x + oh G F) w (Vl7)(Va')(VV)(3s)(3a)(3ft)
(x G F QU kh€hr 4- V A .0 < a a' Лх + ah e F).
В силу принципа переноса заключаем
hf G Bo(F,x') (Vstt/)(Vsta')(VstV)(3stx)(3sta)(3stft) (xtFnU/\hehf 4VA0<a^a' A x 4- ой G F).
Используя теперь принцип идеализации, получаем
h! G Bo(F,s') -+ (3x)(3a)(3ft)(Vst{7)(Vsto')(VstV)
(x G F Cl 17 А й G й' 4- V A 0 < a a' A s 4- ой G F) —>
-> (3 s « a?)(3a « 0)(ЗЙ « Th')(x + ah G F)
-> (3es)(3ra)(3*ft)(s + ah G F).
Пусть, в свою очередь, стандартный элемент й' входит в стандартизацию «333-конуса». Поскольку стандартные элементы стандартного фильтра содержат элементы монады этого фильтра, получаем
(Vstl7 G cr(x'))(Vsta' G R)(VstV G <Л) (3 s G F П tf)(30 < a < a')(3h G h' 4- V)(s 3- ah G F).
В силу принципа переноса заключаем, что й' G Во (F,sz). О
7.2.5.	Доказанное утверждение переписывается в виде
Во (F,s') = *{й' G X < (3е s)(3ea)(34)(s + ah G F)},
где, как обычно, * — символ стандартизации. В этой связи используют образные обозначения:
333(F,s') :=Bo(F,s').
7.2. Аппроксимирующие и регуляризирующие конусы
429
В дальнейшем подобного рода обозначения мы будем употреблять без особых оговорок.
7.2.6.	Конус Адамара — это стандартизация WV-конуса:
На(ГУ). = VW(F,x').
Иначе говоря, для стандартных hf, F ихг выполнено
h' е Ha(F, ж')	(ж' 4- /1(a)) О F 4- /z(R+)(h' + д(т)) С F,
где /i(R+) — внешнее множество положительных бесконечно малых чисел.
<3 Доказательство получается по соображениям двойственности из 7.2.4, если (что, конечно же, корректно) забыть о наличии F в Зея. >
7.2.7.	Из уже установленного видна справедливость соотношений:
hf € H(F,rr') ~ (Vj)(Va)(a: 4- ah' е F), h‘ е K(F,a/) w (Зео)(Зе h}(x‘ + ah € F).
Таким образом, гиперкасательный конус H(F, х') и контингенция K(F,x') являются стандартизациями W-конуса и 33-конуса соответственно, причем в первом случае имеется в виду упорядоченная пара переменных (х, о), а во втором — (а, Л).
7.2.8.	Для стандартных F, xf, hr эквивалентны утверждения:
(1)	К € Cl(F,x');
(2)	существуют бесконечно малые U G а(х')> V 6 Лт и а' > О такие, что
ti € И +
‘	\ а /
0<а^аЛ хета
(3)	(3 и G <r(s'))(3a') (V® G ГП F)(V0 < а < а')(3 h « Tti) x + ahtF.
<1	Используя очевидные сокращения, можно записать
ti G Cl(Fs')
(3 V)(3 F)(3 a')(Vs G F П E7)(V0 < a а')(3 h G ti + V)
x 4- ah G F.
Привлекая принцип переноса и идеализацию, имеем последовательно
h G Cl(F,s') (Vsty)(3sti7)(38ta')(Vx G Fn V)
(VO < a < a')(3/i G ti + V)(x + ah G F)
(Vst{Vi,...,Vn})(3’tC0(9e‘a')(3etV)(Vfe := 1,...,n)
Vk D V Л (Vs G F П F)(V0 < a a')(3 h G ti + V)(x + aheF)->
(3 F)(3a')(3 V)(VstV') V D V A (Vs G F П U) (VO < a a')(3A G ti + V)(s + ah G F).
430
Глава 7. Локальные выпуклые аппроксимации
Отсюда, без сомнения, следует, что для некоторых V € V С ц(т) и 17 G а(ж'), U С /1(а) 4- х' и бесконечно малого а будет (2) и тем более (3).
Если, в свою очередь, выполнено (3), то с учетом определения отношения будет
(V8tV)(3t/)(3a')(Vx € Fn F)(V0 < а «С a')(3/i € h' + У)
х 4- ah е F.
Значит, по принципу переноса Д' G Cl(F,x'). >
7.2.9.	Конус Кларка является стандартизацией Wx/3-конуса:
C1(F^')=W3(F^').
Иными словами,
Д' G С1(^ж') ~ (Уж)(Уа)(ЗеД)(ж + ah е F).
<1 Пусть сначала h! е C1(F, ж'). Возьмем произвольные х ~ аж' и a > 0, a « 0. Для каждой стандартной окрестности V — элемента фильтра <ЛТ — в силу принципа переноса найдется элемент Л, для которого h € h' 4- V и х 4- ah е F. Применяя идеализацию, имеем
(VstV)(3 h)(h е h' + V Л х 4- ah € F) ->
(3 ft)(Vst V)(h Ch' + Vhx + aheF)-> (3*Д)(ж + ah e F),
t. e. //€ W3(F,ir').
Пусть теперь hf € W3(F, ж'). Возьмем произвольную стандартную окрестность V из фильтра Фиксируем бесконечно малую окрестность U точки ж' и положительное бесконечно малое число о'. Тогда по условию для некоторого Д ~ Th! будет
(3ж G F П C/)(VO < a a')(x + ahe F).
Иными словами,
(VstV)(3 [7)(3 a’yyx e F П C7) (V 0 < a C a')(3 h e h' 4- V) (x 4- ah € F).
В силу принципа переноса Д' € С1(^ж'). >
7.2.10.	Приведем пример применения найденного нестандартного критерия элементов конуса Кларка для вывода его основного (и хорошо известного) свойства. Более общее утверждение будет установлено ниже.
Конус Кларка произвольного множества в топологическом векторном пространстве является выпуклым и замкнутым.
< В силу принципа переноса достаточно рассмотреть ситуацию, в которой параметры — пространство, топология, множество и т. п. — стандартны. Итак, пусть До € clr С1(^ж'). Возьмем стандартную окрестность V из и пусть стандартные элементы Vi, V2 G таковы, что Vi 4- V2 С V. Найдется стандартный элемент Д' € C1(F, ж') такой, что h' — До G V'. Кроме того, для любых ж « гж'
7.2. Аппроксимирующие и регуляризирующие конусы
431
и а > 0, а « 0 для некоторого h будет h € hf 4- V2 и х + ah G F. Ясно, что h € h' 4- V2 С Hq 4- Vi 4- V2 С ho 4- V. Отсюда следует, что ho G C1(F, х').
Для доказательства выпуклости конуса Кларка достаточно заметить, что /1(т) 4- /z(R+)/z(t) С /1(т) ввиду непрерывности отображения (x,a,h) x + ah. 1>
7.2.11.	Пусть 0 — векторная топология и 0 т. Тогда
W3(cbF,x') С УУЗ(^ж').
Если к тому жев а, то
W3(cl0F,a/) = W3(F,x').
< Пусть Д' G W3(clfl F,xf) — некоторый стандартный элемент названного конуса. Возьмем элементы х е F и а > 0 такие, что х « ах‘ и а « 0. Ясно, что х Е cl# F. Значит, для некоторого h G ТА' будет х 4- ah € clfl F. Возьмем бесконечно малую окрестность W из р(0). Окрестность aW также элемент 0(0) и, стало быть, для некоторого ж" G F будет ж" — (х 4- ah) G aW. Положим h" := (ж" — х)/а. Ясно, что х 4- ah” G F и, кроме того, ah" G ah 4- aW. Отсюда h" € h 4- W C h! 4- /i(t) 4- W C h! 4- р(т) 4- p(0) Ch’ 4- р(т) 4~ р(т) Ch' 4- /i(r), t. e. ft" « Th'. Итак, A' G W3(F,x').
Пусть теперь 0 а и A' G W3(F,rr')- Возьмем положительное бесконечно малое а и какой-нибудь элемент х G clfl F такой, что х « ах'. Подберем х" G F, для которого х — х" Е aW, где W С р(0) — бесконечно малая симметричная окрестность нуля в 0. Поскольку 0 ст, то /1(0) С /1(т), т- е. х — х" G /1(0) С /1(<т). Иначе говоря, х « ах' « „х". По определению (элемент А' считается стандартным) для некоторого А » ГА' будет х" 4- ah G F. Положим А" := (х" — х)/а 4- А. Ясно, что при этом выполнено
A" G А 4- W С А 4- /1(0) С А' 4- /1(0) 4- /1(т) С А' 4- /1(т) 4- /1(т) С А' 4- /1(т),
т. е. А" & Th'. Кроме того,
х 4- ah" — х 4- (х" — ж) 4- ah — х" 4- ah G F С clfl F.
Окончательно A' G W3(clfl F,xf). >
7.2.12.	Приведенные нестандартные критерии конусов Булигана, Адамара и Кларка показывают, что эти конусы взяты из перечня восьми возможных конусов с инфинитезимальной приставкой (Q*#) (Qect) (Q*A) (здесь Q — либо V, либо 3). Ясно, что для полного описания всех этих конусов достаточно привести характеризации еще УЗЗ-конуса и УЗУ-конуса.
Из найденных представлений, в частности, видно:
Ha(F,x') С ЩЕ,х') С Cl(F,ir') С K(F,x') С clr Fd(F,x').
При условии а = т для выпуклого F будет
Fd(F,x') С C1(F, х') С clFd(F,a/),
432
Глава 7. Локальные выпуклые аппроксимации
F-x \
a /
т. е.
С1(Г,ж') = #(F,x') = clFd(F,x').
7.2.13.	Имеет место представление
= П U Cl (v+ U
a' UGtr(x*) xEF(~}U 0<а^а' Уе^Кт
<1 Для доказательства следует сначала понять, что требуемое равенство — сокращенная запись утверждения: для стандартных Д', F, х' выполнено:
(У*х)(3>а)(3>Д)(ж + ah G F)
W (V V G ^)(Vo')(3 J7 G a(x'))(Vx € F П U) (30 < a a')(3ht hf + V)(x + ah G F).
Значит, при Д' G V33(F,a:') и стандартных V G Лт и а > 0 в качестве требуемой окрестности U можно взять внутреннее подмножество монады р(а(У)). В свою очередь, последовательное применение принципов переноса и идеализации дает
(VstV)(V8ta')(Vx « ,я/)(30 < а а')(ЗД G h! + V) х + ah € F
(Vs « as')(Vst{Vi,..., K})(V8t{a'i..<})
(ЗД)(За)(\/ к := 1,..., п)(0 < a azfe А Д G Д' + V& A# + ah G F) —>
-+ (Vx « ах')(ЗД)(За)(У84У)(Д G hf + V) A (V8ta')
(0 < a a' A x + ah € F) —> (V* я)(ЗеД)(За « 0) x -I- ah G F —>
-> Д' G *{Д' : (^)(3*а)(3*Д)(х + ah G F)} h! G V33(F,a:').
Тем самым доказательство закончено. О
7.2.14.	Помимо указанных выше восьми инфинитезимальных конусов классического ряда имеются еще девять пар конусов, содержащих конус Адамара и лежащих в конусе Булигана. Такие конусы, понятно, порождаются изменением порядка кванторов. Пять новых пар устроены сложным образом по типу V3V-конуса. Прочие порождаются перестановками и дуализациями конуса Кларка и УЗЗ-конуса. Например, в естественных образных обозначениях имеем
VaVДЗ^c(F,x,) = р| intr Q [J ——
Ue.G^x*) сУ 0<a^Q!/ x€.FC\U
BhBx\fa(F,x') ={J П с1т U П
a1 UEo(x>) xEFf\U 0<a^az
7.2. Аппроксимирующие и регуляризирующие конусы
433
9W®Va(F,a:') = Q clT Q —
UGcr(x')	0<а^а'
о/	xGFr\U
Последний конус уже конуса Кларка и является выпуклым в случае, если д(<т) + д(К+)д(т) С д(а)- Его обозначают Ha+(F,x'). Отметим, что Ha(F,x') С С На+(F,xz) С Cl(F,x'). Выпуклым является V аЗ ЛУ х-конус, который обозначают символом In(F,x'). Ясно, что
Ha+(F,x') С In(F,x') С Cl(F,x').
7.2.15.	При вычислении различных касательных к композиции соответствий используют специальные регуляризирующие конусы.
Именно, если F С ХхУ, где векторные пространства X и Y снабжены топологиями ахч тх и сгу, ту соответственно и а' := (х', у') 6 F, полагают а := ах хау и
R4F,<.'):= П U U + <°) х V’) 
ve^rY we<7(a') aewriF
nun (^r+<i>xV)'
vwTV wea(a') aeWCF Y	0<a^az
иел xeu
QR2(F,a'):= U П + <ж’°)) •
W€cr(af) aeWQF Q' 0<a^a иел zgu
Конусы R2(F,a'), Q2(F,a') и QRX(F, а') определяют двойственным образом. Более того, аналогичные обозначения распространяют на случай произведений пространств в числе, большем двух, подразумевая, что верхний индекс над символом аппроксимирующего множества указывает номер координаты, на которую накладывается условие соответствующего типа. Отметим также, что в приложениях обычно рассматривают попарно совпадающие топологии: ах = тх и ау = ту. Дадим удобные очевидные нестандартные критерии описанных регуляризирую-щих конусов.
7.2.16.	Для стандартных векторов s' е X nt' € У выполнено:
ё R^F.a') ~
W (Va « Х,а € F)(Va € д(й+))(3* » Tyt')(a + a(s',t) G F);
w (Va » aa',a G F)(VaG/z(R+))(Vs « rxs')(3i « ту1')(а +
GR2(F,a') w
w (Va « aa',a G F)(Va G p(R+))(Vs »Txs')(a+ <*(«,*') € F).
434
Глава 7. Локальные выпуклые аппроксимации
7.2.17.	Из этих утверждений видно, что конусы типа QR? — разновидности конуса Адамара, конусы R? — разновидности конуса Кларка. Конусы R? при этом получаются также специализацией конусов типа Q-7 при соответствующем подборе дискретных топологий. В обычных предположениях названные конусы являются выпуклыми. Приведем доказательство указанного факта только для конуса QJ , чего в силу уже отмеченного вполне достаточно.
Если отображение (a, a,b) a + ab непрерывно действуют из (X х Ул) х х (IR, лк)х(Хх У, тх х ту) в (X х У, а), то конусы	af) &nnj := 1,2 выпуклые.
<3 По принципу переноса можно работать в стандартном антураже, т. е. в предположении стандартности рассматриваемых параметров, и пользоваться критерием 7.2.16. Итак, пусть (s',f) и ($",£") лежат в Q1(F,x'). Для a « ^а' и а € F, положительного а « 0 и s « Tx(sf + s") в силу 7.2.16 при некотором £i « ty^ будет а\ := а + а($ — $",й) € F. По условию + q(/z(tx) х д(ту)) С С р(сг). Стало быть, а± « и ai G F. Вновь привлекая 7.2.16, найдем t% « для которого ai + a(s", G F. Ясно, что для t :=	4-будет t «	(£' + t") и
a+ot(s,t) = «+«($-$'',fi)+a(s'',tf2) = ai+a(s",t2) G F, что и требовалось доказать, ибо однородность QX(F, а') обеспечена устойчивостью монад почти векторных топологий относительно умножений на стандартные скаляры (см. 7.1.4). 1>
7.2.18.	Проведенный анализ показывает, что имеет смысл ввести в рассмотрение конусы PJ и SJ с помощью следующих прямых стандартизаций:
(s',/') G P2(F,a') w
«-*(3$ « rxsf)(yt « rrt')(Va « aa',aGF)(Va G /z(R+)) (a + a(s,t)eF);
($7)GS2(F,a)w
w « Tri')(3s « Txs')(Va « aa',a € F)(Va G //(R+))(a + a(s,t) G F).
Явный вид конусов PJ и SJ можно в принципе выписать (мы разберем этот конус в следующем параграфе). Однако от возникающих явных формул (особенно для S-7) мало пользы ввиду их необозримой громоздкости. Впрочем, как мы уже убедились, подобные формулы фактически осложняют анализ, скрывая прозрачный «инфинитезимальный» смысл конструкций.
7.2.19.	Для j := 1,2 выполнено
Ha(F,a') С PJ(F,a') С SJ(F,a') с QJ(F,a') С R?(F,a') С Cl(F,a').
При этом названные конусы выпуклы, как только +а(м(тх) х /1(ту)) с /1(<т) для всех a > 0, a « 0.
<3 Включения, которые требуется доказать, очевидны из нестандартных определений соответствующих конусов. Выпуклость большинства из указанных конусов уже отмечалась. Установим для полноты выпуклость S2(F,a').
То, что S2(F, а') выдерживает умножение на положительные стандартные скаляры, вытекает из неделимости монады. Проверим, что S2(F,a') — полугруппа. Итак, для стандартных (s', £') и (s", t") из S2(F, а') возьмем t « ту (F + t"). Тогда
7.3. Пределы по Куратовскому и Рокафеллару
435
t — t" ~ TYt’ и имеется $i « Txsf, обслуживающее t — t" в соответствии с определением S2(F, а'). Подберем $2 « тх$", обслуживающее t" в том же очевидном смысле. Ясно, что ($i 4- S2) « тх($' + s")- При этом для всяких а € F и а > О таких, что а ~ и а « 0, будет ai := а + a($i,£ — t") G F. Поскольку ai, как видно, бесконечно близко (в смысле а) к а', из условия выбора $2 заключаем: ai 4- q(s2, t") G F. Отсюда непосредственно видно, что а 4- a($i 4- $2, t) G F, т. е. (s' + s",^ + f")GS2(F,a').
Выпуклость PJ(F, а') проверяется аналогичным рассуждением, о
7.3.	Пределы по Куратовскому и Рокафеллару
В предыдущем параграфе мы увидели, что многие интересующие нас конструкции связаны с процедурой чередования кванторов в инфинитезимальных конструкциях. Подобные образования возникают в различных задачах и соотнесены с некоторыми принципиальными фактами. О тех из них, которые наиболее часто встречаются при субдифференцировании, и пойдет сейчас речь. Начнем с общих наблюдений об алгоритме Нельсона.
7.3.1.	Пусть ср = <р(х,у) G (ZFC), т. е. <р — некоторая формула теории Цермело-Френкеля, не содержащая никаких свободных переменных, кроме х, у. Тогда
(Ух G ц(^))<р(х,у) (3stF е <?)(Ух е F)ip(x,y),
(Зж G р(е?))(р(х,у) (Vst G <&)(3х € F)(p(x,y),
где, как обычно, ц(^) — монада стандартного фильтра &.
< Достаточно доказать импликацию —> в первой из эквивалентностей. По условию для любого удаленного элемента F фильтра & выполнено внутреннее свойство ф := (Ух G F)<p(x, у). Значит, по принципу Коши ф справедливо для какого-либо стандартного F. >
7.3.2.	Пусть <р = <р(х, у, z) G (ZFC) и&	— некоторые стандартные фильтры
(в каких-либо стандартных множествах). Тогда
(Ухе д(<^))(Эу е ц(&))у>(х,у,г)
w (vstG е ^)(3stF е &)(Ух е F)(3ye G)v>(x,y,z) ~
w (3stF( • ))(VstG e ^)(Vx e F(G))(3у eG) <p(x,y, z),
(3x e р(&))(Уу e fj,(^))<p(x,y,z) «->
W (3stG € ^)(VstF e &)(Эх e F)(Vy e G) <p(x, y, z)
(VstF( • ))(38tG e ^)(3x e F(G))(Vy e G) <p(x,y, z)
(здесь символ F( •) обозначает функцию из У в &).
< Доказательство состоит в апелляции к принципам идеализации и конструирования с учетом 7.3.1. О
436
Глава 7. Локальные выпуклые аппроксимации
7.3.3.	Пусть (р — у, z, и) € (ZFC) и , Ж — три стандартных фильтра. При стандартном множестве и выполнены соотношения:
(Ух 6 д(<^))(3у € ju(#))(Vz € pO?))<p(x,y,z,u) w
«- (VG( • ))(3F e ^)(3FinM C j^)(Vx e
(ЭЯ 6 M)(3y € G(K))(Vz 6 H)v>(x,y,z,u)-, (3x6 д(«^))(\/у € д(^))(3г 6 ^(«^))^(x,y,z,w)«-»
~ (3G( • ))(VF € ^)(VFinJ^ C J^)(3x € F)
(VH 6 J^)(Vy 6 С(Я))(Зг 6 H)<p(x,y,z,u),
где G( •) — функцияизЛ’в^и индекс F,n над квантором означает ограничение на класс непустых конечных множеств.
< Реализуя алгоритм Нельсона, заключаем:
(Vx 6 д(^))(3у € g(^))(V2 6 p(.T))V ~
w (Vx 6 g(^-))(VstG(-))(38tH 6 Jtf)(3y е G(HYMz е Н)<р <-> •
W (V8tG( • ))(Vx)(38tF 6 <^)(38*Я 6 Ж)
(x 6 F -+ (Зу € G(H))(Vz 6 Я) tp)
~ (V8tG( • ))(38tFin^0)(38tFinJ^)(Vx)(3F 6 /о)(ЗЯ 6 J%)
(F e & \H e Ж N(x e F -ДЗу e G(H))(Vz 6	<-*
W (V8tG(•))(38tPin^o c ^)(38tFi“<M C J^)(Vx)(3F 6 #,)
(x 6 F -+ (3Я 6 J«&)(3у 6 G(H))(V^ 6 Я) <p) w
W (VG( -))(3Fin^o c ^)(3FinJ*& c JT)(Vx) W
w ((VF6 <?0)(x 6 F) - (ЗЯ € M)(3y 6 G(H))(Vz € H)<p) ~ W (VG( • ))(3Fin^o c ^-)(3FinM c JT)(Vx 6 n^o)
(ЗЯ 6 J^)(3y 6 G(H))(V« 6 H)<p.
Остается заметить, что для непустого конечного лежащего в обязательно Пс^о е о
7.3.4.	Приведенное предложение дает возможность охарактеризовать в явном виде V3V-KOHycbi и им подобные образования. Легко видеть, что возникающие стандартные описания неудобоваримы. Остановимся теперь на наиболее важных для приложений конструкциях, связанных с приставками типа V3, W, 3V и 33. Начнем с некоторых средств, позволяющих использовать распространенный язык бесконечно малых переменных величин для анализа таких конструкций.
Пусть Е — направление, т. е. непустое направленное множество. В соответствии с принципом идеализации в S имеются внутренние элементы, мажорирующие °Е. Напомним (см. 7.1.1 (4)), что их называют удаленными или бесконечно большими в Е. Рассмотрим стандартный базис фильтра хвостов & := {<т(£) : £ € Е}, где а — порядок в S. Ясно, что монада фильтра хвостов составлена из удаленных элементов рассматриваемого направления. Используют записи: аЕ := и £ « +оо w £ € аЕ.
7.3. Пределы по Куратовскому и Рокафеллару
437
7.3.5.	Пусть S, Н — два направления и £ :=£(•) : Н —* S — некоторое отображение. Эквивалентны следующие утверждения:
(1)	£(°Н)С“Е;
(2)	(VC е S)(9i? G H)(Vi/ >»?)«(»/) > С)-
О В самом деле, (1) означает, что фильтр хвостов S грубее образа фильтра хвостов Н, т. е. что в каждом хвосте направления S лежит образ некоторого хвоста Н. Последнее утверждение и составляет содержание (2). >
7.3.6.	В случае выполнения эквивалентных условий 7.3.5 (1), 7.3.5 (2) говорят, что Н — поднаправление Е (относительно £(*))•
Пусть X — некоторое множество и х := х( •) : 5 —> X — некоторая сеть элементов X (пишем также (^)^es или просто (я^)). Пусть, далее, (^т?)г?ен — еще одна сеть элементов X. Говорят, что (у^) — подсеть Мура сети (х$) или строгая подсеть (я^), если Н является поднаправлением Е относительно такого £( •), что уц = при всех Т) € Н, т. е. у = хо£. Подчеркнем, что в силу 7.1.1 (6) выполнено у(а Н) С х(аЕ).
7.3.7.	Последнее указанное свойство подсетей Мура кладут в основу более свободного определения подсети, которое привлекает непосредственной связью с фильтрами. Именно, сеть (у^ен элементов X называют подсетью (или подсетью в широком смысле слова) сети (я^)$ен элементов X, если
(ve е Е)(3г? € H)(Vtf > ч)№' > 0(^(0 = У(О>
т. е. в случае, когда каждый хвост сети х содержит некоторый хвост у. На языке монад, разумеется, выполнено у(а Н) С ж(аЕ) или, в наглядной записи:
(Vr?« +оо)(Э< « +оо)(уч - ®€).
При этом, стремясь к образности, часто пишут (ж,)^6Н — подсеть сети (что может привести к недоразумениям). Полезно подчеркнуть, что в общем случае подсети не обязаны являться подсетями Мура. Отметим также, что две сети в одном множестве называют эквивалентными, если каждая из них — подсеть другой, т. е. если их монады совпадают.
Если & — фильтр в X и (я^) — сеть элементов X, то говорят, что рассматриваемая сеть подчинена & при условии: £ ~ +оо —> х% € м(^)- Иначе говоря, сеть (х%) подчинена если фильтр ее хвостов тоньше При этом допускают вольность и пишут х% |	, имея в виду аналогию с топологическими обозначе-
ниями сходимости. Отметим здесь же, что в случае, когда & — ультрафильтр, & совпадает с фильтром хвостов любой подчиненной ему сети (х$), т. е. сама такая сеть (я^) — ультрасеть.
7.3.8.	Теорема. Пусть у? = <р(х, у, z) — формула теории Цермело-Френкеля, не содержащая никаких свободных параметров, кроме х, у, z, причем z — стандартное множество. Пусть, далее, & — фильтр в X, а & — фильтр в Y. Следующие утверждения эквивалентны:
(1)	(VG е $0(3 F е <?)(Vx е F)(3y € G)<p(x,y,z);
438 Глава 7. Локальные выпуклые аппроксимации
(2)	(Ух € д(^))(3у е ^))<p(x,y,z);
(3)	для любой сети (x$)$gs элементов X, подчиненной найдутся сеть (Ут^ен элементов Y, подчиненная , и строгая подсеть (^(г7))т/ен сети (^e)ees такие, что при всех Т[ G Н будет <р(х^,у^,г), т. е. символически
(Ух£ 1 <F)(3^ l&) vtx^y^z)-,
(4)	для любой сети	элементов X, подчиненной &, найдутся сеть
(Ут))т}€п элементов Y, подчиненная У , и подсеть (х^^ сети такие, что при всех ту G Н будет <р(Хт), у^, z), т. е. символически
!<Я“)(3^ l^)y?(^,z/n,z);
(5)	для любой ультрасети	элементов X, подчиненной &, найдутся
ультрасеть (у^ен, подчиненная^, и ультрасеть (х^^, эквивалентная (х^)^, такие, что ^р{х^, ул, z) при всех т] G Н.
<1	(1) —> (2): Пусть х е По принципу переноса для каждого стандартного G имеется стандартное F такое, что (Vx Е F) (Зу G G) <р(х,у, z). Значит, для х G будет (VG G °^)(3г/ € G) <p(x,y,z). Привлекая принцип идеализации, заключаем: (3i/)(VG G °^)(г/ G G А (р{х, у, z)). Итак, у G и <р(х, у, z).
(2)	—> (3): Пусть	— стандартная сеть в X, подчиненная Для каж-
дого стандартного G из и £ G °Е положим
А^) := {£' > £ : (vr > Шу е
На основании 7.1.1 (8) видим, что аЕ С Учитывая, что А<?»€) ~ внутреннее множество, по принципу Коши заключаем: 34(g,$) / 0. Тем самым на направлении Н := ^ х S (с естественным упорядочением) заданы стандартные отображения £:Н-*Еиу/:Н—такие, что £(77) € A(G£) и Уч G при G Е и £ G Е, для которых т] G (G,£). Видно, что £(//) ~ 4-оо и ул € при ту « 4-оо.
(3)	—> (4): Очевидно.
(4)	—> (1): Если (1) не выполнено, то по условию
(3G G ^)(VF € /)(3ж G F)(Vy G G) ^<p(x,y, z).
Для F G & выбираем xf G F так, чтобы было ~'(p(x,y, z) при всех у G G. Отметим, что получаемую сеть (xf)fe^ элементов X, равно как и множество G, можно считать стандартными на основании принципа переноса. Нет сомнений, что xf I и, стало быть, в силу (3) найдутся направление Н и подсеть сети	такие, что для некоторой сети (т/^ен будет ^(х^, у^, z) при всяком
г) G Н. По определению 7.3.7 х^ при каждом бесконечно большом т) совпадает с хр для некоторого удаленного F, т. е. х^ G По условию у^ G м(^) и тем более у^ е G. При этом оказывается (р(хл,уп, z) и ^^(Xn.y^^z), чего быть не может. Полученное противоречие свидетельствует о ложности сделанного допущения. Таким образом, (1) выполнено (как только имеет место (4)).
7.3. Пределы по Куратовскому и Рокафеллару
439
(1)	w (5): Для доказательства требуемой эквивалентности достаточно заметить, что она становится очевидной в случае, когда & и суть ультрафильтры. Остается заметить, что каждая монада есть объединение монад ультрафильтров. о
7.3.9.	В приложениях бывает удобным рассматривать конкретизации 7.3.8, отвечающие случаям, в которых один из фильтров дискретен. Так, используя естественные обозначения, мы получим
(Эх е д(^)) <р(х,у) w (Зж£
(Ухе р(&))<р(х,у) <-» (Vx£ J.	1	у).
7.3.10.	Пусть F С X х Y — внутреннее соответствие из стандартного множества X в стандартное множество Y. Допустим, что в X выделен стандартный фильтр «Ж, а в У — топология т. Полагаем
W(F) := *{г/': (Уж € д(Ж) П dom(F))(V2/ « у')(х,у) е F}, 3V(F) - *{?/': (3^ е д(Ж) ndom(F))(Vt/ « у')(х,у) G F}, V3(F) := *{у' : (Ух € д(Ж) Пdom(F))(3t/ « у')(х,у) е F}, 33(F) := *{</': (Зх G д(Ж) П dom(F))(3</« у')(х,у) е F}, где, как обычно, * — символ стандартизации, а запись у ~ у' означает, что у € д(т(?/'))- Множество QiQ2(F) называют Q1Q2-пределом F (здесь Q — один из кванторов V или 3).
7.3.11.	В приложениях обычно ограничиваются случаем, когда F — стандартное соответствие, определенное на некотором элементе фильтра Ж. При этом изучают 33-предел и V3-предел. Первый называют верхним пределом, а второй — нижним пределом F вдоль Ж.
Если рассматривается сеть (а^ен в области определения F, то, имея в виду фильтр хвостов сети, полагают
LLes F := liminf F(xe) := V3(F),
Ls^esF := limsupF(x^) := 33(F).
В таких случаях чаще всего говорят о пределах Куратовского.
7.3.12.	Для стандартного соответствия F справедливы представления:
33(F) = р| cl (J F(x);
ue^ xqu V3(F) = П C1 U иехЛ
где сЖ — так называемый гриль «Ж, т. е. семейство, составленное всеми подмножествами X, задевающими монаду Иначе говоря,
Л = *{U' CX:U'O р(Л) / 0} = {V С X : (V17 € ^Г)(У П V / 0)}.
440
Глава 7. Локальные выпуклые аппроксимации
Отметим в этой связи соотношения:
V3(F) = П int (J F(x),
176.Ж X^U
W(F) = (J int p| F(x). иел xeu
Из теорем 7.3.8 мгновенно следует описание пределов на языке сетей.
7.3.13.	Элемент у лежит в ^3-пределе F в том и только в том случае, если для каждой сети (x^)^es элементов dom(F), подчиненной еЖ, найдутся подсеть се™ (^)ces и сеть (y^eth сходящаяся к у, такие, что (х^у^) G F для всех у G Н.
7.3.14.	Элемент у лежит в 33-пределе F в том и только в том случае, если существуют сеть (т^)^е= элементов dom(F), подчиненная Ж, и сеть (%)$es> сходящаяся к у, для которых (х%, у%) С F при любых £ € S.
7.3.15.	Для любого внутреннего соответствия F выполнено:
W(F) с 3V(F) С V3(F) С 33(F).
При этом 33(F) и V3(F) суть замкнутые, a W(F) и 3V(F) — открытые множества.
< Искомые включения бесспорны. Таким образом, с учетом соображений двойственности установим для определенности замкнутость УЗ-предела.
Если V — стандартная открытая окрестность у' из clV3(F), то имеется у G V3(F), для которого у G V. Для х € подыщем у" так, чтобы было у" € /х(т(г/)) и (х,у") е F. Ясно, что у" G V, ибо V — окрестность у. Итак,
(У* € мт)(УV G °т(2/'))(3!/" Е V)(T,2/") е F.
Используя принцип идеализации, заключаем: yf € y3(F). О
7.3.16.	Приведенные общие утверждения позволяют охарактеризовать элементы многих аппроксимирующих или регуляризирующих конусов на языке сетей, что распространено в литературе (см. (117, 118]). Отметим, в частности, что конус Кларка Cl(F,x') для F в X получается как предел по Куратовскому:
C1(F, х ) = LiT(a.>)XTR+(о) Гр,
где Гр — гомотетия, связанная с F, т. е.
F — х
(х, a, h) € Гр	h е------ (x,he Х,а> 0).
а
В выпуклом анализе нередко используют специальные разновидности пределов по Куратовскому, связанные с надграфиками функций, действующих в расширенную числовую прямую R. Прежде всего, приведем полезные признаки верхнего и нижнего пределов.
7.3. Пределы по Куратовскому и Рокафеллару	441
7.3.17.	Пусть f : X —* R — стандартная функция, определенная на стандартном X, и & — некоторый стандартный фильтр в X. Для каждого стандартного t е R выполнено
sup inf f(F) <г-> (Зх е д(^)) °f(x) t, Fe&
inf sup/(F)	t <-> (Зж G /z(<^)) °/(ж) *•
Fe&
< Проверим сначала первую эквивалентность. Применяя последовательно принципы переноса и идеализации, получаем
sup inf/(F) t -4 (VF G inf f(F) < t -> FeP
-> (VF G <F)(Ve > 0) inf/(F) < t + e -> (te)(VF)(3a; G F)
(№) < t + e) -+ (Vste)(VstF)(3^)(x G F A f(x) < t + e) (3#)(Vst£)(VstF)(a; G F A f(x) < t + e) ->
-»(3z G M(^))(Vst£ > 0)(/(x) < t + e) -+ (3x G p(^))°f(x) t.
Теперь заметим, что для всякого стандартного элемента F фильтра & будет х е С F. Значит, inf /(F) t (ибо inf /(F)	/(ж) < t 4- € для каждого
е > 0). Отсюда в силу принципа переноса для внутреннего F из & выполнено inf /(F) < t, что и нужно.
Ввиду уже доказанного и с учетом стандартности — / и t заключаем
inf sup/(F) t w — inf sup/(F) — t	sup inf(—/) (F) > t
Fe&	f$&	Fe&
~ (Эх € д(^))°(-/(х)) < -t w (Зх e д(^))7(®) > t.
Таким образом, получается
inf sup/(F) < t -*( inf sup /(F) >£)*-> Fe&
~ -((3 a: G p(#))cf(x) (Ухе p(^))°f(x) t.
Окончательно на основе доказанного заключаем
inf sup/(F) t (Vs > 0) inf sup f(F) <t + e Fe^	Fe^
(V8te > 0)(Vx G д(<^)) °f(x) < t + e
w (Vx G /z(<F))(V8t£ > 0) °/(x) < t + e w yx G °f(x) t,
ибо число °f(x) стандартно. О
7.3.18.	Пусть X,Y — стандартные множества, / : X х У —> R — стандартная функция и^ — стандартные фильтры вХивУ соответственно. Для каждого стандартного вещественного числа t выполнено
sup inf sup inf f(x,y) t <-* (Vx G p(^))(3y G p(tf))°f(x,y) t. Fe^ xeF yeG
442
Глава 7. Локальные выпуклые аппроксимации
<1 Положим /с(^) •’= inf {/(ж, у) : у G G}. Заметим, что Jg — стандартная функция, если только G — стандартное множество. Привлекая принцип переноса, предложение 7.3.17 и идеализацию, последовательно выводим
sup inf sup inf f(x,y) < t (VG G inf sup fc(x)
ge& fe^ xEFyEG	fe& xef
~ (VstG e inf sup fG(x) t <-> (VstG € &)(\/x e %(*)
Fe& xEF
t W (Vx G /z(^))(VstG G ^)(Vst£ > 0) inf f(x, y)<t + e—>
veG
- (Vx G /z(^))(Vste > 0)(VstG G ^)(3 у G G)(/(x, y) < t + e) -+
-»(Vx G д(«^))(Эу G M(^))(V8te > 0)(/(x,y) < t + e)
- (Vx G №))(ly e №))°f(x,y) < t.
Из последнего соотношения для внутреннего элемента F С м(^) фильтра & и стандартного элемента G фильтра У заключаем
sup inf f(x,y)	—> inf sup inf f(x,y) f —>
xef yeG	fe& xeF yeG
—► (VstG G inf sup inf f(x,y)
FE& xEFyEG
—»(VG G	inf sup inf f(x,y) t
FE^ xEFyEG
в силу принципа переноса. О
7.3.19.	В связи с 7.3.18 величину
limsupinf/ := sup inf sup inf f(x,y)
GE^FE^ XEFyEG
называют пределом f no Рокафеллару.
Если f := (Д)$е5 ~ семейство функций, действующих из топологического пространства (X, а) в R и — фильтр в S, то определяют нижний предел в точке х' из X семейства f и его верхний предел или предел по Рокафеллару
li^x f(x') := sup sup inf inf Д(ж),
VE<r(x')UE^£eU xEV
Is^(x') := sup inf sup inf /<(x).
VEa(x')UE.^ £EUxEV
Последние пределы часто называют эпипределами. Смысл этого определения раскрывает следующее очевидное утверждение.
7.3.20.	Нижний и верхний пределы произвольного семейства надграфиков служат соответственно надграфиками нижнего и верхнего пределов рассматриваемого семейства функций.
7.4. Аппроксимации, определяемые набором инфинитезималей
443
7.4. Аппроксимации, определяемые набором инфинитезималей
В этом параграфе мы займемся проблемой анализа классических аппроксимирующих конусов кларковского типа с помощью детализации вклада бесконечно малых чисел, участвующих в их определении. Такой анализ позволяет выделить как новые аналоги касательных конусов, так и новые описания конуса Кларка.
7.4.1.	Вновь рассмотрим вещественное векторное пространство X, наделенное линейной топологией а и почти векторной топологией т. Пусть, далее, в X выделены множество F и точка ж' из F. Указанные объекты считаются стандартными множествами.
Фиксируем некоторую инфинитезималь — вещественное число а, для которого а > 0 и а « 0. Положим
Haa(F,a/) := *{h' € X : (Vx « тх',х G F)(VA « Th')(x + ah€ F)}, Ina(F,x') := *{ft' € X : (3h к Th')(Vx « ffx',x G F)(x + ah e F)}, Cla(F,^) := *{ft' € X : (Vz « ax',x G F)(3h « Th')(x + ah G F)}, где, как обычно, * — символ стандартизации внешнего множества.
Рассмотрим теперь некоторое непустое, вообще говоря, внешнее множество инфинитезималей А и положим
HaA(F,a/) :=	HaQ(F,;r'),
абЛ
1пл(Г,а/):=*П 1по(Г,У),
абЛ
ClA(F,z'):=*f| С1а(Г,я/).
абЛ
Аналогичную политику обозначений мы примем и для других вводимых типов аппроксимаций. В качестве примера стоит подчеркнуть, что в силу определений для стандартного h' из X выполнено:
Ы € InA(F, я/) w (Va € Л)(ЗЛ « Tft')(Vx « ах',х 6 F)(x + ah € F).
Полезно отметить, что в случае, когда Л — это монада соответствующего стандартного фильтра «^л, где := *{А С R : A D Л}, то, например, для ClA(F,a/) будет
С1Л(Г,У)= nun Ar + V)-
Uea(x') xEFC\U
Если же Л — не монада (например, нестандартное одноточечное множество), то явный вид C1a(F,x') связан с той моделью анализа, в которой фактически ведется исследование. Подчеркнем, что ультрафильтр ^(а) :=*{Асй:а6 А}
444
Глава 7. Локальные выпуклые аппроксимации
имеет монаду, не сводящуюся к исходной инфинитезимали а, т. е. множество С1а(^а/)> вообще говоря, шире, чем ClM(^(tt))(F,a:'). В то же время оказывается, что введенные аппроксимации обладают многими достоинствами, присущими кларковским конусам. При детализации и обосновании последнего положения без особых оговорок, как и в 7.2, мы используем предположение непрерывности отображения (ж, (3,К) х + 0h пространства (X х R х X, а х т& х т) в (X, а) в нуле (эквивалентное в стандартном антураже включению /z(a) + ^(R+)/z(t) С /х(<т)).
7.4.2.	Теорема. Для каждого множества А положительных бесконечно малых чисел справедливы утверждения:
(1)	HaA(F, ж'), 1пд(Р,х')> С1д(Р,ж') — полугруппы, причем
На(^ж') с Над (Дж') С 1пА(Дж') с С1д(Дж') С K(F,x'\ С1(Дж') сС1д(Дж');
(2)	если A — внутреннее множество, то Над (Дж') является т-открытым;
(3)	C1a(F, ж') — это т-замкнутое множество, причем для выпуклого F будет K(F,x') = С1д(Д ж'), как только a = т;
(4)	если т = а, то имеет место равенство
С1д(Д ж') = С1д(с1 Д ж');
(5)	выполнена формула Рокафеллара
НаА(Д ж') 4- С1д(Д ж') С Над(F, ж');
(6)	если х' — это т-граничная точка F, то для F' := (X — F) U {ж'} выполнено Над(Дж') = -НаА(Д,ж').
< (1): Проверим для определенности, что полугруппой является 1пА(Дж'). Если стандартные А', А" входят в InA(F, ж'), то для каждого a G А при некотором hi « Th! будет ж" := ж+а/ii € F, как только х G F и х « ах'. По условию имеется h% « Th", для которого ж"+а/12 G F, ибо ж" « аж. Окончательно Л1+Л2 « тК+h" и hi + Л2 «обслуживает» вхождение h' 4- h" Е 1пА(Д ж').
Если h' G С1д(Дж') и А' стандартен, то х' 4- ah G F для каких-нибудь a G А и h « Thf. Это означает, что h! G K(F, х'). Прочие включения, выписанные в (1), не вызывают сомнений.
(2): Если Л' — стандартный элемент Над (Дж'), то
(Уж « ax',x е F)(\/h « T/i')(Va G Л)(ж 4- ah G F).
С учетом 7.3.2, используя то, что Л — внутреннее множество, заключаем
(3stV G X)(3stCZ G а(ж'))(Уж G U П F)(Vft G hf 4- V)(Va G Л)(ж 4- ah G F).
7.4. Аппроксимации, определяемые набором инфинитезималей
445
Подберем стандартные окрестности Vi, У2 Е так, чтобы было Vi 4- V2 С V. Тогда для всех стандартных А" Е h! 4- Vi выполнено
(Vx Е U A F)(Vft Е ft" + V2)(Va Е Л)(х + ah Е F),
т. е. h" Е HaA(F,x') при любых h" Е h 4- Vi.
(3): Пусть теперь h! — стандартный элемент c1tC1a(F,x'). Возьмем произвольную стандартную окрестность V точки Л' и выберем вновь стандартные Vi, V2 Е из условия Vi + V2 С V. По определению замыкания имеется /1" Е C1a(F,x') такой, что Л" Е ft' 4- Ц. На основании 7.4.1 и 7.3.2 будет
(Va Е A)(3st[7 Е <r(x'))(Vx Е F П <7)(3 h Е h" 4- V2)(x 4- ah Е F).
При этом h Е h" 4- V2 С hf 4- Ц 4- V2 С h' 4- V. Иначе говоря,
(Vs1 V Е X)(Va Е A)(3stC7 Е <t(x'))(Vx Е F А Е7)(3 h Е ft' + V)(x 4- ah Е F).
Значит, h' Е ClQ(F,x') при каждом а Е Л, т. е. hf Е C1a(F, х').
Если теперь ft' Е Fd(F, х') и h' стандартен, то для некоторого стандартного аг > 0 по принципу переноса будет х' 4- a'ft' Е F. Если х « ах' и х Е F, то (х — х')/а' « а0. Для h := hf 4- (х - х')/а' будет h « ТЛ' и, кроме того, х 4* a'h, Е F. С учетом выпуклости F верно: х 4- (0, а'] Л С F. В частности, х 4- Aft С F. Итак, (Vx « ах',х Е F)(Va Е A)(3ft « rh')(x + ah Е F), т. е. hf Е C1a(F,x'). Следовательно,
Fd(F,x') С C1a(F,x') С K(F,x') С clFd(F,x').
С учетом т-замкнутости C1a(F,x') заключаем: /C(F,x') = C1a(F,x').
(4): Устанавливается как и в предложении 7.2.10.
(5): Для стандартных fc' Е HaA(F,x') и ft' Е C1a(F,x') при каждом а Е Л и любом х Е F таком, что х « ах', подобрав ft из условий ft « Tft' и х 4- ah Е F, получаем последовательно
х 4- a(h' 4- к' 4- /1(т)) = я 4- oft 4- а(к' 4- (ft — ft') 4- /1(т)) С
С (х 4- /х(<т)) A F 4~ a(fc' 4- м(т) + м(т)) С (х 4- м(а)) И F 4- а(к' 4- /1(т)) с
что и означает вхождение ft' 4- к1 в HaA(F,x').
(б): Пусть —ft HaA(F',x'). Тогда для некоторого а Е Л найдется ft w Tft' так, что при подходящем х « ах', х Е F выполнено х — ah Е F. Если все же ft Е HaA(F, х'), то, в частности, ft Е Haa(F, х') и х = (х — ah) 4- ah Е F, ибо x-ah « ах. Итак, х Е FAF', т. е. х = х'. Кроме того, (х' —aft)4-a(ft4-Ai(r)) С F, ибо ft 4- м(т) М(г(^))- Стало быть, х' — это т-внутренняя точка F, что противоречит условию. Следовательно, ft HaA(F, х'), что обеспечивает включение — HaA(F,x') С (F',x'). Меняя в приведенном рассуждении F' и F = (F')' местами, приходим к требуемому. >
7.4.3.	Важно подчеркнуть, что во многих случаях описанные аналоги конусов Адамара и Кларка являются выпуклыми. В самом деле, имеют место следующие утверждения.
446
Глава 7. Локальные выпуклые аппроксимации
Пусть т — векторная топология и tA С Л для некоторого стандартного t G (0,1). Тогда С1д(Г,х') — выпуклый конус. Если к тому же Л — внутреннее множество, то Над (F,xz) также выпуклый конус.
<1 Предположим, что рассматривается Над(Р, х'), и h € Над(Г, х') — стандартный элемент этого множества. На основании 7.4.2 (2) Hba(F, х') открыто в топологии т. Кроме того, th G Над(Р,х'), где t — фигурирующее в условии стандартное положительное число. >
7.4.4.	Пусть £А С Л для каждого стандартного t G (0,1). Тогда множества C1a(F,x'), 1пЛ(Г,х') и HaA(F,x') являются выпуклыми конусами.
<1 Предположим для определенности, что речь идет о С1д(.Г, х'). Пусть h! — какой-либо стандартный вектор из названного множества и 0 < t < 1 — стандартное число. Пусть х « ffx', х € F и а € Л. Для х и ta € Л подберем h, для которого h ъ Th' и х + ath G F. Поскольку th « Tth' на основании 7.1.6, то th' G Cla(F, х'). Иначе говоря, на основании принципа переноса (0,1) C1a(F, х') С С1д(Р, х'). Остается сослаться на 7.4.2 (1). >
7.4.5.	Если Над(^,х') и C1a(F,x') — (выпуклые) конусы, то множество Л называют представительным. Предложения 7.4.3 и 7.4.4 дают примеры представительных А.
7.4.6.	Пусть f : X —> R — функция, действующая в расширенную числовую прямую. Для инфинитезимали а, точки х' из dom(jf) и вектора h' е X полагаем
/(Наа)(х')(Д') := inf{t € R : (h',t) € Haa(epi(/), (х',/(х')))}, /(1па)(х')(Л') := тф G R : (h',t) G Ina(epi(/), (x',/(x')))}, /(С1а)(х')(Л') := inf{t G R : (h',t) G Cla(epi(/), (x',/(x')))}.
Производные /(Над), /(1пд) и /(С1д) вводятся естественным образом. Отметим, что производную /(С1) := /(С1д(к+)) называют производной Рокафеллара и обозначают символом В этой связи мы пишем
Д(х') := /(Си)(Ж'), Д(<г') := /(С1л)(х').
Если г — это дискретная топология, то Над(^, х') = Iha(F,x') = C1a(F,x'). При этом производную Рокафеллара называют производной Кларка и используют обозначения
/£(*') :=	/Х(х'):=Д(х').
При Л = /z(R+) указание на Л опускают.
Рассматривая эпипроизводные, предполагают, что пространство X х R наделено обычными произведениями топологий а х и т х т^, где tjr — стандартная топология R. Иногда удобно наделять X х R парой топологий а х ть и т х т&, где то — тривиальная топология в R. При использовании таких топологий говорят о производных Кларка и Рокафеллара вдоль эффективной области dom(/) и добавляют индекс d в обозначениях: /£, Д d и т. п.
7.4. Аппроксимации, определяемые набором инфинитезималей
447
7.4.7.	Справедливы утверждения:
w (ух « ax', t « f(x'), t > f(x)) (Э h « Th') °((f(x + ah) - t)/a) i';
fa(x')(h')<t'~
«-» (Vx « ax', t « f(x'), t f(x)) (yh^i Th') °((f(x + ah) - t)/a) < t1-,
W (\/x « ax',x G dom(/))(3ft « тЛ')°((/(ж + ah) - t)/a)	t';
w (\/x « <?x',x € dom(/))(VA « rh') °((f(x 4- ah) — t)/a) < t'.
<1 Для доказательства нужно апеллировать к 7.1.2 (7). >
7.4.8.	Если f — полунепрерывная снизу функция, то
fa(x')(h!) <t'~\/x^ ax’, f(x) « f(x'))(3h « Th’) °(J(x + ah)-f(x)) t>. f°(x')(h') <t'~ (Vx « ax'J(x) « /(x'))(V/i « Th!)°^x + ah^~ < t'.
< Нуждаются в проверке только импликации вправо. В силу идентичности таких проверок осуществим первую из них. На основании полунепрерывности / снизу заключаем: х' ъ ax ~> °/(ж) > /(ж'). Значит, при х, t таких, что t « /(ж') и t > f(x), выполнено °t °f (x) f(x') = °t Иначе говоря, °f(x) = f(x') и f(x) « f(x')- Подбирая подходящее h с помощью условий, видим
°(а-1(/(х + ah) - t)) ya-^fix + ah) - /(х))) < t',
что и обеспечивает требуемое. О
7.4.9.	Для непрерывной функции f имеют место равенства
4Ж) = 4(*'),	=
< Достаточно заметить, что непрерывность f в стандартной точке означает (х « ax',x G dom(/)) f(x) « f(xf) (см. 7.1.2 (4)). >
7.4.10.	Теорема. Пусть Л — монада. Тогда справедливы представления:
(1)	если f — полунепрерывная снизу функция, то
/2[(х')(/1/) = limsuP/mf( +
X—► fx'
/о/ м/.м r /(x + ah’) - f(x) fi(x)(h) = hmsup —--------------
I	a
X—>fX aefh
где x —> fx' означает, что x —> ax' и f(x) —* f(x');
448
Глава 7. Локальные выпуклые аппроксимации
(2)	для непрерывной функции f выполнено
= limsup inf f(x + ah)~f(x\ . h—>h,r	Ot
x—>x
,o /	v f(x + ah')-f(x)
f£,d(x№) = bmsup
x-^x
< Для доказательства достаточно привлечь критерий для предела по Рокафеллару 7.3.20 и 7.4.8, 7.4.9. О
7.4.11.	Теорема. Пусть Л — представительное множество инфинитезималей. Справедливы утверждения:
(1)	если f — отображение, липшицевое по направлениям в точке х', т. е. такое, что Ha(epi(/), (я/,/(я/))) / т°
Я(*') = /л(*');
если к тому же f непрерывно в точке х', то
(2)	если f — произвольное отображение, причем конус Адамара эффективного множества f в точке х' — непустое множество, т. е. Ha(dom(/), я/) / 0, то
<1 Доказательство обоих искомых утверждений проводится по одному образцу, связанному с применением теоремы 7.4.2. Разберем подробно случай липши-цевости f по направлениям. Положим si := epi(/), а' := (я/,/(я/))-
В силу условий С1д(зг/,а') и Над («я/, а') — выпуклые конусы. При этом Над(^У, a') D На(<*У, а') и, стало быть, intTXTv, Над («с/, а') / 0. На основании формулы Рокафеллара заключаем:
clTXni Над(зУ,а') = С1д(<й/,а').
Отсюда и вытекает требуемое утверждение. >
7.4.12.	Теорема. Пусть fi,fz • X —» К — произвольные функции и точка х' G dom(/i) A dom(/2)- Тогда
(h + /2)U(a/) < (Л)Ц(х') + (/2)X,d(x').
Если, кроме того, /1 и Д непрерывны в точке х1, то
<3 Пусть стандартный элемент h! выбран следующим образом:
h' G dom ((/2)л,а) И dom ((Л)л,<*)-
Если такого h! нет, то искомые оценки очевидны.
7.4. Аппроксимации, определяемые набором инфинитезималей
449
Возьмем tf (/1)лд(^,)(^) и s' >	Тогда на основании 7.4.8 для
каждого х « ах', х € dom(/i) П dom(/2) и любого а € Л имеется Л, для которого h « Th! и, кроме того,
<51 :=o((/i(x + ah)-/i(ar))/a)^t';
<52:=о((/2(^-ЬаЛ)-/2(^))/а)<5'.
Отсюда выводим: <$i 4-^2 < t' 4-$', что обеспечивает (1). Если Д и Д непрерывны в точке х(, то следует привлечь 7.4.9. >
7.4.13.	В заключение текущего пункта разберем специальные представления конуса Кларка, возникающие в конечномерном пространстве и связанные со следующим замечательным результатом.
Теорема Корне. В конечномерном пространстве конус Кларка представляет собой предел контингенций по Куратовскому:
Cl(F,z') = Li^, K(F,t).
xqf
7.4.14.	Следствие. Пусть Л — (внешнее) множество строго положительных инфинитезималей, содержащее сходящуюся к нулю (внутреннюю) последовательность. Тогда справедливо равенство
C1a(F,/) = Cl(F,a/).
< По принципу Лейбница можно работать в стандартном антураже. Поскольку включение C1a(F,t') D C1(F,t') очевидно, возьмем стандартную точку h! из C1a(F,x') и установим, что Л' лежит в конусе Кларка Cl(F,x').
Поскольку с учетом 7.3.10 справедливо представление
Li^, K(F,z) = *{Л': (Ух « х',х е F)(3h « h')he K(F,x)}, xeF
убедимся в том, что при х ъ х', х е F будет h 6 K(F, х) для некоторого элемента h, бесконечно близкого к hf.
Если (an) — последовательность элементов Л, сходящаяся к нулю, то по условию выполнено
(УпЕ N)(3An)(a: 4- OLnhn € F /\hn& h').
Для всякого стандартного е > 0 и обычной нормы || • || в Rn будет \\hn — h'\\ < е. Стало быть, с учетом конечномерности можно подыскать последовательности (an) и (hn) такие, что
an —> 0, hnh, \\h — h'\\ e, x + anhneF (n € N).
Используя принцип идеализации, заключаем, что имеются последовательности (an) и (hn), обслуживающие одновременно все стандартные положительные числа е. Ясно, что соответствующий предельный вектор h бесконечно близок к Л' и в то же время h € K(F,x) по определению контингенции. >
15 Кусраев А. Г., Кутателадзе С. С.
450
Глава 7. Локальные выпуклые аппроксимации
7.4.15.	В качестве множества Л в приведенной теореме может фигурировать монада любого сходящегося к нулю фильтра, например, фильтра хвостов фиксированной стандартной последовательности (оп), составленной из строго положительных чисел и стремящейся к нулю. Приведем характеризации конуса Кларка, относящиеся к этому случаю и дополняющие приведенные выше. Для формулировки условимся символом dp(x) обозначать расстояние от точки х до множества F.
7.4.16.	Теорема. Для сходящейся к нулю последовательности (an) строго положительных чисел эквивалентны следующие утверждения:
(1)	Л'€С1(Г,О;
(2)	lim sup	0;
X—*х' п—>оо
(3)	limsup limsup a^1 (dp(x -I- an/i') — dp(x) < 0; x—*x*	n—*oo
(4)	limsuplimsup a~rdp{x 4- anh!) — 0; > n—»oo X—+X x€F
(5)	limsup liminf a~1(dp(x 4- anh') - dp(x)) < 0;
x—tx' n~*OO
(6)	lim liminf	= 0.
x^x' n-oo
xeF
<J Прежде всего заметим, что при a > 0 имеет место эквивалентность:
°(a~1dp(x + ah')) = 0 ~ (ЭЛ « ti)(x + ahe F),
где °t — это, как обычно, стандартная часть числа t.
Действительно, для установления импликации влево положим у := х + аЛ'. Тогда
dp(x + ah^/a = ||х 4- ah1 - y\\/a < \\h - Л'||.
При проверке противоположной импликации, привлекая принцип идеализации, последовательно получаем
°(a~1dp(x 4- аЛ')) = 0 —> (Vste > 0) dp(x 4- ah!)/а <e —>
(Vst6 > О)(Эг/ e F) ||x + ah! - y\\/a < e
-+ (3y € F)(Vst£ > 0) ЦЛ' - (y - x)/a|| < e -+
^(3yeF) \\h-(y-x)/a\\^Q.
Полагая h := (г/ — x)/a, видим: hxih! и при этом x 4- ah e F.
Перейдем теперь собственно к доказательству искомых эквивалентностей.
Поскольку импликации (3) —> (4) —> (6) и (3) —* (5) —> (6) очевидны, установим только, что (1) —» (2) —* (3) и (6) —* (1).
(1)	(2): Работая в стандартном антураже, возьмем х « я' и « 4-оо.
Подберем х" G F так, чтобы было ||х — я/'|| < dp(xf) 4- а^. Поскольку имеет
7.4. Аппроксимации, определяемые набором инфинитезималей
451
место неравенство
dF(x 4- a^h!) — dF(xff 4- a^h1)	||x — x"||,
мы выводим следующие оценки:
(dF(x 4- Oitfh') — dp(x))/aN (dF(x" 4- otNh') 4- ||x — xz,|| — б/р(х))/адг dF(xH 4- aNh')/oiN 4- адг.
В силу того, что hf G Cl(F,x'), с учетом выбора х" и N для некоторого h « h! будет х" + а n h G F. Значит, на основании уже доказанного о(с?р(х" 4- a nW)/аn) = 0. Отсюда
(Vx « x')(VW « 4-оо) Q(a^(dF(x 4- &Nh') - dp(x))) 0-
Последнее в соответствии с 7.3.17 составляет нестандартный критерий справедливости (2).
(2) —> (3): Достаточно заметить, что для f : U х V —* R и фильтров & в U и <£ в V будет
limsup limsup f(x,y) &	<4
(Vx G /i(eF))°limsup f(x,y) t
(Vx G jz(^))(Vste > 0) inf sup f(x,y) < t 4- e <->
G&4 ytG
~ (Vx G M(^))(Vst£ > 0)(3 G G sup /(x, y) < 14- e ~
yGG
w (Vx G p(^))(3G G ^)(Vsts > 0) sup f(x,y)t + e w
yEG
(Vx G /z(^))(3G G $?)(vst£ > 0) sup f(x,y) ^t + e~ yEG
w (Vx G p(^))(3G G ^)(Vy G G)°/(x,y) t.
Здесь, как обычно, — монада фильтра .
(6)	—♦ (1): Прежде всего, в обозначениях предыдущего фрагмента доказательства, выполнено
limsup linnnf f(x,y) t <-»
w (Vx G д(<^)) sup inf [(x,y) < t ++
G&i ye^s
w (Vx G /x(^))(Vst£ > 0)(VG G inf /(x, y) t + e w
w (Vx G /i(/))(VG G 0)(Vst£ > 0) inf /(x,y) < t + e w
w (Vx G g(^))(VG G ^)(Vste > 0)(3 у e G)(f(x, y)<t + e)~
W (Vx G M(^))(VG G ^)(3y G G)°/(x,!/) t.
15
452
Глава 7. Локальные выпуклые аппроксимации
Привлекая условия, из установленного признака заключаем:
(Vx « х',х е F)(Vn)(3X > n)°(a^dF(x + aNh')) = 0.
Иначе говоря, для некоторого hx такого, что hx « h,', будет ж+ &xhx € F. На основе приведенных соображений, как и при доказательстве 7.4.16, можно сделать вывод, что h' лежит в нижнем пределе по Куратовскому контингенций множества F в точках, близких к х', т. е. в конусе Кларка C1(F,#'). О
7.5.	Аппроксимация композиции и суммы соответствий
Перейдем к изучению касательных кларковского типа, суперпозиции и суммы соответствий. При этом нам придется начать с некоторых топологических рассмотрений, относящихся к открытым и почти открытым операторам.
7.5.1.	Пусть, помимо рассматриваемого векторного пространства X с топологиями ах и тх, задано еще одно векторное пространство Y с топологиями ау и ту. Рассмотрим линейный оператор Т из X в Y и изучим, прежде всего, вопрос о связи аппроксимирующих множеств F в точке ж', где F С X, и образа T(F) в точке Тх'.
Скажем, что тройка Т, F и х' удовлетворяет условию (относительной) пре-доткрытости или условию (р_), если для любой окрестности U Е ах(х') существует окрестность V е ау(Тх') такая, что T(U A F) D V П T(F). Условие (р_) вместе с требованием непрерывности Т как отображения (Х,ах) в (Y,ay) мы назовем условием (относительной) открытости для указанной тройки. Если же для любой окрестности U € ах(х') существует окрестность V € ау(Тх') такая, что с1ГуТ(С/ П F) D V П T(F), то будем говорить, что тройка (Т, F,x') удовлетворяет условию (относительной) почти открытости или условию (р).
7.5.2.	Справедливы утверждения:
(1)	включение
Т(р(ах(х')) nF) D р(ау(Тх')) AT(F)
равносильно соотношению
(\/ие ах(х'))(Э V е ау(Тх')) T(U A F) D V A T(F)
— условию (относительной) предоткрытости или условию (р_) (для параметров T.F их');
(2)	условие (р-) вместе с требованием непрерывности Т как отображения (Х,ах) в (Y,ay) равносильно следующему условию (относительной) открытости:
T(p(ax(x')) A F) = p(aY(Тх')) A T(F);
(3)	оператор Т удовлетворяет условию (относительной) почти открытости или условию (р), т. е.
(VI/ € ax(x'))(3V е aY(Tx')) (dTYT(U AF) D V A T(F))
7.5. Аппроксимация композиции и суммы соответствий
453
в том и только в том случае, если
(V W е Ху) (T(p(ax(x')) DF) + WZ) p(<ty(Tx')) П 7(F)).
< Утверждения (1) и (2) получаются специализацией 7.3.2. Для доказательства (3) положим
я* := Т(ах(®') П F), Я := ау(Гж') П T(F), X := {N С У2 : (ЗЖ G Ху)ЛГ D {(У1,У2) : У1 - у2 €
т. е. X — равномерность в У, отвечающая рассматриваемой топологии. Используя введенные обозначения и привлекая 7.3.2, а также принципы идеализации и переноса, последовательно получаем:
(vw е X) э д(^) ~
(VW G X)(Vb G д(^))(3а € д(^))(6 & N(d)) <-»
W (VW € X)(VrtA G X)(3stB G ^)(V6 G B)(3a G A)(b G N(a)) w
W (VstA G X)(V-W G Х)(З^В G ^)(B C W(A)) ~
~ (VstA G ^)(3stB G 6 X)(B C 2V(A))
w (VstA G jy)(38tB G ^)(B C cl A) w «(V^G^)(3BG^)(BCcM),
где замыкание вычисляется в соответствующей равномерной топологии. >
7.5.3.	Теорема. Имеют место утверждения:
(1)	если оператор Т удовлетворяет условию (р) и непрерывен как отображение (Х,тх) в (Y,Ty), то
T(C1a(F,x')) с C1a(T(F),Txz),
Т(1пА(Р,х'У) с1па(Г(Г),Г®');
если, сверх того, Т — открытое отображение (Х,тх) в (Y,Ty), то
Т(НаЛ(Г,о/)) С Нал(Т(Г),Т(х'));
(2)	если ту — векторная топология, а линейный оператор Т : (X, тх) —* (Y, ту) непрерывен и удовлетворяет условию (р), то
T(Clл(F,a;'))cCiл(Г(F)?7’ж,).
<]	(1): Проверим, например, второе из требуемых включений. Для этого, зафиксировав hf € Iha(F,it'), при а е Л возьмем h & Txh! такой, что при всех а: « ахгг', ж € F будет х + ah € F. Видно, что Th « (туТА' и Тх + aTh G T(F). Привлекая условие (р), заключаем: ТА' € 1пд(Т(Р),Тя/).
Пусть теперь известно, что Т удовлетворяет указанному выше дополнительному условию открытости, т. е. на основании 7.5.2 (1) Т(р(т%)) D р(ту). Вместе
454
Глава 7. Локальные выпуклые аппроксимации
с непрерывностью Т это означает совпадение выписанных монад. Если теперь у е T(F), у « ауТх9, то по условию (р) будет у = Тх, где х е F и х « <?хх9. При этом для z ~ TYThf можно подыскать h « Txh!, для которого z = Th. Значит, при всех а € А выполнено ж4~а/г G F, т. е. y + az = Tx + aTh е T(F), как только стандартный /г' таков, что h! € Над(Е, ж').
(2): Возьмем инфинитезималь Ли стандартный элемент Л' € Cla(F, ж'). Пусть W — некоторая бесконечно малая окрестность нуля в ту. Тогда aW также окрестность нуля по условию. На основании (р), взяв у « (туТх9, у € T(F), найдем х € р((Тх(х9)) Г) F так, чтобы у — Тх 4- aw и w « Гу0. По условию вхождения h! в конус Кларка имеется элемент Л" « ^Л', для которого х 4- ah" G F. Итак, у 4- a(Th" — w) — у — aw 4- aTh" = Т(х 4- ah") G T(F). Действительно, отсюда мы выводим, что Th" -we Th! 4- р(ту) - w е Th! 4- р(ту) 4- р(ту) = Th! 4- р(ту). Тем самым установлено: Th! е C\a(T(F),Tx9). >
7.5.4.	Рассмотрим теперь некоторые векторные пространства X, У, Z, снабженные топологиями ах, тх; ау, ту и а^, tz соответственно. Пусть, далее, FcXxY, aG cY х Z — два, соответствия и точка d! (х9, у9 ,zr) е X xY х Z такова, что а! := (ж', yf) е F и Ь9 := (г/, z9) е G. Обозначим H:=XxGQFxZ, с9 := (x9,z9). Введем следующие сокращения:
ai := (Тх х ау; а2 := <ту х а^;	ст := &х х <rz\ 0 •— <тх х cry х &z\
Л тх х ту;	т2 := ту х т^;	т := тх х т^;	т := тх х ту х rz-
Полезно напомнить, что оператор Prxxz непрерывен и открыт (при использовании «однобуквенных» топологий). По-прежнему фиксируем некоторое множество Л, составленное из инфинитезимальных чисел.
Напомним, что если Р := PrxxZ — естественная проекция из X х Y х Z на X х Z, то имеет место представление G о F = Р(Н). Сформулируем условие (рс) для соответствий F и G в точке d9: для каждой окрестности V — Ту(у9) существуют окрестности U е тх(х9) и W е tz(z9) такие, что clT (G о Iv о F) D DGoFQUxW.
Легко видеть, что условие (рс) вытекает из следующего несколько более жесткого требования: для каждой окрестности V = ту (у9) существуют окрестности U е тх(х9) и W е Tz(z9) такие, что будет clT (В(ж) П С“1(г)) П V / 0 для любых (x,z)e(UxW)Q(GoF).
7.5.5.	Отметим также необходимое нам свойство монад.
Монада суперпозиции — это суперпозиция монад.
<] Пусть зг/ — фильтр в X xY, а Зё — вУ х Z. Имеем
о ^ := fil{B о А : A G В е S8},
причем можно считать, что множества, фигурирующие в определении Зё о лУ, непусты. Ясно, что
В о А = Ргхх^И х Z О X х В).
Итак, интересующий нас фильтр — это образ Ргххи(^), где :=	V^2 и
^1 := «с/х {Z}, ^2 := {Х}х^. Поскольку монада произведения есть произведение
7.5. Аппроксимация композиции и суммы соответствий
455
монад, монада точной верхней границы фильтров — пересечение их монад и монада образа фильтра совпадает с образом монады этого фильтра, мы приходим к соотношению
р(^? о /У) = Prxxz (р(«с/) х Z А X х р(^)) — р(^) °
Это и требовалось установить. >
7.5.6.	Эквивалентны следующие утверждения:
(1)	для оператора РгХх^, соответствия Н и точки d! выполнено условие (р);
(2)	G о F А м(<т(с')) = G А д(а2(У)) о F A p(<7i(a'));
(3)	(V V G <тг (0(3 и е ах(х'))(3 W € az(z'))G о F QU х W С G о Iv о Г, где 1у — это, как обычно, тождественное отношение на V.
< Применяя 7.3.2, перепишем (3) в эквивалентной форме
(V V € оу (0(3 О е o*(c'))(V (т, z) е О (х, z) € G о F)
(3 у е V)(x, у) eF л (у,:) е G w (V (х, z) « ас' (х, z) е G о F) (Эу «<rYy')(x,y) CF /\(y,z) eG w p(a(c'y)QGoF C
C р(<т2(Ь')) AGop(oi(a')) AF.
Остается заметить, что
PrxxZ (//(^(O п Я) = {(x, z) e G О F : x « axxfN Nz « azzf A (By « aYy') (x,y) G F N(y,z) G G} = = p(o2(bf)) П G о p(oi(a')) Al F
Тем самым предложение доказано полностью. [>
7.5.7.	Эквивалентны следующие утверждения:
(1)	для оператора PixxZ, соответствия Н и точки d выполнено условие (р);
(2)	(V W G еЛ) /^(О П G О p(ai(a')) A F + W D p(a(c')) A G о F;
(3)	(V V е a2(O(VU е <7i(O(3 W G <r(c'))IV A G о F С clT(V A G о U A F);
(4)	(VCZ G ffxM)(VV G ау(г/'))(УЖ G <rz(0(30 € a(c')) О A Go F С CclT(Go/voFAC/x WY
(5)	если т	a, то для соответствий F и G выполнено условие (рс) в точке
df := (т',г/',г').
<1	Из предложения 7.5.2 (3) и выкладки, проведенной при доказательстве 7.5.2 (3), непосредственно заключаем: (1) w (2) w (3).
Для доказательства эквивалентности (3)	(4) достаточно заметить:
(V х W) A G о (U х У) A F = {(х, z) € X х Z : х е U Л z G IVA Л(3 у G У)(т, у) е F Л (у, z) G G} = G о Iv о F A U х W
для всяких U С X, V С У, W С Z.
456
Глава 7. Локальные выпуклые аппроксимации
Таким образом, остается установить только, что (4)	(5). При этом импликация (4)	(5) не вызывает сомнений, ибо (5) получается специализацией (4)
при U := X и W := Z,
Для проверки (5) —> (4), взяв V е <ту(у'), подберем открытую окрестность С е & (с'), чтобы было G о F А С С clT А, где А := G о Iv о F. Взяв открытые U G o-x(x') и W € crz(z'), положим В := U х W и О := В А С. Очевидно, что G о F А О С (с1т А) А В, Работая в стандартном антураже, для а € (с1т А) А В найдем точку a! е А такую, что а' « та. Ясно, что а' « аа, ибо /1(т) С /х(сг) по условию. Ввиду сг-открытости В будет а' € В, т. е. а! е А А В и а € clr(A А В). Окончательно G о F А О С clr(A А В), что и нужно было обеспечить. >
7.5.8.	Имеют место включения:
(1)	Нал(Я,й') D X х Нал(С,У) АНал(В,а') х Z;
(2)	R\(H,d') DXx R\(G,b')oR2A(F,a') х Z;
(3)	С1д(Я,</') D X х Q^(G,6') АС1л(В,а') x Z;
(4)	С1д(Я,</') D X x Cl(G,b') A Ql(F,a') x Z;
(5)	Cl2(B,d') D X x P2(G,b') A S2(P,a') x Z, где множество Cl2(B,d') определено соотношением
С12(Я,й') := *{(«',*>') G X х У х Z : (Vd и ^d',d € Я)(Уа € p(R+)) (3s « Txs')(Vt « ^(Зг « Tzz')(d +a(s,t,r) G Я)}.
<1	Проверим только (1) и (5), так как прочие утверждения проверяются по той же схеме.
(1): Пусть элемент г') стандартен и входит в правую часть рассматриваемого соотношения. Возьмем d « pd' и а е Л, где d := (я, у, z) G	Я.	Ясно,	что
а	(х,у)	е	F и	а « aia', а b := (?/,z) € G, b « а2У. В этой связи для	а	€	Л	и
(s, t, г) « y(s', t', г') будет а 4- a(s, t) G F и b 4- a(t, г) € G. Итак,
d 4- a(s, t,г) = (а + ot(s, t),z + ar) € F x Z, d + a(s, f, r) = (x 4- as, b 4- a(t, r)) G X x G,
т. e. (s',f,r')G Над(Я,<Г).
(5): Возьмем стандартный элемент (s',t',r') из правой части (4). По определению имеется элемент s « Txs' такой, что для всякого t ~ TYt' при некотором г « Tzr' и всех а « а1а' и b «а2 Ь' будет а 4- a(s, t) е F и b 4- a(£,г) G G. Ясно, что и подавно d 4- a(s, t, г) € Я, как только b « ^d' и d G Я. 1>
7.5.9.	Рассмотрим теперь критерий топологического общего положения выпуклых конусов на языке бесконечно малых.
(1)	Нестандартный критерий общего положения конусов. Конусы Я1,... ,ЯП в топологическом векторном пространстве (X, т) находятся в (топологическом) общем положении, если множество Z := ДП(А’) — К\ х ... х Кп является дополняемым подпространством в Хп и выполняется равенство
Z А м(т(0))п = Дп(д(т(0)) - Кх х ... х Кп А м(т(0))п.
7.5. Аппроксимация композиции и суммы соответствий
457
<1 Требуемое вытекает из 7.3.2. В самом деле, если тп топология произведения Хп, то нужно лишь выбрать указанные в 7.3.2 фильтры и ZF-формулу в виде сЯ* = тп(0),	:= тп(0) х тп(0) и tp(x,y, А, В) = (у := (j/i,2/2) G ЛхВ)А
А(ж = yi - у2)(у е В), А := ДП(Х), В := Ki х ... х Кп. >
(2)	Если конусы Ki,...,Kn в топологическом векторном пространстве (X, т) находятся в (топологическом) общем положении, то
clr(Xi А ... A Kn) = cMJG)... с\т(Кп).
<1 Включение С очевидно; докажем противоположное включение. Если h принадлежит c\T(Ki) (I := 1,... , п), то h — микропредельная точка для всех конусов Ki, следовательно, найдутся hi G /1(т(0)) такие, что ki := h 4- hi € Ki при I := 1,..., n. Тем самым
(/И,... ,hn) = (fc1?... ,kn) - (ft,... ,h) eZQp(r(0))n,
стало быть, согласно (1) имеет место представление (hi,... ,hn) = (k, ...,k) — ~(щ,... ,un), где ui G Ki А р(т(0)) и k G /х(т(0)). Из двух разных представлений вектора (hi,..., hn) находим k 4- h = ki 4- щ e Ki (I := 1,... ,n), значит, k 4- h G € Ki Г\... Г} Kn и k + h e p(r(h)), t. e. h — микропредельная точка пересечения Ki A... AFn. >
7.5.10.	Теорема. Пусть т — векторная топология, т > а и соответствия FcXxYhGcYxZ таковы, что Ha(F,a') 0 и конусы Q2(F,a') х Z и X х C1(G,6') находятся в общем положении (относительно топологии т). Тогда
C1(G о F, с') D C1(G, 6') о C1(F, a'),
если выполнено условие ('рс) в точке d!.
<1 Доказательство состоит в констатации выполнения (уже установленных) условий (см. 7.5.2, 7.5.7, 7.5.9), обеспечивающих справедливость следующих выкладок:
C1(G о F, с') = Cl(PrXxZ Н, Bixxz df) D clT PrXxZ С1(Я, d') D
D PrxxzcMX x C1(G,6') AQ2(F,a') x Z) =
= PrXxz(clr(* x Cl(G,b')) П clr(Q2(F,a') x Z)) =
= Prxxz(* X C1(G, bf) A C1(F, a') x Z) = C1(G, b') о C1(F, a!).
Тем самым доказательство завершено. О
7.5.11.	Покажем, как изложенный метод применяется к нахождению аппроксимации к сумме соответствий. Пусть Фх,..., Фп — соответствия из X в У. Напомним (см. 1.2.4), что (правая частичная) сумма этих соответствий допускает представление Ф1 4-... 4- Фп — А(Н) где отображения an : (X х У)п Хп х Уп и А : Хп х Уп w X х У и множество Н С Хп х Уп определены соотношениями:
458
Глава 7. Локальные выпуклые аппроксимации
A: (xi,...,a:n,yi,...,?/n)	( - У'яг.У'у» ),
\ п	' /
х г=1	г=1	'
Я:=<т«(Пф»')пЛп(х)хуп-
Положим Ф := Фх + ... + Фп и возьмем (х',?/') 6 Ф, где уг = у{ + ... + у'п и (х', Ук) (к := 1,., п). Обозначим а' := (х', у'), а'к := (xf, ук) (к := 1,..., п), </' := (х',... х', у{,... у'п) € Хп х Yn и заметим, что а' = A(d').
Ниже покажем, что условие р для параметров Л, Н, d! равносильно следующему: для любых Vk € 7y(i/fc) (к := 1,... ,п) найдутся U G т%(х') и V € ту (у1), такие, что
clT1 (X х Ух А Ф1 4-... + X х Vn А Фп) D U х V А Ф.
Выписанное в этом виде соотношение мы назовем условием (ps) для соответствий Ф1,...,ФП в точке (х,г/1,...,?/п).
Полезно иметь в виду, что условие (р$) вытекает из следующего: для любых Vk € ту(^) найдутся U Е тх(хг) и V € ту (г/), такие, что
dry (Vi А Фх(х) + ... + Vn А Фп(х)) Z) Ф(х) А V
для всех х Е U.
7.5.12.	Эквивалентны следующие утверждения:
(1)	для оператора Л, соответствия Н и точки d! выполнено условие (р);
(2)	(УЖ € Лг)	а Фх + ... + д(ах«)) А Фп + W D /1(<т(а')) А Ф;
(3)	(УЖХ Е a^aW.'.WWn €	Е ах(а'))ЖАФ С clr (Жх А Фх +
4-... 4-Ж А Фп);
(4)	(У Ух € (Ту(2/'))... (V Vn Е ay(^))(УUq Е ах(х'))(3 V Е aY(У))(3U Е ах(х')) и X V А Ф С clT (170 X Vi А Ф1 4-... + Uq X Vn А Фп);
(5)	для Ф1,..., Фп выполнено условие (ps) в точке (х, ^/i,.. .,уп).
<1 Доказательство основано на тех же соображениях, что и в 7.5.7. О
7.5.13.	Теорема. Пусть соответствия Ф1,...,Фп из X bY удовлетворяют (рз) в точке (х,у1,...,уп). Допустим, что заданные конусы ...,Кп в X х У таковы, что либо Ki — ^(Ф^; (х,^)) для всех I, либо К\ = СЦФу, (x,?/i)) и Ki — Q1^; (х, yi)) при 2. Предположим, что соответствие Фг является Ki-регулярным в точке (х, yi) для всех I, а конусы an (ПГ=1 Ki) Дп(Х) х Уп находятся в общем положении. Тогда
С1(ФХ + ... + Фп, (х, у)) D С1(ФХ, (х, У1)) + ... + С1(Фп, (х, г/п)).
7.6. Субдифференциалы негладких операторов
459
<1 Доказательство следует той же схеме. Установленные выше утверждения 7.5.2, 7.5.7 и 7.5.9 обеспечивают справедливость следующих выкладок:
С1(Ф1 + ... + Фп,(х,3/)) =
= С1(л(ап( ДфЛ ПДП(Х) xYn\(x,y)j э
Эс1гл(с1(ап( ПС1(ФДх,уО)} ПДп(Х) хУп\(х,у)} D
\	\ X i=l	/	/	/
D л(с1т (ап ( fj Ki)\ П ДП(Х) х Y”\, (х, у)\ D
эл(а„( ПСЦФЯх,^))) ПДп(Х) х У",(х,у)) = х х j—J	/	/
= С1(Ф1, (x,j/i) + ... + С1(фп,(х,уп)).
Тем самым доказательство завершено. О
7.6.	Субдифференциалы негладких операторов
В этом параграфе мы рассмотрим метод субдифференцирования отображений со значениями в ff-пространстве и коротко остановимся на необходимых условиях в негладких многоцелевых экстремальных задачах. Для разнообразия здесь используется стандартный подход.
7.6.1.	Пусть Е ~ топологическое К-пространство, а X — топологическое векторное пространство. Нормальным конусом со значениями в Е или Е-нормаль-ным конусом к множеству СсХ в точке х € с1(С) называют множество
ГМСж) := {Т е &(Х,Е) : Th О, he С1(С,ж)}.
Если х с1(С), то полагают N£?((?, х) := ^(Х, Е) U {оо}, где оо — оператор из X в Ее, равный тождественно +оо. Как видно, нормальный конус N#(C,:r) является выпуклым и замкнутым относительно топологии поточечной сходимости в &(E,F).
Заметим, что если С — выпуклое множество и х е С, то Т е Ne((7, х) в том и только в том случае, когда Th < 0 для всех h е Fd(C,x), так как в этом случае С1(С,а?) = cl(Fd(C, я)), см. 7.2.13.
Понятие Е-значного нормального конуса позволяет нам вполне единообразно рассматривать субдифференциалы нелинейных операторов со значениями в К-пространстве Е.
7.6.2.	Рассмотрим отображение f : X -> Е, точку х е X и предположим, что f(x) е Е. Введем следующее обозначение N#(/,x) N#(epi(7), (ж, f(x)))}. Субдифференциалом f в точке х называют множество
df(x) := {Т е ^(Х.Е) : (T,ZE) е NE(M)}.
460	Глава 7. Локальные выпуклые аппроксимации
Оператор /Цж) : X —> Е, определяемый равенством
/т(х) : h ~ inf {А: е Е : (h,k) € С1(/,х)},
называют обобщенной производной по направлениям или производной Рокафел-лара по направлениям. Как видно, df(x) — 9(/Цяг)).
Для выпуклого оператора f данное определение принимает вид:
Of(x) := {Т € Е) : Ту - Тх f(y) - f(x), у еХ},
= f(x)h .= inf	/(У-)..
В частности, опорное множество дР сублинейного оператора Р совпадает с его субдифференциалом в нуле. Следует также заметить, что для выпуклого оператора f объекты df(x) и /'(х) не зависят от топологий пространств X и Е.
Опишем общий метод вычисления нормальных конусов и субдифференциалов, основанный на концепции общего положения.
7.6.3.	Пусть С, Ci,..., Сп — произвольные множества, а К, К±,	, Кп — вы-
пуклые конусы в топологическом векторном пространстве X. Рассмотрим точку х € X и предположим, что выполнены следующие условия:
(1)	С = Ci А ... А Сп, К D Кг П ... П Кп;
(2)	К С С1(С,х)-, cl(JQ) D C1(Q, х) (/ := 1,..., п);
(3)	конусы Ki,...,Кп находятся в топологическом общем положении.
Тогда имеют место следующие формулы:
С1(С, х) D Cl(Ci,x) А ... А С1(Сп,ж),
Nf(C,х) С Ne(Ci,x) + ... + NE(Cn,x),
причем, правая часть последнего включения замкнута в топологии поточечной сходимости в &(Х, Е).
<]	Первая формула вытекает из 7.5.9 с учетом замкнутости конуса Кларка. Вторая формула выводится из первой с привлечением 3.2.4. >
7.6.4.	Конусы Кц фигурирующие в 7.6.3, называют регуляризирующими, в то время как условие с1(К) D С1(С, х) принято называть К-регулярностью множества С в точке х. Заметим, что конус допустимых направлений выпуклого множества С служит одним из его регуляризирующих конусов (см. 7.2.12). Бо-лее того, если х содержится в пересечении выпуклых множеств Ci,..., Сп, то
Fd(Ci А ... A Cn,x) = Fd(Ci,;r) А ... A Fd(Cn,x).
Поэтому включение в 7.6.3 фактически является равенством при том условии, что конусы Fd(Ci, ж), •. •, Fd(Cn, х) находятся в общем положении.
7.6.5.	Пусть множество С С X, точка х е С и оператор Т е &(Х, У) удовлетворяют условию (р). Предположим, что Т — открытый оператор. Тогда
С1(Т(С),Тх) D с1Т(С1(С,д:)),
Ne(T(C),Tx) С {S е -2?(Х,У) : SoT е NE(C,z)}.
7.6. Субдифференциалы негладких операторов
461
<1 Первая формула была уже установлена в 7.5.3, а вторая непосредственно следует из первой в силу 3.2.6. 1>
7.6.6.	Указанные выше предложения составляют основу предлагаемого метода.
(1)	Предположим, что отображение
ф : {J 2х* ->• 2У
7=1
представимо в виде конечной комбинации операции пересечения и линейного непрерывного образа, причем выполнены соотношения {у} = ^>({хх},... ,{хп}) (xj е Xj). Тогда, применяя предложения 7.6.3 и 7.6.5, по индукции мы получим
Cl(^(Ci,..., Сп), у) D ^(С1(С1, хх),..., С1(СП, хп)),
NeWCi, ... ,Сп),у) С ^*(Ne(Cx,xx),... ,NE(Cn,xn)),
где правая часть последнего включения замкнута в топологии поточечной сходимости в &(Y,E). Отображение однозначно определяется отображением ф и может быть легко восстановлено при использовании 7.6.3 и 7.6.5. Индукционные шаги, на которых применяется предложение 7.6.3, требуют выполнения некоторых условий регулярности рассматриваемых множеств и общего положения соответствующих регуляризирующих конусов, а шаги индукции, обеспеченные предложением 7.6.5, предполагают определенные взаимосвязи этих множеств.
(2)	Регуляризирующие конусы, введенные в 7.2.15, часто применяются в описанном в (1) методе. Пусть Ф обозначает R или Q. Если z cl(G), то полагаем Ф7(С, г) = 0. Как мы видели в 7.2.17, Ф^(С, z) — выпуклый конус и Ф-7(С, z) С C1(G, z). Вместо Ф-7 (G, ^-регулярности мы будем говорить о W-регулярности множества G в точке z. Полагая Ф(/,х) := Ф(ер1(/), (х,/(х)), мы будем называть отображение f : X —> Е Ф-регулярным в точке х, если его надграфик epi(/) Ф-регулярен в точке (х,/(х)).
Обратимся теперь к вопросу о вычислении нормального конуса к композиции и правой частичной суммы соответствий. Рассмотрим Гх С X xY и Гз С У х Z, где Х,У, Z — топологические векторные пространства. Если Л := PxxZ — естественная проекция из X х У х Z на X х Z, то мы имеем представление
Г2 о Гх == Л((ГХ х Z) Cl (X х Г2)).
Возьмем Ui := (x,j/) 6 Гх, U2 := (г/,	€ Г2 и положим Uq := (х, z) G Г3 о Гх и
и := (х, г/, z) € X х У х Z. Напомним также, что ввиду наших соглашений из 2.1.7 будет
NE(rx,ux) := {(S',Г) е £\Х,Е) х &(Y,E) : Sft-Tfc^O, € С1(Гх,их)}, а используемые ниже условия (ре) и (р$) введены в 7.5.4 и 7.5.11 соответственно.
462
Глава 7. Локальные выпуклые аппроксимации
7.6.7.	Теорема. Допустим, что Г1 и Г2 удовлетворяют условию (рс) в точке и и выполняется одно из следующих допущений:
(1)	Г1 R2-регулярно в точке щ, Г2 R1-регулярно в точке и2, а конусы R2(Fi,ui) х Z и X х ВХ(Г2, u2) находятся в общем положении;
(2)	Г1 (^-регулярно в точке щ, а конусы Q2(Fi,Ui) х Z и X х С1(Г2,и2) находятся в общем положении;
(3)	Г2 (^-регулярно в точке и2, а конусы Cl(Fi,ui) х Z и X х Q1^,^) находятся в общем положении.
Тогда имеют место формулы
С1(Г2 оГьио) D С1(Г2,и2) оСЦГьщ), N#(F2 о Гь и0) С Мя(Г2, U2) о N#(Fi, их);
причем, множество в правой части замкнуто в топологии поточечной сходимости в#(Х х Z,E).
Если же Г1 и Г2 — выпуклые соответствия, то они автоматически R-pery-лярны в точках щ и и2 соответственно, и указанные включения являются равенствами, если выполнено предположение об общем положении из (1).
<] Проектор Р := Рг%хи является непрерывным и открытым оператором, а условие рс обеспечивает справедливость условия р для М, Р ни. Таким образом, в силу 7.6.5 будет
С1(Г2 о Г1,и0) = Cl(A(M),u0) D Л(С1(М,и)).
Каждое из допущений (1)~(3) позволяет применить предложение 7.6.3. Отсюда, принимая во внимание 7.5.8, а также очевидные соотношения
С1(17 х У, (u, u)) = Cl((7,u) х Cl(V,v), R\U x V,(u,u)) = R(U,u) x Cl(V,v), Q1^ x V,(u,v)) = Q(C7,u) x Cl(V,v), мы приходим к первому из требуемых включений посредством тех же выкладок, что и в 7.5.10. Используя вновь предложения 7.6.3 и 7.6.5, заключаем, что если (А, В) € Njp?(r2 о Г1, и0), то
(А, В) о Л = (Аг, В1? 0) + (0, -В2, С)
для некоторых (Ai,Bi) € Ns(Fi,Ui) и (Вг,Сг) G Ne(F2,u2). Отсюда А = Ai, В = С2 и Bi = В2 и, стало быть, (А, В) € N#^,^) о N^(Fi,ui).
Далее, легко видеть, что для выпуклого множества V справедливо включение cl(R(V, u)) D Fd (V, и) в любой точке v € V, откуда следует его R-регулярность. Остается заметить, что R*(V, u) D R(V, и), и сослаться на 7.2.10, 7.6.4 и 7.6.5. >
7.6.8.	Теорема. Пусть соответствия Г1,..., Гп удовлетворяют условию (рз) в точке (х, ?/1,... ,yn) е X х Yn, Г := Г14-.. .+ГП. Допустим, что конусы Ki,... ,КП в X х Y таковы, что либо Ki = 7?1 (Г^; (rr,г/^)) для всех i := 1,...,п, либо
7.6. Субдифференциалы негладких операторов
463
/fi = С1(Гг; (ж,?/1)) и Ki = Q1^; (х, у^)) при i 2. Предположим, что Гг ^-регулярно в точке (х, для всех i, а конусы сгп (ПГ=1 и ^n(X) х Yn находятся в общем положении. Тогда
С1(Г; (х, у)) D 01(14; (х, У1) + ... + С1(ГП; (х, уп)), МЕ(Г;(я,г/)) С NF(ri; (т,^) f ... +NF(rn; (x,yn)), причем множество, стоящее в правой части последнего включения, замкнуто в топологии поточечной сходимости.
Если же Г1,..., Гп — выпуклые соответствия, то они автоматически R-pery-лярны в точках (x,yi),..., (х, уп) соответственно, и указанные включения являются равенствами, если выполнено предположение об общем положении конусов Ki =	(i :=
< Первая формула установлена в 7.5.12, а вторая вытекает из первой и теоремы 3.2.7. >
Из теорем 7.6.7 и 7.6.8 можно вывести различные следствия относительно вычисления субдифференциалов составных функций и нормальных конусов составных множеств. При этом, варьируя регуляризирующие конусы Kj, можно показать различные условия регулярности и различные области справедливости формул субдифференцирования. Ограничимся лишь несколькими примерами.
7.6.9.	(1) Пусть Ci,..., Сп — множества в топологическом векторном пространстве X, и возьмем точку х G X. Предположим, что либо Cj является R-регулярным в точке х при j := 1,... ,п, а конусы R(Ci,х),..., R(Cn, х) находятся в общем положении, либо Cj является (^-регулярным в точке х при j := 2,..., п, а конусы Cl(Ci, х), Q((?2, х),..., Q(Cn, х) находятся в общем положении.
Тогда справедливы формулы из 7.6.3.
<1 В предложении 7.6.3 нужно положить Ki := R(C/, х) (/ := 1,..., п) в случае (1) и Ki := С1(С/,х) (/ := 1,... ,п) в случае (2). >
(2) Пусть при I := 1,... ,п отображение fr.X—>E конечно и Ki-регулярно в точке х, где либо Ki = R1(fi,x) (I := 1,... , п), либо Ki = Cl(/i,x) nKi = Q1^,#) при I 2. Если при этом конусы Ki,..., Кп находятся в общем положении, то имеют место формулы:
(Z1V ...V fnY(x)h^ sup {(«i О fl(x)h+... + ano	(Л € X),
(л1,...,ап)€Г(®)
d(fi V ... V fn)(x) C (J {0(aio/1T(a;)) + ... + a(ano/^(a:))}, (ai,...,otn)er(x)
где
X	n	n	x
Г(х) = J	e ^+(E)n :	=/E,	= sup /»(x) >.
I	i==l	i=l	i:—J
<1 Это утверждение можно вывести из (1), если положить Ci := epi(//) и учесть представление epi(/i V ... V /п) = epi(/i) П ... П epi(/n). >
464
Глава 7. Локальные выпуклые аппроксимации
(3) Пусть отображения	: X —> Е* таковы, что соответствия
ePi(/i)> • • • , epi(/n) удовлетворяют условиям теоремы 7.6.8 при x:=xq, уг Л(^о) (г := 1,..., п). Тогда для f := fi 4-... + fn имеют место представления:
/Т(®о) С /1 (®о) + • • • + Д(хо), df(x0) С dfi(®о) + .. • + dfn(xo).
<] В теореме 7.6.8 нужно положить Гг := epi(/z) (г := 1,..., п) и заметить, что epi(/) = epi(Ji) + ... + epi(/n). >
7.6.10.	Отображение f : X -+ Е* называют эпиточным в точке х по направлению he X если f°(x)h е С1/,ж(/г) U {4-оо}, где
ClM(ft) := {k G Е :	€ С1(/,х) := Cl(epi(/), (x,f(x)))}.
Пусть подпространство Eq :=	— Е+ дополняемо в Е. Если f°(x)h > —оо и
Е — порядково полная топологическая векторная решетка, в которой из о-схо-димости вытекает топологическая сходимость, то f будет эпиточной в точке х по направлению Л. Действительно, при указанных предположениях множество С1/,Ж(Л) будет нижней полурешеткой, т. е.
fci, &2 € C\ftX(h) —> fci A fc2 € Cl/,x(/i),
поэтому f°(x)h = infС1/Д/1) = o-lim О/Д/i).
Скажем, что отображения f : X —> Е* и g : Е —> F* удовлетворяют условию (pf) в точке х е dom(p о /), если для любой окрестности V точки у := f(x) существуют окрестности U е т(х) и W е т(д(у)) такие, что V П (f(x) + F+) О д'"1 (z — Е+) / 0 для всех (x,z) е (U х W)r)epi(gof). Имеются простые достаточные условия для справедливости условия (р/). Так, например, если ограничение f на dom(f) непрерывно в точке х, то f и д удовлетворяют условию (р/) в этой точке, каково бы ни было д,
7.6.11.	Теорема. Предположим, что отображения f:X—>Fng:F—>E удовлетворяют условию (pf) в точке х € dom(p о /) и g возрастает на множестве
4- V) П dom(p) для некоторых окрестностей U € т(х) и V е т(0). Пусть g является Q1 -регулярным в точке у = /(ж), а конусы С1(/,х) х Е и X х Qx(p, у) находятся в общем положении. Тогда
d(gof)(x)C и {Те^(Х,Е): (T,S)enE(f,x)}.
Sedg(y)
Более того, если f эпиточно в точке х по направлению he X, то
(9 ° f)4x)h д'(у) о f'(x)h-,
если же f эпиточно в точке х по всем направлениям, то
0(gof)(x)c и И$ор(х))}.
sedg(y)
7.6. Субдифференциалы негладких операторов
465
Правые части этих включений замкнуты в топологии поточечной сходимости в
<1 Положим Г1 := epi(/) и Г2 :== epi(g). Для окрестности у + V точки у выберем Vi € т(х) и Wi € т(д(у)) в соответствии с условием (р/); при этом можно предположить, что Ui С U. Тогда д возрастает на f(Ui) + V и несложно проверить равенство (C7i х И^) П epi(<p) = (Ui х Wi) П Г2 о 1\, где := д о /. Тем самым С1(<р,х) = С1(Г2 о Г\, (х, <р(х))). Условие (р/) влечет справедливость условия (рс) для Г1 и Г2 в точке (х, /(ж), <р(х)), причем выполнено условие (3) из теоремы 7.6.10. Таким образом, в силу теоремы 7.6.10 будет
С1(¥>,х) э С1(Г2,(у.э(у))) о С1(ГХ, (х,/(х))) = С1(у,у) о С1(/,х).
Если д<р(х) 0, то первая формула очевидна.
Предположим, что Т G дф(х). Тогда (T,Ie) € Ne(<P,^) и по теореме 7.6.9 существует S е &(F,E) такой, что (Т, 5) € N^(/,x) и (S, Ie) € N^(p,i/). Последнее вхождение означает, что S 6 дд(у), откуда вытекает первая из требуемых формул.
Поскольку д возрастает в окрестности точки у, то нетрудно убедиться, что неравенство ki к2 влечет C\g,y(ki) D С\д>у(к2), а значит, g^(y)ki < уЧу)^2-Отсюда ввиду эпиточности f по направлениям получаем вторую формулу. Наконец, последняя из требуемых формул является прямым следствием 3.2.10(2) и доказанного выше. О
7.6.12.	Рассмотренные нами выше объекты локального выпуклого анализа, а именно касательные конусы, производные по направлениям, субдифференциалы с различными их модификациями составляют основу теории необходимых условий экстремума. Детальное ее изложение выходит за рамки настоящей книги, и мы ограничимся простейшими фактами.
(1)	Рассмотрим отображение f : X —> Е* и точку xq G X. Если xq — идеальный локальный оптимум безусловной задачи f(x) —> inf, то 0 € <?/(хо).
< Пусть /(хо) f(x) для всех х из некоторой окрестности U' € т(хо). Возьмем (h,k) е С1(/, хо) и произвольную окрестность W € r(fc), а окрестность W' G т(Л) подберем так, чтобы х0 + (0,1)IV' С С7'. По определению конуса С1(/,хо) существуют число 0 < е < 1 и окрестности U 6 т(хо) и V € т(/(хо)) такие, что при любых 0 < t < е, х G U иу Q V, f(x) < у можно выбрать h! 6 W' и fc' € W, для которых £-1(/(х + th1) — /(х)) < к'. Полагая в этом утверждении х := хо и у := /(хо), найдем такие Ло € W и kw € W, что 0 С t“1(/(x0 + the) — /(хо)) С куу. Сеть (kw) состоит из положительных элементов и сходится к fc, следовательно, к 0. Тем самым /^(хо)Л	0 ив силу
произвола в выборе h G X будет 0 G 9/(хо). О
(2)	Теорема. Пусть отображения f,g : X —> Е* удовлетворяют условию R1-регулярности в точке хо, а конусы Нг(/,хо) и Rx(p,xo) находятся в общем положении. Если xq — локальный оптимум в программе д(х) 0, /(х) —> inf, то существуют такие а, 0 € Jf+(E), что
ol + 0 = 1е. ^о^(хо) = 0, 0 € Э(а о/т(я0)) + д(0 о gr(х0)).
466
Глава 7. Локальные выпуклые аппроксимации
Если, кроме того, для некоторого ho € X элемент —(р(я?о) 4- рЧто)^о) служит порядковой единицей в Е, то кег(а) = {0}.
<1 Пусть выполнены условия теоремы и xq — локальный оптимум в программе д(х) 0, f(x) —> inf. Рассмотрим штраф <р(х) := (/(я:) - /(#о)) V д(х) (х € X) и заметим, что xq будет идеальным локальным оптимумом в безусловной задаче <р(ж) —> inf. Согласно предложению (1) будет 0 € д<р(хо), и остается применить утверждение 7.6.9 (2), из которого вытекают требуемые условия. Отсюда следует, в частности, что 0 < аор (xo)h+/3og1 (xo)h для любого h € X. Если тг — проектор на ядро ортоморфизма а, то 7Г/3 = тг и тгод^яго)^ > 0. В то же время предполагая, что элемент е := — (д(хо) 4- ^Ч^о)Ло) служит порядковой единицей в Е и тг / 0, мы получим противоречие: 0 —тг/З о д^ (xo)h = тге > 0. О
(3)	Теорема. Пусть для оператора f : X Е* и набора точек xi,...,xne X существуют непрерывный сублинейный оператор р : X —> Е и окрестность нуля U С X такие, что неравенство |/(яг') — /(ж")| р(х' — х") (я/, x,f G яг$ + (7) выполняется при каждом I :== 1,..., п. Пусть С — произвольное подмножество в X, Если множество {я?1,... ,хп} С С является обобщенным локальным оптимумом программы (С, f), то для любых «1,..., an е ^+(Е) таких, что
п
с*1 + ... + ап = 1Е, 52 ° f(xi) = /(xi) А ... А /(яг„), г—1
выполняются вхождения
0 е ai о df(xi) 4* Ne(F; х^ (г := 1,..., n).
<] Рассмотрим оператор <р : Xn —> Е, определенный по формуле
<Р : (Т1,...,я;п) Qi о/(я?1) 4-... 4- an о f(xn),
где ai,...,an € &+(Е) удовлетворяют условию теоремы. Если {a?i,... ,хп} — обобщенный локальный оптимум программы (G, /), то элемент (я?ь..., хп) G Хп будет идеальным локальным оптимумом программы
^Cn, </?(£)—> inf.
Остается применить (1) и вычислить субдифференциалы с привлечением 7.6.9 (3). >
7.6.13.	В заключение приведем еще один простой пример необходимых условий оптимальности в конечношаговой терминальной динамической задаче.
Пусть Xq, ..., Хп — топологические векторные пространства, Gi — соответствие из Хг-1 в Xi (i := 1, ...,п). Как и в 5.3.6, множество соответствий Gi,...,Gn определяет динамическую систему процессов (Gij)«j^n, где Gij — соответствие из Xi в Xj, определяемое формулами
Gij := С?г+1 о • • • о Gj, если j > I 4-1,
:= Gi+i, i := 0,1,..., n — 1.
7.6. Субдифференциалы негладких операторов	467
Как видно, Gij о Gj— Gi,k для всех г < j < к < п. Траектория семейства процессов определяется так же, как и в 5.5.4.
Пусть Е — топологическое К-пространство, f — отображение из X в Е и Go С Xq. Траекторию (хо,... ,жп) называют локально оптимальной, если существует окрестность U точки хп такая, что для любой траектории (г/о? • • •> Уп) с началом уо € Go и концом yntU выполняется неравенство f(xn) f(yn)-
Рассмотрим конусы
Ki := R(Gi,(x0,x1)) х Дх», Kn := fJXi х R(Gn,(xn-i,xn)) х Е, г—2	г=0
п—1	п+1
Кп+1 := П Xi х R^/.x), Ко := R(G0,x0) х Д Xt г=0	г=1
и положим Хп+1 := Е.
7.6.14.	Теорема. Пусть f является R1 -регулярным отображением в точке х, а множество Gq является R-регулярным в точке х$ и Gi R-регулярно в точке (zi-i, Xi) для всех i 1,..., п. Пусть, далее, (хо,..., хп) — локально оптимальная траектория и конусы Kq,..., Кп находятся в общем положении. Тогда существуют операторы а* € <&(Xi, Е) (i := 0,1,..., п), удовлетворяющие условиям
&о € Ne(G0;x0), an е df(xn),
{Oi-I,ai) € NE(Gi, (Яг-1,Хг)) (* —
<1 Положим W := П£»‘ Xj. Определим множества Фо,..., Фп+2 в W равенствами
/П—1 \	п+1
Фо := ( JJXj ) х U х Е, Ф1 := Gj х JJ Xj, '	j =2
п+1	✓ П — 2 к
$2:=X0xG2x JJXj,..., $n:=l[]xJxGBxE, j=3	'j=0 '
Фп+1 := ( x epi(/), Фп+2 :=G0 x Ц Xj 'J=O '	j=l
и положим Ф Q™*o Если v := (д?о, • • •, ^n) ~ локально оптимальная траектория, то e > f(xn) Для любой пары (v, е) € Ф. Отсюда мы легко выводим, что к 0, как только (ho, hi,..., hn, к) е С1(Ф, (v, f(xn))), следовательно,
(0,.,.,0,/е) еМФ,(г>, /(х„))).
В силу 7.6.9 (1) существуют операторы 6 М^(Фг, (v, f(xn))) (i := 0,1,..., пЧ-2) такие, что я/о 4-... 4- &/п+2 = (0,..., 0, 1е)- Это равенство влечет
=	- (ao,ai,0, ...,0), ..., «^п = (0,... ,an_i,an,0),
468
Глава 7. Локальные выпуклые аппроксимации
Хц-1 = (0,..., 0, ап, /?), Х.+2 = («о, 0,..., 0)
для некоторых «о, • • •, «п, Р, удовлетворяющих условиям:
Оо 6 №е((?о;Яп), Р = 1е, (а,/3) G Nf;(/,Xn),
(0,-1,Oj) е Nb(G>,	(j :=
Отсюда вытекает требуемое вхождение. |>
7.7.	Комментарии
Литература по негладкому анализу слишком обширна, чтобы сколько-нибудь полно и подробно ее осветить. Дадим лишь несколько стандартных ссылок. Имеется несколько превосходных монографий, в которых отражены основные направления исследования и состояние предмета: [65, 204, 271, 320, 416, 456, 532, 537].
В данной главе рассмотрены в основном вопросы классификации и исчисления локальных выпуклых аппроксимаций. Изложение базируется на комбинации трех основных идей. Это метод субдифференцирования, построенный А. Г. Кус-раевым на основе концепции общего положения, унификация определения касательных за счет рассмотрения пространства с двумя топологиями и пределов Куратовского, предложенная Ш. Долецким, и анализ касательных с помощью средств инфинитезимального анализа, развитый С. С. Кутателадзе.
7.7	.1. (1) Универсальный подход к изучению таких важных понятий, как близость, аппроксимация, непрерывность и т. п., был выработан в общей топологии, оформившейся в рамках теоретико-множественной установки математики в начале XX века. Начиная с 1960-х годов, стали интенсивно развиваться инфинитезимальные методы, вновь легитимизированные нестандартным анализом А. Робинсона, см. [48, 408]. В рамках новой теории получила обоснование логическая мечта Г. В. Лейбница и возникла перспектива развития общей монадологии. Понятие монады фильтра осуществляет определенный синтез общетопологических и инфинитезимальных идей.
(2)	Простейшим примером фильтра служит, как известно, совокупность всех надмножеств некоторого непустого множества. Инфинитезимальный анализ позволяет подобным же образом изучать произвольный стандартный фильтр как стандартизацию фильтра внешних надмножеств, подходящим образом задаваемого внешнего множества — монады этого фильтра. Данное обстоятельство дает возможность изучения общетопологических понятий и конструкций с помощью идеализации, допустимой в нестандартной теории множеств.
(3)	Удобное обоснование инфинитезимальных методов дают теории внутренних и внешних множество. Минимальный объем сведений об указанных формализмах, необходимый для понимания материала этой главы, приведен в Приложении 5. Более подробно об этом можно прочитать в книгах А. Г. Кусраева и С. С. Кутателадзе [141], Р. Лутца и М. Гуза [463], К. Д. Стройана и В. Люксембурга [559].
7.7. Комментарии
469
(4)	В текущей главе представлены необходимые сведения как по адаптации, так и по применению аппарата инфинитезимального анализа для изучения локальных выпуклых аппроксимаций множеств и функций. Широкий спектр других приложений инфинитезимальных методов можно найти в монографиях С. Альбеверио, Й. Фенстада, Р. Хёэг-Крона, Т. Линдстрёма [5], Е. И. Гордона, А. Г. Кусраева и С. С. Кутателадзе [48], а также в указанной в них литературе.
7.7	.2. (1) Ренессанс теории локальных приближений связан с открытием Ф. Кларком выпуклого касательного конуса, носящего теперь его имя (см. [317, 320]). Конус Кларка порождает соответствующее понятие нормального конуса и субдифференциала (об этом подробнее сказано в 7.6). Радикальные изменения в негладком анализе, вызванные появлением конуса Кларка, отражены в десятках обзоров и монографий. Отметим часть из них: [61, 65, 204, 320, 456]. Изобретение общего определения кларковского касательного конуса в произвольном топологическом векторном пространстве оказалось нетривиальным и осуществлено Р. Т. Рокафелларом [530, 532].
(2)	Разнообразие используемых в негладком анализе касательных конусов сделало насущной задачу их классификации. Из пионерских исследований в этом направлении следует выделить статьи Ш. Долецкого [345, 347] и Д. Уарда [581— 583]. Классификация касательных конусов с помощью инфинитезималей, изложенная в текущей главе, принадлежит С. С. Кутателадзе [162].
(3)	Трудно сказать, кто первый применил идею регуляризации с помощью выпуклого касательного конуса. Регуляризирующие конусы типа R1 и Q1 были введены соответственно А. Г. Кусраевым [109, 111, 115] и Л. Тибо [567, 568]. Другой подход к регуляризации см. в [61, 65].
(4)	Из доказательства 7.2.19 видно, что можно рассматривать выпуклые расширения конусов Р-7 и S-7 — конусы P+j и S+j, получающиеся «переносом квантора Vа». Например, определяют конус P+2(F,a') соотношением
(s',f') € Р+2(Г,а') w (Vа € /1(К+))(3$ « Txsf)^t « TYt') (У а « аа',а € F)(a + a(s,t) е F).
В связи с 7.2.16 ясно, что имеет смысл использовать и регуляризации, получающиеся специализацией конуса На+ при подборе дискретных топологий. Соответствующие явные формулы опускаются. Значение регуляризирующих конусов связано с их ролью при субдифференцировании сложных отображений, которым посвящен параграф 7.6.
(5)	Для сравнения предъявим стандартное доказательство предложения 7.3.20.
Множества RJ(C, z) и QJ(C, z) (j := 1,2) являются выпуклыми конусами для любого множества С С X xY и произвольной точки z G X xY.
< Достаточно будет установить данное предложение для какого-нибудь J, например, для j = 1. Рассмотрим две пары (fti, fci) и (Лг, &г) из RX(C, z) и положим (/i, k) := (hi+/i2, fci+fo)- Для произвольной окрестности V G т(к) выберем окрестность Vi € r(kj) со свойством Vi 4- V2 С V. В силу вхождения (Л2Д2) € RX(C, z)
470
Глава 7. Локальные выпуклые аппроксимации
существуют £2 > 0 и U2 Е r(z) такие, что
(г' + ММх У2)ПС/0
для всех z' € U А С и t € (0,е). Пусть число £f > 0, множества U' G t(z) и У' € r(fci) удовлетворяют условиям
У'С У, С/' + (0,£')-{Л1}х V'clZ2.
Наконец, используя вхождение (/ц, fc2) G R^C, z), выберем Ui G r(z) и 0 < £1 так, чтобы
(z' + t-{/ii}x V')AC/0
для всех z' G (Ti А С и t G (0, ei). Положим U:= Ui А (72 A Uf и £:= min{si,s2,e'}-Если z' G U П С и t € (0,e), to z' + t(hi, vi) G С для некоторого vi G V'. Так как z' 4- Vi) G (72, то при подходящем выборе v2 G У2 справедливо также и вхождение
zz 4- vi) 4" t(h2, ^2) € C.
Учитывая вхождение z' 4- Vi) 4-	^2) € z' 4-1 • {h} x V, мы приходим к
соотношению
(z' 4- t{h} x У) А С / 0.
Но поскольку окрестность V G r(fc) была выбрана произвольным образом, мы получаем: (Л,к) G RX(C, z).
Предположим теперь, что (ЛгДг) € QX(C, z), i := 1,2, где (Л, fc), V, Vi и У2 те же, что и выше. По определению QX(C, z) существуют £2 > 0, (72 G r(z) и W2 G т(Л2) такие, что
(z' 4- t{w2} х У2) А С / 0
для всех z1 G U2 А С, t G (0, е2) и w2 G W2. Рассмотрим число е' > 0 и множества Uf G t(z), W' G r(/ii) и V G r(ki), удовлетворяющие условиям
V' С У, U' 4- (б,е') • W' X У' с и2.
Вновь используя определение QX(C, z), мы можем выбрать £1 > 0, (Ti G r(z) и Wi G r(hi) так, что
(z'4-i-{wi}xy')AC^0
для всех z' G U\ A C, t G (0,e) и wi G Wi. Далее, положим U := Ui A (72 A (7', £ := min{£i,e2,s'} и W := Wi A W‘. Предположив, что z' G U A C, t G (0,£), Wi G W\C)W', wi G W2 и w := Wi4~w2, в силу сказанного выше и = z'4-t(wi, Vi) G С для некоторого Vi G У', и поскольку и G U2, существует такой v2 G что и 4- t(w2^ v2) G С, Так как и 4- £(w2, v2) G z' 4-1 • {w} x У, то из сказанного мы выводим
(z'4-t{w) х У) AC#0.
7.7. Комментарии
471
Следовательно, 6 QX(C, z). Кроме установленного очевидны включения
AR^C,®) С R^C.x), XQ\C,x) с QJ(C,x), завершающие доказательство. [>
7.7.3.	(1) Вопросу сходимости дифференциальных характеристик (субдифференциалов, преобразований Юнга-Фенхеля и т. п.) при различных типах сходимости функций уделяется большое внимание в выпуклом и негладком анализе, поскольку он оказывается весьма существенным при изучении оптимизационных задач. Исследования в этом направлении выросли в теорию сходимости соответствий, основанную на изучении поведения надграфиков. Важную роль в теории эписходимости сыграла книга X. Этуша [264]. Подчеркнем также вклад Ш. До-лецкого [346], изучившего, в частности, взаимосвязи с теорией пространств со сходимостью.
(2)	Наше изложение в 7.3 следует статье С. С. Кутателадзе [166]. Вопросам сходимости в классе абстрактных выпуклых функций посвящена статья А. Д. Иоффе и А. М. Рубинова [403]. Отметим также работу X. Этуша и Г. Бира [265] о сходимости субдифференциалов. Аналогичные результаты для выпуклых операторов отсутствуют.
7.7.4.	(1) Аппроксимирующие конусы для надграфиков служат, в свою очередь, надграфиками некоторых функций. Последние принято называть эпипроизводными. К ним, наряду с классическими дифференциалами, относятся контингентная производная, производные Кларка и Рокафеллара, а также их модификации. Использование фиксированных наборов инфинитезималей дает принципиально новые возможности построения аппроксимирующих отображений и позволяет усовершенствовать способ построения эпипроизводных и вывода правил оценивания производной суммы.
(2)	Идея выделения конкретных наборов инфинитезималей для построения локальных аппроксимаций была предложена в работе С. С. Кутателадзе [167], откуда и взяты основные результаты параграфа 7.4 об эпипроизводных (см. также [166]). Для производной Кларка оценку производной суммы получили Р. Т. Ро-кафеллар [529], А. Г. Кусраев [123]. В изложении вопросов, связанных с теоремой Корне, мы следуем работе Ж.-Б. Ирриарт-Уррути [381].
7.7.5.	В этом параграфе дается нестандартный вариант общего метода субдифференцирования композиции и суммы, развитого А. Г. Кусраевым в [115, 123]. В изложении данного материала следуем работе С. С. Кутателадзе [166], в которой благодаря использованию техники монад достигнут ряд усовершенствований и уточнений, связанных как с использованием пар топологий, так и с формулировкой необходимых и достаточных условий почти открытости.
7.7.6.	(1) Первоначально определение кларковского субдифференциала было основано на идее предельного нормального конуса, т. е. конус был определен как замкнутая выпуклая оболочка пределов дифференциалов функции в гладких точках, стремящихся к заданной точке [317]. Позже Ф. Кларк [318] распространил введенный им субдифференциал на произвольные банаховы пространства,
472
Глава 7. Локальные выпуклые аппроксимации
следуя другой схеме с использованием функции расстояния, см. также [320]. Оба подхода дают один и тот же результат в конечномерном случае, в связи с чем возникла проблема: найти бесконечномерные банаховы пространства, которые обладают тем же самым свойством. В этом направлении важные результаты получили Дж. Борвейн и М. Стройвоз, см. [301, 302]. Предельные субдифференциалы без перехода к выпуклой оболочке использовали также Б. Ш. Мордухович [198-200] и А. Я. Кругер [104,105]. В некоторых случаях такой субдифференциал лучше, чем кларковский субдифференциал [478].
(2)	Субдифференциал кларковского типа для общих вектор-функций со значениями в упорядоченном векторном пространстве впервые ввели в рассмотрение А. Г. Кусраев [107] и Л. Тибо [565, 566], затем Н. С. Папагеоргиу [504], Ж.-П. Пено [508] и Т. В. Рейланд [520, 521]. В этих работах были введены различные понятия локальной липшицевости и субдифференциала для отображений и получены необходимые условия экстремума первого порядка для негладких векторных программ, см. также [109, 111, 194, 470]. В [521] можно также найти обсуждение и сравнение различных понятий, предложенных в этих работах.
(3)	Метод субдифференцирования, изложенный в 7.6.3-7.6.7, предложен А. Г. Кусраевым [111, 115, 123] (см. также [125, 136]). Основу метода составляют понятия общего положения и регуляризирующего конуса.
(4)	Фундаментальный вклад в теорию локальных аппроксимаций внес А. Д. Иоффе. В [392, 396, 398, 399] он развил общую теорию аппроксимативных субдифференциалов. В другом цикле статей [391, 393, 395] им разработан иной подход к субдифференцированию вектор-функций в банаховом пространстве; о других важных результатах в области негладкого анализа см. также 1.6.6 и [392, 396, 398, 399, 401].
(5)	Как уже отмечалось в начале главы 7, при изучении тех или иных классов задач могут оказаться удобными разные типы локальных выпуклых аппроксимаций. Кларковский касательный конус не является исключением: легко привести примеры, в которых строение функции или множества вблизи некоторой точки лучше отражается другим типом аппроксимации. Иногда предпочтительнее использовать производные по направлениям функции. В книгах А. Д. Иоффе и В. М. Тихомирова [79], Б. Н. Пшеничного [213] рассматривались локальные выпуклые и квазидифференцируемые функции, т. е. функции, у которых производная по направлениям существует и является выпуклой. Дальнейшее развитие этой идеи ведет к квазидифференциальному исчислению в смысле главы 6.
Отметим еще несколько локальных выпуклых аппроксимаций.
(6)	Выпуклые аппроксимации первого порядка. Рассмотрим множество Q в топологическом векторном пространстве X. Выпуклое множество F С X называют выпуклой аппроксимацией первого порядка к Q, если выполнены следующие условия:
(а)	0 G F и F / {0},
(Ь)	если {#!,..., яп} — произвольное конечное подмножество F и U — произвольная окрестность нуля в X, то существует число £о > 0 такое, что для любого 0 < е < ео можно подобрать непрерывное отображение <ре : Rn —> X, удовлетво
7.7. Комментарии
473
ряющее соотношению
¥>е(а) =	€
nil
для всех a G Rn.
На основе понятия выпуклой аппроксимации первого порядка Л. Нойштадт в [489] развил абстрактную вариационную теорию.
(7)	Шатры. Пусть Q — произвольное множество в Rn. Выпуклый конус К С Rn называют шатром множества Q в точке то, если существует гладкое отображение ср, определенное в окрестности точки xq из Rn и удовлетворяющее следующим условиям:
(а)	<р(х) =х + г(х) и Птж^10 = 0;
(b)	f(x) € П для х € U П (xq + К), где U — шар с центром в xq.
Конус К называют локальным шатром множества Q в точке хо, если для каждой точки х' Е ri/f существует конус L С К такой, что L — шатер множества Q в точке я/, х1 G riL, и L — L = К — К. Относительно применения шатров к экстремальным задачам см. обзор В. Г. Болтянского [19].
(8)	ЛМО-аппроксимации. Так называют некоторую модификацию понятия тонкой выпуклой аппроксимации, введенной первоначально Е. С. Левитиным, А. А. Милютиным и Н. П. Осмоловским [182], см. также [392].
Пусть / — вещественная функция, заданная в некоторой окрестности U точки xq нормированного пространства X. Функцию <р : U х X —» R называют ЛМО-аппроксимацией f в точке хо, если выполнены следующие условия:
(а)	<р(х,0) = /(ж), х е U\
(b)	функция h <р(х, h) выпукла и непрерывна для всех х Е V;
(с)	limx_l0 infft-.o ||ft||-1 [^(^, h.) - f(x + ft)] > 0.
ЛМО-аппроксимация (как метод выбора ЛМО-аппроксимаций) является одним из наиболее мощных и элегантных средств анализа экстремальных задач. ЛМО-аппроксимация доставляет необходимые и достаточные условия экстремума высших порядков, см. [182,183].
(9)	Отметим некоторые другие типы локальных аппроксимаций недифференцируемых функций. Н. 3. Шор в [247] ввел понятие почти-градиента для класса почти дифференцируемых функций. Множество всех почти-градиентов такой функции в некоторой точке представляет собой замкнутое множество, выпуклая
Приложение 1. Векторные решетки
Здесь эскизно представлены основные понятия теории векторных решеток. Более детализированное изложение можно найти в [1, 30, 89, 90, 132, 258, 274, 413, 466, 545, 595].
П1.1. Пусть F — линейно упорядоченное поле. Упорядоченным векторным пространством над полем F называют пару (Е, <), где Е — векторное пространство над F, а — порядок в Е, удовлетворяющую следующим условиям:
(1) если x^ynu^v, тож + и^г/4-v для любых х, у, и, v G Е;
(2) если х < у, то Хх < Ху для всех х,у е Е и 0 С Л € F.
Наделение векторного пространства Е над F векторным порядком эквивалентно указанию множества Е+ С Е, называемого положительным конусом в Е и обладающего свойствами:
Е+ + Е+ С Е+, АЕ+ С Е+ (0 Л е F), Е+ П -Е+ = {0}.
При этом порядок < и положительный конус Е+ связаны соотношением х < у <-> у — х € Е+ (ж, у € Е). Элементы Е+ именуют положительными. Если положительный конус Е+ не является острым, т. е. не выполнено условие Е+ П —Е+ = {0}, то Е называют предупорядоченным векторным пространством.
Упорядоченное векторное пространство Е называют архимедовым, если для любой пары элементов х, у G Е из отношения (Vn € N)nx у следует х < 0.
П1.2. Векторная решетка — это по определению упорядоченное векторное пространство, являющееся решеткой, если рассматривать это пространство только как упорядоченное множество. Таким образом, в каждой векторной решетке существуют точная верхняя граница sup{a:i,..., хп} := xi V...\Zxn и точная нижняя граница inf{.Ti,... ,хп} := х^ Л ... Л хп для каждого конечного множества {#1,..., хп} С Е. В частности, каждый элемент х векторной решетки имеет положительную часть х+ := х V0, отрицательную часть х~ := (—ж)+	“#Л0
и модуль |ж| := х V (—ж).
Пусть Е — векторная решетка. Для произвольных х, у, z € Е верны следующие соотношения:
(1)	х = х+ — х~, |ж| — х+ + х~ = х+ V х~;
(2)	х у *-> х+	у+ & у~	х~-,
(3)	х V у = |(х + У + |х - у|), х Л У =	+ у - |х - ?/|);
(4)	|х| V |j/| = |(|х + у| + |х - з/|), |х| Л |у| = |(|х + у\ - |х - у|);
(5)	х + у = ж V у + х /\у, \х — у\ = х\/ у — х f\y.
Приложение 1. Векторные решетки
475
Предположим, что (ха) и (уа) — семейства в Е, для которых sup(xa) и inf(уа) существуют. Тогда для любого z G Е выполнены бесконечные дистрибутивные законы:
(6)	z Л supQ(zQ) = supQ(z Л ха);
(7)	Z V infа(уа) = infa(2 V уа).
Для тех же (ха), (уа) и z имеют место следующие полезные равенства:
(8)	z 4- supQ(xQ) = supQ(z 4- xQ);
(9)	z 4- infa(ya) = infQ(z 4- j/a);
(10)	supQ(xQ) = -infa(-zQ).
П1.3. Порядковым интервалом в E называют множество вида [a, b] := {х^Е : а С х Ь], где а, b е Е. Рассмотрим два часто используемых свойства векторной решетки.
(1)	В любой векторной решетке выполнено декомпозиционное свойство Рисса:
[О, х 4- у] = [0, ж] 4- [0, у] (ж, у е Е+).
(2)	В любой векторной решетке выполнено интерполяционное свойство Рисса, т. е. для любых xi, Х2, У1,У2 € Е, удовлетворяющих неравенствам Xk С yi (к,1 :— 1,2), существует z € Е такой, что Хк z yi (к,1 := 1,2).
Можно показать, что в произвольном упорядоченном векторном пространстве декомпозиционное свойство Рисса равносильно интерполяционному свойству Рисса. Приведем несколько полезных следствий из (1). Следующее утверждение часто называют леммой о двойном разбиении.
(3)	Пусть х, у, z € Е+ и х = у 4- z. Если х — х^ 4- ... 4- хп для некоторых Х1,..., хп € Е+, то существуют такие yk,Zk € Е+ (к :— 1,..., п), что
Хк^Ук + Zk (к := 1,...,п), у = у! 4-... + уп, z = Zi 4-... 4- zn.
Следующие два факта вытекают из леммы о двойном разбиении.
(4)	Если xi,... ,хп,у € то (xi 4-... 4- хп) Л у х^ Л у 4-... 4-хп Л у.
(5)	Пусть Хк,1 G Е+ при к := 1,..., п и I:— 1,..., т. Тогда
п тп
Л 52Хк'1 52	л xnj(n)»
к=1z=i jeJ
где J — множество всех функций j : {1,..., п} —> {1,..., тп}.
П1.4. Элементы х,у G Е называют дизъюнктными и пишут х ± у или х&у, если |ж| Л \у\ = 0.
Следующие свойства отношения дизъюнктности легко следуют из П1.2:
(1)	X 1 у	|ж 4- у\ = |х - у\ <-> |х| V \у\ = |ж|	4- \у\->
(2)	±	(ж — х Л у) ± (у — х Л г/);
(3)	х 1 у	->	|х 4- г/| = |я| 4- |г/|, (х 4- у)+ = х+	4- г/+,	(х 4- у)" = х~	+ у~.
476
Приложение 1. Векторные решетки
Для непустого М С Е множество
Мх := Md := {х е Е : (Vy е М)х ± у}
именуют дизъюнктным дополнением М. При этом Мхх := Мм := (М±)±. Отметим некоторые простые свойства дизъюнктного дополнения:
(4)	М С N Я-1- с
(5)	М С Мх±;
(6)	М1 = м-1-1-1-,
(7)	(и«ма)х =
П1.5. Важнейшие структурные свойства каждой векторной решетки связаны с ее базой — полной булевой алгеброй полос или компонент. Непустое множество К С Е, удовлетворяющее равенству К = называют полосой или компонентой векторной решетки Е. Полосу, имеющую вид {ж}1-1-, для некоторого х Е Е называют главной.
(1)	Упорядоченное по включению множество всех полос векторной решетки Е (обозначаемое символом 93(E)) представляет собой полную булеву алгебру. Булевы операции в 93(E) имеют вид:
ЬлК = ЬпК, IVK = (LU К)11, L* = lA (L, К G 93(E)).
Булеву алгебру 93(E) именуют базой Е. Пусть К — полоса векторной решетки Е. Если существует элемент sup{n Е К : 0 и х} в Е, то его называют проекцией элемента х на полосу К и обозначают символом [Е]х (или тгкт). Для произвольного х € Е положим [Е]т := [Е]т+ — [К]х~. Проекция элемента х Е Е на полосу К существует тогда и только тогда, когда х представим как х = у + z, где у Е К, a z Е KL. Более того, в этом случае будет у = [Е]ж и z = [К1]#. Предположим, что у каждого элемента х G Е имеется проекция на полосу К. Тогда оператор х [Е]т (х G Е) линеен, идемпотентен и 0 < [Е)ж < х для всех 0 < х Е Е. Этот оператор называют проектором на полосу или порядковым проектором. Проектор на главную полосу называют главным.
(2)	Множество Ф(Е) всех порядковых проекторов, упорядоченное правилом тг < р w тг о р = тг, является булевой алгеброй. Булевы операции в ф(Е) имеют вид
7ГЛр = 7ГОр, 7Г V р = ТГ + р — ТГ О р, 7Г* = 7# — ТГ (тГ, р Е ф(Е)).
(3)	Главный проектор тги := [п] := [их±], где 0 u € Е, можно вычислить по следующему правилу:
тгих — sup{ir Л (nu) : п Е N}.
Векторную решетку Е называют решеткой с проекциями (решеткой с главными проекциями), если каждая полоса (каждая главная полоса) в 93(E) допускает порядковый проектор. Каждое Е-пространство является решеткой с проекциями, а каждое /^-пространство — решеткой с главными проекциями (см. определения в П1.9).
Приложение 1. Векторные решетки
477
Пусть и G Е+ и е Л (и ~ ё) = 0 для некоторого 0 < е € Е. Тогда е называют осколком или фрагментом элемента и. Говорят также, что е — единичный элемент относительно и.
(4)	Множество (В(и) всех осколков элемента и с порядком, индуцированным из Е, является булевой алгеброй. Решеточные операции в £(w) индуцированы из Е, а булево дополнение имеет вид е* := u — е (е G €(и)).
П1.6. (1) Линейное подпространство J векторной решетки Е называют порядковым идеалом или о-идеалом (или, наконец, просто идеалом, когда понятно из контекста, о чем идет речь), если для произвольных xGEnyGJ из неравенства |х| < Ы следует х € J.
Каждый порядковый идеал векторной решетки сам является векторной решеткой. Если идеал J удовлетворяет условию = Е (или, что то же самое, = {0}), то J именуют порядково плотным идеалом или фундаментом Е.
Идеал J С Е называют максимальным, если в Е не существует идеала, отличного от Е и содержащего J. Пересечение непустого множества порядковых идеалов будет порядковым идеалом. Поэтому существует наименьший порядковый идеал 1(М), содержащий непустое множество М С Е, которое называют порядковым идеалом, порожденным М.
(2)	Векторной подрешеткой (или просто подрешеткой, если ясно из контекста, о чем идет речь) именуют векторное подпространство Eq С Е такое, что х А у,х V у € Eq для любых х, у G Eq. Скажем, что подрешетка Eq является минорирующей, если для каждого 0 / х € Е+ существует элемент xq G Eq, удовлетворяющий неравенствам 0 <	Назовем Eq мажорирующей или
массивной подрешеткой, если для каждого х G Е существует xq € Eq такой, что х xq. Таким образом, Eq — минорирующая или мажорирующая подрешетка в том и только в том случае, когда соответственно Е+ \ {0} = Е+ 4- Eq \ {0} или Е = Е+ 4- Eq.
(3)	Множество в векторной решетке называют порядково ограниченным (или о-ограниченным), если оно содержится в некотором порядковом интервале. Порядковый идеал, порожденный элементом 0 < и € Е, обозначают символом Е(и), т. е. Е(и) := 1({и}). Ясно, что Е(и) := U^=1[—пи, пи]. Если Е(и) = Е, то элемент и называют сильной единицей или сильной порядковой единицей, а Е — векторной решеткой ограниченных элементов.
(4)	Элемент х 0 векторной решетки называют дискретным, если [0, ж] = = [0,1]х, т. е. если из 0 у < х следует, что у = Хх для некоторого скаляра 0 А 1. Векторную решетку Е именуют дискретной или атомической, если для каждого 0 у G Е+ существует дискретный элемент х G Е такой, что 0 < х у. В случае, когда в Е нет ненулевых дискретных элементов, векторную решетку Е именуют непрерывной или диффузной.
П1.7. Отношение порядка в векторной решетке порождает разные виды сходимости сетей и последовательностей. Пусть (А, <) — направленное множество. Сеть (жа) := (жа)аел в Е называют возрастающей (убывающей), если ха < х@
478
Приложение 1. Векторные решетки
(соответственно х@ < ха) при а < /3 (а,/3 € А). Будем говорить, что сеть (та) в векторной решетке Е порядково сходится или о-сходится кх е Е, если существует убывающая сеть (е^)/зев в Е такая, что inf{е@ : /3 € В} = 0 и для каждого (3 € В существует индекс а(/3) € А, для которого |жа — х\ ер при всех а(/3) a G А. В этом случае элемент х называют порядковым пределом или о-пределом сети (ха) и пишут х = o-lim ха или ха Q х.
Если в этом определении сеть (е^) заменить последовательностью (Ane)neN, где 0 < е G Е+, а (Ап)пем — числовая последовательность с пределом limn_^оо Ап = 0, то говорят, что сеть (ха)аЕА сходится с регулятором, или, более точно, сходится с регулятором е к х € Е. Элементы е и х называют соответственно регулятором сходимости и г-пределом сети (жа). При этом используют г	(г)
обозначения х = r-limaeA ха и ха —» х.
Последовательность (#n)neN называют r-фундаментальной в том случае, если (хп — ^m)(n,7n)GNxN ~ это r-сходящаяся к нулю последовательность. Векторную решетку называют полной относительно сходимости с регулятором или r-полной, если каждая r-фундаментальная последовательность в ней г-сходится.
Наличие порядковой сходимости в векторной решетке позволяет определить также сумму бесконечного семейства	Действительно, для данных
в := {£i,... ,£п} Е <^fin(S) положим уд := х^ -I-... 4- х$п. Тем самым получаем сеть (уе)еее, где множество конечных подмножеств & := ^йп(5) упорядочено по включению. Если существует о-предел х := o-limуд, то семейство (х%) именуют порядково суммируемым или о-суммируемым. Элемент х называют при этом о-суммой семейства (я$) и пишут х =	ОчевиДно> если > 0 (£ € Е),
то для существования о-суммы семейства (х%) необходимо и достаточно наличие точной верхней границы сети (yg)ge&. В этом случае о-^2^еВх^ = sup0Ge^.
П1.8. Векторные решетки называют изоморфными, если между ними существует взаимно однозначное отображение, сохраняющее алгебраические операции и отношение порядка.
Теорема Крейнов—Какутани. Векторная решетка ограниченных элементов, полная относительно сходимости с регулятором, порядково изоморфна решетке непрерывных функций C(Q) на некотором компакте Q.
П1.9. Векторную решетку называют (условно) порядково полной, если каждое непустое порядково ограниченное множество в нем имеет точные границы. Порядково полную векторную решетку принято называть пространством Канторовича или, короче, К-пространством. Если в векторной решетке точные границы существуют у произвольных счетных порядково ограниченных множеств, то ее называют а-полной векторной решеткой или чаще Ка-пространством.
(1)	Теорема. Пусть Е — произвольное К-пространство. Тогда Е — решетка с проекциями и отображение К »—► [К] (К € ®(Е')) определяет изоморфизм булевых алгебр ®(Е) и Если существует порядковая единица 1 в Е, то отображения тг н-> тг1 изф(Е') в £(Е) ие^ {e}1-1- из £(Е) в *В(Е) также являются изоморфизмами булевых алгебр.
Приложение 1. Векторные решетки
479
Приведем полезные признаки порядковой сходимости в /С-пространстве. Рассмотрим порядково ограниченную сеть (еа)аеА в /f-пространстве Е, и пусть е € Е.
(2)	Порядково ограниченная сеть (еа)аел о-сходится к е в том и только в том случае, когда в булевой алгебре ф(£) для любого положительного d € Е выполнено соотношение о-Пта€АИ[(|еа — е| - d)+] = 0.
(3)	Предположим, что Е — это К-пространство с порядковой единицей 1. Если (eQ)aeA “ ограниченная сеть в Е и е е Е, то o-lim а€деа = е в том и только в том случае, когда в булевой алгебре ф(Е) для каждого n G N выполнено соотношение o-lim аед [(|еа — е| — 1/п)+] = 0.
П1.10. К архимедовой векторной решетке можно применить процедуру пополнения по Дедекинду.
(1) Теорема. Для любой архимедовой векторной решетки Е существуют единственное с точностью до порядкового изоморфизма К-пространство Е и порядковый изоморфизм ь : Е Е, сохраняющий точные границы любых непустых множеств, такие, что любой элемент х G Е допускает представление х = supa l(uq) их — inf/? ь(ур) для подходящих семейств (иа) С Е и (у$) С Е.
Пространство Е называют порядковым пополнением Е. Приняты также названия дедекиндово пополнение и К-пополнение.
(2) Порядковое пополнение Е допускает представление Е = rd(E), где
r(U) := < у = Ьг-lim yn : (уп)пен С U к п—»оо	J
d(U) := < у = Ьо-^2	 (y«)«es С U к
(В последней формуле (тг^) — произвольное разбиение единицы в ф(£?)).
П1.11. Пусть Е — произвольное /^-пространство с порядковой единицей 1. Проекцию порядковой единицы на полосу {#}±_к называют следом х и обозначают символом ех. Из П1.5(3) видно, что ех := sup{l Л (п|т|) : n G N}. След ех является порядковой единицей в полосе {я}-11, а также единичным элементом в Е. Для данного вещественного числа А символом е® обозначают след положительной части элемента А1 — х, т. е. полагают е® := е(д1_ж)+. Так возникающую функцию А вд (А € К) называют спектральной функцией или характеристикой элемента х.
Сформулируем один из наиболее фундаментальных фактов теории векторных решеток — теорему о разложении любого элемента /^-пространства в интеграл типа Стилтьеса по булевозначной мере.
Спектральная теорема Фрейденталя. Пусть Е — произвольное Ка-про-странство с порядковой единицей 1. Каждый элемент х 6 Е допускает интегральное представление
/оо
Аскд,
—оо
480
Приложение 1. Векторные решетки
где интеграл понимают как предел с регулятором 1 интегральных сумм х((3) := := E}nezTn(e®n+1 — tn < тп < tn+i. соответствующих разбиениям действительной прямой
0 •= (*n)n€Z, tn < *n+i, lim tn = +oo, lim tn = -oo, n—>oo	n—►—oo
при 5(0) := supn6Z(fn+i - tn) -> 0.
В частности, спектральная теорема Фрейденталя утверждает, что если Е — это К а-пространство и е G Е+, то каждый элемент х € Е(е) может быть аппроксимирован с регулятором е (т. е. е-равномерно) линейными комбинациями осколков е, т. е. элементами вида	где Ai,..., Ап € R и ei,..., еп € €(е).
П1.12. Упорядоченной алгеброй над полем F называют упорядоченное векторное пространство Е над F, которое одновременно является алгеброй над этим полем и удовлетворяет следующему условию: если х 0 и у 0, то ху О для всех ж, у € Е. Положительный конус Е+ упорядоченной алгебры Е обладает свойствами, указанными в П1.1, но сверх того выполнено Е+ • Е+ С Е+. Будем говорить, что Е — решеточно упорядоченная алгебра, если Е — векторная решетка и упорядоченная алгебра одновременно. Решеточно упорядоченную алгебру именуют f-алгеброй. если для любых а. х. у € Е+ из условия х ± у следует, что (ах) ± у и (ха) ± у. Если для произвольных элементов х.у € Е равенство ху = О влечет х ± у. то /-алгебру называют точной.
Легко показать, что /-алгебра является точной в том и только в том случае, когда в ней нет ненулевых нильпотентных элементов. Точность /-алгебры эквивалентна также отсутствию строго положительных элементов, являющихся делителями нуля.
П1.13. Пространство Канторовича (/fa-пространство) называют расширенным. если в нем каждое множество (соответственно каждое счетное множество) попарно дизъюнктных элементов ограничено.
(1)	Пример расширенного A-пространства представляет пространство C(yo(Q) всех непрерывных функций х : Q —> R, определенных на экстремально несвязном компакте Q и принимающих значения ±оо лишь на разреженных (= нигде не плотных) множествах. Сложение, умножение и порядок в COO(Q) вводятся поточечно. Поясним, например, способ введения суммы. Возьмем х.у € Coo(Q) и положим Qq {|ж| < 4-оо} П {|у| < 4-оо}. По определению, каждое из множеств {|ж| < 4-оо} и {|у| < 4-оо} открыто и плотно в Q. поэтому Qq открыто и плотно в Q. Существует единственная непрерывная функция z : Q —> К такая, что z(t) = x(t) 4- y(t) для t € Qq. Эту функцию z и принимают за сумму элементов х и у. т. е. х 4- у := z. Аналогично определяют произведение ху.
(2)	Расширенное К-пространство Е порядково изоморфно К-пространству Coq(Q), где Q — стоунов компакт булевой алгебры ®(Е).
(3)	Для любого К-пространства Е имеется единственное с точностью до порядкового изоморфизма расширенное К-пространство тЕ такое, что Е изоморфно (линейно и порядково) некоторому фундаменту в тпЕ.
Приложение 2. Положительные операторы
Здесь представлен круг понятий, систематически используемый в книге. Более развернутые изложения теории положительных операторов см. в [1, 30, 89, 90, 258, 274, 132, 466, 545, 595].
П2.1. Пусть Е и F — векторные решетки. Символом L(E,F) мы будем обозначать пространство всех линейных операторов из Е в F. Линейный оператор Т : Е —> F именуют: положительным, если ЦЕ+) С F+; регулярным, если его можно представить в виде разности двух положительных операторов; порядково ограниченным или, короче, о-ограниченным, если Т отображает каждое порядково ограниченное подмножество Е в порядково ограниченное подмножество F. Говорят, что оператор S € L(E, F) является мажорантой оператора Т G ЦЕ, F), если \Тх\ < ^(И) при всех х G Е. Оператор, имеющий положительную мажоранту, называют мажорируемым или доминируемым.
(1)	Линейный оператор мажорируем в том и только в том случае, когда он регулярен.
Множество всех регулярных, порядково ограниченных и положительных операторов из Е в F обозначают соответственно символами Lr(E,F), L~(E,F) и L+(E,F) := L~(E,F)+. Классы Lr(E,F) и L~(E, F) являются векторными подпространствами векторного пространства L(E,F) всех линейных операторов из Е в F. Отношение порядка в пространствах регулярных и порядково ограниченных операторов вводят с помощью конуса положительных операторов L+(E, F), т. е. формулами Т > 0 <-> Т € L+(E, F)nS^T^S- Т > 0.
Ясно, что каждый положительный оператор порядково ограничен. Следовательно, порядково ограниченной будет и разность порядково ограниченных операторов. Таким образом, каждый регулярный оператор порядково ограничен. Обратное утверждение в общем случае неверно, но выполнено при условии порядковой полноты F. Последнее следует непосредственно из основополагающей теоремы Рисса-Канторовича.
(2)	Пусть Е — векторная решетка, F — произвольное действительное векторное пространство и пусть U — аддитивное и положительно однородное отображение из Е+ в F, т. е. отображение U : Е+ —> F удовлетворяет условиям
U(x + y) = Ux + Uy, U(Xx) = XUx (0 A G R; x, у e E+).
Тогда U имеет единственное линейное продолжение Т на всю векторную решетку Е. Если, сверх того, F — векторная решетка и U(E+) С F+, то оператор Т положителен.
П2.2. Теорема Рисса-Канторовича. Пусть Е — векторная решетка, aF — некоторое К-пространство. Множество всех порядково ограниченных операторов
16 Кусраев А. Г., Кутателадзе С. С.
482
Приложение 2. Положительные операторы
L~(E, F), упорядоченное конусом положительных операторов L~(E,F)+, является К-пространством.
Известны явные формулы для вычисления решеточных операций в Е-прост-ранстве L~(E, F). Именно, для любых х е Е+, S,T G L~(E,F) и порядково ограниченного множества 3 С L~(E,F) имеют место представления:
(1)	(S V Т)х = sup{Sxi + Тх2 : xi, Х2 0, х ~ х± + хг};
(2)	(5 Л Т)х = inf{Sxi + Тх2 : xi,Х2 0, х = х\ 4- хг};
(3)	S+x — sup{S?/: 0 у < х};
(4)	S~x = - inf {Sy : 0 < у < х};
(5)	\S\x = sup{|Sz/| : \у\	х};
(6)	|S|x = sup{^=1 \Sxk\ : xi,...,xn 0, x = У2к=1хк, n e
(7)	|Sx| |S|(|x|) (x G E);
(8)	(sup 3)x = sup{££=1 TfcXfc : Tb..., Tn G 3.
xi,...,xne E+, x =	ne
(9)	(inf 3)x = inf {^=1 Tkxk : Тг,..., Tn G 3, xi,..., xn G E+, x = Sfc=i xk, n £ N}.
П2.3. Пусть X и E — векторные решетки. Линейный оператор Т из X в Е называют решеточным гомоморфизмом, если Т сохраняет точные верхние границы непустых конечных множеств, т. е.
T(xi V ... V хп) = Txi V ... V Тхп (xi,... ,xn G X).
Легко понять, что линейный оператор Т : X —> Е будет решеточным гомоморфизмом, если выполнено одно из следующих соотношений (и в этом случае имеют место все эти соотношения):
Т(х V у) = Тх V Ту (х, у G Е),
Т(х А у) = Тх /\ Ту (х, у G Е),
х А у = 0 —> Тх А Ту = 0 (х, у G Е), Т(х+) = (Тх)+ (х G Е), Т(|х|) = |Тх| (хеЕ).
Векторные решетки называют изоморфными, если между ними имеется биекция, являющаяся решеточным гомоморфизмом. Порядковым пополнением векторной решетки Е называют пару (Е, ь), где Е — некоторое /^-пространство, а l — решеточный изоморфизм из Е на минорирующую подрешетку в Е. При этом вложение ь будет порядково непрерывным, см. П2.4. Порядковое пополнение называют также К-пополнением или дедекиндовым пополнением.
Теорема. Для любой архимедовой векторной решетки существует единственное с точностью до решеточного изоморфизма К-пополнение.
Приложение 2. Положительные операторы
483
П2.4. Оператор Т : Е —> F называют порядково непрерывным (порядково а-непрерывным), если Тха порядково сходится к Тх для любой сети (жа)аеА (любой последовательности (жа)а€1ч) в Е, порядково сходящейся к х. Множество всех порядково непрерывных регулярных операторов (всех порядково а-не-прерывных регулярных операторов) с индуцированной из L~(E, F) векторной и порядковой структурой обозначают символом L~(E,F) или Ln(E,F) (соответственно L~a(E, F) или Ln<T(E, F)).
(1)	Положительный оператор Т G L~(E, F) порядково непрерывен (порядково a-непрерывен) в том и только в том случае, когда Тха Q 0 для каждой убывающей сети (последовательности) (ха) в Е, такой что infa xa = 0.
Оператор Т € L~(E,F) называют сингулярным, если он обращается в нуль на некотором порядково плотном идеале G С Е. Множество сингулярных операторов обозначают символом L~(E,F).
(2)	Теорема. Пусть Е и F — векторные решетки, причем F порядково полна. Оператор Т е L~(E,F) порядково непрерывен тогда и только тогда, когда Т дизъюнктен всем сингулярным операторам:
L~(E,F) = L~(E,F)\
(3)	Теорема. Пусть Е и F — векторные решетки, причем F порядково полна. Пространства L~(E, F) и L~a(E, F) являются полосами в L~(E, F).
(4)	Теорема. Пусть Е — порядковое пополнение векторной решетки Е, a F — некоторое К-пространство. Тогда регулярный порядково непрерывный оператор Т : Е F имеет единственное регулярное порядково непрерывное продолжение Т : Е —> F. Отображение Т^Т осуществляет линейный и порядковый изоморфизм между пространствами L~(E, F) и L~(E, F). В частности, операторы Т и Т положительны или нет одновременно.
П2.	5. Рассмотрим векторную решетку Е и некоторую ее подрешетку D С Е. Говорят, что линейный оператор Т из D в Е сохраняет полосы или является нерасширяющим, если имеет место одно (а тогда и любое) из следующих равенств:
Те е {e}J"L (е G D), elf Те If (eeD,f€E), T(KnD)cK (Ке9(Е)), где дизъюнктные дополнения вычисляются в Е. Нерасширяющий оператор может не быть порядково ограниченным.
(1)	Пусть Е — векторная решетка с главными проекциями. Тогда линейный оператор Т из фундамента D С Е в Е будет нерасширяющим в том и только в том случае, когда для любого порядкового проектора тг € ty(E) выполнено тгТх = Ттгх (х е D).
Множество всех порядково ограниченных нерасширяющих операторов из D в некоторую векторную подрешетку D' С Е обозначают символом Orth(D, £>')•
16!
484
Приложение 2. Положительные операторы
Порядково ограниченный нерасширяющий оператор а : D —> Е, определенный на фундаменте DcE, именуют расширенным ортоморфизмом в Е. Расширенный ортоморфизм регулярен. Более того, множество всех расширенных ортоморфизмов Orth(D, Е), определенных на фиксированном порядково плотном идеале Z>, является векторной решеткой. При этом формула для вычисления решеточных операций в Orth(Z), Е) имеет вид (S\/T)x = SxVTx, (S/\T)x = SxhTx (x € E+).
(2)	Каждый расширенный ортоморфизм в векторной решетке порядково непрерывен.
Теперь можно определить пространство всех расширенных ортоморфизмов Orth00 (2?) на векторной решетке Е. Обозначим через ЯЛ множество всех пар (Р, тг), где D — фундамент в Е и тг € Orth(Z>, Е). Элементы (Р, тг) и (£>', тг') в ЯЛ мы назовем эквивалентными (в символах (£>, тг) ~ (Z>z, тг')), если ортоморфизмы тг и тг' совпадают на пересечении D A Df. Такое отношение в ЯЛ действительно будет эквивалентностью из-за (2). Фактор-множество ЯЛ/~ по модулю этой эквивалентности обозначают Orth°°(E). Множество Orth°°(E) относительно поточечного сложения, скалярного умножения и решеточных операций становится векторной решеткой. Это утверждение легко обосновать, привлекая (2), так как множества Orth(P, Е) являются векторными решетками. Элемент a е Orth°°(E), определенный на всем пространстве Е, называют ортоморфизмом. Множество всех ортоморфизмов в Е обозначают символом Orth(E).
(3)	Если Е — порядково полная векторная решетка, то Orth(E) совпадает с полосой в L~(E), порожденной тождественным оператором в Е.
(4)	Ядро расширенного ортоморфизма Т G Orth(D, Е) является полосой в D. Если два расширенных ортоморфизма из Orth(D, Е) совпадают на некотором подмножестве D, то они совпадают на полосе, порожденной этим множеством в D.
В векторной решетке Orth°°(E) можно ввести структуры решеточно упорядоченной алгебры, используя для этой цели композицию. В самом деле, если (тг, Дт) и (р, Dp) входят в ЯЛ, то идеал тг~1(Рр) будет фундаментом в Е и можно определить произведение (a, Da) := (тг,Р7Г)(р, Рр), полагая Da := 7t-1(Dp) и сгх := р(тгх). Так как решеточные операции в Orth°°(E) вычисляются поточечно на Е+, то легко понять, что Orth°°(E) будет /-алгеброй.
(5)	Всякая (архимедова) f -алгебра А коммутативна. В частности, расширенные ортоморфизмы коммутируют.
Пусть 3f(E) — это о-идеал, порожденный тождественным оператором 1е в L~(E). Пространство 3?(Е) часто называют идеальным центром векторной решетки Е. Будем считать, что Orth(E) С Orth°°(E), сопоставив каждому ортоморфизму тг € Orth(E) соответствующий ему класс эквивалентности в Orth°°(E).
(6)	Пространство Orth°°(E) является дизъюнктно полной точной f-алгеброй с единицей 1е- Более того, Orth(E) — это f-подалгебра Orth°°(E), a 3f(E) — это f-подалгебра Orth(E).
Приложение 2. Положительные операторы
485
(7)	Каждая архимедова f-алгебра Е с единицей 1 алгебраически и решеточно изоморфна f-алгебре ортоморфизмов в Е. Более того, идеал в Е, порожденный 1, отображается при этом изоморфизме на ЗЦЕ).
(8)	Если Е — порядково полная векторная решетка, то 0rthoo(E') — расширенное К-пространство, a Orth(E') и &(Е) — фундаменты в нем.
(9)	Пусть Е и F — фундаменты в расширенном К-пространстве G с фиксированной порядковой и кольцевой единицей. Тогда для каждого ортоморфизма тг G Orth(E\ F) существует единственный элемент g € G такой, что tvx = g • х (х е Е).
(10)	Для каждого ортоморфизма а и произвольного числа е > 0 найдутся конечнозначные элементы (= «ступенчатые» ортоморфизмы) тг€ и р£ такие, что О a - 7ге с1е, 0 ре - a < zIe-
Оператор тг € ЦЕ) называют конечнозначным элементом, если найдутся проекторы 7Г1,..., 7ГП и числа t\,..., tn такие, что 7г = tyRi + ... + tn7rn.
Приложение 3. Векторные меры
Рассмотрим коротко несколько фактов о мерах со значениями в векторных решетках. Подробности можно найти в [30, 145, 132].
П3.1. Пусть «с/ — произвольная булева алгебра. Отображение д, определенное на «й/ и действующее в произвольное векторное пространство Z, называют {конечно аддитивной векторной) мерой, если /z(aiVa2) = м(а1)+м(а2) для любой пары дизъюнктных элементов а^,а2 € «й/. Пусть Z = Е — векторная решетка. Меру р : ей/ —> Е называют ограниченной, если р{я/) — порядково ограниченное множество в Е. Если же р{а) 0 для всех a G ей/, то р именуют положительной мерой. Обозначим символом Ьа(«й/, Е) (Ьа+(«й/,Е)) пространство всех ограниченных (положительных) векторных мер. Алгебраические операции Ьа(.й/, Е) индуцированы из Е(«й/), т. е. если p,v € са(21,«й/, Е) и t е R, то полагают по определению
{p + v){A):=p{A) + v{A) (АезУ); {tp){A):=tp{A) (А€«й/);
р у р — р > 0.
Пространство Ъа(«й/, Е) с положительным конусом Ьа+(ей/, Е) будет упорядоченным векторным пространством. Меру р называют счетно аддитивной, если для любой последовательности (ап) попарно дизъюнктных элементов ап € «й/ выполнено соотношение
(ОО	\	оо	п
Vап)= Z2
п=1 '	n=l	fc=l
Множество всех Е-значных счетно аддитивных мер на алгебре «й/ мы обозначим символом Ьса(«й/,Е).
Если Е — произвольное К-пространство, то Ъа{я/,Е) также будет К-про-странством; множество Ьса(.й/, Е) является полосой К-пространства Ьа(зг/, Е).
В частности, для каждой векторной меры р : «й/ —> Е существуют положительная часть р+ := р V 0, отрицательная часть р~ := (—д)+ = —р Л 0 и модуль \р\ := р\/ {—р). Нетрудно проверить, что для любых ^,^1,^2 € Ьа(«й/, Е) и a 6 «й/ имеют место следующие формулы:
(i/i V ^2)(а) = sup{i/i(ai) + ^2(^2) : «1 V «2 = а, «1 Л = 0};
(^1 Л мз)(а) = inf{i/i(ai) + ^2(^2) • «1 V а2 = а, Л а2 = 0};
у+{а) = sup{i/(a') : af а};
у~{а) — — inf{i/(a') : а' а};
|i/|(а) = sup{|i/(a')| : а' а}.
Приложение 3. Векторные меры
487
П3.2. Предположим теперь, что 21 — (компактное) топологическое пространство и «с/ — борелевская а-алгебра. Сформулируем векторнозначный вариант теоремы Рисса-Маркова, полученный М. Райтом.
Счетно аддитивную меру р, : я/ Е называют регулярной (или квазирегулярной), если для любого С Е si (соответственно для каждого открытого С € &/) выполнено р(С) = o-lim {р(К) : К G о#с},«где ~ множество всех замкнутых подмножеств множества С*. Это определение равносильно данному в 2.1.12. Как и в 2.1.12 гса(2(, Е) и qca(2l,E) — соответственно множества регулярных и квазирегулярных Е-значных борелевских мер.
Пусть для каждого п € N дано направленное множество А(п). Возьмем последовательность убывающих сетей (еа,п)аеА(п) С [0, е] в К-пространстве Е таких, что inf{ea,n : a G А(п)} = 0 для всех п € N. Если для каждой такой последовательности выполнено
inf supe^n =0, А := ГТ А(п),
^a„€n
то говорят, что А^-пространство Е является (<т, <х>)-дистрибутивным. В .^-пространствах счетного типа условие (ст, оо)-дистрибутивности равносильно регулярности базы. Последнее означает, что в булевой алгебре &(Е) выполнен принцип диагонали: если двойная последовательность (6n,m)n,meN элементов &(Е) такова, что для каждого п Е N последовательность (хп^т)т^ убывает и о-сходит-ся к нулю, то существует некоторая строго возрастающая последовательность (m(n))n€N, для которой o-limn_^oo хп,т(п) = 0-
(1) Теорема Райта. Пусть 21 — компактное топологическое пространство, а Е — произвольное К-пространство. Отображение ц »-> осуществляет линейный и решеточный изоморфизм между К-пространствами qca(2l, Е) и Lr (С(21), Е).
(2) Теорема. Пусть пространство Канторовича Е является (сг, ^-дистрибутивным. Тогда
qca(2l, Е) — rca(2l, Е).
При этом отображение у н-> осуществляет линейный и решеточный изоморфизм К-пространств rca(2l, Е) и Lr(C(%i),E).
ПЗ.З. Опишем некоторые необходимые нам пространства непрерывных век-тор-функций.
Положим Е(е) := |J{[—ne,ne] : n € N} для e € E+. Как видно, E(e) — это К-простран ст во с сильной единицей е. В Е(е) можно ввести норму
||w||e := inf{A > 0 : |u| Ае} (и € Е(е)).
Хорошо известно, что (Е(е), || • ||е) — банахова решетка.
Пусть С(21, Е(е)) — пространство всех непрерывных по норме || • ||е отображений из 21 в Е(е). Положим, далее,
Cr(2l, Е) := U{C(2t,E(e)) : е € Е+)}
и назовем элементы этого множества г-непрерывными функциями.
488
Приложение 3. Векторные меры
Понятно, что Сг(21, Е) содержится в Zqq (21, Е), ибо в Е(е) ограниченность по норме совпадает с порядковой ограниченностью. Более того, Сг (21, Е) есть векторная подрешетка в Zoo (21, Е).
(1) Для любых f G Cr(2l, Е) и е > 0 существуют е G Е+ и конечные наборы € (7(21) и ei,...,еп € Е такие, что
f ~^2vk(-)ek fc=l
= sup /(a) - V ^(a)efe ее. ae%
k=l
<1 По условию, / G <7(21, jE*(e)) для некоторого e € E+. По теореме Крейнов-Какутани E(e) линейно изометрично и решеточно изоморфно C(Q) для некоторого экстремального компакта Q. Поэтому можно считать, что f 6 (7(21, C(Q)). Однако пространства (7(21, C(Q)) и (7(21 х Q) изоморфны как банаховы решетки. Остается заметить, что в силу теоремы Стоуна-Вейерштрасса в (7(21 х Q) плотно подпространство функций вида
(а, 9)	52 ^(«>*(9),
fc=l
где 9?i,...,(^n G (7(21) и ei,...,en G C(Q). О
(2) Обозначим временно через (7(21)01? множество всех операторов f : 21 —> Е вида
/(а) =	<^(а)е£ (а € 21),
е
где ((^) — равномерно ограниченное семейство непрерывных функций на 21, а (е^) — порядково ограниченное семейство попарно дизъюнктных элементов в Е. Отображение f 6 Zoo(21, Е) называют кусочно г-непрерывным, если для любого ненулевого проектора тг в Е найдутся проектор 0 / р тг и элемент е G Е+ такие, что, каково бы ни было число е > 0, существует элемент h € (7(21) 0 Е, для которого supa€2l р|/(а) — Л(а)| < ее. Пусть (7^(21, Е) — пространство всех кусочно r-непрерывных отображений из 21 в Е. Как видно, СД^,Е) также векторная подрешетка в 1^ (21, Е). Можно дать описание пространства (7^(21,!?), используя реализацию Е в виде фундамента Coo(Q), где Q — стоунов компакт К-пространства Е. Именно, отображение f : 21 —> Е С Coq(Q) входит в С* (21,Е) в том и только в том случае, если существуют котощее (— дополнительное к тощему) множество Qq С Q и элемент е G Е такие, что соотношение
g(t) : а w /(a)(t) (a € 21, t 6 Qo)
определяет непрерывную вектор-функцию д : Qo —* (7(21), удовлетворяющую неравенству \\g(t)||с(а) < e(t) (t е Qo)-
П3.4. Интеграл по векторной мере р G са(21, Е) можно распространить на пространства вектор-функций (7r(2l, Е) и (7^(21, Е).
Приложение 3. Векторные меры
489
(1) Пусть F — еще одно JC-пространство и
MGca(2l,^,Lr(E,F)),
где, как обычно, Lr(E, F) — пространство регулярных операторов из Е в F. Тогда интеграл	: С (21) —> Е допускает продолжение на Сг (21, Е).
Отождествим алгебраическое тензорное произведение С(21) 0 Е с подпространством СГ(21,Е), сопоставив элементу	® где ек £ Е и <рк G <7(21),
отображение а ь->	^fc(a)e& (а 21)• Определим на С(21) 0 Е по формуле
(п	\	п
фк 0 &к I ^д(^&)в&* к=1	/	&=1
Если f € Сг(21, Е), то согласно 2.1.12(1) существуют е G Е+ и последовательность (/n) С С(21) 0> Е такие, что
sup |/(а) —/п(а)|	^е.
«ей	п
Положим по определению 1ДД) := o-lim7M(/n). Корректность приведенных определений проверяется без труда.
Для любой конечно аддитивной меры р : я/ —> Lr(E,F) отображение : Сг(21, Е) —> F является регулярным оператором. Если р^ 0, то 0.
(2) Наконец, рассмотрим меру р со значениями в пространстве Ln(E, F), составленном из о-непрерывных (= нормальных) линейных операторов. Тогда можно распространить на пространство С* (21, Е).
Пусть вновь интеграл определен на С(21) как в (1). Тогда — регулярный оператор из С(21) в Ln(E, F). Возьмем отображение f € С(21) 0 Е вида
/(«) = 52 ^(а)е^ (а € 21),
Сен
где (e^)^es — ограниченное множество попарно дизъюнктных элементов в Е, a (^c)^es ~ равномерно ограниченное семейство непрерывных функций на 21. Положим
Ах(/) :=
Это определение корректно, ибо для любого ограниченного семейства попарно дизъюнктных (e^)^6s и произвольного ср € С(21) в силу о-непрерывности /м(^) будет
\ ?е= /	ees
Дальнейшее распространение на Cf7r(2l, Е) можно осуществить с помощью 2.1.12(2). Действительно, если / € (7^(21, Е), то существует такое разбиение единицы (= семейство попарно дизъюнктных элементов, точная верхняя граница
490
Приложение 3. Векторные меры
которых есть тождественный элемент) (тг$) в алгебре проекторов ф(-Е) пространства Е, что каждое из отображений тг^/ равномерно аппроксимируется элементами из C(2l) 0 Е. Точнее, для каждого £ € S существуют е G Е и последовательность (/п) С С(21) 0 Е такие, что
sup k«/(a) - /п(а)|	-е.
аея	п
Положим 1М(7Г^/) := o-limZM(/n) и вновь /Д/) :=	/Дтг^/).
Легко проверить, что — регулярный оператор из ОД 21, Е) в F, причем соотношения > 0 и д > 0 равносильны.
Заметим, что в определениях (1) и (2) нигде не использована счетная аддитивность меры р. Однако она с необходимостью появляется при аналитическом описании интересующих нас классов операторов.
П3.5. Сформулируем теперь несколько результатов об аналитическом представлении линейных операторов, которые приводят к новым формулам субдифференцирования .
(1)	Для любого регулярного оператора
Т :C(2l) -> Lr(E,F)
существует единственный регулярный оператор 'Т : Cr(2l, Е) —» F такой, что fT(tp 0 е) = (Т<р)е для всех <р € С(21) и е € Е. Сопоставление Т i-> 'Т осуществляет линейный и решеточный изоморфизм К-пространств Lr(C(ty,Lr(E,FY) и Lr(Cr(%,E),F).
<] Это можно установить с помощью П3.4 по схеме распространения интеграла на пространство СД21, Е) (см. П3.3(1)). >
(2)	Теорема. Для любого регулярного оператора
Т : С(%)Ln(E,F)
существует единственный оператор fT G 1ДСД21, Е), F) такой, что 'Т(у> 0 е) = = T(tp)e для всех е € Е и ip € С(21). Отображение Т fT является линейным и решеточным изоморфизмом К-пространств Lr(C(ty,Ln(E,F)) и ЬДСДЯ,Е),Р).
О Этот факт устанавливают так же, как и (1), с привлечением П3.4, ПЗ.З (2) и следующего утверждения. Регулярный оператор S : Е -+ F порядково непрерывен в том и только в том случае, когда Se = ^€S 5(тг^е) для любого е € Е и разбиения единицы С ^(Е). О
Подводя итог сказанному, сформулируем нужные факты об общем виде линейных операторов.
(3)	Теорема. Для любого оператора Т из Lr{Cr(f&,E),F) существует единственная квазирегулярная борелевская мера р := рт такая, что
Tf = I f(a)dv(a) (feCr(^,E)).
21
Приложение 3. Векторные меры
491
Отображение Т рт осуществляет решеточный изоморфизм К-пространств Lr(Cr@L,E),F) и qca(2l, Lr(E,F)).
(4)	Теорема. Для оператора Т € ЬДСД91,Е),Г) существует единственная квазирегулярная борелевская мера р := рт из qca(2l, Ln(E, F)) такая, что
Tf = J f(a)dn(a)
21
Отображение Т н-> рт осуществляет решеточный изоморфизм К-пространств ЬДСД%,Е),Р) и qca(2l, Ln(F, F)).
Приложение 4. Булевозначные модели
Здесь мы эскизно представим основные приемы нестандартного моделирования на основе булевозначных моделей теории множеств. Более полное изложение имеется в [141, 144, 284, 562].
П4.1. Пусть В — фиксированная полная булева алгебра. Булевозначной интерпретацией n-местного предиката Р на классе X называют отображение R : Хп —> В. Предположим, что & — язык первого порядка с предикатами Ро,Pi, • • •,Рп-> а Яо>Pi, •,Rn — фиксированные булевозначные интерпретации этих предикатов на классе X.
Для формулы	, ит) языка Jzf и Х\,...,хт € X обычной рекурсией по
длине <р определяют элемент	, хт) ] из В, называемый оценкой истин-
ности <р.
Для атомных формул полагают
[ Pfc(#l, • • • ?	1 ‘= Pfc(^l, • • • ,
На шагах индукции применяют правила:
[[<£ WI := IM V[^],
•- М Л fV’L
:= Ы => [V>L
[^1 — М*,
•= Л
х&Х
[(Зя)р]| := У [^(ж) ], хех
где в правых частях равенств знаки V, Л, =>, (•)*, Д, V обозначают булевы операции в В, причем а => b := а* V 6.
П4.2. Говорят, что утверждение tp(xi,... ,xm), где <p(ui,...,ит) — формула, a xi,...,xm € X, истинно (верно, справедливо и т. п.) в алгебраической системе X := (X, Во, • • • ,Рп), и используют запись X |= <p(xi,... ,жт), если |[p(xi,..., хт) ] = 1, где 1 — наибольший элемент полной булевой алгебры В.
Все логически истинные утверждения верны в X. Если предикат Pq представляет собой равенство, то требуют, чтобы в В-системе X := (X, =, Pi,..., Rn) выполнялись аксиомы равенства. При выполнении этого требования в В-системе X будут справедливы все логически истинные предложения логики первого порядка с равенством, выразимые в языке <5? := {=,Pi,..., Pn}.
Приложение 4. Булевозначные модели
493
П4.3. Рассмотрим теперь булевозначную интерпретацию языка теории множеств Цермело-Френкеля с аксиомой выбора на классе X. Напомним, что язык этой теории := {=, е} есть язык первого порядка с двумя двуместными предикатами = и €. Интерпретации этих предикатов мы обозначим через [• = •] и |	• J соответственно. Таким образом, [• = •], [•€•]: X хХ ->В, причем
1= (я, J/)] = [я = у], [е (ж,у)1 = I* е И (х.у е X).
Наша ближайшая цель — охарактеризовать В-системы X := (X, [• = •],[•€ -J), являющиеся моделями теории ZFC, т. е. такие, что X ZFC. Последнее рав-посильно тому, что в X выполнены все аксиомы ZFC. Так, например, согласно правилам П4.1 справедливость аксиомы экстенсиональности х = у <-> (Vz) (z Е х z G у) означает, что для любых я, у G X верно
[« = !/]= Д (h € ж] О [z е 2/]), г€Х
где а О b := (а => 6) Л (Ь => а) для а, b G В.
П4.4. В-систему X называют отделимой, если для любых элементов х, у € X соотношение [ж = t/j = 1 влечет х = у. Произвольную В-систему X можно преобразовать в отделимую путем факторизации по отношению эквивалентности ~:= {(х,у) G X2 : [я = 2/] = 1} (фактор-класс вводится с помощью хорошо известного приема Фреге-Рассела-Скотта, см. [283]).
Говорят, что В-система X изоморфна X' := (Х',[- =	€ -У), если
существует биекция /? : X —> X', для которой [ж = г/] = [(Зх = /Зу] и [х G у] = [/Зх € (Зу1 при всех х,у G X.
П4.5. Теорема. Существует единственная с точностью до изоморфизма В-система X, удовлетворяющая следующим требованиям:
(1)	X — отделимая В-система;
(2)	аксиомы равенства истинны в X;
(3)	аксиомы экстенсиональности и фундирования истинны в X;
(4)	если функция f : dom(/) —> В такова, что dom(f) G V и dom(/) С X, то существует х € X такой, что
[уеа:]= У f(z) Л [г = (у € X);
z€dom(/)
(5) еслих G X, то существует функция f : dom(/) —> В такая, что dom(/) 6 V, dom(/) С X, и выполнено равенство из (4) для каждого у € X.
П4.6. В-систему, удовлетворяющую требованиям П4.5(1-5), называют булевозначной моделью теории множеств и обозначают символом
V(B) := (V<5 * * B), [ = ], [ е 1).
Класс именуют также булевозначным универсумом. Основные свойства выражены в следующих принципах.
494
Приложение 4. Булевозначные модели
(1)	Принцип переноса. Каждая теорема теории множеств ZFC истинна в ; символически |= ZFC.
(2)	Принцип перемешивания. Если (6$)$gs ~ разбиение единицы в В, а	— семейство элементов ¥^в\ то существует единственный элемент
х € V^B) такой, что be < [ х =	] для всех £ € 2.
Элемент х называют перемешиванием семейства	относительно
и обозначают
Для х Е V<B) и b G В мы обозначим символом Ьх перемешивание х с вероятностью b и 0 с вероятностью b* := 1 — 6, т. е. Ь < [6т = т]| и 6*	[6т = 0). Тогда
для любых т, у € V(B) выполнено
[т € by] = 6 Л [т е у];
[6т = 6г/] = 6 => [т = у];
[т = 6tJ = [6'т = 0] = 6' => [т — 0].
(3)	Принцип максимума. Для любой формулы ср(и) теории ZFC (возможно, с константами из ¥^в^) существует элемент То Е ¥^в) такой, что
[ (3u)ip(u) J = [^(т0)|.
Отсюда, в частности, следует, что если [ (В!т) у?(т) ] = 1, то существует, и притом единственный, элемент то из ¥^в\ для которого выполнено [<p(tq)J = 1.
П4.7. Существует единственное отображение т тЛ из V в ¥^в\ удовлетворяющее требованиям:
(1)	т = у [тЛ = г/л] = 1; т Е у [тл е уЛ] = 1 (т, у Е V),
(2)	h е н = \4€1Д*Л =2] (г6 V^), у G V).
Это отображение называют каноническим вложением универсума всех множеств в булевозначный универсум.
(3)	Ограниченный принцип переноса. Пусть формула (р(щ,..., ип) ограничена, т. е. в ее построении все кванторы имеют вид (Vu)(u € v —>...) и (3u)(u € v Л ...), или же в сокращенной записи (Vu Е v) и (Зи Е v). Тогда для произвольных xi,... ,xn G ¥ выполнено
<р(хъ...,хп) <-* У(в) 1=
(4)	Для произвольного множества X выполняется
[^Вп(Х)Л = <^п(ХЛ)]| = 1.
П4.8. Для элемента X Е ¥<в) его спуск Х[ задается правилом Х[ :={х G ¥^в): [т € X] = 1}. Множество Х| является циклическим, т. е. выдерживает всевозможные перемешивания своих элементов.
П4.9. Пусть F — соответствие из X в Y внутри V^B\ т. е. X, Y, F Е и [F СХ хУ]| = [Р^0]|=1. Существует, и притом единственное, соответствие
Приложение 4. Булевозначные модели
495
F[ из в Y[ такое, что для любого множества А С X J, внутри V<B) будет F(A)f = Ff(Af). При этом [F — отображение изХ вУ] = 1 в том и только в том случае, если F\, — отображение из Xf в У|.
В частности, отображение f : ZA Y внутри V^B\ где Z G V, определяет единственную функцию /| : Z —> У|, удовлетворяющую условию fl(z) = f(zA) для всех z G Z.
П4.10. Пусть X G	Определим функцию / : dom(/) —> В формула-
ми: dom(/) — Хи im(/) = {!}. Согласно П4.5(4) существует элемент X] G ¥^в) такой, что
[УёХ]=\/[г = !/] (yeVW).
хех
' Элемент Xf (единственный в силу аксиомы экстенсиональности) называют подъемом X. При этом справедливы формулы:
(1)УИ = У (УеУ<в)),
(2) Xff = mix(X) (X G ^(V<B))),
где mix(X) ~ множество всех перемешиваний вида mixb^, (х$) С X, а — разбиение единицы в В,
П4.11. Пусть X, У G <^(V(B)) и F — соответствие из X в Y. Равносильны утверждения:
(1) существует, и притом единственное, соответствие Ff из Xf в yf внутри V<B) такое, что имеет место равенство dom(Ff) = dom(F)f и для каждого подмножества А множества dom(F) выполнено
F](A]) = F(A)f;
(2) соответствие F экстенсионально т. е.
У1 € F(xi) -> [xi =ж2] < V hl = 2/2].
2/2€F(X2)
Соответствие F будет отображением из X в У в том и только в том случае, если |[Ff : Xf —* yf J = 1.
В частности, отображение / : Z —* У| порождает функцию /f : ZK У такую, что Jf(xA) — f(x) для всех х G Z.
П4.12. Предположим, что на непустом множестве X задана В-структура, т. е. определено отображение d : X х X —» В, удовлетворяющее «аксиомам метрики» :
(1)	d(x,y) = 0 х = у\
(2)	d(x,y) = d(y,x)\
(3)	d(x, у) < d(x, z) V d(z, у).
Тогда существуют элемент G V^B) и инъекция 6 : X —> X' := такие, что d(x, у) = [ ь(х) / ь(у) ] и любой элемент xf € X' имеет представление
496
Приложение 4. Булевозначные модели
xf = mixb^LX^ где (ж^) С X, а (Ь^) — разбиение единицы в В. Этот факт позволяет рассматривать множества с В-структурой как подмножества V(B) и оперировать с ними с помощью описанных выше правил.
П4.13. Сформулируем сейчас полезный признак перемешивания функций внутри ¥^В\
Пусть Е — множество,	— семейство элементов	, являющихся функ-
циями из непустого множества X bY внутри У<в), и (Ь^)^€= — разбиение единицы в В. Тогда перемешивание f :=	является функцией из X в Y внутри
V(B\ причем
[(Vx G X)f(x) = £w€(x) =1.
J
П4.14. Рассмотрим теперь факты, связанные с переводом понятий, возникающих при изображении поля вещественных чисел.
(1)	В силу принципа максимума имеется объект & внутри V^B\ для которого верно
— это lf-пространство вещественных чисел]] = 1.
Здесь подразумевают, что £& ~ это несущее множество пространства вещественных чисел внутри V^B\ Отметим здесь же, что КЛ (= стандартное имя поля R вещественных чисел), будучи архимедово упорядоченным полем внутри V^B\ является плотным подполем в & внутри У^в) (с точностью до изоморфизма).
Осуществим спуск структур из St в по общим правилам П4.8 и П4.9:
х 4- у = z w [х + у = г] = 1;
ху = z <-> [ху = z] = 1;
х у <+ [х у] = 1;
Хх = у w [АЛх = у] = 1 (х,у, z € «^1, А € R).
(2) Теорема Гордона. Множество со спущенными структурами представляет собой расширенное К-пространство с базой ®(<^|) (= булева алгебра проекторов в изоморфной В. Такой изоморфизм осуществляется отождествлением В со спуском поля {0л, 1л}, т. е. отображением х ’ В —> ®(<^|), определенным правилом
Ш = 1л] = b, h(&) = 0л] = 6* (0,1 е R).
При этом для каждых х,у € S& и b G В выполнено
[х(Ь)х = х(ъ)у] =b => к = 2/1; Ьх(Ь)х — Ьх, Ь*х(Ь)х = 0.
Приложение 4. Булевозначные модели
497
В частности, справедливы эквивалентности:
х(Ь)х = х(Ь)у «-> [я = у] 2г Ь;
X(b)x х{Ь)у «-> (ж > у] > Ь.
П4.15. Используя те же обозначения, что и в П4.14, выясним смысл некоторых утверждений в терминах АГ-пространства
(1)	Пусть (6$)$gs “ разбиение единицы в В и — произвольное семейство в Тогда
5 ~	ees
(2)	Для множества Л С и произвольных a € и b € В справедлива эквивалентность
X(b)a = sup(x(6)(A)) +-> b < {а = sup(Af)].
(3)	Рассмотрим сеть s : А —>	где А — направленное множество. Тогда
подъем $2 : АЛ —> $ является сетью внутри причем для любых х € и b € В выполнено
x(b)x = o-lim(x(b) о 5) <-> 6 [т = lim(sj)].
(4)	Пусть s и А е таковы, что имеет место равенство fis : А —> & ~ сеть] = 1. Тогда спуск А|—* Sil является сетью, причем для всяких х G Sil и b G В верно
X(b)x = o-lim(x(6) о (4)) Ъ {я = lim(s)]|.
(5)	Для каждого элемента х € имеют место равенства
fix = x(k / 0]), ехх = х([х < А]) (А € R).
П4.16. Теорема. Пусть X — архимедова векторная решетка с базой В := := ®(Х). Пусть Si — поле вещественных чисел в модели Тогда существует линейный и решеточный изоморфизм г из X в расширенное К-пространство Si[ такой, что выполнены условия:
(1)	изоморфизм г сохраняет точные границы произвольных непустых ограниченных множеств;
(2)	порядковый идеал 7(г(Х)), порожденный множеством г(Х), есть фундамент SHI;
(3)	для любого у G J(i(X)) справедливы равенства
inf{г(гг) : х е X Л г(ж) у] = у = sup{z(rr) : х € X Л г(х) < у};
(4)	для х € X и Ь € В выполнено Ь [г(я) = 0] в том и только в том случае, если х
Приложение 5. Инфинитезимальный анализ
Удобное обоснование инфинитезимальных методов анализа дает теория внутренних множеств, предложенная Э. Нельсоном [484] в конце семидесятых годов XX века, теория 1ST. Формализм этой теории мгновенно приобрел широкую популярность. Причина этого в том, что подход Э. Нельсона развеял бытовавшие до него представления об особом «идеальном» характере актуальных бесконечно больших и малых величинах.
П5.1. Алфавит формальной теории 1ST получается добавлением к алфавиту теории ZFC одного-единственного нового символа — символа одноместного предиката St, выражающего свойство быть стандартным множеством. Иначе говоря, в число допустимых фрагментов текстов 1ST мы включаем записи вида St(x) или, более развернуто, «х стандартно», или, наконец, «х — стандартное множество». Итак, содержательной областью изменения переменных 1ST служит мир Цермело-Френкеля — универсум фон Неймана, в котором теперь выделены стандартные и нестандартные множества.
Формулы 1ST определяются обычной процедурой. При этом к числу атомарных формул добавляются тексты: St (ж), где х — переменная. Каждая формула ZFC является формулой 1ST, обратное утверждение очевидно не верно. Для различения формул используют следующую терминологию: формулы ZFC называют внутренними, формулы 1ST, не являющиеся формулами ZFC, называют внешними. Таким образом, текст «х стандартно» ~ это внешняя формула теории 1ST.
Классификация формул 1ST приводит к вычленению внешних и внутренних классов. Если ср — внешняя формула 1ST, то текст <р(у) описывают словами: «у — элемент внешнего класса {х : </?(#)}». Термин внутренний класс используется в том же смысле, что термин класс в теории Цермело-Френкеля. В случаях, когда это не может привести к недоразумениям, внешние и внутренние классы называют просто классами. Внешние классы, составленные из элементов некоторого внутреннего множества, мы называем внешними множествами, или, более полно, внешними подмножествами данного множества.
Полезно вновь обратить внимание на то, что внутренний класс, составленный из элементов внутреннего множества, — это снова внутреннее множество.
Помимо сокращений, принятых в ZFC, в теории внутренних множеств используются дополнительные соглашения. Вот некоторые из них:
х Е Vst := х стандартно:— (3 у) St (?/) А у = х\ (Vstx) (р:= (Vz) (х стандартно —> 99); (3sta?) 9?:= (За?) (х стандартно А 9?);
Приложение 5. Инфинитезимальный анализ
499
(Vstfinx) р:= (Vstx) (х конечно -* </>);
(Bstfinir) </?:= (3stx) (х конечно Л <£>);
°х:= {у 6 х : у стандартно}.
Внешнее множество °х часто называют стандартным ядром х.
П5.2. Аксиомы 1ST получаются добавлением к перечню аксиом ZFC следующих трех новых схем, носящих, как указывалось ранее, название принципов нестандартной теории множеств:
(1)	Принцип переноса:
(VstXi) (Vstx2)... (Vstxn) ((Vstx) <p(x, хъ..., xn) -> (Vx) <p(x,xi,...,xn))
для каждой внутренней формулы
(2)	Принцип идеализации:
(Vxi) (Vx2) ... (Vxn) ((Vstfinz) (Эх) (Vj/ € z) <p(x,j/,xi,...,xn) (Эх)(Vsty)<p(x,y,xi,...,xn)),
где tp — произвольная внутренняя формула;
(3)	Принцип стандартизации:
(Vxi) ... (Vxn) ((Vstx) (3sty) (Vstz)z 6 у «->• z G x A <p(z,xi,...,xn))
для всякой формулы ф.
Последний принцип аналогичен классическому принципу свертывания. Он дополняет общеизвестный способ введения множества А^ с помощью отбора элементов из А с наперед заданным свойством р: := {ж G А : р(х)}. Здесь подобная процедура дополняется возможностью отбора стандартных элементов с наперед заданным свойством. Именно, по принципу стандартизации для стандартного А существует стандартное *А<р такое, что (V8tz) z G *А^ z G A^. Множество *A^ называют стандартизацией (точнее, стандартизацией А^,), часто опуская указания на р. Используют более образную запись: *А := *А^ := *{ж 6 А : р(х)}. Пусть А — стандартное множество и °А := {a G А : St (а)} — внешнее множество (= канторовское множество, заданное внешней формулой 1ST). Множество ° А называют стандартным ядром А. Очевидно, А = *34. Подобные символы используют и для внешних подмножеств стандартных множеств и также говорят об их стандартизации.
П5.3. Теорема Поуэлла. Теория 1ST является консервативным расширением теории ZFC.
Приведенная теорема означает, что внутренние теоремы теории внутренних множеств 1ST являются теоремами теории Цермело-Френкеля. Иначе говоря, при доказательстве «стандартных» теорем о множествах из универсума фон Неймана мы вправе пользоваться формализмом 1ST с той же степенью надежности, которую мы имеем при работе в рамках теории ZFC.
500
Приложение 5. Инфинитезимальный анализ
Многие формулы 1ST, выражающие «нечто необычное» о стандартных объектах, можно преобразовать в эквивалентные формулы ZFC, представляющие собой обычные математические записи рассматриваемых выражений. Процедура, приводящая к описанному результату, называется алгоритмом Нельсона. Суть алгоритма «дешифровки» состоит в том, что, вводя стандартные функции, привлекая идеализацию и перестановки кванторов, мы редуцируем утверждение к форме, приспособленной для переноса. В конечном счете перевод состоит в приведении формулы к виду, пригодному для элиминации — исключения — внешнего понятия стандартности.
П5.4. Выразительные возможности, которыми обладает аксиоматическая теория множеств 1ST, весьма значительны, но имеется все же существенное ограничение, связанное с отсутствием в ней переменных для внешних множеств. Этот недостаток не позволяет, например, работать некоторыми важными инфинитезимальными конструкциями.
В настоящее время имеется несколько вариантов формального обоснования инфинитезимальных методов в рамках аксиоматических теорий внешних множеств, см. [276, 368, 390, 419, 420]. С точки зрения приложений все эти формализмы практически равнозначны. Здесь мы приведем один из наиболее сильных вариантов теории внешних множеств NST, предложенный Т. Каваи [419, 420].
Алфавит теории NST получается обогащением алфавита ZFC двумя постоянными Vs и V7. Содержательно Vs мыслят как универсум стандартных множеств, а V7 — как мир внутренних множеств (в любой содержательной интерпретации).
При этом стоит подчеркнуть, что Vs и V7 рассматриваются как конкретные внешние множества, т. е. Vs € Vе и V7 € Vе, где Vе := {я : х = х} — класс всех внешних множеств. Иногда вместо х G Vs пишут St(x) или «я — стандартное множество». Аналогичным образом вводят предикат Int( •), выражающий свойство быть внутренним множеством.
Обычным способом определяются формулы. При этом для формулы теории ZFC символом cps (соответственно у?7) обозначается релятивизация ср на Vs (соответственно на V7), т. е. формула, получающаяся заменой всех переменных в <р на переменные, пробегающие стандартные (соответственно внутренние) множества.
Если ср — формула теории ZFC, то, рассматривая ее как формулу теории NST, иногда пишут срЕ и применяют термин Е-формула. Аналогичный смысл вкладывают в понятия S-формулы и 1-формулы.
Используют обычные сокращения типа (Vst£) ср := (\/я G Vs) ср\ (31п*я) ср := := (Зя G V7) ср-, Ап(я) := х конечно (= не имеет взаимно однозначного отображения на собственное подмножество) и т. п.
П5.5. Специальные аксиомы NST делятся на три группы (так же обстоит дело и в иных вариантах теории внешних множеств). Первую группу составляют так называемые правила образования внешних множеств. Вторую — аксиомы связи миров множеств Vs, V7 и Vе. Наконец, в третью группу входят обыч
Приложение 5. Инфинитезимальный анализ
501
ные постулаты нестандартного анализа — принципы переноса, идеализации и стандартизации.
П5.6. Начнем с устройства универсума Vе.
(1) Суперправило образования внешних множеств: если ср — аксиома ZFC, за исключением аксиомы фундирования, то срЕ — аксиома NST.
Таким образом, в NST действуют аксиомы теории Цермело и выполнена схема аксиом подстановки. Более того, принимается
(2) Суженная аксиома фундирования:
(VA) (А = 0 V A n V7 = 0) (Зя е А) х п А = 0.
Иными словами, регулярность постулируется у внешних множеств, не имеющих внутренних элементов.
Подчеркнем, что Vs 6 Vе. Иначе говоря, выполнена обычная аксиома приемлемости [408, 3.4.17].
Напомним в этой связи, что внешнее множество А имеет приемлемый размер (или S-размер), если существует некоторая внешняя функция, отображающая Vs на А. При этом пишут А 6 Va“slze.
П5.7. Вторая группа аксиом NST содержит следующие утверждения:
(1)	ПРИНЦИП МОДЕЛИРОВАНИЯ ДЛЯ МИРА СТАНДАРТНЫХ МНОЖЕСТВ:
Vs — это универсум фон Неймана, т. е. для каждой аксиомы ср теории ZFC стандартизация cps — аксиома NST;
(2)	АКСИОМА ТРАНЗИТИВНОСТИ ДЛЯ ВНУТРЕННИХ МНОЖЕСТВ:
(Vx G V7)x С V7, т. е. внутренние множества составлены только из внутренних элементов;
(3)	аксиома вложения: Vs С V7, т. е. стандартные множества являются внутренними.
П5.8. Третью группу постулатов NST составляют такие схемы аксиом:
(1)	ПРИНЦИП ПЕРЕНОСА:
для каждой формулы ср = <p(xi,..., хп) теории ZFC;
(2)	ПРИНЦИП СТАНДАРТИЗАЦИИ:
(VA) (3st*) (°А С t) -+ (3sta) (У*х) (х € A W X G а),
где °А:= А П Vs — стандартное ядро А,
Возникающее множество а, очевидно, единственно. Его обозначают *А и называют стандартизацией А.
502
Приложение 5. Инфинитезимальный анализ
(3)	принцип идеализации (схема аксиом насыщения):
(Vlntxi)... (VIntrcn) (УЛ € Va~size)
(((Vz)z с Л Л finE(z) -> (3Intx)(Vy 6 z)tpI(x,y,xi,...,xn')) ->
-> (3Intrr)(VInty e A)<pI(x,y,xi,...,xn)}
для произвольной формулы <p = <p(x, y,xi,... ,xn) теории ZFC.
П5.9. Теорема Каваи. Теория NST является консервативным расширением теории ZFC.
П5.10. Как обычно, внутри Vе можно выделить универсум Vе, составленный классическими (= стандартными или обычными в робинсоновском формализме) множествами, используя класс стандартных ординалов OnSt. Именно,
V£:= {ж : (3sta G Р)х € ^(V^)},
Vе := J v£.
/3eOnst
При этом возникает робинсоновская стандартизация * : Vе —> Vs, определенная схемой рекурсии:
*0:= 0, *А:= *{*а : a G А}.
Робинсоновская стандартизация обеспечивает справедливость принципа Лейбница в форме
(Vxi € Vе)... (Ухп € 'Vc)<pc(x1,...,xn) W <ps(x1,...,xn)
для произвольной формулы <р = 9?(xi,... ,жп) теории ZFC и ее релятивизаций <рс и <ps на Vе и V5 соответственно.
П5.11. Мир радикальной (и классической) установки нестандартного анализа также допускает аксиоматическое описание.
Опишем теорию UNST, проанализированную Т. Каваи. В UNST переменные изображают внешние множества. Имеются выделенные константы Vе, V1 и *. Соответствующие внешние множества, естественно, называют классическим миром, универсумом внутренних множеств и робинсоновской стандартизацией. Специальные аксиомы UNST аналогичны NST.
П5.12. Устройство универсума UNST определяют следующие постулаты:
(1)	Суперправило образования внешних множеств (ср. П5.6(1));
(2)	Суженная аксиома фундирования (ср. П5.6(2)).
П5.13. Аксиомы связи миров множеств:
(1)	Принцип моделирования для классических множеств: мир Vе — это универсум фон Неймана;
Приложение 5. Инфинитезимальный анализ
503
(2)	Аксиома транзитивности для внутренних множеств: в форме П5.7 (2);
(3)	Аксиома транзитивности для классических множеств: (Уж е Vе) х С Vе — классические множества составлены из классических элементов}
(4)	Аксиома внешней сборки: внешние подмножества классического множества. являются классическими}
(5)	Аксиома робинсоновской стандартизации: * является (внешним) отображением Vе в V7.
Очевидно, что в связи с П5.2 (3) существует единственное множество V5, составленное из стандартизаций V5 := *(VC). В UNST элементы V5 называют стандартными множествами. По аналогии с П5.б(2), говорят, что множество А имеет классический размер (или с-размер), если существует внешняя функция из Vе на А. При этом пишут А е Vc~slze.
П5.14. Постулаты нестандартного анализа в UNST имеют следующий вид:
(1) ПРИНЦИП ПЕРЕНОСА в форме Лейбница (см. П5.10);
(2) ПРИНЦИП ИДЕАЛИЗАЦИИ В ВИДЕ СХЕМЫ АКСИОМ НАСЫЩЕНИЯ ДЛЯ множеств классического размера (см. П5.8(3)).
Наконец, стандартизация *А в UNST множества А (представляющего собой подмножество элемента Vs) состоит в процедуре
*А:= *(*“1(А A Vs)).
Можно показать, что справедливо следующее утверждение.
П5.15. Теорема. Теория UNST является консервативным расширением теории ZFC.
При работе с аналитическими объектами удобно придерживаться свободной точки зрения, близкой к неоклассической и радикальной установкам нестандартного анализа. В частности, поле вещественных чисел нами часто рассматривается как стандартный элемент мира внутренних множеств, а классическая реализация R отождествляется со стандартным ядром °R. Символика, принятая в нестандартном анализе для бесконечно малых, монад и т. п., совпадает с представленной в [408]. Для специализации обозначений напомним некоторые детали.
П5.16. Простейшим примером фильтра служит, как известно, совокупность надмножеств некоторого непустого множества. Нестандартный анализ позволяет подобным же образом изучать произвольный стандартный фильтр как стандартизацию фильтра внешних надмножеств подходящим образом задаваемого внешнего множества — монады этого фильтра.
П5.17. Пусть X — стандартное множество и & — стандартный базис фильтра в X. Таким образом, SB / 0, SB С £?(Х), 0 SB и Вх, В2 G SB —> (ЗВ G &) (В G Bi А В2). Символом p,(SB) обозначают монаду SB, т. е. внешнее множество, определенное соотношением
р(^) := Q{B : В е
504
Приложение 5. Инфинитезимальный анализ
П5.18. Внутреннее множество является надмножеством некоторого стандартного элемента стандартного базиса фильтра в том и только в том случае, если оно содержит монаду
П5.19. Нестандартные натуральные числа называют актуальными бесконечно большими или недоступными. Используя традиционную вольность речи, говорят о бесконечных числах.
Число t € К называют доступным, если найдется стандартное число п G °N, для которого |t| < п. Условие доступности t из R символически записывают как t G ltd(R) или t G ~R. Элементы из R, не являющиеся доступными, называют недоступными или актуальными бесконечными числами. Пишут t ~ 4-оо для t ~R и t > 0. По аналогии понимают записи t « —оо и t « оо. Часто используют условное соглашение t « +оо t G /1(+оо) и словесные обороты типа «число лежит в монаде бесконечно удаленной точки (в монаде плюс-бесконечности)».
Число t G R называют бесконечно малым или, более полно, актуальным бесконечно малым, если для всякого n G °N верно \t\ < 1/п. При этом пишут t « 0 или t G jtz(R) и говорят, что t лежит в монаде нуля. Символ /z(R) используют наряду с обозначением /1(0), подчеркивая очевидную связь с единственной отделимой векторной топологией на R. Бесконечно малые называют также инфинитезималями.
Если х < у и разность между х и у не бесконечно мала, то пишут х С у. Поскольку t G WR w (VN « +oo)(|t| N), доступность t G R записывают также и формулой |t| +оо.
П5.20. Вся «нестандартная» расширенная числовая прямая R и, что наиболее нетривиально, ее доступная часть ~R представляют собой наборы монад, размещенных в стандартных точках.
П5.21. Для произвольного доступного числа существует и притом единственное бесконечно близкое к нему стандартное число.
П5.22. Стандартное число, являющееся бесконечно близким к доступному числу t G ^R, называют стандартной частью или тенью числа t и обозначают st(t) или °t Для удобства полагают также °t = st(£) = 4-оо, если t « +оо, и соответственно °t = st(i) — — оо при t & —оо (при этом, конечно же, считают, что +оо « +оо и —оо « —оо). Таким образом, каждому (стандартному) t G R отнесена его монада p(t), т. е. элементы s из R, для которых s «t.
П5.23. В инфинитезимальном анализе распространен способ доказательств, основанный на том, что внешние множества, заданные «теоретико-множественным способом», — внутренние.
П5.24. Пусть А — бесконечное множество. Для любого внутреннего свойства ср не верно, что {ж : <р(х)} = А — °А.
В приложениях полезны и многие другие несложные формы принципов нестандартного анализа, основанные на различии внешних и внутренних множеств.
Приложение 5. Инфинитезимальный анализ
505
П5.25. Имеют место утверждения:
(1)	Принцип продолжения. Каждая последовательность (Ап)пеы внутренних множеств Ап продолжается до внутренней последовательности (Ап)пе*^.
(2)	Принцип переполненности. Если множество А внутреннее и °N С А, то А содержит некоторое бесконечно большое число.
(3)	Принцип незаполненности. Если множество А внутреннее и каждое бесконечно большое натуральное число принадлежит А, то А содержит некоторое стандартное натуральное число.
(4)	Принцип доступности. Если внутреннее множество В С R состоит только из доступных элементов, то существует стандартное t G R, такое, что В С Н, t\.
(5)	Принцип перманентности. Если внутреннее множество В содержит все положительные доступные числа, то оно содержит и интервал [0, Q] для некоторого бесконечно большого Q.
(5)	Принцип Коши. Если внутреннее множество В содержит все бесконечно малые числа, то оно содержит и интервал [—а, а] для некоторого стандартного a е R.
(6)	Принцип Робинсона. Если внутреннее множество В состоит только из бесконечно малых чисел, то В содержится в интервале [—е, е], где е — бесконечно малое число.
Читателя, заинтересовавшегося современными подходами к аксиоматизации инфинитезимальным методам, мы отсылаем к капитальной монографии В. Ка-новея и М. Риикена [416].
Литература
1.	Акилов Г. TL, Кутателадзе С. С. Упорядоченные векторные пространства.— Новосибирск: Наука, 1978.—368 с.
2.	Александров А. Д. Выпуклые многогранники.—М.; Л.: Гостехтеоретиздат, 1950.— 428 с.
3.	Александров А. Д. Избранные труды. Т. 1. Геометрия и приложения.—Новосибирск: Наука, 2006.—748 с.
4.	Алексеев В. М., Тихомиров В. М., Фомин С. В. Оптимальное управление.—М.: Наука, 1979.—430 с.
5.	Альбеверио С., Фенстад Й., Хёэг-Крон Р., Линдстрём Т. Нестандартные методы в стохастическом анализе и математической физике.—М.: Мир, 1990.—616 с.
6.	Бакан А. Г. Равенство Моро-Рокафеллара.—Киев, 1986.—40 с.—(Препр. / Ин-т математики АН УССР; 86-48).
7.	Басаева Е. К. Квазидифференциалы в /^-пространствах // Владикавк. мат. журн.—2003.—Т. 5, № З.-С. 14-30.
8.	Басаева Е. К. Необходимые условия экстремума в векторных квазидифференцируемых программах // Там же.—2004.—Т. 6, К5 1.—С. 13-25.
9.	Басаева Е. К., Кусраев А. Г. Выпуклый анализ 6. Квазидифференциалы.— Владикавказ: ВНЦ РАН, 2003.—85 с.
10.	Басаева Е. К., Кусраев А. Г. О квазидифференциале композиции // Владикавк. мат. журн.—2003.—Т. 5, К» 4.—С. 10-25.
И.	Беллман Р. Динамическое программирование.—М.: Изд-во иностр, лит., I960.— 400 с.
12.	Белоусов Е. Г. Введение в выпуклый анализ и целочисленное программирование.—М.: Изд-во МГУ, 1977.—196 с.
13.	Бердичевский В. Л. Вариационные принципы механики сплошной среды.—М.: Наука, 1983—447 с.
14.	Берже М. Геометрия.—М.: Мир, 1984.—Т. 1.—559 с.; Т. 2.—336 с.
15.	Биркгоф Г. Теория решеток.—М.: Наука, 1984.—564 с.
16.	Бляшке В. Круг и шар.—М.: Наука, 1967.—232 с.
17.	Болтянский В, Г. Математические методы оптимального управления.—М.: Наука, 1969.—408 с.
18.	Болтянский В. Г. Оптимальное управление дискретными системами.—М.: Наука, 1973.-446 с.
19.	Болтянский В. Г. Метод шатров в теории экстремальных задач // Успехи мат. наук.—1975.—Т. 30, вып. 3.—С. 3-55.
20.	Буземан Г. Выпуклые поверхности.—М.: Наука, 1964.—238 с.
21.	Бураго Ю. Д., Залгаллер В. А. Геометрические неравенства.—Л.: Наука, 1980,— 288 с.
22.	Бурбаки Н. Топологические векторные пространства.—М.: Изд-во иностр, лит., 1959.-410 с.
23.	Бурбаки Н. Общая топология: Основные структуры.—М.: Наука, 1968.—272 с.
24.	Бурбаки Н. Общая топология: Использование вещественных чисел в общей топологии. Функциональные пространства. Сводка результатов.—М.: Наука, 1975.— 408 с.
Литература
507
25.	Бухвалов А. В. Порядково ограниченные операторы в векторных решетках и пространствах измеримых функций // Итоги науки и техники. Математический анализ.~М.: ВИНИТИ, 1988.-Т. 26.-С. 3-63.
26.	Бухвалов А. В., Коротков В. Б., Кусраев А. Г., Кутателадзе С. C.t Макаров Б. М. Векторные решетки и интегральные операторы.—Новосибирск: Наука, 1991.—214 с.
27.	Варга Дж. Оптимальное управление дифференциальными и функциональными уравнениями.—М.: Наука, 1977.—624 с.
28.	Васильев Ф. П. Методы решения экстремальных задач.—М.: Наука, 1981.—340 с.
29.	Векслер А. И., Гейлер В. А. О порядковой и дизъюнктной полноте линейных полуупорядоченных пространств // Сиб. мат. журн.—1972.—Т. 13, Ж 1.—С. 43-51.
30.	Вулих Б. 3. Введение в теорию полуупорядоченных пространств.—М.: Физмат-гиз, 1961.—407 с.
31.	Вулих Б. 3. Введение в теорию конусов в нормированных пространствах.— Калинин: Калинин, ун-т, 1977.—84 с.
32.	Вулих Б. 3. Специальные вопросы геометрии конусов в нормированных пространствах.—Калинин: Калинин, ун-т, 1978,—84 с.
33.	Вулих Б. 3., Лозановский Г. Я. О представлении вполне линейных и регулярных функционалов в полуупорядоченных пространствах // Мат. сб.—1971.—Т. 84, № З.-С. 331-354.
34.	Галеев Э., Тихомиров В. М. Краткий курс теории экстремальных задач.—М.: Изд-во МГУ, 1989.-204 с.
35.	Гамкрелидзе Р. В. Экстремальные задачи в линейных топологических пространствах // Изв. АН СССР. Сер. мат.-1969.-Т. 33, № 4.-С. 781-839.
36.	Гамкрелидзе Р. В. Основы оптимального управления.—Тбилиси: Тбил. ун-т, 1977.
37.	Гамкрелидзе Р. В., Харатишвили Г. Л. Необходимые условия первого порядка и аксиоматика экстремальных задач // Тр. Мат. ин-та АН СССР.—1971.—Т. 112.— С. 152-180.
38.	Гирсанов И. В. Математическая теория экстремальных задач.—М.: Изд-во МГУ, 1970.-118 с.
39.	Глазырина И. П. Об интегральном представлении субдифференциала // Труды VIII Школы по теории операторов в функциональных пространствах.—Рига, 1983.-Т. 1.-С. 55-56.
40.	Гоббс Т. Избранные произведения. Т. 1.—М.: Мысль, 1965.—583 с.
41.	Гольштейн Е. Г. Задачи наилучшего приближения элементами выпуклого множества и некоторые свойства опорных функционалов // Докл. АН СССР.—1967.— Т. 173, Ж 5.-С. 995-998.
42.	Гольштейн Е. Г. Теория двойственности в математическом программировании и ее приложения.—М.: Наука, 1971.—352 с.
43.	Гордон Е. И. Вещественные числа в булевозначных моделях теории множеств и К-пространства // Докл. АН СССР.-1977.-Т. 237, Ж 4.-С. 773-775.
44.	Гордон Е. И. Измеримые функции и интеграл Лебега в булевозначных моделях теории множеств с нормированными булевыми алгебрами.—М., 1979.—Деп. в ВИНИТИ, Ж 291-80.
45.	Гордон Е. И. /^-пространства в булевозначных моделях теории множеств // Докл. АН СССР.-1981.-Т. 258, Ж 4.-С. 777-780.
46.	Гордон Е. И. К теоремам о сохранении соотношений в ^пространствах // Сиб. мат. журн.—1982.—Т. 23, Ж 5.-С. 55-65.
47.	Гордон Е. И., Морозов С. Ф. Булевозначные модели теории множеств.—Горький: Горьк. ун-т, 1982.—72 с.
48.	Гордон Е. И., Кусраев А. Г, Кутателадзе С. С. Инфинитезимальный анализ.— Новосибирск: ИМ СО РАН, 2001.-Ч. 1.-318 с.; Ч. 2.-248 с.
508
Литература
49.	Гороховик В. В. О квазидифференцируемости вещественно-значных функций // Докл. АН СССР.—1982.—Т. 266, № 6.-С. 1294-1298.
50.	Гороховик В. В. О квазидифференцируемости вещественно-значных функций и условия локального экстремума // Сиб. мат. журн.—1984.—Т. 25, № 3.—С. 62-70.
51.	Гороховик В. В. Выпуклые и негладкие задачи векторной оптимизации.—Минск: Наука i техшка, 1990.—239 с.
52.	Гупал А. М. Стохастические методы решения негладких экстремальных задач.— Киев: Наук, думка, 1979.—150 с.
53.	Гусейнов Ф. В. О неравенстве Йенсена // Мат. заметки.—1987.—Т. 41, № в.-c. 798-806.
54.	Гутман А. Е. Банаховы расслоения в теории решеточно нормированных пространств // Линейные операторы, согласованные с порядком.—Новосибирск: ИМ СО РАН, 1995.-С. 63-211.
55.	Данфорд Н., Щварц Дж. Линейные операторы: Общая теория.—М.: Изд-во иностр, лит., 1962.—895 с.
56.	Данцер Л., Грюнбаум Б., Кли В. Теорема Хелли и ее применения.—М.: Мир, 1968.-159 с.
57.	Демьянов В. Ф. Минимакс: дифференцируемость по направлениям.—Л.: Изд-во ЛГУ, 1974.-112 с.
58.	Демьянов В. Ф. Кодифференцируемость и кодифференциалы негладких функций // Докл. АН СССР.-1988.-Т. 303, № 5.-С. 1038-1042.
59.	Демьянов В. Ф. О кодифференцируемых функциях // Вести. ЛГУ.—1988.— № 2 (8).-С. 22-26.
60.	Демьянов В. Ф. Аппроксимация второго порядка для негладкой функции // Докл. АН СССР.-1989.-Т. 309, № З.-С. 529-532.
61.	Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация.—М.: Наука, 1981.-384 с.
62.	Демьянов В. Ф., Полякова Л. Н. Условия минимума квазидифференцируемой функции на квазидифференцируемом множестве // Журн. вычисл. математики и мат. физики.—1980.—Т. 20, К2 4.—С. 849-856.
63.	Демьянов В. Ф., Рубинов А. М. О квазидифференцируемых функционалах // Докл. АН СССР.-1980.-Т. 250, № 1.-С. 21-25.
64.	Демьянов В. Ф., Рубинов А. М. О некоторых подходах к задачам негладкой оптимизации // Экономика и мат. методы.—1981.—Т. 17, № 6.—С. 1153-1174.
65.	Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифферен-циальное исчисление.—М.: Наука, 1990.—432 с.
66.	Демьянов В. Ф., Шомесова В. К. Условные субдифференциалы выпуклых функций // Докл. АН СССР.-1978.-Т. 242, № 4.-С. 753-756.
67.	Демьянов В. Ф., Полякова Л. Н., Рубинов А. М. Об одном обобщении понятия субдифференциала // Тез. Всесоюз. конф, по динамическому управлению.— Свердловск, 1979.—С. 79-84.
68.	Дистель Дж. Геометрия банаховых пространств: Избранные главы.—Киев: Ви-ща школа, 1980.—214 с.
69.	Дмитрук А. В., Милютин А. А., Осмоловский Н. П. Теорема Люстерника и теория экстремума // Успехи мат. наук.—1980.—Т. 35, вып. 6.—С. 11-46.
70.	Дорофеева А. В., Тихомиров В. М. От правила множителей Лагранжа до принципа максимума Понтрягина // Ист.-мат. исслед.—1979.—Т. 25.
71.	Дубовицкий А. Я. Отделимость и трансляция уравнений Эйлера в линейных топологических пространствах // Изв. АН СССР. Сер. мат.—1978.—Т. 42, К5 1.— С. 200-211.
72.	Дубовицкий А. Я., Милютин А. А. Задачи на экстремум при наличии ограничений // Журн. вычисл. математики и мат. физики.—1965.—Т. 5, № 3.—С. 395-453.
Литература
509
73.	Дэй М. Нормированные линейные пространства.—М.: Изд-во иностр, лит., 1961.— 232 с.
74.	Ерёмин И. И., Астафьев Н. Н. Введение в теорию линейного и выпуклого программирования.—М.: Наука, 1976.—192 с.
75.	Ермольев Ю. М. Методы стохастического программирования.—М.: Наука, 1976.— 259 с.
76.	Заславский А. Я. Описание некоторых классов опорных множеств // Сиб. мат. журн.—1979.—Т. 20, № 2.-С. 270-277.
77.	Иоффе А. Д., Левин В. Л. Субдифференциалы выпуклых функций // Тр. Моск, мат. о-ва.—1972.—Т. 26.—С. 3-72.
78.	Иоффе А. Д., Тихомиров В. М. Двойственность выпуклых функций // Успехи мат. наук.—1968.—Т. 23, вып. 6.—С. 51-116.
79.	Иоффе А. Д., Тихомиров В. М. Теория экстремальных задач.—М.: Наука, 1974.— 479 с.
80.	Ириарт-Уррути Ж.-Б. Оптимизация и выпуклый анализ: Сборник упражне-ний.-Киев: КИТ, 2004.-370 с.
81.	Йех Т. Теория множеств и метод форсинга.—М.: Мир, 1973.—150 с.
82.	Канторович Л. В. О полуупорядоченных линейных пространствах и их применениях в теории линейных операций // Докл. АН СССР.—1935.—Т. 4, К8 1/2.— С. 11-14.
83.	Канторович Л. В, К общей теории операций в полуупорядоченных пространствах // Там же.—1936.—Т. 1, № 7.-С. 271-274.
84.	Канторович Л. В. Об одном классе функциональных уравнений // Там же.— 1936.-Т. 4, № 5.-С. 211-216.
85.	Канторович Л. В. О проблеме моментов для конечного интервала // Там же.— 1937.-Т. 14, № 9.-С. 531-536.
86.	Канторович Л. В, Математические методы организации и планирования производства.—Л.: Изд-во ЛГУ, 1939.—68 с.
87.	Канторович Л. В. Функциональный анализ (Основные идеи) // Сиб. мат. журн.— 1987.-Т. 28, № 1.-С. 7-16.
88.	Канторович Л. В. Функциональный анализ и прикладная математика // Успехи мат. наук.—1991.—Т. 46, вып. 6.—С. 3-50.
89.	Канторович Л. В., Акилов Г. П. Функциональный анализ.—М.: Наука, 1984.— 752 с.
90.	Канторович Л. В., Вулих Б. 3., Пинскер А. Г. Функциональный анализ в полуупорядоченных пространствах.—М.; Л.: Гостехиздат, 1950.—548 с.
91.	Карлин С. Математические методы в теории игр, программировании и экономике.—М.: Мир, 1964.—839 с.
92.	Карманов В. Г. Математическое программирование.—М.: Наука, 1980.—256 с.
93.	Келли Дж, Гиперполные линейные топологические пространства // Математи-ка.—1960.—Т. 4, № 6.-С. 80-92.
94.	Келли Дж. Общая топология.—М.: Наука, 1968.—383 с.
95.	Колесников Е. В., Кусраев А. Г., Малюгин С. А. О мажорируемых операторах.— Новосибирск, 1988.-32 с.-(Препр. / ИМ СО АН СССР; № 26).
96.	Колмогоров А. Н., Фомин С. В. Элементы теории функций и функционального анализа.—М.: Наука, 1981.—542 с.
97.	Коэн П. Дж. Теория моделей и континуум-гипотеза.—М.: Мир, 1973.—347 с.
98.	Красносельский М. А. Положительные решения операторных уравнений—М.: Физматгиз, 1962.—394 с.
99.	Красносельский М. А., Рутицкий Я. Б. Выпуклые функции и пространства Орлича.—М.: Физматгиз, 1958.—271 с.
510
Литература
100.	Красносельский М. А., Лифшиц Е. А., Соболев А. В. Позитивные линейные системы: Метод положительных операторов.—М.: Наука, 1985.—256 с.
101.	Крейн М. Г. О минимальном разложении функционала на положительные составляющие // Докл. АН СССР.—1940.—Т. 28,	1.—С. 18-21.
102.	Крейн М. Г., Рутман М. А. Линейные операторы, оставляющие инвариантным конус в пространстве Банаха // Успехи мат. наук.—1948.—Т. 3, вып. 1.—С. 3-95.
103.	Кругер А. Я. Субдифференциалы невыпуклых функций и обобщенные производные по направлениям.—М., 1977—Деп. в ВИНИТИ, № 2661-77.
104.	Кругер А. Я, О свойствах обобщенных дифференциалов // Сиб. мат. журн.— 1985.-Т. 26, № 6.-С. 54-66.
105.	Кругер А. Я. Обобщенные дифференциалы негладких функций и необходимые условия экстремума // Там же.—1985.—Т. 26, № 3.—С. 78-90.
106.	Куратовский К. Топология.—М.: Мир, 1966.—Т. 1.—594 с.
107.	Кусраев А. Г. О необходимых условиях экстремума для негладких векторнозначных отображений // Докл. АН СССР.—1978.—Т. 242, № 1.—С. 44-47.
108.	Кусраев А. Г. О субдифференциальных отображениях выпуклых операторов // Оптимизация.—1978.—Вып. 21.—С. 36-40.
109.	Кусраев А. Г. Субдифференцирование негладких операторов и необходимые условия экстремума в многоцелевых задачах с ограничениями // Там же.—1980.— Вып. 24.-С. 75-117.
110.	Кусраев А. Г. Некоторые применения несплющенности в выпуклом анализе // Сиб. мат. журн.—1981.—Т. 22, № 6.-С. 102-125.
111.	Кусраев А. Г. Об одном общем методе субдифференцирования // Докл. АН СССР.-1981.-Т. 257, № 4.-С. 822-826.
112.	Кусраев А. Г. Булевозначный анализ двойственности расширенных модулей // Там же.—1982.—Т. 267, № 5.-С. 1049-1052.
113.	Кусраев А. Г. Некоторые правила подсчета касательных конусов // Оптимиза-ция.—1982.—Вып. 29.-С. 48-55.
114.	Кусраев А. Г. Некоторые применения теории булевозначных моделей в функциональном анализе.—Новосибирск, 1982.—42 с.—(Препр. / ИМ СО АН СССР; К9 5).
115.	Кусраев А. Г. О субдифференциалах композиции множеств и функций // Сиб. мат. журн.—1982.—Т. 23, X9 2.—С. 116-127.
116.	Кусраев А. Г. Общие формулы дезинтегрирования // Докл. АН СССР.—1982.— Т. 265, № 6.-С. 1312-1316.
117.	Кусраев А. Г. Теоремы об открытом отображении и замкнутом графике для выпуклых соответствий // Там же.—1982.—Т. 265, К9 3.—С. 526-529.
118.	Кусраев А. Г. О дискретном принципе максимума // Мат. заметки.—1983.—Т. 34, X9 2.-С. 267-272.
119.	Кусраев А. Г. О некоторых категориях и функторах булевозначного анализа // Докл. АН СССР.-1983.-Т. 271, X9 2.-С. 283-286.
120.	Кусраев А. Г. Об одном классе выпуклых соответствий // Оптимизация.—1983.— Вып. 32.-С. 20-33.
121.	Кусраев А. Г. Об открытости измеримых выпуклых соответствий // Мат. заметки.—1983.—Т. 33, X9 1.—С. 41-48.
122.	Кусраев А. Г. Абстрактное дезинтегрирование в пространствах Канторовича // Сиб. мат. журн.—1984.—Т. 25, X9 5.—С. 79-89.
123.	Кусраев А. Г. О субдифференциале суммы // Там же.—1984.—Т. 25, X9 4.—С. 107-110.
124.	Кусраев А. Г. Порядково непрерывные функционалы в булевозначных моделях теории множеств // Там же.—1984.—Т. 25, X9 1.—С. 69-79.
125.	Кусраев А. Г. Векторная двойственность и ее приложения.—Новосибирск: Наука, 1985.-256 с.
Литература
511
126.	Кусраев А. Г. О пространствах Банаха-Канторовича // Сиб. мат. журн.—1985.— Т. 26, № 2.-С. 119-126.
127.	Кусраев А. Г. Линейные операторы в решеточно нормированных пространствах // Исследования по геометрии в «целом» и математическому анализу.— Новосибирск: Наука, 1987.—Т. 9.—С. 84-123.
128.	Кусраев А. Г. Порядковый анализ. 1. Булевы алгебры. Векторные решетки.— Владикавказ: ВНЦ РАН, 2000.—86 с.
129.	Кусраев А. Г. Порядковый анализ. 2. Решеточно нормированные пространства.— Владикавказ: ВНЦ РАН, 2000.—87 с.
130.	Кусраев А. Г. Порядковый анализ. 3. Положительные операторы.—Владикавказ: ВНЦ РАН, 2001.-110 с.
131.	Кусраев А. Г. Порядковый анализ. 4. Мажорируемые операторы.—Владикавказ: ВНЦ РАН, 2001.-100 с.
132.	Кусраев А. Г. Мажорируемые операторы.—М.: Наука, 2003.—619 с.
133.	Кусраев А. Г., Кутателадзе С. С. Выпуклые операторы в псевдотопологических векторных пространствах // Оптимизация.—1980.—Вып. 25.—С. 5-41.
134.	Кусраев А. Г., Кутателадзе С. С. Свёртка Рокафеллара и характеристика оптимальных траекторий // Докл. АН СССР.—1980.—Т. 290, К2 2.—С. 280-283.
135.	Кусраев А. Г., Кутателадзе С. С. Анализ субдифференциалов с помощью булевозначных моделей // Там же.—1982.—Т. 265, № 5.—С. 1061-1064.
136.	Кусраев А. Г., Кутателадзе С. С. Локальный выпуклый анализ // Современные проблемы математики.—М.: ВИНИТИ, 1982.—Т. 19.—С. 155-206.
137.	Кусраев А. Г., Кутателадзе С. С. Субдифференциалы в булевозначных моделях теории множеств // Сиб. мат. журн.—1983.—Т. 24, К8 5.—С. 109-132.
138.	Кусраев А. Г., Кутателадзе С. С. Записки по булевозначному анализу.— Новосибирск: Новосиб. ун-т, 1984.—80 с.
139.	Кусраев А. Г., Кутателадзе С. С. Субдифференциалы и их применения.— Новосибирск: Новосиб. ун-т, 1985.—88 с.
140.	Кусраев А. Г., Кутателадзе С. С. Субдифференциальное исчисление.—Новосибирск: Наука, 1987.—224 с.
141.	Кусраев А. Г., Кутателадзе С. С. Нестандартные методы анализа.—Новосибирск: Наука, 1990.—344 с.—Пер. на англ, яз.—Dordrecht: Kluwer, 1994.—435 р.
142.	Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения.— Новосибирск: Наука, 1992.—270 с.
143.	Кусраев А. Г., Кутателадзе С, С. Теорема Крейна-Мильмана и пространства Канторовича // Оптимизация.—1992.—Вып. 51 (68).—С. 5-18.
144.	Кусраев А. Г., Кутателадзе С. С, Булевозначный анализ.—Новосибирск: ИМ СО РАН, 1999.—383 с.—Пер. на англ, яз.—Dordrecht: Kluwer, 1999.—322 р.
145.	Кусраев А. Г., Малюгин С. А. Некоторые вопросы теории векторных мер.— Новосибирск: ИМ СО АН СССР, 1988.-190 с.
146.	Кусраев А. Г., Незе Р. О продолжении выпуклых операторов // Оптимизация.— 1983.—Вып. ЗЗ.-С. 5-16.
147.	Кусраев А. Г., Стрижевский В. 3. Решеточно нормированные пространства и мажорируемые операторы // Исследования по геометрии и математическому анализу.—Новосибирск: Наука, 1987.—С. 132-157.
148.	Кутателадзе С. С. Выпуклость относительно конуса и ее приложения // Оптимизация.—1974.—Вып. 15(32).—С. 115-125.
149.	Кутателадзе С. С. Опорные множества сублинейных операторов // Докл. АН СССР.-1976.-Т. 230, № 5.-С. 1029-1032.
150.	Кутателадзе С. С, Субдифференциалы выпуклых операторов // Сиб. мат. журн.—1977.—Т. 18, № 5.-С. 1057-1064.
512
Литература
151.	Кутателадзе С. С. Формулы для вычисления субдифференциалов // Докл. АН СССР.—1977.—Т. 232, № 4.-С. 770-772.
152.	Кутателадзе С. С, Крайние точки субдифференциалов // Там же.—1978.—Т. 242, № 5.-С. 1001-1003.
153.	Кутателадзе С. С. Линейные задачи выпуклого анализа // Оптимизация.— 1978.—Вып. 22.-С. 38-52.
154.	Кутателадзе С. С. Выпуклые операторы // Успехи мат. наук.—1979.—Т. 34, вып. 1.-С. 167-196.
155.	Кутателадзе С. С. Выпуклое ^-программирование // Докл. АН СССР.—1979.— Т. 245, № 5.-С. 1048-1050.
156.	Кутателадзе С. С. О признаках крайних операторов // Оптимизация.—1979 — Вып. 23.-С. 5-8.
157.	Кутателадзе С. С. Модули, допускающие выпуклый анализ // Докл. АН СССР.-1980.-Т. 252, № 4.-С. 789-791.
158.	Кутателадзе С. С. Теорема Крейна-Мильмана и ее обращение // Сиб. мат. журн.—1980.—Т. 21, № 1.-С. 130-138.
159.	Кутателадзе С. С. е-Субдифференциалы и s-оптимальность // Там же.—1980.— Т. 21, № З.-С. 120-130.
160.	Кутателадзе С. С. О выпуклом анализе в модулях // Там же.—1981.—Т. 22, № 4.-С. 118-128.
161.	Кутателадзе С. С. Спуски и подъемы // Докл. АН СССР.—1983.—Т. 272, № 3.— С. 521-524.
162.	Кутателадзе С. С. Нестандартный анализ касательных конусов // Там же.— 1985.-Т. 284, № З.-С. 525-527.
163.	Кутателадзе С. С. Шапки и грани множеств операторов // Там же.—1985.— Т. 280, № 2.-С. 285-288.
164.	Кутателадзе С. С. Вариант нестандартного выпуклого программирования // Сиб. мат. журн.—1986.—Т. 27, № 4.-С. 84-92.
165.	Кутателадзе С. С. Признаки субдифференциалов, изображающих шапки и грани // Там же.—1986.—Т. 27, № З.-С. 134-141.
166.	Кутателадзе С. С. Инфинитезимали и исчисление касательных // Исследования по геометрии «в целом» и математическому анализу.—Новосибирск: Наука, 1987.-С. 123-135.
167.	Кутателадзе С. С. Эпипроизводные, определяемые набором инфинитезималей // Сиб. мат. журн.—1987.—Т. 28, X® 4.—С. 140-144.
168.	Кутателадзе С. С. Основы функционального анализа.—Новосибирск: ИМ СО РАН, 2001.-354 с.
169.	Кутателадзе С. С., Рубинов А. М. Двойственность Минковского и ее приложения.—Новосибирск: Наука, 1976.—254 с.
170.	Кутателадзе С, С., Фельдман М. М. Множители Лагранжа в задачах векторной оптимизации // Докл. АН СССР.-1976.-Т. 231, К® 1.-С. 28-31.
171.	Левашов В. А. Внутренняя характеризация классов опорных множеств // Сиб. мат. журн.—1980.—Т. 21, К® 3.—С. 131-143.
172.	Левашов В. А. Операторные аналоги теоремы Крейна-Мильмана // Функцион. анализ и его прил.—1980.—Т. 14, X® 2.—С. 61-62.
173.	Левашов В. А, Об операторных ортогональных дополнениях // Мат. заметки.— 1980.-Т. 28, К® 1.-С. 127-130.
174.	Левашов В. А. Субдифференциалы сублинейных операторов в пространствах непрерывных функций // Докл. АН СССР.—1980.—Т. 252, X® 1.—С. 33-36.
175.	Левин В. Л. Условия В-полноты ультрабочечных и бочечных пространств // Там же.—1962.—Т. 145, X® 2.-С. 273-276.
Литература
513
176.	Левин В, Л. О некоторых свойствах опорных функционалов // Мат. заметки.— 1968.-Т. 4, № 6.-С. 685-696.
177.	Левин В. Л. О субдифференциалах выпуклых функционалов // Успехи мат. наук.—1970.—Т. 25, вып. 4.-С. 183-184.
178.	Левин В. Л. О субдифференциале составного функционала // Докл. АН СССР.— 1970.-Т. 194, № 2.-С. 268-269.
179.	Левин В. Л. Субдифференциалы выпуклых отображений и сложных функций // Сиб. мат. журн.—1972.—Т. 13, № 6.-С. 1295-1303.
180.	Левин В. Л. Выпуклые интегральные функционалы и теория лифтинга // Успехи мат. наук.—1975.—Т. 30, вып. 2.—С. 115-178.
181.	Левин В. Л. Выпуклый анализ в пространствах измеримых функций и его применение в математике и экономике.—М.: Наука, 1985.—352 с.
182.	Левитин Е. С., Милютин А. А., Осмоловский Н. П. Об условиях локального минимума в задачах с ограничениями // Математическая экономика и функциональный анализ.—М.: Наука, 1974.—С. 139-202.
183.	Левитин Е. С., Милютин А. А., Осмоловский Н. П. Условия высших порядков локального минимума в задачах с ограничениями // Успехи мат. наук.—1978.— Т. 33, вып. 6.-С. 85-148.
184.	Лехтвейс К. Выпуклые множества.—М.: Наука, 1985.—335 с.
185.	Линке Ю. Э. Сублинейные операторы со значениями в пространствах непрерывных функций // Докл. АН СССР.-1976.-Т. 228, № З.-С. 540-542.
186.	Линке Ю. Э. Проблема существования субдифференциала для непрерывных и компактных сублинейных операторов // Там же.—1991.—Т. 315, К5 4.—С. 784-787.
187.	Линке Ю. Э., Толстоногое А, А. О свойствах пространств сублинейных операторов // Сиб. мат. журн.—1979.—Т. 20, К5 4.—С. 792-806.
188.	Лифшиц Е. А. Идеально выпуклые множества // Функцион. анализ и его прил.— 1970.-Т. 4, № 4.-С. 76-77.
189.	Лозановский Г. Я. О дискретных функционалах в пространствах Марцинкевича и Орлича // Исследования по теории функций многих вещественных переменных: Межвуз. темат. сб.—Ярославль: Яросл. ун-т, 1987.—Вып. 2.—С. 132-147.
190.	Лоран П.-Ж. Аппроксимация и оптимизация.—М.: Мир, 1975.—496 с.
191.	Магарил-Иляев Г. Г. Теорема о неявной функции для липшицевых отображений // Успехи мат. наук.—1978.—Т. 33, вып. 1.—С. 221-222.
192.	Магарил-Ильяев Г. Г., Тихомиров В. М. Выпуклый анализ и его приложения.— М.: Едиториал УРСС, 2003.-176 с.
193.	Макаров В. Л., Рубинов А. М. Суперлинейные точечно-множественные отображения и модели экономической динамики // Успехи мат. наук.—1970.—Т. 27, вып. 5.—С. 125-169.
194.	Макаров В. Л., Рубинов А. М. Математическая теория экономической динамики и равновесия.—М.: Наука, 1973.—335 с.
195.	Малюгин С. А. О квазирадоновых мерах // Сиб. мат. журн.—1991.—Т. 32, № 5.— С. 101-111.
196.	Михалевич В. С., Гупал A. М., Норкин В. И. Методы невыпуклой оптимизации.— М.: Наука, 1987.-280 с.
197.	Моисеев Н. Н., Иванилов Ю. П., Столярова Е. М. Методы оптимизации.—М.: Наука, 1978.—352 с.
198.	Мордухович Б. Ш. Принцип максимума в задаче оптимального быстродействия с негладкими ограничениями // Прикл. математика и механика.—1976.—Т. 40.— С. 1004-1023.
199.	Мордухович Б. Ш. Негладкий анализ с невыпуклыми обобщенными дифференциалами и сопряженными отображениями // Докл. АН БССР.—1984.—Т. 28, №11.— С. 976-979.
17 Кусраев А. Г., Кутателадзе С. С.
514
Литература
200.	Мордухович Б. Ш. Методы аппроксимации в задачах оптимизации и управления.—М.: Наука, 1988.
201.	Никишин Е. М. Резонансные теоремы и надлинейные операторы // Успехи мат. наук.—1970.—Т. 25, вып. 6.-С. 129-191.
202.	Никкайдо X. Выпуклые структуры и математическая экономика.—М.: Мир, 1972.-518 с.
203.	Нурминский Е. А, Численные методы решения детерминированных и стохастических минимаксных задач.—Киев: Наукова думка, 1979.—159 с.
204.	Обэн Ж.-П,, Экланд И. Прикладной нелинейный анализ.—М.: Мир, 1988.—510 с.
205.	Панагиотопулос 77. Неравенства в механике и их приложения.—М.: Мир, 1989.— 492 с.
206.	Поляк Б. Т. Введение в оптимизацию.—М.: Наука, 1983.—384 с.
207.	Полякова Л. Н. Необходимые условия экстремума квазидифференцируемых функций // Вести. ЛГУ.-1980.-ДО 13.-С. 57-62.
208.	Полякова Л. Н. Необходимые условия экстремума квазидифференцируемой функции при квазидифференцируемом ограничении // Там же.—1982.—№ 7.— С. 75-80.
209.	Полякова Л, Н. Достаточные условия локального экстремума квазидифференцируемой функции при квазидифференцируемом ограничении // Там же.—1985.— № 22.-С. 26-30.
210.	Итак В. Полнота и теорема об открытом отображении // Математика.—1960.— Т. 4, № 6.-С. 39-67.
211.	Птак В. Теорема о замкнутом графике // Там же.—1960.—Т. 4, № 6.—С. 69-72.
212.	Пшеничный Б. Н. Выпуклый анализ и экстремальные задачи.—М.: Наука, 1980.— 320 с.
213.	Пшеничный Б. Н. Необходимые условия экстремума.—М.: Наука, 1982.—144 с.
214.	Пшеничный Б. Н., Данилин Ю. М. Численные методы в экстремальных задачах.—М.: Наука, 1975.—320 с.
215.	Раднаев В. А. О решеточно безатомных субдифференциалах // Сиб. мат. журн.— 1994.-Т. 35, № 4.-С. 853-859.
216.	Раднаев В. А. О метрической n-неразложимости в упорядоченных решеточно нормированных пространствах и ее приложениях: Дис. ... канд. физ.-мат. наук.— Новосибирск, 1997.
217.	Райков Д. А. Двусторонняя теорема о замкнутом графике для топологических линейных пространств // Сиб. мат. журн.—1966.—Т. 7, № 2.—С. 353-372.
218.	Ржевский С. В. О структуре метода условного е-субградиента одновременного решения прямой и двойственной задач выпуклого программирования // Докл. АН СССР.-1990.-Т. 311, № 5.-С. 1055-1059.
219.	Робертсон А., Робертсон В. Топологические векторные пространства.—М.: Мир, 1967.-257 с.
220.	Рокафеллар Р. Т. Выпуклый анализ.—М.: Мир, 1973—470 с.
221.	Рокафеллар Р. Т. Интегралы, являющиеся выпуклыми функционалами // Математическая экономика.—М.: Мир, 1974.—С. 170-204.
222.	Рокафеллар Р. Т. Выпуклые интегральные функционалы и двойственность // Там же.—М.: Мир, 1974.-С. 222-237.
223.	Рубинов А. М. Сублинейные операторы и операторно-выпуклые множества // Сиб. мат. журн.—1976.—Т. 17, № 2.-С. 370-380.
224.	Рубинов А. М. Сублинейные операторы и их приложения // Успехи мат. наук.— 1977.-Т. 32, вып. 4.-С. 113-174.
225.	Рубинов А. М. Суперлинейные многозначные отображения и их приложения к экономико-математическим задачам.—Л.: Наука, 1980.—166 с.
Литература
515
226.	Рубинштейн Г. Ш. Двойственность в математическом программировании и некоторые вопросы выпуклого анализа // Успехи мат. наук.—1970.—Т. 25, вып. 5.— С. 171-201.
227.	Рудин У. Функциональный анализ.—М.: Мир, 1975.—443 с.
228.	Смейл С, Глобальный анализ и экономика. I. Оптимум Парето и обобщение теории Морса // Успехи мат. наук.—1972.—Т. 27, вып. 3.—С. 177-187.
229.	Солтан В. П. Введение в аксиоматическую теорию выпуклости.—Кишинев: Шти-инца, 1984.—223 с.
230.	Стрекаловский А. С. Элементы невыпуклой оптимизации.—Новосибирск: Наука, 2003.-236 с.
231.	Тихомиров В. М. Некоторые вопросы теории приближений.—М.: Изд-во МГУ, 1976.-306 с.
232.	Тихомиров В. М. Принцип Лагранжа и задачи оптимального управления.—М.: Изд-во МГУ, 1982.-110 с.
233.	Тихомиров В. М. Выпуклый анализ // Современные проблемы математики. Фундаментальные направления.—М.: ВИНИТИ, 1987.—Т. 14.—С. 5-102.
234.	Тихомиров В. М. Теория приближений // Современные проблемы математики. Фундаментальные направления.—М.: ВИНИТИ, 1987.—Т. 19.—С. 103-260.
235.	Толстоногое А. А. О некоторых свойствах пространств сублинейных функционалов // Сиб. мат. журн.—1977.—Т. 18, № 2.-С. 429-443.
236.	Федоренко Р. П. О минимизации негладких функций // Журн. вычисл. математики и мат. физики.—1981.—Т. 21, № 3.—С. 572-584.
237.	Фелпс Р. Лекции о теоремах Шоке.—М.: Мир, 1968.—112 с.
238.	Фельдман М. М. О достаточных условиях существования опорных к сублинейным операторам // Сиб. мат. журн.—1975.—Т. 16, Xs 1.—С. 132-138.
239.	Фельдман М. М. О сублинейных операторах, определенных на конусе // Там же.—1975.—Т. 16, № 6.-С. 1308-1321.
240.	Фиакко А., Мак-Кормик Г. Нелинейное программирование. Методы последовательной безусловной минимизации.—М.: Мир, 1972.
241.	Фукс Л. Частично упорядоченные алгебраические системы.—М.: Мир, 1965.— 342 с.
242.	Хадвигер Г. Лекции об объеме, площади поверхности и изопериметрии.—М.: Наука, 1966.
243.	Шамаев И. И. О разложении и представлении регулярных операторов // Сиб. мат. журн.—1989.—Т. 30, № 2.-С. 192-202.
244.	Шашкин Ю. А. Выпуклые множества, экстремальные точки, симплексы // Итоги науки. Математический анализ.—М.: ВИНИТИ, 1972.—Т. 11.—С. 5-51.
245.	Шеффер X. Топологические векторные пространства.—М.: Мир, 1971.—359 с.
246.	Шомесова В. К. Минимизация одного класса субдифференцируемых функций // Проблемы теоретической кибернетики: Тез. докл. VII Всесоюз. конф.—Горький, 1988.-Ч. 2.-С. 167.
247.	Шор Н. 3. Методы минимизации недифференцируемых функций и их приложения.—Киев: Наук, думка, 1979.
248.	Эдвардс Р. Функциональный анализ. Теория и приложения.—М.: Мир, 1969.— 1072 с.
249.	Экланд И., Темам Р, Выпуклый анализ и вариационные проблемы.—М.: Мир, 1979.-400 с.
250.	Энгелькинг Р. Общая топология.—М.: Мир, 1986.—751 с.
251.	Эрроу К., Гурвиц Л., Удзава X. Исследования по линейному и нелинейному программированию.—М.: Изд-во иностр, лит., 1962.—234 с.
252.	Юдин Д. Б. Задачи и методы стохастического программирования.—М.: Сов. радио, 1979.—392 с.
17’
516
Литература
253.	Яковенко С. Ю. О понятии бесконечной экстремали в стационарных задачах динамической оптимизации // Докл. АН СССР.—1989.—Т. 308, К8 4.—С. 798-812.
254.	Янг Л. Лекции по вариационному исчислению и теории оптимального управления.—М.: Мир, 1974.—488 с.
255.	Achilles A., Elster К.-H., Nehse R. Bibliographic zur Vectoroptimierung: (Theorie und Anwendungen) // Math. Operationsforsch. Statist. Ser. Optimization.—1979.— Bd. 10, № 2.-S. 277-321.
256.	Alfsen E. M. Compact Convex Sets and Boundary Integrals.—Berlin etc.: Springer, 1971.—ix, 210 p.
257.	Aliprantis C. D., Burkinshaw O. Locally Solid Riesz Spaces.—New York: Acad, press, 1978.—xii, 198 p.
258.	Aliprantis C. D., Burkinshaw O. Positive Operators.—New York: Acad, press, 1985.— xvi,367 p.
259.	Andenaes P. S. Hahn-Banach extensions which are maximal on a given cone // Math. Ann.-1970.-Vol. 188.-P. 90-96.
260.	Arrow K. J., Hurwicz L., Uzawa H. Studies in Linear and Non-Linear Programming.— Stanford: Stanford Univ, press, 1958.—229 p.
261.	Asimow L. Extremal structure of well-capped convex sets // Trans. Amer. Math. Soc.-1969.-Vol. 138.-P. 363-375.
262.	Asimow L., Ellis A. J. Convexity Theory and Its Applications in Functional Analysis.—London: Acad, press, 1980.—x, 266 p.
263.	Asplund E. Fr£chet differentiability of convex functions // Acta math.—1968.— Vol. 121, № 1/2.-P. 31-47.
264.	Attouch H. Variational Convergence for Functions and Operators.—Boston etc.: Pitman, 1984.—xix, 423 p.
265.	Attouch H., Beer G. On the convergence of subdifferentials of convex functions // Arch. Math.-1993.-Vol. 60, № 4.-P. 389-400.
266.	Attouch H., Wets R. J.-B. Isometries for the Legendre-Fenchel transform // Trans. Amer. Math. Soc.-1986.-Vol. 296, № l.-P. 33-60.
267.	Aubin J.-P. Mathematical Methods of Game and Economic Theory.—Amsterdam: North-Holland, 1979.—xxxii, 619 p.
268.	Aubin J.-P. Nonlinear Analysis and Motivations from Economics.—Paris: Masson, 1984.—In French.
269.	Aubin J.-P. Graphical Convergence of Set-Valued Maps.—Laxenburg: II AS A, 1987.
270.	Aubin J.-P. Optima and Equilibria. An Introduction to Nonlinear Analysis.—Berlin etc.: Springer, 1998.—xviii, 430 p.
271.	Aubin J.-P., Frankowska H. Set-Valued Analysis.—Boston etc.: Birkhauser, 1990.— xix, 461 p.
272.	Aubin J.-P., Vinter R. B. (ed.). Convex Analysis and Applications.—London: Imperial College, 1980.-210 p.
273.	Aubin J.-P., Wets R. J.-B. Stable approximations of set-valued maps // Ann. Inst. H. Ротсагё Anal. Non Lingaire.—1988.—Vol. 5, № 6.—P. 519-535.
274.	Baker J. W. Continuity in ordered spaces // Math. Ztschr.—1968.—Bd. 104, № 3.— S. 231-246.
275.	Balinski M. L., Wolfe P. (ed.). Nondifferentiable Optimization.—Amsterdam etc.: North-Holland, 1975.—(Math. Programming Stud.; 3).
276.	Ballard D., НгЬаёек К. Standard foundations of nonstandard analysis // J. Symbolic Logic.-1992.-Vol. 57, № 2.-P. 741-748.
277.	Barbu V., Precupanu Th. Convexity and Optimization in Banach Spaces.—Dordrecht etc.: Reidel, 1986.—xvii, 397 p.
Литература
517
278.	Bazaraa М. S., Goode J. J. Necessary optimality criteria in mathematical programming in normed linear spaces // J. Optim. Theory AppL—1973.—Vol. 11, № 3.—P. 235-244.
279.	Bazaraa M. S., Goode J. J., Nashed M. Z. On the cones of tangent with applications to mathematical programming // Ibid.—1974.—Vol. 13, № 4.—P. 389-426.
280.	Beckenstein E., Narici L. Non-uniqueness of certain Hahn-Banach extensions // Vladikavkas Math. J.-2004.-Vol. 6, iss. l.-P. 26-28.
281.	Beer G. On Mosco convergence of convex sets // Bull. Austral. Math. Soc.—1988.— Vol. 38, № 2.-P. 239-253.
282.	Beer G. On the Young-Fenchel transformation for convex functions // Proc. Amer. Math. Soc.-1988.-Vol. 104, № 4.-P. 1115-1123.
283.	Beer G. Conjugate convex functions and the epi-distance topology // Ibid.—1990.— Vol. 108, № l.-P. 117-126.
284.	Bell J. L. Boolean-Valued Models and Independence Proofs in Set Theory.—Oxford: Clarendon press, 1985.—xx, 165 p.
285.	Benko I., Scheiber E. Monotonic linear extensions for ordered modules, their extre-mality and uniqueness // Mathematica.—1989.—Vol. 25, X* 2.—P. 119-126.
286.	Berger M. Nonlinearity and Functional Analysis.—New York: Acad, press, 1977.—xix, 417 p.
287.	Bemau S. J. Sums and extensions of vector lattice homomorphisms // Acta appl. math.-1992.-Vol. 27, № 1/2.-P. 33-45.
288.	Bemau S. J., Huijsmans С. B., De Pagter B. Sums of lattice homomorphisms // Proc. Amer. Math. Soc.-1992.-Vol. 115, № l.-P. 151-156.
289.	Bigard A. Modules ordonnes injectifs // Mathematica.—1973.—Vol. 15, № 1.—P. 15-24.
290.	Bishop E., Phelps R. R. The support functional of a convex set // AMS Proc. Symp. Pure Math.-1963.-Vol. 4.-P. 27-35.
291.	Bonnesen T., Fenchel W. Theorie der Konvexen Korper. Berichtigter Reprint.—Berlin etc.: Springer, 1974.—vii, 164 s.—In German.
292.	Bonnice W., Silvermann R. The Hahn-Banach extension and the least upper bound properties are equivalent // Proc. Amer. Math. Soc.—1967.—Vol. 18, № 5.—P. 843-850.
293.	Bonsall F. F. Endomorphisms of partially ordered spaces without order unit // J. London Math. Soc.-1955.-Vol. 30, № 2.-P. 144-153.
294.	Bonsall F. F., Lindenstrauss J., Phelps R. R. Extreme positive operators on algebras of functions // Math. Scand.—1966.—Vol. 18, № 2.—P. 161-182.
295.	Borwein J. M. A multivalued approach to the Farkas lemma // Math. Programming Stud.-1979.-Vol. 10, № l.-P. 42-47.
296.	Borwein J. M. A Lagrange multiplier theorem and sandwich theorems for convex relations // Math. Scand.—1981.—Vol. 48, № 2.—P. 189-204.
297.	Borwein J. M. Convex relations in analysis and optimization // Generalized Concavity.—New York etc.: Acad, press, 1981.—P. 336-377.
298.	Borwein J. M. Continuity and differentiability properties of convex operators // Proc. London Math. Soc.—1982.—Vol. 44.—P. 420-444.
299.	Borwein J. M. Subgradients of convex operators // Math. Operationsforsch. Statist. Ser. Optimization.—1984.—Bd. 15.—S. 179-191.
300.	Borwein J. M., Preiss D. A smooth variational principle with applications to subdifferentiability and to differentiability of convex functions // Trans. Amer. Math. Soc.-1987.-Vol. 303, № 2.-P. 517-527.
301.	Borwein J, M., Strojwas Я. M. Tangential approximations I I Nonlinear Analysis.— 1985.—Vol. 9.-P. 1347-1366.
302.	Borwein J. M., Strojwas H. M. Proximal analysis and boundaries of closed sets in Banach space. Pt I. Theory. Pt II. Applications // Canad. J. Math.—1986.—Vol. 38.— P. 431-452; 1987.-Vol. 39.-P. 428-472.
518
Литература
303.	Borwein J. M., Penot J.-P., Thera M. Conjugate convex operators // J. Math. Anal. Appl.-1989.-Vol. 102.-P. 399-414.
304.	Borwein J. M., Zhu Q. J. Techniques of Variational Analysis.—Berlin etc.: Springer, 2005.-366 p.
305.	Bouligand G. Introduction a la g£ometrie infinit6simale directe.—Paris: Gautie-Villars, 1932.
306.	Bourgin R. D. Geometric Aspects of Convex Sets with the Radon-Nikodym Property— Berlin etc.: Springer, 1993.—(Lecture Notes in Math.; 993).
307.	Breckner W. IV., Orban G. Continuity Properties of Rationally s-Convex Mappings with Values in Ordered Topological Linear Spaces.—Cluj-Napocoi: Babes-Bolyai Univ., 1978.-92 p.
308.	Breckner IV. W., Scheiber E. A Hahn-Banach type extension theorem for linear mappings into ordered modules // Mathematica.—1977.—Vol. 19, № 1.—P. 13-27.
309.	Br0nsted A. Conjugate convex functions in topological vector spaces // Mat.-Fys. Medd. Danske Vid. Selsk.-1962.-Vol. 34, № 2.-P. 1-26.
310.	Br0nsted A., Rockafellar R. T. On the subdifferentiability of convex functions // Proc. Amer. Math. Soc.-1965.-Vol. 16.-P. 605-611.
311.	Buskes G. Extension of Riesz homomorphisms // Austral. Math. Soc. Ser. A.—1987.— Vol. 43.-P. 35-46.
312.	Buskes G. The Hahn-Banach Theorem Surveyed: Diss. Math.—Warszawa, 1993.— 49 p.
313.	Buskes G., Van Rooij A. Hahn-Banach extensions for Riesz homomorphisms // Indag. Math. N. S.—1989.—Vol. 51, № l.-P. 25-34.
314.	Caratheodory K. Uber den Variabilitatsbereich Fourierschen Konstanten von positiven harmonischen Functionen // Rend. Circ. Mat. Palermo.—1911.—Vol. 32.—P. 193-217.
315.	Castaing Ch., Valadier M. Convex Analysis and Measurable Multifunctions.—Berlin etc.: Springer, 1977.—278 p.—(Lecture Notes in Math.; 580).
316.	Christensen J. P. R. Topology and Borel Structure.—Amsterdam etc.: North-Holland, 1974.-138 p.
317.	Clarke F. H. Generalized gradients and applications // Trans. Amer. Math. Soc.— 1975.-Vol. 205, № 2.-P. 247-262.
318.	Clarke F. H. A new approach to Lagrange multipliers // Math. Oper. Res.—1976.— Vol. 1, № 2.-P. 165-174.
319.	Clarke F. H. On the inverse function theorem // Pacific J. Math.—1976.—Vol. 64, № l.-P. 97-102.
320.	Clarke F. H. Optimization and Nonsmooth Analysis.—Philadelphia: SIAM, 1990.—xii, 308 p.—(Classics in Appli. Math.; 5).
321.	Clarke F. H. Methods of Dynamic and Nonsmooth Optimization.—Philadelphia: SIAM, 1989.—v, 90 p.
322.	Cochrane J. L., Zeleny M. (ed.). Multiple Criteria Decision Making.—Columbia (S.C.): Univ, of South Carolina press, 1973.
323.	Collins H. S. Completeness and compactness in linear topological spaces // Trans. Amer. Math. Soc.-1955.-Vol. 79.-P. 256-280.
324.	Cooper J. L. B. Coordinated spaces // Proc. London Math. Soc.—1953.—Vol. 3, № 3.— P. 305-327.
325.	Cooper J. L. B. On generalization of the Kothe coordinate spaces// Math. Ann.— 1966.—Vol. 162, № 3.-P. 351-363.
326.	Comet B., Nguyen V. H., Vial J. P. (ed.). Nonlinear Analysis and Optimization: (Papers of the Conference on Nonlinear Analysis and Optimization, Belgium, June 16—17, 1983).—Amsterdam:'North-Holland, 1987.—vii, 182 p.—(Math. Programming Stud.; 30).
Литература
519
327.	Crenshaw J. A. Extreme positive linear operators // Math. Scand.—1969.—Vol. 25, № 2.-P. 195-217.
328.	Dales H. G. Automatic continuity: a survey // Bull. London Math. Soc.—1978.— Vol. 10, № 29.-P. 129-183.
329.	Debieve C. On Banach spaces having a Radon-Nikodym dual // Pacific J. Math.— 1985.—Vol. 120, № 2.-P. 327-330.
330.	Deimling K. Nonlinear Functional Analysis.—Berlin etc.: Springer, 1985.—xiv, 450 p.
331.	Demulich R., Elster K.-H. F-conjugation and nonconvex optimization. Pt 3 // Optimization.—1985.—Vol. 16, № 6.—P. 789-804.
332.	Demulich R., Elster К.-H., Nehse R. Recent results on the separation of convex sets // Math. Operationsforsch. Statist. Ser. Optimization.—1978.—Bd. 9.—S. 273-296.
333.	Demyanov V. F. Continuous generalized gradients for nonsmooth functions // Leet. Notes Econ. Math. Syst.-1988.-Vol. 304.-P. 24-27.
334.	Demyanov V. F., Rubinov A. M. On quasidifferentiable mappings // Math. Operationsforsch. Statist. Ser. Optimization.—1983.—Bd. 14.—S. 3-21.
335.	Demyanov V. F., Rubinov A. M. Quasidifferential Calculus.—New York: Optimization Software, 1986.—301 p.
336.	Demyanov V. F., Dixon L. C. W. (ed.). Quasidifferential Calculus.—Amsterdam: North-Holland, 1986.—221 p.
337.	Demyanov V. F., Pallaschke D. (ed.). Nondifferentiable Optimization: Motivations and Applications.—Berlin etc.: Springer, 1985.—349 p.
338.	Demyanov V., Rubinov A. (ed.). Quasidifferentiability and Related Topics.— Dordrecht: Kluwer, 2000.—400 p.
339.	Demyanov V. F., Stavroulakis G. E., Polyakova L. N., Panagiotopoulos P. D. Quasidifferentiability and Nonsmooth Modelling in Mechanics, Engineering and Economics.—Dordrecht: Kluwer, 1996.—349 p.
340.	Deville R., Godefroy G., Zizler V. Un principle variationel utilisant des fonctions bosses // C. r. Acad. sci. A.-1991.-Vol. 312, № l.-P. 281-286.
341.	De Wilde M. Closed Graph Theorems and Webbed Spaces.—London: Pitman, 1978.— 158 p.
342.	Diestel J., Uhl J. J. Vector Measures.—Providence (RI): Amer. Math. Soc., 1977.—xiii, 322 p.—(Ser. Mathematical Surveys; 15).
343.	Dieudonng J. History of Functional Analysis.—Amsterdam etc.: North-Holland, 1983.—vi, 312 p.
344.	Dinculeanu N. Vector Measures.—Berlin: Verlag der Wissenschaften, 1966.—432 p.
345.	Dolecki S. A general theory of necessary optimality conditions // J. Math. Anal. Appl.-1980.-Vol. 78, № 12.-P. 267-308.
346.	Dolecki S. Tangency and differentiation: Some applications of convergence theory // Ann. Mat. Рига Appl.-1982.-Vol. 130.-P. 223-255.
347.	Dolecki S. Tangency and differentiation: Marginal functions // Adv. Appl. Math.— 1990.—Vol. 11, № 4.-P. 388-411.
348.	Van Dulst D. Characterization of Banach Spaces Not Containing h— Amsterdam: Stichting Mathematisch Centrum, 1969.
349.	Eggleston H. G. Convexity.—Cambridge: Cambridge Univ, press, 1958.—viii, 136 p.
350.	Ekeland I. On a variational principle // J. Math. Anal. Appl.—1974.—Vol. 47.—P. 324-353.
351.	Ekeland I. Nonconvex optimization problems // Bull. Amer. Math. Soc.—1979.—Vol. 1, № 3.-P. 443-474.
352.	Elster К.-H., Nehse R. Konjugierte operatoren und Subdifferentiale // Math. Operationsforsch. Statist. Ser. Optimization.—1975.—Bd. 6.—S. 641-657.
353.	Elster К.-H., Nehse R. Necessary and sufficient conditions for the order completeness of partially ordered vector spaces // Math. Nachr.—1978.—Bd. 81.—S. 301-311.
520
Литература
354.	Elster К.-H., Thierfelder J. Abstract cone approximations and generalized differentiability in nonsmooth optimization // Optimization.—1983.—Vol. 19, №3.—P. 315-341.
355.	Essays on Nonlinear Analysis and Optimization Problems.—Hanoi: Inst, of Math., 1987.
356.	Evers J., Maaren H. Duality principles in mathematics and their relations to conjugate functions // Nieuw Arch. Wisk.—1985.—Vol. 3, № 1.—P. 23-68.
357.	Fabian M. On minimum principles // Acta polytech.—1983.—Vol. 20.—P. 109-118.
358.	Fenchel W. On conjugate convex functions // Canad. J. Math. Soc.—1949.—Vol. 1, № l.-P. 73-77.
359.	Fenchel W. Convex Cones, Sets and Functions.—Princeton: Princeton Univ, press, 1953.-152 p.
360.	Floret K. Weakly Compact Sets.—Berlin etc.: Springer, 1980.—vii, 123 p.
361.	Fuchssteiner B., Lusky W. Convex Cones.—Amsterdam etc.: North-Holland, 1981.— x,428 p.
362.	Functional Analysis, Optimization, and Mathematical Economics.—New York etc.: Oxford Univ, press, 1990.
363.	Van Gaans О. W. Seminorms on Ordered Vector Spaces.—Nijmegen: Univ. Nijmegen, 1999.—115 p.—(Ph. D. Thesis University of Nijmegen).
364.	Georyiev P. G. Locally Lipschitz and regular functions are Fr£chet differentiable almost everywhere in Asplund spaces // C. r. Acad. bulg. sci.—1989.—Vol. 2, № 5.— P. 13-15.
365.	Giles J. R. Convex Analysis with Application in the Differentiation of Convex Functions.—Boston etc.: Pitman, 1982.-х, 278 p.
366.	Giles J. R. On the characterization of Asplund spaces // J. Austral. Math. Soc.— 1982.—Vol. 32.-P. 134-144.
367.	Godefroy G., Suphar P. Duality in spaces of operators and smooth norms on Banach spaces // Illinois J. Math.—1988.—Vol. 32, № 4.—P. 672-695.
368.	Gordon E. I. Nonstandard Methods in Commutative Harmonic Analysis.—Providence (RI): Amer. Math. Soc., 1997.—xiv, 166 p.
369.	Gorokhovik V. V. e-Quasidifferentlability of real-valued functions and optimality conditions in extremal problems // Quasidifferential Calculus / Ed. V. F. Demyanov, L. C. W. Dixon.—Amsterdam: North-Holland, 1986.—P. 203-218.
370.	Groussoub N. Perturbation Methods in Critical Point Theory.—Cambridge: Cambridge Univ, press, 1992.—xviii, 258 p.
371.	Gruber P. M. Results of Baire category type in convexity // Ann. N.Y. Acad. Sci.— 1985.—Vol. 440.-P. 163-169.
372.	Gruber P. M., Wills J. M. (ed.). Handbook on Convex Geometry. Vol. A, B.— Amsterdam: Elsevier, 1993.
373.	Gruder S., Schroeck F. Generalized convexity // SIAM J. Math. Anal.—1980.—Vol. 11, № 6.-P. 984-1001.
374.	Grunbaum B. Convex Polytopes.—New York: Springer, 2003.—xvi, 466 p.
375.	Halkin H. Nonlinear nonconvex programming in infinite-dimensional spaces // Mathematical Theory of Control.—New York: Acad, press, 1967.—P. 10-25.
376.	Handschug M. On equivalent quasidifferentials in the two-dimensional case // Optimization.—1989,—Vol. 20,	1.—P. 37-43.
377.	Handschug M. On one class of equivalent quasidifferentials // Vestnik Leningrad Univ. Math.—1989.—№ 8.—P. 28-31.
378.	Helly E. Uber Mengen Konvexer Korper mit gemeinschaflichen Punkten // Iber. Dts. Math. Verein.—1923.—Bd. 32.—S. 175-176.
379.	Hiriart-Urruty J.-B. On optimality conditions in nondifferentiable programming // Math. Programming.—1978.—Vol. 14, № 1.—P. 73-86.
Литература
521
380.	Hiriart-Urruty J.-В. New concepts in nondifferentiable programming // Bui. Soc. Math. France.—1979.—Mem. 60.—P. 57-85.
381.	Hiriart-Urruty J.-B, Tangent cones, generalized gradients and mathematical programming in Banach spaces // Math. Oper. Res.—1979.—Vol. 4, № 1.—P. 79-97.
382.	Hiriart-Urruty J.-B. Miscellanies on nonsmooth analisys and optimization // Nondifferentiable Optimization: Motivations and Applications / Ed. V. F. Demyanov, D. Pallaschke.—Berlin etc.: Springer, 1985.—P. 8-24.
383.	Hiriart-Urruty J.-B., Lemarechal Cl. Convex Analysis and Minimization Algorithms. Pt 1. Fundamentals. Pt 2. Advanced Theory and Bundle Methods.—Berlin etc.: Springer, 1996.—xvii, 418 p.; xviii, 347 p.
384.	Hiriart-Urruty J.-B., Lemarechal Cl. Fundamentals of Convex Analysis.—Berlin: Springer, 2001.—x, 263 p.
385.	Hiriart-Urruty J.-B., Seeger B. The second order subdifferential and the Dupin indicatrices of a nondifferentiable convex function // Proc. London Math. Soc.—1989.— Vol. 58, № 2.-P. 351-365.
386.	Hochstadt H. Eduard Helly, father of the Hahn-Banach theorem // Math. Intel-ligencer.-1980.-Vol. 2, № 3.-P. 123-125.
387.	Hogbe-Nlend H. Bornologies and Functional Analysis.—Amsterdam etc.: North-Holland, 1977.—xii, 144 p.
388.	Holmes R. B. Geometric Functional Analysis and Its Applications.—Berlin etc.: Springer, 1975.—x, 246 p.
389.	Hormander L. Notions of Convexity.—Basel: Birkhauser, 1994.—viii, 414 p.
390.	Hrbdtek K. Axiomatic foundations for nonstandard analysis // Fund. Math.—1978.— Vol. 98, № l.-P. 1-24.
391.	Ioffe A. D. Differentielles generalisees d’applications localement lipschitziennes d’un espace de Banach dans un autre // C. r. Acad. sci. A.—1979.—Vol. 289.—P. 637-640.
392.	Ioffe A. D. Necessary and sufficient conditions for a local minimum. 1-3 // SIAM J. Control Optim.-1979.-Vol. 17, № 2.-P. 245-288.
393.	Ioffe A. D. On foundations of convex analysis // Ann. N.Y. Acad. Sci.—1980.— Vol. 337.-P. 103-117.
394.	Ioffe A. D. A new proof of the equivalence of the Hahn-Banach extension and the least upper bound properties // Proc. Amer. Math. Soc.—1981.—Vol. 82, № 3.—P. 385-389.
395.	Ioffe A. D. Nonsmooth analysis: differential calculus of nondifferentiable mappings // Trans. Amer. Math. Soc.-1981.-Vol. 266, № l.-P. 1-56.
396.	Ioffe A. D. Approximate subdifferentials and applications. I. The finite-dimensional case // Ibid.-1984.-Vol. 281.-P. 389-416.
397.	Ioffe A. D. Necessary conditions in nonsmooth optimization // Math. Oper. Res.— 1984.—Vol. 9, № 2.-P. 159-189.
398.	Ioffe A. D. Approximate subdifferentials and applications. II // Mathematika.—1986.— Vol. 33.-P. 111-128.
399.	Ioffe A. D. Approximate subdifferentials and applications. III. The metric theory // Ibid.-1989.-Vol. 36, № l.-P. 1-38.
400.	Ioffe A. D. On some recent developments in the theory of second order optimality conditions // Optimization I Ed. S. Dolecki.—New York etc.: Springer, 1989.
401.	Ioffe A. D. Proximal analysis and approximate subdifferentials // J. London Math. Soc.-1990.-Vol. 41, № l.-P. 175-192.
402.	Ioffe A. D. Variational analysis of a composite function: a formula for the lower second order epi-derivative // J. Math. Anal. Appl.—1991.—Vol. 160, № 2.—P. 379-405.
403.	Ioffe A. D., Rubinov A. M. Abstract convexity and nonsmooth analysis. Global aspects // Adv. Math. Econ.—2002.—Vol. 4.—P. 1-23.
404.	Jahn J. Duality in vector optimization // Math. Programming.—1983.—Vol. 25.— P. 343-355.
522
Литература
405.	Jahn J. Zur vektoriellen linearen Tschebyscheff Approximation // Math. Operationsforsch. Statist. Ser. Optimization.—1983.—Bd. 14, № 4.—S. 577-591.
406.	Jameson G. J. O. Ordered Linear Spaces.—Berlin etc.: Springer, 1970.—194 p.
407.	Jameson G. J. O. Convex series // Proc. Cambridge Philos. Soc.—1972.—Vol. 72, № l.-P. 37-47.
408.	Jameson G. J. O. The duality of pairs of wedges // Proc. London Math. Soc.—1972,— Vol. 24, № 3.-P. 531-547.
409.	Jarchow H. Locally Convex Spaces.—Stuttgart: Teubner, 1981.—548 p.
410.	Jarosz K. Nonlinear generalizations of the Banach-Stone theorem // Studia Math.— 1989.--Vol. 93, № 2.-P. 97-107.
411.	Jofre A., Thibault L. D-representation of subdifferentials of directionally Lipschitz functions // Proc. Amer. Math. Soc.—1990.—Vol. 110, № 1.—P. 117-123.
412.	Johnson W. B., Zippin M. Extension of operators from subspaces of co(E) into C(K) spaces // Ibid.-1989.-Vol. 107, № l.-P. 751-754.
413.	De Jonge E., Van Rooij A. С. M. Introduction to Riesz Spaces.—Amsterdam: Mathe-matisch Centrum, 1977.—ix, 229 p.
414.	Jourani A., Thibault L. The use of metric graphical regularity in approximate subdifferential calculus rules in finite dimensions // Optimization.—1990.—Vol. 21, № 4.— P. 509-520.
415.	Jiirg M. Konvexe Analysis.—Stuttgart etc.: Birkhauser, 1977.—xi, 273 p.
416.	Kanovei V., Reeken M. Nonstandard Analysis, Axiomatically.—Berlin etc.: Springer, 2004.—xvi, 408 p.
417.	Kantorovich L. V. The method of successive approximation for functional equations// Acta math.-1939.-Vol. 71.-P. 63-97.
418.	Karush W. Minima of Functions of Several Variables with Inequalities as Side Conditions: Master’s Thesis.—Chicago: Univ, of Chicago, 1939.
419.	Kawai T. Axiom systems of nonstandard set theory // Logic Symposia, Hakone 1979, 1980.—Berlin etc.: Springer, 1981.—P. 57-65.
420.	Kawai T. Nonstandard analysis by axiomatic method // Southeast Asian Conf, on Logic.—Amsterdam etc.: North-Holland, 1983.—P. 55-76.
421.	Kay D. C., Breen M. (ed.). Convexity and Related Combinatorial Geometry.—New York; Basel: Dekker, 1982.—viii, 243 p.
422.	Kelley J., Namioka I. Linear Topological Spaces.—Berlin etc.: Springer, 1976.—xv, 256 p.
423.	Kindler J. Sandwich theorems for set functions // J. Math. Anal. Appl.—1988.— Vol. 133, № 2.-P. 529-542.
424.	Kirov N. K. Generalized monotone mappings and differentiability of vector-valued convex mappings // Serdica.—1983.—Vol. 9.—P. 263-274.
425.	Kirov N. K. Generic Fr£chet differentiability of convex operators // Proc. Amer. Math. Soc.-1985.-Vol. 94, № l.-P. 97-102.
426.	Kjeldsen T. H. A contextualized historical analysis of the Kuhn-Tucker theorem in nonlinear programming: the impact of World War II // Historia Math.—2000.—Vol. 27, № 4.-P. 331-361.
427.	Klee V. Extremal structures of convex sets // Math. Ztschr.—1958.—Bd. 69.—S. 98.
428.	Kollatz L. Funktionalanalysis und Numerische Mathematik.—Berlin etc.: Springer, 1964.
429.	Komuro N. On basic properties of convex functions and convex integrands // Hokkaido Math. J.—1989.—Vol. 18, № l.-P. 1-30.
430.	Konig H. On the abstract Hahn-Banach theorem due to Rod£ // Aequationes Math.— 1987.—Vol. 34, № l.-P. 89-95.
431.	Koshi Sh., Komuro N. A generalization of the Fenchel-Moreau theorem // Proc. Japan Acad. Ser. A. Math. Sci.-1983.-Vol. 59.-P. 178-181.
Литература
523
432.	Koshi Sh., Lai H. C., Komuro N. Convex programming on spaces of measurable functions // Hokkaido Math. J.-1985.-Vol. 14. -P. 75-84.
433.	Kothe G. Topological Vector Spaces.—Berlin etc.: Springer, 1969.—xv, 456 p.
434.	Kothe G. Topological Vector Spaces. IL—Berlin etc.: Springer, 1980.—xii, 331 p.
435.	Krein M. G., Mit man D. P. On the extreme points of regularly convex sets // Studia Math.-1940.-Vol. 9.-P. 133-138.
436.	Kuhn H. Nonlinear programming: a historical view // Nonlinear Programming.—Providence: Amer. Math. Soc., 1976.—P. 1-26.
437.	Kuhn H., Tucker A. Nonlinear programming // Proceedings of the Second Berkeley Symposium on Mathematical Statistics and Probability.—Berkeley: Univ, of Calif, press, 1951.-P. 481-492.
438.	Kurepa G. Tableaux ramifies d’ensembles. Espaces pseudodistanci£s // C. r. Acad, sci A.-1934.-Vol. 198.-P. 1563-1565.
439.	Kusraev A. G. Boolean-valued convex analysis // Mathematische Optimierung. Theorie und Anvendungen.—Eisenach: Wartburg, 1983.—S. 106-109.
440.	Kusraev A. G. Reflexivity of lattice-normed spaces // Sem. Inst. Prikl. Mat. Dokl.— 1984.-№ 18.-P. 55-57.
441.	Kusraev A. G. Dominated Operators.—Dordrecht: Kluwer, 2000.—446 p.
442.	Kusraev A. G., Kutateladze S. S. Nonstandard methods for Kantorovich spaces // Siberian Adv. Math.-1992.-Vol. 2, № 2.-P. 114-152.
443.	Kusraev A. G., Kutateladze S. S. Nonstandard methods in geometric functional analysis // Amer. Math. Soc. Transl.—1992.—Vol. 151, №2.—P. 91-105.
444.	Kusraev A. G., Kutateladze S. S. Subdifferentials: Theory and Applications.— Dordrecht: Kluwer, 1995.—398 p.
445.	Lacey H. E. The Isometric Theory of Classical Banach Spaces.—Berlin etc.: Springer, 1974.-х, 270 p.
446.	Levi F. W. On Helly’s theorem and the axioms of convexity // J. Indian Math. Soc.— I951.-Vol. 7, № 4.-P. 44-78.
447.	Lifshitz E. A. Ideally convex sets//Funct. Anal. Appl.—1970.—Vol. 4, №4.—P. 76-77.
448.	Lindenstrauss J., Tzafriri L. Classical Banach Spaces. Vol. 2. Function Spaces.— Berlin: Springer, 1996.—xx, 432 p.
449.	Lipecki Z. Extension of positive operators and extreme points. II, III // Colloq. Math.— 1979,-Vol. 42, № 2.-P. 285-289; 1982.-Vol. 46, № 2.-P. 263-268.
450.	Lipecki Z. Extension of vector lattice homomorphisms // Proc. Amer. Math. Soc.— 1980.—Vol. 79.-P. 247-248.
451.	Lipecki Z. Maximal-valued extensions of positive operators // Math. Nachr.—1984.— Vol. 117.—P. 51-55.
452.	Lipecki Z., Thomsen W. Extension of positive operators and extreme points. IV // Colloq. Math.-1982.-Vol. 46.-P. 267-273.
453.	Lipecki Z., Plachky D., Thomsen W. Extension of positive operators and extreme points. I // Ibid.-1979.-Vol. 42, № 2.-P. 279-284; 1982.-Vol. 46, № 2.-P. 269-273.
454.	Loeb P. A., Wolff M. (ed.). Nonstandard Analysis for the Working Mathematician.— Dordrecht: Kluwer, 2000.—xiv, 311 p.
455.	Loewen P. The proximal subgradient formula in Banach space // Canad. J. Math.— 1988.—Vol. 31, № 3.-P. 353-361.
456.	Loewen P. D. Optimal Control via Nonsmooth Analysis.—Providence (RI): Amer. Math. Soc., 1993.—ix, 153 p.
457.	Lomonosov V. I. A countrexample to the Bishop-Phelps theorem in complex spaces // Israel J. Math.-2000.-Vol. 115.-P. 25-28.
458.	Loridan R. s-Solutions in vector minimization problems // J. Optim. Theory Appl.— 1984.—Vol. 43, № 2.-P. 256-276.
524
Литература
459.	Lucchetti R., Mabivert C. Variational convergences and level sets of multifunctions // Ricerche Mat.-1989.-Vol. 38, № 2.-P. 223-237.
460.	Luc Dinh The. On duality theory in multiobjective programming // J. Optim. Theory Appl.-1984.-Vol. 43, № 4.-P. 557-582.
461.	Luenberger P. G. Optimization by Vector Methods.—New York etc.: Wiley, 1969.—xiii, 326 p.
462.	Luschgy H., Thomsen W. Extreme points in the Hahn-Banach-Kantorovic setting // Pacific J. Math.-1983.-Vol. 105, № 2.-P. 387-398.
463.	Lutz R., Goze M. Nonstandard Analysis.—Berlin etc.: Springer, 1981.—xiv, 261 p.
464.	Luxemburg W. A. J., Schep A. R. A Radon-Nikodym type theorem for positive operators and a dual // Indag. Math.—1978—Vol. 40, № 3.—P. 357-375.
465.	Luxemburg W. A. J., Schep A. R. An extension theorem for Riesz homomorphisms // Indag. Math. N. S.-1979.-Vol. 41.-P. 145-154.
466.	Luxemburg IV. A. J., Zaanen A. C. Riesz Spaces. Vol. 1.—Amsterdam etc.: North-Holland, 1971.—xi, 514 p.
467.	Mahar am D. Decompositions of measure algebras and spaces // Trans. Amer. Math. Soc.-1950.-Vol. 69, № l.-P. 142-160.
468.	Maharam D. The representation of abstract integrals // Ibid.—1953.—Vol. 75, № 1,— P. 154-184.
469.	Maharam D. On kernel representation of linear operators // Ibid.—1955.—Vol. 79, № l.-P. 229-255.
470.	Maharam D. On positive operators // Contemp. Math.—1984.—Vol. 26.—P. 263-277.
471.	Martin R. H., Jr. Nonlinear Operators and Differential Equations in Banach Spaces.— New York: Wiley, 1976.—xi, 440 p.
472.	Martinez-Legar J. E. Weak lower subdifferentials and applications // Optimization.— 1990.—Vol. 21, № 3.-P. 321-341.
473.	Martinez Maurica J., Perez Garsia C. A new approach to the Krein-Milman theorem // Pacific J. Math.-1985.-Vol. 120, № 2.-P. 417-422.
474.	McShane E. I. The calculus of variations from beginning through optimal control theory // SIAM J. Control Optim.-1989.-Vol. 27, № 5.-P. 916-939.
475.	McShane E. J. Jensen’s inequality // Bull. Amer. Math. Soc.—1937.—Vol. 43.—P. 521-527.
476.	Michael E. Topologies on spaces of subsets // Trans. Amer. Math. Soc.—1951.— Vol. 71.-P. 152-182.
477.	Mitrinovic D. S., PeZaric J. E., Volenec V. Recent Advances in Geometric Inequalities.—Dordrecht: Kluwer, 1989.—xiv, 710 p.
478.	Mordukhovich B. S. Complete characterization of openness, metric regularity, and Lipschitzian properties of multifunctions // Trans. Amer. Math. Soc.—1993.—Vol. 340, № l.-P. 1-35.
479.	Mordukhovich B. S. Variational Analysis and Generalized Differentiation. Vol. 1. Basic Theory. Vol. 2. Applications.—Berlin: Springer, 2006.—xxii, 579 p.; xxii, 612 p.
480.	Moreau J.-J. Fonctions Convexes en Dualite, Multigraph.—Montpellier: Univ, de Montpellier, 1962.
481.	Motzkin T. S. Endovectors in convexity // Proc. Symp. Pure Math.—1963.—Vol. 7.— P. 361-387.
482.	Narici L., Beckenstein E. The Hahn-Banach theorem: the life and times // Topology Appl.-1997.-Vol. 77, № 2.-P. 193-211.
483.	Nehse R. The Hahn-Banach property and equivalent conditions // Comment. Math. Univ. Carolin.-1978.-Vol. 19, № l.-P. 165-177.
484.	Nelson E. Internal set theory: A new approach to nonstandard analysis // Bull. Amer. Math. Soc.-1977.-Vol. 83, № 6.-P. 1165-1198.
Литература
525
485.	Nemeth А. В. On the subdifferentiability of convex operators // J. London Math. Soc.-1986.-Vol. 34, № 3.-P. 592-598.
486.	Nemeth A. B. Between Pareto efficiency and Pareto e-efficiency // Optimization.— 1989.—Vol. 20, № 5.-P. 615-637.
487.	Neumann M. On the Strassen disintegration theorem // Arch. Math.—1977.—Vol. 29, № 4.-P. 413-420.
488.	Neumann M. Continuity of sublinear operators on F-spaces // Manuscripta Math.— 1978.—Vol. 26, № 1/2.-P. 37-61.
489.	Neustadt L. W. Optimization — a Theory of Necessary Conditions.—Princeton: Princeton Univ, press, 1976.—xi, 424 p.
490.	Ng K.-F., Law С. K. Monotonic norms in ordered Banach spaces // J. Austral. Math. Soc.-1988.-Vol. 45, № 2.-P. 217-219.
491.	Noll D. Generic Fr6chet-differentiability of convex functions on small sets // Arch. Math.-1990.-Vol. 54, № 5.-P. 487-492.
492.	Nonlinear and Convex Analysis: Proceedings in Honor of Ky Fan.—New York etc.: Dekker, 1987.
493.	Nonstandard Analysis and Its Applications.—Cambridge: Cambridge Univ, press, 1988.
494.	Nowakowski A. Sufficient conditions for s-optimality // Control Cybernet.—1988.— Vol. 17, № l.-P. 29-43.
495.	Nozicka F., Grygorova L., Lommatzsch K. Geometrie, Konvexer Mengen und Konvexe Analysis.—Berlin: Akad. Verlag, 1988.
496.	Oates D. K. A non-compact Krein-Mil'man theorem // Pacific J. Math.—1971.— Vol. 36, № 3.-P. 781-788.
497.	Orhon M. On the Hahn-Banach theorem for modules over C(S) I I J. London Math. Soc.-1969.-Vol. 1, № 2.-P. 363-368.
498.	De Pagter B., Wnuk W. Some remarks on Banach lattices with nonatonic duals // Indag. Math. N. S.-1990.-Vol. 1, № 3.-P. 391-394.
499.	Pales Z. A generalization of the Dubovitskii-Milyutin separation theorem for commutative semigroups // Arch. Math.—1989.—Vol. 52, № 4.—P. 384-392.
500.	Pallaschke D., Recht P. On the steepest-descent method for a class of quasidif-ferentiable optimization problems // Nondifferentiable Optimization: Motivations and Applications: Proc. II AS A Workshop, Sopron, Hung., 1984.—Sopron, 1985.—P. 252-263.—(Lecture Notes Econ. Math. Syst.; 255).
501.	Pallashke D., Urbanski R. Reduction of quasidifferentials and minimal representations // Math. Programming.—1994.—Vol. 66.—P. 161-180.
502.	Pallaschke D., Urbanski R. Decompositions of compact convex sets // J. Convex Anal.-1997.-Vol. 4, № 2.-P. 333-342.
503.	Papageorgiou N. Nonsmooth analysis on partially ordered vector spaces. Pt 1. Convex case // Pacific J. Math.-1983.-Vol. 107, № 2.-P. 403-458.
504.	Papageorgiou N. Nonsmooth analysis on partially ordered vector spaces. Pt 2. Nonconvex case, Clarke’s theory // Ibid.—1983.—Vol. 109, Xs 2.—P. 469-491.
505.	Papagiotopulos T, D. Nonconvex energy functions // Acta mech.—1983.—Vol. 48.— P. 160-183.
506.	Pascali D., Sburlan S. Nonlinear Mappings of Monotone Type.—Bucuresti: Editura Academiei, 1978.—341 p.
507.	Patrone F., Tijs S. H. Unified approach to approximations in games and multiobjective programming // J. Optim. Theory Appl.—1987.—Vol. 52, № 2.—P. 273-278.
508.	Penot J.-P, Calculus sous-differentiel et optimization // Funct. Anal.—1978.—Vol. 27, № 2.-P. 248-276.
526
Литература
509.	Penot J.-P.j Thera M. Polarite des applications convexes a valeurs vectorielles // С. r. Acad. sci. A.-1979.-Vol. 288, № 7.-P. A419-A422.
510.	Penot J.~P.j Voile M. On quasi-convex duality // Math. Oper. Res.—1990.—Vol. 15, № 4.-P. 597-625.
511.	Phelps R. R, Extreme positive operators and homomorphisms // Trans. Amer. Math. Soc.-1963.-Vol. 108.-P. 265-274.
512.	Phelps R. R, Convex Functions, Monotone Operators and Differentiability.—Berlin etc.: Springer, 1993.—xi, 117 p.
513.	Polyakova L. N. On the minimization of a quasidifferentiable function subject to equality-type quasidifferentiable constraints // Math. Programming Stud.—1986.— Vol. 29.-P. 44-55.
514.	Pourciau В. H. Analysis and optimization of Lipschitz continuous mappings // J. Optim. Theory Appl.-1977.-Vol. 22, № 3.-P. 311-351.
515.	Preiss D. Differentiability of Lipschitz functions on Banach spaces // J. Funct. Anal.— 1990.—Vol. 91.-P. 312-345.
516.	Ptdk V, The principle of uniform boundedness and the closed graph theorem // Czechoslovak. Math. J.—1962.—Vol. 12.—P. 523-528.
517.	Ptdk V. On complete topological vector spaces // Amer. Math. Soc. Transl.—1977.— Vol. 110.-P. 61-106.
518.	Radnaev V. A. On n-disjoint operators // Siberian Adv. Math.—1997.—Vol. 7, № 4.— P. 44-78.
519.	Raffin C. Sur les programmes convexes definis dans des espaces vectoriels topologi-ques // Ann. Inst. Fourier.—1970.—Vol. 20,	1.—P. 457-491.
520.	Reiland T. W. Nonsmooth analysis and optimization for a class of nonconvex mappings // Proc. Intern. Conf, of Infinite-Dimensional Programming / Ed. E. J. Anderson and A. B. Philot.—Berlin etc.: Springer, 1985.
521.	Reiland T. W. Nonsmooth analysis and optimization on partially ordered vector spaces // Intern. J. Math. Sci.—1991.—Vol. 15, № 1.—P. 65-81.
522.	Riccen B. Sur les multifonctions a graphe convexe // C. r. Acad. sci. A.—1984.— Vol. 229, № 5.-P. 739-740.
523.	Ritter K. Optimization theory in linear spaces. Pt 3. Mathematical programming in linear ordered spaces // Math. Anal.—1970.—Vol. 184, № 2.—P. 133-154.
524.	Robertson IV. Closed graph theorems and spaces with webs // Proc. London Math. Soc.-1972.-Vol. 24, № 4.-P. 692-738
525.	Robertson A. P., Robertson W. On the closed graph theorem // Proc. Glasgow Math. Assoc.-1956.-Vol. 3.-P. 9-12.
526.	Robinson S. M. Regularity and stability for convex multivalued functions // Math. Oper. Res.-1976.-Vol. 1, № 2.-P. 130-143.
527.	Rockafellar R. T. Monotone Processes of Convex and Concave Type.—Providence (RI), 1967.-74 p.—(Mem. Amer. Math. Soc.; 77).
528.	Rockafellar R. T. On the maximal monotonicity of subdifferential mappings // Pacific J. Math.-1970.-Vol. 33, № l.-P. 209-216.
529.	Rockafellar R. Directionally Lipschitzian functions and subdifferential calculus // Proc. London Math. Soc.-1979.-Vol. 37, № 6.-P. 331-355.
530.	Rockafellar R. T. Generalized directional derivatives and subgradients of nonconvex functions I I Canad. J. Math.-1980.-Vol. 32.-P. 157-180.
531.	Rockafellar R. T. Proximal subgradients, marginal values, and augmented Lagrangians in nonconvex optimization // Math. Oper. Res.—1981.—Vol. 6.—P. 424-436.
532.	Rockafellar R. T. The Theory of Subgradients and Its Applications to Problems of Optimization: Convex and Nonconvex Functions.—Berlin etc.: Heldermann, 1981.—vii, 107 p.
Литература
527
533.	Rockafellar R. T. Extensions of subgradient calculus with applications to optimization // Nonlinear Anal., Theory Meth. Appl.—1985.—Vol. 9.—P. 665-698.
534.	Rockafellar R. T. First- and second-order epi-differentiability in nonlinear programming // Trans. Amer. Math. Soc.—1988.—Vol. 307, № 1.—P. 75-108.
535.	Rockafellar R. T. Proto-differentiability of set-valued mappings and its applications in optimization // Ann. Inst. H. Poincar£ Anal. Non Lin£aire.—1989.—Vol. 6.—P. 449-482.
536.	Rockafellar R. T. Generalized second order derivatives of convex functions and saddle functions // Trans. Amer. Math. Soc.—1990.—Vol. 322, № 1.—P. 51-77.
537.	Rockafellar R, T., Wets R. J.-B. Variational Analysis.—Berlin etc.: Springer, 1998.— xiii, 733 p.
538.	Rodriguez-Salinas B., Bou L. A Hahn-Banach theorem for an arbitrary vector space // Boll. Un. Mat. Ital.-1974.-Vol. 10, № 4.-P. 390-393.
539.	Rolewicz S. Analiza functionala i theoria steravania.—Warszawa: Panstw. wyd-wo nauk., 1977.
540.	Rosenthal H. L\-convexity // Funct. Anal.—1988.—P. 156-174.—(Lecture Notes in Math.; 1332).
541.	Rubinov A. M. Abstract Convexity and Global Optimization.—Dordrecht: Kluwer, 2000.—xvii, 490 p.—(Nonconvex Optimization and Its Applications; Vol. 44).
542.	Schaefer H. H. Banach Lattices and Positive Operators.—Berlin etc.: Springer, 1974.— xi, 376 p.
543.	Scholtes S. Minimal pairs of convex bodies in two dimensions // Mathematika.—1992.— Vol. 39.-P. 267-273.
544.	Schroder J. Das Iterationsverfahren bei allgemeinierem Abshtandsbegriff // Math. Ztschr.-1965.-Bd. 66.-S. 111-116.
545.	Schwarz H.-V. Banach Lattices and Operators.—Leipzig: Teubner, 1984.—208 p.
546.	Shapiro A. On optimality condition in quasidifferentiable optimization // SIAM J. Control Optim.-1984.-Vol. 23, № 4.-P. 610-617.
547.	Simons S. Subdifferentials of convex functions // Recent Developments in Optimization Theory and Nonlinear Analysis.—Jerusalem, 1995.—P. 217-246.
548.	Simons S. A new version of the Hahn-Banach theorem // Arch. Math. (Basel).— 2003.—Vol. 80, №6.-P. 630-646.
549.	Slater M. Lagrange multipliers revisited: A contribution to nonlinear programming // Cowles Commiss. Discuss. Pap. Math.—1950.—Vol. 403.
550.	Smale S. Global analysis and economics. III. Pareto optima and price equilibria // J. Math. Econ.—1974,—Vol. 1, № 2.-P. 107-117.
551.	Smith P. Convexity Methods in Variational Calculus.—New York etc.: Wiley, 1985.-х, 222 p.
552.	Solovay R., Tennenbaum S. Iterated Cohen extensions and Souslin’s problem // Ann. Math.-1972.-Vol. 94, № 2.-P. 201-245.
553.	Sontag Y., Zalinescu C. Scalar convergence of convex sets // J. Math. Anal. Appl.— 1992.—Vol. 164, № l.-P. 219-241.
554.	Sorensen D. C., Wets R. J.-B. (ed.). Nondifferential and Variational Techniques in Optimization.—Amsterdam etc.: North-Holland, 1982.
555.	Stadler W. A survey of multicriteria optimization or the vector maximum problem. Pt 1. 1776-1960 // J. Optim. Theory Appl.-1979.-Vol. 29, № l.-P. 1-52.
556.	Strassen V. The existence of probability measures with given martingals // Ann. Math. Stat.-1965.-Vol. 36.-P. 423-439.
557.	Strodiot J. J., Nguyen V. H., Heukemes N. e-Optimal solutions in nondifferentiable convex programming and some related questions // Math. Programming.—1983.— Vol. 25.-P. 307-328.
528
Литература
558.	Strodiot J. J., Nguyen V, H., Heukemes N. A note on the Chebyshev ^-approximation problem // Optimization. Theory and Algorithms.—New York: Dekker, 1983.—P. ЮЗ-110.
559.	Stroyan K. D., Luxemburg W. A. J. Introduction to the Theory of Infinitesimals.—New York: Acad, press, 1976.
560.	Takeuti G. Two Applications of Logic to Mathematics.—Tokyo; Princeton; Iwanami: Princeton Univ, press, 1978.—viii, 137 p.
561.	Takeuti G. Boolean valued analysis // Applications of Sheaves: (Proc. Res. Symp. Appl. Sheaf Theory to Logic, Algebra and Anal., Univ. Durham, Durham, 1977).— Berlin etc.: Springer, 1979.—P. 714-731.—(Lecture Notes in Math.; 753).
562.	Takeuti G., Zaring W. M. Axiomatic Set Theory.—New York etc.: Springer, 1973.— viii, 238 p.
563.	Thera M. Calcul epsilon-sous-differentiel des applications convexes vectorielles // C. r. Acad. sci. A.-1980.-Vol. 290.-P. 549-551.
564.	Thera M. Subdifferential calculus for convex operators // J. Math. Anal. Appl.— 1981.—Vol. 80, № l.-P. 78-91.
565.	Thibault L. Fonctions compactement Lipschitziennes et programmat ion mathe-matique // C. r. Acad. sci. A.-1978.-Vol. 287, № 4.-P. 213-216.
566.	Thibault L. Sous-differentiels de fonctions vectorielles compactement lipschitziennes // Ibid.-1978.-Vol. 286, № 21.-P. 995-999.
567.	Thibault L. Epidifferentiels de fonctions vectorielles // Ibid.—1980.—Vol. 290, Xе 2.— P. 87-90.
568.	Thibault L. Subdifferentials of nonconvex vector-valued functions // J. Math. Anal. Appl.-1982.-Vol. 86, № 2.-P. 319-344.
569.	Thiriez IL, Zionts S. (ed.). Multiple Criteria Decision Making.—Berlin etc.: Springer, 1976.-409 p.
570.	7b T.-O. The equivalence of the least upper bound property in ordered vector spaces // Proc. Amer. Math. Soc.—1970.—Vol. 30, Xs 2.—P. 287-296.
571.	Treiman J. Clarke’s gradients and epsilon-subgradients in Banach spaces // Trans. Amer. Math. Soc.-1986.-Vol. 294, X« l.-P. 65-78.
572.	Ursescu C. Multifunctions with convex closed graph // Czechoslovak. Math. J. — 1975.—Vol. 25, X* 3.-P. 432-441.
573.	Ursescu C. Tangency and openness of multifunctions in Banach spaces // An. §tii. Univ. Ia§i. Sect. I. A. N. S.-1988.-Vol. 34, X® 3.-P. 221-226.
574.	Valadier M. Sous-differentiabilite de fonctions convexes a valeurs dans un espace vectoriel ordonne // Math. Scand.—1972.—Vol. 30, Xs 1.—P. 65-74.
575.	Valdivia M. Br-Complete spaces which are not B-complete // Math. Ztschr.—1984.— Bd. 185, X« 2.-S. 253-259.
576.	Valentine F. A. Convex Sets.—New York etc.: Krieger, 1976.—ix, 238 p.
577.	Valyi Is. Strict approximate duality in vector spaces // Appl. Math. Comput.—1988.— Vol. 25, X* 3.-P. 227-246.
578.	Verona M. E. More on the differentiability of convex functions // Proc. Amer. Math. Soc.-1988.-Vol. 103, X« l.-P. 137-140.
579.	Vincent-Smith G. The Hahn-Banach theorem for modules // Proc. London Math. Soc.-1967.-Vol. 17, X* 3.-P. 72-90.
580.	Vuza D. The Hahn-Banach extension theorem for modules over ordered rings // Rev. Roum. Math. Pures Appl.—1982.—Vol. 27.—P. 989-995.
581.	Ward D. E. Convex subcones of the contingent cone in nonsmooth calculus and optimization // Trans. Amer. Math. Soc.—1987.—Vol. 302, X* 2.—P. 661-682.
582.	Ward D. E. The quantification tangent cones // Canad. J. Math.—1988.—Vol. 40, X* 3.-P. 666-694.
Литература
529
583.	Ward D. E. Corrigendum to “Convex subcones of the contingent cone in nonsmooth calculus and optimization” // Trans. Amer. Math. Soc.—1989.—Vol. 311, Xй 1.—P. 429-431.
584.	Ward D. E., Borwein J. M. Nonsmooth calculus in finite dimensions // SIAM J. Control Optim.-1987.-Vol. 25.-P. 1312-1340.
585.	Warga J. Derivative containers, inverse functions and controllability // Calculus Variations and Control Theory.—1976.—Xе 4.—P. 33-46.
586.	White D. I. Epsilon efficiency // J. Optim. Theory Appl.—1986.—Vol. 49, № 2.— P. 319-337.
587.	Whitfield J. H. M., Zizler V. E. Extremal structure of convex sets in spaces not containing co // Math. Ztschr.—1988.—Bd. 197, № 2.—S. 219-221.
588.	Wittmann R. Ein neuer Zugang zu den Hahn-Banach Satzen von Anger und Lembcke // Exposition. Math.—1985.—Vol. 3, Xе 3.—P. 273-278.
589.	Wong Y. Ch., Ng K.-F. Partially Ordered Topological Vector Spaces.—Oxford: Clarendon press, 1973.—217 p.
590.	Wright J. D. M. A Radon-Nikodym theorem for Stone algebra valued measures // Trans. Amer. Math. Soc.—1969.—Vol. 139.—P. 75-94.
591.	Wright J. D. M. Stone-algebra-valued measures and integrals // Proc. London Math. Soc.-1969.-Vol. 19, № 3.-P. 107-122.
592.	Wright J. D. M. Measures with values in a partially ordered vector space // Ibid.— 1972.—Vol. 25, № 3.-P. 675-688.
593.	Wright J. D. M. An algebraic characterization of vector lattices with the Borel regularity property // J. London Math. Soc.—1973.—Vol. 7.—P. 277-285.
594.	Yongxin L., Shuzhong S. A Generalization of Ekeland’s e- and of Borwein-Preiss’ Smooth e-Variational Principle.—Preprint, 1992.
595.	Zaanen A. C. Riesz Spaces. II.—Amsterdam etc.: North-Holland, 1983.—xi, 720 p.
596.	Zagrodny D. Approximate mean value theorem for upper subderivatives // Nonlinear Anal., Theory Meth. Appl.-1988.-Vol. 12, № 12.-P. 1413-1428.
597.	Zalinescu C. The Fenchel-Rockafellar Duality Theory for Mathematical Programming in Order Complete Vector Lattices and Applications.—Bucureshti, 1980.
598.	Zalinescu C. Duality for vectorial nonconvex optimization by convexification and applications // An. §tii. Univ. Ia§i. Sect. I. A. N. S.—1983.—Vol. 39, Xй 1.—P. 16-34.
599.	Zalinescu C. Duality for vectorial convex optimization, conjugate operators and subdifferentials. The continuous case // Mathematische Optimierung: Theorie und Anvendungen.—Eisenach, 1984.—S. 135-138.
600.	Zalinescu C. Convex Analysis in General Vector Spaces.—London etc.: World Scientific Publ., 2002.-367 p.
601.	Zeidler E. Applied Functional Analysis. Applications to Mathematical Physics. — Berlin etc.: Springer, 1995.—xxix, 479 p.
602.	Zeleny M. (ed.) Multiple Criteria Decision Making, Kyoto, 1975.—Berlin etc.: Springer, 1976.—345 p.
603.	Zowe J. Subdifferentiability of convex functions with values in an ordered vector space // Math. Scand.—1974.—Vol. 34, Xй 1.—P. 69-83.
604.	Zowe J. A duality theorem for a convex programming problem in order complete vector lattices // J. Math. Anal. Appl.—1975.—Vol. 50, Xй 2.—P. 273-287.
605.	Zowe J. Linear maps majorized by a sublinear map // Arch. Math.—1975.—Vol. 36.— P. 637-645.
606.	Zowe J. The saddle point theorem of Kuhn and Tucker in ordered vector spaces // J. Math. Anal. Appl.-1977.-Vol. 57, Xй l.-P. 41-55.
607.	Zowe J. Sandwich theorems for convex operators with values in an ordered vector space // Ibid.-1978.-Vol. 66, Xй 2.-P. 282-296.
18 Кусраев А. Г., Кутателадзе С. C.
Именной указатель
Азимов Л. (Asimow L.), 153, 154, 156
Акилов Г. П. (Akilov G. В), 76, 77, 154, 224
Александров А. Д. (Alexandrov A, D.), 74, 78, 355, 356
Алексеев В. М. (Alekseev V. М.), 296, 299, 354
Алипрантис К. (Aliprantis С. D.), 154
Алфсен 9. (Alfsen Е. М.), 153, 154
Альбеверио С. (Albeverio S.), 469
Анденаес П. (Andenaes Р. R.), 154
Асплунд Е. (Asplund Е.), 298
Астафьев Н. Н. (Astafev N. N.), 354
Ахиллес A. (Achilles А.), 355
Базар М. С. (Bazaraa М. S.), 473
Бак Р. (Buck R. С.), 154
Бакан А. Г. (Bakan A. G.), 225
Банах С. (Banach S.), 165, 224
Барбу В. (Barbu V.), 298, 355
Басаева Е. К. (Basaeva Е. К.), 358, 411, 413, 414
Васкес Г. (Buskes G.), 77, 154, 157
Бейкер Дж. (Baker J. W.), 228
Бенко И. (Benko L), 154
Берже М. (Berger М.), 74
Верно С. Дж. (Bernau S. J.), 156, 157
Бёркиншо О. (Burkinshaw О.), 154
Бигард A. (Bigard А.), 154
Бир Г. (Beer G.), 471
Биркгоф Г. (Birkhoff G.), 76, 78
Бишоп 9. (Bishop Е.), 358, 359
Бляшке В. (Blaschke W.), 228
Болтянский В. Г. (Boltyanskii V. G.), 355, 473
Боннайс В. (Bonnice W.), 77
Боннезен Т. (Bonnesen Т.), 74
Бонсол Ф. (Bonsall F. F.), 154, 224
Борвейн Дж. (Borwein J. М.), 228, 299,
358, 472
Браудер Ф. (Browder F. Е.), 298
Врезис X. (Brezis Н.), 298
Врекнер В. (Breckner W. W.), 154
Брёнстед A. (Br0nsted А.), 296, 358, 359
Буземан Г. (Busemann Н.), 74
Бураго Ю. Д. (Burago Yu. D.), 74
Бурбаки Н. (Bourbaki N.), 224, 226, 228
Бурген Р. Д. (Bourgin R. D.), 299, 359
Бухвалов А. В. (Bukhvalov А. V.), 154
Бэр Р. (Baire R.), 228
Валадье М. (Valadier М.), 76, 225, 297,
302, 357
Валдивиа М. (Valdivia М.), 227
Валентайн Ф. (Valentine F. А.), 74
Варга Дж. (Warga J.), 78, 355, 473
Васильев Л. В. (Vasil'ev L. V.), 297, 411
Васильев Ф. П. (Vasil'ev F. Р.), 356
Векслер А. И. (Векслер А. I.), 79
Винсент-Смит Г. (Vincent-Smith G.), 154
Внук В. (Wnuk W.), 157
Вонг Ч. (Wong Y. Ch.), 224, 228
Вопенка П. (VopSnka Р.), 156
Вуза Д. (Vuza D.), 154
Вулих Б. 3. (Vulikh В. Z.), 224, 300, 377
Вьеторис Л. (Vietoris L.), 227
Гаане О., ван (van Gaans О.), 225
Гамкрелидзе Р. В. (Gamkrelidze R. V.), 355
Гейлер В. А. (Гейлер V. А.), 79
Глазырина И. П. (Glazyrina I. Р.), 155
Гольштейн Е. Г. (Gol'shtem Е. G.), 302,
354
Именной указатель
531
Гордон Е. И. (Gordon Y. L), 469
Гороховик В. В. (Gorokhovik V. V.), 355, 412
Грюнбаум Б. (Griinbaum В.), 74, 75
Гуд Дж. (Goode J. J.), 473
Гуз М. (Goze М.), 468
Гупал А. М. (Gupal А. М.), 356
Гурвиц Л. (Gurwicz L.), 355
Гусоуб Н. (Ghoussoub N.), 359
Гутман А. Е. (Gutman А. Е.), 79, 358
Гюйсманс С. Б. (Huijsmans С. В.), 156
Данцер Л. (Danzer L.), 75
Де Вильде М. (De Wilde М.), 228
Деймлинг К. (Deimling К.), 298
Демьянов В. Ф. (Dem'yanov V. F.), 297, 411-415
Джайлз Дж. (Giles J. R.), 299
Джеймс Р. С. (James R. С.), 359
Джеймсон Г. (Jameson G. J. О.), 224, 226, 228
Дистель Дж. (Diestel J.), 154, 299, 359
Долецкий Ш. (Dolecki Sh.), 75, 468, 469, 471
Дорофеева А. В. (Dorofeeva А. V.), 356
Ерёмин И. И. (Егётт I. L), 354
Зайдлер Е. (Zeidler Е.), 298
Зайонтс С. (Zionts S.), 355
Залгаллер В. A. (Zalgaller V. А.), 74
Залинеску К. (Zalinescu С.), 297, 354
Заславский А. Я. (Zaslavskii A. Ya.), 155
Зелени М. (Zeleny М.), 355
Зов Дж. (Zowe J.), 225, 297, 356
Иванилов Ю. П. (Ivanilov Yu. Р.), 356
Иоффе А. Д. (Ioffe A. D.), 76, 77, 154, 296, 299, 302, 354-356, 471, 472
Ирриарт-Уррути Ж.-Б. (Hiriart-Urruty J.-B.), 297, 355, 416, 471
Йонгксин Л. (Yongxin L.), 359
Каваи Т. (Kawai Т.), 500
Канторович Л. В. (Kantorovich L. V.), 76-78, 224, 304, 377
Каратеодори К. (Carath£odory С.), 75
Карманов В. Г. (Karmanov V. G.), 354 Каруш В. (Karush W.), 304, 356 Кастен Ч. (Castaing Ch.), 76, 302, 357 Келли Дж. (Kelley J. L.), 74, 205-228 Кёте Г. (Kothe G.), 228
Кларк Ф. (Clarke F. И.), 78, 358, 418, 469, 471
Кли В. (Klee V. L.), 75, 153, 359
Колесников Е. В. (Kolesnikov Е. V.), 79
Коллинз Г. С. (Collins Н. S.), 226
Корсон X. (Corson Н. Н.), 225
Кохрейн Дж. Л. (Cochrane J. L.), 355
Коэн П. Дж. (Cohen Р. J.), 156 Красносельский М. А.
(Krasnosel'skii М. А.), 224, 296 Крейн М. Г. (Krein М. G.), 76, 153, 224, 225
Креншо Дж. (Crenshaw J. А.), 79 Кругер А. Я. (Kruger A. Ya.), 472, 473 Кун X. (Kuhn Н.), 304, 355
Купер Дж. (Cooper J. L. В.), 79
Курант Р. (Courant R.), 356
Куратовский К. (Kuratowski К.), 227, 228
Курепа Г. (Kurepa G.), 78
Кусраев А. Г. (Kusraev A. G.), 76-79, 152-156, 224-228, 296, 300-302, 355, 356, 358, 377, 411-415, 468-472
Кутателадзе С. С. (Kutateladze S. S.), 76, 77, 152, 154-157, 224, 296, 297, 302, 355, 356, 468, 469, 471
Лагранж Ж. (Lagrange J. L.), 314
Левашов В. A. (Levashov V. А.), 155
Леви Ф. В. (Levi F. W.), 75
Левин В. Л. (Levin V. L.), 77, 78, 155,
226, 296, 297, 299, 301, 302, 356-358
Левитин Е. С. (Levitin Е. S.), 297, 473
Лежандр А.-М. (Legandre А.-М.), 297 Лейбниц Г. В. (Leibniz G. W.), 297, 468 Лейхтвейс К. (Leichtweifi К.), 74, 153, 228
Линденштраусс Й. (Lindenstrauss J.), 77, 154, 225
Линдстрём Т. (Lindstr0m Т. L.), 469
Линке Ю. Э. (Linke Yu. Ё), 225
Липецкий 3. (Lipecki Z.), 154
18:
532
Именной указатель
Лифшиц Е. A. (Lifshits Е. А.), 224
Лоевен П. (Loewen Р. D.), 359
Лозановский Г. Я. (Lozanovskii G. Ya.), 157, 300
Ломоносов В. И. (Lomonosov V. L), 359
Лоран П.-Ж. (Laurent 354
Лузин Н. Н. (Luzin N. N.), 228
Лутц Р. (Lutz R.), 468
Лэйси Э. (Lacey Н. Е.), 77
Люксембург В. (Luxemburg W. A. J.), 152, 299, 300, 468
Магарам Д. (Maharam D.), 299, 302
Магарил-Ильяев Г. Г.
(Magaril-Ilyaev G. G.), 78
Мазур С. (Mazur S.), 224, 298
Майкл Э. (Michael Е.), 227
Мак-Кормик Г. (McCormick G. Р.), 356
Макаров В. Л. (Makarov V. L.), 76, 356
Малюгин С. A. (Malyugin S. А.), 79, 152
Мильман Д. П. (Mil'man D. Р.), 153, 297
Милютин A. A. (Milyutin А. А.), 473
Минковский Г. (Minkowski Н.), 153, 225, 226
Минти Г. Дж. (Minty G. J.), 298
Михалевич В. С. (Mikhalevich V. S.), 356
Моисеев Н. Н. (Moiseev N. N.), 356 Мордухович Б. Ш.
(Mordukhovich В. S.), 472
Моро Ж.-Ж. (Moreau J.-J.), 74, 76, 296
Моцкин Т. С. (Motzkin Т. S.), 74
Накано X. (Nakano Н.), 76
Намиока И. (Namioka I.), 226, 228
Нг К.-Ф. (Ng Kung-Fu), 224, 228
Незе Р. (Nehze R.), 297, 355
Нейман М. (Neumann М.), 228, 301 фон Нейман Дж. (von Neumann J.), 78 Нельсон Э. (Nelson Е.), 308
Никкайдо X. (Nikaido Н.), 354
Нойштадт Л. (Neustadt L. W.), 355, 473
Норкин В. И. (Norkin V. L), 356
Нурминский Е. A. (Nurminskii Е. А.), 297
Нэшд М. (Nashed М. Z.), 473
Обэн Ж.-П. (Aubin J.-P.), 76, 228, 297-299, 358, 359
Орлич С. (Orlich S.), 224
Орхон М. (Orhon М.), 154
Осмоловский Н. П. (Osmolovskii N. Р.), 297, 473
Оутс Д. (Oates D. К.), 154
Паллашке Д. (Pallaschke D.), 411 Панагиотопулос П. Д.
(Panagiotopoulos Р. D.), 411 Папагеоргиу Н. С. (Papageorgiou N. S.), 358, 472
Парето В. (Pareto W.), 355
Паскали Д. (Pascali D.), 298
де Пахте Б. (de Pagter В.), 156, 157 Пено Ж.-П. (Penot J.-P.), 297, 299, 415, 472
Пинскер А. Г. (Pinsker A. G.), 78, 79, 377
Поляк Б. Т. (Polyak В. Т.), 355
Полякова Л. Н. (Polyakova L. N.), 411, 415
Прейс Д. (Preiss D.), 358
Прекупану Т. (Precupanu Th.), 298, 355
Птак В. (PUk V.), 226, 227
Пурсё Б. (Pourciau В. Н.), 78
Пшеничный Б. Н. (Pshenichnyi В. N.), 76, 355, 356, 413, 472
Раднаев В. A. (Radnaev V. А.), 79, 156, 157
Райков Д. A. (Raikov D. А.), 226
Райт М. (Wright J. D. М.), 152, 153, 155
Раффен К. (Raffin С.), 297
Рейланд Т. В. (Reiland Т. W.), 472
Рисе Ф. (Riesz F.), 76
Риттер К. (Ritter К.), 355
Робертсон А. П. (Robertson А. Р.), 224, 226
Робертсон В. (Robertson W.), 224, 226, 228
Робинсон A. (Robinson А.), 468
Робинсон С. М. (Robinson S. М.), 224, 227
Рокафеллар Р. Т. (Rockafellar R. Т.), 74,
76, 153, 296-299, 355, 357-359, 469, 471
Именной указатель
533
Рубинов А. М. (Rubinov А. М.), 76, 77, 152, 154, 155, 356, 411-414, 417, 471
Рудин У. (Rudin W.), 224
ван Руж A. (van Rooij А. С. М.), 157
Рутицкий Я. Б. (Rutitskii Ya. В.), 296
Сбёрлан С. (Sburlan S.), 298
Сильверман Р. (Silvermann R.), 77
Скотт Д. (Scott D.), 156
Смейл С. (Smale S.), 356
Соболев А. В. (Sobolev А. V.), 224
Соловей Р. (Solovay R.), 156
Солтан В. П. (Soltan V. Р.), 75, 153
Ставроулакис Г. Е. (Stavroulakis Е.), 411
Столярова Е. М. (Stolyarova Е. М.), 356
Стройан К. Д. (Stroyan К. D.), 468
Стройвоз М. (Strojwas Н. М.), 472
Стэдлер В. (Stadler W.), 355
Суслин М. Я. (Souslin М. Ya.), 228
Такеути Г. (Takeuti G.), 155
Таккер А. У. (Tucker A. W.), 74, 304, 355
Темам Р. (Temam R.), 297-299, 355, 357, 358
Тера М. (Thera М.), 297, 299
Тибо Л. (Thibault L.), 358, 469, 472
Тириез X. (Thiriez Н.), 355
Тихомиров В. М. (Tikhomirov V. М.), 74, 76, 77, 152, 228, 296, 299, 302 354-356, 472
Ту Т.-О. (То Т.-О.), 77
Уард Д. (Ward D. Е.), 469
Удзава X. (Uzawa Н.), 355
Уль Дж. (Uhl J. J.), 154, 299
Урбански Р. (Urbanski R.), 411
Урсеску К. (Ursescu С.), 224, 227
Фабиан М. (Fabian М.), 359
Федоренко Р. П. (Fedorenko R. Р.), 356
Фелпс Р. (Phelps R.), 154, 156, 298, 299, 358, 359
Фельдман М. М. (Fel'dman М. М.), 224, 225, 356
Фенстад Й (Fanstad J. Е.), 469
Фенхель В. (Fenchel W.), 74, 76, 296
Фиакко A. (Fiacco А. V.), 356
Фомин С. В. (Fomin S. V.), 296, 299, 354-356
Франковская Е. (Frankowska Н.), 76, 228, 298
Фрейденталь Г. (Freudenthal Н.), 76
Хелли Э. (Helly Е.), 75
Хёрмандер Л. (Hormander L.), 74, 78
Хёэг-Крон Р. (H0egh-Krohn R.), 469
Хогбе-Нленд Г. (Hogbe-Nlend Н.), 224
Холмс Р. (Holmes R. В.), 153, 224, 358, 359
Христенсен Дж. (Christensen J. Р. R.), 228
Хэндшуг М. (Handschug М.), 411
Цафрири Л. (Tzafriri L.), 77
Шамаев И. И. (Shamaev I. I.), 156
Шашкин Ю. A. (Shashkin Yu. А.), 153, 154
Шварц Л. (Schwartz L.), 228
Шейбер Е. (Scheiber Е.), 154
Шеффер X. (Schaefer Н. Н.), 224
Шоке Г. (Choquet G.), 131, 154, 156
Шолтс С. (Scholtes S.), 411
Шомесова В. К. (Shomesova V. К.), 297
Шор Н. (Shor N. Z.), 473
Штрассен В. (Strassen V.), 301
Шужонг С. (Shuzhong S.), 359 Шэп A. (Shep А. Р.), 152, 299, 300
Эглстон Г. (Egglestone Н. G.), 74
Эдвардс Р. (Edwards R. Е.), 154, 224, 226-228
Эйлер Л. (Euler L.), 297
Экланд И. (Ekeland I.), 76, 228, 297-299, 355, 357-359
Эльстер К.-Г. (Elster К.-H.), 297, 355
Энгелькинг Р. (Engelking R.), 226, 227
Эрроу К. (Arrow К. J.), 355
Этуш X. (Attouch Н.), 471
Юрг М. (Jurg М. Т.), 355
Янг Л. (Young L.), 355
Предметный указатель
Автогало, 421
Аксиома вложения, 501
— внешней сборки, 503
— приемлемости, 501
— робинсоновской стандартизации, 503
— суперструктуры, 503
— транзитивности для внутренних множеств, 501, 503
----для классических множеств, 503
— фундирования суженная, 501, 502
Аксиомы связи миров множеств, 500
Алгебра ортоморфизмов, 54
— решеточно упорядоченная, 480
— упорядоченная, 480
Алгоритм Нельсона, 425, 435, 500
Антураж стандартный, 426
Аппроксимация верхняя выпуклая, 412
— нижняя вогнутая, 412
База К-пространства, 127
— векторной решетки, 476
Бесконечная близость, 284
Бесконечно малая, 422
Биполяра множества, 186
— сублинейного функционала, 186
Борнологическое К-пространство, 182
Борнология, 181
— выпуклая, 182
— каноническая, 182
— эквинепрерывная, 182
Бра-отображение, 185
Булева алгебра проекторов, 64
Булевозначный анализ, 120
Веер, 42
— «f-значный, 43
— нечетный, 42
Веер регулярный, 77
Вершина, 21
Вложение каноническое, 494
Внутренность алгебраическая, 29
— относительная, 29
Выпуклая аппроксимация первого порядка, 472
Выпуклость в векторном пространстве, 75
Гало, 421
Гипервыпуклость, 424
Гомоморфизм решеточный, 482
----слабый, 88
Гриль, 439
Двойственность векторнозначная, 226
— Минковского, 59, 80, 361
Дезинтегрирование, 272
Диагональ, 27
Дизъюнктность метрическая, 69
— порядковая, 69
Дифференцируемость по Адамару, 377
Дополнение дизъюнктное, 476
Доступная часть пространства, 425
Единица сильная, 477
----порядковая, 477
Задача многокритериальная экстремальная (оптимизационная), 305 — многоцелевая экстремальная (оптимизационная), 305
— экстремальная динамическая, 325
------дискретная, 331
------терминальная, 327
Законы дистрибутивные бесконечные, 475
Предметный указатель
535
Замыкание функции, 299
Значение программы, 305
Идеал, 477
— максимальный, 477
— нулевой, 97, 145
— порядково плотный, 477
— порядковый, 477
--, порожденный множеством, 477
Изоморфизм векторных решеток, 478,
482
Интегрант, 357
Интервал порядковый, 43, 475
Интерпретация булевозначная, 492
Инфинитезималь, 422
Калибр, 183
— замкнутый, 190
Квазидифференциал, 369
— в нуле, 364
— топологический, 403, 416
Квазидифференцируемость, 369
— равностепенная, 388, 392
— топологическая, 403
Кет-отображение, 185
Класс, 498
— внешний, 498
— внутренний, 498
Кольцо почти рациональное, 118
Комбинация абсолютно выпуклая, 15
—	аффинная, 13
—	выпуклая, 14
—	коническая, 14
—	линейная, 13
Композиция выпуклая, 39
—	инверсная, 27
— соответствий, 22
Компонента, 54, 63, 476
— элемента, 477
Конатус направлений, 423
Конволюция инфимальная, 36
Контингенция, 427
Конус, 11
— Адамара, 427
— асимптотический, 15
— борнологически несплющенный, 182
Конус Булигана, 427
— воспроизводящий, 20, 88
— выпуклый, 11
— гиперкасательный, 427
— допустимых направлений, 404, 427
— Кларка, 427
— нормальный, 159
— острый, 20, 474
— положительный, 474
— регуляризирующий, 460
— рецессивный, 15
Конусы в борнологическом общем положении, 182
— в общем положении, 163, 164
— инфинитезимальные, 431
— регуляризирующие, 433
Координаты барицентрические, 21
— симплициальные, 21
Критерий векторной топологии, 423
— инфинитезимальной оптимальности, 329
— локально выпуклой топологии, 424
— нормируемости, 426
— общего положения конусов нестандартный, 456
— ограниченности, 425
— почти векторной топологии, 424
Лагранжиан программы, 315
Лемма Крейна, 181
— о двойном разбиении, 47, 116, 475
ЛМО-аппроксимация функции, 473
Луч, 14
— операторный, 132
----крайний, 132
Мажоранта, 366, 481
— равномерная, 367
Мера векторная, 486
----ограниченная, 486
----положительная, 486
— вероятностная, 91
— квазирегулярная, 92, 487
— модулярная, 122
— регулярная, 92, 487
— счетно аддитивная, 486
536
Предметный указатель
Метод канонического оператора, 81
— обкатывающего шара, 165
— общего положения, 170
— скаляризации, 307
Метрика Хаусдорфа, 205
Микрозамыкание, 421
Миноранта аффинная, 230
Мир классических множеств, 502
Многогранник выпуклый, 228
Многообразие аффинное, 11
----, параллельное подпространству, 11
Множества выпуклые в общем положении, 164
Множество абсолютно выпуклое, 11
— алгебраически замкнутое, 30
----открытое, 30
— аналитическое, 213
— аффинное, 11
— внешнее, 498, 499
— вполне насыщенное, 421
----т-насыщенное, 421
— выпуклое, 11
— гиперполное в смысле Келли, 208
— идеально выпуклое, 165
— индуктивное, 47
— келлиево, 208
— классическое, 502
— котощее, 310
— /С-регулярное в точке, 404
— монотонно замкнутое, 165
----полное, 165
— насыщенное, 421
— нормальное, 159, 378
— ограниченное, 181
----по норме, 66
— операторно-выпуклое, 55
— операторов слабо ограниченное, 56
— опорное, 41, 48
— о-ограниченное, 477
— поглощающее, 29
— порядково ограниченное, 477
— почти слабо замкнутое, 209
— представительное, 446
— равномерно мажорируемое, 367
— секвенциально борелевское, 217
— сильно циклическое, 103
Множество симметричное, 12
— со свойством Бэра, 214
------бинарного пересечения, 44
------положительного бинарного пересечения, 44
— стандартное, 498, 503
— суслинское, 213
— а-выпуклое, 165
— тканое, 213
~ уравновешенное, 11
— хорошо накрытое, 132
— циклическое, 494
— эффективное, 21
Множители Лагранжа, 315, 355
Модель булевозначная, 493
Модуль, 474
— меры, 486
— над решеточно упорядоченным кольцом, 107
— опорных множеств, 363
—, допускающий выпуклый анализ, 108
Монада, 503
— направлений, 423
— топологического векторного пространства, 424
— фильтра, 419
— фильтрованного семейства, 283
Мультипликатор, 84
Направление, 436
~ асимптотическое, 15
— допустимое, 246
— на точку, 423
— рецессивное, 15
Неравенство Йенсена, 31
Нить, 215
— порождающая, 215
— топологическая, 215
Норма абстрактная, 334
— векторная, 62
--разложимая, 62
—	дизъюнктно разложимая, 62
—	d-разложимая, 62
—	£*-значная, 62
—	Канторовича, 62
—	монотонная, 65
Предметный указатель
537
Норма оператора абстрактная, 125
Носитель, 97, 263
— оператора, 145
Область значений, 21
—	определения, 21
Оболочка абсолютно выпуклая, 15
—	абстрактная, 59
—	аффинная, 13
—	выпуклая, 14, 36
—	коническая, 13
—	линейная, 13
—	множества нормальная, 203
---операторов опорная, 83
—	операторно-выпуклая, 55
—	сильно циклическая, 104
—	симметричная, 15
— уравновешенная, 14
Образ множества относительно соответствия, 22
— фильтра, 420
Общее положение, 336
---выпуклых операторов, 338
Ограничение, 22
— программы, 305
Оператор абсолютно непрерывный, 264
— аффинный, 33, 230, 256
---опорный, 230
— А-линейный, 107
— А-сублинейный, 107
— А+-однородный, 107
— до-непрерывный, 335
—	возрастающий, 81
—	всюду определенный, 32
—	выпуклой оболочки, 75
—	выпуклый, 32
---регулярный, 275
—	дискретный, 88
—	изотонный, 81
—	индикаторный, 32
—	канонический, 82
---конечнопорожденный, 82
---сублинейный, 82, 286
---Z-сублинейный, ПО
—	квазилинейный, 361
—	крайний, ПО
Оператор Кутателадзе канонический, 152
— линейный, 33
— Магарам выпуклый, 275
----сублинейный, 263
— мажорируемый, 481
— модульно-сублинейный, 107
— непрерывный квазилинейный, 402
— нерасширяющий, 483
— п-дизъюнктный, 141
— ограниченный, 125
— опорный, 48
— о-непрерывный, 95
— о-ограниченный, 256, 481
— положительно однородный, 33
— положительный, 81, 481
— поляры, 186
— порядково непрерывный, 95, 483
----а-непрерывный, 483
----ограниченный, 481
— проограниченный, 335
— проскалярный, 256
— регулярный, 54, 481
— сингулярный, 483
— собственный, 32
— сопряженный, 230
----второй, 230
— субаддитивный, 33
— сублинейный, 33
----мажорируемый, 366
— суперлинейный, 370
— существенно положительный, 145
—, сохраняющий дизъюнктность, 141
—, — полосы, 483
— то-непрерывный, 413
Операторная выпуклость сильная, 103
Операторы в общем положении, 175
— сублинейные в общем положении, 175
Опорная функция множества, 190
Оптимальность приближенная, 306
Оптимум глобальный, 305
— идеальный, 305
— локальный, 305
----обобщенный, 407
538
Предметный указатель
Ортоморфизм, 112, 484
— расширенный, 484
Осколок элемента, 477
Отображение бисублинейное, 56
— дифференцируемое по Гато, 350
— квазидифференцируемое, 369
----топологически, 403
— кусочно г-непрерывное, 488
— липшицево, 342
— локально липшицево, 342
— многозначное, 21
— то-непрерывное, 378
— ограниченное, 181
— перестановки координат, 26
— полулинейное, 54
— полунепрерывное снизу, 255, 311, 340
— субдифференцируемое, 370
— супердифференцируемое, 370
— точечно-множественное, 21
— эпилипшицево, 427
—, эпиточное по направлению, 464
Отрезок, 14
— конический, 11
— порядковый, 43
Оценка истинности, 492
Пара конусов несплющенная, 182
------борнологически, 161
Перемешивание, 127, 494
План допустимый, 305
Подпространство, 11
— массивное, 51
— нормальное, 54
— нормирующее, 333
— правильное, 54
Подрешетка, 477
— векторная, 477
— мажорирующая, 477
— массивная, 477
— минорирующая, 477
Подсеть, 437
— Мура, 437
— строгая, 437
Подъем множества, 495
Полнота цепная, 96
Полоса, 54, 63, 476
Полоса главная, 476
— существенной положительности, 97, 145
Полукольцо упорядоченное, 54
Полуметрика хаусдорфова, 205
Полунепрерывность снизу отображения в точке, 311
Полунорма векторная, 73
Полурешетка Л-коническая, 54
Поляра выпуклого множества, 185
— множества относительно соответствия, 22
— сублинейного функционала, 185
Пополнение дедекиндово, 479, 482
— порядковое, 479, 482
Последовательность ускользающая, 165
Постулаты нестандартного анализа, 501
Правила образования внешних множеств, 500
Предел по Куратовскому верхний, 439
— по Куратовскому нижний, 439
— по Рокафеллару, 442
— порядковый, 478
— сети верхний, 207
Предположение стандартности антуража, 419
Преобразование Лежандра, 297
— Хёрмандера, 28
— Юнга-Фенхеля, 200, 230, 292
— Юнга-Фенхеля второе, 230
Принцип диагонали, 377
— доступности, 505
— идеализации, 328, 499, 502
----в виде схемы аксиом насыщения, 503
— Коши, 505
— Лагранжа, 314, 318, 321
----для значений векторных программ, 319
----для г-Парето-оптимальности, 320 — — для г-решений векторных программ, 319
— Лейбница, 502
— моделирования для классических множеств, 502
Предметный указатель
539
Принцип моделирования для мира стандартных множеств, 501 — незаполненное™, 505 — открытости, 165, 224, 226 — переноса, 328, 499, 501 ----в форме Лейбница, 503 — переполненности, 505 — перманентности, 505 — продолжения, 174, 225, 505 — Робинсона, 505 — свертывания, 499 — стандартизации, 499, 501 — Экланда вариационный, 354, 358 Проблема Дистеля, 154 Программа векторная выпуклая, 305 ----, квазирегулярная в точке, 395 — квазилинейная, 396 — квазирегулярная, 315, 396, 405 ----на множестве, 409 — регулярная по Слейтеру, 315 — слабо регулярная по Слейтеру, 315 Продолжение мажорированное, 48 — оператора минимальное, 145 Проектор на полосу, 476 — оболочечный, 59 — порядковый, 63, 476 ----главный, 476 Проекция на полосу, 476 Производная Адамара, 376 ----по направлению, 376 — Дини, 369 — Кларка, 446 — Рокафеллара, 446 ----по направлениям, 460 — односторонняя, 369 — по направлениям, 243, 369 ----обобщенная, 460 Пространство Асплунда, 298 — асплундово, 298 ----слабое, 298 — Ванаха-Канторовича, 66 — борнологически нормальное, 182 — бэровское, 214 — Ьо-полное, 66 — дг-полное, 66 — векторное борнологическое, 181
Пространство векторное почти топологическое, 424
----предупорядоченное, 474
----упорядоченное, 474
------архимедово, 474
— выпуклости, 75
— дизъюнктно полное, 66
— d-полное, 66
— Канторовича, 478
— киртологическое, 75
— конически гиперполное, 208
— локально выпуклое Вг-полное, 227
------гиперполное, 208
— опорных множеств, 59
— предтопологическое, 421
— решеточно нормированное, 62
— с проекциями, 63
— совершенно полное, 208
— сублинейных операторов, 59
— тканое, 213
— топологическое, 421
----аналитическое, 213
----польское, 213
----суслинское, 213
Прямая, 13
Равномерность, порожденная мультиметрикой, 205
— Хаусдорфа, 204
Радиус-монада, 423
Разбиение единицы, 253, 490
Размер приемлемый, 501
Размерность выпуклого множества, 168
Расширение максимальное, 66
Регулятор сходимости, 478
Релятивизация, 500
Решение идеальное, 305
— инфинитезимальное, 308
— обобщенное, 306
Решетка А-коническая, 54
----, условно полная, 54
— Банаха-Канторовича, 66
— векторная, 474
----атомическая, 477
----дискретная, 477
----диффузная, 477
540
Предметный указатель
Решетка векторная непрерывная, 477
----ограниченных элементов, 477
----полная относительно сходимости с регулятором, 478
----г-полная, 478
----условно порядково полная, 478
— нормирующая, 63
— Радстрёма-Хёрмандера, 410
— с главными проекциями, 476
— с проекциями, 476
Решето, 213
Свертка Рокафеллара, 40
Свойство А-продолжения, 107
— бинарного пересечения, 44
— Бэра, 214
— Келли для множества, 208
----коническое, 208
----линейное, 209
----симметрическое, 208
— Крейна-Шмульяна, 209
----коническое, 209
----линейное, 209
----симметрическое, 209
— Магарам, 263
— продолжения линейных операторов, 46
— Рисса декомпозиционное, 42, 475
----интерполяционное, 45, 475
Селектор линейный, 46
Семейство Ьо-суммируемое, 66
— коническое, 208
— линейное, 208
— множеств сцепленное, 44
— насыщенное, 45, 197
— операторов равномерно регулярное, 276
— о-суммируемое, 478
— порядково суммируемое, 478
— равностепенно квазидифференцируе-мое, 388, 392
— симметричное, 208
— фильтрованное вверх, 10
— фундаментальное, 207
----Ь-насыщенное, 45
Сети эквивалентные, 437
Сеть 5о-фундаментальная, 65
— Ъг-фундаментальная, 65
— возрастающая, 477
— о-сходящаяся, 478
—, подчиненная фильтру, 437
— убывающая, 477
Симплекс п-мерный, 21
След элемента, 479
Сложение инверсное, 18
Соответствие, 21
— аффинное, 23
— выпуклое, 23
— коническое, 23
— линейное, 23
— максимальное монотонное, 297
— монотонное, 297
— обратное, 22
— ограниченное, 181
—, — относительно борнологии, 196
— открытое в точке, 159
— полунепрерывное сверху, 201
— полутканое, 216
— почти открытое в точке, 159
— совершенно выпуклое, 166
— суслинское, 216
— тканое, 216
— циклически максимальное монотонное, 297
----монотонное, 297
— экстенсиональное, 495
Состояние чистое, 127
Спуск элемента, 494
Стандартизация, 499, 501, 503
-- робинсоновская, 502
Стандартная часть числа, 422
Структура модульная согласован-
ная, 68
Субградиент, 243
— инфинитезимальный, 284
----в обобщенной точке, 289
Субдифференциал, 243, 369
— алгебраический, 171
— инфинитезимальный, 284, 290
----вдоль базиса фильтра, 292
— в нуле, 41, 48, 107, 364
— в точке, 107
Предметный указатель
541
Субдифференциал отображения, 459
— Пено, 415
—, соответствующий верхней выпуклой аппроксимации, 412
— топологический, 171, 403
Субморфизм, 148
Сужение, 22
Сумма Келли, 18, 38
— инверсная, 61
----левая, 193
----правая, 193
— множеств инверсная, 18
— операторов инверсная, 38
— частичная левая, 26
Супердифференциал, 369
— в нуле, 364
— Пено, 415
— топологический, 403
Суперпозиция соответствий, 22
Суперправило образования внешних множеств, 501, 502
Сходимость порядковая, 478
— с регулятором, 65, 478
Теорема Акилова-Гуднера-Келли-Нахбина, 53
— Банаха-Гротендика, 211
— Бигарда, 108
— Бишопа-Фелпса, 354
— Бляшке о выборе, 228
— Боннайса-Сильвермана~Ту, 50
— Брёнстеда-Рокафеллара, 354
— Гордона, 496
— Джеймсона, 203
— Иоффе, 46
— Каваи, 502
— Канторовича, 51
— Каратеодори, 20
— Каруша-Куна-Таккера, 356
— Кли, 153
— Крейна-Мильмана, 95, 153
— Крейна-Рутмана, 77
— Крейна-Шмульяна, 211
— Крейнов-Какутани, 478
— Куна-Таккера, 355
— Кутателадзе, 152
Теорема Мазура-Орлича, 180
— Мильмана, 105
— Минковского о крайних точках, 153
----об аппроксимации, 228
— Нахбина, 52
— о биполяре, 190
— о векторном минимаксе, 239
— о сэндвиче, 180, 339
— о сэндвиче для выпуклых операторов, 235
— о сэндвиче для соответствий, 234
— Поуэлла, 499
— Птака, 212
— Радона, 75
- Райта, 153, 487
— Рисса-Канторовича, 482
— Рокафеллара, 298
— Фенхеля-Моро, 299
— Фрейденталя спектральная, 479
— Хёрмандера о сублинейных функциях, 299
— Хана-Банаха-Канторовича, 49
— Хана-Банаха-Канторовича в субдифференциальной форме, 51
— Хелли, 75
— Шварца, 218
— Штрассена о дезинтегрировании, 301
— Экланда, 346
Теоремы о векторном минимаксе, 238
— о минимаксе, 238
Теория внешних множеств Каваи, 500
— внутренних множеств Нельсона, 498
Ткань множества, 213
— совершенная, 213
Топология Вьеториса, 227
— почти векторная, 424
— равномерной сходимости, 196
— экспоненциальная, 227
Точка алгебраически внутренняя, 29
— доступная, 425
— инфинитезимально Парето-опти мальная, 330
— е-Парето-оптимальная, 307 е-оптимальная по Парето, 307
— конечная, 425
— крайняя, 95
542
Предметный указатель
Точка ми крон редел ьная, 421
— обобщенная, 289, 292
— ограниченная, 426
— опорная обобщенная, 352
— о-крайняя, 95
— седловая, 238
— слабо s-Парето-оптимальная, 308
— Т-крайняя, 95
— экстремальная, 95
Траектория динамического семейства, 325
— допустимая, 325
— ^-оптимальная, 325
— инфинитезимально оптимальная, 330
— локально оптимальная, 467
Ультрасеть, 437
Универсум булевозначный, 494
— внутренних множеств, 502
— стандартных множеств, 500
Условие дополняющей нежесткости, 319
— квазирегулярности, 315
— /v-регулярности, 460
— Липшица, 342
— Магарам, 263
— непрерывности, 315
— открытости, 315
— относительной открытости, 452
----почти открытостй, 452
----предоткрытости, 452
— Слейтера, 315
----слабое, 315
- (N), 202
~ (Р), 452
- (рс), 454, 455
— (ps), 458
- (Р), 452
- (р_), 452
- (Р/), 464
Формула Моцкина, 12
— Хана-Банаха, 51, 107
— Хана-Банаха для решеточных гомоморфизмов, 149
— внешняя, 498
Формула внутренняя, 498
— ограниченная, 494
Формулы дезинтегрирования, 272
Фундамент, 477
Функционал Минковского, 183
Функция замкнутая, 299
— калибровочная, 183
— опорная Е-значная, 232
— г-непрерывная, 488
— сопряженная, 200
— спектральная, 479
Характеристика траектории инфинитезимальная, 332
— элемента, 479
Цель программы, 305
Центр идеальный, 87, 112, 484
Часть околостандартная, 421
— отрицательная, 474
----меры, 486
— положительная, 474
----меры, 486
Число недоступное, 504
Шапка операторная, 131
— спущенная, 131
Шатер локальный, 473
— множества, 473
Элемент бесконечно большой, 420
----малый, 284, 419
— дискретный, 477
— допустимый, 305
— единичный, 477
— конечнозначный, 485
— метрически п-разложимый, 69
----неразложимый, 69
— недоступный, 420
— положительный, 474
— удаленный, 419, 420, 436
Элементы аффинно независимые, 21
— дизъюнктные, 63, 475
Эпипредел, 442
Ядро, 29
— стандартное, 499, 501
Предметный указатель
543
Л-модуль, 107	S-формула, 500
В-структура, 495	Т-шапка, 136
Вг-полнота, 227	
Ьо-пополнение, 66	Г-множество, 10
бо-сумма семейства, 66	Г-оболочка, 12
Ьо-сходимость, 65	Г-соответствие, 23
Ьг-сходимость, 65	б-функция, 127
d- гомоморфизм, 141	6-оптимум, 306
Е-луч, 132	е-производная, 242
Е-нормальный конус, 459	6-решение, 306
Е-формула, 500	— обобщенное, 306, 314, 344
/-алгебра, 480	е-субградиент, 242
— точная, 480	— обобщенный, 341
/-формула, 500	б-субдифференциал, 242, 283
Е-пополнение, 479, 482	^-характеристика траектории, 327
Е-пространство, 478	Ф-7-регулярность множества, 461
— расширенное, 480	Ф^-регулярность отображения, 461
— регулярное, 377	Ф-топология, 196
— стертое, 108	
— счетного типа, 377	inf-конволюция, 36
— (а, оо)-дистрибутивное, 487	-Ь-конволюция, 39
Ка-пространство, 478	V-конволюция, 39
— расширенное, 480	33-предел, 439
М-пол унорма, 148	УЗ-предел, 439
п-субморфизм, 140	333-конус, 428
о-идеал, 477	V33-конус, 431
о-предел, 478	УУЗ-конус, 430
о-сумма, 478	УЗУ-конус, 431
г-предел, 478	УУУ-конус, 429
Указатель символов
N — множество натуральных чисел,
Z — множество целых чисел,
Q — поле рациональных чисел, R — поле действительных чисел, С — поле комплексных чисел.
10
аС, 10
С + D, 10
R+, 11
^(Х), 12
Яг, 12
^fin(M), 12
lin(Af), 13 aff(M), 13 cone(M), 13 bal(M), 14 co(M), 14 sco(M), 14 aco(M), 15 sim(Af), 15 sh := coosim, 15 sk(C) :=СЛ(-С), 15 rec(C), 15
a(C), 15
CS(X), 16
£(Х,У), 16 Sn, 16
0-C, 17 1-C, 17 #, 18
dim(X), 20 dom($), 22 йп(Ф), 22 Ф|у, 22
Ф [ U, 22
Ф(Я), 22
Ф(ж), 22
Ф"1, 22
Ф о Ф, 22 тгф(А), 23 +, 26 + ,26 <тп, 26 ДП(Х), 27 0, 27 Я(С), 28
CSeg(X), 29 Сопе(Х), 29 согев(А), 29 соге(А), 29 п(Д), 29 Ё, 31 epi(/), 31 dom(/), 31
Е9 := EUj+oo}, 32
Указатель символов
545
Е+, 32, 33
<5е(С), 33
L(X,Y), 34
inf о Ф, 34
/1 V... V /п, 35
П Л, 35
«е=
fl X • • • X fn, 36
ф fk, 36 fc=i
/1Ф...©/„,36
со((Л)«е=), 36
со(Л,...,/п), 37 Л#... #/„,38 /2 Д fi, 40 /2 О/1,40 [а, 6], 42 <^(^), 43 ./(F), 43 ^+(C), 44 ЭФ, 46 др, 48 кег, 50 Isa(V), 53 Hom+(V), 54 Lr(E), 54 Orth(E), 54 Inv+(j4), 54 Sbl(X,E*), 54 Sbl(X,E), 55 op(‘2<), 55 CS(X,E), 56 CSb(X,E), 56 BSbl(X, У,Е*), 56 Fan(X,y), 57 [Sbl(X, E>], 59 cop, 59 CSc(X,E), 59 Fan6(X, Ь(У,Е)), 59 Fanc(X, L(Y,E)), 60
CSeg(X), 60
CS+(X), 60
a * C, 60
CS*(X), 61
Sbl+(X), 61
SbI*(X), 61
x ± y, 63 63
^(X), 63
^(X), 65 60-lim, 65 br-lim, 65
^fin(S), 66
6o-£2,66
oE, 66
Ь+(Х,У), 81 /оо(21,Е), 81 82
£<21, 82
^n, 82
(21), 82
Agi.E, 83
Ie, 83
M(E), 84
^(E), 87
/00 (21), 91
<^(21), 91
X*, 91
ba(2l), 91
e&,91
C(2l), 91 rca(2l), 91 St(2l,^), 92
W2
rca(2l, E), 92 qca(2t,E), 92
Cr(2l,E), 93
Cw(2l,E), 93
L%(CK(»,E),F), 93
546
Указатель символов
4,93 4,е> 93 4,93 £й,е> 93 ext(P), 95
<ОДР), 95
<?(£,Р), 95
<^о(Р), 95
ЛГ(Т), 97
Ргдг, 98
Ргт, 98
(Qi#tQ2), юо scyc(2l), 104 Нотл(Х,Р), 107 Рд(Х,Р), 107 дАр, 107 дАр(х), 107 Z, 107 ext(p), 110 Orth(P), 112 3%Р), 112 /оо(21Л,^), 120 £йл , 126 В := ^(Р), 127 ОДР), 131 [ж, -»), 134
<ОД := <fG(S), 145
<Ж(Г), 145 &т,145 тг<7, 145 тге, 145 dhP, 148
[0,Эр], 151
Фх, 161 xV, 161 Дп, 162 Э°Р, 171 ЭСР, 171
J?(X,P), 171
тгБ(Х), 173
<гп, 174
а  дР, 178 (9Q) 0 (ЭР), 179 cPP, 182
д(С), 183
{р < 1}, 184 {р < 1}, 184 (•I*), 185 (х|, 185
\У>, 185
X*, 185 др, 185 С°, 185 р°, 185 С°°, 186 р°°, 186 дор, 186 род, 186
CS+(Xj, 189
CS^(X), 189 sh, 189, 196 sk, 189, 196 s(C), 190 #, 193 (X”"^/), 193 (Г/У”-1), 193 Ф(т), 196 Ф(т), 196
Ф(®), 196 t(®), 196
С*, 196 А*, 197 {<р	а}, 200
^ci(X), 204
С1С(Х), 206 С1С(Х,Р), 206
С1С(Х,ж), 206 С1СЬ(Х), 206
Указатель символов
547
limsup, 207 С1А(Х), 208 Z(N), 213
217 nh(Z), 223 C*(S), 232 <W(x0), 242 fe(x0), 243 /'(x0), 243 {в}**, 253 [e], 253 <, 253
256
*/(/), 261 тг-sup, 261 XP, 263
Orth00, 264 h (21, E), 264 E*, 283
L(X,E), 283 д(<Г), 283 £gt, 286
292
/*, 292 [u], 307 E*, 309 + ocT:=ocw, 310 cmx), 3u E(X), 312 с^,х\г), ззз EW(X,Z), 333 EW(X'), 333 ЕЛ(Х,Е), 334 ^/(x0), 339 Г(Х,Е), 340 rh(V,E), 340 <£/(x0), 341 O°f(z), 341 /'(«), 350
bd(C), 352 QL(X,E), 361 3, 364 d, 364 d, 364
ГЫ =	369
®/(x0), 369 №o), 369 d/(x0), 369 QLC(X,E), 402 CS£(X,E), 402 ^c/(x0), 403 dcf(x0), 403 3c/(x0), 403 Fd(C,x0), 404 ^/(x0), 415 ^/(x0), 415 //(•). 419 419
419
(X,r), 421 д(х) := /х(т(х)), 421 Д(-), 421 h(G), 421 nst (G), 421 cU U, 421
Itd(-), 422 «R, 422 st(t), 422 °t, 422 md(X), 423 cnt(X), 423 Itd(-), 425 bd(X), 426 X := <r(0), 426 xi « „Х2, 426 /z(a(x)), 426 д(сг(О)), 426 Ha(F,x'), 427
548
Указатель символов
Cl(F,xz), 427 Bo(F, xz), 427
H(F,x'), 427 Fd(F,a/), 427
K(F,xz), 427 (V*x)^, 427 3*x, 427
Ha+(F,a/), 433 In(F,xz), 433
R1 (F,az), 433 Q1 (F,az), 433
QR2(F,az), 433 P>(F,xz), 434 S>(F,xz), 434 X£ I 437 W(F), 439 3V(F), 439
V3(F), 439
Li, 439 Ls, 439 li, 442
Is, 442 Haa(F,xz), 443
Cla(F,xz), 443 Ina(F,xz), 443
HaA(F,xz), 443 InA (F,xz), 443
ClA(F,xz), 443 /(Haa), 446 /(Ina), 446 /(«.), 446 /(HaA), 446 /(InA), 446 /(C1A), 446 /T, 446 /а» 446 /X, 446 dF(x), 450 N£(C,x), 459
NB(C,x), 459
Ne(/,x), 459 df, 459 f№), 460 Ф(/,х), 461 Р+Л 469 S+< 469
ху V ... V xn, 474 xi Л ... Л xn, 474 x+, 474 x~, 474 |x|, 474 [a, 6], 475 ±, 475
®(E), 476
[E], 476 jr/f, 476 ф(Е), 476 [u], 476 €(w), 477
E(w), 477 x = o-lim xa, 478 xa x, 478 r-limaeA^a, 478 xa X, 478 e^, 479 Соф((2), 480 L(E,F), 481 Lr(E,F), 481 L~(E,F), 481 L+(E,F), 481 L(E,F), 481 L~(E,F), 483 Ln(E,F), 483 £~a(E,F), 483 Lna (E,F), 483 £7(E,F),483 Orth(D,Dz), 484 Orth(D,E), 484
Указатель символов
549
Orth°°(E), 484
Orth(E), 484 ^(Е), 484 ba(j/,E), 486 ba+«E), 486 Ьса(л/, Е), 486 гса(й,Е), 487 qca(2l, Е), 487
СГ(Й,Е), 488
С(Я)®Е, 488
Сда(й,Е), 488
En(E,F), 489 [1,492 к 492 1, 492 у(В), 494 XI, 494 X], 495 496
1ST, 498
St(-), 498
V8t, 498
V8t, 498
З8*, 498 ystfin, 499 3 st fin, 499 °х, 499 °х, 499
Ay, 499
*А, 499
*Ау, 499
°А, 499
NST, 500
Vs, 500
V', 500
VJ, 500
Vе, 500
St( ), 500
Int, 500 у*-8»»®, 50J
Vе, 502
* : Vе -> Vs, 502
UNST, 503 д(-), 503 Itd(-), 504 “R, 504
Subdifferential Calculus: Theory and Applications
A.G. KUSRAEV and S.S. KUTATELADZE
Preface
The subject of the present book is subdifferential calculus. The main source of this branch of functional analysis is the theory of extremal problems. For a start, we explicate the origin and statement of the principal problems of subdifferential calculus. To this end, consider an abstract minimization problem formulated as follows:
x G X, f(x) -»inf.
Here X is a vector space and f : X —> R is a numeric function taking possibly infinite values. In these circumstances, we are usually interested in the quantity inf f(x), the value of the problem, and in a solution or an optimum plan of the problem (i. e., such an x that f(x) = inf /(X)), if the latter exists. It is a rare occurrence to solve an arbitrary problem explicitly, i. e. to exhibit the value of the problem and one of its solutions. In this respect it becomes necessary to simplify the initial problem by reducing the task to somewhat more manageable modifications formulated with the details of the structure of the objective function taken in due account. The conventional hypothesis presumed in attempts at theoretically approaching the reduction sought is as follows. Introducing an auxiliary function /, we consider the next problem:
x G X, f(x) - l(x) —> inf.
Furthermore, the new problem is assumed to be as complicated as the initial problem provided that I is a linear functional over X, i. e., an element of the algebraic dual X#. In other words, in analysis_of the minimization problem for /, we consider as known the mapping /* : X# —» R that is given by the relation
/*(/) := sup (l(x) - f(x».
xEX
The function f* thus introduced is called the Young-Fenchel transform of /. Observe that the quantity —/*(0) presents the value of the initial extremal problem.
The above-described procedure reduces the problem that we are interested in to that of change-of-variable in the Young-Fenchel transform, i. e., to calculation of the aggregate (/ о G)*, where G : Y —> X is some operator acting from Y to X. We emphasize that /* is a convex function of the variable I. The very circumstance by itself prompts us to await the most complete results in the key case of convexity of the initial function. Indeed, defining in this event the subdifferential of f at a point x,
A. G. Kusraev and S. S. Kutateladze
551
we can conclude as follows. A point x is a solution to the initial minimization problem if and only if the next Fermat optimality criterion holds:
0 G df(x).
It is worth noting that the stated Fermat criterion is of little avail if we lack effective tools for calculating the subdifferential df(x). Putting it otherwise, we arrive at the question of deriving rules for calculation of the subdifferential of a composite mapping d(f о G)(§). Furthermore, the adequate understanding of G as a convex mapping requires that some structure of an ordered vector space be present in X. For instance, the presentation of the sum of convex functions as composition of a linear operator and a convex operator
/1 + /2 = + 0 (/1, /2);
(Л.Л): X -> R2, (Л,Л)(х) := (/i(x),/2(ж)),
presumes the introduction into R2 the coordinatewise comparison of vectors.
Thus, we are driven with necessity to studying operators that act in ordered vector spaces. Among the problems encountered on the way indicated, the central places are occupied by those of finding out explicit rules for calculation of the Young-Fenchel transform or the subdifferential of a composite mapping. Solving the problems constitutes the main topic of subdifferential calculus.
Now the case of convex operators, which is of profound import, appears so thoroughly elaborated that one might speak of the completion of a definite stage of subdifferential analysis.
Research of the present days is conducted mainly in the directions related to finding appropriate local approximations to arbitrary not necessarily convex operators. Most principal here is the technique based on the F. Clarke tangent cone which was extended by R. T. Rockafellar to general mappings. However, the stage of perfection is far from being obtained yet. It is worth nonetheless to mention that key technical tricks in this direction lean heavily on subdifferentials of convex mappings.
In this respect we confine the bulk of exposition to the convex case, leaving the vast territory of nonsmooth analysis practically uncharted. The resulting gaps transpire. A slight reassuring apology for us is a pile of excellent recent books and surveys treating raw spots of nonsmooth analysis. The tool-kit of subdifferential analysis is quite full. It contains the principles of classical functional analysis, methods of convex analysis, methods of the theory of ordered vector spaces, measure theory, etc.
Many problems of subdifferential and nonsmooth analysis were recently solved on using nonstandard methods of mathematical analysis (in infinitesimal and Booleanvalued versions). In writing the book, we bear in mind the intention of (and the demand for) making new ideas and tools of the theory more available for a wider readership. The limits of every book (this one inclusively) are too narrow for leaving an ample room for self-contained and independent exposition of all needed facts from the above-listed disciplines.
We therefore choose a compromising way of partial explanations. In their selection we make use of our decade experience from lecture courses delivered in Novosibirsk and Vladikavkaz (North Ossetian) State Universities.
552
Subdifferential Calculus: Theory and Applications
One more point deserves straightforward clarification, namely, the word “applications” in the title of the book. Formally speaking, it encompasses many applications of subdifferential analysis. To list a few, we mention the calculation of the Young-Fenchel transform, justification of the Lagrange principle and derivation of optimality criteria for vector optimization problems. However, much more is left intact and the title to a greater extent reflects our initial intentions and fantasies as well as a challenge to further research.
Chapter 1.	Convex Correspondences and Operators
The concept of convexity is among those most important for contemporary functional analysis. It is hardly puzzling because the fundamental notion of the indicated discipline, that of continuous linear functional, is inseparable from convexity. Indeed, the presence of such a nonzero functional is ensured if and only if the space under consideration contains nonempty open convex sets other than the entire space.
Convex sets appear in many ways and sustain numerous transformations without loosing their defining property. Among the most typical should be ranked the operation of intersection and various instances of set transformations by means of affine mappings. Specific properties are characteristic of convex sets lying in the product of vector spaces. Such sets are referred to as convex correspondences. All linear operators are particular instances of convex correspondences. The importance of convex correspondences increased notably in the last decades due to their interpretation as models of production.
Among convex correspondences located in the product of a vector space and an ordered vector space, a rather especial role is played by the epigraphs of mappings. Such a mapping, a function with convex epigraph, is called a convex operator. Among convex operators, positive homogeneous ones are distinguished, entitled sublinear operators and presenting the least class of correspondences that includes all linear operators and is closed under the taking of pointwise suprema. Some formal justification and even exact statement of the preceding claim require the specification of assumptions on the ordered vector spaces under consideration. It is worth stressing that all the concepts of convex analysis are tightly interwoven with various constructions of the theory of ordered vector spaces. Furthermore, the central place is occupied by the most qualified spaces, Kantorovich spaces or X-spaces for short, which are vector lattices whose every above-bounded subset has a least upper bound.
The immanent interrelation between If-spaces and convexity is one of the most important themes of the present chapter. An ample space is also allotted to describing in detail the technique of constructing convex operators, correspondences and sets from the already-given ingredients. An attractive feature of convexity theory is an opportunity to provide various convenient descriptions for one and the same class of objects. The general study of convex classes of convex objects constitutes a specific direction of research, global convex analysis, which falls beyond the limits of the present book. Here we restrict ourselves to discussing the simplest methods and necessary constructions that are connected with the introduction of the Minkowski duality and related algebraic systems of convex objects.
A. G. Kusraev and S. S. Kutateladze
553
The study if convex sets of operators naturally leads to some vector spaces that are normed by elements of an auxiliary vector lattice. Under a nonrestrictive assumption of decomposability, this gives rise to the structure of a module over a lattice-ordered ring of orthomorphisms, which in turn allows us to characterize module-discrete elements. The latter are tired with the extreme structure of many convex sets of operators. We address this topic further in Chapter 2.
Chapter 2.	Geometry of Subdifferentials
There are various connections and interrelations between convex objects which make the latter a convenient tool for investigation of numerous problems. One of the most general form of such relations is granted by the Minkowski duality. It is sufficient to study the duality for some particular class of objects under consideration, for instance, for sublinear operators. Basing on information on their support sets, we can rather easily obtain a description for subdifferentials of arbitrary convex operators, we can find corresponding Young-Fenchel transforms, we can study related extremal problems, etc.
Thus, the principal theme of the present chapter is analysis of the classical Minkowski duality, which is the mapping that assigns to a sublinear operator its support set or, in other words, its subdifferential (at zero). The questions arisen in this way relate as regards their form to various branches of mathematics. Indeed, it is necessary to find out the subdifferential of the composition of operators, to look for analogs of the “chain rule” in calculus. The resulting problems are usually attributed to analysis. There also arises a need of describing those algebraic structures in which the laws of subdifferential calculus take place. These problems fall within the competence of algebra. It is of use to explicate the structure of a subdifferential from the standpoint of the classical theory, to study the ways of recovering a subdifferential from its extreme points. The last question lies in the traditional sphere of geometry.
It is very important to emphasize that a specific treat of the problems of subdifferential calculus is incorporated in the synthetic approaches and the variety of the tools for solution, the peculiarities characteristic of functional analysis. However, the leading role is nonetheless played by ideas on the geometric structure of a subdifferential. The problems arising in this connection and above all the problem of describing a subdifferential intrinsically; i. e., in terms not involving the operator that is determined by the subdifferential, form the center of the subsequent exposition. In 2.4.10-2.4.13, an explicit representation of the elements of a subdifferential and its extreme points with the help of a concrete procedure applied to о-extreme points is given.
In the class of sublinear operators we distinguish canonical operators with comparatively simple structure so that only one canonical operator is assigned to each К-space and each cardinality. Any other total sublinear operator is obtained as composition of a canonical operator and a linear operator. Thus there arises a possibility of reducing general questions of the theory of sublinear operators to the analysis of a canonical operator and a linear change of variables in it. This constitutes generally the main idea of the canonical operator method.
According to the scalar theory there is a natural interconnection between discrete functionals and extreme points which leads to the classical Krein-Mil'man theorem.
554	Subdifferential Calculus: Theory and Applications
On the other hand, the validity of the Kantorovich extension theorem for a discrete operator suggests that the support sets of general operators are analogous to the usual subdifferentials of convex functions. In fact, such analogy can be drawn on rather deeply and completely. Further we will discuss the analogy in detail. Now we only note that in the case of operators a statement holds which is more delicate than a possibility of reconstruction of support sets from their extreme points.
Studying subdifferentials we come across the algebraic structures with richer structure than that of the initial vector spaces. This can be seen, in particular, in Section 1.5. We should especially emphasize that the support set of a sublinear operator is operator convex rather than simply convex i. e. it satisfies an analog of the usual definition of convexity in which multiplicators serve as scalars. In other words, studying conventional convex objects in vector spaces, we necessarily come to more general analogs of convexity, i. e. to convexity in modules over rings (in particular, over the multiplication ring of a К-space with a strong order unit). There is a more important reason for interest in convex objects in modules. In applications one often encounters problems where the divisibility hypothesis is not acceptable. Such are certainly all problems of integer programming. In this connection of considerable importance is to clarify to what extent it is possible to preserve the subdifferential machinery for arbitrary algebraic systems.
The cones of operators do not have as a rule extreme rays (and thus caps, i. e. nonempty convex weakly compact subsets with convex complement); subdifferentials are compact in no locally convex topology and, at the same time, they can be recovered from their extreme points. The nature of such effects restricting the application of direct geometric methods reveals in Boolean-valued analysis. Indeed, the obstacles turn out to be imaginary to a certain extent and they can be bypass by choice of a suitable Boolean-valued model in which the considered object should be studied. In the previous section this approach was exposed in detail for subdifferentials, i. e. for strongly operator convex pointwise o-closed weakly order bounded sets. The aim of the further presentation is to weaken the boundedness assumption in the spirit of the classical theory of caps which was developed by G. Choquet and his successors. The peculiarity of our approach consists in working with the new notion of operator cap which is not a cap in the classical sense, though coincides with it in the scalar case. The criteria for subdifferentials to be caps and faces of sets of operators are given.
In the closing section we give characterization for a more special kind of sublinear operators, namely, those representable as the upper envelope of a family of n-disjoint positive operators. We pay attention to the subdifferentials of these operators and the extreme points of the former.
Chapter 3.	Convexity and Openness
By now we have executed our study of subdifferentials on an algebraic level. To put it more precisely, we studied total sublinear operators, or what is the same, the subdifferentials of convex operators at interior points of their domains. Involving topology seems not sufficiently reasonable at this juncture since, in the presence of natural compatibility with the order structure of the domains, all subgradients appear
X. G. Kusraev and S. S. Kutateladze
555
to be automatically continuous in the same sense in which so was the initial sublinear operator. The situation is drastically different for the sublinear operators defined not on the whole space and resulting conventionally as the directional derivatives of convex operators at boundary points of their domains. Here the doors are widely open for all types of pathology. At the same time the study of subdifferentials at boundary points is an absolute necessity in the overwhelming majority of cases. Suffice it to recall that the origin of subdifferential calculus is tied with the modern sections of the theory of extremal problems which provide sophisticated tools for dealing with the intrinsic structure of the set of feasible solutions over which we seek for the optimal value of an objective function is sought.
The central theme of the current chapter is the interaction between convexity and openness in topological vector spaces. Strictly speaking, we study here the conditions under which a convex correspondence is open at a point of its domain. As usual, openness means that open sets containing a point of the domain are transformed by the considered correspondence onto neighborhoods of a fixed element in the image of the point under study. Analysis of the property and its most profound modification leading to the concept of general position for convex sets or convex operators enable us to achieve substantial progress in the problems of subdifferentiation. A matter of fact, we arrive at the opportunity to automatically derive the existence theorems for continuous operators by analyzing only the algebraic version of the problem under consideration.
Using the technique of general position wee can obtain all basic formulas for calculating the polars of conic segments and gauge functions. The problem is solved in the two steps: We, firstly, construct the Minkowski functional of a composite conic segment and, secondly, find the subdifferential of a composite sublinear functional. The first step reduces to simple calculation and the second involves the concept of general position.
It is inconceivable to treat topology and convexity simultaneously without the fundamental concept of duality of vector spaces. Therefore, we develop some apparatus for polar calculus, a polar actually presenting the subdifferential of a Minkowski gauge functional. Also, we give applications of this apparatus to description of open correspondences. A separate important topic is the openness principle for correspondences which summarizes the ideas that stem from the classical Banach open mapping theorem and simplify the applicability of the technique of subdifferentiation.
Application of duality to the analysis of the phenomenon of automatic continuity of convex correspondences reveals the interconnection of the openness principle and the Krem-Shmulyan Theorem about dual characterization of the completeness property of a metrizable locally convex space as well as completeness of various spaces of closed convex sets or, which is the same, hypercompleteness (conic hypercompleteness, perfect completeness, etc.).
Analysis of the proof of the classical open mapping principle which was given by S. Banach himself shows that the method of a “rolling ball” remains applicable in the case when a fundamental sequence of balls of a metrizable topological vector space is replaced with a decreasing sequence of sets refining themselves in an appropriate sense. Systematization of this observation leads to a new concept of webbed correspondence and new results on the automatic continuity of convex correspondences.
556
Subdifferential Calculus: Theory and Applications
Chapter 4.	Apparatus of Subdifferential Calculus
The present chapter is the culmination of the book. Here, grounding on the already-developed methods, we deduce the main formulas of undifferentiate calculus.
We start with the derivation of the change-of-variable formula for the Young-Fenchel transform. Leaning on them, we then find out formulas for computing e-subdifferentials which present the generalization of the concept of subdifferential that make it possible to take account of the possibility of solving an extremal problem to within a given e. It should be emphasized that analysis of e-subdifferentials converting formally into conventional subdifferentials at e = 0 has some particularities and subtleties. Complete technical explanations will be given in due course. It suffices now to observe that respective differences are as a matter of fact connected with the truism that the zero element is small in whatever reasonable sense whereas “a small e” can designate a rather large residual.
The rules, which yield a formal apparatus for accounting for the measure of precision in dealing with subdifferentials (for instance, in the analysis of convex extremal problems, do not completely correlate with the practice of “neglecting infinitesimals” used in many applied works. The rules for approximate calculation are in perfect accord with the routine infinitesimal conception that the sum of two infinitesimals is infinitesimal. In other words, the practical methods of using г-subgradients correspond to treating e as an actual infinitesimal.
In modern mathematics, such conceptions are substantiated in the context of infinitesimal analysis called sometimes by expressive but slightly arrogant term “nonstandard analysis.” By applying the indicated approach, a convenient apparatus can be developed for dealing with approximate, infinitesimal subdifferentials, which adequately reflects the rules for calculating “practical” optima.
While studying the Young-Fenchel transform, we are confronted with the question of whether it acts as involution. In the language of extremal problems we are talking about the absence of the duality gap. In view of utmost theoretical and practical importance of the indicated phenomenon, we discuss several ways of approaching and settling the problem.
Of paramount importance is the question of validity for the analog of the “chain rule” of the classical calculus: the subdifferential of a composition equals the composition of the subdifferentials of the composed mappings. Clearly, the rule fails in general. However,the rule is operative when we sum, integrate or take a finite supremum. The technique of treating the effect was titled disintegration. The apparatus of disintegration is closely related to the positive operators that preserve order intervals, i. e. that meet the Maharam condition. Study of order continuous operators with the property (they are referred to as Maharam operators) is of profound independent import for the general theory of Kantorovich spaces. General methods of disintegration unify, in a conventional form of the rules of calculus, various facts of the theory of Tf-spaces which are based on the Radon-Nikodym theorem. Here an analogy can be established with the fact that the calculus of support sets provides a uniform approach to different variants of the extension principles based on the application of the Hahn-Banach-Kantorovich theorem.
A. G. Kusraev and S. S. Kutateladze
557
Chapter 5.	Convex Extremal Problems
The conventional field of application for convex analysis is the theory of extremal problems. The respective tradition ascends to the classical works of L. V. Kantorovich, Karush, and Kuhn and Tucker. Now we will touch the section of the modern theory of extremal problems which is known as convex programming. The exposition to follow is arranged so that everywhere we deal with multiple criteria optimization, i. e. the extremal problems with vector-valued objective functions are treated, whereas the bulk of the presented material is of use for analyzing scalar problems (those with a single target).
The characteristic particularity of the problems of multiple criteria optimization consists in the fact that, while seeking for an optimum solution, we must take account of different utility functions contradictory to each other. At this juncture it is as a rule impossible to distinguish a separate objective without ignoring the others and thus changing the initial statement of the problem. The indicated circumstance leads to the appearance of specific questions that are not typical of the scalar problems: what should be meant by a solution to a vector program; how can different interests be harmonized; is such a harmonization possible in principle; etc.? At this juncture we discuss various conceptions of optimality for multiple criteria problems; the ideal and generalized optima, the Pareto optimum, as well as the approximate and infinitesimal optima.
The apparatus of subdifferential calculus presents an effective tool for analyzing extremal problems. The change-of-variable formulas for the Young-Fenchel transform are applied to justification of numerous versions of the Lagrange principle: an optimum in a multiple criteria optimization problems is a solution to an unconstrained problem for a suitable Lagrangian. With the aid of e-subdifferential calculus we deduce optimality criteria for approximate and infinitesimal solutions together with those for Pareto optima.
We also establish a vector-valued version of the Ekland variational principle and give some applications to generalized solutions and s-subdifferentials.
We pay the main attention to the general conceptual aspects, leaving aside those that are thoroughly dealt with in the vast literature on the theory of extremal problems.
Chapter 6.	Quasidifferentials
A mapping is quasidifferentiable at an interior point of the domain of definition if the directional derivative at this point exists and may be presented as the difference of sublinear operators. The quasidifferential is introduced to be the appropriate element of the space of sets by using a natural extension of the Minkowski duality. This opens ways of abstracting the tools of subdifferential calculus to a rather wide class of quasidifferentiable mapping which contains convex and concave operators.
The problem of expressing the quasidifferential of a composite mapping through the quasidifferentials of its constituents splits into the three steps: (1) finding the explicit formula for the directional derivative of a composite mapping through the directional derivatives of the constituents; (2) representation of the so-obtained
558
Subdifferential Calculus: Theory and Applications
derivative as the difference of some sublinear operators; and (3) calculation of the quasidifferential of the mapping under study through the quasidifferentials of the constituents. The first step consists in calculation of the respective limits and involves slight modification of the arguments of the classical calculus. The second step is often not straightforward and requires inventing some extra tricks. The third step rests on the Minkowski duality extended to the class of quasilinear operators representable as differences of sublinear operators. Using this scheme, we derive all calculus rules for quasidifferentials, The formulas for the quasidifferentials of the sum, product, composition, sum, supremum, and infimum of quasilinear operators.
We have seen in Chapter 4, that only on some special occasions we observe the full analog of the chain rule of the classical calculus: the subdifferential of a composite mapping is the composition of the subdifferentials of the constituents. These special occasions rest on the disintegration technique and Maharam operators. Part of this translates to quasidifferentials.
Quasidifferential calculus enables us to derive necessary optimality conditions for multiple criteria extremal problems with constraints using quasidifferentiable mappings. This is achieved mainly with the same tools as described in Chapter 5.
Chapter 7.	Local Convex Approximations
Modern research into general nonsmooth optimization problems pays much attention to finding convenient approximations for sufficiently wide classes of functions and sets. One of the available types of local approximation is the use of quasidifferentials which was addressed in Chapter 6. Its advantages notwithstanding, the concept of quasidifferential is far from being the most convenient and effective tool in all cases. Various authors have invented a good deal of local approximations: contingents, hypertangent directions, upper (lower) convex approximations, Hadamard, Bouligand and Clark cones, Dini, Hadamard, and Rockafellar derivatives fail to exhaust the list of available approximations. However, no universal type of approximations exists which suits all classes of problems. Various local convex approximations complement one another. Moreover, each of the available types may be best in a particular class of extremal problems.
An important signpost of the theory of local convex approximations is the definitions by F. Clark of the subdifferential of a locally Lipschitz function and the respective tangent cone to a set. The idea behind the F. Clarke definition has an infinitesimal origin. His observation reads as follows: if one collects all directions that are feasible for all points arbitrarily closed to the point under study, then a convex cone arises which approximates the initial set so closely that it can be successfully employed in deriving necessary conditions for an extremum. The introduction of the Clark tangent cone entailed a turmoil of research in nonsmooth analysis as well as spreading of new ideas and methods which have essentially influenced progress in the theory of extremal problems. However, this area is still far from the state of completeness and understanding which is achieved in the subdifferential calculus of convex operators.
The approaches to local approximation of sets and functions which are involved in subdifferential calculus and nonsmooth analysis are often connected with complex
A. G. Kusraev and S. S. Kutateladze
559
and bulky formulas. The relevant concepts of hypertangents, Rockafellar’s limits, and Clark’s derivatives may bewilder the reader at a first glance since their intrinsic meaning remains totally obscure. Nonstandard analysis suggests effective alleviating procedures. The new external concepts, using actual infinites and infinitesimals, “kill quantifiers,” which simplifies the complexity of understanding and applying the standard intricate constructions of nonsmooth analysis.
We freely and happily evoke the technique of robinsonian nonstandard analysis for developing the theory of one-sided tangents to arbitrary functions and sets. A special attention we pay to the infinitesimal status of the Clark cone and the relevant reqularizing and approximating cones as well as the technique of operations over these cones.
Audience
This book is conceived as bridging the gap between the theoretical core of modern functional analysis and its applicable sections invoked by optimization, optimal control, mathematical programming, economics and related subjects. The book will be of service to mathematicians with theoretical background seeking for new applications as well as for those keen on applications and looking for contemporary powerful theoretical tools.
Научное издание
Кусраев Анатолий Георгиевич Кутателадзе Семен Самсонович
Субдифференциальное исчисление теория и приложения
Утверждено к печати Ученым советом Института прикладной математики и информатики ВНЦ Российской академии наук
Зав. редакцией НА. Степанова Редактор Т.И. Белова Художник Ю.И Духовская Художественный редактор В.Ю. Яковлев
Подписано к печати 07.02.2007 Формат 70 х 100V16. Гарнитура Таймс. Печать офсетная
Усл.печ.л. 45,5. Усл.кр.-отт. 45,5. Уч.-изд.л. 42,2
Тип. зак. 72
Издательство “Наука** 117997, Москва, Профсоюзная ул., 90
E-mail: secret@naukaran.ru www.naukaran.ru
ППП “Типография “Наука” 121099, Москва, Шубинский пер., 6
ISBN5-02-034079-0