Текст
                    УДК 517.9
ББК 22.162
П52
Половинкин Е. С, Балашов М. В. Элементы выпуклого
и сильно выпуклого анализа. — М.: ФИЗМАТЛИТ, 2004. — 416 с. —
ISBN 5-9221-0499-3.
Книга посвящена изложению основ выпуклого анализа и сравнительно
нового его направления — сильно выпуклого анализа. Роль понятия «выпук-
«выпуклость» в математике (особенно в таких областях, как оптимизация и много-
многозначный анализ), естествознании, технике, экономике весьма значительна.
Помимо собственно выпуклого анализа рассматриваются его приложения.
Часть этих приложений (например, свойства центра Штейнера) до сих пор
слабо отражена в отечественной литературе.
В рамках сильно выпуклого анализа изложены некоторые обобщения ре-
результатов выпуклого анализа, а также новые результаты по аппроксимации
множеств, многозначному анализу и геометрии.
Для аспирантов и научных работников, по роду своей деятельности свя-
связанных с выпуклым анализом и его приложениями, а также для студентов
старших курсов университетов, изучающих выпуклый анализ.
Ил. 19. Библиогр. 173 назв.
© ФИЗМАТЛИТ, 2004
© Е. С. Половинкин, М. В. Балашов,
ISBN 5-9221-0499-3	2004


ОГЛАВЛЕНИЕ Введение 5 Глава 1. Выпуклый анализ 13 §1.1. Некоторые понятия функционального анализа 13 § 1.2. Выпуклые множества 24 § 1.3. Метрика Хаусдорфа 33 § 1.4. Касательные конусы 40 § 1.5. Полунепрерывные снизу функции 49 § 1.6. Выпуклые функции 52 § 1.7. Непрерывность выпуклых функций 59 § 1.8. Р-множества 68 § 1.9. Теоремы об отделимости 79 § 1.10. Теорема Хелли 93 § 1.11. Сопряженные функции 97 § 1.12. Двойственность Минковского 107 § 1.13. Барьерный и рецессивный конусы 114 § 1.14. Представление выпуклых множеств и функций в Rn 121 § 1.15. Производная по направлениям 128 § 1.16. Субдифференциал выпуклой функции 134 § 1.17. Свойства субдифференциалов 149 § 1.18. Крайние точки и лучи 161 § 1.19. Выпуклость функции и гладкость ее сопряженной 171 Глава 2. Приложения выпуклого анализа 186 § 2.1. Селекторы выпуклых множеств 186 § 2.2. Параметризация многозначных отображений 201 § 2.3. О максимумах выпуклых функций 208 § 2.4. Задачи выпуклого и линейного программирования 211 § 2.5. Симплекс-метод 221 § 2.6. Приближения множеств и оценки 229 § 2.7. Некоторые задачи теории приближений 241 § 2.8. Непрерывность многозначных отображений 253 § 2.9. Теорема Майкла 263
Оглавление § 2.10. s-вариационный принцип Экланда 266 § 2.11. О вложении множества выпуклых компактов в линейное пространство 273 Глава 3. Д-сильно выпуклые множества и функции в R71 ... 289 § 3.1. Замечательное свойство шара в Rn 289 § 3.2. Сохранение сильной выпуклости при линейных отображе- отображениях 295 § 3.3. Я-сильно выпуклая оболочка множеств 297 § 3.4. .R-сильно крайние точки 308 § 3.5. Сильно выпуклые функции 316 § 3.6. О новых липшицевых селекторах многозначных отображе- отображений 318 Глава 4. Порождающие множества. iVf-сильно выпуклые множества 324 § 4.1. Определения. Опорный принцип 324 § 4.2. Операции с порождающими множествами 328 § 4.3. Простейшие свойства М-сильно выпуклых множеств 348 § 4.4. М-сильно выпуклая оболочка множеств 353 § 4.5. О телах постоянной ширины 366 § 4.6. Теорема Каратеодори для М-сильно выпуклых оболочек ... 374 § 4.7. Обобщение теоремы Крейна-Мильмана 377 § 4.8. Порождающие функции, m-сильно выпуклые функции 382 § 4.9. Еще раз о конечных аппроксимациях 394 Список литературы 401 Именной указатель 411 Предметный указатель 413
ВВЕДЕНИЕ Напомним, что множество в линейном пространстве называется выпуклым, если вместе с любыми двумя точками оно содержит весь отрезок, концами которого являются данные точки. Вещественная функция, заданная на линейном пространстве, называется выпуклой, если множество, лежащее над ее графиком, является выпуклым мно- множеством. Задача отыскания минимума выпуклой функции на вы- выпуклом множестве называется выпуклой экстремальной задачей или задачей выпуклого программирования. Раздел математики, изучающий выпуклые множества, выпуклые функции и выпуклые экстремальные задачи, называется выпуклым анализом. Понятие выпуклости играет важную роль в различных областях фундаментальной и прикладной математики. Основные факты и по- понятия выпуклого анализа сформировались еще в 18-м и начале 19-го столетия. В конце 19-го столетия и начале 20-го столетия Г. Минков- ским был создан специальный раздел геометрии — выпуклая геомет- геометрия (см., например, [65, 153-156]). В создание и развитие выпуклой геометрии наряду с Г. Минковском большой вклад внесли Я. Штейнер, К. Каратеодори, Э. Хелли, В. Бляшке, Т. Боннезен, В. Фенхель и другие ученые (см., например, [17, 18, 20, 117-120, 124, 125, 136, 137, 140, 169, 170]). Основные понятия выпуклой геометрии, такие как опорная функция, поляра, крайняя точка, сыграли большую роль в создании в начале 20-го века функционального анализа. Примечательной особенностью выпуклых множеств является воз- возможность их двойного описания, прямого (на основе определения, т.е. если две точки принадлежат выпуклому множеству, то и весь отрезок с концами в указанных точках также принадлежит данному мно- множеству) и двойственного (выпуклое множество может быть представ- представлено как пересечение полупространств). В результате для каждого выпуклого множества можно указать двойственное ему множество, называемое полярой. Это свойство позволяет получить двойственное описание и для вы- выпуклых функций. С каждой выпуклой функцией связана двойственная, или сопряженная, получаемая из исходной преобразованием, впервые введенным для выпуклых функций еще в 18-м столетии A.M. Ле- жандром.
Введение Выпуклый анализ находит многочисленные приложения в вариа- вариационном исчислении и математической теории управления, в теоре- теоретической механике и теории упругости, теории приближений и эко- экономике. В настоящее время имеется много монографий по выпуклому анализу (см., например, [1, 15, 21, 31, 58-60, 62, 63, 93, 96, 99, 107, 116, 133, 138, 157, 167, 172, 173]). Еще больше монографий существует по приложениям выпуклого анализа (см., например, [2, 4, 7-9, 16, 19, 23, 25-28, 32-37, 43, 48-51, 54, 57, 66, 68, 69, 88, 89, 91, 93-95, 100-103, 106, 111-113, 138, 145]). Развитие математики и расширение ее приложений привело к соз- созданию различных аналогов и обобщений понятия выпуклости. Аксио- Аксиоматический подход к понятию выпуклости заключается в следующем. В произвольном множестве X выбирается некоторое семейство под- подмножеств Ф, называемое базой выпуклости. Множество А называется Ф-выпуклым, если оно представимо в виде пересечения некоторого подсемейства множеств из данного семейства Ф (см., например, [31, 99, 127, 147]). Независимо разными авторами определялось понятие F-выпуклой функции (см., например, [99, 115, 166]), причем в раз- различных работах разными способами. Например, в работе [115] за- задается некоторое семейство F функций /: X —> М, и говорят, что функция д: X —> Ж является .F-выпуклой на открытом подмножест- подмножестве S С X, если для любой точки хо Е S найдется функция / Е F такая, что д(хо) = /(жо) и д(х) > f(x) Уж Е S. Оперируя понятием над графика функции, можно связать понятия Ф-выпуклых множеств и F-выпуклых функций. Большое количество работ было посвящено исследованиям указанных классов множеств и функций (достаточно большой список работ можно найти, например, в [99]). В нашей книге мы хотим обратить внимание читателей на другое обстоятельство. Используя указанные выше обобщения понятия вы- выпуклости, можно не ослаблять это понятие, а наоборот усиливать его, получая при этом новые результаты выпуклого анализа. Поясним это. Как отмечается в работе [31], в начале 20-го столетия рядом уче- ученых исследовались классы выпуклых множеств на плоскости, каждый из которых получается как совокупность множеств, представимых в виде пересечений некоторых сдвигов одного и того же заданного выпуклого компактного множества. Оказалось, что каждый такой класс выпуклых множеств обладает более сильной двойственностью, чем обычные выпуклые множества. Речь идет о том, что множество А принадлежит классу, определяемому заданным компактом М, тог- тогда и только тогда, когда вместе с любой парой точек множество А содержит и усиленную выпуклую оболочку этих точек, т.е. содержит множество, получаемое в результате пересечения всевозможных сдви- сдвигов множества М, содержащих указанную пару точек. Однако уже для произвольных выпуклых множеств из трехмерного евклидова прост-
Введение ранства усиленная двойственность не имела места, и исследования в этом направлении прекратились. Впоследствии различные ученые (в работах [31, 47, 55, 134, 148, 162]) независимо друг от друга обратили внимание на то, что в прикладных задачах получаются хорошие результаты, когда рассмат- рассматриваются классы выпуклых множеств из конечномерного евклидова пространства W1, получаемых в результате пересечения сдвигов шара заданного радиуса. С другой стороны, при изучении задач на экстремум выпуклых функций также были обнаружены некоторые специальные классы выпуклых функций, для которых решения задач находятся проще, а вычислительные алгоритмы работают быстрее. Этот класс функций хорошо известен — это сильно выпуклые функции (см. [88]). При этом не существовало общей концепции изучения таких мно- множеств и функций. Не было ясно, какие еще классы множеств и функ- функций обладают хорошими в каком-то смысле свойствами. Настоящая книга посвящена ответу на поставленные выше воп- вопросы. Книга состоит из четырех глав. Глава 1 посвящена описанию и до- доказательству известных результатов выпуклого анализа в банаховых пространствах. В ней достаточно подробно изложены привычные для выпуклого анализа аспекты, касающиеся свойств выпуклых множеств и выпуклых функций, свойств сопряженных функций и поляры мно- множеств, теоремы об отделимости, субдифференциальное исчисление. Приведены классические теоремы конечномерного выпуклого анали- анализа — теорема Каратеодори, теорема Хелли и теорема Минковского, а также ее обобщение — теорема Крейна—Мильмана о крайних точках. В этой главе также изучаются метрические пространства, состоящие из компактных подмножеств некоторого банахова пространства, с метрикой Хаусдорфа и приводятся доказательства теоремы о полноте и теоремы Бляшке о компактности соответствующих пространств. Кроме того, исследуются различные конусы и в особенности — раз- различные типы касательных конусов как для выпуклых множеств, так и для невыпуклых множеств. Рассмотрение таких конусов вызвано тем, что, если некоторый тип касательного конуса к данному невы- невыпуклому множеству оказывается выпуклым конусом (как например, касательный конус Кларка), то это позволяет исследовать невыпук- невыпуклые задачи методами выпуклого анализа (см., например, [54, 93]). При этом много внимания в главе 1 уделено изучению свойств специаль- специальных квазилинейных операций со множествами, впервые определенных Г. Минковским, таких, как алгебраическая сумма и геометрическая разность множеств. Приведенные в главе 1 результаты носят главным образом вспомогательный характер, они необходимы для получения результатов в остальных главах книги. Более того, ряд указанных
Введение здесь классических результатов нами обобщен и развит в главе 3 и в главе 4, посвященных сильно выпуклому анализу. Глава 2 также носит вспомогательный характер и содержит не- некоторые приложения выпуклого анализа. В частности, в ней изучены вопросы нахождения некоторых непрерывных и липшицевых селек- селекторов многозначных отображений, доказаны свойства центра Штей- нера, главным из которых является то, что штейнеровский центр множества является липшицевым однозначным селектором выпуклых множеств из евклидова пространства Жп. Приведены алгоритмы ре- решения задач выпуклого и линейного программирования, в частности, приведен классический метод Лагранжа решения задач выпуклого программирования, а также формулировка и доказательство моди- модифицированного симплекс-метода решения задач линейного програм- программирования. Рассмотрены методы приближенного решение некоторых классов задач на максимум выпуклой функции, идеи постановки ко- которых восходят к теории дифференциальных игр (см., например, [84]). В главе 2 мы также приводим важные на наш взгляд результаты негладкого анализа, такие, как теорема Майкла о непрерывном се- селекторе (см. [152]) и г-вариационный принцип Экланда (см. [107]). Описаны классические, идущие от Г. Минковского, а также новые методы внешней и внутренней аппроксимации выпуклых множеств многогранниками, основанные на описании опорных функций аппрок- аппроксимаций. Приведены некоторые специальные задачи теории приб- приближений и исследованы условия непрерывности некоторых классов многозначных отображений, представляющие собой геометрическую разность двух отображений. Последние результаты будут использо- использованы в последних главах при изучении сильно выпуклых множеств. Главу 2 завершает параграф, в котором показано, что пространство, элементами которого являются выпуклые подмножества из банахова пространства, можно вложить в некоторое топологическое линейное пространство, причем так, что это пространство выпуклых множеств будет соответствовать некоторому острому выпуклому конусу в ли- линейном пространстве. В главе 3, следуя работам [79-81], исследован специальный класс Ф-выпуклых множеств из Мп, у которого семейство Ф состоит из замкнутых шаров произвольного, но фиксированного для данного се- семейства радиуса R > 0 с произвольными центрами. Таким образом, семейство Ф порождено сдвигами одного множества — шара Вц@) из Жп. Этот класс множеств, каждое из который может быть пред- представлено в виде пересечения некоторой совокупности шаров ра- радиуса R > 0, будем называть R-сильно выпуклыми множествами. Показано, что указанный класс множеств обладает усиленной двойст- двойственностью, т.е. компактное множество является сильно выпуклым множеством радиуса R тогда и только тогда, когда для любой пары
Введение 9 точек этого множества оно содержит ^-сильно выпуклую оболочку этой пары точек, т.е. содержит множество, являющееся пересечением всех шаров радиуса R, содержащих данную пару точек. Благодаря этому свойству получен ряд алгебраических и топологических свойств этого класса сильно выпуклых множеств. Для указанного класса мно- множеств получено свойство, состоящее в том, что для всякого ^-сильно выпуклого множества найдется другое выпуклое множество, такое, что алгебраическая сумма этих двух множеств в точности равняет- равняется шару Дк@) данного радиуса R. Доказано, что всякое ^-сильно выпуклое множество преобразуется в некоторое R\ -сильно выпуклое множество при линейных операциях с ним (при вычислении алгеб- алгебраической суммы множеств, пересечения или геометрической разнос- разности множеств, при интегрировании сильно выпуклых многозначных отображений) и в результате действия линейным оператором. Приведен критерий ^-сильной выпуклости множества, состоящий в том, что субдифференциал опорной функции такого множества, заданный на единичной сфере, является отображением, удовлетворяю- удовлетворяющим условию Липшица с той же константой R. Установлена связь ^-сильно выпуклого множества с сильно выпуклыми функциями. По- Получена формула ^-сильно выпуклой оболочки множеств, изучены ее свойства. Показано, что операция взятия ^-сильно выпуклой оболочки удовлетворяет условию Липшица в метрике Хаусдорфа. Получены оценки уклонения в метрике Хаусдорфа ^-сильно выпуклых оболочек одного и того же множества, но с различными радиусами R. Кроме того, получено обобщение теоремы Каратеодори, состоящее в том, что для всякой точки а из ^-сильно выпуклой оболочки множества найдется не более чем п + 1 точек этого множества таких, что точка а содержится в ^-сильно выпуклой оболочке указанной совокупности из п + 1 точек. Далее введено понятие ^-сильно крайней точки и получено обоб- обобщение теоремы Крейна-Мильмана о ^-сильно крайних точках. Опираясь на понятия центра Штейнера и ^-сильно выпуклой обо- оболочки множества, построен еще один класс липшицевых однозначных селекторов для выпуклозначных и компактнозначных многозначных отображений. Так как база выпуклости в разобранном в главе 3 классе ^-сильно выпуклых множеств из W1 состоит из шаров одного радиуса R > 0 с произвольными центрами, то шар Вц@) радиуса R с центром в нуле естественно назвать порождающим множеством для данного класса Ф-выпуклых множеств. Глава 4 книги посвящена обобщению результатов главы 3 на дру- другие классы Ф-выпуклых множеств из банахова пространства. Будем полагать, что каждое семейство Ф образовано множествами, полу- получаемыми в результате всевозможных сдвигов некоторого выпуклого
10 Введение множества М, причем полученный класс Ф-выпуклых множеств обла- обладал усиленным типом двойственности. Следовательно, множество М должно удовлетворять некоторому дополнительному условию. Только в этом случае указанное множество М будем называть порождающим. Уточним это дополнительное условие и тем самым дадим определение порождающего множества. Назовем выпуклое замкнутое множество М из банахова прост- пространства Е порождающим множеством, если для любого непустого множества Л, представимого в виде А = Q (М + х) при некото- хех ром X, найдется выпуклое замкнутое множество В С Е такое, что А + В = М. Соответственно для каждого порождающего множест- множества М всякое непустое множество вида А= р| (М + яг) (*) хех назовем М-сильно выпуклым множеством. Заметим, что, как по- показано в главе 3, всякий шар Вц@) из евклидова пространства Жп удовлетворяет дополнительному условию, т.е. шар Вц@) удовлетво- удовлетворяет определению порождающего множества. В главе 4 описаны и развиты результаты, полученные нами в работах [11, 82, 83] и др. Показано, что любое выпуклое замкнутое множество на евклидовой плоскости М2 удовлетворяет определению порождающего множества. Этим объясняется некоторый успех иссле- исследований множеств на плоскости в начале 20-го века (см. [31]). Однако в более сложных пространствах порождающих множеств не так много. Основными представителями порождающих множеств, полученных в главе 4, являются шар из гильбертова пространства, над график параболической функции, определенной на гильбертовом пространстве, образы невырожденных линейных непрерывных преоб- преобразований порождающих множеств. В частности, эллипсоиды из W1 являются порождающими множествами. Исследован вопрос: в результате каких операций с порождающими множествами получатся новые порождающие множества? Показано, что всякое опорное подмножество порождающего множества также будет порождающим множеством. Прямая сумма двух порождающих множеств также является порождающим множеством, при определен- определенных условиях пределы последовательности порождающих множеств являются порождающими множествами. Доказаны некоторые критерии порождающих множеств. Показано, что для проверки свойства порождаемости некоторого множества М достаточно проверить определение для более простых множеств Л, представимых в виде пересечения всего лишь двух множеств, т.е. вида А = МП (М + х). В § 4.3 проведено исследование общих свойств М-сильно выпуклых множеств при произвольном порождающем множестве М. Приведе-
Введение 11 ны условия, при которых сохраняется М-сильная выпуклость мно- множеств, полученных в результате сложения или вычитания множеств по Минковскому, при сходимости последовательности множеств {Л^}, являющихся соответственно М&-сильно выпуклыми. Определено понятие М-сильно выпуклой оболочки множества и исследованы ее свойства. Приведена формула нахождения М-силь- М-сильно выпуклой оболочки множества и ее опорной функции. Изучены свойства М-сильно выпуклых оболочек одного и того же множества в зависимости от выбора различных порождающих множеств, их взаимосвязь, свойства М-сильно выпуклых оболочек множеств, пред- ставимых в виде алгебраической суммой других множеств. Показано, что в случае, когда порождающее множество М ограничено, оператор взятия М-сильно выпуклой оболочки как функция множества удов- удовлетворяет условию Липшица в метрике Хаусдорфа. В § 4.6 для произвольного строго выпуклого компактного порож- порождающего множества М из Жп получен еще один аналог теоремы Каратеодори, описывающий свойства М-сильно выпуклой оболочки. Показано, что всякая точка из М-сильно выпуклой оболочки произ- произвольного компактного множества А содержится в М-сильно выпуклой оболочке некоторого конечного подмножества этого множества А, состоящего не более чем из п + 1 точек. В § 4.7 приводится еще одно обобщение теоремы Крейна-Миль- мана [143] для Дк@)-сильно выпуклых множеств из гильбертова пространства. Для произвольного множества из гильбертова прост- пространства введены понятия ^-сильно крайней точки и ^-сильно выс- выступающей точки этого множества, показано, что множество этих точек может быть существенно меньше, чем множество классических крайних точек или выступающих точек данного множества соответст- соответственно. В итоге показано, что всякое замкнутое множество А из гиль- гильбертова пространства содержится в Дк@)-сильно выпуклой оболочке ^-сильно выступающих (или ^-сильно крайних) точек множества А при достаточно больших R > 0. В § 4.8 изучается класс порождающих множеств, являющихся надграфиками некоторых выпуклых функций. Определены понятия порождающей функции т и понятие m-сильно выпуклой функции. Для того чтобы сформулировать указанные определения, введено по- понятие «эпи-разности» функций, основанное на геометрической раз- разности Минковского над графиков указанных функций. Показано, что понятие m-сильно выпуклой функции является естественным обоб- обобщением понятия сильно выпуклой функции, впервые введенного в работах Б.Т. Поляка (см., например, [87, 88]). Введено обобщение преобразования Лежандра—Юнга—Фенхеля, названное т-силъно вы- выпуклым преобразованием функции /. Получен критерий того, что функция т является порождающей, состоящий в том, что инфималь-
12 Введение ная конволюция всякой m-сильно выпуклой функции и ее т-сильно выпуклого преобразования тождественно равна функции т. Получены условия ттг-сильной выпуклости данной функции, состоящие в том, что, как и в случае выпуклой функции, эта функция должна совпадать со своим вторым ттг-сильно выпуклым преобразованием. Доказано, что неотрицательная квадратичная форма, определенная на гильбер- гильбертовом пространстве, является порождающей функцией. Из этого, в частности, следует, что всякая собственная полунепрерывная снизу сильно выпуклая функция (в определении Б.Т. Поляка [87]) совпадает с верхней гранью семейства всех не превосходящих ее непрерывных параболических функций. Приведены достаточные условия порождае- мости функции, определенной на Жп, с помощью которых получены некоторые классы порождающих функций. В книге приведены многочисленные примеры и контрпримеры, по- показывающие, что класс порождающих множеств является достаточно узким. Даже в простых случаях (например, для некоторых выпуклых многогранников из Ж3) определение может не выполняться и легко может нарушаться при алгебраических операциях с порождающими множествами. В книге также содержится много упражнений — от весьма прос- простых задач на проверку определений до доказательства нетривиальных фактов. К некоторым наиболее сложным упражнениям даны указания или ссылки на работы, где можно найти решения. Авторы выражают глубокую признательность В.М. Тихомирову, который своим творчеством и личным влиянием на авторов во мно- многом способствовал получению приведенных в книге результатов и со- содействовал написанию данной книги. Авторы выражают искреннюю благодарность американскому ма- математику Р.Т. Рокафеллару, известному ученому и автору знаменитой монографии «Выпуклый анализ», который в 1995 г. обратил внимание одного из авторов на существование другого множества, кроме ша- шара из евклидова пространства Мп, удовлетворяющего приведенному выше дополнительному условию, а именно: такому условию удовле- удовлетворяет и надграфик параболы. Это явилось толчком для введения понятия порождающего множества, исследования классов порождаю- порождающих множеств, а также изучения общих свойств М-сильно выпуклых множеств. Авторы считают своим долгом выразить признательность своим коллегам А.В. Арутюнову, А.Г. Бирюкову, А.В. Дмитруку, В.К. Заха- Захарову, Г.Е. Иванову, Р.Н. Карасеву, СП. Коновалову и Р.В. Констан- Константинову за полезные обсуждения и за помощь в подготовке рукописи к печати. Проведенные исследования и издание книги были поддержаны грантами РФФИ по проектам 98-01-00645, 01-01-00743, 03-01-14053.
Глава 1 ВЫПУКЛЫЙ АНАЛИЗ § 1.1. Некоторые понятия функционального анализа В этом параграфе приведем некоторые основные обозначения, оп- определения и утверждения, которые можно найти в современных моно- монографиях по функциональному анализу, например в книгах [30, 56, 97, 109]. Символом 0 будем обозначать пустое множество. Через N будем обозначать множество натуральных чисел, а через Z — множест- множество целых чисел. Через Ж будем обозначать вещественную прямую, а через Ж будем обозначать вещественную прямую, пополненную плюс бесконечностью, т.е. М = Ми{+оо}. В качестве конечномерного евклидова пространства размерности п будем рассматривать прост- пространство Жп. Напомним, что линейным пространством называется непустое множество элементов, для которых определены операция суммы двух элементов и операция умножения элемента на скаляр, удовлетворяю- удовлетворяющие некоторому набору аксиом (коммутативности, ассоциативности, существования нуля и обратного элемента, дистрибутивности). Все линейные пространства мы будем рассматривать над вещественным полем скаляров. Линейное пространство называется нормированным линейным пространством, если в нем определена норма каждого элемента, т.е. такая функция || • ||: Е —> [0, +оо), которая удовлетворяет трем условиям: 1) ||ж|| > 0 для всех х Е Е и равенство нулю допускается лишь для х = 0; 2) ||Аж|| = |А| ||ж|| для всех A е Ж и х е Е; 3) \\х + у\\ < \\x\\ + \\y\\ для всех ж, у е Е. Если в линейном пространстве некоторая функция || • || такова, что условия 2) и 3) выполнены, а в условии 1) равенство ||ж|| = 0
14 Гл. 1. Выпуклый анализ возможно при некотором ж/0, то такая функция называется полу- полунормой. Последовательность точек {жп}^?_1 в линейном нормированном пространстве Е называется сходящейся, если существует некоторая точка ж Е Е, для которой при любом е > 0 найдется номер N(e) Е N такой, что для любого номера п > N(e) справедливо неравенст- неравенство ||ж — хп\\ < е. Последовательность точек {хп}^=1 называется последователь- последовательностью Коши (или фундаментальной), если для любого е > 0 най- найдется номер N(e) Е N такой, что для любых n, m > N(e) справед- справедливо неравенство \\хп — хт\\ < е. Любая сходящаяся последовательность, очевидно, является фун- фундаментальной. Обратное, вообще говоря, неверно. Для этого необходи- необходимы дополнительные предположения либо о самой последовательности, либо о пространстве Е. Нормированное пространство Е называется полным, если в нем любая фундаментальная последовательность сходится. Напомним, что всякое полное линейное нормированное прост- пространство называется банаховым пространством. Произвольное бана- банахово пространство с нормой || • || в дальнейшем будем обозначать символом Е или (Е, \\ • ||). Банахово пространство называется сепарабелъным, если в нем су- существует счетное всюду плотное подмножество, т.е. такое подмно- подмножество {ж^}^:1 С Е, что для любого элемента (вектора) х G Е и для любого числа е > 0 найдется номер г такой, что \\х — Xi\\ < e. Банахово пространство называется гильбертовым пространст- пространством (в дальнейшем будем обозначать символом И), если в нем до- дополнительно задана действительная функция двух переменных (•,•): И х % —у [0;+оо), называемая скалярным произведением, удовлетво- удовлетворяющая следующим условиям: 1) (ж, ж) > 0 для всех iG^, причем (ж, ж) = 0 только при ж = 0; 2) (ж, у) = (у,х) для всех ж, у G Ч] 3) (Хх,у) = Х(х,у) VAgM, Ух, у eW; 4) (ж + у, z) = (ж, z) + (у, z) для всех ж, у, z е Ч] 5) ||ж|| = у/(х,х) Уж е П. Напомним, что не для всякого банахова пространства можно за- задать скалярное произведение его элементов. Отметим важное свойство скалярного произведения в гильберто- гильбертовом пространстве.
§1.1. Некоторые понятия функционального анализа 15 Лемма 1.1.1. Для любых векторов ж, у Е И справедливо нера- неравенство Коши-Буняковского \(х,у)\ < \\x\\ • \\y\\, причем если век- векторы ж, у линейно независимы, то неравенство строгое. Обобщением понятия нормированного пространства является по- понятие метрического пространства. Непустое множество элементов (точек) Е называется метричес- метрическим пространством, если определена функция д: Е х Е —>¦ [0, +оо) (называемая расстоянием между элементами) такая, что выполне- выполнены три условия: 1) д(х,у) = 0 тогда и только тогда, когда х = у; 2) д{х,у) = д(у,х) для любых ж, у е Е; 3) g{x,z) < д{х,у) + g(y,z) для любых ж, у, z Е Е. Такое пространство будем обозначать (Е, д) либо просто Е, если это обозначение не вызывает сомнения. В част- частности, нормированное линейное пространство (Е, \\ • ||) является мет- метрическим пространством (Е,д), где д{х,у) = \\х — у\\. В этом случае говорят, что метрика пространства (Е,д) порождена нормой || • ||. В метрическом пространстве (Е, д) открытым шаром радиу- радиуса е > 0 с центром в точке a G Е (или г-окрестностью точки а) бу- будем называть множество В°(а) = {х G Е \ д(х,а) < г}, а замкнутым шаром радиуса е > 0 с центром в точке a G Е будем называть множество В?(а) = {х G Е | д(х,а) < е}. Дополнением множества А называется множество Е\А = {х G Е \ х 0 Л}, которое, как обычно, будем обозначать через Ас. В метрическом пространстве Е точка х G Е называется гранич- граничной точкой множества А С Е, если для любого числа е > 0 справед- справедливы соотношения В°(х) П А ф 0 и В°(х) П Ас ф 0. Совокупность всех граничных точек множества А называется границей множества А и обозначается через ЗА. В метрическом пространстве Е точка х G Е называется внут- внутренней точкой множества Л, если существует число е > 0 такое, что В°(х) С А. Совокупность всех внутренних точек множества А называется внутренностью множества А и обозначается через hit A. Множество А называется открытым множеством, если справедливо равенство hit A = А. В метрическом пространстве Е точка х G Е называется предель- предельной точкой множества Л, если для любого числа е > 0 множест- множество [5^(ж)\{ж}] П А не пусто. Объединение множества А и всех его предельных точек называется замыканием множества А и обозна- обозначается через А. В метрическом пространстве Е множество А назы- называется замкнутым, если существует открытое множество В такое, что А = Е\В. Множество А является замкнутым множеством тогда и только тогда, когда справедливо равенство А = А.
16 Гл. 1. Выпуклый анализ Понятия сходящихся и фундаментальных последовательностей в метрическом пространстве, а также понятие полного метрическо- метрического пространства определяются аналогично случаю нормированного пространства с заменой нормы \\х — у\\ на расстояние д(х,у). Обобщением понятия метрического пространства является поня- понятие топологического пространства. Непустое множество элементов (точек) Е называется топологи- топологическим пространством, если в нем выделено некоторое семейство г подмножеств (называемое топологией), удовлетворяющее следующим условиям: 1) Е ? т и 0 Е т; 2) пересечение любых двух подмножеств из г также принадлежит т; 3) объединение любой совокупности подмножеств из г принадлежит т. Такое пространство будем обоз- обозначать (Е, т) либо кратко Е. Все подмножества, входящие в се- семейство т, называются открытыми множествами. Любое открытое множество, содержащее точку ж, называется окрестностью точки х. Подмножества из Е, являющиеся дополнительными к открытым мно- множествам (т.е. представимые в виде E\G, где G Е г), называются замкнутыми множествами топологического пространства (Е, г). За- Замыканием множества А из топологического пространства Е называ- называется пересечение всех замкнутых подмножеств из Е, содержащих А. В дальнейшем мы будем рассматривать такие топологические пространства (Е, г), в которых выполнена первая аксиома отделимос- отделимости (см. [56]), откуда следует, что каждая точка пространства является замкнутым множеством. В частности, всякое метрическое пространство (Е, д) является топологическим пространством (Е,т), где топология г состоит из всех открытых в метрическом пространстве (Е, д) множеств. В этом случае говорят, что топология г порождена метрикой пространст- пространства (Е,д). Скажем, что система множеств {Аа} покрывает множество Л, если справедливо включение А С (J Аа. Непустое множество А топо- логического пространства Е называется компактным множеством, если всякая покрывающая его система открытых множеств содержит конечную подсистему этих множеств, также покрывающую данное множество А. Отметим критерий компактности топологических пространств. Некоторую систему подмножеств {Аа} множества (пространства) В т называют центрированной, если любое конечное пересечение f] Aai элементов этой системы непусто. г~
§1.1. Некоторые понятия функционального анализа 17 Теорема 1.1.1. Для того чтобы топологическое пространство было компактным, необходимо и достаточно, чтобы любая цент- центрированная система его замкнутых подмножеств имела непустое пересечение. Линейное пространство Е называется топологическим линейным (или векторным) пространством, если в этом линейном пространст- пространстве определена топология г так, что операции сложения элементов и умножения элемента на скаляр являются непрерывными относитель- относительно заданной топологии т. Совокупность 7 окрестностей точки х Е Е называется локальной базой топологии т в точке х, если любая окрестность точки ж из г содержит окрестность точки х из j. В силу непрерывности линей- линейных операций в топологическом линейном пространстве Е всякая окрестность произвольной точки х представима в виде суммы х + U, где U — некоторая окрестность нуля в пространстве Е. Отсюда сле- следует, что задание локальной базы точки нуль полностью определяет топологию г топологического линейного пространства Е. Топологическое линейное пространство Е называется локально выпуклым, если в нем всякое непустое открытое множество содержит непустое выпуклое открытое подмножество (т.е. существует локаль- локальная база нуля j, состоящая из выпуклых множеств). Если 7 — локальная база нуля в линейном топологическом прост- пространстве (Е,т), то замыкание множества А может быть вычислено по формуле ~А = П U (х + V). Отметим, что в случае, когда пространство Е является бана- банаховым пространством, замыкание произвольного множества А С Е совпадает с пересечением всех замкнутых множеств, содержащих А, и может быть представлено в виде A— f] (A + В°@)) (понятие суммы ?>0 множеств приведем в этом параграфе ниже). Множество А в банаховом пространстве Е является компактным множеством или просто компактом, если из всякой бесконечной последовательности точек {а^}?^ С А можно выделить сходящуюся подпоследовательность {xik}2^-., причем lim xik G A. Множество А в банаховом пространстве Е называется вполне ограниченным, если для любого числа е > 0 существует конечное множество точек {а^}^ С А такое, что для каждой точки х G А существует номер г, при котором \\х — Xi\\ < е. Соответствующее множество {ж^}^1 называется конечной е-сетью множества А. 2 Е.С. Половинкин, М.В. Балашов
18 Гл. 1. Выпуклый анализ Как известно, замкнутость и вполне ограниченность множества в банаховом пространстве эквивалентны компактности этого мно- множества. В частности, в конечномерном пространстве W1 множество А компактно тогда и только тогда, когда это множество замкнуто и ограничено. Сформулируем еще три важных результата, которые нам в даль- дальнейшем потребуются. Теорема 1.1.2 (Р.Бэр). Пусть UcE — открытое подмно- подмножество банахова пространства Е и счетное семейство под- подмножеств {Uk}^=i С U таково, что hit Uk — ® для всех к. Тог- оо да иф U Uk. к=1 Множества, представимые в виде не более чем счетного объеди- объединения нигде не плотных множеств принято называть множествами первой категории, а все остальные — второй категории. Отметим, что теорема 1.1.2 верна и в более общем случае, когда U — полное метрическое пространство. Другая формулировка теоремы Бэра следующая. Теорема 1.1.3 (Р. Бэр). Пусть (Е,д) — полное метрическое пространство и {Fk}<^=1 С Е — последовательность замкнутых оо подмножеств из Е. Тогда если их объединение (J Fk = Е, то по крайней мере одно из них имеет непустую внутренность, т. е. 3N е N такой, что hit FN ф 0. Теорема 1.1.4 (С.Банах, X. Штейнгауз). Пусть Е\ — банахово пространство, Е2 — нормированное. Пусть Г — семейство ли- линейных операторов, действующих из Е\ в Еъ и таких, что s\xp\\Tx\\E <+00 для любого х G Е\. Тогда существует чис- ло М > 0 такое, что ||Тж||^2 < МЦжЦ^ для всех х G Е\ и всех Те Т. Теорема 1.1.5 (В.Хан, С. Банах). Пусть L — линейное под- подпространство банахова пространства Е, функция д: Е —>¦ Ш. удов- удовлетворяет условиям д(х + у) < д{х) + д{у) и д{\х) = |А| д{х) Мх, у G E, VA G Ш.. Пусть на подпространстве L задан линейный функ- функционал /: L —у Ж, удовлетворяющий условию f(x) < g(x) Уж G L . Тогда существует продолжение линейного функционала f с под- подпространства L на все пространство Е с сохранением мажоранты,
§1.1. Некоторые понятия функционального анализа 19 т. е. существует линейный функционал р: Е —>¦ Ж такой, что: 1)р(х) = f(x) VxGL; 2) р(х) <д(х) Уж е Е. Отметим, что в последней теореме в качестве д могут выступать, например, линейный функционал или полунорма. Пусть Е — топологическое линейное пространство. Множество всех линейных непрерывных функционалов, определенных на Е, об- образуют линейное пространство, называемое сопряженным с Е прост- пространством, которое будем обозначать Е*. В случае, когда прост- пространство Е является банаховым пространством, в сопряженном пространстве Е* вводится норма || • ||^, определяемая по формуле ||p|L=sup{|p(ar)|||N|<l}. Отметим, что пространство непрерывных линейных функциона- функционалов, определенных на гильбертовом пространстве 7/, изоморфно само- самому пространству %. Это означает, что для каждого р Е И* найдется вектор a G И такой, что р(х) = (а, ж) для любого х е И. В общем случае банахово пространство Е является замкнутым подмножеством дважды сопряженного пространства Е** = (Е*)*. При этом каждому вектору х Е Е можно сопоставить линейный функ- функционал Ах е (Е*)* по формуле Ах(р) = р(х) для любого р е Е*. Соответствие я: Е —>¦ Е**, где к{х) = Лж, задает естественное вло- вложение Е в Е**. Пространство Е называется рефлексивным, если к[Е) — i?**. Наиболее важным примером рефлексивных пространств является гильбертово пространство, такое, как пространство Ь — квадратично-суммируемых последовательностей или пространст- пространство ?2@) квадратично-суммируемых функций на некотором мно- множестве О С Мп, или пространства Соболева Hq(?1), Hk(?l). Но су- существуют и другие примеры рефлексивных пространств такие, как пространства lp, LP(Q) при любых 1 < р < +оо. В силу указанного выше естественного вложения Е в Е** ив силу взаимности между точкой и функционалом значение линейного функционала р G Е* в произвольной точке х G Е будем записывать в виде р(х) = (р,х). В дальнейшем нам придется рассматривать не только сильные топологии в банаховом пространстве Е, т.е. порожденные нормой, но и слабые топологии в пространстве Е, а также слабые* топологии в сопряженном пространстве Е*. 2*
20 Гл. 1. Выпуклый анализ Слабой топологией rw пространства Е называется топология, порожденная локальной базой нуля, состоящей из множеств вида = f| где N принимает натуральные значения, pi — произвольные элемен- элементы из Е*, числа Si > 0. Слабой* топологией т^ пространства Е* называется топология, порожденная локальной базой нуля, состоящей из множеств вида V* = V*(N,{?i},{Xi})= где N принимает натуральные значения, xi — элементы из Е, чис- числа Si > 0. Одним из замечательных свойств слабой топологии является то, что множества, не компактные в сильной (порожденной нормой) то- топологии, могут оказаться компактными в слабой топологии (говорят: слабо компактными). Теорема 1.1.6 (С. Банах, Л. Алаоглу). Пусть V — некоторая окрестность нуля в топологическом линейном пространстве Е. Тогда при любом е > 0 множество Ve*= f){P?E*\\(p,x)\<e} xev компактно в слабой* топологии. Одно из следствий теоремы Банаха-Алаоглу для рефлексивных банаховых пространств принимает следующий вид. Теорема 1.1.7. Пусть банахово пространство Е рефлексив- рефлексивно. Тогда всякий шар В?(а) из Е компактен в слабой топологии. Алгебраической суммой Минковского (или просто суммой) двух множеств А и В из линейного пространства Е называется множество вида (см. [154] и рис. 1) А + В = {a + b\ a G Л, Ъ G В}. Произведением множества А на число Л называется множество ХА = {Ха\ а е А}. Если из различных банаховых пространств Е\ и Еъ выбраны множества А С Е\ и Бс^2, то декартовым произведением мно- множеств А и В называется множество вида А 0 В = {(а; Ъ) е Ех х Е2 \ а е А, Ъ е В}.
§1.1. Некоторые понятия функционального анализа 21 1 / 2 0 ///// 1 //// / / / X У> f -1 1 / У1 ////// 1 r I : о ///////. ///// 1'-. (_ ///// у у Рис. 1. а — А = {(я,у)еК|тах{|яШ}<1}; ? — В = {(х,у) \ хЧ + У2 < 1/4}; в — А + В Если же некоторое банахово пространство Е представлено в виде прямой (алгебраической) суммы своих линейных подпространств Е\ и Е2 (т.е. Е — Ei + Е2 , причем Eid Е2 = 0), то множество М = = А + 5, где A G Ei и 5 С ^25 будем называть прямой суммой множеств А и 5 и обозначать Л 0 5. Пусть даны два банахова пространства Е\ и i^- Для линейного оператора Т: Е\ —У Е2, как обычно, определяются следующие мно- множества: множество значений Im Т = {у G Е2 \3х € Ei, у = Тж} и ядро Кег Г = {ж G ^i | Тж = 0}. Для линейного ограниченного оператора Т: Ч —У Ч, определен- определенного в гильбертовом пространстве Ч, как обычно, вводится понятие сопряженного оператора Т*, удовлетворяющего равенству (Тх,у) = = (ж, Т*у) для всех х, у еЧ. При этом Ч = Кег Т 0 Im Г*. Нам также потребуется понятие сопряженного оператора к линей- линейному непрерывному оператору Т, определенному на банаховом прост- пространстве Ei со значениями в банаховом пространстве Е2. Сопряжен- Сопряженный к нему линейный оператор Т* : Е\ —У Е± определяется из равенст- равенства (д,Тх) = (Т*д,х) для всех ж G Е\ и д G Е%. В дальнейшем нас будут интересовать различные способы отделе- отделения (или разделения) непересекающихся множеств. Хорошо известны аксиомы топологической отделимости в топологических пространст- пространствах (см. [56]). Самый простой способ равномерной топологической отделимости множеств в банаховом пространстве приведен в следую- следующей теореме. Теорема 1.1.8 (о топологической отделимости). Пусть А — компакт из банахова пространства Е, В С Е — замкнутое мно- множество и АГ\ В = 0. Тогда найдется число е>0 такое, что
22 Гл. 1. Выпуклый анализ Доказательство. Для любого х Е А из того, что х ? В, в силу открытости дополнения Вс найдется е(х) > 0 такое, что Пусть ?\{х) = е(х)/2. Очевидно, справедливы включения Так как множество А является компактом, то из открытого покрытия множества А шарами В°,Лх) можно выделить конечное подпокры- подпокрытие, т.е. найдутся натуральное число т и точки {а^}^ С А такие, что справедливо включение Определим число е = min ?i(xi) > 0. Выберем произвольную точ- 1<г<т ку х Е А] для нее найдется соответствующая точка xi такая, что \\х - xi\\ < Si(xi). Тогда В°е{х) С B°eiixi)+e(xi) С Boe{xi)(xi) С Вс. Таким образом для любого х G А справедливо соотношение (х + В°@)) П В = 0, что и доказывает теорему. ? Отметим, что теорема 1.1.8 также справедлива в произвольном топологическим линейном пространстве (при доказательстве вместо шара В°? @) нужно выбрать некоторую окрестность нуля). В дальнейшем нам потребуется еще одна операция со множест- множествами. Определение 1.1.1. Геометрической разностью (иначе раз- разностью Минковского) множеств Л, В С Е называется множество Например, если множество А есть шар BR(a) Cln и В = ВГ(Ь) С Cin, R > г, то легко проверить, что множество А — В является ша- шаром BR_r(a - b), при этом справедливо равенство (А — В) + В = А. Другой пример: пусть выбраны куб А = {х е W1 | max \xk\ < 2} kei,n и шар В = В\ @) С W1. Тогда легко проверить, что множество А — В является шаром i?i@), но при этом справедливо строгое включе- включение (А^В)+ВсА. Из определений геометрической разности и алгебраической суммы множеств легко получить основные свойства этих операций.
§1.1. Некоторые понятия функционального анализа 23 Предложение 1.1.1. Пусть А, В, С — произвольные мно- множества из банахова пространства Е, пусть A G 1. Справедливы соотношения ьев {А + С)±{В + С), A.1.1) + В)±В, A.1.2) ±С = А±(В + С), A.1.3) А + (В U С) = (А + В) U (А + С), А±(В1)С) = (А±В)Г\(А± С), (В П С) ¦*¦ А = (В -^ А) П (С ^ А), А + (ВГ\С) С(А + В)Г\(А + С), А±{ВГ)С)Э{А^ВI){А±С), (BI)C)^Ad(B±A)U{C^ А). Если В С С, то справедливы включения А + В СА + С, А^ВэА^С, В^АсС^А. Замечание 1.1.1. В частном случае, когда первое включение в формуле A-1.2) принимает вид равенства, т.е. (А^В)+В = А, говорят, что множество В полностью выметает множество А. Этот термин объясняется тем, что для любой граничной точки a G дА найдется точка с такая, что сдвиг множества В на с содержится во множестве А, т.е. справедливо включение с + В С А, причем это включение таково, что аЕ (В-\-с). В этом случае геометрическая разность по существу является обратной операцией к операции суммы множеств. Данное условие полного выметания лежит в основе многих полученной нами в гл. 3, 4 результатов для сильно выпуклых мно- множеств. Упражнение 1.1.1. Доказать, что для произвольных множеств А и В из банахова пространства Е выполнено включение А + В С А + В. Показать, что данное включение нельзя в общем случае заменить на равенство. Упражнение 1.1.2. Пусть даны компактное множество А и замкнутое множество В в банаховом пространстве Е. Доказать, что множество А + В замкнуто. Доказать, что если А ж В компактны, то сумма А + В также компакт. Упражнение 1.1.3. Доказать предложение 1.1.1. Показать, что приведенные в нем включения A.1.1)—A.1.3) могут быть строгими.
24 Гл. 1. Выпуклый анализ § 1.2. Выпуклые множества В этом параграфе будем рассматривать множества из банахова пространства Е. Определение 1.2.1. Множество АсЕ называется выпуклым, если для любого числа Л Е @,1) и любых точек х\, х<ь Gi справед- справедливо включение \х\ + A — Х)х2 Е А. Геометрически это означает, что для любых двух точек этого мно- множества и весь отрезок с концами в этих точках также принадлежит это- этому множеству (рис. 2). Рис. 2. Множество выпуклое (а), т-г - По определению будем полагать, невыпуклое (о) _, что пустое множество 0 и множест- множество, состоящее из одной точки, являются выпуклыми множествами. Выпуклое множество с непустой внутренностью называют выпук- выпуклым телом. Приведем некоторые примеры выпуклых множеств. Все банахово пространство Е и всякое линейное подпространство банахова пространства являются выпуклыми множествами. Множество Нр = {х Е Е | (р, х) = а} при р Е Е*, р ф 0 и a G М, на- называемое гиперплоскостью, а также множества Н+ = {х Е Е\ (р, х) > > а} и Яр~ = {х ? Е\ (р,х) < а}, называемые полупространствами, очевидно, являются выпуклыми множествами. Шары В?(а) и В°(а) являются выпуклыми множествами, так как для любых точек х±, Х2 G В?(а) при любом числе Л G @,1) из неравенства треугольника получаем ||Axi + A — Х)Х2 — а\\ < \\\х\ — - а\\ + A - Л) || х2 -а\\ < г, т.е. Ххг + A - Х)х2 Е В?(а). Важным примером выпуклого множества является аффинное мно- множество. Множество А называется аффинным множеством, если для любых точек ж, у G А и любого числа A G 1 справедливо включе- включение Аж + A — А)у G i, т.е. прямая, проходящая через любые две точ- точки ж, у G Л, целиком принадлежит множеству А. Всякое аффинное множество А может быть представлено в ви- виде суммы некоторого линейного подпространства L и произвольной точки a G А. В самом деле, возьмем произвольную точку aGi и определим множество L по формуле L = А — а. Ясно, что 0 G L. Для любых Ь, с G L получаем b + а ? А, с + a G А, откуда для любо- любого А е Ж имеем \(Ъ + а) + A - А)(с + a) G А, т.е. \Ъ + A - Х)с G L, т.е. L есть аффинное множество. Поэтому для любого A G 1 получаем
§1.2. Выпуклые множества 25 Xb = Xb + A - Л) • О G L, и так как F + с)/2 = A/2N + A - 1/2)с Е Е L, то отсюда получаем, что с + 6 Е L. Итак, показали, что О Е L, для любых Ь, с € L и для любого A G 1 следует, что Xb Е L и 5 + с G L. Указанные свойства множества L означают, что L есть линейное подпространство. Также легко проверить, что подпрост- подпространство L = А — а не зависит от выбора точки a Е А, а однозначно определяется аффинным множеством А В данном случае подпространство L называется подпространст- подпространством, параллельным аффинному множеству А. Если подпространство L конечномерно, по размерностью аффинного множества А по определе- определению называют размерность подпространства L. Выпуклое множество называется строго выпуклым, если его гра- граница не содержит отрезков. Так, например, шар В?(а) С W1 является строго выпуклым множеством, а выпуклое множество А = I х G W1 \ тах_|жА;| < 1 \ не является строго выпуклым. Перейдем к изучению свойств выпуклых множеств. Предложение 1.2.1. Если числа A G 1, /iGl, а множест- множества Ai, г G /, выпуклы, то и множества XAi + /1A2, П А\ также выпуклы. ге1 Доказательство следует из определения выпуклого множества. Лемма 1.2.1. Если Ad E выпукло, то и А выпукло. Доказательство. Утверждение следует из равенства ?>0 выпуклости множеств А + В?@) и предложения 1.2.1. ? Теорема 1.2.1. Пусть А С Е выпукло и intA^0. Тогда intA выпукло и всюду плотно в А. Доказательство. Утверждение теоремы является следст- следствием того, что для любых точек х G hit А и у G А и любого чис- числа Л G [0,1) справедливо включение A — Х)х + Ху G hit А. Чтобы это доказать, зафиксируем точки х G hit А, у G А и число Л G [0,1). При любом е > 0 множество (у + В?@)) П А непусто, откуда A - Х)х + Ху + В?@) С A - Х)х + Х(А + В?@)) + В?@) =
26 Гл. 1. Выпуклый анализ Так как х Е int А, то для достаточно малых е > 0 имеем х + A - Л) (х + г 1±| Вг @)) + ЛЛ с A - Л) А + ХА = А в силу предложения 1.2.1. ? Пусть задано конечное множество точек {а^}^ С Е. Говорят, что точка х Е Е есть выпуклая комбинация точек {xi}?Li С Е, если т т х = V^A^i, где числа А« > 0, V^ A« = 1. г=1 г=1 Предложение 1.2.2. Множество А выпукло тогда и только тогда, когда любая выпуклая комбинация точек из А содержит- содержится в А. Доказательство. Если всякая выпуклая комбинация любого конечного множества точек из данного множества принадлежит этому множеству, то очевидно, что данное множество является выпуклым. Обратное утверждение докажем по индукции. База индукции при т = 2, очевидно, верна по определению выпуклого множества. Пусть утверждение верно при некотором т = к > 2. Покажем, что оно верно и при т = к + 1. Считая, что A^+i ф 1, A^+i ф 0 (иначе все очевид- очевидно), имеем fc+l к A - Afc+iJ, Где Z = ^ ^ 1 - Afe+i i—\ г=1 к д. д. Так как ^2 ~л г = 1 и ^ > О, 1 < г < к, то по предполо- жению индукции справедливо включение z G Л, откуда в силу опре- определения 1.2.1 получаем A^+ix^+i + A — А^+i)^ Е А ? Определение 1.2.2. Выпуклой оболочкой множества А назы- называется пересечение всех выпуклых множеств, содержащих множест- множество А. Выпуклую оболочку множества А будем обозначать через со Л, а замыкание выпуклой оболочки — через со А Понятие выпуклой оболочки впервые ввел К. Каратеодори (см. [125]). Отметим, что в силу того, что пересечение любого числа выпук- выпуклых множеств является выпуклым множеством, выпуклая оболочка множества А является наименьшим по включению выпуклым мно- множеством, содержащим множество А.
§1.2. Выпуклые множества 27 Например, пусть Q есть множество всех рациональных чисел, тогда оно плотно в множестве действительных чисел М, и его вы- выпуклая оболочка совпадает с множеством действительных чисел, т.е. со Q = Ж. Пусть М — линейное подпространство всех многочленов, опре- определенных на отрезке [0,1]. Очевидно, справедливо включение М С С С[0,1], и множество М в силу теоремы Вейерштрасса плотно в пространстве непрерывных функций С[0,1], но в то же время соМ = Теорема 1.2.2. Выпуклая оболочка множества А С Е состоит из тех и только тех точек, которые являются выпуклой комбина- комбинацией конечного числа точек из А. Доказательство. Определим множество X по формуле т т X = <z z — ^ A^i, xi G A, Xi > 0, 1 < г < m, ^ Л^ = 1, т G N \. ii ii Для доказательства теоремы нужно доказать равенство Из определения множества X (выбирая т = 1) получаем включение А С X. Множество X является выпуклым. В самом деле, для лю- любых точек ж, у G X найдутся точки ж^, yj Gin положительные чис- т к ла Ai,..., Am и /ii,..., /jk такие, что х = Y1 ^гхг и У = Отсюда для любого A G @,1) получаем Хх + A - Х)у = г=1 з=1 т к так как AAf > 0, A - X)/ij > 0, Е ЛЛг + Е (! ~ A)w = А + A - А) = = 1. i=1 j=1 Из включения А С X и выпуклости множества X следует вклю- включение со Л С X. По предложению 1.2.2 любая выпуклая комбинация элементов из со Л лежит в со Л, поэтому любая выпуклая комбинация элементов из А лежит в coin, следовательно, J С coi. ? Отметим следующие очевидные свойства выпуклой оболочки мно- множества. Предложение 1.2.3. 1. Если А С В, то со А С соВ. 2. Если множество А выпукло и числа A, \i положительны, то справедливо равенство (А + fi)A = ХА + цА. 3. со (А + В) = со А + со В.
28 Гл. 1. Выпуклый анализ 4. Если множество А С Е открыто, то и множество со А открыто. 5. Если множество А С Е конечно, то множество со А явля- является компактным множеством. Доказательство. Докажем п. 3, а остальные оставим в качест- качестве упражнений. Поскольку А + В С со А-\- со В, а последнее множество выпуклое, то со (А + В) С со А + со В. Пусть z G со А + со В, т.е. z = х + у, где х G со А, у G со В. По п га теореме 1.2.2 х = ^ А^а^, 2/ = 5^ l^kbki ^k? l^k > 05 а^ G Л, 6^ Е 5, п га V X, — V ^ = 1. Покажем, что z G со (А + 5), что и завершит доказательство. Ясно, что п га п т п т где afe + &| G i + 5, Afe/i/ > 0, X) Z) ^kVi = Е ^ Е Й = ^ Таким A;=i /=i jfe=i /=i образом, точка z является выпуклой комбинацией точек множест- множества А + В, значит по теореме 1.2.2 z G со (А + В). ? Дадим еще несколько важных определений, тесно связанных с понятием выпуклости. Пусть задано конечное множество точек {ж^}^1 С Е. Говорят, что точка х G Е есть аффинная комбинация точек {xi}7^1 С Е, если х = 2_^^ixii гДе числа Xi G М, ^^ А« = 1. г=1 г=1 Совокупность всех аффинных комбинаций точек множества А называется аффинной оболочкой множества А и обозначается aff A. Легко понять, что аффинная оболочка множества А совпадает с пересечением всех аффинных множеств, содержащих множество А из Е. Таким образом, множество aff Л представляет собой минималь- минимальное аффинное множество, содержащее множество А. Говорят, что точка х G Е есть линейная комбинация точек {хЛ^л С Е, если х = 2_^^ixi? гДе числа Xi G ffiL г=1 Совокупность всех линейных комбинаций точек множества А называется линейной оболочкой множества А и обозначается НпА Очевидно, что \тА является линейным подпространством прост- пространства Е.
§1.2. Выпуклые множества 29 Очевидно также включение со Л С aff Л С Нп Л. Точки {xi}7^1 С Е называются аффинно независимыми, если из равенств ш ш г=1 г=1 следует, что Ai = ... = Am = 0. Предложение 1.2.4. Точки {а^}^ С Е аффинно независимы тогда и только тогда, когда для всякого фиксированного номера к, где 1 < к < т, векторы Xi — xk, i = 1,... ,т, г ф к, линейно незави- независимы. Доказательство. Пусть точки {а^}^ аффинно независимы. Допустим, что при некотором номере к существуют числа А^, г — т = 1,... ,т, i ф к, такие, что J^ Xi(xi — хк) = 0. Определим чис- г=1,гфк ш ло А^ так, чтобы выполнялось равенство J^ Af = 0. Отсюда следует г=1 У XiXi = 2_^ Xi(Xi — Хк) + ( 2_^ ^i)xk = 0. i=1 г=1,гфк ^г=1 ^ Но в силу определения аффинной независимости точек {xi}7^1 послед- последнее равенство означает, что Ai = ... = Хт = 0, что в свою очередь означает линейную независимость векторов {xi — хк}. Обратное утверждение проверяется аналогично. ? Из предложения 1.2.4 следует, что аффинная оболочка произволь- произвольного множества Л является аффинным множеством, параллельным подпространству Нп(Л — а), где а — произвольная точка множест- множества Л. Точнее, имеет место равенство aff Л = а + Нп(Л — а) \/ а ? А. Поэтому размерностью выпуклого множества А С W1 называ- называется размерность аффинного множества aff Л, т.е. размерность под- подпространства Нп(Л — а), где a G Л — произвольная фиксированная точка. Определение 1.2.5. Точка iGln называется относительно внутренней точкой выпуклого множества Л С W1, если существу- существует е > 0 такое, что х + Нп(Л — х) П В?@) С Л, т.е. точка х содер- содержится в Л вместе с некоторым шаром, лежащим в подпространст- подпространстве 1ш(Л — х). Если множество Л из W1 таково, что intA = 0, то через ri Л будем обозначать совокупность относительно внутренних точек множества Л. Из предложения 1.2.4 также следует, что если точки х\,... ,хш аффинно независимы, то всякая точка х G affjxi,..., хт} может быть
30 Гл. 1. Выпуклый анализ представлена как аффинная комбинация точек х\,..., хш единст- единственным образом, т. е. существует единственный набор чисел А^ Е Ж, т J^ Af = 1, таких, что х = \\Х\ + ... + \шхш. Эти числа называются г=1 барицентрическими координатами точки х. Выпуклая оболочка к + 1 аффинно независимых точек ai,..., ctk+i называется к-мерным симплексом, натянутым на эти точки, и обозна- обозначается через Skj а точки а\, . . . ,ak+i называются вершинами этого симплекса. В силу теоремы 1.2.2 симплекс Sk представим в виде k + l k + l ч v^ \. . \. > n • — i h _l I V^ A — 1 > i=i i=i ' Sk = U х = ±]\цц, \i>0, i = l,...,k + l, >> = 1 У A.2.1) Симплекс *S^ называется правильным, если для его вершин {o^}^=i справедливо соотношение ||а^ — clj \\ = const для любых номеров г ф j от 1 до к + 1. Предложение 1.2.5. Пусть компакт А содержится в выпук- выпуклом открытом множестве U банахова пространства Е. Тогда мно- множество со Л также является компактом, содержащимся в U. Доказательство. 1. Покажем, что со Л вполне ограничено, т.е. для любого е > 0 в нем существует конечная г-сеть. Пусть {пк}%=1 С А — конечная г-сеть компакта А, т.е. А С С U ЩЫ)- Обозначим В = {ак}%=1. Рассмотрим произвольную точку х G со Л. Найдутся точки хт ? G Л и положительные числа Хт, где 1 < т < I, такие, что х = — S Хтхт и ^2 Хт = 1- Для каждого т, 1 < т < I, через к(т) т=1 т=1 обозначим такой номер, что 1 < к(т) < п и \\хт — dk(m)\\ < е- i Определим z = Y1 Хтак(т). Тогда т=1 I Ik - х\\ < ^2 Хт Wa4m) ~ Хт\\ < ?' т=1 1 Am > 0, ^^ Am = 1 >. Определим множество &П — 1 — \ Л — [Л1, . . . , Лп) т=1 Очевидно, это (п — 1)-мерный симплекс в Жп с вершинами в стан- стандартных базисных точках ei,...,en. Очевидно, что симплекс 5n_i является компактом.
§1.2. Выпуклые множества 31 п Рассмотрим функцию /(Л) = J^ A^a^. Эта функция /, очевид- k=i но, непрерывна на 5п-ъ в силу чего ее образ компакта 5п-ъ рав- равный со В, также будет компактом в Е. Поэтому существует конечная г-сеть {zk}^=1 компакта со В. Следовательно, для точки z найдется номер ко, 1 < ко < N, такой, что \\z — Zko\\ < s. В итоге для любого х Е соЛ нашли номер ко, 1 < ко < N, такой, что \\х — Zko\\ < 2г. Поскольку со В С со А, то множество {zk}^=1 яв- является 2е-сетью для соЛ. Таким образом, множество соЛ являет- является вполне ограниченным, и поэтому множество соЛ является ком- компактом. 2. Покажем, что coAcU. По теореме 1.1.8 из условия AnUc = 0 следует, что существует число е > 0 такое, что Л + В°@) С U. В силу предложения 1.2.3 получаем со Л СсоЛ + Б°@) = со(Л + Б°@)) CU. П Приведем одно интересное свойство суперпозиции операций суммы и геометрической разности множеств. Предложение 1.2.6. Пусть даны произвольные выпуклые мно- множества М, Л, В С Е и числа а > 0, /3 > 0. Тогда справедливо ра- равенство (((М + аА) ^ аВ) + /ЗА) ^ /ЗВ = (М + (а + /3) Л) ^ (а + /3)Я. Доказательство. В силу включения A.1.1) и равенства A.1.3) получаем включения (((М + аЛ) i аВ) + /ЗЛ) i /ЗБ С С ((М + (а + /3) Л) i аВ) ^ /35 = (М + (а + /3) Л) i (а + /3M. В силу свойства 2 предложения 1.2.3 представим выпуклое множест- множество М в виде М = —^— М + ^— М, а+/3 а + /3 и, применяя включение A.1.3) (дважды) и предложение 1.2.3, по- получаем (((М + аЛ) i а5) + /ЗЛ) ^ /ЗВ D D ((-^-zM + aA) ^аВ + -^-М + рА) ^ (ЗВ ^ \\а + /3 ) а + /3 И ) И D -^-= M + aA)^aB+[ -^- M + /ЗА) ¦*¦ /ЗВ = \a + /3 ) \a + /3 '
32 Гл. 1. Выпуклый анализ ifl] = (М + (а + C)А) ^ (а + C)В. П Упражнение 1.2.1. Пусть А = {(х1,х2) G М2 | ж2 = 0} U {(-1,1), A,1)}. Найти со Л. Упражнение 1.2.2. Показать, что при отсутствии выпуклости множества А утверждение п. 2 из предложения 1.2.3 неверно. По- Показать, что, если множество А выпукло и A/i < 0, то может быть неравенство (А + /л)А ф \А + \iA. Упражнение 1.2.3. Привести пример невыпуклого множест- множества Л, но такого, что для любых xi, х2 Gi справедливо включе- Xl + Х2 а тт л ние Е А. Показать, что, если А дополнительно замкнуто, то множество А выпуклое. Упражнение 1.2.4. Показать, что замкнутость множества А не гарантирует замкнутости множества со А даже на плоскости М2. Упражнение 1.2.5. Пусть Sn есть n-мерный симплекс в W1. Доказать, что hit Sn ф 0. Упражнение 1.2.6. Доказать, что размерность выпуклого мно- множества А из Жп совпадает с максимальной размерностью симплексов, содержащихся в А. Упражнение 1.2.7. Точках G А называется С-внутренней точ- точкой множества А С Е, если VyeE 3A>0 V/iG@,A) x + fiyeA. Показать, что, если для выпуклого множества А в банаховом про- пространстве Е выполнено условие тЬАф0, то внутренние и С-внутренние точки множества А совпадают. Упражнение 1.2.8. Пусть множество A CW1 обладает свойст- свойством Мхе А, МуеЖ1 3A>0 V/iG@,A) х + »уеА, т.е. каждая точка множества А является С-внутренней. Показать, что А не обязательно должно быть открытым. Показать, что в случае, когда множество А еще и выпукло, оно открыто. Упражнение 1.2.9. Пусть Е есть банахово пространство. Пусть замкнутое множество А С Е имеет пустую внутренность. Доказать,
• 1.3. Метрика Xayсдорфа 33 что любая точка a Е Л не является С-внутренней точкой множест- множества Л. Указание. Воспользоваться теоремой Бэра о категориях. Упражнение 1.2.10. Пусть со Л — компакт. Доказать, что Указание. Воспользоваться предложением 1.2.3 и результатами упражнения 1.1.1. Упражнение 1.2.11. Пусть А С Е — выпуклое множество, при- причем int А ф 0. Тогда z Е int А тогда и только тогда, когда Уж Е А З/j, > 1: A - ц)х + fjLZ e A. Упражнение 1.2.12 (о ядре звездности) Пусть в замкнутом и ограниченном множестве из W1 существует по меньшей мере одна точка такая, что любая проходящая через нее прямая имеет с данным множеством единственный общий отрезок. Доказать, что все точки, обладающие этим свойством, образуют выпуклое тело. Упражнение 1.2.13. Пусть даны выпуклое ограниченное те- тело icin, вектор q ? W1, q ф 0, и гиперплоскость Н = {х Е W1 (q, х) =0}. Каждая прямая 1а = {х G W1 | х = а + Ад}, где a G Н, пе- пересекающая множество Л, дает в пересечении отрезок [Ьа, са] = 1аП А, причем Ьа = а + Aig, са = а + \2q и Ai < A2. Выбирая по всем таким [fr — Са Са — Ъа~\ а -\- — -^ а -\- — ? получаем в совокупности множество Л, симметричное относительно гиперплоскости Н. (В этом случае говорят, что множество А получено из множества А штейнеровской симметризацией (см. [18, 170]). Доказать, что множество А является выпуклым телом. § 1.3. Метрика Хаусдорфа Нам потребуется превратить совокупности подмножеств из ба- банахова пространства Е в метрические пространства, определив для них некоторые понятия расстояния. Прежде всего дадим определение расстояния между множествами по Хаусдорфу. Определение 1.3.1. Для ограниченных замкнутых множеств Л, В С Е расстояние по Хаусдорфу (иначе говорят: хаусдорфово рас- расстояние) между этими множествами Л и В определяется по формуле /г(Л, В) = inf {г > 0 | Л С В + Яг@), В С Л + Вг@)}. A.3.1) 3 Е.С. Половинкин, М.В. Балашов
34 Гл. 1. Выпуклый анализ Обозначим через д(х, А) = inf {\\х — а\\ \ a Е А} расстояние от точ- точки х до множества А. Предложение 1.3.1. Справедливы оценки и формулы: а) \д(х,А) - д(у,А)\ < \\х - у\\ Уж, у е Е\ б) \q(x,A)-q(x,B)\ <h(A,B); в) h(A,B) = max] sup g(x,B), sup q(x,A)\. A.3.2) Замечание 1.З.1. Равенство A.3.2) может быть взято за опреде- определение расстояния между множествами из метрического пространства, где д(х, А) = inf g(x, a), a д(х, а) — метрика исходного пространства. аеА Уточним, для каких множеств определенная выше функция удов- удовлетворяет аксиомам метрики. Теорема 1.3.1. На множестве замкнутых ограниченных под- подмножеств из банахова пространства Е определенная выше функ- функция A.3.1) удовлетворяет аксиомам расстояния, т. е. является метрикой. В частности, множество всех компактных подмно- подмножеств банахова пространства Е с хаусдорфовой метрикой A.3.1) образуют метрическое пространство. Доказательство. Пусть Л, В, С — произвольные замкнутые множества из Е. Свойство h{A,B) = h{B,A) с очевидностью следует из определения 1.3.1. Докажем справедливость неравенства треугольника h(A,B) <h(A,C) + h(C,B). Пусть г = h(A,B), r\ — h(A,C), r2 = h(C,B). Это значит, что А С С С + BQl @) для любого д1 > Г\, С С В + BQ2 @) для любого д2 > > Г2, откуда получаем А С В + BQl+Q2@). Аналогично получаем включение с перестановкой А и В. В силу определения 1.3.1 отсюда следует, что г < г\ + г2- Ясно, что h{A,B) > 0. Из равенства h{A,B) = 0 следует А = В. Действительно, если предположить, что существует точка х G А\В, то по теореме 1.1.8 найдется число е > 0 такое, что В?(х) П В = 0. Отсюда h(A,B) > e. ? Лемма 1.3.1. Для компактных множеств А и В из Е эквива- эквивалентны условия: l)h(A,B)<r; 2)\/а?А ЗЬа еБ: ||а-Ьо|| < г; V&G В 3ab G А: ||Ь-оь|| < г.
• 1.3. Метрика Xayсдорфа 35 Доказательство. Из условия 1) следует, что А С В + Вг@) = = В + Вг @) (в силу компактности множества В множество В + Вг @) замкнуто), поэтому для любой точки a Е А получаем неравенство д(а, В) < г, откуда и в силу компактности множества В существует такая точка Ъа Е В, что \\а — Ьа\\\ < г. Из условия 2) для каждой точки a Е А найдется точка Ъа Е В такая, что a Е Ъа + ?г@), т.е. Л С U (Ьа + #г@)) С В + Яг@). Ана- логично, справедливо включение В С А + i?r@), откуда в итоге полу- получаем, что h(A,B) < г. ? Предложение 1.3.2. Пусть А, В, С, 12 — замкнутые мно- множества из банахова пространства Е\,Т\ Ei ^ Е2 — непрерывный линейный оператор, а, /3 Е М. Пусть \\A\\ = sup{||a|| | a E Л}. Спра- Справедливы неравенства h(A + B,C + D)< h(A, С) + h(B,D), h(aA,aB) < \a\h(A,В), h(aA,CA) < \a-/3\\\A\\, h(TA,TB) < \\T\\h(A,B), h(coA,coB) < h(A,B), h(coA,coB) < h(A,B). Обозначим через К(Е) метрическое пространство компактов из Е с метрикой Хаусдорфа /г, а через coJC(E) — метрическое пространст- пространство выпуклых компактов из Е с метрикой Хаусдорфа. Теорема 1.3.2. Метричекое пространство tC(E) полно. Доказательство. Рассмотрим фундаментальную последова- последовательность компактов {Ап}^=1 сК(Е), т.е. Уг>0 3N Vn,m> N: h(AnjAm) < e. A.3.3) Требуется показать, что существует компакт А Е tC(E) такой, что h(An,A) ->• 0 при п ->• оо. Выделим подпоследовательность {АПк} из условия h(Ank,Ank+1) <l/2k+1 Vfc = l,2,... A.3.4) Определим множество ( ) к=1 Покажем, что А ф 0. В силу условия A.3.4) и леммы A.3.1) для всякой начальной точки хП1 Е АП1 можно выбрать последовательность точек хПк Е АПк так, что \\хПк — хПк+1\\ < l/2fe+1 для всех к. Тогда для любых к Е N и т > к имеем га — 1 га — 1 \\^Пт ХПк\\ Ъ /_^ II П1 X^/ + lH — 2-^ 2l + 1 2k' 1=к 1=к 3*
36 Гл. 1. Выпуклый анализ Итак, последовательность хПк фундаментальна и в силу полноты Е существует ее предел х = lim хПк. Кроме того, \\хПк — х\\ < \j2k для к—>-оо всех к. Из включений следует x G Л. Поэтому множество Л непусто. Покажем, что А и есть искомый предел. В силу фундаментальности A.3.3) последовательности {Ап} для любого г > О 3N Vk, n> N справедливо неравенство h(Ank, An) < < е. Поэтому в силу неравенства треугольника h(An, A) < h(Ank, Ап) + + h(Ank,A) осталось показать, что h(Ank,A) —> 0 при к —> оо. В силу определения множества А имеем А с Anh + ± В!@) Vfc. A.3.5) Зафиксируем номер к G N. Выберем произвольную точку у G АПк. Аналогично тому, как это было сделано выше, выберем новую после- последовательность {хПт}™=1 такую, что хПк = у, хПт е АПт и \\хПт - — xnm+i\\ ^ l/2m+1 для любого т> к. Получаем, что последовательность {хПт}^=1 фундаментальна, т. е. существует точка х такая, что lim хПт = х. При этом \\у — х\\ < < l/2fe. Для любых т > к имеем х G ЛПт + A/2т)В1@). При ш = = l,...,fe-l в силу выбора последовательности АПт получаем хеАПк+^ Bi@) С АПк_, +^т51@)С...сАПт + 1 ^@), т.е. х ? А. Поскольку точка у из ЛПй выбиралась произвольно, то получаем включение 4tc4 + ^Bi@). A.3.6) Из включений A.3.5) и A.3.6) следует, что h(Ank,A) < \j2k для всех натуральных к. ? Для множества АсЕ через К (А) (со /С (А)) будем обозначать множество всех компактов (выпуклых компактов) из А. Справедлива следующая теорема о компактности, называемая теоремой выбора Бляшке (см. [17]). Теорема 1.3.3 (В. Бляшке). Пусть А С Е — компакт. Тогда метрическое пространство К (А) компактно, т. е. из любой после- последовательности {Ап}^=1 С К,{А) можно выделить сходящуюся в мет- метрике Хаусдорфа подпоследовательность.
• 1.3. Метрика Xayсдорфа 37 Доказательство. Для каждого числа / Е N определим чис- число Е\ = 1/B/), и пусть множество {оч}™^ задает г/-сеть компакта А. Тогда из включения mi Ac \J(ai+e,Bl@)) г=1 для любого натурального числа п получаем включение где множество индексов Jn С {1, 2,..., mi} таково, что для любых к Е Е Jn и только для таких натуральных /с имеем Выберем 2/п/, Е (а& + е\В^@)) П Лп. В силу неравенства треугольника для нормы получаем, что а^ + ?/5?@) С ^/п^ + 2e/5J@), т.е. Таким образом, для любого натурального числа п во множестве Ап можно выбрать 2г/-сеть с числом точек, равным т/, т.е. не завися- зависящим от числа п. Воспользовавшись этим, для каждого номера п G N во множест- множестве Ап выберем плотное подмножество {хпк}^=1 таким образом, что первые точки {хпк}™=1 образуют 2в1-сеть множества Ап, следую- следующие точки {xnk}™!^^ образуют 2г2-сеть множества Ап и, далее, множество {xnk}™lmi'+ "+7711+1 образует 2г/+1-сеть множества Ап. i Отметим, что каждый номер К\ = J^ mi не зависит от номера п и г=1 каждое множество {хпк}^^ образует 2г/-сеть во множестве Ап. Последовательность {xni}^^ содержит (в силу компактности А) сходящуюся к некоторой точке z\ G А подпоследовательность с номе- номерами 1\ С N, т.е. lim хп\ — z\. п—^сю nEli Последовательность {xn2}neh содержит сходящуюся к некото- некоторой точке Z2 G А подпоследовательность с номерами /2 С /i, т.е. lim хП2 = Z2, причем min I\ < min /2. Продолжая канторов диагональный процесс, получаем вложен- вложенную последовательность бесконечных подмножеств натуральных
38 Гл. 1. Выпуклый анализ чисел {h}T=1, /jfeD/fe+i, min/д; <тт/д;+1, lim xnk = zk для всех А;. Сформируем счетное множество индексов / из первых элементов множеств Ik. По построению для каждого k Е N lim хпк = ?&. Определим Ло = {^ }??_]_. Так как множество Л есть компакт, а множество Л о замкнуто и содержится в Л, то Л о — также компакт. Покажем, что Л о является пределом в метрике Хаусдорфа последова- последовательности {ЛП}П(Е/, т.е. удовлетворяет условию lim /г(Лп,Ло) = = 0, что и завершит доказательство. Фиксируем IgN (и тем самым фиксируем е\ — 1/B/) J. В силу компактности множества Лд существует его конечная г/-сеть {^jfej-}^?!, т. е. справедливо включение А, С Выберем произвольно точку жо G Лд. Пусть jo G l,mo таков, что ^о G Zkjo +?iBi@). В силу конечности множества точек {^.}, где 1 < j < m0, и из того, что каждая из них является предельной точкой своей последовательности, найдется общий номер iVi такой, что жп^. G G Zkj + eiBi@) для всех j G 1,шо и всех п G / таких, что п > Ni, откуда получаем жо е zkjQ + ezBJ(O) С xnkjQ + 2ezBJ@) С Лп + 2ezBJ@). В силу произвольности выбора точки хо G Aq отсюда следует вклю- включение Ло С Лп + 2г/Б1°@) Wn>Nu nel. A.3.7) С другой стороны, из определения точек zk для всех к G l,Ki существует общий номер N2 такой, что Vn > N2, пе /, хпк е zk + ?/#?@). Так как по построению множество {xnk}^!-^ есть 2г/-сеть множест- множества Лп, то при всех п > N2, n G /, для любого жп G Лп найдется но- номер кп G l,Ki такой, что хп е хпкп + 2егВ1@) С ^п + Зе/ВД), следовательно, Лп С Ло + Зе/Я^О) Vn > АГ2, n G /. A.3.8) Из A.8.1) и A.8.2) следует, что lim h(An,A0) = 0. ?
• 1.3. Метрика Xayсдорфа 39 Лемма 1.3.2. Если последовательность выпуклых замкнутых множеств {Ап} сходится в метрике Хаусдорфа к некоторому замкнутому множеству А, то множество А будет выпуклым. Доказательство. Зафиксируем точки х, у Е А и число Л Е Е @,1). Покажем, что точка z = Хх + A — Х)у принадлежит множест- множеству А. В силу сходимости числовой последовательности {h(An, А)} к О и в силу леммы 1.3.1 можно найти последовательности точек хп Е Е Ап и уп Е Ап такие, что хп —> х и уп —>¦ у при п —> оо. Но тогда в силу выпуклости Лп точка zn = Лжп + A — Х)уп принадлежит Ап, a lim zn = z. Следовательно, для любого числа е > 0 найдется ЧИС- ЧИСло iV(e) такое, что при всех n > N(e) справедливы включения z е zn + Бе(о) cin + д,(о) с л + Б2е(о), откуда в силу замкнутости множества А получаем, что z G А. ? Отметим, что лемма 1.3.2 верна и в случае, когда множества Ап только выпуклы (но не замкнуты). Следствие 1.3.1. Лемма 1.3.2 показывает, что в теоре- теоремах 1.2.3 и 1.3.3 метрические пространства К{Е) и 1С(А) могут быть заменены на метрические пространства coJC(E) и coJC(A) (где А — выпуклый компакт). В этом случае пространство cotC(E) является полным, а пространство соК(А) компактным. Отметим также, что доказательства теорем 1.3.2 и 1.3.3 лег- легко обобщаются со случая банахова пространства на случай, когда пространство Е является всего лишь полным метрическим прост- пространством. Замечание 1.3.2. Отметим, что без условия компактнос- компактности множества А теорема 1.3.3 неверна. Например, если прост- ( °° Л ранство Е = l2, A = Bi@) = <х е 12\ ^х\ < 1 >, а отрезок Ап = = [0, еп] С А, где еп = @,..., 0,1, 0,...) — стандартный базисный вектор в пространстве 12, то последовательность отрезков {Лп} не имеет сходящейся подпоследовательности (так как последователь- последовательность {еп}'^)=1 не имеет сходящейся подпоследовательности). Упражнение 1.3.1. Доказать предложение 1.3.1. Упражнение 1.3.2. Доказать предложение 1.3.2. Упражнение 1.3.3. Пусть даны компакты А, В С Е, причем В С А. Определим через JC(A,B) пространство компактных подмно-
40 Гл. 1. Выпуклый анализ жеств X таких, что В С X С Л, с метрикой Хаусдорфа. Доказать, что пространство 1С(А,В) является компактным. Упражнение 1.3.4. Для любых множеств Л, В С Е определим функцию hi (А, В) = sup д(х, В) + sup д(х, А). Показать, что функ- хеА хев ция hi является метрикой, топологически эквивалентной /г, в част- частности, что теоремы 1.3.2 и 1.3.3 справедливы при замене h на hi. § 1.4. Касательные конусы Определение 1.4.1. В линейном пространстве Е конусом на- называется всякое непустое множество К С Е, у которого для каждого элемента х Е К справедливо включение Хх Е К при всех А > 0. В частности, если конус К является выпуклым множеством, то его называют выпуклым конусом, причем в этом случае для лю- любых точек ж, у Е К и чисел Л > 0, /л > 0 справедливо включение Хх + + /лу G К, т. е. справедливы равенства К + К = К и К — К = К (последнее равенство докажем в лемме 1.4.4). Далее в этом параграфе считаем, что мы рассматриваем множест- множества в банаховом пространстве Е. Простейший пример выпуклого конуса, связанного с множест- множеством Л, дает коническая оболочка множества А, т.е. множество вида cone Л = < х G Е х — ^ A^i, \ > 0, xi G Л, т G N ^ i=i Замыкание конической оболочки множества Л, как обычно, будем обозначать чертой сверху, т. е. в виде cone Л. Лемма 1.4.1. Коническая оболочка множества А удовлетворя- удовлетворяет равенству cone Л = |^J (/л со Л). Доказательство. Из определений конической и выпуклой обо- оболочек сразу следует включение /л со Л С cone Л V/i > 0. Пусть теперь х G cone Л. По определению это значит, что сущест- существуют число т G N, числа А« > 0 и точки ж^ G Л, где г G 1,га, такие, га га что х — ^2 XiXi. Определим число /io — S ^г- Если /ig = 0, то х = 0, г=1 г=1 т.е. ж G U (/i со Л).
§1.4- Касательные конусы 41 Пусть /io > 0- Определим числа /^ = — и точку у = ^2 1^гхг- га ^0 г=1 Очевидно, что все щ > 0 и J^ /if = 1, откуда получаем, что 2/ Е со Л. г=1 Кроме того, имеем, что х = /ноу, т.е. х Е (J (/i со Л) . ? Отметим следующее простое свойство конической оболочки. Лемма 1.4.2. Пусть выпуклые множества Ак С Е, где k Е 1,га, га таковы, что О Е П Л&. Тогда справедливо равенство k=i / т \ f р| Л^ J. cone Л^ = cone ( f | Ak ). A-4.1) Доказательство. Пусть x E cone ( f] Ак); тогда по лем- *=1 m ме 1.4.1 существуют число ц > 0 и точка 2/ G П Л^ такие, что х — \iy. Так как для любого к имеем у G Л&, то отсюда и ж G cone Л^, га т.е. ж G П сопеЛ^. к=1 т Пусть теперь х G П сопеЛ^. Это значит, что существуют чис- к=1 ла ilk > 0 и точки 2//, G Л& такие, что х = /ад*; при всех к G 1,га, т.е. —ж G Л/,. Определим число /io = max_/ifc. Тогда в силу вы- № kei,m пуклости множества Л& для любого числа Л G [0,1) имеем — х — = A — ЛH + Л — х G Ak. Выбирая Л = — G [0,1), получаем вклю- 1 1 ш ( ш \ чение —х е Ак. В итоге —хе Г\ Ак, т.е. х е cone ( П 4 . ? Мо Мо д.=1 \к=1 J Отметим еще одно очевидное свойство выпуклых конусов. Лемма 1.4.3. Пусть К\, К2 — выпуклые конусы из линейного пространства Е. Тогда справедливо равенство К1+К2 = со (КгиК2). Доказательство очевидно. Напомним, что в банаховом пространстве Е расстояние от точ- точки х G Е до множества Л С Е мы определили по формуле д(х,А) = Большой интерес к конусам связан с понятием касательного ко- конуса, т. е. конуса, образованного из касательных векторов (см. [154]).
42 Гл. 1. Выпуклый анализ Вектор v Е Е называется касательным ко множеству А С Е в точ- точке a Е А, если существуют число е > 0 и отображение г: [0, в] —>- i? такие, что справедливо включение а -\- Xv -\- г (A) Е Л при всех Л Е Е @,г], причем lim И^Л = 0. Л—>0 Л Нетрудно проверить, что совокупность всех касательных векторов к множеству А в некоторой точке а совпадает со следующим конусом. Определение 1.4.2. Нижним касательным конусом ко мно- множеству А С Е в точке а ? А называется множество вида Гн(Л;а) = {v eE\ lim ^(г;, А^ - а)) = 0}. A.4.2) л^ьо Приведенное определение нижнего касательного конуса можно пе- переписать в более естественном виде. Предложение 1.4.1. Вектор v принадлежит конусу Ти(А;а) тогда и только тогда, когда для любой последовательности по- положительных чисел {А/.}, сходящейся к нулю, найдется последова- последовательность точек {vk}j сходящаяся к точке v и такая, что справед- справедливо включение Доказательство следует из определения. В случае, когда множество А является выпуклым множеством, легко показать, что для точки aGi конус Тп(А;а) является вы- выпуклым замкнутым множеством, и справедливо равенство (доказа- (доказательство которого будет содержаться далее в доказательстве предло- предложения 1.4.6) Тп(А; а) = сопё~(Л - а). Для выпуклых множеств А\ и А2 таких, что a G А\ С А2, очевидно, справедливо включение Тн {А\; а) СГН (А2; а). Таким образом, для выпуклых множеств понятие касательного конуса определяется достаточно просто и однозначно. В случае, когда множество А не является выпуклым, для него кроме понятий конической оболочки множества А — а и нижнего ка- касательного конуса Тп(А;а) известны другие понятия конусов, также называемых касательными. Определение 1.4.3. Верхним касательным конусом (иначе кон- контингентным конусом (см. [113])) ко множеству А С Е в точке aGi называется множество вида Тв(А;а) = {v eE\ liminf^i;, X'^A-a)) =0}. A.4.3) Л^Ь0
§1.4- Касательные конусы 43 Понятие контингентного конуса введено Булиганом (G. Bouligand) в 30-е годы 20-го столетия в [123]. Наличие в определении 1.4.3 нижнего предела влечет справедливость следующего предложения. Предложение 1.4.2. Вектор v принадлежит конусу Тв(А;а) тогда и только тогда, когда существуют последовательность по- положительных чисел {А^}, сходящаяся к нулю, и последовательность точек {vk} С Е, сходящаяся к точке v, такие, что справедливо включение л . w 7 ^т Определение 1.4.4. Касательным конусом Кларка (см. [53]) ко множеству А С Е в точке aGi называется множество вида Тс(А;а) = {v е E | lim q(v, Х'^А-х)) =0}, A.4.4) А-Ц-0, х-ю, где стремление х —> а совершается по множеству А, т.е. х Е А. Предложение 1.4.3. Вектор v принадлежит конусу Тс (А; а) тогда и только тогда, когда для любой последовательности по- положительных чисел {Xk}, сходящейся к нулю, и любой последова- последовательности точек {xk} С А, сходящейся к точке а, существует последовательность точек {vk} С Е, сходящаяся к точке v, такая, что справедливо включение Легко убедиться в том, что каждый из полученных выше конусов является замкнутым множеством, причем, очевидно, справедливы включения ТС(А; а) С ТН(Л; а) С ТВ(А; а) С сопё-(Л - а). A.4.5) Легко показать, что, если множество А выпукло, то имеет место равенство всех указанных конусов (см. далее предложение 1.4.6), но если множество А не выпукло, то все касательные конусы могут быть различными (покажем далее на примере). Если a G hit А, то очевидно, что Тс (А; а) = Е. Предложение 1.4.4. Касательный конус Кларка Тс (А; а) яв- является выпуклым замкнутым конусом. Доказательство. Пусть точки v и и принадлежат кону- конусу Тс (А; а). Для доказательства предложения достаточно доказать, что v + и принадлежат этому же конусу. В силу предложения 1.4.3 рассмотрим любую последовательность положительных чисел {А/.}, сходящуюся к нулю, и любую последовательность точек {ж&} С А, сходящуюся к точке а. Требуется показать, что существует после-
44 Гл. 1. Выпуклый анализ довательность точек {и?/.}, сходящаяся к v + и и такая, что справед- справедливо включение xk + \kwkeA VfceN. A.4.6) Так как v Е Тс (Л] а), то существует последовательность {i^}, схо- сходящаяся к v и такая, что справедливо включение Хк + X^v^ Е A Vfc Е Е N. В свою очередь так как последовательность ^ = ж^ I A^^ G i также сходится к точке a, a u E Тс(^4; а), то существует последова- последовательность {uk}, сходящаяся кии такая, что справедливо включе- включение yk + ^kUk Е Л Vfc Е N. Отсюда получаем включение A.4.6), в КОТОРОМ Wk = Vk + Uk- П Замечание 1.4.1. Полученное выше свойство выпуклости ка- касательного конуса Кларка очень удобно, так как приближение не- невыпуклого множества в окрестности некоторой его точки выпуклым касательным конусом позволяет использовать все преимущества вы- выпуклого анализа для невыпуклых множеств. Остальные касательные конусы могут оказаться невыпуклыми. Однако касательный конус Кларка может представлять собой очень малую часть верхнего (и даже нижнего) касательного конуса и тем самым слабо отражать свойства исходного множества. Пример 1.4.1. Рассмотрим множество А — {(х,у) Е М2 \у = \х\, х Е (—оо, +оо)}. Очевидно, что справедливы равенства ТН(А;О) = = ТВ(А;О) = А и ТС(А;О) = {0}. Мы укажем простой алгоритм, по которому во всяком конусе можно выбрать выпуклый под кону с, отличный в общем случае от касательного конуса Кларка. Это позволит построить другие классы выпуклых касательных конусов. Лемма 1.4.4. Для всякого конуса К множество К — К являет- является его выпуклым подконусом. В случае, когда сам конус К является выпуклым, справедливо равенство К = К — К. Доказательство. Выберем любую точку х G К — К. По опре- определению 1.1.1 геометрической разности это значит, что х + К С К. Так как О G К, то получаем, что х G К, т.е. К — К С К. Кроме того, для любого числа А > 0 получаем Хх + ХК С ХК', откуда в силу равенства ХК = К получаем, что Хх G К — К, т. е. множество К — К является конусом. Докажем его выпуклость. Для любых точек ж, у G G К — К имеем включения х + К С К и у + К С К, откуда получаем х + у + К = х + (у + К)Сх + КсК, т.е. х + у е К — К. Пусть теперь конус К является выпуклым. Это значит, что для любых ж, у G К справедливо включение х + у ? К, т.е. х + К а К, откуда следует, что х G К — К, т.е. равенство К = К — К. ?
§1.4- Касательные конусы 45 Лемма 1.4.5. Для всякого замкнутого конуса К справедливы равенства Тп(К;О)=Тв(К;О) = К, A.4.7) ТС(К;О) =К^К. A.4.8) Доказательство. Равенство A.4.7), очевидно, следует из опре- определений конусов. Докажем равенство A.4.8). Рассмотрим произволь- произвольные точки v G Тс(К;0) и у G К. По предложению 1.4.3 для любой последовательности чисел А/. > 0, сходящейся к нулю, и последова- последовательности точек Xk = \ky ? К (тоже сходящейся к точке 0) сущест- существует последовательность точек г^, сходящаяся к точке v и такая, что справедливо включение Xk + А^г^ G К Vfc G N. Умножая это вклю- включение на А^1 и учитывая равенство Х^гК = К, получаем включе- включение у + Vk G К. В силу замкнутости конуса К в пределе получаем, что у + v G К, откуда следует, что v G К — К. Докажем обратное включение. Рассмотрим точку v G К — К, т.е. v + К G К. Тогда для любой последовательности чисел А^ > > 0, сходящейся к нулю, и любой последовательности точек Xk G G К, сходящейся к нулю, имеем А^1^ G X, откуда в силу условия на v получаем включение v + X^Xk G К. Умножая последнее вклю- включение на Xk получаем включение Xk + XkV G XkK = К, которое в силу предложения 1.4.3 означает, что v G Тс(К;0). ? Приведем пример «другого» выпуклого конуса, порожденного за- заданным множеством. Определение 1.4.5. Асимптотическим конусом множества А С Е называется множество О+А = {у G E\\/x G Л, VA> 0: ж + A?/ G Л}. Легко проверить, что для любого непустого выпуклого множест- множества А множество О+А является выпуклым конусом, который может оказаться незамкнутым. Используя операцию геометрической разнос- разности, из определения 1.4.5 легко доказать равенство О+А = А^А. A.4.9) Например, для множества Bi@) (как и для всякого ограниченного множества) конус O+I?i@) состоит из одной точки {0}, а для мно- множества А = {(ж, у) G М2 | у > х2} конус О+А является лучом {@, А) | А>0}. Сравнивая выражение для асимптотического конуса A.4.9) и утверждение леммы 1.4.4, приходим к следующим определениям.
46 Гл. 1. Выпуклый анализ Определение 1.4.6. Нижним асимптотическим касательным конусом множества А в точке a Е А называется множество (см. [74]) Ган(Л; а) = ГН(Л; а) i ГН(Л; а). A.4.10) Определение 1.4.7. Верхним асимптотическим касательным конусом множества А в точке a Е А называется множество (см. [74]) Теорема 1.4.1 (Е.С. Половинкин). Конусы Тап(А;а) и Тав(А;а) выпуклы и замкнуты. При этом справедливы равенства и включения Тан(А;а) = Тс(Тв(А;а); 0), A.4.12) Тав(А;а) = Тс(Тв(А;а); 0) + ТС(ТВ(А; а); 0), A.4.13) ТС(А; а) С Тан(А; а) С Тав(А; а) С ТВ(А; а), A.4.14) Тан(А;а)сТн(А;а). A.4.15) Доказательство. Выпуклость конусов Таи(А;а) и Тав(Л;а), а также среднее включение в A.4.14) следуют из определений кону- конусов и леммы 1.4.4. Равенства A.4.12) и A.4.13) справедливы в силу определений конусов и леммы 1.4.5. Так как для любого замкнутого конуса в силу лемм 1.4.4 и 1.4.5 справедливо включение Тс (К; 0) С К, то отсюда и из равенства A.4.12) следует включение A.4.15). Левое включение в A.4.14) в силу определения 1.4.6 эквивалентно включению ТС(А; а) + ГН(Л; а) С ГН(Л; а). A.4.16) Докажем это включение. Выберем произвольные точки v G Тп(А;а) и w G Тс (А; а), а также произвольную последовательность чисел А/. > > 0, предел которой равен нулю. В силу предложения 1.4.1 существует последовательность точек Vk G Е такая, что lim Vk = v и справедли- k—>-oo во включение а + А^^ G i У k G N. Определим последовательность точек Xk из равенства Xk = а + \к^к- Очевидно, что lim x^ — а. В к—>-оо силу предложения 1.4.3 существует последовательность точек Wk E ¦?/ такая, что lim Wk = w и справедливо включение ж^ + A^u^ G Л Vfc E Е N. Это означает, что а + A^(v^ + Wk) Gi Vfc E N, откуда следует, что v + w E Тн(Л;а), т.е. включение A.4.16) доказано. Докажем правое включение в A.4.14). Выберем произвольную точку г>ЕХаВ(Л;а). Тогда по определению конуса с точностью до замыкания существуют точки и Е Тан(Л; а) и w Е ГВ(Л; а) — ТВ(Л; а)
§1.4- Касательные конусы 47 такие, что v = и + w. Из включений A.4.15) и A.4.5) следует, что и G ТВ(А; а), откуда v = w + и е w + ТВ(А; а) сТв(А;а). Теорема до- доказана полностью. ? 12/> Пример 1.4.2. Рассмотрим множество А — {(х,у) Е ЖЕ [-1,1]} (рис. 3). Здесь /(ж) = = 0 при же [-1,0] и /A) = -1. На отрезке [0,1] функция / явля- является непрерывной ломаной линией, заключенной между лучом у = — ж и лучом у = — (tg7r/10)x при х > 0. При этом отрезки каждой ломаной имеют одинаковые по абсолютной величине углы наклона к оси Ож, рав- равные 2тг/5, причем при монотонном убывании ж от 1 до 0 знаки величин углов чередуются, начиная с минуса. Чтобы записать касательные конусы ко множеству А в точке 0, введем обозначение К (а, C) = {(ж, у) G М2 | х = г cos ip, у = г sin ip, r > 0, у? G [a, j3\}. Тогда легко убедиться в справедливости следующих равенств: Рис. 3 ТанО4; 0) = Гав(Л; 0) = К@, 9тг/10), ГВ(Л; 0) i ГВ(Л; 0) = К@, Зтг/4), Пример 1.4.3. Множество icl2 определяется так же, как и в примере 1.4.2, с той лишь разницей, что функция / на отрезке [0,1] яв- является непрерывной ломаной линией, заключенной между лучами у = = х и у = — ж, с теми же углами наклона каждого отрезка ломаной, равными по модулю 2тг/5. Тогда справедливы следующие равенства: ТС(А; 0) = КBтг/5, Зтг/5), ТН(А; 0) = Тан(А; 0) = К(п/4, тг), Тв(А;0) =К(-тг/4,ж), TB(A;0) i Тв(Л;0) = Отметим следующее достаточно очевидное свойство касательных конусов для невыпуклых множеств. Предложение 1.4.5. Пусть даны множество А С Е и точ- точка a G А. Для любого числа е > 0 определим множество А?, удов-
48 Гл. 1. Выпуклый анализ летворяющее включению A D А? эАГ\В?(а). Тогда для каждого из касательных конусов Тс (А; а), Тан(А;а), Тн(А;а), Тав(Л;а); Тв(А;а) справедливо равенство с соответствующим касательным конусом ко множеству А?, т. е. TL(A;a)=TL(A?;a), где L е {С,н, в, ан, ав}. A.4.17) Доказательство. В силу определений 1.4.6 и 1.4.7 равенст- равенство A.4.17) достаточно доказать лишь при L Е {С, н, в}. Покажем это на примере конуса Тс (А; а). Пусть v Е Тс (А; а). По предложению 1.4.3 для любой последовательности положительных чисел {А/.}, сходящей- сходящейся к нулю, и любой последовательности точек {ж&} С Л, сходящейся к точке а, существует последовательность точек {vk} С Е такая, что Хк + ^kVk e А. Так как последовательность точек {xk + XkVk} сходится к точ- точке a Е Л, то для любого числа е > 0 существует номер к? Е N такой, что при всех к > к? имеем Xk G А П В?{а) и Xk + А/^ G АП В?(а), откуда следует, что v G Тс(А?; а). ? В заключение покажем связь различных касательных конусов в случае, когда множество А является локально выпуклым в точ- точке a G А. Определение 1.4.8. Множество АсЕ называется локально выпуклым в точке a G Л, если существует число е > 0 такое, что множество А? = А П В?(а) выпукло. Предложение 1.4.6. .Еслг/ множество А С Е является локаль- локально выпуклым множеством в точке a G А, то контингентный ко- конус Тв(А;а) является выпуклым конусом и справедливо следующее равенство конусов: Тс(А;а)=Тав(А;а)=Тв(А;а)=Тав(А;а)=Тв(А;а). A.4.18) Доказательство. В силу определения 1.4.8 выберем число е > >0 такое, что множество А? = АГ\ В?(а) выпукло. В силу теоре- теоремы 1.4.1 и предложения 1.4.5 достаточно показать включение cone (A? - а) С ТС(А?; а). Пусть v G cone (А? — а). Тогда существует число \i > 0 и точка b ? А? такие, что Ъ = а + /j~1v. Так как a G А? и множество А? выпукло, то справедливо включение а + rv = A — t/j,)cl + т/ifr G Ле для всех г G @,/i]. Пусть заданы любые последовательность чисел А& > О, сходящаяся к нулю, и последовательность точек Xk G А?, сходящаяся к точке а. Рассмотрим последовательность точек Vk = (Ь — ж&)/л. Она,
§1.5. Полунепрерывные снизу функции 49 очевидно, сходится к точке г?, и справедливо включение Таким образом, в силу предложения 1.4.3 показали, что v Е Е Тс (А?; а). ? Упражнение 1.4.1. Показать, что для невыпуклых мно- множеств Ak, даже при замене cone Л на Тп(А;0) в лемме 1.4.2 она ста- становится, вообще говоря, неверной. Показать, что имеет место вклю- включение / m ч га причем оно может быть строгим. Упражнение 1.4.2. Доказать, что если А есть замкнутое под- подпространство, то для любой точки a Е А справедливо равенст- равенство ТН(А;О) = А. Упражнение 1.4.3. Доказать равенство ' I I \J I I \\ е>0 5>0 0<\<5 Упражнение 1.4.4. Доказать равенство Тв(А;а)= П П U (х(Л"а) е>0 д>0 0<\<д Упражнение 1.4.5. Доказать равенство е>0 д>0 0<\<5 beAf]B6( Упражнение 1.4.6. Определить все касательные конусы в точ- точке OGl2 для множества А = {(х,у) еЖ? \у < \х\, х е (—оо,+оо)}. Упражнение 1.4.7. Показать, что множество О+А является вы- выпуклым конусом. Привести пример множества, у которого его асимп- асимптотический конус незамкнут. Упражнение 1.4.8. Привести пример неограниченного замк- замкнутого выпуклого множества в /2, для которого О+А = {0}. Это показывает, что только в Жп для выпуклого замкнутого множества А условие О+А ф {0} эквивалентно неограниченности множества А. § 1.5. Полунепрерывные снизу функции В этом параграфе мы будем рассматривать функции /: Е —у М, определенные на топологическом пространстве Е, со значениями из расширенной числовой прямой Ж = 1U {+00}. Мы охватываем тем 4 Е.С. Половинкин, М.В. Балашов
50 Гл. 1. Выпуклый анализ самым случай нормированной и слабой топологии на банаховом прост- пространстве. Функция /: Е —У Ж называется положительно однородной, ес- если справедливо равенство /(Аж) = А/(ж) для любых Л > 0 и ж Е Е. Эффективным множеством функции /: Е —У Ж называется мно- множество dom/ = {х е Е | f(x) < +оо}. Функция /: Е—>Ж называется собственной, если domf^0. Надграфиком функции /: Е —> Ж называется множество epi / = = |O,/i) е Е х Ж\х е dom/, ii > /(ж)}. Например, пусть функция задана соотношениями /@) = 0 и /(ж) = +оо, ж/0. Тогда очевидно, что dom/ = {0}, функция / яв- является собственной, epi/ = {@; Л) | Л > 0}. Определение 1.5.1. Функция /: Е —> Ж называется полунепре- полунепрерывной снизу (сокращенно: пн. сн.) в точке х Е dom/, если справед- справедливо неравенство f(x) <li y Последнее можно расшифровать в терминах Гейне: если обобщен- обобщенная последовательность х\ —У ж, то все предельные точки множест- множества {f(x\)} не меньше /(ж); или в терминах Коши: Уг > 0 3 U(x) — окрестность точки ж, У у G U(x): /(ж) < f(y) + e. Другими словами, разрешаются скачки функции / «вниз». Функция /: Е—> Ж называется полунепрерывной снизу (пн. сн.) на множестве А, если она пн. сн. в каждой точке x^Acdomf. Функция f'.E^-Ж называется полунепрерывной снизу (пн. сн.), если она пн. сн. на множестве dom/. Теорема 1.5.1. Пусть дана собственная функция /: Е —> Ж. Эквивалентны условия: 1) / пн. сн.; 2) лебеговы множества уровня La(f) = {ж G Е \ /(ж) < а} замк- замкнуты для всех a G Ж; 3) множество epi/ непусто и замкнуто в Е х Ж. Доказательство. 1) Пусть / пн. сн., тогда если х\ —У ж и А^л > f(xx) VA и fi\ —> /i, то \i > /(ж), что равносильно 3). Отсюда следует и 2), если положить а = \i — \i\, VA. Пусть верно 2). Пусть х\ —> ж и f(x\) —> \i — liminf f(y). Для любого а > \i значения f(x\) должны при больших А стать меньше а,
§1.5. Полунепрерывные снизу функции 51 следовательно, Отсюда f(x) < \i — liminf f(y). ? y^x Замечание 1.5.1. В силу свойства 3) теоремы 1.5.1 пн. сн. на Е функции также называют замкнутыми функциями (см. [50, 63]). Определение 1.5.2. Для всякой собственной функции / наи- наибольшая пн. сн. функция, мажорирующая / снизу, называется замы- замыканием функции / и обозначается /. Из теоремы 1.5.1 следует равенство epi/ = epi/. Аналогично понятию пн. сн. функции вводится понятие полу непре- непрерывности сверху. Определение 1.5.3. Функция /: Е —У Ж называется полунепре- полунепрерывной сверху (далее для краткости: пн. св.) в точке х Е dom/, если справедливо неравенство f(x) > lim sup f(y). y^tx Очевидно, что функция / пн. св. тогда и только тогда, когда функция (—/) пн. сн. Определение 1.5.4. Функция /: Е —>¦ Ж называется непрерыв- непрерывной в точке х Е dom/, если / пн. сн. и пн. св. в точке х. Полунепрерывность снизу — значительно более слабое свойст- свойство функции, чем непрерывность. Это легко увидеть на конкретных примерах. Но, тем не менее, это свойство весьма полезно в задачах минимизации. Теорема 1.5.2 (К. Вейерштрасс). Пусть Е — компактное то- топологическое пространство и /: Е —у Ж — собственная полунепре- полунепрерывная снизу функция. Тогда / достигает своего минимума на Е, т. е. существует точка хо Е Е такая, что /(жо) < f(x) для всех х G Е. Определение 1.5.5. Пусть Е — банахово пространство. Функ- Функция /: Е—У Ж называется локально липшицевой на множестве X, если X С dom/ и VxqGX 3S > 0 3L>0, Ухих2еВд(х0)ПХ: \f(x1)-f(x2)\<L\\x1-x2\\. Упражнение 1.5.1. Доказать теорему 1.5.2. Упражнение 1.5.2. Показать, что справедлива формула f(x) = sup{g(x) \g(x) < /(ж), g(x) непрерывна}. 4*
52 Гл. 1. Выпуклый анализ § 1.6. Выпуклые функции Определение 1.6.1. В банаховом пространстве Е функция /: Е —У Ж называется выпуклой, если epi/ есть непустое выпуклое мно- множество в пространстве ^хЕ. Предложение 1.6.1. Собственная функция /: Е —>¦ Ж являет- является выпуклой тогда и только тогда, когда множество dom/ яв- является непустым выпуклым множеством и для любых точек х\, х2 G Е и любого числа X G [0,1] справедливо неравенство f(Xxi + A — Х)х2) < Xf(xi) + A — X)f{x2). A.6.1) Доказательство. 1. Пусть epi/ есть непустое выпуклое мно- множество. Это значит, что для любых точек Zi — (xi, f(xi)) G epi/, i = 1,2, и числа A G @,1) справедливо включение A*i + A - X)z2 = (Аяп + A - Х)х2, А/Оп) + A - X)f{x2)) G epi/, откуда и из определения множества epi / следует неравенство Xf(xi) + A - X)f(x2) > f(Xxi + A - Х)х2). В частности, получаем, что из условия х\, х2 G dom/ следует включение Хх\ + A — Х)х2 G G dom/, т.е. dom/ есть выпуклое множество. Допустим, что хотя бы одна из точек ж 1 ^ dom/, т.е. f{x\) = +oo, тогда неравенство A.6.1), очевидно, выполняется. 2. Пусть для функции / выполнено неравенство A.6.1). Возьмем две произвольные точки Zi — (xi, \ii) G epi /, г = 1, 2, и число A G [0,1]. Рассмотрим точку z вида В силу неравенств щ > f{xi) и неравенства A.6.1) получаем A/ii + A — X)fi2 > Xf(xi) + A — X)f{x2) > f(Xxi + A — X)x2), т.е. z G epi/, что влечет выпуклость множества epi/. ? Определение 1.6.2. Функция / называется вогнутой, если функция (—/) выпукла. Очевидно, что изучение выпуклых и вогнутых функций равно- равносильно. В предложении 1.2.2 было показано, что всякое выпуклое мно- т жество содержит выпуклые комбинации ^2 XiXi, Xi > 0, г = 1,..., т, га г~ ^2, Xi = 1, любых своих точек {а^}^ при любых т G N. Отсюда ана-
§1.6. Выпуклые функции 53 логично доказательству предложения 1.6.1 получаем доказательство следующего предложения. Предложение 1.6.2. Для любой собственной выпуклой функ- функции / справедливо неравенство ) г=1 ' г=1 любых т Е N, любых точек {xi}^l1 С i?, чисел {K}iLi, таких, т что Xi > 0 и ^2 Xi = 1. г=1 Неравенство A.6.2) называется неравенством Иенсена. Простейшими примерами собственных выпуклых функций /: Е —> Ж являются: 1) аффинная функция f(x) = (р,х) + а, где р е Е*, «Gl; 2) норма в нормированном пространстве Е, т.е. функция f(x) = 3) в гильбертовом пространстве % эллиптический параболо- параболоид f(x) = - (Тх,х), где Т :% —>% — самосопряженный линейный z оператор, соответствующий нетривиальной неотрицательно опреде- определенной квадратичной форме (т.е. (Тх,х) > 0 Уж G И). Для выпуклых множеств определим следующие три выпуклых функции: 1) индикаторная функция выпуклого множества А С Е, опреде- определяемая по формуле ' , .' A.6.3) +оо, если ж 0 Л; v y 2) функция Минковского выпуклого множества А С Е, у которо- которого О G hit Л, определяемая по формуле (см. [154, 155]) fi(x, A) = inf {t > 0 | x/t G Л} , же Е; A.6.4) 3) опорная функция множества А С Е, определяемая по формуле (см. [154, 155]) s{p,A) = sup{(p,x)|x е А}, ре Е*. A.6.5) Опишем основные свойства этих функций. Очевидно, что индика- индикаторная функция множества А является выпуклой собственной функ- функцией тогда и только тогда, когда множество А является непустым выпуклым множеством. При этом если множество А замкнуто, то функция 5( •, А) пн. сн., и наоборот.
54 Гл. 1. Выпуклый анализ Лемма 1.6.1 Пусть A, D С Е — выпуклые множества, причем О Е hit Л, Ac D. Тогда имеют место следующие свойства: 1) если множество А ограничено, то /л(ж, Л) > О для всех х Е Е, ж^О, /i(O,A)=O; 2) 1л(\х,А) = \[л(х,А) VA > О, х е Е; 3) »(х + у,А) < fi,(x, A) + /х(з/, А) \/х,у еЕ; 4) ф,А) >»(x,D) Уже E; 5) определим множества В = {х\ /л(х, А) < 1} г/ С = {ж | /л(ж, Л) < < 1}; тогда справедливы включения В С А С С и равенство /л(х,В) = = /л(х, А) = /л(х,С) \/х, кроме того, А = С. Доказательство. Свойства 1), 2), 4) очевидны в силу опреде- определения A.6.4) функции fi(x,A). 3) Выберем точки ж, у G Е и числа s, ?, и такие, что ц{х,А) < < s, /j,(y,A)<t и u = s +1. В силу определения A.6.4) функции Минковского это значит, что х/s G A, y/t G Л, и так как А выпукло, то при А = s/u получаем Поэтому /л(х + у, А) < и. Переходя к пределу по s —У /л(х, А) + 0 и t ->• /iB/, Л) + 0, получаем 3). 5) Для всякого х G Е определим множество На(х) = {t > 0 | ж/? G G Л}. Зафиксируем t G На(х) и s > t. В силу выпуклости множест- множества Л и включения О G А получаем, что s G На(х), т.е. множест- множество На(х) есть неограниченный интервал на числовой оси с левым концом в точке fi(x, А). Если теперь х G В, т.е. /х(ж, А) < 1, то 1 G На(х), т.е. ж G Л. Итак, 5 С А. В свою очередь из включения х G Л по определе- определению A.6.4) следует, что fi(x,A) < 1, т.е. Л С С. Отсюда (в силу свойства 4)) следует, что для любой точки х G Е выполнены нера- неравенства /л(х,С) < /л(х,А) < /л(х,В). Допустим, что /л(х,С) < s < t. По определению A.6.4) это зна- значит, что x/s G С, и по определению множества С это означает, что /jl(x/s,A) < 1, что по свойству 2) дает /j,(x/t,A) < s/t < 1. Следо- Следовательно, x/t G В и по A.6.4) получаем /j,(x/t,B) < 1. Итак, спра- справедливо неравенство /л(х,В) < t для любого t > /л(х,С). Переходя в этом неравенстве к пределу по t —у fi(x,C) +0, получаем неравенство
§1.6. Выпуклые функции 55 Наконец, равенство А — С следует из того, что по теореме 1.2.1 для получения замыкания А достаточно замкнуть интервалы вида {ж/А | Л е НА(х)} при всех х е Е. П Приведем два простейших примера функции Минковского. Для единичного шара Bi@) С W1 функция /jl(x,Bi@)) = ||ж||. Для п-мер- ного куба в!п с центром в нуле и ребрами длины 2, параллельными осям координат, функция Минковского равна max \xk\- l<k<n Приведем свойства опорных функций. Лемма 1.6.2. Опорная функция непустого множества А явля- является пн. сн., положительно однородной и выпуклой, т. е. справедли- справедливы соотношения: 1)*@,А)=0; 2) s(\p,A) = \s(p,A) VA>0, pe#*; A.6.6) 3) s(Pl +р2, -4) < s(puA) + s(p2,A) Vpi,p2 eE\ Доказательство. Полу непрерывность снизу опорной функции следует из того, что ее над график замкнут, так как он является пересечением замкнутых полупространств, которыми являются над- графики функций (р,х). Положительная однородность (свойства 1) и 2)) очевидна из определения A.6.5). Докажем выпуклость. Пусть A G @,1), pi, р2 € Е*. Тогда получаем s(XPl + A - А)рз, А) = sup{(Api + A - А)рз, х)\хеА}< < sup{(Api,x) \x e A} + sup{((l - А)р2, х)\х е А} = Чтобы получить формулу A.6.6), надо в последнем неравенстве взять А = 1/2 и сократить неравенство на 1/2, что возможно в силу поло- положительной однородности опорной функции. ? Лемма 1.6.3. Справедливы равенства s(p,A + B)=s(p,A) + + s(p,B), s(p,\A) = \s(p,A) VA > 0. Если Т: Е -> E — линейный оператор, то справедливо равенство s(p,TA) = s(T*p, А), где Т* — оператор, сопряженный оператору Т. Доказательство. По определению опорной функции и из свойств точной верхней грани очевидны равенства s(p, A + В) = sup {(р, а + Ь) | a G Л, Ъ G В} = = sup {(р, а) | а е А} + sup {(р, Ъ) \ Ъ е В} = s(p, A) + s(p, В).
56 Гл. 1. Выпуклый анализ Справедливость второго и третьего равенств, приведенных в форму- формулировке леммы, столь же очевидна. Покажем справедливость третьего равенства: s(p, ТА) = sup {(р, Та) | a е А} = sup {(Г*р, а) | а е А} = s(T*p, Л). ? Лемма 1.6.4. Пусть множество А С Е ограничено. Тогда функ- функция s( •, А) удовлетворяет условию Липшица с константой, равной полунорме \\A\\ = sup {||a|| | а Е А}. Доказательство. Пусть р\, р2 ? Е*. Из положительной одно- однородности опорной функции и из оценки сверху скалярного произведе- произведения получаем s(p2,A) = s(pi + (р2 ~Pi), -4) < s(pi,A) + s(p2 -Pi, -4), |s(P2,^) - s(pi,A)| < max{s(p2 - Pi, A), s(px -p2,^)} < < ||P2 -Pi||*sup{||a|| |a e A} = \\A\\ • \\p2 -pi||*, что и требовалось доказать. ? Приведем примеры опорных функций некоторых множеств. 1. Пусть А = i?i@) С Мп. Так как для любого x G Bi@) спра- справедливо неравенство (р, ж) < ||р||, причем для жо =р/||р|| G ^i(O) оно становится равенством, то 8(р,Вг@)) = 8ир{(р,х)\хе Вг@)} = (р, ^) = ||р||. 2. Пусть А = {(ж!,ж2) G М2 | max{|#i|, |ж2|} < 1}. Легко показать, что s(p,A) = \pi\ + \P2\, где р= (pi,p2). 3. Пусть А = {(ж!,ж2) G М2 | х\ + (ж2J < 0}. Легко показать, что {P2/Dpi), Pi > 0, 0, Pi = р2 = 0, +оо в других случаях. Отметим, что в последнем примере опорная функция не является непрерывной в точке р = 0 (нарушена пн. св. в точке р = 0). Замечание 1.6.1. Для собственных выпуклых функций /, д: Е —У Ж сумма этих функций (/ + д)(х) = f(x) + д(х), очевидно, также является выпуклой функцией, однако она может не быть собственной. Например, если / и д — суть индикаторные функции непересекаю- непересекающихся выпуклых множеств, то их сумма тождественно равна +оо. Определение 1.6.3. Выпуклой оболочкой (невыпуклой) функ- функции f: Е —у Ж называется функция со /: Е —у М, определяемая ра- равенством множеств epi(co/) = co(epi/).
§1.6. Выпуклые функции 57 Из определения 1.6.3, очевидно, следует, что собственная функция выпукла тогда и только тогда, когда справедливо равенство / = со/. Кроме того, у собственной функции / ее выпуклая оболочка со / может не быть собственной. Например, для функции /(ж) = — |ж|, ж Е G Ж1, имеем со/(ж) = —оо. Выпуклым замыканием функции /: Е —У Ж называется функ- функция со"/, определяемая равенством epi(co~/) = co~(epi/). Из определения 1.6.3 и теоремы 1.2.2 легко получаем следующее предложение. Предложение 1.6.3. Пусть даны собственные функции /, д: Е —У Ж, функционал р Е Е* и число «Gl. Тогда: 1) для любой точки х Е со dom/ справедливо равенство s m со/(ж) = inf < 2^^if(xi) Xi G dom/, A^ > 0, 1 < i < m, I rn f—1 2) со (/ + #)(#) > со/(ж) + со^(ж); 3) со (/(ж) + (р, ж) + а) = со /(ж) + (р, ж) + а. Упражнение 1.6.1. Доказать предложение 1.6.3. Упражнение 1.6.2. Для индикаторной функции доказать ра- равенство S( •, А) = S( •, А). Упражнение 1.6.3. Доказать, что дифференцируемая функция /: Ж —у Ж выпукла тогда и только тогда, когда ее производная /; возрастает. Упражнение 1.6.4. Доказать, что дифференцируемая функция /: Мп —>- М выпукла тогда и только тогда, когда для любых ж, у G Ж справедливо неравенство /(ж) — f(y) > (V/B/), ж - у). Упражнение 1.6.5. Пусть функция /: Ж—>Ж монотонно воз- возрастает и выпукла, а функция д: Е—У Ж выпукла. Доказать, что h(x) = f(g(x)) выпукла. Показать, что суперпозиция произвольных выпуклых функций не обязательно выпукла. Упражнение 1.6.6. Доказать, что для любого натурального т и для любых чисел Х{ G (О,тг), где 1 < % < т, выполнено неравенство ш П {m г=1 V Указание. Воспользоваться выпуклостью функции /(ж) = — log sin ж, ж Е (О,тг), и неравенством Иенсена A.6.2).
58 Гл. 1. Выпуклый анализ Упражнение 1.6.7. Пусть выпуклое ограниченное и центрально- симметричное (относительно нуля) множество А С W1 таково, что О Е hit А, и пусть /л(х,А) — его функция Минковского. Показать, что функция д(х,у) = /и(х — у, А) определяет функцию расстояния. Упражнение 1.6.8. Пусть / — непрерывная выпуклая собствен- собственная функция. Показать, что intepi/ = {(х,/л) G Е х Щх G intdom/, Упражнение 1.6.9. Найти опорную функцию: а) отрезка [а, Ь] С С W1; б) n-мерного куба с ребрами длины 2, параллельными осям координат, и с центром в нуле. Упражнение 1.6.10. Доказать, что опорная функция всякого выпуклого многогранника из W1 является кусочно линейной функ- функцией. Упражнение 1.6.11. Доказать, что в пространстве М3 опорная функция всякой окружности OR(a,q) = дВц(а) П Hq(a) радиуса R > > 0 с центром в точке a G М3, лежащая в гиперплоскости Hq(a) = {x G G М3 | (q, х) = (q, а)}, где q ф 0, для любого вектора р G М3 вычисляет- вычисляется по формуле s(p, OR(a, q)) = R\\p x q\\ + (р, а), где р х q означает векторное произведение векторов р и q. Упражнение 1.6.12. Показать, что из включения А С В следует неравенство s(p,A) < s(p,B) \/p. Упражнение 1.6.13. Пусть М = {х G W1 | (х,Тх) < 1}, где Т — положительно определенная симметричная матрица. Доказать спра- справедливость формулы s(p,M) = y/(p, Т~1р). Упражнение 1.6.14. Доказать, что замкнутое множество А в банаховом пространстве Е является выпуклым тогда и только тогда, когда функция х —> g(x,A) = inf \\х — all выпукла. аеА Упражнение 1.6.15. Привести пример невыпуклой функции /, удовлетворяющей условию \ \ Vx,y. A.6.7) Показать, что если функция / непрерывна и выполнено условие A.6.7), то она выпукла.
§1.7. Непрерывность выпуклых функций 59 § 1.7. Непрерывность выпуклых функций В этом параграфе мы опишем замечательное свойство выпуклой функции во внутренних точках эффективного множества быть непре- непрерывной и даже локально липшицевой. Теорема 1.7.1. Пусть ip: Е —>¦ R — собственная выпуклая функция. Тогда эквивалентны условия: 1) / ограничена на некотором открытом множестве U; 2) intdom/ ф 0 и функция / является локально липшицевой на множестве intdom/; 3) intepi/ ф 0, причем справедлива формула intepi/ = {(ж,//) е Е хЩх е intdom/, ц > f(x)}. A-7.1) Доказательство. I. Очевидно, что из 2) следуют 1) и 3). П. Докажем, что из 1) следует 2). Так как множество U открыто и U С dom/, то получаем, что intdom/ ф 0. Па). Пусть хо Е U, a, rj Е М, где г\ > 0, такие, что ВГ](хо) С U и f(x) < ос для всех х G ВГ](хо). Зафиксируем точку х G Bv(xo), причем х ф xq. Определим число О = —Щ.—Жо11 ,,. Очевидно, что 0 е @; 1). Зада- ri+\\x-xo\\ xo-(l-9)x _ дим точку у = ^- —. 1огда м м 1 ~ ^ и м V + 11Ж ~~ жо|| ^ и и \\у-хо\\ = —\\х-хо\\= ||ж_жо|| , + ||я_Я0|| II* - *о|| = Ч, следовательно, f(y) < а. В силу выпуклости / получаем /(ж0) = f(Oy + A — в)х) < Оа + A — #)/(ж), откуда ef(xo) + (l-0)f(xo)<0a + (l-0)f(x), т.е. f(x0) < f(x) + Л1(а- f(x0)) = f(x) + а~^Ы ||х - so||. A-7.2) тт « ^ X — A — т)хо Для получения другой оценки выберем точку z = —, где г = ||ж~Жо11 е @,1]. Тогда •п 1и„ _ .11 - ж - A - т)х0 - та
60 Гл. 1. Выпуклый анализ следовательно, f(z) < а. Опять в силу выпуклости / получаем, что /(ж) = f(rz + A - т)х0) <та + {1- т)/(ж0) = /(а*) + т(а - /Ы), a~f{xo) A.7.3) Из оценок A.7.2) и A.7.3) следует \f(x)-f(xo)\<a~frj{xo)\\x-xo\\ Ух&Вп{х0). A.7.4) IIб). Зафиксируем число /3 Е @; 77). Покажем, что функция / удов- удовлетворяет условию Липшица на шаре Вр(хо) с константой Липши- _ 2(а-/(а0)) ца ь — . •п-Р Зафиксируем точки х\, Х2 G Вр(хо). Выберем натуральное число п > \\xi — X2W/(rj — /3). Для каждого j G 0,n определим точку yj = = х\ + — (ж2 — х\). Отметим, что для 0 < j < п — 1 ть \\vj+i-Vj\\=llxi~Xal1 <V~P. A.7.5) Кроме того, п—1 3=0 Из включения 2/j G [^1,^2] С Вр(хо) и формулы A.7.5) получаем yj+1 е Bv-0(yj) С Bv(x0) Vj G М. A.7.7) В силу A.7.4) имеем \f(yj) - f[xo)\ < ос - /(ж0), откуда а - f(yj) < <2(a — f(xo)) для всех jG0,n. Так как функция / ограничена сверху числом а на каждом шаре Br]-p(yj)J то из A.7.4) (заменяя хо на yj) и A.7.7) получаем, что vj € о^^т. Отсюда и из A.7.6) следует оценка п-1 3=0
§1.7. Непрерывность выпуклых функций 61 IIв). Покажем локальную липшицевость функции / на множест- множестве intdom/. Пусть z\ Е intdom/, причем z\ ф Xq, так как липшицевость функции / в окрестности точки хо доказана в п. IIб). Выберем чис- число 7 > 0 такое, что B1{z\) С dom/. Определим число Л = 7/G + 11жо — zi\\) (очевидно, что Л Е @; 1)) и точку Z2 по формуле 1 / ч 21 — Лжо , Z\ — Хо ^ Ж + [Z Х) 2^+7 ^2 = Ж0 + [Z! Хо) = г =2^1+7 иИ 1 — Л 1 — Л || 2i — Жо|| Выберем произвольную точку у Е Bx^ {z\), по которой определим точ- точку z = (у + Хх0 - zi)/\. Тогда \\z - жо|| = A/А) ||?/ - zi\\ < 77, откуда /(^) ^ ^- Легко также проверить справедливость равенства у = = Xz + A — A)z2. Отсюда и из выпуклости функции / получаем /(I/) = /(Az + A - A)z2) < А/(г) + A - X)f(z2) < < Ха + A - A)/(*2) < |«| + \f{z2)\ = S. Итак, показали, что функция / на шаре B\v(zi) ограничена сверху числом 5. Отсюда как показано в пп. Па) и IIб), следует липшице- липшицевость функции / на всяком шаре B?(zi), где е G @; А??). III. Докажем, что из 3) следует 1). По условию найдутся число е > 0 и точка (zo,/io) такие, что B?((zo,/jlo)) С intepi/. Это значит, что для любого х G B?(zo) справедливо неравенство f(x) < /J,o+?, т.е. функция / ограничена на шаре B?(zo). Проверку формулы A.7.1) легко провести из определений. ? Следствие 1.7.1. Пусть /: Е —>¦ Ж — пн. сн. собственная выпуклая функция, причем intdom/ ф 0. Тогда функция / локально Липшицев а на intdom/. Доказательство. Определим множества Еп = {х G E \ f(x) < < п}, где п G N. Тогда dom/ = |J En- Так как функция / пн. сн., п>1 то множества Еп замкнуты (по теореме 1.5.1). По теореме 1.1.2 Бэра счетное объединение замкнутых множеств с пустой внутренностью имеет пустую внутренность, следовательно, найдется номер по та- такой, что int ЕПо ф 0. Выбрав в качестве U в теореме 1.7.1 множест- множество int ЕПо, завершим доказательство. ? Рассмотрим некоторые специальные случаи. Определение 1.7.1. Множество icin называется локально симплициальным, если для каждой точки х G А найдется конечное
62 Гл. 1. Выпуклый анализ число симплексов Si,...,Sm, содержащихся в Л и таких, что х яв- является вершиной симплекса Si для любого ъ Е 1,т и существует / т \ окрестность Д. (ж) точки ж такая, что Д?(ж) П А = В?(х) П [ U Si). Например, многогранники являются локально симплициальными множествами, открытые множества— тоже. Цилиндр не является ло- локально симплициальным множеством. Отметим, что понятие локаль- локальной симплициальности не связано с выпуклостью или замкнутостью множества. Теорема 1.7.2. Пусть даны локально симплициальное множест- множество А С Жп и выпуклая функция /: Жп —у Ж такая, что А С dom/. Тогда функция f является пн. св. на множестве А. Доказательство. Зафиксируем точку хо Е А. Пусть после- последовательность точек {xi} Е А такова, что Х{ —У xq при г —у оо и lim sup f(x) = lim f(xi). x^xo xeA г^°° Так как множество А является локально симплициальным, то для точки хо найдутся симплексы Si,..., Sm, содержащиеся в Л и удов- удовлетворяющие определению 1.7.1. Обозначим все вершины симплек- симплексов Si,..., Sm через 2/(ь 2/ъ • • • ? 2/лг? причем в силу определения 1.7.1 считаем, что у о = xq. Тогда в силу определения 1.7.1 для достаточно больших номеров г каждая точка Х{ лежит в выпуклой оболочке точек #о, 2/i,..., VNi T-e- N N Xi = Aoi^o + ^2 ^JiVji ^2 ^ = lj ^ - 0< A.7.8) J=l 3=0 В силу выпуклости функции / получаем N f(xi) < А Так как Xi -у ж0, то в A.7.8) АОг ->• 1 - 0, Xji ^0 + 0 для всех j e G l,iV. Переходя к пределу в A.7.9) при г —У оо, получаем lim sup f(x) = lim f(xi) < f(xo). ? Лемма 1.7.1. Пусть даны собственная выпуклая функция f : Е^Ж и компактное множество А из Е, причем ^.Cintdom/. Тогда функция f удовлетворяет условию Липшица на множестве А. Доказательство. По предложению 1.2.5 Ai =сбА явля- является компактом и А\ С intdom/. Для каждого х G A\ 3S(x) > 0:
§1.7. Непрерывность выпуклых функций 63 В^,Лх) С intdom/ и по теореме 1.7.1 функция / удовлетворяет ус- условию Липшица на В^Ах) с некоторой константой L(x). Выде- Выделим из покрытия U В^л (х) компакта А\ конечное подпокрытие, т.е. А\ С U B$.(xi)i Xi € Ai, Si = S(xi). Отсюда видно, что функ- г=1 ция / удовлетворяет условию Липшица на А С А\ с константой L = = max L(xi). ? 1<г<т V У Пример 1.7.1. Приведем пример линейной функции /: I2 —> М, не ограниченной сверху в любой окрестности каждой точки (и поэтому не являющейся непрерывной). Напомним, что базисом Гамеля в гильбертовом пространстве Ь называется максимальное линейно независимое подмножество в 1^. Существование базиса Гамеля в I2 можно доказать, опираясь на лемму Цорна (см. [30, гл. 1, § 14]). Также достаточно легко показать, что ба- базис Гамеля в I2 имеет мощность континуум. В силу сказанного будем обозначать базис Гамеля через В = {ха | a G [0, +оо)}, где параметр а принимает все значения из вещественной полупрямой [0, +оо), причем \\ха\\ = 1 для всех a G [0,+оо). В силу определения базиса Гамеля любой вектор из Ь единственным образом представим в виде конечной линейной комбинации элементов из В. Определим теперь функцию /. Пусть f(xa) = а для всех a G G [0, +оо). Для каждого вектора х G h справедливо его представление п через элементы базиса Гамеля вида х = ^2 ^ж^, откуда по опре- делению полагаем f(x) = ^2 ^kf(xak) = S ^k&k- Полученная функ- ция, очевидно, является линейной на пространстве ^2- Зафиксируем произвольные точку х G Ь и число е > 0. Для любого числа a G G [0, +оо) выполнено включение х + еха€В?(х), откуда следует неограниченность сверху функции / на шаре В?(х), а именно sup f(y) > sup f(x + exa) = sup (f(x) + e • a) = +00. ) a>0 a>0 Приведем усиленный вариант леммы 1.7.1. Теорема 1.7.3. Пусть U С Е — открытое выпуклое множест- множество и А — компакт, причем А С U. Пусть семейство выпуклых пн. сн. функций {fi | г G /} удовлетворяет условиям: 1) SUp/i (ж) < +ОО Уж е U]
64 Гл. 1. Выпуклый анализ 2) функция sup/i(x) ограничена сверху на некотором открытом iei множестве, содержащемся в XJ\ 3) Зх0 Е U: mffi(x0) > -оо. Тогда функции {/г} равномерно ограничены и удовлетворяют условию Липшица на компакте А с одной и той же константой, т. е. существует число L > 0 такое, что для Мх\, X2 G А справед- справедливы соотношения \fa(xi) — fi{x2)\ < L\\xi — Ж2Ц Уг. Доказательство. Пусть Ai=coA. По предложению 1.2.5 множество А\ также является компактом, причем А\ С U. 1) Покажем, что функции fa равномерно ограничены на компак- компакте А\. Определим функцию f(x) = sup fa (x). Ясно, что функция / явля- iei ется собственной выпуклой и пн. сн. функцией, так как над график epi / = П epi fa, т. е. он является выпуклым и замкнутым множеством iei как пересечение выпуклых и замкнутых надграфиков функций fa. При этом U С intdom/. По следствию 1.7.1 функция / является локально липшицевой на U. 1,а). Покажем, что функции fa равномерно ограничены сверху на ii. В силу локальной липшицевости / для \/ х G А\ существу- существует S(x) > 0 такое, что функция / ограничена сверху на В^Ах) некоторым числом а(х). Так как А\ — компакт, то существует конеч- т ный набор точек {а^}^ такой, что А\ С U Щ /Лх^)^ где ^ = $(хг)- Пусть е = min —. Тогда справедливы включения l<i<m 4 А1+В?@) С \J(Bl/4(Xi) +К/М) С l)(Bl(xi)). г=1 г=1 На правом множестве функция / ограничена сверху числом а\ = ), при этом > sup /(ж) > sup fa(x) Mi. A.7.10) = max a(xi), при этом 1<г<т 1,6). Покажем равномерную ограниченность снизу. Пусть хо взято из условия 3) теоремы, и пусть /3i = inf fa(xo). По iei условию /3i > —оо. Найдутся числа 7 > 0 и /Зг такие, что 57(жо) С С/ и /32 = sup /(ж) < +оо.
§1.7. Непрерывность выпуклых функций 65 Зафиксируем произвольную точку ж Е U, ж ф жо, и определим точ- , 7(жо — ж) Л 7 ку я = ж0 + тг [Г и числ0 Л = —nr^ п- ||жо-ж|| 7+11жо-ж|| Легко проверить, что Л G @; 1), ж0 = A - \)z + Аж и \\z - жо|| = 7? в силу чего для каждого ъ Е / получаем А < Д(ж0) < A - X)fi(z) + Xfi(x) < A - Л)/32 + АД (а:) < < 1/321 + АД (ж) =* Д(аг) > ^^ > А - |/32| = а2. Из пунктов 1,а) и 1,6) следует, что все функции fi ограничены сверху и снизу на множестве А\ + В?@) D А. 2) Покажем, что все функции fi липшицевы на А\ с одной конс- константой L. Выберем произвольные точки ж, у G Ai, и определим точку z = р (til гр \ = у + -гр rf. В силу определения z e Ai + В?@). \\У ~ х\\ Определим число Л = —^—г.—^Цт, тогда получим, что у = е + \\х-у\\ = A — Л) ж + Xz. В силу выпуклости функции fi отсюда получаем Ш < A - х)Ш + А/«М = ^^^ /«(») + J^L /i(z) = = Л(ж) + IlI( -I» " Л(ж)) - fi{x) Неравенство остается верным при перестановке у и ж. Отсюда сле- следует липшицевость функций fi на Ai с общей константой L = Теорема 1.7.4. Пусть U С Е — открытое выпуклое множест- множество, V — счетное плотное подмножество множества U. Пусть последовательность выпуклых полунепрерывных снизу функций fi удовлетворяет условиям 1)-3) теоремы 1.7.3, и пусть для каждой точки х G V существует lim fi(x) G Ж. i—^oo Тогда существует выпуклая функция /, к которой на U пото- поточечно сходится последовательность fi, причем на каждом компак- компакте из U сходимость будет равномерной. Кроме того, для всякой сходящейся последовательности {ж^}?^ С U такой, что lim x\ = г—>-оо = ж G U, следует равенство lim fi(xi) = /(ж). г—^сю Доказательство. Пусть А С С/ — произвольный компакт. По теореме 1.7.3 найдется число L > 0 такое, что при любом номе- 5 Е.С. Половинкин, М.В. Балашов
66 Гл. 1. Выпуклый анализ ре г Е N справедливо неравенство \Ш - Ш\ < Ц\х - у\\ Ух,уеА. Зафиксируем е > 0. Пусть Aq — некоторая конечная е/(ЗЬ)-сеть мно- множества А, причем Л о С V. Так как Aq — конечное множество, а последовательность функций fi сходится поточечно на V Э Aq, to найдется номер го такой, что Выберем любую точку х Е А. Тогда найдется точка z Е Aq такая, что \\х — z\\ < e/CL). Для всех г, j > г'о получаем \fi(x) - Ш\ < \fi(x) - fi(z)\ + \fi{z) - fj(z)\ + \Ш - fj(x)\ < < L\\x - z\\ + - + L\\x - z\\ <e. О Таким образом, для каждой точки х G А числовая последова- последовательность {fi(x)}^1 является фундаментальной, т.е. она сходится к некоторому значению, которое обозначим f(x). Так как номер г'о не зависит от выбора точки х G Л, то последовательность функций {/г} сходится к новой функции / равномерно на множестве А. Из этих рассуждений, в частности, следует, что для любой точки хо G U\V последовательность {fi(xo)} сходится: достаточно рассмотреть слу- чай, когда в качестве множества А взято множество f [J {xi}j U {жо}, где Xi G V и lim x\ = Xq. г—>-оо Определенная выше функция /: U —> Ж , очевидно, является вы- выпуклой, так как неравенство выпуклости в пределе сохраняется. Отметим, что функция / является собственной и ограниченной сверху на открытом подмножестве из U, на котором по условию теоремы sup fi(x) ограничен сверху, поэтому по следствию 1.7.1 1<г<оо она локально липшицева на U. Докажем последнее утверждение теоремы. Для данной в условии теоремы последовательности {а^}?^-. С U и точки х = lim x\ берем г—>оо / оо \ в качестве компакта А множество ( Ui^i}) U {х}. Возьмем чис- ло т\ > 0 такое, что ВГ](х) С U. Пусть Lq — константа Липшица функции / на ВГ](х). Выберем е > 0 так, что e/CLo) < г]. Пусть Ло есть е/FЬо)-сеть множества А. Для каждого г G N выберем точку zi G Aq так, чтобы \\xi — zi\\ < e/FLo). Тогда \fi(Xi) - f(x)\ < \fi(Xi) - fi(Zi)\ + \fi(Zi) - f{Zi)\ + \f{Zi) - /(*) I •
§1.7. Непрерывность выпуклых функций 67 Первое слагаемое меньше г/3 в силу липшицевости функций fi с общей константой L. Второе слагаемое при достаточно больших г меньше г/3, так как для каждого у ? Ао имеем fi(y) ->• f(y). В силу оценки \\х — Zi\\ < \\xi — Zi\\ + \\xi — x\\ при достаточно большом г (когда \\xi — х\\ < e/FLo)) для третьего слагаемого полу- получаем \f(zi) — f(x)\ < Lo\\zi — х\\ < г/6 + Lo\\xi — х\\ < г/3. ? Теорема 1.7.5. Пусть банахово пространство Е сепарабелъ- но, U — открытое выпуклое подмножество в Е. Пусть {fi} — последовательность функций, удовлетворяющая условиям 1)-3) теоремы 1.7.3. Тогда найдется подпоследовательность последова- последовательности {fi}, сходящаяся к выпуклой функции на ?/, причем на любом компакте из U сходимость будет равномерной. Доказательство. По теореме 1.7.4 достаточно построить под- подпоследовательность последовательности {fi}, сходящуюся на счетном плотном подмножестве V С U. Выберем (в силу сепарабельности Е) счетное плотное в U подмно- подмножество V = {xj}<j2=1. По условию числовая последовательность {fi(xi)}iEzl ограниче- ограничена. Значит, найдутся число а\ G Ж и счетное подмножество индек- индексов /i С N такие, что lim fi{x\) = ol\. г—>-оо, i?li Числовая последовательность {/«(жг) \i G h} также ограничена, поэтому найдутся число «2 G Ш. и счетное подмножество индексов h С 1\ такие, что min/i < min/2 и lim fi(%2) — 012. i—^сю, гб/2 Продолжая процесс по индукции, находим для числовой после- последовательности {fi(xk+i) \i G Ik} число ock+i G Ш. и бесконечное множество индексов /fc+i С /^ такие, что min Ik < min Ik+i и lim fi{xk+i) = a/fe+i G R. i^oo ieh + i Определим счетное множество индексов /, состоящее из первых элементов множеств {Ik}- По построению множества / получаем, что lim fi(xj) = а* для всех j G N. Следовательно, полученная г-^оо, iel функциональная подпоследовательность {fi \ г G /} поточечно схо- сходится на V. ? Упражнение 1.7.1. Привести пример выпуклой функции /: В\ @) —У М, где В\ @) С М2, которая в точке A,0) не пн. сн. и не пн. св. Упражнение 1.7.2. Доказать, что в Жп всякая выпуклая функ- функция / непрерывна на intdom/. 5*
68 Гл. 1. Выпуклый анализ Упражнение 1.7.3. Пусть U СЖП — открытое выпуклое мно- множество, Т = [0; 1]. Функция /: Гх[/-^М обладает свойствами: 1) VtGT функция x-yf(t,x) выпукла; 2) Уж G U функция t-У —у f(t,x) непрерывна. Доказать, что / непрерывна по совокупности переменных на Т х U. Упражнение 1.7.4. Пусть X С Жп — открытое выпуклое мно- множество. Пусть функция /: X —У Ж дважды непрерывно дифференци- дифференцируема на X. Доказать, что функция / выпукла тогда и только тогда, когда для любого хо Е X квадратичная форма неотрицательна при всех pG ln. Упражнение 1.7.5. Доказать, что функция /: I2 —У Ж вида f{x)— S пхп является собственной выпуклой функцией, причем она 71=1 не ограничена в любой относительной окрестности любой точки из dom/ и поэтому разрывна в каждой точке из dom/. § 1.8. Р-множества В математике известны различные классы множеств. Некоторые из них мы рассмотрели в первом параграфе этой главы. Выпуклые множества позволяют находить новые классы множеств с опреде- определенными свойствами. Примерами таких классов являются классы выпуклых многогранников и классы строго выпуклых множеств. В последующих главах мы изучим классы сильно выпуклых множеств. В данном параграфе, опираясь на результаты работы [14], мы опишем еще один интересный, на наш взгляд, класс выпуклых компактных множеств из Мп, обладающих определенной регулярностью границы и включающий в себя классы выпуклых многогранников и строго выпуклых множеств. Для описания этого класса множеств по заданному произволь- произвольному вектору gEMn, ||g|| = 1, определим прямую l(q) = {Ag | A G Щ и подпространство L(q) = {x G Mn | (ж, q) = 0}. Таким образом, прост- пространство Ж71 представим в виде прямой суммы подпространств L(q) и l(q), т.е. Жп = L(q) 0 l(q). В итоге произвольная точка z G Жп представима в виде z = х + fiq, где х G L(q), а /л G М, или, короче, z = (x;fi). Опираясь на такое представление, определим линейный оператор проектирования Рь(д)'- ^n ~> L(q) по формуле PL^z = х,
.8. Р-множества 69 где z = (х;/л). В результате для произвольного выпуклого компак- компакта icin определим функцию fA,q- PL(q)A^R; fA,q(X) = ШШ {fJb\ (x] fJb) Е A} VxG PL(q)A. A.8.1) Лемма 1.8.1. Для любого вектора q G W1, \\q\\ = 1, и любого вы- выпуклого компакта А С W1 функция fA,q из A.8.1) является собст- собственной выпуклой пн. сн. функцией на Р^^А. Доказательство. Функция fA,q, очевидно, является собствен- собственной выпуклой функцией. Известно, что для выпуклой функции / = — fA,q условие ее пн. сн. эквивалентно замкнутости лебеговых мно- множеств функции /, т.е. множеств вида La(/) = {х Е Рцд)А | f(x) < a} (см. теорему 1.5.1). Поскольку, очевидно, справедливо равенство {х Е PL{q)A | f(x) <a} = PL{q) (А П {(х; ц) \ ц < а}), а последнее множество замкнуто, то функция / является пн. сн. ? Определение 1.8.1. Выпуклый компакт А С W1 будем назы- называть Р-множеством, если для каждого вектора q ? W1, у которого ||д|| = 1, функция JA,q-> определенная выражением A.8.1), непрерывна на множестве Р^^А (рис. 4). Лемма 1.8.2. Пусть даны Р-множество А С W1, число A G 1 и точка аЕМп. Тогда множества ХА и А + а являются Р-мно- жествами. Доказательство. Для проверки определения 1.8.1 выберем произвольный вектор q ? W1, \\q\\ = 1, по которому определены пря- прямая l(q) = {z e W1 | z = fi,q, ii е Г ~ и подпространство L(q) = {z G Ш (z,q) =0}. Тогда для любого век- вектора z G W1 справедливо представ- представление z = х + [iq, т.е. z = (x;/jl). При необходимости указания зави- зависимости компонентов (ж; /i) от z бу- будем писать z = (x(z); /j(z)), причем по свойству проекций полученные функции x(z) и fi(z) непрерывны. В частности, данная точка а представима в виде а = (х(а); /л(а)). Тогда из формулы A.8.1) следует равенство fA+a,q(X) = fA,q(X ~ Х(°>)) + ^(а) ^Х ^ PL{q){A + a). A.8.2) график fA Рис. 4
70 Гл. 1. Выпуклый анализ При Л = 0 утверждение леммы очевидно. При Л > 0 из форму- формулы A.8.1) следует равенство f\A,q(Xx) = XfA,q(X) V^ ? PL(q)A а при Л < 0 — равенство fA-q(x) V'х е PL(q)A. Таким образом, из непрерывности функции f^q следует непрерыв- непрерывность соответствующих функций A.8.2)-A.8.4) для множеств А + а и АЛ ? Лемма 1.8.3. Всякий выпуклый многогранник из W1 и всякий выпуклый компакт из М2 являются Р-множествами. Доказательство. Если А — выпуклый многогранник из Мп, то для любого вектора g E Mn, ||g|| = 1, множество Рцд^А также является выпуклым многогранником, т.е. локально симплициальным множеством (см. определение 1.7.1). В случае, когда выпуклый компакт А принадлежит плоскости М2, его проекция PL^A является отрезком (или точкой), т.е. это также локально симплициальное множество. По теореме 1.7.2 всякая выпуклая функция, определенная на локально симплициальном множестве, является пн. св., т.е. функ- функция fA,q пн. св. на многограннике PL^A. To, что функция f^q является пн. сн., следует из леммы 1.8.1. ? Лемма 1.8.4. Всякий строго выпуклый компакт из W1 является Р -множеством. Доказательство. Пусть А — строго выпуклый компакт, т.е. его граница не содержит отрезков. Для проверки определения 1.8.1 вы- выберем произвольный вектор g E Mn, ||g|| = 1, соответствующие пря- прямую l(q), подпространство L(q) и оператор проектирования Pb(q)- Из сильной выпуклости множества Л, очевидно, следует сильная выпуклость множества Рцд^А в подпространстве L(q). Поскольку соответствующая выпуклая функция $A,q из A.8.1) непрерывна на непустом множестве hit Рц^А С L(q) (см. следст- следствие 1.7.1), то с учетом леммы 1.8.1 достаточно проверить пн. св. функции $A,q на границе ЭРц^А области определения функции. Допустим, что функция /а,я не является пн. св. в некоторой точке хо G дРцд)А, т.е. найдется последовательность точек Xk G G intPL(q\A такая, что Xk —> хо при k —> оо и /ло = lim f(xk) > > f(xo). Тогда в силу замкнутости и выпуклости множества А отре- отрезок [(жо;/(жо)), (#o;/io)] принадлежит множеству А. Если допустить,
• 1.8. Р-множеств а 71 что какая-то точка этого отрезка является внутренней точкой мно- множества Л, то приходим к противоречию с включением xq Е дР^^А. Таким образом, весь отрезок [(жо;/(жо)), (жо;/^о)] принадлежит гра- границе <9Л, но это в свою очередь противоречит строгой выпуклости множества А. ? Лемма 1.8.5. Пусть выпуклые компакты А\ и А2 из W1 яв- являются Р-множествами. Тогда непустое множество А = А\ П А2 также является Р-множеством. Доказательство. Для проверки определения 1.8.1 выберем произвольный вектор q E Mn, ||g|| = 1. Пусть выпуклые функции / = = fA,q, /1 = fAuq и /2 = fA2,q определены в силу A.8.1) для соот- соответствующих множеств Л, Ai, A^. Очевидно, справедливо равенство f(x) = max {Д (ж), /2(х)} при х Е Pl^A С Pl^Ai П Pb(q)-А-2- В силу этого и из непрерывности по условию функций Д и /2 на Рц^А получаем непрерывность функ- функции /. ? Лемма 1.8.6. Пусть даны Р-множество AcW1 и аффинное множество HcW1 размерности к<п такие, что АГ\Н^0. Тогда для любого х Е АГ\ Н множество (А — х) П (Н — х) являет- является Р-множеством в несущем подпространстве Н — х. Доказательство леммы 1.8.6 очевидно. Лемма 1.8.7. Пусть даны три непустые множества А, А\, Л.2 С W1 такие, что справедливо равенство A = Ai—A2, а мно- множество А\ является Р-множеством. Тогда множество А также является Р-множеством. Доказательство. Пусть задан вектор q E Mn, ||g|| = 1, по которому определены прямая l(q) = {z E W1 \ z — \iq, \i E M} и под- подпространство L(q) = {z E W1 | (z,q) = 0}. Тогда для любого векто- вектора z Е Шп справедливо представление z = х + fiq, т.е. z = (x; /j), a точнее z = (x(z); /j(z)), причем функции x(z) и /j(z) непрерывны. По формуле A.8.1) для соответствующих множеств Л, А\, Ai - z определим функции fA,q : Pb(q)A ->• ^ /ai,9: -Pl(9)^i -^ ^ и fA1-z,q- Pb(q)(Ai — z) -> R для любого z E Жп. Из формулы A.8.2) следует равенство /A1-z,e(!/)=/A1,e(l/ + arB))-M«) Vt/GPL(,)(^i-z). A.8.5) Так как по определению разности множеств А\ и А^ справедливо выражение А — Р| (А\ — z), то получаем равенство zeA2 fA,q(x) = SUP Шх-^дОя) U е А2} Мхе PL{q)A. A.8.6)
72 Гл. 1. Выпуклый анализ Из непрерывности (по условию) функции fAt,q и из формулы A.8.5) следует равномерная непрерывность функций fAi—z,q на компак- компакте Рцд^А, причем равномерно по всем значениям параметра z Е А2, а именно Уг>0 35(e)>0, Vxu x2 e PL{q)A: \\хг - х2\\ <5(е) Vz e А2, \fA1-z,q(xi)-fA1-z,q(x2)\<e. A.8.7) Зафиксируем число е > 0 и точки xi, x2 E Pb{q)A такие, что \\х\ — — х2\\ <S(e), где 5(е) взято из выражения A.8.7). Определим мак- максимизирующую последовательность {zk} С А2 для выражения sup {fA-i-z,q{xi) I z G A2}. Из условия A.8.7) для любого номера fc следует неравенство Переходя в этом выражении к пределу при к —> оо, получаем SUp {fA^-z^Xi) | Z e A2} - Hm SUp fA1-zh,q(X^) < 6- Так как Hm sup /Аг-гк,д(х2) < sup {fAl-z,q(x2) \z G A2}, то к—^сю sup {iUi-^O^i) | ^ G Л2} - sup {fAi-zA^) I ^ G Л2} < г. Аналогичное неравенство верно с заменой #i на х2, т. е., используя S(e) из A.8.7) и формулу A.8.6), получаем >0, Van, x2 e PL(q) A: \\Xl - х2\\ < 6(е), что означает равномерную непрерывность функции f A,q H& множест- множестве Рця)А. ? Перейдем к более сложным свойствам Р-множеств. Приведем характерное свойство, отличающее Р-множества от других выпуклых компактов. Лемма 1.8.8. Пусть дано Р-множество Acln, причем О G А. Тогда для любой сходящейся последовательности точек {а^} С Л, у которой Hm а^ = а ф 0, существуют последовательности то- к^-оо чек {bk} С А и чисел А/. > 0 такие, что Hm 6/, = 0, Hm Xk = 1 к^-оо к^-оо и для любого номера к G N справедливо равенство bk = аи — А^
• 1.8. Р-множеств а 73 Доказательство. По условию леммы справедливы соотно- соотношения Уг>0 3fci(e) МкУк^е) \\а-ак\\<е. A.8.8) По точке а зададим прямую l(a) = {z | z = /ш/||а||, \i G М} и ортого- ортогональное ей подпространство L(a) = {z G Mn | (z, a) = 0}, причем вся- всякий вектор w ? Жп представим в виде w = z + /ш/||а||, т. е. w = (z; /i), где z = Pl(cl)w ? ^(a)> a /i G 1. В частности, точки a^ G Л получают представление в виде ак = (zk]iik), где zfe = Рь(а)^к, Цк G R. Точка a представима в виде а = @; ||а||). Отсюда, следуя A.8.1), определим функцию д: Рца)А —> Ж по формуле g(z) = fA,a(z) = min i^ I (Z5/^) ^ ^} Для VzG Р^(а)^ С L(a). Так как по условию леммы множество А является Р-множеством, функция д непрерывна на множестве Рц^А. Из включения a^Gi и определения функции д следует неравенство g(zk) < fJ>k VI^GN. Из соотношения A.8.8) и представлений точек й^ий получаем для точек Zk выражение Уг>0, МкУк^е) \\zk\\ < \\а - ак\\ < е. A.8.9) В свою очередь из сходимости последовательности {zk} к нулю и из непрерывности функции д следует выражение Уг>0 3k2(e) \/k>k2(s) \g@) - g(zk)\ < е. A.8.10) Определим номера кз(е) = ma,x{ki(e),k2(e)} и к± = йз(||а||/3), а также точки 6/, = (zk;g(zk) — д@)) \/к > к± и bk = ak VIcG Ц4. Так как по условию 0 G Л, то справедливо неравенство д@) < 0. Из этого неравенства, с одной стороны, и из неравенства g(zk) < цк , с другой стороны, следует, что точки Ък и а^ лежат на одном луче {(zk; g(zk)) +fia\fjL > 0}, причем \\bk - (zk;g(zk))\\ = |^@)| при всех к > к4- Кроме того, из представления точки а в виде а = @; ||а||) и нера- неравенства д@) < 0 следует равенство \\а — @; #@))|| = ||а|| + |^@)|. В силу этого и соотношений A.8.9), A.8.10) для числа е = ||а||/3 и для всех номеров к > к4 получаем оценки № ~ дМ = \\a>k ~ (zk]g(zk))\\ > > \\a - @;g@))\\ - \\ak - a\\ - \\@;g@)) - (zk;g(zk))\\ > >\\a- @; e/@))|| - \\ak - a\\ - \\zk\\ - \\g@) - g(zk)\\ > >\\a\\ + \g@)\-3e=\g@)l т.е. справедливы включения bk G [(zk;g(zk)), ak] С А при всех к G N.
74 Гл. 1. Выпуклый анализ Кроме того, из определения точек bk для любого е > 0 при всех номерах к > к3(е) следует, что ||Ь*.|| < \\zk\\ + \д@) - g(zk)\ < 2е. Таким образом, последовательность точек bk G А такова, что lim Ък = 0 и справедливы включения bk ? {a>k — Ла | Л > 0}, т.е. к—>-оо существуют числа Л^ > 0 такие, что справедливы равенства bk = = ctk — А/, а для Vfc G N. При этом из равенств lim bk = 0 и А;—>-оо lim ctk = а следует равенство lim Хк = 1. П к^-оо к^-оо Теорема 1.8.1 (М.В. Балашов [14]). Пусть даны Р-множест- ва Ai, A2 Cin. Тогда их сумма А = Ai + A2 также является Р -множеством. Доказательство. Пусть задан произвольный вектор ^ G Мп, ||<?|| = 1, по которому определены прямая l(q) = {z G W1 | z = /aq, /iGl}, подпространство L(q) = {z G W1 | B;,^) = 0} и линейный опе- оператор Pb(q) ортогонального проектирования на подпространст- подпространство L(q). Тогда для любого вектора z G W1 определено представление вида z = х + /iq, т.е. z = (ж; /л), где х = PL^z, /1 е R. Договоримся под г подразумевать числа 1 или 2. Для каждого множества Ai, следуя A.8.1), в любой точке х G P^^Ai определим функцию fi(x) = min {ц \ (х; /л) G Ai}. По условию теоремы каждая функция fi непрерывна на множестве PL^Ai. Для множества А, следуя A.8.1), определим функцию f(x) = = min {fi I (x;/л) G А}, где х G Рцд)А. Требуется доказать, что эта функция также непрерывна. Легко проверить, что функция f(x) при х G Рцд^А может быть представлена в виде f(x) = min {ЛЫ + /2(u2) \и1+и2=х,ще PL{q)Ai] . A.8.11) В самом деле, зафиксируем произвольную точку х G Рцд)А. В си- силу очевидного равенства Рцд^А = P^^Ai + PL^A2 найдутся точ- точки щ G P^^Ai такие, что щ + U2 = х. Выбрав любые такие точки щ, обозначим fi(ui) = fii. Отсюда следует включение (х;/л\ +/i2) ^ ^5 т.е. по определению функции / имеем f(x) < \л\ + \Л2 = fi(ui) + + /2Ы. В свою очередь обозначим /io = /(ж)- Это значит, что (х;/ло) G G А = Ai + Л2. Следовательно, существуют точки (xi;/л°) G А^ та- такие, что xi + Х2 = ж и \л\ + /^2 = А^о- Докажем от противного, что справедливы равенства \л°{ — fi(xi). Допустим, что \л\ > fi(xi) = = /ij°, a p% > /2@:2) = ^2°- ТогДа (хи ^°°) е ^, откуда следует
• 1.8. Р-множеств а 75 (ж; /ij° + /л™) G Л и /ij° + /ig0 < /io — /(жM чт0 противоречит опреде- определению функции /. Таким образом, /(ж) = /i(#i) + /2(^2), и равенст- равенство A.8.11) доказано. По лемме 1.8.1 функция / является пн. сн. Допустим, что функция / не является пн. св. на множестве PL^A, т.е. существуют точки х Е Рцд)А и х\ Е Рц^Л^, а также последо- последовательность точек ?fc Е Рцд)А, сходящаяся к точке х при к —> оо, такие, что с учетом формулы A.8.11) справедливо выражение lim f(tk)>f(x) = f1(x1) + f2(x2), x = Xl+x2. A.8.12) к—>-оо Заменяя, если нужно, множество Ai на множество Ai — (xi; fi(xi)), а множество Л 2 — на множество Л 2 — (х2; /2(^2)) (в силу леммы 1.8.2 при этом они останутся Р-множествами), будем считать, что О Е G ii П i2 и справедливы равенства #i = х2 = ж = О G L(g) и Д@) = = /2@) = /@) = 0. По определению множества Лив силу формулы A.8.11) для каждого номера к G N найдутся точки х\ G P^^Ai такие, что х\ + х\ = tk и fi(x\) + f2(x1) = f(tk). В силу компактности мно- множеств PL^Ai можно выделить в последовательностях {х\} сходя- сходящиеся подпоследовательности, т.е. существуют точки yi G P^^Ai такие, что х\ —У yi при к —У оо и ^/i + у2 = 0 (= lim ^), причем из непрерывности функций fi и из неравенства A.8.12) получаем в пределе неравенство /iB/i) + /2B/2) > /@) = 0. Таким образом, у1 = 0 и у2 = 0. Рассмотрим последовательность точек а^ = (хгк, fi(x\)) G Л^, схо- сходящуюся по доказанному выше к точке а\ = (^; fi(Vi))- По лемме 1.8.8 для каждого г = 1, 2 существуют последовательности чисел AJ, > 0 и точек 61 G Ai таких, что lim Ь\ — 0, lim Ai = 1 и справедливы _ к^оо к к^оо к равенства Ь\ = а\ — \\cti для \/к G N. Определим последовательность точек {с\}, задаваемых равенст- равенством с\ = Pb(q)b\. Ясно, что справедливо включение с\ G P^^Ai и lim с\ = 0 (так как ||cj.|| < \\b\\\). Кроме того, из равенства Ь\ = = а\ — \\cii в подпространстве L(^) следует равенство с\ = х\ — \гкУг. Определим числа А/, по формуле А/. = min {A^, А^}. Очевидно, что lim Xk = 1. к—^сю Определим для каждого ъ = 1, 2 последовательность точек {с1гк} следующим образом: d\ = х\ - \kyi G [фжУ С
76 Гл. 1. Выпуклый анализ В силу изложенного выше каждая последовательность {d\} С С Pl^Ai является бесконечно малой, причем d\+ d\ = х\ + х\ — -AfcB/i+2/2) =h Для V&eN. Из формулы A.8.11) для Vfc Е N следует неравенство /(?&) < < fi(d\) + /г(^1)? из которого, переходя к пределу и учитывая непре- непрерывность функций /^, получаем неравенство lim /(**) < lim (ДD) + /2 (<*!)) = Л@) + /2@) = /@) = 0, k^-оо к^-оо что противоречит неравенству A.8.12) (напомним, что в нем после преобразования множеств Ai справедливо равенство х\ — Х2 = х = = 0). ? Теорема 1.8.2 (М.В. Балашов [14]). Пусть даны Р-множество А С W1, линейный оператор Т: W1 —У W71 и множество В = ТА. Тогда отображение Т: А —^ В является открытым в индуцирован- индуцированных на множествах А и В топологиях. Замечание 1.8.1. Топологию, индуцированную на А, следует понимать как та = А П tr™ , т.е. окрестностью точки a G А явля- является всякое множество вида (а + U) П А, где U — окрестность ну- нуля в W1. Топология, индуцированная на 5, определяется так же: ТВ = ВП TRm . Доказательство. Доказательство того, что отображение Т является открытым в некоторой точке х из множества Л, получается путем замены множества А на множество А — ж, допустимой в силу леммы 1.8.2. Таком образом, оно сводится к случаю, когда 0 G Л, 0 G В , и требуется доказать, что отображение Т: А —» В является открытым в нуле. При этом достаточно доказать утверждение о том, что для любой последовательности {ук} С В такой, что у\~ —у 0 при к —У оо, найдут- найдутся подпоследовательность последовательности {ук} (снова обозначаем ее {у к}) и последовательность {bk} С А такие, что Tbk = у к для всех к G N и bk ->• 0 при к ->• оо. Вначале покажем, что из последнего утверждения в самом деле будет следовать то, что отображение Т: А —^ В открыто в нуле. Допустим противное, т.е. пусть отображение Т: А —» В не является открытым в нуле. Это значит, что существует число S > 0 такое, что для любого номера к G N справедливо соотношение В1/к@)ПВ?Т(Вд@)ПА), т.е. найдутся точки у и 6 Bi/j,{Q) П В такие, что ук <? Т (В6@) П А). A.8.13)
• 1.8. Р-множеств а 77 В силу приведенного выше утверждения существует последователь- последовательность точек bk G А такая, что Ьк ->• 0 при 1;4оо и Tbk = у к- Это означает, что при больших номерах к будет справедливо включе- включение Ьк G В$@) П Л, что противоречит соотношению A.8.13). Теперь докажем требуемое утверждение. Зафиксируем произволь- произвольную последовательность точек {у к} С В такую, что у к —> 0 при к G оо. Для каждого номера к G N найдется точка а^ Gi, удовлет- удовлетворяющая равенству Так = У к- В силу компактности множества Л существует точка a G Л, для которой (выбирая, быть может, подпо- подпоследовательность) получаем пк —>¦ а при fc —>¦ оо, причем очевидно, что Та = 0. Если точка а = 0, то все доказано. Рассмотрим случай, когда точка а = 0. По лемме 1.8.8 существуют последовательности чисел А/. > 0 и точек 6/, G Л таких, что lim Ьк = 0, lim A/. = 1 и справедливы к^-оо к^-оо равенства Ьк = а& — А^а для Vfc G N. Отсюда получаем равенство Tfrfc = Так - А^Та = Так = 2/&, т.е. 6/. — искомая в утверждении последовательность. Утверждение и теорема доказаны. ? Теорема 1.8.3 (М.В. Балашов [14]). Пусть даны линейный опе- оператор Т: W1 —У W71 и Р-множество А С W1. Тогда множест- множество В = ТА также является Р-множеством. Доказательство. Пусть задан произвольный вектор q G Mm, ||g|| = 1, по которому определены прямая l(q) = {z G W71 \z = fiq, \i G G Щ и подпространство L(q) = {z G Mm | (z,g) = 0}. Пусть Рс(д) — линейный оператор ортогонального проектирования на подпрост- подпространство L(q). Тогда для любого вектора z G Mm определено представ- представление вида z = х + Ад, т. е. z = (ж; А), где ж = Pb(q)Z, A G 1. Для каж- каждой точки х G Pb(q)B определим функцию f(x) = min {А | (ж; A) G В}. Докажем, что функция / непрерывна на PL^B. Допустим противное, т.е. пусть существуют точка хо G Рцд)В, точка d G Mm и последовательность точек Хк G Рцд)В такие, что Хк —> Хо при fc —>¦ оо и lim (xk]f{xk)) = d, причем d 7^ (ж0; f(x0)). к—^сю Определим точки d^ = (xk] f(xk)) при Vfc G N и do = (жо;/(жо)). ^° допущению и по определению функции / получаем, что lim f(xk) > к^-оо ), т.е. вектор d — do Ф 0 сонаправлен с вектором д.
78 Гл. 1. Выпуклый анализ Выберем точки а® и а из множества Л такие, для которых do = и d = Ta. Далее, заменяя множество А множеством А — ао, считаем, что по = О Е Л, с?о = 0 и d ф {). Отсюда следует, что вектор d = Та сонаправлен с вектором q и а т^ 0. В силу теоремы 1.8.2 об открытом отображении для оператора Т: А —>¦ В существует последовательность точек a^Gi такая, что Taj* = dk при Vfc Е N и dk ^ а при fc —>¦ оо. По лемме 1.8.8 существуют последовательности чисел А^ > 0 и точек bk € А таких, что lim bk = 0, lim A/. = 1 и справедливы А;—>-оо к^-оо равенства bk = а^ — А^а для Vfc E N. Поэтому существует номер fco такой, что справедливы неравенства А& > 1/2 для \/к > ко. Для номеров к > ко получаем Tbk = Taj* — ХкТа = dk — \kd. Поскольку вектор d сонаправлен с вектором q, то из последнего ра- равенства следует, что точка Tbk E В лежит ниже (относительно на- направления прямой /(#)), чем точка dk = (ж^;/(ж^)) , что невозможно по определению функции /. Получили противоречие, в силу которого допущение о разрывности функции / было неверным. ? Пример 1.8.1. Рассмотрим в М3 множество А вида (рис. 5) А = со {{(x1,x2,x3) 2 -1J = 1, х3 = 1} U {@,0,0)}}. Покажем, что данный выпуклый компакт не является Р-мно- жеством. Возьмем вектор q = @, 0,1), т. е. получаем гиперплоскость L(q) = = ОЖ1Ж2 и прямую l(q) = Ожз- Тогда проекция множества А на L(q) получается вида = {(жьЖ2,0) | ж? + (Ж2 — IJ < 1}- В силу это- го определим функцию f(xi,x2) = Рис. 5 Очевидно, что /@,0) = 0, а при любом значении ip E (—тг/2,0) справедливо ра- равенство /(cosy?, 1 + siny?) = 1. Отсюда следует, что данная функция / не яв- является пн. св. в точке @,0), т.е. дан- данное множество А не является Р-мно- жеством.
§1.9. Теоремы об отделимости 79 Пример 1.8.2. Покажем, что теорема 1.8.2 неверна без предпо- предположении о том, что множество А является Р-множеством. Для этого рассмотрим множество А из примера 1.8.1. Пусть Т — оператор ортогонального проектирования на плос- плоскость 0xix2. Легко видеть, что ТА = {(#i, ж2, 0) Е Ж3 \х\ + (х2 - IJ < < 1}. Взяв S Е @,1/2), получаем Т(В6(Р)ПА) С Последнее множество не является окрестностью нуля во множест- множестве ГЛ. § 1.9. Теоремы об отделимости В теореме 1.1.8 мы рассмотрели случай отделимости двух непе- непересекающихся множеств с помощью построения непересекающихся окрестностей этих множеств. Для выпуклых множеств, как покажем ниже, имеет место другая отделимость непересекающихся множеств с помощью гиперплоскости, разделяющей все пространство на два полупространства, каждое из которых содержит по одному из данных множеств. При этом задание гиперплоскости и полупространств удоб- удобно осуществлять с помощью линейных функционалов. По принципу: от простого к сложному, мы рассмотрим утверждения об отделимости сначала для множеств из гильбертова пространства (и даже из Мп), а уж затем для множеств из банахова пространства. В гильберто- гильбертовом пространстве теоремы об отделимости приобретают простой гео- геометрический смысл, так как здесь (как покажем ниже) существует единственная проекция на всякое выпуклое замкнутое множество. Определим следующие понятия разделения множеств. Определение 1.9.1. 1) Пусть множества А и В из Е тако- таковы, что существует линейный функционал р Е i?*\{0} такой, что (р, а) < (р, b) Va G Л, \/b G В. Это значит, что существует число а = sup {(p, a) \a G Л}, при котором справедливы включения А С Н~(а) = {zeE\(p,z)< а}, В С Н+(а) = {zeE\(p,z)> a}. В этом случае говорят, что гиперплоскость Нр(а) = {z G E\ (p, z) = a} (или функционал р) отделяет (или разделяет) множества А и В.
80 Гл. 1. Выпуклый анализ У HJa) а б Рис. 6. Разделение множеств: а — сильное; б — строгое; в — нестрогое 2) Если, более того, имеется строгое неравенство (р, а) < (р, Ь) \/a Е A, V&G 5, т.е. существует число «Gl такое, что А С Н~(а) и В С intH+(a) или А С mtH~(a) и В С Н+(а), то говорят, что гиперплоскость Нр(а) (или функционал р) строго разделяет мно- множества А и В. 3) Если, более того, существует число 5 > 0 такое, что (р, а) + + ^ < (р> b) Va G i, V&E5, to говорят, что некоторая гипер- гиперплоскость Нр(а) (или функционал р) сильно разделяет множест- множества А и В (рис. 6). Определим функцию расстояния от точки х Е Е до множества Л по формуле ?>(ж, Л) = inf \\x — z\\ и многозначную функцию проекции точки х на множество Л по формуле РАх = {у еА\\\х- у\\ = ?>(ж, Л)}. В общем случае множество Pax может оказаться как пустым, так и состоящим из одной или множества точек. Лемма 1.9.1. Пусть множество А С И выпукло и замкнуто. Тогда для всякой точки х ^ Л проекция Pax является непустым множеством, состоящим из одной точки. Доказательство. Пусть х ^ Л , g = g(x. Л), и пусть {а^}?^ С С Л — последовательность точек из Л, для которой lim \\x — ai\\ = g. В силу равенства параллелограмма получаем
1.9. Теоремы об отделимости 81 1 2 1 || ||2 > ^ 1 1 м Так как - ||ж — а^||2 ->• ^-, - ||ж - а.-||2 ->• ^-, a liminf ж- 2 2 2 2 гуоо j>оо II г г—уоо j—>-оо I 2 " г|1 2 ' 2 2 > ?>2, то последовательность {а^} является фундаменталь- фундаментальной. Поэтому в силу замкнутости множества А существует точ- точка а Е А такая, что а = lim ai и ||ж — а\\ = д, т.е. а Е Рд#- г—>-оо Покажем, что множество Рдж состоит из одной точки а. Допус- Допустим, что существует другая точка а\ Е РАх, т.е. а\ ф а. Возьмем точку по = -. Тогда uq E А в силу выпуклости Л, а векто- векторы а — ж, ai — ж линейно независимы (поскольку, если это не так, т.е. а — х = A(ai — ж), и так как очевидно, что А ф =Ы, то из этого равенства следует, что одно из чисел \\а — ж||, ||ai — х\\ больше, что противоречит их равенству д). Следовательно, с учетом леммы 1.1.1 получаем м 2 2 2 1 CL — X Ci\ — Ж Q Q 1 / \ <^+ 1 ^ _^ 2 т.е. ||ао — ж|| < ?>, что противоречит определению д. ? Теорема 1.9.1. Пусть даны выпуклое замкнутое множество А С И и точка х ^ А. Определим вектор р = (ж — Рд^)/||ж — Рд#|| ? Е c?i?i@). Тогда гиперплоскость Нр(а) = {z ? H \ (p, z) = а}, где а = (р,РАх), строго отделяет точку ж от множества А (т.е. х Е ЫН+(а) = {z eH\(p,z) > а} и Л С Я~(а) = . ж = {zeH | (р,2> <а}) (рис. 7). Доказательство. Включение ж Е hiti?+ (a) верно, так как по определению р справедливо нера- неравенство (р, ж) > (р, РАх). Допустим, что найдется точка у Е А такая, что у Е hit H+ (а). Тогда (р, 2/ — РАх) > 0, что эквивалентно неравенству (х-РАх,у-РАх) >0. A.9.1) Пусть А Е @; 1) , и определим ж(А) = Ху + A - А)Рдж Е Л. Очевидно, что ж (А) ф РАх. Отсюда следует ||ж-ж(А)||2 = \\х-РАх\\2-2\(х-РАх,у-РАх) + \2\\у-РАх\\2. A.9.2) В силу A.9.1) значение -2А(ж - РАх,у - РАх) + \2\\у — РАх\\2 мень- меньше нуля при достаточно малых А Е @; 1), откуда в силу A.9.2) для
82 Гл. 1. Выпуклый анализ малых Л получаем \\х — ж(Л)||2 < \\х — Рдж||2, что противоречит опре- определению проекции Pax, по которому \\х - Рах\\ < \\х - у\\ Vу Е А. ? Следствие 1.9.1. Пусть А С И — выпуклое замкнутое мно- множество. Для каждой точки х ? А определим вектор р{х) = = ^—77- Тогда справедливо выражение \\x-Pax\\ Р Р А= П {zen\(p(x),z)<(p(x),PAx)}. х(?А Следствие 1.9.2. Пусть А С И — выпуклый компакт, В С С И — выпуклое замкнутое множество и АП В = 0. Тогда су- существуют р Е dBi@) и гиперплоскость Нр(а), которая сильно раз- разделяет множества А и В. Доказательство. Определим множество С = А — В = А-\- + (—5), оно будет замкнутым (см. упр. 1.1.2) и 0 ^ С. Возьмем р = —РдО/||РдО||, в качестве S возьмем ЦРдОЦ ф 0. Применяя теоре- теорему 1.9.1, получаем утверждение следствия. ? Следующие несколько результатов докажем в W1. Следствие 1.9.3. Пусть множества А и В из W1 выпуклы, причем А открыто и АП В = 0. Тогда существует р G dBi@) и гиперплоскость Нр(а), которая разделяет множества А и В. Доказательство. Определим множество С = А — В, оно вы- выпукло и открыто. Если 0 ^ С, то доказательство сводится к доказа- доказательству следствия 1.9.2. Если 0 G С, то существует последовательность точек Xk ? С та- такая, что lim Xk = 0. По теореме 1.9.1 для любого к найдется вектор pk G dBi@) такой, что Уж G С: (pk,x) < (jPk,Xk). Так как dBi@) — компакт в МП, то, выделяя из последовательности {ри} сходящуюся подпоследователь- подпоследовательность (которую снова обозначаем через {р^}), получаем, что сущест- существует вектор р= lim р^, причем \\p\\ = 1. Переходя в неравенстве к^-оо (рк,х) < (pkjXk) к пределу по к, получаем (р, х) < 0 \/х G С, откуда следует утверждение следствия. ? Среди гиперплоскостей, разделяющих множества, выделим по- понятия опорной гиперплоскости множества и опорного ко множеству функционала, а также изучим вопрос об их существовании. Определение 1.9.2. Функционал рЕ i?*\{0} называется опор- опорным ко множеству А С Е в точке a G дА, если А С {х G Е | (р, х) < < (р, а)}. При этом гиперплоскость Нр(а) = {х G Е\ (р, х) = а}, где
§1.9. Теоремы об отделимости 83 а = (р, а), называется опорной гиперплоскостью ко множеству А в точке а. В частности, в теореме 1.9.1 было показано, что если точка у Е А является проекцией некоторой точки ж ? А на выпуклое замкнутое множество А из гильбертова пространства, т.е. у = Раж, то через точку у можно провести опорную гиперплоскость к данному мно- множеству А. Теорема 1.9.2. Пусть А — выпуклое замкнутое множество из W1. Тогда через любую точку ж Е дА можно провести опорную гиперплоскость ко множеству А. Доказательство. Для точки х Е дА найдется последователь- последовательность {xk}, где Xk tf: A Vfc, такая, что lim Xk = ж. По теореме 1.9.1 к—уоо для каждого номера к Е N найдется вектор pk Е дВ\ @), отделяющий точку Xk от множества А, т.е. (Рк,хк) > (рк,у) VyeA. A.9.3) В силу компактности сферы существует вектор р G дВ\ @) и подпо- подпоследовательность pkm такие, что lim pkm — Р- Переходя к пределу га—>-оо по т —У оо в A.9.3) получаем, что (р,ж) > (р,2/) V^/ G Л. ? Замечание 1.9.1. Ситуация, описанная в теореме 1.9.2 для Жп, может не иметь места в случае гильбертова пространства. Поясним это на примерах. Пусть % = 12. Напомним, что пространство 1% состоит из векто- векторов х G hj являющихся последовательностями, т.е. х = {ж^}^_1? для сю которых ^2 х\ < +оо. Скалярное произведение векторов ж, у G Ь *=1 оо определяется по формуле (ж, 2/) = ^2 хкУк- к=1 Пример 1.9.1. Рассмотрим в \ъ так называемый «гильбертов кирпич» А = {х G h | \%к\ < 1/fc Vfc}. Легко показать, что множест- множество Л есть выпуклый компакт (оставляем это читателю в качестве упражнения). Кроме того, О G дА, так как, например, луч {Ае | А > 0} не пересекается со множеством А при е = A; 1/22/3; ... ; 1/&2//3; ...). Покажем, что через 0 нельзя провести опорную гиперплоскость к А. Допустим, что это можно сделать, т.е. существует вектор р = = {Рк}^=1 G &Bi@) С Ь такой, что Уже Л (р,ж)<0. A.9.4)
84 Гл. 1. Выпуклый анализ Зададим точку х = {xk}^=1 G А так, что Xk = signpk/k. Тогда k=l k=l что противоречит A.9.4). Пример 1.9.2. Покажем, что в I2 найдется пара выпуклых замк- замкнутых неограниченных непересекающихся множеств, которые нельзя В 1111111111111111111111111111111111111 Рис. 8 разделить гиперплоскостью. (Как мы увидим ниже, если одно из множеств ограничено, то разделить их всегда можно.) Пусть А — «гильбертов кирпич». Возьмем пару векторов z\ и ^, обладающих тем свойством, что {Xz\ | А ф 0} П А = 0, {Xz2 | А ф 0} П А = 0 и zi, z2 не параллель- параллельны. Например, можно взять z\ — A; 1/22/3; ... ; 1/к2/3; ...) и ^2 = Пусть L = linjzi,^}. С помощью процесса ортогонализации введем в L ортонормированный базис, состоящий из векторов а, Ь. Отметим, что L изоморфно М2, пусть а сонаправлен с осью абсцисс, Ъ — с осью ординат. Рассмотрим множества В = со U [па ) (рис. 8), А\ = {Ха \ n=i\ nJ AG 1} и Л2 = А + В. Из элементарной планиметрии следует, что ВП Ах = 0 и inf {||ж-2/|| |ж G В, у е Аг} = 0. Отметим, что Аъ замкнуто как сумма компакта А и замкнутого множества В (см. упр. 1.1.2). Покажем, что для любых A, \i\ |A| + |/i| > 0, справедливо соотно- соотношение . A.9.5) Ясно, что найдутся Ai и \i\ такие, что Ха + цЪ = Ai^i + /ii^2, причем |Ai| + |/ii| > 0. Пусть, например, |Ai| > |/ii|; тогда при больших &
§1.9. Теоремы об отделимости 85 справедливы неравенства j^- ± |^| > -, откуда и следует A.9.5). Таким образом, An L = {0}. Покажем, что А\ П Л2 = 0. Если бы это было не так, то наш- нашлись бы точка х е А и точка z = Ха -\- fib e В (причем \i ф 0 по построению 5) такие, что х + z = ja, т.е. х = (j — Х)а —/jb, что противоречит A.9.5). Допустим, что существует гиперплоскость Н, отделяющая мно- множества А\ и Л2. Тогда для любого п е N гиперплоскость i? отделяет точку па от множества А + па — b/п. Переходя в факторпространст- во \а, получаем, что для любого п ? N гиперплоскость Н отделяет точку 0 от множества А — Ь/п, т.е. Н отделяет 0 от Л, что невозмож- невозможно в силу примера 1.9.1. Конструкции, подобные описанной в примере 1.9.2, были предло- предложены Дж. Тьюки и В. Кли (см. [141]). Перейдем к изучению отделимости множеств в банаховых прост- пространствах. Здесь уже мы не можем гарантировать непустоту и одно- точечность проекции на выпуклое замкнутое множество. Поэтому ос- основным инструментом для доказательства теорем отделимости будет являться теорема Хана-Банаха о продолжении линейного функцио- функционала с сохранением мажоранты. Наиболее общая теорема об отделимости имеет следующий вид. Теорема 1.9.3 (об отделимости). Пусть А и В — непустые вы- выпуклые множества из банахова пространства Е, причем А П В = 0. Тогда: 1) если А открыто, то найдутся число j G Ш. и функционал р G Е* такие, что (Р,о) <7<(р,Ь) Мае А, МЬеВ, т. е. найдется гиперплоскость, строго разделяющая множества А и В; 2) если множество А компактно, а В замкнуто, то найдутся число 5 > 0 и функционал р G Е* такие, что (р,а)+5 <(р,Ь) Мае А, МЬеВ, A.9.6) т. е. найдется гиперплоскость, сильно разделяющая множества А и В. Доказательство. 1) Фиксируем произвольные точки а$ е А, Ьо еВ. Определим точку хо = Ьо — а® и множество С = А — В + xq. Оче- Очевидно, что Хо ф 0, множество С открыто и выпукло и 0 е С. Возьмем в качестве функции д(х) функцию Минковского/л(ж, С). По свойствам 2)
86 Гл. 1. Выпуклый анализ и 3) леммы 1.6.1 эта функция д удовлетворяет условиям теоремы 1.1.5 Хана-Банаха. Так как А П В = 0, то хо ? С, откуда д(хо) > 1. Определим линейный функционал f(Xxo) = A VAG 1 на одно- одномерном подпространстве L = Нп{жо}. Если Л > 0, то f(Xxo) = А < < Хд(х0) = д(Хх0); если Л < 0, то /(Аж0) < 0 < #(Аж0). Итак, / < # на L. По теореме Хана-Банаха функционал / продолжаем до линей- линейного функционала р на Е, удовлетворяющего неравенству р < д. В частности, (р, х) < 1 на С, и поэтому (р, ж) > —1 на —С, так что \\p\\ < 1 в окрестности нуля С П (—С). Как известно, из ограничен- ограниченности линейного функционала на некоторой окрестности нуля следует его непрерывность. Итак, р Е Е*. Пусть a G А и b ? В; тогда (р, а) - (р, Ь) + 1 = (р, а - Ь + ж0) < #(а - Ь + ж0) < 1, так как (р, жо) = 1, a — b + хо ? С и С открыто. Таким образом, (р,а) < (р, Ь). Отсюда следует, что р(А) и р(В) — непересекающиеся выпуклые множества на прямой М, причем р(А) лежит левее р(В). Кроме того, множество р(Л), очевидно, открыто, следовательно, мно- множество р(А) как непрерывный образ открытого связного множества является ограниченным справа открытым интервалом. В качестве j берем правый конец этого интервала. 2) По теореме 1.1.8 существует число е > 0 такое, что (А + В°@)) П В = 0. По п. 1) данной теоремы для множества А + -\-В°@) (которое выпукло и открыто) и В, получаем, что найдется р G Е* такой, что р(А + В°@)) и р(В) являются непересекающимися выпуклыми подмножествами на М, причем множество р(А + В°@)) открыто и лежит левее множества р(В). Отсюда следует неравенст- неравенство A.9.6), так как множество р(А) есть компактное подмножество множества р(А + В°@)). ? Замечание 1.9.2. Теорема 1.9.3 верна в любом отделимом ло- локально выпуклом линейном топологическом пространстве: при до- доказательстве п. 2) вместо В°@) нужно взять некоторую выпуклую окрестность нуля. Следствие 1.9.4. Замкнутость (замыкание) выпуклого мно- множества А С Е в сильной и слабой топологиях локально выпуклого пространства Е совпадают. Доказательство. Напомним, что локальной базой нуля слабой топологии пространства Е является набор множеств вида V= f) {хе l<i<n где pi e E*, Si > 0, n e N.
§1.9. Теоремы об отделимости 87 Так как любая слабая окрестность нуля является и сильной окрест- окрестностью нуля, то слабая замкнутость множества А влечет его (силь- (сильную) замкнутость. Пусть теперь множество А замкнуто. Рассмотрим любую точку ж о ^ ^ А. Тогда по теореме 1.9.3, п. 1) найдутся функционал ро ? Е* и число 7о такие, что (ро,%о) < То < (Ро,х) \/х Е А, поэтому множест- множество {х Е Е | (ро,х) < 7о} является слабой окрестностью точки хо, не пересекающейся со множеством А. Объединяя такие слабые окрест- окрестности по всем точкам из дополнения ко множеству А, получаем, что дополнение к А слабо открыто, следовательно, множество А слабо замкнуто. ? Следствию 1.9.4 можно придать следующий смысл. Следствие 1.9.5 (опорный принцип). Выпуклое замкнутое мно- множество А С Е совпадает с пересечением всех содержащих его замкнутых полупространств. Следствие 1.9.6. В рефлексивном банаховом пространстве, ес- если Ар\ В = 0, где А и В — выпуклые замкнутые множества, при- причем одно из них ограничено, то эти множества сильно отделимы, т. е. для них справедливо утверждение теоремы 1.9.3, п. 2). Доказательство. В рефлексивном пространстве Е всякое вы- выпуклое замкнутое ограниченное множество является компактным в слабой топологии, поэтому в силу замечания 1.9.2 следует применить теорему 1.9.3, п. 2) к пространству Е со слабой топологией. ? Замечание 1.9.3. В.К ли построил в произвольном нерефлексив- нерефлексивном сепарабельном банаховом пространстве пример выпуклых замк- замкнутых ограниченных непересекающихся множеств, которые не могут быть разделены гиперплоскостью или функционалом из Е* [141]. Таким образом, теорема 1.9.3 и ее следствие 1.9.6 не могут быть усилены. В силу того, что в банаховом пространстве существуют две ес- естественные топологии, нормированная (сильная) и слабая, то можно говорить о сильно и слабо полунепрерывных снизу функциях. Это не одно и то же. Лемма 1.9.2. Пусть Е — банахово пространство. Тогда каж- каждая слабо пн. сн. функция на Е является сильно пн. сн., а каждая выпуклая пн. сн. функция на Е является слабо пн. сн. Доказательство. Так как каждое слабо замкнутое множество в Е х Ж является также и сильно замкнутым, то по теореме 1.5.1 из слабой пн. сн. следует сильная пн. сн. функции.
Гл. 1. Выпуклый анализ Обратно, для выпуклой сильно пн. сн. функции ее надграфик яв- является выпуклым замкнутым множеством (по теореме 1.5.1), а в силу следствия 1.9.4 получаем, что ее надграфик будет слабо замкнутым множеством, т.е. по теореме 1.5.1 функция слабо пн. сн. ? Отсюда получаем критерий существования минимума у полуне- полунепрерывной снизу выпуклой функции, определенной на бесконечномер- бесконечномерном пространстве. Теорема 1.9.4. Пусть Е —рефлексивное банахово пространст- пространство, пусть /: Е —У Ж — выпуклая пн. сн. функция и А С Е — вы- выпуклое замкнутое и ограниченное подмножество. Тогда функция / достигает минимума на А, т. е. существует точка xq Е А такая, что f(xo) < f(x) для всех х Е А. Доказательство. В силу леммы 1.9.2 функция / слабо пн. сн. на Е, а по следствию 1.9.4 множество А слабо замкнуто. Так как А содержится в некотором замкнутом шаре, который в силу теоре- теоремы 1.1.7 является слабым компактом, то и множество А как замк- замкнутое подмножество компакта в слабой топологии также будет слабо компактным. Применяя теорему 1.5.2 для случая пространства Е со слабой топологией, получаем утверждение теоремы. ? Рассмотрим теперь вопрос о существовании опорных функциона- функционалов (см. определение 1.9.2) в граничных точках выпуклых множеств из банахова пространства. Теорема 1.9.5. Пусть даны выпуклое множество А С Е и точ- точка а Е дА. Если существует точка хо ? А такая, что \\хо — а\\ = = inf ||жо — ^11? то существует опорный функционал ко множест- zeA ву А в точке а. Доказательство. Пусть g = ||жо — о>\\ > 0. Открытый шар B°q{xq) не пересекается со множеством А по условию. По теоре- теореме 1.9.3 найдется ненулевой линейный функционал р Е Е* такой, что sup {(р,х) | х Е А} < inf {(р,у) | у Е В°(х0)} < (р, а), т.е. функцио- функционал р является опорным ко множеству А в точке а. ? Отметим, что если множество А выпукло и hit А ф 0, то в силу теоремы 1.9.3 в каждой точке х Е дА найдутся опорная гиперплос- гиперплоскость и опорный функционал (так как эту точку х можно отделить от выпуклого открытого множества int A. В случае, когда int A = 0, имеет место следующее утверждение. Теорема 1.9.6. Пусть А С Е — выпуклое замкнутое множест- множество. Пусть \/х?А ЗаеА: \\х - а\\ = inf {\\x - z\\ | z E А}. A.9.7)
§1.9. Теоремы об отделимости 89 Тогда существует всюду плотное подмножество граничных то- точек множества Л, в каждой точке которого существует опорный функционал. Доказательство. Зафиксируем граничную точку a Е дА и последовательность точек \хп} Ф А такую, что lim xn = а. По условию теоремы существуют точки ап Е дА такие, что \\%п — ап\\ = hif {\\xn — z\\ | z Е А}. По теореме 1.9.5 в каждой точ- точке ап найдется опорный функционал рп. Доказательство завершается оценкой \\а — ап\\ < \\а — хп\\ + \\хп — ап\\ < 2\\хп — а\\ —> 0. ? Следствие 1.9.7. Условие A.9.7) теоремы 1.9.6 выполняется для любого выпуклого замкнутого множества в случае, когда прост- пространство Е является рефлексивным банаховым пространством. Рассмотрим теперь в некотором смысле обратные задачи к теоре- теоремам об отделимости. Допустим, что в каждой граничной точке мно- множества существует опорная гиперплоскость или для каждой точки из дополнения этого множества существует и единственна проекция на множество. Что можно утверждать о выпуклости такого множества? Приведем несколько результатов такого сорта. Теорема 1.9.7. Пусть замкнутое множество А из гильбертова пространства И таково, что \п1Аф0. Если в каждой точке границы множества А существует опорная гиперплоскость, то А выпукло. Доказательство. Зафиксируем х G hit А. Рассуждая от про- противного, допустим, что найдутся точки y,z?A и аЕ [з/, z], но а (? А. Так как х G hit Л, а а ^ Л, то отрезок [ж, а] пересекает границу дА хотя бы в одной точке и G дА. Пусть Нр(а) — опорная гиперплоскость к Л в точке и, т.е. а = = (р,и). Так как х G hit Л, то х ? Нр(а), откуда aff {x,y,z} (?_ Нр(а). Очевидно, что dim aff {x,y, z} = 2, так как иначе при dim aff {ж, у, z} = 1 получили бы, что из того, что (р,и) = s(p, Л), и G [y,z], a Нр(а) — опорная гиперплоскость к Л в точке и, следует, что (р, у) = = {р,и) = (p,z). Поэтому (р,х) = {р,и), т.е. х G Нр(а), что противо- противоречит тому, что х G hit Л. Следовательно, гиперплоскость Нр(а) пересекает плоскость aff {ж, y,z} по прямой, проходящей через точку и. Но точка и является внутренней точкой треугольника xyz в плоскости aff {ж, у, z}, поэтому указанная выше прямая разделяет либо точки ж и у, либо у и z, что невозможно. ?
90 Гл. 1. Выпуклый анализ Отметим, что в теореме 1.9.7 требование 'ткАф0 существенно, что показывает пример дуги окружности в М2, для которой выполне- выполнены все условия теоремы 1.9.7, кроме условия непустоты внутренности множества, и данное множество, очевидно, не является выпуклым множеством. Отметим, что теорема 1.9.7 верна в более общем случае для мно- множеств из банахова пространства, если для множества А потребовать, чтобы на плотном подмножестве границы множества А существовали опорные гиперплоскости. Доказательство не очень сильно отличается от доказательства теоремы 1.9.7 и предоставляется читателю в ка- качестве упражнения. Теорема 1.9.8 (Т. Моцкин [158]). Пусть множество А С W1 замкнуто и для любой точки z$ Е W1 существует единственная точка жо G i, ближайшая к zo, т. е. хо = Ра%о- Тогда множество А является выпуклым. Доказательство. Доказательство проведем от противного. Допустим, что множество А не выпукло. Тогда найдутся точки х\ и Х2 из А и у Е [жьЖг] т&кое, что у ^ А. В силу замкнутости мно- множества А существует число е > 0 такое, что В?(у)Г)А = 0. A.9.8) Рассмотрим множество О, состоящее из всех замкнутых ша- шаров B6(z) таких, что В?(у) С BQ{z) и B°(z)P\A = 0. Отметим, что О ф 05 так как В?(у) Е О. Покажем, что из условия жь х2 ? B°Q(z) V'Be(z) G О следует, что числовое множество {?>}q, составленное из значений радиусов шаров из О, ограничено. Пусть 5 = \\xi — #21| и B6(z) E О. Без ограничения общности считаем, что z ф у и величина угла x\yz лежит в промежут- промежутке [тг/2,тг). Тогда \\у — z\\ < g — г, \\z — х2\\ > g, \\y — х2\\ < S и (так как угол x2yz острый) т. е. g2 -2eg + e2 + \\y-x2\\2 > д2, S2 + е2 откуда д0 < ^ , где ?0 = sup{g\BQ(z) E О}. Так как все шары из О содержат В?(у), то множество точек {z}q, составленное из центров шаров из О, также ограничено и содержится
.9. Теоремы об отделимости 91 в шаре Вв0(у). Следовательно, найдется максимизирующая последо- последовательность шаров {B6k(zk)} С О такая, что Qk —У Qo — 0, Zk —У ?о5 т.е. h(Beh(zk),Beo(zo))^Q. Покажем, что для шара B6o(zq) выполняется включение Ве(у) С Beo(zo). A.9.9) Действительно, если включение A.9.9) не выполнено, то найдется точка х G B?(y)\BQo(zo) такая, что q(x,B6o(zo)) = 7 > 0. Тогда в силу оценки (см. упр. 1.3.1) \g(x,Beo(zo)) - g(x,Bek(zk))\ < h(Bek(zk),Bgo(zo)) получаем, что для достаточно больших /с, при которых справедли- справедливо неравенство h(BQk(zk),BQo(zo)) < 7/2, выполнено g(x,B6k(zk)) > > 7/2, что невозможно, так как х G В?(у) С B6k(zk). Аналогично включению A.9.9) доказывается соотношение B°eo(zo)nA = A.9.10) Покажем, что B6o(zo) П А ф 0. Если бы это было не так, то в силу компактности шара B6o(zo) и замкнутости множества А по теоре- теореме 1.1.8 нашлось бы число S > 0 такое, что шар BQo+s(zo) сохранял бы свойства A.9.9) и A.9.10). Но это означало бы, что BQo+s(zo) G О, т.е. противоречило бы определению числа ?>о- Так как по условию проекция точки z$ на множество А единствен- единственна, то определим точку xo=dBQo(zo)nA. A.9.11) В силу A.9.8), A.9.9) и A.9.11) множество дВ?(у) П dBQo(zo) может быть: 1) либо пустым; 2) либо точкой w ф Xq (рис. 9). Рис. 9. а — случай 1); б— случай 2)
92 Гл. 1. Выпуклый анализ В случае 1) сдвинем (по теореме 1.1.8) шар B6o(zo) на малое расстояние по вектору zq — xq. В случае 2) сдвинем (по теореме 1.1.8) шар BQo(zo) на малое расстояние по вектору w — xq. Касание шара B6o(zo) с А исчезнет в обоих случаях, а сдвиг подберем столь малым, чтобы выполнялись условия A.9.9) и A.9.10). В результате сдвига шар B6o(zo) перейдет в шар BQo(z'o). По теоре- теореме 1.1.8 радиус шара BQo(z'o) можно немного увеличить с сохране- сохранением свойств A.9.9) и A.9.10), что противоречит определению до. п Упражнение 1.9.1. Доказать, что непустые множества А и В из банахова пространства Е отделимы функционалом р Е i?*\{0} тогда и только тогда, когда справедливо неравенство s(p,A) + s(-p,B)<0. Упражнение 1.9.2. Доказать, что непустые множества А и В из банахова пространства Е сильно отделимы функционалом р Е i?*\{0} тогда и только тогда, когда справедливо неравенство s(p,A) + s(-p,B)<0. Упражнение 1.9.3. Пусть А — выпуклое замкнутое подмно- подмножество гильбертова пространства И, ж, у ? А. Показать, что для проекций Pax и РаУ точек х и у на А выполнено неравенство \\РАх-РАу\\ < \\x-y\\- Упражнение 1.9.4. Доказать, что для того, чтобы выпуклые замкнутые множества Л, В из гильбертова пространства И можно было отделить гиперплоскостью, необходимо и достаточно, чтобы Упражнение 1.9.5. Доказать, что для того, чтобы выпуклые замкнутые множества Л, В из гильбертова пространства И можно было сильно отделить гиперплоскостью, необходимо и достаточно, чтобы 0 ^ А + (—В). Это эквивалентно тому, что inf {\\х — у\\ | х G е Л, у е В} > 0. Упражнение 1.9.6. Опираясь на то, что для неограниченных замкнутых множеств возможно А — В ф А — В, предъявить два замк- замкнутых выпуклых множества из М2, которые можно разделить строго, но нельзя сильно. Упражнение 1.9.7. Показать, что в следствии 1.9.3 множест- множества А и В можно разделить строго. Упражнение 1.9.8. Найти несколько точек «гильбертова кир- кирпича», через которые можно провести опорную гиперплоскость.
.10. Теорема Хелли 93 Упражнение 1.9.9. Показать, что если А С И — выпуклое замкнутое множество, то в дА существует плотное подмножество точек, через которые можно провести опорную гиперплоскость. Упражнение 1.9.10. Пусть Е — банахово пространство, хо Е Е. Доказать, что найдется линейный функционал ро ? Е*, \\po\\* = 1, такой, что (ро,%о) = ||жо||. Упражнение 1.9.11. Пусть линейно связный компакт А С W1 является локально выпуклым, т.е. Vх Е А Зе(х) > 0 такое, что каждое множество В?^ (х) П А выпукло. Доказать, что множество А выпукло. Указание. Доказать, что без ограничения общности можно счи- считать, что 0 Е А и в линейной оболочке множества А выполнены условия int А ф 0 и А = int А. Далее воспользоваться следующим свойством выпуклых множеств: пусть С — выпуклое замкнутое огра- ограниченное множество. Для любых х Е int С и у Е дВ\ @) определим луч 1Х = {х + Ху | Л > 0} и точку z = 1Х П дС. Тогда {z + Ху | Л > 0} П П С = 0. Решение упр. 1.9.11 другим методом для более общего случая можно найти в работе [6]. § 1.10. Теорема Хелли Для непосредственной демонстрации многочисленных приложений теоремы об отделимости рассмотрим один из важнейших результатов комбинаторной геометрии — теорему Хелли [31]. Теорема 1.10.1 (Э. Хелли). Пусть Т — семейство выпуклых множеств из Мп, мощность которого \^\ > п + 1. Пусть Т удов- удовлетворяет условиям: 1) любые п + 1 элементов из Т имеют общую точку; 2) либо \!F\ < оо, либо все элементы семейства Т являются ком- компактами. Тогда пересечение всех элементов Т непусто. Доказательство. 1) Начнем со случая, когда 1^*1 < оо и все элементы Т являются компактами. Используем индукцию по размерности к пространства. На прямой, т.е. при к = 1, утверждение теоремы очевидно. Допустим, что оно уже доказано для множеств из пространств размерностей к G {1,...,п — 1}. Докажем его при к = п, т.е. для множеств из W1. 1,а) Пусть для начала семейство Т таково, что Т = {^i, A2,... ..., Ап+2} (т.е. \Т\ = п + 2 ). Допустим, что утверждение теоремы
94 Гл. 1. Выпуклый анализ п+2 п+1 неверно, т.е. f] Ai = 0. Определим множество А = f] A{. По г=1 г=1 условию теоремы А ф 0, а А П Ап+2 = 0. Так как множества Л и Лп+2 суть выпуклые компакты, то по следствию 1.9.2 существует гиперплоскость Н, которая сильно разделяет множества А и Лп+2, при этом НГ\А = 0 и НГ\Ап+2 = 0. В аффинном подпространстве aff H = i? рассмотрим множества {i? П А^}^1. Так как произвольные п множеств из {-А^й.1 имеют непустые пересечения как с Лп+2, так и с Л, то в силу выпуклости они имеют непустое пересечение с Н, т.е. множества {Н П Л^}^1 удовлетворяют условию 1) теоремы в аффинном пространстве Н, причем dim H = п — 1. По предположению индукции Я П Ai П ... П Лп+1 т^ 0, что противоречит выбору Н. 1,6) Допустим, что утверждение теоремы доказано для любого семейства мощности s при некотором s>n + l (вп. 1,а) оно доказано для случая s = п + 2). Докажем его для семейств мощности s + 1. Пусть семейство Т таково, что Т — {Ai}l=i- Рассмотрим s множеств вида А* = Ai П As_|_i, 1 < % < s. В силу доказанного в п. 1,а) любые п + 1 из s множеств {Л*}|=1 имеют непустое пересечение. 8 S+1 Следовательно, по допущению f| i* / 0, т.е. Q Ai ф 0. Этим осу- г=1 г=1 ществляется шаг индукции по s и завершается доказательство п. 1). 2) Пусть 1^*1 = оо и все элементы семейства Т являются компак- компактами. Допустим, что А\ G Т и (т.е. пересечение всех элементов семейства Т пусто). Тогда для произвольной точки х G А\ определим ее окрестность Ux такую, что Ux П Ах = 0. Из покрытия компакта А\ окрестнос- окрестностями {Ux}xeAi выделим конечное подпокрытие: {Ux}7^1. Отсюда / т \ следует, что А\ П I [\ AXi I = 0, т.е. получили противоречие с п. 1) \г=1 / доказательства. 3) Пусть теперь мощность семейства Т конечна, но элементы семейства Т не являются компактами. Достаточно доказать утверждение для случая, когда 1^*1 = п + 2 (в общем случае, когда 1^*1 > п + 2, следует затем повторить рассужде- рассуждения п. 1,6)). Доказательство состоит в том, что мы найдем компактные вы- выпуклые подмножества Ki С Ai такие, что пересечение любых п + 1
.10. Теорема Хелли 95 множеств из нового семейства Т\ — \К\, К2,..., Кп+2} непусто. Тогда из п. 1,а) будет следовать п. 3). Для построения множества К\ заметим, что по условию сущест- п+2 вуют точки Zi E П Aj при каждом г = 2,... ,п + 2. Определим множество К\ = со {z2,..., ^+2}- Заметим, что справедливо включе- включение К\ С А\ и семейство множеств {К\, А2,..., ^4п+2} удовлетворяет п+2 условию 1) теоремы, так как zi E K\C\ f] Aj для всех г Е 2,п + 2. Аналогично для семейства {i^i, A2,..., Ап+2} строится компакт К.^. И так далее. ? Отметим, что на произвольные бесконечные системы неограни- неограниченных выпуклых множеств теорема Хелли не распространяется. Примером служит семейство {[п,+оо)}??_1 на числовой прямой, для сю которого Р| [п, +оо) = 0. 71=1 Существуют многочисленные приложения теоремы Хелли в зада- задачах выпуклой и комбинаторной геометрии (см., например, [29, 31]). В качестве одного из таких примеров мы рассмотрим теорему Дворец- Дворецкого о сечениях выпуклого множества. Теорема 1.10.2 (А. Дворецкий). Пусть А С W1 — выпуклый компакт, intA^0. Тогда найдется хотя бы одна точка а Е А та- такая, что для любых точек и Е дА и v E дА таких, что и, v лежат на одной прямой, проходящей через точку а, выполнено неравенство 1 \\и — а\\ . п ~ \\v-a\\ ~ Доказательство. Заметим для начала, что приведенная в теореме оценка неулучшаема, она достигается в случае, когда А является правильным симплексом в W1. Для любой точки х Е А определим множество Ах = х + п + 1 Н -А. Выберем произвольный набор точек {жЛИ1 С А. Оп- п + 1 ределим точку у, зависящую от набора {ж^}^1, по формуле у = = лА-1Хг' Т°гда для кажД°г0 номера ъ Е 1,п + 1 получаем г=1 1 У = 71 + 1 ч
96 Гл. 1. Выпуклый анализ т.е. любые п + 1 множеств семейства {Ах} имеют непустое пересе- пересечение. По теореме Хелли существует точка а Е f| Аж. Покажем, что а — искомая точка. хеА Пусть [u,v] — любая хорда множества Л, проходящая через точ- In п ку а. Тогда а Е и -\ А. следовательно, а — и Е - х п + 1 п + 1 п + 1 х(А — и), а с учетом того, что а — и Е [0,и — и], получаем, что п Гг. 1 \\а — и\\ . п \\а — и\\ . а — и Е 0,г? — и\, т.е. у. ^ ^ ? откуда j. \j < п. п+1 \\и — v\\ п + 1 \\а — v\\ Меняя и и v местами, аналогично получаем неравенство jj ^ < < п. ? Упражнение 1.10.1. Пусть {е^}^1 — аффинно независимые точки из W1. Показать, что семейство ограниченных множеств, зави- зависящих от натурального параметра т, П+1 П+1 Ai = 1, 1 < Ai < 1, Xi > 0, 1 <г <n + 772 таково, что P| Sm = 0, но для любого натурального к выполне- пг=1 но П Sm^0. m=l Упражнение 1.10.2. Показать, что теорема 1.10.1 верна и в случае, когда 1^*1 = оо, но все множества замкнуты и среди множеств семейства Т есть компакт (остальные условия теоремы 1.10.1, естест- естественно, выполнены). Упражнение 1.10.3. Пусть множество X С W1 состоит не менее чем из п +1 точек, А — выпуклый компакт и для любого подмножест- подмножества S С X, состоящего из п + 1 точек найдется такой вектор as Gin, что S С А + as- Доказать, что найдется вектор a G W1 такой, что ICi + fl. Упражнение 1.10.4. В М2 расположено конечное семейство па- параллельных отрезков, через любые три из которых можно провести общую секущую. Доказать, что через все отрезки можно провести общую секущую. Указание. Выбрать декартову прямоугольную систему коорди- координат с осью Оу, параллельной отрезкам. Исключив тривиальный слу- случай, когда все отрезки лежат на одной прямой, рассмотреть для каж- каждого отрезка / множество Г = {(а,C) G М2 | у = ах + /3 пересекает /}. Применить к семейству множеств /; теорему Хелли.
§1.11. Сопряженные функции 97 § 1.11. Сопряженные функции В этом параграфе опишем основополагающее свойство выпуклых пн. сн. функций — возможность их двойственного описания как свои- своими над графиками, так и через верхние грани аффинных функций, их не превосходящих. Пусть Е — банахово пространство. Теорема 1.11.1. Собственную выпуклую пн. сн. функцию /: Е —у Ж можно представить как поточечный супремум совокупнос- совокупности всех аффинных функций вида h(x) = (р, х) +/i, где р Е Е*, \i Е Е Ж, таких, что h < f на Е. Доказательство. Так как / — собственная выпуклая пн. сн. функция, то по теореме 1.5.1 множество epi/ является замкнутым и выпуклым. По следствию 1.9.5 над график epi/ есть пересече- пересечение всех замкнутых полупространств, содержащих epi/. Эти полу- полупространства мы будем делить на вертикальные, т.е. вида {(х,/л) Е Е Е х М| (р,х) < /3}, и верхние, т.е. вида {(х,/л) Е Е х М| (р,х) - C < Если бы все полупространства, образующие в пересечении epi/, были вертикальными, для любой точки xq E dom / множество {(#o,/i) Е ^ х M|/i E М} лежало бы в epi/, что противоречит тому, что / > —оо. Итак, найдутся и верхние полупространства. Это значит, что существует по крайней мере одна аффинная функция ho (x) = = (ро,х) — /Зо такая, что ho < /. Покажем, что пересечение всех замкнутых полупространств, содержащих epi/, можно заменить пересечением только верхних полупространств, содержащих epi/. Это завершит доказательство теоремы. Рассмотрим произвольное вертикальное полупространство Р = = {(х,/л) | hi(x) = (pi,x) — /3i < 0}, содержащее epi/. Это значит, что hi(x) < 0 для любого х Е dom/. Выберем произвольную точку (хо,^о)^Р, тогда hi(xo) > 0. Покажем, что найдется аффинная функция h такая, что h < / и /jo < h(x0). Определим функцию h\(x) = Xhi(x) + ho(x), где Л > 0. Для лю- любых Л > 0 и х Е dom/ справедливо неравенство h\(x) < f(x). Это же неравенство выполнено и для любого х fi dom/, так как тог- тогда f(x) = +оо. Так как hi(xo) > 0, то при достаточно большом зна- значении Ло > 0 мы получим неравенство h\o(xo) > /io- п 7 Е.С. Половинкин, М.В. Балашов
98 Гл. 1. Выпуклый анализ В силу теоремы 1.11.1 любую выпуклую пн. сн. функцию / на Е можно описать еще одним способом: через множество F* С Е* х Ж таких пар (р, /i), для которых аффинная функция вида h(x) = = (р, х) — \i мажорирует снизу функцию /. Поскольку h(x) < f(x) Vх ^ I1 > SUP ((Р?х) — f(x)) -> хеЕ то множество F* имеет смысл надграфика некоторой новой функ- функции /*: Е* —У Ж. Из последнего выражения приходим к ее опреде- определению. Определение 1.11.1. Преобразованием Лежандра-Юнга-Фен- хеля собственной функции /: Е —У Ж или сопряженной с / функцией называется функция /*: Е* —у Ж, определяемая равенством Г(р) = sup (<p,s>-/(aO). (l.ll.l) Итак, функция /* есть поточечная верхняя грань аффинных функ- функций д(р) = (р,х) — \i по всем (x,/i)Gepi/; следовательно, функ- функция /* выпукла и пн. сн. В свою очередь, так как в силу теоремы 1.11.1 выпуклая пн. сн. функция / есть поточечная верхняя грань аффинных функций h(x) = (р,х) — /i* по всем (р,/л*) G epi/* = F*, то f(x) = — /**(ж)> гДе вторая сопряженная с f функция определяется ра- равенством Г(х)= sup ({p,x)-f*(p)). A.11.2) Отсюда следует Теорема 1.11.2 (В. Фенхель, Дж.Моро). Собственная функция/: Е —У Ж выпукла и пн. сн. тогда и только тогда, когда справедливо равенство /** = /. Из определения 1.11.1 немедленно следует неравенство Фенхеля ip,x)<f(x) + f*(p) УхеЕ, РеЕ*. A.11.3) Для невыпуклой функции / также имеет смысл рассмотрение функции /* по формуле A.11.1) и функции /** по формуле A.11.2). При этом геометрический смысл epi/* тот же, что и для выпук- выпуклой функции: для любого (p;/i*) Gepi/* справедливы неравенства (р, х) — /i* < f(x) для всех х. Из формулы для второй сопряженной функции A.11.2) следует, что epi/** есть пересечение всех верхних полупространств, содержащих epi/. Как следует из доказательства теоремы 1.11.1, это пересечение совпадает с пересечением всех полу- полупространств, содержащих epi/. Отсюда следует
§1.11. Сопряженные функции 99 Следствие 1.11.1. Если функция / такова, что со/ есть собственная функция, то справедливо равенство /** = со/. Отметим связь индикаторной и опорной функций множества. Лемма 1.11.1. Справедливо равенство 5*(p,A) = s(p,A). Доказательство. В самом деле, 5*(р,А) = sup((p,x) -5(x,A)) = sup(p,x) = s(p,A). ? Пример 1.11.1. Пусть <р — четная выпуклая собственная функ- функция на М, </?* — ее сопряженная. Определим функции f(x) = </?(||ж||), д(р) = </?*A1р11*)> гДе II * II — норма в Е, а || • ||* — норма в сопря- сопряженном пространстве Е*. Покажем, что /* = д (и соответственно 9* = /): Г(р) = 8ир((р,х)-<р(\\х\\)) = хеЕ = sup sup ((р, ж) - </?(||ж||)) = sup (ф||# - <p(t)) = = 8Up(t\\p\\*-<P(t))=<P*(\\PW*)- ten Для дальнейшего изучения свойств сопряженных функций рас- рассмотрим операцию инфимальной конволюции выпуклых функций. Определение 1.11.2. Пусть Д, /2: E —У Ж — собственные вы- выпуклые функции. Тогда инфимальной конволюцией функций Д и Д называется функция (/i8/2)(a0= inf (/i(a:i)+/2(a;2)). Определение инфимальной конволюции имеет следующий геомет- геометрический смысл. Предложение 1.11.1. Справедливо равенство epi(/i Ф Д) = epi Д + epi Д. Покажем, что операции инфимальной конволюции и обычной сум- суммы функций двойственны друг другу. Теорема 1.11.3. Пусть Д, Д: ^ —>¦ М — выпуклые собственные полунепрерывные снизу функции. Тогда (/1Ф/2)*=/Г + /2*, A.П.4) 7*
100 Гл. 1. Выпуклый анализ Если дополнительно имеем (intdom/i) ndom/2 Ф 0, то замы- замыкание в формуле A.11.5) можно убрать, т. е. справедливо равенство (ЛЫ + /2Ы), A.11.6) Pl+P2=P причем нижняя грань в A.11.6) достигается для любого р Е edom(/i+/2)*. Доказательство. По определениям 1.11.1 и 1.11.2 = sup sup {(р,ж) -/i(^i) -/2(ж2)} = = sup Цр,хг) - /i(xi) + {p,x2) - /г(ж2)} = Д*(р) + /2*(p). Ж1, Ж2 Формула A.11.4) доказана. Аналогично, с помощью теоремы 1.11.2 получаем откуда т.е. получаем формулу A.11.5). В случае, когда р ? dom (Д + /2)*, из неравенства Д* 0 /2* > ^ (Д + /2)* (полученного из формулы A.11.5)) следует равенство В случае, когда р е dom (Д + /2)*, имеем (Д + Д)*(р) = А^о < +°о. По условию найдется точка жо G intdom/i ndom/2 (т.е. это точка непрерывности функции Д). Это, в частности, значит, что dom (Д + + /2) ф 0, откуда следует, что (Д + Д)* > — оо всюду, поэтому /х0 > -оо. Определим множество А = {(ж, fi)eExR\fi<(Pjx)- f2{x) - /i0}. Легко убедиться, что множество А выпукло. Покажем, что множество An (intepi/i) = Ап{(х,^л) G Е х Щх е intdom/i, /j, > Д(ж)} пусто. Если предположить, что существует точка (х,/л) G А П (int epi Д), то Д(ж) < \i < (р,ж> - /2(ж) - /i0,
§1.11. Сопряженные функции 101 МО < <Р,Я> - Л (Я?) - /2 (Ж) < (Л + /2)*(р) = /i0, что невозможно. По теореме 1.9.3 об отделимости найдется вектор (ро5 а) ? Е* х М, (ро5 а) 7^ @? 0)? разделяющий множества Л и hit epi Д, т. е. такой, что sup{(po,x) + а/х| (ж,/х) e epi/i} < inf {(po,x) + a/x | (ar,/x) G A}. A.11.7) Из неравенства A.11.7) легко увидеть, что а < 0. Если допустить, что а = 0, то получаем, что вектор ро 7^ 0 (в силу (ро,а) ф @,0)) разделяет dom/i и dom/2, что противоречит условию о том, что intdom/i П dom/2 7^ 0- Итак, а < 0. Разделим обе части неравенства A.11.7) на |а| и, обозначив pi = = Ро /1 с^ 15 получим x) - /j\ (x,fjb) е epi/i} < inf{(pi,x) -/x | (ж,/x) G A} = = inf{(pi -р,ж) + /2(ж) | x G dom/2} + /x0 = -fZ(p-pi) +Mo- Из этого соотношения получаем (/Г © Л*)(р) < /i*(pi) + Л*(р - л) < мо = (Л + /2)*(р), что и доказывает теорему. ? Рассмотрим еще одну пару двойственных операций. Пусть Т: Ei —у Еъ — непрерывный линейный оператор. Опре- (fT)() (T°f)(y)=ini{f(x)\Tx = y}. Теорема 1.11.4. Пусть Т: Е\ —у Е2 — непрерывный линейный оператор. Если д — функция на Е\, а / — функция на Е2, то справедливы выражения (Т о <?)* = <?* о Т*, A.11.8) (/о Г)* <Г*о/*. A.11.9) Если /: Е2 —У Ж — собственная выпуклая функция, непрерывная в некоторой точке из образа ImT, то (/оГ)*=Г*о/*, A.11.10)
102 Гл. 1. Выпуклый анализ и, более того, для любого р Е dom(/ оГ)* найдется q Е Е\ такое, что p = T*q, (/ о Т)*(р) = /*(«). Доказательство. Равенство A.11.8) вытекает из определе- определений, неравенство A.11.9) — из неравенства Фенхеля A.11.3). Оста- Остается доказать неравенство (Г* о f*)(p) < (f oT)*(p) и тогда полу- получим A.11.10) (в предположении, что Зжо G dom/ П ImT, где / непрерывна в точке хо). Положим /i0 = (/ о Т)*(р). Так как (hit dom/) П ImT 7^ 0, то функция / о Т принимает конечные значения, следовательно, (/ о Т)* всюду больше — оо, т.е. /io G И&- Рассмотрим в ^2 х ^ аффинное множество Множество L не пересекает intepi/, иначе для некоторого х ^ Е\ было бы f(Tx) < (р,х) -/i0, Mo < <Р,*> " /(Тяг) < (/ о ТУ(Р) = /i0. По теореме 1.9.3 об отделимости множества L и epi/ можно разде- разделить: существует (q,a) G {Е% х М)\{@,0)}: sup {(qf, у) + а/х | (j/, /i) G epi /} < inf {(q, у) + a/x | B/, /i) G L}. A.11.11) Как и в теореме 1.11.3, легко показать, что а < 0. Если а = 0, то из неравенства A.11.11) получаем, что функционал q ф 0 разделяет множества dom/ и ImT, вопреки условию теоремы (intdom/)n П ImT ф 0. Следовательно, а < 0. Разделив обе части неравенства A.11.11) на а и положив qo = = #/|а|, получаем /*Ы < inf {(до,2/> - = inf {(qo,Tx) -(р,х)+1ю\хе Ег}. Так как f*(q) > —00 V^, тор = Т*^о, так как в противном случае inf ((qo,Tx) - (р,ж>) = inf (Т*^о -р,ж> = -оо. X X Таким образом, pElmT*, p = T*qo и (Т* о /*)(р) < /*(д0) < ^0 = (/ оТ)*(р). П Воспользуемся теоремой отделимости и свойствами сопряженных функций для описания множеств с помощью их опорных функций.
§1.11. Сопряженные функции 103 Лемма 1.11.2. Пусть А С Е. Тогда справедливо равенство сбА= Р| {хе Е\{р,х) < s(p,A)}. A.11.12) Доказательство. Пусть х Е А. Тогда в силу определения опор- опорной функции для любого р Е Е*: (р,х) < s(p,A), т.е. справедливо включение AC f] {xeE\(p,x) <s(p,A)}. Так как справа стоит выпуклое замкнутое множество, то шЛ содер- содержится в этом множестве. Докажем, что множество из правой части A.11.2) содержится в со А Допустим, хо ^ со А Тогда по теореме об отделимости найдут- найдутся р0 ? дВ^@) и е > 0, такие, что (ро?#о) > (Ро^х) +? VxGi. От- Отсюда получаем, что (ро,хо) > s(po,A) + г, т.е. хо fi {x G Е \ (р,х) < < s{p,A) МреЕ*}. U В силу положительной однородности опорной функции в форму- формуле A.11.12) Е* можно заменить на дВ^_@). Лемма 1.11.3. Пусть множество А С Е определено по формуле А= П {xeE\(p,x)<f(p)}, р<ее* где функция /: Е* —У Ж есть собственная положительно однород- однородная функция. Если со/ также является собственной функцией, то множество А непусто и справедливо равенство s(p,A) = со/(р) для всех р е Е*. Доказательство. Если х е А, то (р,х) — f(p) <0 Vр G Е*, следовательно, sup ((p,x) - /(р)) = 0, так как равенство нулю достигается при р = 0. Если х (? А, то существует функционал ро G <91^@) такой, что (ро,ж) > /(ро), следовательно, sup ((р,ж) - /(р)) > sup((Apo,x) - /(Аро)) = +оо. Л>0 Итак, /*(ж) = S(x, А). Значит, по лемме 1.11.1 и следствию 1.11.1 = f**(j>) = ^*(ж, А) = s(p, Л). Поскольку по условию функ-
104 Гл. 1. Выпуклый анализ ция со/ собственная, то со/(р) = s(p,A) ф — оо для всех р Е Е*, следовательно, А ф 0. ? Приведем важное следствие леммы 1.11.3. Следствие 1.11.2. Собственная выпуклая положительно одно- однородная функция /: Е* —у Ж полунепрерывна снизу тогда и только тогда, когда найдется непустое выпуклое замкнутое множест- множество А С Е такое, что f(p) = s(p,A) для всех pG ^*. Таким образом, всякому замкнутому выпуклому множеству со- соответствует выпуклая пн. сн. положительно однородная функция, и наоборот, всякой выпуклой положительно однородной пн. сн. функции соответствует выпуклое замкнутое множество. Эта замечательная двойственность позволяет сводить многие за- задачи о выпуклых замкнутых множествах к изучению выпуклых замк- замкнутых положительно однородных функций, и наоборот. Рассмотрим, как с помощью опорных функций можно описать некоторые операции с множествами. Пусть А и В — выпуклые замк- замкнутые множества из банахова пространства Е, пусть также семей- семейство Аа есть произвольное семейство выпуклых замкнутых подмно- подмножеств Е. Тогда имеют место следующие формулы Л = П {хеЕ\{р,х)< sup s(p,Aa)}, A.11.13) ' реЕ* а f)Aa= f] {xeE\{p,x)<mis(p,Aa)}, A.11.14) а реЕ* А±В= f){xeE\(p,x)<s(p,A)-s(p,B)}. A.11.15) Докажем формулу A.11.15). Пусть С = А — В, а множество в пра- правой части формулы A.11.15) обозначим через X. Так как С + В С А, то для всех р G Е* выполнено неравенство s(p, С) + s(p, В) < s(p, A), откуда s{p,C) < s{p,A) — s{p,B) для всех р и, значит, С С X. Если же хо G X, то для любого р G Е* выполнено неравенство (р, хо) + + s(p,B) = s(p, хо + В) < s(p,A), откуда в силу выпуклости и замк- замкнутости А и В получаем, что xq + В С А, т. е. xq E С. Остальные формулы доказываются аналогично. Из формул A.11.13)—A.11.15) по лемме 1.11.3 получаем следующие формулы для опорных функций: =s(p,m(\)Aa\j = sup s(p,Aa), A.11.16)
§1.11. Сопряженные функции 105 8(Р,[)аЛ =co(mfs(p,AQ)), A.11.17) 8(p,A±B)=ca(s(p,A)-8(p,B)). A.11.18) Полученные выше равенства достаточно формальны, так как для их использования требуется находить вторую сопряженную функцию (т.е. выпуклую оболочку функции), что, как правило, бывает очень трудно реализовать на практике. Впоследствии в ряде конкретных случаев, в частности, в случае, когда пространство Е является про- пространством Мп, мы сможем указать некоторые достаточно простые методы вычисления второй сопряженной функции. Лемма 1.11.4. Пусть А, В С Е суть выпуклые замкнутые огра- ограниченные подмножества. Тогда хаусдорфово расстояние между мно- множествами А и В можно вычислять по формуле h(A,B) = sup \s(p,A)-s(p,B)\. A.11.19) l|p||*=i Доказательство. Обозначим выражение в правой части фор- формулы A.11.19) через /, a h(A,B) через h. Так как для любого t > 1 справедливо включение А С В + Bth @), то справедливо неравенство s(p, A) < s(p, В) + th для любого р, при- причем \\p\\* = 1. Аналогичное неравенство верно с заменой А на 5, откуда / < th для любого t > 1, т.е. / < h. Поскольку s(p,A) < s(p, В) + f\\p\\* = s(p, В + Bf@)) для всех р, \\p\\* = 1, то справедливо включение А С В + Bf@), откуда А С В + + Bf+?@) для любого е > 0. Аналогичное включение верно с заме- заменой А на В, откуда h < inf {/ + е | е > 0} = /. ? В дальнейшем нам потребуется исследовать множества в сопря- сопряженном пространстве Е*. Пусть Л* С Е* — выпуклое замкнутое множество в сопряженном пространстве Е* со слабой* топологией. Аналогично A.6.5) опорная функция множества А* определяется по формуле s(x, A*) = sup{(x,p) | р е А*}, где х е Е. Отметим, что все свойства опорных функций для множеств из бана- банахова пространства Е, рассмотренные ранее, переносятся на случай опорной функции s(x,A*) в пространстве Е* со слабой* топологией. Докажем, например, формулу представления выпуклого замкнутого множества А* из Е*: {реЕ*\(х,р) <s(x,A*)}. A.11.20)
106 Гл. 1. Выпуклый анализ Множество в правой части A.11.20) обозначим через Р. Включе- Включение А* С Р очевидно. Допустим, ро ^ А*. Тогда по теореме 1.9.3 об отделимости (для случая локально выпуклого топологического пространства Е* со слабой* топологией) найдутся точка хо Е dBi@) С Е и число е > 0 такие, что (жсиРо) > (хо,р) + ? Vp Е А*. Отсюда получаем, что (хо,Ро) > з(жо,Л*) +?, т.е. ро^Р.В Если Л*, 5* С i?* суть выпуклые замкнутые ограниченные под- подмножества, то для расстояния между ними по Хаусдорфу, т.е. h(A*,B*) =inf{r>0|^* c54 5f*@), Б* ci4Bf*@)}, справедлива формула h(A*,B*)= sup |в(ж,А*)-в(я;,Б*)|. A.11.21) ||Ж||=1 Доказательство равенства A.11.21) проводится аналогично дока- доказательству равенства A.11.19) в лемме 1.11.4. Упражнение 1.11.1. Показать, что для функции tp(t) = A/а)|?|а функция ip*(t) = A//3)ЩР, где A/а) + A//3) = 1, а > 0, E > 0, явля- является сопряженной. Упражнение 1.11.2. Показать справедливость неравенства Фен- -у-рттгг Упражнение 1.11.3. Пусть /: Ж—У Ж — выпуклая функция, х(-): [а, Ь] —> Ж — непрерывная функция. Тогда выполнено неравенст- неравенство Иенсена для интеграла Ь / Ь ff(x(t))dt>(b-a)f(^fx(t) )dt Указание. Проинтегрировать неравенство Фенхеля f(x(t)) > >(y,x(t))-f*(y). Упражнение 1.11.4. Показать, что если функция /: Мп —у Ж выпукла и intdom/ ф 0, то справедливо равенство f*(p)= sup ({p,x)-f(x)). xE'mtdomf Упражнение 1.11.5. Показать, что в гильбертовом пространст- пространстве равенство /* = / возможно лишь для функции f(x) = ||ж||2/2. Упражнение 1.11.6. Показать, что для выпуклой собственной пн.сн. функции / справедливо равенство inf f(x) = —/*@). х?Е
§1.12. Двойственность Минковского 107 Упражнение 1.11.7. Найти /* для функций: 1) f(xi,x2) = max{|xi|, \х2\}; 2) f(xi,x2) = \xi\ + \х2\; 3) f(xi,x2) = д/kil2 + \x2\2 + 1. Упражнение 1.11.8. Доказать, что s(p, Л) = s(p, со Л). Упражнение 1.11.9. Показать, что если s(p,A) <s(p,B) Vp, то Л С сбВ. Упражнение 1.11.10. Показать, что s f p, (J Ла I =sups(p, Ла). Упражнение 1.11.11. Множество Л замкнуто и х G hit со Л. До- Доказать, что s(p,A) > (p,x) Vp G i?*\{0}. Упражнение 1.11.12. Множества Л, 1} замкнуты, а множест- множество В ограничено, выпукло и замкнуто. Доказать, что из включе- включения А + В С В + D следует включение A CcoD. Упражнение 1.11.13. Доказать формулы A.11.13), A.11.14), A.11.16)—A.11.18). Упражнение 1.11.14. Пусть непустое ограниченное множест- множество Л задано выражением Л = {xeW1 \f(x) < 1}, где функция /: Жп —у Ж является аналитической относительно пере- переменных (х\,..., жп), причем в любой граничной точке xq множества Л градиент V/(#o) Ф 0> а Для любого направления / G Мп, / Ф 0, спра- справедливо неравенство я2 г Доказать, что множество А является строго выпуклым мно- множеством. Указание. Показать, что в каждой граничной точке множест- множества А существует опорная (касательная) гиперплоскость и что мно- множество Ad B?(xq) содержится в опорном полупространстве. Далее воспользоваться упр. 1.9.11. § 1.12. Двойственность Минковского Следуя Минковскому (см. [153]), проанализируем опорную функ- функцию ограниченного выпуклого множества А, у которого 0 G hit A, и замечаем, что эта опорная функция s(p,A) строго положительна при р ф 0 и поэтому обладает теми же свойствами, что и функ- функция Минковского (сравните пп. 1), 2), 3) в леммах 1.6.1 и 1.6.2).
108 Гл. 1. Выпуклый анализ Следовательно, опорную функцию s(p,A) можно рассматривать как функцию Минковского некоторого другого (полярного) множества А°. Это множество А° состоит из точек р, удовлетворяющих неравенст- неравенству s(p,A) < 1. В результате мы пришли к следующим определениям и утверждениям. Определение 1.12.1. Полярой (или сопряженным множест- множеством) множества А из банахова пространства Е называется множест- множество из сопряженного пространства Е* вида А° = {р G Е* | (р,ж) < 1 \/х G А}. Полярой множества В С Е* называется множество из прост- пространства Е (а не из пространства Е**) вида в° = {хеЕ\(р,х) <1 УреВ}. Биполярой (или вторым сопряженным множеством) ко мно- множеству А С Е называется множество из пространства Е вида А°° = = (А°)° = {хеЕ\(Р,х) < 1 \/реА°]. Лемма 1.12.1. Пусть множество А С Е непусто. Тогда его по- поляра А° выпукла, замкнута и содержит точку 0, при этом справед- справедливы соотношения: _ (соА)° = А°; (А)° = А°; если X > 0, то (ХА)° = | А°; Л если Ас В, то В° С Л°; А° = {р G Е* | в(р, А) < 1} = {р G ?* | /i(p, A°) < 1}. A.12.1) Доказательство легко следует из определения поляры и свойств опорной функции. Пример 1.12.1. Легко проверить равенство (Вг@))° = -В^@). Пример 1.12.2. Пустьро G #*\{°}> А^о > 0, Л = {х G Е | (ро,х) - - /Jo < 0} — полупространство в Е. Тогда А° = [0,ро//^о], т.е. А° есть отрезок из .Е*, один конец которого — точка 0. Докажем это. Непосредственной проверкой легко убедиться, что s(po,A) = /ich T-e- s(^Po,A) < 1 при Л G [0, l//io]« Поэтому [0,ро//^о] Ci° и для любых Л > l//io или А < 0 выполняется Аро ^ А°. Допустим, что найдется функционал р\ ф 0 такой, что pi G i° и функционалы pi, po линейно независимы. Тогда kerpi ~fi kerpo, сле- следовательно, найдется хо G Е такой, что (ро,жо) = 0, a (pi,^o) = 1. Но тогда Xxq G А для любого A G 1, поэтому условие (pi,Axo) =
§1.12. Двойственность Минковского 109 = A(pi,xo) < 1 может выполняться для всех A G 1 только в случае, когда pi = 0. Итак, А° = [0,po//io]. Лемма 1.12.2. Пусть А С Е — множество с непустой внутрен- внутренностью, причем 0 Е hit А. Тогда справедливо равенство tx(p,A°) = s(p,A) УреЕ*\{0}. Доказательство. Равенство следует из замкнутости А°, лем- леммы 1.6.1 и формулы A.12.1). 1) Пусть р G #*\{0} таков, что t = /i(p, A°) < +оо. Так как 0 Е G i°, то t > 0. Так как 0 Е hit Л, то существует число е > 0 такое, что Дг@) С А. Следовательно, по лемме 1.12.1 справедливо вклю- включение А°С-В^_@). Таким образом, множество А° ограничено, откуда следует, что t > 0. Тогда p/t Е А°, т.е. s(p/t,A) < 1, отку- откуда s(p,A) < t. 2) Пусть р е Е*\{0} таков, что г = s(p,A) < +оо. Так как 0 G G hit А, то г > 0. Тогда s(p/r, А) < 1, откуда получаем, что р/т G Л°, т.е. /i(p, Л°) < г. 3) Пусть р таков, что s(p,A) = +оо, отсюда в силу 1) следует /л(р,А°) = +оо. Наоборот, если р таков, что /л(р,А°) = +оо, то отсюда в силу 2) получаем s(p,A) = +oo. ? Следствие 1.12.1. Пусть А — выпуклое множество, причем О G hit А. Тогда справедливо равенство fi(x,A) = s(x,A°) Уж G Е и функция fi(x, А) является липшицевой функцией. Доказательство. Первое утверждение следует из предыдущей леммы, леммы 1.6.1 и того, что s(x,A°) =»(х,А°°) =М^Д) =Ф,А). Из включения О G hit Л, как показали при доказательстве леммы 1.12.2 в п. 1), следует, что множество А° ограничено ут. е. А° С - 1^@) J, от- откуда получаем, что функция s(x,A°) удовлетворяет условию Липшица с константой L = sup{||p||* \p G А°} < 1/е. В силу первого утверж- утверждения и функция /л(х,А) удовлетворяет условию Липшица с той же константой L. ? Теорема 1.12.1. Пусть АсЕ — непустое множество. Тогда А°° = со(Ли{0}). A.12.2) Доказательство. Во-первых, по лемме 1.12.1 имеем О G А°°. Для всякого хо G А по определению А° получаем (р, х0) < 1 Vp G Л°,
110 Гл. 1. Выпуклый анализ откуда следует, что ж0 Е Л°°. Итак, Ли {0} С Л°°. Поскольку Л°° замкнуто и выпукло, то со (Л U {0}) С Л°°. Пусть жо ^ со (Л U {0}). Покажем, что жо ^ Л°°. По теореме 1.9.3 (об отделимости) найдется функционал р Е е дВ±@) такой, что (р,ж0) >s(p, ш(Ли{0})) >0. Если s(p, со (Ли{0})) = 0, то (р,ж) < 0 Уж Е Л и (р,жо) > 0, т.е. найдется число а > 0 такое, что (ар,жо) > 1 и (ар,ж) < 0 Уж Е Е Л, т.е. ар Е Л° и ж0 ^ Л°°. Если s (р, со (Л U {0})) > 0, то подберем число а > 0 так, чтобы выполнялось равенство а • s (р, со (Л U {0})) = 1. Тогда для ар по- получаем (ар, ж0) > s (ар, со (Л U {0})) = 1. Следовательно, ар Е Л° (так как (ар,ж) < 1 Уж Е Л), а жо ^ Л°° (так как (ар,жо) > 1). ? Следствие 1.12.2. Если множество А С Е выпукло, замкнуто и 0 Е Л, то справедливо равенство Л°° = Л. Лемма 1.12.3. Пусть {Аа} — семейство непустых подмно- подмножеств из Е. Тогда (со ijAa) =f]A°a. A.12.3) При дополнительном предположении, что все множества Аа замкнуты, выпуклы и 0 Е Аа \/ а, справедлива следующая формула: = co(J^°. A.12.4) Доказательство. Докажем A.12.3). Применяя лемму 1.12.1, получаем =L p,\jAa)<A = = {Р\ sups(p,Aa) < 1} = (~){p\s(p,Aa) < 1} = PU°. Формулу A.12.4) получим в силу равенств A.12.3) и A.12.2) и лем- леммы 1.12.1 из следующей цепочки равенств:
§1.12. Двойственность Минковского 111 Далее в этом параграфе рассмотрим свойства поляр в случае, когда исходные множества являются конусами. Прежде всего отметим очевидное утверждение. Лемма 1.12.4. Поляра конуса К\ из банахова пространства Е и поляра конуса К2 из сопряженного пространства Е* являются замкнутыми выпуклыми конусами, удовлетворяющими равенствам К\ = {р е Е* | {р,х) < 0 \/х е Кг}, К° = {хеЕ\ (р,х) < 0 Vp G К2}. Лемма 1.12.5. Пусть К\, К2,..., Кт — выпуклые конусы в пространстве Е {или в Е*). Тогда справедливо равенство (К. + ... + Кт)° = К°П...ПК^. Доказательство. Как отмечалось в лемме 1.4.3, справедливо равенство Кг + ... + Кт = со (Кг U ... U Кт), из которого с использованием леммы 1.12.3 получаем требуемое ра- равенство. ? Лемма 1.12.6. Пусть Ki,... ,Кт — замкнутые выпуклые ко- конусы в пространстве Е (или в Е*). Тогда справедливо равенство (к1п...пкт) = к° + ... + к;п. Доказательство. В силу того, что равенство К°° = К спра- справедливо для любого выпуклого конуса, и в силу леммы 1.12.5 получаем равенства = {К1 + ... + К°т)°° = К°1+... + К°т. U В дополнение к введенному в § 1.4 понятию касательного конуса ко множеству введем понятие нормального конуса ко множеству А в точке a G А, опираясь на понятие опорного функционала (см. опреде- определение 1.9.2). Определение 1.12.2. Нормальным конусом ко множеству А С С Е в точке a G А называется множество в сопряженном пространст- пространстве Е*, состоящее из всех опорных функционалов ко множеству А в данной точке а, т.е. N(A;a) = {peE*\s(p,A) < (р,а)}. A.12.5) Условия, при которых нормальный конус содержит больше одной точки нуль, описаны в теоремах 1.9.5 и 1.9.6.
112 Гл. 1. Выпуклый анализ Заметим, что в случае, когда множество А является выпуклым конусом, из леммы 1.12.4 и определения 1.12.2 следует, что его поляра совпадает с нормальным конусом ко множеству А в точке 0, т.е. А° = N(A; 0). В связи с этим получаем следующую лемму. Лемма 1.12.7. Нормальный конус ко множеству А С Е в точ- точке a G А совпадает с полярой конической оболочки ко множест- множеству А — а, т. е. N(A; а) = (cone (А - а))° . A.12.6) Доказательство. Пусть p€N(A;a). Это значит, что спра- справедливо неравенство (р, х — а) < 0 \/х G А. В свою очередь для любого вектора v G cone (A — а), v ф 0, по лемме 1.4.1 существу- существует число \i > 0 такое, что справедливо включение a + [iv?coA. Следовательно, {p,fJ>v)<0. Итак, показали, что {p,v)<0 Vi> G G cone (A — а), т. e. p G (cone (A — a))°. Обратно: допустим, что p G (cone (A — a))°. Тогда из того, что для любого х G А справедливо включение х — a G cone (А — а), и в силу леммы 1.12.4 условие на р влечет неравенство (р,х — а) < 0 Уж G Л, т.е. р G N(A]a). ? Пример 1.12.3. Пусть непустое многогранное множество А из пространства W1 задано с помощью линейных равенств и неравенств вида г т А = р| {х G Мп | (р;,ж) < 7;} П {ж G Rn I &>х) = Ч*}> i=l i=r+l где определены числа r, m G N, 0<r<m, 7j Gl и векторы pi G Mn, iip<ii = i- Требуется найти касательный и нормальный конусы ко множест- множеству Л в некоторой точке хо G А. Допустим, что точка хо такова, что при каждом номере г G l,s справедливы равенства (р^^о) = 7ь а ПРИ каждом г G s + 1, г спра- справедливы неравенства щ > 0, где a« = 7i ~ (Pi,xo) (при этом одно из множеств индексов l,s или s + 1, г может оказаться пустым, т.е. s еОТг). Очевидной проверкой легко убедиться в справедливости равенства S Г А - х0 = П {ж е Ж" | (р<, ж) < 0} р| {ж е Ж" | (р<, ж) < оц} х х Р| {хежп\{рг,х) = 0}. г=г+1
§1.12. Двойственность Минковского 113 Отсюда, учитывая, что точка 0 является внутренней точкой каждого полупространства {х Е W1 | (pi,x) < с^} при г Е s + 1, г, получаем окончательное выражение для касательного конуса в примере 1.12.3 {xeRn\(Pi,x) = o}. i=l i=r+l A.12.8) Покажем, что в примере 1.12.3 нормальным конус представим в виде N(A;xo) = I г=1 и А;Gг - (Рг,ж0)) = 0 при Уг G 1,г >. A.12.9) Обозначим множество, стоящее в правой части доказываемого ра- равенства A.12.9), через К. Очевидно, что множество К является вы- выпуклым замкнутым конусом. т Пусть р = V^ XiPi G К, причем из определения множества К сле- г=1 дует, что для любого г G s + 1, г (т.е. когда 7г — (Рь^о) > 0 ) спра- справедливо равенство А^ = 0. Отсюда получаем равенство г=1 г=1 при этом для произвольного вектора х ? А справедливо неравенство г=1 г=1 Сравнивая последние соотношения, получаем неравенство (р, х — xq) < < 0 для всех х G А, т. е. р G iV(A; жо). Таким образом, доказали вклю- включение К С N(A]Xq). Допустим теперь, что существует вектор ро ? N(A;xo) такой, что ро ^ К. По теореме об отделимости найдется вектор уо ф 0 та- такой, что (po,yo)>s(yo,K). A.12.10) Из полученного в A.12.10) условия ограниченности сверху опорной функции выпуклого конуса К, очевидно, следует, что s(yo,K) = 0, откуда получаем, что (ро,Уо) > 0- В свою очередь в силу определения множества К, выбирая для каждого индекса ъ G l,m значения Aj = 0 при всех j ф г, из равенства s(yo,K) = 0 получаем равенства maxAi(pi,2/0) =0 У г G 1,ш. 8 Е.С. Половинкин, М.В. Балашов
114 Гл. 1. Выпуклый анализ Из этих равенств для различных групп индексов получаем: 1) при г Е l,s (т.е. при Л^ > 0) справедливо неравенство (РиУо) < 0; 2) при г Е s + 1, г (т.е. при \ = 0) значение (pi,yo) любое; 3) при г G г + 1, т (т.е. при Л^ G М) справедливо равенство <Рг,2/о> = 0. Отсюда и из формулы A.12.8) получаем включение уо Е cone (A — — хо). В силу леммы 1.12.7 о представлении нормального конуса в виде поляры от конической оболочки и из включения ро ? ^(^4;^о) следует неравенство (ро,Уо)<0, которое противоречит неравенст- неравенству A.12.10). Полученное противоречие доказывает, что справедливо равенство A.12.9). Упражнение 1.12.1. Пусть непустое множество А из Жп задано в виде т А= f]{xeRn\(Pk,x) k=l где \\pk\\ = 1 Для всех k G l,m. Доказать, что множество А есть многогранник тогда и только тогда, когда , т ч OGint fco U {рк}) ^ k=i ' § 1.13. Барьерный и рецессивный конусы Напомним, что для всякого множества А из банахова пространства при каждом функционале р G Е* была определена опорная функция множества А вида s(p, A) = sup{(p, x) \ x G А}. Определение 1.13.1. Для выпуклого множества А С Е барьер- барьерным конусом Ь(А) С Е* называется множество = {peE*\s(PjA) Очевидно, что это выпуклый конус. Он в некотором смысле явля- является мерой «ограниченности» множества А: чем больше барьерный конус, тем меньше А в бесконечности. Для выпуклого замкнутого множества А С Е и для ненулевого функционала р G Ь(А) определим опорное множество А(р) = {х G А | (р, х) = s(p, A)}. Если множество А(р) оказалось непустым, то через х^ будем обозначать произвольный элемент множества А(р).
§1.13. Барьерный и рецессивный конусы 115 Уточним некоторые свойства барьерного конуса Ь(А) неограни- неограниченного выпуклого множества А С Е. Лемма 1.13.1. Пусть даны множества А, В из банахова прост- пространства. Тогда выполнены утверждения: 1) Ъ{А) = Ъ(А); 2) если А С В, то Ь(А) D Ь(В); 3) b(A + B) = b(A)nb(B); 4) если множества Л, В С Е замкнуты и выпуклы, причем (ЫА)ПВ ф 0, то Ь(АПВ) = b(A) + b(B). Доказательство. Свойства 1)-3) легко следуют из определе- определения барьерного конуса. Докажем свойство 4). Возьмем индикаторные функции fi{x) = S(x, А) и /2(ж) = S(x, В). Отметим, что (hit dom Д) П dom /2 = (hit i)fl5/0. Имеем с учетом леммы 1.11.1 F(х, А) + 6(х, В))* = F(х, А П В)У = s(p, А П 5). С другой стороны, по теореме 1.11.3 получаем, что (Ш+/2(х))*(р)= inf (s(Pl,A) + s(P2,B)), Pl+P2=P причем нижняя грань достигается, т. е. для любого р G Ь(А П В) най- найдутся р\ G Ь(А) и р2 G ЬE), такие, что р = р\ + Р2 и s(p, Л П В) = = s(pi,A) + s(p2,B). Отсюда Ь(А П В) С Ь(А) + Ь(В). Обратное вклю- включение Ь(А) + Ь(В) С Ь(А П 5) очевидно. ? Замечание 1.13.1. Условие п. 4) леммы 1.13.1 можно ослабить: вместо условия (int А) П В ф 0 достаточно потребовать условие 0Gint(A + (-B)) (см. [68]). Лемма 1.13.2. Пусть А — замкнутое выпуклое множество из рефлексивного банахова пространства Е. Тогда для любого р G G intЬ(А) и для любого е > 0 множество А(р,е) = {х е А\(р,х) > s(p,A)—e} есть непустое замкнутое выпуклое ограниченное под- подмножество множества А. Доказательство. Зафиксируем р G int b(A) и е > 0. Тогда s(p,A) < +00. Определим множество А\ = А(р,е). В силу определения опорной функции через супремум, множество А\ непусто, выпукло и замкнуто, причем s(p,Ai) =s(p,A). Покажем, что s(q,Ai) < +00 для всех qeE*, т.е. b(Ai) = Е*. В самом деле, А\ — А П Н+ (а), где Я+(а) = {ж G Е | (р, ж) > а} и а = s(p, Л) - г. Следовательно,
116 Гл. 1. Выпуклый анализ -peb(H+(a)), ЫН+(а) ф 0 и (int H+ (a)) f| А ф 0. По свойст- свойству 4) леммы 1.13.1 получаем b(Ai) =6(ЛпЯ+(а)) = Ь(А) + Ь(Я+(а)). Из условия р Е int Ь(-А) для некоторого 5 > 0 справедливо включе- включение р + В$@) С Ь(А), поэтому Я*@) С Ь(А) + Ь(Я+(а)), т.е. + Отсюда следует, что множество Ai слабо ограничено, а следова- следовательно, по теореме 1.1.4 и сильно ограничено. Рассмотрим минимизирующую последовательность {а^} С А та- такую, что lim (p,a,k) = s(p,A). Для любого числа г > 0 в силу опре- к—юо деления множества Л(р, г) найдется такой номер К(е), что при всех & > ^(^) справедливо включение {а^} С А(р,е), откуда в силу слабой компактности множества А(р,е) можем считать, что {а^} сходится слабо к некоторой точке а. Так как множество А(р,е) замкнуто и вы- выпукло, то оно слабо замкнуто, и поэтому a G А(р, е). Так как последнее включение справедливо при любом числе е > 0, то a G А(р). ? Замечание 1.13.2. Если даны замкнутое выпуклое множество В и ограниченное замкнутое выпуклое множество А из рефлексивного банахова пространства Е (т.е. Ь(А) = Е*), то по теореме 1.13.2 мно- множество А -\- В замкнуто, а по лемме 1.13.2 множества А(р) непусты при всех р е Е*, р ф 0. Как следствие теорем об отделимости получим следующее пред- предложение. Предложение 1.13.1. Пусть А — выпуклое замкнутое подмно- подмножество банахова пространства Е и int b(A) ф 0. Тогда А= f| Я", A.13.2) ||p||* = l,pGintb(A) где Н~ = {хеЕ\ (р,х) < s(p, A)}. A.13.3) Доказательство. Обозначим правую часть в A.13.2) через А. Очевидно, что A D А и А есть выпуклое замкнутое множество. До- Допустим, А ф Л, т. е. существует такая точка xq Е Л, что жо ^ А. По теореме 1.9.3 об отделимости существует ро Е ^*, для которого справедливо неравенство s(pch ^) < (Ро5 жо)- В силу определения А это возможно лишь при ро ? К^)\ ш^ К^)- Рассмотрим /(р) = s(p, А) — (р, жо), р ? Е*. Это собственная вы- выпуклая функция, причем /(р) > 0 Vp E int Ь(А) и /(ро) < 0. Пусть Р\ Е int Ь(А). Тогда р\ = A - А)р0 + Api E int Ь(А) для всех А Е @,1], т-е. /(рл) > 0 VA Е @,1]. С другой стороны, так как /(р) выпук-
§1.13. Барьерный и рецессивный конусы 117 ла на Е*, то f(px) < A - А)/(р0) + А/(рх), т.е. f(px) < 0 при A G У Противоречие. П Замечание 1.13.3. Из доказательства следует, что в случае, когда Е = Мп, формулу A.13.2) можно усилить, заменив в ней hit b(A) на относительную внутренность ri b(A) (т. е. на внутренность в аф- аффинной оболочке множества А) и отказавшись в предложении 1.13.1 от условия, что hit b(A) непусто. Определение 1.13.2. Для выпуклого множества А С Е рецес- рецессивный конус Ь{А)~ С Е определяется по формуле Ъ(А)- = {хеЕ\(р,х) <0 Vpeb(A)}. Отметим, что рецессивный конус Ь(А)~ является полярой кону- конуса Ъ( А). Лемма 1.13.3. Для любого замкнутого выпуклого множест- множества А С Е и для любого a Е А справедливо равенство Ь(А)- = р| Х(А-а). A.13.4) А>0 Доказательство. Для доказательства формулы A.13.4) зафик- зафиксируем точку a G А. Пусть х G Ь(А)~. Допустим, что существует число А > 0 такое, что х ? Х(А — а). По теореме 1.9.3 об отделимости найдется функцио- функционал р G Е*, \\p\\* = 1, такой, что Отсюда р G Ь(А) и (р, х) > 0, что противоречит определению Ь(А). Пусть х G П А(Л — а). Тогда для любого р G Ь(А) получаем А>0 (р, х) < \(s(p,A) — (р, а)) для всех А > 0, откуда следует, что (р,х) < < 0 для всех р G Ь(А); следовательно, х G Ь(А)~. ? Лемма 1.13.4. Пусть А и М — непустые выпуклые замкнутые множества из Е, причем А = f] (M + х) при некотором X. Тогда справедливы формулы Ъ(М)- =М^М, A.13.5) Ъ(А)~ =Ь(М)~, A.13.6) Ь(А) = Ь(М), int Ь(А) = int Ь(М). A.13.7)
118 Гл. 1. Выпуклый анализ Доказательство. Докажем равенство A.13.5). Из леммы 1.13.3 следует, что Ь(М)~ С М - ж Уж G М, т.е. Ь(М)~ С М — М. Легко показать, что множество М — М есть выпуклый конус. Действи- Действительно, пусть У m Е М т + ж Е М, отсюда для любого натурально- натурального п т + пх Е М, откуда и следует, что пх Е М — М для любого натурального п, т.е. М — М — конус. Выпуклость есть следствие выпуклости М. Допустим, что найдется точка xq ? М — М такая, что xq (? b(M)~. Тогда по теореме об отделимости существует вектор ро ? ^*5 Ро 7^ 7^ 0, такой, что (ро,хо) > s(po,b(M)~). Это означает, что (ро,х) < < 0 Уж G Ь(М)~, т.е. ро ^ Ь(М). С другой стороны, это означает, что (ро,хо) > 0, и так как хо принадлежит конусу М — М, то ро ? G int(i?* \ Ь(М)). Противоречие доказывает A.13.5). Докажем равенство A.13.6). Из включения А С М + ж следует, что &(^4) D Ь(М), откуда в свою очередь следует включение Ь(А)~ С С Ь(М)~. Пусть ж G Ь(М)~; тогда из равенства A.13.5) получаем включение ж + М С М, т.е. ж + М + ^/СМ + з/ для каждого yGl, следовательно, справедливо Q (ж + М + у) С П (М + у), т.е. ж + + Л С Л, откуда в силу равенства A.13.5) получаем включение ж G еЦА)-. Левое равенство в A.13.7) следует из равенства A.13.6) как прямое следствие определения, правое из левого в силу свойств выпуклых множеств (см. теорему 1.2.1). ? Лемма 1.13.5. Пусть Е — банахово пространство, АсЕ — выпуклое замкнутое множество. Тогда справедливо равенство Ь(А)- = О+А. Доказательство. Пусть ж G Ь(А)~. Тогда по определению для любого р G Ь(А) имеем (р, ж) < 0. Выберем произвольные точку a G G А и число Л > 0. Для любого р G Ь(А) из неравенств (р, ж) < 0 и S(P,A) > (Р,а) получаем неравенство s(p, Л) > (р, а) + Л(р, ж) Vp e Ь(А). Отсюда следует, что а + Лж G Л, т.е. ж G О+Л. Обратно, пусть ж G О+А. Тогда для любых точки aGi и чис- числа Л > 0 выполнено включение а + Лж G Л, и для любого р G Ь(А) получаем (р,a + Лж) = (р,а) + Л(р,ж) < s(p, Л),
§1.13. Барьерный и рецессивный конусы 119 откуда следует, что (р, х) < 0. Поскольку последнее неравенство вер- верно для любого р е Ь(А), то х е Ь(А)~. ? Лемма 1.13.6. Пусть А, В и М — такие выпуклые замкнутые множества из рефлексивного банахова пространства Е, что hit b(M) ф 0 и А + В = М. Тогда для любого р Е hit b(M) справед- справедливо равенство опорных множеств А(р) + В(р) = М(р). Доказательство. В силу леммы 1.13.2, леммы 1.13.4 и свойст- свойства 2) из леммы 1.13.1 для любого р Е hit Ь{М) опорные множест- множества А(р), В(р), М{р) непусты. 1. Пусть выбраны точки a Е А(р) и Ъ Е В(р). Тогда а + Ъ Е М и справедливо равенство (р, а + 6) = s(p, Л) + s(p, В) = s(p, M), т.е. а + Ь е М(р), откуда следует А(р) + В(р) С М(р). 2. Пусть теперь z G М(р); тогда найдутся точки a G А и b ? В такие, что z — а-\-Ь. Допустим, что а ? А(р). Тогда s(p, М) = (р, z) = (p,a + b) < s(p, A) + s(p, В) = s(p, M); получили противоречие. Следовательно, справедливо включение А(р)+В(р) D М(р). ? Ранее (в упр. 1.2.9) мы отмечали, что сумма компакта и замкнуто- замкнутого множества замкнута. В общем случае сумма двух замкнутых (даже выпуклых) множеств не обязана быть замкнутой. Выделим некоторые случаи, когда сумма двух выпуклых замкнутых множеств замкнута. Мы рассмотрим вопрос сначала в!п,а затем в рефлексивном бана- банаховом пространстве Е. Для этого нам потребуются следующие лемма и теорема. Лемма 1.13.7. Пусть множество A CW1 выпукло и замкнуто. Пусть последовательность {a,k}'^L1 С А такова, что lim ||а^|| = к—>-оо = +оо. Тогда, если существует lim к = z, то z G О+А. к^оо \\a,k\\ Доказательство. Зафиксируем х G А и Л > 0. Покажем, что х + Xz е А. Отметим, что в силу lim ||а^|| = +оо, очевидно, следует к^ ак х Шп ^?- = lim JM\ IM = z. A.13.8) ^оо \\CLk — Х\\ к^оо аи X
120 Гл. 1. Выпуклый анализ Пусть число &о таково, что \/ к > ко выполнено неравенство \\а,к — -х\\ > А. Определим /j^ = ^пт м—• Очевидно, что /Jk ? @; 1), откуда в \\CLk - Х\\ силу выпуклости множества А получаем х + А тт^—^тт = /хЛя; + A - fik)ak € А. \\а.к -х\\ Определим Zk = 77-^—^тт — z. В силу A.13.8) lim Zk = 0. Поэтому ||afc — х\\ к^оо х + А -л гт = ж + Xz + А^ —>- х + Az при fc —>¦ оо, откуда и в силу замкнутости А получаем, что х + Xz G А. ? Теорема 1.13.1. Пусть даны выпуклое и замкнутое множест- множество А С W1 и линейный оператор Т: W1 —У W71 такие, что О+ЛП кегГ = {0}. A.13.9) Тогда множество ТА замкнуто в W71. Доказательство. Пусть последовательность точек {xk} С ТА такова, что lim Xk = х; выберем точки a^ G А такие, что Та^ = х^. к^ Если последовательность {а^} содержит сходящуюся подпосле- подпоследовательность, то в силу непрерывности Т получаем, что х Е ТА. Допустим (с целью получить противоречие), что последователь- последовательность {ctk} бесконечно большая, т.е. lim Ца^Ц = +оо. В силу компакт- компактности в Жп единичной сферы выделим из последовательности {а^} подпоследовательность (которую снова обозначим {а/.}), для которой последовательность а^/||а^|| сходится к некоторой точке z. Отметим, что ||z|| = 1. В лемме 1.13.7 показали, что z Е О+А. Поэтому lim Так как предел последовательности {ж^/||а^||}, очевидно, равен нулю, то Tz = 0, т.е. zG kerT, что противоречит условию A.13.9). ? Следствие 1.13.1. Пусть А и В из W1 — выпуклые замкнутые множества, не имеющие противоположных направлений в асимп- асимптотических конусах (т. е. Va G O+A, Mb G О+В, а ф О, Ь ф 0 сле- следует, что а + ЪфО). Тогда А + В = А + В. Доказательство. Определим линейный оператор Т: Mnxln —>¦ ->• W1 по формуле T(xi;x2) = х\ + ж2, где xi G Mn. Так как
§1.14- Представление выпуклых множеств и функций в Ж1 121 и 0+В не имеют противоположных асимптотических направлений, то Т(а; Ь) = а + ЬфО V (а; Ъ) е 0+{А х В) = 0+А х 0+В (последнее равенство — простое следствие определений). По теореме 1.13.1 мно- множество Т(А х В) = А + В замкнуто. ? Рассмотрим теперь случай, когда пространство Е является беско- бесконечномерным рефлексивным банаховым пространством. Теорема 1.13.2. Пусть А и В — замкнутые выпуклые мно- множества из рефлексивного банахова пространства Е, удовлет- удовлетворяющие условию О Е int(b(A) — Ь(В)). Тогда множество А + В также замкнуто. Доказательство. Пусть последовательность {ск} С А + В такова, что lim ск — с в Е. Тогда существуют последовательнос- к—уоо ти {dk} С А и {Ьк} С В такие, что Ск = a>k + bk для всех к. В си- силу условия леммы для любого р G Е*, р ф 0, существуют Л > О, Р\ G Ь(А) и р2 ? ЬE) такие, что р = A(pi — рг)- Поэтому = A(pi -Р2,ак) = \{риак) т.е. sup(p, а к) < +оо для любого р G Е*. к По теореме 1.1.4 последовательность точек {ак} ограничена. Поэтому она относительно слабо компактна в Е, т. е. существует подпоследовательность {акт}, которая слабо сходится к а, при этом подпоследовательность Ькт С В слабо сходится к с — а. Так как А и В выпуклы и замкнуты, то они слабо замкнуты, т.е. a G А, с — а ? В, поэтому cGi + S. ? Упражнение 1.13.1. Пусть А — выпуклое замкнутое множест- множество, а К — выпуклый конус. Доказать, что Ь(А + К) = Ь(А) П К°. § 1.14. Представление выпуклых множеств и функций в Ж В теореме 1.2.2 мы доказали, что выпуклая оболочка множества состоит из всевозможных выпуклых комбинаций элементов этого мно- множества. Оказывается, в конечномерном пространстве W1 этот резуль- результат может быть существенно усилен. Теорема 1.14.1 (К. Каратеодори). Пусть А С Жп. Тогда 71+1 71+1 соА = - °' ^2 Xi = -1' Xi г=1 г=1
122 Гл. 1. Выпуклый анализ Доказательство. Достаточно показать, что если х Е со Л г+1 представлен в виде выпуклой комбинации х — ^2 \{Х{ совокупнос- совокупности г + 1 векторов х\ из Л, где г > п, то х может также быть представ- представлен в виде выпуклой комбинации некоторых г векторов из А. (Таким образом осуществится спуск до г = п.) Без ограничения общности можем считать, что при этом все А^ > > 0, 1 < г < г + 1. Так как г > п, то векторы (ж;, 1) е Mn+1, 1 < г < < г + 1, линейно зависимы, следовательно, существуют числа {с^}[=1 •> г+1 г+1 не все равные нулю, такие, что ^с^(жг,1)=0, т.е. J^ сцх^ — О г+1 г=1 г=1 И Е«г=0. г=1 Выберем номер т, 1 < ш < г + 1, так, чтобы для всех г от 1 до г + 1 выполнялось неравенство . ПуСТЬ 7г = Af — Am. Тогда очевидно, что 7г ^ 05 S 7i — S ^« = 1 и ж = r+l = J^ 7i^i, причем 7m = 0. Следовательно, г + 1 можно заменить г=1 на г. ? Отметим, что число п + 1 в теореме Каратеодори в общем случае нельзя заменить меньшим, что показывает пример множества Л, являющегося вершинами правильного симплекса в Жп. Однако в ряде случаев число п + 1 может быть уменьшено. Ниже мы увидим это на примере конусов. Другой пример дается в упр. 1.14.1. Следствие 1.14.1. Выпуклая оболочка компакта из Жп есть компакт. Доказательство. Пусть А С W1 — компакт. Определим мно- множество Г n+1 1 Sn = ia= (ai,...,an+i) G Mn+1 щ>0, ^щ = 1, 1 <i <n + l . ^ i=i * A.14.1) Очевидно, что множество Sn является компактом (точнее, симп- симплексом) из Mn+1. Рассмотрим отображение </?: Mn+1 хГх ... Жп^ ->¦ —У Мп, определяемое по формуле п+1 Раз п+1 у?(а,жь...,я;п+1) = ^«iXi. A.14.2) г=1
§1.14- Представление выпуклых множеств и функций в Ж1 123 Отображение tp непрерывно, Sn х Л х ... х Л — компакт, следова- п+1 раз тельно, и образ (p(Sn х Л х ... х Л) — компакт. Но по теореме Ка- п+1 раз ратеодори последнее множество есть со Л. ? Теорема 1.14.2. Пусть компакты А{, г = 1,... , п, из линейного топологического пространства Е таковы, что соЛ^, г = 1,...,п, также компакты. Тогда выпуклая оболочка объединения выпуклых компактов со А\ компактна и справедлива формула со ( I J со аЛ = со f I J лЛ A.14.3) Доказательство. Рассмотрим симплекс 5n_i из Мп, опреде- определенный формулой A.14.1), и отображение у?: W1 x co^i x ... ... х шЛп —>¦ ??, определяемое формулой bi,.. .,anj = 2_^\iai, г=1 где А = (АЬ...,АП) G Мп. Отображение у? является непрерывным, и поэтому образом ком- компакта К — Sn-i х coAi x ... х со Лп является компакт ip(K), причем в силу определения ц>(К) С со ( (J со ЛИ. Множество ц>(К) является 4=1 ^ выпуклым множеством. В самом деле, допустим ж, 2/ Е Ц>(К) и /i E Е @,1). Тогда найдутся А, г/ Е 5п-ъ жь 2/г ^ со Л^ такие, что ж = п п = J^ А^Жг, 2/ = 5^ ^г2/г- Рассмотрим z = /^ж + A — fi)y. Тогда г=1 г=1 п г=1 т.е. z = г=1 где «i = /iAi + A - /i)z/i, т.е. a = (аь ... ,an) E Sn-i и ^ G соЛ^. Это означает, что z G <p(K). П П / П \ Так как |J Л^ С (J со Л; С у?(-К"), то со f |J АЛ С со у?(-К") = г=1 г=1 ^г=1 ^ = ц>(К). В свою очередь Л^ С (J Л^- для всех г, т.е. (J шЛ^ С 3=1 г=1
124 Гл. 1. Выпуклый анализ Сш (J АЛ. В итоге отсюда следует включение ( п \ ( п \ ( \ со ( IJ со Ai) С со ( IJ Ai) С <р(К) С со ( У со Ai), откуда следует равенство A.14.3) и требуемое утверждение. ? Следствие 1.14.2. Выпуклая оболочка объединения конечного числа выпуклых компактов из W1 компактна. Приведем следствие теоремы Каратеодори для функций из Мп, уточняющее предложение 1.6.3, п. 1). Теорема 1.14.3. Пусть /: Жп —>Ж — собственная функция. Тогда ее выпуклая оболочка может быть вычислена по формуле 71+1 71+1 71+1 со /(ж) = inf I ^2 71+1 71+1 ч n, A; > 0, ^ A» = 1, ^2 XiXi = x \' i=i i=i ' В частности, если функция f пн.сн., a dom/ есть ограниченное множество, то функция со/ также будет пн. сн., т. е. справедливо равенство /** = со/. Доказательство. По теореме Каратеодори для множества epi/cMn+1 и из равенства со epi / = epi со / в любой точке хе G со dom / имеем х = со f(x) n+2 г=1 = = inf{ n+2 11 G R| (x,fi) G i), (xi,Vi) G ep n+2 ¦v ¦> T* • // — » A • / i=l ( n+2 =inf IE ^ i=l со epi/} = i/, Ai>0, H, Pi > f(x x = inf \ a e n+2 ЕЛ^ = i), Ai > n+2 = ^2^x i=l (x,/i) l| =inf n+2 i, Ai > 0, = ifJL G R ¦>}- n+2 EAi = г=1 Зафиксируем точки Х{ G dom/, 1<г<п + 2, и ж?Мп так, чтобы ж G co{xi,... ,жп+2}, и рассмотрим задачу: минимизировать функ- п+2 п+2 цию y?(Ai,..., An+2) = X) ^if(xi) при условии Ai > 0, J] Лг = 1, n+2 *=! *=1 J^ XiXi = ж. Решение задачи существует, так как минимизируемая i=i функция линейна, а множество ограничений компактно. Покажем, что найдется такое решение задачи, у которого А^о = 0 для некоторого го-
§1.14- Представление выпуклых множеств и функций в Ж1 125 Допустим, что (Ai,..., Ап+2) — решение, у которого все А^ стро- строго больше нуля. По теореме Каратеодори для множества co{xi,... ... ,жп+2} С W1 можно выбрать числа а\ > 0, ..., ап+2 > 0, среди п+2 которых не более п + 1 отличны от нуля, такие, что ^2 ai = 1 п+2 п+2 п+2 i=1 и ^2 aixi — х- Если ^2 aif(xi) < ^2 ^if(xi)i T0 доказательство г=1 г=1 г=1 закончено. Предположим, что последнее неравенство неверно. Введем ft = п+2 п+2 п+2 = Ai - ai. Имеем ^ ft = 0 и J^ /3iXi = 0, J^ Pif(xi) < 0. Выберем г=1 г=1 г=1 столь малое положительное А, чтобы выполнялось А« + Aft > 0 для п+2 п+2 всех г. Тогда J^ (А^ + Aft) = 1, ^2 {^г + ^Pi)xi = ж и г=1 г=1 п+2 п+2 г=1 г=1 Но это противоречит тому, что набор чисел (Ai,..., Ап+2) есть реше- решение задачи на минимум. Докажем вторую часть теоремы. Если х G dom/**, то из ра- равенства /** =со/ следует, что найдутся {(а1т,..., ап+1,т)}™=1 и п+1 точки {(#im,... ,жп+1?ш)}^=1 такие, что aim > 0, ^2 агт — 1 Для п+1 п+1 г~1 ВСех Ш, Xim e dom/, J] «ira^ira ->• х И ?) aimf(xim) ~> f**(x) г=1 г=1 при ?тг —>¦ оо (два последних предела следуют из замкнутости epi/**). Так как последовательности {aim} и {xim} С dom/ ограничены по условию на dom/, то можно считать, что aim —>¦ с^, ж^т —>- ж« п+1 п+1 при т —У оо, 1 < г < п + 1. Ясно, что щ > 0, ^2 щ = 1, ^2 агхг — — ж< г=1 г=1 Если f(xim) —>¦ +00 при ?тг —>- оо для некоторого номера г, то так как / ограничена снизу, с^т —У 0 и liminf ctimf(xim) > 0 для это- го г. Полагаем, что для этого г справедливо равенство aif{xi) = 0. Если же для некоторого номера ъ имеем liminf f(xim) < +оо, т—>-схэ то из полунепрерывности снизу функции / получаем, что f(xi) < < liminf f(xim) < +00. Поэтому га—>-оо п+1 f**(x)=cof(x)<cof(x)< г=1
126 Гл. 1. Выпуклый анализ П+1 П+1 S^\\mmiaimf(xim) < liminf У] ^—' га—уоо га—)>оо ^—' г=1 г=1 т.е. /** =со/. ? Лемма 1.14.1. Пусть icin — конус. Тогда справедлива фор- формула со А = A, Xi > О, Y^ Xi = 1 >. г=1 г=1 Доказательство. Пусть х G со Л, х ф 0. По теореме Каратео- п+1 п+1 ДОрИ Ж = X) aiPi> Pi ^ A, OLi > 0, J] ^ = 1. ЕСЛИ ОДНО ИЗ Щ = 0, г=1 г=1 то все доказано. Считаем, что все щ > 0. п+1 Найдутся числа {А}^1, не все равные нулю, такие, что J^ /З^г — г=1 = 0. Выберем номер ттг, 1 < ттг < п + 1, из условия |/^|/|с^| < \(Зт\/\ат для всех г, 1 < г < п + 1. Перенумеровав точки р^, можно считать, что ?тг = п + 1. Пусть ji = ai — an+i/3i//3n+i. Тогда очевидно, что ji > 0, х = п+1 п — Z) ТгРг и 7n+i = 0. Пусть 7 = Z) 7г5 очевидно, что 7 > 0 и х — г=1 г=1 п п = S (ТРг), S — = 1. Так как Л — конус, то, выбирая х\ = 7Рг ^ г=1 7 г=1 7 G Л и Af = 7г/т? получим требуемое утверждение. ? Следствие 1.14.3. Пусть /: W1 —> Ж — положительно одно- однородная функция (т. е. epi/ — конус). Тогда |^Мп, Х> = Л. A.14.4) г=1 г=1 ^ Доказательство. Повторяя доказательство теоремы 1.14.3, с учетом леммы 1.14.1 получаем, что со/(р) = i г=1 > 0, ? А4 = 1, ^Ъъ =р г=1 г=1 Пользуясь положительной однородностью функции /, введем перемен- переменные pi = XiXi и перепишем предыдущую формулу в виде со - ~, I г=1 г=1 Это и есть утверждение леммы. ?
§1.14- Представление выпуклых множеств и функций в Ж1 127 Из теоремы 1.14.3 и следствия 1.14.3 видно, что операция вычис- вычисления выпуклой оболочки функции очень сложна. Она имеет характер глобального экстремума (точки Х{ или pi надо выбирать из всего эффективного множества /) и, кроме того, точная нижняя грань в операции взятия выпуклой оболочки может не достигаться. (Рас- (Рассмотрите пример нахождения выпуклой оболочки функции f(x) = = при х Е М, в котором очевидно, что со/ = 0.) В следующей X —г" X теореме мы укажем некоторые достаточные условия, при которых точная нижняя грань при взятии выпуклой оболочки положительно однородной функции достигается. Теорема 1.14.4 (Е.С. Половинкин [71]). Пусть /: W1 -^ 1 — собственная пн. сн. положительно однородная функция. Пусть вы- выполнено условие Слейтера для функции /, т. е. существуют точ- точка х Е Мп и число г > 0 такие, что выполнено неравенство (p,x)+r\\p\\<f(p) VpGE". A.14.5) Тогда точную нижнюю грань в операции нахождения выпуклой оболочки функции f (см. A.14.4)) можно заменить на минимум. Доказательство. Зафиксируем точку рЕ 1П. Пусть Выбра- Выбрать ны точки {pim}i=i из пространства W1 такие, что ^ Pirn —Р Для всех т, и пусть щш — минимизирующая последовательность для нахождении точной нижней грани при вычислении выпуклой обо- оболочки функции / в точке р по формуле A.14.4). Из условия Слейте- Слейтера A.14.5) получаем, что п п (р,ж) +r^||pim|| < ^2f(pim) ~> СО/(р) При Ш ^ 00, г=1 г=1 откуда следует, что при каждом г G 1,п последовательность то- точек {pim} ограничена. Без ограничения общности считаем, что эта последовательность pim сходится к некоторой точке pi при т —У оо. Используя пн. сн. функции /, имеем п п со/(р) = lim y^fiPim) > liminf V/(pim) > > Vliminf f(Pim) > J2f(pi) > co/(p), т.е. co/(p)= E/(Pi). П
128 Гл. 1. Выпуклый анализ Упражнение 1.14.1. Пусть множество Л С Доказать, что справедливо следующее выражение для со Л: с п п л со Л = <^ 2^А;Ж; Xi > 0, 2^Ai = 1, хге А, 1<г<п\. ^ г=1 г=1 ' Указание. Зафиксируем точку х Е со Л. По теореме Каратеодо- п+1 ри существуют точки {жг}?=а С Л такие, что х = J^ А^. В силу линейной связности множества Л соединим точки х\ и жп+1 непре- непрерывной кривой {x(t) 1? E [0,1]} С Л, где х@) = #i, жA) = хп+\. До- Докажите, что будет выполнено включение х Е 9 со < (J {ж^} U {#(?)} > для некоторого ?. i=2 Упражнение 1.14.2. Пусть /: Жп —>Ж — липшицевая функ- функция с константой L > 0, а функция со/ собственная. Доказать, что функция со/ также является липшицевой с той же константой L. Упражнение 1.14.3. Пусть М С Жп — строго выпуклый ком- компакт (т.е. граница М не содержит отрезков) и компакт Л С М таков, что М — А = {0} (напомним, что последнее означает, что нельзя сдвинуть компакт Л на некоторый вектор а ф 0 так, чтобы этот сдвиг А + а также содержался в М). Доказать, что найдутся точ- к ки {aJfLi С Л, 2 < А; < га + 1, такие, что М — \J {ai} = {0}. Вы- Выяснить, будет ли это утверждение верно в случае, когда выпуклый компакт не является строго выпуклым (например, многогранник). Упражнение 1.14.4. Пусть ЛсМп, ж Е hit со Л. Доказать, что к найдутся точки {щ}^=1 С Л, где к < 2п, такие, что х Е hit со (J {а^}. г=1 § 1.15. Производная по направлениям Напомним некоторые определения, связанные с одним из клас- классических понятий производной функции, определенной на банаховом пространстве Е. Исследуем свойства таких производных в случае, когда функция является выпуклой. В результате обобщения класса выпуклых функций придем к изучению свойств производных по на- направлениям для выпуклых функций. Обозначим, как обычно, через Вг(хо) = {х Е Е | \\х — хо\\ < г} замкнутый шар радиуса г > 0 с центром в точке xq. Рассмотрим одно из самых слабых понятий классической диффе- ренцируемости функций.
§1.15. Производная по направлениям 129 Определение 1.15.1. Функция /: Вг(хо) —> Ж называется диф- дифференцируемой по Гато в точке xq Е Е, если существует непрерыв- непрерывный линейный функционал р Е Е* такой, что справедливо равенство f(x0 + Xy)=f(x0) + X(p,y)+Oy(X) VAe[-r,r], уеВ^О), где функции Оу(Х) таковы, что lim(oJ/(A)/A) =0 для любого у 6 Л—^0 Е i?i@). Линейный функционал р Е i?* называется производной Гато функции / в точке хо и обозначается через f'(xo). Теорема 1.15.1. Если выпуклая функция /: Е—>Ж дифферен- дифференцируема по Гато в некоторой точке х Е dom/, то справедливо неравенство f(z)-f(x)>{f'(x),z-x) VzeE. A.15.1) Если же собственная функция /: Е —> Ж дифференцируема по Гато на выпуклом множестве dom/, то она выпукла тогда и только тогда, когда неравенство A.15.1) выполняется при всех х Е dom/. Доказательство. 1. Пусть функция / выпукла и дифференци- дифференцируемая по Гато в точке х Е dom/. Запишем неравенство выпуклос- выпуклости A.6.1) функции / в виде f(x + X(z-x))-f(x)<X(f(z)-f(x)) VA 6@,1], Vz?E. Учитывая то, что функция / дифференцируема по Гато, и заменяя левую часть неравенства в силу определения 1.15.1, получим {f(x), X(z - х)) + o{z_x)(X) < X(f(z) - f(x)). Деля обе части неравенства на Л > 0 и устремляя Л —У 0, получаем неравенство A.15.1) 2. Пусть теперь функция / дифференцируема по Гато на непустом выпуклом множестве dom/ и выполнено неравенство A.15.1) при всех z Е Е. Покажем, что функция / выпукла. Возьмем произвольные точки ж, z E dom/ и число Л Е [0,1]. Определим точку х\ = Xz + + A — Л)ж. По условию х\ Е dom/. Из неравенства A.15.1) получаем неравенства f(z) - f(xx) > {f(xx), z - xx), f{x) - f(xx) > (f'(xx), x - xx). Умножая первое из этих неравенств на Л, а второе на 1 — Л, а затем складывая, получаем Xf(z) + A - X)f(x) - f(xx) > (f'(xx), xx - xx) = 0, что равносильно неравенству A.6.1), т.е. функция / выпукла. ? 9 Е.С. Половинкин, М.В. Балашов
130 Гл. 1. Выпуклый анализ Рассмотрим теперь общий случай выпуклой функции, не обя- обязательно дифференцируемой по Гато. Прежде всего покажем, что условия выпуклости функции достаточно для существования более слабой производной — производной по направлениям. Определение 1.15.2. Пусть даны точки ж, у Е Е и функция /: [ж, х + у] —у Ж. Производной функции / в точке х по направлению у называется предел (если он существует) вида f(x-y)= lim /(* + *»)-/(*). А-Ц-0 Л Из этого определения, в частности, следует, что ff(x;0) = 0, а также следующее Предложение 1.15.1. Пусть функция /: Вг(хо) —> Ж диффе- дифференцируема по Гато в точке хо (причем f'(xo) — ее производ- производная). Тогда для любого у Е Е существует ее производная f'(xo]y) по направлениям, которая линейна по у, и справедливо равенство Теорема 1.15.2. Пусть функция /: Е—>Ж выпукла и точ- точка хо G dom/. Тогда существует (конечная или бесконечная) произ- производная f'(xo] •) по направлениям, которая является положительно однородной и выпуклой на Е, причем справедливо равенство f(o;y) ^ A.15.3) Л>0 Л Доказательство. Если хо + Ху ? dom/ при всех Л > 0, т.е. + Ху) = +оо, то и f'(xo;y) = +оо. Если хо + Ху G dom/ при всех Л G @, Ао], то для доказательства формулы A.15.3) достаточно показать, что функция g(X) = (f(xo + + А?/) — f(xo))/X не убывает по A G @, Ао]. Пусть Ai и А2 таковы, что 0 < Ai < А2 < Ао. Так как хо + Х±у = — (хо + А22/) Н т #о, т0 в силУ выпук- Л2 Л2 лости функции / имеем f(xo + А12/) - f(xo) < < ± (/(хо + Х2у) - /(хо)) + ^^ (/(хо) - /(хо)), Л2 Л2 откуда g(Xi) < д(Х2). Таким образом, предел в определении производ- производной по направлению можно заменить на нижнюю грань.
§1.15. Производная по направлениям 131 Покажем положительную однородность функции f'(xo; •). Зафик- Зафиксируем число а > 0. Тогда f(xo;ay)= lim Л r f(xo+a\y) — f(xo) r f(xo+[3y) — f(xo) ?U , = lim а — ^———-=а lim — ^———- — ост (хо:у). Выпуклость функции f'(xo; •) получаем из выпуклости функции / следующим образом. Пусть a G @,1). Тогда (l-a)y2)= lim + Л < Ит - /(so)) + A - а)(/(я?о + Лу2) - = ~ л^+о Л = af'(xo;yi) + A - а)/'(хо;у2). а Следствие 1.15.1. Пусть f: Е ^ Ж — выпуклая функция, непрерывная в точке xq. Тогда функция ff(xo; •) является непре- непрерывной. Доказательство. Выберем согласно теореме 1.7.1 число rj > > 0 так, чтобы выполнялось включение ВГ](хо) С intdom/ и функ- функция / удовлетворяла на шаре Bv(xo) условию Липшица с некоторой константой L > 0. Тогда в силу равенства A.15.3) для любых i/ G 5^@), A G @,1) В свою очередь, так как 0 = /'(жо; 0) < /Чжо5 у) + /Чжо5 — у), то /Ч*о;у) > -/'(*о;-у) > - В итоге |/'(жо;2/)| < Итак, если жо G intdom/, то ff(xo;y) конечна и непрерывна для МуеЕ. Если жо + A^/^dom/ VA > 0, то f'(xo;y) = +оо. Следствие 1.15.2. Если выпуклая функция /: Е —>-М такова, что [хо - еу, х0 + еу] С dom/ npn некотором е > 0, то /'(хо;у) есть конечная величина. Доказательство. В силу формулы A.15.3) имеем f'(xo;y) > -f'(xo; -у) > -/(ж° " ^ "/Ы > -оо. п 9*
132 Гл. 1. Выпуклый анализ Пример 1.15.1. Рассмотрим в М3 множество С = со (Ли В), где А = {(жьж2,ж3) \х\ + (х2 - IJ < 1, х3 > 0} и Б = {(жьж2,ж3) | rci = = 1, Х2 = 0, жз > 1}. Определим функцию /: М2(ж1,Ж2) —>¦ М1(жз) че- через ее над график: epi/ = С. Производная по направлению у = B/1,2/2) функции / в точке 0 = @,0) принимает вид {0, у2 > 0 ИЛИ 2/1=2/2= 0, 2/1, 2/1 > 0, 2/2 = 0, +оо в других случаях. Таким образом, получили, что функция /'@; у) не является пн. сн. в точках вида у = B/1, 0), yi > 0. Установим связь производной по направлениям от опорной функции множества с опорной функцией опорного множества. Теорема 1.15.3. Пусть А — замкнутое выпуклое множество из рефлексивного банахова пространства Е, причем int b(A) ^ 0. Пусть выбраны функционал ро G hit b(A) и А(ро) = {х G А \ (ро,х) = = s(po,A)} — опорное множество. Обозначим через g(q) = s(q,A) опорную функцию множества А. Тогда справедлива формула s(q,A(po))=g'(po;q) Vq e E*. A.15.4) Доказательство. При выполнении условий теоремы в силу леммы 1.13.2 множество А(ро) есть непустое ограниченное выпук- выпуклое и замкнутое множество. Вычислим производную по направлени- направлениям д' (ро; я) • В силу положительной однородности выпуклой функции д и теоремы 1.15.2 получаем (Л > 0) ^ Vg G ЕГ. A.15.5) Так как функция gf(po', •) по теореме 1.15.2 и следствию 1.15.1 яв- является выпуклой непрерывной положительно однородной функцией, то по следствию 1.11.2 существует непустое выпуклое замкнутое множество В С Е такое, что его опорная функция s(q,B) = g'(po]q) MqeE*. Из неравенства A.15.5) и упр. 1.11.9 получаем, что В С А. Для любой точки х G А(ро), любого q G Е* и Л > 0 получаем s(po,A) + \(x,q) = (x,po + \q) < s(po + \q,A), т.е. , N s(po + \q,A)-s(po,A)
§1.15. Производная по направлениям 133 откуда при Л —у +0 получаем, что (x,q) < g'(po;q) Vq G E*, т.е. Л(ро) С В. В свою очередь в силу положительной однородности функ- функции д' (ро; *) получаем 9'(ро;ро) = inf ^° + Л^)-^°) = ,Ы, Л>0 Л д'Ы-Ро) = mf g(po"Ap.o)"g(po) = -gfpo), А>0 Л откуда следует, что В С ЯРо = {х е Е \ (ро,х) = s(p0, А)}, т. е. В = Геометрический смысл производной по направлениям выпуклой функции показан в следующей теореме, в которой установлена связь надграфика производной с касательным конусом (см. § 1.4) надграфи- ка функции. Теорема 1.15.4. Пусть /: Е^Ж — собственная выпуклая пн. сн. функция. Тогда для любой точки жо G dom/ справедливо ра- равенство TH(epi/; (хо,1(хо)))=ф1'(хо; •). A.15.6) Доказательство. Пусть (у, a) Е epif'(xo; •). Это значит, что справедливо неравенство а > /'(жо; у). Так как по определению 1.15.2 производной по направлениям справедливо равенство /(ж0 + Ху) = /(а*) + Xf'(xo;y) + о(Х) VА е (О, Ао) (где функция о(Х) такова, что lim —^ = 0), то из него следует 4 А-Ц-0 Л 7 включение (жо + \у, /(жо) + Ха + о(А)) G epi/ V A G @, Ао), которое означает, что (у,а) е \(epif-(xoj(xo))- (о, ^-) VA G @,А0), Л \ А / что и означает справедливость включения (у, a) G TH(epi /; (жо, /(жо))). Докажем обратное включение. В силу равенства конусов TH(epi/; (жо, /(жо))) = cone (epi/ — (жо, /(жо))), доказанного в предложе- предложении 1.4.6, достаточно рассмотреть случай, когда (у, a) G cone (epi/ — — (жо,/(жо))). Это включение означает, что существует число Ао > > 0 такое, что справедливо включение \0(у,а) G (epi/ - (жо,/(жо))).
134 Гл. 1. Выпуклый анализ Отсюда следует, что (хо + Ао?/,/(жо) + Аоа) Е epi/. В силу опре- определения множества epi / из последнего включения следует неравенст- неравенство f(xo + \оу) < f(xo) + Xoa. Из этого неравенства и в силу выпук- выпуклости функции / получаем включение [жо, жо + Хоу] С dom /, а также в силу теоремы 1.15.2 получаем выражение f(Xo. у) = mf /(^о + Аг/)-/Ы /(хо + ЛоУ)-/ы ^ л>о А Ао т.е. (у,а) е epif'(x0; •)• п Упражнение 1.15.1. Привести в М2 пример функции разрывной в точке, но дифференцируемой по Гато в этой точке. Упражнение 1.15.2. Пусть А — выпуклый компакт из Жп, причем О Е int А, пусть jj,{x,A) — его функция Минковского и пусть fjt,'(xo,A)(y) — ее производная в точке хо по направлению у. Доказать, что для любой точки хо Е дА справедливо равенство - х0) <0}. § 1.16. Су б дифференциал выпуклой функции Опираясь на результат теоремы 1.15.1, введем следующее обобще- обобщение понятия производной для выпуклых функций. Определение 1.16.1. Линейный функционал р G Е* называ- называется субградиентом собственной выпуклой функции /: Е —у Ж в точке хо, если справедливо неравенство f(z) — f(xo) > (р, z — хо) \/ze E. Определение 1.16.1. Субдифференциалом собственной выпук- выпуклой функции /: Е —у Ж в точке xq называется множество (обозна- (обозначаемое df(xo)), состоящее из всех субградиентов функции / в точ- точке хо, т.е. = {р е е* | f(z) - /Ы > <р, z - х0) VzeE}. A.16.1) Замечание 1.16.1. Геометрический смысл субградиента pG G df(xo) следующий: аффинная функция h(z) = /(#о) + (р? z ~ хо) за- задает гиперплоскость, опорную ко множеству epi/ в точке (xo,f(xo)) (рис. 10). Например, в случае, когда выполнено условие int dom/ ф Ф 0, выполнено условие int epi/ ф 0. По теореме 1.9.3 любую точ- КУ (xjI(x))j гДе х ? int dom/, можно отделить от epi/ невертикаль- невертикальной гиперплоскостью, откуда получаем, что df(x) ф 0 при всех х G G int dom/. Если х ? dom/, т.е. f(x) = +оо, то для любого р G Е*
§1.16. Су б дифференциал выпуклой функции 135 У Рис. 10 при z Е dom/ неравенство в определении 1.16.1 не выполняется, и поэтому df (х) = 0. Пример 1.16.1. Пусть f{x) = ||ж|| в Е. Найдем 9/@). Субгра- Субградиентное неравенство A.16.1) принимает вид ||^|| > (р, z), откуда df(O) = {PeE*\ (P,z) < \\z\\ Vz e ад)}, т.е. 9/@) есть единичный шар 5^@) из сопряженного пространст- пространства Е*. Пример 1.16.2. Пусть g: E —у Ж — положительно однородная выпуклая непрерывная функция. Аналогично примеру 1.16.1 можно найти ее субдифференциал в нуле: = {p?E*\(p,z)<g(z) VzGE}. Пусть х G i?\{0}. Тогда р G дд(х), если g(z)-g(x) > (p,z-x) для любого z G Е. Полагая z = 0, а затем z = 2ж, получаем, что д(х) = (р, ж). Далее, для любого у ? Е, полагая z — х -\- Ху, Л > 0, получаем, что д(х + Ху) — д(х) > (р, Ху) или ^(Л-1^ + у) - giX^x) > (p, у). При Л —у +оо получаем, что д(з/) > (р,у), т.е. р G дд(О). Обратно, пусть р G 00@) и #(ж) = (р,ж). Тогда g(z) - д(х) > (р, z - х) V z e G Е, т. е. р G дд(х). В итоге для любого х € Е справедливо равенство дд(х) = дд(О), (р,х) = A.16.2)
136 Гл. 1. Выпуклый анализ В частности, в примере 1.16.1 для ж/0 получаем равенство д\\х\\Е = {Р&Е*\ \\р\\Е. = 1, (р,х) = \\х\\Е}. Пример 1.16.3. Пусть f(x) = S(x,A) — индикаторная функция выпуклого множества А. Запишем субградиентное неравенство A.16.1): S(z, А) > 5(х, А) + (р, z- х). Если х Е А, то последнее неравенство равносильно (р, z — х) < О \/ z Е А, откуда df(x) = {р G Е* | (p,z - х) < О Mz G А} = {р G Е* | (р,х) = s(p, A)}, т.е. это нормальный конус N(A,x) (см. определение 1.12.2), состоя- состоящий из всех опорных функционалов ко множеству А в точке х. Если х ? А, то f(x) = +оо и df(x) = 0. Отметим, что если А = L — подпространство в Е, то df(x) = = {р е Е* | (р, z) = 0 Vz G L} = L^ — аннулятор L. Рассмотрим простейшую задачу на экстремум функции вида тш{/(ж)| х еЕ}. A.16.3) Теорема 1.16.1 (аналог теоремы Ферма). Пусть f: Е —>¦ М — собственная выпуклая функция. Для того чтобы точка хо G Е была минимумом в задаче A.16.3), необходимо и достаточно, чтобы О G е df(x0). Доказательство. Точка хо G Е является минимумом тогда и только тогда, когда f(x) — f(xo) > 0 = @, х — хо) для всех жЕ^, что равносильно включению О G df(xo). ? Лемма 1.16.1. Пусть функция /: Е—>Ж выпукла и конечна в точке хо G Е. Обозначим g(x) = ff(xo;x). Тогда справедливо ра- равенство df(x0) = dg(O). Доказательство. Пусть р G df(xo). Тогда для любых z G Е и Л > 0 имеем (p,z) = X~1(p,\z) < Л~1(/(ж0 + Xz) - /(ж0)). Перехо- Переходя к пределу при Л —у 0, получаем, что {p,z) < f'(xo;z), т.е. pG G dg(O). Обратно, если р G <9g@), то в силу A.15.3) при Л = 1 получаем (р, z) < f'(x0; z) < f(x0 + z) - f(x0), т.е. pedf(x0). ? Рассмотрим, как еще связан субдифференциал выпуклой функции в точке с производной по направлению в этой же точке.
§1.16. Су б дифференциал выпуклой функции 137 Лемма 1.16.2. Собственная выпуклая функция f: Е —У Ж имеет в точке xq Е Е непустой субдифференциал тогда и только тогда, когда ее производная по направлению /'(жсь •) есть собственная пн. сн. в нуле функция. Если субдифференциал непуст, то он является выпуклым и замкнутым множеством. Доказательство. Пусть df(x0) ф 0. Зафиксируем произволь- произвольный элемент р Е df(xo). Тогда для любого у Е Е в силу определения субградиента и теоремы 1.15.2 имеет место неравенство ff(xo;y) > > (р,у). Переходя в этом неравенстве к нижнему пределу при у —У О, получаем, что liminf f'(xo; у) > 0 = /'(жо;0), т.е. имеет место пн. сн. функции f'(xo] •) в нуле. Если функция /'(жсь у) пн. сн. в точке у = 0, то это условие может быть записано так: Ve>0 34 > 0 VyeBSt(O), f'(xo;y)>-e. Зафиксируем е > 0 и соответствующее 5 = 5? > 0. Из положительной однородности функции ff(xo; •) имеем /'(жо; У/8) > —е/5 для всех у Е Е дВ$@), откуда получаем, что /Чжо; У) ^ ~т 112/11 ДЛЯ всех у ? Е. От- _ о сюда следует, что замыкание /'(жо; 2/) есть собственная положительно однородная выпуклая функция, т. е. по следствию 1.11.2 это есть опор- опорная функция непустого множества, каким, очевидно, является df(xo). Покажем выпуклость df(xo). Пусть pi, р2 ? df(xo), т.е. f(z) > f(x0) + (р*, 2г-я?0> V;? Е Е, i = 1,2. Пусть Л Е @,1). Умножая неравенство с г = 1 на Л, а неравенство с г = 2 на 1 — Л и складывая их, получаем () () ( ( ) ^ - жо> Vz E Е, т.е. Api + A — А)р2 G df(xo) VA Е @,1), что и означает выпук- выпуклость df(xo). Покажем замкнутость df(xo). Пусть pk E df(xo) такие, что lim pk = Ро (сходимость по норме пространства Е*). Переходя в не- кеоо равенстве f(z) > /Ы + {Pk,z - х0) VzeE к пределу по к —У оо, получаем /(*) > /(^о) + <ро, ^ - я?о> Vz E Е, т.е. ро е df(x0). ?
138 Гл. 1. Выпуклый анализ Следствие 1.16.1. Из доказательства лемм 1.16.1 и 1.16.2 сле- следует, что линейный функционал р тогда и только тогда является субградиентом функции / в точке хо, когда неравенство (р,у) < < ff(xo;y) выполнено для всех у Е Е. Таким образом, в силу того, что функция f1'(xo; •) является выпуклой и положительно однород- однородной, ее замыкание f'(xo; •) совпадает в силу леммы 1.11.3 с опорной функцией множества df(xo). Итак, получили равенство J(xo;y) = s(y,df(xo)). A.16.4) Отметим, что утверждения следствия 1.16.1 и леммы 1.16.2 не могут быть усилены. Теорема 1.16.2. Пусть /: Е —>¦ Ж выпукла и непрерывна в точ- точке xo Е Е. Тогда df(xo) есть непустое замкнутое выпуклое ограни- ограниченное множество. Доказательство. В силу леммы 1.16.2 достаточно доказать ограниченность субдифференциала. В силу следствия 1.15.1 из не- непрерывности / в точке хо следует непрерывность /'(жо; •)? чт0 в силу следствия 1.16.1 влечет непустоту множества df(xo) и равенст- равенство f'(xo;y) = f'(xo;y) = s(y,df(xo)). В силу следствия 1.15.1 получа- получаем, что s(y,df(x0)) = f(xo;y) < L\\y\\ = s(y,Bl@)), т.е. df(x0) С ВЦ0). ? Замечание 1.16.2. Отметим, что А. Бренстед и Р.Рокафеллар (см. [123]) показали, что субдифференциал собственной выпуклой пн. сн. функции, определенной на банаховом пространстве, непуст не только в точках непрерывности функции, он непуст на некото- некотором плотном подмножестве из dom/. (Доказательство см. в теоре- теореме 2.10.2.) Следствие 1.16.2. Отметим, что множество df(xo) при ус- условиях теоремы 1.16.2 является слабо* компактным по теоре- теореме 1.1.6. Геометрический смысл субдифференциала и некоторых получен- полученных выше его свойств можно увидеть из следующего простого утверж- утверждения. Предложение 1.16.1. Пусть даны выпуклая собственная функ- функция /: Е —>¦ Ж и точка xo G dom/. Нормальный конус 7V(epi/; (xo,f(xo))) к надграфику epi/ имеет непустое пересечение с линей- линейным многообразием L = {(р,а) G Е* х Ж\а = —1} тогда и только
§1.16. Су б дифференциал выпуклой функции 139 тогда, когда субдифференциал df(xo) есть непустое множество. При этом справедливо равенство N(eVif; (Xo,f(x0)))=coBe{(p,-l)\pedf(x0)}. A.16.5) Доказательство. Пусть субдифференциал <9/(жо) есть непус- непустое множество, и пусть р Е df(xo). По определению субдифферен- субдифференциала это значит, что для любого х Е dom / и любого числа а > f(x) справедливо неравенство (р, х — жо) < а — /(жо). Это эквивалентно неравенству ((р, — 1), (ж, а)) < ((р, — 1), (жо,/(жо))) для любого значе- значения (ж, а) е epi/, т.е. (р, -1) G 7V(epi/; (жо,/(жо))). Отсюда следует, чтосопё-{(р,-l)|pG <9/(ж0)} С N(epi/; (жо,/(жо))). Пусть теперь существует вектор (р, -1) G 7V(epi/; (жо,/(жо))). По определению нормального конуса это означает, что ((р, — 1), (ж,а)) < ((р, — 1), (жо,/(жо))) для любого значения (ж, a) G epi/, от- откуда следует при а = /(ж), что (р,ж — жо) < /(ж) — /(жо), т.е. р G G <9/(жо), что и доказывает равенство A.16.5). ? Лемма 1.16.3. Пусть Е — банахово пространство, Д, /г: ^ —>¦ —>- Ш. — непрерывные положительно однородные выпуклые функции. а(тах{Л@),/2@)}) =co @/i(O) U0/2(O)). Доказательство. Если р G со (9Д@) U 9/2@)), т.е. р = Api + + A - Л)р2, Pi G 9/г@), г G T72, Л G [0,1], то с учетом примера 1.16.2 и леммы 1.11.3 для любого х ? Е имеем (р,ж) = Л(р1,ж) + A - Л)(р2,ж) < < АД (ж) + A - Л)/2(ж) < тах{Л(ж),/2(ж)}, т.е. ре a(max{/i@),/2@)}) и а(тах{Л@),/2@)}) D со (аД@) U 0/2(О)). Допустим, что существует функционал ро € a(max{/i@),/2@)}) \co @/i(O) U0/2(O)) - В силу непрерывности функций Д и /2 множества dfi(O) и 9/2@) компактны в слабой* топологии (см. следствие 1.16.2) и, следователь- следовательно, выпуклая оболочка со (<9/i@) U<9/2@)) есть слабый* компакт по теореме 1.14.2. По теореме 1.9.3 об отделимости (п. 2) в пространст- пространстве Е* со слабой* топологией получаем, что найдется вектор жо G G ^\{0} такой, что а = sup {(ж0, Api + A - Л)р2) | Л е [0,1], pf G <9/;@), г G М} < (р0, ж0).
140 Гл. 1. Выпуклый анализ Из примера 1.16.2 и леммы 1.11.3 следует, что а= sup (As(aro,9()) ()(())) ag[o,i] = sup (Xfi(xo) + A - А)/2(жо)) =max{/i(xo),/2(^o)}, ле[о,1] что противоречит включению ро ? д (max{/i@), /2@)}). ? Теорема 1.16.3 (А.Я. Дубовицкий, А.А. Милютин). Пусть вы- выпуклые функции Д, /2: i? —>- М непрерывны в точке х ? Е и fi(x) = = f2(x). Тогда д (max {Л(ж), /2(ж)}) = со (df1(x)\Jdf2(x)) . Доказательство. По лемме 1.16.1 dfi(x) = <9У /г-(ж; 0), где г Е Е 1,2. Покажем, что Пусть р G <9жтах{/1(ж),/2(>)}. Тогда fi(x + \y) > fi(x) + А(р,з/), г = = 1,2. Переходя к пределу по А —У +0, получаем, что fl(x;y) > (р,у) для всех у, г = 1,2. Отсюда тах{/-[(ж; ?/), /2(ж; ^/)} > (р, 2/), что и означает включение р ? ду (max {/-[ (ж; 0), /2 (ж; 0)}). Обратно, пусть р е ду (max {/{(ж; 0), /2(ж; 0)}). Тогда max {/{(ж; ^/), /2(ж;2/)} > (р,2/), откуда в силу теоремы 1.15.2 получаем, что /i(x + ?/), /2B;+ 2/)} ~ Л(ж) > тах{/{(ж; 2/), /г(ж; 2/)} > (р,2/>, т. е. для любого у € Е тах{/1(ж + 2/), /2(^ + 2/)} > Л (ж) + (р,2/>, что и означает (в силу равенства fi(x) = /2(ж)), чтор G <9Ж max{Д(ж) /2(х)}. Осталось применить лемму 1.16.3, согласно которой 0„ (max {/{(*;()), Л(х;0)}) = со (dvf[(x;O) U дУй(х;0)). П Отметим, что теорема 1.16.3 распространяется на любое конечное число выпуклых функций, что доказывается по индукции. Ниже мы обобщим утверждение теоремы 1.16.3 на бесконечное семейство функций. (Подробности см. в теореме 1.17.3.) Предложение 1.16.2. Пусть функция /: Е —>¦ Ж выпукла и не- непрерывна в точке хо G dom/. Она дифференцируема по Гато в точ- точке хо тогда и только тогда, когда df(x0) = {
§1.16. Су б дифференциал выпуклой функции 141 Доказательство. 1. Пусть функция / имеет производную по Гато f'(xo) в точке х0. Из теоремы 1.15.1 и определения субдифферен- субдифференциала следует, что /'(#о) ? df(x0). Покажем, что df(xo) состоит из одной точки ff(xo). Допустим, что p^df(xo). В силу следствия 1.16.1 имеем (р, у) < ff(xo; у) = = (f'(xo),y), откуда в силу произвольности у Е Е следует, что р = 2. Пусть df(x0) = {ро}. Тогда f'(xo;y) > (po,y), ив силу фор- формулы A.16.4) и пн. сн. функции (ро,у) получаем, что f'(xo;y) = = s(y,df(x0)) = (ро,у)- Следовательно, domf'(x0; •) = Е, т.е. функ- функция f'(xo; •) непрерывна, и поэтому f'(xo;y) = (po,y). По опреде- определению производной по направлению получаем неравенства (ро,у) < ~ /(жо) < (ро, j/) + 6(\), где Й(Л) ^Опри АчО. Отсю- < ^ Л да, обозначая а(Х) = /(#о + ^2/) ~ /(жо) — (Ро, А^/), получаем, что 0 < < а(А) < АЙ(Л), т.е. р0 = Отметим, что лемма 1.11.3 и следствие 1.11.2 в субдифферен- субдифференциальной форме приобретают следующий вид. Предложение 1.16.3. 1. Собственная выпуклая положительно однородная функция /: Е* —У Ж пн. сн. тогда и только тогда, когда 2. Непустое множество А С Е выпукло и замкнуто тогда и только тогда, когда А = ds@,A). Доказательство. 1. В силу леммы 1.11.3 и следствия 1.11.2 условие леммы эквивалентно равенству f(p) = s(p,A) Vp, где А = = {хеЕ\(р,х) </(р) Vpe?*}, т.е. А = 9/@). 2. В силу леммы 1.11.3 условие со А = А эквивалентно, как и в п. 1 равенству А = {х G Е | (р, ж) < s(p, Л) Vp G Е*} = <9s@, Л). ? Теорема 1.16.4. Пусть дана собственная выпуклая пн. сн. функ- функция /: Е —У Ж. Тогда следующие условия равносильны: 1) р е №); 2) (р, z) — f(z) достигает максимума по z в точке z — х\ 3)f(x) + r(p) = {p,x); 4) х G а/*(р); 5) (#, ж) — f*(q) достигает максимума по q в точке q = р. Доказательство. Из условия 1) следует, что (р,ж) —/(ж) > ^ (р? ^) ~ /(^) Для всех z ? Е, что эквивалентно условию 2). Так как верхняя грань в условии 2) по определению совпадает с /*(р), то из
142 Гл. 1. Выпуклый анализ условия 2) следует условие 3). Условие 2) следует из условия 3), и определения функции /*, т.е. условия 2) и 3), равносильны. Применяя те же рассуждения к функции /*, получаем эквивалент- эквивалентность условий 3)-5), получая вместо условия 3) равенство f**(x) + + f*(x*) = (ж*,ж) и используя равенство /** = /. ? Теорема 1.16.5 (Дж. Моро, Р.Т.Рокафеллар). Пусть Д и /2: Е —у Ж — собственные выпуклые пн. сн. функции. Тогда d(h+f2)(x) D дМх)+д/2(х). A.16.6) Если же существует точка хо G dom/i П dom/2; в которой одна из функций (например, Д) непрерывна, то справедливо равенство d{h+f2)(x)=dh(x)+df2(x) VxGE. A.16.7) Доказательство. Включение A.16.6) следует из определения субдифференциала. Докажем равенство A.16.7). Если х ? dom Д П dom/2, то х ? dom(/i + /2), поэтому д (Д + + /г)(ж) = 0, т.е. равенство A.16.7) выполняется как равенство пус- пустых множеств. Пусть х G dom Д П dom/2, и пусть р G <9(Д + /г)(ж). Покажем, что р G <9Д (ж) + д/2(х). Определим функции дг(у) = = Д (ж + 2/) - Д (ж) - (р,2/> и #2Ы = /2 (ж + 2/) - /2(ж). Эти функции, очевидно, являются выпуклыми собственными пн. сн. функциями, при этом справедливы равенства <9Д (х) = дд\ @) + {р} и <9/2 (ж) = — <Э#2@). Таким образом, свели задачу к задаче для функций gi в точке х = 0, где #i@) = ^2@) = 0, при выполнении условия 0 G ? $ (#1 + #2)@). Для доказательства теоремы нужно показать, что в дд\ @) и <9#2@) есть противоположные элементы. Условие 0 G 9 (^i + #2)@) означает, что в точке 0 выполнено усло- условие минимума выпуклой функции, т.е. mm(gi+g2)(z) = 9l@) + д2@) = 0. A.16.8) Определим множества А\ — {(z,/jl) G Е х Ж\ \i > gi(z)} = epi^i и А.2 — {(^5^) G ^ х M|/i < —^2(^)}- В силу выпуклости функций д\ и $2 множества Ai и Л2 также выпуклы. Как следует из условия теоремы, в точке zo = хо — х функция д\ непрерывна, т. е. сущест- существует окрестность Bs(zo) точки zo такая, что \gi(z) — gi(zo)\ < e при любом z G Bs(zo). Поэтому множество {(z,a) G Е х Ж\а > gi(zo) + г, \z — zo\ < 6} открыто и содержится во множестве Ai, т.е. множество hit А\ — int epigi = {(z,/jl) G E x Ж\ z G int dom^i, \i > ^1B:)} непусто. При этом пересечение множеств int A\ и А2 пусто, так как в про- противном случае в некоторой их общей точке (zi,/ii) выполнялось бы
§1.16. Су б дифференциал выпуклой функции 143 неравенство gi(zi) < /jli < —#2B1), т.е. gi(zi) + g2(zi) < 0, что про- противоречит утверждению A.16.8). По теореме 1.9.3 (об отделимос- отделимости) множества int A\ и А2 можно разделить некоторой гиперплос- гиперплоскостью Н С Е х Ж. Покажем, что гиперплоскость Н не параллельна прямой {0} х х Ж. Если допустить, что Н вертикальна, то гиперплоскость G = = Н П (Е х {0}) С Е разделяет множества int dom gi и dom #2, что невозможно, так как по условию теоремы точка z$ лежит во множестве int dom g1 П dom g2. Итак, гиперплоскость Н не вертикальна, следовательно, сущест- существуют функционал q Е Е* и число [5 Е Ж такие, что гиперплоскость Н задается уравнением Н = {(z,/jl) | ц = (q, z) — C}. Поскольку точка @,0) G Е х Ш. лежит в пересечении множеств А\ и А2, то @,0) G Н, откуда следует, что /3 = 0. Из того, что гиперплоскость Н разделяет множества int A\ и Ач, следуют неравенства /а > (q,z) V(z,/i) G А\, и /а < (q,z) V(z,/i) G G ^2- В силу определений множеств А\ и Л2 неравенства можно переписать в виде дг(г) > gi@) + (q, z - 0) и #2(^) > ^@) + (-q, z — 0). Это означает, что q G <9#i@), a — q G dg2@). ? Замечание 1.16.3. Теорема Моро-Рокафеллара по индукции распространяется на любой конечный набор собственных выпуклых функций /i,...,/m. При этом для доказательства равенства надо т предположить, что в некоторой точке хо G П dom/f все функции, кроме одной, например, Д, непрерывны (или, что равносильно, т множество Р| (int dom/f) П dom Д непусто). Тогда справедливо ра- г=2 венство d(h + ... + fm)(x) = dh{x) + ... + dfm(x). Теорема 1.16.6. Пусть Т: Е\ —у Е2 — непрерывный линейный оператор, действующий из банахова пространства Е\ в банахово пространство Е2, пусть f: Е2 —> Ж — выпуклая пн. сн. функция. Тогда справедливо включение д (/ о Т)(х) D T* d(f(Tx)). Если су- существует точка хо G Е\ такая, что f конечна и непрерывна в точке Гж0, то д (/ о Т)(х) = Г* d(f(Tx)). Доказательство. Зафиксируем точку х G Е\. Пусть pG G df(Tx). По определению субдифференциала это значит, что f(Tx)<f(z). Следовательно, для любого у G Е\, выбирая z = Ту, получаем
144 Гл. 1. Выпуклый анализ (р, Ту - Тх) + (/ о Т)(х) < (/ о Т)(у) & «• (Т*р, y-x) + (fo Т){х) < (/ о а значит, Т*р Е d(f о Т)(ж), что и доказывает первое включение. Пусть теперь р Е <9(/ о Т){х). Это значит, что A.16.9) Рассмотрим аффинное множество в Е2 x M вида L = {(Ту, (р,у - х) + (/ о Т)(х)) | у е Е,}. Неравенство A.16.9) показывает, что выпуклые множества L и epi/ могут иметь общими только граничные точки. В самом деле, пусть (zo,/io) GLDepi/. По определению L это значит, что существует точка уо G Ei такая, что z0 = Т^/о и /х0 = (р> 2/о - ж) + (/ о Г)(ж). По определению epi/ это значит, что /io > /(^0) = (/ °Т)(уо)- Из нера- неравенства A.16.9) следует, что /^о < (/ ° Т)(уо). В итоге получили, что /i0 = (/ о Т)(уо), т.е. точка (zo,/io) есть граничная точка множеств L и epi/. Поскольку функция / выпукла и непрерывна в точке Тжо, то hit epi/т^0, и по теореме 1.9.3 об отделимости найдется неверти- невертикальная гиперплоскость Н, содержащая L и не пересекающаяся с hit epi/; i? задается аффинной функцией h(z) вида h(z) = (q,z) + а, где qe Е%, a G М. Поскольку гиперплоскость i? содержит множество L, получаем, что ЧуеЕц (q, Ty) + a = (p, j/ - ж) + (/ о Г)(ж), Т'е' a = (foT)(x)-fax), A.16.10) V2/GE1: (д,Ту) = (р,у). A.16.11) Значит, р = Т*^. В силу того, что Н не пересекается с hit epi /, имеем V^G E2 : <д,*> + (/ о Г) (яг) - (T*q,x) < f(z), VzeE2: (q,z-Tx) + f(Tx)<f(z). Отсюда следует, что q G df(Tx), откуда р = T*q G T* df(Tx). ? Предложение 1.16.4. Пусть Е — банахово пространство, {Ai}7^^ С Е — конечная совокупность выпуклых замкнутых мно- т жесте, причем Aq П hit А\ П ... П int Аш ф 0. Пусть A— f] A{. i=0
§1.16. Су б дифференциал выпуклой функции 145 Тогда для всякой точки a Е А справедливо равенство г=0 где N(A; а) есть нормальный конус ко множеству А в точке a Е А (см. определение 1.12.2). Доказательство. Определим выпуклые полунепрерывные снизу индикаторные функции fi(x) = 5(x,Ai), где 0 < г < т, и функцию f(x) = S(x,A). Отметим, что отсюда и из определения мно- т жества А следует равенство f(x) = ^2 fi(x)i и Для каждого номе- г=0 pa г = 1,т функция fi непрерывна на множестве hit A\. Отсюда в силу замечания к теореме 1.16.5 в любой точке a G А справедливо равенство т г=0 Из этого равенства следует утверждение теоремы, поскольку для индикаторных функций (см. пример 1.16.3) справедливы равенст- равенства df(a)=N(A;a) и dfi(a) = N(Ai]a) при любом значении а е А. П Пример 1.16.4. Рассмотрим задачу: найти необходимые и доста- достаточные условия того, что в точке Хо G А достигается mm{f(x) | x G G Л}, где множество А выпукло, замкнуто и А ф Е, а выпуклая функция / непрерывна на множестве А. Перепишем эту задачу об условном экстремуме в виде следующей задачи на безусловный экстремум: найти mm{(f(x)+S(x,A))\x? G Е}. Очевидно, что новая задача эквивалентна исходной. По тео- теореме 1.16.1 необходимое и достаточное условие того, что точка хо является решением этой задачи, имеет вид О G д (/(жо) + $(хо, А)). Из теоремы Моро-Рокафеллара и примера 1.16.3 получаем равенство 6(хо,А)) = df(x0) + д6(хо,А) = df(x0) + N(A; x0). Поэтому необходимое и достаточное условие решения исходной задачи принимает следующий вид: df(x0) П (~N(A; х0)) ф 0. A.16.12) Пример 1.16.5. Пусть непустое множество А из банахова прост- пространства Е задано в виде т А= f]{xeE\fi(x) <0}, A.16.13) г=1 10 Е.С. Половинкин, М.В. Балашов
146 Гл. 1. Выпуклый анализ где число т Е N, а собственные функции fi: Е —У Ж выпуклы и непре- непрерывны на А. Пусть существует точка х\ Е Е такая, что выполняются строгие неравенства fi(xi) < 0 при всех г Е 1,т. Требуется найти касательный и нормальный конусы ко множеству А в некоторой точке жо G i. По условию множество А (см. формулу A.16.13)) непусто, выпук- выпукло, замкнуто и представимо в виде Ah где Ai = {xeE\fi(x)<0}. г=1 Для простоты полагаем, что функции fi пронумерованы так, что для данной в условии точки xq Е А существует номер г Е 0, т та- такой, что при каждом номере г Е 1,г справедливы равенства fi(xo) = = 0, а при каждом г Е г + 1, т справедливы неравенства fi(xo) < 0. При каждом г Е г + 1, т в силу непрерывности функции /^ получаем включение жо Е hit Л^, откуда следует равенство cone (Ai — хо) = Е. Таким образом, в силу выражения касательного конуса для пере- пересечения множеств (см. лемму 1.4.2) получаем: 1) если г = 0, то cone (А - х0) = Е; 2) если же г > 1, то получаем формулу г cone (А - хо) = Р| cone (Ai - х0). Опишем один из конусов cone (Ai — хо) при г Е 1,г, например, конус cone (Ai — х0). По условию fi(xo) = 0, и поэтому хо Ф х\. Следовательно, точка Уо = х\ — хо ф 0 такова, что г/о Е А — хо- Таким образом, cone (A\ — -хо)ф{0}. Пусть у Е cone (А\ — жо), у ф 0. Тогда существует число Ло > 0 такое, что Хоу Е А\ — хо- Следовательно, j\(xo + Хоу) < 0. Поэтому производная функции / по направлению у в силу теоремы 1.15.2 удовлетворяет неравенству f[(xo;y) < ^ (Л(а* + Хоу) - ЛЫ) < о, Ло т.е. справедливо включение cone (Аг - х0) С {у Е Я|/{(жо;2/) < 0}. Докажем, что справедливо и обратное включение. Пусть вектор у € Е таков, что справедливо неравенство f[ (хо] у) < < 0 (множество таких векторов у непусто, в чем легко убеждаемся,
§1.16. Су б дифференциал выпуклой функции 147 взяв вектор у о = х\ — хо и записав соотношения f[(xo;yo) < fi(xo + + Уо) - fifro) = hfri) <0). В силу выбора вектора у и формулы (см. теорему 1.15.2) f[(xo;y) = inf - (Л(ж0 + Ху) - fi(x0)), А>0 Л существует число Ло > 0 такое, что — (fi(xo + Хоу) — fi(xo)) < О, Ао т.е. f(x0 + Хоу) < О, откуда следует, что хо + Хоу е Ai, т.е. уе G cone (Ai — хо). Беря замыкание множеств и воспользовавшись еще следствием 1.16.1, получаем равенство cone {А1 -хо) = {у?Е\ f{(xo;y) < 0} = = {уеЕ\з(у,дМхо)<0}. A.16.14) В итоге для касательного конуса множества А из A.16.13) в точке хо получаем формулу cone (A-xo) = f]{yeE\ Д(хо;у) < 0} = i=l r = f){yeE\sb Для вычисления нормального конуса N(Ai;xo) воспользуемся лем- леммой 1.12.7 о представлении нормального конуса в виде поляры от cone (Ai — хо). Отсюда и из формулы A.16.14) получаем равенство N(A1;x0) = cone {dfi{xo)). Так как по условию х\ Е hit Л, т.е. hit A / 0, то в силу предложе- предложения 1.16.4 нормальный конус множества А равен сумме нормальных конусов множеств А^ т.е. справедлива общая формула N(A;xo) = <peE* p = ^2xiPi, A* > 0, Pi e dfi(x0), Л A.16.16) Замечание 1.16.4. На основе разобранных примеров 1.16.4 и 1.16.5 сразу можно выписать субдифференциальную форму необ- необходимых и достаточных условий в задаче на условный экстремум из примера 1.16.4 при множестве А из примера 1.16.5. В силу этих условий (формул A.16.12) и A.16.16)) получаем, что существует вектор А = (Ai,..., Am) такой, что А^ > 0 и справедли- справедливы равенства Xifi(xo) = 0 при всех г G 1,ш, причем выпуклая функ- 10*
148 Гл. 1. Выпуклый анализ т ция L(x, А), определяемая по формуле Ь(х, А) = /о(ж) + X) ^гЛ(ж), г=1 достигает в точке жо своего безусловного минимума по ж, так как в силу формул A.16.12) и A.16.16) для нее выполняются необходимые и достаточные условия минимума вида оедхь(х0,\). Определенная выше функция L(x,\) в теории экстремальных за- задач называется функцией Лагранжа, а соответственно метод перехода от задачи на условный экстремум к задачи на безусловный экстремум для функции Лагранжа называется методом Лагранжа и имеет ши- широкие обобщения для многих гладко-выпуклых экстремальных задач (подробнее см., например, [7, 28, 50]). К методу Лагранжа мы вернемся в гл. 2, когда будем рассматри- рассматривать задачи выпуклого и линейного программирования. Упражнение 1.16.1. Доказать лемму 1.13.6 с помощью теоре- теоремы Моро-Рокафеллара. Упражнение 1.16.2. Показать (построив соответствующие при- примеры) , что для различных точек границы д dom / эффективного мно- множества функции / может оказаться, что df{x) ф 0, так и df(x) = 0. Упражнение 1.16.3. Найти субдифференциал функции 2) = \xi\ + \х2\ + 1 при всех (#i, X2) Е М2. Упражнение 1.16.4. Найти субдифференциал функции /(^ъ^г) — niax< \х\\ + |ж21? 1,2 • у х\ + х\ \ в точке @,0). Упражнение 1.16.5. Показать, что для того, чтобы субдиффе- субдифференциал функции / в точке х был непустым множеством, необходимо, чтобы функции / была полунепрерывна снизу в точке х. Показать, что это условие не является достаточным. Упражнение 1.16.6. Какое множество описывает субдифферен- субдифференциал опорной функции s(p, А) в точке р ф 0, где А С W1 — выпуклый компакт? В каком случае субдифференциал опорной функции в каж- каждой точке является одноточечным множеством? Каков геометрический смысл этого? Упражнение 1.16.7. Докажите теорему Моро-Рокафеллара следующим образом. Сначала докажите, что если положительно од- однородные выпуклые функции Д, /2 : Е —> Ж таковы, что функция Д
§1.17. Свойства субдифференциалов 149 непрерывна, а функция /2 полунепрерывна снизу (замкнута), то справедливо равенство 0(/i+/2)(O)=0/i(O)+0/2(O). Далее воспользуйтесь леммой 1.16.1 для доказательства общего слу- случая. Сравните с доказательством теоремы 1.16.3. § 1.17. Свойства субдифференциалов Лемма 1.17.1. Пусть U — выпуклое открытое множество из банахова пространства Е, пусть последовательность собственных выпуклых функций fi'. Е —у М, г Е N, таких, что U С domfi Уг Е Е N, поточечно сходится на U к собственной выпуклой функции f и удовлетворяет условиям теоремы 1.7.3. Пусть последовательнос- последовательности {xi}<^=1 С U и {yi}^i С Е таковы, что xi —> х Е U, yi —У у G Е. Тогда ^jj/i) </'(*; 2/). A.17-1) Доказательство. Зафиксируем число е > 0. В силу теоре- теоремы 1.15.2 найдется число /л > 0 такое, что f( + )f(x) <f{x.y)+?. Снова по теореме 1.15.2 имеем 1г\хгтУг) — J111 J111 T _^ v l- По теореме 1.7.4 каждое слагаемое в правой части последнего нера- неравенства сходится при г —у оо, т. е. найдется го такой, что для всех г > г'о fj(Xj + fJLyj) ~ fj(Xj) < f(x + fly) - f(x) +^ fJL - [I Следовательно, для всех г > г'о получили что и требовалось. ? Теорема 1.17.1. В условиях леммы 1.17.1 для любой слабой* окрестности нуля V вида V= f) {PeE*\\{p,yk)\<ek} A.17.2) Kk<K
150 Гл. 1. Выпуклый анализ найдется номер г'о Е N такой, что справедливо включение dfi(xi)cdf(x) + V Уг>г'о. Доказательство. Зафиксируем номер К Е N, числа ек > 0, точки yk G Е, k Е 1,К и окрестность нуля 1/ вида A.17.2). Пусть е = min ek. Воспользовавшись в силу следствия 1.16.1 1<к<К равенствами Л{х^у) = s(y, dfi(xi)) и f'(x;y) = s(y, df(x)), из нера- неравенства A.17.1) получаем, что для каждого к от 1 до К найдется номер ък такой, что s(yk,dfi(xi)) < s(ykjdf(x))+s/2 Vi > ik. Взяв г'о = max ik и окрестность W = П {р G ^* I |(p, 2/A;)| < ?}, i<fe<K получаем s(yk,dfi(xi))<s(yk,df(x))+e/2 У к el, К, г > г0, откуда в силу опорного принципа следует + У Уг>г0. ? Замечание 1.17.1. На самом деле при выполнении условий тео- теоремы 1.17.1 имеет место более сильное утверждение: для любого сла- слабо* открытого множества U, содержащего множество df (ж), найдется номер г'о такой, что для всех г > г'о выполнено включение dfi(xi) С U. Доказательство этого утверждения можно получить из следующей леммы, доказанной в [68, гл. 3, § 2, лемма 11]. Пусть А — слабый* компакт, который содержится в слабо* открытом множестве U. Тогда найдется слабая* окрестность множества А вида П {р?Е*Цр,ук)<8(ук,А)+е}, где К е N, yk G Е, е > 0, 1<к<К которая целиком содержится в U. Следствие 1.17.1. Субдифференциал выпуклой пн. сн. функции / полунепрерывен сверху на intdom/, т.е. для любого xGintdom/ и любой последовательности точек {xi} С intdom/ такой, что lim Xi = ж, для любой слабой* окрестности V вида A.17.2) сущест- i—^сю вует номер г'о G N такой, что df(xi)cdf(x) + V Уг>г'о.
§1.17. Свойства субдифференциалов 151 Следствие 1.17.2. В случае, когда Е = W1, утверждение тео- теоремы 1.17.1 принимает вид включения Доказательство. Доказательство основано на том, что в слу- случае конечномерного евклидова пространства W1 во всякий шар В? @) можно вписать некоторую слабую окрестность нуля. В самом деле, выберем число е > 0, семейство точек {рк}^=\ С dBi@) и слабую окрестность v= п 1<к<К так, чтобы h(V,B°,2@)) < г/2. Это возможно, так как шар В?/2@) в W1 можно с любой точностью в метрике Хаусдорфа приблизить снаружи многогранником (точное доказательство этого факта с оцен- оценками погрешности приближений будет дано в гл. 2). В итоге получаем включение dfi(xi) С df(x) + V С df(x) + Ве@). П Следствие 1.17.3. Если выпуклая пн. сн. функция /: Е—>Ж дифференцируема по Гато на открытом выпуклом множестве U С С Е, то ее производная Гато f слабо* непрерывна на U', т. е. для любых точки х G U и последовательности {xi} С U таких, что lim Xi = ж, и для любой слабой* окрестности V вида A.17.2) най- i—^сю дется номер го G N такой, что Доказательство, очевидно, следует из теоремы 1.17.1 и предло- предложения 1.16.2. Обозначим через t^ локальную базу нуля слабой* топологии в Е*. Теорема 1.17.2. Пусть U С Е — открытое выпуклое множест- множество. Пусть последовательность собственных выпуклых пн. сн. на U функций fi'. E —у Ж сходится к выпуклой функции /, которая диф- дифференцируема по Гато на множестве U. Тогда последовательность субдифференциалов {dfi(x)} слабо* сходится к производной f'(x) равномерно по х на всяком компакте А С U, т. е. t*w 3i0 Уг>г0, VxeA: dfi(x)cf'(x) + V. A.17.3) Доказательство. Допустим, что утверждение теоремы невер- неверно. Тогда, выделяя, если нужно, подпоследовательность, запишем 3^0 G С 3{Xi}CA: дМХг)?/'(Хг) + Ц). A-17.4)
152 Гл. 1. Выпуклый анализ В силу компактности множества А найдется точка х Е А такая, что lim Xi = х. В силу непрерывности производной по Гато выпуклой г—юо функции / (следствие 1.17.3) существует номер %\, для которого В силу полунепрерывности сверху субдифференциала выпуклой функ- функции (следствие 1.17.1) существует номер гг, для которого Отсюда для любого г > maxjii;^} получаем, что dh(xi) С f(x) + \VO С f'(xi) +V0. Полученное включение противоречит формуле A.17.4). ? Отметим, что в теореме 1.17.2 из включения A.17.3) немедленно следует включение f(x) e dfi(x) + v в силу одноточечности множества {ff(x)} и того, что V = —V. Кроме того, в случае, когда Е = W1, в теореме 1.17.2 слабую окрестность V можно заменить на сильную В?@) (так же, как это бы- было сделано в следствии 1.17.2). В итоге в W1 получаем, что расстояние по Хаусдорфу h(dfi(x),{f'(x)}) стремится к нулю при г ->• оо, при- причем равномерно по х на любом компакте А С U. Пример 1.17.1. Отметим, что без требования дифференцируе- мости по Гато функции / теорема 1.17.2 неверна. Поясним это на примере. Пусть даны числа а^ > 1 такие, что lim oii = 1. Пусть даны г—^сю функция f(x) = \x\ и функции fi(x) = \x\ai при х G [—1,1] и г G N. Легко видеть, что lim fi(x) = f(x) на [—1,1], но dfi(O) = {/г'@)} — г—>-оо = {0}, а 9/@) = [—1,1]. Ясно, что стационарная последователь- последовательность dfi(O) = {0} не сходится ко множеству <9/@) = [—1,1] в мет- метрике Хаусдорфа. Теорема 1.17.3. Пусть S — компактное топологическое прост- пространство, Е — банахово пространство. Пусть функция /: S х Е —У —у Ж такова, что отображение /(s, •): Е —У Ж выпукло для каж- каждого seS, а отображение /(-,#): S ->• R полунепрерывно сверху для каждого х G Е. Определим функции fs(x) = /(s,x), f(x) =
§1.17. Свойства субдифференциалов 153 sup /(s, х) и множество So(x) = {s G S \ f(s, x) = f(x)}. ses Тогда для любого х G dom/ справедливо включение P(x) С df(x), A.17.5) ^ Р(х)=сб( U dfs(x)\ A.17.6) Если для каждого s G S функция /(s, •) непрерывна в некоторой точке хо G dom/, то справедливо равенство Р(х0) = df(x0). A.17.7) Доказательство. Из определения функции / как точной верх- верхней грани семейства выпуклых функций следует, что функция / выпукла. Если х G dom/, то в силу полунепрерывности сверху отоб- отображения /(-,ж) и компактности S следует, что множество So(x) непусто. При этом для любых s ? So(x) и р G dfs(x) по определению субдифференциала получаем (p,z-x)< Ш - f.(x) < f(z) - f(x) Vz€E, следовательно, р G df(x), откуда следует включение U dfs(x) Взяв от обеих частей последнего включения замкнутую выпуклую оболочку, в силу выпуклости и замкнутости множества df(x) полу- получаем включение A.17.5). Перейдем к доказательству равенства A.17.7). Из непрерывности функций /(s, •) в точке хо (при каждом s G S) и из теоремы 1.16.2 следует, что множества dfs(xo) непусты. Поэтому Р(хо) ф 0 и в силу включения A.17.5) df(xo) ф 0. Тогда по лемме 1.16.2 получаем, что множество df(xo) есть замкнутое выпуклое множество. Допустим, что Р(хо) ф df(xo), следовательно, найдется ро ? G df(xo) такой, что ро ^ Р(хо)- По теореме 1.9.3 об отделимости найдутся число е > 0 и точка х\ G Е, х\ф 0, такие, что (po,a;i)> sup (р,Ж1>+е. A.17.8) Покажем, что без ограничения общности можно считать f(xo + + xi) < +оо. В самом деле, так как для каждого s G S функция fs{x) непрерывна в точке #о, то найдется X(s) > 0 такое, что fs(xo +
154 Гл. 1. Выпуклый анализ + \(s)x\) < fs(xo) + 1. В силу пн. св. отображения /(• , ж), множества вида U(s) = {?eS\ /(?,х0 + X(s)x1) < f(x0) + 2} = = S\{? e S I /(?, x0 + A(s)xi) > /(жо) + 2} суть открытые подмножества 5, содержащие s, и поэтому (J U(s) = = 5, откуда в силу компактности 5 можем выделить конечное под- подпокрытие {C/(si)}?=i пространства 5, т.е. п г=1 Пусть А = min X(si). Тогда в силу выпуклости функций /(s, •) по- 1<г<п лучаем, что /(s, жо + Axi) < /(жо) + 2 < +оо \/s G 5. Заменяя, если нужно, #i на А^!, а г на X~1eJ получаем, что при этом сохра- сохраняется отделимость A.17.8) и /(жо + ^i) < +оо. Пусть 0 < t < 1. Тогда в силу выпуклости / имеем xq + tai G Gdom/. Выберем st ? S так, чтобы f(st,xo + txi) = /(ж0 + txi). Такое s^ существует в силу пн. св. отображения /(•, х). В силу вклю- включения ро ? df(xo) имеем +^)/ы(ро;Ж1)_ AЛ79) Из неравенства выпуклости A - t)f(st,x0) + tf(sux0 + a:i) и из неравенства A.17.9) получаем > (l-t)f(sux0) > Отсюда при t —>¦ 0 получаем, что /(ж0) > \imf(st,x0) > Джо), т. е. существует Um/(et,aro)=/(a;o). A.17.10) Пусть so — предельная точка множества {st}. Тогда в силу полу- полунепрерывности сверху отображения /(•, ж) получаем равенство f(so,xo)=f(xo). A.17.11)
§1.17. Свойства субдифференциалов 155 Отсюда в силу отделимости A.17.8) и неравенства A.17.9) получаем f(st, хр + txi) - f(st,xo) > f(x0 +txi) - Джо) > . х ) > V V > sup (p,x1)+e = f8o(xo;x1)+e. A.17.12) В силу определения производной по направлению выпуклой функции fso(') найдется такое число г Е @,1), что справедливо неравенство Дао, хо + гХ1) - f(so,xo) < f {xo.Xl) + ?. AЛ7ЛЗ) Т А Тогда при всех t G @, г) в силу неравенства выпуклости и нера- неравенств A.17.12) и A.17.13) получаем -f(st, хо +тхг) + (! - - > f(su x0 Отсюда (слева и справа убирая f(st,xo) и затем умножая на дробь r/t) получаем f(su xo+rxi) > /(s0, Ж0+ГЖ1) + f(sux0) -f(so,xo) +тг/2, откуда в силу равенств A.17.10) и A.17.11) следует неравенство limsup/(st, хо +тхг) > f(s0, x0 + тхг) + те/2, *-И) которое противоречит полунепрерывности сверху отображения /(• ,жо + txi) в точке s = so- Следовательно, допущение о том, что Р ф df(xo) неверно. ? Рассмотрим некоторые следствия теоремы 1.17.3. Следствие 1.17.4. Пусть выполнены все условия теоремы 1.17.3, кроме компактности S. Вместо этого считаем, что множество S является выпуклым замкнутым множеством в линейном метричес- метрическом пространстве (Х,д), причем множества Sr(x) = {seS\ q(s, S0(x)) <r} Vr > 0 A.17.14) являются компактами. Кроме того, считаем, что для каждого х G ?Е функция /(-,ж): S —> Ж вогнута, а также существуют точ- точка хо и число го > 0 такие, что функции f(s, •): Е —у Ж непрерыв- непрерывны в точке Хо равномерно по параметру s на множестве Sro(xo). Тогда справедливо равенство A.17.6), A.17.7).
156 Гл. 1. Выпуклый анализ Доказательство. Будем считать, что S не ограничено (иначе из условий A.17.14) следует, что S — компакт, т.е. случай теоре- теоремы 1.17.3). Без ограничения общности для удобства положим xq = 0. Определим множество Gro @) = {s е S | го/2 < q(s, 5о@)) < г0}. Множество Gro@) замкнуто и является подмножеством компак- компакта 5Го@), т.е. также компактно, причем /@) > max /(s,0). Так seGro(o) как So@) U Gro@) С 5Го@), то, пользуясь равномерной по sG Sro@) непрерывностью семейства функций /(s, •) в точке х = 0 и приве- приведенным выше строгим неравенством, получаем при некоторых е > 0 и ?>0 min /(в,ж) >/@)-?> max /(в,ж) Уж G Б5@). A.17.15) G5(O) GG@) Покажем, что для любого х G В$@) и для любого si G 5\5Го/2@) имеет место неравенство ) < max f(s,x). A.17.16) esv(o) При si G G>0@) неравенство A.17.16), очевидно, следует из нера- неравенства A.17.15). Пусть si ^ 5Го@). Возьмем s2 G So@) и на отрезке [si,S2], пере- пересекающем множество Gro@), выберем точку so G Gro@). Найдется число Л G @,1) такое, что s0 = Xsi + A - A)s2. В силу неравенст- неравенства A.17.15) получаем неравенство f(s2,x) > /(so,#), и в силу вогну- вогнутости функции /(•, х) на отрезке [si, s2] получаем откуда 0 > f(so,x) - f(s2jx) > X(f(sljx) - f(s2jx)). Следовательно, f(s2,x) > f(si,x), откуда и следует неравенство A.17.16). Из неравенства A.17.16) получаем для любого х G В$@) равенст- равенство f(x) = /(ж), где f(x) = max f(s,x). Поэтому <9/@) = 9/@), G5(O) и остается применить теорему 1.17.3 к функции f(x) и компак- ту Sro/2@). ? Замечание 1.17.2. В отличие от функций /(ж), представи- мых в виде sup/(s,x) от некоторого семейства выпуклых функ- ses ций /(s, •): .Е—>-М и в силу этого также являющихся выпуклыми
§1.17. Свойства субдифференциалов 157 функциями (см. теорему 1.17.3), функции вида inf f(s,x), как прави- ло, не являются выпуклыми. Исключение составляет случай, когда при выпуклом множест- множестве S функция /: S х Е —у Ж является выпуклой по совокупности пе- переменных (s,x), т.е. для любого числа Л G @,1) и любых si, S2 G S, х\, Х2 G Е справедливо неравенство /(Asi + A - A)s2, Аяп + A - А)ж2) < A/(si,an) + A - A)/(s2,ar2). Покажем, что в указанном случае функция f{x) = inf f(s,x) явля- ses ется выпуклой функцией. Для произвольных точек х\, Х2 ? Е сущест- существуют минимизирующие последовательности {sf}, {s%} С S такие, что f(xi) = lim f(s^Xi), г = 1,2. Поэтому для любого числа A G @,1) справедливы включение Asf + + A - А)^2 G 5 и неравенство Переходя в правой части последнего неравенства к пределу при к —У оо, получаем неравенство Иенсена для функции /. В заключение докажем теорему об очистке, которая является уточнением теоремы 1.17.3 в случае, когда Е = W1. Теорема 1.17.4 (об очистке). Если в условиях теоремы 1.17.3 рассмотрен случай конечномерного пространства Е = W1, то каж- каждый элемент р G df(xo) можно представить в виде ^, A.17.17) г=1 т где т < п + 1, А« > О, J^ А« = 1, Pi G dfSi(x0), Si G 5о(ж), 1 < г < ш. г=1 Доказательство. Покажем, что множество ограничено и замкнуто, т. е. компактно. Тогда в силу следствия 1.14.1 получаем, что сбР(х0) = соР(ж0), а формула A.17.17) следует из теоремы Каратеодори.
158 Гл. 1. Выпуклый анализ Из доказательства теоремы 1.17.3 следует, что для любой точ- точки х G W1 найдется число Л > 0 такое, что х0 + Хх G dom/, поэто- поэтому в силу выпуклости множества dom / точка xq является внут- внутренней точкой множества dom/ (см. упр. 1.2.8). Таким образом, dom/'fco, •) = Мп и Т'{хо,у) = s(y,df(x0)) для всех yeW1. Следо- Следовательно, множество df(xo) ограничено, значит, и множество Р(хо) ограничено, так как Р(хо) С df(xo). Осталось проверить замкнутость множества Р(хо), что и завершит доказательство. Пусть последовательность точек {р^}^_1 С P(xq) сходится к не- некоторой точке реи причем р^ G dfSk(xo), Sk G So(xo). Так как мно- множество So(xo) компактно, то последовательность {sk}<^=1 имеет пре- предельную точку so G So(xo). Без ограничения общности будем считать, что lim Sk = So. Поскольку для любой точки iGln функция /(• , ж) к^-оо пн. св., а по определению множества Sq(xq) имеют место равенст- равенства f(sk,xo) = f(so,xo) = /(жо), то для любой точки iGln получаем f(so,x) - f(so,xo) = f(so,x) - /(ж0) > > \imsupf(sk,x) - /(жо) = limsup[/(sfc,a;) - f(sk,x0)] > k^-oo k^-oo > lim (pk,x - xo) = (po,x - xo)j k^-oo т.е. po G dfSo(xo) С Р(х0). ? В качестве приложения теоремы 1.17.4 об очистке мы докажем еще одну теорему. Для этого введем определение. Определение 1.17.1. Описанным шаром около компакта А С С W1 называют замкнутый шар минимального радиуса, содержащий множество А. Как покажем позже (в § 2.1 о чебышевском центре), такой шар существует и является единственным. Тот факт, что такой шар од- однозначно определен, очевидно, следует из того, что пересечение в W1 шаров одинаковых радиусов содержится в шаре меньшего радиуса. Теорема 1.17.5 (Г.Юнг [140]). Пусть AcW1 — компакт. Пусть D{A) = diam A — диаметр множества A, a R{A) — радиус описанного около компакта А шара. Тогда найдется набор то- точек {a,k}™=1 С А, где 2 < т < п + 1, такой, что описанные шары для т множества А и множества со (J {а^} совпадают, а числа D(A) и R(A) связаны соотношением Aл7л8)
§1.17. Свойства субдифференциалов 159 причем равенство достигается в случае, когда множество А со- содержит правильный симплекс с длиной ребра D(A). Доказательство. Покажем, что для того, чтобы шар был описан около множества Л, состоящего более чем из одной точки, необходимо и достаточно, чтобы он был описан около некоторого симплекса с вершинами из множества А. Определим функцию fix) = max \\х — all. Легко видеть, что функ- аеА ция / выпукла на Жп и lim f(x) = +00. Поэтому найдется точ- 1ИИ + ОО ка жо, в которой выполнены необходимое и достаточное условия ми- минимума выпуклой функции, т.е. О е df(x0), A.17.19) при этом очевидно, что /(жо) = R(A) — радиус описанного около множества А шара, а хо — центр этого шара. Воспользуемся теперь теоремой 1.17.4 об очистке. В силу этой тео- теоремы и в силу условия A.17.19) существуют точки р^ Е Mn, a^ Е А и числа Xi > 0, где 1 < г < т, т < п + 1, такие, что Pi € дх\\х0 - (ц\\, \\х0 - a,i\\ = R(A), I < i < m, A.17.20) 0 Так как множество А состоит более чем из одной точки, то R(A) = = f(xo) = ||жо - CLi\\ > 0 и, следовательно, дх\\х0 - ai\\ = {pi}. Heno- средственным вычислением получаем, что ох\\х^ — а^|| = \\xo-ai\V следовательно, рр | AЛ7Л1> Точки {а^}^1 суть вершины симплекса в Жп. Если решать задачу т об описанном шаре около этого симплекса со (J {a^}, то центром описанного около него шара также будет точка хо, поскольку уравне- уравнение A.17.21) в сочетании с равенствами из A.17.20) дает достаточное условие минимума. Итак, в качестве множеств А достаточно рассмат- рассматривать симплексы из W1. Докажем оценку A.17.18) в случае ^-мерного симплекса А = fc+i = со U {cti}. Пусть, как и прежде, хо — центр описанного около А г=1
160 Гл. 1. Выпуклый анализ шара. Тогда справедливы соотношения k+i k+i ^ Xidi, А; > 0, ^ А; = 1, г=1 г=1 ), 1 < г < к + 1, D2(A) = тах{||а;-а^||2|1 < г, j < к + 1}. Из свойств скалярного произведения получаем оценку \(Ц - CLj\\2 = \\(Ц - 2 - 2((li ~ Xq.uj - Х0) = = 2R2(A) -2(a,i - Поэтому k+1 k+l Hai-a^l2 = 2R2(A) -2/ ^A^-^o, a,j - xo\ =2R2(A), \г=1 значит, С другой стороны, учитывая известное неравенство о средних к+1 г=1 получаем к+1 к+1 ч 2 к+1 ) г=1 г=1 Таким образом, и поскольку —-— > при к < п, получаем неравенство A.17.18). То, что неравенство обращается в равенство в случае правильного симплекса, предоставляем проверить читателю. ?
§1.18. Крайние точки и лучи 161 Отметим, что некоторое обобщение теоремы Юнга содержится в упр. 1.14.4. Упражнение 1.17.1. Для выпуклого компакта А С W1 и век- вектора pGln, р Ф О, обозначим через А{р) опорное множество вида А(р) = {х Е А | (р, ж) = s(p, Л)}. В соответствии с введенным обозна- обозначением для выпуклых компактов А и В определим функцию р(А,В) = sup h(A(p),B(p)). A.17.22) IIpII=i Показать, что в пространстве выпуклых компактов определенная выше функция р задает метрику, при этом метрическое пространство выпуклых компактов с метрикой р является полным пространством. Показать, что также полно пространство строго выпуклых компактов с метрикой р. Для сравнения показать, что пространство строго вы- выпуклых компактов из W1 с метрикой Хаусдорфа не является полным. Упражнение 1.17.2. Пусть последовательность выпуклых ком- компактов {АЛ из Жп такова, что lim h(Ai,A) = 0, где А есть строго г-юо выпуклый компакт. Доказать, что для функции A.17.22) справедливо равенство lim p(Ai,A) = 0. г—)>оо Указание. Воспользоваться теоремой 1.17.2. Упражнение 1.17.3. Показать, что семейство всех выпуклых компактов, содержащихся в некотором выпуклом компактном подмно- подмножестве из Мп, не компактно в топологии, порожденной метрикой р из A.17.22). Упражнение 1.17.4. Показать, что точную верхнюю грань в определении метрики р A.17.22) нельзя заменить на максимум. § 1.18. Крайние точки и лучи Точка выпуклого множества называется крайней или экстремаль- экстремальной, если она не является внутренней точкой никакого принадлежаще- принадлежащего множеству отрезка. Таким образом, каждая крайняя точка является граничной точкой множества, но не обратно. Понятие крайней точки и ее свойства, в частности, о том, что каждая точка выпуклого тела из W1 принадлежит симплексу, верши- вершины которого являются крайними точками этого тела, впервые были изучены Г. Минковским (см., например, [154]). В настоящее время более известно обобщение этого результата Минковского на случай банаховых пространств. 11 Е.С. Половинкин, М.В. Балашов
162 Гл. 1. Выпуклый анализ В этом параграфе будем считать, что пространство Е является локально выпуклым линейным топологическим пространством, т.е. в пространстве Е существует выпуклая локальная база нуля. Отме- Отметим, что в этом случае, как следует из замечания 1.9.2, для любых различных точек х и у из Е найдется функционал р Е Е* такой, что (р,х) ф (р,у). Переходим к строгим определения и формулировкам. Определение 1.18.1. Пусть Л — непустое множество из прост- пространства Е. Непустое подмножество S С Л называется крайним под- подмножеством множества Л, если для любой точки х Е S и любых точек y,z € А таких, что х ф у ф z ф х и ж Е со {у; z}, следует, что у Е S и z Е S. Иначе говоря, никакая точка из множества S не является внутренней точкой отрезка с концами, принадлежащими множеству Л, но не принадлежащи- Крайняя точка о о * / « ми множеству Ь. ^ Ребро (крайнее J подмножество) Определение 1.18.2. Одното- ^ Боковая грань > (крайнее чечное крайнее подмножество мно- подмножество) жества А называется крайней точ- точкой множества А (рис. 11). Рис- 11 Будем обозначать совокупность всех крайних точек множества А через extr А, а замыкание множест- множества крайних точек через extr Л. Отметим, что геометрический смысл крайней точки в случае вы- выпуклого множества А состоит в том, что если точка х G extr Л, то множество Л\{ж} все еще остается выпуклым множеством. Например, вершины треугольника на плоскости являются его крайними точками, а стороны — крайними подмножествами. Прямая на плоскости не имеет крайних точек и сама является своим единст- единственным крайним подмножеством. Открытый круг на плоскости не имеет крайних точек. Следующая теорема обобщает теорему Минковского с W1 на топо- топологические пространства о том, что для описания некоторых классов выпуклых множеств достаточно иметь информацию об их крайних точках. Теорема 1.18.1 (М.Г. Крейн, Д.П. Мильман [143]). Пусть Е — локально выпуклое линейное топологическое пространство. Тогда для любого компакта А С Е справедливо включение А С со extr Л.
§1.18. Крайние точки и лучи 163 Доказательство. Обозначим через О совокупность всех ком- компактных крайних подмножеств множества А. Так как множество А само является своим крайним подмножеством, то О / 0. Сформулируем два утверждения. (i) Любое непустое пересечение множеств из О принадлежит О. (И) Для любого S е О и любого р е Е*\{0} опорное множество Sp = {х Е S | (р, ж) = s(p, 5)} также принадлежит О. Доказательство утверждения (i) очевидно. Докажем утвержде- утверждение (п). Из компактности множества S, очевидно, следует компакт- компактность множества Sp. Пусть а = s(p,S). Предположим, что существу- существуют точки х Е А, у Е А и число Л Е @,1) такие, что Хх + A — Х)у = z ? Sp. Так как точка z Е S и множество S Е О, то по определению крайнего множества справедливы включения х Е S и у ? S. Поэтому справедливы неравенства (р, ж) < а, (р, у) < ос. Поскольку (р, z) = а, а функционал р линеен, то отсюда следует, что (р, х) = а = (р, 2/), т.е. ж, ^/ G Sp. Следовательно, справедливо включение Sp E О. Зафиксируем произвольное крайнее множество S G О и покажем, что оно содержит по крайней мере одну крайнюю точку. Обозначим через О; все компактные подмножества множества 5, входящие в О. Так как S G ff, то Q,' ф 0. Для множеств из О; определим отношение порядка, т.е. скажем, что справедливо неравенство А < В для множеств А, В G О;, если справедливо включение icS. По теореме Хаусдорфа (теорема б § 1 гл. 1 из [30]) в О; существует максимальное линейно упорядочен- упорядоченное подмножество множеств, которое обозначим V. Для любых Ai, А2 G V либо А\ С ^2, либо А2 С Ai, и это множество Р нельзя дополнить никаким подмножеством из О;, не нарушая линейную упо- упорядоченность. Пусть М — пересечение всех множеств, входящих в V. В силу линейной упорядоченности совокупность множеств V является цент- центрированной системой компактов, и поэтому в силу известного свойст- свойства непустоты центрированных систем компактов (см. теорему 1.1.1) множество М непусто. Из утверждения (i) следует, что множество М G О. Из максималь- максимальности совокупности множеств V следует, что никакое собственное подмножество М не входит в О; С О. Поэтому в силу (И) всякий непрерывный функционал постоянен на М. Отсюда (так как любые две точки из Е могут быть разделены функционалом из Е*) следует, что множество М является одноточечным множеством, т.е. доказали существование крайней точки множества А, содержащейся во мно- множестве S. 11*
164 Гл. 1. Выпуклый анализ Предположим, что существует точка ж о Е Л такая, что ж о (? ^ со (extr Л). Тогда по теореме 1.9.3 об отделимости точку ж о мож- можно сильно отделить от множества со (extr Л) некоторым функциона- функционалом р, а именно: найдутся функционал р ф 0 и число е > 0 такие, что (р, х) < (р, хо) —е для всех х Е со (extr Л). Получили, что мно- множество со (extr А) не пересекается с опорным множеством Ар = {х Е А\ (р, ж) = (р, жо)}. Но, с другой стороны, как показано в утвержде- утверждении (И), множество Ар является крайним подмножеством множест- множества Л, и по доказанному выше оно должно содержать крайнюю точку множества Л, т.е. Ар П extr Л ф 0. Противоречие. ? Из доказанной теоремы немедленно получаем следствие. Следствие 1.18.1. Выпуклый компакт из локально выпуклого пространства совпадает с замыканием выпуклой оболочки его край- крайних точек. Теорема 1.18.2. Пусть А — компакт в локально выпуклом ли- линейном топологическом пространстве ЕисбА — также компакт. Тогда крайние точки множества со Л принадлежат компакту А и являются его крайними точками. Доказательство. Допустим, что существует точка х Е Е extr (со А)\А. По предложению 1.1.8 найдется выпуклая окрестность нуля V такая, что (х + V) Р| Л = 0. В силу непрерывности сложения найдется также такая выпуклая окрестность нуля С/, что U — U С V. Тогда (х + U) f](A + U) = 0 и х ? A + U. Семейство множеств {у + U}v^a есть открытое покрытие ком- компакта Л; пусть {yi + U}i<i<n — конечное подпокрытие компакта Л. Определим множества А\ = со ((^ + U) П Л) С уi + U, г = 1,..., п. Тогда А{ и со Ai — замкнутые подмножества компактов Л и со Л, т. е. компакты, причем в силу построения множеств Ai выполнены п включения Л С (J Ai С со Л. С учетом предложения 1.14.2 получаем г=1 со Л = ( П \ ( П = ш( |J АЛ =cof IJ Поэтому из того, что х G со Л , следует, что ж = J^ А^, где А^ > О, п г=1 ^2 Ai = 1, ^ ^ со Ai С со А. Но так как ж — крайняя точка со Л, то г=1 существует номер го G 1,п такой, что х = а^0, т.е. ж G соЛ^0. Сле- Следовательно, х G 2/г0 + ?/ С А + С/. Но это противоречит тому, что по построению х (? A -\-U. Таким образом, допущение о существовании точки х G extr (со Л)\Л неверно.
§1.18. Крайние точки и лучи 165 То, что из включений х Е extr (со Л) и х Е Л следует включе- включение х Е extr Л, доказывается элементарно от противного. ? Теорема 1.18.3 (Г.М. Минковский [154]). Пусть А С W1 — ком- компакт. Тогда со А = со (extr Л). A.18.1) Доказательство. Включение со (extr Л) С со Л очевидно. Из того, что Л — компакт в Мп, следует, что и со Л — тоже компакт в Мп, т.е. со Л = со Л (следствие 1.14.1). Докажем обратное включение индукцией по размерности прост- пространства п. В случае, когда пространство одномерно (т.е. п = 1), компакт Л имеет минимальный (точка а) и максимальный (точка Ъ) элементы, которые суть его крайние точки. При этом со Л = [а, Ь] и со extr Л = = [а, 6], т.е. утверждение верно. Допустим, что включение со Л С со (extr Л) доказано в прост- пространствах размерности от 1 до п — 1. Докажем его в W1. Зафиксируем точку х Е со Л С W1. Поскольку по теореме 1.18.2 extr (со Л) С extr Л, то если х Е extr (со Л), то х Е со (extr Л). Пусть теперь точка х Е со Л не является крайней точкой множест- множества со Л. Выберем некоторую точку а\ Е extr (со Л). Проведем пря- прямую I = aff{x,ai}; тогда I П со Л = [y,ai] D [x,ai], где у Е <9соЛ. Че- Через точку у проведем гиперплоскость Н, опорную ко множеству со Л. При доказательстве теоремы 1.18.1 было показано, что НП (со А) есть крайнее подмножество множества со Л, причем по п. (И) тео- теоремы 1.18.1 и по теореме 1.18.2 справедливы включения extr (Н П П со Л) С extr (со Л) С Л. По предположению индукции найдется на- бор точек {ai}™^ С extr (H П со Л) такой, что у е со (J {а^}. В итоге г=2 получаем, что п+1 х G co{ai,2/} С со И {а{\ С со (extr Л). ? г=1 Перейдем к обобщению теорем о крайних точках на случай, когда выпуклое замкнутое множество Л С W1 является неограниченным множеством. В первую очередь отметим, что утверждение теоре- теоремы 1.18.3 может оказаться неверным. Например, конус {(ж, у, z)\ z2 > > х2 + у2, z > 0} имеет единственную крайнюю точку 0, т. е. равенст- равенство A.18.1) не имеет места. Определение 1.18.3. Пусть Л — неограниченное выпуклое замкнутое множество из Мп, а О^~А — его асимптотический конус
166 Гл. 1. Выпуклый анализ (см. определение 1.4.5). Пусть точка х Е Л и вектор у Е О+Л\{0}. Множество 1(х,у) = {х + \у\\ > 0} назовем крайним лучом множест- множества Л, если множество А\1(х,у) выпукло и х + Ху ? A VA < 0. Сово- Совокупность всех крайних лучей множества А обозначим через rext A Отметим, что в определении 1.18.3 точка х есть вершина крайнего луча 1(х,у), поэтому точка х является крайней точкой множества А. Лемма 1.18.1. Пусть Я — некоторая опорная гиперплоскость к выпуклому замкнутому множеству А С W1, причем extr (А П Я) ф Ф 0. Тогда множество extr Л непусто и справедливы равенства extr (А ПН) = (extr А) П Я, rext (АПН) = (rext Л) П Я. A.18.2) Доказательство. По определению опорной гиперплоскос- гиперплоскости Я существует вектор р Е Мп\{0} такой, что Я = {a Е W1 | (р, а) = = s(p, Л)}, и поэтому выполнено включение Л С {а Е Mn | (р, а) < < s(p,A)}. Пусть выбрана точка х е extr (Л П Я). A.18.3) Из включения A.18.3) следует, что точка ж G Я. Допустим, что точка ж ^ extr Л. Тогда найдутся точки у, z из Л (у Ф z) и число A G @,1) такие, что ж = А^/ + A — A)z, причем в си- силу A.18.3) одна из точек (например, у) не лежит в Я. Отсюда (р, у) < s(p, Л), (р, z) < s(p, А), что влечет s(p, А) = (р,ж) = А(р,2/> + A - \){p,z) < s(p,A). Получили противоречие, которое показывает, что х G extr Л. Итак, мы показали, что extr Л ф 0 и справедливо включение extr (Л П Я) С (extr Л) П Я. Если точка х G (Л П Я)\ех^ (Л П Я), то найдется отрезок, при- принадлежащий множеству Л П Я и содержащий точку х внутри себя, следовательно, этот отрезок содержится в Л, т.е. х (? extr Л. Отсю- Отсюда следует включение (extr Л) П Я С extr (Л П Я). Первое равенство в A.18.2) доказано. Пусть выбран луч / = {х0 + \у0 | А > 0, у0 ф 0} С Л такой, что хо + Хуо ? А для любого А < 0. Если I С (АП Я)\rext (Л П Я), то / (?_ rext Л (это легко показать от противного). Отсюда следует включение (rext Л) П Я С rext (АПН). Пусть луч / С rext (Л Р| Я). Следовательно, / С Я. Если допус- допустить, что луч / (jL rext Л, то найдутся точка х G / и точки у, z из Л
§1.18. Крайние точки и лучи 167 (у ф z), а также число Л Е @,1) такие, что х = Ху + A — X)z. При этом одна из точек (например, у) не принадлежать Н, так как в противном случае это означает, что / ^ rext (А П Н). Отсюда (р, у) < s(p,A), (p,z) < s(p,A). Как и при доказательстве первого равенства, получаем s(p,A) = (р,х) = А(р,2/> + A-А)(р,^> < s(p,A), что приводит к противоречию. Отсюда следует включение / С rext A, т.е. I С (rext А) П Я. П Лемма 1.18.2. Пусть A CW1 — замкнутое выпуклое множест- множество с непустой внутренностью. Пусть граница дА множества А есть непустое выпуклое множество. Тогда А есть замкнутое по- полупространство, а дА — его граничная гиперплоскость. Доказательство. Докажем утверждение индукцией по раз- размерности пространства п. При п = 1 и п = 2 утверждение очевидно. Пусть оно верно в пространствах Жк при любом & = 1,...,п — 1. Покажем, что оно верно ив!п. Рассмотрим точку х G дА и проходящую через х опорную ко мно- множеству А гиперплоскость Hq, пусть Hq — замкнутое полупространст- полупространство с границей Но, содержащее множество А. Зафиксируем точку у G int А. Рассмотрим произвольную гипер- гиперплоскость Hi, проходящую через точки х и у. Множество An Hi замкнуто и выпукло в гиперплоскости Hi, причем относительная внутренность множества А П Hi в Hi непуста. Обозначим ее 'тЬнг(АГ\ Hi). Кроме того, опорной гиперплоскостью ко множеству А П Hi в точке х в гиперплоскости Hi является Hq П HHi, а границей множества А П Hi в Hi является множест- множество (in^)\int^(in^). Легко видеть, что int#i (An Hi) D (int А) П Hi. Покажем обратное включение. Для любого z G int#i (А П Hi) отрезок [у, z] можно продолжить за точку z, оставаясь в А П Hi, откуда в силу теоремы 1.2.1 и включе- включения у G int А получаем, что z G int Л. Следовательно, int^i (An Hi) = (int А) П Hi, откуда получаем ра- равенство множеств (А П Нг)\ intHl (А П Нг) = (А П #i)\(int А П Нг) = дАпНи т.е. левое множество выпукло, так как множества д А и Hi по условию выпуклы.
168 Гл. 1. Выпуклый анализ По предположению индукции отсюда следует, что множество Л П П Н\ является замкнутым полупространством в Hi с опорной гипер- гиперплоскостью HqHHi, т.е. А П Щ = Яо П Яц, дАпН1=Н0ПН1. Рассмотрев всевозможные гиперплоскости i?i, проходящие через точ- точки х и ^/, получаем, что Л = Яо и <9Л = Яд. ? Теорема 1.18.4 (В.Кли [142]). Пусть icin — выпуклое замк- замкнутое множество, не содержащее прямых (т. е. одномерных аф- аффинных подмножеств). Тогда extr Л ф 0 и справедливо равенство А = со (extr A U rext A). A.18.4) Доказательство. Проведем доказательство индукцией по раз- размерности пространства. На прямой Ш. равенство A.18.4), очевидно, имеет место, и множество extr А непусто. Допустим, что extr Л ф 0 и равенство A.18.4) верно в пространст- пространствах Жк при любом & = 1,... ,п — 1. Покажем, что эти соотношения верны и в пространстве Жп. Рассмотрим множество Л Cin, у которого hit А ф 0 (в против- противном случае получили бы задачу меньшей размерности, переходя в аффинное подпространство, порожденное множеством Л; в этом под- подпространстве по индуктивному предположению утверждение теоремы справедливо). Граница дА данного множества не выпукла, так как в противном случае по лемме 1.18.2 множество Л было бы полупространством, что противоречит условию теоремы: множество Л не содержит пря- прямых. Следовательно, существуют точки уо, zo Е дА и точка хо Е hit Л такие, что хо Е [з/оэ^о]- Пусть Iq — прямая, проходящая через точки уо и zo, т.е. /о = зЛ{уо,2о}- Тогда (см. указание к упр. 1.9.11) справедливо равенство 10ПА= [2/о, ^о]. A.18.5) Пусть х — произвольная точка из множества Ли/ — прямая, проходящая через точку х параллельно прямой Zo- Тогда прямая I в пересечении со множеством Л дает некото- некоторый отрезок [y,z] и х G [y,z] (при этом возможно равенство y — z). Действительно, если бы некоторый луч вида 1(х,а), параллельный прямой Zo, принадлежал множеству Л, то в силу выпуклости и замк- замкнутости множества Л некоторый луч прямой Zo также принадлежал бы множеству Л, что противоречит равенству A.18.5). Обозначим через Ну и Hz опорные гиперплоскости ко множест- множеству Л, проходящие через точки у и z соответственно. Тогда с учетом
§1.18. Крайние точки и лучи 169 леммы 1.18.1 и равенства A.18.4) (верного по предположению индук- индукции в гиперплоскостях Ну и Hz) получаем х е [y,z], у е со (extr (Л П Ну) U rext (Л П Ну)) = (со (extr A U rext Л)) П Яу, z eco (extr (Л П Я*) U rext (А П Я*)) = (со (extr Л U rext Л)) П Hz, откуда х Е со (extr Л U rext Л). Поэтому в силу произвольности выбора точки х Е Л получаем включение Л С со (extr Л U rext Л). Обратное включение Л D со (extr Л U rext Л) очевидно. ? Отметим важное следствие теоремы 1.18.4. Следствие 1.18.2. Пусть А С W1 — непустое выпуклое замк- замкнутое множество, не содержащее прямых. Тогда extr Л ф 0. Определим теперь понятие выступающей точки. Определение 1.18.4. Пусть Л — множество из Е. Точка х G Л называется выступающей точкой множества Л, если существует опорная гиперплоскость Я ко множеству Л в точке х (т.е. Я = = {z\ (р^г) = s(p,A)}, p G i?*\{0}), причем такая, что имеет место равенство Н П А = {х}. Будем обозначать множество выступающих точек множества Л через ехр Л, а замыкание множества выступающих точек через ёхр Л. Очевидно, что каждая выступающая точка является крайней точ- точкой. Обратное в общем случае неверно, например, у множества Л = V " Крайняя, но не выступающая точка 77777777777 Пи/НИИ, ттттттп А :' ¦ Выступающая точка A = Bi@) + [(-2,0), B,0)] Рис. 12 = co{#i((-2,0)) U#i(B,0))} С Ж2 точка B,1) крайняя, но не выс- выступающая точка. Таким образом, справедливо включение ехр Л С С extr Л (рис. 12). Теорема 1.18.5 (С. Страшевич [168]). Для любого замкнутого выпуклого множества А С W1 справедливо равенство ехр Л = = extr Л.
170 Гл. 1. Выпуклый анализ Доказательство. Если точка х является крайней (или высту- выступающей) точкой множества Ли ||ж|| < 5, то она является крайней (или выступающей) точкой множества АП В$ @). Поэтому достаточ- достаточно доказать теорему для случая, когда Л есть выпуклый компакт. Покажем, что любая крайняя точка выпуклого компакта А лежит во множестве ёхр А. Предположим противное, что существует точка х Е extr Л\ёхр Л, т.е. ?>(ж,ехр А) > 0. Если допустить, что ж Е со ёхр Л, то из того, что х Е extr Л и ёхр Л С Л, следует, что х Е ёхр Л, т.е. ?>(ж,ехр Л) = = 0 (противоречие с допущением). Итак, х ^ со ёхр Л, и поэтому су- существует гиперплоскость Н, сильно разделяющая точку х и выпук- выпуклый компакт со ёхр Л, причем такая, что х ^ Н и Н П со ёхр Л = 0. Пусть Hi — замкнутое полупространство с границей Н, в котором лежит точка ж, а Н2 — замкнутое полупространство с границей Н, в котором лежит со ёхр Л. Покажем, что существует точка a Е (ехр Л) П Hi, что противоре- противоречит включению ехр Л С intH2, и завершим доказательство. Пусть р — единичная нормаль к гиперплоскости Н, направленная вНит.е. H = {z\(p,z)=a}, Нг = {z\ (p,z) > a}, H2 = {z\(p,z)< < а}. Пусть е — наибольшее положительное число такое, что х — ер G Hi. Определим число X > е и точку у = у(Х) — х — Хр. Рассмотрим шар В\{у). По построению х G дВ\{у). По теореме Пифагора получаем, что расстояние от точек полупространства H2j не принадлежащих шару В\(у), до точки х более чем л/2гА. Определим число г = sup \\z — х\\. Уточним число Л так, что- бы л/2гА > г. Тогда хотя множество А и содержит точки, отстоящие от точки у не менее чем на Л (такова, например, точка ж), в то же время множество А П Н2 содержится внутри шара В\(у). Выберем точку a G А так, чтобы \\а — у\\ = max \\z — у\\. Так как \\а — у\\ > zeA > Л, то а ? Н2. По построению шар В\\а_у\\(у) содержит множест- множество Л, точка a G дВ\\а_у\\(у). Поэтому касательная плоскость к ша- шару В\\а_у\\ (у) в точке а в пересечении со множеством Л содержит лишь одну точку а, т.е. а G ехр Л, что противоречит включению ёхр Л С С ЫН2. П Упражнение 1.18.1. Доказать, что у выпуклого компакта из М2 множество крайних точек замкнуто. Показать, что у произвольного (не выпуклого) компакта из М2 множество крайних точек может быть не замкнуто.
§1.19. Выпуклость функции и гладкость ее сопряженной 171 Упражнение 1.18.2. Привести пример выпуклого компакта из М3, у которого множество крайних точек не замкнуто («состыкуй- («состыкуйте» два подходящих конуса). Упражнение 1.18.3. Показать, что если выпуклое замкнутое множество из W1 содержит в качестве подмножества прямую (т.е. одномерное аффинное подмножество), то оно не содержит крайних точек. Упражнение 1.18.4. Пусть А С W1 — компакт. Доказать, что для любой точки х Е д со А существуют точки {х^=1 С А, где к к < п, такие, что х е со |J {xi}. i=l Упражнение 1.18.5. Пусть AcMJ1 — компакт, В С со А — компакт и х Е extr А\В. Доказать, что х ^ со В. Упражнение 1.18.6. Показать, что замкнутый единичный шар в пространстве суммируемых функций Li([0,1]) не имеет крайних точек. Упражнение 1.18.7. Показать, что шар в пространстве непре- непрерывных функций над вещественным полем скаляров С ([0,1]) имеет только две крайние точки — функции-константы —1 и 1. Упражнение 1.18.8. С помощью теоремы Б анаха-А л аог л у и те- теоремы Крейна—Мильмана доказать, что не существует банахо- банахова пространства, сопряженным к которому является пространст- пространство Li([0,1]) или пространство С([0,1]). § 1.19. Выпуклость функции и гладкость ее сопряженной В данном параграфе мы рассмотрим некоторые специальные типы выпуклости функций в гильбертовом пространстве И и их свойства. Определение 1.19.1. Собственная выпуклая функция /:?{—>- —> Ж называется строго выпуклой, если для любых ^i, Ж2 E dom/ таких, чтож! ф Х2, и для любого Л Е @,1) справедливо строгое не- неравенство A - Л)х2) < A/(si) + A - А)/(х2). A.19.1) Определение 1.19.2. Собственная выпуклая функция /: И —>- —У Ж называется сильно выпуклой с константой сильной выпуклос- выпуклости к > 0, если для любых xi, X2 ? dom/ и для любого Л G @,1) справедливо неравенство f АA А)||Ж1 х2\\2. A.19.2) - \)х2) < Xf(Xl) + A - А)/(Ж2) - f АA - А)||Ж1 - х2\\2.
172 Гл. 1. Выпуклый анализ Отметим, что всякая сильно выпуклая функция является строго выпуклой. Лемма 1.19.1. Функция / сильно выпукла с константой я>0 тогда и только тогда, когда функция f(x) ||ж||2 выпукла. 2 Доказательство. Записав неравенство выпуклости для функ- функции f(x) ||ЖЦ2 и воспользовавшись очевидным равенством (A G е@Д)) ||Axi + A — А)а?21|2 = A||xi||2 + A — А)||ж2||2 — АA — A)||xi — х2\\2, получаем неравенство A.19.2). ? Определение 1.19.3. Выпуклая функция f: % —ь Ш. называется су б дифференцируемой на множестве U, если в любой точке х G U ее субдифференциал df(x) непуст. Собственная выпуклая функция / называется су б дифференцируе- дифференцируемой, если ее субдифференциал непуст на множестве dom/. Лемма 1.19.2. Необходимые и достаточные условия а) строгой и б) сильной с константой к > 0 выпуклости су б дифференцируемой функции f: И —> Ж следующие: для любых различных точек х\, х2 G Gdom/ и любого элемента р1 G df(xi) справедливо неравенство: а) /Ы >/(si) + (pi,a;2-a;i); A.19.3) б) f(x2) > /(xi) + (р1,ж2 - хг) + | ||ж2 - ^||2. A.19.4) Доказательство, а) Пусть функция / строго выпукла. Допус- Допустим, что неравенство A.19.3) неверно, т.е. нашлись различные точ- точки xi, X2 G dom / и элемент pi G df(xi) такие, что в силу определения субдифференциала справедливо равенство f(x2) = (рих2 - Xl) + /On). A.19.5) Выбрав Л G @,1), определим точку у = Л^2 + A — Х)х\. Из неравенст- неравенства выпуклости и равенства A.19.5) получаем f(y) < ffri) + А(/(яг2) - f(x!)) = /(an) + A(pi,яга - По определению субдифференциала имеем /Ы >
§1.19. Выпуклость функции и гладкость ее сопряженной 173 Следовательно, справедливо равенство f(y) = f(xi) + А(р1,ж2 -хг) = А/(ж2) + A - X)f(x1) = что противоречит строгой выпуклости функции /. Пусть теперь выполнено A.19.3). Выберем у = A — A)#i + где A Е @,1); согласно неравенству A.19.3) при q Е df(y) имеем /Ы > f(y) + (q, x2-y) = f(y) + (q, A - А)( /fai) > /Ы + (^, Ж1 - у) = /Ы + (^, X(x2 - Умножая первое неравенство на А, а второе — на 1 — А и складывая их, получаем А/Ы + A-А)/(Ж1)>/0/), т.е. функция / строго выпукла. б) Пусть функция / сильно выпукла с константой к и р\ G df(xi). Докажем неравенство A.19.4). По определению субдифференциала из неравенства A.19.2) получаем Л < I (A - А)/Ы + А/(х2) - f АA - А)||о:2 - an||2 - Устремляя А к нулю, получаем неравенство A.19.4). Пусть для функции / выполняется условие A.19.4). Определим у = A - X)xi + Аж2, где A G @,1), и пусть g G df(y). В силу нера- неравенства A.19.4) получаем Умножая первое неравенство на 1 — А, а второе — на А и складывая, получаем | А2A - А)||о:2 - Х1\\2 + | A - АJА||х2 - Ж1||2 = = /(A - А)ап + Ах2) + f АA - A)||ori - х2\\2. П
174 Гл. 1. Выпуклый анализ Лемма 1.19.3. Необходимые и достаточные условия а) строгой и б) сильной с константой к выпуклости суб^дифференцируемой функции f'. И —ь Ж соответственно следующие: для любых различ- различных xi, X2 G dom/ и любых pi G df(x\), P2 G df(x2) выполнено нера- неравенство: а) (Р2-Р1,Ж2-Ж1> >0; A.19.6) б) (р2 ~Pi,X2 - xi) > х\\х2 - хх\\2. A.19.7) Доказательство. Необходимость условий а) строгой и б) силь- сильной выпуклости функции проверяется аналогично. Проверим, напри- например, необходимость сильной выпуклости. По лемме 1.19.2 имеем f{x2) > f{x1) + (pi,x2 -хг) + ^ \\х2 -^i||2, f(xi) > f{x2) + (Р2,Ж1 ~X2) + ^ \\X2 -Xx\\2. Складывая два последних неравенства, получаем A.19.7). Докажем достаточность неравенства A.19.6). Допустим, что не- неравенство A.19.6) справедливо, но функция / не является строго выпуклой. Тогда в силу леммы 1.19.2 найдутся различные точки xi, х2 и р\ G df(xi) такие, что f(x2) = f(x\) + (pi, x2 — х\). Так как в силу определения субдифференциала имеет место неравенство f(z) > ^ f(xi) + (pi, z — xi) Vz, то, вычитая из него приведенное выше равенство, получаем f(z) — f(x2) > (pi, z — x2) \/z, т.е. p\ G df(x2), что влечет нарушение строгого неравенства A.19.6). Противоречие. Докажем достаточность неравенства A.19.7). Определим к точек i — \ х(г) = х\ Л — (х2 - #i), г G 1, к. к Выберем точки p(i) € df(x(i)). Из определения субградиента следует 1Ы - /(х,) = (f(x2) - f(x(k))) + (f(x(k)) - f(x(k - 1))) + ... к ... + (f(xB)) - f(Xl)) > X)(p@. ?iy^i)- AЛ9-8) i=l В силу неравенства A.19.7) имеем (p(i) -pi, x(i) - xi) > n\\x(i) - xi\\2, i G l,fc. i — 1 Делая замену х(ъ) — x\ — —— (x2 — xi), получаем к (р(г), х2 — xi) > (pi, x2 — xi) -\ — k\\x2 — ^i||2, i G l,fc. A.19.9)
§1.19. Выпуклость функции и гладкость ее сопряженной 175 В итоге из A.19.8) и A.19.9) получаем к г=1 г=1 к-1 = (рь х2 -хг) ^ Устремляя число точек разбиения отрезка к к бесконечности, получа- получаем неравенство A.19.4). ? Теорема 1.19.1 (Е.Г. Голынтейн [28]). Пусть f: H^R —собст- —собственная су б дифференцируемая выпуклая функция и intdom/* ^0- Тогда дифференцируемоетъ по Гато сопряженной функции /* на множестве intdom/* и пустота ее су б дифференциала на границе множества dom/* эквивалентны строгой выпуклости функции /. Доказательство. 1) Покажем, что из дифференцируемости по Гато функции /* на int dom /* и пустоты ее субдифференциала на границе dom/* следует строгая выпуклость функции /. Допустим, что функция / не строго выпукла. По лемме 1.19.2 найдутся различ- различные точки xi, X2 из dom/ и pi G df(x\) такие, что /(жг) = f(xi) + + (ръ Х2 — xi). Отсюда следует включение pi G df(x2). Поскольку субдифференцируемая функция / полунепрерывна снизу, то по тео- теореме 1.16.4 имеем {xi, X2} С <9/*(pi). Но это противоречит условию, что на множестве dom/* функция /* дифференцируема по Гато во внутренних точках (т.е. 9/* — одноточечное множество ) и 9/* = 0 на границе. 2) Покажем, что из строгой выпуклости функции / следует диффе- ренцируемость по Гато сопряженной функции /*. Как было показано в замечании 1.16.1, выпуклая функция /* : И —У Ж субдифференцируе- ма на внутренности своего эффективного множества, следовательно, для любого р G intdom/* имеем df*(p) ф 0. Если предположить, что существуют две различные точки {^i, X2} С 9/*(р), то в силу теоре- теоремы 1.16.4 имеем р G df(xi), г = 1, 2, т. е. /(жг) = f(xi) + (р, Х2 — xi), что по лемме 1.19.2 противоречит строгой выпуклости функции /. Если р G дdom/*\ dom/*, то очевидно, что df*(p) = 0. Если р G G дdom/* П dom/*, то по теореме об отделимости найдется опор- опорная гиперплоскость, разделяющая точку р и множество intdom/*; пусть q — ее внешний нормальный вектор. Тогда ее производная по направлению равна (/*);(Р5^) = +00 •> и> следовательно, множест-
176 Гл. 1. Выпуклый анализ во df*(p) либо пусто, либо неограничено. Во втором случае во мно- множестве df*(p) найдутся по крайней мере два разных элемента xi, #2, т.е. р G df(xi) и р Е df(x2), что в силу леммы 1.19.3 противоречит строгой выпуклости функции /. ? Замечание 1.19.1. Если в теореме 1.19.1. выбрано пространст- пространство И = Жп, то выполнения условия int dom f*^0B теореме тре- требовать не нужно, так как оно следует из строгой выпуклости функ- функции /. Действительно, если df*(p) — одноточечное множество хо, то для любого q ? Жп имеем (f*)'(p',q) = (q,xo) < +oo, следовательно точ- точка р является С-внутренней точкой множества dom /* (определение С-внутренней точки см. в упр. 1.2.7), а в силу выпуклости множест- множества dom/* из упр. 1.2.8 следует, что она является внутренней точкой. Приведем еще один пример, когда выполнены условия теоре- теоремы 1.19.1, точнее, когда dom /* = %. Это пример, когда функция / яв- является коэрцитивной. Функция f: % —> Ж называется коэрцитивной, если она удовлетворяет условию Hm {^ |||| В этом случае для любого вектора р Е И найдется число 5Р > 0 такое, что // х \ f(x)\ (р, -л—л- ) - 4тЧг < О ПРИ любом ж, \\x\\ > (L, \\ ||ж|| / ||ж|| / м м _ ^ и также очевидно, что sup \\a \\x\\<6p откуда следует, что функция f*(p) = sup ((p,x) — f{x)) < +00, т.е. Лемма 1.19.4. Пусть U С И — открытое выпуклое множест- множество. Если функция /: U —>Ж дифференцируема по Гато и для лю- любых #1, #2 ? U справедливо неравенство (ff(xi) — /'(#2), х\ — х^) > > 0, то функция f выпукла. Доказательство. Зафиксируем точки х\, х<ь G U, х\ Ф хъ- Рас- Рассмотрим (р(Х) = /(Аяп + A - Х)х2) - Xf(xi) - A - А)/(ж2), хх = Xxi + A - Х)х2. Выпуклость функции / эквивалентна неположительности функции ip
§1.19. Выпуклость функции и гладкость ее сопряженной 177 при Л Е [0,1], поэтому будем доказывать последнее. Имеем <р'(\) = (/'(Ляп + A - Х)х2),х1 - х2) + f(x2) - Для разных чисел Ai, A2 G [0,1] получаем p(Ai) ?>(А2) = ^ Ai — A2 т. е. по условию леммы (f'(Xi) — (f1f(Л2) > 0 при Ai > A2. Если найдется число Ао G @,1) такое, что <р(Хо) > 0, то в силу условий <р@) = </?A) = = 0 по теореме Лагранжа о промежуточных значениях получаем, что найдутся /jli е (О, А0) и /л2 G (Ао, 1) такие, что (f'(fii) > 0, a (f'(fi2) < 0. Это противоречит доказанной монотонности производной у?'. ? Лемма 1.19.5. Пусть функция /: ?{ —у Ж дифференцируема по Гато на И. Для того чтобы функция f была выпуклой, а ее про- производная по Гато f удовлетворяла на % условию Липшица с конс- константой L > 0, т. е. (i) \\f'(xi) - f(x2)\\ < L\\Xl - x2\\ Vrci, x2 e H, необходимо и достаточно выполнения одного из двух условий: (ii) f(xi) > f(x2) + (f'(x2), an - x2) + ± \\f'(Xl) - f(x2)\\2 Vari, x2 ? %; (iii) </'(an) - f(x2), Xl ~x2)>j ||/'(^i) " /'ЫЦ2 Vxu x2 e Я. Доказательство. 1. Пусть функция / выпукла и выполнено условие Липшица (i). Для зафиксированных точек х\, х2 из % опреде- определим точку х(Х) = A - X)xi + Хх2 и функцию ip(X) = f(x(X)). Так как ее производная (f'(X) = (ff(x(X)), x2 —xi), то по формуле Ньютона- Лейбница получаем 1 рA) - ^@) = /(х2) - /(Ж1) = |(/'(аг(А)), ж2 - on) dA. О Отсюда 1 /(ж2) = /(an) + (/'(^i), x2 - xi) + J(f'(x(X)) - f'(Xl), x2 - Xl) dX. 0 Оценим подынтегральное выражение, используя условие Липшица (i): {f(x(X)) - /'(an), x2 - хг) < \\f(x(X)) - /'ЫШкз - ап|| < < Ц\х(Х) -ап||||аг2 -ап|| = 2 12 Е.С. Половинкин, М.В. Балашов
178 Гл. 1. Выпуклый анализ Следовательно, /Ы < f(xi) + (f'(xi), х2 - Х1) + | \\х2 - Х1\\2. Выберем точку Х2 = х\ f'(xi). Тогда /Ы = f(*i-j; /'(*i)) < /Ы - ± l№i)ll2- Отметим, что если функция / ограничена снизу, т.е. /о = inf f(x) > > -оо, то /о < /(xi) - — H/X^i)!!2, следовательно, >/o + ^l№i)l|2. A.19.10) Рассмотрим теперь функцию д(х) = f(x) - /02) - (/4^2), х - х2). Функция д выпукла и ее производная д' удовлетворяет условию Лип- Липшица (i), причем д'(х2) = 0, следовательно, Х2 — глобальный мини- минимум функции д на И, причем д{х2) = 0. Воспользовавшись неравенст- неравенством A.19.10), запишем Положив в предыдущей формуле х = xi, получим f(xi) - f(x2) - {f(x2), хг ~х2)>± ||/'(^i) - f(x2)\\2, т.е. выполнено условие (И). 2. Покажем, что из неравенства (И) следует неравенство (ill). В самом деле, складывая неравенства f(xi) > f(x2) + (f'(x2), Xl -X2) + ^ || f{x2) > f(Xl) + (f'(Xl), x2 -xi} + ± \\f'(Xl) - f(x2)\\2 и сокращая на f{x\) + /(^2), получаем неравенство (iii). 3. Покажем, что из неравенства (iii) следует выпуклость функ- функции / и условие (i). Из неравенства (iii) следует, что (f'(xi) — /'(#2), xi — Х2) > 0, т.е. по лемме 1.19.4 функция / выпукла. Далее, из неравенства (iii) получаем неравенство \ < \\f\xx) - !\х2)\\\\Хх - хг\\, которое дает условие Липшица (i). ?
§1.19. Выпуклость функции и гладкость ее сопряженной 179 Теорема 1.19.2 (Е.Г.Гольштейн [28]). Пусть /: Ч -> W1 — собственная выпуклая су б дифференцируемая функция. Для того чтобы выполнялось равенство dom/* = И, а сопряженная функ- функция /* была дифференцируема по Гато, причем ее производная (/*)' удовлетворял бы условию Липшица с константой L > О, необходимо и достаточно, чтобы функция / была сильно выпуклой с констан- константой к — 1/L. Доказательство. Необходимость. Из условия Липшица и леммы 1.19.5 имеем В силу теоремы 1.16.4 перепишем последнее неравенство в виде (Ж1 -x2,pi -Р2> > ^ Iki -ж2||2, где х\ и Ж2 — точки из множества dom/ такие, что pi G при г = 1,2. По лемме 1.19.3 отсюда следует сильная выпуклость функции / с константой к — 1/L. Достаточность. Пусть функция / сильно выпукла с констан- константой к = 1/L. По лемме 1.19.3 это значит, что для всех точек xi, Х2 из множества dom/ и для любых векторов pi G df(xi), i = 1,2, выполнено неравенство (x1-x2,pi-p2) > ^\\xi-x2\\2. A.19.11) По теореме 1.16.4 справедливы включения Xi G df*(pi), г = 1,2, и в силу неравенства A.19.11) из условия х\ Ф х2 следует, что р\ ф р2-> т.е. df*(pi) = {xi}. Это значит, что функция /* дифференцируема по Гато, а из неравенства A.19.11) и леммы 1.19.5 следует, что ее производная удовлетворяет условию Липшица. Осталось доказать равенство dom/*='H. По лемме 1.19.2 из неравенства A.19.4) получаем (взяв х2 = х и х\ — 0, ро ? df(O)) не- неравенство /() откуда следует, что /Ос) - (р,х) > /@) + (ро -р,ж) + | ||х||2 > /@) 2 при ||ж|| > 5Р = — ||ро — р\\- Поэтому для любого вектора р G И нашли 12*
180 Гл. 1. Выпуклый анализ число 8Р > 0 такое, что ) - /(ж)) = sup т.е. /*(р) < +оо. ? Рассмотрим свойства лебеговых множеств сильно выпуклой функ- функции, удовлетворяющей условию Липшица. Напомним, что лебегово множество функции / уровня /3 Е Ж опре- определяется по формуле = {x€U\f(x)<f3}. Прежде всего отметим, что каждое лебегово множество выпуклой функции является выпуклым множеством (быть может, пустым). В случае, когда собственная функция f-.'Н^Ж субдифференци- руема и сильно выпукла с константой х, то для любого числа /3 множество Lp(f) либо пусто, либо ограничено. В самом деле, ес- если Lp(f) не пусто, то по лемме 1.19.2 из неравенства A.19.4) полу- получаем для любой точки х\ Е Lp(f) и любого элемента р\ Е df(x±) для всех точек х Е Lp(f) справедливость неравенства (А ^^ т A*\ ^> т (i*i i —I— (T)i 1* kJ — 1 \ OU J — I \ OU J_ J | \г^\ *) **^ * из которого следует, что \\х - xi + — pi т.е. ограниченность множества Lp(f). Поскольку субдифференцируемая функция / пн.сн., то множест- множество Lp(f) замкнуто. Напомним (см. определение 1.12.2), что нормальным конусом ко множеству А С И в точке а Е А называется множество N(A,a) = {реП\(р,а-х}>0 \/х Е А}. Лемма 1.19.6. Пусть точка хо является граничной точкой ле- лебегова множества Lp(f), пусть вектор ро Е df(xo). Тогда справед- справедливо включение PoeN(L0(f),xo). A.19.12) Доказательство. По определению субдифференциала функции / для любой точки х Е И имеем > f(xo) + (реи х — хо}-
§1.19. Выпуклость функции и гладкость ее сопряженной 181 Так как /(жо) — /3, то отсюда следует неравенство (р0, ж-ж0) < О Уж G Lp(f), что и означает включение A.19.12). ? Лемма 1.19.7. Пусть U С И — открытое выпуклое множест- множество. Пусть функция /: U —>Ж сильно выпукла с константой к и удовлетворяет условию Липшица с константой L на U. Определим константу R=-. A.19.13) Пусть Lp(f) — лебегово множество функции /, содержащееся во множестве U. Тогда для любых точек х\, Ж2, принадлежащих границе мно- множества Lp(f), и для любых векторов pi Е <9/(ж^), i = 1,2, справед- справедливо неравенство Цж1-ж2|| < iJ||ei-e2||, A.19.14) где a =Pi/\\pi\\. Доказательство. Прежде всего отметим, что всякая выпуклая функция, непрерывная на открытом множестве, субдифференцируема на этом множестве, т. е. / субдифференцируема на U. Выберем две точки xi G dLp(f) и векторы pi G df(xi), i = 1,2. Покажем, что справедливо неравенство Цр^Ц < L, г = 1,2. По опреде- определению субдифференциала из р\ G df{x\) имеем /(ж) - f[xx) > (pi, х-хг). В силу открытости множества U можем выбрать точку ж G U так, чтобы ж — х\ — \р\ для некоторого малого Л > 0. Тогда A||pi||2 = (pi, ж - Ж1) < /(ж) - f(Xl) < L\\x -хг\\< XL\\Pl\\. Отсюда получаем, что ||pi|| < L. Аналогично проверяется неравенст- во ||р2||<Ь. Зададим числа а = l/||pi|| > 1/L и j = 1/ЦР2Ц > \jL. По лем- лемме 1.19.2 из неравенства A.19.4) получаем af(x2) > Oif{x1) + (арь ж2 -Ж1) + а^ ||ж2 -Ж1Ц2, ) + GР2, Ж1 -ж2) +7^ 11^2 — ^1 И2-
182 Гл. 1. Выпуклый анализ Учитывая, что f{x\) = /(#2) = А сложим два последних неравенства и получим (a + j)/3 > (a + j)/3- (арг ~7Р2, х± - х2) + (а + 7) ^ НЖ2 ~^i||2. Отсюда следует, что (ei -е2, Ж1 -ж2) > (а+ т) ^ НЖ2 ~^i||2, следовательно, \\ei - е2|| > (а + 7) ^ 11Ж2 - a>i|| > ^||ж2 - xi||, что и требовалось доказать. ? Лемма 1.19.8. Пусть даны числа Pi < P2 такие, что функ- функция f: % —ь Ж непрерывна на лебеговом множестве Lp2(f), а мно- множество Ьрг(/) непусто. Тогда справедливо включение L^1(/)c CmtLP2(f). Доказательство. Из условия следует включение множеств \ f(x) <pi}c{xen fix) причем правое множество а нем открыто в силу непрерывности функ- функции / и содержится во множестве Lp2(f). ? Лемма 1.19.9. Пусть функция /: И—>Ж сильно выпукла с константой к и непрерывна на лебеговом множестве Lp2(f), Pi < < /З2, а множество Ьрг(/) непусто. Тогда справедлива оценка В частности, b-i/nif), Lfrif)) = 0. A.19.16) Доказательство. Формула A.19.16) сразу следует из нера- неравенства A.19.15). Докажем неравенство A.19.15). Очевидно, что в силу условий леммы множества Ьрг (/) и Lp2 (/) выпуклы и замкнуты. Зафиксируем граничную точку х G dLp2(f). Пусть точка х\ — проекция точки х на выпуклое множество Ьрг(/). По лемме 1.9.1 точка х\ определяется точкой х однозначно, что запишем как х\ =
§1.19. Выпуклость функции и гладкость ее сопряженной 183 Для доказательства неравенства A.19.15) достаточно показать, что \\х-Х1фих)\\<е, где е = ^^ (fo - 0i), A.19.17) откуда и последует требуемое неравенство A.19.15). Действительно, по определению лебеговых множеств справедливо включение L01(f) С Lfrtf). A.19.18) В свою очередь, если выполнено свойство A.19.17), то справедливо включение С Lfrif) + Ве@), откуда после взятия выпуклых оболочек множеств слева и справа получаем включение т.е. h(L01(f),L02(f))<s. Докажем A.19.17) для некоторой граничной точки х Е dLp2(f) и ее проекции х\ — x\{fi\,x) Е L^{f). Определим функцию ( , \ f(y), У 9{У) = < [ +оо, у f ап{ж,Ж1}. Очевидно, что полученная функция д(у) сильно выпукла с констан- константой я и непрерывна на одномерном множестве domg = aff{x, xi}. Так как выпуклая на одномерном множестве domg функция д субдиффе- ренцируема во внутренних точках множества domg, то существует субградиент р\ функции д в точке х\, причем такой, для которого най- найдется число A G 1 такое, что р\ = \{х — х\) (т. е. р\ есть субградиент сужения функции д на одномерное аффинное множество aff{x,^i} в точке х\). Покажем, что Л > 0. В силу свойств проекции точки на выпуклое множество (см. тео- теорему 1.9.1) х — х\ G N(Lfc(f), xi), т.е. для любого у G Ьрг(/) П domg выполнено неравенство (х — х\,у — х\) < 0. Из определения субгра- субградиента pi = \{х — х\) G dg(xi) получаем \{х-хиу- xi) < д(у) - д(хг) для любой точки у G L/3i(/) П dom^. Поскольку в этом случае д(у) < < Pi, a g{x\) = Pi, то отсюда получаем неравенство \{x-xi, y-xi) < 0. A.19.19)
184 Гл. 1. Выпуклый анализ Если Ьрг(/) П domg = {х\}, то Х\ — глобальный минимум функ- функции д, что по теореме 1.16.1 влечет включение О Е dg(xi), т.е. Л = 0. Если множество L^1(/) П domg содержит более одной точки, то взяв у ф xi, у Е L/3i(/) П domg, получим, что (х — х\,у — х\) < 0, и в силу A.19.19) А > 0. Запишем условие субдифференцируемости сильно выпуклой функ- функции д (см. лемму 1.19.2): р2 = д(х) > д(хг) + (Х(х -х^.х-хх) + ^ ||x-xi||2, и используя то, что д{х\) = /3i, получаем /2 откуда Цж-жхЦ < \-(р2 -А). П V ^ В заключение параграфа докажем теорему об устойчивости реше- решения задачи минимизации функции при замене ее на сильно выпуклую функцию, приближающую данную. Теорема 1.19.3. Пусть Ai, A2 С И — выпуклые замкнутые ог- ограниченные множества. Пусть даны две функции /ь/г: И —> М, удовлетворяющие на множестве А = co{Ai U A2} условиям: 1) Д: А —У Ж удовлетворяет условию Липшица с константой L>0; 2) /2 : А —У Ж сильно выпукла с константой к > 0; 3) существует число е > 0 такое, что \fi(x) — /г(ж)| < г Уж G А Пусть щ — решение задачи min /i (ж) прг/ г = 1,2. Тогда справедлива оценка _ U2|| < Доказательство. Обозначим h = h(Ai, A2). По определению расстояния по Хаусдорфу для каждого t > 1 найдется точка Ж2 G ^-2 такая, что Цжг — ^i|| < tft. Определим функцию Очевидно, что функция д является сильно выпуклой с константой и точка U2 является решением задачи min д(х). хеА
§1.19. Выпуклость функции и гладкость ее сопряженной 185 По теореме 1.16.1 необходимое и достаточное условие того, что точка и2 есть решение, имеет вид О Е дд(и2). В силу леммы 1.19.2 из неравенства A.19.4) получаем неравенство д(х2) >д(и2) + ^\\х2 -и2\\2, откуда ^ \\х2 - и2\\2 < д(х2) - д(и2) = f2(x2) - /2O2). Так как в силу условия 3) имеем /2Ы - h{u2) < fi(x2) ~ ЛЫ + 2е, а в силу условия 1) имеем ЛЫ - Л К) < L||ar2 - wi|| < Lth, то получаем и . 2Lth ~и2\\ < у откуда \\щ - и2\\ < \\щ - х2\\ + ||ж2 - w2|| < th Переходя к пределу по ? —У 1 + 0, получаем оценку A.19.20). ? В случае, когда Д = /2, теорема 1.19.3 принимает следующий вид. Следствие 1.19.1. Пусть Ai, А2 СИ — выпуклые замкнутые ограниченные множества, т. е. существует число R > 0 такое, что Ai С Дк@), ъ = 1,2. Пусть функция f-.'Н^Ж сильно выпукла с константой к > 0 и удовлетворяет на шаре Вц@) условию Липши- Липшица с константой L > 0. Пусть щ G А{ — решение задачи минимиза- минимизации f(ui) = min fix)у где г = 1,2. Тогда справедлива оценка \\u1-u2\\<J—h(A1,A2)
Глава 2 ПРИЛОЖЕНИЯ ВЫПУКЛОГО АНАЛИЗА § 2.1. Селекторы выпуклых множеств Применим изученные нами свойства выпуклых множеств и функ- функций к задаче нахождения однозначных выборок точек из множеств определенного класса, обладающих некоторыми заданными свойства- свойствами. Такие функции множеств принято называть селекторами. По- Понятно, что выборку можно осуществлять с различными целями. В данном разделе нас будет интересовать следующая задача. Пусть О — некоторый класс выпуклых замкнутых ограниченных множеств из гильбертова пространства И (или даже из Жп). Требуется поставить в соответствие каждому множеству A Е О точку z(A) Е А такую, чтобы для всякой последовательности {Лп} С О, удовлетворяющей условию h(An,A) —У 0, имело место равенство lim |Ь(ЛП) — z(A)|| = га-юо = 0. Всякий селектор, обладающий приведенным выше свойством бу- будем называть непрерывным. Нас также будут интересовать случаи, когда некоторый селектор z(A) удовлетворяет условию Гёлъдера с показателем a Е @,1), т.е. существует число L > 0 такое, что для любых множеств Л, В из О справедливо неравенство ||^(Л) — 2E)|| < < L(h(A, B))a. Скажем, что селектор удовлетворяет условию Липши- Липшица с константой L > 0, если для любых множеств Л, В из О справедли- справедливо неравенство ||^(Л) — z(i?)|| < Lh(A,B) (напомним, что h(A,B) — расстояние Хаусдорфа между множествами А и В). Рассмотрим несколько важных примеров. 1. Проекция нуля. В гильбертовом пространстве И рассмотрим семейство непустых замкнутых выпуклых множеств, содержащихся в шаре Br@). Для всякого такого множества А С Дк@) обозначим проекцию нуля на множество А через р(А). Ясно, что точка р(А) G G А есть решение задачи минимизации min||aH|2. Функция f(x) = хеА = ||ж||2, очевидно, является сильно выпуклой с константой сильной
§2.1. Селекторы выпуклых множеств 187 выпуклости к — 2 (см. § 1.19) и удовлетворяет условию Липшица на шаре Вц@) с константой L = 2R. По следствию 1.19.1 для лю- любых множеств А\ и Аъ из выбранного семейства справедлива оценка ЫА1)-р{А2)\\ < B.1.1) т. е. селектор р(А) удовлетворяет условию Гёльдера с показателем 1/2. Упражнение 2.1.1. Показать на примере (который можно построить вЕ2), что показатель 1/2 в условии Гёльдера для проекции нуля не может быть улучшен (т.е. увеличен). 2. Чебышевский центр. Рассмотрим семейство непустых вы- выпуклых замкнутых ограниченных множеств из гильбертова прост- пространства И. Для всякого множества А С И из этого семейства опре- определим функцию р(А) =inf{r >0\ЗхеП, Асх + Вг@)}. B.1.2) Определение 2.1.1. Чебышевским центром множества А назы- называют точку с(А), которая удовлетворяет включению Асс(А)+р(А)В1@). B.1.3) Лемма 2.1.1. Для всякого выпуклого замкнутого ограниченного множества А из гильбертова пространства И точка с(А), удов- удовлетворяющая включению B.1.3), существует и единственна. Доказательство. Выберем последовательности чисел г\ Е Ж+ и точек Xi (zH такие, что Г{ —У р(А) при г —у оо и справедливы вклю- включения А С х\ + TiBiifi). Отсюда для любого р G И справедливы не- неравенства s(p, A) < (р, х^ + Гг\\р\\. Так как последовательность то- точек {х^, очевидно, ограничена, то в силу слабой компактности шара из гильбертова пространства она содержит слабо сходящуюся подпос- подпоследовательность, слабый предел которой обозначим через zq. Отсюда для любого р G И в пределе получаем неравенство s(p,A) < (р, zo) + |, что по свойству опорных функций влечет включение А С Предположим, что существует другая точка zi, для которой спра- справедливо включение А С z\ + p(A)Bi@). Тогда А С Bp(z0) П Bp(Zl) С ВР1 / Л\ /9 Iko - Zl\\2 где р = р{А), р\ — \ Р т—— < Р-, чт0 противоречит определе- определению B.1.2) значения р = р(А), т.е. точка zq единственна. ?
188 Гл. 2. Приложения выпуклого анализа Тот факт, что чебышевский центр с(А) является селектором мно- множества Л, т. е. что верно включение с(А) Е Л, будет следовать из дальнейшей леммы. Лемма 2.1.2. Чебышевский центр выпуклого замкнутого огра- ограниченного множества А С И есть решение экстремальной задачи , где дл{а) = sup \\x — а||2, B.1.4) а также решение экстремальной задачи min^(a), где дл(а) = ^ир\\х — а\\2. B.1.5) аеп хеА Доказательство. Отметим, что в гильбертовом пространст- пространстве И всякая выпуклая полунепрерывная снизу функция слабо полуне- полунепрерывна снизу и по теореме Вейерштрасса 1.5.2 достигает минимума на слабом компакте, каковым является всякое выпуклое замкнутое ограниченное множества из И. Рассмотрим задачу B.1.4). Функция дд сильно выпукла как суп- супремум семейства сильно выпуклых функций с одной и той же конс- константой сильной выпуклости к — 2. Отсюда минимум функции дл на выпуклом замкнутом множестве А достигается в единственной точке, которую обозначим через а^. Определим р = у/дл^о)- Тогда для любой точки х Е А справедливо неравенство \\х — ao|| < 9-> т-е- А С по + рВ\ @), причем для любого г < р найдется точка xr Е А такая, что \\хг — ао\\ > г. Итак, доказали, что точка а® и число р удовлетворяют определению 2.1.3, т.е. а$ = с(А) и р = р{А). Покажем, что чебышевский центр с(А) есть решение и зада- задачи B.1.5). Поскольку функция дд строго выпукла и lim дл{р) — = +оо, то решение задачи B.1.5) существует и единственно. Пусть точка и — решение. Осталось показать, что и G А. Допустим противное, т.е. и ? А. Обозначим через v проекцию точки и на множество А. Определим вектор р = (и — у)/\\и — у\\ — внешнюю нормаль к выпуклому множеству А в точке у. Зафиксируем произвольную точку х G А. По теореме об отделимости это значит, что справедливо включение А С {z G 1~L \ (p, z — у) < 0}. Из последнего включения получаем неравенство (х — у, и — у) < 0, поэтому \\х — и\\2 = \\х — у — (и — v)\\2 = \\х — v\\2 — 2(х — у, и — у) + + \\и - у\\2 > \\х - у\\2 — (х — у, и — у) + \\и — у\\2 = 2 Q = \\х — v — и — v ц 4 II"-
§2.1. Селекторы выпуклых множеств 189 т.е. дА(и) > дл \-^~) + | "м ~ v" > ^А \~2/' ЧТ° пРотивоРечит тому, что точка и есть решение задачи B.1.5). Итак, доказали, что и е А, т.е. и = с(А). ? Следствие 2.1.1. Чебышевский центр выпуклого замкнутого ог- ограниченного множества А С И есть решение экстремальной задачи milieu (а), где ]jA(a,) = sup \\х — а\\. B.1.6) аеп хеА Доказательство следует из леммы 2.1.2 и равенства ]jA(a>) = Теорема 2.1.1. Для произвольных выпуклых замкнутых мно- множеств А\ и А2, содержащихся в шаре Вц@) из гильбертова прост- пространства И, справедлива оценка A2). B.1.7) Доказательство. Обозначим h = h (A i, Л2), gi(a) = sup \\x — xeAi — all2, щ = arg min gAa), г = 1,2. По лемме 2.1.2 справедливы ра- aeAi венства щ = c(Ai). Исследуем свойства функций gi. Обе они являются собственными сильно выпуклыми функциями с константой к = 2 как супремумы семейств сильно выпуклых функций с общей константой к = 2. Покажем, что функции д\ и дъ удовлетворяют условию Липшица на шаре Вц@) с константой Липшица L = 4R. Отметим, что для любой точки х G Дк@) функция а —У \\а — х\\2 удовлетворяет условию Липшица на Дк@) с константой L = AR. В самом деле, ||ai - х\\2 - \\а,2 - х\\2 = - х\\ + \\а2 - х\\)(\\а1 - х\\ - \\а2 - х\\) < Щ\аг - а2\\. Зафиксируем точки а\ и а2 из шара Br@). Пусть последователь- последовательность {х}} G А\ такова, что lim ||ai — х\\^ = д\[а\). Выделяя в {х]}, г—>-схэ если нужно, подпоследовательность, можно считать, что и число- числовая последовательность {\\а2 — х]\\2} также сходится. Из определения функции д\ следует, что ее предел не превосходит значения gi{a2). Переходя к пределу по г —у оо в неравенстве получаем, 9i(ai) llal ЧТО < lim lie -г1!!2 xi II l2 -x1\\ <Н<*2 |2+4/ — х l\\a>i 1м2 , -а>2\ Щ\аг-а2\\, 1 < 9i(a2) +1 - а2\
190 Гл. 2. Приложения выпуклого анализа Аналогично показывается, что функция д2 удовлетворяет условию Липшица с константой L = 4Д. Докажем неравенство Ыа) - д2(а)\ < 4Rh У а ? Вд@). B.1.8) Зафиксируем число t > 1 и точку a Е Вц@). Найдутся последователь- последовательности точек {х\} С А\ и {ж?} С А2 такие, что gi{a) = lim \\a - х}\\2, 1 9м г—>-оо а ||ж| — xf\\ < th для всех г. Также без ограничения общности можем считать, что существует предел lim \\а - ж?||2. Переходя к пределу по г —> оо в неравенстве Ца-ж^Ц2 < ||а-ж?||2+4Д||^ -ж2|| < \\а - получаем lim \\a - ж2||2 + 4Д^/г < д2(а) + \ г—>-оо Из аналогичных рассуждений, поменяв д\ и ^2 местами, получаем \gi(a) - д2(а)\ < 4Rth Va Переходя в этом неравенстве к пределу по t —> 1 + 0, получаем нера- неравенство B.1.8). Применяя формулу A.19.20) леммы 1.19.3 для случая, когда L = = 4R и е = 4i?/i, получаем, что В заключение разберем пример, показывающий, что оценку B.1.7) нельзя существенно улучшить. Пусть R> 0 и е Е @, Д). В евклидовой плоскости М2 (с декар- декартовой системой координат (^1,^2)) рассмотрим два множества А\ и Л2, где А\ = {ж Е М2 | 0 < Х2 < ?, х\ + х\ < Д2}, а множество Л2 симметрично множеству А\ относительно прямой х2 — е/2. Легко видеть, что их чебышевские центры находятся в точках c(Ai) = @, 0), с(А2) = @,г), а хаусдорфово расстояние h(Ai,A2) = л/Д2 + ?2 - Д2 < < г2/2Д. Отсюда ||c(Ai) - с(А2)|| > y/2Rh{AuA2). В силу полученных оценок B.1.1) и B.1.7) видно, что рассмотрен- рассмотренные выше два типа селекторов удовлетворяют условию Гёльдера с по- показателем 1/2, но, к сожалению, не удовлетворяют условию Липшица.
§2.1. Селекторы выпуклых множеств 191 Перейдем к рассмотрению важного примера селектора выпуклых компактов из Жп, удовлетворяющего условию Липшица. 3. Центр Штейнера. Определение 2.1.2. Центром Штейнера выпуклого компакта А СЖП называется точка s(A) = ± I s(p,A)pdp, B.1.9) где через v\ обозначен объем единичного шара в Жп. Лемма 2.1.3. Для всякого выпуклого компакта А С W1 выпол- выполнено включение s(A) G А. Доказательство. Зафиксируем произвольный вектор q Е Е dBi@). Мы покажем, что для любого единичного вектора q спра- справедливо неравенство (g, s(A)} < s(q. А) (из которого последует вклю- включение s(A) G А). Введем обозначения дВ+@) = {х е дВ^О) \ (q,x) > 0} и дВ~@) = = {х G dBi@) | (q, x) < 0}. Для всякого векторар через д(р) обозначим вектор, симметричный относительно гиперплоскости {ж G W1 | (q,x) = = 0}, т. е. д(р) — р — 2(р, q)q. Отсюда для любого вектора р G дВ^@) справедливо неравенство s(p,A) <s(g(p),A) + 2(p,q)s(q,A). B.1.10) Разбивая в интеграле B.1.9) сферу 8Bi@) на две полусферы и дВ^@) и используя равенство (g(p),q} = —(p,q) для всех pG G дВ^@), получаем (q,s(A)} = — / s(p,A){p,q)dp+— / s(p,A){p,q) dp = Vi J Vi J дв+(о) дв~(о) = — / s(p,A){p,q)dp-— / s(g(p),A){p,q)dp. Так как (р, q) > 0 для всех р G 95^ @), то в силу неравенст- неравенства B.1.10) получаем ^- I s(p,A)(p,q)dp- j- I s(p,A){p,q) dp + ав+(о) эв+(о) s(q,A)\{p,q)\2dp = s(q,A)j- j \(p,q)\2dp. дв+(о)
192 Гл. 2. Приложения выпуклого анализа Дополняя вектор q векторами qi,... ,qn-i Д° ортонормированного базиса в W1, в силу симметрии сферы получаем \2d± \(p,q)\2dp=- П " ч г-1 i-l n J n dBi(O) ^Bi(O) (где /j,n-i(dBi(O)) — площадь поверхности сферы <9I?i@)), т.е. \(p,q)\2dp=l. В итоге получаем требуемое неравенство. ? Лемма 2.1.4. Центр Штейнера как функция выпуклых компак- компактов из W1 удовлетворяет условию Липшица в стандартной мет- метрике Хаусдорфа, а именно: для любых выпуклых компактов А\ и А2 из Жп имеет место оценка ЫА,) - s(A2)\\ < Lnh(AuA2), где о Г(- + 1] B.1.11) 2 Г U Константа Ьп в формуле B.1.11) неулучшаема. Доказательство. Разобьем доказательство леммы на две час- части: сначала докажем, что выполнено условие Липшица с констан- константой B.1.11), а затем покажем ее неулучшаемость. 1. Вычисление константы. Пусть s(Ai) ф s{A<i). Опреде- Определим вектора = [s[A\) — s[A.2))j^\s[A\) — s[A.2)^\. Из определения 2.1.2 с помощью леммы 1.11.4 получаем - s(A2)\\ = (a^iA,) - s(A2)) < <±- J \s(p,A1)-s(p,A2)\\{p,a)\dp< j \{p,a)\dp.
§2.1. Селекторы выпуклых множеств 193 Таким образом, Ln < — J |(p, a)\dp = I. Вычислим последний Vl дВг@) интеграл. Для этого приведем вспомогательные утверждения (i)—(iv), доказательства которых можно найти в учебниках по математическо- математическому анализу (см., например, [44]). Напомним, что символ к\\ означает произведение всех натураль- натуральных чисел, меньших либо равных к и одной с ним четности. (i) Объем единичного шара в W1 равен —-, если п = 2&, Vl = ' (IfeTl)!!' еС™ П = ' -—т^ •> если к четное, (И) / cosfe (pd(fi = < J I (k-l)\\ 7 о I -—.,, , если к нечетное. v к\\ (iii) В Жп сферические координаты (г, </?i,..., </?n-i) связаны с декартовыми (#i,..., хп) формулами Х\—Г COS (fn-i . . . COS (f2 COS (fi, X2—T cos (pn-i ... cos ip2 sin ipi, x3 = r cos </?n-i ... sin ip2 j _i = r cos <pn_i sin (^n_2, При этом y?i G [0, 2тг); ^ G [—тг/2, тг/2], 2 < i < n - 1. (iv) Корень из детерминанта первой квадратичной формы единич- единичной сферы из W1 в сферических координатах равен J = COSn~2 Ifn-i COSn~3 фп-2 • • • COS2 </?з COS y?2 • Выберем в пространстве W1 базис и декартову систему координат так, что вектор а имеет координаты а = @,..., 0,1). Тогда интеграл / принимает вид / = — / \рп\ dp. Переходя к сферическим коорди- натам (iii) и учитывая (iv), получаем 2тг тг/2 тг/2 / / = — d(f! d(p2.. |sin</?n_i|cosn~2</?n_i ... О -тг/2 -тг/2 13 E.C. Половинкин, М.В. Балашов
194 Гл. 2. Приложения выпуклого анализа тг/2 тг/2 = / cosn~2 ip simp dip / cosn~3 ipdip ... о о тг/2 тг/2 ... / cos2 ipdip cos О О Учитывая равенство тг/2 ' 71-V О перепишем интеграл / в виде тг/2 тг/2 тг/2 / = у г— / cosn~3 (pdip ... / cos2 ipdip cos ipdip. (n — l)vi у J J Пусть n = 2k. Тогда по формулам (i) и (И) получаем / = Bk-l)vi 22k-lnk-l k[ = 2k-1Bk-l)\\v1 nk Bk-l)\\ 1\ 2Ь I = Если n = 2fc + 1, то 22*тг BЛ)гл VBA;-2)!!2; ^B^-3)!!; '" оь ь ь /2fe + 1 .Л 1 O^Ktt-K (Oh. _|_ 1 \|| Отт^ О x l о "•" X j -L Zi /I IZifv П^ / V Z / ~ ~ kT = "^ Первая часть леммы доказана. 2. Неулучшаемость константы Ln. Зафиксируем произ- произвольный единичный вектор a G W1 и определим множества А\ и ^2, зависящие от вектора а и параметров m G N и е > 0, по формулам Аг = г • со {Ях@) U {ша}}, А2 = г • со {Ях(mo) U {0}}. Достаточно очевидно, что при любых т G N и г > 0 расстояние по Хаусдорфу между множествами А\ и А2 равно е. Мы оценим
§2.1. Селекторы выпуклых множеств 195 расстояние между точками s(Ai) и s(A2) через величину h(Ai,A2) = = е снизу и покажем, что выбором соответствующего числа т при фиксированном значении е > 0 эта оценка сколь угодно близка к вели- величине Lnh(Ai,A2), где константа Ln определена по формуле B.1.11). Определим множества = {Редв1(о)\(Р,а)>о}, ,а> < 0}, S = {pedB1@)\\(p,a)\>l/m}. 1) Покажем, что для любого р Е dBi@) справедливы неравенства 0 < (s(p,A2) - s(p, Ai))(p,a> < г. B.1.12) Действительно, если р G дВ^@), то s(p, Л2) = (р, шга + ер) = ?тгг(р, а) + г, s(p, Ai) = sup (р, Лж + A — Х)теа) = ле(о,1) жеБ?(о) = sup (Хе + A - \)те(р, а)) < е + ?тгг(р, а), ле(о,1) т.е. справедливо неравенство s(p, A2) > s(p, Л1) для любого векто- вектора р G сШ^@), откуда следует левое неравенство в B.1.12). Для р G дВ^ @) по аналогичным соображениям s(p, Л2) < s(p,Ai), но и (р, а) < 0, следовательно, опять справедливо левое неравенство в B.1.12). Поскольку |s(p, А2) - s(p, Ai)\ < h(A1,A2) = е для всех р е dBi@), то правое неравенство в B.1.12) очевидно. 2) Покажем, что для любого р G S справедливо равенство (s(p,A2)-8(p,A1))(p,a)=e\(p,a)\. B.1.13) Пусть вектор р G S такой, что (р, а) > 1/т. Как показано в п. 1), справедливо равенство s(p, Л2) = е + те(р, а). Кроме того, s(p,Ai) = sup (Хе + A - Х)те(р,а)) = г • тах{1,?тг(р, а)} = ет(р,а). Ае[од] В итоге получаем равенство (s(p, Л2) — s(p, ^4i))(p, a) = г(р, а) = = г|(р, а)|. Доказательство для случая, когда вектор pG5 такой, что (р, ft) < —1/т, делается аналогично. 13*
196 Гл. 2. Приложения выпуклого анализа Запишем оценку: \\s(A2) - s(Ai)|| > (а, 8(А2) - siAt)) = = — / (s(p,A2)-s(p,A1))(p,a)dp = = — (s(p,A2) -s(p,A1))(p,a)dp + s 1 f , , . , Здесь второй интеграл в силу формулы B.1.12) неотрицателен, а в силу формулы B.1.13) в первом интеграле (для любого р Е S) подынтегральная функция равна е\ (р, а) |. Следовательно, справедлива оценка s(A2)-s(A1)\\>j-J\(p,a)\dp = j \(p,a)\dp-j- I \{p,a)\dp> дВг@) >eLn-- [ ±dp>eLn-— /in_! (дВг (О)) = vi J m vim = eLn-e- = (Ln--)h(AuA2). m V mJ Из последней оценки следует неулучшаемость константы Ln. ? Из лемм 2.1.3 и 2.1.4 получаем следующее утверждение. Теорема 2.1.2. Центр Штейнера является липшицевым селек- селектором выпуклых компактов из Жп со стандартной метрикой Хаус- дорфа, а константа Липшица задается по формуле B.1.11). Константа Ln удовлетворяет оценке Ln < у/п и ведет себя с рос- ростом п примерно как у/п. В силу роста константы Ln с увеличением размерности п прост- пространства центр Штейнера не может быть продолжен как Липшицев селектор на случай бесконечномерного (даже гильбертова) прост- пространства. Во множестве выпуклых компактов из W1 можно задавать другие метрики, не эквивалентные метрике Хаусдорфа, в которых центр Штейнера как функция выпуклых компактов будет липшицевым се- селектором с константой Липшица 1.
§2.1. Селекторы выпуклых множеств 197 Определение 2.1.3. На множестве выпуклых компактов из W1 определим метрику p(Ai,A2) по формуле р(АиА2)= sup h(A1(p),A2(p)), B.1.14) где А(р) = {х Е А | (р, х) = s(p, Л)} — опорное множество выпуклого компакта Л. Некоторые свойства метрики р сформулированы в упр. 1.17.1- 1.17.3. Здесь мы покажем, что центр Штейнера как селектор вы- выпуклых компактов удовлетворяет условию Липшица в метрике р с константой Липшица 1. Пусть для начала А — строго выпуклый компакт. У опорной функции р —У s(p, А) строго выпуклого компакта А при каждом р ф О существует градиент, который вычисляется по формуле (см. при- пример 1.16.2 и следствие 1.17.3) Ws(p,A) = argmax(p,x) = A(p) Vр е Мп\{0}, причем этот градиент является непрерывной и ограниченной на W1 \{0} вектор-функцией. Известно (это простое следствие теоремы Гаусса в Мп, см. [108, т. 2]), что для любой дифференцируемой функции ф: Жп —у М, гра- градиент которой имеет разрывы в конечном числе точек и ограничен, имеет место равенство ф(р)Рс1р= I W(p)dp. B.1.15) Из формул B.1.9) и B.1.15), полагая ф(р) = s(p, А), получаем формулу для центра Штейнера строго выпуклого компакта А s(A) = ±- f Vs(p,A)dp. B.1.16) Bi@) Покажем, что соотношение, аналогичное формуле B.1.16), спра- справедливо для любых выпуклых компактов А из W1. Определим на шаре Bi@) функцию {Vs(p, Л), если градиент существует, 0, если градиент Vs(p,A) не существует.
198 Гл. 2. Приложения выпуклого анализа Лемма 2.1.5. Пусть А — выпуклый компакт из W1. Тогда спра- справедлива формула s(A) = ± I P{p, A) dp, B.1.17) ?i(o) где интеграл в B.1.17) понимается в смысле интеграла Лебега. Доказательство. Для случая строго выпуклого компакта А формула B.1.17) следует из формулы B.1.16). Пусть А — произвольный выпуклый компакт из Жп. Рассмотрим последовательность строго выпуклых компактов {Лт} такую, что Аш —У А в смысле хаусдорфовой метрики. В качестве множеств Аш можно, например, взять пересечение всех шаров радиуса т, содержа- содержащих А. Так как выпуклая функция р —У s{p,A) липшицева на множест- множестве #i@) с константой Липшица ||А||, то она почти всюду диффе- дифференцируема (см. [56]), следовательно, градиент Vs(p, А) существует на некотором измеримом множестве U С #i@), причем мера Лебега множества Bi@)\U равна нулю. В силу доказанной в теореме 2.1.2 липшицевости центра Штейнера имеем s(Am) ->• s(A) при т ->• оо. С другой стороны, в силу B.1.16) s(Am) = - f P(p,Am)dp=- fvs{p,Am)dp VmeN. Vi J Vi J Bi@) U Из свойства полунепрерывности сверху субдифференциала семейст- семейства выпуклых функций (см. следствие 1.17.2) получаем, что для лю- любого peU Vs(p, Ат) = /3(р, Ат) ->• /3(р, А) = Vs(p, А) при т ->• оо. В свою очередь функция р —У Vs(p, Аш) = /3(р, Аш) непрерывна на 5i@)\{0} и существует число С = sup {{||Лт||}, ||А||} < +оо, та- такое, что ||Vs(p, Аш)\\ < С для всех р е f?i@)\{0} и всех т. По тео- теореме Лебега об ограниченной сходимости (см. [56]) получаем, что функция р—>-Vs(p, А) измерима на U (а это значит, что и функ- функция /3(р,А) измерима на f?i@)), причем lim [/3(p,Am)dp= [p(p,A)dp= [ P(p,A)dp. m^oo J J J U U Bi(o) Отсюда следует формула B.1.17). ? Теорема 2.1.3. Центр Штейнера выпуклых компактов из Жп является липшицевым селектором в метрике р B.1.14) с констан- константой Липшица 1.
§2.1. Селекторы выпуклых множеств 199 Доказательство. Пусть А\ и Л 2 — выпуклые компакты. Пусть U±vlU2 — множества полной меры из В\ @), на которых сущест- существуют градиенты \7s(p,Ai) и Vs(p, A2) соответственно. Определим множество U = U\ P\U2 которое, очевидно, также будет множеством полной меры. Из леммы 2.1.5 (формулы B.1.17)) и определения метрики р (фор- (формулы B.1.14)) следует, что \\8(Аг) - s(A2)\\ < ± I \\0(p,A1)-l3(p,A2)\\dp = Bi@) = ± J llPfaAi) - 0(p,A2)\\dp< p(AuA2)± J dp = p(AuA2).n и и Рассмотрим случай, когда множество А является многогранником. Обозначим через х\ вершины многогранника А (которые, очевид- очевидно, являются выступающими точками). Напомним, что нормальным конусом ко множеству А в точке х называется конус вида (см. опре- определение 1.12.2) N(A,x) = {р еЖ1 \{р,х) > (р,2/> VyeA}. Определим телесный размер нормального конуса N(A,Xi) в верши- вершине Xi многогранника А как следующую величину: где /лп-1 — мера Лебега множеств, заданных на единичной сфере из W1. Теорема 2.1.4. Пусть icin — многогранник вида А — N = со U {х^. Тогда справедлива формула г=1 N s(A) = ^XiXi, г=1 где Xi — телесный размер нормального конуса N(A,Xi). Доказательство. Отметим, что если в формуле B.1.17) сде- сделать замену переменных р = rq, где г G [0,1], a q G dBi@), и учесть, что в силу положительной однородности опорной функции /3(Ар, А) = = /3(р, А) для всех А > 0, то получаем 1 8(А) = ± J r"-1 dr I C(q,A)dq=j- f 0(p,A)dp, B.1.18) О дВг@) дВг@)
200 Гл. 2. Приложения выпуклого анализа где Si = / dp — площадь поверхности единичной сферы в Жп дВг@) (напомним, что справедливо равенство nvi = Si). В каждой вершине х\ пересекается по крайней мере п граней множества А ((п — 1)-мерных гиперплоскостей) с внешними еди- единичными нормалями pi(xi),... ,pn(xi), поэтому N(A,Xi) Dco<{0}U U U {Pj(xi)}\. Внутренность симплекса со <{0} U (J {pj(#i)}f непуста, так как векторы Pj(xi) линейно независимы, поэтому intN(A,Xi) ф Ф 0 для всех % G 1, N. Покажем, что справедливо равенство N \jN(AjXi) = Rn. B.1.19) г=1 Зафиксируем р G Мп\{0} (вектор 0 содержится в любом из кону- конусов N(A,Xi)). Определим, как обычно, множество А(р) = {х G А (р^х) = s(p,A)}. Так как множество А{р) есть крайнее подмножество множества Л, то из доказательства теоремы 1.18.1 Крейна-Мильмана следует, что extrA(p) ф 0, т.е. найдется вершина Xi ? А(р). Это значит, что справедливо включение р G N(A,Xi), и формула B.1.19) доказана. Так как для любого г G 1, N и для любого р G hit N(A,xi) имеет место равенство А(р) = {а^}, то в силу того, что А(р) = 9s(p, А) (см. пример 1.16.2), и следствия 1.17.3 в каждой точке р G (J intiV(A, ж«) г=1 существует градиент Vs(p, Л). Отметим, что множества N(A,Xi) П П 95i@) и (hit iV(A,ж^)) П dBi@) измеримы и справедливо равенство ) n 9Bi @)) = /in-i ((int АГ(Л, ^)) П дВ1 @)). Используя это, по формуле B.1.18) получаем S1-s(A)= J {3(p,A)dp= J f3(p,A)dp = дВг@) N r N / хцлп-i (hit N(A, xi) П 9БХ @)) = г=1 N г=1
§2.2. Параметризация многозначных отображений 201 Упражнение 2.1.2. Еще одним примером нехаусдорфовой мет- метрики на пространстве выпуклых компактов из Жп является метрика 5 вида 6(АиА2) = \ \8{p,A1)-8{p,A2)\^dp. Показать, что если рассматривать некоторое семейство ограни- ограниченных по полунорме выпуклых компактов (т.е. существует чис- число М > 0 такое, что для любого компакта А из этого семейства справедливо неравенство ||Л|| = h@,A) < М), то сходимость после- последовательности выпуклых компактов из данного семейства в метрике Хаусдорфа эквивалентна ее сходимости в метрике S. Кроме того, показать, что центр Штейнера является липшицевым селектором выпуклых компактов в метрике 5 с константой Липшица 1. § 2.2. Параметризация многозначных отображений Определение 2.2.1. Отображение F, ставящее в соответствие точкам пространства Е\ множества из пространства Е2 (быть может, пустые) будем называть многозначным отображением. Будем его обозначать F: Ех -»• 2Е2. Многозначные отображения возникают в различных разделах ма- математического и функционального анализа, в математической тео- теории управления, в теории дифференциальных игр. Для исследования многозначных отображений часто используют метод выделения в них однозначных функций, т.е. селекторов, о некоторых из которых гово- говорилось в § 2.1. Более того, возникает потребность в исчерпывающем наборе селекторов, т.е. таком, что в совокупности объединение их значений в каждой точке области определения многозначного отоб- отображения дает значение многозначного отображения в этой точке, при этом каждый из селекторов обладает определенной гладкостью. Решение такой задачи ведет к задаче о параметризации многозначного отображения. То есть для многозначного отображения F: Е\ —у 2Е<2 найти однозначную функцию /: Е\ х U —> Е2 такую, что справедливо равенство f(x,U) = F(x) для всех х G Е\, причем функция f(x,u) имеет ту же гладкость по аргументу ж, что и F(x), и является достаточно гладкой по аргументу и G U. Определение 2.2.2. Будем говорить, что многозначное отобра- отображение F, действующее из метрического пространства (Ei,g) в ба- банахово пространство Е2, удовлетворяет условию Липшица (непре- (непрерывно по Липшицу) в метрике Хаусдорфа, если существует такая
202 Гл. 2. Приложения выпуклого анализа константа L > 0 (называемая константой Липшица), что для любых элементов х\ и ж 2 из Е\ выполнено неравенство h(F(xi), Напомним, что диаметр множества определяется по формуле diam A = sup {||а - Ь\\ | а, Ъ е А]. Теорема 2.2.1 (Е.С. Половинкин [78]). Пусть многозначные отображения F\ и F2, действующие из метрического пространст- пространства (Ei, g) в банахово пространство Е2, имеют выпуклые замкнутые значения и удовлетворяют условию Липшица с константами Лип- Липшица L\ и L2 соответственно. Пусть d(x) < +00 для всех х Е Е\, где d(x) = min diamFf(x). Пусть существуют функция^: Е\ —У М+ и число а > 0 такие, что для всех х G Е\ выполняются условия *y(x)B1@)cF2(x)-F1(x), B.2.1) d(x) < aj(x). B.2.2) Тогда многозначное отображение G(x) = F\(x) П ^(ж) удов- удовлетворяет условию Липшица в метрике Хаусдорфа с константой Липшица L, вычисляемой по формуле L = max{Li,L2} + a(Li +L2). B.2.3) Доказательство. Зафиксируем число t > 1. Отметим, что в силу условия B.2.1) справедливо включение 0 G F2(x) — Fi(x) для всех точек xG^i, следовательно, G(x) ф 0 при каждом х G Е\. Выберем точки х\ и Х2 из Е\, Х\ ф ж2, и произвольную точку ^/i G G G(xi). Покажем, что найдется точка У2 G G(x2) такая, что 112/1-2/2|| <tLg(xux2). B.2.4) В силу выполнения условий Липшица для Fi и F2 получаем yi e F^) +tLie(xux2)B1@), B.2.5) yi e F2(x2) +tL2Q(x1,x2)B1@). B.2.6) Положим для определенности, что d(x2) = diamFi^). В силу вклю- включения B.2.5) найдется точка у G Fi(x2) такая, что \\y-\_ — у\\ < < tLig(xi,x2). Отсюда в силу включения B.2.6) получаем У е F2(x2) +t(Li +
§2.2. Параметризация многозначных отображений 203 Определим число в по формуле Из предыдущего включения получаем включение 02/ е eF2(x2)+0t(L1+L2)Q(x1,X2)B1@). Отсюда, учитывая равенство 6t(Li + L2)q{xi,x2) = A — 0)j(x2), ум- умножая обе части включения B.2.1) в точке х2 на 1 — в, получаем выражения A - вI(х2)В1@) С A - 0)F2(x2) - A - 9)F1(x2), 0у е 0F2(x2) + A - 0)F2(x2) - A - 0)Fi(ar2) = F2(x2) - (I - следовательно, существует точка z G ^1(^2) такая, что 0y + (l-0)zeF2(x2). Определим точку у2 = Оу + A — 6)z G ^2(^2). Поскольку р^ принад- принадлежат Fi (ж2), той у2 G Fi(x2). Поэтому j/2 G Fi(x2) П F2(x2) = С(ж2). Наконец, справедливо равенство у\ — у2 — (у\ — у) + A — 6)(у — z), откуда получаем \\У1 ~ У2\\ < \\У1 - У\\ + A - 0)\\у - z\\ < tLlQ{xux2) + A - 0)d{x2). B.2.7) Если ^{х2) = 0, то d{x2) = 0 (условие B.2.2)), откуда \\yi - у2\\ < < tL1g(x1,x2). Если j(x2) > 0, то в силу определения числа 0 и неравенст- неравенства B.2.2) получаем A - 0)d{x2) < y\t 7(ж) +*(L Поэтому из неравенства B.2.7) получаем 112/1 -2/2|| <?(Li+a(Li + Из свойств метрики Хаусдорфа следует, что Л(С(яп), С(яг2)) < t(Li + a(Li + L2))q{xux2) откуда (при t —У 1 + 0) получаем неравенство ), G(x2)) < (Li +a(Li
204 Гл. 2. Приложения выпуклого анализа Наконец, в общем случае в последнем неравенстве вместо слагае- слагаемого L\ необходимо брать слагаемое max{Li,L2J, так как могло оказаться, что d(x2) = diam i*2 (#2) • n В качестве следствия теоремы 2.2.1 докажем свойство непрерыв- непрерывности по Липшицу многозначной г-проекции точки на выпуклое замк- замкнутое множество в банаховом пространстве. Определение 2.2.3. Пусть е > 0, Е — банахово пространство. Многозначной е-проекцией точки a Е Е на выпуклое замкнутое мно- множество Л С Е называется множество тг,(Л, а) = Л П (а + A + е)д(а, А)В1@)). B.2.8) Здесь, как и прежде, д(а,А) есть расстояние от точки а до множества Л, т.е. д(а,А) = inf \\а — х\\. Очевидно, что при лю- хеА бом е > 0 множество тге(Л,а) непусто. При е = 0 множество тге(Л,а) может оказаться пустым (попытайтесь привести соответствующий пример). Однако в случае, когда пространство Е является гильбер- гильбертовым пространством И, при е = 0 многозначная проекция также является непустым множеством и совпадает со значением обычной однозначной проекции точки а на множество А. Как было показано выше (§ 2.1), однозначная проекция точки на множество в гильберто- гильбертовом пространстве удовлетворяет условию Гёльдера с показателем 1/2 в метрике Хаусдорфа, но может не удовлетворять условию Липшица. Нашей целью является показать, что многозначная г-проекция при е > 0 всегда удовлетворяет условию Липшица по параметрам А и а. Определим метрическое пространство (ii7i,Dist), элементами ко- которого являются пары (А, а), где А С Е — выпуклое замкнутое мно- множество, a a G Е — точка. Расстояние между элементами (Л, a) G Е\ и (В, b) G Ei определим по формуле Dist ((Л, а), (В, Ъ)) = \\а - Ъ\\ + h(A, В). Теорема 2.2.2. Пусть Е — банахово пространство ие > 0. Для любых выпуклых замкнутых множеств А и В из Е и точек а, Ъ G Е справедливо неравенство {условие Липшица) Н(тг?(А, а), тг?(В, Ъ)) < (lO + Зе + ^) Dist ((Л, а), (В, Ъ)). B.2.9) Доказательство. Рассмотрим два многозначных отображения из пространства (Ei, Dist) в Е: Fi (Л, а) = Л и F2 (Л, а) = а + A + е) х xg(a,A)B1@).
§2.2. Параметризация многозначных отображений 205 Очевидно, что многозначное отображение F\ удовлетворяет усло- условию Липшица с константой 1 в метрике Dist. Для отображения F2 получаем h(F2(A,a),F2(B,b))< e)Q(a,A)B1@), A + е)о(Ь,В)В1(О)) < + A + е)\6(а,А)-6(Ъ,В)\< ) < B + е) Dist ((Л, а), (В, Ъ)). Таким образом, отображение F2 также удовлетворяет условию Липшица с константой Липшица 2 + е в метрике Dist. Оценим внутренность множества Fi(A, а) - F2(A, а) = А - а + A + е)дВ1@), где д = ?>(а, Л). По определению расстояния д = ?>(а, А) для любого чис- числа г G A, 1 + е) существует точка аТ G А такая, что д < \\ат — а\\ < < тд. Отсюда для любого вектора р G Е*, \\p\\* = 1, получаем оценки опорных функций s(p, А - а + A + е)дВ1@)) > (р, ат - а) + A + ф > > -г^ + A + е)д = s(p, B(i+e т.е. справедливо включение В^1+?_т^д@) С Fi(A,a) — F2{A^a). Заме- Заменяя параметр г через параметр t G @,1) по формуле т = 1 + еA — i), получаем, что для любого t G @,1) шар радиуса teg(a, А) с центром в нуле содержится во множестве (Fi(A,a) — F2(A,a)), т.е. в теоре- теореме 2.2.1 условие B.2.1) выполнено с j(A, a) = teg(a,A). Оценим величину d(A, a) = min diamFi(A,a) из неравенства d(A,a) < diamF2(^,a) =2g(a,A)(l+e). Подберем число а > 0, удовлетворяющее условию B.2.2) теоре- теоремы 2.2.1, т.е. 2д(а, А)A + е) < aj(A,a) = ateg(a, A), 2A+ е) откуда получаем а = — . По теореме 2.2.1 получаем h(w?(A,a),7Te(B,b)) < < [B + е) + ^-±^ A + B + е))] Dist ((А, а), (В, Ъ)), откуда предельным переходом по t —> 1 — 0 получаем B.2.9). ?
206 Гл. 2. Приложения выпуклого анализа Замечание 2.2.1. Наименьшая константа Липшица в B.2.9), очевидно, получается при е = л/2 и равняется 10 + 6 л/2- Упражнение 2.2.1. Пусть А, В С Е — выпуклые замкнутые множества в банаховом пространстве Е, точки а, Ъ Е Е и числа е > > S > 0. Показать, что Н(тг?(А,а),7г6(В,Ь)) < Указание. Используя неравенство ЛМДа), *г*(ВД) < ЛМА<0, тг?(В,Ь)) + Цтг?(В,Ь), щ(В,Ъ)), оцените каждое слагаемое в правой части отдельно. Для оценки первого слагаемого воспользуйтесь теоремой 2.2.2. Для оценки второго слагаемого рассмотрите многозначные отоб- отображения F1(X) = В (постоянное) и F2(X) = Ъ + A + \)д(Ь,В)В1@), где Л G @,+оо), и примените теорему 2.2.1. Приведем теперь теорему о параметризации многозначных ото- отображений. Этот результат впервые был получен (другим способом) в работе [159]. Теорема 2.2.3. Пусть (Е,д) — метрическое пространство, а многозначное отображение F: Ж х Е —У 2Rn принимает выпуклые компактные значения из W1. Пусть отображение F( •, х) измеримо по Лебегу при каждом х G Е, а отображение F(t, •) удовлетворяет условию Липшица с константой L > 0 при почти всяком tGi, т. е. h(F(t, ж), F(t, у)) < Lq(x, у), п.в. teR Ух, у е Е. Пусть также существует число М > 0 такое, что \\F(t,x)\\=h({0},F(t,x))<M, n.e.teR \fxeE. Тогда существует функция /: R х Е х В\ @) ->• W1, где Bi@) — единичный шар в Жп, такая, что для всех х G Е и для п.в. tGi справедливо равенство F(t,x) = f(t, x, B\ @)), причем функция f(t,-,-) при п.в. tGi удовлетворяет условию Липшица с константой Липшица С(Ь,М,п) = A0 + б у/2) max {2L, M}Ln (здесь Ln из фор- формулы B.1.11)), а функция f(-,x,u) измерима по Лебегу при каж- каждом (х,и), где х G Е, и G i?i@). Доказательство. Зафиксируем число е = у/2. Определим функ- функцию p(t,x) = max{l, ||F(?,x)||}. Для всех точек х, у из метрического
§2.2. Параметризация многозначных отображений 207 пространства Е справедлива оценка \p{t,x)-p{t,y)\<\\\F(t,x)\\-\\F(t,y)\\\ = }, F(t,x)) - h({0}, F(t,y))\ < h(F(t,x), F(t,y)) < Lg(x,y). Следовательно, при почти каждом t функция p(t, •) удовлетворя- удовлетворяет условию Липшица с константой L. Также очевидно, что функ- функция р( •, х) измерима. Определим функцию /: Ж х Е х В\ @) —> W1 вида f(t,x,u) = s(ire(F(t,x), p(t,x)u)), B.2.10) где s(-) — центр Штейнера, а 7т?(А,а) определено формулой B.2.8). Покажем, что при почти каждом t функция /(?, •, •) удовлетворяет условию Липшица. В силу формулы B.2.9) для любых ж, у G Е и u, v G Bi@) получаем h(ne(F(t,x), p(t,x)u), ne(F(t,y), p(t,y)v)) < < A0 + б л/2) [\\p(t, x)u - p(t, y)v\\ + h(F(t, ж), F(t, у))} < < A0 + 6V2)[\p(t,x) - p(t,y)\\\u\\ + \p(t,y)\\\u - v\\ + Ьд(х,у)} < < A0 + 6 V2)[2Lq(x, y) + M\\u - v\\] < < A0 + б л/2) max {2L, M}[g(x, у) + ||гх - v\\]. B.2.11) Так как центр Штейнера s(-) является липшицевым селектором выпуклых компактов из W1 с константой Ln (см. лемму 2.1.4), из формул B.2.10) и B.2.11) получаем \\f(t,x,u)-f(t,y,v)\\< < Lnh(ne(F(t,x), p(t,x)u), ne(F(t,y), p(t,y)v)) < , M,n)[\\u - v\\ + Q(x,y)]. Итак, функция f(t, •, •) удовлетворяет условию Липшица. По построению f(t,x,Bi@))cF(t,x). Так как p(t,x)Bi(O) D D F(t,x), то для любой точки у G F(t,x) существует точка иу € G Bi@) такая, что у = p(t,x)uy, т.е. f(t,x,uy) =y. Следовательно, f(t,x,Bl@))=F(t,x). Из измеримости многозначного отображения F( •, ж), как известно, следует измеримость функции \\F( •, х)\\, а значит, и функции р( •, ж), а пересечение множеств и непрерывная выборка не портят измеримости по t (см. [50, гл. 8]). Отсюда и из формулы /(*, ж, и) = s (F(t, х) П {p{t, х)и + A + e)g(p(t, x)u, F(t, x)))) следует измеримость функции /(•, ж, и). ?
208 Гл. 2. Приложения выпуклого анализа § 2.3. О максимумах выпуклых функций Ранее мы рассмотрели задачу отыскания минимума выпуклой функции на выпуклом множестве (см. пример 1.16.4), изучили условие его существования и единственности. Однако можно рассматривать и задачу о максимуме выпуклой функции на выпуклом множестве. В данном параграфе мы покажем, что при весьма общих условиях выпуклая функция в конечномерном пространстве достигает макси- максимума на выпуклом замкнутом множестве в одной из крайних точек этого множества. Прежде всего, отметим принцип максимума для выпуклых функ- функций. Лемма 2.3.1. Пусть /: W1 —У Ж — выпуклая собственная функ- функция на и А С dom/ — выпуклое множество с непустой внутреннос- внутренностью. Тогда если функция / достигает своей точной верхней грани на множестве А в некоторой внутренней точке этого множест- множества А, то функция / постоянна на А. Доказательство. Пусть sup f(x) = /(#o), причем точка хо Е EintA С dom/. xEA Зафиксируем произвольную точку х Е А. Так как точка ж о Е hit Л, то найдется число \i > 1 такое, что точка у = A — ц)х + jjlxq E А. По- Положим Л = /j~1 Е @,1). Тогда хо = A — Х)х + Ху, и из выпуклости / получаем f(xo)<(l-X)f(x) Но по условию f(x) < f(xo) и f(y)< /(^о), поэтому = f(x). В силу произвольности точки х G А получаем, что функция / постоянна на множестве А. ? Лемма 2.3.2. Пусть /: W1 —> Ж — выпуклая функция, а А С Cin — произвольное множество. Тогда справедливо равенство sup /О) = sup /О). B.3.1) х?А х?соА Доказательство. Из определения точной верхней грани полу- получаем равенства sup f(x) = inf {а | А С {х | f(x) < a}} B.3.2) А sup f(x) = inf {а | со А С {х | f(x) < a}}. B.3.3) ж? со А
§2.3. О максимумах выпуклых функций 209 В силу выпуклости функции / при каждом «Gl множество уровня {х | f(x) < а} выпукло, откуда включение Л С {х | f(x) < a} справедливо тогда и только тогда, когда справедливо включение со Л С {х | f(x) < а}. В итоге из B.3.2) и B.3.3) следует равенст- равенство B.3.1). ? Теорема 2.3.1. Пусть icin — выпуклый компакт, а /: W1 —У Ж — выпуклая собственная функция. Тогда справедливо ра- равенство supf(x) = sup f(x). хЕА xEextrA Доказательство, очевидно, следует из предыдущей леммы 2.3.2 и теоремы Крейна-Мильмана. Лемма 2.3.3. Пусть А С W1 — выпуклое замкнутое неограни- неограниченное множество, не содержащее прямых, пусть О+А — асимп- асимптотический конус множества А {см. определение 1.4.5). Тогда спра- справедливо равенство А = со extr A + 0+А. B.3.4) Доказательство. По теореме 1.18.4 справедливо равенство А = со (extr A U rext A). Поэтому для доказательства формулы B.3.4) достаточно доказать равенство со (extr Л U rext Л) = со extr A + О+А. B.3.5) Так как включение A D со extr A + О+Л, очевидно, справедливо, то для получения равенства B.3.5) достаточно показать обратное включение. Выберем произвольную точку х G со (extr Л U rext Л). Это означа- означает возможность представления точки х в виде N М + у,), B.3.6) TV M где числа Л^, \ij > 0 такие, что ^2 \i + ^2 Vj = 1? точки а^ bj G extr Л, а векторы yj суть направления крайних лучей, задающих точку х. Очевидно, что yj G О^~ А для всех j. Перепишем выражение B.3.6) в виде , N М х М ^i=l l l j=l 14 Е.С. Половинкин, М.В. Балашов
210 Гл. 2. Приложения выпуклого анализа Поскольку векторы у3 G О+А и числа \i3 > 0, то справедливо М N М включение ^2 ^з'Уз ^ О+Л, а так как ^2 ^iai + S Vjbj G coextr А, то j=l г=1 j=l справедливо включение х G coextr^4 + O+A В силу произвольности выбора точки х обратное включение для равенства B.3.5) доказано. ? Теорема 2.3.2. Пусть А С Жп — выпуклое замкнутое множест- множество, не содержащее прямых, и /: А—>Ж — выпуклая функция, не возрастающая на асимптотических направлениях множества А, т. е. Уж G А, Vу G О+А справедливо неравенство f(x + y) < f(x). Тогда если sup f(x) конечен и достигается, то он достигается в некоторой крайней точке множества А. Доказательство. Пусть sup f(x) = /(ао), где ао G А. По лем- лемме 2.3.3 найдутся положительные числа {А^}^, дающие в сумме 1, такие, что N ао = ^2 Ai^i + 2/, a,i e extr А, у е О+А. B.3.7) г=1 Отсюда следует, что , N ч N < У^ Xiftdi) < max /(аЛ B.3.8) что и доказывает теорему. ? Следствие 2.3.1. Если в условиях предыдущей теоремы мно- множество А — многогранное множество, не содержащее прямых, то функция / достигает своей точной верхней грани в некоторой крайней точке множества А. Доказательство. Полагая в доказательстве теоремы 2.3.2, что {ai}f=1 — все крайние точки множества А (множество extr Л непусто и конечно в силу следствия 1.18.2), а точка ао G А произ- произвольна, Xi > 0, из формул B.3.7) и B.3.8) получаем утверждение следствия 2.3.1. ? Упражнение 2.3.1. Привести пример выпуклого компакта А С М2 и выпуклой функции /: А —У Ж таких, что функция / не достигает своей точной верхней грани на компакте А.
§2.4- Задачи выпуклого и линейного программирования 211 § 2.4. Задачи выпуклого и линейного программирования В гл. 1 мы рассматривали задачу нахождения минимума выпуклой функции /о (х) при условии, что х принадлежит выпуклому множест- множеству Aq. Мы показали, что необходимым и достаточным условием того, что точка xq E А о является решением приведенной задачи, является включение О Е <Э/о(жо) + ^(Ло,жо). 1. Задача выпуклого программирования. Конкретизируя в приведенной выше задаче выпуклое множество Aq с помощью ра- равенств и неравенств, содержащих выпуклые функции, приходим к следующей задаче. Пусть Е — банахово пространство; fi: Е ->• М, где г Е 0,т, — собственные выпуклые функции; pi Е Е*, ^ GM — заданные наборы функционалов и чисел; А С Е — выпуклое замкнутое множество с непустой внутренностью. Определение 2.4.1. Задачей выпуклого программирования на- называется следующая задача Найти min/o(x) при условиях на х: *-) Ji\x) — ^5 * ^ 1,771 = i]_; B.4.1) 2)Л(аО = (р<,а;) + !/< = 0, г Е m + 1, TV =/2; 3) х Е Л. Точки, удовлетворяющие ограничениям 1)-3), называются допус- допустимыми точками этой задачи. Далее мы будем считать, что в зада- задаче B.4.1) множество допустимых точек непусто. Допустимая точка хо, в которой достигается минимум функции /о, называется решением задачи B.4.1). Считаем, что векторы {pi}fLm+i B условии 2) линейно независи- независимы, так как в противном случае можно без ущерба для решений от- отбросить часть ограничений-равенств, получив эквивалентную задачу. Будем говорить, что в задаче B.4.1) выполнено условие Слейтера, если существует допустимая точка ж такая, что ж Е hit А и /г(ж) < О при всех г Е 1\. Для задачи B.4.1) определим конус К = {Л = (Ло,..., Лту) Е M7V+1 | Xi > 0, 0 < г < т}. 14*
212 Гл. 2. Приложения выпуклого анализа Функцией Лагранжа для задачи B.4.1) будем называть функцию L аргументов х Е А и Л = (Ао,..., А ту) Е К вида N г=0 где вектор А называется вектором множителей Лагранжа. Седловой точкой функции Лагранжа B.4.2) будем называть точ- точку (жо, A) Е А х К, удовлетворяющую условию L(xo,\) <L(xo,J) <L(x,J) Ухе А, \/ХеК. Очевидным следствием приведенного выше определения седловой точки является равенство mmL(x,X) =maxL(xo,A). B.4.3) хеА хек Теорема 2.4.1 (Г.В. Кун, А.В. Таккер). 1. Если точка хо — решение задачи B.4.1), то найдется ненулевой вектор множите- множителей Лагранжа A G К такой, что выполняются: (i) принцип минимума для функции Лагранжа mmL(x, A) = L(x0, A); B.4.4) хЕА (И) условие дополняющей нежесткости А;/;Ы=0 \fieh. 2. Если для допустимой точки хо задачи B.4.1) существует ненулевой вектор A G К такой, что для него выполнены условия (i), (И) и Ао ф 0, то точка хо — решение задачи B.4.1), а точка (жо, А) является седловой точкой функции Лагранжа. 3. Если в задаче B.4.1) выполнено условие Слейтера, а для допус- допустимой точки Хо существует ненулевой вектор A G К такой, что выполнены условия (i) и (И), то точка хо — решение задачи B.4.1), а (жо,А) — седловая точка функции Лагранжа L{x,\). Доказательство. 1. Определим множество В С Жм+1, состоя- состоящее из точек \i — (/io, • • •, /J>n) ? M7V+1 таких, для каждой из которых найдется точка х G А такая, что выполнены неравенства /о0*0 - /о(жо) < А*0; /г(ж) < А*г, « G Д ; /г(ж) = /^г, « G /2.
§2.4- Задачи выпуклого и линейного программирования 213 Множество В есть непустое выпуклое множество. Всякая точка \i — = (/io, • • •, fi>mj 0,..., 0), где \ii > 0, г G 0, т, принадлежит множест- множеству В, так как в качестве х можно выбрать xq. Докажем выпуклость множества В. Пусть точки /J1 и ~р2 содер- содержатся в В. Нужно доказать, что Хр1 + A — \)~р2 G В для любого Л G G @,1). Так как /J1 и /I2 содержатся в В, то по определению мно- множества В существуют точки х\ и Х2 из Л такие, что при fc = 1,2 справедливы выражения: fo(xk) - fo(xo) < /I§; fi(xk) < ~р\, где г G G l,m; fi(xk)=~Pi, где г G/2. Определим точку жл = Axi + A — A)#2- Так как множество Л вы- выпукло, то х\ G Л. В силу выпуклости функций /f, где г G 0,m, по- получаем - /оЫ < A(/0(xi) - /оЫ) + A - А)(/0(яг2) - A - X)fi(x2) < A/iJ + A При г G /2 в силу линейности функций /^ получаем равенство fi(x\) = А/*(яп) + A - А)Л(аг2) = Л/*,1 + A - Х)ц1 Таким образом, Хр1 + A — \)~р2 G 5. Отметим, что 0 ^ В. Действительно, в противном случае нашлась бы точка х G А такая, что /о(ж) < /о(#о), Л(ж) ^ 0> ^ G Д, и /г(ж) = = 0, г G /2. Это противоречит тому, что жо — решение задачи B.4.1). По теореме об отделимости существует ненулевой вектор А = = (Ао,...,Адт) G M7V+1, отделяющий множество В от точки 0, т.е. N Y,Хфг > 0 V(/iO,...,/iN)eB. B-4-5) г=0 Так как множество {(/iO,...,/^m,0, ...,0) |/i0 > 0, fa > 0, г G /i} содержится в 5, то из B.4.5) получаем, что Ао > 0 и А^ > 0 ViG/i, т.е. JeK. Для каждой точки х G А выберем числа /^ = /^ (ж) при г G /i U /2 и число /i0 = /о(ж) - fo(xo) + г, где г > 0. Из формулы B.4.5) в пре- пределе при е —> 0 получаем неравенство 7V 5^ Ai/i(ar) > А0/0Ы Vx G Л. B.4.6) г=0
214 Гл. 2. Приложения выпуклого анализа Если при некотором г Е 1\ справедливо строгое неравенст- неравенство fi(xo) < 0, то для любого е > 0 множество В содержит точку ви- да /i0 = . . . = /Xi-l = /Хг+1 = . . . = /Хт = ?; А^ = О, J Е /25 А*г = /г(^о). Подставляя эти значения в B.4.5) и устремляя г —>¦ 0, получаем, что ^ifi(xo) > О, т.е. Xi < О, следовательно, Л^ = 0. Итак, для всех г Е 1\ имеет место равенство Xifi(xo) = 0. С учетом последнего равенства перепишем неравенство B.4.6) в виде n N Y.J^X) ^ ?^Л(жо) V* е Л, B.4.7) г=0 г=0 т.е. в точке xq достигается минимум функции Лагранжа х —> L(x, X) на множестве А. 2. Из условий Ао ф 0 и A G К следует, что Ао > 0. Разделив все компоненты вектора (Ао,...,Адг) на Ао, считаем без ограничения общности, что Ао = 1. Пусть xq — допустимая точка задачи B.4.1), для которой вы- выполнены условия (i)-(ii) теоремы. Тогда для любой точки х G А получаем N /о(жо) = /о(жо) + 5Z Аг/г(жо) = L(X°^ - ^(ЖД) = i=l N = fo(x) + J2^ifi(x)- B-4.8) г=1 В свою очередь для всякой допустимой точки х исходной за- задачи B.4.1) в силу условий (i) и (п) следует, что правая часть неравенства B.4.8) не превосходит /о(ж), т.е. fo(xo) < fo(x) для любой допустимой точки х. 3. Покажем, что если выполнено условие Слейтера (в некоторой точке ж), то из условий (i) и (И) следует, что Ао > 0, т.е. можно считать Ао = 1. Допустим противное, т.е. Ао = 0. Тогда из усло- условия (И) следует, что г=0 Если среди чисел А^, г G /i, есть ненулевые, т.е. положительные, то в силу выполнения условия Слейтера в точке ~х G А получаем N N ^2\ifi(x) < 0 = ^2 Xifi(xo), г=0 г=0 что противоречит принципу минимума (i).
§2.4- Задачи выпуклого и линейного программирования 215 Допустим, что Xi = 0 при всех г Е 1\. Тогда, так как вектор Л = = (Ло,...,Адг) по условию теоремы не равен нулю, то существуют компоненты Л^, % Е /2, не равные нулю. Из принципа минимума (i) получаем, что ^2Kfi(x)>0 Мхе А. B.4.9) iei2 В силу определения fi из B.4.1) перепишем формулу B.4.9) в виде Так как по условию векторы {pi}i^i2 линейно независимы, то определим ненулевой вектор Ро = S ^гРг- Определим функцию Ш2 где v — J2 xiyi-> и из неравенства B.4.9) следует, что функция (f(x) неотрицательна на множестве А, причем <р(х) не равна тождественно нулю. С другой стороны, так как </?(ж) = 0, ~х G hit А, а функция ip ли- линейна и не является тождественно равной нулю, то найдутся точки в любой окрестности точки ~х (принадлежащие множеству А), в кото- которых значения функции ip отрицательны. Противоречие. Итак, Ло ф 0, а так как Ло > 0, то Ло > 0. Далее доказательство повторяет п. 2. ? Следствие 2.4.1. При выполнении условия Слейтера теоре- теорема 2.4.1 дает необходимые и достаточные условия решения зада- задачи B.4.1). Преобразуем условия теоремы 2.4.1 к субградиентной форме. Рас- Рассмотрим функцию N г=0 Теорема 2.4.1 утверждает, что если хо — решение задачи B.4.1), то существует ненулевой вектор Л G К, при котором функция х —>¦ —у Li(x,X) достигает безусловного минимума в точке xq. Из тео- теоремы 1.16.1 следует, что 0 Е <9Li(xo, А), а в силу теоремы Моро- Рокафеллара влечет N 0 е Y, ^i dfi(xo) + N(A, xo). B.4.10) г=0
216 Гл. 2. Приложения выпуклого анализа В случае, когда точка ж о является допустимой, а для векто- вектора Л Е К выполнены условие Ло = 1 и условие дополняющей нежест- нежесткости (И), включение B.4.10) является как необходимым, так и доста- достаточным условием того, что точка xq является решением задачи B.4.1). 2. Задача линейного программирования. Рассмотрим сле- следующий простейший случай задачи B.4.1) выпуклого программиро- программирования, когда все функции fi — линейные, а множество А = W1. Раздел математики, изучающий задачи об экстремуме линейной функции нескольких переменных при ограничениях типа равенств и нера- неравенств, задаваемых также линейными функциями, получил специ- специальное название линейное программирование (linear programming), принадлежащее Т. Купмансу. Начнем со следующей леммы. т Лемма 2.4.1. Пусть множество А задано в виде A— f] {x Е г=1 Е W1 | (pi,x) < с^}, причем int А ф 0. Тогда значение целевой функ- функции в точке решения задачи нахождения максимума функции х —>¦ —у (ро,х) на множестве А совпадает со значением целевой функции в точке решения следующей задачи: mm л ._ при условии на X г~х B.4.11) т А;>0, J2XiPi=Po- г=1 Доказательство. Отметим, что условие непустоты внутрен- внутренности множества А влечет выполнение условия Слейтера в любой точке ж Е int A. Первая задача на максимум равносильна задаче на минимум функ- функции х —у (—ро,х) на том же множестве А. Запишем функцию Лагранжа для первой задачи (причем отметим, что в силу теоремы 2.4.1 А = A, Ai,..., Am) E К): т Ь(х, А) = (— pch x) + 2^ Xi((Pi'X) ~ аг)' г=1 По теореме 2.4.1 точка хо является решением задачи тогда и только тогда, когда существует вектор А = A, Ai,..., Am) E К, при котором справедливо включение 0едЬ(хо,Х) = -ро + г=1 т ^ т.е. выполнено равенство ^2 ^гРг = Ро- Определим множество К =
§2.4- Задачи выпуклого и линейного программирования 217 Г т Л _ = < A, Аь ..., Ат) е К Yl ^iPi = Ро (• Очевидно, что Л е К. Из усло- условия седловой точки B.4.3) получаем / ш _ \ - max (ро,х) = min ( (-ро,х) + V] А;((р;, ж) -щ)) = 4 г=1 7 = max I (-ро,хо) = — 2~^ a^Ai = max ( — 2_, ^ хек V ^ ^ Таким образом, значение приведенной в лемме целевой функции за- задачи максимизации совпадает со значением целевой функции зада- задачи B.4.11). ? Для решения задачи вида B.4.11) существует эффективный алго- алгоритм, называемый симплекс-методом. Для его изложения нам пот- потребуется преобразовать задачу B.4.11) к различным видам, которые называются задачами линейного программирования в канонической и нормальной формах. Определение 2.4.2. Задачей линейного программирования в канонической форме называется задача: найти минимум функции f(x) = (с, ж) на множестве А = {х е Жп | х > 0, Тх = Ъ}. B.4.12) Здесь заданы векторы с G Мп, Ъ G Mm и матрица Telmxn. Не- Неравенство х > 0 следует понимать покомпонентно, т.е. Х{ > 0 для всех г, 1 < г < п. Будем считать, что все компоненты вектора Ъ также неотрицательны. Действительно, если существует hi < 0, то, умножив г-е уравнение системы Тх = Ь на — 1, получим эквивалентную систему уравнений Тх = 6, но уже с hi > 0. Условимся также о том, что множество А непусто, а ранг матрицы Т равен m (и поэтому m < п). Последнее легко обеспечить путем отбрасывания уравнений из систе- системы Тх = Ь, не содержащих строк главного минора матрицы Т, при котором непустое множество решений системы Тх = Ь не меняется. Определение 2.4.3. Задачей линейного программирования в нормальной форме называется задача: найти минимум функции f(x) = (с, ж) на множестве Ах = {х е Ж1 \х > 0, Тх < Ъ}.
218 Гл. 2. Приложения выпуклого анализа Теорема 2.4.2 (существования). Если численное значение зада- задачи линейного программирования в канонической форме конечно (т. е. inf (с, ж) > — оо), то ее решение существует и достигается в хеА некоторой крайней точке множества А B.4.12). Доказательство. Так как численное значение задачи конечно, то А ф 0. Из условия inf (с, х) > — оо следует, что для любого асимп- хеА тотического направления у Е О+А выполнено неравенство (с, у) > 0. Так как для любого х Е А имеем х > 0, то множество А из B.4.12) не содержит прямых, и по следствию 2.3.1 inf (с, ж) = — sup(—с, х) хеА хеА достигается в некоторой крайней точке многогранного множест- множества А. П Исследуем свойства крайних точек непустого множества А из B.4.12). Теорема 2.4.3. Пусть непустое множество А С W1 задано в виде B.4.12), где п>т и ранг матрицы Т равен т. Точка х Е А является крайней точкой множества А тогда и только тогда, ког- когда можно так перенумеровать компоненты точки х = (xi,... ,жп), что последние ее компоненты Xk = 0 при &Em + l,n, а систе- п ма Тх = Ь принимает вид ^2 Tk%k = b, где Т^ — столбцы преоб- разованной матрицы Т, причем ее первые т столбцов Ti,...,Tm линейно независимы. Доказательство. 1. Пусть точка х G А, но х ? extrА. Тогда существуют вектор у ф 0 и число е > 0 такие, что х =Ь еу G А (более того, [х — еу, х + еу] С А в силу выпуклости множества А). Это зна- значит, что Т(х ± еу) = Тх ± еТу = Ь, следовательно, Ту = 0. Кроме того, по определению множества А справедливы неравенства х ± еу > 0. Перенумеруем компоненты точки х так, чтобы первые г, 0 < г < < п, компонент были больше нуля, т. е. Xk > 0 при к G 1, г, а при лю- любом к > г имеет место равенство Xk = 0. Если оказалось, что г = 0, то х = 0. Но точка 0 является вы- выступающей точкой множества А (гиперплоскость Н с нормальным вектором (—1,...,—1), проходящая через точку 0, дает Н П А = {О}), а значит, и крайней точкой, что противоречит выбору точки х. Следовательно, существует ж^>0, т.е. 1 < г < п. Так как у ф 0, то найдутся номера к в интервале от 1 до п, для которых ком- компоненты ук ф 0. Номера к, при которых ук ф 0, должны удовлетво- удовлетворять условию к < г, так как в противном случае либо хк -\-еук, ли-
§2.4- Задачи выпуклого и линейного программирования 219 бо Xk — eyk оказались бы меньше нуля (поскольку Хк = 0 при к > г), что невозможно, так как х =Ь еу Е А. Перепишем равенство Ту = 0 в виде ^2=0 при ^2\ук\>0. к=1 к=1 Это означает, что столбцы {Тк}7к=1 линейно зависимы. 2. Пусть точка х Е extr А. Если х = 0, то, взяв любые m линей- линейно независимых столбцов матрицы Т (ранг Т равен ш) в качест- качестве Ti,...,Tm, получаем требуемое условие. Пусть точка х Е extr Л\{0}. Перенумеруем компоненты точки х так, чтобы х\ > 0,..., хг > 0, а хк = 0 при любом к: г + 1 < к < п. Покажем, что г < m и после указанной перестановки компонент точки х и соответствующей перестановки столбцов матрицы Т в выражении г k=l столбцы {Тк}7к=1 будут линейно независимы. Это завершит доказа- доказательство теоремы. Допустим, что столбцы {Тк}7к=1 линейно зависимы. Тогда найдет- найдется ненулевой вектор а Е W1 вида а = (ai,..., ar, 0,..., 0) такой, что г ^2 Ткак =0. Существует число е > 0 такое, что для каждого номе- к=1 ра к от 1 до г справедливы неравенства Хк ± ?&к > 0- Тогда A;=l к=1 к=1 следовательно, [х - еа,х + еа] С А, т.е. х ? extr Л. Противоречие. ? С помощью теоремы 2.4.3 можно при малых значениях тип искать все крайние точки А как решения систем т п 1=1 /=ш+1 по всем перестановкам &/, дающим линейно независимые наборы столбцов {Tkl}'j^=1. Легко видеть, что для этого надо решить поряд- порядка С™ линейных систем, поэтому при больших тип такой алгоритм простого перебора бесперспективен с вычислительной точки зрения.
220 Гл. 2. Приложения выпуклого анализа Однако оказалось, что можно так организовать целенаправленный перебор крайних точек множества А в канонической задаче, что полу- получается быстро и эффективно работающий алгоритм даже при боль- больших значениях тип. Этот перебор, названный симплекс-методом, разрабатывался в конце 30-х годов в СССР Л.В. Канторовичем и в 40-х годах в США Дж. Данцигом. Данцигу принадлежит и так назы- называемый вариант модифицированного симплекс-метода, рассмотрению которого посвящен § 2.5. Первая задача — это поиск какой-либо крайней точки множест- множества А из B.4.12). Эту задачу можно решать с помощью вспомогатель- вспомогательной задачи — так называемой первой фазы симплекс-метода. При- Приведем ее. Пусть wGlm. Рассмотрим для множеств B.4.12) задачу в пространстве переменных (ж, и) Е Mn x W71 вида т inf V^ щ на множестве С = = {(ж,и) е Жп х Жт, и + Тх = Ъ, ж > 0, и > 0}. B.4.13) В задаче B.4.13) по теореме 2.4.3 легко указать крайнюю точку множества С, это точка (ж, и) = @, Ь) (напомним, что в канонической задаче мы без ограничения общности считаем Ъ > 0). Допустим, что у нас имеется алгоритм, который с помощью целе- целенаправленного перебора крайних точек множества находит решение задачи B.4.13) в некоторой крайней точки (хо,ио) этого множества. Если множество А = {х | Тх = b, x > 0} непусто, то очевидно, что и0 = 0 и хо G extr A. В самом деле, если предположить, что хо fi extr Л, то найдутся число е > 0 и точка у G Мп\{0} такие, что [х0 - еу,х0 + еу] С А. Но тогда выполнено включение [(ж0,0) - е(у, 0), (ж0,0) + е(у, 0)] С С, т.е. точка (жо,0) не является крайней точкой множества С. Противо- Противоречие показывает, что жо G extr Л. Если же при решении задачи B.4.13) оказалось, что щ ф 0, то это означает, что множество А пусто. Замечание 2.4.1. Таким образом, задачу B.4.13) можно исполь- использовать для выяснения непустоты множества А из B.4.12) и нахожде- нахождения по крайней мере одной крайней точки этого множества А.
§2.5. Симплекс-метод 221 § 2.5. Симплекс-метод Перейдем к описанию алгоритма целенаправленного перебора вер- вершин многогранного множества Л, заданного в виде B.4.12), при ко- котором на каждом шаге будет уменьшаться значение функции (с, х). Такой алгоритм принято называть симплекс-метод ом. Мы сразу опишем так называемый модифицированный алгоритм симплекс-метод а, при котором вычисления организованы более эко- экономным способом, чем в простом симплекс-методе. Предварительно введем ряд понятий и обозначений, используемых в методе решения. Обозначим через Ti г-й столбец матрицы Т. Допустим, что нам известна некоторая вершина х Е extr А (ко- (которую можно получить, например, в результате решения зада- задачи B.4.13)). В силу теоремы 2.4.3 найдутся т линейно независимых столбцов матрицы Т таких, что координаты этой точки ж, соответст- соответствующие другим оставшимся п — m столбцам матрицы Т, равны нулю. Эти m линейно независимых столбцов матрицы Т будем называть базисными столбцами для точки х. Остальные п — m столбцов мат- матрицы Т будем называть небазисными столбцами для точки х. В соответствии с этим введем систему обозначений. Пусть — массив из m натуральных чисел из множества 1,п, состоящий из номеров базисных столбцов в матрице Т для крайней точки ж, при этом полагаем, что {1^{х))к = ik(x). Через обозначим массив из п — m натуральных чисел из множества 1,п, состоящий из номеров небазисных столбцов в матрице Т, полагая при этом, что Aнб(х))к = Зк(х). Обозначим через Тб(х) (через Тнб(х)) — m x m-матрицу (m x х (п — т)-матрицу), составленную из базисных (небазисных) столб- столбцов матрицы Г, т.е. Тб(х) = (Т;)^/б(ж) (Тнб(х) = №)^/нб(я.)). При этом обозначим через (Т^(х))к — к-й столбец m x m-матрицы Tq(x), где к G 1,771 (т.е. (Тб(х))к =Tih^), а через (Тиб(х))к — к-й стол- столбец m х (п — т)-матрицы Thq(x), где к G 1,п — m (т.е. (Тп^(х))к = =ТЗк(х))- Аналогично матрице Т всякий вектор z G W1 разобьем на два век- вектора: вектор с базисными компонентами zq(x) = (zi)iej6^ из прост- пространства Ж171 и вектор с небазисными компонентами zhq(x) = (?г)ге/Нб0)
222 Гл. 2. Приложения выпуклого анализа из пространства Wl~m. При этом через (zQ(x))k обозначаем к-ю ком- компоненту вектора zq(x) в Мт, т.е. {z^{x))k = Zik(x)'i аналогично опре- определяем {z^{x))k = ?jfc(» — к-ю компоненту вектора zuq(x) Е Mn~m. Так как вследствие теоремы 2.4.3 матрица Tq(x) является не- невырожденной, то обозначим через U(x) обратную к матрице Tq(x) матрицу. Определим в W71 векторы Zj(x) = U(x)(Th6(x))j, jGl,n-m, и вектор Л (ж) = ?/т(ж)сб(ж), где cq(x) — вектор из базисных компонент вектора cGln, входящего в целевую функцию (с, z). Для каждого j Е 1, п — т определим величину <tj(x) = (ZjWM*)) ~ Ы*))з> B-5Л) которую в других обозначениях можно записать так: <т5{х) = (А(х), (Th6(x))j) - (снб(х))з B.5.2) Величины (Tj(x), где jGl,n — m, называют оценками замещения. Рассмотрим произвольную точку z G А. Разбивая вектор z на zq(x) и 2нб(жM получим, что в силу введенных обозначений система линей- линейных уравнений в задаче B.4.12) принимает вид T6(x)z6(x) +Tn6(x)zH6(x) = b. Отсюда в силу введенных выше обозначений следует z6(x) = Щх)Ъ - U(x)Th6(x)zh6(x), B.5.3) что для fc-й компоненты (в силу приведенного ранее определения вектора Zj(x)) влечет равенство х))к = (Щх)Ъ)к -(Y1 ад(*нб(*))Л , 1<к<т. B.5.4) V j=1 /к Отметим, что для случая, когда z = x G extr Л, имеем хи^(х) = 0 и xq(x) = U(x)b. Разбивая вектор с на векторы cq(x) и снб(ж), вычислим значение функции (c,z) в произвольной точке z G А с учетом B.5.4) и B.5.1): (c,z) = (c6(x),z6(x)) + (снб(ж),^нб(я:)> = = (c6(x),U(x)b - U(x)Th6(x)zh6(x)) -\- (ch6(x),zh6(x)) = п—?тг = (c6(x),U(x)b) - ^2 [(zj(x)(z^(x))j,c6(x)} - (ch6(x))j(zh6(x))j] =
§2.5. Симплекс-метод 223 Итак, получили формулу (c,z) = (c6(x),U(x)b) - ^ ч(х)Ых)), V* e А. B.5.5) п—т Приступим к описанию одного шага алгоритма (симплекс-метода), при котором по одной (некоторой заданной) крайней точке хо Е extr A находим другую крайнюю точку х Е extr, у которой значение функ- функции (c,z) по крайней мере не возрастет, т.е. (с,хо) > (с,ж). Для краткости обозначений введенные выше базисные столбцы Iq и остальные величины /нб, Тб, Тнб, z6, zh6, U, Zj, сб, снб, А, Gj, опре- определяемые выбором точки хо Е extr Л, будем обозначать указанными буквами, т.е. опускать аргумент xq. Перечисленные величины, соот- соответствующие новой крайней точке ж, будем обозначать аналогичными буквами, но с волной, например, /б, Tq и т.д. Начнем с того, что вычислим в данной точке хо оценки замеще- замещения (jj = (Tj(xo) для всех jG l,n-m (по формуле B.5.2)), и затем действуем в соответствии с полученным результатом. 1. Начнем перебирать j в порядке возрастания. Если для каждого j Е l,n — m выполнено условие &j < 0, то крайняя точка xq есть решение исходной задачи B.4.12), и алгоритм вычисления закончен. В самом деле, из формулы B.5.5) и того, что по условию зада- задачи B.4.12) для любого вектора z G А его компоненты неотрицательны, из неравенства Gj < 0 следует, что (c,z) > (сб(хо), U(xo)b) = (с,хо). 2. Пусть для некоторого joGl,n — m выполнено неравенство Gj0 > 0. При этом возможны два случая. 2, а. Все компоненты вектора Zj0 = Zjo(xo) не больше нуля, т.е. (Zjo)k ^ 0 при всех к G 1,?тг. Покажем, что в этом случае inf (с, z) = = —оо, т.е. конечного решения задача B.4.12) не имеет. Для любого t > 0 определим вектор zl — (zq,z^6) G А так, что (/нбЬ'о = ^ (zie)j = О ПРИ всех J ^ 1,гг — m\{jo}. Значения z\ вычис- вычисляем по формуле B.5.4), т.е. №)к = (Ub)k - (Zjo)kt, l<k<m. Так как (Zjo)k < 0, то отсюда следует, что (zo)k > 0 для всех t > > 0 и всех к G 1,га, следовательно, zl G А для всех t > 0. Из форму- формулы B.5.5) и неравенства Gj0 > 0, очевидно, следует, что (c^z1) —У —оо при t —у +00, что означает неограниченность снизу на множестве А функции (с, z) и неограниченность множества А. 2,6. Пусть существует по крайней мере один номер к G 1,га, для которого (Zjo)k > 0. Среди таких компонент вектора Zj0 определим
224 Гл. 2. Приложения выпуклого анализа так называемый разрешающий элемент (Zjo)8 вектора Zj0 по сле- следующей формуле для номера s Е l,m: _min ^%. B.5.6) kel,m: (ZJQ)k>0 V^JoJk В этом случае алгоритм нахождения новой точки х состоит в том, что на s-e место массива номеров Iq помещаем номер (/Нб)^0? а на Jo~e место массива номеров /нб помещаем номер Aб)8- При этом осталь- остальные элементы массивов сохраняют свои значения, т.е. (/б)г = (^б)г при г е l,m\{s} и (/h6)j = (lH6)j при j G l,n - m\{j0}. Покажем, что полученный таким образом новый набор столбцов матрицы Т с номерами из множества Iq будет базисным, т.е. мат- матрица Tq является невырожденной, и что ей соответствует некоторая крайняя точка х множества А. Невырожденность матрицы Tq докажем позже тем, что в явной форме укажем обратную к Тб матрицу U (см. формулу B.5.13)). Сначала найдем точку х. Приведенный выше алгоритм замены базисных номеров означает, что искомая точка х удовлетворяет соотношениям (xuq)j = 0 для всех j G 1, п — m\{jo}. В силу сделанной замены массива базисных номеров определяем (хб). = Mxo))jo = (Ub)s/(Zjo)s > 0, B.5.7) откуда в силу B.5.4) получаем, что (хб)к = (Ub)k - (Zjo)k(zH6(xo))jo Vк е l,m\{s}. B.5.8) Отсюда с учетом B.5.6) получаем, что (хб)к > 0 для всех к G 1,га, причем (жнб)^о = (*б(хо))8 = (Ub)8 - (Zjo)s(xu6)s = 0. Итак, определенная выше точка х принадлежит множеству Л, причем соответствует другому набору базисных столбцов, т. е. в силу теоремы 2.4.3 она является крайней точкой этого множества. При этом из формулы B.5.5) получаем, что (с,?) = (ce,Ub) -ajo(zu6(xo))jo < (ce,Ub) = (с,х0), B.5.9) т.е. значение целевой функции, минимум которой необходимо найти в задаче B.4.12), не увеличится. Отметим, что если (^H6(^o))jo > 0? т0 значение целевой функции строго уменьшится. Допустим, что матрица, составленная из базисных столбцов, Tq = имела вид Тб = (Th\... \Ti._1\Ti.\Ti.+1\...\Tim). B.5.10)
§2.5. Симплекс-метод 225 В результате указанной выше замены базисных номеров новая матрица столбцов Tq = Tq(x) принимает вид Тб = (Th\... \Tis_t |(TH6)i0 |Г<<+11... \Tim). B.5.11) Требуется показать, что эти столбцы линейно независимы, а для этого достаточно найти обратную к ней матрицу. Более того, на следующем шаге алгоритма для вычисления но- новой оценки замещения Gj = Gj (х) и векторов Zj = Zj (х) в силу фор- формул B.5.2) и B.5.5) опять потребуется вычислить матрицу U = U{x), обратную к матрице Тб, и вектор Л = Л (ж). Будем обозначать через Urk и Urk элементы матриц U и С/, через Ur — (Uri,..., Urm) — r-ю строку матрицы U, через Ur — r-ю строку матрицы U. Так как матрица U является по определению обратной к матри- матрице Тб, то справедливо равенство UTq = Em, где матрица Ет есть единичная т х т-матрица. В свою очередь, чтобы искомая матрица U была обратной к матри- матрице Тб, должно выполняться равенство UTq = Ет, которое (записанное по строкам Ur и столбцам Тц) принимает вид ВД, =UrTil=5rl = ^ Гг = \> B.5.12) Непосредственной проверкой покажем справедливость соотноше- соотношений B.5.12), выбирая матрицу U по формуле Ur = { ( ioh B.5.13) I j^yU., r = s. к KzJo)s 1) Пусть г = s. 1,а) Пусть г = s = I. Тогда в силу B.5.10) и B.5.11) имеем Т{а — TH6)jo5 откуда и в силу определения Zj0 и B.5.13) получаем 7Т Т — -*- ТТ (Т \ — \es; U{TH6)j0/ _ yZjo)s _ -, _ с us-l-is — /Л7 ч ^s^h6Jjo — /Л7 ч — /Л7 ч — -L — Oss. 1,6) Пусть r = s^l. Тогда в силу B.5.10) и B.5.11) имеем Ти = Т^, откуда и в силу B.5.12) и B.5.13) получаем f^i = /у ч UsTk = Je/ = 0 = Je/. 15 E.C. Половинкин, М.В. Балашов
226 Гл. 2. Приложения выпуклого анализа 2) Пусть г ф s. 2, а) Пусть т ф s ф\ фг. Тогда Tix — Tix и по формулам B.5.12) и B.5.13) получаем 77 Т — ТТ Т — №io'r 11 Т — Л , — (^'о)г Л , — Л , Ur-Lii — Ur-1-ii 7^7—^Г~ Us-1-ii — °rl Т^—Г~ °sl — °rl- 2,6) Пусть l ф г ф s — l. Из формулы B.5.13) и равенства Tis = = (Th6)jo п0 определению Zj получаем UrTie = Ur(TH6)jo - (Zjo) U^ Jo — K^JoJr = (Zjo)r - (Zjo)r sc"^/ = 0 = 2, в) Пусть / ф s ф г = /. Из формул B.5.13) и B.5.11) и равенства = Тц получаем \ 30/1 тт гр -| \ 30/1 с с В итоге формула B.5.12) доказана. При этом доказано, что мат- матрица Tq из B.5.11) обратима, причем обратной к ней является матри- матрица U, задаваемая формулой B.5.13). Обозначим через Л& (Л^) компоненты вектора Л = Л(жо) (векто- (вектора Л = Л (ж)). Для координат Л^ справедлива формула rj0, l<k<m. B.5.14) "К — '¦'¦К /гу \ ^JOI -"-_'"_ ""• K^JoJs Для доказательства этой формулы напомним, что по определению вектор Л вычисляется по формуле Л = Ut(xo)cq(xo) , где Сб(жо) = = (с^,..., Cim)T — вектор базисных компонент вектора с из функ- функционала (с, z). Уточним индекс (/Нб)^0 в наборе /нб- Обозначим его че- через t = (/Нб).7о- Тогда новый вектор cq = cq{x) имеет вид Отсюда и в силу формулы B.5.13) получаем для fc-й компоненты m А^ = (UTc6)k = ^2 cirUrk + ctUsk = ТТ USk / Г7 \ \ , U3I Urk ~ (Г7 ч {^joJr
§2.5. Симплекс-метод 227 Так как при г = s очевидно равенство Usk — , * ч (Zjo)s — О, т0 м°- жем записать r=l <Щ Вспоминая, что r=l получаем справедливость формулы B.5.14). В заключение заметим, что на каждом шаге алгоритма симплекс- метода необходимо формировать новые массивы индексов Iq и /нб, по формулам B.5.13) и B.5.14) вычислять новые U и Л, а по форму- формуле B.5.2) вычислять cfj, 1 < j' < п — m. На практике обычно объединяют первую и вторую фазы симплекс- метода в так называемую М-задачу. Пусть ет = A,..., 1) G Mm. Рассмотрим вместо задачи B.4.12) следующую задачу: inf {M(em,u) + (с, ж)} при условии (ж, u) G А\ — = {(ж, u) G Mn+m | ж > 0, и > 0, и + Гж = 6}, B.5.15) которая зависит от параметра М > 0. В задаче B.5.15) точка @,6) является крайней точкой допустимого множества Ai, причем легко находятся соответствующие @, Ь) базисные столбцы: это столбцы единичной т х т-матрицы. Допустим, что множество А в задаче B.4.12) непусто. Если зада- задача B.4.12) имеет решение —оо, то и B.5.15) имеет решение —оо, это очевидно. Допустим, задача B.4.12) имеет конечное решение. Обозначим через Л* множество точек решений, т.е. таких точек из множества А, что для любого a G А* выполнено равенство inf (с, ж) = (с, а). Обо- хеА значим через Ai* множество точек-решений задачи B.5.15). Напомним (лемма 2.4.1), что задача inf (-6, Л) на множестве {Л G Rm \ (Tf, Л) < а, 1 < г < п}, B.5.16) л 15*
228 Гл. 2. Приложения выпуклого анализа является двойственной к задаче B.4.12), и поэтому в случае, когда решение задачи B.4.12) конечно, решение задачи B.5.16) совпадает с решением задачи B.4.12). Лемма 2.5.1. Если в задаче B.4.12) множество А непусто, за- задача имеет конечное численное значение /* и если А — некоторое решение задачи B.5.16), то для всех М > ЦАЦоо = max |А«| зада- 1<г<т ча B.5.15) имеет такое же численное значение, т.е. д*(М) = /*, причем ^4.1* = {(ж, 0) | ж Е А*}. Доказательство. Запишем функцию Лагранжа для зада- задачи B.5.16): L = (-6, А) + ^2 Xi((Tu А) - с;), Xi > 0, 1 < г < п. Перепишем ее в виде L = (А, Тх-Ъ)-(с,х). Запишем условие седловой точки для решения А задачи B.5.16) и решения хо задачи B.4.12): L(\,x) < L(A,#о). Отсюда _ (\,Тх-Ь)-(с,х) < -(с,х0), (с,х0) = /*< (с,х) - (Х,Тх -Ъ) = (с,х) - (Х,-и)< (с,х) + ЦАЦ^ЦиЦь Зафиксируем число М > ЦАЦоо. Переходя в неравенстве к точной нижней грани по (ж,и) G Ai, получаем, что /* < д*(М). Отсюда также следует, что Ai* ф 0. Покажем, что А\* — {(ж,0) \х G А*} и /* = д*(М). Пусть точ- точка (ж*,0) G А\ такова, что ж* Gi*. Имеем /* < т.е. /* =д*(М), (ж*,0) G Аи. Пусть точка (г*,г?*) G А\*. С учетом равенства /* = д*(М) имеем откуда (М - 11Л11ооI1г»*111 < 0, т.е. ||v*||i = 0 и (z*,v*) = (z*,Q). При
§2.6. Приближения множеств и оценки 229 этом (c,z*) = д*(М) = /*, следовательно, z* e А*. Итак, А\* = = {(х,0)\хеА*}. ? Таким образом, нами обоснована замена задачи B.4.12) на зада- задачу B.5.15), в которой объединены обе фазы симплекс-метода: фаза выбора начальной крайней точки и фаза нахождения решения задачи. Замечание 2.5.1. На практике штрафной коэффициент М > О обычно выбирают больше, чем максимальное значение из модулей элементов матрицы Т, и компонентов векторов Ъ и с. Если же в задаче B.5.16) множество {Л | (Т^,А) < Q, 1 < г < п} ограничено, то в качестве числа М можно взять полунорму этого множества. Более подробное обсуждение М-задачи можно найти, например, в монографии [48]. Замечание 2.5.2. Описанный алгоритм симплекс-метода не является, вообще говоря, строго монотонным. Это связано с тем, что выбор разрешающего элемента Zjo8 в формуле B.5.6) в общем случае неоднозначен, т.е. возможны ситуации, при которых симплекс-метод «зацикливается». Зацикливание может случиться, когда, выполняя алгоритм по п. 2,6), мы каждый раз будем получать представления различными базисными столбцами Tq одной и той же крайней точки множества А, т.е. хо = х. В настоящее время известны алгоритмы построения специально- специального правила выбора номера s из множества индексов правой части формулы B.5.6), при которых гарантируется строгая монотонность алгоритма симплекс-метода (т.е. неповторяемость на разных шагах алгоритма одних и тех же наборов 1$). Такие правила выбора разре- разрешающего элемента принято называть антициклинами. Примеры за- задач, в которых зацикливание возникает, а также пример антициклина можно найти в книге [48]. § 2.6. Приближения множеств и оценки Известны различные способы приближенного описания выпуклых компактов из W1. Одним из простейших способов является прибли- приближение выпуклых компактов многогранниками. Например, выпуклый компакт A CW1 можно приблизить выпуклым многогранником, опре- определяемым конечной системой неравенств, т.е. А = f| {x G К" | (Pi,x) < s(Pi,A)} , B.6.1) г=1
230 Гл. 2. Приложения выпуклого анализа где s(p,A) — опорная функция множества А, а векторы pi при- принадлежат некоторому конечному набору векторов, называемому в дальнейшем сеткой С. Очевидно, что А С А. Мы описали один из методов внешнего приближения компакта многогранником. Возможны и другие, как внешние, так и внутрен- внутренние приближения телесных выпуклых компактов многогранниками. Методы приближения выпуклых множеств многогранниками часто необходимы, так как для решения задач, заданных конечным числом неравенств, разработаны эффективные аналитические и численные методы решения. Следуя работам [45, 80] мы установим оценки погрешности ука- указанного выше внешнего многогранного приближения выпуклого ком- компакта. Определение 2.6.1. Сеткой С мелкости A Е @,1) называется такой конечный набор векторов pi Е W1, г Е 1, /, из единичной сферы (т.е. \\pi\\ = 1), что для любого вектора р ф 0, р Е Мп такого, что существуют подмножество индексов /pCl,/ и числа > 0, г Е 1Р такие, что ||р;-^||<Д Wi,jelp, где PuPjeC, B.6.2) iPi' Pi^C. B.6.3) Лемма 2.6.1. Для данной сетки С мелкости A G @,1) в предс- представлении любого вектора рфО, р/\\р\\ ? С, в виде B.6.2), B.6.3) справедливы оценки ||р-р,-||<Д Vje/P, 1>||Я1>1-А2, B.6.4) где р=?, а=У>г, «, = -. B.6.5) ieiP Доказательство. В силу выражений B.6.2), B.6.3), B.6.5) получаем равенства р = ^2 ®iPi •> S &i — 1 •> откуда -pi) = 0, ||p-Pj|| < ^2 ai\\pi - pj\\ < A V j G Ip, ieip B.6.6) С другой стороны, суммируя равенства 1 = llftll2 = 11Я12 + 2<Р, Pi -P) + \\Pi-p\\2
§2.6. Приближения множеств и оценки 231 с весами с^ из B.6.5), в силу неравенств B.6.6) получаем 1 = \\p\\2 + Е «*Цр* - р\\2 ^ \\p\\2 + д2 ^ iipii+д2 (где последнее неравенство верно в силу \\p\\ < 1), откуда следует правое неравенство в B.6.4). ? Определение 2.6.2. Пусть задана сетка С мелкости А. На множестве положительно однородных функций /: Мп —>- М зададим сеточный оператор С по формуле 7(р), оеС' У „ г, B-6J) +00' ы*с- Для получения оценок приближения множеств, использующих опе- оператор С, нам потребуются еще один вспомогательный оператор, вы- вычисляемый для данной сетки С мелкости А по формуле /м, ? где для каждого вектора р ф 0 определены множества индексов /р и числа а.{ > 0 при г G /р также, как и в определении 2.6.1. Лемма 2.6.2. Пусть дана сетка С мелкости А < 1, на которой определены сеточные операторы С, U, действующие на множестве положительно однородных функций f: Жп —у Ж. Тогда: 1) если функция f выпукла, то со Cf > /, причем со Сf(p) = f(p) VpeC; 2) если / выпукла, то / < со W/; 3)coC/ = coW/ V/; 4) со/ < со С/; 5)соС||р||<|И/A-Д2). Доказательство. Первую часть соотношения 1) и соотноше- соотношения 4) легко получить из неравенства Cf > /, взяв от обеих его частей выпуклую оболочку. Вторая часть соотношения 1) следует из его первой части и того, что для любой точки р G С справедливо неравенство со Cf(p)<Cf(p) = f(p).
232 Гл. 2. Приложения выпуклого анализа Соотношение 2) следует из определений оператора Ы и выпуклой функции. Так как по формулам B.6.7), B.6.8) С/ > W/, то со С/ > со Uf. С другой стороны, coCf(p) < ^2 aif(Pi) = М f (p) •> т-е- со С/ < со Uf. ieiP В итоге получаем равенство 3). Докажем неравенство 5). Из определения оператора Ы получаем щр\\ - ы\ = Е<*н - \\p\\ =а(Е* - \ш) = а(г - \ш- ieiP ^ieiP ' В силу леммы 2.6.1 получаем, что ||Я1 1-Д2 " " ' откуда следует Щр\\ - \\p\\ < \\p\\ х _ Д2, т.е. W||p|| < ||р|| г _ Д2 - Взяв выпуклую оболочку от обеих частей неравенства и учитывая соотношение 3), получаем требуемое неравенство 5). ? Замечание 2.6.1. В силу леммы 2.6.2 оператор С позволяет описать внешнее приближение выпуклых множеств многогранниками. В самом деле, многогранник Л, заданный неравенствами B.6.1) при условии, что все pi G С, приближает извне выпуклый компакт Л, причем опорная функция многогранника А удовлетворяет равенст- равенству s(p, А) = со Cs(p, А) для всех р Е W1, причем s(p, A) = s(p, А) для всех р G С. Для получения оценок внешних многогранных приближений вы- выпуклых компактов сформулируем условия на изучаемый класс поло- положительно однородных функций. Предположение 1. Положительно однородная функция /: Мп —>- М удовлетворяет условию Липшица с константой L > 0, а ее выпуклая оболочка ограничена с константой М > 0, т. е. |со/(р)| < < м\\р\\ \fpew1. Предположение 2. Существуют число г > 0 и точка a G Мп такие, что f(p)>r\\p\\ + {p,a) VpeM". Поясним геометрический смысл предположений 1 и 2. Если по функции /, удовлетворяющей предположениям 1 и 2, определим мно- множество А= f| {xeRn\{p,x)<f(p)}, р€дВг@)
§2.6. Приближения множеств и оценки 233 то оно непусто, содержится в шаре радиуса М с центром в нуле и само содержит шар Вг(а). Предположения 1 и 2, очевидно, выполняются для опорных функ- функций компактов с непустой внутренностью, причем L = М = ||А||. Теорема 2.6.1. (Е.С.Половинкин [79, 80]). Пусть функция f удовлетворяет предположениям 1 и 2, пусть задана сетка С мел- мелкости A Е @,1/2), на которой определен сеточный оператор С. Тогда справедливы оценки со /(р) < со Cf(p) < со /(р) + 4LMAIH Vp G Mn. B.6.9) 5 случае, когда функция f выпукла и удовлетворяет только предположению 1, справедлива оценка f(p)<coCf(p)<f(p)+2LA\\p\\ VpeK". B.6.10) Доказательство. Так как / < С/, то левые неравенства в B.6.9) и B.6.10) очевидны. Зафиксируем вектор р ф 0. Используя для произвольно выбранного вектора р обозначения из определе- определения 2.6.1 и леммы 2.6.1 и выбирая по заданной сетке С оператор Ы B.6.8), получаем с учетом формулы B.6.4), предположения 1 и условия на А выражения = М LA < 2||p||LA. B.6.11) Если функция / выпукла и для нее выполнено предположение 1, то в полученном неравенстве Uf(p)<f(p) + 2LA\\p\\ Vp вычислим выпуклую оболочку от обеих его частей и с учетом ра- равенства 3) из леммы 2.6.2 получаем оценку B.6.10). В случае, когда функция / невыпукла, в приведенном выше нера- неравенстве оценивая ||р|| из предположения 2, получаем . B.6.12) Вычислив выпуклую оболочку справа и слева в неравенстве B.6.12), воспользовавшись слева леммой 2.6.2, п. 3) и справа простым свойст- свойством выпуклой оболочки (см. предложение 1.6.3, п. 3), получаем оценку 9 Г Д со Cf(p) < со /(р) + (со /(р) - <р, а» — Ур е Шп,
234 Гл. 2. Приложения выпуклого анализа откуда, учитывая, что в силу предположений 1 и 2 справедливы неравенства со/(р) + (-р,а) < со Др) + со Д-р) < 2М||р||, получаем правое неравенство в выражении B.6.9). ? Следствие 2.6.1. Пусть в теореме 2.6.1 функция f(p) является опорной функцией некоторого выпуклого компакта А из W1, т. е. Др) = s(p,A), и пусть А= Р| {х е Шп | (р, х) < s(p, Л)} B.6.13) рее есть его внешняя многогранная аппроксимация с нормалями р из сетки С мелкости А > 0, Отметим, что его опорная функция имеет вид s(p,A) = со Cs(p,A) Vp G W1, а функция f(p) = s(p,A) (e силу свойств опорной функции) удовлетворяет предположению 1 с константой L — М — ||А||, гб?е ||Л|| = тах{||а|| | а G Л} — полунорма компакта А. Тогда из оценки B.6.10) в силу формулы A.11.19) получаем сле- следующую оценку. ^ h(A,A) < 2\\A\\A. Следствие 2.6.2. Допустим, что положительно однородная функция /: W1 —У Ж удовлетворяет предположениям 1 и 2, но не является выпуклой функцией. Тем самым она является предопорной функцией некоторого (не известного нам) выпуклого компакта А с непустой внутренностью, т. е. соДр) = s(p,A). (Такая ситуация возникает, например, в случае, когда f(p) = s(p,B) — s(p,C), где В и С — заданные своими опорными функциями выпуклые компакты, т. е. нам необходимо по значениям /(р) на сетке С получить значе- значения опорной функции множества А = В — С тоже на сетке С, не вычисляя выпуклой оболочки соДр) для всех р). Вычисляя прибли- приближенное множество А через конечную систему неравенств А= р| {х е Жп | (р,х) < /(р)}, B.6.14) рее из оценки B.6.9) получаем в метрике Хаусдорфа оценку h(A,A) < ^—, т. е. эта оценка прямо пропорциональна мелкости А сетки С и обратно пропорциональна радиусу вписанного шара.
§2.6. Приближения множеств и оценки 235 Таким образом, телесность множества А играет не менее важ- важную роль для точности аппроксимации, чем мелкость А сетки С. В гл. 4 мы получим другие аппроксимации компактов множества- множествами, задаваемыми системами с конечным числом неравенств, точность которых будет пропорциональна А2 на сетке С. Рассмотрим еще один способ аппроксимации выпуклых тел мно- множествами, задаваемыми аналитическими функциями. Теорема 2.6.2 (Г. Минковский [20]). Для любого выпуклого ком- компактного тела А из W1 и для любого е > 0 можно найти строго выпуклый компакт В такой, что А С В С А + В?@) и компакт В задается неравенством В = {х | f(x) < 1}, где функция /: W1 —у Ж является аналитической функцией аргументов {х\ ... ,хп), причем в каждой точке границы В существует касательная гиперплос- гиперплоскость. Доказательство. Зафиксируем число е>0 и считаем, что 0 Е int А. На основании теоремы 2.6.1 существует многогранник А, содержащий множество А и такой, что h(A,A) < г/2. То есть нужно взять сетку С мелкости А < г/B||Л||), состоящую из / точек нормалей (/ > 3), и требуемое множество А задается формулой B.6.13). Опре- Определим функцию Их v) - ^'X) - 1 L(X>P)- s(p,A) X' где р G С. Тогда множество А можно представить в виде (pi G С) А= f]{xeRn\L(x,Pi) <0}. Выберем число а^, большее чем —-\nl, определим функцию f(x) = j ^VoL^) B.6.15) i=l и множество В по формуле В = {х G W1 \ f(x) < 1}. Так как для любого хо G А справедливо неравенство L(xo,pi) <0 ViG 1,/, то в силу определения B.6.15) получаем, что /(жо) < 1, т.е. справедливо включение А С В. В свою очередь для любой точки хо ? А -\— Bi@) существует номер го G 1,/ такой, что 2s(Pi0,A) ~ 2ЦАЦ-
236 Гл. 2. Приложения выпуклого анализа Отсюда в силу выбора числа а^ получаем, что /(жо) > у > 1, т.е. хо (? В, откуда следует включение В итоге получаем включения Ас В С А + В?@). Докажем, что множество В строго выпукло и в каждой граничной точке множества В существует касательная гиперплоскость к поверх- поверхности множества В. Для этого вычислим производную функции / по произвольному направлению I Е Мп, / Ф 0: df{x) =± dl dt г=1 Аналогично, вычисляя вторую производную функции / по направле- направлению /, получаем d2f(x)_l ,2 ' откуда следует, что з > 0 V/еГ, 1ф0. B.6.17) Для любой граничной точки хо G дВ, выбирая направление / = хо, получаем из выражения B.6.16) формулу df(xp) . rjtf \\ l V^ aoL(xo,Pi)/T ( \хл\ — = (жо, vUxo)) = - у а$е и v и'^гмЬ(жо,Рг) + !)• охо I *-^ Так как для граничной точки хо имеется хотя бы одно неравенство L(xo,pio) > 0, где г'о G 1, /, то, учитывая очевидную оценку tef > — 1/е, верную для всех tGl, и условия ао > In/ > 1пЗ, получаем / г=1 Х( ^ 7"П >а0-^ >а0-- >0. B.6.18) > 7 f«oe ) > a0 > a0 ~ / V e J ~ 1-е e
§2.6. Приближения множеств и оценки 237 Таким образом, в силу неравенства B.6.18) мы доказали, что градиент V/(#o) не равен нулю в любой точке хо границы дВ, т.е. в этой точке Хо существует касательная гиперплоскость к границе дВ. Из неравенства B.6.17) следует выпуклость компакта В, а также то, что касательная плоскость, проведенная в произвольной граничной точке множества В, имеет лишь одну общую точку с компактом В, т.е. множество В есть строго выпуклый компакт. ? Следствие 2.6.3. Если выпуклый компакт А С W1 имеет не- непустую внутренность, то при желании можно легко построить внутренние многогранные или гладкие аппроксимации множества А с любой заданной точностью в метрике Хаусдорфа. В самом деле, пусть число г > 0 таково, что справедливо включе- включение Вг@) С А, т.е. справедливо неравенство r\\p\\ < s(p,A) Vp E W1. В силу теорем 2.6.1 и 2.6.2 можем построить внешнюю (мно- (многогранную или гладкую) аппроксимацию компакта А с точностью до г • е > 0. Это значит, что справедливы неравенства s(p,A) < s(p,B) < s(p,A) + rs\\p\\ < s(p,A)(l + e) Vp E Жп. Отсюда следует, что выпуклый компакт В = В содержится в компакте А и приближает его с точностью до <е При работе с выпуклыми множествами, когда их нужно скла- складывать и вычитать по Минковскому, оказывается недостаточным приближение их выпуклыми многогранниками или гладкими мно- множествами. Необходимо уметь вычислять опорные функции этих ап- аппроксимаций, так как сумма множеств может быть вычислена лишь через сумму опорных функций данных множеств. Пусть множество А задано конечной системой неравенств B.6.14), где функция f(p) не является выпуклой. Самый простой способ вы- вычислять опорную функцию по ее определению: s(p,A) = max (p, x). Но так как множество задано через систему линейных неравенств, то задача нахождения значения опорной функции на заданном век- векторе р G W1 есть задача линейного программирования. Для описания выпуклых многогранников достаточно найти значения опорной функ- функции лишь на сетке С, на которой определено множество А в B.6.14). Тем не менее необходимо решить много однотипных задач линейного программирования с общей системой неравенств и при различных максимизируемых линейных функционалах (для всех р G С).
238 Гл. 2. Приложения выпуклого анализа Возникает проблема экономного решения данного семейства одно- однотипных задач. Приведем описание одного алгоритма приближенного решения се- семейства задач линейного программирования с общей системой линей- линейных неравенств. Будем считать, что дана совокупность точек {pi}7^1 из единичной сферы dBi@) С Мп, которую обозначим буквой Ci. На сетке Ci задана функция f(p). Будем считать, что мелкость сетки Ci есть Ai Е @,1). Для каждого pk G Ci задан целевой функ- функционал дк(х) = (рк,х). Рассмотрим семейство &-задач (где к Е 1,т) тах{дк(х)\хеА}, где А= f] { х е Жп \ (р,ж) < /(р)}. B.6.19) Для работы алгоритма существенно выполнение следующего пред- предположения. Предположение 3. Множество А из B.6.19) ограничено, т. е. d = diam A < +оо; и имеет непустую внутренность, т. е. сущест- существуют вектор a Е W1 и число г > 0 такие, что (р, а) + г < f(p) для всех р G Ci. Опишем алгоритм одновременного приближенного решения семей- семейства &-задач B.6.19) при всех к G l,m. Первый шаг. Прежде всего проверим, что в задаче B.6.19) выполнено предположение 3. Для этого найдем вектор a G W1 и число г как решение следующей задачи: max {inf {\\a - у\\ | у G Rn\A} | a G А}. Сведем эту задачу к задаче линейного программирования. Для этого введем дополнительную переменную Л G Ж и решим задачу (линейного программирования) вида тах{Л| (X,z) G R x Rn : (p,z) - f(p) + A < 0 Vp G Ci}, в результате чего получаем точку z = a G W1 — центр максимального вписанного в А шара и число Л = г > 0 — точную верхнюю грань радиусов всех шаров, вписанных в А. Если а ф 0, то делаем в B.6.19) замену переменного х на х + а, т.е. множество А заменяем на множество А — а, а функции gk(z) — на gk(z + a). В итоге сводим задачу к случаю, когда центр макси- максимального вписанного в А шара находится в точке 0 и справедливы включения Вг@) С Ac Bd(Q). B.6.20)
§2.6. Приближения множеств и оценки 239 Второй шаг. На единичной сфере введем новую сетку С2 = = {qj}^=1 мелкости А2 G @,1/2). Для каждого вектора q G C2 вычис- вычислим значение Третий шаг. Для всех векторов q G С2 определим векторы 2(д) = q/s°(q), которые в силу выбора функции s°(q) принадлежат множеству А. Определим выпуклый многогранник z(q), B.6.21) который по построению является вписанным во множество А. Далее для каждого fcG l,m находим (перебором) вектор Zk G IJ такой, что gk(zk) = max {#&(?(#)) I q G C2}. Это и есть приближенное решение /^-задачи B.6.19). Теорема 2.6.3 [84]. Если в семействе к-задач B.6.19) выпол- выполнено предположение 3 с центром максимального вписанного шара в точке а = 0 и если через ~z^ обозначено некоторое точное ре- решение к-задачи, то для приближенного решения Zk, получаемого в результате реализации приведенного выше алгоритма, справедливы соотношения (см. B.6.21)) Ах с А с Ах + ^^ Вх@), B.6.22) т 9кЫ < gk(zk) < gk(zk) + ^i. B.6.23) Доказательство. Рассмотрим поляру множества Л, т.е. A° = {yeRn\(z,y)<l VzeA}. В силу примера 1.12.2 и леммы 1.12.3 получаем равенство Л° = со \J{zUp,z)<f(p)y=co Из включений B.6.20) и леммы 1.12.1 следуют включения 1в1@)сА°С-В1@), B.6.24) а г из которых получаем ||Л°|| = h(Q,A°) < -, s(q,A°) > \ \/q G 0Bi(O). B.6.25)
240 Гл. 2. Приложения выпуклого анализа Определим множество Так как для всех q Е C2 справедливы равенства s°(q) = s(q,A°), то из определения множества А± следует включение А° С А±. Как показано в теореме 2.6.1, при выборе сетки С2 мелкости А2 < 1/2 множество А^ как пересечение полупространств с нормалями, образующими сет- сетку С2, будет ограниченным множеством. В самом деле, в силу правого включения в формуле B.6.24) и оценки формулы B.6.10) теоремы 2.6.1 (где надо взять f(p) = s(p,A°) и С = С2) выполнено включение А1 с А° + 2||Л°||Д2?1@) С 1 + 2А2 Bi@). B.6.26) Опорная функция s(^, А±) ограниченного множества А± удовлетворяет условию Липшица с константой \\АЦ\ = /г@, А\) (см. лемму 1.6.4). Поэтому из B.6.25) и формулы B.6.10) теоремы 2.6.1 получаем Ц А2) т.е. справедливо включение А°х с А° [l + у А2). B.6.27) Определяя множество Ai как поляру множества А±, получаем Al = (А°гГ = со [^ Из включения Л° С Л^ следует включение А\ С Л. Из известного свойства поляры (аА)° = A/а)А° при OGint^ и а > 0 (лемма 1.12.1) и из включения B.6.27) получаем включение которое эквивалентно неравенствам ) VqedB^O). B.6.28) Из включения Ai С А С В^@) и неравенств B.6.28) получаем нера- неравенства
§2.7. Некоторые задачи теории приближений 241 Последнее неравенство в силу леммы 1.11.4 и означает выполнение включения B.6.22). Докажем B.6.23). Так как А\ С Л, то gk{zk) < gk(~z~k)- С другой стороны, в силу B.6.22) найдется Хк G А\ такое, что ||^—ж^|| < < 2сРА2/г. Отсюда 9k(zk) < 9к(хк) + \\Pk\\ ' \\z~k ~ хк\\ < gk(zk) H -. Таким образом, требуемые неравенства B.6.23) доказаны. ? Замечание 2.6.2. Отметим, что объем вычислений в предложен- предложенном алгоритме составляет один симплекс-метод плюс O(mN) арифме- арифметических операций (умножений). § 2.7. Некоторые задачи теории приближений Определение 2.7.1. Банахово пространство Е называется рав- равномерно выпуклым пространством, если для Уг?@,2] функция 6(е) = inf{l - \ \\х + у\\ | х, у G Bi@), \\х - у\\ > г} B.7.1) строго больше нуля. Функцию S(e) из B.7.1) принято называть модулем выпуклости пространства Е. Легко видеть, что геометрический смысл модуля выпуклости следующий: это минимальный из радиусов вписанных в Bi@) шаров наибольшего радиуса с центром в точке (х + у)/2 по всем точкам ж, у из шара Bi@) таким, что \\х — у\\ > е. Например, гильбертово пространство И является равномерно вы- выпуклым с модулем Более того, по теореме Дэя-Нордлендера гильбертово пространство является наиболее выпуклым среди всех равномерно выпуклых бана- банаховых пространств, именно, если Е — равномерно выпуклое банахово пространство с модулем 5е, то Se(s) < 8н(?) (см- гл- 3, § 3 в [37]). Отметим, что модули выпуклости некоторых конкретных прост- пространств, например, Lp[0,1], при 1 < р < оо можно найти в книге [37]. Также известно, что всякое равномерно выпуклое банахово прост- пространство рефлексивно (см., например, [37, 49]). Из определения 2.7.1 сразу следует строгая выпуклость шара В\ @) и монотонность модуля выпуклости: <*(ei) < 5(е2) при ех < е2. B.7.2) 16 Е.С. Половинкин, М.В. Балашов
242 Гл. 2. Приложения выпуклого анализа Кроме того, из геометрической трактовки функции S(e) из B.7.1) следует неравенство б(е) < |. B.7.3) Отметим, что из теоремы Дэя-Нордлендера следует даже более сильное неравенство S(e) < г2/4. Лемма 2.7.1. Пусть Е —равномерно выпуклое банахово прост- пространство. Пусть даны топких, у G #i@), х ф у, и число /3 G @,1/2). Тогда 1 - \\f3x + A - /3J/|| > 2Щ\\х - 2/||). B.7.4) Доказательство. По определению модуля выпуклости выпол- выполнено включение Пусть z = (Зх + A- /3)у, z e [ж, (х + у)/2]. Так как у е ^i(O), то поэтому, применяя к шару В^^х_у^ ((х + 2/)/2) гомотетию с центром у и коэффициентом \\у - z\\/\\y - (х + 2/)/2|| = 2/3, получаем ({2/} со ({2/} U откуда следует, что ||z|| + 2/ЗЙ(||ж - у\\) < 1. ? Лемма 2.7.2. Пусть Е —равномерно выпуклое банахово прост- пространство. Пусть числа a G @,1), C G @,1/2), векторы ж, z G Е и функционал р G Е* удовлетворяют условиям B.7.5)-B.7.7): <р,*><1-а, B.7.6) \\z-f3x\\ < 1-/3. B.7.7) ||г|| < 1-2/36(а). B.7.8) Доказательство. Определим у = (z — [Зх); тогда в силу условия B.7.7) получаем, что \\y\\ < 1 и z = [Зх + A — C)у. Из лем- леммы 2.7.1 и свойства B.7.2) получаем 1-\\г\\>2Щ\\х-у\\)>2Щ\\х-г\\).
§2.7. Некоторые задачи теории приближений 243 Далее, в силу формул B.7.5) и B.7.6) получаем ||ж-г|| = |Н*||ж-^|| >(p,x-z) = (p,x) - (p,z) > a. Поэтому ||z|| < 1 — 2/3?(а), что и требовалось. ? Лемма 2.7.3. Пусть пространство Е является строго выпук- выпуклым, т. е. граница шара в Е не содержит отрезков. Тогда для любых линейно независимых векторов а и Ъ выполнено неравенство Доказательство. Так как точки a/||a||, Ь/\\Ь\\ лежат на сфе- сфере dBi@), в силу строгой выпуклости шара получаем: т. е. a + b < 1, что и требовалось доказать. ? Теорема 2.7.1 (М. Эделстейн [130]). Пусть Е —равномерно вы- выпуклое банахово пространство. Пусть А С Е — замкнутое и огра- ограниченное множество. Тогда совокупность Л всех точек х из Е, для каждой из которых существует единственная точка a G А такая, что \\х — а\\ = sup \\x — 2/||, B.7.9) уеА плотна в пространстве Е. Доказательство. Обозначим через Sk(l) = S(S(.. .6A)...)) суперпозицию модулей выпуклости (вложенность к раз). 1. Сначала докажем, что множество точек в пространстве Е, для которых существует наиболее удаленный элемент множества А (вообще говоря, не единственный), плотно в Е. Будем называть такие точки из Е точками существования. Обозначим множество точек существования через Л\. Зафиксируем произвольную точку хо G Е и определим число r\ = sup ||ж - жо||. B.7.10) А Считаем, что г\ > 0. Мы покажем, что для любого Л G @,ri) най- найдется точка х G Е, удовлетворяющая условию B.7.9) и такая, что 11^ ~ хо\\ ^ А. Для этого мы индуктивно определим последовательнос- последовательности {ап}^=1 и {хп}^=1, сходящиеся kcl^Avlx^Ai соответственно. 16*
244 Гл. 2. Приложения выпуклого анализа Выберем точку а\ Е А так, чтобы выполнялось неравенство B.7.11) Это можно сделать по определению супремума в B.7.10). Определим точку Полагая по индукции, что числа rn_i и точки an_i, хп-\ уже опреде- определены, определим число rn = sup \\х — xn-i\\ B.7.13) и выберем точку ап Е А так, чтобы выполнялось неравенство \K-Xn-iII >rn(l--^5n+1(l)), B.7.14) и определим точку х« = х^ + ?^\\^ B-7Л5) Отметим, что последовательность {хп} является фундаментальной последовательностью в силу формулы B.7.15). Далее мы докажем, что и последовательность {ап} является фундаментальной. Для каждого натурального числа п определим числа Rn > 0, (Зп G е @,1/2), точки ип е дВ\@) С Е и функционал pn G #* следующим образом: Яп=гп + 2-пА, B.7.16) /3n = 2-nA5 nn= „ап~Жп-1„, B.7.17) Яп \\ап — xn-i\\ <Рп,«п> = Ы1* = 1- B-7.18) Отметим, что функционал рп G Е* существует по следствию из теоремы Хана-Банаха (см. упр. 1.9.10). Проверим, что числа /Зп G @,1/2) для всех п > 1. Используя опре- определение числа гп и формулу B.7.15), получаем rn = sup \\x - Xn-i\\ > \\an-i ~ (an-i - хп-2 ||а„-1-ж„_2|| 2»- л > > |. _х |. л |п—1 2
§2.7. Некоторые задачи теории приближений 245 т.е. откуда следует _л_ л 2Л ~ 2 2п~1 _Л_ 2п' Из формулы B.7.13) для п + 1, формул B.7.15) и B.7.14) и из опреде- определения Rn по формуле B.7.16) получаем оценку rn+i = sup ||ж - хп\\ > \\ап - хп\\ = А ап — xn-i = \\{ап -Xn-i \\ап - xn-i\\ 2n = \\ап -жп-1 2" - ^ Покажем, что для любой точки у G А справедливо неравенство у-хп < 1. B.7.20) Действительно, из формул B.7.13) имеем \\у — xn-i\\ < rn Vу G А, откуда в силу B.7.15) и B.7.16) получаем у - жп_1 + — Л ап — хп-1 \\ап - xn-i\ < \\у - хп-!\\ + — < гп + — = Rn. Далее из определения точки ип B.7.17) и функционала рп B.7.18) с учетом неравенства B.7.14) получаем \Рпч 0>п Хп/ — \Prii 0>п Хп — \/ ~г \Prii %п — 1 Хп/ — = \\ап - хп-!\\ + 2""А > г„ - А ^+ + А. = Поясним последнюю оценку в B.7.21). Она имеет место, так как X/BnRn) =/Зп < 1/2, а в силу B.7.3) 5пA) > 25п+1 A) > 5п+1 A). Для доказательства сходимости последовательности {ап} доста- достаточно доказать неравенство (р„, ап+1 - хп) > Д„A - <5"A)). B.7.22)
246 Гл. 2. Приложения выпуклого анализа Действительно, в этом случае из неравенства B.7.20) следует, что точки _ _ 1 Л Л /tn -tin а из неравенств B.7.22) и B.7.21) получаем — хп ап — хп II 1 / an+i — хп ап — х , и>п лп ^ J- / u,n + L ^n , «,n — a,n \ 1 хп H т; II > 2 \^' « ' « > > 1 -d Поэтому из формулы B.7.1) для модуля выпуклости 8(е) получаем s П\ап+1 - ап\\\ <Sn^^ V Rn / откуда в силу B.7.2) следует, что ||an+i — ап\\ < Rn5n~1 A). Учитывая неравенство B.7.3), получаем IK+1 - «nil < RnS11-1^) < (n + A^-^l) < 2-"+1(n + A), т.е. последовательность {ап} фундаментальна. Приступим к доказательству оценки B.7.22). Для этого проверим выполнение условий и утверждения леммы 2.7.2. Причем берем а = = ?пA), /3 = (Зп, р = Рп, х = un, z = (an+i - xn)/Rn. Условия B.7.5) уже проверены, они выполнены. С учетом формул B.7.15) и B.7.17) справедливо равенство хп — хп-\ — —(Х/2п)ип, откуда следует an+i — хп-1 _ a>n+i — хп хп — хп-1 _ an+i — х хп — хп-1 _ an+i — хп п ' Б "" Б PnUn- Б Б ' Б tXn tXn tXn Отсюда в силу того, что ||an+i — xn_i|| < rn = Rn — 2~nX = Rn(l — — /3n), получаем II Rn ^'blb 11^ ^" Таким образом, условие B.7.7) тоже выполнено. Из формулы B.7.14), взятой при индексе п + 1, из неравенства B.7.19) и из неравенства ?п+2A) < -?п+1A), получаемого из неравенства B.7.3), имеем - 2 -Жп|| ^ Гп+1[ 1 - >д„EA)^A)> > Rn - ^т^+1A) = Rn(l - 2/3nSn+1(l)). Таким образом, получили неравенство, противоположное неравенст- неравенству B.7.8).
§2.7. Некоторые задачи теории приближений 247 Мы доказали выполнение всех условий леммы 2.7.2, кроме усло- условия B.7.6), а также доказали, что не верно утверждение B.7.8). Следовательно, условие B.7.6) нарушено, что и означает неравенст- неравенство B.7.22) а вместе с ним и фундаментальность последовательнос- последовательности {ап}. В силу замкнутости множества А последовательность {ап} схо- сходится к элементу a Е А. По построению хп —> х Е В\(хо). Переходя к пределу в неравенст- неравенстве B.7.14), с учетом определения гп в B.7.13) получаем \\а - х\\ > lim rn = sup \\x - х\\, п^°° хеА откуда х е А\. Итак п. 1 доказан. 2. Пусть х Е Л\ — точка существования и a Е А — одна из точек, для которой sup \\х — у\\ = \\х — а\\. Определим луч I = {х + + А(ж-а)|А>0}. уеА Зафиксируем любую точку z Е /. Определим числа г = \\х — а||, R = \\z — а||, причем R = \\х — а\\ + \\х — z\\ > г. По построению А С С Вг(х) С BR(z) и а G дВг(х) П dBR(z). Пусть точка у G Вг(х)\{а). Если векторы (х — у) и (х — z) линейно независимы, то в силу леммы 2.7.3 ||з/ — z|| < ||ж — z|| + ||ж — 2/|| < \\х - z\\ + г = R. Если же (х — у) и (х — z) линейно зависимы, то у — х = Х(а — ж), Л G [-1,1) (так как у ф а), и при Л G [0,1) получаем \\y-z\\ = \\x-z + \(a-x)\\ < ||ж-^|| = \\х - z\\ + |A|r < R, а при Л е [-1,0) \\у — z\\ = \\х — z + А(а — х)\\ = |||ж — z\\ — \X\\\x — а\\\ < R. Итак, дВг(х) П dBR(z) = {а}, т.е. луч / С Л и, следовательно, мно- множество Л плотно в А\, а значит, и в пространстве Е. ? Замечание 2.7.1. В теории приближений исследуются и бли- ближайшие точки. Пусть в банаховом пространстве Е задано замкнутое множество А С Е. Пусть Л — множество тех точек Е, для каждой из которых существует единственная ближайшая точка из А, т.е.
248 Гл. 2. Приложения выпуклого анализа для любой точки х Е Л найдется единственная точка a Е А такая, что \\х — а\\ = inf \\х — у\\. Н.В. Ефимов и СБ. Стечкин показали уеА (см. [42]), что в случае, когда задача решается в равномерно выпуклом пространстве Е, множество Л является всюду плотным в Е. Более подробное исследование подобных задач можно найти также в приложении II книги [107]. Теорема 2.7.2 (о снятии шара). Пусть в равномерно выпуклом пространстве Е задано слабо замкнутое множество А С Е такое, что (int Bi@)) П А = 0, и пусть существует единственная точ- точка хо такая, что Bi@) П А = {хо}. Зафиксируем произвольную точ- точку уо Е hitBi@) и определим вектор е = уо — Хо. Тогда существует число Ло > 0 такое, что для VAe@,Ao) множества Bi(Xe) и А не пересекаются. Доказательство. Так как по условию точка уо G intB\@), то существует число j > 0 такое, что справедливо включение В7(уо) С С int Bi@). По теореме Хана-Банаха существует функционал р G Е* такой, что \\p\\* = 1 и (р,хо) = 1 = ||жо||. Определим множества V(X) = {х | (р, х) > 1 - Л} и Я(Л) = V(X) П П Bi@) при Л G [0,1). Очевидно, что справедливы включения хо ? G Я(Л) VAe@,1) и ?Oeintl/(A) VAG@,1), а также равенство # @) = {х0}. Покажем, что lim Я(А) = {хо} B.7.23) Л—^~гО в метрике Хаусдорфа. Допустим, что это не так. Тогда найдется последовательность положительных чисел {А^}, сходящаяся к 0, и число е > 0 такие, что справедливо соотношение Н(Хк) ? Я@) + Ве@) = В?(х0) VkeK Это значит, что для всякого номера k G N найдется точка хк ? Я(А^) такая, что справедливо неравенство \\хк-х0\\>е. B.7.24) При этом справедливо представление точек хк в виде хк = A — -Цк)хо +Ук, где числа /jk G [0,АЛ], а точки ук G kerp, т.е. (р,ук) = = 0. Из неравенства B.7.24) и определения модуля выпуклости 5( •) следует включение (ЩШ) С Bi@) Vfc G N. B.7.25)
§2.7. Некоторые задачи теории приближений 249 С другой стороны, так как lim ц^ = О, то при достаточно больших к—><х> к Е N получаем = <*(е) + | + | A - А»*) = 1 + <*(е) - \ /i* > 1, что противоречит включению B.7.25). Итак, мы доказали соотношение B.7.23), в силу которого сущест- существует число Ло > 0 такое, что при всех Л Е @, Ао) справедливо вклю- включение Н(Х) С В7(х0). B.7.26) Зафиксируем число A G @, Ао) и рассмотрим множество Bi@)\H(X). Очевидно, что это множество выпукло, замкнуто и ограничено. В силу рефлексивности равномерно выпуклого пространства Е отсюда следует, что это множество является компактным в слабой топологии пространства Е (т.е. слабо компактным). Из очевидного равенст- равенства В1@)\Н(Х) = Bi@)\V(X) и включения х0 G intF(A) следует, что т.е. По теореме 1.1.8 о топологической отделимости компакта и замкну- замкнутого множества (в слабой топологии пространства Е) получаем, что найдется слабая (а значит, и сильная) окрестность нуля V такая, что Отсюда следует, что существует число а± > 0 такое, что (е = уо — (В1@)\Н(Х) + ае)ПА = 0 Va G @,ai). B.7.27) В свою очередь в силу включения B.7.26) и определения множест- множества Н(Х) справедливо включение Н(Х) С В1{х^) П 5i@). Покажем, что справедливо включение ?7(?O)n#i@) + aeCint?i@) VaG @,1). B.7.28) Зафиксируем a G @,1), и пусть точка х G [Б7(ж0) П i?i@) + ae]. Тогда существуют точки у G 57(жо) П i?i@) и гу G 57(^) такие5 ЧТО ж = ^/ + ае и ^/ = хо + гу. Рассмотрим точку z = уо + w. Так как z G В7(уо) С int5i@), то ||z|| < 1. Кроме того, очевидной проверкой можно убедиться в справедливости равенства х = A — а)у -\- az, где
250 Гл. 2. Приложения выпуклого анализа \\y\\ < 1 и ||z|| < 1, откуда и в силу выпуклости нормы следует ||ж|| < < 1, что и доказывает включение B.7.28). Отсюда и из условия тео- теоремы следует (Я(Л) + ае) П А = 0 VaG @,1). B.7.29) Определим Ло = minjai, 1}; тогда из выражений B.7.27) и B.7.29) получаем (i?i@) + ае) П А — 0 для любого a G @, Л0), что и завер- завершает доказательство теоремы. ? Определение 2.7.2. Замкнутое множество A G Е называется аппроксимативно компактным, если для любой точки z fi А и лю- любой минимизирующей последовательности {ak}(^=1 С А такой, что lim \\a,k — z\\ = g(z, А), найдется некоторая подпоследовательность этой последовательности {а^} (которую мы обозначим снова {а/.}) такая, что эта подпоследовательность {а^} сходится по норме к не- некоторой точке a Е А и справедливо равенство \\z — а\\ = g(z,A). Теорема 2.7.3. В равномерно выпуклом пространстве Е всякое непустое слабо замкнутое множество А С Е является аппроксима- аппроксимативно компактным. Доказательство. Для простоты будем считать z = 0 ^ А, и пусть д = ?>@, А) = inf {||ж|| | х G А}. Очевидно, что д > 0. Зафиксиру- Зафиксируем некоторое число е > 0 и определим множество Ле = Л Q 5^+е @). В силу рефлексивности равномерно выпуклого пространства Е мно- множество А? является компактом в слабой топологии пространства Е как пересечение слабо компактного множества Вд+?@) и слабо замк- замкнутого множества А. Пусть последовательность {а^} С А такова, что lim ||а^|| = д. Поскольку множество А? слабо компактно и справедливо включе- включение a,k G А? для всех достаточно больших к, то существуют точ- точка a G А и подпоследовательность последовательности {а^} (обозна- (обозначаемая снова через {а^}), сходящаяся слабо к точке a G А. В силу слабой пн. сн. функции нормы (так как ее надграфик слабо замкнут) получаем д = lim ||afc|| > ||a||, к—^оо откуда \\а - 0|| = ?>@, А). Итак, последовательность {а^} слабо сходится к точке а, а число- числовая последовательность их норм {||а^||} сходится к числу ||а||. Пока- Покажем, что отсюда в равномерно выпуклом пространстве Е следует схо- сходимость последовательности {а^} к точке а по норме, что и завершит доказательство теоремы. Будем, далее, считать, что д = 1.
§2.7. Некоторые задачи теории приближений 251 Из определения равномерно выпуклого пространства Е следует, что если в нем последовательности {хк} С Е и {у к} С Е таковы, что 1Ы| = |Ы1 = ! и \\(хк+ук)/2\\^1 при /с-^оо, то \\хк-Ук\\^0 при к —> оо. В нашем случае Ца^Ц —У g = 1 = ||а|| при fc —>¦ оо. По теореме Хана-Банаха существует функционал р Е i?* такой, что ||р||* = 1 и (р, а) = ||а|| = 1. Тогда lim (р, а^) = (р, а) = 1, откуда следует, что + а 1 при 00. Отсюда и из неравенства ак +а в пределе получаем равенство lim к +а\ = 1. Поскольку ак +а IMI + а Qfe а \\ак\\ -> 1, то и lim Qfe = 1. Отсюда ||ajfe/||ajfe| — a|| —У 0, следовательно, и lim к—)>oo — a|| = 0. ? Приведенные выше теоремы 2.7.2 и 2.7.3 используются в некото- некоторых задачах геометрической теории приближений, связанных с поня- понятием чебышевского множества. Определение 2.7.3. Множество А из метрического пространст- пространства (Е, q) называется чебышевским, если для любого х G Е существует единственная точка a G А такая что g(x,a) = g{x,A). Определение 2.7.4. Банахово пространство Е называется глад- гладким, если в каждой граничной точке шара Bi@) из Е существует единственная опорная гиперплоскость. Одной из основных задач геометрической теории приближений яв- является выяснение необходимых и (или) достаточных условий, которые
252 Гл. 2. Приложения выпуклого анализа надо наложить на шар в банаховом пространстве для того, чтобы классы чебышевских множеств и выпуклых замкнутых множеств совпадали. По сути речь идет об обобщении теоремы 1.9.8 со слу- случая конечномерного пространства Жп на бесконечномерный случай. Приведем один результат такого рода, полученный Н.В. Ефимовым и СБ. Стечкиным в [41]. Теорема 2.7.4. Пусть Е — равномерно выпуклое и гладкое банахово пространство. Для того чтобы чебышевское множество из Е было выпуклым, необходимо и достаточно, чтобы оно было аппроксимативно компактным. Упражнение 2.7.1. Показать, что гильбертово пространство И является равномерно выпуклым пространством и его модуль выпук- выпуклости равен Найти производную Фреше нормы в гильбертовом пространстве в точках, отличных от нуля. Упражнение 2.7.2 (теорема С. Мазура [149]). Доказать, что в рефлексивном банаховом пространстве с дифференцируемой по Фреше нормой всякое выпуклое замкнутое ограниченное множество совпада- совпадает с пересечением всех содержащих его замкнутых шаров. Указание. Пусть А С Е — множество и точка х ^ А. Покажите, что найдется шар, содержащий Л, но не содержащий х. Для этого рассмотрите точку а — метрическую проекцию точки х на множест- множество Л, которая существует и единственна (почему?). Пусть I = {а + + Х(а — х) | Л > 0}. Покажите, что вектор р Е дВ^_@) такой, что (р, х — а) = \\х — а\\ (см. упр. 1.9.10) отделяет шар В\\х_а\\(х) от А и является производной Фреше по у в точке у = (х + а)/2 функ- функции \\z — у\\ для любого z G /. Пусть у = [х + а)/2. Покажите, исполь- используя дифференцируемость по Фреше функции ||z — y\\ (по у\ что можно выбрать достаточно удаленную от а точку z G / такую, что \\z — х\\ > > \\z — у\\ ^ SUP \\z — Щ- ъеА Упражнение 2.7.3. Доказать, что в равномерно выпуклом бана- банаховом пространстве для всякого выпуклого замкнутого ограниченного множества А С Е выполнено равенство А = coextr A. Указание. Применить теорему 2.7.1 и упр. 2.7.2.
§2.8. Непрерывность многозначных отображений 253 § 2.8. Непрерывность многозначных отображений В этом параграфе мы продолжим исследования многозначных отображений, начатые в § 2.2. Пусть Т и Y — топологические пространства, причем Y — ли- линейное. Многозначным отображением (или соответствием) F из Т в Y называется отображение, которое сопоставляет каждому tGT мно- множество F(t) С Y, называемое значением F в точке t. Многозначное отображение будем обозначать F: Т ->• 2У. Многозначное отображение полностью характеризуется своим графиком, т.е. множеством graph F = {(t, у) е Т х Y | у е F(t)}. Определение 2.8.1. Многозначное отображение F: Т —У 2Y называется полунепрерывным сверху (пн. св.) в точке to, если для любой открытой окрестности N(F(to)) множества F(to) существует окрестность U(to) точки ?о такая, что для всех t G U(to) выполнено F(t) С N(F(t0)). Определение 2.8.2. Многозначное отображение F: Т —> 2Y называется полунепрерывным снизу (пн. сн.) в точке to, если для любой точки у о G F(to) и для любой открытой окрестности N(yo) точ- точки у о существует окрестность U(to) точки ^о такая, что для всех t G eU(t0) выполнено F(t) П N(y0) ф 0. В линейном метрическом пространстве (У, д) через В°? (а) будем обозначать открытый шар радиуса е > 0 с центром в точке a G Y вида В°?(а) = {хе Y\g(a,x) <e}. Введем понятия е-полунепрерывности сверху и снизу для много- многозначных отображений в линейное метрическое пространство Y. Определение 2.8.3. Многозначное отображение F: Т ->• 2У на- называется е-полунепрерывным сверху (г-пн.св.) в точке to, если \/е > 0 3 окрестность U(to) точки to, VteU(t0): F(t) Определение 2.8.4. Многозначное отображение F: Т —> 2Y на- называется е-полунепрерывным снизу (е-пн. сн.) в точке to, если \/е > 0 3 окрестность U(to) точки to, VteU(t0): F(t0) CF(t)+B°?@).
254 Гл. 2. Приложения выпуклого анализа Лемма 2.8.1. Пусть Т и Y — топологические пространства, причем Y — линейное пространство с инвариантной относительно сдвигов метрикой д. Пусть F: Т —> 2Y — многозначное отобра- отображение. 1. Если F пн. св. в точке to, то оно и е-пн.св. в точке to Е Е Т. Обратное верно, если F(to) — компакт. 2. Если F е-пн. сн. в точке to ? Т, то оно и пн. св. в точке to- Обратное верно, если F(to) — компакт. Доказательство. 1. Если отображение F пн. св. в точке to, то, взяв в качестве окрестности N(F(to)) множество F(to) + В°@), получаем, что для всех t из некоторой окрестности U(to) точки to справедливо включение F(t)cF(to)+B°?@). Пусть множество F(to) — компакт и отображение F г-пн. св. в точке ?о- Зафиксируем произвольную окрестность N(F(to)) множест- множества F(to). Тогда для любой точки у Е F(to) найдется число е(у) > О такое, что справедливы включения У + В°е{у)@) + В°е{у)@) С N(F(t0)), B.8.1) yeF(t0) В силу компактности множества F(to) выделим из покрытия шара- шарами B.8.2) множества F(to) конечное подпокрытие шарами вида где Si = е(уг), у% G F(to), 1 < i < т. Выберем е = min е^. Тогда l<i<m в силу B.8.1) получаем, что F(to)+B°@)cN(F(to)). В силу е-пн. св. отображения F для числа е = min e« найдется ок- l<i<m рестность U(to) точки ?о такая, что для всех точек t G U(to) справед- справедливо включение F(t)cF(to)+B°@), откуда следует, что F(t) С N(F(t0)) \ftEU(t0), что и доказывает пн. св. отображения F в точке ?q-
§2.8. Непрерывность многозначных отображений 255 2. Пусть отображение F г-пн. сн. в точке to. Выберем произволь- произвольные точку у о Е F(to) и окрестность N(yo) точки уо. Тогда найдутся число е > 0 и окрестность U(to) точки to такие, что В°Ы С N(y0) и Vt G U(t0): Уо € F(t0) С F(t) + В°@). Из этих соотношений получаем, что для любого t Е U(to) выполняется включение F(t)nN(yo)DF(t)nB°(yo)^0, что и означает пн. сн. отображения F. Пусть отображение F пн. сн. в точке to и F(to) — компакт. Допустим, что условие г-пн. сн. нарушено, т.е. Зг>0, 3tk^t0, 3ykeF(t0): Q(yk,F(tk)) > e. B.8.3) В силу компактности множества F(to) можно без ограничения общ- общности считать, что последовательность у^ сходится, т.е. существует точка у о G F(to) такая, что limy k = Уо- В силу пн. сн. отображении F существует число ко такое, что для всех номеров к > ко справедливы неравенства g(yo,F(tk)) <?/% и д(уо,Ук) <s/2. В итоге получаем е < Q(yk,F(tk)) < д(уо,Ук) + g(yo,F(tk)) < e. Противоречие. ? В дальнейшем благодаря лемме 2.8.1 мы не будем различать полу- полунепрерывность и г-полунепрерывность для многозначных отображе- отображений с компактными значениями. Далее мы будем, если не оговорено противное, считать пространство Т метрическим с инвариантной относительно сдвига метрикой. Теорема 2.8.1 (о замкнутом графике). Пусть многозначное отображение F: Т —у 2Rn имеет замкнутый график graph F и для точки to существует число е > 0 такое, что значения F(t) при t G B?(to) равномерно ограничены. Тогда многозначное отображе- отображение F е-пн. св. в точке to G Т. Доказательство. Допустим, что утверждение неверно, т.е. отображение F не является пн. св. в точке to. Это означает, что найдутся последовательность точек tk —У to при к —> оо и число е > О такие, что F(tk)?F(to)+B°@) Vfc. Последнее включение означает, что для каждого номера к найдется точка Xk G F{tk) такая, что хк ? F(to) + В°@). В силу ограничен- ограниченности отображения F из последовательности {ж&} можно выделить
256 Гл. 2. Приложения выпуклого анализа сходящуюся к некоторой точке ж о подпоследовательность, причем хо (? ? F(t0) + ?°/2@). Но в силу того, что lim (tk,xk) = (to,xo), а хк G F(tk), из замкнутости графика graph F получаем включение хо G G F(to). Противоречие. ? Замечание 2.8.1. Легко перенести данное выше доказательство с пространства W1 на банахово пространство Е. При этом вместо ограниченности образов отображения F надо потребовать, чтобы значения F(i) при всех t G B°(to) лежали в компактном множестве. Теорема 2.8.2. Пусть даны два многозначных отображе- отображения F,G: Т—> 2Rn, причем отображение G е-пн.сн., а отобра- отображение F е-пн. св. и принимает компактные значения. Определим отображение H(t) = F(t) — G(t). Пусть H(t) ф 0 при всех t еТ. Тогда Н пн. св. Доказательство. Покажем, что график graphic есть замк- замкнутое множество. Пусть последовательность точек (tk,Xk) G graph H такая, что tk ->• to, Xk ->• х0. Покажем, что (to,xo) G graph H. Для всех номеров к получаем, что Xk + G(tk) С F(tk). Используя сходимость последовательности {ж^}, получаем Уг>0 ЗА?, Мк>к1: xo G хк + В°@), из е-пн. сн. отображения G следует Уг>0 3к2?, Ук>к2?: G(to) С G(tk) + В°@) и из е-пн. св. F следует Ve > 0 Зк3е, Ук>к3е: F(tk) С F(t0) + Ве°@). В итоге получаем, что для любого к > max kl выполнены включения 1<г<3 е х0 + G(t0) Cxk+ G(tk) + В°М С F(tk) + В°М С F(t0) + В°?@), откуда получаем х0 + G(t0) С f| (F(t0) + В°@)) = ТЩ = F(t0), т.е. хо G H(to), и поэтому множество graph H замкнуто. По условию теоремы для любого числа е > 0 существует число S = = 5(е) > 0 такое, что справедливы включения F(t) С F(to) + В°@), G(t0) С G(t) + Бе°@) Vt G B°{e)(t0).
§2.8. Непрерывность многозначных отображений 257 Зафиксируем е > 0 и S = S(e) > О. Для любой точки t Е Bs(to) и любой точки ж Е i?(?) справедливы включения ж + G(t0) Сх + G(t) + В°?@) С F(t) + В°@) С F(t0) + Б2°е@), откуда следует, что х е (F(t0) + В°е@)) -G(t0). Таким образом, мы доказали включение H(t) С (F(t0) + В2е@)) i G(t0) Vt € В?(to), причем правое множество во включении компактно. Отсюда в силу теоремы 2.8.1 следует, что отображение Н пн. св. ? Упражнение 2.8.1. Пусть многозначные отображения F, G: Т —У 2Rn принимают замкнутые значения, е-пн. св. и значения F(t) компактны. Пусть отображение H(t) = F(t) П G(t) непусто при всех t G Т. Доказать, что оно г-полунепрерывно сверху. Лемма 2.8.2. Пусть Е — банахово пространство. Пусть А С С Е — выпуклое замкнутое ограниченное множество с непустой внутренностью, причем Ва(хо) С А. Пусть число C G @, а). Тогда имеет место оценка h(A, A i B0(O)) < diam^ ~ а р, B.8.4) Доказательство. Из свойств метрики Хаусдорфа и так как А — В/з@) С Л, справедливо равенство h(A, А ^ Вр@)) = sup q(x, A ^ Вр@)). B.8.5) хедА Зафиксируем точку х G дА. Выберем точку у G [жо,ж] так, чтобы \\х — у\\/\\х — х$\\ = /3/а. Де- Делая преобразование подобия (точнее, гомотетии с центром в точке х и коэффициентом [3/а G @,1)) получаем включение у + Вр@) С со (Ва(х0) U {х}) С Л, откуда следует оценка q(x, A i В(з@)) < \\х -у\\ = ? \\х -хо\\< diam A~a /3. а а Следовательно, с учетом формулы B.8.5) и произвольности точки х G G дА, получаем оценку B.8.4). ? 17 Е.С. Половинкин, М.В. Балашов
258 Гл. 2. Приложения выпуклого анализа Теорема 2.8.3 (Л.С. Понтрягин [90]). Пусть многозначные отображения F, G: Т —У 2Е, принимающие ограниченные значения, непрерывны в точке to в метрике Хаусдорфа, причем значения отоб- отображения F выпуклы, a int(F(to) — G(to)) ф 0. Тогда многозначное отображение H{t) = F{t) — G(t) непрерывно в метрике Хаусдорфа в точке to. Доказательство. Выберем число а > 0 такое, чтобы было справедливо включение Ва{хо) С F{to) — G(to). Определим числа 7 diam F(t0) -a k= У— И e Очевидно, что множество F(to) — Ва@) непусто. В силу непрерывности отображений F и G в точке ?о Для лю~ бого числа е > 0 найдется число S > 0 такое, что для любой точ- точки t G B$(to) справедливы неравенства h(F(t), F(to)) < г/2, h(G(t), G(to)) < е/2. Отсюда для любого числа Л > 1 справедливы вклю- включения G(t0) + ВХ?/2@) э G(t), F(t0) С F(t) + ВХе/2@), а с учетом леммы 2.8.2 получаем для любого числа Л G A,2) включения С F(t0) - G(t0) С (F(t0) ^ G(t0)) - XB?@) + XkBe(O) = = (F(t0) ± у Bi@)) ^ (G(to) + у Bi@)) + XkBe@) С Итак, мы установили е-пн. сн. отображения H(i) в точке ?о и, кро- кроме того, в силу выбора числа е < a/Dfc), получаем, что для любого t G G В$(го) выполнено включение (при Л < 2) откуда следует, что справедливо включение Отсюда также следует, что множества F(?) — 5a/2@) непусты при всех ? G B$(to). Определим число , _ diam F(to) + s — а kl 57 Для любого числа Л > 1 с учетом леммы 2.8.2 и того, что diam F(t) < < diam F(t0) + г, получаем
§2.8. Непрерывность многозначных отображений 259 F{t) i G(t) С (F(t) ± у Bi(O)) ¦*¦ (g(*) + Щ Bi(O)) + AfciBe(O) С т. е. отображение i? пн. св. в точке to. ? Теорема 2.8.4. Пусть отображения F,G: Т —У 2Rn — непре- непрерывные в метрике Хаусдорфа многозначные отображения и F при- принимает строго выпуклые компактные значения. Пусть отображе- отображение H(t) = F(t) ^ G{t) непусто на Т. Тогда Н непрерывно в метрике Хаусдорфа. Доказательство. 1. Если intH(to) ф 0, то непрерывность в точке ?о следует из теоремы 2.8.3. 2. Пусть intH(to) = 0- Тогда в силу строгой выпуклости отоб- отображения F, а следовательно, и отображения Н, множество H(to) одноточечное: H(to) = {^о}. По теореме 2.8.2 получаем Уг>0 36 > 0, 4teB6(to): H(t) С H(to) + В?@) = Но это эквивалентно условию H(t0) =х0 т.е. отображение Н пн. сн. в точке to- П В заключение рассмотрим один случай, когда операция геометри- геометрической разности многозначных отображений непрерывна без предпо- предположений о непустой внутренности и строгой выпуклости. Теорема 2.8.5 (М.В. Балашов [12]). Пусть Т — метрическое пространство. Пусть выпуклый компакт Fcln является Р-мно- Р-множеством (см. § 1.8). Пусть G(t) — непрерывное в метрике Хаусдор- Хаусдорфа многозначное отображение с компактными значениями такое, что H(t) = F - G(t) ф 0 при всех t e Т. Тогда многозначное отображение H(t) непрерывно на Т. Доказательство. Полунепрерывность сверху H(t) следует из теоремы 2.8.2. Допустим, что в точке ?о условие пн. сн. нарушается, т.е. Зе0 >0, 3xeH(t0), 3tk^t0: x $ H(tk) + B?o@). B.8.6) Выберем произвольные точки xk G H(tk). Тогда сю {xk}?=1cF-\jG(tk), k = l 17*
260 Гл. 2. Приложения выпуклого анализа т.е. имеет место ограниченность последовательности {хк}. Поэтому существует точка xq ф х такая, что можно без ограничения общ- общности считать, что имеет место сходимость хк —у х$. Поскольку по теореме 2.8.2 отображение H(t) пн. св., то х0 G Я (to). Далее будем без ограничения общности считать, что хо = 0. Определим G\{tk) = = G(tk)+xk, H1(tk) = F±G1(tk), 0<&<oc, т.е. d(^) С F. Из условия B.8.6) и сходимости хк —У 0 получаем, что начиная с некоторого номера Kq для всех k > Kq выполнено условие х ? Hiih) + Вео/2@). B.8.7) Отметим, что ж/0. Зафиксируем в соответствии с обозначениями § 1.8 gEMn, q = —ж/||ж|| и ортогональное вектору q подпространство L(q), dim L(q) = п — 1, а также определим для любой точки w G Pl^F функцию (см. § 1.8) f(w) = fF,q(w) = min {^ I О, АО ^ ^}- В силу того, что множество F является Р-множеством, функция / непрерывна на PL^F. В силу полунепрерывности сверху отображения G(t) в точке to существует бесконечно малая последовательность {а^}^^ такая, что Gi(t*)cGi(io) + a*Bi@). B.8.8) Из непрерывности функции / на компакте P^^F следует ее равно- равномерная непрерывность. Последнее можно записать в виде \/тЗкт: \f(w1)-f(w2)\<^, Vк > кт, Viyi, w2 G Pl(q)F: \\w! - w2\\ < ak. Пусть т и к — кш выбраны так, что к > Ко и 2а^ + 1/т < < A/2) min {го, \х\}- Зафиксируем произвольную точку Uk G Gi(tk). Тогда ик G F. 1. Если ж + life E F, то из включения ик ? F и выпуклости F следует, что w^ + Аж G F для всех Л G [0,1]. 2. Пусть х + ик fi F. Из условия B.8.8) найдется точка u§ G Gi(^o) такая, что \\и$ — ик\\ < ак. Отметим, что и$ + х G F. Пусть wk = — Pb(q)Uk, Wq = Pl^Uq. Имеем \\wq - wk\\ < ak. Определим также векторы zk = (wk,f(wk)) -uk- x.
§2.8. Непрерывность многозначных отображений 261 Будем говорить, что точка (w,/jl) лежит выше точки (и?, А), если II > А. Рассмотрим точки х + ик, (wk, f(wk)), Uq + x и (wq, /(wq)). Они лежат на параллельных прямых aff{ик,ик + х} и aff {uq,Uq + ж}, причем точка (wk,f(wk)) лежит выше точки г^ + х (в силу условия x + Uk^F), а точка u§ + x выше точки (wq, /(u?q)). Следователь- Следовательно, отрезки [х + ик, x + Uq] и [(wk, f(wk)),(wQ,f(wQ))] пересекаются в некоторой точке а как диагонали трапеции с вершинами х + ик, (wkj(wk)), u§ +ж и (w$J(w$)). Имеем а11 + 11а ~ик~ х\\ < < \\wk - w%\\ + \f(wk) - f(w%)\ + |K - Uo\\. Отметим, что если прямые aff {ukj uk + x} и aff {u§, Uq + ж} совпада- совпадают, то wk = u^q , и полученная выше оценка очевидна. Первое и третье слагаемые в правой части предыдущей формулы не превосходят ак. В силу равномерной непрерывности / на компакте P^^F выполнена оценка \f(wk) - f(w$)\ < I/m. Из пунктов 1 и 2 получаем, что для любого ик G G\{tk) откуда т.е. что противоречит B.8.7). Следовательно, H(t) пн. сн. ? Следствие 2.8.1. Для любого выпуклого компакта F С М2 и для любого непрерывного многозначного отображения G(t) такого, что H(t) = F — G(t) ф 0, отображение H(t) непрерывно. Для доказательства достаточно заметить, что любой выпуклый плоский компакт является Р-множеством (лемма 1.8.3). Интересно отметить, что усилить теорему 2.8.5 нельзя. Именно, нельзя отказаться от того, что F есть Р-множество. Пример 2.8.1. Пусть аг = A,0,0), а2 = (-1,0,0), а3 = A,0,1), п4 = (—1,0,1). Рассмотрим также две дуги окружности радиуса 1 радианной меры тг: = {х3 = 0, х\— cost, х2 = sin?, t G [О,тг]}, — {ж3 = 1, х\ = cos^, X2 = sin?, t G [тг,2тг]}.
262 Гл. 2. Приложения выпуклого анализа Рис. 13 Пусть F3 = со {{а3,а4} U Di} (рис. 13), F2 = = co{{ai,a2} U D2}, F = FiU F2. Легко видеть, что множество F выпукло, компактно и не явля- является Р-множеством. Пусть a(i) = (cos?, sin?, 0), G(t) = со {aba2,a^)}. При t G [тг/2,Зтг/2] полу- получаем {@,0,0)}, *е[тг/2,7г), F i G(t) = ^ со {@,0,0), @,0,1)}, t = 7Г, {@,0,1)}, *е(тг,37г/2]. Итак, отображение F — G(t) является разрывным и также не име- имеет непрерывного селектора. Теорема 2.8.6 (М.В. Балашов [12]). Пусть дана матрица T(t) размера п х п, которая имеет непрерывные компоненты и невы- невырождена для всех точек t из метрического пространства Т. Пусть даны Р-множество F С W1 и непрерывное многозначное отображе- отображение G: Т -> 2Rn. Определим множества H(t) = (T(t)F) - G(t) ф 0 при каждом t G Т. Тогда многозначное отображение Н: Т —» 2Rn непрерывно. Доказательство. Определим отображения Gi(t) = T~1(t)G(t) и Нг(г) = T^tyHit) при t е Т. Так как справедливо включение Hi(t) + G\(t) C F, то H\(t) С С F^-dit) для всех t G Т. Выберем точку xeF^dit). Тогда T(t)x + G(t) cT(t)F, т.е. T(t)x G H(t), откуда х G H^t). Итак, справедливо равенство Hi(t) = F — G\{t). По теореме 2.8.5 отображение Н\ непрерывно, откуда следует, что и отображение Н непрерывно. ? Пример 2.8.2. Отметим, что в теореме 2.8.6 нельзя отказаться от обратимости матриц T(t). Пусть в М3 задан многогранник F = со {@,0,0), @,0,2), A,0,0), A,0,1), @,1,0), @,1,2), A,1,0), A,1,1)}. Пусть линейный оператор T(t): М3 —> М3 при каждом t G [0,тг/4], есть суперпозиция поворота на угол t вокруг оси Ох\ (направление по- поворота от оси 0x2 к Охз) и ортогонального проектирования на Пусть G(t) = со {@, -2sin?, 0), @, cos?, 0)}.
§2.9. Теорема Майкла 263 Тогда T(t)F = со {@, cos?, 0), A, cos?, 0), A, — sint, 0), @, -2sin?, 0)}, поэтому отображение (T(t)F) — G(t) не пн. сн. в нуле: ( {@,0,0)}, *Е@,тг/4], (T(t)F)±G(t) = \ X \со {@,0,0), A,0,0)}, * = 0. § 2.9. Теорема Майкла Пусть Т — метрическое пространство, Е — банахово прост- пространство. Напомним утверждение о том, что многозначное отображение F: Т —У 2Е с замкнутыми выпуклыми значениями полунепрерывно снизу (пн. сн.), если для любого открытого множества U С Е мно- множество {t G Т | F(t) nU ф 0} открыто в пространстве Т (ср. с опре- определением 2.8.2). Лемма 2.9.1. Пусть даны многозначное пн. сн. отображение F: Т —> 2е с замкнутыми выпуклыми значениями и непрерывная функция /: Т -у Е. Тогда: 1) для любого открытого множества V С Е многозначное отоб- отображение вида G(t) = F(t) П V пн. сн.; 2) многозначное отображение G(t) = F(t) + f(t) пн. сн.; 3) если точка хо G F(to), то многозначное отображение вида также полунепрерывно снизу. Доказательство. 1) Допустим, что для некоторого открытого множества U С Е множество G(to) П U непусто. Тогда справедливо равенство {t | G(t) П U ф 0} = {t | F(t) ПУП[//0}, а поскольку множество V П U открыто, а множество F(to) П (V П П U) непусто, то в силу пн. сн. отображения F множество {t | F(t) П П (V П U) Ф 0} открыто в Т, откуда следует пн. сн. G. 2) Условие пн. сн. отображения F в точке ?о эквивалентно следую- следующему: для любого замкнутого множества А С Е условие F(to) (jL A
264 Гл. 2. Приложения выпуклого анализа влечет то, что множество {t | F(t) (?. А} открыто. Это следует из равенства {t | F(t) П V ф 0} = {t \ F(t) <jt E\V]. Зафиксируем произвольное замкнутое множество А С Е такое, что имеет место соотношение F(to) + f(to) {? А. То есть найдется точка хо е F(to) такая, что х0 + f(t0) ? А. Но теореме 1.1.8 о топо- топологической отделимости найдется число е > 0 такое, что справедливо равенство (х0 + f(t0) + В?@)) ПА = 0. B.9.1) В силу пн. сн. отображения F существует окрестность Ui(to) точки ?о такая, что для любого t€Ui(to) выполнено неравенство F(t) Г\ В?/3(хо) ф 0. В силу непрерывности функции / существует окрестность %(^о) точки to такая, что для любого t G %(^о) выпол- выполнено включение f(t) G f(t0) + В?/3@). Выбирая точку x(t) G F(t) П ПВ?/3(х0) получаем, что x(t) + f(t) e F(t) + f(t) и x(t) + f(t) exo + f(t0) + B2e/3@), откуда и в силу равенства B.9.1) следует выражение (F(i) + f(i)) <jL A для всех t G Hi (to) nU2(to)- 3) Проверки требует лишь то, что G пн. сн. в точке ?о- Выбирая любое открытое множество V С Е такое, что жо G У, получаем ра- равенство {t | G(t) П V ф 0} = {t | F(t) ПУ/0}, где последнее множество по условию на F открыто. ? Определение 2.9.1. Семейство {/<*} непрерывных функций fa: Т —У Ж называется непрерывным разложением единицы, если 0 < ^ fa < 15 ^2 fa = 15 причем это семейство локально конечно, т.е. а каждой точке tGT соответствует ее окрестность U такая, что мно- множество значений fa(U) равно {0} для всех индексов а, за исключе- исключением, быть может, конечного их числа (которое зависит от выбора точки t и окрестности U). Напомним, что покрытие {Ua} пространства Т называется локаль- локально конечным, если у каждой точки t G Т существует ее окрестность U такая, что U П Ua = 0 для всех индексов а, за исключением конечного их числа. В дальнейшем нам потребуется следующая лемма, доказанная, например, в [109] (§ 0.2.21, утверждения C), D) и E)). Лемма 2.9.2. Во всякое открытое покрытие {Up} метричес- метрического пространства Т можно вписать локально конечное откры- открытое покрытие {Va}, т. е. для каждого индекса X найдется индекс
§2.9. Теорема Майкла 265 /3 = /3(А) такой, что V\ С Up. При этом существует непрерыв- непрерывное разбиение единицы {/л} такое, что для каждого А носитель supp f\ = {t\ f\(t) ф 0} функции Д содержится во множестве Va, а множества {supp Д} сами образует локально конечное покрытие пространства Т. Теорема 2.9.1 (Е.Майкл [152]). Пусть Т — метрическое пространство, Е — банахово пространство. Пусть F: Т —У 2Е — пн. сн. многозначное отображение с непустыми замкнутыми выпук- выпуклыми значениями. Тогда для любых точек to Е Т, хо Е Е таких, что хо Е F(to), сущестует непрерывная функция /: Т —>¦ Е такая, что /(to) = хо и f(t) Е F(t) для всех t G Т. Доказательство. Шаг 1. Зафиксируем число е > 0. Пусть х G Е — произвольная точка. Определим множество Ux = F-^x - Бе°@)) = {* | F(t) П (ж - Ве°@)) ф 0}. Множество Ux открыто в силу пн. сн. отображения F. Очевидно, что множество U Ux есть открытое покрытие пространства Т. хеЕ В силу леммы 2.9.2 найдется локально конечное покрытие {У\}а<еЛ, вписанное в {Ux}x^e^ и соответствующее ему непрерывное разбиение единицы {/л}лел со свойством supp Д С V\. Поскольку покрытие У\ вписано в Ux, то для каждого Л найдется точка хх Е Е (возможно, не единственная) такая, что У\ С UXx. За- Зафиксируем хх для каждого Л. Определим функцию Е B-9-2) В силу локальной конечности покрытия {supp Д} для любого to G G Т найдется окрестность U С Т точки to такая, что U П supp Д = 0 для всех Л, кроме конечного их набора. Отсюда получаем, что при всех t G U сумма в формуле B.9.2) содержит одно и то же конечное число непрерывных слагаемых, поэтому функция f(t) непрерывна в точке to- Следовательно, функция / непрерывна на Т. Пусть мы выбрали t G Т и Л такие, что f\(t) > 0; тогда в силу леммы 2.9.2 получаем t G supp Д С У\ С UXx = F~x{xx — В°@)), или хх Е F(t) + В°@). Отсюда в силу условия ^ Д(() = 1 ив силу выпуклости значении г \t) получаем /(*)= Е Л(*)«ле Е fx(t)(F(t)+B°e@))=F(t)+B°e@). А: /л(«)>0 А: /л(*)>0
266 Гл. 2. Приложения выпуклого анализа Итак, в произвольной г-окрестности отображения F доказано су- существование непрерывного селектора. Шаг 2. Выберем последовательность чисел е^ = 2~fe, k Е N. Построим последовательность непрерывных функций Д: Т —>¦ Е та- таких, что справедливы включения: 1) fk(t) e F(t) + #°fc@) для всех * е Г; 2) /*(*) G /fc-i(t) + 25^@) для всех t е Т. По индукции допустим, что набор /ь ...,/& построен. Для пост- построения функции /fc+i рассмотрим многозначное отображение Git) = F(t) П (fk(t) + B°ek @)) = fk(t) + (F(t) - fk(t)) П B%h @). По построению функции /д. значения отображение G непусты, а по лемме 2.9.1 отображение G пн. сн. По п. 1 доказательства (применен- (примененному к отображению G) найдется непрерывная функция fk+i (t) такая, что справедливо включение откуда fk+i(t) e F(t) + Blh+1@) для всех teT и fk+1(t) G fk(t) + + В°?к @) + В°?к+1 @) С fk(t) + 2B°fc @) для всех t. Итак, функция fk+1 построена. Из включения 2) следует, что последовательность функций {/&} фундаментальна в пространстве С(Т). Следовательно, fk сходится к некоторой непрерывной функции /. В силу включения 1) и замкну- замкнутости значений F(t) получаем, что f(t) G F(t) для всех t. Шаг 3. Для того чтобы еще удовлетворить условию /(to) = хо, нужно применить рассуждения первых двух шагов к многозначному отображению { у хо, t = t0, которое имеет выпуклые замкнутые значения и пн. сн. по лем- лемме 2.9.1. ? § 2.10. е-вариационный принцип Экланда В данном параграфе мы докажем некоторый общий для полных метрических пространств факт, установленный И. Экландом [129] и называемый г-вариационным принципом. Это утверждение не тре- требует от функции ничего, кроме ее пн. сн. и ограниченности снизу и позволяет получить многочисленные важные результаты. Речь идет о
§2.10. г -вариационный принцип Экланда 267 проблеме минимизации полунепрерывной снизу функции / на полном метрическом пространстве (Е,д). Известно, что если Е — компакт, то точка минимума у такой функции / всегда существует, т. е. су- существует точка ~х такая, что f(x) > /(ж) для всех х Е Е. Однако это не так, если пространство Е не компактно. При этом даже для ограниченной снизу функции (т.е. f(x) > /л > —оо \/х Е Е) инфимум этой функции на пространстве Е может не достигаться. Тем не менее по определению инфимума, существует минимизирующая последова- последовательность \хп}, т.е. такая, что lim f(xn) = inf fix). П-ЮО XEE Отсюда для ограниченной снизу функции следует, что для любо- любого е > 0 найдется точка х? такая, что справедливо неравенство f(x) > f(x?) -e MxeE. B.10.1) г-вариационный принцип устанавливает для каждого е > 0 нали- наличие других точек, кроме х?, обладающих дополнительными замеча- замечательными свойствами. Мы получим также из принципа Экланда теорему о том, что выпуклая собственная полунепрерывная снизу функция на банаховом пространстве субдифференцируема на всюду плотном подмножестве множества dom/. Теорема 2.10.1 (г-вариационный принцип Экланда). Пусть (Е,д) — полное метрическое пространство, /: Е —У Ж — собст- собственная пн. сн. и ограниченная снизу функция. Пусть число е > 0 зафиксировано и точка х? G Е такова, что f(xe) < inf f(x) + е. B.10.2) хее Тогда для любого числа Л > 0 найдется точка у? G Е такая, что: 1) f{Ve) < f(Xe); 2) в(уе,хе)<\; 3) Уж е В, х ф уе, выполнено неравенство f(x) + -г д(х,уе) > > /Ы- Доказательство. Для любого числа а > 0 определим отноше- отношение частичного порядка -< на Е х М, полагая, что (xbri) ^ (ж2,г2) <?>r2 -ri +ад(хг,х2) < 0. B.10.3) Нетрудно видеть, что данное отношение -< рефлексивно и транзи- тивно, кроме того, для каждого {х\,г\) ? Е х Ж множество {(ж,г)|(жьг1) -< (ж,г)} непусто и замкнуто в пространстве Е х Ж.
268 Гл. 2. Приложения выпуклого анализа Покажем, что если замкнутое множество Sc^xE таково, что существует число /i, при котором любой элемент (ж, г) Е S удовлетво- удовлетворяет условию г > /i, то для каждого элемента (xi,ri) Е S найдется элемент (ж,г) Е 5, удовлетворяющий соотношению (xi,ri) -< (ж,г) и являющийся максимальным во множестве 5 для отношения поряд- порядка B.10.3). Для элемента (xi,ri) Е S определим по индукции последователь- последовательность точек {(хп,гп)} С S. Пусть точка (xn,rn) Е S известна, опреде- определим множество и число Sn = {(x,r) e S\(xn,rn) * (х,г)}, B.10.4) \in — inf {г | (ж, г) Е 5П для некоторого х}. По определению множества S справедливо неравенство \in > fi. Теперь определим точку (xn+i,rn+i) как произвольный элемент из 5П, удовлетворяющий условию Гп+1 < г-^±^. B.10.5) Множества Sn замкнуты и упорядочены по включению, т.е. 5n+i С С 5П, откуда следует, что /in+i > /in- Из этого и неравенства B.10.5) получаем неравенство 0 < rn+i - /in+i < - ^rn - /inj < 2~n(n - /i). Следовательно, для любого элемента (ж, г) G Sn+i из определения \in B.10.4) и определения отношения частичного порядка B.10.3) полу- получаем неравенства Гп+i -r\< |rn+i - fjLn+1\ < 2~n|n - /i|, д(хп+!,х) < — |ri -/i|. Это значит, что диаметр diam Sn = sup g(x, у) стремится к ну- лю при п —у оо. Поэтому в силу полноты метрического пространст- пространства Е х Ж существует единственная точка (ж, г) Е Е х Ж такая, что сю (х,г) = П=1 Из определения множеств Sn B.10.4) следует, что (хп,гп) -< (ж, г) для всех п, в частности, и для п = 1.
§2.10. г -вариационный принцип Экланда 269 Предположим, что найдется другая точка (ж, f) Е S такая, что (ж, г) -< (ж, г). В силу транзитивности -< получаем, что (жп, гп) -< (ж, г) для всех п, откуда оо (x,r)€ f|5n. 71=1 Из последнего включения следует, что элемент (ж, г) совпадает с (ж, г), что и доказывает максимальность элемента (ж, г) для отноше- отношения B.10.3). Определим теперь множество *S = epi/, число а = е/Х и точку (^ъП.) = (х?, f(x?)). По доказанному выше в S существует макси- максимальный элемент (y?,r?) Е 5, удовлетворяющий условию (x?j(x?)) ~< {у?,г?). B.10.6) Так как (y?jr?) Е 5, то (y?jr?) -< (у?, /(Уе)), а эт0 вследствие мак- максимальности элемента (y?jr?) означает, что r? = f(y?). Теперь из неравенства B.10.6) вытекает, что f(y?) - f(x?) + ав(уе,хе) < 0, B.10.7) откуда следует свойство 1) утверждения теоремы. Максимальность элемента (у?, f(y?)) во множестве S означает, что для любого у G Е, у ф у?, и такого, что f(y) < +oo, соот- соотношение (y?,f(ye)) ~< (у if (у)) не имеет места. Это в силу отноше- отношения B.10.3) означает выполнение свойства 3). Наконец, поскольку f(xs) < inf f(x) + г, имеем f(y?) > f(x?) —г. С учетом неравенст- ва B.10.7) отсюда получаем оценку 2). ? Отметим, что свойство 3) теоремы 2.10.1 означает, что у функ- функции g(y) = f(y) + — д(у,у?) в точке у? достигается абсолютный ми- минимум. Для пояснения геометрического смысла свойства 3) считаем, что Е — банахово пространство такое, что д(х,у) = \\х — у\\. Опре- Определим множество К — \ (ж, г) | г + — ||ж|| < 0 >. Это конус вращения с вершиной в точке @,0) и углом ио таким, что tgo; = Л/г. Тогда геометрический смысл свойства 3) состоит в том, что сдвинутый конус (Ve,f(Ve)) + К = {(X, Г) | Г - /Ы + ? \\Х - Уе\\ < целиком лежит под графиком graph / в пространстве Е х Ж, причем касается графика только своей вершиной (у?, f(y?)).
270 Гл. 2. Приложения выпуклого анализа Чем меньше г/Л, тем более плоским является конус К и тем ближе множество (у?, f(y?)) + К к горизонтальной плоскости, проходящей через точку (y?,f(y?)) (рис. 14). Выбор коэффициентов г и Л позволяет находить некий баланс меж- между утверждениями 2) и 3) теоремы в зависимости от преследуемых целей. Если коэффициент Л/г увеличивать, то конус К становится более плоским, а точка у? дает значение f(y?), приближающееся к инфимуму. Но при этом, так как правая часть неравенства 2) увели- увеличивается, информация о положении точки у? будет незначительной. Если коэффициент Л/г уменьшать, то точка у? близка к исходной точке х?, но конус К острый, и из неравенства 3) можно получить мало информации. Следствие 2.10.1. Пусть Е — полное метрическое прост- пространство, /: Е—>Ж — собственная пн. сн. и ограниченная снизу функция. Тогда для любого числа г > 0 существует точка у? такая, что: 1)/Ы< ЫНх)+е, 2) > f(Ve) ~ eg(x,y?) для любого х ф у?. Выбирая частные случаи Л = 1 и Л = у/ё, получаем следующие следствия. Следствие 2.10.2. Пусть Е — полное метрическое прост- пространство, /: Е—>Ж — собственная пн. сн. и ограниченная снизу функция. Для любого числа г > 0 пусть точка х? Е Е такова, что f(xe) < inf f{x) + г. хЕЕ
§2.10. г -вариационный принцип Экланда 271 Тогда существует точка у? Е Е такая, что: 1) /Ы < /Ы; 2) д(х?,у?) < д/г; 3) Уж G Е, хфу?, выполнено неравенство /О) > f(x?) -y/eg(x,y?). Следствие 2.10.3. Если в следствии 2.10.2 пространство Е банахово, а функция f дифференцируема по Гато, то из свойства 3) следует неравенство 11/'Ы11 < л/?- Этот факт можно трактовать и так: найдется минимизи- минимизирующая последовательность точек {уп} С Е такая, что f(yn) —>¦ -> inf f(x) и f'(yn) -> 0. хЕЕ Доказательство. Выберем произвольный единичный век- вектор q Е Е, \\q\\ = 1, и положим х = у? + tq, где ^ > 0. Тогда из свойст- свойства 3) получаем неравенство \(f(Ve+tq)-f(ye))>-Ve Vi>0. Устремляя t —у 0, получаем по определению производной Гато, что (/'(у?),у) > — у/ё Vq ^ ^5 ||^|| = 1- Заменяя q на —q, получаем, что -(ff(y?),q) > -л/ё, т.е. \(fr(y?),q}\ < у/ё для всех единичных векторов q G Е, что и доказывает требуемое неравенство. ? Пусть теперь функция / выпукла, пн.сн. и ограничена снизу, пусть хо G Е — произвольная точка, где /(жо) < +оо. Из г-вариационного неравенства с Л = 1 следует, что найдется точка у? G Е такая, что \\х0 — Уе\\ ^ f(xo) — 1(Уе), и Для ЛЮбоЙ ТОЧКИ X ф у? f(Ve) < f(x) +e\\x-y?\\. Так как х = у? есть точка минимума выпуклой функции х —> f(x) + + е\\х — у?\\, то в силу теоремы Моро-Рокафеллара получаем вклю- включение Oedf(y?)+sBZ(O). B.10.8) Следствие 2.10.4. Пусть Е — банахово пространство, а /: Е —у Ж — собственная пн. сн. выпуклая и ограниченная снизу функ- функция. Пусть точка хо G dom/ и число е > 0. Тогда найдутся точка у? G dom/ и функционал р? G df(x?) та- такие, что справедливы формулы \\х0 - у?\\ < f(x0) - f(y?), \\p?\\* < е. Доказательство следует из формулы 2.10.8.
272 Гл. 2. Приложения выпуклого анализа Следствие 2.10.5. Пусть /: Е —у Ж — собственная пн. сн. вы- выпуклая и ограниченная снизу функция. Для любого числа е > 0 выбе- выберем точку х? G dom/ такую, что f(x?) < е + inf f(x). х?Е Тогда для любого к найдутся точка у? Е dom/ и функционал Ре G df(y?) такие, что f(y?) < f{x?), \\x? - у?\\ < l/k, \\p?\\* < he. Доказательство следствия 2.10.5 получается так же, как следст- следствия 2.10.2 (А = 1/Jfe). В заключение в целях демонстрации эффективности вариационно- вариационного принципа докажем с его помощью следующую теорему Теорема 2.10.2. (А.Бренстед, Р.Т. Рокафеллар [68]). Пусть Е — банахово пространство, а функция /: Е —> Ж — собственная выпук- выпуклая и пн. сн. Тогда множество точек, где / су б дифференцируема, всюду плотно в dom/. Более того, для любой точки хо G Е, где /(жо) < < +оо, найдется последовательность точек {ук} С Е такая, что: а) Ук -+ х0; б) f(yk) ->> /Оо) при к ->> оо; в) df(yk) ф ® для всех к. Доказательство. Если функция / =+оо, то dom/= 0, и доказывать нечего. Если / ф +оо, то в силу теоремы 1.11.1 найдутся функционал р G G Е* и число o;Gl такие, что функция g(x) = f(x) — (р,х) — а больше нуля для всех х G Е. Пусть Хо — любая точка из dom/. Применим к функции д при е = д(хо) — inf g(x) следствие 2.10.5. Для произвольного натурально- хеЕ го числа к найдутся точка у к G Е и функционал рк G дд(ук) такие, что д(Ук) <9Ы, B.10.9) \\хо~Ук\\ <к~\ B.10.10) \\Pk\U<ke. B.10.11) Отсюда и из определения функции д следует, что lim ук = хо, у к G к—^сю G dom/, и функция / субдифференцируема в точке ук, так как д/(ук) = р + дд(ук)- Пункты а), в) утверждения теоремы доказаны. Докажем пункт б). Из неравенства B.10.9) получаем, что f(yk) < < f(xo) — (р, хо — Ук) для всех к G N. Устремляя к —У оо, получаем lim inf f(yk) < f(xo). Но в силу пн. сн. функции / имеем к—^сю lim inf f(yk) > к—^сю откуда следует, что
§2.11. О вложении множества выпуклых компактов 273 § 2.11. О вложении множества выпуклых компактов в линейное пространство В этом параграфе исследуется вопрос о возможности вложения пространства выпуклых компактов в некоторое линейное пространст- пространство. Один из таких способов состоит в том, что каждому выпуклому компакту соответствует его опорная функция, определенная на еди- единичной сфере. При этом множество всех опорных функций образует выпуклый конус в линейном пространстве непрерывных функций, определенных на единичной сфере (см., например, [65, 111]). Мы воспользуемся другой конструкцией вложения множества вы- выпуклых компактов из линейного топологического пространства в не- некоторое линейное пространство, в котором будет построена локально выпуклая хаусдорфова топология, индуцированная топологией прост- пространства выпуклых компактов. С помощью указанного вложения нами получены некоторые аналоги теорем Шаудера (о неподвижной точке), Майкла (о непрерывном селекторе) и Крейна-Мильмана (о крайних точках) для многозначных отображений с выпуклыми значениями. В этом параграфе для случая линейного метрического пространст- пространства (У, д) для открытого шара радиуса г > 0 с центром в точке у введем специальное обозначение через В$(у), т.е. B«(y) = {xeY\g(y,x)<r}. Метрика Хаусдорфа для множеств из линейного метрического прост- пространства (У, д) с инвариантной относительно сдвигов метрикой д опре- определяется аналогично определению из § 1.3, т.е. he(A, В) = inf{r > 0 | А С В + В?@), В С А + #?@)}. B.11.1) В случае, когда пространство Y является линейным нормированным пространством, расстояние по Хаусдорфу между множествами А, В в этом параграфе будем обозначать, как и прежде, через h(A,B) (см. § 1.3). Пусть (Е, т) — локально выпуклое хаусдорфово пространство. Определим топологическое пространство К(Е,т), состоящее из всех выпуклых компактов пространства (Е,т) с топологией, локальную базу которой определим через окрестности произвольного элемента A G К(Е,т) вида U(А) = {В е К(Е, т) | В С А + V(Л), А с В + V(A)}, B.11.2) 18 Е.С. Половинкин, М.В. Балашов
274 Гл. 2. Приложения выпуклого анализа где V(A) — некоторая окрестность нуля из пространства (Е,т). Лег- Легко проверить, что совокупность окрестностей B.11.2) удовлетворяет определению локальной базы топологии. В силу этого для множеств, элементами которых являются компакты из пространства (Е,т), стандартным образом можно ввести понятия компактности и замк- замкнутости. Определение 2.11.1. Множество А С К(Е,т) называется т-компактпным множеством, если из любого покрытия множества А множествами вида B.11.2) можно выделить конечное подпокрытие. Определение 2.11.2. Множество АсК(Е,т) называется т-замкнутым множеством, если любой элемент Aq E К(Е,т) такой, что всякая его окрестность U(Aq) вида B.11.2) пересекается со мно- множеством A A4(Aq) П А Ф 0), принадлежит множеству А. Иными сло- словами, семейство компактов А замкнуто, если для любого выпуклого компакта Л о из условия, что для любой окрестности нуля V Е г найдется множество Ay е А такое, что Ло С Ау + V, Ау С Ло + V, следует, что Aq E А. Определение 2.11.3. Пусть (Е,т) — локально выпуклое хаус- дорфово пространство, а Л — некоторое непустое множество из Е. Многозначное отображение /: 2^ —>- 2^ называется непрерывным в А, если для любой окрестности нуля V из пространства Е най- найдется окрестность нуля U из Е такая, что для любого множества В, удовлетворяющего включениям А С В + U и В С A + U, выполнены включения f(A) С f(B) + V и f(B) С f(A) + V. Отметим, что в случае, когда пространство Е является линейным метрическим пространством с метрикой д, инвариантной относитель- относительно сдвига, пространство компактов К(Е, д) является метрическим с метрикой Хаусдорфа B.11.1), а определение 2.11.3 означает непрерыв- непрерывность в метрике Хаусдорфа. Используя операции суммы Минковского двух множеств А + В и умножение множества А на скаляр Л, т.е. ХА, укажем правило вложения пространства выпуклых компактов JC(E^r) в некоторое линейное пространство L(E), которое зададим следующим образом. Элементами линейного пространства L(E) будут классы эквива- лентностей, составленные из пар (А, В), где А, В G К(Е,т). Скажем, что элемент (Ai,Bi) равен элементу (Аг,^) (иначе говоря, эти элементы принадлежат одному классу эквивалентности), если спра- справедливо равенство А\ + В2 = А^ Л-В\. Нулевой элемент определим как класс эквивалентностей, задаваемый любой парой вида (Л, Л),
§2.11. О вложении множества выпуклых компактов 275 где Л Е К(Е,т). Сумму двух элементов, задаваемых парами (А, В) и (C,D), определим как класс эквивалентностей, задаваемый пара- парами (А + С, В + D), т. е. по формуле (Л,В) + (С,D) = (А + С, В + Я). При этом отметим, что пара (Л + С, 5 + Z}) является элементом пространства L(E), так как сумма компактов А + С также является компактом из Е. Противоположным к элементу (Л, В) назовем эле- элемент (В, Л), т.е. -(А,В) = (В,А). Умножение элемента на скаляр А > О определим по формуле Х(А,В) = (ХА,ХВ), и умножение элемента на Л < 0 определим по формуле Л(Л, В) = = (\Х\В,\Х\А). Легко проверить, что определенные таким образом операции сло- сложения и умножения на скаляр удовлетворяют всем аксиомам линей- линейных пространств, т.е. пространство L(E) является линейным прост- пространством. Определим в линейном пространстве L(E) топологию Т через ее локальную базу нуля, представляющую собой семейство множеств вида N O = OGV, {VU...,VN}) = f){(A,B)\AcB + Vi, BcA + Vi}, B.11.3) где N G N, Vi — выпуклые окрестности нуля в (Е,т). Теорема 2.11.1. Пусть (Е,т) —локально выпуклое хаусдорфо в о пространство. Тогда топологическое пространство (L(E),T) яв- является локально выпуклым хаусдорфовым пространством, а прост- пространство JC(E,t) изоморфно острому выпуклому порождающему конусу К = {(Л, {0}) | Л е ЦЕ, г)} B.11.4) в пространстве (L(E),T). Доказательство. Проверка выпуклости множеств О, непре- непрерывности операций сложения и умножения на скаляр, а также замк- замкнутости точек в (L(E),T) есть простое техническое упражнение. Проверим выпуклость произвольного множества О из B.11.3). Пусть (Л, В) и (C,D) принадлежат О и Л G @,1); тогда Л(Л, В) + A - А)(С, D) = (АЛ + A - А)С, ХВ + A - А)?>), 18*
276 Гл. 2. Приложения выпуклого анализа AcB + Vi, CcD + Vi, l<i<N. Поэтому в силу выпуклости базы топологии г получаем ХА + A - Х)С С ХВ + A - X)D + AVi + A - Аналогично доказывается второе включение, т. е. в итоге ) е О. Проверим непрерывность операции сложения в линейном прост- пространстве L{E) с топологией Т. Рассмотрим произвольную окрестность нуля в L(E), входящую в локальную базу, вида N W= p|{(G,ff)|Gcff+ VJ, Н cG + Vi}. B.11.5) г=1 Покажем, что если взять окрестность нуля вида N p{ то для двух произвольных элементов (Л, 5) и (С, 12) из L(?J) справед- справедливо включение ((Л, Б) + О) + ((С, ?>) + О) С (Л + С, В + ?>) + И^, B.11.6) что и будет означать непрерывность операции сложения в указанной топологии пространства L(E). Прежде всего покажем, что О + О С W. В самом деле, пусть (Gi,Hi) G О, (G2,H2) G О. Тогда это означает включения GiCffi + iy*, С2с#2 + 1^ Vi. Отсюда и в силу выпуклости ограниченных множеств G±, G2, Н±, Дг получаем, что G1+G2CH1+H2 + Vi Vt. Аналогично, из (Gi,H±) € О, (G2,H.2) G О получаем включение #!+#2 cGi+G2 + Vj, т.е. (С1+С2,Я1+Я2) € W.
§2.11. О вложении множества выпуклых компактов 277 Для доказательства включения B.11.6) зафиксируем (А, В) Е eL(E), (C,D)eL(E) и (Gi,ffi)Gfi, (G2,tf2)eft. Тогда ((А, В) + (Gi,ffi)) + ((C,D) + (G2,tf2)) = = (А + С, Б + D) + (Gi + G2, #i + #2) G (Л + С, Б + ?>) + W, что и доказывает B.11.6). Проверим непрерывность операции умножения элемента на скаляр в линейном пространстве L(E) с топологией Т. Зафиксируем элемент (A,B)eL(E) и скаляр A G 1. Доказа- Доказательство непрерывности проведем для случая, когда Л > 0, так как другие случаи доказываются аналогично. Достаточно показать, что для любой окрестности нуля W ви- вида B.11.5) найдутся окрестность нуля О G Т и число 5 > 0 такие, что для V (С, D) е (А, В) + О и для Va G (Л - ?, Л + S) справедливо включение а(С, D) е Х(А, В) + W. B.11.7) N Определим Vb = П ^ь где ^ взяты из определения W B.11.5). Очевидно, что множество Vo есть окрестность нуля в топологии г пространства Е. Выберем число г > 0 такое, чтобы выполнялось включение Аи В С rVo. В силу того, что множества А и В ограниче- ограничены, такое число г, очевидно, существует. Выберем 5 > 0 из условий 5 G (О, Л) и 4г5 < 1, откуда следует включение 2rSVo С -Vi \/i G 1, N. Выберем окрестность нуля О вида у<> я B.11.8) где Т^ взяты из определения окрестности W B.11.5). Зафиксируем число a G (Л — 5, Л + S) и элемент (С, 12) G (Л, 5) + О. Это значит, что существует элемент (G, H) G О такой, что Прежде всего покажем, что при любом a G (Л — 5, Л + S) справедливы включения ХА CaA + 5rVo, aAc\A + 5rV0. B.11.9) В самом деле, при Л > а из выпуклости множества А получаем ХА = аА + (Л - а)А Cai
278 Гл. 2. Приложения выпуклого анализа При А < а имеем а А = ХА + (а — А)Л, откуда для любого х Е ХА существует у Е аА такой, что у — х Е (а — Х)А С SrVo. В силу того, что Vo = —Vo, получаем, что х — у Е SrVo, т.е. х Е аА + 5rVo, что и доказывает первое включение в B.11.9). Аналогично можно доказать второе включение в B.11.9). Отметим, что включения B.11.9) спра- справедливы и для множества В. Для доказательства B.11.7) рассмотрим выражение а(С, D) - А(Л, В) = (аС + ХВ, aD + ХА) = = (аА + ХВ + aG, ХА + аВ + аН). В силу включения B.11.9) для А и В и определения множества О B.11.8) получаем аЛ + АБ + aG С ЛЛ + ХВ + aG + JrVo С С АЛ + <хВ + aG + 2<JrVo С АЛ + аВ + аЯ + + 7^?Tr;Vi + 28rVQCXA + aB + aH + Vi Vi. 2(л + 0 + 1) Аналогично получаем включение АЛ + аВ + ai? С аЛ + ХВ + aG + + Vi, что и доказывает включение B.11.7). Итак, в топологии Т введенные выше операции сложения и умно- умножения на скаляр непрерывны. Покажем, что любая точка в топологическом пространстве (L(E), T) есть замкнутое множество. Зафиксируем произвольную точ- точку (Л, В) G L(E). Достаточно показать, что пересечение всех окрест- окрестностей точки (Л, В), т.е. множество вида Р| {(Л, В) + О | О G Т, О — окрестность нуля}, B.11.10) состоит из одной точки (Л, В). В свою очередь для этого достаточно показать, что пересечение множеств {О | О е Т, О — окрестность нуля} B.11.11) содержит только нуль, т.е. точку вида (С, С). Допустим, что некоторая точка (G, D) G L(E) содержится в пе- пересечении B.11.11). Тогда для любой окрестности нуля V из прост- пространства (Е,т) справедливо включение С С D + V, т.е. С С Р| {D + V | V G r — окрестности нуля}, а в силу замкнутости множества D получаем, что Р| {D + V 11/ G r — окрестности нуля} = Z).
§2.11. О вложении множества выпуклых компактов 279 Итак, справедливо включение С С D. Аналогично, из включе- включения D С С + V для любой окрестности нуля V следует, что D С С С, т.е. множество B.11.10) состоит из нулевого элемента, откуда пересечение множеств B.11.10) совпадает с элементом (Л, В), т.е. точка (Л, В) является замкнутым множеством в топологии Т. В итоге в пространстве L(E) с топологией Т из выпуклости мно- множеств, входящих в локальную базу нуля, из непрерывности сложения элементов и умножения элемента на скаляр, из замкнутости точек (в силу теоремы 1.12 гл. 1 из [97] ) получаем, что пространство (L(E), T) является локально выпуклым хаусдорфовым пространством. Пространство выпуклых компактов 1С(Е,т) вкладывается в (L(E),T) по формуле А —У (Л, {0}). Очевидно, что множество К = = {(Л, {0}) \А Е 1С(Е,т)} образует в L(E) острый выпуклый конус. Изоморфизм следует понимать относительно сложения элементов и умножения на положительный скаляр. Полученный конус является порождающим конусом, так как лю- любой элемент (Л, В) Е L(E) может быть представлен как сумма эле- элемента (Л, {0}) е К и элемента ({0},В) е -К ? Замечание 2.11.1. Отметим, что выпуклость компактов су- существенна для введения линейных операций в пространстве L(E), например, для доказательства равенства (Л + аО(Л, В) = А(Л, В) + + IJ,(A,B). Действительно, с одной стороны (например, при А > 0, /л > 0) по определению имеем равенство (А + дО(Л,В) = ((А + /л)А, (А + /л)В), а с другой стороны— (А + /л)(А, В) = (АЛ + /лЛ, ХВ + цВ). Равенство АЛ + \лА = (А + /л)А имеет место в силу выпуклости множества Л. Отметим также, что доказательство не проходит для произволь- произвольных замкнутых выпуклых ограниченных множеств (в бесконечномер- бесконечномерном пространстве), так как сумма двух замкнутых множеств может оказаться незамкнутым множеством. Следствие 2.11.1. Пусть пространство Е банахово. Тогда пространство выпуклых компактов из Е можно изометрично вло- вложить в нормированное пространство, причем образ этого вложе- вложения будет острым порождающим конусом. Доказательство. Норма определяется по формуле 11 (Л, В) \ \ = = h(A,B). Аксиомы нормы, очевидно, проверяются с помощью свойств метрики Хаусдорфа. Так как ||(Л, {0}) — (В, {0})|| = = ||(Л, В)\\ = /г(Л, В), то вложение является изометричным. ? Отметим, что даже в случае конечномерного пространства Е пространство (L(E), \\ • ||) не является полным (см. пример в [71, § 8]).
280 Гл. 2. Приложения выпуклого анализа Следствие 2.11.2. Если в пространстве (Е,т) топология т задается метрикой д, то топология Т в пространстве (L(E),T) также задается некоторой метрикой д°. Доказательство. В линейном метрическом пространстве (Е, д) локальная база нуля задается счетной системой окрестностей Vk = = {х Е Е | д@,х) < l/fc}. Поэтому легко показать, что система ок- окрестностей nk = {(G,H)\GcH + Vk, HcG + Vk} является локальной базой нуля в (L(E), T). Но, как известно из функ- функционального анализа (см. [30, 97]), в линейном топологическом прост- пространстве со счетной локальной базой нуля можно ввести метрику, совместимую с топологией. Более того, в данном случае эта метри- метрика легко выписывается в явном виде д°((А,В), (C,D)) = hQ(A + D, B + C).U Следствие 2.11.3. Если в теореме 2.11.1 топология г задает- задается метрикой д, причем пространство (Е, д) полно, то множест- множество К B.11.4) есть выпуклый (секвенциально) полный конус в соот- соответствующем линейном локально выпуклом пространстве. Доказательство. Пусть (Ак, {0}) — фундаментальная после- последовательность в пространстве L(E) с топологией Т. Это значит, что для любой окрестности нуля О G Т найдется натуральное число N такое, что Ут,к > N выполнено включение (Ак, {0}) - (Ат, {0}) = = (Ак,Ат) GO. Пусть С#+ У, HCG + V}. Тогда Ak С Аш + У, Аш Cifc + У для всех т, к > N. Поскольку г = тд, то последние включения означают фундаментальность пос- последовательности выпуклых компактов {^4^} в метрике Хаусдорфа hQ, где he(A,B) — из определения 1.3.1. Но, как известно, для всякого полного линейного метрического пространства (Е, д) пространство выпуклых компактов с метрикой hQ является полным. Следовательно, существует такой выпуклый компакт Aq, что hQ(Ak,Ao) —у 0. Пов- Повторяя рассуждения в обратном порядке, получаем, что (Л^,{0}) —У ^(Дь{0})в Г. Таким образом, секвенциальная замкнутость конуса доказана. Для доказательства замкнутости остается отметить, что в (L(E),T) то- топология метризуема и, следовательно, секвенциальная замкнутость эквивалентна замкнутости (см., например, приложение А в [97]). ?
§2.11. О вложении множества выпуклых компактов 281 Замечание 2.11.2. В частности, из следствия 2.11.3 следует полнота конуса К в случае, когда пространство Е банахово. Для доказательства достаточно определить метрику д(х, у) через нор- норму ||ж-2/||. Следствие 2.11.4. Пусть топология т в пространстве Е зада- задается метрикой ?>, причем метрическое пространство (Е, д) полно. Пусть семейство выпуклых компактов Л из (Е, д) т-замкнуто в смысле определения 2.11.2. Тогда вложение Л —У Л х {0} = А\ будет замкнутым мно- множеством в линейном пространстве (L(E),T). Более того, если (L(E),T) — пополнение пространства (L(E),T), то мно- множество А\ будет, замкнутым в пространстве (L(E),T). Доказательство. Пусть (Ак, {0}) — фундаментальная после- последовательность из А\. Это значит, что для любой окрестности нуля вида ft {(Gtf)|Gctf+ У, HCG + V} включение (Am,Ak) Е О имеет место для всех достаточно боль- больших т, к. Поскольку топология г пространства Е метризуема, то для любого числа е > 0 выполнены включения Аш ci^+ B§@), А^ С Аш + + Bj-(O) для всех достаточно больших номеров т, к. Иными сло- словами, hQ(Am, Ак) < е для всех достаточно больших т, к. Последнее означают фундаментальность последовательности выпуклых компак- компактов {Л^} в метрике Хаусдорфа hQ, где he взято из определения 1.3.1. Как и в следствии 2.11.3, получаем, что существует выпуклый ком- компакт Aq такой, что hQ(AkjAo) —у 0, и последовательность (Л^,{0}) сходится к (Ло,{0}) при к —> оо в линейном пространстве (Ь(Е),Т). Далее замкнутость множества А\ в (L(E),T) доказывается так же, как и замкнутость конуса в следствии 2.11.3. Поскольку каждая фундаментальная последовательность {(Ак, {0})}(^=1 G А\ сходится к некоторой точке (Ао, {0}) Е .Ai, отсюда следует, что последовательность {(Л^,{0})} эквивалентна стацио- стационарной последовательности {(Д),{0})} (поскольку они имеют один предел), что и означает замкнутость семейства А\ в пространст- пространстве (Ь(Е),Т). ? Следствие 2.11.5. Пусть семейство А С К(Е,т) является г-компактным (см. определение 2.11.1) и выпуклым, т. е. для лю- любых Л, В Е А и для любого Л Е @,1) справедливо включение ХА + + (l-\)B e А.
282 Гл. 2. Приложения выпуклого анализа Тогда существует вложение семейства А в линейное локально выпуклое хаусдорфово пространство (L(E),T), причем образ тако- такого вложения будет выпуклым компактом. Доказательство. Осуществив вложение множества всех вы- выпуклых компактов из Е в пространство (Ь(Е),Т), получим конус К (см. B.11.4)). При этом множество Л отобразится во множество А\ — = {(Л,{0})|Ле Л} С К Для каждого компакта A Е Л выберем произвольную окрестность нуля п(А) е Г вида п(А) = {(G, Я) | G С Я + V(А), Я с G + V(A)}, V(A) G r — окрестность нуля. Получаем покрытие А\ вида С U ((Д{0}) + О(Л)). B.11.12) В силу компактности Л из покрытия семейства Л окрестностя- окрестностями W(A) вида B.11.2) по всем А Е Л можно выделить конечное под- подпокрытие ДГ г=1 Отсюда А\ — А х {0} С N {J{(B,{0}) г=1 AiCB + V(Ai), В N V(Ai)} С что и означает компактность Л1 в (Ь(Е),Т). Выпуклость Ль очевидно, следует из выпуклости Л. ? С помощью следствия 2.11.5 получаем теорему, обобщающую из- известную теорему Шаудера о неподвижной точке (см. теорему 3.6.1 из [109]). Теорема 2.11.2. Пусть семейство А С /С(Е,т) является т-ком- т-компактным (см. определение 2.11.1) и выпуклым. Пусть отображе- отображение f: Л —>¦ Л является т-непрерывным на А. Тогда найдется элемент Aq Е Л такой, что f(Ao) = Д). Доказательство. Рассмотрим пространство (L(E), Т). В этом пространстве, согласно следствию 2.11.5, вложение А\ = Л х {0} ком- компактно и выпукло. Определим функцию fi((A, {0})) = f(A) для всех Л G Л. Из т-неп- рерывности многозначной функции / (см. определение 2.11.3) следует непрерывность функции Д в линейном топологическом пространст- ве(ЦЕ),Т).
§2.11. О вложении множества выпуклых компактов 283 По теореме Шаудера [109] получаем, что найдется точка (Д), {0}) Е Е А\ такая, что fi((Ao,{0})) = (Д),{0}). В силу определения Д это означает, что Ао = f(A0). ? Теорема 2.11.3. Пусть пространство (Е,\\ • ||) банахово, а Т — линейное пространство с инвариантной метрикой. Пусть A(t) С }С(Е, || • ||) — выпуклое замкнутое семейство множеств, не- непрерывно зависящее от параметра tGT, т. е. \/to Е Т. Vг > 0, 3U(to) — окрестность to в Т: B.11.13) VteU(t0), УЛоеЛ(^о), 3AeA{t) h(A0,A)<e. Тогда для каждого t G Т существует выпуклый компакт A(t) G G A(t) такой, что многозначное отображение A(t) непрерывно в метрике Хаусдорфа, т. е. VteU(t0) h(A(t), A(to)) < e. Доказательство. Вложим семейство A(t) в пополнение (L(E), || • ||) пространства (L(E), || • ||) по формуле A(t) ->• Ai(t) = = A(t) x {0}. Отметим, что пространство (L(E), \\ • ||) является ба- банаховым пространством. По следствию 2.11.4 для каждого значе- значения t G Т множество A\{t) замкнуто в (L(E), || • ||). Выпуклость мно- множеств Ai(t) очевидна. Перепишем условие B.11.13) в виде Vt0 еТ Уг>0, 3 U (to) — окрестность to в Г: VteU(t0), VioGi(to), 3AeA(t) VteU(t0), что означает пн.сн. отображения А\(-). По теореме 2.9.1 найдется элемент (Л(?),{0}) G Ai(t), непрерывно зависящий от t. Последнее означает, что Уг>0 V^o, 3U(t0): VteU(to) Выбирая пересечения в обеих частях последнего включения с кону- конусом К (см. B.11.4)), получаем (A(t), {0}) G (A(t0), {0}) + В^Е\0) Vt G U(t0). Это означает включение (A(t),A(t0)) G В^Е)@), т.е. ft(A(t0), < ?, что и доказывает утверждение теоремы. ?
284 Гл. 2. Приложения выпуклого анализа Рассмотрим некоторые примеры. Пример 2.11.1. Зафиксируем в W1 некоторое Р-множество К (определение понятия Р-множества см. в § 1.8), и пусть О Е К. Пусть на множестве непустых выпуклых компактных подмножеств мно- множества К, которое обозначим через /С(if), определено непрерывное в метрике Хаусдорфа многозначное отображение G со значениями также из К(К). Как показано в § 2.8, многозначное отображение, определенное на /С(if), вида А^КП(К± G(A)) = К i со ({0} U G(A)) непрерывно, а из условия 0 Е К следует, что оно принимает непустые значения для всех A Е К(К). По теореме 2.11.2 получаем, что найдется выпуклый компакт Aq С К такой, что К П (К — G(Aq)) = Aq. Для иллюстрации этого результата определим на К{К) отображе- N ние вида G(A) = (J {Д(Л)}, где fk(A) суть различные непрерывные k=l в метрике Хаусдорфа селекторы выпуклых компактов (определение селектора см. § 2.1). Тогда приведенный выше результат означает, что существует выпуклый компакт Aq С К такой, что N (](K-fk(A0))nK = A0. B.11.14) k=l В частном случае, когда N = 1, обозначая через f(A) = fi(A) произвольный непрерывный селектор на К(К), из B.11.14) получаем, что найдется точка хо G К (т.е. хо = f(Ao)) такая, что f(Kn(K-xo))=xo. Заметим, что последний результат легко следует из обычной тео- теоремы Шаудера [109], если рассмотреть непрерывное отображение х —>¦ —> f(K П (К — х)). Однако равенство B.11.14) получить непосредст- непосредственно из теоремы Шаудера затруднительно. Пример 2.11.2. Пусть К(Е, \\ • ||) — метрическое (с метрикой Хаусдорфа) пространство выпуклых компактов, выбираемых из бана- банахова пространства (Е, || • ||). Пусть задано некоторое семейство Л С С }С(Е, || • ||), которое является выпуклым (см. формулировку следст- следствия 2.11.5) и компактным. Скажем, что элемент (т. е. компакт) A G Л является крайним элементом семейства Л, если V А е @,1), VB, С е Л\{А} А^\В + A- Х)С.
§2.11. О вложении множества выпуклых компактов 285 Как обычно, обозначаем множество крайних элементов семейст- семейства Л через extr Л. Переходя в силу теоремы 2.11.1 в линейное пространство (L(E), || • ||), немедленно получаем из теоремы Крейна—Мильмана (см. § 1.18) равенство Л = со extr Л, со extr Л = n i Е extr Л, Xi > 0, ^ A^ = 1 \, ii причем замыкание множества со extr А берется в метрике Хаусдорфа. В частности, отсюда следует, что extr Л Ф 0. Пример 2.11.3. Изучим крайние элементы конуса, получаемого при вложении пространства выпуклых компактов из W1 в линейное нормированное пространство L(Mn, || • ||). Напомним (см. § 1.18), что в любом линейном пространстве для выпуклого конуса К луч I = = {Хк | А > 0}, к Е К\{0}, называется крайним лучом этого конуса, если множество К\1 выпукло. В силу этого для каждого выпуклого компакта А С W1 в прост- пространстве L(Mn,|| • ||) определяем луч по формуле 1{А) = {А(Л, {0}) | А>0}. Прежде всего покажем, что конус К С L(Mn), полученный в тео- теореме 2.11.1, не имеет крайних лучей. Действительно, если (Л, {0}) G G К, то для любой точки х G Мп\{0} справедливы включения BЛ =Ь ±ж, {0}) е Ь(Жп) и выполнено равенство (Л, {0}) = - (BЛ - ж, {0}) + + BЛ + ж, {0})), т.е. луч 1(А) не является крайним лучом конуса К для любого выпуклого компакта Л С W1. Выделим в конусе К подконус, введя классы эквивалентностей среди выпуклых компактов. Все множества вида {Л + ж|ж?Мп}, где Л — выпуклый компакт, отнесем в один класс, определяемый множеством A — s(A), т.е. задаваемый таким компактом Л + жо, У которого центр Штейнера s(A + хо) = 0. Определим подконус Ki С К, состоящий из элементов (Л, {0}), у которых s(A) = 0. Легко видеть, что в силу свойств центра Штейне- Штейнера s(-) как функции множества (его непрерывности и положительной линейности) множество К± является острым, выпуклым и замкнутым конусом в пространстве (L(Mn),|| • ||). Покажем, что у этого конуса существуют крайние лучи. Для начала рассмотрим случай М2. Если одноточечное множест- множество Л = {а} е Ж2 таково, что ({а}, {0}) ЕЩ, то из условия s(A) = 0 получаем, что а = 0, т.е. это крайняя точка — вершина конуса Ki.
286 Гл. 2. Приложения выпуклого анализа Пусть множество А = со {a, b} Е Щ есть отрезок; тогда луч 1(А) является крайним лучом конуса Ki. Действительно, если существу- существуют элементы E,{0}),(С,{0})еЩ такие, что (Л, {0}) = (В, {0}) + + (С, {0}), то это возможно лишь когда множества В и С суть па- параллельные множеству А отрезки, т.е. В = ХА + х и С = A — А) Л + + ?/, где А Е [0,1]. А поскольку s(A) = s(B) = s(C) =0, то х = у = 0 и (B,{0}),(C,{0})el(A). Пусть множество А = со {а, 6, с} есть треугольник. Покажем, что и в этом случае луч 1(А) является крайним лучом конуса Щ . Допустим, что существуют элементы (В, {0}), (С, {0}) Е Щ такие, что (А, {0}) = = (В, {0}) + (С, {0}). Из равенства А = В + С следует, что множест- множества В и С могут быть лишь подобными треугольниками (или точкой и треугольником, что невозможно, так как точка может быть только нулевой (s({a}) = 0)), т.е. В = ХА, С = A - Х)А для некоторого Л G е [0,1], откуда следует, что (В, {0}), (С, {0}) G 1(А). Рассмотрим теперь произвольный выпуклый многоугольник А С С М2, отличный от отрезка и треугольника, причем s(A) = 0. Из- Известно (см. [29, § 4]), что любой выпуклый многоугольник можно представить в виде конечной суммы отрезков и треугольников, т.е. су- N ществует некоторая выпуклая комбинация ^2 ^г^г, где Ai — отрезки или треугольники, Л^ > 0, J^ Л^ = 1, которая равняется многоуголь- г=1 нику А. Без ограничения общности можно считать, что s(Ai) = 0. В самом деле, если это не так, то, выбирая множества Ai = Ai — s(Ai), получаем TV TV N ( ) =A~s^ = A- Таким образом, мы получили, что (Л, {0}) = ^Аг(Л^,{0}), где (Л^,{0}) G Ki, т.е. луч 1(А) не является крайним лучом для кону- конуса Ki. Рассмотрим случай произвольного выпуклого компакта. Известно (см. § 2.6), что любой выпуклый компакт на плоскости можно предста- представить как предел в метрике Хаусдорфа некоторой последовательности выпуклых многоугольников. Пусть А — выпуклый компакт из М2, для которого s(A) = 0. Пусть А^ — последовательность выпуклых многоугольников, сходящаяся к Л в метрике Хаусдорфа. В силу непре-
§2.11. О вложении множества выпуклых компактов 287 рывности центра Штейнера s(-) имеем s(Ak) —> s(A) = 0 при k —> оо. Отсюда последовательность А^ — А^ — s(Ak) также сходится к Л в метрике Хаусдорфа, причем s(Ak) = 0. Следовательно, (Л&, {0}) Е K4 и (Ак, {0}) -> (А, {0}) при jfe -> 00 в Ki. Покажем, что конус К± не содержит других крайних лучей. Пусть icl2 — такой выпуклый компакт, что s(A) = 0, 1(А) — крайний луч конуса Ki, причем множество А не является ни точкой, ни отрезком, ни треугольником. Воспользуемся следующим утверждением (см. теорему 7.4 из [31, § 7]). Множество Z С W1 есть симплекс тогда и только тогда, когда для любой точки х Е W1 множество Z Г\ (Z + х) является пустым или точкой, или гомотетично самому Z (с положительным коэффициентом гомотетии). Выберем точку iGl2 так, что множество Вх = А П (А + х) не гомотетично множеству Л, непусто и не является точкой. Это возмож- возможно, так как множество А не является точкой, отрезком или треуголь- треугольником. В теореме 4.2.6 (гл. 4) мы докажем, что найдется выпуклый компакт Сх такой, что справедливо равенство А = Вх + Сх (в этом случае будем говорить, что выпуклый компакт A G М2 является по- порождающим множеством). Если бы множество Сх было гомотетично множеству А или было точкой, то нашлись бы число Л G [0,1] и точ- точка у G Шп такие, что Сх = ХА + у. Но тогда из равенства следовало бы, что Вх = A — Х)А — у. Это противоречит выбору точки х. Итак, Вх и Сх не являются точками и не гомотетичны множеству А. При этом, если центр Штейнера равен s(Bx) = z, то s(Cx) = s(A) — s(Bx) — —z. Тогда вместо множеств Вх и Сх, выбирая соответственно множест- множества Вх = Вх — z и Сх = Сх + z, считаем, что s(Bx) = s(Cx) = 0. Так как (А, {0}) = ^(BВХ, {0}) + BСХ, {0})), то получаем, что луч 1(А) не является крайним лучом множества Ki. Итак, конус Ki является замыканием (в пространстве (L(M2), || • ID) выпуклых комбинаций крайних лучей 1(А), где А — всевозмож- всевозможные отрезки и треугольники, у которых s(A) = 0. Задача описания конуса К± в общем случае Мп, где п > 3, яв- является очень трудной. Она частично сводится к известной задаче о неразложимых многогранниках. По аналогии с плоским случаем легко видеть, что крайними лучами конуса Ki будут лучи 1(А), у кото- которых множество A CW1 есть неразложимый многогранник, т.е. такой многогранник, для которого равенство А = В + С возможно лишь,
288 Гл. 2. Приложения выпуклого анализа когда множества В и С гомотетичны множеству А с положительным коэффициентом гомотетии. Так же, как и в L(M2), доказывается, что конус Ki есть замыкание выпуклой оболочки множества лу- лучей {1(А) | А — неразложимый многогранник из Mn, s(A) = 0}. Даже в случае пространства М3 нет полного описания неразложимых мно- многогранников: кроме симплексов таковыми здесь являются, например, октаэдры или икосаэдры. Кроме того, существуют множества ictn, не являющиеся многогранниками и такие, что луч 1{А) является крайним лучом конуса Ki. Таково, например, множество в М3 вида А = со {{х\ +х22 = 1, х3 = 0} U {@,0,1)}}.
Глава 3 Д-СИЛЬНО ВЫПУКЛЫЕ МНОЖЕСТВА И ФУНКЦИИ В Жп § 3.1. Замечательное свойство шара в Ж71 Определение 3.1.1. Пусть R > 0. Множество А из Жп называ- называется R-силъно выпуклым множеством (или сильно выпуклым мно- множеством радиуса Д), если оно может быть представлено как пере- пересечение некоторой совокупности замкнутых шаров одного и того же радиуса R с разными центрами. Иначе говоря, множество А из W1 является Д-сильно выпуклым, если оно может быть представлено в виде выражения А= C.1.1) хех где X есть некоторое множество центров шаров радиуса R > 0. Основное свойство замкнутых выпуклых множеств, состоящее в том, что каждое может быть представлено в виде пересечения опорных полупространств (см. § 1.9), для сильно выпуклых множеств может быть преобразовано к представлению их в виде пересечения опорных шаров, что и утверждается в следующей теореме. Теорема 3.1.1 (опорный принцип). Всякий выпуклый компакт А С W1 является R-силъно выпуклым множеством тогда и только тогда, когда он представим в виде А= BR(xp-Rp), C.1.2) где для любого pGln, \\p\\ = 1, точка хр G G А определена из равенства (р,хр) = s(p,A) (рис. 15). Доказательство. Достаточность оче- очевидна, так как из равенства C.1.2) следует, Рис. 15
290 Гл. 3. R-силъно выпуклые множества и функции в Ж1 что множество А по определению 3.1.1 есть сильно выпуклое мно- множество. Докажем необходимость. Пусть для множества А справедлива формула C.1.1). Очевидно, что входящее в него множество X ограничено и замкнуто. По форму- формуле вычисления опорной функции пересечения множеств (см. § 1.11), получаем s(p,A) = со/(р), где f(p) имеет вид f(p)=mm({p,x)+R\\p\\). C.1.3) Отбрасывая тривиальный случай, когда А состоит из одной точки и равенство C.1.2) очевидно, получаем, что hit А ф 0, откуда, как по- показано в теореме 1.14.4, для любого р Е dBi@) существуют чис- числа Xi > 0 и векторы pi Е dBi@), где г Е 1, fc и к < п + 1, такие, что к к ^\iPi=p и со f (р) = ^2 Xif(pi), C.1.4) г=1 г=1 т.е. в силу C.1.3) найдутся точки xi E X такие, что к MPi^i)+R- C.1.5) г=1 Выберем точку хр Е А такую, что (р,хр) = s(p,A); тогда в силу включения А С Br(x) для любой точки х Е X получаем (q,xp)<(q,x)+R\\q\\ Ух G X, «еГ. C.1.6) Оценивая в равенстве C.1.5) слагаемые через неравенства C.1.6), где q = Pi и х = Xi, получаем к к (р,хр) = ^2\i(pi,Xi) +R> ^2Xi(pi,xp) = {р,хр), C.1.7) г=1 г=1 т. е. в выражении C.1.7) имеет место равенство, что возможно только тогда, когда в неравенстве C.1.6) при q—Pi и х — xi справедливы равенства, поэтому (pi,xp) = s(piJBji(xi))J что для шара возможно только в случае равенства Xi — хр — Rpi \/i E 1, fc. к д. Обозначим а = У] Xi и щ = —, г Е l,fc. Очевидно, что а > 1, г=1 а к к к ^2 аг — 1 и S агРг = • Тогда для каждой точки х Е П Bji(xi) г=1 г=1 а г=1 выполнены неравенства ||ж — ж^|| < i? Уг Е 1, fc, которые в силу только что доказанных равенств для Х{ эквивалентны неравенствам вида \\х - xvf + 2R(x - xpjPi) < 0 Уг Е ТД.
§3.1. Замечательное свойство шара в Ж1 291 Суммируя эти неравенства с множителями щ соответственно, полу- получаем неравенство \\х — хр\\2 + 2R(x — хр,р/а) < О, которое означает, что х Е Вцг (хр — Rip), где R\ = R/a < R, т. е. получили к А С р| Вп(х{) С BRl (xp - Rip) С BR(xp - Rp). C.1.8) г=1 В свою очередь из теоремы об отделимости (теоремы 1.9.3 и следст- следствия 1.9.5) следует, что выпуклое множество А можно представить в виде А= f| Я", где Н- = {хеЖп\(р,х) < s(p,A)} VpGMn. С другой стороны, очевидно, справедливы включения Br(xp — Rp) С С Н~ VpG95i@), что в совокупности с C.1.8) и дает равенст- равенство C.1.2). ? В следующей теореме приведем замечательное свойство ша- шара Вц@) в пространстве МП, которое в следующей главе будет по- положено в основу понятия порождающего множества. Теорема 3.1.2 (Е.С. Половинкин [80]). Выпуклый компакт А является R-силъно выпуклым множеством тогда и только тогда, когда найдется выпуклое компактное множество В такое, что справедливо равенство (рис. 16) A + B = BR@). C.1.9) В Доказательство. Достаточность этого утверждения очевидна, так как равенство C.1.9) влечет ра- равенство C.1.1) при X = — В, откуда в силу определения 3.1.1 полу- получаем, что множество А является ^-сильно выпуклым. Докажем необходимость. Воспользовавшись формулой C.1.2) для ^-сильно выпуклого множества Л, аналогично формуле C.1.3) полу- получаем формулу для опорной функции пересечения множеств C.1.2), и для любого ро ? дВ\ @) получаем (Ро,хРо) = s(po,A) < min s(p0, BR(xp - Rp)) = IIpII=i = min ((pOj xp - Rp) + R\\po\\) < s(p0, BR(xPo - Rp0)) = INN1 = <Ро,Яро>, C.1.10) т.е. в C.1.10) неравенства нужно заменить на равенства. Получаем,
292 Гл. 3. R-силъно выпуклые множества и функции в Ж1 что s(po,A) = R\\po\\ - max (p0, -xp + Rp) Vp0 G <9I?i@), IIpII=i откуда и следует равенство C.1.9), где В = сб У (-Жр + Др). ? Замечание 3.1.1. Из теоремы 3.1.2 следует, что множество —В в формуле C.1.9) есть максимальное множество центров шаров ра- радиуса Д, пересечение которых дает множество А. Равенства C.1.1), C.1.9) удобно записывать через сумму и разность Минковского в виде А = BR@) i (-X), В + (BR@) ^ (-Х)) = Вд@), C.1.11) Л+(?я@)^Л)=?я@). В теории дифференциальных игр (см. [89]) отмеченная в равенст- равенстве C.1.9) (или в последнем равенстве из C.1.11)) доказанная выше взаимосвязь множеств А и Br@) имеет специальное название, а именно, в этом случае говорят, что множество А полностью выметает шар Br@), т.е. множество Д-сильно выпукло тогда и только тогда, когда оно полностью выметает шар радиуса Д. Из теорем 3.1.1 и 3.1.2 получаем следующие следствия. Следствие 3.1.1. Если множество А является Ro-силъно вы- выпуклым множеством, то оно также является R-силъно выпуклым множеством при любом R > До- Следствие 3.1.2. Пусть А\ и Л 2 —сильно выпуклые множест- множества из W1 с радиусами соответственно R\ и R2, а А% — компакт из W1. Тогда множества А\ + А^, А\ П А2 и А\ — А% (если они не пусты) также будут сильно выпуклыми с соответствующими ра- радиусами R\ + Д2, тах{Д1,Д2} и R\. Следствие 3.1.3. Для того чтобы выпуклый компакт А был R-силъно выпуклым множеством, необходимо и достаточно, чтобы функция р —у R \\p\\ — s(p,A) была выпуклой функцией. Доказательство следствий 3.1.1-3.1.3 очевидно. Теорема 3.1.3 (Е.С. Половинкин [80]). Компакт А является сильно выпуклым множеством с радиусом R тогда и только тогда, когда субдифференциал опорной функции s(p,A) этого множества удовлетворяет условию Липшица по р на единичной сфере dBi@) с константой Липшица равной Д.
§3.1. Замечательное свойство шара в Ж1 293 Доказательство. Пусть множество А является ^-сильно вы- выпуклым множеством. В теореме 3.1.1 для всякого р Е dBi@) определе- определена точка хр Е А такая, что (р, хр) = s(p, А). Отсюда и из определения опорной функции (см. § 1.6) следует, что s(q,A) - s(p,A) > (xp,q — р) V^Gln, т.е. ds(p, A) = {хр}. В силу формулы C.1.2) для любых векторов р, q Е dBi@) справедливы включения xq Е Br{xp — Rp) и хр Е Br{xq — Rq), которые эквивалентны неравенствам | \*^q %р 11 Л-?ь\Хр Xq , Pj , | \Хр Xq 11 \ Складывая эти неравенства, получаем \\xq — хр\\ < R\\q — р\\. Обрат- Обратно, пусть субдифференциал ds (p, А) удовлетворяет условию Липшица по р на сфере dBi@) с константой R, но множество А не является i^-сильно выпуклым множеством. Тогда по теореме 3.1.1 сущест- существует вектор р G dBi@) такой, что для всякого хр G ds(p, А) имеем A (jL Br(xp —pR). Так как множество А ограничено, то существуют число Ri > R и точка у G А такие, что А С BRl(xp — pR) и \\у — — хр -\-pR\\ = R\. Пусть q = (у — хр +pR)/Ri. Очевидно, что (q,y) = = s(q,A) и ds(q, A) = {у}, т.е. по допущению \\у - хр\\ < R\\q - р\\. В то же время \\у - хр\\ = ||Д(^ — р) + {R\ — R)q\\ > R\\q — р\\- Проти- Противоречие. ? Из теоремы 3.1.3 получаем критерий вычисления для данного множества минимального радиуса сильной выпуклости. Следствие 3.1.4. Пусть множество А является сильно выпук- выпуклым множеством из Жп. Для всякого вектора р из сферы dBi@) определим точку хр G А такую, что (р,хр) = s(p,A). Наименьший радиус R > 0, при котором множество А будет сильно выпуклым, вычисляется по формуле \\хр~хя\\ R = sup р,дедВг@), Wp-qW Следствие 3.1.5. Пусть последовательность сильно выпуклых множеств А^, k G 1,оо, с соответствующими радиусами Rj~ > О, сходится в метрике Хаусдорфа к компакту А, причем существуют числа Rk > Rk такие, что lim Rk = Ro, где 0 < Ro < оо. Тогда множество А будет также сильно выпуклым множест- множеством с радиусом Ro. Доказательство. Для любого р G dBi@) определим точ- точки Хр G А}~ такие, что для каждого множества А^ по теореме 3.1.1 справедливы равенства C.1.2), которые равносильны неравенствам \\x-xkp\\2 + 2Rk(x-xkp,p) <0 VxeAk. C.1.12)
< 00. 294 Гл. 3. R-силъно выпуклые множества и функции в Ж1 В силу сходимости последовательности множеств {^4^} ко мно- множеству А для всякого вектора a Е А существует последовательность векторов a,k G Ak такая, что lim а^ = а. Так как для каждого р после- к—юо довательность {хр} ограничена, то она имеет предельную точку хр*. Поэтому, выбирая для каждого к Е N в неравенстве C.1.12) вектор х = ctk и переходя к пределу при к —> оо, получаем \\а - х°р\\2 + 2R0(a - х°р, р) < 0 Va G Л, что в силу теоремы 3.1.1 влечет сильную выпуклость множества А с радиусом Rq. ? Следствие 3.1.6. Пусть многозначное отображение F: [0,1] —>- —у 2Rn, принимающее при почти всех t G [0,1] сильно выпуклые зна- значения F(t) с суммируемым по Лебегу радиусом r(t) > 0, измеримо по Лебегу на [0,1] и ограничено (т. е. существует суммируемая функ- 1 ция p{t) > 0 такая, что F(t) С Вр^@)). Пусть r(t)dt = г0 1 О Тогда многозначный интеграл Аумана F(t)dt является сильно выпуклым множеством с радиусом г$. Мы не приводим доказательства этого следствия, так как оно тре- требует введения дополнительных определений и свойств многозначных отображений, выходящих за рамки нашей книги (нужно дать опреде- определение интеграла Аумана от многозначного отображения, возможности его представления по схеме Бохнера, что описано, например, в рабо- работе [73]). Используя эти понятия и свойства, а также следствия 3.1.2 и 3.1.5, легко получить доказательство. Следствие 3.1.7. Пусть f(p) — положительно однородная не- непрерывная функция, а со fip) есть собственная функция. Пусть число R> 0, а функция р -у R\\p\\ - fip) выпукла. Тогда и функция р —у R\\p\\ — со fip) выпукла. Доказательство. В силу приведенных условий следует су- существование выпуклых компактов X и Y таких, что их опор- опорные функции удовлетворяют равенствам s(p,X) = R\\p\\ — f(p) и sip^Y) = со fip), откуда со(Д||р|| - s(p,X)) = s(p,Y). Из форму- формулы для опорной функции разности Минковского двух множеств (см. § 1.11) последнее равенство означает равенство множеств Y = = Br(O) — X, т.е. множество Y сильно выпукло, откуда по следст- следствию 3.1.3 следует, что функция R\\p\\ — s(p,Y) выпукла, что и требо- требовалось доказать. ?
§3.2. Образы при линейных отображениях 295 § 3.2. Сохранение сильной выпуклости при линейных отображениях Рассмотрим линейное отображение Т: W71 —> W1, причем m > n и его ранг Rang Т — п. Определим эллипсоид Р в W1 с центром в нуле как образ единичного шара Bi@) из W71 при отображении Т, т.е. Р = ТВ1@). C.2.1) Этот эллипсоид также можно записать в эквивалентной форме Р = {х е Жп | (ж, Q^x) < 1}, где Q = ТТ\ C.2.2) т.е. Q есть положительно определенная симметрическая матрица. Как известно, любой эллипсоид в W1 с центром в нуле может быть представлен в виде C.2.1) или C.2.2). Опорная функция s{p,P) эл- эллипсоида Р принимает вид s(p,P) = s(T*p,?i@)) = ||T*p|| = у/(р, ГГ*р) = y/(p,Qp). C.2.3) Теорема 3.2.1. Всякий эллипсоид Р вида C.2.1), C.2.2) являет- является сильно выпуклым множеством с радиусом R = \n/V~^i, где Хп — максимальное, а \\ — минимальное собственные числа матрицы Q. Доказательство. В силу следствия 3.1.3 и формулы C.2.3) достаточно доказать, что при указанном в теореме R функция вида /(р) = R\\p\\ — ||T*p|| является выпуклой. Прежде всего покажем, что для Vpi, P2 ? Жп справедливо неравенство \\Т*Р1\\\\Т*р2\\-(Т*Р1,Т*р2) < ||<?||(|Ы||Ы-<Р1,Р2». C-2-4) Напомним, что для положительно определенной симметрической матрицы Q = ТТ* существует ортогональное преобразование J такое, что Q = JTQJ, где Q есть диагональная матрица вида C.2.5) А^ — собственные числа матрицы Q, причем они упорядочены по величине, т. е. пусть 0 < Ai < Л2 < ... < Лп. Тогда ||Q|| = Лп. Выбирая замену по формуле q — Jp и определяя матрицу (QI//2 = Q = diag(Ai,...,An) = 0 U 0 ... А2 ... 0 ... 0 0 А,
296 Гл. 3. R-силъно выпуклые множества и функции в Ж1 = diag (л/Xi,..., л/^n)? получаем, что неравенство C.2.4) эквивалент- эквивалентно для V q\, #2 ? W1 неравенству ll(QI/2<Zi|| II(QI/2<72|| - (qi,QQ2) < An(||gi|| |MI - <«!,«*»• C-2.6) Зафиксируем точки ^ ^ 0, ^ /0 из ln. Введем функцию д из M™ в М_|_ вида где матрица Q(x) задается по формуле Q(x) = diag(#i,... ,жп), при- причем х\ > 0,..., хп > 0. Легко убедиться, что для всякого номера k G G 1,п справедлива формула 2(^k||g^||Q1/2(x)gi||J || дхк т.е. д(х) возрастает по каждой компоненте Xk в М_|_. Поэтому ^(Ai, Л2, • • •, Ап) < д(\п,..., Ап), что и доказывает неравенства C.2.6), C.2.4)). Также очевидно, что \\т*р\\ = \\Q1/2q\\ > л/а7IMI = л/аГlbl|. C.2.7) Вернемся к доказательству теоремы. Для доказательства выпук- выпуклости функции/(р) достаточно показать, что для \/a G [0,1] и Р2 G Mn, Pi ф Р2, при Д = Хп/у/М справедливо неравенство - \\Т*Р1\\) + A - а)(Д||р2|| - ||Г*р2||). C.2.8) Воспользовавшись неравенствами C.2.4) и C.2.7), получаем R\\aPl + A - а)р2|| - (afl||pi|| + A - а)Щ\р2\\) = К \\api + A - а)Р2\\ + a\\pi\\ + A - а)\\р2\\ ~ < 2аA-а)({Т*р1,Т*р2)-\\Т*р1\\\\Т*рз\\) ~ \\аТ*Р1 + A - <х)Т*Р2\\ + a||T*pi|| + A - а)||Г*р2|| = \\аТ*Р1 + A - а)Т*Р2|| - (а\\Т*Р1\\ + A - что доказывает неравенство C.2.8) и теорему. ? Следствие 3.2.1. Пусть число R > 0 и множество А есть R-силъно выпуклое множество из W71, пусть т>п, Т: W71 —>¦ —>> W1 — линейное отображение с Rang T = п, причем у матри- матрицы Q = ТТ* минимальное и максимальное собственные числа соот- соответственно равны Ai и Хп.
§3.3. R-силъно выпуклая оболочка множеств 297 Тогда множество ТА будет Ri-силъно выпуклым множеством в Жп с радиусом R\ = RXn/y/Xi. Доказательство. По теореме 3.1.2 для множества А сущест- существует множество В такое, что справедливо равенство C.1.9), откуда получаем ТА + ТВ = RTB^Q). По теореме 3.2.1 эллипсоид ТВг@) есть сильно выпуклое множество, и по теореме 3.1.2 найдется ком- компакт D такой, что справедливо равенство Tf?i@) + D = R2Bi@), где R2 = ^п/л/М- Отсюда получаем равенство ТА + (ТВ + RD) = = i^i^2^i@), которое в силу теоремы 3.1.2 и доказывает сильную выпуклость множества ТА с радиусом R\. ? § 3.3. .R-сильно выпуклая оболочка множеств По аналогии с выпуклой оболочкой множества введем понятие ^-сильно выпуклой оболочки и изучим некоторые свойства этой обо- оболочки, ее связь с выпуклой оболочкой множества и отличия от нее. Определение 3.3.1. Пусть дано ограниченное множество А из Мп, числа р > 0 и R > 0 такие, что Вр@) — Аф 0 и R> р. Силь- Сильно выпуклой оболочкой радиуса R (или, короче, R-силъно выпук- выпуклой оболочкой) множества А называется множество, получаемое при пересечении всех замкнутых шаров радиуса R, которые содержат данное множество А. Будем обозначать ^-сильно выпуклую оболочку множества А через strco#A Иначе говоря, ^-сильно выпуклая оболочка множества А есть наи- наименьшее по включению ^-сильно выпуклое множество, содержащее данное множество А. Очевидно, что ^-сильно выпуклая оболочка ^-сильно выпуклого множества А совпадает с самим множеством А. Напомним, что в теореме Юнга для всякого компакта А из Жп указана величина радиуса R(A) наименьшего шара, в который можно заклю- заключить данное множество Л, в зависимости от диаметра множества А и размерности пространства, а именно, R(A) = y/n/B(n + 1)) diam A (т.е. всегда можно найти число р > R(A), указанное в определе- определении 3.3.1). Теорема 3.3.1 (Е.С. Половинкин [80]). Пусть А — множество из Жп , числа р > 0 и R > 0 такие, что R> р, Вр@) — А ф 0. Тогда R-силъно выпуклая оболочка множества А удовлетворяет равенству strco^ = BR@) ^ (BR@) ^ Л), C.3.1) а ее опорная функция может быть вычислена по формуле a(p,strco^)=iJ||p||-co(iJ||p||-a(p,A)) VpGE". C.3.2)
298 Гл. 3. R-силъно выпуклые множества и функции в Ж1 Доказательство. Так как множество BR@) — А непусто, то по определению 3.1.1 оно ^-сильно выпукло. Поэтому в силу теоре- теоремы 3.1.2 существует другое сильно выпуклое множество С такое, что (BR@)^A) + C = BR@), C.3.3) т.е. С = Br@) — (Br(O) — А). Из определения геометрической раз- разности Минковского (см. предложение 1.1.1) следует включение (Br@) — А) + А С BR@), которое по тому же определению означает, что А С BR@) - (BR@) ±-А) = С. Выберем любую точку a е Мп, для которой А С Br(gl). Это значит, что —a Е BR@) — А. В свою очередь в силу равенства C.3.3) это означает, что С С BR@) — (-а) = BR(a). Таким образом, множество С содержится в пересечении всех тех шаров, которые содержат множество А, является ^-сильно выпуклым множеством и удовлетворяет включению С D А. По определению 3.3.1 это влечет равенство С = stvcoRA, т.е. соотношение C.3.1). Из ра- равенства C.3.3) получаем для опорных функций выражение s(p,C)=R\\p\\-s(p,BR(O)±A) = т.е. справедлива формула C.3.2). ? Из формул C.3.1) и C.1.11) получаем Следствие 3.3.1. Пусть А есть R-силъно выпуклое множество и в соответствии с определением 3.1.1 существует некоторое мно- множество X — множество центров тех шаров, пересечение которых дает множество А по формуле C.1.1). Заметим, что это множест- множество центров X определяется для А неоднозначно. Максимальным (по включению) множеством центров, при которых пересечение соот- соответствующих им шаров дает то же множество А, для исходного множества X является множество strco#^. Для изучения ^-сильно выпуклых оболочек нам потребуется фор- формула вычисления сильно выпуклой оболочки двух точек. Теорема 3.3.2. Пусть R > 0, пусть точки а® и а\ из W1 тако- таковы, что 0 < ||ао — ai|| < 2R. Тогда R-силъно выпуклая оболочка множества, состоящего из двух точек а® и а\, удовлетворяет выражению strcOi?({a0}U{ai})= (J BRx(ax), C.3.4) ag[o,i] где а\ = A — Л)ао + Ха± и RX = R- y/Ri - A(l - A)||ai - ао||2 VAg[0,1]. C.3.5)
§3.3. R-силъно выпуклая оболочка множеств 299 Доказательство. 1. Докажем, что левое множество в C.3.4) содержится в правом. Для этого определим точку Ъ = {а\ — ао)/2 и, сдвигая множества в C.3.4) на точку (ао + &i)/2, получим эквивалент- эквивалентное включение stYcoR({-b}U{b})c U BRx(bx), C.3.6) ag[o,i] где Ъх = BА - 1N, Rx = R - л/R2 - 4АA - А)||6||2 V А е [О,1]. Дока- Докажем его. Зафиксируем точку х Е street({—b} U {Ь}). По определению 3.3.1 это включение означает, что для всякой точки a Е Вц{—Ъ) П ПВц(Ь) справедливо неравенство \\а — х\\ < R. Возможны два случая: а) х Е [—Ь, Ь], т. е. существует такое A Е [0,1], что х = Ь\, и требуемое включение очевидно; б) ж^[—Ь, Ь]. Прежде всего покажем, что в случае б) х ф цЪ для любого ц Е R. Допустим противное, т. е. пусть существует число ц такое, что \ц\ > 1 и х = /ifr. Тогда выберем точ- точку a G W1 такую, что \\а - b\\ = R, \\а + b\\ = i^. Как отмечено в начале доказательства, отсюда в силу включения х G street({—b} U {b}) сле- следует неравенство \\а — х\\ < R. С другой стороны, \\х — а\\2 = = |/i|2||6||2 + ||а||2 > ||6||2 + ||а||2 = R2, т.е. получаем противоречие. Итак, х ф fib при всех /i, в силу чего можем ввести два ортонор- мированных вектора: е\ = Ь/||Ь|| и в2 = (х — (x,ei)ei)/\\x — (x,ei)ei||. Выберем точку a G W1 вида а = —л/R2 — \\b\\2 е^. Очевидно, что \\а — Ь\\ = \\а + b\\ = R, откуда следует, что \\а — х\\ < R. Легко про- проверить, что уравнение а + fi(x — а) = Ь\ относительно \i и А имеет решение /jq, Aq вида УД2 - ||6||2 _ iio(x,ei) I °~ НЫ1 2" Нетрудно показать, что /io ^ (ОД)? ^о > 0- Кроме того, имеем ||Ьло - а\\ = 1*о\\х ~ а\\ < \\х - а\\ < R и ||ЬЛо - а\\2 = ||&ло||2 + IN|2, от- откуда следует, что ||Ьло|| < ||Ь||, т.е. Ао < 1. Итак, отрезки [—Ь, Ь] и [а,ж] пересекаются в точке 6л0, и ||ж — &ло|| = A ~ А^о)||ж — а|| = = ||ж — а\\ — \\Ь\0 — а\\ < R — v^I^aJF + INP = ^л0- В итоге получаем х G ВцХо(Ь\о); включение C.3.6) доказано. 2. Докажем обратное включение в равенстве C.3.4). В силу тео- теоремы 3.3.1 получаем, что street ({ао} U {ai}) = BR@) — (BR(-ao) П Р\ Br(—cli)). Очевидно также равенство BRx (ах) = Вд@) ^ Вд_Дл(-аА) VA е [0,1]. Поэтому для доказательства обратного включения в C.3.4) достаточ-
300 Гл. 3. R-силъно выпуклые множества и функции в Ж1 но доказать включения BR(-ao)nBR(-ai) CBR_Rx(-ax) VAG [0,1]. C.3.7) Пусть точка х G BR(-a0) П BR(—ai), т.е. \\х + ао||2 < R2, ||ж + + а\\\2 < R2. Для каждого числа А Е [0,1] определим точку а\ = = A — Х)ао + Aai, в силу чего последние неравенства принимают вид «л||2- «л||2- |_ 0 /т Г A \*j j_ о (т + ал,о + ал,с '0 - а\) Н Ч - «л) - -||ао-ал||2 < Ь ||ai -ал||2 < R\ R2. C.3.8) C.3.9) Так как а^ — а\ = А(ао — ai) и ai — ал = (А — 1)(ао — ai), то, умножая неравенство C.3.8) на A — А), а неравенство C.3.9) на А и затем складывая, получаем неравенство ||ж + ал||2 + АA — А) х х ||ао — ai||2 < R2, т.е. х G BR-Rx(—a\), и включение C.3.7) дока- доказано. ? Предложение 3.3.1. Пусть числа R > 0 и Se@,R), точ- точки ао и а\ из W1 таковы, что: либо 1) ||ao — ai||2 < BR — 8N либо 2) R2/2 > ||а0 - ai||2 > BR - 8)8. Определим точку а2 = а\ + BR8 - -82){ai - ao)/||ai - ао||2, число /i0 = ||ai - ao||2/(||ai - ао||2 + 2R8 - — S2), точку а\ = A — Х)ао + Aai V A G [0,1], точку b^ = A — /i)ao + + ца2 V/i G [0,1]. Тогда справедлива оценка |J BRxs(ax)= (J 5^FM), C.3.10) AG[O,1] где - ао||2 , C.3.11) - S2). C.3.12) Доказательство. Равенство в выражении C.3.10) проверяется непосредственно в силу того, что для всех чисел /л G [0, /ло] и A G [0,1] при соответствии А = /л//ло справедливы равенства Ъ^ = а\ и R^ = = Дл,5- Условия 1) и 2) в предложении 3.3.1 следуют из неотрицатель- неотрицательности подкоренных выражений в C.3.11) и C.3.12) и обеспечивают непустоту сильно выпуклой оболочки в C.3.10). Условие 1) соответст- соответствует случаю /io < 1/2, а условие 2) — случаю /io > 1/2. Докажем включение в выражении C.3.10). Из теоремы 3.3.1 сле- следует равенство U В6{а{)) = BR@) ^ (BR(-a0) П Bfl_5(
§3.3. R-силъно выпуклая оболочка множеств 301 Поэтому достаточно доказать включение BR(-a0) П BR-S(-ai) С BR-RXtt(-ax) VA G [0,1]. C.3.13) Выберем точку х Е Br(—clo) P\Br-s(—&i); тогда легко показать, что аналогично доказательству теоремы 3.3.2 (см. п. 2 форму- формулы C.3.7)-C.3.9)) для выражения точки х справедливо неравенство \\х + аЛ||2 + АA - А)||а0 - ai||2 < A - А)Д2 + А(Д - SJ VA G [0,1], откуда следует включение C.3.13) и соответственно C.3.10). ? Замечание 3.3.1. Из соотношений C.3.4), C.3.10), C.3.11) легко показать, что Д-сильно выпуклая оболочка точки по и шара Bs(ai) при условии, что она существует, всегда является подмножеством Д-сильно выпуклой оболочкой двух точек ао и п2 , где точка п2 ука- указана в предложении 3.3.1. Так как в силу формул C.3.11) и C.3.5), очевидно, справедливо строгое неравенство R\j > R\ при всех A G @,1], то из теоремы 3.3.2 и предложения 3.3.1 получаем Следствие 3.3.2. Пусть выполнены условия предложения 3.3.1. Тогда справедливо включение (zircon ({а0} U {ai}))\{a0} С int((strco^ ({a0} U B*(ai))). C.3.14) Предложение 3.3.2. Пусть число Д > 0, точки ао, о.\ из Жп такие, что 0 < ||ао — ai|| < 2R, пусть а\ = A — А)ао + \а\ VA G е[о,1]. Тогда для всякой точки Ъ G дВц(ао) Г\дВ^а\) справедливо ра- равенство strc0il({ao} U {О1}) П dBR{b) = {Ъ+ *?'?[ | A G [0,1]}. C.3.15) Доказательство. В силу теоремы 3.3.2 (равенства C.3.4)) достаточно показать, что BRx(ax -Ь)ПсШд@) = *?~щ VAG[0,l], C.3.16) где R\ определено по формуле C.3.5). Для любого A G @,1) получа- получаем, что s(p, BRx (a\ - b)) = (р, ах - b) + Rx < \\ах - b\\ + R\ = s((ax - -b)/\\ax-b\lBRx(ax-b)) при всех р ф (ах - Ь)/\\ах - Ь\\, \\p\\ = 1, т. е. справедливо включение Вцх (ах — Ь) С ВГх @), где гх = \\ах — Ь\\ + + Да, причем множество Вцх(ах — Ь) П дВГх@), очевидно, состоит из
302 Гл. 3. R-силъно выпуклые множества и функции в Ж1 одной точки а\ — Ъ + R\(a\ — Ь)/\\а\ — Ь\\, норма которой равна г\. Так как в силу выбора точки Ь справедливо равенство (ао — сц, а>о + + oi-2b> = 0, то ||ол-Ь||2 = ||Ь-(ао + 01)/2||2 + (А-1/2J||ао- - ai||2 = (||ао + ai - 2Ъ\\2 + \\а0 - а1||2)/4 + (Л2 - Л)||а0 - aj2 = R2 - — ЛA — Л)||ао — ai||2, т.е. \\а\ — b\\ + R\ = R, что и доказывает ра- равенство C.3.16). ? Из определения 3.3.1 и теорем 3.3.1, 3.3.2 легко показать справедли- справедливость следующих простейших свойств ^-сильно выпуклой оболочки. Предложение 3.3.3. Пусть заданы числа а > 0, р, г и R та- такие, что 0 < р < г < R, и ограниченные подмножества А и В из пространстве W1 такие, что Вр@) — А ф 0, Вр@) — В ф 0. Тогда-. 1) strco^ С strcor^4, и если А С В, то strco^ С strco^I?; 2) stYcor+R(A + В) С stTcorA + strco^^, если же А = Вг(а) при некотором a G W1, то указанное включение превращается в ра- равенство; 3) strcoar(aA) = a strcor^4, stTcor(A + a) = stTcorA + a npn лю- ^ож a e W1; 4) ес/ш множество А — В непусто, то справедливо включение strcor(^ — В) С (strcor^) — В, которое обращается в равенство, если множество А является r-силъно выпуклым множеством; 5) существует точка a G W1 такая, что Вр(а) С stTCOrA, где /3=(diam AJ/(Sr). Теорема 3.3.3 (Е.С. Половинкин). Компактное множество А является R-силъно выпуклым множеством тогда и только тогда, когда R-силъно выпуклая оболочка произвольного конечного подмно- подмножества его точек непуста и содержится в А. Доказательство. Из предложения 3.3.3, очевидно, следует, что сильно выпуклое множество А содержит ^-сильно выпуклую оболочку любого конечного подмножества его точек. Докажем об- обратное утверждение. Пусть А есть компакт, и пусть для всякой пары его точек а\, а,2 G А множество strco^dai} U {0,2}) непусто и справедливо включение strco^dai} и {о^}) С А. Так как [0*1,0,2] С С strco^dtti} U {0^2}), то множество А выпукло и s{p, strco^({ai} U {a2})) < s(p,A) Vp G дВ^О). C.3.17) Для доказательства того, что в этом случае множество А является i^-сильно выпуклым множеством, в силу следствия 3.1.3 достаточно
§3.3. R-силъно выпуклая оболочка множеств 303 доказать, что функция f(p) = R\\p\\ — s(p,A) является выпуклой функцией. Выберем произвольные векторы pi, P2 ? dBi@) и чис- число А Е [0,1]. В силу компактности множества А найдутся точки ai, a2 Е А такие, что (pk,a>k) — s{Pk,A), k = 1,2. Рассмотрим функ- функцию /i(p) = ^||p|| — s(p, strco^dtti} U {a2})). Так как множество strco^dtti} U {«2}) является ^-сильно выпуклым множеством, то по следствию 3.1.3 функция Д(р) выпукла. Из неравенства C.3.17), оче- очевидно, следуют неравенства f(p)<h(p) Vpe0Bi(o), < s(pk,A) = {pk,ak) Vk = 1,2. Отсюда получаем A - A)p2) < /i(APl + A - A)P2) < A/!(pi) + A - А) = Д(А||Р1|| + A - A)||p2||) - A^.a!) - A - A)(p2,a2> = что и доказывает выпуклость функции /. ? Из теоремы 3.3.3, очевидно, следует Следствие 3.3.3. Пусть множество А есть R-силъно выпуклое множество в Жп. Для любых точек ao, a\ G А дуга любой окруж- окружности радиуса R длины не более ttR с концами в точках по и а\ принадлежат множеству А. Как известно (см. предложение 1.3.2), операция взятия выпуклой оболочки компакта удовлетворяет условию Липшица, а именно: для любых компактов А\ и Л2, принадлежащих пространству Жп, спра- справедливо неравенство h(со А\, со А^) < h(Ai, A2). Для сильно выпуклой оболочки это свойство принимает следующий вид. Лемма 3.3.1 (Е.С.Половинкин [80]). Пусть компакты А\ иА2, точки xi, Х2 G W1 и числа го > 0; h > 0 такие, что Ак С Bro(—Xk), k = 1,2, h(A1,A2) =h. Тогда для любого числа R > го + h справедлива оценка strcoRA2) < a/^-^ h(AuA2). C.3.18) Доказательство. Из равенств BR@) — Ак + = Br@), где к = 1,2, справедливых в силу теорем 3.1.2 и 3.3.1, оче- очевидно, следует равенство = h(BR@) ^ AU BR@) ^ A2). C.3.19)
304 Гл. 3. R-силъно выпуклые множества и функции в Ж1 Поэтому достаточно получить требуемую оценку расстояния между множествами BR@) — А\ и BR@) — А2. В силу определения метрики Хаусдорфа и симметрии в условиях на множества Ai и А2 для до- доказательства последнего достаточно для произвольного вектора по Е G BR@) — А\ найти вектор b0 G BR@) — А2 такой, что ||ао-Ьо||< Покажем это. Пусть а\ = х\. Из включения А\ С ВГо(—а\) сле- следует, что BR{Q)^-A1 DBR-ro(ai), т.е. BR-ro(ai) + Аг С BR@). Из ^-сильной выпуклости множества BR@) — А\ и теоремы 3.3.3 полу- получаем включение С BR@) ± Аг. C.3.20) Допустим, что \\ао — ai\\ < R — го. Так как по условию леммы h < < R — го, то найдется точка bo G [ao,ai] такая, что ||ao — bo\\ < h и 5Л(Ь0) С 5^_ro(ai), откуда следует, что 60 + А2 С 5Л(Ь0) + М С СВд(О), т.е. &0еБя@)^Л2 и ||ao-bo|| < h. Допустим, что \\ао — ai\\ > R — го. Воспользуемся предложени- предложением 3.3.1 при S = R — го, причем без ограничения общности будем считать, что имеет место случай 1), т.е. ||ao — ai||2 < BR — S)S = = R2 — 7*0, при этом число /io < 1/2. Если это не так и /io > 1/2, то вместо точки а\ возьмем точку Ъ,\ = bi—д0 (обозначения здесь и ниже из предложения 3.3.1), причем так как Ri-^0 = i^Mo = S, то в силу включения C.3.10) получаем С BR@) ± Аг и ||a0 -2i||2 <R2-r20. Так как в силу формулы C.3.11) радиус R^ при изменении ц от 0 до \io < 1/2 принимает все значения от 0 до R — го, а по усло- условию леммы h<R — го, то найдется число /ii G @,/io) такое, что i?Ml = /г. Рассмотрим функцию /(/i) = ||ЬМ - ао||/Дм при /i G @,1). В силу формулы C.3.11) легко убедиться, что ,// ч _ ||а2 - оо||2 • М|а2 - ао||2 - Докажем, что /'(аО > 0 при всех /a G @,1/2), т.е. /(/i) строго воз- возрастает. Из формулы для производной /'(/а) достаточно показать, что /л\\а,2 — ао\\2 — 2ЯЯц > 0 при всех ц G @,1/2). Для этого воспользуемся тем, что по условию ||с&2 — ao|| < %R- В результате при \i G @,1/2) получим
§3.3. R-силъно выпуклая оболочка множеств 305 2R fi\\a2 - ao\\2 fj,\\a,2 -ao||2 2A-/i) ^ 2A-/i) = 2A-/i) =1 что и доказывает требуемое неравенство. Итак, /(/ii) < /(/^о) — ||ао — — ai||/(i2 — го), т.е., взяв в качестве точки bo = ЬМ1, получим ||оо -Ьо|| < ||qq -Qi|| < л/Д2 ~ rl h R — ro~R — ro В свою очередь в силу выбора числа h и точки bo и из включе- включения C.3.20) следует, что Ьо + А2 С Bh(b0) + Аг С BR(Q), т.е. b0 G G -Вд(О) — Л.2, что вместе с последним неравенством и доказывает оценку C.3.18). ? Предложение 3.3.4. Пусть компакт А из W1 имеет диа- диаметр diam Л = 2го > 0, и пусть число R > 2го- Тогда справедливы оценки со Л С street А с со Л + Вр@), где /3 = 4гд/Д, ш. е. lim /г^гсодЛ, со Л) = 0. Доказательство. В силу деммы 3.3.1 для оценки расстояния по Хаусдорфу между со Л и street А достаточно получить верхнюю оценку расстояния между выпуклыми многогранниками, содержащи- содержащимися в со Л, и i^-сильно выпуклыми оболочками этих многогранников. Пусть точка а лежит на границе ^-сильно выпуклой оболочки некоторого многогранника V из со Л. В силу определения 3.3.1 най- найдутся сфера dBR(b) радиуса R с центром в некоторой точке b и вершины ai,..., a^ многогранника V такие, что к а — b = 2_^ ^i(ai — Ь), где Ai > 0, a, ai G dBR{b) Mi G 1, fc. Определим числа А = ^ Ai, Ai = -? и точку а = ^ \%ai. Очевид- i=i A i=i но, что ^2 Ai = 1 и a G V. По условию ||a« — а^|| < 2го Уг, j, поэтому г=1 ||й — %• || < 2го- Складывая неравенства R2 = \\ai — b\\2 = \\a — b\\2 + + 2(a — 6, ai — a) + ||a« — a||2 с весами Ai, получаем R2 = \\a — b\\2 + к ^ i \~^ л II -—-11 ^ ^ 11^ 7112 i л 2 —I— > A • \\n ¦ n \\ <c n h\\ -\— lXt t1 p 20 E.C. Половинкин, М.В. Балашов
306 Гл. 3. R-силъно выпуклые множества и функции в Ж1 В итоге получаем \\а — а\\ = \\а — Ь\\ — \\а — b\\ < 4го/Д, что и дает указанную в предложении оценку. ? Замечание 3.3.2. Отметим, что в предложении 3.3.4 приведены достаточно простые и грубые оценки, целью которых было показать наличие предельного равенства, и в результате полученная величи- величина C не совсем точна. Как мы покажем в в теореме 4.4.6, путем более точных оценок величину [5 можно уменьшить в четыре раза, т.е. справедливо следующее утверждение. Пусть в пространстве Жп дано выпуклое замкнутое множество А, содержащееся в некотором шаре ВГо(а). Пусть R > г0 > 0. Тогда справедлива оценка 2 h(A, strcoRA) < ^. R Предложение 3.3.5. Пусть компакты А\ и Аъ из Жп, точки х\, Х2 G W1 и число го > 0 такие, что А{ С ВГо (xi), xi G W1, i = 1,2. Тогда для любого числа R такого, что го < R < го + h(Ai, A2), справедливо неравенство /i(strcoflAi,strcoflA2) < Lh(A1,A2), C.3.21) где константа L = 1 + r^/{R{R — го)). Доказательство. Обозначим h = h(A\, A2). Это значит, что имеет место включение Ах с А2+Вл@), откуда следует, что С соЛ2 +Bh(Q). Следовательно, по замечанию 3.3.2 получаем С со А1 + ^ Вг@) С со А2 + к i@) С Аналогично можно получить включение, в котором множества А\ и А2 поменялись местами. Отсюда получаем оценку т.е. получаем неравенство C.3.21). ?
§3.3. R-силъно выпуклая оболочка множеств 307 Объединяя утверждение леммы 3.3.1 и предложения 3.3.5, полу- получаем следующую теорему. Теорема 3.3.4. Пусть числа r0, R, где 0 < r0 < R, и множест- множества Ai, A2 таковы, что ВГо@) — А{ ф 0, i G 1,2. Тогда справедлива оценка h(8trcoRA1,8trcoRA2) < L(R,ro)h(A1,A2), C.3.22) где константа Липшица имеет вид ^} C.3.23) Теорема 3.3.5 (Е.С. Половинкин [80]). Пусть компакт А С Мп, точка a Е W1 и числа R\, R2, г о такие, что R2 > R\ > го > 0 и АСВГ0(а). Тогда справедлива оценка l±^--l)(R2-Ri). C.3.24) 2 — Го / Доказательство. В силу формулы для расстояния по Хаус- дорфу между выпуклыми компактами А и В (см. гл. 1) вида h(A,B)= max \s(p,A) -s(p,B)\, INN1 а также в силу теоремы 3.3.1 (т.е. равенства C.3.2)) получаем h(stYCORlA,stYCOR2A) = max |i?i||p|| - со (i?i||p|| — s(p,A)) - IIpII=i - Д2||р|| + со (Д2||р|| - s(p, A))\ = max |(Лх - Д2)||р|| + IIpII=1 + s{p, BR2@) i Л) - s(p, ВД1 @) ^ Л)|. C.3.25) По свойству геометрической разности очевидно включение BR2(O)iiD (BRl@) ii)+ БЯ2_Я1 @), что для опорных функций влечет неравенство > 0 Vp e И", т. е. в последнем выражении формулы C.3.25) модуль можно убрать и получить равенство h(stYcoRlA,stYcoR2A) = Л(ВД1@) i А, Бя2@) ^ Л) -(R2-Ri). 20*
308 Гл. 3. R-силъно выпуклые множества и функции в Ж1 В свою очередь из очевидных равенств Влг@) — А = Br2@) — D, где D = Л + Б#2_д1@), и h(A, D) = R2 - i?i, из леммы 3.3.1 и равенства C.3.19) следует оценка h(BR2@) — D, Br2@) — A) < + ro)/(R2 - r0) (i?2 — -Ri)? завершающая доказательство тео- теоремы. ? Замечание 3.3.3. Как следует из теорем 3.3.4, 3.3.5, многознач- многозначное отображение F(r) = strcorA при г > г о является непрерывным в метрике Хаусдорфа и монотонно убывающим по включению с пре- предельным значением, равным со Л. Упражнение 3.3.1. Доказать, что в оценке C.3.10) имеет место не включение, а равенство. § 3.4. .R-сильно крайние точки Из теоремы Каратеодори о представлении выпуклых оболочек множеств из W1 (см. теорему 1.14.1) и теорем 3.3.4-3.3.5 получаем следующее ее развитие. Теорема 3.4.1 (Е.С. Половинкин [81]). Пусть даны компактное множество А из W1, и числа г > 0 и R > 0 такие, что Вг@) — А ф 0 и R > г. Тогда R-силъно выпуклая оболочка множества А состоит из тех и только тех точек, каждая из которых содержится в R-силъно выпуклой оболочке некоторой совокупности не более чем п + 1 точек из А. Доказательство. Пусть a G strco#A. Допустим, что множест- множество А содержит более п + 1 точек. Покажем, что можно выбрать подмножество D в Л, которое содержит не более п + 1 точек, и такое, что a G strco#?*. Если точка a G со Л, то по теореме Каратеодори существует такое множество D С Л, что оно содержит не более п + 1 точек naGcoD С strco#?*, что и требуется доказать. Если а 0 со Л, то в силу теорем 3.3.4 и 3.3.5 найдется число R\ > R такое, что точ- точка а принадлежит границе множества strco#^. Возможны два слу- случая: либо Вцг @) — Л состоит из одной точки, либо имеет непустую внутренность. В первом случае strco#^ в силу C.3.1) является ша- шаром минимального радиуса, в который можно поместить множество Л. В силу теоремы 1.17.5 такой шар задается не более чем п + 1 точками из множества Л, лежащими на границе шара (т.е. на сфере), кото- которые и обозначим через D, т.е. a G strco^A = strco^!^ С strco^^, что завершает доказательство теоремы. Во втором случае, так как всякое сильно выпуклое множество является строго выпуклым, су-
§3.4- R-силъно крайние точки 309 ществует точка pG dB\(fS) такая, что (р,а) = s(p, strco^ А) и (р, х) < < s(p, strco^! А) для любого х G strco^! Л\{а}. Для всякой точки р G G dBi@) обозначим через ар G А точку, удовлетворяющую равенст- равенству s(p, А) = (р,ар). Тогда опорная функция множества Вцг @) — А принимает вид s(p,Br1@) — А) = co(i?i||p|| — (р, ар)), причем в силу непустоты внутренности множества Вцг @) — А при вычислении вы- выпуклой оболочки в последней формуле inf можно заменить на min (см. теорему 1.14.4), причем в силу теоремы Каратеодори выпуклые комбинации можно брать не более чем из п + 1 точек. В итоге для точки р найдутся числа А& > 0 и точки pk G dBi@), k G 1,га, такие, что т т < п + 1, р = 2^^кРк, s(p5 Вцг @) — А) = ?;=1 ?;=1 Отсюда по формуле C.3.2) получаем равенство s(p, strco^!^) = Ri - k=l Определим множество D как совокупность точек {аР1,..., aPm}. ака^ G ?> С Л, то (pfe,aPfc) < s(pk,D) < s(pk,A) = {pk,aPk), т.е. s(pfc, .D) = s(pjfe, Л) \/k?l,m. Отсюда получаем, что s(p, 5^@) — m — A) < s(p, БД1 @) -D)<J2 Afc(i?i - (pk,aPk)), т.е. справедливора- венство s(p, strco^!^.) = s(p, strco^!^), которое в силу выбора точки р влечет включение a G strco^!^ С strco^^. Теорема доказана. ? Определение 3.4.1. Пусть компакт i из Мп и числа г > 0, R > 0 такие, что 5г@) — А ф 0 и R > г. Непустое подмножество V из А называется R-силъно крайним подмножеством множества А, если ни одна точка из V не содержится в ^-сильно выпуклой оболочке какой-нибудь пары точек, которые принадлежат множеству Л, но не принадлежат множеству V. Определение 3.4.2. Точка х G А называется R-силъно крайней точкой множества Л, если одноточечное множество {х} является ^-сильно крайним подмножеством множества А (рис. 17). /^^^\^ ^-сильно крайнее ? >Г подмножество Будем обозначать множества всех ^-сильно крайних точек мно- [ ^ >• \ Я-силыю крайняя жества А через extr цА. Напомним, что множество всех крайних то- точек множества А обозначают че- Рис. 17
310 Гл. 3. R-силъно выпуклые множества и функции в Ж1 рез extr А. Из определений 3.4.1, 3.4.2 и свойств ^-сильно выпуклой оболочки, очевидно, следуют включения extr А э extr Rl A D extr r2 A V Ri> R2 >r. C.4.1) Замечание 3.4.1. Всякий шар BR(a) радиуса R с центром в про- произвольной точке a Е W1 не имеет ^-сильно крайних точек, т.е. extvrBr(cl) = 0, а для любого R\ > R справедливо равенство ex.tr цг В r (a) = extr Дк(а) = дВц{а). Лемма 3.4.1. Пусть число R>0, и пусть множество А есть R-силъно выпуклое множество, не совпадающее ни с каким ша- шаром Br(cl). Тогда существует число гЕ@,Д) такое, что Вг@) — А ф 0 (m. е. diam A < 2r < 2R). Доказательство. По теореме 3.1.2 для ^-сильно выпукло- выпуклого множества А существует ^-сильно выпуклое множество В, для которого выполнено равенство C.1.9), и так как А ф Вц(а), то из равенства C.1.9) следует, что множество В состоит более чем из одной точки, т.е. а > 0, где а = diam В. По предложению 3.3.3, п. 5) существует точка a* G W1 такая, что Вр(а*) С В, где р = a2/(SR). Отсюда получаем А = BR@) — В С Вг(—а*), где г = R — р. ? Лемма 3.4.2. Пусть задан компакт А из W1 такой, что Аф Ф Вц@), А С Вц@). Пусть V есть R-силъно крайнее подмножество множества А такое, что множество Vi=Vr\dBR@) непусто. Тогда множество V\ также является R-силъно крайним подмно- подмножеством множества А. Доказательство. Пусть z G Уь Пусть существуют точки х G G А и у G А такие, что х ф z, У ф z, z G strco^d^} U {у}). Так как множество V является ^-сильно крайним подмножеством, то из включения z G V следуют включения х G V и у G V. Лемма будет доказана, если докажем, что х G дВц@) и у G дВц@). Допустим противное: пусть х 0 дВц@). Тогда найдется число е > > 0 такое, что В?(х) С BR@). Так как по условию у G BR@), то по предложению 3.3.3, п. 1) получаем, что strcoR(B?(x) U {у}) С Вц@), откуда в силу следствия 3.3.2 имеем z G hit Дк@), т.е. z (fc Vi, что противоречит выбору точки z. ? Лемма 3.4.2. Пусть задан компакт А из W1 такой, что Аф Ф Вц@), А С Вц@). Пусть V — замкнутое R-силъно крайнее под- подмножество множества А такое, что V С dBR@), и пусть сущест- существует вектор р G dBi@), для которого s(p,V) = 0. Пусть Н{р) = = {xeRn \(х,р) =0}.
§3.4- R-силъно крайние точки 311 Тогда множество V\ — V П Н(р) также является R-силъно край- крайним подмножеством множества А. Доказательство. Рассмотрим точку z G V\. Допустим, что существуют точки х G А и у G А такие, что х ф z, у ф z, z G G strco^d^} U {у}). Так как V есть ^-сильно крайнее подмножество, то из включения z G V следуют включения х G V и у G V. Лемма будет доказана, если докажем, что х G Н(р) и у G Н(р). По предложению 3.3.2 и в силу включения z G street ({ж} U {?/}) П П 8Br@) существует число Л G @,1) такое, что z = R(Xx + A — — Х)у)/\\Хх + A — Х)у\\. Из того, что в силу выбора точки z имеем (z,p) = 0, а по доказанному (р,х) < s(p,V) = 0 и (р,у) < s(p,V) = О, получаем, что (р, х) = 0 и (р, 2/) = 0, т. е. справедливы включения х G е н(Р) и уе н(Р). и Теперь мы можем доказать обобщение теоремы Минковского о крайних точках. Теорема 3.4.2 (Е.С. Половинкин [81]). Пусть компакт А из W1, точка a G Мп и числа г > 0 и R > 0 таковы, что А С Вг(а) и R > г. Тогда множество А содержится в R-силъно выпуклой оболочке множества всех своих R-силъно крайних точек, т. е. А С strcoi? (extr R A). C.4.2) Доказательство. 1. В силу условий теоремы множест- множество strco^^L непусто. Докажем, что множество extr rA ф 0. Зафикси- Зафиксируем произвольную точку ро ? dBi@) и рассмотрим соответствую- соответствующую ей точку хро G strco^ такую, что (ро,хро) = s(p0, strco^). В силу строгой выпуклости множества strco^^. такая точка существует и единственна. Для удобства вычислений определим множество А = А + Rpo — — хро и докажем, что extrцАф0. (Этого, очевидно, будет доста- достаточно для доказательства непустоты множества extr rА.) Как отме- отмечалось в п. 3) предложения 3.3.3, справедливо равенство strco^^ = = stvcoRA + Rpo — хро, что в силу выбора точки хро влечет вклю- включение Rpo G strco^^L и равенство s(po, strco^^.) = R- Отсюда в силу теоремы 3.1.1 следует включение strco^^ С Br@). Покажем, что множество An 8Br@) непусто. По теореме 3.4.1 существуют нату- натуральное число т < п + 1 и точки Xk G А, где к G 1,га, такие, что , т ч Rpo G strco#( и{ж&})- Именно среди этих точек {х^ найдутся точки, принадлежащие сфере 8Br{{)). Допустим противное, т.е. Xk 0 dBR@) при Vfc G 1,ш. Тогда существует число е > 0 такое, что
312 Гл. 3. R-силъно выпуклые множества и функции в Ж1 B?(xk)cBR(O) V/cEl,m, т.е. (J {xk} С BR-?@). Отсюда, как к=1 отмечалось в п. 1) предложения 3.3.3, справедливо включение / т \ strco^l U Iхк}) С Бд_е@), в частности, Rpo Е Бд_е@), что проти- yk=i J воречит выбору точки ро Е дВ\ @). Итак, множество Vo = А П дВц@) непусто. Так как множество А является ^-сильно крайним подмножеством самого себя (см. опреде- определение 3.4.1), то по лемме 3.4.2 непустое множество Vo также будет ^-сильно крайним подмножеством множества А. Определим мно- множество Wo = street А П dBR@) и конусы Ко = {Аж \х eW0, А > 0} и То = {Хх | ж Е Vo, А > 0}. Очевидны включения Vo С Wo и То С Ко. Покажем, что конус Ко является выпуклым, т.е. для любых векто- векторов ж, у Е Ко справедливо включение х + у Е Ко. Отбрасывая тривиальные случаи, т.е. полагая, что х ф 0, у ф 0 и х ф ау при любых aGl, определим а0 = (Д/||ж||)ж и а\ — (R/\\y\\)y. Очевидно, что ао Е Wo и а\ Е И^, «о т^ аъ «о / —ai. Определим векторы а\ = Aai + A — А)ао при А Е [0,1]. По пред- предложению 3.3.2, выбирая в нем 6 = 0, получаем, что векторы z\ = = Дал/||ал|| Для любого А Е [0,1] принадлежат множеству Wo (так как векторы z\ лежат на дуге окружности радиуса R с центром в 0, соединяющей точки ао и а\). Возьмем Ао = |М|/(||#|| + 112/11)? Для которого получим, что z\0 = R(x + у)/\\х + у\\ Е И^о, т.е. х + у е Ко. Выпуклость конуса Ко доказана. Покажем, что конус Ко также является острым замкнутым ко- конусом. В самом деле, в противном случае существовал бы век- вектор а Е Wo такой, что —а Е Wo, откуда diam (strcoRAj > 2\\a\\ = = 2R, что противоречит условиям теоремы, из которых следовало, что diam (strco^) < 2r < 2R. Рассмотрим конус TVq = {р | (р, х) < 0 Уж Е То}, нормальный к ко- конусу То С Ко. Так как Ко является острым выпуклым конусом, то конус TVq является телесным конусом и удовлетворяет равенству TVq = = {р\ s(p,Vo) < 0}. Так как по условию ро Е Ко и Ко — выпуклый острый конус, то по теореме 1.18.4 существует точка жо Е 8Br@) П ПТо, задающая крайний луч для конуса со То такой, что (ро,%о) > > 0. В свою очередь по теореме об отделимости (см., например, теоре- теорему 1.9.2) существует вектор р\ Е dBi@) П TVq, отделяющий точку жо от конуса То, т.е. такой, что (рьЖо) = s(pi, Vo) = 0.
§3.4- R-силъно крайние точки 313 Определим множество V\ = Vo nH(pi), где, как и в лемме 3.4.3, для любого вектора р определяем подпространство Н(р) по формуле Н{р) = {х\ (ж,р) = 0}. По построению точка хо Е Vi, т.е. множест- множество V\ непусто, а по лемме 3.4.3 оно является ^-сильно крайним подмножеством множества А и лежит в (п — 1)-мерном подпрост- подпространстве H{pi) из W1. Повторяя рассуждения, при которых из начального множества Vo мы получили множество Vi, из начального множества V\ получим его ^-сильно крайнее подмножество. Для этого определим замкну- замкнутый конус Т\ — {Хх | х Е Vi, Л > 0} С Kq, а также конус Ni = {p Е € H(pi)\s(p,Vi) <0}, нормальный к конусу Т\. Так как точ- точка хо Е Т\ и множество Т\ лежит в остром выпуклом конусе, при- принадлежащем подпространству H(pi), то по теореме 1.18.4 сущест- существует точка х\ Е dBi@) flTi, задающая крайний луч конуса coTi в подпространстве Н(р\) такой, что справедливо неравенство (жо, х\) > > 0. По теореме об отделимости существует вектор ръ ? dBi@) П fliVi, отделяющий точку х\ от конуса Т\ в подпространстве H(pi), т.е. такой, что (х\,р2) = s(p2, V\) = 0. Таким образом, мы указа- указали непустое ^-сильно крайнее подмножество V2 = V\ П Н(р2) мно- множества Л, лежащее в (п — 2)-мерном подпространстве. Продолжая аналогичные построения вложенных замкнутых непустых ^-сильно крайних подмножеств множества А и отмечая, что на каждом шаге размерность этих множеств понижается, мы придем не более чем за п шагов к одноточечному ^-сильно крайнему подмножеству {ft}, чем и докажем существование ^-сильно крайней точки в Vo, причем в силу построения будет справедливо неравенство (а,ро) > 0. 2. Докажем включение А С strco# (extr rA). Допустим противное, что существует точка zo Е А такая, что zo $. strco# (extr rA). Рас- Рассмотрим точку хо Е strco^^L — одну из максимально удаленных точек множества strco^^ от множества strco# (extr rA). Обозначим через г/о точку из strco# (extr rA), которая является ортогональной проекцией на множество strco# (extr rA) точки хо- По допущению хо ф Уо- Опре- Определим вектор ро = (хо —уо)/\\хо — Уо\\- Легко проверить, что спра- справедливы равенства s(po, strco^^-) = (ро,хо) и s(po, strco^ (extr rA)) = = (ро,Уо)- Отсюда по теореме 3.1.1 получаем включение strcoi? (extr^) С BR(y0 - Rpo)- C.4.3) Очевидно, что полусфера вида 5+ = {х G W1 \ \\х — хо + Rpo\\ = R, (х — хо + Rpo, Ро) ^ 0} не пересекается с шаром Дк(?/о — Rpo)- Учи- Учитывая включения C.4.3), получаем, что полусфера 5+ не пересекается с множеством strco# (extr rA). По теореме 3.1.1 справедливо вклю-
314 Гл. 3. R-силъно выпуклые множества и функции в Ж1 чение strco^^L с Br(xo — Rpo), и по построению хо Е 5+ П strco#A Отсюда следует, как было показано в п. 1 доказательства данной теоремы, что непустое множество Vb = An Br(xo — Rpo) содержит i^-сильно крайнюю точку множества Л, принадлежащую полусфе- полусфере 5+. Полученное противоречие завершает доказательство теоремы. ? Теорема 3.4.3 (Е.С. Половинкин [81]). Всякое R-силъно выпук- выпуклое множество А из пространства W1, не являющееся шаром ра- радиуса R, совпадает с R-силъно выпуклой оболочкой множества всех своих R-силъно крайних точек. Доказательство. По лемме 3.4.1 условие теоремы о том, что множество А не является шаром радиуса R, означает, что существу- существуют число г Е (О, R) и точка a Е W1 такие, что справедливо включе- включение А С Вг(а). По теореме 3.4.2 множество extr rA непусто, и спра- справедливо включение C.4.2). В свою очередь, так как справедливо включение A D extr цА, то, как отмечено в п. 1) предложения 3.3.3, можно взять ^-сильно выпуклые оболочки от обеих частей включения и получить обратное включение A D strco^extr ц А. ? Лемма 3.4.4. Пусть множество icin является R-силъно вы- выпуклым, причем Вг@) — А ф 0, где 0 < г < R. Выберем точку z G extr#^4 и компакт В С Л\{;г:}. Тогда z ? strcoRB. Доказательство. Допустим, что точка z G strco#I?. Сущест- Существует нормальный вектор р G dBi@) такой, что {p,z) = s(p,A). Обоз- Обозначим а — z — pR и С = дВ^а) П А и для простоты далее в доказа- доказательстве будем полагать, что а = 0. Рассмотрим множество cone С Легко показать, что множество cone С является выпуклым острым конусом. Покажем, что луч L = {Xz\X > 0} является крайним лучом кону- конуса cone С Допустим противное; тогда существуют точки ei, в2 Е C\{z} и числа OLi > 0, г Е 1, 2 такие, что выполнено равенство z = а.\е\ + осъ^ъ- Но это противоречит тому, что z является ^-сильно крайней точкой множества А. Итак, луч L является крайним лучом конуса cone С Так как по допущению z E strco^I?, то по теореме 3.4.1 найдется набор не более чем п + 1 точек {а^}^, т < п + 1, из множества В таких, что z содержится в ^-сильно выпуклой оболочке этого набора точек. Из включения В С А следует, что {xi}7^1 С А. Пусть {xik}lk=1 суть все точки из набора {xi}7^L1, которые при- принадлежат множеству С = 8Br@) П А. Определим множество индек- индексов / = {1,..., Tn}\{ik}lk=i- Тогда для каждого индекса j E / сущест- существует число €j > 0 такое, что Xj +SjBi@) С BR@).
§3.4- R-силъно крайние точки 315 Рассмотрим множество К = cone со Это многогранный выпуклый конус, причем из включения {z,Xii:... ... ,ЖгЛ С С следует, что К С cone С, т.е. конус К также является острым конусом, а луч L С К является крайним лучом конуса К. По теореме 4.7 гл. 1 из [93] существует представление много- многогранного конуса К в виде конечной системы линейных однородных неравенств, т.е. существуют векторыpk G dBi@), где k G 1,г, такие, что г к=1 Определим множество К = {ж G К \ (ж, z) < R2}. Очевидно, из того, что L — крайний луч конуса К, следует, что точка z является крайней точкой множества К. Обозначим подмножество индексов По теореме 4.2 гл. 1 из [93] множество I(z) содержит подмножества /о мощности п — 1, причем точки z и {pi}, i G /о, линейно независимы. Полагаем, что /о = {ki | г = 1,..., п — 1} и Щ = {ж G W1 | (рк,х) = = 0}, k G Гг. Тогда п-1 HnL= P| Щ., C.4.4) г=1 Рассмотрим вектор п-1 C.4.5) В силу определения вектора q по формуле C.4.5) получаем, что д5 х) = 0 для любой точки ж G L. С другой стороны, при ж G в силу равенства C.4.4) существует такой индекс j G l,n — 1, что (р^^, ж) < 0, откуда следует, что (q,x) < 0. Следовательно, гиперплос- гиперплоскость Uq = {ж G Мп | (д, ж) = 0} такова, что справедливо равенство Определим числа а = mm g(xik,Ilq), /3 = minsj и 7 = A;G1,/ ^'е/ Очевидно, что а>0, /3>0, 7>0- Из определения чисел 6j и очевидно, следует, что все точки {xi}7^1 принадлежат шару С другой стороны, ||z + 7#l|2 = lkl|2+72 > i^2, т.е. точкам не принад- принадлежит шару Bji(—jq). По определению сильно выпуклой оболочки это
316 Гл. 3. R-силъно выпуклые множества и функции в Ж1 Г ш 1 значит, что z ^ strco#< |J xi >. Полученное противоречие показывает, 4=1 > что допущение о включении z Е strco#I? неверно. ? Теорема 3.4.4 (М.В.Балашов, Е.С. Половинкин [11].) Пусть числа г, R, 0 < г < R и компакт icin таковы, что Вг@) — А ф Ф 0. Тогда справедливо включение Доказательство. Так как из включения А С Вг(а) (при неко- некоторой точке а из 1П) следует, что strco^^. С Вг(а), и так как г < R, то по теореме 3.4.2 множества extr^A и ex.trn(stYCORA) непусты. Заметим, что если некоторая точка z Е exti\R (street А) такова, что z Е А, то в силу определения 3.4.2 эта точка z является ^-сильно крайней точкой множества А. Поэтому для доказательства теоремы достаточно показать, что из включения z G ex.trn(stYCORA) всегда следует включение z G А. Итак, пусть z G ex.trn(stYCORA). Тогда по теореме 3.4.1 существует конечное множество точек {а^}, i G 1,ш, из А, где т < п + 1, таких, ( ш \ что z e strco^ ( U {xi} 1. vi=i ' Допустим, что z ? А. Тогда z ф х\ при всех % G 1,ш. Так как т компакт U {х^ содержится во множестве strco^^. и не содержит г=1 у та ч точки z, то по лемме 3.4.4 получаем, что z ? strco^f U {^i}J, что неверно. Следовательно, z G A. ? г=1 § 3.5. Сильно выпуклые функции Продолжим исследование сильно выпуклых функций, начатое в § 1.19. Напомним (см. определение 1.19.2), что функция /: X —У М, задан- заданная на выпуклом множестве X из Мп, называется сильно выпуклой функцией, если существует число >с > 0 такое, что для любых то- точек ж, у G X и числа Л G [0,1] справедливо неравенство Xf(x) + A - X)f(y) > f(Xx + A - Х)у) + ЛA - Л) | \\х - у\\2. C.5.1) Теорема 3.5.1. Пусть А есть г-сильно выпуклое множество из пространства W1 х М, и пусть X = {х G W1 | 3 a G М, (ж, а) G Л}. Пусть функция /: X —>¦ М задана по формуле f(x) = min{a | (ж, а) G Тогда функция f является сильно выпуклой функцией C.5.1) на X с константой сильной выпуклости к = 1/г.
§3.5. Сильно выпуклые функции 317 Доказательство. Как отмечено в следствии 3.3.3, для любой пары точек х\, х2 ? X дуга любой окружности радиуса г длины не более тгг с концами в точках (xi,f(xi)) и (#2?/(#2)) принадлежит множеству Л, т. е. существует центр (а, а) окружности, где а лежит на прямой, проходящей через точки х\ и Ж2, а число а удовлетворяет неравенству а > max{/(xi), /(#2)}, такой, что Нал - а\\2 + (/(Ж1) - аJ = г2, \\х2 - а\\2 + (f(x2) - аJ = г2. Отсюда для любой точки х(Х) = Xxi + A — Х)х2, X G [0,1], получаем неравенство f(x(X)) <a- л/г2-|ИА)-а||2. C.5.2) Обозначим х\ — х2 = у, тогда х\ — х(Х) + A - Х)у, х2 = х(Х) - — Ху. В силу этого -(г2 \\х(Х) a\\2)fl - (г - ||а:(А) - а\\ ) \\ Отсюда в силу неравенства у/1 + C < 1 + 0,5/3 V/3 > — 1 получаем неравенство Vr2 - \\xi - а\\2 < г2_||х(Л)_а||2 2(г2_||х(л)_а||2) Аналогично получаем неравенство Последовательно применяя неравенство C.5.2) и последние два нера- неравенства, получаем - \\Х1 - а\\2 + A - А)\/г2 - \\х2 - а\\2 < Теорема доказана. ?
318 Гл. 3. R-силъно выпуклые множества и функции в Ж1 § 3.6. О новых липшицевых селекторах многозначных отображений Как показано в § 2.1, важный класс селекторов выпуклых компак- компактов из Жп, удовлетворяющих условию Липшица, определяется цент- центром Штейнера s(A) (см. определение 2.1.2). В данном параграфе пока- покажем, как можно получить другие удовлетворяющие условию Липшица селекторы компактов из Мп, используя центр Штейнера и ^-сильно выпуклую оболочку данного компакта. Напомним, что функция /, действующая из множества выпуклых компактов из W1 в пространство W1, называется селектором выпук- выпуклых компактов, если для любого выпуклого компакта А справедливо включение f(A) Е А. Напомним также (см. § 2.1), что селектор, задаваемый центром Штейнера s(-), удовлетворяет условию Липшица, т.е. для любых выпуклых компактов А\ и Аъ выполнено неравенство \\s(A1)-s(A2)\\<L(n)h(A1,A2), где L(n) = ^r("n++l)/2)' C.6.1) а константа Липшица в C.6.1), имеющая порядок у/п, в общем случае является неулучшаемой. Определение 3.6.1. Скажем, что 0г есть семейство выпук- выпуклых компактов из Жп, равномерно ограниченных константой г > О, если для любого компакта A Е Ог найдется точка х G W1 такая, что АсВг(х). Приведем некоторые обозначения. Дугу окружности радиуса R с центром в точке a G W1 длины меньше 7rR и концами в точках yi, y2 будем обозначать Дн(а) [2/1,2/2]- Зафиксируем числа г, R, 0 < г < R, и некоторое ^-сильно выпук- выпуклое множество А С W1 такое, что Вг@) — А ф 0, а также произволь- произвольный вектор р из множества дВ\ @). Обозначим Hi = {х е Ж1 | (р,ж> = s(p, co(extr^))}, C.6.2) Н- ={^Г| (р,ж> < s(p, co(extvRA))}, Я+ = R™\H~ , C.6.3) А°р = АпН^ А+ = АПН+, А-=АПН~. C.6.4) По построению множество А® непусто. Без ограничения общности (совершив, если надо, параллельный перенос множества А на некото-
§3.6. О липшицевых селекторах многозначных отображений 319 рый вектор) будем считать, что О Е А^, т.е. Н® есть подпространст- подпространство в W1. Определим отображение др: W1 —У W1, обеспечивающее нахожде- нахождение точки, симметричной данной относительно подпространства Н®, т. е. др(х) = х-2р(р,х) \/хеЖп. C.6.5) Лемма 3.6.1. В приведенных выше предположениях и обозначе- обозначениях C.6.2)-C.6.4) справедливо равенство Я+ П stYcoRA°p = Л+. C.6.6) Доказательство. Из включения А® С А сразу следует вклю- включение Н+ П strco^^p С Н+ П А = А+. Докажем обратное включение. Рассмотрим произвольную точку z Е дА+\Н®. Для нее найдется нормальный вектор р Е dBi@) такой, что выполняется равенство (p,z) = s(p,A). Определим точку а = z — pR и множество С = An dBji(a). От- Отметим, что это множество непусто (^ G С) и в силу леммы 3.4.2 множество С является ^-сильно крайним подмножеством множест- множества А. Это значит, что любая дуга окружности радиуса R длины не более ttR, проходящая через точку z G С, с концами во множестве Л, отличными от точки z, лежит на поверхности сферы дВц(а). С другой стороны, так как z G A+, a extr#^4 С А~, т.е. точка z не является ^-сильно крайней точкой множества А, то такая дуга существует. Выберем дугу DR(a)[y1,y2] С С такую, что z G DR(a)[y1,y2] и ух ф z, у2 ф z, имеющую максимальную длину, т.е. эта дуга не может быть продолжена во множестве С. Определим множество Кс = {а + А (ж - а) | х е С, А > 0} = а + cone (С - а). Очевидно, что множество К с является выпуклым конусом с вершиной в точке а и С С Кс- Так как для точки z дуга Дк(а)[2/ъ2/2] выбрана максимально допустимой длины, то ее концы 2/i, 2/2 ^ дКс- Для каж- каждой из концевых точек проведем исследования с целью нахождения ^-сильно крайних точек. Сделаем это на примере точки у\. Допустим, что точка у\ не является ^-сильно крайней точкой мно- множества А, так как в противном случае цель достигнута и переходим к рассмотрению другого конца дуги. По теореме об отделимости су- существует вектор р\ G дВ\ @), отделяющий точку у\ от множества Кс-, т е (Рь2/1> = (Ръа) > (Ръа;) Ух?Кс. Определим гиперплоскость Щ = {х G Mn | (pi,x — а) = 0} и множест-
320 Гл. 3. R-силъно выпуклые множества и функции в Ж1 во С\ — С П III. Покажем, что множество С\ также является ^-сильно крайним подмножеством множества А. Допустим противное, т.е. пусть существуют точка х Е С\ и точ- точки ei, в2 ? С такие, что точка е\ не принадлежит множеству Ci, х ф в2 и х Е Dn{a)[ei, 62]- Тогда из последнего включения следует, что существуют числа Ai > 0 и Л2 > 0 такие, что х = а + Ai (ei — а) + + А2(е2 — а). Отсюда и из неравенств (pi, е\ — а) < 0, (pi, 62 — о) < 0 получаем (pi,ar) = (pi,a> + Ai(pi,ei -a) + A2(pi,e2 - а) < (pi,a), C.6.7) т.е. x$lC\. Получили противоречие. Итак, множество С\ также является ^-сильно крайним подмножеством множества А, причем размерность множества Ci, как минимум, на единицу меньше размер- размерности множества С. В итоге в случае, когда точка у\ не является ^-сильно край- крайней точкой множества А, существует другая дуга Dn{a)[y\,y\], принадлежащая множеству Ci, максимальной длины и такая, что Vx e DR(a)[yl,yl] и у} фуиг? ТД Опять исследуем оба конца новой дуги на примере одного из них, а именно у\. Если точка у\ не является ^-сильно крайней точкой, то для этой точки у\ решаем задачу построения следующей дуги максимальной длины, аналогичную задаче для у\, но уже в аффинном многообразии П2, которое имеет размерность п — 2. Таким образом, мы получаем каскад дуг, лежащих на сфе- сфере дВц(а), который заканчивается дугами, один или оба конца ко- которых являются ^-сильно крайними точками множества А. В силу включения extr#^4 С А~ точки, соответствующие концам этих дуг, лежат в А~, а точка z G А+\Нр. Поэтому существуют точки {ж^}^1, в которых дуги каскада пересекают множество А®. Как показано в следствии 3.3.3, все дуги окружностей радиуса R длины не более ttR с концами в точках {а^}^ целиком лежат в strco^^; кроме того, любая дуга окружности радиуса R длины не более ttR с концами в strcoi^p целиком лежит в strco^^. Отсюда следует, что z e strco^p. Итак, z G Я+ П strco^p. Учитывая к тому же очевидное равенство strco^^ П Н® = А+ П П Н® мы доказали, что граничные точки множеств Н^ П strco^^ и Л+ совпадают, а так как эти множества выпуклы, то сами они тоже совпадают. Итак, равенство C.6.6) доказано. ? Лемма 3.6.2. Для отображения C.6.5) справедливо включение 9р(А+)сА-. C.6.8)
§3.6. О липшицевых селекторах многозначных отображений 321 Доказательство. Для любой точки х Е W1 из включения Ар* С С Br(x) и определения функции др по формуле C.6.5), очевидно, сле- следует включение Ар* С BR(gp(x)). Поэтому #р (street А^) = street А^. Кроме того, др(Н+) = Н~. В силу включения strcoRAp* С А по лем- лемме 3.6.1 получаем др(А+) = (strcoR Ар) П Н~ С АП Н~ = А~. П Теорема 3.6.1 (М.В.Балашов, Е.С. Половинкин [11]). Пусть числа r,R,0<r<R,u R-сильно выпуклое множество icin ma- кже, ^ттш 5f@)-i^ 0- Тогда центр Штейнера s(A) удовлетворя- удовлетворяет включению s(A) e со (extrRA). C.6.9) Доказательство. Прежде всего для произвольного фиксиро- фиксированного вектора р Е dBi@) в обозначениях C.6.2)-C.6.5) докажем включение s(A) G Я". C.6.10) Обозначим ^iip(o) = {q e Bi(o) | о < (p,g», Bi;p(o) = {g e Bi(o) | (?,«> < o}. Покажем, что справедливо неравенство s(q,A)<s(gp(q),A) Vq€dB+p@). C.6.11) Зафиксируем вектор q G B^p@), причем ||^|| = 1. Рассмотрим опор- опорную точку xq G A(q), т. е. такую точку из Л, для которой справедливо равенство (q,xq) = s(q,A). Разложим точки q и xq в прямые суммы точек вида I . л I /7» Т* где (p^q^) = 0, и (р,ж^-) = 0, а Ад, /хЖд G М. Так как g G 5^p@), a (p,q) = Xq, to Xq > 0. В силу определения симметрии C.6.5) получаем gp{q) = q± — Xqp и gp(xq) = xj^ — \ixqp. Для точки Xq возможна одна из двух ситуаций: либо xq G <ЭЛ+, либо Допустим, что жд G <9Л+. Тогда по лемме 3.6.2 gp(xq) G Л~ и = (q ,ж ) + Xq/jxq(q — Xqp,x — /J,xqp) < s(gp(q), A). Допустим, что жд G <9Л~. Это означает, что \ixq < 0. Поэтому s(q, A) = (q, xq) = (q1- + Agp, ж1" + /J>XqP) — < (g1- - Agp, ж1- + /i^gp) < s(^(g),A). 21 Е.С. Половинкин, М.В. Балашов
322 Гл. 3. R-силъно выпуклые множества и функции в Ж1 Итак, неравенство C.6.11) доказано. Из него и из B.1.6) получаем = ^- I s(q,A)(q,p)dq = = J- / s(q,A)(q,p)dq-^- / «(&>(?), A)(q,p) dq < 0, т.е. справедливо включение C.6.10). Так как включение C.6.10) до- доказано для произвольного вектора р из дВ\ @), то s(A)e f] И' = co(extr^), \P\=i что и требовалось доказать. ? Теорема 3.6.2 (М.В.Балашов, Е.С. Половинкин [11]). Пусть числа г, R, 0 < г < R, и выпуклый компакт А С W1 таковы, что ВГ(О)^А^0. Тогда G А. C.6.12) Доказательство. Применяя теорему 3.6.1, а затем теоре- теорему 3.4.4, получаем включения G со (ex.tYR(stYCORA)) С c6(ex.trRA) С А. ? Определение 3.6.2. Пусть числа г > 0, R > 0 таковы, что г < < i?. Для всякого компакта A G Ог определим точку pr(A) Е Мп следующим образом: Рд(А) = -1 | co(iJ||g||-s(g,A))gdg, C.6.13) 0Bi(O) где через г?1 обозначен объем единичного шара Bi@) из МП (рис. 18). Теорема 3.6.3 (М.В.Балашов, Е.С. Половинкин [11]). Пусть зафиксированы числа г, R, такие, что 0 < г < R, и пусть Ог есть семейство выпуклых компактов из Жп равномерно ограниченных константой г. Тогда справедливо включение pR(A)eA УЛеОг, C.6.14) и функция А —у Pr(A) удовлетворяет условию Липшица на семейст- семействе множеств Ог, т. е. для любых компактов А\, Аъ Е Ог выполнено неравенство \\PR(A1)-pR(A2)\\<L(n,R,r)h(A1,A2), C.6.15)
§3.6. О липшицевых селекторах многозначных отображений 323 где L(n,R,r) = L(n)L(R,r), причем константа L(n) вычислена по формуле C.6.1), а константа L(R,r) определена по формуле C.3.23). Доказательство. Из формулы C.6.13) для точкир#(Л), фор- формулы C.3.2) для опорной функции сильно выпуклой оболочки и в силу того, что справедливо равенство M\Qdq = 0, следует равенство Pr(A) = s (street А). Отсюда по теореме 3.6.2 полу- получаем включение C.6.14). Поскольку операция взятия ^-сильно выпуклой оболочки удовле- удовлетворяет условию Липшица как функция множеств из семейства Ог Дуги окружностей радиуса Я, проходящие через точки А и С D — центр Штейнера ААВС Е — точка pR(AABC) Рис. 18 в метрике Хаусдорфа с константой L(R,r) вида C.3.23), а центр Штейнера является селектором, удовлетворяющим условию Липшица с константой L(n), то точка рц (А) как суперпозиция указанных выше отображений является селектором выпуклых равномерно ограничен- ограниченных компактов Ог, удовлетворяющим условию Липшица в метрике Хаусдорфа. ? 21*
Глава 4 ПОРОЖДАЮЩИЕ МНОЖЕСТВА. М-СИЛЬНО ВЫПУКЛЫЕ МНОЖЕСТВА § 4.1. Определения. Опорный принцип Постараемся обобщить результаты гл. 3 на другие классы мно- множеств, представимых в виде пересечения сдвигов некоторого выбран- выбранного множества, не являющегося в общем случае шаром из W1. Как станет ясно впоследствии, для этого необходимо наложить на выбран- выбранное множество дополнительное условие, справедливое, как показано в теореме 3.1.2, для шаров из Мп, но, вообще говоря, не справедливое для многих выпуклых множеств из Жп при п > 3. В результате мы приходим к следующему определению. Определение 4.1.1. Выпуклое замкнутое множество М в бана- банаховом пространстве Е назовем порождающим множеством, если для любого множества X такого, что множество А = Р| (М + ж) D.1.1) хех непусто, найдется выпуклое замкнутое множество В С Е такое, что А + В = М. D.1.2) Определение 4.1.2. Для выбранного порождающего мно- множества М всякое непустое множество вида D.1.1) будем называть М-силъно выпуклым множеством. Замечание 4.1.1. При определенных условиях на М замыка- замыкание в формуле D.1.2) можно убрать. Именно такого типа условия фигурируют во многих полученных далее результатах. При этом для простоты изложения мы не всегда приводим соответствующие условия в максимальной общности. Главным образом мы пользуемся теоремой 1.13.2, хотя в конкретных случаях возможны ослабления условий этой теоремы.
§4-1- Определения. Опорный принцип 325 Поясним это замечание. Для множеств А, В, М из определе- определения 4.1.1 получаем равенства для барьерных конусов этих множеств Ъ(М) = Ъ(А + В) = Ъ(А) П Ъ(В), т.е. Ь(А) D Ь(М), Ь(В) D Ь(М). Если пространство Е рефлексивно, а int b(M) ф 0, то Ь(А) - Ъ(В) D Ь(М) - Ъ(М) = Е*, и по теореме 1.13.2 множество А + В замкнуто. Если int b(M) = 0 (но Ь(М) ф 0), то введем в пространстве Е под- подпространство Е\ = Ь{М)~ П (—Ь(М)~). Если размерность подпрост- подпространства Ei или его коразмерность конечны или если исходное прост- пространство Е является гильбертовым пространством, то существует подпространство Е2 такое, что справедливо разложение Е в прямую сумму Е = Ei 0 Е2. Тогда можно указать замкнутое выпуклое мно- множество Мо С Е2 такое, что М = Мо 0 Е\, причем int Ь(М0) ф 0. При этом всякое непустое множество А = Q (М + ж) можно представить хех в виде Л = тгЛ + i^i, где тг — ортогональный проектор пространст- пространства Е на подпространство i^, т.е. тгЛ = Q (Mq + х). Следователь- но, если имеет место равенство А + В = М, то оно эквивалентно равенству (тгЛ + тгБ) 0 Е\ — Мо 0 Ei, т.е. (тгЛ + тгВ) = Мо. В силу теоремы 1.13.2 множество тгА + тгВ замкнуто, поэтому А + тгВ тоже замкнуто, и Л + тг5 = М. Замечание 4.1.2. В дальнейшем, говоря, что множество А явля- является М-сильно выпуклым, мы всегда будем предполагать, что имеет- имеется соответствующее множество М, которое является порождающим множеством, т.е. удовлетворяет определению 4.1.1. Замечание 4.1.3. Отметим, что М-сильно выпуклое мно- множество А можно записать через разность Минковского в виде А = = М —У, где Y связано с множеством X из определения 4.1.2 по формуле Y = —X. Более того, из равенства А + В = М следует, что В = М — А, откуда в итоге получаем равенство (M^Y) + (M^(M^ Y)) = М. D.1.3) Для исследования порождающих множеств полезно следующее простое утверждение. Теорема 4.1.1. Пусть М — выпуклое замкнутое множество из рефлексивного банахова пространства Е, причем int Ь{М) ф 0. Множество М будет порождающим тогда и только тогда, когда
326 Гл. 4- Порождающие множества для любого непустого множества А вида А = f] (М + х) и для лю- хех бой точки т Е М существует точка Ъ Е Е такая, что справедливо включение т Е А + Ь С М. Доказательство. Необходимость. Пусть М — порождаю- порождающее множество. Тогда для всякого множества А из условия теоремы найдется выпуклое замкнутое множество В такое, что А + В = М. Поэтому для любой точки т Е М найдутся точки a Е А и Ъ Е В такие, что т = а + Ь, т.е. т G А + Ъ. Из равенства А + В = М следует, что А + Ъ С М, так как Ъ е В. Достаточность. Пусть выполнено утверждение теоремы. Допустим, что множество М не является порождающим, т.е. А + + (М — А) С М, причем включение строгое. Поэтому найдется точ- точка то G М такая, что то ^ А + (М — Л). Но по утверждению сущест- существует точка bo Е Е такая, что т0 Е Л + Ьо С М, откуда 60 G М — Л, т.е. mo Gi + (M — Л). Противоречие показывает, что предположе- предположение было неверно. ? Напомним, что через А(р) мы обозначаем опорное ко множеству А множество вида А(р) = {х G А | (р, х) = s(p, Л)}. Теорема 4.1.2. Пусть М — порождающее множество из реф- рефлексивного банахова пространства Е, причем hit b(M) ф 0. Тогда для любого М-сильно выпуклого множества Л, для лю- любого р G intfr(M), \\p\\* = 1, и любых точек х^ G А(р) и x^f G М(р) справедливо равенство А= П (М + я?-О. D.1.4) Обратно, если выпуклое замкнутое множество М таково, что intb(M) ф 0, г/ любое множество А вида D.1.1) представимо по формуле D.1.4), то множество М порождающее. Доказательство. Для любого множества Л вида D.1.1) в силу леммы 1.13.4 следует равенство hit b(A) = 'mtb(M). 1. Пусть М — порождающее множество, а множество Л имеет вид D.1.1). По определению 4.1.1 существует выпуклое замкнутое множество В такое, что Л + В = М. Отсюда, очевидно, следует, что Ь(В) э Ь(М), а это в силу теоремы 1.13.2 влечет равенство Л + В = = М. Зафиксируем произвольный вектор р G intfr(M), \\p\\* = 1, и произвольные точки х? G А(р) и х1^ G М(р). В силу леммы 1.13.6 справедливо включение x^f — х^ G В(р). Поэтому обозначим xf=x"-x$€ B{p). D.1.5)
§4-1- Определения. Опорный принцип 327 Из равенства А + В = М и включения х^ Е В следует включение А + Хр С М, отсюда в силу D.1.5) получаем А С М + х? - х^. Так как последнее включение верно для любых векторов pE'mtb(A), \\p\\* = 1, то получаем включение Ас П {М + х$-х"). ||p||*=i, peimb(M) Обозначим Н+ = {х ? Е\ (р,х) < s(p,A)}. Ясно, что справедливо включение М + х^ — x^f С Н+ для каждого вектора р G int b(M). В силу выпуклости и замкнутости множества А получаем по предложе- предложению 1.13.1 включение (М + ^-Ос П Н+=А. Таким образом, равенство D.1.4) доказано. 2. Пусть для любого множества А вида D.1.1) выполнена форму- формула D.1.4). Покажем, что множество М порождающее. Зафиксируем произвольный вектор q е дВ±@) П int b(M). Тогда s(q, A) < inf s(q, M + х* - х™) < откуда следует, что все неравенства здесь надо заменить на равенства, т.е. s(q, A) = inf s(q, M + х? - х™) = ||p|U=l, pGintb(M) W' P P J = s(q,M)- sup (q,x?-x$). D.1.6) ||p||*=i, pemtb(M) Определим множество В по формуле в = ш у «-<)• ||p|U=l, pGintb(M) Тогда в силу равенства D.1.6) для любого вектора ^Е дВ^О) П П int Ь(М) справедливо равенство s(q,A) + s(q,B) = s(q,M). Отсюда в силу предложения 1.13.1 и теоремы 1.13.2 следует равенство А + + Б = М. ? Теорема 4.1.3 (опорный принцип). Пусть М есть выпуклое замкнутое множество в рефлексивном банаховом пространстве Е, причем int b(M) ф 0. Множество М является порождающим тогда
328 Гл. 4- Порождающие множества и только тогда, когда для любого непустого множества А ви- вида D.1.1), для любого вектора р Е <91^@) П int b(M) и любых то- точек х^ Е А(р) и х^ Е М(р) справедливо включение АсМ + х?-хм. D.1.7) Доказательство, очевидно, следует из теоремы 4.1.2 и равенст- равенства D.1.4). Замечание 4.1.4. Из доказательства теоремы 4.1.2, в частнос- частности, получаем следующее. Пусть дано непустое замкнутое выпук- выпуклое множество М из рефлексивного банахова пространства такое, что int b(M) ф 0, и пусть это множество не является порождаю- порождающим. Однако допустим, что для некоторого непустого множество А вида D.1.1) выполнены условия теоремы 4.1.3 (т.е. для любых век- вектора р е дВ^@) nintb(M) и любых точек х^ е М(р) и х? е А(р) выполнено включение D.1.7)). Тогда существует выпуклое замкнутое множество В такое, что справедливо равенство А + В = М. § 4.2. Операции с порождающими множествами Непосредственная проверка того, что некоторое множество удов- удовлетворяет определению 4.1.1 порождающего множества, достаточно трудна. Поэтому приступим к задаче нахождения различных крите- критериев для порождающих множеств, в частности, получаемых в резуль- результате операций с порождающими множествами, сохраняющих свойст- свойство быть порождающим. Отметим, что намеченная задача нетривиальна: легко указать примеры весьма простых множеств, не являющихся порождающими даже в евклидовом пространстве М3. Пример 4.2.1. Рассмотрим в М3 правильную пирамиду с квад- квадратным основанием вида М = со{@,0,1), A,1,0), (-1,1,0), A,-1,0), (-1,-1,0)}. Пусть А = (М + а) Г\ (М — а), где точка а = A/2, 0, 0). Легко прове- проверить, что Выберем вектор р = @,0,1). Тогда опорное множество А(р) есть отрезок вида [@,-1/2,1/2), @,1/2,1/2)], а опорное множество М(р)
§4-2- Операции с порождающими множествами 329 состоит из одной точки, т.е. М(р) = х^ = @,0,1). Выберем точку х^ = @, 0,1/2) Е А(р). Легко убедиться в том, что отрезок А(р) — х? не содержится во множестве М — x^f, т.е. не выполнен опорный принцип (теорема 4.1.3) для данного множества А, следовательно, множество М не является порождающим. ? Пример 4.2.2. Через Dr(a)[b,c], как и прежде, будем обозначать дугу окружности радиуса г длины не более тгг с концами в точках Ьи с и центром в точке а. Определим множество М, являющееся выпуклой оболочкой множества, образованного вращением вокруг оси абсцисс дуги ?>5(C, -4,0))[@,0,0), F,0,0)]. Пусть А = (М + а) П (М - а), где а = @,1/2,0). Легко видеть, что А = С\ U С2, где а С2 симметрично С\ относительно плоскости xOz. Кривая, лежа- лежащая в плоскости xOz и ограничивающая множество, полученное пе- пересечением множества А и плоскости xOz, является гладкой, так как ее сдвиг на вектор @,1/2,0) совпадает с гладкой кривой дМ П П {(х,у, z) | у = 1/2}. Выберем вектор р = (—1,0,0). Тогда опорная точка х^ = C — л/19/2, 0,0). Касательный конус ко множеству А в точке х^ содержит полуплоскость {(x,y,z) | у = 0, х > 0}, так как множество А содержит двумерное подмножество А П {(ж, у, z) \ у — 0}, ограниченное гладкой кривой. Касательный конус ко множеству М в точке х^- = @,0,0) состоит из таких векторов ^Gt3, для которых угол между q и вектором A,0,0) не больше, чем угол между пря- мой у = 0, z = 0 и дугой ?>5(C, -4,0))[@,0,0), F,0,0)] в точке @,0,0), т.е. arcsinC/5). Итак, касательный конус к М в точке х^ явля- является острым. Отсюда следует, что включение А С М + х? — х^ не выполнено, и по теореме 4.1.3 данное множество М не является порождающим. ? Приведем простейший позитивный пример порождающего мно- множества. Пример 4.2.3. Пусть М есть симплекс полной размерности в W1, т.е. выпуклая оболочка п + 1 аффинно независимых точек. Легко убедиться в том, что М является порождающим множеством, так как всякое множество Л, полученное как пересечение сдвигов сим- симплекса М, есть либо симплекс полной размерности с (п — 1)-мерными гранями, параллельными (п — 1)-мерным граням симплекса М (а, значит, подобный симплексу М), либо точка. В обоих случаях легко указать другой симплекс 5, подобный симплексу М, такой, что имеет место равенство А + В = М'. ?
330 Гл. 4- Порождающие множества Лемма 4.2.1. Пусть М есть порождающее множество в Е. Тогда всякое множество вида ХМ + а, где A Е М1, а Е Е, будет также порождающим множеством. Доказательство очевидно. Теорема 4.2.1. Пусть в сепарабельном банаховом пространст- пространстве Е даны ограниченные замкнутые выпуклые слабо компактные множества М и Mk, где ^GN, причем Mk суть порождающие множества, для которых выполнено одно из двух условий: 1) h(Mk,M) ->0, intM^0; 2) Mk D М V к и Mk —>¦ М в слабой топологии. Тогда М также будет порождающим множеством. Доказательство этой теоремы потребовало бы привлечения боль- большого количества технических результатов теории многозначных ото- отображений, поэтому мы его не приводим. При желании его можно найти в работе [11]. Следствие 4.2.1. Пусть в W1 даны компакт М и последо- последовательность порождающих множеств {Mk}, причем Mk С М для всех к Е N и h(Mk, М) —> 0 при & —>- оо. Тогда множество М также будет порождающим множеством. Доказательство. Переходя в несущее подпространство мно- множества М (делая сдвиг аффинной оболочки множества М), можем без ограничения общности считать, что hit M ф 0, и все Mk целиком содержатся в этом несущем подпространстве. Тогда утверждение последует из теоремы 4.2.1, п. 1). ? Пример 4.2.4. Пусть {ei}j=1 — стандартный ортонормирован- ный базис в М4, пусть ео = 0 G М4. Пусть А/. = 1/fc. Рассмотрим по- последовательность симплексов полной размерности из М4 вида Мк = со {ei + е2 + Л^е4, е\ - е2, -ei - е2, -ei + е2, е3}. Пусть Mq = co{ei + е2, е\ — е2, —е\ — е2, —е\ + е2, ез}. Легко видеть, что Mk —> Mq при к —> оо, внутренность множества Mq пуста и нет включения Mk С Mq для всех к. При этом справедлива формула Mq = М х {0}, где М есть трехмерная правильная четырехугольная пирамида, для которой в примере 4.2.1 доказано, что она не является порождающим множеством; следовательно, и множество Mq не явля- является порождающим множеством. ? Теорема 4.2.2. Пусть М — порождающее множество из Е. Тогда для любого вектора р G hit b(M) опорное подмножество М(р) будет порождающим в гиперплоскости Н° = {х\ (р,х) = s(p,M)}.
§4-2- Операции с порождающими множествами 331 Доказательство. Зафиксируем произвольный вектор pG Е hit b(M). Сдвигая при необходимости множество М, можем считать, что Н° есть подпространство пространства Е. По лемме 1.13.2 мно- множество М{р) есть непустое замкнутое выпуклое множество. Выберем замкнутое множество X из Н° такое, что множество А= хех непусто. Очевидно, справедливо равенство А(р) = А. Определим мно- множество А\ — Р| (М + х). Из того, что для каждого х Е X справедливо хех включение А\(р) С (М + х)(р) = М(р) + ж, следует f| (М(р) + ж) = Ас т.е. справедливо равенство А\{р) = А, и множество Ai непусто. Так как множество М является порождающим, то найдется вы- выпуклое замкнутое множество С\ такое, что справедливо равенство А\ + С\ = М. Отсюда по лемме 1.13.6 получаем, что т.е. А + В = М(р), где в качестве множества В выбрано множест- множество Ci{p). п Покажем, что с помощью линейных преобразований можно полу- получать новые порождающие множества. Теорема 4.2.3. Пусть Е\ и Е2 суть банаховы пространства, а М С Ei — порождающее множество. Пусть Т: Е\ —у Е2 — линей- линейный оператор такой, что множество ТМ замкнуто в Е2, и на нем определен обратный оператор Т~х. Тогда множество ТМ является порождающим множеством в Е2. Доказательство. Выберем произвольное множество вида А = = Р| iTM + x). В силу леммы 4.2.1 можно без ограничения общности хех считать, что О G А С ТМ. Отсюда имеем А + (-Х) СГМ, D.2.1) т.е. —X С ТМ, следовательно, на —X определен обратный опера- оператор Г. Определим множество Ai = Т~гА и — Xi=T~1(—X). Докажем равенство Аг =M±i-Xi). D.2.2)
332 Гл. 4- Порождающие множества Применяя оператор Т~х ко включению D.2.1), получаем включение Ах + (-Xi) С М, откуда AiCMi(-Xi). Докажем обратное включение. Пусть ж GM-(-Xi), отсюда x + (-Xi) CM, Tx + Ti-Хг) СТМ, Гж + (-Х) С ГМ, Тх е А. Равенство D.2.2) доказано. Так как множество М является порождающим, а множество А\ является М-сильно выпуклым, то найдется М-сильно выпуклое мно- множество В\, дающее в сумме со множеством А\ множество, замыкание которого совпадает с М. Отсюда получаем ТМ = Т(Аг + Вг) С А + ТВг С ТМ. Итак, А + ТВ\ = ТМ, что означает выполнение определения по- рождаемости для множества ТМ. ? Отметим, что условие обратимости оператора Т на образе ТМ существенно. Покажем это на примере. Пример 4.2.5. Пусть {ei}j=1 есть стандартный ортонорниро- ванный базис в М4, пусть ео = 0. Определим в М4 симплекс пол- полной размерности вида S4 = со{е^}4=0. Как показано в примере 4.2.3, множество S4 является порождающим множеством. Пусть линейный оператор Т задается матрицей Т = Тогда легко видеть, что Т54 = М х {0} + A,1,0,0), где М есть трехмерная правильная четырехугольная пирамида, которая, как по- показано в примере 4.2.1, не является порождающим множеством. Поэтому и TS4 также не является порождающим множеством. ? Теорема 4.2.4. Пусть Е\, Е2 —рефлексивные банаховы прост- пространства и пусть Mi С Ei и М2 С Е2 — порождающие множества. Тогда их прямая сумма Mi 0 М2 также будет порождающим множеством в прямой сумме пространств Е\ 0 Е2. Доказательство. Определим множества М = Mi 0 М2, X С С Ei 0 Е2 такие, что М — X ф 0. Пусть tti — проектор пространст- пространства Е\ 0 Е2 на пространство Е\, а тг2 — проектор пространства Е\ 0 1 1 1 0 0 2 0 0 2 2 0 0 2 0 0 0
§4-2- Операции с порождающими множествами 333 0 Е2 на пространство Е2. Докажем равенство М^Х = М ^ (тпХ 0 тт2Х). D.2.3) Правое множество в формуле D.2.3), очевидно, содержится в ле- левом, поскольку X С ttiX 0 тг2Х. Покажем справедливость обратного включения. Пусть z Е М — X. Это равносильно включению z + X С С М, действуя на которое проекторами tti и тг2, получаем TTi^ + TTiX С М^, г е ТД Взяв прямую сумму двух последних включений, имеем TTiZ 0 7T2Z + TTiX 0 7Г2Х С М, а так как z = ttiz 0 7r2z, то z G M — (niX 0 7Г2Х). Аналогично ра- равенству D.2.3) легко доказать равенство М ^ (тпХ 0 тт2Х) = (Mi ^ тпХ) 0 (М2 ^ тг2Х). D.2.4) Пусть Bi — такие множества, что (Mi — тг^Х) + Bi = Mi, i = 1,2. Взяв прямую сумму двух последних равенств и учитывая равенст- равенства D.2.3) и D.2.4), получаем, что М = (М ^ X) + (Вг 0 Б2). п Отметим, что, к сожалению, сумма Минковского двух порождаю- порождающих множеств не является в общем случае порождающим множест- множеством. Приведем соответствующий пример. Пример 4.2.6. Пусть {e«}f=1 есть стандартный ортонормиро- ванный базис в Ж3 и ео = 0. Рассмотрим тетраэдры, являющиеся порождающими множествами в Ж3: 51 = со jeo,-ei,e2,- (e2 - ex) + -j= e3j, 52 = со|ео,-еье2,- (е2 - ex) - ^|ез}- Определим многогранник М = 5i + 52. Точка 0 есть вершина мно- многогранника М, из которой исходят четыре ребра: [0, —2ei], [0,2e2], [0, тт (е2 — ei) =Ь —=ез]. Таким образом, точка 0 является вершиной ^ V 2 правильной четырехугольной пирамиды Е = со|0,-еье2, - (е2 - ei) + "/|ез, 2 (в2 ~ 6l) ~ ~Щ вз/ такой, что 5i/2@) П Е = 5i/2@) П М. Выберем вектор р = A/л/2, — 1/л/2, 0). Тогда опорное множество М(р) = {ж^} = {0}. Определим отрезок X = [а, 6], где 3ei е2 . е3 \ , + + > Ь=
334 Гл. 4- Порождающие множества Определим множество Y = М — X, для которого получим Выберем точку х^ — О Е Y(p). Легко убедиться в том, что Y(p) <f_ (? М(р) + хJ — х^, т. е. не выполнен опорный принцип (теорема 4.1.3), и поэтому М не является порождающим множеством. ? Следствие 4.2.2. Теорема 4.2.4, очевидно, справедлива не только для множеств, представимых в виде прямой суммы двух по- порождающих множеств в прямой сумме двух пространств, но и для множеств, представимых в виде прямой суммы произвольного числа {конечного или счетного) порождающих множеств в соответст- соответствующей прямой сумме {конечной или бесконечной) пространств. Доказательство. Для обобщения теоремы 4.2.4 в случае беско- бесконечного числа прямых слагаемых достаточно повторить рассуждения и воспользоваться очевидным равенством сю сю сю 0 (Ai + Bi) = 0 Ai + 0 Bi, D.2.5) г=1 г=1 г=1 где Ai С Ei и Bi С Ei для всех г и {Е^^г суть набор соответствую- соответствующих рефлексивных банаховых пространств. ? Следствие 4.2.3. Гильбертов кирпич из пространства 1Р, где р G A,+оо), является порождающим множеством. Доказательство. Для всякой точки х G 1Р через тг^ж = Х{ обоз- обозначается г-й элемент последовательности ж. Гильбертовым кирпичом, как известно, называется множество М = {х G lp | \xi\ < 1/г Уг G N}. сю Отметим, что 1Р С 0 М^ где М^ = Ж для всех г G N. г=1 Рассмотрим произвольное непустое множество X G 1Р такое, что М — X ф 0. Без ограничения общности считаем, что X С М. Поскольку для любого г G N множество тг^М есть отрезок в Ij и TTiX С тг^М = [—1/г, 1/г], то очевидно, что найдутся отрез- отрезки Bi СЩ, для которых (-KiM — TTiX) + Bi = TTiM, и очевидно, что Bi С [—3/г,3/г]. Определим множество В по формуле сю В=®В{. D.2.6) г=1 По следствию 4.2.2 справедливо равенство М^Х + В = М. D.2.7)
§4-2- Операции с порождающими множествами 335 Осталось показать, что В С 1Р. В самом деле если Ъ = (..., Ь^,...) Е оо 3 3 GSc 0Mi,TO — <bi<-, откуда следует, что i=i г г 5 г=1 г=1 Следствие 4.2.4. Единичный шар в /^ также является по- порождающим множеством. Доказательство. Доказательство проводится аналогично до- доказательству следствия 4.2.3. Напомним, что единичным шаром в сю пространстве 1^ С © Mi является множество М = {х € 1^ \ \хг\ < 1 VieN}. Повторяя доказательство следствия 4.2.3, для любого множест- множества X С М получаем множество вида D.2.6) такое, что справедливо равенство D.2.7). При этом Bi С [—3,3] для любого натурального г, откуда следует, что ЦЬЦоо < 3 для любого Ъ Е В, т.е. В С loo- п Лемма 4.2.2. Пусть М — выпуклое замкнутое множество с непустой внутренностью из рефлексивного банахова пространст- пространства Е такое, что intb(M)^0. Пусть для любого ограниченного множества Y такого, что hit (M — Y) ф 0, найдется выпуклое множество By, для которого справедливо равенство (М — Y) + + BY = М. Тогда множество М является порождающим множеством. Доказательство. Пусть X есть произвольное множество, удовлетворяющее условию М — X ф 0. Покажем, что найдется мно- множество В такое, что (М — X) + В = М. Без ограничения общности будем считать OGlcM, а поскольку М — X — М — со~Х, то счи- считаем, что множество X является выпуклым и замкнутым. Естест- Естественно, оно может оказаться как неограниченным, так и таким, что Ы(М^Х) = 0. В силу изложенных условий для каждого Л G @,1) справедливы включения XX С X и М — XX D A - Л)М, откуда hit (M — XX) ф 0. Для всякого натурального числа п > 2 выберем число Лп = (п — 1)/п, а также множества Хп = Хп(Х П Вп@)) и Ап = М — Хп. Очевидны сю включения Ап D ^4n+i D М — X. Определим множества А = Q Ап. п=1 Тогда М — X С А. В свою очередь, если z G А, то z + Хп С М. Сле- Следовательно, для всякой точки х G X справедливо включение z + Xnx G G М при всех п > ||ж||, откуда следует, что z + х G М. Последнее
336 Гл. 4- Порождающие множества означает, что z Е М — X. Итак, мы доказали равенство А — М — Х. По условию леммы для всякого п > 2 найдется выпуклое замкнутое множество Вп такое, что Ап + Вп = М. При этом А + Вп С М и Вп С Bn+i для всех натуральных п > 2. ~~оо Определим множество 5 = |J 5П. Тогда А + В С М. Докажем обратное включение. Пусть т Е М; тогда найдутся an Е Лп и 6n E 5П такие, что т = = ап + Ьп. По лемме 1.13.4 справедливы соотношения Ь{Ап) = Ь{М) С С Ь(Вп), откуда, рассуждая аналогично теореме 1.13.2, получаем, что последовательности {ап} и {Ьп} с точностью до подпоследовательнос- подпоследовательности слабо сходятся к а и т — а. Так как {Ьп} С В, а множество В выпукло и замкнуто, то т — a G В. Так как для любого натурально- натурального N верно включение ап G An для всех п > N, то a G Лдг, т. е. a G Л. В итоге получили, что т G Л + В, т.е. Л + В = М. ? Приведем достаточное условие того, что некоторое множество является порождающим в случае, когда оно принадлежит конечно- конечномерному евклидову пространству Жп. Теорема 4.2.5. Пусть М — выпуклое замкнутое множество из W1, причем hit М ф 0. Пусть для каждого вектора р G dBi@) П П rib(M) выбраны произвольные наборы векторов {pi}^=1 С dBi@) П к П Ь(М) и чисел {Ai}fLl5 где к е 1,п, такие, что А^ > О, J^ ^iPi = г=1 = р и все опорные множества M(pi) ф 0. Пусть, кроме того, для произвольно выбранных точек х^. G M(pi) найдется точка х^ G G М(р) такая, что справедливо включение к f](M-x^)cM-x^. D.2.8) г=1 Тогда множество М является порождающим. Доказательство. Для доказательства теоремы в силу лем- леммы 4.2.2 достаточно проверить определение 4.1.1 лишь для таких мно- множеств А вида А = Р| (М + х) ф 0, у которых X является компактом Hint А ф0. хеХ Опорная функция множества А, являющегося пересечением мно- множеств, вычисляется по формуле s(p, A) = со~/(р), где f(p) = = inf (s(p,M) + (р, х)). В силу компактности множества X здесь inf можно заменить на min. Так как / можно переписать в виде f(p) = = s(p, M) — s(p, -X), причем опорная функция р ->• s(p, —X) компак- компакта —X непрерывна на Мп, то получаем, что функция / полунепре-
§4-2- Операции с порождающими множествами 337 рывна снизу и dom/ = b(M). В силу того, что hit А ф 0, то, взяв любую точку xq E int А, получаем справедливость условия непустой внутренности (условие A.14.5) теоремы 1.14.4) для функции /. Зафиксируем произвольный вектор р Е rib(A) П dBi@). В силу теоремы 1.14.4 (если заменить в ней векторы pi на векторы Pi/||Pi|| единичной длины, которые вновь обозначить через pi) получаем век- векторы pi Е Ь(М) П dBi@) и числа А^ > 0, где г Е 1, к, а к Е 1,п такие, что справедливы выражения к к s(p,A) = ^Ai/(pi), p = ^2\iPi. D.2.9) г=1 г=1 Зафиксируем некоторые точки а^ Е Argmin(pf,x), где г Е l,fc. Тогда для любой опорной точки к х? е А(р) cAcf](M + Xi) D.2.10) получаем неравенства (pi,x^) < s(pi, M) + (pi,Xi). Отсюда в силу выражения D.2.9) получаем к к г=1 г=1 D.2.11) Из формулы D.2.11) следует, что в ней неравенства нужно за- заменить на равенства, т.е. (pi,x^) = s{pi,M) + (pi,Xi) для всех г. Отсюда, учитывая включение х^ Е М + х^ получаем, что х? — xi E Е M(pi), т.е. M(pi) ф 0 У г. Обозначим х? — xi через х^. В резуль- к тате включение D.2.10) принимает вид А — х? С Q (М — ж^). По г=1 условию теоремы существует точка ж^ Е М(р) такая, что выполнено включение D.2.8). Отсюда и из последнего включения получаем вклю- включение А — х? С М — х^. Так как это включение имеет вид D.1.7) и получено для произвольного вектора р Е rib(A) Р\ dBi@), то в силу теоремы 4.1.3 и замечания 4.1.4 получаем, что для выбранного мно- множества А существует множество В такое, что А + В = М. ? Лемма 4.2.3. Пусть Mel2 есть произвольное выпуклое замк- замкнутое множество. Пусть выбраны различные векторы р, р\,ръ ? Е dBi@) П Ь(М) такие, что опорные множества М(р), M(pi), M(p2) непусты, и существуют числа Ai > 0, А2 > 0 такие, что р = 22 Е.С. Половинкин, М.В. Балашов
338 Гл. 4- Порождающие множества Тогда для произвольных точек х^ Е М(р) и х^. Е M(pi) спра- справедливо включение 2 Р| (М - xf.) С М - xf. D.2.12) i=l Доказательство. Если для некоторого номера г Е 1,2 верно равенство ж^ = ж^, то включение очевидно. Поэтому далее будем считать, что ж^ ф ж^ для всех г. Без ограничения общности будем считать (при необходимости сделав параллельный перенос множества М на вектор ж^), что х^ = = 0GM,^/0,^/0, s(p, M) = 0 и s(gr, М) > 0 V q Е М2. Отсюда, в частности, следует, что (р, х^) < 0, г Е 1,2. Следовательно, для любого q E dBi@) возможен по крайней мере один из трех случаев: 1) q принадлежит конической оболочке отрезка [pi,P2]; 2) q принадлежит конической оболочке одного из отрезков [pi, ж^] или [р2^х^]; 3) q принадлежит конической оболочке отрезка [ж^,ж^]. Рассмотрим каждый из этих случаев. Случай 1. Пусть q = ct\p\ + «2P2, где ai > 0. Пользуясь выпук- выпуклостью и положительной однородностью опорной функции, получаем s(q, ^ г=1 7 j = l ч г=1 jS[pj. М. — хп_. ) = (J Случай 2. Пусть q = «ipi +«2Ж^, где щ > 0. Так как 0 Е М и (р1,ж^) = s(pi,M) > 0, то угол между векторами р\ и ж^ не боль- больше тг/2. Отсюда в свою очередь следует, что угол между векторами q и ж^ также не превосходит тг/2. Следовательно, /Л \ s U, П (М - xf) ) < s^' M) - <«» жт ) < *fe M)- Случай 3. Пусть q — а\х^ + «2^^, где щ > 0. Так как векто- векторы х^ лежат в полуплоскости {ж | (р, ж) < 0}, то угол между ж^ и ж^ не больше тг. Следовательно, угол между д' и одним из векторов ж^, г Е 1,2, не превосходит тт/2. Пусть для определенности угол между ж^ и д' не более тг/2. Получаем 2 s U, р| (М - x^f) J < s(q, M) - (q, x%) < s(q, M). ^ г=1 '
§4-2- Операции с порождающими множествами 339 Суммируя полученные неравенства по всем q Е дВ\ @), получаем требуемое включение D.2.12). ? Из теоремы 4.2.5 и леммы 4.2.3 получаем следующую теорему. Теорема 4.2.6. Всякое непустое выпуклое замкнутое множест- множество из М2 является порождающим множеством. Лемма 4.2.4. Пусть L — замкнутое подпространство гильбер- гильбертова пространства 1-L и тг — ортогональный проектор пространст- пространства И на L. Тогда если L П BR(x) ф 0, то L n BR(x) = {yeL\\\y- тгж|| < л/R2 - ||ж-7пг||2}. D.2.13) Доказательство. Точка у Е ЬП BR(х) тогда и только тогда, когда у € L и \\у — х\\2 < R2. Это эквивалентно условиям \\у — 7ГЖ — (х — 7ГЖ)||2 < R2, (у — 7ГЖ, X — 7Гж) = 0, откуда получаем формулу D.2.13). ? Теорема 4.2.7. Всякий шар Br@) в гильбертовом пространст- пространстве И является порождающим множеством. Доказательство. Допустим противное, т.е., по теореме 4.1.2, существуют непустое множество А = f] Br(x), X С 7/, и векторр G хех G дВ\ @), для которых существует точка z e A\BR(xp -pR), где хр е А, (р,хр) = s(p,A). D.2.14) Определим множество L = afT{xp,z, xp — pR}. Покажем, что ли- линейное многообразие L является двумерным в %. Действительно, так как z G А и (р, z) < (р, хр) = s(p, Л), то z ? {хр + Хр \ X > 0}. Анало- Аналогично, z ? {хр — 2pR — Хр | Л > 0}, так как в противном случае полу- получаем неравенство \\хр — z\\ > 2R, которое противоречит включению z G А. Кроме того, z ? {хр - Хр | Л G [0, 2R]}, так как z 0 BR(xp - pR). Итак, точка z не лежит на прямой aff {xpj xp — pR}, поэтому линейное многооборазие L двумерно. Сдвигая множество А на вектор хр — Rp, будем считать, что хр — pR = 0, a L есть двумерное линейное подпространство, т.е. L = = lin {ei, ег}, где {ei, 62} — некоторый ортонормированный базис в L. Пусть тг — ортогональный проектор пространства И на L. Подпространство L с базисом {ei, е2} изоморфно R2. По лемме 4.2.4 BL = BR@) П L = {(а,6) G L | Й + Й < R2}, (а,6) G L| (& - тпфJ + F - тг2(х)J < г2}, где (тг1(ж),7Г2(ж)) = тгж, a rx = y^i^2 — ||ж — тгжЦ2. Отметим, что z G 22*
340 Гл. 4- Порождающие множества Так как хр е AL, то (р,хр) < s(p,AL) < s(p,A) = (р,хр), т.е. хр е G AL(p). Аналогично, хр G BL(p). Итак, в базисе {ei,e2J множество Bl изоморфно кругу в М2 ра- радиуса R, множество Al изоморфно пересечению кругов радиусов не более R, хр — опорная точка множеств Al и Bl в направлении р. По теоремам 4.2.6 и 4.1.3 это влечет включение Al С Bl. Но последнее противоречит тому, что z Е Al\Bl- Противоречие показывает, что шар Вц@) является порождающим множеством. ? Следствие 4.2.5. Если И — гильбертово пространство и Т: И —>¦ И — линейный гомеоморфизм, то образ шара ТВц@) является порождающим множеством в 1-L. Это следует из теорем 4.2.3 и 4.2.7. Отсюда, в частности, следует, что эллипсоиды в Жп — порождающие множества. Однако можно привести и более сложные примеры, чем в следст- следствии 4.2.5. Пример 4.2.7. Пусть И = h- Напомним, что элементами I2 яв- являются последовательности х = {xk}(^1, для которых ^х\ < +оо. Пусть оператор Т является компактным оператором, действую- действующим из Ь в /2 по правилу Определим множество М по формуле М = TBi@), т.е. M=<xel2 ^к2х\ < \\. D.2.15) ^ к=1 ' Легко видеть, что множество М выпукло и компактно в ^2- При этом на множестве М определен обратный оператор Т~х такой, что для любой точки х G М имеем Т~хх — {kxk}(j^1. По теоремам 4.2.3 и 4.2.7 множество D.2.15) является компактным порождающим мно- множеством в ^2- Следующая теорема позволяет существенно уменьшить проверку условий, стоящих в определении 1.4.1 порождающего множества. Теорема 4.2.8 (Р.Н. Карасев [52]). Пусть М СЕ — выпуклое замкнутое множество в рефлексивном банаховом пространстве Е такое, что hit M ф 0 и hit b(M) ф 0. Пусть для любой точки a G G Е такой, что hit (М П (М + а)) ф 0, существует выпуклое замк- замкнутое множество Ва такое, что (МП(М + а)) +Ва = М. D.2.16) Тогда множество М является порождающим.
§4-2- Операции с порождающими множествами 341 Доказательство. I. В этом пункте докажем по индукции ут- утверждение о том, что, если для множества М выполнены условия тео- теоремы 4.2.8, то для множества М выполнены условия определения 4.1.1 при произвольном множестве X, состоящем из конечного числа точек и таком, что hit (М — (—X)) ф 0. База индукции: по условию теоремы D.2.16) определение 4.1.1 выполнено для случая двухточечных множеств X, т.е. состоящих из двух произвольных точек а\ и а2, для которых п2 — о,\ Е int (M + Допустим, что натуральное число N > 3 таково, что для мно- множества М выполнены условия определения 4.1.1 для любых конечных множеств X, состоящих не более чем из N — 1 точек и таких, что int(M±(-X)) ф0. Докажем, что для множества М выполнены условия определе- определения 4.1.1 при произвольном конечном множестве X, состоящем ровно из N точек и таком, что int (М — (—X)) ф 0. Для этого опреде- определим множества А = f] (М + ж), В = М — А и С = А + В. Отме- хех тим, что множества Л, В и С непусты, выпуклы и замкнуты (см. теорему 1.13.2), причем справедливы включения В D (-X), С С М и равенства int b(M) = int b(A) = int Ь(С). Для доказательства шага индукции необходимо доказать равенство С — М. Допустим, что С ф М. Тогда в силу предложения 1.13.1 найдется вектор р G int b(M) такой, что s(p, M) > s(p,C), ив силу леммы 1.13.2 существует точка с G С такая, что (р, с) = s(p, С). В силу определения множества С найдется точка Ь G В такая, что с G А + Ь = П (М + х + Ь). При этом справедливо равенство (р, с) = хех = s(p, A + b). Так как Р| int (M + х + Ъ) = int A + Ъ ф 0, хех то выполнены условия предложения 1.16.4 о представлении нормаль- нормального конуса пересечения множеств в виде суммы нормальных конусов ко множествам, входящим в пересечение. Таким образом, вектор р, являющийся нормальным ко множеству А + Ъ в точке с, можно пред- представить в виде суммы векторов Р= $>(*), D.2.17) хех где р(х) е N(M + х + Ъ,с). Возможны два случая. Рассмотрим их.
342 Гл. 4- Порождающие множества Случай 1. Существует точка хо Е X такая, что в равенст- равенстве D.2.17) имеется всего одно слагаемое, т.е. р = р(хо). Тогда pG Е N(M + хо + 6, с), следовательно, (р, с) = s(p, М) + (р, хо) + (р, Ь). Так как при этом по определению вектора р справедливо строгое неравенство (р, с) = s{p,C) < s(p,M), то получаем неравенство (р,хо) + (р,Ь)<0. D.2.18) Поскольку — хо G -1сБ, то А — хо С А + В = С. Следовательно, с учетом неравенства D.2.18) получаем s(p, С) > s(p, А) - (р, хо) = s(p, А) + (р, 6) - ((р, аго> + (р, Ь» > Полученное противоречие доказывает, что справедливо ра- равенство С — М. Случай 2. Пусть рфр[х) \/х G X. Тогда в равенстве D.2.17) найдутся два вектора р{х\) и р(^2), не равные нулю, и такие, что их сумма p(xi) + р{х2) ф 0. Обозначим p(^i) + р{хъ) =pi, определим множества Х\, Ai, Л^ по формулам Ai = (М + Х!+Ъ)П(М + х2 + Ь), Л* = р| (М + ж + 6). Отметим, что А + Ь = А1ПА*1. D.2.19) По условию теоремы D.2.16) для множества А\ существует мно- множество В\ такое, что справедливо равенство А\ + В\ = М, откуда следует, что Уг>0, ЗЪ1? еВц s(pi,M) <s(pi,Ai) + (pi,bie)+?: D.2.20) и Ai+ big- С М. Так как по предложению 1.16.4 вектор р\ принадле- принадлежит конусу N(Ai,c), то справедливо равенство s(pi,Ai) = (pi,c>. D.2.21) Определим множество А2: А2 = (M-bie)nAJ. D.2.22) Отметим, что из включения А\ + Ь\? С М следует, что ii flij С А2, т.е. из формулы D.2.19) получаем включение А + ЪсА2. D.2.23)
§4-2- Операции с порождающими множествами 343 В силу D.2.17) возможна одна из ситуаций: а) р — р\ = 0; б) р — -Р! eN(A$,c), р-ргфО. С учетом формул D.2.20) и D.2.21) получаем: в случае а) s(p,A2) = s(PuA2) < s(puM-bl?) < < s(puA1) + г = (pi,c> + г = (p,c> + г; в случае б) s(p,A2) < s(puA2) + s(p-p!,A2) < s(p!,M -Ьи) + s(p-p1,A\) < < (рь с) + г + (p - pi, с) = (р, с) + г; т.е. всегда справедливо неравенство s(p, ^2) < (р, с) + г = s(p, С) + г. Выбрав в условии D.2.20) достаточно малое е > 0, получаем, что s(p,A2) < s(p,M), так как s(p,M) > s(p,C). Множество А2 есть пересечение (N — 1)-го сдвига множества М. По предположению индукции найдется выпуклое замкнутое множест- множество В2, для которого А2 + В2 = М и Уг > 0 ЭЪ2е е В2: s(p, А2) + (р, 62е) > s(p, М) + г. Так как s(p, М) > s{p,A2), то при достаточно малом е > 0 получаем, что (р, Ь2е) > 0. В силу формулы D.2.23) получаем А + Ъ + 62е С Л2 + Ъ2е С М, Ъ + Ъ2? е М^А = В, А + Ъ + Ъ2? сА + В = С. Следовательно, с + Ъ2е ? А + Ъ + Ъ2е С С, откуда Ф, С) >(р,с + Ь2?) = (р,с) + (р, 62е) = s(p, С) + (р, 62е) > s(p, С), противоречие. Следовательно, С = М, и п. I доказан. П. Пусть теперь X — произвольное бесконечное множество, удов- удовлетворяющее условию hit (M — {—X)) ф 0. Пусть так же, как в п. I, определены множества А — [\ (М + ж), В — М — А и С — А + В. хех Требуется доказать, что С — М. Допустим, что С ф М, тогда (как и в п. I) найдутся векторы р G G hit b(M) и с G С такие, что s(p,C) = (p,c) <s(p,M). По определению суммы множеств для с ? А -\- В существует век- вектор Ь G В такой, что с е А + b. При этом (р, с) = s(p, Л) + (р, 6).
344 Гл. 4- Порождающие множества Обозначим через Y произвольное конечное подмножество из X. Для любого такого Y определим множество A(Y) = Если справедливо неравенство s(p, A(Y)) < s(p, M) для некоторого конечного множества Y С X, то по п. I найдется выпуклое замкнутое множество В(Y) такое, что A(Y) + B(Y) = М и \/е > О, 3 bY e B(Y): s(p, M) < s(p, А(У)) + (р, Ьу> - г < < s(p,M) + (p,by> -г, что дает (р, 6у) > 0. При этом А + b + by С А(У) + by С М, следова- следовательно, c + 5yGi + 6 + 6yCC и s(p, С) > <Р,с + Ьу> = s(p, С) + (р, by) > s(p, С). Получили противоречие, т.е. доказали равенство С — М. Допустим теперь, что s(p,A(Y))>s(p,M) D.2.24) для всех конечных подмножеств Y С X. В силу того, что s(p,M) > > s(p, С), найдется е > 0, при котором ф,С) <s(p,M)-e. D.2.25) Определим множество Н по формуле Н = {х е Е\(р,х}> s(p, M) - г}. Всякое множество А(У), где подмножество Y С X — конечно, в си- силу D.2.24) имеет непустое пересечение с Я. В свою очередь в си- силу D.2.25) s(p, А + Ь) = (р, с) = s(p, С) < s(p, M) - е, т.е. А + b не пересекается с Н. По лемме 1.13.2 множества {(М + х + Ь) Г\ Н}хех ограничены. Кроме того, они выпуклы, замкнуты и, следовательно, в силу рефлек- рефлексивности пространства Е слабо компактны. Поскольку их пересечение пусто, т. е. Р| ((М + х + Ь) П Я) = (А + Ь) П Н = 0, то в силу их слабой компактности по известному критерию компакт- компактности (теореме 1.1.1) должно найтись конечное множество Y С X, для которого A{Y) П Н = 0. Но это противоречит D.2.24), т.е. С = М. III. Доказательство для общего случая, допускающего, что hit (М — (—X)) = 0, следует из леммы 4.2.2. ?
§4-2- Операции с порождающими множествами 345 В заключение данного параграфа в W1 укажем связь порождающих множеств с Р-множествами (см. § 1.8). Теорема 4.2.9 (М.В. Балашов [14]). Если выпуклый компакт Mcln является порождающим множеством, то он является Р -множеством. Доказательство. Применим индукцию по размерности. В М2 утверждение верно: на плоскости все выпуклые компакты являются как Р-множествами, так и порождающими множествами (см. лемму 1.8.3 и теорему 4.6.2). Это база индукции. Пусть утверждение доказано для пространств размерностей 2,... ..., п — 1. Покажем его справедливость в пространстве W1. Без огра- ограничения общности будем считать, что hit M ф 0. Зафиксируем вектор g G Мп, ||g|| = 1 и в соответствии с обозна- обозначениями § 1.8 определим ортогональное вектору q подпространство L(q) = {х G W1 | (x,q) = 0} и оператор Pb(q) ортогонального проекти- проектирования на L(q), получим представление произвольного вектора z G Gln в виде z = х + /j,q = (ж; /л), где х = Pl(q)Z, /л е Ж. Кроме того, определим функцию fM,q(x) по формуле 1м,д (х) = min {fi | (ж; ji) G M} V x G PL(q) M. По лемме 1.8.1 функция /м,<? является пн. сн. функцией. Для дока- доказательства теоремы достаточно доказать, что функция /м,д является пн. св. функцией. Допустим противное. Поскольку это выпуклая функция, то нару- нарушение пн. св. возможно лишь в граничных точках множества Р^^М относительно подпространства L(q). Без ограничения общности мож- можно считать, что такой точкой является начало координат. Тогда нарушение полу непрерывности сверху можно записать так: найдется последовательность {xk} С Рцд)М такая, что Xk —> 0 при k —> оо, где 0 — граничная точка множества Р^^М в подпространстве L(q), при этом последовательность fM,q(xk) ~^ 0 ПРИ & —> °° (этого также можно добиться сдвигом множества М по вектору q), но имеет место строгое неравенство /@) < 0. Можно считать, что справедливо включение Xk G int PL^M (где внутренность понимается относительно L(q)), так как выпуклая функ- функция /м,д непрерывна на отрезках, соединяющих любую точку z G G Рцд)М с точкой zo, принадлежащей внутренности (относитель- (относительно L(q)) множества PL^M (см. теорему 1.2.1). Из того, что точки Xk лежат во внутренности PL^M (относи- (относительно L(q)), следует, что функция /м,д субдифференцируема в этих
346 Гл. 4- Порождающие множества точках (см. § 1.16). Пусть выбраны pk G dfM,q(xk), и определим q^ = = (р*;-1). Отрезок [@; /м,д@)), @; 0)] лежит на границе множества М, иначе он бы не проектировался в граничную точку нуль проектором Pb(q)- Пусть qo — вектор, отделяющий отрезок [@; /м,д@)), @; 0)] от вы- выпуклого множества М. Легко видеть, что qo имеет вид qo = (ро;0). Определим векторы е^ по формуле е^ = (xk\ fM,q(xk))- Пусть Ат = М ^ ({0} U Ш {екЛ \ = М П (fl (M - е*)) . D.2.26) Отметим, что 0 G Ат, поэтому Аш ф 0 для всех т. Так как по условию теоремы М — порождающее множество, то для любого номера т найдется выпуклый компакт Вт такой, что Ат + Вт = М. D.2.27) Поскольку ek —У 0 при к —У оо, то сю {0}U в метрике Хаусдорфа. Отсюда следует, что int Аш ф 0 при доста- достаточно больших т, и из непрерывности геометрической разности при условии непустоты внутренности (см. теорему 2.8.3) получаем, что Аш -у М, Вт -у {0} при т -у оо в метрике Хаусдорфа. Легко видеть, что для любого т выполняется включение О G е дАт и {@,0) + А@, -1) | А > 0} П Аш = 0. D.2.28) Поясним формулу D.2.28). Так как при любом к > m, q\~ — «не- горизонтальный» (не параллельный L(q)) нормальный вектор ко мно- множеству М — ek в точке 0, то каждый из {qk}k>m есть нормальный вектор и ко множеству Аш в 0; отсюда и следует D.2.28). Пусть Но = {(ж; аО ? ^n I (Qo, (ж5 АО) = (Ро,%) =0} — опорная ги- гиперплоскость, отделяющая отрезок [@; /м,д@)), @; 0)] от М. Из D.2.27) имеем Am(qo) + Bm(q0) = М(д0), а так как 0 G Лт(до), то Bm(qo)cM(qo) Vm. D.2.29) В силу теоремы 4.2.2 множество M(qo) — тоже порождающее мно- множество.
§4-2- Операции с порождающими множествами 347 Перейдем к рассмотрению в Hq. Пусть Bm(qo) = {bmj}^=1 для всех т. Отметим, что ^ Am(q0) = M(q0) ± Bm(q0) = f| (M(q0) - bmj), D.2.30) -> {0}. D.2.31) Пусть Lo = L(q) П Ho и /0 : PL^M П Lo —)> M такая, что /о(яг) =min{/i|(x,/i) еМр|Я0}. Введем xmj- = Рь0Ът^. Так как 6mj- G Bm(q0) С M(g0) (см. D.2.29)), то xmj е Рь(я)М П Яо. Поэтому 6mj- = (xmj-;«mjM гДе amj > fo(xmj)- Рассмотрим два случая. Случай 1. Пусть выполнено условие Зш, Зс> 0 Vj: ||bmj- - (xmjjo(xmj))\\ = amj- - fo(xmj) > с. Тогда для этого т по формуле D.2.30) получаем [с@;-1), @;0)] С Am(q0) Cim, что противоречит D.2.28). Случай 2. Пусть выполнено условие Vm, Vc>0, 3j: ||bmj- - (xmj, /o(^mj-))|| < c. Выбрав с = 1/ш, определим jm, для которого ll&mJm - (XmjmJo(Xmjm))\\ < —. В силу включения bmjm G Bm(qo) и формулы D.2.31) получаем, что bmjm —>- 0, откуда xmjm —У 0 и /o(^mjm) —>¦ 0. В силу предположе- предположения индукции имеет место непрерывность /о на Р^^М П Lq, т.е. 0 = lim/0(xmjm) = /о@п_2). Но функция /о на множестве Р^^М П Lq есть сужение функции /м,д, откуда /o@n-2)=/M,g@n-l) <0. Противоречие. ? Упражнение 4.2.1. С помощью теоремы 4.1.1 показать, что множество вида М = {(ж, ?/, г) G Ж3 | г > -л/1-ж2 -у2, х2 +у2 < 1} не является порождающим. Указание. Проверить, что для множества А = М П (М + + A,0,2)) и точки m = A/л/2,1/л/2, 0) G М не существует точки Ь такой, что выполнено включение т G А + Ъ С М.
348 Гл. 4- Порождающие множества § 4.3. Простейшие свойства TVf-сильно выпуклых множеств Аналогично тому, как это делалось в гл. 3, для М-сильно выпук- выпуклых множеств опишем их основные свойства как в общем случае, так и в случае специальных порождающих множеств. Предложение 4.3.1. 1. Пусть А С Е является М\-сильно вы- выпуклым множеством, a Mi само является М2-силъно выпуклым множеством. Тогда А является М.2-сильно выпуклым множеством. 2. Пусть даны непустые множества А\, А2 С Е, причем мно- множество А\ является М-силъно выпуклым. Тогда множест- множество А1—А2, если оно непусто, является М-силъно выпуклым мно- множеством. 3. Пусть даны два порождающих множества М\ и М2 в рефлек- рефлексивном банаховом пространстве Е таких, что hit b(Mi) ф 0, % — = 1,2, и множество М = М\ + М2 замкнуто. Пусть даны два мно- множества А\ и Л2, являющиеся соответственно Mi- и М2-силъно выпуклыми. Тогда для множества А = А\ + А2 найдется выпуклое замкнутое множество В такое, что справедливо равенство А + + В = М. 4. Пусть множество М является порождающим в рефлексив- рефлексивном банаховом пространстве Е, причем intb(M)^0. Выпуклое замкнутое множество А С Е является М-силъно выпуклым тогда и только тогда, когда разность опорных функций s(p,M) — s(p,A) является собственной выпуклой пн.сн. функцией. 5. Пусть /: Е* —у Ж — собственная положительно однородная пн. сн. функция такая, что со/ > —оо, а множество М С Е есть порождающее множество такое, что intb(M)^0. Пусть раз- разность функций s(p,M) — f(p) оказалась собственной выпуклой и пн. сн. функцией, тогда и разность s(p,M) -cof(p) также является собственной выпуклой и пн. сн. функцией. 6. Пусть дана последовательность ограниченных порождающих множеств М^ из рефлексивного банахова пространства Е, для ко- которой существует выпуклое замкнутое ограниченное множест- множество М такое, что для всех fcGN справедливы равенства М\~ + + (М — Mk) = М. Пусть {Ak} С Е — последовательность соот- соответственно Mk-сильно выпуклых множеств, сходящаяся к замкну- замкнутому множеству А в метрике Хаусдорфа. Тогда существует вы- выпуклое замкнутое множество В такое, что справедливо равенство А + В = М.
§4-3- Простейшие свойства М-сильно выпуклых множеств 349 Доказательство. Пункты 1 и 2 легко следуют из определений, пункт 4 — из теоремы 4.1.1. Пункт 3. По условию существуют множества Bi такие, что А{ + -\-Bi — Mi, i Е 1,2. Складывая эти равенства, получаем равенство А + (В1+В2) = М. Пункт 5. Из условия и следствия 1.11.2 следует, что найдется непустое выпуклое замкнутое множество X из Е такое, что s(p, X) = = s(p,M) - f(p) для всех р е Е*. Так как со/ < / и со~/ > -оо, то со/ также является опорной функцией некоторого непустого мно- множества Y С Е, т.е. со/(р) = s(p,Y). Итак, s(p,Y) = со (s(p,M)-s(p,X)) \/реЕ*, и справедливо равенство Y = М — X, поэтому множество Y является М-сильно выпуклым множеством. Следовательно, функция s(p,M) -со/0) = s(p,M) -s(p,Y) (по пункту 4) является собственной выпуклой и полунепрерывной снизу. Пункт 6. Для любого номера k G N найдется выпуклое множест- множество Вк такое, что Ак + Вк = Мк. Отсюда Ак + Вк + (М - Мк) = М. Для всех к G N определим Ск = Вк + (М — Мк); получим Ак + Ск = = М для всех к. Из сходимости Ак к А в метрике Хаусдорфа следует сходимость последовательности множеств Ск к С в метрике Хаусдор- Хаусдорфа, откуда по теореме 1.13.2 получаем равенство А + С = М. ? Определение 4.3.1. Если в гильбертовом пространстве И в качестве порождающего множества выступает шар Дк@) радиуса R > 0, то всякое 5д@)-сильно выпуклое множество А= Г\ (Яд(°) + ж) = П ^(ж) ^ 0 будем называть сильно выпуклым множеством с радиусом R. (Ана- (Аналогично тому, как мы это делали в гл. 3 для W1.) Отметим простой критерий сильной выпуклости множества А. Теорема 4.3.1. Замкнутое выпуклое множество А С И сильно выпукло с радиусом R > 0 тогда и только тогда, когда пересечение любого двумерного аффинного множества со множеством А есть двумерное сильно выпуклое множество с радиусом R (т. е. есть пересечение кругов радиуса не больше R). Доказательство. Если множество А сильно выпукло с ра- радиусом R, то оно представимо как пересечение шаров радиуса R. Пусть L — двумерное аффинное множество. Так как по лемме 4.2.4
350 Гл. 4- Порождающие множества пересечение L с шаром радиуса R изометрически изоморфно кругу радиуса не более R, то пересечение An L изометрически изоморфно пересечению кругов радиуса не более R, следовательно, является двумерным сильно выпуклым множеством в L с радиусом R. Обратно, пусть пересечение множества А с любым двумерным аффинным многообразием сильно выпукло с радиусом R. Допустим, что множество А не является сильно выпуклым множеством. Тогда по теореме 4.1.2 существует вектор р Е dBi@) такой, что A (jL Br(xp — — pR), т.е. существует точка z Е A\Br(xp —pR). Выбрав множест- множество L = aff {хр,Хр —pR,z} и повторив доказательство теоремы 4.2.7, получаем, что множество Al = An L сильно выпукло с радиусом R в аффинном многообразии L, множество BL = LnBR(xp — pR) изо- изометрически изоморфно кругу радиуса R с центром в точке хр — pR и справедливо равенство (р,хр) = s(j?,Al) = s(p,Bl). По теореме 4.1.2 и в силу того, что круг в М2 является порождающим множеством, отсюда получаем, что Al С Bl, а это противоречит включению z Е е AL\BL. и Лемма 4.3.1. Пусть {Ak} — последовательность сильно выпук- выпуклых множеств из % с радиусами Rk > 0 и h(Ak,A) —> 0 при & —>- оо. Пусть R = liminf Rk < +оо. к—>-оо Тогда множество А сильно выпукло с радиусом R. Доказательство. По условию существуют множества В^ та- такие, что Ak + Bk = BRk @). Для любого векторар G dBi@) выполнено s(p,Ak) + s(p,Bk) = Rk\\p\\. Пусть {Rkm} — подпоследовательность последовательности {Rk} такая, что lim Rkm = R. Тогда для любого векторар G dBi@) полу- т—>-схэ чаем s(p, Akm) ->> s(p,A), откуда s(p,Bkm) -> (R\\p\\ - s(p,A)) при т —у оо, поэтому предельная функция положительно однородна, непрерывна и выпукла. Это значит, что она является опорной функ- функцией некоторого выпуклого замкнутого ограниченного множества B = {x&n\{p,x)<R\\p\\-s(p,A)}, причем s(p, A) + s(p, В) = R\\p\\ Vp G dBi(O), откуда следует равенст- равенство А + В = Br@), т.е. множество А является ^-сильно выпуклым. ? Теорема 4.3.2. Выпуклое замкнутое множество А С И явля- является сильно выпуклым с радиусом R тогда и только тогда, когда опорная функция множества А имеет удовлетворяющий условию Липшица градиент, задаваемый на единичной сфере из гильбертова пространства И, с константой Липшица R.
§4-3- Простейшие свойства М-сильно выпуклых множеств 351 Доказательство. Необходимость. Пусть множество Л — сильно выпуклое множество с радиусом R. Тогда оно является стро- строго выпуклым множеством. Поэтому, как показано в примере 1.16.2, субдифференциалом функции s(p,A) в каждой точке р = ро является опорное множество А(ро) = {хРо}, что по предложению 1.16.2 озна- означает, что опорная функция имеет производную Гато в каждой точ- точке ро Ф 0 •> равную хРо. Зафиксируем векторы р, q Е dBi@). По теоремам 4.1.3 и 4.2.7 справедливы включения хр G BR(xq - qR), xq G BR(xp - pR), откуда следуют неравенства | \Xp %q 11 ^Л^, Xq Xpj , | \Xp Xq 11 \ Складывая два последних неравенства, получаем, что 2\\хр — xq\\2 < < 2R(p — q, xp — xq), откуда следует неравенство \\хр — xq\\ < R х х IIP-^II- Достаточность. Допустим противное. Тогда по теореме 4.1.3 найдется вектор р G dBi@) такой, что A (jL Br(xp — pR), где {хр} = = А(р). Определим точку z по формуле z — хр — pR. Из существования градиента опорной функции на единичной сфере следует, что s(q. А) < +оо для всех q G <9I?i@), т.е. множество А ограничено. Поэтому значение Ro =inf {r > 0| А С Br(z)} конечно. Это значит, что А С z + RoBi@) и Rq > R. Существует последовательность точек {х^^г С А такая, что чис- числа Ri = \\xi — z\\ < Ro удовлетворяют условию lim Ri = Rq. Будем г—>-оо считать, что для всех номеров г имеем Х{ ф z. Пусть qi = (xi - z)/Ri и Пусть pi = л/Rq — Щ и опорные точки {xqi} = A{qi). Тогда pi —> О при г —У оо. Докажем включение Xqi ? Xi +Pi5i@). Поскольку Xqi G Br0 (z) П ii/J, то для этого достаточно доказать, что BRo(z) П tf+ С Xi + PiBi(O). Пусть x G BRo(z) П Я+. Тогда \\x - Xi\\2 = \\x — z — qiRi\\2 = \\x - z\\2 + R2 + 2Ri(z - x,qi).
352 Гл. 4- Порождающие множества Так как х G ii/J, то (z — ж, qi) < (z — ж^, ^) = — Д^. Отсюда Включение доказано. Из него следует, что для каждого номера г G N имеет место равенство xqi = z + gi^i + /№, где е^ G 5i@). Введем бесконечно малую последовательность ai = p2i+2pi(ehqi(Ri-R)+. Имеем - R)(qhqi-p) > >ai + (Щ - RJ + iJ2||gfi - p\\2 Mi G N. Найдется такое ii, что для всех г > i\ выполнено неравенст- неравенство Ri — R > (До — Д)/2. Поскольку последовательность а« бесконечно малая, то найдется такое гг, что для всех г > %2 справедливо нера- неравенство \a.i\ < (До - ДJ/8. Таким образом, для любого г > maxjii,^} имеем что противоречит условию Липшица градиента опорной функции множества А на единичной сфере с константой Д. ? Обозначим через Т* оператор в гильбертовом пространстве, сопря- сопряженный к оператору Т. Напомним, что он определяется равенством (Тх,у) = (х,Т*у) для всех ж, у из И. Теорема 4.3.3 (М.В.Балашов, Е.С. Половинкин [11]). Пусть Т: И —*% — линейный гомеоморфизм, а = sup ||Т*р|| и [5 = l|p||=i = inf ||T*p||. Тогда множество TBi@) является сильно выпуклым \\р\\=1 множеством с радиусом R = а2//3. Доказательство. Прежде всего отметим, что оператор Т* также является линейным гомеоморфизмом. При этом, в силу не- непрерывности операторов Т* и (Т*) число а < +оо, а число /3 > 0. Зафиксируем произвольный вектор р G дВ\ @). Тогда Непосредственной проверкой легко убедиться в том, что точка _ ТТ*р является опорной точкой множества ТВ\ @) в направлении вектора р, т.е. (р,хр) =s(p,TB1@)).
§4-4- М-сильно выпуклая оболочка множеств 353 Зафиксируем произвольный вектор q Е дВ\ @), причем q ф р. Пусть г = q — р. Тогда Пусть г\ =т/\\г\\. Тогда, выражая q = р + г и подставляя значение хр, получаем s(q, BR(xp-pR)) - s(?,TBi@)) = <p,xp) + (r,xp) - R(p + r, p) + T*p) + 2(p,TT*r) + (r,TT*r) > I ||r||2 (R - l^?)¦ D-3.1) Из определения чисел а и [3 получаем, что R > ||T*ri||2/||T*p||. Отсю- Отсюда и в силу неравенства D.3.1) получаем s{q,BR{xp-pR)) > s(g,TBi@)) V^ G дВ^О), откуда TBi@) С Br(xp — pR) для любого р G <9I?i@), т.е. для мно- множества TBi@) выполнен опорный принцип (теорема 4.1.3) для сильно выпуклых множеств с радиусом R. ? Теорема 4.3.4. Пусть функция /: % —у Ж пн. сн., сильно выпук- выпукла с константой сильной выпуклости к > 0 и удовлетворяет усло- условию Липшица на своем лебеговом множестве Lp(f) = {x G H | f(x) < < C} с константой Липшица L. Тогда множество Lp(f) является сильно выпуклым с констан- константой сильной выпуклости R = Ljк. Доказательство. Рассмотрим множество La(f), где а </3. По лемме 1.19.8 множество La(f) содержится в intL^(/), а по лем- лемме 1.19.7 и теореме 4.3.2 множество La(f) является сильно выпуклым множеством с радиусом R = L/к. По лемме 1.19.9 и по лемме 4.3.1 множество Lp(f) сильно выпуклое с тем же радиусом R. ? § 4.4. TVf-сильно выпуклая оболочка множеств Введем понятие М-сильно выпуклой оболочки множества, обоб- обобщающее классическое понятие выпуклой оболочки множества и поня- понятие i^-сильно выпуклой оболочки множества, рассмотренной в гл. 3. Определение 4.4.1. Пусть М С Е — выпуклое замкнутое мно- множество. Для всякого множества А такого, что М — А ф 0, М-сильно выпуклой оболочкой множества А назовем множество вида 23 Е.С. Половинкин, М.В. Балашов
354 Гл. 4- Порождающие множества Очевидно, что опорная функция М-сильно выпуклой оболочки множества А имеет вид s(p, strcoM^4) = со (s(p, M) — со (s{p,M) - s(p,A))). D.4.1) Замечание 4.4.1. В случае, когда множество М ограничено, операцию замыкания выпуклых оболочек в формуле D.4.1) можно опустить. Действительно, так как М — А ф 0, то со (s(p, M) — s(p,A)) > > —оо; функция s(p,M) - s(p,A) непрерывна на Е*. По теореме 1.7.1 функция со (s(p, M) — s(p,A)), которая в каждой точке не превосхо- превосходит s(p,M) — s(p,A), непрерывна, следовательно, и полунепрерывна снизу. Аналогично проводится обоснование снятия замыкания для второй в формуле D.4.1) выпуклой оболочки. Лемма 4.4.1. Пусть А, М С Е — произвольные выпуклые замк- замкнутые подмножества банахова пространства Е, причем М — Аф Ф 0. Тогда М — (М — А) есть наименьшее по включению множест- множество вида Р| (М + ж), содержащее А. хех Доказательство. Из включения А + (М — А) С М, которое верно всегда, получаем, что А С М — (М — А). Покажем теперь ми- минимальность по включению. Пусть А С f] (М + х). Тогда для любой точки х G X справед- хех ливо включение А С М + х. Отсюда —х G М — А для любой точ- точки х е X, поэтому М — (М — А) С М + х для любой точки х е X, т.е. М^(М^А)С f)(M + x).n хех Теорема 4.4.1. Пусть М — порождающее множество и А — такое множество из банахова пространства Е, что М — А ф 0. Тогда множество strcoM^ является наименьшим по включению М-сильно выпуклым множеством, содержащим множество А. При этом опорная функция этого множества задается формулами s(p, strcoM-4) = s(p,M) - со (s(p,M) -s(p,A)), p G b(M), D.4.2) s(p, strcoM^) = +oo, p?b(M). D.4.3) Доказательство. Первая часть теоремы следует из лем- леммы 4.4.1. В силу определения порождающего множества М имеем равенство strcoM^ + (М — А) — М. Отсюда следует формула для опорной функции
§4-4- М-сильно выпуклая оболочка множеств 355 Приведем некоторые свойства М-сильно выпуклой оболочки мно- множеств. Теорема 4.4.2. 1. Пусть Ах С А2 и М — А2 ф 0. Тогда StrCOM^-l С StrCOM^-2- 2. Пусть М — А ф 0. Тогда для любого а > 0 имеем strcoaMOiA = = a strcoM^4. 3. Пусть выпуклые замкнутые множества Mi и М2 —такие, что hit Ь(М2) Ф 0 и М\ + (М2 — Mi) = М2. Пусть А — такое мно- множество, что М\ — А ф 0. Тогда со А С strcoM2^ С strcoMi^- 4. Пусть Mi и М2 — порождающие множества, причем Mi + + М2 — замкнутое множество. Пусть Ai и А2 — такие мно- множества, что Mi — Ai ф 0, г Е 1,2. Тогда strcoMi+M2(^-i +^-2) С С strcoMi^-i + strcoM2^-2- Если А2 D дМ2, то в последнем включении имеет место равенство. 5. Пусть М — выпуклое замкнутое множество, А и В — такие множества, что М — А ф 0 и А — В ф 0. Тогда strcoM^ — В) С С strcoM^4 — В. Доказательство. Доказательства пунктов 1 и 2, очевидно, следуют из определения 4.4.1. Пункт 3. Первое включение следует из определения 4.4.1 и того, что М2 — А = М2 — со А и Ac strcoM2^- По определению 4.4.1 имеем strcoM2 А + М2 — А = М2, по условию теоремы М2 i A = (Mi + (М2 - Mi)) ^Ad(Mi^A) + (M2 - Mi). Поэтому strcoM2^ CM21 ((Mi i A) + (M2 i МО) С С ((Mi + (M2 - Mi)) i (M2 ^ MO) i (Mi i A) = strcoMl^. Пункт 4. По определению 4.4.1 имеем strcoMl+M2(Ai + А2) = (Mi + М2) - ((Mi + М2) ^ {Ai + A2)) С С (Mi + M2) i ((Mi ^ Ai) + (M2 ^ A2)) = = ((Mi + M2) ^ (Mi ^ Л1)) i (M2 i A2) = = (Mi i Л1 + strcoMl^i + M2) i (Mi i Л1) i (M2 i A2) = = (strcoMi^i + M2) — (M2 — A2) = strcc>Mi^4 Если A2 D дМ2, то coA2 = M2, и поэтому strcoMl+M2(^i + A2) = (Mi + M2) i (((Mi + M2) -i M2) ^ M2 + (Mi — (Mi — Ai)) = strcoM2^2 + 23*
356 Гл. 4- Порождающие множества Пункт 5. Воспользовавшись верным для любых множеств М, А, В соотношением М — (А — В) D М — А + В, получаем strcoM(-4 - В) С М ^ ((М -^ А) + В) = strcoM А^В.П Отметим, что, если множество А является М-сильно выпуклым, то М-сильно выпуклая оболочка любых двух точек из множества А, очевидно, содержится в А (это прямое следствие п. 1 теоремы 4.4.2). Ниже мы докажем обратное к этому утверждение. Теорема 4.4.3 (М.В.Балашов, Е.С. Половинкин). Пусть Е — рефлексивное банахово пространство, М С Е — порождающее множество. Пусть А С Е — такое замкнутое множество, что int Ь{А) ф 0, и для любых точек а, Ь Е А непуста М-сильно выпук- выпуклая оболочка strcoMJ^fr} и выполнено включение strcoMJ^fr} С А. Тогда множество А является М-сильно выпуклым. Доказательство. Зафиксируем функционал ро ? int Ь{ А). По лемме 1.13.2 опорное множество А(р0) = {х Е А | (ро,х) = s(po,A)} есть непустое выпуклое замкнутое и ограниченное множество, следо- следовательно, найдется точка по Е А такая, что (ро,ао) = s(po,A). D.4.4) Выберем любую точку а Е А, отличную от точки а®. В силу условия имеем включение strcoM{&ch cl} С Аи формулу D.4.4), откуда следует равенство s(pOj strcoM{ao,a}) = (ро,ао) < +оо. Поскольку в силу леммы 1.13.4 имеет место равенство int 6(strcoM{&ch a})=intfr(M), а функционал ро ? int b(A) С int 6(strcoM{&ch a})> T0 Ро ? int Ь(М). Итак, intb(A) С int Ь(М). В силу леммы 1.13.2 М(р0) — ограниченное множество, поэтому Ь(М(ро)) = Е*. Покажем теперь, что О+А С О+М. Пусть х Е О+Л, ао Е ^4(ро); тогда j г , л | л m / = {a0 + Аж | Л > 0} есть асимптотический луч множества А. Пусть точки {а^}^0 лежат на луче /, причем ||a^+i — а^|| = 1 и НтЦа^Ц = +оо. По опорному принципу для М-сильно выпуклых множеств (см. теорему 4.1.3) для каждого номера k E N найдется точка rrik E М(ро) такая, что [а0, ак] С strcoM{ao, ак} сМ-тк+а0СМ- М(р0) + а0. Отсюда следует включение / С М — М(ро) + &о- Поскольку по лемме 1.3.1 справедливо равенство Ь(М - М(р0) + а0) = Ь(М) П П Ь(-М(ро) + а0) = Ь(М), то ж Е О+М. Итак, 0+А С О+М. По лемме 1.13.5 отсюда получаем, что Ь(А)~ С Ь(М)~, а по свойст- свойству поляры Ь(М) С Ь(А), и так как внутренности этих конусов непус- непусты, то и int b(M) С int Ь(А).
§4-4- М-сильно выпуклая оболочка множеств 357 Таким образом, мы доказали равенство ЫЪ(А) =ЫЪ(М). D.4.5) Покажем, что на множестве hit b(M) функция f(p) = s(p,M) — — s(p, А) выпукла. Рассмотрим функционалы р\ и р2 из hit b(M). Вы- Выберем точки cti Е A(pi), i G 1, 2, и зафиксируем число Л Е @,1). Имеем /(Api + A - Л)р2) = s(XPl + A - А)р2, М) - s(Api + A - А)р2, А) < < s(Xpi + A - А)р2, М) - s(Api + A - А)р2, strcoM{tti,a2}). Так как множество М является порождающим множеством, то в неравенстве последняя функция выпукла и пн. сн. по р (см. п. 4 предложения 4.3.1). Поэтому оценку можно записать в виде /(Api + A - Х)р2) < < Ae(pi,M) + A - А)а(р2,М) - A(pi,oi> - A - A)(p2,a2) = = A(e(pi, M) - s(pi, Л)) + A - A)(e(p2, M) - «(рг, Л)). Итак, функция / выпукла на intfr(M), а в силу непрерывности функций s(p,M) и s(p,A) на hit b(M) (следствие 1.7.1) функция / и непрерывна на intfr(M). Это значит, что существует непустое выпуклое замкнутое множество В вида В = {х е Е\ {р,х) < f{p) Vp e intb(M)} такое, что s(p,B) = f(p) для всех р G intfr(M), причем int ЬE) С С ЫЪ(А). Поскольку отсюда следует равенство s(p, А) + s(p, В) = s(p, М) Мр е int Ь(М), то, применяя предложение 1.13.1, получаем, что А + В = М, при- причем в силу теоремы 1.13.2 в последнем равенстве замыкание можно убрать. ? Пример 4.4.1. В качестве контрпримера к теореме 4.4.3 рассмот- рассмотрим множество Мо = {х е М3 | тах>;| < 1} П {х е М3 | \хг + х2 + х3\ < 2} iGl,3 и две его грани D+ и D- вида .D± = Mq П {ж Е М3 | х\ + ж2 + жз = = =Ь2}. Очевидно, что множество Mq не является порождающим, так как, например, для множества А = Mq П (Мо + (—1,1,1)), являю- являющегося кубом, не существует множества В такого, что А + В = Mq. Для любой пары точек а, Ь G 12+ множество strcoM0{a5 ^} содержится в 1}+, так как оно является пересечением некоторого семейства сдви- сдвигов треугольников D+ и D_. Однако само множество D+ не может быть представлено в виде пересечения сдвигов множества Mq.
358 Гл. 4- Порождающие множества Пример 4.4.2. В случае неограниченного порождающего мно- множества М условие hit b(A) ф 0 в теореме 4.4.3 не может быть ос- ослаблено. Рассмотрим в евклидовой плоскости М2 множества А — = {(#i, х2) | х2 > 0} и М = {(xi, X2) | х\ > 0, Х2 > 0}. Легко видеть, что Ь(А) = {(ж1,ж2) \xi = 0, ж2 < 0)}, т.е. intb(A) = 0, и для любой пары точек а, 6 Е А определена оболочка strcoMJ^, Ь}, которая содер- содержится в Л, но множество А не является М-сильно выпуклым. Теорема 4.4.4 (М.В.Балашов, Е.С. Половинкин [11]). Пусть М С Е — ограниченное порождающее множество, А\ и А2 — мно- множества из банахова пространства Е. Пусть существуют чис- число го > 0 и точки a,i G Е такие, что Bro(ai) С М — А\, % G 1,2. Тогда справедлива оценка h(stYcoMAu strcoM^2) < diamM + r° h(AuA2). D.4.6) Доказательство. Обозначим diamM через d, а /г(Л1,Л2) че- через /г. 1. Пусть h < Го- По формуле представления расстояния по Ха- усдорфу через опорные функции (лемма 1.11.4) и по теореме 4.4.1 получаем = sup \s(p, M) — s(p, M — A\) — s(p, M) + + s{p, M^A2)\= h(M ^AUM^A2). D.4.7) Обозначим число (d — ro)h/ro через k, а множество M — Ai че- через Gi, i G ТД Зафиксируем номер г G 1, 2 и точку ж G dGi. Рассмотрим множест- множество со ({х} U Bro(ai)) С Gi. Выберем на отрезке [xi,x] точку yi так, чтобы \\х — yi\\/\\x — Xi\\ = h/ro. В силу подобия (гомотетии с центром в точке х и коэффициентом ro/h) приведенных ниже множеств, полу- получаем включение одного в другое: 2/i + ?h@) С со ({х} U Bro(xi)) cGi, откуда g(x,Gi — Bh@)) < \\х - yi\\ < (d-ro)h/ro = k. В итоге h(Gi, Gi i Bh@)) = sup q(x, Gi i Вл@)) < fc. D.4.8) Так как из включения А2 С Ai + Bh@) = А\ + Bh@) следует включение Gi —5^@) С G2, то, используя оценку D.4.8), получаем Gi С Gi ^ Вл @) + feBi @) С G2 + feBi @). Очевидно, что аналогичное включение будет справедливо при перестановке множеств А\ и А2. Отсюда получаем, что h(Gi, G2) < k. Это в силу D.4.7) влечет D.4.6).
§4-4- М-сильно выпуклая оболочка множеств 359 2. Пусть h > го. По теореме 4.4.2 для любого множества А та- такого, что М — А ф 0, справедливо включение со А С strcoMA т.е. h(coA, strcoM^.) < diam (strcoM^) < d. Отсюда для любого чис- числа t > 1 получаем Ccoii+ ?gLBi(O) С ш А2 + tdB^) + hB^O) С С strcoM-42 + (*d + ft)#i@) С Аналогичное включение будет также справедливо при переста- перестановке множеств А\ и А2, откуда при предельном переходе t —> 1 + О следует оценка D.4.6). ? Упражнение 4.4.1. Показать, что условие непустой внутрен- внутренности множеств М — А{ в теореме 4.4.4 существенны. Для этого в М2 определим порождающее множество М = Bi@) и множества А\ = = [(-1,0), A,0)], Л2(г) = [(-1 + г, 0),A-г, 0)], где ее @,1). Рас- Рассмотрев множества strcoi^i и strcoiA2(e), показать, что при г ->• +0 условие Липшица ft(strcoiAi, strcoi742(s)) < Lh{A\, A2(e)) не выполняется с любой константой L > 0. Рассмотрим свойства сильно выпуклой оболочки множеств в слу- случае, когда порождающее множество является шаром в гильбертовом пространстве И. Теорема 4.4.5 (М.В.Балашов, Половинкин [11]). Пусть чис- числа г0, iZi, R2, точка а0 е И и множество А С И таковы, что А С ВГо(ао), и R2 > Ri >го > 0. Тогда справедливо неравенство h(stvcoRlA, stvcoR2A) < U^yQ ~ l) (#2 - Д1). D.4.9) Доказательство. Из леммы 1.11.4 для выпуклых замкнутых ограниченных множеств strco^!^., strco^A и теоремы 4.4.1 имеем = sup (-(R2 - Ri) - s(p, BRl(Q) ± A) + s(p, BR2(Q) ± A)) = l|p||*=i = sup (s(p, BR2 @) i A) - s(p, BRl @) i A)) - (Д2 - Дх) = Пусть число h = R2 — Ri и множество G = 5д2 @) — Л. Так как по условию BRl(О)-Аф0 и поэтому G D (BRl@) — А) + #л@), то справедливо включение Bh(a,i)cG, где ai G 5дх @) — Л, т.е. ai G G — Bh@). Пусть Вв(а) есть шар максимального радиуса, содер- содержащийся во множестве G.
360 Гл. 4- Порождающие множества Поясним, почему такой шар существует. Поскольку множество G ограничено и intG ф 0, то найдется последовательность шаров BQi (ai) С G такая, что последовательность {qi} сходится к числу g = = sup{r >0\3x eG: Br(x) С G}. Так как ограниченное замкнутое множество G слабо компакт- компактно в пространстве И, то без ограничения общности последователь- последовательность точек {cti} сходится слабо к некоторой точке a Е G при г —у оо. Из включения BQi(ai) С G следует, что для любого вектора р Е Е дВ\ @) справедливо неравенство ft + <P,fli><s(p,G) ViGN, из которого, переходя в нем к пределу по г —у оо, получаем неравенство Q+(p,a)<s(PjG) ЧредВг(р), означающее включение В6(а) С G. Очевидно, что g > R2 — го > h. Так как G — Bh@) ф 0 и G — Bh@) С G, то справедлива фор- формула h(G, G ^ ВЛ@)) = sup ^B/, G ^ Bh@)). D.4.11) Повторяя доказательство теоремы 4.4.4 (п. 1), получаем для любой точки у G dG оценку Q(y,G±Bh@))<\\a-y\\±. D.4.12) Пусть Ro = л/Rj -(R2 -оJ. Покажем, что справедливо неравенство \\a-y\\<R0 VyedG. D.4.13) Допустим, что найдется точка у 6 dG, для которой \\a-y\\>Ro. Выберем на отрезке [а, у] точку х так, чтобы выполнялось равенство "° Ч 2 2||а-у||- Рассмотрим произвольный шар Вц2(Ь), Ъ Е 7/, содержащий мно- множество {у} U BQ(a). Такие шары существуют, так как {у} U В6(а) С Отметим, что \\а — b\\ < R2 — ?>, а \\Ь — у\\ < R2- Найдем длину отрезка [6, х]. Из треугольника уаЬ получаем ра- равенство (,-a,a-b)="a-^ + "a-6-"^-b. D.4.14)
§4-4- М-сильно выпуклая оболочка множеств 361 Поскольку по построению / jv \\а — х\\ , ,v (х - а, а - Ъ) = ^-—-^ (у-а,а-Ъ) Z 2\\а — \ то с учетом равенства D.4.14) получаем \\х- Ь\\2 = ||а-ж||2 + \\а- Ь\\2 - 2^—^|| (у -а,а-Ь) = 11°-2/11 -*Ьо ill Il2 / /I /I I г* \ 4~4||a-y||4JI'°-yl' • D4Л5) Покажем, что при \\а — у\\ > Ro величина \\х — Ь\\ удовлетворяет оценке \\х — Ь\\ < г < R2 — д, где число г > 0 вычисляется по формуле ^2 _ \-4^Bw)h~yr- DA16) Покажем, что г < R2 — д. Преобразовав формулу D.4.16), полу- получаем г = Д22 + (Д2 ~ Q? Rl - (Д2 - gJ r/? ^2 2 2 = ^ ~ ^^ ' причем неравенство строгое, так как \\а — у\\ > Ro- Неравенство \\х — Ь\\ < г, очевидно, следует из определения чис- числа г по формуле D.4.16) и из равенства D.4.15) с учетом нера- неравенств \\а - b\\ < R2 - д и \\Ь - у\\ < R2. Итак, для любого шара Вц2(Ь), содержащего множество {у} U U В6(а), имеет место неравенство \\х — Ь\\ < г, где г < R2 — д. Зафиксировав такой шар Вц2(Ь), рассмотрим продолжение от- отрезка [6, х] за точку х по прямой до пересечения с 8Br2 (b) в точ- точке х\. Легко видеть, что ||ж - х\\\ — \\Ь — xi\\ — \\Ь - х\\ > R2 - г > д,
362 Гл. 4- Порождающие множества поэтому шар BR2(b) содержит шар BR2-r(x). В силу произвольности шара Вц2{Ъ) получаем, что Вц2-Г(х) С stTCOR2{{y} U Вв(а)} С G = Br2@) i Л, что противоречит максимальности радиуса д шара, содержащегося во множестве G. Противоречие доказывает, что справедливо неравенст- неравенство D.4.13). Из формул D.4.11), D.4.12) и D.4.13) получаем оценку I2R2 _ г откуда в силу очевидного неравенства д > R2 — г о получаем h(G, G ^ Bh@)) < h JR2R^r -l = h W^2^0. D.4.17) Так как BRl @) - A = G - Bh@), то из формул D.4.11), D.4.10) и D.4.17) получаем утверждение теоремы. ? Лемма 4.4.2. Пусть даны множества А\ и А2 из^Н, такие, что Ai С Bro(a,i), где щ G И, г G 1, 2 и пусть R > r0 + h(Ai,A2). Тогда справедливо неравенство /Я + г0 Доказательство. Как показано в доказательстве теоре- теоремы 4.4.4, справедливо равенство /i(strcoflAb strco^^2) = h(BR@) - Au BR@) - А2). Пусть число h = h(A1,A2) и множества G{ — BR@) — Ai, i G 1,2. Выберем число to > 1 такое, что R > го + t$h. Рассмотрим следую- следующую цепочку включений для г G 1,2: Gi D BR@)^Bro(ai) = ВЯ-Го(-сц) D Вьн(-сц) Vt G (Mo], т.е. G±Bth(O)j:0. Как и в доказательстве теоремы 4.4.5, получаем, что Vte(l,t0]. D.4.18) Обозначим число W— -h через к. Из включения А\ С у К — го + Bth@) для всех t G A, to] следует ?д@) - Ai D (Вд@) ^ А2) - Bth(O).
§4-4- М-сильно выпуклая оболочка множеств 363 Но из оценки D.4.18) для любого числа е > 0 следует включение Объединяя это включение с предыдущим, получаем, что G2 cG1 + {tk + e)B1@) V?G A,*0], Vs > 0. Аналогичное включение остается справедливым при перестановке в нем множеств Gi, G2- Переходя к пределам при t —>- 1 + 0 и е —> +0, получаем утверждение леммы. ? Теорема 4.4.6 (М.В.Балашов, Е.С. Половинкин [11]). Пусть в гильбертовом пространстве И дано выпуклое замкнутое мно- множество А, содержащееся в некотором шаре Вг(а). Пусть R > г > > 0. Тогда справедлива оценка г2 h(A, street A) < —. R Доказательство. Очевидно включение А С strco#A Зафик- Зафиксируем произвольную граничную точку х Е d(stYCOnA) такую, что х ^ А. Обозначим через Ра оператор ортогонального проектирования на выпуклое замкнутое множество А. Пусть Ра% — У- Без ограничения общности полагаем, что у = 0. Пусть р = ж/||ж||, и множества Н~ = {z e H\(p,z) < 0}, Щ = = {z е U | (р, z) = 0}, Я+ = {z e U | (р, z) > 0}. Легко видеть, что А С Вг (а) Г\Н~. По лемме 4.2.4 множество Вг(а) П Н® есть шар в подпространстве Н® радиуса р = у/У2 — |(р, а)|2 с центром в точке 6 = = Рноа. Определим множество S = Вг(а) П 5дF - p\/R2 — р2). От- Отметим, что Щ ПВп(Ъ- py/R2 - р2) = Н°П Вг(а). Покажем, что справедливо включение А С S. Для этого достаточ- достаточно доказать, что Вг(а) П Н~ С S. Зафиксируем точку z G Br(a) П Н~. Последнее включение означает, что (p,z) < 0 и \\z — а\\ < г. Легко показать, что справедливо равенство а = Ъ±руг2 — р2. Подставляя значение а, получаем, что \\z — Ъ =Ьр у г2 — р2\\ < г. Возведя последнее неравенство в квадрат и учитывая, что (р, 6) = = 0, получим 11^гг - 6||2 ± 2 л/г*~^~р* (р, z) < р2. Так как (р, z) < 0, то мы лишь усилим последнее неравенство, заменив коэффициент ±л/г2 — р2 на больший л/R2 — р2. В итоге получим \\z — b\\2 + + 2 y/R2 — р2 (р, z) < p2j откуда следует z G BR(b — p \JR2 — p2), т. е. zeS. Итак, icS, следовательно, и strco^^ С S, так как S является Вд@)-сильно выпуклым множеством.
364 Гл. 4- Порождающие множества Покажем, что справедливо равенство S П Я+ = Я+ П BR(b - р ^R2-p2). D.4.19) Для доказательства равенства D.4.19) достаточно доказать вклю- включение Я+ П Вг{а) D Я+ П BR(b - р ^R2-p2). Для определенности считаем, что а — Ь — р \/В? — р2 (случай а = = Ъ + р у/R2 — р2 доказывается аналогично). Зафиксируем точку z из правой части последнего включения. Это значит, что (р, z) > О и \\z-b + Pv/R2 - р2\\ < Д, т.е. \\z-b\\2 + 2^/R2 - p2(p,z) < p2, от- от> 0, получаем \\z — b\\2 + 2 y^r2 — р2 (р, z) < р2, — р2) = Вг(а). Итак, равенство D.4.19) дока- докакуда, учитывая, т.е. z G ЯгF - р зано. Из включения strco^^. С S и формулы D.4.19) получаем, что д(х,А) = ||ж-0|| < > 0}. Покажем, что последний супремум, который обозначим через /, равен R2 — \JR? — р2. Взяв j получим Взяв произвольную точку q G dBi@) и соответствующую точку z = Ъ — р \JR? — р2 + qRj из условия (р, z) > 0 получаем, что (р, q) > > л/R2 — р2 JR. Отсюда в силу того, что g(z,Hp) = \{p,z)\, получаем \{p,z)\ = (p,z) = (р, q)R -VR2-P2<R- VR2 ~ P2- Итак, I = R — \/R2 — p2, откуда получаем, что / < r2 JR. Так как точ- точка х G c^strco^^L) выбрана произвольно, то г2 h(A, strco^^) = sup{^(x, A) \x Теорема 4.4.6 показывает, что любое выпуклое замкнутое мно- множество в гильбертовом пространстве можно приблизить с любой точ- точностью в метрике Хаусдорфа сильно выпуклым множеством, опорная функция которого гладкая на единичной сфере (см. теорему 4.3.2). Лемма 4.4.3. Пусть даны множества А\ и А2 из И такие, что Ai С Bro(ai), где a; G Ч, г G ТД и пусть R < r0 + h(Au A2).
§4-4- М-сильно выпуклая оболочка множеств 365 Тогда справедливо неравенство ft(strcoflAi, strco^) < ЩАиА2), D.4.20) где L = l + r20/(R(R-r0)). Доказательство. Обозначим h = h{A\, A2). Для любого чис- числа t > 1 справедливо включение Аг cA2+Bth@), откуда получаем соАх СсбА2 +Bth@), причем правое множество во включении выпукло и замкнуто (см. теорему 1.13.2). Следовательно, по теореме 4.4.6, имеем 2 strco^i Ccoii + ^ tB1@) С к СсоА2 Аналогичное включение справедливо при перестановке множеств А\ и А2. Отсюда получаем оценку 1 Переходя к пределу при t —> 1 + 0, получаем оценку D.4.20). ? Из полученных лемм 4.4.2 и 4.4.3 следует теорема. Теорема 4.4.7 (М.В.Балашов, Е.С. Половинкин [11]). Пусть числа го, R, 0 < го < R, и множества А\, А2 из гильбертова пространства % таковы, что ВГо@) — Ai ф 0, г G 1,2. Тогда справедлива оценка l, street A2) < L(R,ro)h(A1, A2), D.4.21) где константа Липшица L(R,ro) имеет вид L(R, ro) = max { ^jE^, 1 + ^^ } . D.4.22) Лемма 4.4.4. Пусть Е —равномерно выпуклое банахово прост- пространство с модулем выпуклости 5(е) (см. определение 2.7.1). Тогда для любых точек х, у G Е, 0 < \\х — у\\ < 2R, внутрен- внутренность множества strco?H(o){^2/} непуста, точнее, верно вклю- включение С strcoBRU)){x,y}. D.4.23)
366 Гл. 4- Порождающие множества Доказательство. Множество strco#H@){:r,?/}, очевидно, не- непусто, так как из условия \\х — у\\ < 2R следует, что существует шар Рассмотрим произвольную точку а такую, что Вц{а) D {х,у}. Из последнего включения следует, что {(х — a)/R, (у — a)/R} С Bi@). По определению модуля выпуклости 5(е) получаем включение откуда, умножая обе части включения на R > 0, получаем причем S(\\x — у\\/R) > 0 так как х ф у. Поскольку шар Вц(а) был произвольным, то по определению ^-сильно выпуклой оболочки двух точек {ж, у} получаем включение D.4.23). ? § 4.5. О телах постоянной ширины В данном параграфе мы рассмотрим широко известный класс выпуклых множеств, которые называются телами постоянной ши- ширины (см., например, [20, 65, 126]). Мы приведем явную формулу вычисления тел постоянной ширины. В банаховом пространстве Е шириной множества А С Е в нап- направлении р G Е*, \\p\\* = 1, называется величина sup{(p, х) | х е А} - inf {(р, х) | х е А} = s(p,A) + s(—p,A), равная расстоянию между опорными к А гиперплоскостями вида {х G еЕ\{р,х) = s{p, А)} к {хеЕ\ (-р, х) = s(-p, A)}. Диаметром множества А С Е называется величина diam A = = sup ||ж-2/||. Отметим некоторые свойства диаметра множества. Лемма 4.5.1. Пусть А С Е — ограниченное выпуклое замкнутое множество, и его диаметр diam А равен числу d. Тогда справедливы формула diam A— sup (s(p,A) + s(—p,A)) D.5.1) 11р11*=1 и включение А + (-А) cBd@). D.5.2)
§4-5- О телах постоянной ширины 367 Доказательство. Так как функция р —У (s(p, A) + s(— р, А)), очевидно, является опорной функцией выпуклого множества А + (—А), то из свойств опорной функции и из формулы D.5.1) для диаметра множества следует второе включение. Обозначим правую часть выражения D.5.1) через d\ и докажем равенство d — d\. В силу определения diam А существуют точки ап, Ъп G А такие, что d = lim \\an — Ьп\\. По следствию из теоремы п—>-оо Хана-Банаха (см. упр. 1.9.10) существуют линейные функцио- функционалы рп Е Е*, ||рп||* = 15 такие, что справедливы равенства (Рги а>п — Ьп) = \\ап — Ьп\\ для всех п. Поэтому \\а>п -Ьп\\ = (Рп, а>п -К) < s(pn,A) + s(pn,-A) < dx. Обратно, для любого р G Е*, \\p\\* = 1, и г > 0 существуют точ- точки ар, Ьр G А такие, что справедливы равенства s(p,A) < (р, а) + г, s(p, — А) < (р, — Ър) + г. Отсюда получаем, что для любого р G ^*, ||р||* = 1, справедлива оценка s(p, А) + s(p, -Л) < (р, ар - Ьр> + 2е < \\ар - Ър\\ + 2е < d + 2e для любого г > 0, откуда следует, что d\ < d. Этим в итоге и доказано равенство D.5.1). ? Определение 4.5.1. Замкнутое ограниченное выпуклое мно- множество А С Е называется телом постоянной ширины d > 0, если его ширина по всем направлениям р G Е*, \\p\\* = 1, постоянна и равна с?, т.е. справедливо равенство s(p,A) + s(-p,A)=d Vpe<9?*@). Из определения тела постоянной ширины и из леммы 4.5.1, оче- очевидно, следует Лемма 4.5.2. Ограниченное выпуклое замкнутое множество А из рефлексивного банахова пространства Е является телом пос- постоянной ширины d тогда и только тогда, когда справедливо ра- равенство A + (-A) = Bd@). D.5.3) Приведем некоторые из известных утверждений, описывающих характеристические свойства тел постоянной ширины из Жп. Для этого введем еще одно определение. Ограниченное множество из W1 называется полным множеством, когда невозможно присоединить к нему точку без того, чтобы его диаметр не увеличился.
368 Гл. 4- Порождающие множества Предложение 4.5.1. Выпуклый компакт из W1 является те- телом постоянной ширины тогда и только тогда, когда при т > 2 все ортогональные проекции этого компакта на т-мерное подпространство обладают постоянной шириной (см. [119]). Предложение 4.5.2. У тела постоянной ширины из W1 впи- вписанный и описанный шары концентричны и образуют минимальный шаровой слой (см. [20, 120, 144]). Предложение 4.5.3. Множество из W1 является телом пос- постоянной ширины тогда и только тогда, когда оно полно (для п = = 2, 3 см. [150], для любого п см. [139]). Предложение 4.5.4. Для каждого компакта диаметра d из конечномерного банахова пространства существует тело постоян- постоянной ширины d, содержащее данный компакт, если: 1) норма пространства евклидова (для п = 2 см. [160, 164], для любого п см. [146]); 2) для любых норм в двумерном пространстве (см. [31, 126]); 3) норма такова, что единичный шар является параллелотопом (см. [126]); 4) норма такова, что единичный шар является порождающим множеством (см. [52]). В свойстве 4) конечномерность пространства не обязательна. Предложение 4.5.5. Все плоские тела постоянной ширины d имеют длину 7rd (см. [114]). Тела постоянной ширины, принадлежащие евклидовой плоскос- плоскости М2, (со времени Эйлера; см. [131]), принято называть орбиформами. Простейший пример орбиформы, отличной от круга, дает так называемый треугольник Рело (см. [165]), т.е. правильный криволинейный треугольник, граница которого состоит из кру- говых дуг. Иными словами, треугольник Рело ширины 1 есть сильно выпуклая оболочка радиуса 1 равностороннего треугольника со стороной длины 1. Другим примером орбиформы является сильно выпуклая оболочка радиуса 1 выпуклого многоуголь- многоугольника с нечетным числом вершин, все диагонали которого равны 1 (рис. 19). В то время как в М2 существуют тела постоянной ширины, гра- граница которых состоит из круговых дуг, в М3 уже не существуют тела постоянной ширины (кроме шара), граница которых состоит из конечного числа кусков сфер. Например, если Р, Q, R, S — вершины
§4-5- О телах постоянной ширины 369 правильного тетраэдра в!3 с длиной ребра d, то пересечение четырех шаров радиуса d с центрами в вершинах тетраэдра уже не является телом постоянной ширины с?, так как расстояние между противопо- противоположными дугами, например, PQ и RS, больше, чем d. Простой пример тела постоянной ширины в М3 получается при вращении плоского тела постоянной ширины вокруг его оси сим- симметрии (см, например, [20, 171, 151]). Отметим, что в работе [128] приведены примеры норм конечномерных банаховых пространств, в которых утверждение предложения 4.5.4 не справедливо. Несмотря на активное исследование тел постоянной ширины в дифференциальной геометрии, теоретической механике и выпуклом анализе, общего алгоритма их построения даже в М2 и М3 до сих пор не существовало. Ниже мы приводим алгоритм построения тела постоянной ширины d, содержащего заданное множество диаметра d. Теорема 4.5.1 (Е.С. Половинкин [86]). Пусть Е — рефлексив- рефлексивное банахово пространство, в котором шар #i@) является порож- порождающим множеством. Для всякого ограниченного множества А С С Е, диаметр которого равен d > 0, множество Ао = 1((Д,@) ^ {-А)) + (Д<0) ^ Ш0) ^ А))) D.5.4) является телом постоянной ширины d, содержащим данное мно- множество А. Доказательство. Так как по лемме 4.5.1 справедливо вклю- включение D.5.2), то оно влечет включение А С Bd@) — (—А). Кроме того, из определения геометрической разности следует включение А + (Bd@) — А) С Bd@), откуда в свою очередь получаем включение А С Bd@) — (Bd@) - А). Поэтому множество Aq из D.5.4) как среднее арифметическое двух выпуклых множеств, содержащих множество А, также содержит множество А. Поскольку по условию шар Bd{0) в пространстве Е является порождающим множеством, а также справедливо равенство Bd{0) = = —Bd@), то для множества А справедливы соотношения (см. заме- замечание 4.1.3) (Д»@) i А) + (Д»@) i (Д»@) i A)) = Bd@), (Д,@) i (-A)) + (-(Д»@) - (Д,@) ^ А))) = Bd@). Для простоты обозначений определим отображение f(A) по фор- формуле f(A) = Bd{0) — (—А). Мы показали, что справедливы включе- 24 Е.С. Половинкин, М.В. Балашов
370 Гл. 4- Порождающие множества ния Л С /(Л) и Л с Р{А) = /(/(Л)) = Bd@) ± (-№@) i (-Л))) = = f?d@) — (i?d@) — А). Поэтому приведенные выше соотноше- соотношения D.5.5) принимают вид f(A) + (-f(A)) = Bd@) = -f(A) + f(A). Множество Aq из D.5.4) принимает вид Aq = - (f(A) + /2(Л)). По z доказанному выше А С Aq и Д, + (-Д>) = \ (НА) + f(A)) + \ ((-/(Л)) + (-f(A))) = = \ (f(A) + (-НА))) + \ (-f(A) + f(A)) = В силу леммы 4.5.2 последнее равенство означает, что множест- множество Ло имеет постоянную ширину d. ? Отметим следующие очевидные следствия. Следствие 4.5.1. Опорная функция тела Aq постоянной шири- ширины d из D.5.4) имеет вид s(p, Ао) = \ (d\\p\\ + со (d\\p\\ - s(-p, A)) - со (d\\p\\ - s(p, A))). Следствие 4.5.2. Если в рефлексивном банаховом пространст- пространстве, единичный шар которого является порождающим множеством, множество А диаметра d имеет центр симметрии в некоторой точке а, то телом постоянной ширины d, содержащим данное мно- множество является шар Bd/2(Q>). В самом деле, так как в силу симметрии множества справедливо равенство -Л = Л - 2а, то из формул D.5.4) и D.5.5) сразу следует утверждение следствия. Таким образом, по формуле D.5.4) нетривиальные тела постоян- постоянной ширины можно построить лишь для множеств, не являющихся центрально симметричными. Для произвольного ограниченного множества (диаметра d > 0), очевидно, могут существовать целые семейства различных тел посто- постоянной ширины а7, каждое из которых содержит заданное множество. Формула D.5.4) описывает одно из таких множеств. Приведем пример использования теоремы 4.5.1. В книге [29, с. 60] сформулирована проблема, поставленная Л. Дан- цером. Пусть выпуклое тело А С Мп является гладким. Сущест- Существует ли гладкое выпуклое тело постоянной ширины d = diam Л, содержащее заданное тело Л?
§4-5- О телах постоянной ширины 371 Ниже, опираясь на теорему 4.5.1, покажем, что данная проблема имеет положительное решение, причем не только для множеств из пространства Жп, но и для множеств из произвольного гильбертова пространства И. Для простоты изложения будем считать, что диа- диаметр заданного выпуклого тела A dH равен единице. Напомним, что выпуклое множество А СИ называется гладким, если в каждой его граничной точке существует единственная опорная гиперплоскость. Лемма 4.5.3. Пусть даны выпуклые замкнутые ограниченные множества А, В С И, причем множество А является гладким те- телом (т. е. имеет непустую внутренность). Тогда множество С = А + В также будет гладким телом. Доказательство. Так как множество А является выпуклым телом, то и множество С является выпуклым телом. Следовательно, по теореме отделимости в каждой граничной точке множества С существует по крайней мере одна опорная гиперплоскость. Допустим, найдется точка с Е дС такая, что в этой точке с существуют две опорные ко множеству С гиперплоскости с внешними единичными нормалями pi и р2- Поскольку справедливо равенство для опорных множеств А(р) + В(р) = С(р) при любом единичном векторе р Е И, то в силу включения с Е С(р\) П С(р2) существуют точки a Е A(pi) П П А(р2) и Ъ G B(pi) П В(р2), для которых справедливо равенство с = = а + Ъ. Таким образом, в точке a G А есть две опорные ко множест- множеству А гиперплоскости с внешними нормалями р\ и р25 чт0 противоре- противоречит гладкости множества А. ? Теорема 4.5.2 (М.В.Балашов). Пусть А С И — замкнутое вы- выпуклое гладкое множество {состоящее более чем из одной точки), и пусть 5i@) — Аф 0. Тогда множество strcoi^ является гладким телом. Доказательство. В силу леммы 4.4.1 множество B\{fS)— — (Bi @) — А) = strcoi А как непустое пересечение шаров в гильберто- гильбертовом пространстве является телом. Проведем доказательство его глад- гладкости от противного. Допустим, что найдутся точка х G д strcoiA\A и различные векторыpi,p2 ? И единичной длины такие, что (р^,ж) = = s(pk, strcoi^) при любых к G 1,2. В силу опорного принципа (см. теорему 4.1.3) получаем включение strcoi С Bi{x -pi) r\Bi{x -Р2). D.5.7) Определим точки zj~ = х — р^, fc E 1,2, и число г = = у 1 — ||^1 — ^2||2/4. Тогда с учетом включения D.5.7) получаем це- 24*
372 Гл. 4- Порождающие множества почку включений strcoU С ?i(*i) П B1(z2) С Br при этом справедливо включение х Е dBr((zi + 2:2)/2). Определим единичный векторр = Bж — (zi + 2^2)/112ж — {z\ + 22) ||- Тогда справед- справедливо включение Для простоты будем далее считать, что (z\ + Z2)/2 = 0. Отсюда, в частности, получаем, что ||ж|| = г. Так как х ^ Л, то в силу замкнутости множества Л существует число S е @, г) такое, что В$(х) П А = 0. Покажем, что справедливо включение Вг@)\В$(х) С Вг@) П Н~, где Я- = {z G ?/ | (p,z) < r - S2/Br)}. Зафиксируем точку z G Вг@)\В$(х), т.е. ||z|| < г и ||z — ж||2 > Й2. Из последних неравенств получаем 2(z,x) < \\x\\2 — 52 + \\z\\2 < 2г2 — — S2. Отсюда l $2 т.е. zG H~, что и требовалось доказать. Определим число 1 = 52/Bг) и шар вида V = Bi(x — (I + + Vi + i2-s2)P). Во-первых, докажем неравенство (р,х) > s(p, У), т.е. ж ^ У. Действительно, s(p, У) = (р, ж) - / - л/l + /2 - ?2 + 1, (р, х) — s(p, V) = I + v 1 + I2 — S2 — 1 > 0, так как 21 > S2 (ибо r G @,1)). Во-вторых, докажем включение Вг@) П Н~ С V. Для этого вы- выберем произвольную точку z Е Вг@) П Я^~, т.е. (р, z) < г — I и Ikll ^ г- Существуют вектор q и число A G 1 такие, что (p,q) = 0, а точка z представима в виде z = Ар + q. Легко видеть, что в силу выбора точки z из множества Вг @) П Н~ следует включение A G G [—г,г — I]. Далее, \\z\\2 = А2 + ||д||2 < г2, и, учитывая, что х = гр, получаем ||* + (/ + у/1 + I2 - S2 - т)р\\2 = = \\д + (А + / + Vl + P-S2 - г)р\\2 + \\q\\2 + + (А + / + \/l + l2- S2 - гJ < г2 - А2 + + (A + I + \/l + I2 - S2 - rJ = ip(X).
§4-5- О телах постоянной ширины 373 Так как функция у?(А) является линейной и возрастает, то макси- максимальное значение сртах функции ip на отрезке [—г, г — I] достигается при значении X = г — I. Отсюда в силу того, что 2rl = #2, получаем Ртах = Ц>(Г -I) = Г2 - (Г - IJ + + (г - / + / + л/l + I2 ~ S2 - гJ = Итак, справедливо включение z Е V. Таким образом, А С Bi{zi) П #iB2) С Бг@) С У, а х ? V. Но поскольку множество V является шаром радиуса 1, то по определе- определению i^-сильно выпуклой оболочки множества А (при радиусе R = 1) получаем, что х fi strcoiA Получили противоречие. Следовательно, х G А. Но поскольку справедливо включение х G А С Bi(zi) П #1B:2), то две гиперплоскости с нормалями р\ и р25 проходящие через точ- точку ж, являются опорными гиперплоскостями ко множеству А в одной точке х. Это противоречит гладкости множества А. ? Следствие 4.5.3. Пусть А СИ — выпуклое гладкое множест- множество диаметра d=l. Тогда множество Aq, вычисляемое по форму- формуле D.5.4) при d = 1 (и являющееся в силу теоремы 4.5.1 множеством постоянной ширины 1, содержащим заданное множество А) есть гладкое множество. Доказательство. В силу теоремы 4.5.2 множество strcoi^ является гладким телом, а по лемме 4.5.3 множество Aq как полу- полусумма гладкого тела strcoi^ и выпуклого множества также является гладким телом. ? Замечание 4.5.1. Легко показать, что всякое тело постоянной ширины в конечномерном банаховом пространстве обладает непустой внутренностью. Покажем, что это же свойство справедливо и для тел постоянной ширины в равномерно выпуклых банаховых пространствах, т.е., на- например, в гильбертовых пространствах. Лемма 4.5.4. Пусть Aq — тело постоянной ширины d > 0 в равномерно выпуклом банаховом пространстве Е. Тогда hit Aq ф 0. Доказательство. Полагаем, что d = 1. По определению тела постоянной ширины справедливо равенство Aq + (—Ао) = #i@), от- откуда Aq = Р| Bi(a), т.е. strco^^Ao — А)- Для любых точек ж, у G 0 G Ао, х ф у, по свойству М-сильно выпуклой оболочки справедливо включение sir со в г (о) {х, у} С Aq. Пусть 5(е) есть модуль выпуклости
374 Гл. 4- Порождающие множества пространства Е (см. определение 2.7.1). По лемме 4.4.4 справедливо включение что и доказывает лемму. ? Упражнение 4.5.1. Доказать предложения 4.5.1-4.5.5. Упражнение 4.5.2. Доказать, что всякое тело постоянной ши- ширины в конечномерном банаховом пространстве имеет непустую внут- внутренность. Упражнение 4.5.3. Доказать, что тело постоянной ширины из М3, получаемое вращением треугольника Рело вокруг его оси симметрии, не является порождающим множеством. § 4.6. Теорема Каратеодори для М-сильно выпуклых оболочек Докажем теорему, являющуюся обобщением теоремы Каратеодори и теоремы 3.4.1 в случае, когда вместо обычной выпуклой оболочки или ^-сильно выпуклой оболочки множества из W1 рассматривается М-сильно выпуклая оболочка множества, причем выбранное порож- порождающее множество М является строго выпуклым компактом из W1. Теорема 4.6.1 (М.В.Балашов, Е.С. Половинкин [11]). Пусть Mcln есть компактное строго выпуклое порождающее множест- множество. Пусть А — компактное подмножество из W1 такое, что Тогда любая точка множества strcoM^ принадлежит М-сильно выпуклой оболочке некоторого подмножества из Л, состоящего не более чем из п + 1 точек. Доказательство. 1. Предположим, что hit (M — А) ф 0. Зафиксируем произвольную точку и Е <9(strcoM^-)- Так как мно- множество М строго выпукло, то и множество strcoM^4 также является строго выпуклым, т.е. все его граничные точки являются выступаю- выступающими. По определению выступающей точки для точки и найдется век- вектор р G дВ\ @) такой, что (р, и) — s(p, strcoM^-) и {х е Жп | (р,х) = (р,и)} П strcoM-4 = {и}. D.6.1) По теореме 4.4.1 и по лемме 1.14.3 получаем s(p, strcoM-4) = s(p,M) -infl ^2(s(pi,M) -s(puA))
§4-6- Теорема Каратеодори для М-сильно выпуклых оболочек 375 а в силу непустоты внутренности множества М — А по теореме 1.14.4 инфимум при вычислении выпуклой оболочки разности опорных функ- функций s(p, M) — s(p, А) достигается. Поэтому найдется набор векто- п ров {piliLi ? ~^п такой, что ^2 Pi = р и s(p, strcoM-4) = s(p, M) - ^(s{pi, M) - s{pi, A)) i=i При pi ф 0 выберем xi G А так, чтобы (pi,Xi) = s(pi,A). При щ — О выберем Xi G А произвольно. Обозначим множество точек {xi}f=1 С А через S. Тогда по теореме 4.4.2 справедливо включение strcoM*? С С strcoMA откуда s(p, strcoM*S) < s(p, strcoM^)- С другой стороны, s(p, strcoMS) = s(p, M) - mil ^(sfe, M^ ~ s("qij S^ \ ^ qi = P [ - \ г=1 г=1 n > s(p, M) - ^{s{pi, M) - sfa, S)) = s(p, strcoM-4). Отсюда следует равенство s(p, strcoM*?) = s(p, strcoM^), которое вместе с равенством D.6.1) доказывает включение и G strcoM*5. Итак, любая точка границы множества strcoM^ содержится в М-сильно выпуклой оболочке подмножества из Л, содержащего не более чем п точек. Пусть х G strcoM^4\<9(strcoM^4). Найдутся точки и0 G <9(strcoM^4) vl wo ? А такие, что х G [uo,wo]- Как показано выше, для граничной точки щ найдется множество So, состоящее не более чем из п точек компакта А и такое, что точка щ принадлежит strcoM*So. -И-3 теоре- теоремы 4.4.2 получаем х е co{(strcoM*So) U {w0}} С strcoM{(strcoM*So) U {w0}} С С strcoMJSo U {w;o}}. 2. Пусть hit (M — А) = 0. Без ограничения общности будем счи- считать, что 0 е со А С М и О G int М. Пусть число Л G @,1). Тогда со (ХА) С со Л, откуда следует, что М — А С М — (ХА). С другой сто- стороны, поскольку геометрическая разность является полунепрерывным сверху многозначным отображением (см. теорему 2.8.2), то получаем, что h(M — (ХА), (М — А)) ->• 0 при А ->• 1 — 0. Отсюда, воспользовав- воспользовавшись формулой для опорной функции М-сильно выпуклой оболочки (см. теорему 4.4.1), получаем, что lim h(strcoM(XA), strcoM^) = 0. D.6.2) Л-^1-0 Кроме того, очевидно, что int (М± (ХА)) ф0 VAG(O,1). D.6.3)
376 Гл. 4- Порождающие множества Зафиксируем точку х Е strcoM^ такую, что х ? А, и выберем пос- последовательность чисел А^ Е @,1), сходящуюся при к —> оо к числу 1. В силу равенства D.6.2) найдется последовательность точек Xk G Е strcoM(Afe^), сходящаяся к точке х. В силу D.6.3) и п. 1 доказа- доказательства теоремы для каждого номера &El,oo найдутся точ- ,71+1 х ки {Щк}"=1 С (ХкА) такие, что хк G strcoM ( U iuik} ) • Без ограниче- v г=1 у ния общности можно считать, что найдутся точки щ G Л, г Е 1, п + 1, такие, что для каждого номера г последовательность Щк —>- u« при fc —>¦ оо. Как следует из теоремы 2.8.4, операция непустого пересечения фиксированного числа сдвигов одного и того же строго выпуклого множества непрерывна, откуда следует, что П+1 П+1 ч ± \J{uik}, M^ \J{ui}\ ^0 при к^оо. г=1 г=1 ^ Так как, кроме того, по определению сильно выпуклой оболочки для каждого номера к справедливо равенство strcoM( UWl + М± ( U^*>)) =М' ^ г=1 ^ ^ ^ г=1 ^ ^ то в итоге получаем, что п+1 п+1 h(stYCOM( U {Щк}), strcoM( Ui^i}) ^0 при к ->• оо. г=1 г=1 Последнее эквивалентно тому, что для любого е > 0 найдутся доста- достаточно большие к, при которых С strcoM ( [ J {Щк} ) + B?@) С С strcoM г=1 Отсюда следует, что ж G strcoM ( UlLi Замечание 4.6.1. Доказанная выше теорема верна и в случае произвольного компактного порождающего множества М (а не только строго выпуклого). Однако доказательство этого факта выходит за рамки данной книги. Упражнение 4.6.1. Выведите из теоремы 4.6.1 теорему Кара- теодори (теорему 1.14.1) для случая компактного множества.
§ 4-У- Обобщение теоремы Крейна-Милъмана 377 § 4.7. Обобщение теоремы Крейна—Мильмана Рассмотрим гильбертово пространство 1-L. Введем полезные обоз- обозначения: определим луч с вершиной в точке aG^n направлением q Е е дВ\ @) по формуле l(a,q) = {a + \q\\ > 0} и «верхнюю» (в смысле направления q) полусферу сферы дВг{а) дВг(а, q) = {х Е И | \\х — а\\ = г, (q, х — а) > 0}. Определение 4.7.1. Для множества Ad И точка х Е А назы- называется R-силъно крайней, если для любых двух точек у, z Е А, у ф х, z ф х, выполнено х ^ strco#{2/, z}. Будем обозначать множест- множество ^-сильно крайних точек А через ext Определение 4.7.2. Для множества А С И точка х G А назы- называется R-выступающей, если существует шар радиуса R с центром в точке z такой, что А С Br(z) и А П 8Br(z) = {x}. Будем обозначать множество ^-выступающих точек А через ехрд А. Отметим, что если strco^^. П extr rA ф 0, то extr#^4 С extr Л и со А С strco#A Лемма 4.7.1. Пусть А С И — замкнутое ограниченное мно- множество, и пусть х G ехрд А. Тогда х G extr дА Доказательство. Поскольку точка х является Д-выступаю- щей, то найдется шар Br(zo) такой, что А С BR(z0), A n dBR(z0) = {x}. D.7.1) Допустим, что х fi extr rA, т.е. существуют точки у, z G А такие, что у ф х, z ф х их G stYCOR{y, z}. В силу условия D.7.1) имеем у, z G G hit Br(zo). Определим вектор р = (zo — x)/\\zo — х\\ и рассмотрим шары Br(zo + ер) при различных е > 0. Выбирая достаточно малое число г > 0, легко добиться выполнения включений у, z G Br(zo + + ??>). Но для любого г > 0 выполнено х ? Br(zo +ep), откуда по определению ^-сильно выпуклой оболочки получаем выражение х ^ ^ strcoR{y,z}. ? Лемма 4.7.2. Пусть А С 1-L — замкнутое ограниченное мно- множество. Тогда существует всюду плотное множество В С 7/, для которого при любом выборе точки х G В задача sup \\x — у\\ имеет единственное решение. Указанная лемма есть частный случай теоремы 2.7.1. Докажем с помощью леммы 4.7.2 следующую лемму.
378 Гл. 4- Порождающие множества Лемма 4.7.3. Пусть А С И — замкнутое множество, причем А С Br(zo), где г < R. Тогда множество ехрд А непусто. Доказательство. Зафиксируем вектор q Е дВ\@). Определим число Xq по формуле Xq = sup{A > 0 | А С Br(z0 - Xq)}. D.7.2) Очевидно, что AgE[0,+oo). Пусть {А/.} — максимизирующая последовательность для вычисления точной верхней грани в определе- определении числа Xq. Тогда \\х — zo + XkQ\\ < г для \/ х Е Л, откуда в пределе получаем \\х — z$ + Xqq\\ <г \/х Е А, т.е. А С Br(zo — Xqq). Далее для упрощения доказательства полагаем, что zo — Xqq = 0. Зафиксируем число е G @, min{l, r/2, (R - г)/2, 1/л/Зг}). Тог- Тогда, очевидно, справедливы следующие соотношения D.7.3)-D.75): B?,(-eq)cBr@), D.7.3) 2е2 л/г2 + е2 + е3 - е6 < 1, D.7.4) r + e + e4<R. D.7.5) По лемме 4.7.2 найдется точка z? G B?4(—eq), для которой сущест- существует единственная точка aG А, удовлетворяющая равенству \\z? — а\\ = sup \\z? — х\\ = ге. D.7.6) А Таким образом, А С Bre(z?) и dBre(z?) П Л = {а}. Отметим, что 1Ы1<? + ?4. D.7.7) Лемма будет доказана, если мы покажем, что a G ехрд А П П dBre(z?,q). Зафиксируем произвольную точку ? G B?4(—eq). Легко увидеть, что в силу определения шара Вг@) (где 0 = zq — Xqq) найдутся после- последовательности точек a^Gin точек Xk G dBr@,q) такие, что ||а^|| —>¦ -^ г и ak = \\xk - CLk\\ ->• 0 при fc ->• оо. Отсюда т. е. в пределе получаем sup ||^ - х\\ > q(?, dBr(O, q)) > g(-eq, dBr(O, q)) -e4 = \/r2 + г2 - е\ хеА D.7.8) С другой стороны, sup||f-a;||< sup ||? - х\\ < г + е + г4. D.7.9) Из формул D.7.8) и D.7.9) получаем л/г2 + г2 - г4 < ге < г + е + г4. D.7.10)
§ 4-У- Обобщение теоремы Крейна-Милъмана 379 Для векторов —q и х ? И, х ф О, определим угол <р = <р(х) меж- между ними, точнее, определим cosip = (—q,x)/\\x\\. Определим функ- функцию д(г,е) по формуле , ч 2e3Vr2+e2 -е7 9(Г,е) = ~ ' В силу выбора числа е легко показать, что g(r,e) Е @,1). Поэтому определим угол у?о: ( (r,s) G @,тг/2), и острый конус X, симметричный относительно прямой lin[g], по формуле Отметим, что в силу выбора угла у?о Для всех углов у? Е [0, у?о] имеем cosy? > g(r, г), откуда в силу неравенства г2 + е2 — 2rscosy? < < г2 + г2 - 2г4Bл/г2+г2 - г4) < (л/г2 + е2 - 2е4J получаем нера- неравенство \/г2 +е2 -2гесо$(р + г4 < л/^+г2 - г4. D.7.11) Выбирая ^ = z?, по формуле D.7.8) получаем неравенство \\ze-a\\>e(ze,dBr(Q,q)). D.7.12) Допустим, что точка а, определенная в формуле D.7.6), удов- удовлетворяет включению a G К. Это значит, что у?(а) G [0,у?о], откуда в силу неравенства D.7.11), выбора числа е и того, что a G А С #г@), получаем оценки 11^ - all < ||a + еа\\ + г4 = л/||а||2 + е2 - 2I1-11—'-^ ¦ -4 < л/г2 + е2 -2recosp(a) + г4 < л/г2 + е2 - е4 < g(z?, dBr@, q)), D.7.13) где заключительное неравенство следует из неравенства D.7.8) при ? = z?. Получили, что формулы D.7.12), D.7.13) противоречат друг другу, следовательно, a G Вг@)\К. Докажем включение Br@)\K C{xen\(q,x + (e- e4)q) > 0} = Uq. D.7.14) Выберем точку х G Вг@)\К, причем ж/0. Тогда очевидно, что гж/||ж|| G Вг@)\К, поэтому без ограничения общности будем счи- считать, что ||ж|| = г. Соотношение х ? К возможно в двух случаях: а) х G сШг@,д), тогда включение х G Hq очевидно; б) х G дВг@, — q), причем угол между векторами х и — q боль- больше у?о- Тогда (l/r)(x,-q) < cos(/?0 = g(r,e), т.е. (x,-q) <rg(r,s) < (e-e4)(q,q),
380 Гл. 4- Порождающие множества последнее неравенство следует из неравенства D.7.4). Отсюда полу- получаем неравенство (q,x + q(s-s4))>0, т.е. х G Uq. Включение a Е дВГе(г?) вместе с включением D.7.14) и следую- следующим из неравенства D.7.7) включением Uq C{xen\(q,x-ze) >0} влечет включение a Е dBre(z?,q). В силу неравенств D.7.5) и D.7.10) получаем, что v? < R. Отсюда, определяя векторр = (а — z?)/\\a — z?\\, получаем, что А С Bre(z?) С Br(cl — Rp). В итоге получаем дВГе (z?) П dBR(a - Rp) = {a}, что по определению означает включение a G ехрд А П дВГг (z?, q). ? Теорема 4.7.1 (М.В.Балашов, Е.С. Половинкин [11]). Пусть А С И — замкнутое множество, причем А С Bp(zo), где р < R. Тогда справедливо включение А С Доказательство. Пусть В = strco^exp^A По лемме 4.7.3 это множество непусто. Допустим, что существует точка х G А\В. В силу определения ^-сильно выпуклой оболочки множества найдется шар Br(z) такой, что В С Br(z) и х (? Br(z). Очевидно, что z ф zq, так как в против- противном случае из соотношения х ^ Br(zo) D А следует соотношение х ^ ^ А, что неверно. Пусть точка у является проекцией точки х на шар Br(z), а чис- число 7 — \\х — у\\ > 0- Положим г = Г max {p, (R + 7 + y/{R - 7J - 72)/2}, если R > 27, ? ^ [ р, если Д < 2j. Отметим, что р < г < R. 1. Определим вектор q = (zo — z)/\\zo — z\\. Поскольку В С Br(z) П П Br(zo) и существует точка ж G Br(zo)\BR(z), то ||z — zo|| G (R — г, .R + г). Отсюда следует включение z + Rqe Br(z0). D.7.16) Положим а0 = 2;0 + ||2о - ж||д G 5r(z0). D.7.17) Тогда ||а0 - z\\ = \\z - zo\\ + \\х - zo\\ > \\х - z\\ > R, D.7.18)
§ 4-У- Обобщение теоремы Крейна-Милъмана 381 т.е. ао fi Br(z). Отметим, что проекция точки а® на шар Br(z) есть точка z + Rq. Так как \\х — у\\ = \\х — z\\ — R и ||ао — (z + qR)\\ = = ||ао — z\\ — R, то с учетом неравенства D.7.18) получаем \\а0 -(z + Rq)\\ = \\а0 - z\\ + \\х - у\\ - \\х - z\\ > \\х - у\\ = j. D.7.19) Из включений D.7.16), D.7.17) и оценки D.7.19) следует включение [z + Rq, z + (R + j)q] С [z + Rq, a0] С Br(z0). Легко видеть, что для любой точки z\ G l(z,q) такой, что А С С Br(zi), отрезок [z + Rq, z + (R + j)q] принадлежит Br{z\). 2. По лемме 4.7.3 для выбранного вектора q определим число Xq > О из D.7.2), т. е. такое, что А С Br(zo — \qq). Без ограничения общности считаем, что zq — Xqq = 0, откуда А С Вг@). В силу п. 1 доказательства для точки z\ — 0 найдется число S > 7, для которого [z + Rq, z + (R + S)q] С Вг@) и z + (Д + й)^ G дВг@). Из последнего включения, так как zo = Xqq и g G lin[zo — ^], следует что z + (Д + ?)g = rg', т. e. z = — (Д - r + S)q. Зафиксируем произвольную точку и G dBr@,q), т.е. ||u|| =r и (u,q) > 0. В силу выбора г по формуле D.7.15) получаем неравенство \\и - z\\2 - Д2 > 2г2 - 2г(Д + т) + 27^ + 72 > 0, откуда 3a>0 VuedBr@,q) g(u,BR(z)) > a. D.7.20) По лемме 4.7.3 для любого е > 0 найдется шар Br?(z?) (в обоз- обозначениях леммы 4.7.3) такой, что А С Bre(z?) и dBre(z?)P\A = = сШГе(^,g)ni = {а}. Выбирая малые е > 0, удовлетворяющие соотношениям D.7.3)-D.7.5), можно удовлетворить условиям r? G G [г-а/4, г + а/4], ||^|| < а/4 (см. D.7.7), D.7.10)). Зафиксируем такое г и соответствующие ему z?, v?. Получаем h(dBr@,q), dBre(ze,q)) < h(dBr@,q), dBre@,q)) + + h(dBre@,q), dBr,(ze,q)) <\r- re\ + \\ze\\ < a/4. Отсюда с учетом условия D.7.20) будем иметь dBre(ze,q)DBR(z) = 0. D.7.21) Из формулы D.7.21) следует, что а $. Br(z). Поскольку re < R (см. D.7.5) и D.7.10)), то, повторяя рассуждения леммы 4.7.3, полу- получаем, что a G ехрд А. Это противоречит включению ехрд А С В С с BR(z). a
382 Гл. 4- Порождающие множества Из леммы 4.7.1 следует, что для любого множества А С И вклю- включение х Е ехрд А влечет включение х Е extr^A Отсюда и из теоре- теоремы 4.7.1 получаем следующую теорему. Теорема 4.7.2 (М.В.Балашов, Е.С. Половинкин [11]). Пусть А С И — замкнутое множество, А С Bp(zo), где р < R. Тогда спра- справедливо включение А С strco#extr RA. § 4.8. Порождающие функции, га-сильно выпуклые функции Исследуем класс порождающих множеств, каждое их которых является надграфиком некоторой выпуклой полунепрерывной снизу функции. Легко показать, что, как и в общем случае, далеко не всякая выпуклая функция обладает надграфиком, удовлетворяющим определению порождающего множества. В случае, когда порождающее множество М является надграфи- надграфиком некоторой выпуклой функции, всякое М-сильно выпуклое мно- множество также является надграфиком некоторой выпуклой функции. Поэтому в этом параграфе естественно перейти от понятий порож- порождающих множеств и М-сильно выпуклых множеств к понятиям по- порождающих функций и m-сильно выпуклых функций. Напомним (см. определение 1.11.2 и предложение 1.11.1), что гео- геометрический смысл надграфика функции / 0 g — операции инфи- мальной конволюции функций / и g — есть сумма надграфиков epi / и epi g. При выполнении дополнительного условия int dom / П dom g ф 0 в силу теоремы 1.11.3 получаем равенство / 0 g — (/* + #*)*, т. е. функ- функция / 0 g является собственной полунепрерывной снизу выпуклой функцией. Из дополнительного условия также следует, что найдется число г > 0 такое, что Вг(ро) С dom/*. В силу того, что опорная функция к над графику / и сопряженная функция /* связаны соот- соотношением s((p, — 1), epi/) = /*(р), получаем, что р G dom/* тогда и только тогда, когда (р, — 1) G 6(epi/). Поэтому справедливо включе- включение cone {(р, — 1) | р G Вг(ро)} С 6(epi /). Так как при этом по условию (реи ~1) ? Kepi#)> т0 в итоге следует включение О е int{b(epi/) - b(epig)}. Из последнего включения и теоремы 1.13.2 следует, что множество epi / + epi g замкнуто. Замечание 4.8.1. Будем называть инфимальную конволюцию функций / и g также эпи-суммой двух функций.
§4-8- Порождающие функции, т-силъно выпуклые функции 383 Определение 4.8.1. Эпи-разностью функций / и g: E —У Ж при условии, что domg ф 0, назовем функцию вида (feg)(x)= sup {f(x + y)-g(y)}. D.8.1) yEdom g Из данного определения 4.8.1, очевидно, следует предложение. Предложение 4.8.1. Пусть даны две собственные функции /, д: Е —У Ж, причем / полунепрерывна снизу и выпукла. Функция / © д будет собственной функцией тогда и только тогда, когда мно- множество epi/ — epig непусто. При этом, если / 0 g является собст- собственной, то она выпукла и полунепрерывна снизу, и для ее надграфика справедлива формула ^ epig. D.8.2) Доказательство. Первая часть предложения очевидна. Так как h(x) = (/ 0 g)(x) есть верхняя грань полунепрерывных снизу функций, то h также является пн. сн. функцией. Докажем формулу D.8.2). Пусть (х,/л) Е epi h. Тогда по определе- определению функции h для любой точки у Е dom g выполнено неравенство ц > > f(x + у) — д(у)ч то (х, fi) + (у,д(у)) ? epi/. Так как точка у G domg произвольная, то и (x,fi) + epig С epi/, т.е. (x,fi) G epi/ — epig. Если же (x,fi) G epi/ — epi^, то для любого у G domg выполнено включение (х,/j) + (у,д(у)) е epif, откуда ц + д(у) > f(x + у), т.е. \i > h(x). ? Предложение 4.8.2. Пусть даны функции f,g,gi,g2- E —> Ж, причем д\ < д2- Тогда справедливы неравенства / Ф 9i < / Ф 92, fegi>feg2, 9ief<g2ef, D.8.3) (feg)(Bg>f, (f®g)eg<f. D.8.4) Доказательство предложения, очевидно, следует из определе- из определений 1.11.2 и 4.8.1. Определение 4.8.2. Собственную полунепрерывную снизу вы- выпуклую функцию т: Е —У Ж назовем порождающей функцией, если для любой собственной функции h: Е —У Ж такой, что h > m, найдет- найдется собственная выпуклая полунепрерывная снизу функция g: E —У Ж такая, что справедливо равенство (т © К) 0 д = т. D.8.5) Определение 4.8.3 Пусть т: Е —У Ж — некоторая порождаю- порождающая функция. Собственную функцию /: Е—У Ж назовем т-силъно выпуклой, если найдется такая собственная функция h, при которой справедливо равенство „ . А ч F F f = meh. D.8.6)
384 Гл. 4- Порождающие множества Введем следующее обобщение преобразования Юнга-Фенхеля данной собственной функции. Определение 4.8.4. Пусть т: Е —У Ж — порождающая функ- функция. Для всякой собственной функции /: Е —у Ж функцию /# : i? —>- —у Ж вида f*=mQf D.8.7) назовем т-силъно выпуклым преобразованием функции /. Вторым т-силъно выпуклым преобразованием функции / назовем функцию f##=mQ(mQf). D.8.8) Предложение 4.8.3. Для всякой собственной функции /: Е —> —у Ж справедливы неравенства /И + /#Ы >т{х + у), D.8.9) /## < /• D.8.10) Доказательство. Неравенство D.8.9) следует из определе- определений 4.8.4 и 4.8.1, т.е. f*(y) = sup {m(z + у) - f(z)} > т(х + у) - f(x). zEE Из формулы D.8.8) и неравенства D.8.9) получаем f**(x) = sup {m(x + у) - f*(y)} < f(x). U Е Предложение 4.8.4. Пусть /: Е —у Ж — т-силъно выпуклая функция. Тогда ее т-силъно выпуклое преобразование /^ также будет собственной полунепрерывной снизу выпуклой функцией. Доказательство. Выбирая точку хо G dom/, в силу нера- неравенства D.8.9) получаем f*{y) > т(х0 + у) — /(#о) > — оо My G Е. По определению 4.8.3 существует функция h такая, что / = т © h = hft. Поэтому в силу неравенства D.8.10) получаем, что /# = /i^ < /г, т.е. dom/^ D domh. Итак, dom/^ ф 0, т.е. функция /^ является собственной. В силу предложения 4.8.1 собственная функция /^ явля- является m-сильно выпуклой и полунепрерывной снизу. ? Теорема 4.8.1 (Е.С. Половинкин [83]). Собственная полунеп- полунепрерывная снизу выпуклая функция т: Е—>Ж будет порождающей тогда и только тогда, когда для всякой собственной функции f вида f = т 0 h справедливо равенство /0/#=ш. D.8.11) Если же функция т такова, что hit dom т* ф 0, то в равенст- равенстве D.8.11) инфимум достигается, т. е. для всякой точки xq E domm
§4-8- Порождающие функции, т-силъно выпуклые функции 385 найдется точка уо Е dom/, для которой выполняется равенство /Ы + f*(x0 - Уо) = т(х0), D.8.12) которое в свою очередь эквивалентно неравенству f(y)-f(yo)>rn(xo-yo + y)-rn(xo) VyeE. D.8.13) Доказательство. Прежде всего отметим, что в силу нера- неравенства D.8.9) всегда справедливо неравенство = inf {f(x -y) + f*(y)} > т{х). D.8.14) 1) Пусть для всякой собственной функции / вида / = т © h спра- справедливо равенство D.8.11). Тогда условия определения 4.8.2 выполне- выполнены, если в качестве g взять функцию /#, т.е. функция т является порождающей. 2) Пусть т есть порождающая функция. По определению 4.8.2 для всякой собственной функции / вида / = т © h найдется собст- собственная полунепрерывная снизу выпуклая функция д: Е —У Ж такая, что справедливо равенство D.8.5), т.е. т = / ф д. Отсюда в силу определения 1.11.2 получаем т{х) < f(x — у) + д(у) Уж, у G Е, т.е. 9(у) > ыр{т(г + у) - f(z)} = f#(y). Воспользовавшись предложением 4.8.2, получаем неравенство / ф ф /^ < / ф д = т. Объединяя полученное неравенство с неравенст- неравенством D.8.14), получаем равенство D.8.11). Как следует из теоремы 1.11.3, преобразование Юнга-Фенхеля ин- фимальной конволюции двух функций / и /# в силу равенства D.8.11) равно сумме преобразований, т.е. ш* =/* + (/#)*, domm* =dom/*ndom(/#)*. D.8.15) Отсюда и в силу того, что по условию теоремы внутренность множества domm* непуста, следует, что существует точка ро ? G dom/* П dom(/^)*, в которой функция /* непрерывна, а множест- множество int (epi/*) непусто. Зафиксируем произвольную точку хо G domm. Покажем, что непустое выпуклое множество А = {(р,а) €Е*хЖ\а< (хо,р) - (f*)*(p) - т(х0)} не пересекается со множеством int(epi/*). В самом деле, если бы су- существовала точка (pi,«i) G A Dint (epi/*), то были бы справедливы неравенства Г (Pi) < «1 < <aro,pi> - (/#)*Ы - m(oro), откуда получили бы т(х0) < <xo,pi> - Г (pi) - (/#)*Ы < (/* + (/#)*)*Ы = т(х0), 25 Е.С. Половинкин, М.В. Балашов
386 Гл. 4- Порождающие множества т. е. получили противоречие. По теореме отделимости существует ненулевой линейный функционал (у,/3) G.ExI, разделяющий мно- множества Л и int(epi/*), т.е. sup {/За + (у,р) | (р,а) G epi/*} < inf {/За + (у,р) | (р,а) G Л}. D.8.16) Очевидно, что /3 < 0. Допустим, что /3 = 0. Тогда по условию у ф 0 и из неравенства D.8.16) получаем sup{B/,p)|p? dom/*} < inf {(y,p)\pE dom(/#)*}. Это в силу теоремы отделимости означает, что dom/* П dom(/#)* = = 0, т.е. неверно в силу равенства D.8.15). Итак, число /3 < 0. Пусть у0 = \/3\~1у; тогда (уо,—1) также разделяет множества А и hit (epi/*). Отсюда следует, что f(y0) = sup {(yo,p) ~/*(р)} = sup {(г/о,Р) -а|(р,а) G epi/*} < < inf {(yo,p) -a\(p,a)eA} = Ы{(уо,р) - (xo,p) + (f*)*(p)} + что и влечет равенство D.8.12). В свою очередь из равенства D.8.12) и определения 4.8.4 следует неравенство D.8.13). ? Замечание 4.8.2. Достаточное условие теоремы 4.8.1 о непусто- непустоте внутренности domm* можно ослабить. В самом деле, это условие в силу второго равенства в D.8.15) необходимо для замкнутости суммы множеств epi / + epi /#, что влечет равенство epi / + epi /# = epi m и равенство D.8.12). Замкнутость множества epi/ + epi/# возможна и при более слабых условиях. Так, например, в случае, когда Е = W1, для выполнения равенства D.8.12) достаточно потребовать непустоты множества ri domm*. Понятие ттг-сильно выпуклой функции можно обобщить следую- следующим образом. Определение 4.8.5. Собственная функция /: Е —> Ж называет- называется локально т-силъно выпуклой функцией на множестве D, если существует m-сильно выпуклая функция /: Е —у Ж такая, что f(x) = = f(x) VxeD. Обозначим через f\o сужение функции / следующего вида: I\d(x) = f(x) при х е D и /\d(x) = +оо при х 0 D.
§4-8- Порождающие функции, т-силъно выпуклые функции 387 Теорема 4.8.2 (Е.С. Половинкин [83]). Пусть f:E^R — собственная полунепрерывная снизу функция. Функция f будет ло- локально т-силъно выпуклой на замкнутом выпуклом множестве D тогда и только тогда, когда справедливо равенство (f\D)**(x)=f(x) VxeD. D.8.17) Доказательство. 1) Из предложения 4.8.1 следует, что функ- функция (/Id)^^ является ттг-сильно выпуклой полунепрерывной снизу функцией, откуда в силу равенства D.8.17) функция / является ло- локально ттг-сильно выпуклой на множестве D. 2) Пусть верно обратное, т. е. пусть полунепрерывная снизу функ- функция / локально 771-сильно выпукла на множестве D, и пусть в силу определения 4.8.5 выбрана 771-сильно выпуклая функция /. Докажем равенство D.8.17). В силу предложения 4.8.3 достаточно доказать, что (/|г>)^(ж) > f(x) Ух Е D. По определению 4.8.3 для тп-сильно выпуклой функции / существует собственная функция h такая, что f = 771 0 /i, т.е. J\d > / = bift. В силу предложений 4.8.2 и 4.8.3 (неравенств D.8.3) и D.8.10)) получаем, что (/|г>)^ < /^ < /i, откуда в силу неравенств D.8.3) получаем неравенство (/l^)^^ > m © /^ > > т Э h = /. ? Следствие 4.8.1. Пусть /: Е—>Ж — собственная функция. Функция f будет т-силъно выпуклой полунепрерывной снизу тогда и только тогда, когда справедливо равенство !** = /¦ D.8.18) Теорема 4.8.2 (Е.С. Половинкин [83]). Пусть порождающая функция 771 такова, что domm* = Е*. Пусть /: Е —> Ж — собст- собственная полунепрерывная снизу функция. 1) Если функция f является т-силъно выпуклой, то для всякой точки уо G dom(df) найдется точка хо G domm такая, что спра- справедливо неравенство D.8.13). 2) Если для всякой точки уо G dom(<9/) найдется точка хо G G domm такая, что справедливо неравенство D.8.13), то функ- функция f является локально т-силъно выпуклой на множестве dom/. Доказательство. 1) Пусть / есть m-сильно выпуклая функ- функция. По теореме 4.8.1 из равенства D.8.11) по свойству инфимальной конволюции следуют равенства D.8.15), из которых в свою очередь по теореме Моро-Рокафеллара следует равенство для субдифферен- субдифференциалов дГ(р) + d(f*)*(p) = дт*(р). D.8.19) 25*
388 Гл. 4- Порождающие множества Зафиксируем произвольную точку уо Е dom(<9/). Тогда существу- существует точка ро ? dom/* такая, что ро ? df(yo). Последнее включение эквивалентно включению ?/о ? <Э/*(Ро)- Из условий теоремы следу- следует, что для любого р Е Е* множество дт*(р) непусто, т.е. в си- силу D.8.19) непусто и множество <Э(/^)*(р). Поэтому, выбирая произ- произвольную точку zo Е <Э(/^)*(роM в силу D.8.19) получаем включение 2/о + ^о ^ дт*(ро). Таким образом, мы получили, что ро ? df(yo) П П df^(zo) П дт(уо + zo). В силу теоремы 1.16.4 последнее включение влечет равенства /Ы + /*Ы = <2/о,Ро>, /#Ы + (/#)*Ы = (zo,Po), -т(уо + г0) - гп*(р0) = -B/о + ^о,Ро), складывая которые, получаем /W + /#Ы - т(у0 + z0) + /*(ро) + (/#)*(ро) - т*(ро) = 0. Сокращая последние три слагаемых, которые в силу равенства D.8.15) в сумме дают нуль, получаем равенство /Ы + /#Ы - т(у0 + *о) = 0. В полученном равенстве обозначим через хо сумму у о + zo, восполь- воспользуемся определением 4.8.4 и в итоге получим т(х0) - f(y0) = /#(ж0 - 2/о) > ^(^о — 2/0 + 2/) — /Ы v?/ G Е, т.е. получили неравенство D.8.13). 2) Допустим обратное, т. е. пусть для любой точки уо G dom(<9/) найдется точка xq E dom?n такая, что выполнено неравенст- неравенство D.8.13). Это означает, что т(х0) - /B/о) > sup {т(х0 — 2/0+2/) — /B/)} = /#(жо - 2/о), Е т.е. ш(ж0) - /B/о) = /#(^о - 2/о)• Поэтому /Ы = ш(ж0) - /#(ж0 - 2/о) < sup {771B;) - /#(z - 2/0)} = /##Ы- В силу предложения 4.8.3, в котором доказано обратное неравенство, мы доказали равенство 1Ы = 1**Ы Vjft, e dom@/). D.8.20) Так как по теореме 2.10.2 множество dom(<9/) плотно во множес- множестве dom/, а функция / полунепрерывна снизу, то равенство D.8.20) справедливо на множестве dom/, откуда по теореме 4.8.2 следует, что функция / является локально m-сильно выпуклой функцией на множестве dom/. ? Замечание 4.8.3. У твержение теоремы 4.8.3 и неравенст- неравенство D.8.13) означают, что для всякой точки xq E dom(<9/) найдется
§4-8- Порождающие функции, т-силъно выпуклые функции 389 точка zo Е dom/# такая, что справедливо равенство /(so) + /#Ы = т(х0 + z0). D.8.21) Указанное равенство похоже на равенство, связывающее значения выпуклой функции, ее преобразования Фенхеля-Моро и субдиффе- субдифференциал. Поэтому по аналогии введем понятие т-субдифференцируе- мости для m-сильно выпуклой функции /. Скажем, что m-сильно выпуклая функция / является т-субдиф- ференцируемой в точке хо Е dom/, если существует точка zq, удов- удовлетворяющая равенству D.8.21). Совокупность таких точек zo назовем т-су б дифференциалом dmf(xo) функции /. Напомним (см. определение 1.19.2), что функция / называется сильно выпуклой функцией с константой к > 0, если функция ви- вида g(x) = f(x) ||ЖЦ2 является собственной выпуклой функцией. Приведем естественноее обобщение этого понятия в случае, когда вместо числового параметра к стоит линейный оператор. Для всякого линейного оператора Т: 1-L —*% определим квадра- квадратичную форму . mT{x) = i (Tx, х) МхеП. D.8.22) Определение 4.8.6. Пусть Т: И —>¦ И — нетривиальный са- самосопряженный линейный оператор, причем (Тх,х)>0 \/x Е И. Функция /: И —>Ж называется сильно выпуклой с данным (опера- (операторным) параметром Т, если функция вида g(x) = f(x) — тт(х) является собственной полунепрерывной снизу выпуклой функцией, причем, если д{х\) = д(х2), то х\ — Х2 G КегТ. Лемма 4.8.1. Пусть Т:И^И — нетривиальный самосопря- самосопряженный линейный оператор в гильбертовом пространстве И, при- причем такой, что квадратичная форма тт D.8.22) неотрицательно определена. Функция f будет сильно выпуклой с параметром Т (по опреде- определению 4.8.6) тогда и только тогда, когда найдется собственная выпуклая функция h такая, что f = тт Э h. Доказательство. 1) Пусть функция / удовлетворяет опреде- определению 4.8.6. Так как для любой точки х G И справедливо представ- представление х = х° + х^, где х° G KerT, x1- G Im Т. Поэтому из определе- определения 4.8.6 следует, что д(х) = д(х^), domg* С ImT и д(х) = д**{х) = = sup {(ж, Ту) — д*(Ту)}. Определим функцию h(y) по формуле h(y) = yen = тт(у) + д*(Ту). В силу сказанного, проделав простые выкладки, убеждаемся, что / = тт Э h.
390 Гл. 4- Порождающие множества 2) Пусть собственная функция / имеет вид / = тт © h. В соот- соответствии с определением 4.8.1, вычисляя /(жо), гДе хо ? dom/, для всякого у Е 7/ получаем неравенство /i(?/) — тпт(у) > (Тхо,у) — — f(xo) — гпт(хо). Отсюда следует, что функция (h — тт)* будет собственной выпуклой функцией. Обозначим g = (h — тт)* и д{х) = = д(Тх). Тогда простой проверкой из равенства / = тт © h по определению 4.8.1 получаем равенство / = тт + д, причем д(х) = = д(х±).п Теорема 4.8.4 (Е.С. Половинкин [83]). Пусть в гильбертовом пространстве И даны самосопряженный линейный оператор Т: И —> И такой, что соответствующая ему квадратичная форма тт (см. D.8.22)) положительно определена, и собственная полунепре- полунепрерывная снизу выпуклая функция д: И —> Ж. Тогда для всякой точки х Е И существует единственное реше- решение у = ух включения х е yJrT~1dg{y). D.8.23) Доказательство. Определим функцию h = g 0 тт- Так как dommx = 7/, а д(у), как и всякая собственная полунепрерывная сни- снизу выпуклая функция, ограничена снизу некоторой аффинной функ- функцией (р, у) + а, где р G 1~L, a G Ж, то для любой точки х G 1~L получаем оценку д(у) + тпт(у — х) > тт (у — х -\— Т~ \ 2 - 1 (Т-гр, р)+а+(р,х) УуеП, т. е. h(x) > — - (Т~гр, р) + а + (р, ж), откуда следует, что h — собст- 8 венная выпуклая функция и dom h = И. Так как в силу условий теоремы domm^ = 1-L и справедливо равенство h* = д* +тт, то по теореме 1.11.3 следует, что для лю- любой точки х G И найдется точка ух G И такая, что h(х) = д(ух) + + тт(х -ух). Так как функция тт строго выпукла, то (например, методом от противного) легко показать, что точка ух, в которой достигается инфимум, единственна. Пусть Л G @,1), z G И. Выберем точку у = ух — Х(ух — z) и по- получим д(ух) + гпт(х - ух) < д(у) + тт(х - у)) < < A - Х)д(ух) + Xg(z) + mT{x - ух + \{ух - z)). В полученном двойном неравенстве выбрасываем промежуточный член, затем вычитаем из обеих частей д(ух) и затем делим на Л; в
§4-8- Порождающие функции, т-силъно выпуклые функции 391 итоге получая неравенство д(ух) - g(z) < (Т(х - Ух),Ух -z) + \mT(yx -z) MzeU. Устремив Л к нулю, получаем неравенство д(Ух) -g(z) < (Т(х-ух),ух -z) Vzen, которое по определению субдифференциала означает, что функция д субдифференцируема в точке ух и Т(х - ух) е дд(ух). ? Теорема 4.8.5 (Е.С. Половинкин [83]). Пусть Т'.П^П — нетривиальный самосопряженный линейный оператор, причем со- соответствующая квадратичная форма тт, определенная в D.8.22), неотрицательно определена. Тогда квадратичная форма тт является порождающей функ- функцией. Доказательство. В силу теоремы 4.8.1 достаточно доказать, что для всякой собственной функции вида / = тт Э h справедливо равенство D.8.14), т.е. что для любой точки iGW существует точ- точка у Е dom / такая, что f(y) + f*(x-y)=mT(x). D.8.24) В силу леммы 4.8.1 существует собственная выпуклая функция g такая, что / = тт + д, причем /# = тт + д*Т, а д(х) = д(х±), где х = х° +Ж-1, х° G KerT, x1- G ImT. Подставляя эти выражения в равенство D.8.24), после сокращений получаем уравнение д(у) + + д*(Т(х — у)) = (у,Т(х — у)), которое в силу свойств функции д эквивалентно уравнению относительно неизвестного у1- G ImT вида д{у^) + д*{Т{х^ — у^)) = (y±J T(x± — у1)) при соответствующем х1- G ImT. Последнее равенство по теореме 1.16.4 означает включение Т(х± - у^) G дд(у±). Так как оператор Т: ImT ->• ImT является са- самосопряженным линейным оператором и квадратичная форма тт на подпространстве ImT положительно определена, то по теореме 4.8.4 решение такого включения существует. ? Перейдем к изучению достаточных условий порождаемости в ко- конечномерном случае, т.е. условий когда выпуклая функция тп: Жп —> —у Ж является порождающей функцией. Как и прежде, через т*(р) обозначаем преобразование Фенхеля-Моро функции т. Теорема 4.8.6 (Е.С. Половинкин [83]). Пусть т: Жп -У Ж есть собственная выпуклая полунепрерывная снизу функция, причем intdomm ф 0. Пусть для любого вектора ро G ri domm* выбраны такие к < п + 1 произвольных точек Х{ G domm, где % Е l,fc, что
392 Гл. 4- Порождающие множества су б дифференциалы dm(xi) непусты, и существуют числа Xi > 0 та- к к кие, что ^ А^ = 1 и ро ? S Xidm(xi). Пусть для всякого такого г=1 г=1 набора (po,^i,... ,Xk) найдется точка жо Е domm такая, что ро Е Е дт(хо), и справедливо неравенство max {т(ж + ж^) — m(xi)} > т(х + хо) — т(хо) Уж G domm — жо- iG1'fe D.8.25) Тогда функция т будет порождающей функцией. Доказательство. Покажем, что данное утверждение является прямым следствием теоремы 4.2.5, переведенным с языка множеств на язык функций. Полагаем М = epim. Легко проверить, что из включения (р, a) G Ь(М) следует, что а < 0. Более того, справедливо равенство vib(M) = {/3(p,-l)|peridomm*, /3 > 0}. По основному свойству субдифференциалов включение pi G G dm(xi), где г G 0, к, эквивалентно равенству (р^ж^) — т(ж^) = = m*(pi) = s((pi, — 1), М). Это означает, что указанное включение эквивалентно включению (xi,m(xi)) G М(р^,—1), т.е. точка графи- графика (xi,m(xi)) является опорной точкой к множеству М в направ- направлении (pi, — 1). Преобразуем векторы (pi,— 1) к векторам р^ G Mn+1 единичной длины вида Pi = По условиям теоремы 4.2.5 должно быть выполнено условие ро = к „ _ _ = Е ЛгРг, которое заменой \ = А» л/A + 11Ро||2)/A + ||Рг||2) превра- к к щается в условия ро = ^2 КРг и ^2^ = 1. г=1 г=1 Очевидно следующее равенство множеств: М — (xi,m(xi)) = {(х,/3) | /3 > т(х + xi) — m(xi), x G domm — Xi}. В итоге несложно проверить, что включение D.2.8) в нашем случае эквивалентно неравенству D.8.25). ? Приведем очевидный упрощенный вариант достаточных условий, эквивалентный приведенным выше условиям в случае строго выпук- выпуклости функции т. Следствие 4.8.2. Пусть т: W1 —У Ж есть собственная выпук- выпуклая полунепрерывная снизу функция, причем intdomm^^- Пусть
§4-8- Порождающие функции, т-силъно выпуклые функции 393 для любого хо Е intdomm выбраны такие к < п + 1 произвольных точек Xi G domm, где г G l,fc, шо су б дифференциалы dm(xi) непус- k ты, и существуют числа Л^ > 0 такие, что ^2 Xi = 1 и дт(хо) П Г\ ^2 Xi dm(xi) ф 0. Пусть для всякого такого набора (жо,Ж1, • • • 5ж*0 г=1 справедливо неравенство D.8.25). Тогда функция т будет порождающей функцией. Приведем несколько классов порождающих функций, получаемых с помощью данного следствия 4.8.2. Теорема 4.8.7 (Е.С. Половинкин [83]). Всякая собственная выпуклая полунепрерывная снизу функция т: Ж1 —у Ж является по- порождающей. Доказательство. Пусть pi Е <9т(ж^), где г = 0,1, 2. Покажем, что в одномерном случае включение ро ? [РъР2] эквивалентно вклю- включению Хо G [жь^г]. По определению субдифференциала выпуклой функции имеем т(х) — m(xi) > pi(x — Xi) Vх G М1, откуда следуют неравенства (Ро ~Pi)(xi -хо) < 0, (ро ~Р2)(х2 -хо) < 0. Так как (ро — Pi) > 0, а (ро — Р2) < 0, то из неравенств следует включение жо G [жъ^г]. Таким образом, в следствии 4.8.2 условие согласования точек жо, xi, X2 G dom?n по субдифференциалам состоит в том, что хо G (жъ^г). Без ограничения общности можем считать, что m(xi) < 0 при всех г = 0,1, 2. В силу выпуклости множества epim точка @,т(жо)) G М2 содержится в конической оболочке отрез- отрезка [(#1 — xo,m(xi)), (х2 — Хо,т(х2))]. Поэтому найдутся числа Ai, Л2 > 0 такие, что @,ш(жо)) = Х1(х1 - х0, т{х1)) + Л2(ж2 - ж0, ш(ж2)), причем Л = Ai + Л2 > 1. Полагаем /^ = Л^/Л. Тогда \i\ + /i2 = 1, /ii > 0, /ii#i + /i2^2 = ж0 и Л~1?тг(жо) = \i\Vfi[x\) + /i2m(x2). В силу выпуклости функции m для всех точек ж таких, что ж + + жо G domm, справедливо неравенство 2 ?тг(ж + ж0) < ^/^г?тг(ж + ж^). i=i Отсюда для любой точки ж такой, что ж + жо G domm, получаем
394 Гл. 4- Порождающие множества / / \ / \ \ V Шал I //6l Jb ~\~ Juj ) — //М Juj I I - г=1,2 V V J V гУУ " > m(x + xo) - X~lfm(xo) > m(x + x0) - m(xo). Таким образом, неравенство D.8.25) доказано. ? Теорема 4.8.8 (Е.С. Половинкин [83]). Пусть Т: W1 ->> W1 — самосопряженный линейный оператор такой, что квадратичная форма т(х) = - (Тж,ж), положительно определена. Тогда эта функция т{х) является порождающей. Доказательство. В любой точке х G W1 у данной функции существует градиент, и условие согласования точек (хо,х\,... ,Xk) по субдифференциалам в этих точках из следствия 4.8.2, очевидно, сводится к тому, что для них найдутся числа \ii > 0 такие, что к к хо = ^2 A^i, где ^2 щ = 1. Так как здесь т(х + Xi) — m(xi) = = - (Тх,х) + (Tx,Xi), то получаем 2 к max (m(x + Xi) — m(xi)) > V^ fii(m(x + Xi) — m(xi)) = iei,k ~^ = - (Tx, x) + (Тж, ж0) = m(x + ж0) - ш(ж0), т. е. неравенство D.8.25) доказано. ? § 4.9. Еще раз о конечных аппроксимациях В этом параграфе сначала мы разберем случаи, когда оценки погрешности многогранных аппроксимаций множеств, полученные в § 2.6, можно улучшить. Для этого напомним некоторые определения из § 2.6. Определение 4.9.1. Единичной сеткой С мелкости A G @,1) в W1 называется конечный набор единичных векторов {pi}j=1 такой, что для любого вектора р ф 0 найдется подмножество индексов 1Р = = \%i,..., г^} С {1, /} таких, что \\pi — pj|| < А для всех г и j из 1Р, и вектор р лежит в относительной внутренности выпуклой конической оболочки векторов {pi}ieipJ т.е. р = ^2 aiPij ai > 0- Напомним, что сеточными операторами С и Ы для сетки С называются операторы, действующие на положительно однородную
§4-9- Еще раз о конечных аппроксимациях 395 функцию /: W1 ->1по правилу •/(р)) " /(р). Р/1Ь11еС, + 00, где для каждого вектора р ф 0 множество индексов /р, векторы р^, % Е /р, и числа а^ > 0 смотри в определении 4.9.1. Пусть М — выпуклый компакт. Сформулируем предположения, которым может удовлетворять положительно однородная функ- функция /: W1 -+ R. Предположение 1). Существует число L > 0 такое, что справедли- справедливо неравенство со/(р) — (р,х) < L\\p\\ Vp. Предположение 2). Существуют точка х Е W1 и число г > 0 такие, что г\\р\\ + (р, х) < /(р) Vp G W1. Предположение 3). Функция s(p, M) — /(р) выпукла на Жп. Отметим, что опорные функции М-сильно выпуклых компактов с непустой внутренностью удовлетворяют предположениям 1)-3). Определение 4.9.2. Невязкой выпуклого компакта М на сет- сетке С будем называть величину 2, М) = max (coCs(p, M) - s(p, M)). Геометрический смысл невязки состоит в том, что она является расстоянием в метрике Хаусдорфа между множеством М и его мно- многогранной аппроксимацией на сетке С вида [\ {х\ (р, х) < s{p,M)}. pec Предложение 4.9.1. В частном случае, когда невязка на сет- сетке С мелкости А < 1/2 вычисляется для шара Дд(О), справедлива оценка невязки второго порядка относительно А, т. е. S(C,BR(O)) <4ЯА2. D.9.1) Доказательство. Так как опорная функция шара имеет вид s(p,Br(O)) = Д||р||, то, воспользовавшись леммой 2.6.2, п. 5), получим О < со (Д||р||) - R\\p\\ < R Т4^ ||р|| откуда следует оценка D.9.1). ? Теорема 4.9.1 (М.В. Балашов, Е. С. Половинкин). Пусть М С Cln — выпуклый компакт и f: W1 —У Ж — положительно однород- однородная функция, удовлетворяющая предположениям 1)—3).
396 Гл. 4- Порождающие множества Тогда справедлива оценка со/(р) < coCfip) < cof(p) + S(C,M) ? \\p\\. D.9.2) Если к тому же функция / выпукла, то имеет место более точная оценка /(р) < coCf(p) < f(p) + S(C,M)\\p\\. D.9.3) Доказательство. Поскольку / (р) < Cf (p), то левые неравенст- неравенства в D.9.2) и D.9.3), очевидно, выполнены. Имеем равенство Сf{p) + C(s(p, М) - f{p)) = Cs(p, М), откуда по свойству выпуклой оболочки суммы функций (предложе- (предложение 1.6.3) получаем coCf{p) + coC(s(p,M) - f(p)) < coCs(p,M). По определению оператора С в силу предположения 3) на функцию / получаем coC(s(p,M) - /(р)) > s(p,M) - f(p), что вместе с предыдущими неравенствами дает coCfip) < icoCsip,M)-sip,M))+fip). Учитывая положительную однородность всех функций, входящих в последнее неравенство, и определение невязки ?(С,М), получаем неравенство Из последней формулы следует, в частности, правое неравенство в формуле D.9.3). Докажем теперь правое неравенство в формуле D.9.2). Из предпо- предположения 2) на функцию / получаем неравенство < IIII г Объединяя последние два неравенства, получаем оценку coCfip) < fip) + 6(С, М) /(р)~(р'ж). Вычисляя выпуклую оболочку от обеих частей последнего неравенст- неравенства и учитывая предположение 3) на функцию /, получаем правое неравенство в оценке D.9.2). ? Из теоремы 4.9.1 и предложения 4.9.1 получаем следствие. Следствие 4.9.1. Пусть положительно однородная функция/: Мп —>- М удовлетворяет предположениям 1)-2), сетка С имеет мел- мелкость А < 1/2 и существует число Ro > 0 такое, что функ- функция Ro\\p\\ - f{p) выпукла на W1.
§4-9- Еще раз о конечных аппроксимациях 397 Тогда справедлива оценка второго порядка относительно А со/(р) < соС/(р) < со f(p)+4R0L A2 М. D.9.4) г Если к тому же функция / выпукла, то f(p)<coCf(p)<f(p)+4R0A2\\p\\. Из теоремы 4.9.1 и следствия 4.9.1 легко получить новые оценки многогранных аппроксимаций М-сильно выпуклых компактов, анало- аналогичные тому, как это сделано в § 2.6. Для положительно однородных функций введем понятие М-сильно выпуклой оболочки. Определение 4.9.3. Для положительно однородной функции /: Жп —> Ж и для выпуклого компакта Mcln M-сильно выпуклой обо- оболочкой функции / называется функция strcoM/0) = со (s(p,M) - со (s(p,M) -со/О))). Заметим, что если компакт М является порождающим множест- множеством, то определение М-сильно выпуклой оболочки можно задать проще: strcoM/0) = s(p,M) - со (s(p,M) - со/О)). Для случая, когда компакт М есть порождающее множество, можно сделать следующие замечания. В случае, когда все функции, входящие в последнее равенство, являются собственными, получаем в силу предложения 4.3.1, п. 4, что функция strcoM/ есть опорная функция некоторого М-сильно выпуклого множества. Отсюда следу- следует, что функция strcoM/ непрерывна и выпукла. В общем случае справедливо неравенство strcoM/ ^ со/, если же функция / является предопорной функцией некоторого М-сильно выпуклого множества, то в этом неравенстве имеет место равенство. В силу сделанных выше замечаний легко увидеть, что свойства М- сильно выпуклых оболочек множеств, описанные в теореме 4.4.2, легко могут быть переформулированы как свойства М-сильно выпуклых оболочек положительно однородных собственных функций. Говорят, что множество В полностью выметает множество А, если (А-В) +В = А. Теорема 4.9.2 (М.В. Балашов, Е. С. Половинкин). Пусть по- положительно однородная функция /: Мп —у Ж удовлетворяет пред- предположениям 1)-3) для выпуклого компакта М = Mq. Пусть ком- компакт Mq является порождающим множеством, а множество A + + ?(С, Мо)/г)Мо полностью выметает некоторый выпуклый ком- компакт Mi.
398 Гл. 4- Порождающие множества Тогда справедлива оценка соС/(р) < strcoMlC/(p) < со/(р) + 6(С,М0) ? |Ь||. D.9.5) Если к тому же функция f выпукла, компакт Mq является порождающим множеством и множество Mq -\- S(G, Mq)Вi@) пол- полностью выметает некоторый выпуклый компакт Mi, то справед- справедлива оценка coCfip) < strcoMlC/(p) < /(р) + J(C,M0)||p||. D.9.6) Доказательство. Пусть 8 = ?(С, Mo). Из доказательства тео- теоремы 4.9.1 следует, что Возьмем от обеих частей последнего неравенства Mi-сильно вы- выпуклую оболочку и воспользуемся свойствами М-сильно выпуклой обо- оболочки. Мы усилим неравенство, взяв от правой части MqA + S/r)-o6o- лочку. Второе линейное по р слагаемое в правой части неравенства можно вынести за оператор взятия оболочки. Применяя свойства 1—3 теоремы 4.4.2 к правой части, имеем strcoMlC/(p) < (l + ^)strcoMo/(p) - -^ S. Поскольку из предположения 3) и свойств М-сильно выпуклых мно- множеств следует равенство со/(р) = strcoM0/(pM T0 получаем правое неравенство в оценке D.9.5). Левое неравенство в оценке D.9.5) оче- очевидно. Левое неравенство в формуле D.9.6) следует из определений. До- Докажем правое неравенство. В силу теоремы 4.4.2 из формулы D.9.3) получаем strcoMlC/(p) < strco(Mo+B5@))(/(p) + S\\p\\) = strcoMo/(p) + S\\p\\. В силу предположения 1) и свойств М-сильно выпуклых множеств (предложение 4.3.1, п. 3 и п. 4) получаем равенство strcoM0/(p) — = со/(р). ? Определение 4.9.4. Для данной сетки С С dBi@) и данного выпуклого компакта М С W1 определим оператор 3?м? действующий на положительно однородную функцию /: W1 ->1по формуле = a(p, M) - coC(s(p, M) - f(p)). D.9.7) Лемма 4.9.1. Пусть дана сетка С мелкости A G @,1), и пусть компакт М С W1 является порождающим множеством.
§4-9- Еще раз о конечных аппроксимациях 399 Тогда для любой положительно однородной функции /: W1 —у Ж выполнено равенство со^м/(р) = strcoMSW(p). D.9.8) Если к тому же функция s(p, M) — f(p) выпукла, то справедлива оценка D.9.9) Доказательство. Поскольку компакт М является порождаю- порождающим множеством, то функция s(p, М) - coC(s(p, М) - f(p)) D.9.10) является предопорной функцией некоторого М-сильно выпуклого мно- множества. Поэтому выпуклая оболочка функции D.9.10) и М-сильно выпуклая оболочка функции D.9.10) совпадают. Отсюда следует фор- формула D.9.8). Пусть функция s(p, М) — f(p) выпукла. В силу определения опе- оператора С имеем 8(р,М) - f(p) < coC(s(p,M) - откуда I(P) > s(p, M) - coC(s(p, M) - f(p)) = Следовательно, со/(р) > соЗ?м/(р)- а Теорема 4.9.3 (M.B. Балашов, Е. С. Половинкин). Пусть ком- компакт Mq С W1 является порождающим множеством, и пусть /: W1 —У Ж — положительно однородная функция, для которой выпол- выполнены предположения 1)-3) {при М = Mq). Пусть задана сетка С мелкости A G @,1/2) такая, что S(C,Mo)/r < 1. Пусть множест- множество Мо/A — S(C, Mo)/r) полностью выметает некоторый выпуклый компакт Mi. Тогда справедлива оценка < со/(р) < strcoMlC/(p) < со^мо/(р) + M)( ^cM))||p||. D.9.11) Доказательство. Первые два неравенства в оценке D.9.11) следуют из леммы 4.9.1, определения оператора С и свойств М-силь- М-сильно выпуклой оболочки. Докажем третье неравенство. Пусть 5 = = б(С,М0). Из свойств выпуклой оболочки суммы функций, из равенства Cf(p) + C(s(p, Mo) - f(p)) = Cs(p, Mo) и теоремы 4.9.1 следует неравенство coCf(p) +coC(s(p,M0) - f{p)) < coCs(p,M0) < s(p,M0)+6\\p\\,
400 Гл. 4- Порождающие множества откуда ^M0f(p)> со С f(p)-6\\p\\. Отсюда в силу предположения 2), оценивая \\p\\ с помощью нера- неравенства coCf(p) > со f(p) > (р,х) + г||р||, справедливого для всех р, получаем SRmo/Ы > coC/(p)(l -5-)+ (Р,х) 5-. Взяв Mq-сильно выпуклые оболочки от обеих частей последнего неравенства и воспользовавшись леммой 4.9.1, условием теоремы 4.9.3 и теоремой 4.4.2, п. 3, получим strcoMo^M0/(p) = со^Мо/О) > strcoMlC/(p)(l - ") + (Р'х) -• Из последнего неравенства получаем неравенство strcoMlC/(p) < соЗ?м0/(р) + (strcoMlC/(p) - (р,ж>) -. Учитывая условие теоремы 4.9.3, мы можем воспользоваться оцен- оценкой D.9.5) теоремы 4.9.2, откуда получаем неравенство strcoMlC/(p) < соШмоКр) + (l + 5-) 16\\р\\, что и требовалось доказать. ? Отметим, что, если компакт М С W1 не является порождающим множеством, а /: W1 —> Ж — положительно однородная функция, удовлетворяющая предположениям 1)-3), то функция strcoMC/(p) является верхней аппроксимацией функции со/(р), а функ- функция соЗ?м/(р) — нижняя аппроксимация функции со/(р). Теоре- Теоремы 4.9.1-4.9.3 определяют погрешности при операции взятия выпук- выпуклой оболочки, возникающие из-за перехода от исходной положительно однородной функции к ее сеточной выпуклой аппроксимации. Следствие 4.9.2. Если в качестве функции / рассмотреть опорную функцию Ro-силъно выпуклого множества А из W1 с не- непустой внутренностью [для которого, очевидно, выполнены пред- предположения 1)-3)), то в силу теорем 4.9.2 и 4.9.3 для любой сетки С мелкости А < 1/2 можно указать конечнопорожденные {сеточные) Ro-силъно выпуклые множества А* и А* такие, что справедливы включение А* С А С Л* и неравенство Г \
СПИСОК ЛИТЕРАТУРЫ 1. Александров А. Д. Выпуклые многогранники. — M.-JL: Гостехиздат, 1950. 2. Алексеев В.М., Тихомиров В.М., Фомин СВ. Оптимальное управле- управление. — М.: Наука, 1979. 3. Алексеев В.М., Галеев Э.М., Тихомиров В.М. Сборник задач по оп- оптимизации. Теория. Примеры. Задачи. — М.: Наука, 1984. 4. Арнольд В. И. Математические методы классической механики. — М.: Наука, 1974. 5. Арутюнов А. В. Возмущения экстремальных задач с ограничениями и необходимые условия оптимальности // Итоги науки и техники. ВИНИТИ. Сер. Мат. ан. — 1989. — Т. 27. — С. 147-235. 6. Арутюнов А. В. Выпуклые свойства преобразования Лежандра // Ма- тем. заметки. — 1980. — Т. 28, № 2. 7. Арутюнов А. В. Условия экстремума. Анормальные и вырожденные задачи. — М.: Факториал, 1997. 8. Афанасьев А. П., Дикусар В. В., Милютин А. А., Чуканов С. А. Необ- Необходимое условие в оптимальном управлении. — М.: Наука, 1990. 9. Балакришнан А. Введение в теорию оптимизации в гильбертовом пространстве. — М.: Мир, 1974. 10. Балашов М. В., Половинкин Е. С. Сильно выпуклая оболочка и ее свойства // Некоторые проблемы современной математики и их прило- приложения к задачам физики и механики. Междувед. сборник. — М.: Изд-во МФТИ, 1995. — С. 27-36. 11. Балашов М.В., Половинкин Е. С. i^T-сильно выпуклые множества и их порождающие подмножества // Матем. сб. — 2000. — Т. 191, № 1. — С. 27-64. 12. Балашов М. В. О геометрической разности многозначных отображе- отображений // Матем. заметки. — 2001. — Т. 70, № 2. — С. 163-169. 13. Балашов М. В. Об аналоге теоремы Крейна-Мильмана для сильно вы- выпуклой оболочки в гильбертовом пространстве // Матем. заметки. — 2002. — Т. 71, № 3. — С. 37-42. 14. Балашов М. В. О Р-свойстве выпуклых компактов // Матем. замет- заметки. — 2002. — Т. 71, № 3. — С. 323-333.
402 Список литературы 15. Белоусов Е. Г. Введение в выпуклый анализ и целочисленное програм- программирование. — М.: Изд-во МГУ, 1977. 16. Благодатских В. И. Введение в оптимальное управление (линейная тео- теория). — М.: Высшая школа, 2001. 17. Бляшке В. Круг и шар. — М.: Наука, 1967. 18. Бляшке В. Дифференциальная геометрия и геометрические основы тео- теории относительности. — M.-JL: ОНТИ, 1935. 19. Болтянский В. Г. Математические методы оптимального управле- управления. — М.: Наука, 1969. 20. Боннезен Т., Фенхель В. Теория выпуклых тел. — М.: ФАЗИС, 2002. [Bonnesen Т., Fenchel W. Theorie der konvexen korper. — Berlin: Springer, 1934.] 21. Бураго Ю.Д., Залгаллер В. А. Геометрические неравенства. — Л.: Нау- Наука, 1980. 22. Васильев Ф. П. Численные методы решения оптимальных задач. — М.: Наука, 1980. B-е изд., 1988.) 23. Васильев Ф. Я. Методы оптимизации. — М.: Факториал Пресс, 2002. 24. Власов Л. Я. Аппроксимативные свойства множеств в линейных нор- нормированных пространствах // Успехи мат. наук. — 1973. — Т. 28, вып. 6. — С. 3-66. 25. Галеев Э. М., Тихомиров В. М. Краткий курс теории экстремальных задач. — М.: Изд-во МГУ, 1989. 26. Галеев Э. М., Тихомиров В. М. Оптимизация: теория, примеры, зада- задачи. — М.: Эдиториал УРСС, 2000. 27. Гирсанов И. В. Лекции по математической теории экстремальных за- задач. — М.: Изд-во МГУ, 1970. 28. Голъштейн Е.Г., Третъяков Я. В. Модифицированные функции Лаг- ранжа. Теория и методы оптимизации. — М.: Наука, 1989. 29. Грюнбаум Б. Этюды по комбинаторной геометрии и теории выпуклых тел. — М.: Наука, 1971. 30. Данфорд Я., Шварц Дж. Линейные операторы. Общая теория. — М.: ИЛ, 1962. 31. Данцер «/L, Грюмбаум Б., Кли В. Теорема Хелли и ее применения. — М.: Мир, 1968. 32. Данциг Дж. Линейное програмирование, его применения и обобще- обобщения. — М.: Прогресс, 1966. 33. Демьянов В. Ф. Негладкий анализ. — Л.: Изд-во ЛГУ, 1982. 34. Демьянов В. Ф., Малоземов В. Я. Введение в минимакс. — М.: Наука, 1972.
Список литературы 403 35. Демьянов В. Ф., Васильев Я. В. Недифференцируемая оптимизация. — М.: Наука, 1981. 36. Демьянов В. Ф., Рубинов A.M. Основы негладкого анализа и квазидиф- квазидифференциальное исчисление. — М.: Наука, 1990. 37. Дистелъ Дж. Геометрия банаховых пространств. — Киев: Вища школа, 1980. 38. Дубовицкий А. Я., Милютин А. А. Необходимые условия слабого экст- экстремума в общей задаче оптимального управления. — М.: Наука, 1971. 39. Дудов С. И. Внутренняя оценка выпуклого множества телом нормы // ЖВМиМФ. — 1996. — Т. 36, № 5. — С. 153-159. 40. Ефимов Н.В., Стечкин СБ. Опорные свойства множеств в банахо- банаховых пространствах и чебышевские множества // Докл. АН СССР. — 1959. — Т. 127, № 2. — С. 254-257. 41. Ефимов Н.В., Стечкин СБ. Аппроксимативная компактность и че- чебышевские множества // Докл. АН СССР. — 1961. — Т. 140, № 3. — С. 522-524. 42. Ефимов Н. В., Стечкин С. Б. Аппроксимативные свойства множеств в линейных нормированных пространствах // Стечкин СБ. Избранные труды. — М.: Физматлит, 1998. — С. 270-281. [Pevue de Math, pures et appl. — 1963. — T. 8, № 1. — С 5-18.] 43. Зеликин М. И. Оптимальное управление и вариационное исчисление. — М.: Изд-во МГУ, 1985. 44. Зорич В. А. Математический анализ. — М.: МЦНМО, 1998. 45. Иванов Г. Е. Оценка погрешности алгоритма вычисления альтерниро- альтернированного интеграла Понтрягина, связанной с дискретизацией по про- пространству // Численные методы интегральных уравнений в приклад- прикладных задачах: Научно-метод. матер. — М.: ВВИА им. Н. Е. Жуковского, 1994. — С. 75-90. 46. Иванов Г. E.j Половинкин Е. С. Второй порядок сходимости алгоритма вычисления цены линейной дифференциальной игры // Докл. РАН. — 1995. — Т. 340, № 2. — С. 151-154. 47. Иванов Г. E.j Половинкин Е. С. О сильно выпуклых линейных диффе- дифференциальных играх // Диффер. уравнения. — 1995. — Т. 31, № 10. — С. 1641-1648. 48. Иваницкий А.Ю., Васильев Ф.П. Линейное программирование. — М.: Факториал, 1998. 49. Иосида К. Функциональный анализ. — М.: Мир, 1967. 50. Иоффе А. Д., Тихомиров В.М. Теория экстремальных задач. — М.: Наука, 1974. 51. Канторович Л.В. Математические методы оптимизации и планирова- планирования производством. — Л.: Изд-во ЛГУ, 1939.
404 Список литературы 52. Карасев Р. П. О характеризации порождающих множеств // Моделиро- Моделирование и анализ информационных систем. — 2001. — Т. 8, № 2. — С. 3-9. 53. Карасев Р. П. Об аналоге теоремы Каратеодори для М-сильно выпук- выпуклых множеств // Моделирование и анализ информационных систем. — 2001. — Т. 8, № 2. — С. 17-22. 54. Кларк Ф. Оптимизация и негладкий анализ. — М.: Наука, 1988. 55. Красносельский М.А., Покровский А. В. Системы с гистерезисом. — М.: Наука, 1983. 56. Колмогоров А.Н., Фомин СВ. Элементы теории функций и функцио- функционального анализа. — 6-е изд. — М.: Наука, 1989. 57. Красовский Н.Н., Субботин А. И. Позиционные дифференциальные игры. — М.: Наука, 1974. 58. Кусраев А. Г., Кутателадзе С. С. Су б дифференциальное исчисление. — Новосибирск: Наука, 1987. 59. Кутателадзе С. С, Рубинов A.M. Двойственность Минковского и ее приложения. — Новосибирск: Наука, 1976. 60. Левин В. Л. Выпуклый анализ в пространствах измеримых функций и его применение в математике и экономике. — М.: Наука, 1985. 61. Левитин Е. С, Поляк Б. Т. Методы минимизации при наличии огра- ограничений // ЖВМиМФ. — 1966. — Т. 6, № 5. — С. 787-823. 62. Лейхтвейс К. Выпуклые множества. — М.: Наука, 1985. 63. Магарил-Илъяев Г. Г., Тихомиров В. М. Выпуклый анализ и его при- приложения. — М.: Эдиториал УРСС, 2000. 64. Матерон Ж. Случайные множества и интегральная геометрия. — М.: Мир, 1978. 65. Минковский Г. О телах постоянной ширины // Матем. сб. — 1905. — Т. 25. — С. 505-508. [Gesammeite Abhandhmgen. Bd. 2. — Leipzig-Berlin: Teubner, 1911. — S. 277-279.] 66. Мордухович Б. Ш. Методы аппроксимации в задачах оптимизации и управления. — М.: Наука, 1988. 67. Никольский М. С, Силин Д. Б. О наилучшем приближении выпуклого компакта элементами аддиала // Труды Матем. ин-та АН СССР. — 1985. — Т. 211. — С. 338-354. 68. Обен Ж.-П., Экланд И. Прикладной нелинейный анализ. — М.: Мир, 1984. 69. Обен Ж.-П. Нелинейный анализ и его экономические приложения. — М.: Мир, 1988. 70. Орлова Г. Б., Силин Д. Б. Приближенное вычисление выпуклой обо- оболочки положительно однородной функции // Вестник МГУ. Сер. 15. Вычисл. матем. и киберн. — 1997. — Т. 2. — С. 32—35.
Список литературы 405 71. Половинкин Е. С. Элементы теории многозначных отображений: Учеб. пособие. — М.: Изд-во МФТИ, 1982. 72. Половинкин Е. С. Теория многозначных отображений: Учеб. посо- пособие. — М.: Изд-во МФТИ, 1983. 73. Половинкин Е. С. Об интегрировании многозначных отображений // Докл. АН СССР. — Т. 271, № 5. — 1983. — С. 1069-1074. 74. Половинкин Е. С, Смирнов Г. В. Дифференцирование многозначных отображений и свойства решений дифференциальных включений // Докл. АН СССР. — 1986. — Т. 288, № 2. — С. 296-301. 75. Половинкин Е. С, Смирнов Г. В. Об одном подходе к дифференцирова- дифференцированию многозначных отображений и необходимые условия оптимальнос- оптимальности решений дифференциальных включений // Диффер. уравнения. — 1986. — Т. 22, № 6. — С. 944-954. 76. Половинкин Е. С, Смирнов Г. В. О задаче быстродействия для диф- дифференциальных включений // Диффер. уравнения. — 1986. — Т. 22, № 8. — С. 1351-1365. 77. Половинкин Е. С. О свойствах сильно выпуклых множеств // Моде- Моделирование процессов управления и обработки информации. Междувед. сборник. — М.: Изд-во МФТИ, 1994. — С. 182-189. 78. Половинкин Е. С. Необходимые условия оптимальности с дифференци- дифференциальными включениями // Тр. Матем. ин-та РАН. — 1995. — Т. 211. — С. 387-400. 79. Половинкин Е. С. О выпуклых и сильно выпуклых аппроксимациях множеств // Докл. РАН. — 1996. — Т. 350, № 3. — С. 308-311. 80. Половинкин Е. С. Сильно выпуклый анализ // Матем. сборник. — 1996. — Т. 187, № 2. — С. 103-130. 81. Половинкин Е. С. Обобщение теорем Каратеодори и Крейна-Мильмана для сильно выпуклых множеств // Докл. РАН. — 1997. — Т. 355, № 2. — С. 164-166. 82. Половинкин Е. С. О новых классах порождающих множеств // Некото- Некоторые проблемы фундаментальной и прикладной математики. Междувед. сборник. — М.: Изд-во МФТИ, 1998. — С. 81-93. 83. Половинкин Е. С. О сильно выпуклых множествах и сильно выпуклых функциях // Итоги науки и техники. Сер. Совр. матем. и ее приложения. Т. 61. — М.: ВИНИТИ, 1999. — С. 66-138. 84. Половинкин Е. С, Иванов Г.Е., Балашов М.В., Константинов Р. В., Хорее А. В. Об одном алгоритме численного решения линейных диф- дифференциальных игр // Матем. сборник. — 2001. — Т. 192, № 10. — С. 95-122. 85. Половинкин Е. С, Балашов М.В. О вложении пространства выпуклых компактов в линейное топологическое пространство и его следствия
406 Список литературы // Тр. конф. «Функциональные пространства. Дифференциальные опе- операторы. Проблемы математического образования». — М.: Физмат лит, 2003. — С. 311-326. 86. Половинкин Е. С. О телах постоянной ширины // Докл. РАН. — 2004. (в печати) 87. Поляк Б. Т. Теоремы существования и сходимости минимизирующих последовательностей для задач на экстремум при наличии ограниче- ограничений // Докл. АН СССР. — 1966. — Т. 166, № 2. — С. 287-290. 88. Поляк Б. Т. Введение в оптимизацию. — М.: Наука, 1983. 89. Понтрягин Л. С, Болтянский В. Г., Гамкрелидзе Р. В., Мищенко Е. Ф. Математическая теория оптимальных процессов. — М.: Наука, 1969. 90. Понтрягин Л. С. Линейные дифференциальные игры преследования // Мат. сб. Нов. сер. — 1980. — Т. 112, № 3. — С. 307-330. 91. Понтрягин Л. С. Избранные научные труды. Т. П. — М.: Наука, 1988. 92. Посицелъский Е.Д. О характеризации штейнеровской точки // Матем. заметки. — 1973. — Т. 14, № 2. — С. 243-247. 93. Пшеничный Б. П. Выпуклый анализ и экстремальные задачи. — М.: Наука, 1980. 94. Пшеничный Б. П. Необходимые условия экстремума. — М.: Наука, 1982. 95. Пшеничный Б. П. Метод линеаризации. — М.: Наука, 1983. 96. Рокафеллар Р. Выпуклый анализ. — М.: Мир, 1973. 97. Рудин У. Функциональный анализ. — М.: Мир, 1975. 98. Самсонов С. П. Восстановление выпуклого множества по его опорной функции с заданной точностью // Вестник МГУ. Сер. 15. Вычислит. матем. и киберн. — 1983. — № 1. — С. 68-71. 99. Солтан В. П. Введение в аксиоматическую теорию выпуклости. — Ки- Кишинев: Штиинца, 1984. 100. Субботин А. И., Ченцов А. Г. Оптимизация гарантии в задачах управ- управления. — М.: Наука, 1981. 101. Сухарев А. Г., Тимохов А. В., Федоров В. В. Курс методов оптимиза- оптимизации. — М.: Наука, 1986. 102. Тер-Крикоров A.M. Оптимальное управление и математическая эко- экономика. — М.: Наука, 1977. 103. Тихомиров В. М. Некоторые вопросы теории приближений. — М.: Изд-во МГУ, 1976. 104. Тихомиров В. М. Выпуклый анализ. Теория приближений // Итоги науки и техники. Сер. Совр. пробл. матем., фундам. направ. Т. 14. — М.: ВИНИТИ, 1987. 105. Хаусдорф Ф. Теория множеств. — M.-JL: ОНТИ, 1937.
Список литературы 407 106. Черноусъко Ф. Л., Меликян А. А. Игровые задачи управления и поис- поиска. — М.: Наука, 1978. 107. Экланд if., Темам Р. Выпуклый анализ и вариационные проблемы. — М.: Мир, 1979. 108. Шварц Л. Анализ. В 2-х т. — М.: Мир, 1972. 109. Эдварде Р. Функциональный анализ. Теория и приложения. — М.: Мир, 1969. 110. Яглом И.М., Болтянский В. Г. Выпуклые фигуры. — М.: Гостехиз- дат, 1951. 111. Alfsen E.M. Compact convex sets, and boundary integrals. — Berlin: Springer, 1971. 112. Aubin J.-P., Cellina A. Differential Inclusions. — Berlin: Springer-Verlag, 1984. 113. Aubin J.-P., Francowska H. Set-Valued Analysis. — Boston-Basel-Berlin: Birkhauser, 1990. 114. Barbier E. Note sur le problem de l'aiguille et le jeu du joint couvert // J. Math. Pures Appl. B). — 1860. — V. 5. — P. 273-286. 115. Ben-Tal A., Ben-Israel A. F-convex functions: properties and applica- applications // Generalized Concavity in Optimization and Economics. — Acade- Academic Press, 1981. — P. 301-334. 116. Berger M. Geometrie. — Paris: CEDIC/Fernand Nathan, 1977. 117. Blaschke W. Konvexe Bereiche gegebener konstanter Breite und kleins- ten // Inhalts. Math. Ann. — 1915. — Bd. 76. — S. 504-513. 118. Blaschke W. Einige Bemerkungen uber Kurven und Flachen konstanter Breite // Ber. Verh. Sachs. Akad. Leipzig. — 1915. — Bd. 67. — S. 290-297. 119. Blaschke W., Hessenberg G. Lehsatze uber konvexe Korper // Jber. Deutsch. Math.-Vereinig. — 1917. — Bd. 26. — S. 215-220. 120. Bonnesen T. Les problemes des isoperimetres et des isepiphanes. — Paris: Gauthier-Villars, 1929. 121. Borisov V.F.j Zelikin M. I. Theory of chattering control. — Boston: Berkhauser, 1994. 122. Bouligand G. Sur les surfaces depourvues de points hyperlimites // Ann. Soc. Polon. Math. — 1930. — V. 9. — P. 32-41. 123. Bronsted A., Rockafellar R. T. On the sub differentiability of convex func- functions // Proc. Am. Math. Soc. — 1965. — V. 16. — P. 605-611. 124. Caratheodory C. Uber den Variabilitatsbereich der Koeffizienten von Po- tenzreihen, die gegebene Werte nicht annehmen // Math. Ann. — 1907. — Bd. 64. — S. 95-115.
408 Список литературы 125. Caratheodory С. Uber den Variabilitatsbereich der Fourierschen Konstan- ten von positiven harmonischen Funktionen // Rend. Circ. Mat. Paler- Palermo. — 1911. — V. 32. — P. 193-217. 126. Chakerian G.D., Groemer H. Convex Bodies of Constant Width // Con- Convexity and its Applications / Eds P. M. Gruber, J. M. Wills. — Basel- Boston-Stuttgart: Birkhauser, 1983. 127. Dolecki 5., Kurcyusz S. On Ф-convexity in extremal problems // SIAM J. Contr. and Opt. — 1978. — V. 16. — P. 277-300. 128. Eggleston H.G. Sets of constant width in finite dimentional Banach spa- spaces // Israel J. Math. — 1965. — V. 3. — P. 163-172. 129. Ekeland I. On the variational principle // J. Math. Anal. Appl. — 1974. — V. 47. — P. 324-353. 130. Edelstein M. Farthest points of sets in uniformly convex Banach spaces // Israel J. Math. — 1966. — V. 4, № 3. — P. 171-176. 131. Euler L. De curvis triangularibus // Acta Acad. Sci. Imp. Petrop. — 1778. — V. 2. — P. 3-30. 132. Fenchel W. On conjugate convex-functions // Can. J. Math. — 1949. — № 1. — P. 73-77. 133. Fenchel W. Convex Cones, Sets and Functions // Mimeographed Lecture Notes. — Princeton: Princeton University, 1951. 134. Frankowska H., Olech C. Я-convexity of the Integral of the Set-Valued Functions // Contributions to Analysis and Geometry. — Baltimore, Md.: Johns Hopkins Univ. Press, 1981. — P. 117-129. 135. Grunbaum B. On intersection of similar sets // Portugal Math. — 1959. — V. 18. — P. 155-164. 136. Helly E. Uber Systeme linearer Gleichungen mit unendlich vielen Unbe- kannten // Mh. Math. Phys. — 1921. — V. 31. — P. 60-91. 137. Helly E. Uber Systeme von abgeschlossenen Mengen mit gemeinschaft- lichen Punkten // Mh. Math. Phys. — 1930. — V. 37. — P. 281-302. 138. Hiriart-Urruty J.B., Lemareshal C. Convex Analysis and Minimization Algorithms. V. I, II. — N.Y., В., L.: Springer, 1993. 139. lessen B. Uber Konvexe Punktmengen konstanter Breite // Math. Z. — 1928. — V. 29. — P. 378-380. 140. Jung H. W. E. Uber die Kleinste Kugel, die eine raumliche Figur einsch- lieBt // J. Reine Angew. Math. — 1901. — Bd. 123. — S. 241-257. 141. Klee V.L. Convex sets in linear spaces. II // Duke Math. J. — 1951. — V. 18. — P. 875-883. 142. Klee V. L., Minty G. I. How good is simplex algorithm? // Inequalities-Ill / Ed. N. Y. Shisha. — London: Academic Press, 1972. — P. 159-175. 143. Krein M. C, Milman D.P. On extreme points of regularly convex sets // Studia Math. — 1940. — V. 9. P. 133-138.
Список литературы 409 144. Kritikos N. Uber konvexe Flachen und einschliefiende Kugeln // Math. Ann. — 1927. — V. 96. P. 583-586. 145. Kurzhanski А. В., Valyi I. Ellipsoidal calculus for estimation and cont- control. — Boston: Birkhauser, 1997. 146. Lebesgue H. Sur quelques questions de minimum, relatives aux courbes orbifornes, et sur leurs rapports avec le calcul des variations // J. Math. Pures Appl. (8). — 1921. — V. 4. — P. 67-96. 147. Levi F. W. On Helly's theorem and the axioms of convexity // J. Indian Math. Soc. Part A. — 1951. — V. 15. — P. 65-76. 148. Lojasiewicz St. (Jr.) Some properties of accessible sets in non linear control systems // Ann. Polon. Math. — 1979. — V. XXXVII, № 2. — P. 123-127. 149. Mazur S. Uber konvexe mengen in linearen normierten Raumen // Stud. Math. — 1933. — V. 4. — P. 70-84. 150. Meissner E. Uber Punktmengen konstanter Breite // Vjschr. Naturforsch. Ges. Zurich. — 1911. — Bd. 56. — S. 42-50. 151. Meissner E. Drei Gipsmodelle von Flachen konstanter Breite // Z. Math. Phys. — 1912. — Bd. 60. — S. 92-94. 152. Michael E. Continuous selections 1 // Ann. Math. Ser. 2. — 1957. — V. 63, №. 2. — P. 361-382. 153. Minkowski H. Allgemeine Lehrsatze uber die konvexen Polyeder // Nachr. Ges. Wiss. Gottingen, 1897. — S. 198-219; Gesammeite Abhandlungen. Bd. 2. — Leipzig-Berlin: Teubner, 1911. — S. 103-121. 154. Minkowski H. Theorie der konvexen Korper, insbesondere Begrundung ihres Oberflachenbegriffs // Gesammeite Abhandlungen. Bd. 2. — Leipzig- Berlin: Teubner, 1911. — S. 131-229. 155. Minkowski H. Volumen und Oberflache // Math. Ann. — 1903. — V. 57. P. 447-495; Gesammeite Abhandlungen. Bd. 2. — Leipzig-Berlin: Teubner, 1911. — S. 230-276. 156. Minkowski H. Geometrie der Zahlen. — Leipzig-Berlin: Teubner, 1910. 157. Moreau J. J. Fonctionnelles Convexes. — Paris: Collige de France, 1967. 158. Motzkin T. Sur quelques proprietes caracteristiques des ensembes con- vexes // Rend. Accad. Naz. Lincei, Red. VI. — 1935. — V. 21. — P. 562- 567. 159. Ornelas A. Parametrization of Caratheodory Multifunctions // Rend. Sem. Mat. Univ. Padova. — 1990. — V. 83. — P. 33-44. 160. Pal J. Uber ein elementares Variationproblem // Mat.-Fys. Medd., Danske Vid. Selsk. — 1920-1921. — Bd. 3, № 2. — S. 1-35. 161. Pierre J. S. Point de Steiner et sections lipschitziennes // Seminaire D'analyse Convexe. Expose n 7. — Montpellier, 1985. 162. Pli's A. Accessible Sets in Control Theory, int. Conf. on Diff. Eqs. — Academic Press, 1975. — P. 646-650.
410 Список литературы 163. Polovinkin E. S. On Strongly Convex Sets // Phystech Journal. — 1996. — V. 2, № 1. — P. 43-59. 164. Reinhardt K. Extremale Polygone gegbenen Durchmessers // Jber. Deutsch. Math. — 1922. — Bd. 31. — S. 251-270. 165. Reuleaux F. Lehrbruch der Kinematik. I. — Braunschweig: F. Vieweg, 1875. 166. Singer I. Surrogate Conjugate Functions and Surrogate Convexity // Appli- Applicable Analysis. — 1983. — V. 16. — P. 291-327. 167. Schneider R. Convex Bodies: the Brunn-Minkowski Theory. — Cambridge: Cambridge Univ. Press, 1993. 168. Straszewicz S. Uber exponierte Punkte abgeschlossener Punktmengen // Fund. Math. — 1935. — V. 24. — P. 139-143. 169. Steiner J. Von der Krummungsschwerpunkte ebener Curven // J. Reine Angew. Math. — 1840. — Bd. 21. — S. 33-63, 101-122; Gesammelte- Vereinig. Werke. Bd. 2. — Berlin: Reiner, 1882. — S. 99-159. 170. Steiner J. Einfache Beweise der isoperimetrischen Hauptsatze // J. Reine Angew. Math. — 1838. — Bd. 18. — S. 289-296; Gesammelte-Vereinig. Werke. Bd. 2. — Berlin: Reiner, 1882. — S. 77-91. 171. Tiercy G. Sur les surfaces spheriformes // Tohoku Math. J. — 1921. — V. 19. — P. 149-163. 172. Valentine F. A. Convex Sets. — N. Y.-Toronto-L.: McGraw Hill, 1964. 173. Valadier M. Contribution a l'analyse convexe. — Paris: Thesis, 1970.
именной указатель Алаоглу Л. 20, 171 Ауман Р. 294 Балашов М.В. 74, 77 259, 262 316, 321, 322 345, 352, 356, 358, 359, 363, 365, 371, 374, 380, 382, 395, 397, 399 Банах С. 18, 20, 85, 86, 171, 241, 248, 251 Бляшке В. 5, 7, 36 Боннезен Т. 5 Бохнер С. 294 Бренстед А. 138, 272 Булиган Г. 43 Буняковский В.Я. 15 Бэр Р. 18, 33, 61 Вейерштрасс К. 51, 188 Гато Р. 129, 130, 140, 151, 152, 175- 177, 351 Гаусс К.Ф. 197 Гейне Г.Э. 50 Гёльдер О. 186, 187, 190, 204 Гильберт Д. 334 Голынтейн Е.Г. 175 Данцер Л. 370 Данциг Дж. 220 Дворецкий А. 95 Дубовицкий А.Я. 140 Дэй М. 241, 242 Ефимов Н.В. 248, 252 Иенсен И. 53, 57, 106, 157 Иоффе А.Д. 148 Канторович Л.В. 220 Карасев Р.Н. 340 Каратеодори К. 5, 7, 9, 26, 121-126, 128, 157, 374-376 Кларк Ф. 7, 43, 44 Кли В. 85, 87 Коши О. 14, 15, 50 Крейн М.Г. 7, 9, 11, 162, 171, 200, 209, 273, 285, 377 Кун Г.В. 212 Купманс Т. 216 Лагранж Ж. 8, 148, 177, 212, 214, 216, 228 Лебег А. 198, 199, 206, 294 Лежандр A.M. 5, 98 Лейбниц Г. 177 Липшиц Р. 9, 11, 60, 62, 63, 109, 177-181, 186, 190, 192, 196-198, 201, 202, 204-207, 232, 240, 292, 293, 307, 318, 322, 323 Мазур С. 252 Майкл Е. 8, 263, 265, 273 Мильман Д.П. 7, 9, 11, 162, 171, 200, 209, 273, 285, 377 Милютин А.А. 140 Минковский Г. 5, 7, 8, 11, 20, 22, 53, 55, 58, 85, 107, 108, 134, 161, 162, 165, 235, 237, 274, 292, 294, 298, 311, 333 Моро Дж. 98, 142, 143, 145, 148, 389
412 Именной указатель Моцкин Т. 90 Нордлендер Г. 241, 242 Ньютон И. 177 Пифагор 170 Половинкин Е.С. 46, 127, 202, 233, 291, 292, 297, 303, 307, 308, 311, 314, 316, 321, 322, 352, 356, 358, 359, 363, 365, 369, 374, 380, 382, 384, 387, 390, 391, 393-395, 397, 399 Поляк Б.Т. 11, 12 Рело Ф. 368 Рокафеллар Р.Т. 12, 138, 142, 143, 145, 148, 215, 271, 272, 387 Слейтер М. 127, 211, 212, 214, 216 Соболев С.Л. 19 Стечкин СБ. 248, 252 Страшевич С. 169 Таккер А.В. 212 Тихомиров В.М. 12, 148 Тьюки Дж. 85 Фенхель В. 5, 11, 98, 102, 106, 385, 389 Ферма П. 136 Фреше М. 252 Хан В. 18, 85, 86, 248, 251 Хаусдорф Ф. 7, 9, 11, 33, 35, 36, 38, 40, 105, 106, 151, 161, 163, 186, 194, 196, 201-204, 237, 248, 257- 259, 273, 274, 280, 281, 283, 285- 287, 293, 304, 305, 307, 323, 346, 349, 358, 364 Хелли Э. 5, 93, 95, 96 Чебышев П.Л. 187, 251 Шаудер Ю. 273, 282-284 Штейнгауз X. 18 Штейнер Я. 5, 8, 9, 191, 192, 196- 198, 201, 207, 285, 287, 318, 321, 323 Эделстейн М. 243 Эйлер Л. 368 Экланд И. 8, 266, 267 Юнг Г. 11, 98, 161, 297, 385
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Аналог теоремы Ферма 136 Аффинно независимые точки 29 Барицентрические координаты 30 Вершина симплекса 30 Внутренность множества 15 Гиперплоскость 24 — опорная 82 Граница множества 15 Дополнение множества 15 Задача выпуклого программирова- программирования 211 — линейного программирования в канонической форме 217 нормальной форме 217 Замыкание множества 16 — функции 51 Инфимальная конволюция 99, 382, 385 Касательный вектор 42 Комбинация аффинная 28 — выпуклая 28 — линейная 26 Компакт 16 Конечная s-сеть 17 Конус 40 — асимптотический 45, 49 — барьерный 114 — касательный верхний (контин- (контингентный) 42, 48 Конус касательный верхний асимп- асимптотический 46 Кларка 43 нижний 42 асимптотический 46 — нормальный 111 Крайний луч 166 Локальная база топологии 17 Метод Лагранжа 148 Метрика 15 — Хаусдорфа 33 Многозначная s-проекция точки 204 Множество аппроксимативно ком- компактное 250 — афинное 24 — вполне ограниченное 17 — выпуклое 24 — замкнутое 16 — компактное 16 — крайнее 162 — локально выпуклое 48 симплициальное 61 — порождающее 324 — опорное 114 — открытое 16 в метрическом пространстве 15 — сильно выпуклое радиуса R 289, 349 — строго выпуклое 25 — чебышевское 251 — эффективное 50
414 Предметный указатель Множество М-сильно выпуклое 324 — т-замкнутое 274 — т-компактное 274 Надграфик 50 Невязка выпуклого компакта 395 Непрерывное разложение единицы 264 Неравенство Иенсена 53 для интеграла 106 — Коши-Буняковского 15 — Фенхеля 98 Оболочка аффинная 28 — выпуклая 26 — коническая 40 — линейная 28 — сильно выпуклая радиуса R 297 — М-сильно выпуклая 353 Оператор сеточный 231 — сопряженный 21 Опорный принцип 327 — функционал 82 Отображение многозначное 201 непрерывное 274 по Липшицу 201 — полунепрерывное сверху 253 снизу 253 — s-полунепрерывное сверху 253 снизу 253 Отделимость 79 — сильная 80 — строгая 80 — топологическая 21 Параллельное подпространство 25 Подмножество Я-сильно крайнее 309 Полупространство 24 Последовательность Коши (фунда- (фундаментальная) 14 — сходящаяся 14 Преобразование Лежандра-Юнга- Фенхеля 98 Преобразование функции второе m-сильно выпуклое 384 т-сильно выпуклое 384 Произведение множества на число 20 — скалярное 14 Производная по направлению 130 Пространство банахово 14 — векторное топологическое 17 — гильбертово 14 — гладкое 251 — линейное 13 — локально выпуклое 17 — метрическое 15 — нормированное 13 — полное 14 — равномерно выпуклое 241 — сепарабельное 14 — топологическое 16 Разность множеств геометрическая 22 Сетка 230, 394 Симплекс 30 Субградиент 134 Субдифференциал 134 Сумма множеств алгебраическая 20 — прямая 20 Тело выпуклое 24 — постоянной ширины 367 Теорема Бэра 18 — Банаха-Алаоглу 20 — Банаха-Штейнгауза 18 — Бляшке о компактности 36 — Вейерштрасса 51 — Дворецкого 95 — Дубовицкого-Милютина 140 — Каратеодори 121 — Крейна-Мильмана 162 — Куна-Таккера 212 — Майкла 265 — Минковского 235
Предметный указатель 415 Теорема Моро-Рокафеллара 142 — Моцкина 90 — о замкнутом графике 255 снятии шара 248 — об отделимости 85 очистке 157 — Понтрягина 258 — Страшевича 169 — Фенхеля-Моро 98 — Хана-Банаха 18 — Хелли 93 — Юнга 158 Топология 16 — слабая 20 — слабая* 20 Точка внутренняя 15 — выступающая 169 — граничная 15 — крайняя 161 — относительно внутренняя 29 — предельная 15 — Я-выступающая 377 — Я-сильно крайняя 309 Функция вогнутая 52 — вторая сопряженная 98 — выпуклая 52 сильно 171 строго 171 —, дифференцируемая по Гато 129 — замкнутая 51 — индикаторная 53 — коэрцитивная 176 Функция Лагранжа 212 — Минковского 53 — локально липшицева 51 — непрерывная в точке 51 — опорная 53 — положительно однородная 50 — полунепрерывная сверху 51 снизу 50 — порождающая 383 — сильно выпуклая с данным (опе- (операторным) параметром 389 — собственная 50 — субдифференцируемая на мно- множестве 172 — m-сильно выпуклая 383 Центрированная система подмно- подмножеств 16 Центр чебышевский 187 — Штейнера 191 Шар замкнутый в банаховом прост- пространстве 15 — описанный 158 — открытый в банаховом прост- пространстве 15 — открытый в метрическом прост- пространстве 15 Эпи-разность 382 Р-множество 69 s-вариационный принцип Экланда 267
Научное издание ПОЛОВИНКИН Евгений Сергеевич БАЛАШОВ Максим Викторович ЭЛЕМЕНТЫ ВЫПУКЛОГО И СИЛЬНО ВЫПУКЛОГО АНАЛИЗА Редактор Е.Ю. Ходан Оригинал-макет Е.А. Королевой Оформление переплета А.Ю. Алехиной ЛР №071930 от 06.07.99. Подписано в печать 11.03.04. Формат 60x90/16. Бумага офсетная. Печать офсетная. Усл. печ. л. 26. Уч.-изд. л. 26. Заказ № Издательская фирма «Физико-математическая литература» МАИК «Наука/Интерпериодика» 117997, Москва, ул. Профсоюзная, 90 E-mail: fizmat@maik.ru, http://www.fml.ru Отпечатано с диапозитивов в ОАО «Чебоксарская типография № 1» 428019, г. Чебоксары, пр. И. Яковлева, 15 ISBN 5-9221-0499-3 9 785922 104999