ЛЕНИНГРАДСКИЙ ОРДЕНА ЛЕНИНА И ОРДЕНА ТРУДОВОГО
КРАСНОГО ЗНАМЕНИ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
ИМЕНИ А. А. ЖДАНОВА
В.Г МАЗЬЯ
ПРОСТРАНСТВА
С. Л. СОБОЛЕВА
ЛЕНИНГРАД
ИЗДАТЕЛЬСТВОЛЕНИНГРАДСКОГО УНИВЕРСИТЕТА
1985

УДК 517.5
ПЕЧАТАЕТСЯ ПО ПОСТАНОВЛЕНИЮ
РЕДАКЦИОННО-ИЗДАТЕЛЬСКОГО СОВЕТА
ЛЕНИНГРАДСКОГО УНИВЕРСИТЕТА
Мазья В. Г. Пространства С. Л. Соболева. — Л.: Изд-во Ленингр. ун-та,
1985. 416 с.
В монографии рассматривается широкий круг вопросов теории прост-
пространств С. Л. Соболева. Даются обобщения и новые доказательства известных
теорем вложения Анализируются необходимые и достаточные условия спра-
справедливости различных интегральных неравенств для функций с обобщенными
производными, формулируемые в терминах изопериметрических неравенств.
Приводятся примеры, иллюстрирующие «патологические» особенности опера-
операторов вложения. Даны приложения к теории эллиптических краевых задач.
Книга предназначена для математиков — специалистов в области функ-
функционального анализа, теории функций и математической физики. Кроме того,
она может быть полезна аспирантам и студентам математических факультетов
университетов и педагогических вузов.
Библиогр. 253 назв. Ил. 25.
Рецензенты: проф. В. П. Ильин (Ленингр. отд. Мат. ин-та
им. В. А. Стеклова АН СССР), проф. А. И. Кошелев, зав. каф. высш. мат.
Ленингр. электротех. ин-та hm.JBJ"H. Ульянова (Ленина)
Издательство
м 1702050000-011 06 и © ^„ГерГГГ
М 076@2)-85 96 М 1985 г.

Посвящаю
Татьяне
Шапошниковой
ПРЕДИСЛОВИЕ
Пространства С. Л. Соболева, т. е. классы функций с произ-
производными из Lp, занимают исключительно важное место в анализе.
За последние двадцать лет в изучении этих пространств достиг-
достигнуты большие успехи, и теперь известно исчерпывающее решение
многих трудных задач, связанных с ними.
В настоящей монографии рассмотрены различные аспекты тео-
теории пространств С. Л. Соболева. Основное внимание уделено тео-
теоремам вложения. Такие теоремы, сформулированные и доказанные
С. Л. Соболевым еще в тридцатых годах, оказались полезным
аппаратом функционального анализа и теории линейных и нели-
нелинейных уравнений в частных производных.
Вот некоторые из вопросов, ответы на которые содержатся
в книге.
1. Какие требования к мере ц обеспечивают справедливость
неравенства
где Slp — пространство С. Л. Соболева или его обобщение?
2. При каких минимальных предположениях относительно
области сохраняют силу теоремы С. Л. Соболева, как они ме-
меняются при ухудшении свойств границы, как зависит класс
допустимых областей от дополнительных требований к гранич-
граничному поведению функций?
3. Сколь массивным должно быть подмножество е области Q,
чтобы выполнялось «неравенство Фридрихса»
для всех гладких функций, равных нулю в окрестности е?
Исследование этих и подобных вопросов интересно не только
само по себе. С помощью известных общих соображений оно при-
приводит к условиям разрешимости краевых задач для эллиптиче-
эллиптических уравнений и теоремам о структуре спектра соответствующих
операторов. Такие приложения также рассматриваются в книге.
Отбор тем, о которых идет речь, определился в значительной
мере участием автора в их разработке.
Книга не имеет сколько-нибудь существенных пересечений
с вышедшими в последние годы монографиями С М. Николь-

Предисловие
ского [104], О. В. Бесова, В. П. Ильина, С. М. Никольского [6],
Г. Трибеля [123], посвященными пространствам дифференцируе-
дифференцируемых функций.
Параграфы и пункты имеют соответственно двойную и трой-
тройную нумерацию C.1—§ 1 гл. 3, 1.4.3 —п. 3 § 4 гл. 1). Внутри
пунктов принята автономная нумерация теорем, лемм, предложе-
предложений, следствий, замечаний и т. п. Если в пункте лишь одна
теорема или лемма, то она не имеет номера. Ссылаясь на мате-
материал из другого пункта или параграфа, мы сначала указываем
его номер. Например, теорема 1.2.1/1—это теорема 1 из п. 1.2.1,
B.7/2)-формула B) из § 2.7.
Представление о содержании книги можно получить из Вве-
Введения. Большая часть литературных указаний собрана в коммен-
комментариях. В конце книги приведен список основных обозначений.
Я с благодарностью вспоминаю своего талантливого ученика
А. Л. Розина, погибшего в 1976 г. в альпинистском походе,
с которым неоднократно обсуждал содержание этой книги. Мне
приятно поблагодарить Ю. Д. Бураго, нашедшего, несмотря на
занятость, время для совместной работы над главой 6, а также
С. П. Преображенского за участие в написании п. 1.2.1. Я глу-
глубоко признателен С. В. Поборчему за многие существенные исправ-
исправления и улучшения рукописи. Я особенно благодарен Т. О. Ша-
Шапошниковой за конструктивную критику текста, полезные советы
и постоянную самоотверженную помощь в подготовке книги.

ВВЕДЕНИЕ
В работах С. Л. Соболева [115 — 117] были доказаны общие
интегральные неравенства для дифференцируемых функций несколь-
нескольких переменных и даны их приложения к ряду задач математи-
математической физики. С. Л. Соболев ввел понятие обобщенной произ-
производной и рассмотрел нормированное пространство W'p (Q) функций
из LP(Q), обобщенные производные которых порядка / суммируемы
со степенью р >? 1. Используя доказанные им теоремы об инте-
интегралах типа потенциала, интегральные представления функций и
свойства усреднений, С. Л. Соболев установил, в частности, что
при некоторых соотношениях между показателями р, I, q про-
пространство Wlp (Q) вложено в Lq (Q) или С (Q).
Теоремы С. Л. Соболева были в дальнейшем обобщены и уси-
усилены в различных направлениях (В. И. Кондратов, В. П. Ильин,
Э. Гальярдо, Л. Ниренберг и др.)-
В этих исследованиях область опре-
определения функций удовлетворяет так
называемому условию конуса (каж-
(каждая внутренняя точка является вер-
вершиной конуса постоянных высоты и
раствора, расположенного внутри
области). Простейшие примеры пока-
показывают, что это условие является
точным: если на границе имеется
«пик», направленный во внешность
области, то не всякая функция из
WP(Q) суммируема со степенью
рп/(п — р), п>р, вопреки неравен-
неравенству Соболева. Однако, взглянув на рис. 1, читатель легко убе-
убедится, что условие конуса не необходимо для вложения '"',' (Q)
в L2p/B-p) (Q), 2>/?. В самом деле, объединяя Q с зеркальным
отражением, мы получаем подчиненную условию конуса новую
область, для которой по теореме С. Л. Соболева упомянутое
вложение имеет место Следовательно, то же верно и для ис-
исходной области, хотя она и не удовлетворяет условию конуса-
Отметим теперь тот известный еще до результатов Соболева
факт, что отдельные интегральные неравенства справедливы при
весьма слабых предположениях об области. Например, неравен-
Рис. 1.

6 Введение
ство К- Фридрихса A927 г.)
$а ы» dx ^ К (So (grad ы)« dx + JdQ u2 ds)
было доказано при единственном предположении, что Q —огра-
—ограниченная область, для которой верна формула Гаусса —Остро-
—Остроградского [181]. В 1933 г. О. Никодим [229] предложил пример
области, для которой из квадратичной суммируемости градиента
не следует квадратичная суммируемость функции. В монографии
Р. Куранта и Д. Гильберта [46] изложены достаточные условия,
при которых верны неравенство Пуанкаре
$Q u'dx^K $й (grad ufdx + (\imnu) (Ja udxj
и лемма Реллиха о компактности в L2(Q) множества, ограни-
ограниченного в метрике SS2 [(graduJ + u2]ebc
В связи со сказанным естественно возникает задача описания
классов областей, принадлежность к которым эквивалентна" тем
или иным свойствам операторов вложения. В ряде статей автора,
первая из которых появилась в 1960 г., были получены необхо-
необходимые и достаточные, а также более простые достаточные усло-
условия справедливости некоторых теорем вложения пространств
типа Wlp(Q).
В случае р=\ эти условия представляют собой «изоперимет-
рические» неравенства, связывающие объем и площадь всей или
части границы произвольного подмножества области. Доказатель-
Доказательства были основаны на некотором новом в то время приеме,
базирующемся на представлениях интегралов от функций и их
производных в терминах множеств уровней и оценке получив
шихся интегралов при помощи изопериметрических неравенств.
Одновременно и независимо от автора тот же прием был исполь-
использован Федерером и Флемингом [176] для доказательства неравен-
неравенства Гальярдо
с точной константой.
При р > 1 таких геометрических терминов, как объем и пла
щадь, уже недостаточно для адекватного описания свойств обла-
области Здесь появляются изопериметрические неравенства между
объемом и /^-емкостью или /^-проводимостью [60 — 63, 68, 71].
->ги результаты и явились центром конденсации материала
настоящей книги, хотя нельзя сказать, что они ее исчерпывают
даже в идейном плане.
В книге рассматриваются многие вопросы теории пространств
Соболева, но основное внимание уделено исследованию операто-
операторов вложения.

Введение
Самая обширная глава 1 представляет собой современное вве-
введение в теорию. Вероятно, ее можно положить в основу спец-
.курса по теоремам вложения. Наряду с изложением классиче-
классического материала глава содержит и сравнительно новые результаты.
В § 1.3 проведено полное исследование одномерного неравен-
неравенства Харди с двумя весами. В § 1.4 включены принадлежащие
Д. Р. Адамсу [132, 133] и автору [82] обобщения теорем С. Л. Со-
Соболева, в которы§ речь идет о необходимых и достаточных усло-
условиях суммируемости со степенью q по произвольной мере для
функций из пространства Wlp{u). При этом предполагается, как
и в работах Соболева, что область — «хорошая», например, удов-
удовлетворяет условию конуса. Вообще в том, что касается требова-
требований к области, в главе 1 почти везде соблюдается принцип «всё
или ничего».
Исключение составляет § 1.5, где речь идет о продолжении
функций из пространств Соболева с сохранением класса. (В по-
последнее время этому вопросу было уделено много внимания.)
Здесь, в частности, приведен пример области, для которой опе-
оператор продолжения существует, но которая не является квази-
квазикругом.
В § 1.6 получено интегральное представление для функций
из Wlp(Q), удовлетворяющих на 3Q однородным условиям Коши
до порядка k — 1, Ik з* /. Из этого представления следуют тео-
теоремы вложения соболевского типа, какова бы ни была ограни-
ограниченная область Q. В случае 2k<.l на примере показано, что
ограничения на дп необходимы.
Идея эквивалентности изопериметрических неравенств и тео-
теорем вложения проходит красной нитью через многие главы книги.
В главе 2 рассматриваются неравенства, содержащие первые
производные функций, равных нулю на границе. Большая часть
этой главы посвящена необходимым и достаточным условиям
справедливости интегральных неравенств. Специально отметим
доказанные в § 2.1 важные для приложений многомерные весовые
неравенства типа Харди —Соболева. Основные результаты главы 2
находят применение к спектральной теории оператора Шредин-
гера (§ 2.5)
В главах 3 — 5 изучается пространство LP(Q), содержащее
функции с градиентом из LP(Q). Глава 3 посвящена случаюр — 1.
Здесь найдены необходимые и достаточные \словия справедливо-
справедливости теорем вложения, формулируемые в терминах классов Ja, и
развита методика проверки принадлежности конкретных областей
этому классу. В главах 4 и 5 рассмотрен случай р>\. Здесь
критерии формулируются в терминах /^-проводимости. В главе 4
обсуждаются теоремы вложения в пространства' Lq (Q) и Lq(dQ),
а в главе 5 —в пространство LOT(Q)D C(Q). Здесь, в частности,
даны необходимые и достаточные условия справедливости упомя-

8 Введение
нутых ранее неравенств Фридрихса и Пуанкаре, а также леммы
Реллиха. В книге приведены многочисленные примеры областей,
характеризующие возможные патологии операторов вложения. Так,
например, в § 1.1 показано, что из суммируемости с квадратом
вторых производных и самой функции не следует суммируемость
с квадратом первых производных. В § 5.5 рассмотрена область,'
для которой оператор вложения W\,(Q) в La>{u){\C (Q) непреры-
Еен, но не вполне непрерывен —для областей с-хорошими грани-
границами это невозможно. Результаты глав 3 — 5 показывают, что не
только классы областей определяют параметры р, q и т. п. в тео-
теоремах вложения, но что имеется и обратная связь. Критерии
справедливости интегральных неравенств находят в главе 4 не-
непосредственное приложение к теории эллиптических краевых
задач. Окончательные результаты исследования операторов вло-
вложения позволяют получить необходимые и достаточные условия
однозначной разрешимости и дискретности спектра краевых задач,
в частности задачи Неймана.
Написанная вместе с Ю. Д. Бураго глава 6 посвящена иссле-
исследованию пространства BV (Q) (bounded variation), содержащего
функции, градиенты которых являются векторными зарядами.
Здесь найдено необходимое и достаточное условие, обеспечиваю-
обеспечивающее существование ограниченного (нелинейного) оператора продол-
продолжения BV{Q)-+BV (Rn). Для пространства BV (Q) найдены не-
необходимые и достаточные условия справедливости теорем вложе-
вложения, аналогичные полученным в главе 3 для L\ (Q). В некоторых
интегральных неравенствах вычислены точные константы. Резуль-
Результаты § 6.5, 6.6 о следах функций из BV (Q) на границе позво-
позволяют говорить о граничных значениях «плохих» функций, задан-
заданных в «плохих» областях. Наряду с результатами Ю. Д. Бураго
и автора в главе б приведены теоремы Де Джорджи — Федерера
об условиях справедливости формулы интегрирования по частям.
В главах 2 — 6 речь идет в основном о функциях с первыми
производными из Lp или С*. Это ограничение вызвано существом
дела, так как в доказательствах используется операция срезки
функции по уровням. Следующие шесть глав посвящены функ-
функциям с производными любого целого, а иногда и дробного порядка.
Глава 7 является вспомогательной. В ней в основном без до-
доказательств приведены используемые в дальнейшем известные
факты теории пространств бесселевых и риссовых потенциалов,
а также пространств Л. Н. Слободецкого и О. В. Бесова в Rn.
В главе 7 дан также обзор результатов теории (р, /)-емкостей и
нелинейных потенциалов.
В главе 8 исследуются необходимые и достаточные условия
справедливости неравенства
С A)

Введение
где Lq (jj.) — пространство с нормой {^\и\ч dy^Vq, ц—мера и
Slp — одно из упомянутых выше пространств. В случае q>-p по-
последнее неравенство эквивалентно изопериметрическому неравен-
неравенству, которое связывает меру ц и емкость, порожденную прост-
пространством 5р. Это — результат такого же типа, как и теоремы
глав 2 — 6. Он непосредственно следует из неравенства
где N( = {x: | и{х) \^Ц- Неравенства такого типа, впервые уста-
установленные автором для пространств Lp (Q) и Lp (Rn) [78], были
применены к ряду вопросов теории функций и в последнее время
активно исследовались Д. Р. Адамсом [136], Б. Дальбергом [163],
К- Ханссоном [190, 191], автором [79, 84] и др. Переход к произ-
производным любого порядка оказался нетривиальным и к настоящему
времени осуществлен лишь для функций, заданных на всем про-
пространстве.
В случае q>p^sl критерий справедливости неравенства A)
не требует емкости: мера любого шара должна оцениваться не-
некоторой функцией радиуса. Принадлежащие автору и С. П. Преоб-
раженскому [87] и автору [82] результаты такого рода также
изложены в главе 8. Они примыкают к теореме Д. Р. Адамса
[132, 133], приведенной в § 1.4.
В главе 9 определена и изучается некоторая разновидность
емкости. По сравнению с емкостями, введенными в главе 7, здесь
класс допустимых функций в вариационной задаче сужен: они
подчинены условию и(х) = 1 в окрестности компакта. В случае
емкостей из главы 7 допустимые функции мажорируют единицу
на компакте. Если число производных / в норме пространства
равно единице, то обе емкости совпадают, но при 1ф\ их экви-
эквивалентность требует доказательства, которое и приведено в
§9.3.
Емкость, введенная в главе 9, используется во всех следую-
следующих главах при доказательстве различных теорем вложения.
Некоторое полезное неравенство типа Фридрихса для функций
на кубе подробно изучается в главе 10. На его основе в главе 11
исследуются условия вложения пространства Llp (Q) в различные
функциональные пространства. Здесь Vp{u) — пополнение прост-
пространства гладких финитных функций в метрике [I V,u \L (Q). Как
известно, это пополнение, вообще говоря, не вложено даже в про-
пространство обобщенных функций $2?'. В главе 11 даны необходи-
необходимые и достаточные условия вложений Llp(Q) в &', Lg(Q, loc),
L,(Q). При /? = 2 эти результаты можно интерпретировать как
необходимые и достаточные условия разрешимости в энергетиче-

10 Введение
ском пространстве задачи Дирихле для полигармонического урав-
уравнения в бесконечных областях при условии, что правая часть
принадлежит J?' или Lg(Q). Наконец, в главе 12 установлены
критерии ограниченности и компактности оператора вложения
пространства Llp{Q, v) в Wrq(Q), где v — мера, a L'P(Q, v) — попол-
пополнение C|T(Q) по норме [<\a'l^iu\pdx-\-^lu\pdvJ1/p. Эта глава,
результаты которой представляют собой развитие известного кри-
критерия дискретности спектра оператора Шредингера, найденного
А. М. Молчановым [99], основана на статьях автора [75] и автора
и М. Отелбаева [86].

Глава 1
ОСНОВНЫЕ СВОЙСТВА ПРОСТРАНСТВ СОБОЛЕВА
§ 1.1. ПРОСТРАНСТВА Lp(Q), Vp(Q) И Wlp(Q)
1.1.1. Некоторые определения и обозначения. Пусть Q — откры-
открытое подмножество я-мерного евклидова пространства Rn = \x}.
Через С°° (Q) обозначим пространство бесконечно дифференцируе-
дифференцируемых в Q функций, а через С°° (Q) — пространство сужений на Q
функций из С00 (Rn). В дальнейшем if (Q) или Cj°(Q)— простран-
пространство функций из С* (R") с компактными носителями в Q.
Аналогично определяются классы C*(Q), C*(Q), C*(Q) функ-
функций с непрерывными производными порядка k, а также классы
Cka(Q), Cka(Q), C^a(Q) функций, производные которых по-
порядка k удовлетворяют условию Гельдера порядка а<=@, 1].
Пусть, кроме того, ^9"'(Q)—сопряженное SJ(О) пространство
обобщенных функций (см. И. М. Гельфанд, Г. Е. Шилов [19],
Л. Шварц [242]). Через LP(Q), l^p^oo, обозначим простран-
пространство измеримых по мере Лебега функций в Q, для которых
и через LP(Q, loo) — пространство функций, локально суммируе-
суммируемых со степенью р в Q. В Lp (Q, loc) естественно определяется
счетная система полунорм \u\l (<ал, где {ша}*>1 —последователь-
—последовательность областей с компактными замыканиями ®k, &k cz (o*+i c: Q,
lj(Oft = Q. Тогда пространство LP(Q, loc) становится полным
к
метризуемым.
В случае Q = Rn указание на Q в обозначениях пространств
и норм иногда будем опускать. Интегрирование без указания
пределов распространено на R".
Пусть, кроме того, supp/ —носитель функции /, dist (F, Е) —
расстояние между множествами F и Е, В (х, р) или В„ (я) — откры-
открытый шар с центром х и радиусом р, ВР = В()(О). тп — п-мерная
мера Лебега в Rn, vn~mn(Bi).
Через с, С\, с2, ... будем обозначать положительные постоян-
постоянные, зависящие только от «безразмерных» параметров п, р, I и др.
Две величины а и b считаются эквивалентными (обозначение а^Ь),
если существуют такие константы clt c2, что t^a < b < с2а.
Если a — мультииндекс (аь .... а„) то, как обычно, |а| =
а- al=ai!.--aBI. Da = D"j...D^, где' Dx. =

12 §1.1. Пространства Llp (Q), V!p(Q) и Wlp(Q)
= d/dxi, хх = ха^...хапп, Рэ=а, означает P,-2==ab t = l, ..., п. На-
Наконец, V/ = jD*}, где |aj = /, и V = Vi.
1.1.2. Локальные свойства элементов пространства L!P(Q).
Обозначим через Llp (Q) пространство обобщенных функций в Q,
производные которых порядка / принадлежат пространству LP(Q).
В Llp (Q) введем полунорму
Теорема. Любой элемент пространства Llp (Q) есть функция
из LP(Q, loc).
Доказательство. Пусть w и g — ограниченные открытые
подмножества Rn, такие, что ocjcQ, причем каждое после-
последующее множество содержит е-окрестность предыдущего. Через ф
обозначим функцию из Ш (Q), равную единице на g, и через
и — произвольный элемент пространства Llp(Q). Положим еще
Т =<ри и введем функцию tje^, такую, что т) = 1 в окрестно-
окрестности начала координат и supp т) с: Вг.
Как известно, фундаментальное решение полигармонического
оператора А' имеет вид
/ Сп. 11 х i2'-", если 21 < п или 21 ^ п, п — нечетное;
\cnii\x,2'-nlog\x, если 21^2п, п — четное.
(Константа cnj выбрана так, чтобы обеспечить равенство АТ=б(л;).)
Легко видеть, что А'(т)Г) = ?-f б, где ?,&.&(Rn). Сле-
Следовательно *,
Функция t,*T принадлежит пространству С°°(Rn). Остается изу-
изучить Оа(т)Г) *DaT. Так как в g D*T = Da (<pu) = фОа« * *, то в о
D%(т)Г) #DaT = D'x(r\T)*(fDxu. На функцию фЬа« действует инте-
гральньй оператор «со слабой особенностью», как известно, не-
непрерывный в Lp (со). ¦
Следствие. Если « е L!p(Q), то все производные D*u (пони-
(понимаемые в смысле теории обобщенных функций) порядка |а| =
= 0, 1, ..., 1—1 принадлежат пространству LP(Q, loc).
Доказательство непосредственно вытекает из теоремы и вклю-
включения Dau<=Llp~al(Q).
Замечание. Из результатов п. 1,4.5 следует, что теорему
можно усилить, уточнив локальные свойства элементов простран-
пространства Lp(fi).
* Звездочкой обозначена свертка.
¦'Мы используем равенство D* (ф")=2а>р (а1/Р' (а

1.1.3. Абсолютная непрерывность функций из L'p (Q) 13
1.1.3. Абсолютная непрерывность функций из LP(Q). Остано-
Остановимся на одном хорошо известном свойстве пространства L\ (Q),
р2=1. Будем говорить, что функция, заданная в Q, абсолютно
непрерывна на прямой I, имеющей непустое пересечение с Q, если
она абсолютно непрерывна на любом отрезке этой прямой, заклю-
заключенном в Q.
Теорема 1. Любая функция из LP(Q) (быть может, изменен-
измененная на множестве нулевой меры от,,) абсолютно непрерывна на
почти всех прямых, параллельных любой координатной оси. Гра-
Градиент функции из Lj, (Q) (понимаемый в смысле теории обобщен-
обобщенных функций) совпадает почти всюду с обычным градиентом.
В доказательстве этого утверждения используется следующее
простое утверждение.
Лемма. Пусть g^.Lx (О, 1) — произвольная функция из & (О, 1).
Если \lg(t)r)'(t)dt = O, то g(t)= const при п. в. t «= @, 1).
Доказательство. Пусть Ф и а —функции из И&@, 1),
причем ^а(т)<#с=1. Очевидно, что функция Ф — а^Ф
является производной функции из & (О, 1). Поэтому
Поскольку Ф —любая функция из & @, 1), то
$U(*)a№dT п. в. на @, 1).
Доказательство теоремы 1 достаточно провести в предположе-
предположении, чтоQ — куб {я: 0<лг*< 1, 1<1^п}.Пустьл;' = (лгь..., xn-x) —
точка (п — 1)-мерного куба <а = {х': 0<С*»<;1, l^i^n — 1}.
Так как по теореме Фубини п. в. в (о
У0\(ди/д()(х', 0|^<оо,
где du/dt — производная в смысле теории обобщенных функций,
то функция
§x', t)dt
при п. в. х' е« абсолютно непрерывна на отрезке [0, 1] и ее
производная (в смысле классического определения) совпадает
с ди/дХп п. в. на @, 1).
Пусть ?е.^(о>) и Tje^@, 1). Интегрируя по частям,
находим
После умножения этого тождества на ? (л;') и интегрирования
по о» получим
la v (х) г)' (*„) С (*') dx = - $Q т, (*„) С (*') (dv/dxn) dx.

14 § 1.1. Пространства Lp(Q), Vp(Q) и Wlp (Q)
Но по определению производной обобщенной функции
]Q и (х) т)' (хп) I (х') dx = — JQ т) (*„) g (л;') (д»/а«.) dx.
Приравнивая левые части двух последних тождеств и используя
произвольность функции ? е^" (<о), получаем, что при п. в. х' ею:
Ц [и (*', xn)-v (*', х„)] у]' (хп) dxn = 0.
По лемме разность и (х'', л;л) — о (л;', л;п) п. в. на (о не зависит от хп-
Иначе говоря, при почти любом фиксированном х' на отрезке
u(x) = \)**(du/dt)(x', O^+const.
Справедливо и обратное утверждение.
Теорема 2. Если функция и в Q абсолютно непрерывна на
почти всех прямых, параллельных координатным осям, и ее пер-
первые производные (в классическом смысле) принадлежат LP(Q), то
они совпадают с соответствующими производными в смысле тео-
теории обобщенных функций и, следовательно, MeL^(Q).
Доказательство. Пусть vj — производная и по xs (в клас-
классическом смысле) и rie^r(Q). Интегрируя по частям, получаем
равенство
Jo VP/ d* = — So (dx\/dxj) udx,
которое показывает, что ay является производной (в смысле тео-
теории обобщенных функций) функции и по Xj.
1.1.4. Пространства Wlp(Q) и V!P(Q). Введем пространства
W'p (Q) = Llp (Q) П Lp (Q) и Vlp (Q) = f| Lkp (Q),
*o
снабженные нормами
п
* = 0
Приведем два примера областей, показывающие, что, вообще
говоря, Lp (Q) Ф W'p (Q) Ф Vp (Q).
В работе О. Никодима [229], посвященной изучению функций
с конечным интегралом Дирихле, приведена область, для кото-
которой не всякая такая функция суммируема с квадратом, другими
словами, WJ (Q) =^= Z4 (Q).

1.1.4. Пространства Wl (Q) и V (Q)
15
Пример 1. Рассмотренная Нйкодимом область Q есть сумма
прямоугольников (рис. 2):
Ak = {(x, у): 21-*-2-
Bk = {(x, у): 2l-»-H
С = {{х, у):
A)
расходился. Пусть функция и непрерывна в Q, равна ak в Ак,
нулю в С и линейна в Bk. Эта функция в силу расходимости
где efce@, 2-»-1) и k=\, 2, ...
Положительные числа ак выбираются так, чтобы ряд
У
1
I
Am
-
Вт
с
1 X
Рис. 2.
V
E
ем
2 х
Рис. 3.
ряда A) не принадлежит L2(Q), но можно выбрать числа гк столь
малыми, что интеграл Дирихле функции м, равный
будет сходиться.
Пример 2. Для изображенной на рис. 3 области Q простран-
пространства Wl (Q) и V\ (Q) не совпадают. Пусть
О в Р,
и{х, */) = { 4m(y-\f в 5т (т=1, 2, ...),
/-1)-1 в Рт (т=1, 2, ...).

ib § 1.1. Пространства Llp(Q), Vlp(ii) и W'p
Очевидно, что
5 ^s (Vu)*dxdy.~2-3m,
Следовательно, jj VU|L, (Q) = oo и ll|)
1.1.5. Аппроксимация функций из пространств Соболева функ-
функциями, гладкими в Q. Пусть ipEf, Ф^О, suppcpcBi и
JФ(л;)dx = 1. Любой функции не/.(й), продолженной нулем
на Rn\Q, поставим в соответствие семейство ее усреднений:
(<*0Ем) (л;) = е-" \ ф ((л; - у)/я) и (у) dy.
Функция ф называется усредняющим ядром, а число г—ра-
г—радиусом усреднения.
Следующие утверждения почти очевидны:
1) С°Щ
2) если «eLp(Q), то <Л&и-+и в LP(Q) и
3) если со—ограниченная область, cdcQ, to при достаточно
малом в в со справедливо равенство
Da<JLRu = <JLuDau.
Поэтому для HeiJ, (Q)
Dae?eu-*-Dau в Lp(cd).
Используя усреднения, легко показать, что равенство
I с.2) = 0, где Q—область, означает, что и —полином степени
р
не выше / — 1.
Следующие две теоремы утверждают возможность аппрокси-
аппроксимации любой функции из Llp (Q) и W'p (Q) бесконечно дифферен-
дифференцируемыми в Q функциями.
Теорема 1. Пространство Llp (Q) (] С°° (Q) плотно в LP(Q).
Доказательство. Пусть {<$?4*з*1 —локально конечное
покрытие U открытыми парами <&8k, <Mkc^Q, и пусть {ф*}*^1 —
подчиненное этому покрытию разбиение единицы. Пусть, кроме
того, «—любая функция из Llp(Q) и {pft} — последовательность

1.1.5. Аппроксимация функциями, гладкими в Q 17
положительных чисел, стремящаяся к нулю монотонно и столь
быстро, что последовательность концентрических шаров |A +р*)«®*}
обладает теми же свойствами, что и {?Вк\ *. Через хюк обозначим
усреднение функции ы* = ср*ы с радиусом pkrk> где гк — радиус 3$к-
Ясно, что функция w=Yiwk принадлежит пространству Сет(й).
Возьмем е е (О, 1/2) и выберем р* так, чтобы имело место не-
неравенство
\йк — Wk\\Li (Q)<8*.
На любом открытом ограниченном множестве ю, © с й, спра-
справедливо равенство и — ^1кик. (Здесь сумма содержит конечное
число слагаемых.) Поэтому
1 и — до | , ^ V1 3 ц. — хЮъ 1 I ^ Е М — в).
Р Р
Следовательно, w e Llp(й) ПС°°(й) и \u — w\Li ^2e.
Точно так же доказывается следующее утверждение.
Теорема 2. Пространство W'B (й) П С°° (й) плотно в W'p (й),
а пространство Кр(й)ПС°°(й) плотно в VP(Q).
Замечание. В доказательстве теоремы 1 по существу пока-
показано, что для множества й с компактным замыканием простран-
пространство U (Q) П С00 (й) П С (Й) плотно в ^Р(Й)ПС(Й) и, разумеется,
здесь можно заменить Lp на W7^ или V'p.
Действительно, будем считать, что числа рк выбраны так, что
дополнительно имеет место неравенство
Пусть
ib-2L
Тогда
sup |««; (х) - Vw W I <
и, следовательно, ay e С (й) как предел последовательности не-
непрерывных функций на Й. Вместе с тем
* Если e®ft=B(jcl то по определению

18 § 1.1. Пространства Llp (Q), Vlp(Q) и W'p (Q)
1.1.6. Аппроксимация функций из пространств Соболева функ-
функциями из COT(Q). Приведем пример области, для которой в тео-
теоремах 1.1.5/1 и 1.1.5/2 нельзя заменить C°°(Q) на С°°(й).
Введем на плоскости полярные координаты (р, б), где 0 ^ б <
<2л, и рассмотрим область й = {(р, б): 1<р<2, 0<б<2я},
граница которой состоит из окружностей р = 1, р = 2 и интер-
интервала {(р, 9): 1<р<2, 8 = 0}. функция и —В суммируема на Q
со всеми своими производными, но не является абсолютно непре-
непрерывной на отрезках прямых х = const >0, пересекающих Q.
Согласно теореме 1.1.3/1 она не принадлежит пространству L{,(Qi),
где Qx —кольцо {(р, 8): 1<р<2, 0=^8<2я}. Следовательно,
производные этой функции не аппроксимируются в среднем функ-
функциями из C°°(Q).
Необходимое и достаточное условие возможности аппроксима-
аппроксимации функций из пространств Соболева функциями из С°° (&) не-
неизвестно. Две теоремы этого пункта содержат простые достаточные
условия плотности С°°(й) в V'P(Q), Wlp(Q) и Lp (Q).
Определение. Область fie/?" называется звездной отно-
относительно некоторой точки, если любой исходящий из этой точки
луч имеет одну и только одну общую точку с dQ.
Теорема 1. Если Q — ограниченная область, звездная относи-
относительно точки, то пространство С°° (й) плотно в W'p (Q), V', (й)
и L'P(Q).
Доказательство. Пусть aefp(fi). Будем считать, что
область Q звездна относительно начала координат. Введем обо-
обозначение их (х) = и (тле), где те@, 1). Нетрудно видеть, что
I"-"xSlp(Q)-^0 при -с->-1.
Из определения обобщенной производной следует, что Da (ux) =
= T'(Da«)T, \a\ = l. Поэтому ^е^^Й) и
I Da (ы - ыт) \\Lp ш, < A -тО I! Dau \\Lp l0) +1 Dau - (Da«)T \\Lp {B).
Правая часть этого неравенства стремится к нулю при т->1 и,
значит, их-+и в W'P(Q).
Так как Q с тгЧЗ, последовательность усреднений функций их
сходится к и в W'p (Q). Это позволяет с помощью диагонального
процесса построить последовательность функций из С°° (Q), аппрок-
аппроксимирующую и в W'p (Q).
Доказательство плотности С°°(й) в Wlp(Q) закончено. Про-
Пространства L'p (й), Vlp (й) рассматриваются аналогично.
Теорема 2. Пусть й — область с компактным замыканием
класса С, т. е. обладающая следующим свойством: каждая точка
jeedfi имеет окрестность U, такую, что в некоторой системе
декартовых координат множество Q,[\U представляется неравен-

1.1.6. Аппроксимация функциями из C°°(Q) 19
ством xn<Lf(xi, .._., Xn-ij, где f — непрерывная функция. Тогда
пространство С°°(Й) плотно в W'P(Q), Vlp(Q) и L'P(Q).
Доказательство. Ограничимся для определенности рас-
рассмотрением пространства V'P(Q). Согласно теореме 1.1.5/2 мож-
можно с самого начала предположить, что и принадлежит пересече-
пересечению С°° (Q) П V'p (Й).
Пусть {i/} —столь мелкое открытое покрытие дй, что U [}д&
допускает явное задание в декартовых координатах, и пусть
{г)\— гладкое разбиение единицы, подчиненное этому покрытию.
Достаточно построить требуемую аппроксимацию для функции иц.
Следовательно, можно считать, что
Q = {x = (x', ха): *'e=G, 0<*„</(*%
где G —подобласть R"-1, /eC(G), />0 на G, и что и — функция
с компактным носителем в Q|J{*: Jt'eG, xn — f(x')\.
Обозначим через е достаточно малое положительное число.
Очевидно, что функция ие(х) — и(х', х„ — г) — гладкая на Й. Кроме1
того, ясно, что для любого мультииндекса а
I Da («в - и) \lp (О) = 1 (С-и). - 0*4 \Lp т -> О
При 8-> + ()• ¦
Замечание. Рассмотренная в начале раздела область Q,
для которой пространство С°°(Q) неплотно в пространствах
Соболева, обладает свойством дпфдп. Можно было бы предпо-
предположить, что равенство dQ=dQ обеспечивает плотность С°°(й)
в Llp (Q). Однако, согласно следующему примеру эта гипотеза
неверна [204].
Пример. Покажем, что существует такая ограниченная область
Q cz Rn, что дп =дп, и множество Llp (Q) П С (Q) неплотно в LP(Q).
Пусть сначала п = 2. Обозначим через К замкнутое, нигде не
плотное подмножество отрезка [—1, 1], и {В;} — последовательность
открытых кругов, построенных на интервалах смежности множе-
множества К как на диаметрах. Пусть, кроме того, В — круг 2 г4
Обозначим через Й множество B\\jBt. Ясно, что можно по-
построить К так, чтобы линейная мера множества Г = {х е К,
i х К 1/2} была положительной. Рассмотрим характеристическую
функцию верхней полуплоскости г/>0 и функцию т) е Cf (—1, 1),
равную единице на (—1/2, 1/2).
Функция U, определенная равенством U (x, y) = r\(x)Q(x, у),
принадлежит пространству Lp (В) при всех р 5= 1. Допустим, что
Uj-*-U в LP(Q,), {uj\j-^\ —последовательность функций из
С (й) П Lp (й). Согласно предположению для п. в. х е Г и для всех

20 § 1.1. Пространства Llp (Q), Vp(Q) и Wp(Q)
6s@, V.)
uy(x, б)-и, (ж, — 6) = Ji e (ди, (дс, y)/dy)dy.
Следовательно,
$r | uj (x, 6) - ыу (x, - 8) | 5 S
где Г(б) = Гх(— б, б).
Так как «/->?/ в Lj (Q), то интегралы
И
г (в)
Равномерно малы. Поэтому для любого е>0 существует такое
о > 0, что для всех б е @, б0)
\г | uj (х, б) — uj (х, - б) | dx < e.
Применяя теорему Фубини, получаем, что левая часть неравен-
неравенства стремится к
$г!?/(*, б)-?/(*, -б)|^ = тх(Г)
при /-»-оо для почти всех малых б. Следовательно, /П1(Г)^е,
что противоречит положительности т^ (Г).
Так как dQ = dQ, то требуемый контрпример построен при
п«=2.
Если п>2, то обозначим через ю только что рассмотренную
плоскую область. Положим Q = <oX@, 1)"-2 и повторим предыду-
предыдущее рассуждение.
1.1.7. Преобразование координат в нормах пространств Соболева.
Пусть И и G — областЬ в Rn и Г: t )
гомеоморфное отображение Н на С
Говорят, что Т — квазиизометрическое отображение, если для
любых точек уоёЯ, *о е G
v_v. ]У-У*\ п
и якобиан det *' (у) сохраняет знак в Н.
Мы предоставляем читателю проверить, что оценки A) равно-
равносильны соответственно следующим неравенствам:
\x'(y)\^L п. в. на Я, \\y'(x)\\^L п. в. на G,
где х', у' — матрицы Якоби отображений у-*~х(у) и х-+у(х),
а |*| — норма матрицы. Отсюда непосредственно вытекает, что для
якобиана квазиизометрического отображения верны оценки
B)

1.1.8. Области, звездные относительно шара 21
По определению отображение Т принадлежит классу С'-1^1 (Я),
/5=1, если функции у^-х^у) принадлежат классу С'-11 (Я).
Легко показать.что если Т — квазиизометрическое отображе-
отображение класса С'~1-1(Я), то Г принадлежит классу С1~1ш1(й).'
Теорема. Пусть Т — квазиизометрическое отображение Н на G
класса С'-11 (Я), /^=1. Пусть, кроме того, u^Vlp(G) и v(y) =
= и(х (у)). Тогда v^Vlp (Я), и при п. в. у е Я производные Day (у).
| а | ^ /, существуют и выражаются классической формулой
<l^<ll& C)
Здесь
причем суммирование распространено на все наборы мультииндек-
сов s — (Sij), подчиненные условиям
Кроме того, нормы 1»Ру/(//) « '"^'(о эквивалентны.
Доказательство. Пусть и еС°°(G) П Ур (G). Тогда функ-
функция и абсолютно непрерывна на почти всех прямых, параллель-
параллельных координатным осям, и ее частные производные при п. в. у
выражаются формулой
до (у)/дут = 2^=, (dXi (у)/дУт) (du/dxt) (х (у)). D)
Так как
то согласно теореме 1.1.3/2 v ^VP(H). Аппроксимируя произ-
произвольную функцию u<=Vp (G) функциями из С00 (G) П Ур (G) (см. тео-
теорему 1.1.5/2), выводим требуемое в случае 1=1.
При /> 1 результат получается индукцией. Пусть формула C)
верна для |а| = /— 1. Так как Ле Fj,(G), то согласно только
что доказанному функции у -> (D$u) (x (у)) принадлежат простран-
пространству Vp(Я). Отсюда и из включения ф^еС0-1 (Я) следует, что
каждое слагаемое правой части равенстга C), где |а| = /—1,
принадлежит пространству Vlp(H). Применяя к C) при |а|=э/
формулу D), приходим к оценке
1.1.8. Области, звездные относительно шара.
Определение. Область Q звездна относительно шара, рас-
расположенного в й, если она звездна относительно каждой точки
этого шара.

22 § 1.1. Пространства L'p (Q), V'p (Q) н Wp (Q)
Лемма. Пусть й — ограниченная область, звездная относительно
шара Вр с радиусом р ы центром в начале сферических координат
(г, ю). Если г = /¦(&)— уравнение дп, то функция г (со) удовлет-
удовлетворяет условию Липшица.
Доказательство. Покажем, что если х, i/edfi и
|©*-©у|<1, A)
то \х-у\^2О*р-1\<йх-<йу\.
Неравенство A) означает, что угол ф между векторами хну
меньше, чем л/3. Покажем, что прямая /, проходящая через
точки хну, не может пересекать шар вр/2 с радиусом р/2 и
центром в начале координат.
Действительно, если существует точка z е / (] Вр/Ъ то в силу
звездности Q относительно z точка z принадлежит отрезку ху.
Рассмотрим треугольники Охг и Оуг. Так как |*|>р, \у\>р,
jz|«?p/2, то \z\^\y—z\, \z\^\x—z\. Поэтому угол хОг больше
угла хгО и угол уОг больше угла yzO. Следовательно, угол ф,
равный сумме углов xOz и yOz, не меньше, чем я/3, что проти-
противоречит неравенству A).
Расстояние от точки О до прямой / равно |дс| | у\ \ х — г/1-1 sin ф,
и так как 1\\Вр%Фф, оно не меньше р/2. Следовательно,
Замечание. Нетрудно проверить, что верно и обратное
утверждение. Именно, если Q — ограниченная область, граница
которой допускает явное задание г = г(а>) в сферических коорди-
координатах, причем г (ю) удовлетворяют условию Липшица, то Q звездна
относительно некоторого шара с центром в начале координат.
1.1.9. Области класса С01 или удовлетворяющие условию
конуса.
Определение 1. Будем говорить, что ограниченная область й
принадлежит классу Сол, если любая точка дседй имеет окрест-
окрестность U, такую, что в некоторой декартовой системе координат
множество U П Й может быть представлено неравенством хп<.
</(*!, ..., xn-i), где f — функция, удовлетворяющая условию
Липшица.
Из леммы 1.1.8 следует, что ограниченная область, звездная
относительно шара, принадлежит классу С01.
Определение 2. Область Q удовлетворяет условию конуса,
если в каждую ее точку можно поместить вершину конуса, задан-
заданного в некоторой декартовой системе координат неравенствами
х'\ +... + 4 -1 < Ьх\, 0 < хп < a, a, b = const, и содержащегося
внутри Q вместе с замыканием.
Замечание 1. Нетрудно показать, что ограниченные обла-
области класса Со>1 удовлетворяют условию конуса. Пример шара

1.1.9. Области класса С0'1, условие конуса 23
с выколотым центром показывает, что обратное утверждение не-
неверно.
Лемма 1. Ограниченная область, удовлетворяющая условию ко-
конуса, есть объединение конечного числа областей, звездных отно-
относительно шара.
Поскольку область, удовлетворяющая условию конуса, является
суммой конгруэнтных конусов, а следовательно, суммой областей,
звездных относительно шаров с фиксированным радиусом, лемма 1
немедленно выводится из следующего утверждения.
Лемма 2. Если ограниченная область Q представляет собой
сумму бесконечного множества областей Ga, звездных относительно
содержащихся в них шаров SB* с фиксированным радиусом /?>0,
то для всякого ^ < /? существует конечное число областей Q*
(\<,k^N), звездных относительно содержащихся в них шаров
с радиусом г, объединение которых совпадает с областью Q.
Доказательство. Пусть Gi — одна из областей бесконеч
ного семейства Ga. Образуем область fix = 1J Gp, где сумма рас-
з
пространяется на все области Gp, для которых центры шаров <$?р
отстоят от центра шара SB\ на расстояние p^R —г. Очевидно,
что любой из этих шаров «$JP содержит шар ^х с радиусом г,
концентрический с <ffiv Так как каждая из областей Gp звездна
относительно сёх, то и вся область Q] звездна относительно этого
шара.
Примем за область (?2 любую из областей Ga, не вошедших в Qt.
Повторяя предыдущие рассуждения, построим область Q2, звезд-
звездную относител* но шара c§i с радиусом г, центр которого отстоит
от центра шара *ё\ на расстоянии d>R—r. Аналогично пост-
построим область Q3, звездную относительно шара й'з радиусом г
с центром, удаленным от центров сёх и 2f2 на расстояние d>R—r,
и т. д. Этот процесс оборвется после конечного числа шагов, так
как центры шаров Wit ^.2, ... содержатся в ограниченной области,
а расстояние между любыми двумя из них больше числа R — г>0. Ш
Замечание 2. Области класса С0-' иногда называют сильно
липшицевыми в отличие от липшицевых областей, определяемых
следующим образом.
Определение 3. Ограниченная область Q называется лип-
шицевой, если каждая точка ее границы имеет такую окрест-
окрестность U в Rn, что Uf\Q отображается на куб при помощи ква-
квазиизометрического преобразования.
Очевидно, что области класса С01 удовлетворяют только что
сформулированному условию. Следующий пример показывает, что
обратное утверждение неверно, т. е. что липшицева область не
обязана быть сильно лишгицевой. Более того, рассматриваемая
в этом примере липшицева область не удовлетворяет условию
конуса (ср. с замечанием 1).

24
§ 1.1. Пространства Llp (Q), Vlp(Q) и Wlp(Q)
Пример. Пусть область Q
Р„ = {х: \х1-2-*\<2-»-\
есть сумма прямоугольников
;2<2-*-г}, /г=1, 2, ....
и квадрата Q = {x: 0<*i<l, — 1<х2<0}. Отсутствие условия
конуса очевидно. Покажем, что Q отображается на квадрат Q
при помощи квазиизометрического преобразования.
Непосредственно проверяется, что отображение 7V х-*~у=
={Уи й), тождественное на Q и определенное на Рк равен-
равенствами ух = (х% — 2~k) (I — 2kXz)-f 2~k, Уъ=х<1, квазиизометрическое.
Образ То^ представляет
собой объединение куба
T0Q и множества {у: 0<
Уг
01
где / удовлетворяет усло-
условию Липшица с констан-
константой 4, 0</(t/i)<l/8
(рис. 4).
Пусть т) — кусочно-ли-
кусочно-линейная функция, равная
единице при у>0и нулю
при у<—1. Липшицево
преобразование 7\: y-*-z, за-
заданное равенствами гх = У\,
z2 = f/a-/(f/i)Ti(f/2), отоб-
отображает T0Q на квадрат {г: 0<2x<l, — 1<22<0}. Якобиан 7\
больше 1/2 и, следовательно, 7i — квазиизометрическое преобразо-
преобразование. Итак, Q отображается на квадрат Q квазиизометрическим
преобразованием ТОТХ.
1.1.10. Интегральное представление функций по Соболеву.
Теорема 1. Пусть Q — ограниченная область, звездная относи-
относительно шара В6, BuqzQ, и и — функция из Llp (Q). Тогда при п. в.
Рис. 4.
где r = \y — x\, B = (y — x)r-1, q>$^&(Bi) и fa — бесконечно диф-
дифференцируемые функции своих аргументов. Функции fa допускают
оценку Ifal^c(D/8)"-1, где D — диаметр области Q, а с — постоян-
постоянная, не зависящая от Q,
Доказательство. Достаточно рассмотреть случай 6 = 1.
Пусть aef (Bi) и
$l. B)

1.1.10. Интегральное представление функций по Соболеву 25
Предположим сначала, что и gC (Q). Введем функции
$(х; г, Q) = -(r'-4(l
U(x; г, е) = 211о(-1
если i/efi и U (х; г, 6) = 0, если г/ё=Й-
Прежде всего отметим, что
U {х; 0, в) = — и (х) J" (о (* + rt) /"-1 Л.
Дифференцируя C), получаем dU/dr=u (dlty/dr')-\-(— 1)[-1^(д1и/дг1),
что вместе с C) приводит к равенству
и (х) ^и(х + И) /«-1 Л = $Г «(* + гВ) (д^/дг1) (х; г, б) dr +
Проинтегрируем это тождество по сфере {6: | 6 | = 1} и восполь-
воспользуемся равенством B). Тогда придем к равенству
Непосредственно проверяется, что
Поскольку
г" (дк/дг») (о (х + гВ) - 2, з I =*
то
где фр geJ? (Bi). Следовательно, первое слагаемое в D) представ-
представляет собой многочлен степени / — 1 по переменной х:
| р !</**$ а Ч>Р (#)
Рассмотрим второе слагаемое в D). Имеем (д'/дг1) и (х + гб) =
Ц|а|=, (/!/«!) ба0аы (г/), где в^^-^г-1. Поэтому (—1)'-»х
; г, 6)(Э'/аг')ы(л; + /-е) = (—1)'/!/гл-'2!
1d/) и мы пришли к A), где
/а (*; г, в) = Щ^ ба J ™ (о (х + tt) <*-i dU E)
Оценка |/а|^cD4 очевидна. Равенство A) доказано для
eC'(Q). Допустим, что ueELp(Q). Отметим, что семейство

26 § 1.1. Пространства Llp (Q), V'p(?i) и Wlp (Q)
функций мт, построенное в теореме 1.1.6/1, обладает следующим
свойством: ит->-и при т->1 в LP(Q, loc) и в Llp (Q). Поэтому,
переходя к пределу в представлении A) для функции ыт и исполь-
используя при этом непрерывность в LP(Q) интегрального оператора
со слабой особенностью, выводим A) в общем случае.
Для Q = R" получаем более простое интегральное представле-
представление функции и^З.
Теорема 2. Если ие^, то
и (*)=((-1)< l/nvn) $Л„ 2,«i =, Fа/«0 D*u (У) (dy/rn~l), F)
где, как и в теореме 1, r = \y — x\, Q = (y — x)r1.
Доказательство формулы F) повторяет вывод тождества A.1)
с той разницей, что здесь роль ty(x; r, 6) играет функция ty(r) =
= r'-V(/-l)!
1.1.11. Обобщенное неравенство Пуанкаре. При помощи леммы
1.1.9/1 и теоремы 1.1.10/1 получается следующее утверждение,
которым мы воспользуемся в 1.1.13.
Лемма. Пусть п — ограниченная область, удовлетворяющая
условию конуса, (о — произвольное непустое открытое множество,
йсЙ, Тогда для любой функции u^Llp(Q,), p^\, найдется
полином
|а|<,-1(»'<Ра)*а. A)
где фае^г((о), такой, что
?iJO). . B)
Здесь С — постоянная, не зависящая от и.
Доказательство. Достаточно предположить, что w — шар.
Обозначим через G любую из составляющих Q областей, звездных
относительно шара (см. лемму 1.1.9/1), и через а® — соответствую-
соответствующий шар. Построим конечную цепочку шаров {s$4?Lo, такУю»
что $Вй = 33, 3Hi [\$В1+\Ф ф, ^м = ы- Так как область G звездна
относительно любого шара, содержащегося в s®0 П <&i, то; исполь-
используя интегральное представление A.1.10/1) и непрерывность инте-
интегрального оператора с ядром |х — у|'~*~л в LP(G), получаем нера-
неравенство
р^ р) C)
Аналогично при i=\, ..., N — 1 имеем
и kD (•,) ^ С A Х,и \\Lp
Следовательно,

1.1.11. Обобщенное неравенство Пуанкаре 27
Суммируя по всем G, получаем неравенство
fV*u|Lp(fi)<C(|Vla|z.p,Q> + |«kp<«>). D)
Из интегрального представления A.1.10/1) для функций в ©
дует
еледует
где
П W =
Остается заменить в D) и на ы — П. ¦
Из леммы получаем следующее очевидное следствие.
Следствие. Для ограниченной области, удовлетворяющей ус-
условию конуса, пространства Vlp(Qi), Wlp(Q) и L'p(Q) совпадают-
Замечание В этом пункте мы сознательно не стремимся
к наиболее сильной формулировке леммы для функций в областях,
удовлетворяющих условию конуса. Такая формулировка немед-
немедленно получится, если лемму объединить с теоремой 1.4.5, кото-
которая доказывается далее.
Вместе с тем класс областей, рассматриваемых в лемме этого
пункта, также далек от максимального. Заключения леммы и
следствия, например, имеют место для любой ограниченной обла-
области, являющейся конечной суммой областей класса С (определен-
(определенного в теореме 1 1.6/2). Доказательство проводится по той же
схеме, если вместо C) принять во внимание следующее свойство
простейшей области из класса С.
Пусть
Q = {x:x{ +... + *;,_, <ра, 0<х„<f (xu ...,
где / — непрерывная функция в шаре х\'+.. . + *?_, <р.
Через G обозначим «цоколь» области Q, т. е. цилиндр
\х: x:'f+... + ^_,<p2, 0<хп<min/'(*,, ..., xn-i)}.
Тогда для всех и еС1 (й) справедливо неравенство
I' U \ьрЮ) < С (I Vu \Lpta] + I U \Lp {G)).
Последнее следует из элементарного неравенства
\a0\t(t) \Pdt^c(ap \a0\f (t) \Pdt + (a/b) J» |/ @ \Pdt), E)
где /еС^О, a\, 0<b<a, и с зависит только от р.
Доказательство оценки E) можно провести следующим обра-
образом. Пусть Фв = (а-1 $о |/ @ \рdt)Vp — значение функции ]/1 в неко-

28 §1.1. Пространства Llp(Q), Vlp(Q) и Wlp (?})
торой точке интервала @, а). Имеем |Ф„ — Фь\ г^$о \Г (t)\dt<,
^al'p'lf'lLp{o.a), что и дает E).
Пример. Рассматривая область Q={(x, {/)е#а: |у|<ехр(—1/х),
0<х<1} и функцию u (x, t/) = х2/ехр (l/рх), убеждаемся в том,
что для области класса С пространство LP(Q) в левой части нера-
неравенства B), вообще говоря, нельзя заменить никаким простран-
пространством ^(Q) при q>р.
1.1.12. Полнота пространств W'p (Q) и Vlp(Q). В следующей
теореме Q — произвольное открытое подмножество Rn.
Теорема. Пространства Wlp (Q) и V'p (Q) полные.
Доказательство. Пусть {uk\k^i — фундаментальная после-
последовательность в Wlp[Q) и пусть uk-*-u в LP(Q) и Dauft->-ya,
|a| = /, в LP(Q). Тогда для любой функции ф из iP"(Q)
\QuDa(f>dx= lira ^Quk
k -*co
= (-1)' lira \Q<pD«ukdx = (-iy\Qva<pdx.
Итак, Va — Jy^u и последовательность {uk\ сходится к функции
U(=№p(Q). Теорема доказана для пространства Wlp(Q). Прост-
Пространство Ур (Q) рассматривается точно так же.
1.1.13. Пространство Llp(Q) и его полнота. Предположим, что
Q —область.
Определение. Пространством Lp (Q) назовем фактор-прост-
фактор-пространство Lp (Q)/^5;.!, где oPk — подпространство полиномов степени
не выше k.
В пространстве Lp (Q) введем норму fVjUjj, (Q). Элементами
Lp (Q) являются классы й = {и + Щ, где П е SF'i-x, u<=Lp (Q).
Теорема 1. Пространство Lp(Q) полное.
Доказательство. Пусть {йк}к>] —фундаментальная после-
последовательность в Lp(Q). Это огначает, что для любой функции uk
из класса йк и любого мультииндекса а порядка / Dauk-*-Ta
в LP(Q). Требуется показать, что существует функция ueLj,(fl),
такая, что Dau = Ta-
Пусть В—открытый шар, Всйи пусть {а>/\/^о — последова-
последовательность областей с компактными замыканиями и гладкими гра-
границами, такая, что Bczato, w/c:(O/+1, (J(Oy = Q. Вместе с функ-
цией ик классу йк принадлежит и функция vk = uk — Uk, где Uk —
полином, построенный в лемме 1.1.11 по множеству ы = В и функ-
функции ик. В силу леммы 1.1.11 {vk} — фундаментальная последова-
последовательность в Lp(<H]) при любом /.

1.1.14. Сопряженные пространства для пространств Соболева 29
Обозначим через и предельную функцию. Очевидно, что для
любой функции фе^(й) и любого мультииндекса а порядка /
k, <р)=(_1У(Га, <р). ¦
Попутно в доказательстве теоремы 1 установлено следующее
утверждение.
Теорема 2. Пусть {ик} —последовательность функций из Llp(Q),
такая, что для некоторой функции и е Llp (Q)
I V/(u*-u) 1^,0,-vO.
Тогда существует последовательность полиномов Пл е SP'i-x, такая,
что uk — Ub^>~u в LP(Q, loc).
1.1.14. Сопряженные пространства для пространств Соболева.
Теорема 1. Если 1^р<со, то любой линейный функционал
на Llp (Q) можно представить в виде
где ga e Lp- (Q), рр' = р + р'. Более того,
tp.@), ' B)
где инфимум вычисляется по всем наборам {ga\\ai = i, для которых
равенство A) имеет место при любом u^Lp(Q).
Доказательство. Очевидно, что правая часть A) является
линейным функционалом на Llp(Q) и l/j=^|Biai = ;^I/2||i. ,<q>.
Для того чтобы представить f (и) в виде A), рассмотрим про-
пространство LP(Q) векторов v = {va}ia\ = i с компонентами из LP(Q),
снабженное нормой |B:ai = iv^)Vi l ту ^ш как пространство
Llp (Q) полно, то область значений оператора V,: Llp (Q) -*- Lp (Q)
является замкнутым подпространством пространства Lp(fi). Опре-
Определим функционал Ф(у)=/(ы) для любого вектора v, представи-
мого в виде V,u. Тогда [|Ф|! = Ц/|| и по теореме Хана —Банаха Ф
может быть распространен до линейного функционала на Lp (Q)
с сохранением нормы. ¦
Пусть, как и ранее, W'P(Q) — Llp (Q) C\LP(Q). Обозначим через
Wlp(Q) пополнение ^(Q) по норме Wlp(Q).
Точно так же, как и теорема 1, доказывается следующее
утверждение.
Теорема 2. Любой линейный функционал на Wlp (Q) (или на
Wlp{Q)) имеет вид
l{I C)

30 § 1.1. Пространства lJp(Q), Vlp(Q) и Wlp(Q)
еде ga e Lp- (Q), g e Lp (Q). При этом
где инфимум берется по всем наборам функций ga, geL^(fl),
для которых равенство C) имеет место при любом и е W1,, (Q)
(или и е #'р (Q)).
Из теоремы 2 непосредственно получается следующая более
простая характеристика пространства линейных функционалов на
Ъ\ (Q).
Следствие. Любой линейный функционал на Wlp (Q) можно
отождествить с обобщенной функцией /е^'(О), имеющей вид
/=2,«,-/(-П'^«+г. E)
где ga. g s Lp> (Q). Норма этого функционала равна правой части D),
где инфимум берется по всем наборам функций ga, g, участвую-
участвующих в представлении E).
1.1.15. Об эквивалентных нормировках пространства Wlp(Q).
Следующая теорема описывает широкий класс эквивалентных норм
в пространстве WJP (Q).
Теорема. Пусть ограниченная область Q такова, что Llp (Q) с=
aLp(Q) (например, удовлетворяет условию конуса), и пусть
<У (и) — непрерывный в Wlp (Q) функционал, обладающий свойствами
полунормы и не обращающийся в нуль ни на одном отличном от
нуля полиноме степени не выше 1—1. Тогда норма
l?/«kp<Q) + ^(«) A)
эквивалентна норме в W'p (Q).
Доказательство. Пусть /—тождественное отображение
W'p (Q) в пространство В (Q), полученное пополнением Wlp (Q) по
норме A). Это отображение линейно, непрерывно и взаимно одно-
однозначно. Из теоремы 1.1.13 о полноте пространства Lp(fi) следует,
что В (Q) с Llp (Q). Так как по условию Llp (Q) = Wlp (Q), то /
отображает W!P(Q) на себя. По теореме Банаха (см. [12, с. 58])
/ — изоморфизм. ¦
Замечание. Условию теоремы удовлетворяет функционал
гГ (и) = 2о ^ i a I < JM") I. ГДе /« — линейные функционалы в \ (Q),
такие, что det (fa (хР)) Ф 0 (здесь а и р — мультииндексы порядка
не выше I — 1)
Можно положить, например, /а (u) = $Q uDa(f их, где фе^? (Q),

1.1.16. Продолжение функций из Vlp (Я) на R" 31
Роль sF (и) может играть также функционал |П(и)|, где
П — проектор Wlp(Q) на подпространство <S?Vi, т. е. линейное не-
непрерывное отображение Wlp (Q) на #Vi, удовлетворяющее условию
П2 = П.
Так как П(и —П(и)), то из теоремы следует эквивалентность
полунорм ||VjU|? (Q) и \\и — П (u)I^mq) (CP- с леммой 1.1.11).
? ( ^
1.1.16. Продолжение функций из Vlp(Q) на R". В этом пункте
речь идет о продолжении функций из пространства Vlp (Q) во внеш-
внешность Q «с сохранением класса». Начнем с известной процедуры
продолжения «отражением конечного порядка». Введем несколько
обозначений: х = (х', хп), где x' = (xi xn-i), я—n-мерный
параллелепипед, Р = я х (—а/A + 1). а), Р+ = я X @, а), Р_ = Р\Р+.
Теорема. Для каждого целого /:з=0 существует линейное ото-
отображение
такое, что и* =и в Р+. Это отображение единственным образом
можно распространить до непрерывного отображения: L* (P+) -*¦
->-Lp(P), p^l, при всех k = 0, 1,..., /. Продолжение и-+-и*
может быть определено на пространстве С*' ' (Р+) {k = 0_, 1, ...
..., /—1) и является непрерывным отображением в С- '(Р).
Это отображение обладает еще следующим свойством.: если
dist (supp и, F)>Q, где F —компакт в Р+, то и* =0 в окрестно-
окрестности F.
Доказательство. Пусть и^С"(Р). Положим и* = ивР+
и и*(х) = 2/i!clu(х>>¦—М в Р-, гДе коэффициенты с} удовле-
удовлетворяют системе 2/iU—/)*с/==1> ^ = 0 t- (Определитель
этой системы — определитель Вандермонда — отличен от нуля.)
Очевидно, что и* е С (Р). Столь же очевидна оценка
*|д (Р)^с| Vftu|?, (р у Так как множество С°° (Р+) плотно
в Lkp(P+) (теорема 1.1.6/1), отображение и*-*и допускает един-
единственное распространение до непрерывного отображения: Lkp(P+)-+
->-Lkp(P). Непрерывность отображения С*- 1(Р+)з и-+и* ееС"- [(Р)
проверяется непосредственно.
Пусть dist (supp и, F) > 0. Обозначим через х произвольную
точку множества F Л я и через б столь малое положительное число,
что {1-\-1N < dist (supp и, F). Так как и = 0 на множестве
{xsP+: | х' | < (/ + 1) хп}, то "и* =* 0 на множестве {х «ее Р_ : | х' |2-F
+ (/+1J4<(/ + 1)гб2}- Поэтому и*=0 при |*|<б. ¦
Пусть Q — область в R" с компактным замыканием Q и доста-
достаточно гладкой границей дп. Комбинируя описанную конструкцию
продолжения с разбиением единицы и локальным отображением

32 $ I.I. Пространства LJp(Q), Vlp(Q) и W'p(Q)
области Q на полупространство, нетрудно построить линейный
непрерывный оператор Ш: Vlp(Q)-*-Vp(Rn), такой, что <Su\Q=u
для всех и е Vp (Q). Если для области такой оператор сущест-
существует, то она по определению принадлежит классу EVlp.
Итак, области с гладкими границами принадлежат классу EVlp.
Оказывается, что тем же свойством обладают ограниченные обла-
области класса С0' '. Доказательству этого полезного утверждения
посвящен § 3 гл. VI монографии Стейна [121] (см. также ком-
комментарии к настоящему разделу).
К вопросу об описании областей класса EVlp мы еще вернемся
в п. 1.5.
1.1.17. Комментарии к § 1.1. Пространство Wlp(Q) введено и
подробно изучено С. Л. Соболевым [115—117]. Определения про-
пространств Llp (Q) и Llp (Q) заимствованы из работы Ж. Дени и
Ж. Л. Лионса [167]. В доказательствах теорем 1.1.2, 1.1.5/1,
1.1.12, 1.1.13/1 и 1.1.13/2 мы следуем той же статье, где анало-
аналогичные факты установлены для /=1. Теорема 1.1.5/1 доказана
также Н. Мейерсом и Дж. Серрином [219]. В связи с материа-
материалом п. 1.1.3 отметим, что свойство абсолютной непрерывности на
почти всех прямых, параллельных координатным осям, было поло-
положено в основу определения пространств типа Lp еще в работах
Б. Леви [208], О. Никодима [229], Ч. Морри [222] и др. Пример
области из п. 1.1.4, для которой W\ (Q) ^ V\ (Q), принадлежит
автору. Пример, рассмотренный в начале п. 1.1.6, взят из работы
Э. Гальярдо [184], а замечание 1.1.6 и следующий за ним при-
пример заимствованы из статьи Т. Колсруда [204]. Теорема 1.1.6/1
доказана в курсе В. И Смирнова [ 114], а теорема 1.1.6/2 —в упо-
упомянутой статье Гальярдо. В связи с п. 1.1.7 см. книги Морри [223],
10. Г. Решетняка [ 111 ] и статью автора и Т. О. Шапошниковой [96].
Требования звездности относительно шара и условие конуса
введены в теорию пространств W'p С. Л. Соболевым [115—117].
Лемма 1.1.8, несомненно, известна, но автор затрудняется дать
ссылку. Лемма 1.1.9/2 доказана В. П. Глушко [22]. Пример, при-
приведенный в п. 1.1.9, принадлежит автору, другой пример липши-
цевой области не из класса Со>| можно найти в книге Ч. Морри [223].
Интегральные представления A.1.10/1) и A.1.10/6) получены
С. Л. Соболевым [116, 117] и использованы им в доказательстве
теорем вложения. Далеко идущие обобщения этих представлений
получены В. П. Ильиным [33, 34] и К. Смитом [244] (см. книгу
О. В. Бесова, В. П. Ильина и С. М. Никольского [5]), а также
Ю. Г. Решетняком [НО].
Неравенство Пуанкаре для ограниченных областей, являю-
являющихся конечными объединениями областей класса С, доказано
в монографии Р. Куранта и Д. Гильберта [46]. Свойства функ-

1.2.1. Две теоремы о покрытиях 33
ций из пространства Lp (Q), заданных в областях несколько более
широкого класса, изучены Ж.-Л. Лионсом [210].
Материал п. 1.1.14 хорошо известен (см., например, [58,143]).
Теорема 1.1.15 об эквивалентных нормировках пространства
Wlp(Q) принадлежит С. Л. Соболеву [117, 118].
Конструкция продолжения, описанная в начале п. 1.1.16,
предложена М. Хестенсом [198] для пространства C(Q) (см.
также работу Л. Лихтенштейна [209]). Тот же прием был исполь-
использован С. М. Никольским [ЮЗ] и В. М. Бабичем [2] для прост-
пространств W!P(Q). To, что для областей из С0'1 возможно рас-
распространение функций из W'p (Q) A < р <С со) на R" с сохранением
класса Wlp, было отмечено А. Кальдероном [159]. Его конструк-
конструкция основана на интегральном представлении A.1.10/1) и теореме
о непрерывности сингулярного интегрального оператора в Lp.
Способ построения, пригодный также для р = 1 и р = оо, предло-
предложен Стейном [121]. Основная часть доказательства теоремы Стейна
состоит в продолжении функций, заданных в координатной окре-
окрестности точки границы Затем пр \ помощи разбиения единицы
строится глобальное продолжение. Для простейшей области
Q = {x = {x', хп): х' <=Rn-\ xn>f(x')},
где / — функция на R"-1, удовлетворяющая условию Липшица,
продолжение функции и вводится формулой
и* (*', х„) = $Г и (х', хп +Х6 (х', *„)) Ч> (*) dK хп < / (х').
Здесь б —некоторая бесконечно дифференцируемая функция, экви-
эквивалентная расстоянию до dQ. Функция г|) определена и непрерывна
на полуоси [1, оо), убывает при К -*¦ оо быстрее любой степени X~J
и удовлетворяет условиям $"г|; (X) dX= I, ^ Xll^(X)dX=O, й=1,2,...
§ 1.2. НЕКОТОРЫЕ ФАКТЫ ТЕОРИИ МНОЖЕСТВ И ТЕОРИИ ФУНК Ш
В этом параграфе собраны некоторые известные результаты
теории множеств и теории функций действительного переменного,
которые будут использованы в дальнейшем
1.2.1. Две теоремы о покрытиях.
Теорема 1. Пусть S — ограниченное множество в R" и каждой
точке ^eS сопоставлен шар ВГ(Х)(х), г(х)>0. Совокупность
всех этих шаров обозначим через #. Тогда можно выбрать такую
последовательность шаров {<Шт} из $, что:
\J
2 В. Г. Маэья

34 § 1.2. Некоторые факты теории множеств и теории функций
2) существует такое зависящее только от размерности проста
ранства число М, что каждая точка пространства принадлежит
не более чем М шарам из {^вт}<
3) шары хЫ<Шт не пересекаются;
4) U Bcz\j4^m.
Доказательство. Положим аг— sup r(x). Если ai=oo,
«S.S
то утверждение теоремы очевидно. Если ai<oo, то выберем
такую точку ;t, eS, что г (*i)>:t/4fli- Допустим, что точки xlt
х^, ..., хт из множества 5 уже выбраны. Определим число ат+г =
I т 1 п.
= sup|r(je): xeS\(J «$?/> и возьмем точку xm+1 e i\ (J ^&,,
для которой г (xm+i) > 3/«am+i. Покажем, что последовательность
{^т} и есть искомая последовательность шаров.
Если процесс построения этой последовательности остановился
на конечном шаге, то, очевидно, что S a\Ja%lm и выполнено
m
утверждение 2). Утверждение 3) вытекает из того, что /•(*,)«?
^а-, «? п]<*/яг (ж/), если i>/^l. Действительно, пусть rif —
расстояние между центрами шаров <$?, и ^ ( >/), а г,- — радиус<^,-.
По построению центр х{ шара ^ не лежит в шаре 3d], поэтому
'*>О- A)
ч
Предположим, что шары Vsa^i и 1/8а®/ пересекаются иуе 1/ssffiiГ)
[\lU<?®j- Тогда ''i/^l^i — */l~f"|i/ — X] | ^ 1/у<-4- Vsr/^ '/эО» что
противоречит A). Как видно из этого рассуждения, свойство 3)
имеет место и в том случае, когда число шаров SSm бесконечно.
Теперь докажем, что если \<?8т\ —бесконечная последователь
ность, то rm->0 при т-»-оо. Действительно, как уже было
показано, шары 11уШт не пересекаются, и поэтому, если гт не
стремится к нулю, то мы имеем в ограниченном множестве
(в ai-окреетности множества S) бесконечное число непересекаю-
непересекающихся шаров с одним и тем же положительным радиусом, чего
ш
быть не может. Предположим теперь, что s e S\ M <Шт. В силу
того что r(s)>0, это означает, что точка s была пропущена при
со
построении последовательности {хт\. Таким образом, Scz (J <?1дт
и утверждение 1) доказано.
Перейдем к доказательству свойства 2). По построению после
довательности {<Шт}, если xh и хт — центры шаров 3Sk и ^т, то
либо (i) хк(=з!®т и х„,бЛ, либо (п) только один из центров
содержится в шаре с другим номером, например xk^Mm. Еслм

1.2.1. Две теоремы о покрытиях 35
и имеет место случай (i), то угол между векторами
ух* и ухт больше чем я/3. В случае (ii) оценку снизу угла между
этими векторами можно провести, если точка у лежит вне
шара 21ъ^к- (Заметим, что и;ары 2/ь<&к> так же как и '/з^ь
попарно не пересекаются. Проверяется это аналогично.) В этом
•случае элементарные рассуждения показывают, что угол между
Еекторами ухк и ухт больше некоторого положительного числа,
не зависящего от k и т. (В качестве такого числа можно взять
a = arccosn/i2-)
Пусть
Если при этом точка у входит в какой-либо из шаров
(такой может быть только один), например у е 2/b<&kN> то мы
опустим соответствующий номер в B) и запишем, что у е
JV-I
е f] <&km- Теперь к любой паре <?Bki, «$?*, шаров из этого пере-
сечения применимы полученные выше оценки угла, т. е. угол
между векторами ухк, и yxi, больше положительного числа а,
не зависящего от номера k. Но максимальное число таких отрез-
отрезков ух к, исходящих из одной точки у, определяется только
размерностью пространства и величиной а. Следовательно, число N
не зависит от точки у, а тем самым вторая часть утверждения
теоремы установлена.
Перейдем к последней части доказательства. Пусть шар Je9
не пересекается с и арами «$?ь ..., &Bk-i, но пересекается с ша-
шаром ij&k- Покажем, что тогда <?$ а 4<?/3к. Прежде всего, так как
к — !
центр шара <?& не принадлежит множеству S\ (J SB], то г
Ы
Пусть jcgeSSh y^<?J3{]SSk. Тогда \x — \\ y}\y
= 2r + rft<"/,,/¦/>+ rft<4rft. Следовательно, любая точка
является точкой ш^ра AS3k.
Осталось показать, что каждая точка х е (J <?В находится
яе!В
в шаре, который пересекается с некоторым шаром из построенной
последовательности Если последовательность п.аров \SBm\ конечна
и число шаров в не< равно k0, то любой шар йей пересекает
один из !¦ аров последовательности {<^т\^у Если последователь-
последовательность аров \SBm) : есконечна, то последовательность их радиусов
стремится к нулю. Но если шар 3d не пересекается с шарами

36 § 1.2. Некоторые факты теории множеств и теории функций
<?BU SB?, ..., <ЗВк-\> то его радиус г допускает оценку г <
а так как г*-»-0 и г>0, то шар S3 пересекается с некоторым
шаром <S3m- Теорема доказана.
Замечание 1. Доказанная теорема будет верна, если пары
заменить на кубы с гранями, параллельными координатным
плоскостям. Зто доказывается почти так же и, кроме того, еле
дует из работы А. Морса [225]. Из этой работы следует также,
что шары и кубы можно заменить другими телами.
Если в условии теоремы потребовать, что: а) радиусы шаров
из SS ограничены в совокупности, Р) для любой последовательности
непересекающихся шаров из Ъ последовательность радиусов
стремится к нулю," то можно считать, что множество S не огра-
ограниченное. Утверждения теоремы останутся справедливыми.
Лемма. Пусть g —открытое подмножество Rn с гладкой гра-
границей, такое, что 2mn(Br(\g)=mn(Br). Тогда
где сп — положительная постоянная, зависящая только от п,
a s — (п — \)-мерная площадь.
Доказательство. Пусть х и if — характеристические функ-
функции множеств g(]Br и Br\g. Для любого вектора гфО введем
отображение Рг проектирования на (п— 1)-мерное подпространство,
ортогональное г. По теореме Фубини
Br) mn (Br\g) =
= \ R Л Rn У- (*) * (#) dxdy = \ * Л R пК (*) Ф (л + 2)dz dx =
= Li <2г т" (\х: x<=-Br()g и (х + г) е Br\g} )dz.
Так как каждый отрезок, соединяющий точку х ^g[}Br с точкой
(* + г) efir\g, пересекает Br[]dg, то последний интеграл не пре-
превосходит 2r\ 2^2rmn-1[pz(Br(]dg)]dz^Br)"+1vns(Brndg). Ш
Замечание 2. Наилучшее значение константы с„ равно
объему (п — 1)-мерного единичного шара (см. лемму 3.2.1/1).
Теорема 2. Пусть g — ограниченное открытое подмножество
с гладкой границей. Существует покрытие g последовательностью
шаров с радиусами pf (i = l, 2, ...). такое, что
2,.p?-'*s:cs(c>g), C)
где с — постоянная, зависящая только от п.
Доказательство. Каждая точка *е? является центром
шара В, (х), для которого
тп (В, (х) П g)lmn (Br (х)) = 1 /2 D)

1.2.2. Теорема о множествах уровня гладкой функции 37
(это отношение — непрерывная функция г, равная единице при
малых г и стремящаяся к нулю при г->оо). По лемме* сущест-
существует последовательность непересекающихся шаров Br.(xj), для
со
которой gel) Вйг (xj).
/=1
Из леммы и равенства D) получаем s(Br.(xj) Odg^^scjf—1.
Следовательно,
s @g) ^ ?, s (Bff (xj) П %) ^ У-"сп 27 Cry)--i.
Итак, {Вз,.. (jfy)j —требуемое покрытие. ¦
1.2.2. Теорема о множествах уровня гладкой функции. Напом-
Напомним теорему Витали о покрытии (см., например, [29, с. 232]).
Пусть Е с R1 и <*# —система интервалов. Если для всякой
точки /е? и любого е>0 существует интервал i^aS, такой,
что х е I, mi (/) < е, то говорят, что <Л образует покрытие Е
в смысле Витали.
Теорема 1. Если множество Е покрыто в смысле Витали
системой интервалов еЖ, то из Л можно выделить такое не
более чем счетное множество интервалов {ik\, что ikOii = 0 при
]
Рассмотрим функцию /: Q э x-*-f(x) = t e/?1- Множество
{х: Vf(x) = 0\ назовем критическим и обозначим через Ki-
Если Е с Q, то / (Е) — образ Е при отображении /. Если
( р
zR1, то /-1 (А) - полный прообраз А в Й, /-1 (/)=
Теорема 2. Пусть Q —открытое множество в R"
Э [//С)] 0
R" и /
[/(]
Доказательство. Достаточно доказать теорему в предпо-
предположении, что Q — ограниченное множество-
1. Введем обозначение: /(„ = {*: (V/)(*) = 0 (Vnf)(x)=0\.
Покажем сначала, что mi[/(К„)] = 0. Для любого 8>0 и любого
х^Кп выберем число гх > 0, такое, что В (х, rx)czQ и
osc /<ел". Фиксируем точку /е/(/С„) и любую точку *(.')(=
в С- гх)
^EtClKn- Точку t покроем всеми интервалами (/ — б, t-\-8), где
Совокупность таких интервалов образует покрытие / (/(„) в смысле
Витали. Выберем счетную систему непересекающихся интерва-
интервалов ilt iit ..., покрывающую /(Кп) с точностью до множества
нулевой линейной меры.
* Здесь на самом деле используется более слабый вариант георемы 1
о покрытиях [29, с. 230—231].

38 ? 1.2. Некоторые факты теории множеств и теории функций
Пусть im = (tm — 6m, tm + bm) и хт — любая точка Et
В силу A) 6m<er? . Поэтому/^) оВ(хт, (бт/еIл) и, значит,
mn[f~l (im)\ ^ fn 6m/e. Так как интервалы im попарно не пересе-
пересекаются, то их полные прообразы обладают тем же свойством.
Итак,
У, бт < (г/ия) У^= , тп [f-1 (im)] ^ тп (Й),
т. е. т,[/(УС«)]^сетл(й), т, [/(/(„)] = 0.
2. Теперь докажем теорему индукцией по п. Случай п = 1
содержится в 1, Пусть для я—1 теорема доказана.
Рассмотрим множество/Ci\/(n. Для любого x^Ki\Kn суще-
существует мультииндекс а, |а|<я, и такое натуральное число
i^n, что
(/?*/)(*) = О, ((д/дх,HЧ)(х)фО. B)
Пусть // — множество точек, для которых верно B) (оно, конечно,
определяется парой (а, /)). Покажем, что m^[f(H)] = 0.
Пусть для определенности i = n. Введем обозначения: X —
= (xi xn_i), g = D%f, так что ^(дг) = О, dg/dxn=?0 при неЯ.
По теореме о неявной функции для каждой точки хо^Н суще-
существует окрестность U, такая, что
U(){x: g(x)=0}cz{x: хя = <р(Х)\,
где ф — бесконечно дифференцируемая функция в некоторой
области GczR"-1. Так как из всякого покрытия множества Н
окрестностями всегда можно выбрать счетное, то достаточно
доказать, что тг[f(H f] U)] = 0. Если леЯ[)U, to
/(*)=/(*, <р (*))?? А (X),
где ХеС Обозначим через Р проекцию Hf\U на плоскость
дг, = О Так как V/i = 0 при АеР, то по индукционному пред-
предположению mi [h (P)] = 0. Но h(P)=f(H[) U) и теорема доказана.
Из доказанного утверждения и теоремы о неявной функции
непосредственно вытекает следующее утверждение.
Следствие. Если 7e=C°°(Q) (/e^(Q)), mo при п. в. <
множества Et = {д;: / (дс) = t\— многообразия класса С°° (компактные
многообразия класса С00).
1.2.3. Представление интеграла Лебега в виде интеграла
Римана по полуоси.
Теорема. Пусть (X, X, ц) — пространство с (неотрицательной)
мерой, и: X -*¦ R1 — ^-измеримая неотрицательная функция. Тогда
\хи x)n(dx) = \wn(M,)dt = \aJniL))at, A)
где Mt — {x^X: u(x)^t), L, = ^eX: u(x)>t\.

1.2.4, Формула для интеграла от модуля градиента 39
Доказательство. Пусть и (х) ^ А <. со. Разобьем область
изменения функции «точками {/*}™=0, такими, что 0 = /0^
...<tm = A. Тогда X = M(mU (J
Следовательно,
Так как
то, положив ak = tk, bk = \i{M,^, получим
- /«-i) |a (MfJ < \x и (x) fi (Лс) < 2]
Измельчая разбиение и переходя к пределу, приходим к первому
равенству A).
Пусть теперь функция и не ограничена. Положим ик(х) =
= гшп{и(*), k\. Тогда {ик)к^.\ — неубывающая последовательность,
сходящаяся по мере к функции и Следовательно, по теореме
Беппо Леви о предельном переходе под знаком интеграла
Iim L нА (х) ц (dx) = \xu (х) ц (dx).
ft-»oo
Но так как ^xutt(x)n (dx) = ^*ц (M,)dt, то из равенства
^m \*l1(Mi)dt=^ii(Mt)dt вытекает первое тождество A). Вто-
Второе тождество получается точно так же.
Замечание. Предоставляем читателю выписать формулу,
аналогичную A), для интеграла \х и (х) ц (dx), где ц — заряд, а
и — не обязательно знакопостоянная функция, такая, что
lx\u(x)\i\i\dx<co.
1.2.4. Формула для интеграла от модуля градиента. Для того
чтобы сформулировать следующее утверждение, нам потребуется
определеннее-мерной меры Хаусдорфа. Пусть Е — множество в Rn.
Рассмотрим всевозможные покрытия Е шарами радиусов, не
превосходящих в, и положим a (e) = va\nl^lirdi, где л,-— радиус
1-го шара, vd -*¦ объем едини ного пара в Rd и инфимум берется

40 § 1.2. Некоторые факты теории множеств и теории функций
по всем таким покрытиям; d-мерной мерой Хаусдорфа Hd (Е)
множества Е называется предел о(е) при е-»-0. (Такой предел,
конечный или бесконечный, разумеется, существует в силу моно-
монотонности функции о.)
Теорема. Пусть Ф — измеримая по Борелю неотрицательная
функция в Q, и еС0' ' (Q), Q — открытое подмножество R". Тогда
]QO(x)\Vu(x)\dx = ?dt\EtO(x)d8(x), A)
где s — (л —1)-мерная мера Хаусдорфа, ?, = {xeQ: \u(x)\=t\.
Мы приведем вывод равенства A) в следующей ослабленной
формулировке, которая только и потребуется в этой главе. Если
OeC(Q), Фз=0, иеС°°(Й), то справедливо тождество A).
(При этом под мерой ь можно понимать (л —1)-мерную меру Ле-
Лебега, так как согласно следствию 1.2.2 Et — гладкие многообразия.)
Доказательство. Пусть w — л-мерная вектор-функция
из Ф (Q). Интегрируя по частям и применяя теорему 1.2.3,
получаем ^uw^udx =—JQ ud\vwdx =— J™dt Ju>/di
^u<ld\vwdx. Так как и eEC°°(Q), то при п. в. / множества {х:
и (х) = t}—бесконечно дифференцируемые многообразия в Q. Поэто-
Поэтому при п. в. />0
div wdx = — \u -r wxds = — L = i (даУ"/1 V" !) ds>
где v —нормаль к {х: u(x)=t\, направленная внутрь множества
{х: u(x)^t\. Аналогично преобразуется интеграл Ju<r divwdx
при ^^0. Следовательно, \а w^udx = J™dt^E (w Vm/| ^u\)dx. По-
Положим в этом тождестве ш = Ф V«/(| Vu P + eI/2, где Oef (Q)
и е — положительное число. Тогда
2 + гI") dx = J"Л $?/ (ш V«/| V« |) ds.
Переходя к пределу при е \ 0 (и используя при этом теорему
Беппо Леви о предельном переходе под знаком интеграла), полу-
получаем равенство A) для всех Oef (Q),
Пусть ФеС (Q), supp Фей и <Mh<& — усреднение функции Ф
с радиусом л. Так как supp еЛнФ с Q при малых л, то
$ $$?^ B)
Очевидно, что существует постоянная С = С(Ф), такая, что
l \ ads, C)

1.2.5. Комментарии к § 1.2 41
где а ^& (Q), а= 1 на (Jsupp &#ЛФ, а^О. В силу равенства A),
л
примененного к функции Ф = а, интеграл в правой части C) —
суммируемая на @, +оо) функция. Поскольку <*#,,Ф-»-Ф равно-
равномерно и s (Е, П supp а) < оо при п. в. /, то $? <Лкф db j^-g $? Фс/s
при этих значениях /. Теперь возможность предельного перехода
в B) при Л-*-0 следует из теоремы Лебега [100].
Снимем ограничение supp Ф с Q. Пусть ФеС(й), Ф^О,
и {ат} — последовательность неотрицательных функций из & (Q),
такая, что (Jsuppam=Q, 0<am< 1 иат(л;) = 1 при x
т
Тогда supp (атф) с Q и
$ л; = J™ dt \E атф ds.
'Так как последовательность {атФ} не убывает, то здесь можно
перейти к пределу при т-»-со в силу теоремы Беппо Леви
(см. [100]). ¦
1.2.5. Комментарии к § 1.2. Здесь собран используемый
в книге вспомогательный материал, значительная часть которого
нужна уже в первой главе.
Теорема 1.2.1/1 принадлежит А. С. Безиковичу [152] (см.
также М. Гусман [28]), а теорема 1.2.1/2 —Гастину [187]. Здесь
воспроизведено простое доказательство теоремы 1.2.1/2, предло-
предложенное Федерером [173]. Теорема 1.2.2/2 доказана А. Морсом [224]
для функций из С"; мы следуем книге Е. М. Ландиса [49]. Как
показал Уитни, существуют функции / е С"-1, для которых утвер-
утверждение теоремы 1.2.2/2 неверно. Теорема 1.2.3 содержится
в статье Д. К- Фаддеева [127]. Равенство A.2.4/1) установлено
А. С. Кронродом [44] в двумерном случае для асимптотически
дифференцируемых функций. Федерёр [172] доказал утверждение,
обобщающее теорему 1.2.4 для липшицевых отображений: Rn~*-Rm.
Доказательство результата Федерера изложено в книге Ю. Д. Бу-
раго и В. А. Залгаллера [10].
§ 1.3. НЕКОТОРЫЕ НЕРАВЕНСТВА
ДЛЯ ФУНКЦИЙ ОДНОЙ ПЕРЕМЕННОЙ
Этот параграф в основном посвящен обобщению следующего
неравенства Харди (см. [128, с. 296]).
Если /(*)=ь0, то
$7 x-'F (x)p dx < (р/| г - 11)" $Г *-' Ш (х)У dx, A)
где р > 1, г Ф 1 и
t при г>1, F{x) = ?f(f)dl при г<1. .

42 $ 1.3. Некоторые неравенства для функций одной переменной
1.3.1. Случай p^q-
Теорема 1. Пусть ц и v — неотрицательные борелевские меры
на (О, оо) и v* — абсолютно непрерывная часть v. Неравенство
где 1 ^p^q^co, справедливо для всех борелевских функций f в том
и только в том случае, если
В = sup [ц ([г, оо))]1/? [^ (dv*/dx)-^p - l) dx\lp ~ Wp < оо. B)
Более того, если С —наилучшая константа в A), то
C)
Если р — 1 или q — oo, то В — С.
В случае q = oo условие B) означает, что В =
= sup{r>0: fi([r, oo))>0}<ooudv*/t/A;>0 для п. в. х^[0, В].
Докажем сначала следующую менее общую теорему, посвя-
посвященную случаю абсолютно : епрерывных мер ц и v.
Теорема 2. Пусть 1 ^p^q^oo. Для того чтобы существо-
существовала константа С, не зависящая от функции f, такая, что
[^)\Pdx\1/p, D)
необходимо и достаточно, чтобы
В = sup (J" | w (х) \« dx)llg (y9\ v (х) I- -' dx)wr < оо, E)
где р' =р/(р — 1). Более того, если С — наилучшая константа в D)
и величина В определена в E), то справедливы неравенства C).
Если р = 1 или р = оо, то В = С.
Доказательство. Случай 1<р^:^<;оо, Необходи-
Необходимость Если /^0 и supp/c:[0, r], то из неравенства D)
вытекает
$" I w (х) \« dx)l"> \rJ (t) dt ^ С (\r01 v (x) f (x) \p dxI".
Пусть yo\v(x)\-P/{P-lldx<:oo. Положим f (x) — \ v(x) \~~p' прих<г
и /(л;) = 0 при х>т. Тогда
[ J" | w (х) \9 dx\vg \yo\v(х) \-»- dx]x/p' <С. F)
Если ijj| и (х) \~'' dx = co, то можем прийти к тому же результату,
заменив в D) функцию v(x) на v(x)-{-esgnv(x), e>0, и перейдя
к пределу при е->0.
Достаточность, Положим h (х) = Q* | v (/),-''' i

1.3.1. Случай psS<? 43
По неравенству Гельдера
(о о (о
G)
Докажем теперь, что если ф, /^0, г 2=1, то
(Г ф w E; / ы <&)' <**г < $г / (у) (Г ф <*> **г^ (8)
Действительно, выражение в левой части (8) равно
EГ ($Г Ч> (-жI" / (if) Xiv. со» (x)dy)rdxI", где xlv. ^-характеристиче-
^-характеристическая функция полуоси [у, оо), и по неравенству Минковского
не превосходит
Г ЯГ [ф (*I7' / су) »». -. wr dxT dy=\7f (у) (Г ф <*) ^Г ^
Согласно (8) правая часть в G) мажорируется величиной
ГI / @ h @ и @ |р (J" | ш (х) |? ($* | Л (у) о (у) Г-"' dy)'/p' dxf4 dt. (9)
Подставляя выражение для h во внутренний интеграл, перепишем
интеграл no x в виде
$Г I«»(*) \9 {\* I о (У) I'"' (So Iy W I""' *Г'7' dy)'/p'dx. A0)
Так как
то интеграл A0) равен
(?')«"' $Г ! о» (х) |* E* I у (у) |- "' dt/)'/p'*' dx.
По определению В это выражение не превосходит
Во/ч' (q'Y'P' f | ш (дс) |» (^ | w (у) |» ф)/r dx =
= S?-1 (q'Y'P'q E7 i о» W i? dx)v« ^
<fl» (q')"Prq(^i v(x) \-P'dx)-4p' = Bitf)'ip-qh (/)"«. A1)
Поэтому выражение (9) не больше чем
\7 i / @ о @ 'г (О !p (fi? (?')""' Ф it
= Вр (q')P'p' q»iq\™\v(t)f @ pd/.
Следовательно, неравенство D) выполняется с константой
В (д'уР»1РЧЯ

44 § 1.3. Некоторые неравенства для функций одной переменной
Перейдем к рассмотрению предельных случаев.
Если р = со, то q = oo и неравенство D) следует из очевидной
оценки
ess sup ш (х) \* / (t) dt |< ess sup | ay x) \[x (dt/\ v (Q j) ess sup \v(t)f (t) |.
Если р = 1, ?<оо, то из неравенства ($) вытекает
Пусть ? = со, p = 1. Тогда
esssup
0<*<oo
pf|
Если р> 1, то
sup [ess sup \w(x)\ (II | v (Q |-"' d/)l/p' (ft 10 @ / @ |
Доказательство теоремы 1. Полагая / = 0 на носителе
сингулярной части меры v, получаем, что неравенство A) экви-
эквивалентно неравенству
Оценка В^С проводится точно так же, как и в-доказатель-
в-доказательстве теоремы 2, если заменить \v(x)\p на dv*/dx и ^\w(x)\idx
на \x.i\r, со)).
Получим верхнюю оценку для С. Можно предположить, что
/3=0. Пусть \gn) — последовательность убывающих абсолютно
непрерывных на [0, со) функций, удовлетворяющих условиям:
(х) <#„+! (х) < ц ([*. °°)). Ит ?« (*) = Ц ([л:, со)) при п. в. х.
ч-»оо
Имеем
/ (о л
По теореме о монотонной сходимости правая часть равна

1.3.2. Случай p>q 45
Из определений константы В и последовательности {gn} следует
неравенство
ЦТ IS* (x)}dx\l'4{\[{dv*ldx)-'>'<r>dx\l:y <S.
Отсюда и из теоремы 2 выводим, что правая часть A2)
не превосходит В tfyp-u/PqVi (j~ | / (*) |" (dv*/dx) dx)Vp. Ш
Заменяя х на лг1, получаем из теоремы 1 следующее утвер-
утверждение.
Теорема 3. Пусть \^р^д*^оо. Для того чтобы существо-
существовала константа С, не зависящая от функции /, такая, что
[?Г IST/ (оdt
необходимо и достаточно, чтобы величина
В = sup [fx (@, г])]1" [5™ (dv*/^)-1^"-1» dx
Ip-D/P
конечной. Наилучшая константа в A3) удовлетворяет тем же
неравенствам, что и в теореме 1.
Аналогично при помощи замены @, со) э х-уу = х — х-1 е
е (— со, + °°) из теоремы 1 следует
Теорема 4. Пусть 1 ^p^q^co. Для того чтобы существо-
существовала константа С, не зависящая от функции /, такая, что
необходимо и достаточно, чтобы величина
В= sup 1ц((— со, r))]1">\C(dv*/dx)-1HP-1)dx}(p-1)"'
ге(-оо, оо) L J
была конечной. Числа В и С связаны так же, как в теореме 1.
1.3.2. Случаи p>q.
Лемма. Пусть l^q<.p^oo, со — неотрицательная борелев-
екая функция на интервале (О, Ь), где b е @, оо]. Для того чтобы
существовала константа С, не зависящая от функции т\>, такая, что
($><0 | ft *<т)*|» *)"¦'<
необходимо и достаточно, чтобы
в=($;($>(T)dT)w(">/<•-»'
?слы С —наилучшая константа в
при <?>1 ы В = С при о = 1.
iC(So|i|3(/)pd/I/p,
/(р-?Ч/)(р-?1/р?<оо.
B), то
Цр1(р — \)Уя-1I<1 Ф1ЯВ
A)
B)

46 § 1,3. Некоторые неравенства для функций одной переменной
Доказательство. Достаточность. Рассмотрим сна-
сначала случай q> 1. Можно считать, что \|:(Ойь--П. Производя инте-
интегрирование по частям в левой части A) и применяя неравенство
Гельдера с показателями p/(p — q), p/(q—l) и р, получаем
со (О (К*W drL di?" = q^ (JJ Jf со
*. (З)
Из B) и неравенства Харди, сформулированного перед п. 1.3.1,
следует, что выражение C) не превосходит В(р/(р — 1))(?-1)/?х
(\by'
y
Необходимость. Рассмотрим, например, случай Ь = оо
(при Ь<оо рассуждения аналогичны).
Если неравенство A) имеет место для веса со с константой С,
то оно имеет место (стой же константой) и для веса cOjv = cox[o, лп>
гДе Xfo, jv] — характеристическая функция отрезка [О, N]. Положим
Из A) вытекает, что
СВТ-9) = С($Г h WdxI" ^ (JT co^ @ (K/„ (t) dx)" dty><. D)
Интегрируя по частям, получаем, что интеграл D) равен
{Я \7 h @ Г "^ (т) dx§ofo (х) dx)'-1 dtI"*. E)
Так как
(t) dt)'-1 = Щ х(^)л'р-г) (S7 со^ (т) *
^ (Т) dT)'»-1"^»» f(P-1)
то выражение E) не меньше чем
_ \)Цр - q)yi-9)/9 (
= qv« ((р -
Поэтому ВN^q-1'4({p — q)l(p— 1))A~?)/?C, и та же оценка верна
для В
При q=l условие B1 записывается особенно просто:

1,3,2, Случай р > ц 47
Для доказательства того, что в этом случае С^В, проинте-
проинтегрируем по частям в левой части A) и применим неравенство
Гельдера с показателями р и р' (ср C)), Тогда для первой части
неравенства A) получается мажоранта ($о(Г°со(т)с'тУ dtY/p'x
х($о! ¦ф@|р<#I/Р и неравенство С^В доказано.
Для того чтобы вывести неравенство В^.С, подставим fN (х) =
= ($Г w'v (*) dt)V(P~1) B выражение E), Тогда получаем, то BN^C,
а следовательно, и В^С, В
Теорема 1. Пусть 1 =^</</?^сх>. Неравенство A,3.1/4) верно
в том и только в том случае, если
F)
Если С —точная константа в A,3.1/4), то
при
и В = С при q=l, 1 <р =$;оо.
Доказательство. Д^ожно считать, что f5?0 (так как при
замене /на / правая часть в A.3,1/4) не изменится, а левая
лишь возрастет) и что /(jc) = O при достаточно больших х. Поло-
Положим t (x) = \x0\v{y)\-p'dy. Тогда неравенство A,3.1/4) можно пе-
переписать в виде
где w(t(x)) = w(x), v(t(x))=>v(x), \
= ]"\v(y)\-p'dy.
Теперь утверждение теоремы для случая 1 ^ q < р < оо выте-
вытекает из леммы.
Пусть р = оо. Тогда
в = (С (So Iv M I'1 *yV $Г I * (У) I" ^У (dx/\ v (x)
=ri/9 {\71w & \" {\l шv (y) \)L dx)lf<>'
Следовательно,
(С I w (x) \xn f (t) dt \4 dxI'4 ^ Bq1'" ess sup \vf\.
Для доказательства необходимости можно заметить, что функ-
функция v не равна нулю на множестве положительной меры, а затем
положить f — 1/v Ш

48 § 1.3. Некоторые неравенства для функций одной переменной
Следующее более общее утверждение выводится из доказанной
теоремы 1 так же, как теорема 1.3.1/1 была получена из тео-
теоремы 1.3.1/2.
Теорема 2. Пусть ц и v — неотрицательные борелевские меры
на @, оо) и v* — абсолютно непрерывная часть v. Неравенство
A.3.1/4), где 1 =^</</?й?эо, справедливо для всех борелевских
функций f в том и только в том случае, если
В = ($~ [ft ([х, оо)) (Yo (dvVdy)-P' dyy-1\p/{P"') x
X (dy
Точная константа С в A.3.1/13) связана с В так же, как в тео-
теореме 1.
При помощи замены х на дг1 отсюда получаем следующий
результат.
Теорема 3. Пусть I ^q<p^oo. Неравенство A.3.1/13) спра-
справедливо в том и только в том случае, если
) х
X (dv*/dx)-Pr йх)(р-чIрч < оо.
Наилучшая константа С в A.3.1/13) связана с В так же, как и
в теореме 1.
Замена @, оо) э х -> у = х — х-1 <= (— оо, + оо) приводит к сле-
следующему необходимому и достаточному условию справедливости
неравенства A.3.1/14) при I ^q<p^оо:
1.3.3. Еще три неравенства для функций на полуоси.
Лемма I. Если f — неотрицательная невозрастающая функция
на полуоси @, оо) и р^\, то
) A)
Доказательство. Очевидно, что
Лемма 2. Если f{x)^O, то
< с (а, Ь, К ii) [$" x°-*-*f (xY dxf [$" x»-^f (x)" dx]\ B)
где

1,3.3. Еще три неравенства для функций на полуоси 49
Доказательство. Очевидно, что
+
По неравенству Гельдера
г* со jv I г* оо \л/п
* со
о
где
Следовательно,
a-l)/a
I
0 *la~ ' — W/(a — 1) (l_j_^ja
со
J"/ (je) dx< L (J~ je-^/ (je)« dxI/a + Af (J" je»-^/ (je)» dxI/b.
Заменяя здесь f(x) на f (z/p), где р>0, и полагая z = px,
получаем
P-1 J~/ (z/p) dz ^Lp^»/« (Sr^-"/ B/P)adzI/a +
p- ой-»)/»
Итак, для всех измеримых неотрицательных функций на @, оо)
при любом р>0
I/a
J™ ф (г) dz ^ LpV* (J™ t^-hf (z)a dz)
Минимизируя правую часть по р, получаем B),
Лемма 3. Если f — неотрицательная невозраетающая функция
на полуоси @, оо) и р>1, то
{{Р ~ У)"-1 IP") sup xPf (x) < sup xP-1 Г / @ dt, C)
X X J
Для характеристической функции интервала @, 1) выраже-
выражение C) превращается в равенство.
Доказательство. Пусть с —произвольное положительное
число. Так как / не возрастает, то

50 § 1.4. Теоремы вложения типа С. Л. Соболева
Отсюда находим
Vf-^т-с
—1)
Полагая х =—;Ц-с, п0ЛУчаем C)-
Для функции /, равной единице при 0<jc<1 и нулю при
1, справедливы равенства
sup хр-1 \°° / (t) dt = sup xP-1 A — х) =
JX 0<<1
х
Замечание. Для произвольной неотрицательной измеримой
функции на @, оэ) справедливо неравенство, обратное к C):
sup хр-Л™ f (t) dt *^A/(р-I)) sup XPf(x), D)
к к
которое становится равенством для функции / (х) = х~р.
Действительно,
5™/ @ dt ^ хр-1 5" (dt/tP) sup xPf (x) = (l/(p - 1)) sup xPf (x).
1.3.4. Комментарии к § КЗ. Имеется большое число работ,
где используются частные случаи теорем из пп. 1.3.1, 1.3.2.
В случае p = q теоремы 1.3.1/1 и 1 3.1/2 доказаны Макенхауп-
том [226]. Обобщения на рфц, которым посвящены пп. 1.3.1 и
1.3.2, получены А. Л. Розиным и автором (см. В. Г. Мазья [213]).
Случай р<.ц независимо рассмотрен В. М. Кокилашвили [39].
Неравенство A.3.3/1) доказано в статье Харди, Литтлвуда и
Полна [193], а неравенство A.3.3/2) можно найти в книге [128]
тех же авторов. Точная константа в неравенстве A.3.3/2) най-
найдена В. И. Левиным [52]. Лемма 1.3.3/3 была опубликована
в книге автора [213].
§ 1.4. ТЕОРЕМЫ ВЛОЖЕНИЯ. ТИПА С. Л. СОБОЛЕВА
Цель этого параграфа — обобщение теоремы вложения Собо-
Соболева Этот результат в значительной своей части получается как
следствие оценок нормы в пространстве функций, суммируемых
со степенью q по произвольной мере, через норму в пространстве
Соболева. Сначала рассматриваются функции на R", а затем де-
делается простой переход к случаю ограниченной области.

1.4.1. Теоремы Д. Р. Адамса о потенциалах М. Рисса 51
1.4.1. Теорема Д. Р. Адамса о потенциалах М. Рисса. Пусть
(х — мера в R", т. е. неотрицательная счетно-аддитивная функция
множества, заданная на борелевском 0-кольце пространства R".
Обозначим через Lq (Rn, fi) =Lq (fi) пространство функций в Rn,
измеримых относительно меры \i и суммируемых по ц со сте-
степенью q. Положим fu|t w = (^\u\9 d\i.y/9. Точно так же опреде-
определяется пространство L?(Q, fi), где fi — мера в открытом мно-
множестве Q.
Для того чтобы получить основной результат этого пункта,
нам потребуется классическая интерполяционная теорема—тео-
теорема—теорема Марцинкевича, которую мы приведем без доказательства
(см., например, книгу Стейна [121]). Предположим, что р0, Ръ
q0, qi — вещественные числа, 1 ^Pi^qi<oo, po<Pi и qo?=Qi-
Обозначим через ц меру в R" и через Т заданный на ЁР адди-
аддитивный оператор, значения которого — fi-измеримые функции.
Говорят, что Т — оператор слабого типа (р,-, </,-). если сущест-
существует постоянная Дг, такая, что для любой функции /е^
для всех а>0.
Теорема I. Пусть Т —оператор слабых типов (р0, q0) и (ръ qx).
ЕслиО<9<\и\/р = (\ -9 9 l (\9 9d
всех /е^
и, следовательно, Т может быть распространен на Lp как непре-
непрерывный оператор Lp-^Lq(\x.). Здесь с = с(ри рг, qx, q2, В) —по-
—постоянная, не зависящая от \i, T и f.
Перейдем к формулировке и доказательству основной теоремы
настоящего раздела.
Теорема 2. Пусть />0, 1 <p<q<oo, 1р<п. Потенциал
М. Рисса (///) (х) = J [ х — у \!-п f (у) dy осуществляет непрерывное
отображение Lp в Lq (\х) в том и только в том случае, если
функция
o4f (jc) ^Si sup p-*|x [Д (je, p)],
p>0
где s = q(n/p — l), ограничена.
Доказательство. Достаточность. Докажем не-
неравенство
tii {Xtyi" ^ vy pq(n - pl)~l (q - p) -' sup еЩх?'* \\ f \\Lp, A)
где p' = p/(p-l), %t = \y- (Ii\f\)(y)>t\, ^>0. Пусть (i,-суже-
(i,-сужение меры \л на множество Xt и г — положительное число, кото-

52 § 1.4. Теоремы вложения типа С. Л. Соболева
рое будет выбрано далее. Очевидно, что
= (n - /) y0 (...) p'-"-i dp + (n - /) $7 (...) p'—i dp = Аг + Л,.
Используя неравенство fi, [B(jc, p)] sg (fi, [B (x, p)JI/p'e^(xI/pp-r''
получаем
/lisg(n — /)sup a? (x)xlP\f\L \r0(^\Lt[B {x, p)]dxy ps/p+'-n-1dp.
Так как
J A/ [В (X, p)] GfjC =
то
A i s? (p (n — /)/(/>/ — n + s))vl/p' sup i
Аналогично
It \i {Xt)llp $7 ($ H*/ [^ (•«. P)] ^I/P' P'~"~ 'dp =
= (p (П - /)/(rt - p/)) и„Р | / |t
Следовательно,
p' (n — l)p (sup e^ (xI/p (p/ — n + s)-1 /
(n-p/)-1^
Минимум по т правой части достигается при л* = fi («Sf^/sup в?(х)
и равен
(р (п - /) s/(n - pi) (pl-n + s)) v]i"' I / \Lp sup ^ {хУ'ч |i (c5f/I/p-i/?.
Оценка A) доказана.
Применяя интерполяционную теорему 3.1, получаем непрерыв-
непрерывность оператора /,: Lp -*¦ Lq (\i) и оценку
И if к9ш^с sup (*€(x))W\f\Lp. B)
Необходимость. Пусть
|/i/k,(u)^C|/|tp. C)
Возьмем в качестве / характеристическую функцию шара В (х, р).
Тогда при z^B (х, р)
G,Л (г) ^ Bр) \в u р)
Отсюда и из C) получаем

1.4.2. Оценка нормы в Lq (Q, \i) интегралом от модуля градиента 53
Теорема 2 вместе с интегральным представлением A.1.10/6)
дает следующий результат.
Следствие. Пусть 1</><<7<Соо и n>pl.
1) Для всех функций uef справедливо неравенство
I и к, (и) < СI V|M 1г.в. D)
где
С ^с^ир pv^/p^n (В (х, р)).
2) Если для функций uef справедливо неравенство D), то
С» 5гс2 sup p<'-"/">/V (Я (*> Р». ¦
1.4.2. Оценка нормы в Lq(Q, ц) интегралом от модуля
градиента.
Теорема 1. 1) Пусть
pO(g(g A)
(g)
где q^zl и {g} —совокупность открытых подмножеств открытого
множества Q с компактными замыканиями gc&, ограниченных
многообразиями класса С00. Тогда для всех функций ms^(Q)
справедливо неравенство
B)
C)
2) Пусть для всех функций ме^(?!) верно неравенство A).
Тогда
D)
{«}
Доказательство, 1) Согласно теореме 1.2.3
где Lt = {x: \u(x)\>t}. Так как ii(Lt) не возрастает, то, приме-
применяя неравенство A.3.3/1), получаем
I и \Lq (n. и» =?? $Г \i {LtY"> dt ^ sup (\i
(Здесь мы воспользовались следствием 1.2.2, согласно которому
почти все множества Lt ограничены гладкими многообразиями.)
В силу теоремы 1.2.4 последний интеграл совпадает с !|VufLl(n).
2) Пусть g — любое множество из совокупности {g\ и пусть

54 § 1.4. Теоремы вложения типа С, Л. Соболева
d (л:) = dist (л:, g), gt = {x: d(x)<it}. Подставим в A) функцию
иЕ (х) = oc[d (х)], где a (d) — невозрастающая бесконечно дифферен-
дифференцируемая функция на [О, 1J, равная единице при d = 0 и нулю
при d>e, (e — достаточно малое положительное число). Согласно
теореме 1.2.4 $Q | Vue\dx = ^eoa' (t)s(dgt)dt. Так как s(dgt)-*¦ s(dg)
при /->0, то
\Q\Vue\dx-+s(dg). E)
Очевидно, что
l"ei!VQ.u>^M?I/?- F)
Объединяя E) и F) с B), получаем
\i(gY"'^Cs(dg). Ш
Из теоремы 1 и классического изопериметрического неравенства
mn(g)l-"'1)'n^n-1v^1/ns(dg) G)
получаем неравенство
I« Km-» < n-lv7Vn I v" %, ues&, (8)
с точной константой.
В случае п>р^=1 заменим в (8) функцию и на \и |рС-1)/(п-р)
и затем оценим правую часть при помощи неравенства Гельдера.
Имеем
1" С/7» -S"
Следовательно,
>! и ^РП/,П-Р) < И" - О/я (я - /»)) v7Un p
Отсюда и из неравенств* | V | V^.^ и 11 «с n1/21 V^^+jm | получаем
оценку
(Р(я - \)/(п - ^))п^Ч-1/л|V:-*+1«iV/(n_(,_1)p), (9)
где kp<i.n. Полагая k= 1, 2, ..., / в (9) и перемножая получен-
полученные неравенства, выводим следующее утверждение.
Следствие. Если п> 1р, р Э= 1, то для всех функций и
справедливо неравенство
" - O/wV")' (г (n/p - о/г (n
Тем самым мы получили неравенство Соболева (р>1) —
Гальярдо (р=1) с явным (но не точным при р>\, 1^\ или

1.4.3. Оценка нормы в Lq (Л", ц) интегралом от модуля градиента 55
при /?5з1, />1) значением постоянной. В случае / = 1 точное
значение константы известно (см. п. 2.3.1). ¦
В следующей теореме показано, что в случае Q = Rn усло-
условие A) можно заменить эквивалентным:
^"ii[B(x, р)]<оо. A1)
*. о
Теорема 2. 1) Если выполнено условие A1), то для всех функ-
функций и<=& справедливо неравенство B), где </Ssl и
C^dsupp^H^Bix, pI A2)
к. р
(с — постоянная, зависящая только от п).
2) Если для всех функций ug^1 верно неравенство B), то
, p)]. A3)
*. Р
Доказательство. Пусть {В (xj, р;)} —покрытие множе-
множества g. построенное в теореме 1.2.1/2. В силу очевидного не-
неравенства (Х-Ч/I/?^2 a,'rt' где а/^°
(
. i. p
Отсюда и из неравенства A.2.1/3) получаем
li (g) ^ ся sup pi ч-")ц (В (х, р)) [s
ж. Р
что вместе с теоремой 1 дает B).
Неравенство A3)— очевидное следствие опенки D). ¦
1.4.3. Оценка нормы в L,(Rn, ц) интеграло от модуля гра-
градиента порядка /.
Лемма. Пусть р — мера в Rn,n>l, 1 «?;</<(« — /+ l)(n —Z)-1
и тг1 = 1 — n~l(q— l)(n — /). Пусть еще ( ^
Тогда для всех x^R" и р>0
р'-хгя 1 /jfxkt(в(х. рп^с sup г«'-»»«|1(В(дс, г)).
«eft". г>о
Доказательство. Пусть для определенности л; = 0. В силу
неравенства Минковского
A)

56 § 1.4. Теоремы вложения типа С. Л. Соболева
Так как (п-1)х<п, то Jljt <p (dx/\x — y Ц"-1'*) й^ср"-*»"-1'. Сле-
Следовательно, правая часть неравенства A) не превосходит
ъ1 (д Bр)). Поэтому
Вместе с тем
Последний интеграл равен (п — 1) ^ A(Б(л)\Б Bp))r-"dr и поэтому
оценивается сверху величиной cp«(»-')-n+i sup г^~п)ч\х.{В (г)). Ш
0<г<оо
Теорема. Пусть ц—мера в Rn, l^n и </3sl. Неравенство
I и li, (и> ^ С1 V|M U.^ MeJ?\ B)
справедливо в том и только в том случае, если
К= sup p*-» [ji (В (дс, р))]1/?<оо. C)
" p>0
Величина К эквивалентна точной константе С в B).
Доказательство. Оценка С^сК очевидна. Докажем
обратную оценку. В случае / = п она следует из тождества
Пусть /<Сп. В случае /= 1 результат содержится в теореме 1.4.2/2.
Рассмотрим сначала случай />1, q>n/(n— 1). В силу след-
следствия 1.4.1
Применяя оценку A.4.2/8), получаем, что правая часть не пре-
превосходит c/e|V,«j|Ll.
Пусть теперь />1, q^n/(n— 1). Воспользуемся индукцией
по числу производных. Допустим, что утверждение верно для
производных порядка 2, ..., / — 1. В силу интегрального пред-
представления A.1.10/6)
Поэтому
где х-х = 1 — (q— 1) (п — 1)ггх. Первая норма справа оценивается
при помощи неравенства A.4.2/10) величиной cf VzujLi, а вторая —

1.4.4. Следствия предыдущих результатов 57
в силу индукционного предположения не превосходит
с sup р'-1-" || h\x. «z. (в (л, р»! V ;!l •
<?«", р>0
Так как q «^ n (п — I)-1, то с/ < (п — / -j-1) (п — /)-\ и поэтому можно
воспользоваться леммой. Достаточность условия C) и оценка
С^ксК установлены. Необходимость и оценка Сis*сК получаются
подстановкой в B) функции у-*-ц((у — xf/р), где ijef (Вг),
т]= 1 на Вх. ¦
1.4.4. Следствия предыдущих результатов. Следующее утвержде-
утверждение объединяет и дополняет следствие 1.4.1 и теорему 1.4.3.
Теорема 1. При &</, p(l — k)<.n, 1^р<?/<оо и при
I — k = n, p= I sg </ =?S оо точная константа в неравенстве
IVl^lirt^CIVjMl^, «Ef, A)
квивалентна величине K = suppl-k-np~1[ii(B (х, р))]1/?.
х, р
Доказательство. Оценка С^сК доказана в следствии 1.4.1
и теореме 1.4.3. Полагая в A) ы(г/) = (л;1 — yi)kr\((x — y)/p), где
Р>0, г\<=.&ф.2), г|=1 на Ви получаем оценку С снизу.
Из теоремы 1 следует ее аналог для пространства Vlp-
Теорема 2. Пусть выполнены условия теоремы 1 относительно
р, q, I, k, п. Тогда точная константа в неравенстве JV'hu\L (Ц>^
^С||и|yi, uef, эквивалентна величине
/Ci= sup р*-*-»/|»[|1(В(дс, р))]1/?. B)
х: рею. 1)
Доказательство. Получим верхнюю оценку С. Пусть
кубы Qj образуют координатную решетку в Rn с шагом, рав-
равным 1, a 2Q/ —концентрические подобно расположенные кубы
с длиной ребра 2. Через {т)у} обозначим разбиение единицы, под-
подчиненное покрытию {2Qj\ и такое, что | VmT]y | ^ с (т) для всех /.
Здесь с (т) — положительная постоянная, а т — ^юбое натураль-
натуральное число. Так как кратность покрытия \2Qj} конечна и зависит
только от п, то
], $ | V* (т1Уи) |» d^-
Применяя к каждому слагаемому в последней сумме теорему 1,.
получаем
с sup р'-*-*/* [A BQ, П 5 (л;, р))]1/» || V, (Луи) |L
*: Р. / р
Следовательно, 1^»ы|л (w)<c/Cil«l ,, где /Ci —константа, опреде-
ленная равенством B).
Оценка С снизу получается точно так же, как и в теореме 1»

58 § 1.4. Теоремы вложения типа С. Л. Соболева
1.4.5. Обобщенная теорема Соболева.
Теорема. Пусть Q — подобласть R" с компактным замыканием,
являющаяся объединением конечного числа областей класса EVlp-
(Согласно п. 1.1.9 и теореме Стейна о продолжении, упомянутой
в п. 1.1.16, это требование выполнено, в частности, если Q удов-
удовлетворяет условию конуса).
Пусть еще р—мера в Q, удовлетворяющая условию
sup p-*fi (Q П В (х, р))<оо, A)
не*", р>о
где s>0 (например, если s —целое число, то в качестве ц можно
взять s-мерную меру Лебега на О, Л Rs).
Тогда для любой функции ueC00 (Q) П Vlp (Q) справедлива оценка
Ц* = 01^-"^«.и)^С|!ы;^(Ш, B)
где С — постоянная, не зависящая от и, а параметры q, s, p, I
удовлетворяют неравенствам
(a) р>\,
(b) p = l,
(c) p> 1, n = p(l — k), s^Sin, q — любое положительное число.
Если выполнено одно из условий:
(d) p>\, n<p(l-k);
(e) р = 1, п «?; / — k,
то справедлива оценка
2/ = os?P!vy"I^Cf«l^(Q). C)
Если область Q принадлежит классу EVlp, например вхо-
входит в С01, то утверждение теоремы в случае (d) допускает сле-
следующее уточнение:
({) если pssl, (/ -k — 1) р < п<A -k)p и Х = ((/ -k)p — п)р-1,
то для всех и е Wlp (Q) выполняется неравенство
sup !MfcI*«M^C|H|yl@). D)
(g) Ясли (/-6-1)/? = п, mo d/гя всех к <= @. 1) и иеК|,B)
выполняется неравенство D).
Доказательство Заметим сначала, что так как Fp, (Q) с:
с: Vp, (Q) при р\ > /?», то в случаях (с) и (g) результат следует
из (е) и @ соответственно.
Достаточно доказать B), C) для области из EVlp. Поскольку
для. такой области существует непрерывный оператор продолже-

1.4.5. Обобщенная теорема Соболева 59
ния: Vlp (Q)-»- Vp (/?"), то можно ограничиться случаем ?> = /?".
Для того чтобы получить B), в случаях (а), (Ь) можно сослаться
на теорему 1.4.4/2.
Пусть выполнено условие (d). Достаточно доказать C) для
функций из Vp (Rn) с носителями в некотором шаре. Тогда C)
следует из интегрального представления A.1.10/6) и неравенства
Гель дер а.
В случае (е) оценка C) получается из A.4.3/4).
Пусть выполнено условие (f). Очевидно, что достаточно пред-
предположить. & = 0. Так как Q<=EVlP, то, как и ранее, можно по-
положить Q = /?n. Согласно A.1.10/6)
где |/Ce(z)|«?c|z|'-» и \Ka(z + h) - Ka(z)\^c\h\\z\'-1-n при
||3|A|. Следовательно,
Остается применить к каждому из интегралов в правой части
неравенство Гельдера. ¦
Замечание 1. Все соотношения между п, р, I, k, Xв усло-
условиях (d) — (g) теоремы точны. Это можно проверить на примере
функций л:* log | log | jc 11, I a; |a.
Замечание 2 Из теоремы следует, что пространство VlP(Й)
непрерывно вложено в F*(Q), q = np(n—p(l — k))'1 при n^>p(l —k),
Р5г1, если область Q ограничена и удовлетворяет условию ко-
конуса. В случае n=p(l—k) то же верно при любом q<co. При
p(l —k)>n и при р=\, l — k^n имеет место непрерывное вло-
вложение V'P(Q) в C*(Q), т. е. в пространство функций, непрерыв-
непрерывных и ограниченных в Q вместе со всеми производными до по-
порядка k.
Если ЙеС0-1, то при условиях (f), (g) пространство V!P(Q)
вложено в пространство С* к(&), полученное пополнением Cft+1(Q)
по норме
H*=olV/" '-'«'+ SUP С *">"(*)-?*u @I/1 *-fHx)-
Из услорий r< (b), (с) покачанной теопемы следует, что при
целом * операм '"и»1
^ V—у i. ^ \~) =-«¦-"»¦ н>пи E)

60 § 1.4. Теоремы вложения типа С. Л. Соболева
может быть единственным образом распространен до линейного
непрерывного оператора: Vp(Q)-*-V^(Rs f]Q).
Используя лемму 1.1.11, можно переписать B) в эквивалент-
эквивалентной форме:
где П — полином A.1.11/1). Это позволяет в случае \i = ms на Rs Л &
ввести непрерывный оператор сужения L'p (Q) -> У\ (Rs f| QJ/iTVi-
Аналогично устанавливается непрерывность вложений L'p (Q)
в C"(Q)/&'1_1 или в С*- X(Q)/#V] при условиях (d), (e) или (f\ (g).
Отметим, наконец, что теорема этого пункта очевидным обра-
образом усиливает теорему 1.1.2 о локальных свойствах функций
из Ь'р№), где Q — произвольное открытое подмножество R".
1.4-6. Теоремы о компактности. Упомянутые в замечании 1.4.5/2
операторы вложения и сужения, непрерывность которых установ-
установлена в теореме 1.4.5, при некоторых соотношениях между р, I,
q, ny s оказываются вполне непрерывными. Этот результат будет
установлен в конце настоящего пункта.
Лемма. Любое ограниченное подмножество пространства Vp (/?")
компактно в Vp~'(Q), где Q — ограниченная область.
Доказательство. Достаточно доказать теорему для /=1.
Пусть / — суммируемая неотрицательная функция, заданная на
промежутке [0, а+ 6], где а>0, б>0. Тогда
\\ \t. A)
Действительно, интеграл в левой части равен
Пусть теперь иёС™(/?"). Очевидно, что для всех /ig/?°
\Q | и (х + h) - и (х) \р dx ^ \Q (\а I Vu j dl)" dx,
где Ох.л — отрезок прямой, соединяющий точки х и x-\-h. Сле-
Следовательно,
\Q\u(x+h)-u(x)\Pdx^\h\P-i\a\a \4u\Pdldx.
Применяя к последнему интегралу неравенство A) при 8 = \h\,
получаем
(JQ | и (х + h) - и (х) \р dxI/p < | h 11| Vu \\Lp {Rn).
Остается вспомнить, что по теореме М. Рисса множество функ-
функций, определенных на открытом ограниченном множестве Q, ком-

1.4.6. Теоремы о компактности 61
пактно в LP(Q), если оно ограничено в LP(Q) и равномерно
выполняется соотношение $й | и(х-\-И) — и(х) 'fux-^O при |Л|->-0,
где h — произвольный вектор пространства R". Ш
Теорема 1. Пусть Q —ограниченная подобласть R", являющаяся
объединением конечного числа областей из EVln (например, удов
летворяющая условию конуса), и р — неотрицательная мера в R"
с носителем в Q. Пусть еще & < /, p(l — k)<n, I sg p < g < оо
или k^l—l, l=p<s^q. Тогда всякое подмножество простран-
пространства C°°(Q), ограниченное в V'p (Q), относительно компактно
в метрике
в том и только в том случае, если
lim sup (j^'-^^p^i (В (х, р)) = 0. C)
°
Доказательство. Можно с самого начала считать, что
Q e EV'p. Тогда достаточно показать, что всякое ограниченное
подмножество пространства С00 (/?") П Vp (Rn) относительно ком-
компактно в метрике B).
Согласно C) по любому е>0 можно найти такое число б,
что при р«?б piu-"-n/P'>supii(B(x, р))<е.
Построим открытое покрытие {а®,} множества Q шарами g диа-
диаметром 6<;1, кратность которого не превышает некоторой кон-
константы, зависящей только от размерности пространства. Пусть
fij — сужение меры \а на $di и {т)(} — разбиение единицы, подчи-
подчиненное покрытию {is,}. Используя теорему 1.4.4/1, получаем
Суммируя по i, приходим к неравенству
!
.
^
Остается вспомнить, что по лемме множество, ограниченное
р Vp(Ra), компактное VP~4\J^SX
Необходимость. Поместим начало декартовых координат
в произвольную точку Оей'и обозначим через «| функцию из
® {В-гр), равную единице на Вр, р<1, и такую, что | vyr)l
/= 1, 2,... Из относительной компактности множества {и e

62 , § 1.4. Теоремы вложения типа С. Л Соболева
$и\\у1 ^„.ssll в метрике B) следует, чтс для любого е>0, любой
функции этого множества и любой точки О при некотором р спра-
справедливо неравенство $в | Vtu I'djis^e. Подставляя в это неравен-
неравенство функцию u(x) = xkx\(x)fyxki\jvl {Rny получаем
Теорема 2. Пусть Q — ограниченная подобласть Rn, являющаяся
объединением конечного числа областей из EV'P. Тогда при />&5гО,
р ^ 1 имеем:
(a) если s — целое положительное число и n>(l — k)p, то опе-
оператор сужения A.4.5/5), где n — (l—k)p<zs^nuq<.sp(n—
— (l — k) р)-1, вполне непрерывен как оператор из Vlp (Q) в V* (Q П Rs)\
(b) если s—целое положительное число и n = (/ —k)p, то опе-
оператор A.4.5/5), где s^n, вполне непрерывен как оператор из
V'P(Q) в Vg(Q[\Rs) для любого значения q>0;
(c) если п<.A — Щр, то вложение Vlp(Q) в пространство С*(Q)
с нормой 2j*=osuPl^y"l вполне непрерывно.
Доказательство. Так как Vlp, (Й) с: V'Pl (Q) при P\>pit
то утверждение (Ь) следует из (а). В свою очередь, утверждение (а)
есть прямое следствие теоремы 1.
Для того чтобы получить (с), достаточно доказать компактность
единичного шара в Vp(Rn) в метрике Ck(G), где (/ — к)р>п и
G — любая ограниченная область. Пусть x^G и р>0. В силу
A.4.5/3)
Применяя преобразование подобия с коэффициентом р, получаем
2*. 0 pJfi
Следовательно, при / = 0, ..., к
sup | V/U | ^ cpH-vp | V/U \Lp {Вр (х)) + С (р) | ы |yi _ 1 ,
и поэтому
2? _ n suP I V I < cp'-k-"/P || u lv, (дЛ^ + С (р) • и I, _, ,
где Gp — ('-окрестность С Так как р — произвольно малое число
и по лемме единичный шар в V'P(R") компактен в V'i,1 (Gp). то
утверждение (с) доказано.

1.4.7. Мультипликативное неравенство 63
1.4.7. Мультипликативное неравенство. Этот пункт посвящен
необходимому и достаточному условию справедливости неравенства
Лемма. Пусть \к—мера в R", сосредоточенная а шаре Вр =
= {х: |лс|<р} и такая, что
B)
ж; г
при некотором se|0, л]. Пусть еще p^\\ k и I —целые числа,
&</; s>п — р(I — k), _если р>1, и s'Szn — l + k, если р—\.
Тогда для всех иеС°°(Вр) и для всех q, удовлетворяющих неравен-
неравенствам l — k — nlp-\-siq>b, qsip, имеет место оценка
\Lq (Вр. и) ^ сК^рО»-""-* (р' || V* Ц, (Вр) +1 v \\Lp (Вр))." C)
Доказательство. Согласно п. 1 1.16 любую функцию
tteC°°(Bi) можно продолжить до функции шеСо(Бг), удовле-
удовлетворяющей неравенству j| 4jw\l <b,) ^ c|a»||v/ . Так как Vlp (fli) =
=Wlp(Bi) (см. следствие п. 1.1.11), то последнее неравенство
эквивалентно следующему; \ytwh (/1j, <c(J V7a)jL jb^ + J^Iz. (Bj)).
Применяя преобразование подобия, отсюда выводим, что функ-
функция v, упомянутая в условии леммы, допускает продолжение
с/еСо(Бгр), такое, что
1V,о U.p (v < с (| V|0 !|Lp (Bp) + р-' | у ||Lp (Bp)). D)
Пусть (/ — k) р < л, если р > 1, или l — k^n. если р = 1. Из
следствия п. 1.4.1 и теоремы 1.4.4/1 получаем
где t = ps/(n-p(l-k)).
В случае (l — k)p = n, p>\, обозначим через р\ число из
интервала [1, р), достаточно близкое к р, и положим г—
K(l — k)). Тогда в силу следствия 1.4.1
ц)
. F)
Если (/ k)p>n, p^\, положим t—co. Тогда по теореме Собо-
Соболева
объединяя оценки E) —G), получаем неравенство
. (8)

64 § 1.4. Теоремы вложения типа С. Л. Соболева
В силу неравенства Гельдера
что вместе с (8) дает оценку
I v»v К (V
Остается воспользоваться неравенством D). ¦
Теорема. 1) Пусть [i — мера в R", удовлетворяющая условию B)
при некотором s е [0, л]. Пусть еще р Зг 1, k и I — целые числа,
0«g&«?/ —I, s > л —р (/ — &), если р>1, и s^n — 1 + k, если
р—\. Тогда для всех и<=& имеет место оценка (I), гдеС^сК1'4
n/p — l + k<s/q, q^p и r = (k — s/q + n/p)/l.
2) Если для всех и<=& имеет место оценка A), то мера [i
удовлетворяет условию B) и С^сК1"*.
Доказательство. Согласно лемме для всех хеR" и р>О
Зафиксируем произвольное число ро>О. Если первое слагаемое
в правой части неравенства (9), где р = р0, больше второго, по-
покроем точку xesuppji шаром Вр(х). В противном случае будем
увеличивать р до тех пор, пока первое слагаемое не совпадет со
вторым. Тогда точка х будет покрыта шаром Вр (х), где р =
=l"lip(Bpw)l^«lirp1(/Bpw). В обоих случаях
p(Bpu»i" «Г"(IpV (Ю)
Согласно теореме 1.2.1/1 из покрытия {Бр(х)} множества
suppu можно выделить подпокрытие {^^'ji^i конечной кратно-
кратности, зависящей только от л. Просуммируем A0) по всем шарам
8('. Замечая, что
где ah bit a, P — положительные числа, а -}- р ^ 1, получаем
II V fill' «г- /¦Л' /п'С/Р —'+*) / V ||\7 ». 1|Р ^'/-Р I
Так как кратность покрытия {^8A)} зависит только от л, то пра-
правую часть можно оценить сверху суммой
Остается устремить р0 к нулю. Первая часть теоремы доказана.

1.4.7. Мультипликативное неравенство 65
Для доказательства обратного утверждения достаточно под-
подставить в неравенство A) функцию ыр (х) — (ух — хО* ф (р-1 (х — у)),
где фе#(В2), ф = 1 на Bx. ¦
Следствие 1. 1) Пусть ц — мера в R", такая, что при
некотором s e [0, п]
#1= sup r-s[i{Br (х))<оо. A1)
" ге@. 1)
Пусть ещер^ 1, k и I -~целые числа, O^k^l — 1, s>• я — p(l — k),
если р>\, и s^n — 1 + k, если р—\. Тогда для всех и е !%? имеет
место оценка f
^^СЛи\\ЫС\ f A2)
р р
где d^cK1/", n/p — l + k<:s/q, q^p и T = (k — + p)
2) Если для всех uef имеет место оценка A2), то мера [i
удовлетворяет условию A1) и Ci^cK,)!4-
Доказательство. Обозначим через \Q(i)\ последователь-
последовательность замкнутых кубов с длиной ребра 1, образующих коорди-
координатную решетку в R". Пусть 0(l) — центр куба Q{i\ 0@) = 0 и
2Q(" — концентрический и подобно расположенный куб с вдвое
большей длиной ребра. Положим r\i(x)=r\(x—О"'1). гдег)<=С5°BQ@)),
т) = 1 на Q<°>.
Применяя теорему этого пункта к функции ищ и мере
e-*-(i(enQl')). получаем неравенство
Суммируя по i и применяя неравенство (^a<)p/?^Saf/'. гДе
at^0, приходим к A2).
Второе утверждение выводится подстановкой в A2) функции ир,
определенной в конце доказательства теоремы.
Из следствия 1 вытекает следующее утверждение.
Следствие 2. 1) Пусть для области Q существует опера-
оператор продолжения Ш, непрерывно отображающий Vlp(Q) в Vlp(Rn)
и Lp (Q) в Lp (Rn) (например, Q — ограниченная область класса С°<1)
Пусть еще [i — мера в Q, удовлетворяющая условию A1), где
s — число, подчиненное тем же неравенствам, что и в следствии 1.
Тогда для всех ueC(Q) имеет место оценка
IV*"Il?(q. ц) ^С!"Г„<р@) |и||р-<в>' A3)
где n/p-l + k<s/q, q^p^l,_T = (k-s/q+n/p)/l.
:. ¦ 2) Если для всех u&C'(Q) имеет место оценка A3), то
мера ц, сосредоточенная в Q, удовлетворяет условию A1).
3 В. Г. Мазья

1.4. Теоремы вложения типа С. Л. Соболева
1.4.8. Комментарии к § 1.4. Теорема 1.4.1 принадлежит
Д. Р. Адамсу [132]. Приведенное в тексте доказательство взято
из работы Д. Р. Адамса [133]. В случае, когда [i=ms, т. е. [i — s-мер-
ная мера Лебега в Rs, неравенство A.4.1/4) при s = n доказано
С Л. Соболевым в [116J и при s< n — в работе В. П. Ильина [31]
при помощи интегрального представления A.1.10/6) и обобщений
на многомерный случай следующей теоремы Харди — Литтлвуда
(см. Харди, Полна, Литтлвуд [128]). s
Если 1<р<<?<оо " ц = 1— р^ + Т1, то оператор \x\-»*f,
еде f: R1-+R1, непрерывен как оператор из LP(R1) в Lq(Rl).
Теоремы 1.4.2/1, 1.4.2/2 доказаны автором [71, 79]. Неравен-
Неравенство A.4.2/8) (с неточной константой и другим методом) установ-
установлено Э. Гальярдо [183]. Доказательство, дающее точную константу,
одновременно и независимо предложено Федерером и Флемингом
A76] и автором [60].
Хотя константа в A.4.2/8) точна, но, сужая класс допустимых
функций в этом неравенстве, ее можно улучшить. Например, так
как для любого Л^-угольника Q# на плоскости справедливо изо-
периметрическое неравенство [s (dQv)]2 3* D/iV) tg (л/iV) m2 (QiV) (см.
[232]), то, повторяя доказательство теоремы 1.4.2/1, получаем еле
дующее утверждение. Пусть иц — функция на плоскости с ком-
компактным носителем, графиком которой является многогранник с N
гранями. Тогда
D/АО tg (я/АО \R._ | uN |» dx ^ (\Rl 14uN | dx)\
Лемма 1.4.3 является частным случаем одного результата
Д. Р. Адамса [132]. Теорема 1.4.3 принадлежит автору (82].
Теорема 1.4.5 при y=ms представляет собой теорему-вложе-
теорему-вложения С. Л. Соболева [115—117] с дополнениями В. П. Ильина [31],
Э. Гальярдо [183], Ч. Морри [222]. Именно в такой формулировке
эта теорема доказана (другим методом) в статье Э. Гальярдо [183].
Доказательство непрерывности функций из WJ,(Q) при р>2, п = 2,
дано Л. Тонелли [251]
Оценка A.4.6/1) имеется в работе Ч. Морри [222]. Лемма
1.4.6 —классическая лемма Ф. Реллиха [238]. Теорема 1.4.6/2 уста-
установлена для р>\ В. И. Кондрашовым [42] и для р=1. Э. Галь-
Гальярдо [183].
В связи с оценкой A.4.7/1) отметим, что мультипликативные
неравенства вида
и их модификации известны давно (В. П. Ильин [30], Эрлинг [170]
и др.) и в общем виде доказаны Э. Гальярдо [184] и Л. Нирен-
бергом [230] (см. также В. А. Солонников [120]). В работах
Э. Гальярдо [184] и Л. Ниренберга [230] доказано следующее
утверждение.

1.5.1. Обзор результатов и некоторые-примеры областей 67
Теорема 1. Пусть при о>0 («)<» = ($в|и \adx)Ua, где Q — огра-
ограниченная область, удовлетворяющая условию конуса. Тогда
rY(u)\-\ A)
;фе р^\ и l/q — j/n-\-T(\/p — l/n)-\-(l —т)/г при всех т из интер-
интервала [///, 1], за исключением случая I <р<.оо и I — / — п/р — неот-
неотрицательное целое число. В последнем случае неравенство A) имеет
место при те[///, 1).
j В статье Л. Ниренберга [231] сформулированный результат
дополнен следующим утверждением.
Теорема 2. При а<0 положим s=[—п/а], —a = s + n/o,
¦{uH = sup| V,«|, если а = 0, и (и)а = [^ы]я, если а>0, где (/]* =
.** sup \x-y\*\f(x)-f(y)\- ПУсть 1/г = —р/л, р>0. Тогда не-
: *ФУ
'равенство A) дермо для Р^/</ при всех т е[(/— Р)/(/— Р), 1],
за исключением случая, указанного в теореме 1.
., Доказательство сводится к выводу следующего неравенства
•для функций одной переменной на единичном интервале /:
§ 1.5. ЕЩЕ О ПРОДОЛЖЕНИИ ФУНКЦИЙ
ИЗ ПРОСТРАНСТВ С. Л. СОБОЛЕВА
1.5.1. Обзор--результатов и некоторые примеры областей.
.В п. 1.1.16 был введен класс EVlp областей в R", для которых
Существует линейный непрерывный оператор продолжения Ш:
Vp (Q) -*¦ Vlp (/?"). Там же былЬ отмечено, что в этот класс входят
сильно липшицевы области.
•'». В работе С. К. Водопьянова, В. М. Гольдштейна и Т. Г. Лат-
фулина [15] показано, что односвязная плоская область принад-
принадлежит классу EV!2 в том и только в том случае, если ее граница
является квазиокружностью (т. е. представляет собой образ окруж-
окружности при квазиконформном отображении плоскости на себя). По
теореме Л. Альфорса [1] (см. также С. Рикман [239]), последнее
условие равносильно следующему. Справедливо неравенство
\x — z\<^c\x — y\t c = const,. A)
Где х, у — любые точки на дп, a z — произвольная точка на той
из двух дуг кривой 3Q, соединяющих хну, которая имеет мень-
меньший диаметр.
Приведем пример квазиокружности бесконечной длины. Пусть
Q—квадрат \(хи хг): 0<х,--<1, t = l, 2}. Разделим каждую
Мз сторон этого квадрата на три части равной длины и на

68 § 1.5. Еще о продолжении функций из пространств С. Л. Соболева
средних отрезках построим до квадрату Q,,, U = 1, ..., 4, Q П Qi, —
= ф. Поступая с каждым из Qtl таким же образом, получаем
квадраты Qit. ,¦„ i» = 1, .... 4, с длиной стороны 3~а. Так мы по-
построим последовательность квадратов jQ^, ,а <ftj (&=1, 2, ...;
//, = 1, ..., 4), сумму которых обозначим через Я (рис. 5). Оче-
Очевидно, что тх (дО) = 4 2Г=о 3*~Х B/3)* = °°- ПУСТЬ х, у<= дЯ. До-
Достаточно ограничиться случаем х е Q^ <ft, # е Q/x / , где
h = h ii = ji, ii+i?=it+i- Тогда \х-у\^с^г1, и для любой
точки z, входящей в условие
A), |jc-z|^c234 Итак,
3Q — квазиокружность.
Область в R2, ограничей-
ная квазиокружностью, при-
принадлежит классу EV'p при
всех /?s[l, oo), 1=1, 2, ...
(см. В. М. Гольдштейн,
С К- Водопьянов [186] при
/ = 1 иП. Джонс [202] при
/^=1). В упомянутой работе
Джонса описан некоторый
класс n-мерных областей,
входящий в EVp, более ши-
широкий, чем С01, и при я = 2
совпадающий с классом ква-
квазикругов.
В. М. Гольдштейн [26]
показал, что из одновремен-
одновременного включения плоской односвязной области Q и области
/?a\Q в класс EVP следует, что дЯ — квазиокружность. Можно
ли вывести последнее свойство из единственного условия Я е
e?V| при некотором рфЧИ Иначе говоря, исчерпываются ли
квазиокружностями плоские односвязные области из EVP, рф2?
Этот вопрос обсуждается в настоящем параграфе.
Приведем два Лримера, говорящие в пользу положительного
ответа. Первый из них относится к фольклору; он показывает,
что «пики», направленные во внешность области, не позволяют
построить опер тор продолжения.
Пусть Q = {(x1,x2): 0<х,<1, 0<^<лг?}, гдеа>1. Допус-'
тим, что Я входит в EVp, р>\. Тогда Vlp(Q)ciVq~l(Q.) при
\*skp<2, q = 2p/B-p); Vlp(Я) с= Vlq~' (й) ПРИ любом q<oo;
1'!1(а)сС|'-и-2/ф) при р>2. Пусть ы(а;) = а;1~в. Если
$<(а + 1)/р, то ыеУр(Я). При дополнительном требовании
близости р1 к (а-\-1)/р функция и не принадлежит пространствам
Рис. 5.

1.5.2. Область из EV'p, не являющаяся квазикругом 69
У*f' (Q) (р < 2, q = 2р/B — р)_ или р = 2, <7 — большое число) и
fci-i. i-2/p(q) (P>2). Итак, Qi?V'p.
Следующий пример исключает из класса EVlp области, на гра-
границе которых имеются пики, направленные внутрь. Он показы-
показывает, между прочим, что объединение двух областей из EVlp не
всегда принадлежит тому же классу
Пусть й-только что рассмотренная область. Покажем, что
•JRa\Q il EVlp- Введем полярные координаты (г, 6) g началом
в точке х = 0 так, чтобы луч 9 = 0 был направлен по полуоси
л;1>0, хг=?0. Положим и (х) = rl-$ty(b)v\(x). Здесь Р — число,
удовлетворяющее неравенству р < 2/р, достаточно близкое к 2/р;
чеСГ(/?а), 'П = 1 ПРИ г<1, а г|5 —гладкая функция на @, 2л],
^F) = 1 при малых 6>0 и г|5F) = О при бе [я, 2л]. Пусть
V — продолжение функции kg У{,(/?!\й), принадлежащее
пространству Vp(/?2). Так как (д1-^/дх\~1)(хг, хТ)\*
{d'-1v/dxl1~l)(xu 0) = 0 при малых положительных х\, то
если р>1. Последнее противоречит включению oeKp(Q). Итак,
Я*\йШЕУ1р при р>\.
С. В. Поборчий и автор доказали существование непрерывного
линейного оператора продолжения Ур(/?а\й) в весовое прост-
пространство Vp(/?!, a) с нормой
гдео—^функция, равная единице вне Q и совпадающая с х<а-1
на Q. Более того, если существует ограниченный оператор про-
продолжения: Vlp(R2\Q)->-Vp(R2, о) и весовая функция а неотри-
неотрицательна, на множестве Q зависит только от хх и возрастает, то
для х е Q и достаточно малых Х\ верна оценка a (x)^cx\cl~l)ap~l)t
¦е = const. В частности, при р = \, 1=\ можно положить сг=1, и
1.5.2. Область из EVP, не являющаяся квазикругом. Рассмот-
Рассмотренные в п. 1.5.1 примеры наводят на мысль о том, что класс жор-
¦дановых кривых, ограничивающих области из EVlp, исчерпывается
.квазиокружностями. Однако мы сейчас убедимся, что эта гипо-
гипотеза неверна.

70 § 1.5. Еше о продолжении функций из пространств С. Л. Соболева
Теорема. Существует область Q с= R* с компактным замыка-
замыканием и жордановой границей, обладающая следующими свойствами:
(а) кривая дп не является квазиокружностью;
(Р) кривая 5Q имеет конечную длину и липшицева в окрестно-
окрестности любой своей точки, кроме одной;
(у) область Q принадлежит классу EVp при pefl, 2);
(б) область /?2\Q принадлежит классу EVlp при р>2.
(Из упомянутой ранее теоремы В. М Гольдштейна [26] и усло-
условий (а), (у), (б) получаем дополнительно, что йё= EV), при р^2
и R*\Ue=EVp при ре\1, 2].)
Прежде чем доказать эту теорему, напомним одно известное
неравенство, которое нам вскоре потребуется.
Лемма 1. Пусть Q—сектор, заданный в полярных координа-
координатах неравенствами 0<6<а, 0<'<а Пусть еще u^Wlu(Q)t
и\г-а = 0 при р<2 и ы@) = 0 при р>2. Тогда
р р
Последняя оценка немедленно вытекает из следующего част-
частного случая одномерного неравенства Харди: t° | и \р rl-p dr «g
^(pl\2-p\Y\l\u'\Prdr (см. § 1.3).
Доказательство теоремы. Область Q, удовлетворяю-
удовлетворяющая условиям (а)—(б), изображена на рис о. Соответствующие
Рис. 6.
Рис. 7.
верхние и нижние «зубы» сближаются столь быстро, что нера-
неравенство A) неверно. Поэтому dQ — не квазиокружность «Зубы»
почти не меняют форму и уменьшаются в геометрической про-
прогрессии. Следовательно, условие ф) выполнено.
Перейдем к проверке свойства (у). Пусть G — разность пря-
прямоугольника /? = {—1/3<х1<1, 0<х2<1/3} и объединения Т
последовательности равнобедренных прямоугольных треугольни-
треугольников {tk}b sso (рис 7). Гипотенузой треугольника tk служит отрезок
2-*-1 =^ Ху =ss 2~k.
Лемма 2. Существует линейный непрерывный оператор про-
продолжения %х. V\(G)^Vl(W), l«sp<2, такой, что ^ы = 0 п. в.
на интервале лс2 = 0, 0<.хг<.1.

1.5.2. Область из EVlp, не являющаяся квазикругом 71
'; Доказательство. Так как «пила» {х<=дТ, жг>0} —кри-
—кривая класса С0'1, то линейный непрерывный оператор продолжения
Ур (G) -*- Vр (R) существует. Пусть v — продолжение функции
usVp(G). Введем «срезку» 6, равную единице на G и нулю почти
везде на интервале ж2 = 0, 0<лгх<1., Именно, положим в = 9* на
треугольнике tk, где
D/л) arctg (x2/(xi - 2-*-1)) при 2-*-1 < ж, < 3 • 2гк-\
D/я) arctg (x2/B-ft - xi)) при 3 • 2-*-2 < хг < 2-*.
й имеет место неравенство
f |veft|^c№l+dftVi), , B)
Где dk (x) — расстояние от х до точки д^ = 0, xi = 2-*.
Искомое продолжение функции и имеет вид 6t>. Для того чтобы
это доказать, следует лишь проверить неравенство
plv«(/,r C)
Имеем
IV (9о) Ц,, г, < 1V» Ц (Г) +1 i>V6 \Lp (Г).
В силу B) у
где (if и ^ —правая и левая половины треугольника ^. Так как
К/><2, то
и точно такая же оценка верна для нормы \dil+iv[L,t-y Следо-
Следовательно,
Применяя лемму 1, получаем оценку
\vipiR). D)
Неравенство C) доказано, а вместе в ним и лемма.
*¦ ~ Область Q+ = jxefl: дсг>0} (см. рис. 6) может быть отобра-
отображена на область G из леммы 2 при помощи квазиизометрического
отображения. Поэтому любую функцию из V),(Q+) можно распро-
распространить с сохранением класса на верхнюю полуплоскость так,
чтобы продолжение обращалось в нуль на положительной .полу-
.полуоси. Применяя такую же операцию к Q_ = Q\Q+, заключаем,
что условие (у) выполнено.

72 § 1,5. Еще о продолжении функций из пространств С, Л. Соболева
Проверим свойство F). Пусть S = {x: О <Глгх«с: 1, 0<X2<*i/3}.
Обозначим через a*, k = 0, 1, ..., компоненты множества 5\Т
(см. рис. 7) и через у объединение ук \j vft+i большего и меньшего
катетов треугольника ак. Пусть еще V), (Т) — пространство функ-
функций и е Vp (T), удовлетворяющих следующему условию. При
k = 0, 1, ... в общей вершине треугольников tk и tk+i предельные
значения функции и со стороны каждого из этих треугольников
совпадают. В пространстве VP(T) введем норму пространства
Ясно, что свойство (б) области Q немедленно выводится из
следующей леммы.
Лемма 3. Существует линейный непрерывный оператор про-
продолжения Шг\ Vp (Т) -+ Vp (S), где р<= B, оо).
Доказательство. Рассмотрим прямоугольник Q = {(x, у):
0<х<а, 0<у<Ь} с вершинами О, А=(а, 0), В=@, b), C=(a, b).
Пусть в треугольнике О АС задана функция до из пространства Vp,
р>2, причем до@) = 0.
Покажем, что существует линейный оператор продолжения
ш-v/ е V), (Q), такой, что / @, у) = 0 при у е @, Ь) и справедливы
неравенства
I/ U» «в < I w U» (ОАО, 1v/ к„
Здесь с—постоянная, зависящая только от а/b и р. Очевидно,
что достаточно считать Q квадратом, Продолжим функцию w четно
через диагональ ОС на треугольник ОВС. Через tj обозначим
гладкую функцию полярного угла, ц F) = 1 при 9 < я/4, i] (я/2)=0.
Так как до(О) = 0, то из леммы 1 следует неравенство |г-хдо|/. <q>=sS
^c\VwJl (Q), где г — расстояние до точки О. Поэтому функция
/ = T)tp является требуемым продолжением.
Используя описанную конструкцию, можно построить такое
продолжение i>* функции иеКр (Г) на треугольник Ой, что
2*) {t*0)
{ok) < I u* 1^ (<ftU<ft+l), | Vvk \Lp (Ojk) < с I Vu \Lp {tk[itk+lh
где k=l, 2, ... При k = 0 получаем продолжение v0 функции и
на треугольник а0, удовлетворяющее аналогичным неравенствам,
в которых сумма tk jj tk+1 заменена на до-
доопределим продолжение функции и на 5 равенствами v = и
на Т, v = Vh на ай. Очевидно, что
E)
Из интегрального представления A.1.10/1) следует неравенство
\,k\4ti(y)\{dyl\x-y\).

1.5.3. Продолжение с однородным граничным условием 73
Следовательно,
Поэтому правая часть неравенства E) эквивалентна норме
1.5.3. Продолжение с однородным граничным условием. Пусть G
и Q — ограниченные области в Rn и Q e EVlp. Через Vlp (G) обо-
обозначим пополнение & (G) по норме пространства KJ,(G). В том
случае, когда OcG, умножая слева на Ш: Vlp (G) -> Vlp (Rn)
срезающую функцию ц^М (G), г\ = 1 на Q, мы получаем линей-
линейный непрерывный оператор t: Vp(Q)-*¦ Vln(G). Если же QcG,
но границы dG и дп имеют непустое пересечение, то вопрос
о существовании оператора Ш становится нетривиальным. Не
пытаясь углубиться в эту тему, проиллюстрируем возникающие
здесь возможности на примере, взятом из статьи автора и
В. П. Хавина [90]. В этой работе, посвященной некоторым зада-
задачам теории аппроксимации в среднем аналитическими функциями,
и возник вопрос, рассматриваемый в настоящем разделе.
Пусть Q и G — плоские области, Q^EVP, ficG и пусть
единственная общая точка dQ и dG расположена в начале коор-
координат. Если R — достаточно малое положительное число, то
пересечение круга BR = {pee: 0sSp<#} с G\Q представляет
собой сумму двух непересекающихся областей ев] и со2, а пере-
пересечение любой окружности | z | = р при р е @, R) с каждой из
областей coy (/ = 1, 2)—одну дугу. Пусть эта дуга задается урав-
уравнением z = peie, 6e(a/(p), ji/(p)), где о,- и р#— функции, удовлет-^/
воряющие условию Липшица на отрезке [0, R], причем точки*
ре'°/(р) принадлежат кривой dQ, а точки р^'р/(р) — кривой dG.
Пусть б/(р) = Р/(р)-а;(р), /у'(р) = рб/(р).
Теорема. Следующие ymвepжdeнuя равносильны:
1) функция u^Lp(Q) может быть продолжена do функции
класса V\,(G);
2) $,? (I " (ре"*'<р>) \"l[lj (р)]") ф < оо. A)
Cdecb и (peta'<p>) —граничное значение функции и в точке ре'°/<р)е
€dQ; это граничное значение существует почти везде на dQ.)
Доказательство. Так как Q eEVP, то при доказатель-
доказательстве импликации 2 =^> 1 можно считать, что функция и продолжена
из области Q до функции класса VP(B), где 5 —круг, содержа-
содержащий G. . .
Пусть функция г\ удовлетворяет условию Липшица везде вне
круга | z | = R, равна нулю на R2 \ G, равна единице на Q и
rj(pe'e) = 1 — (9 — а/(р))/8/(р) при ре*9 е coy, / = 1, 2. Очевидно,

74 § 1.6. Неравенства для функций, исчезающих на границе ..
что при 6 (= (а, (р), ру (р))
и (ре*, _ и (ре
B)
Поэтому
Отсюда легко вывести, что функция ит) принадлежит простран-
пространству VP(G).
Если и €= ]/J, (<?), то согласно B) Jf (| u (pe^/(p)) |*/[Z, (р)]?-1) ф =^
(•/)¦
Так как /у(р)-^2лр, то при р^2 условие (Г) не может вы-
выполняться для всех ueKp(Q) и, следовательно, оператор $
не существует. То же верно при l«Sp<2, если /, (р) = О (р1+е),
е >¦ 0. Действительно, функция ueV), (Q), определенная вблизи
точки О равенством u(peid) = (>1+&-2/p, где 0<б<;«(/?— \Iр, не
удовлетворяет условию A).
Пусть теперь 1 <; р <С 2 и /у (р) ^ср, с > 0. Используя оценку,
аналогичную B), получаем неравенство
которое вместе с неравенством Харди A.5.2/1) показывает, что
условие A) выполнено для всех и е V!, (О) Следовательно, при
ре[1, 2) и //(р)^;ср оператор I существует.
§ 1Д, НЕРАВЕНСТВА ДЛЯ ФУНКЦИЙ, ИСЧЕЗАЮЩИХ НА ГРАНИЦЕ
ВМЕСТЕ С ПРОИЗВОДНЫМИ ДО НЕКОТОРОГО ПОРЯДКА
Рассмотрим следующий вопрос. Нужны ли какие-либо предпо-
предположения о множестве Q, чтобы неравенства типа Соболева имели
место для4 функций из ^^.(Q) «обращающихся в. нуль» на dii
вместе со всеми производными до порядка к— 1 при некотором
Точнее, речь идет о функциях из пространства W'P(Q)(]
uWp()
Разумеется, требования, предъявляемые к границе, излишни
при & = /. Далее показано, что то же верно, если число k удов-
удовлетворяет неравенству 2k^l. Улучшить этот результат нельзя —
ц случае 2k<il дополнительные условия на dQ необходимы.

1.6.1. Интегральное представление функций одной переменной 75
, Сохранение неравенств Соболева в случае / «^ 2k вытекает из
интегрального представления дифференцируемых функций в про-
произвольной ограниченной области, установленного в п. 1.5.2
Необходимость ограничений на дп в случае />2& показана на
йримере (см. п. 1.6.4).
Результаты этого параграфа были получены в работе автора [83].
1.6.1. Интегральное представление функций одной временной.
.Лемма. Пусть kul — целые числа, 1 < / sg 26 и г е W[ (a, b) (]
# Ь). Тогда
$* Oz("(T)dT, ." A)
— a — b)/(b — а)) при
-2x)l(b-a)) при t<x.
Л.Паы — полином степени 2i — 1, полностью определяемый тожде-
тождеством Паы (s) + Пу-! (—s)=l и краевыми условиями Пи_х(—1) =
= ...=n2fc!)(-i)=o.
;¦ Доказательство. Пусть / — четное число, / = 2q. Рассмот-
Рассмотрим на отрезке [—1, 1] краевую задачу
0, / = 0, 1 q-\. B)
Функцию Грина этой задачи обозначим через g(x, s) Очевидно,
чтоg(—х, —s)='g(x, s) и что при jc>s и при x<.sфункция g(x,s)
йредставляет собой полином степени 2q—l по каждой из пере-
переменных х, s. Пусть x>s. Производная ^-^(х, sl/dx2"-1 не
зависит от х, является полиномом степени 2q — 1 от s и удовлет-
удовлетворяет краевым условиям задачи B) в точке s = —1. Обозначим
этот полином через IIa?_1(s).
В случае x>s, т. е. при —*•<—s, имеем
Поэтому, дифференцируя равенство у(х) = J]_, g (x, s) yW (s) ds,
получаем
yU9-D (X) = ?x П2?_х (s) уы> (s) ds - \lx П2?_х (- s) yW (S) ds.
Переходя к новым переменным / и т по формулам х =
= {2t — a — b)/(b — a), s = Bx — a — b)/(b — a) и полагая z(t)=y(x)t
z(x)=y(S), приходим к тождеству
-" (О = j >«-, !*?=!¦) **> (т) А -

76 § 1.6, Неравенства для функций, исчезающих на границе ...
В случае l = 2q лемма доказана. При l = 2q+\ выразим про-
производную (г'I2'-11 с помощью только что полученной формулы
через производную (z')(ig), Ш
Замечание. Для t = l, 2, 3 полиномы П2г_1 имеют вид
1.6.2. Интегральног представление функций нескольких пере-
переменных с нулевыми граничными условиями. Основной результат
параграфа содержится в следующей теореме.
Теорема. Пусть и е L[ (Q) f] W7* (Й), где I — целое положительное
число, не превосходящее 2k. Тогда для п. в, x^Q имеет место
равенство
DVm(jc) = 2j{3. l3| = /) Jq%vU. y)D^u(y){dyl\x-y\n-1), A)
Здесь у —любой мультииндекс порядка 1—\, а К$,у — измеримая
функция на' Q X Q, такая, что | К$, у(х, у) | =^ с, с — постоянная,
зависящая только от п, I и k.
Доказательство. Предположим сначала, что функция и
бесконечно дифференцируема в открытом множестве to, acQ.
Пусть L — произвольный луч, исходящий из точки х, 8—единич-
8—единичный вектор с началом в х, направленный вдоль L и г/ = л;4-т8,
те/?1. Пусть п(х, 6) —первая точка пересечения луча L с гра-
границей дп, Ь(х, 6) = |я(*. 6) —*|, а(х, п)= — Ь(х, —6).
Так как «e^f (Q) и V,m ei(Q), то для любого 8 из мно-
множества полной меры на единичной (л— 1)-мерной сфере S"-1
функция [а(х, 6), Ь(х, 6)]э т-»-г(т) **и(х + тб> удовлетворяет
условиям леммы 1.5.1. Поэтому из A.5.1/2) следует тождество
•о „ /2т—а(х, в) — Ь(х, 8)\ (() . ,
"• в) U /а(дг, 8)-Ж*. 9)~2т\ (|) , v , „
-Г
Отметим, что
Пусть у —любой мультииндекс порядка /—1 и {PYF)}—система
однородных многочленов степени / — 1 от переменных 6Ь ..., 9Я,
такая/ что ^sn-i ?\ (^) ^v ^se = &vv
Прежде чем переходить к дальнейшим преобразованиям, отме-
отметим, что, аппроксимируя множество Q расширяющейся последо-
последовательностью полиэдров, мы представляем функцию (х, 6) -*¦
->-1 я (х, в) — дс i как предел возрастающей последовательности
измеримых функций на QxS"-1. Поэтому функции а и Ь измеримы.

1.6.3. Теоремы вложения ... 77
. Пусть т = \у — х\, т. е. т = г, если т>0, и т = — л, если
т<0. Умножим равенство B) на РУ(Ч) и проинтегрируем по S1
Тогда
v.<tS
Заменяя во втором слагаемом справа 6 на —S и замечая, что
а(х, 9) = — Ь(х, — 9) и PY(9) = (— l)'-ipY(— 9), получаем, что
это слагаемое совпадает с первым, т. е.
) — 2/
где Q (л;) = {</ е Q: 9 е S"-1, г<fc (л;, 9)}. Обозначив через /CPjV (л;, •)
функцию
где (л)
функцию
продолженную нулем на Q\Q(jc), получим тождество A) при
1
Остается избавиться от предположения о гладкости функции и
на со. Пусть и удовлетворяет условиям теоремы. Очевидно, что
функцию и можно аппроксимировать по полунорме I! V,« |L(C) функ-
функциями, совпадающими с и вблизи дп и гладкими на и. Отсюда
и из непрерывности интегрального оператора с ядром \х — ил~"х.
хК$л(х, у) как оператора из L(Q.) в L(ta) следует справедли-
справедливость тождества A) npir п. в. дсеш. В силу произвольности
Множества со теорема доказана.
1.6.3. Теоремы вложения для функций, удовлетворяющих
Однородным граничным условиям. Перейдем к приложениям
теоремы 1.6.2.
,«" Теорема 1. Пусть т, I, k —целые числа, 0«sm</=sc2&; р5г1
и ^u(=Wlp(Q)p[Wl (Q) при п<р{1-т). Тогда U(=Cm(Q),
^та" s Lm (Q) и справедлива оценка
|VmM|!z.oo(a)<c(diamQ)'-'»-«/P|V/U!iz.p(a). A)
«' Оператор вложения Wlp (Q) f] l^f (й) s VZ(Q) вполне непрерывен.
Доказательство. Достаточно предположить, что
фатй=1. Итерируя интегральное представление A.6.2/1), полу-

78 § 1.6, Неравенства для функций, исчезающих на границе ...
чаем для любой производной Dyu порядка т < / представление
Я™ <*) = $0 2] № i в i - о Qpv (*• У) °Р" ДО Ф- B)
где QPv = О (г'--" + 1), если пф1—т, и Qpv = О (log 2/-1), если
п = 1 — т.
Применяя к B; неравенство Гельдера, получаем оценку A).
Непрерывность Vmu в Q следует из возможности аппроксимации
в Wlp(Q) любой функции из Wlp(Q) гладкими функциями в а,
совпадающими с и вблизи dQ (здесь, как и в доказательстве
теоремы 1, со — произвольное открытое множество, расположенное
в Q вместе с замыканием). Доказательство оценки A) закончено.
Построим открытое покрытие \$){i)\ пространства R" шарами
с диаметром б, кратность которого не превышает некоторой
константы, зависящей только от п. Пусть Q( = Q[)<ffi(t) и {tj,}—
гладкое разбиение единицы, подчиненное покрытию {а©("}, такое,
что VjT\i = О (б--/). В силу оценки A)
I Vmu |Loo (q, «=; с max J Vm (щи) lLo0 {Qi) «S
Остается заметить, что из B) следует компактность в Vl,~x (Q)
любого ограниченного подмножества пространства W7^ (Q) П
f}WUQ).m
Дальнейшие приложения интегрального представления A.6.2/1)
очевидным образом связаны с результатами § 1.4.
Пусть m и / — целые числа, 0^т</, р>\ и |г — мера в Q,
такая, что для любого шара Вр(х)
li(Bp(x)aQ)^Kps, К = const, 0<s<n. C)
Пусть © — открытое множество EсЙ, п>р(/ — т)>п — s
и q = ps(n — p(l — т))-1. Пусть еще L?(©, fi) — пространство
функций на со, суммируемых по мере fi, и L?(Q, ja, loc) =
= QL?(©, ц). Из теоремы 1.4.1/2 вытекает, что существует одно
(О
и только одно линейное отображение у: Kp""m(Q)->L?(Q, fi, loc),
такое, что
(i) если у —функция из Vlp~m (Q), гладкая на «, то yv = v на ffi;
(ii) оператор у; Vp~m (Q)-+Lq(a>t fi) непрерывен, каково бы
ни было множество со.
Теорема 2. Пусть т. I и k — целые числа, 0sgm<:/sS2ife, p>\,
s>n — f>(l — m)>0 и fi — мера в Q, удовлетворяющая условию C).
Тогда для любой функции u<=Llp (Q) f] ^* (^) справедлива оценка

1.6.3. Теоремы вложения ... .- 79
mU)'\LeiQ.»)^cK}"-\4iU\LpiQ)t D)
где q = ps(n — p(l — m))rl.
Доказательство немедленно следует из интегрального представ-
представления B) и теоремы 1.4.1/2.
Теорема 3. Пусть числа т, /, k, p, q, s me же, что и в тео-
теореме 2, fi— мера в Q, удовлетворяющая условию
lim sup р-»ц(Др(х)ЛО)-0. E)
°
Тогда оператор yVm: Wlp (Q) fl W7? (Й) -»- ?? (й, ц) вполне непрерывен.
Доказательство. По любому е>0 можно найти такое
ЧИСЛО б > О, ЧТО При р < б p~s SUp (А (Бр (X) П й)< 8.
Будем использовать обозначения еВ('\ г\( и Q*, введенные
в доказательстве тейремы 1. Очевидно, что
\я d\i ^ с ?. J0| | TVm (т)/Ы) I» dji.
Отсюда и из теоремы 2 получаем оценку
кч <а. it) «? се I v'u lxp <Q) + С (в) | и |vi_ i @).
Остается так же, как и в доказательстве теоремы 1, воспользо-
воспользоваться компактностью в Vp~' (Q) единичного шара в пространстве
Замечание 1. Из следствия 8.6/1 и теоремы 8.8.1/4 выте-
вытекает, что если условия C) и E) заменить следующими:
ц (Яр (х) П Й) *S К | log p |»«w)/p, 0 < р < 1 /2,
lim sup
где ?/>р>1, то утверждения теорем 2 и 3 останутся справед-
справедливыми и при п = рA — т).
Замечание 2. Иногда утверждения типа теорем 1 — 3 можно
усилить, заменяя норму I^iUJl ш> нормой [(—A)i/!ufL (Q>, где
А —оператор Лапласа. Так, для любой ограниченной области ii
и произвольной функции u&Wl(Q), такой, что AueL
2р>п, имеем
'¦ и|ioo (Q) <c(diam Q)*-»/*|Лы lLp{a).
p{
Это неравенство следует из очевидных оценок функции Грина
задачи Дирихле для оператора Лапласа, вытекающих из принципа
максимума. ч

80 § 1.6. Неравенства для функций, исчезающих на границе ...
Аналогичные неравенства полу аются из точечных оценок
функции Грина Gm (х, s) задачи Дирихле для т-гармонического
оператора в л-мерной области [85, 215]. Например, при п = 5, 6, 7,
т — 2 или /z = 2m-fl, 2т-\-2, т>2 имеем
\Gm(x, s)\^c\x — s\2m~n, c = c(m, n),
что вместе с теоремой 1.4.1/2 дает оценку
где и el7™^), п>2тр, р>1 и ц—мера в Q, удовлетворяющая
условию C).-
1.6.4. Необходимость условия /«S2&. Здесь1 показано, что
условие / «S 2k в теоремах предыдущего пункта не может быть
ослаблено. Мы приведем пример ограниченной области Q в /?",
для которой пространство V'p(?i) (] WP(Q), />2&, не вложено
в LOT(Q) при pl>n>2рк и не вложено в Lpn{n-pl) (Q) при n~>pl.
В шаре Дз(О) рассмотрим функцию ц5 (*) = A — fi~21^!2)*. Так
как 1>з обращается в - нуль на дВ& (О) вместе с производными
до порядка к — 1, то в е-окрестности сферы дВ(. (О) имеет место
оценка | Vmye| ^c6-*e*~"* при k^m. Очевидно также, что градиент
функции г>а любого порядка т есть О (Ь-т) в Б3 (О) и что
: УщЩI = 0. если m^2k+l.
Обозначим через Р и Q нижнюю и верхнюю точки пересечения
оси 0хп со сферой дВь(О) и построим шары ВВ(Р), Be(Q), e<6/2.
Обозначим через ц гладкую функцию в'/?", равную единице вне
шара Bi (О) и нулю на В1/2 (О). В шаре Бе (О) определим функцию
и оценим ее производные. Вне шаров Ве(Р) и BS(Q): \VjW\ = 0,
если j>2k, | VjW| = О F--0, если j^2k.
Кроме того, на fle(P)Ufl8(Q) I Vl<c 5°!lJy'W em->l Vmoe|.
Поэтому на Б? (^) U вг (Q) I Vytiy I < c6-*eft-A / = 0, 1,...,/. Отсюда
V^ 6*(*^ 2k
у () U г (Q) I y I
получаем JV/Ш^ ,в @). < c6-P*eP(*-^+(l, если
Аналогично, так как n>pk, то
|VyQy|p (
Следовательно,
@))<cFp/+6PeP(A)sgc16-<V, если
||^(В @
Положим е = б06, где а — число, удовлетворяющее неравенствам
pk/(n - рA - k))<a<(n - pk)l(n - рA - k)), a> 1. Тогда
Рассмотрим изображенную на рис. 8 область Q, которая пред-
представляет собой объединение шаров Б; с радиусами 6f и центрами 0it
соединенных цилиндрическими перешейками Ct произвольной

1.6.4. Необходимость условия
81
высоты и диаметром горизонтального сечения ^ = 6*. В каждом
шаре Bi определим функцию wt по описанному выше правилу.
Будем считать каждую из этих функций
продолженной нулем на Q\Bt. Положим |*л
¦Q,
A)
где {hi\— такая числовая последователь-
последовательность, для которой
2r«.IM'6f<°o. B)
Это условие означает, что u&Vlp(Q).
Частные суммы ряда A) представляют
собой функции из пространства У^(О) и,
следовательно, функция и принадлежит
тому же пространству. Так как »( = 1 в
центре шара Bh то | и Ц.» <oj ^»sup | Л( |.
Очевидно, что ряд B) может сходиться,
в то время как А;-*-оо. Поэтому простран-
пространство V*p(Q)nvJ(Q) не вложено в ^(
В случае п > pi положим | ht \f
= в'р~". Тогда при qipnin — lp)-1
Вместе с тем
Рис. 8.
где y = (a-l)(n
Итак, если {б,} — убывающая геометрическая прогрессия, то
ee<(Q)n^(Q), но «11,@). . .
Вопрос об условиях на область Q, при которых для прост-
пространства Wlp(QiHWp(Q), 2&</, верны теоремы вложения типа
Соболева, будет рассмотрен в п. 5.6.6.
Глава 2
НЕРАВЕНСТВА, СОДЕРЖАЩИЕ ПЕРВЫЕ ПРОИЗВОДНЫЕ
ФУНКЦИЙ, РАВНЫХ НУЛЮ НА ГРАНИЦЕ
В"~этой главе найдены необходимые и достаточные условия
справедливости некоторых оценок нормы |и|/.?(а, ,»». где we
е^(О) и ц— мера в Q. В правые части рассматриваемых здесь

82 § 2.1. Условия справедливости интегральных неравенств (случай р=1)
неравенств входит интеграл $й[Ф(х, Vu)]pdx- Условия характе-
характеризуют область Q и меры, входящие в оценки; они формулиру-
формулируются в терминах «изопериметрических» неравенств, связывающих
меры и емкости.
§ 2.1. УСЛОВИЯ СПРАВЕДЛИВОСТИ ИНТЕГРАЛЬНЫХ НЕРАВЕНСТВ
(СЛУЧАЙ р=з!)
2.2.1. Условие в терминах любых допустимых множеств. Огра-
Ограниченное открытое множество gcz R" будем называть допустимым,
если gczQ и «^ — многообразие класса С°°. (В главах 3 — 5 это
определение будет заменено более широким.) Через N (х) обозна-
обозначим единичную нормаль к границе допустимого множества g
в точке х, направленную внутрь g, и через s — площадь на dg.
Пусть Ф (х, |) — непрерывная в Q X R" неотрицательная однород-
однородная первой степени по ? функция^ и a (dg) = Jag Ф (х, N (х)) ds (x).
Пусть еще (oa — s(dBi) и ц, v—меры в Q.
В следующей теореме дано необходимое и достаточное усло-
условие справедливости неравенства
Ф(*, v«W)d*)e5«li7<a.v) (О
для всех u&?F (Q). Этот результат получен с помощью того же
приема," что и теорема 1.4.2/1.
Теорема. 1) Если для всех допустимых мноокеств
ц (gf/я <: ocr (d?)e v (gY1'6^, B)
где a = const>0, 6е[0, 1], г, q>0, б + A -б) г-1 Zssq-1, то для
всех функций «s^ffij справедливо неравенство A), где C«S
^ct^^e+l-a)^-^1*1-*).
2) Если для всех функций и <=&(&) верно неравенство A),
в котором q>0, бе[0, 1], то для всех допустимых множествg
выполнено неравенство B), где а^С.
Доказательство. 1) Отметим сначала, что в силу тео-
теоремы 1.2.4
= $Г dt Ut ф <x> VM/iV" "> * = 5Г о @Lt) dt C)
(Здесь мы воспользовались тем, что при п. в. функция \Vu\
отлична от нуля на Е<={х: \u\x)\ = t) и что при таких / мно-
множества Lt = {х: | и (х) | > Ц ограничены многообразиями класса С00.)
По теореме 1.2.3 |и lLq{a, ц) = (g° ц (Lt)d (t«)I/<l.

2.1.2. Частный случай (условие в терминах шар@в) 83
Так как \t(Lt) — невозрастающая функция, то, -применяя
A.3.3/1), получаем
где у = /-(/-б+1 —б)-1, yq (
Пользуясь тем, что при п. в. t множества Lf допустимы, из
последнего выражения и из B) выводим
)v\
I и \Lq @. ц) < v1/v« (\7 * (<^)ve v W~* U-«> Г* dt)
Поскольку v^ + Vr~1 A — в)= 1» то в СИЛУ неравенства Гельдера
I в кд ,а. „
что в силу C) и теоремы 1.2.3, эквивалентно неравенству A)
2) Пусть g- — любое допустимое подмножество Q и пусть d (л:) =
= dist(x, Rn\g), gt = {x^Q, d(x)>t\. Подставим в A) функ-
функцию «e(jc)=a(d(jc)), где a (d) — неубывающая бесконечно диффе-
дифференцируемая на [0, оо) функция, равная единице при d^2e и
нулю при d=^e (e — достаточно малоэ положительное число).
В силу теоремы 1.2.4
$аФ(*. VUe)d*=$?a'(Qtf$вв/Ф(*. N(x))ds(x),
где N (х) — нормаль к dgt, направленная внутрь gt. Так как
^Ф(х, A/(x))ds(^r^a(^), то \аФ(х, Vus)dxT^a(dg).
Пусть К — компакт в g, такой, что dist(/C, dg)>2e. Тогда
ые (х) = 1 на К и | ы8 jt (Q> ц) ^ ц (/СI/?. Поскольку 0 =^ ы8 (дс) =^ 1
и supp«ec:g, то jUglL {Qill)^:v(gI/r. Теперь из A) получаем
ц (g)Vi = slip ц (/СI/? < Ca (ag)e v (gV1-6"*. H
JCcre
2.1.2. Частный случай (услозие « терминах шаров). В случае
Ф(л-, |) = 1||, ?2 = /?л и v = mn из B.1.1/1) следует, что для всех
шаров Вр(х)
ц (flp (x)I/? ^с Лрв(«-1) + A-в»»'~1. A)
Незначительное усложнение доказательства теоремы 1.4.2/2
приводит к обратному утверждению.
Теорема. Если для всех шаров ?р (х) справедливо неравенство A),
где бе [0, 1], q, г>0, 6 + A -8)r-l^q-\ то для всех UEf (Rn)
справедливо неравенство B.1.1/1) при С^сА, Ф(х, |) = |||, й =
= /?", v = mn.
Доказательство. Как показано в доказательстве теоремы
.1.2.1/2, для любого ограниченного открытого множества g с глад-
гладкой границей существует последовательность {B9i{x)\i^\ непере-

84 § 2,1. Условия справедливости интегральных неравенств (случай р=1)
секающихся шаров, обладающая следующими свойствами:
(a) g cr U B3p (Xi); (Р) 2тя (g f| flp (*,)) = ад»»;
Из условия A) следует
Так как ^б + A — 6)п/гЗг 1, то из B) получаем
б (л—
что в силу неравенства Гельдера не превосходит
c^'Bi>iP?~I)'eB<>iP7)(l~e)'''~I- Отсюда и из свойств (а),
(Р), (v) следует неравенство [n(g)]1/9^cA [s(dg)f[mn (g)]A-*)9/"'.
Остается воспользоваться теоремой 2.1.1.
2.1.3. Еще одно неравенство, содержащее нормы в Lq(Q, ц)
и Lr{Q, v) (случай р= 1). Аналогично теореме 2.1.1 доказыва-
доказывается следующее утверждение.
Теорема. 1) Если для всех допустимых множеств gcQ
[\i{g)]1/9^o^(dg) + ^[v(g)]yr< A)
где а, р = const и q^l^r, то для всех функций uef (Q)
справедливо неравенство
I" |l? (О, ц) <« IФ (JC V«) |t ,0) + РI w |tr (Q. v). B)
2} ?слы идя всех функций uef (Q) выполняется неравен-
неравенство B), то для всех допустимых множеств g выполнено неравен-
неравенство A).
2.1.4. Два примера неравенств, содержащих конкретные меры.
Важным частным случаем теорем 2.1.1 и 2.1.3 является неравен-
неравенство A.4.2/8). Приведем еще два примера приложения этих
теорем.
Пример 1. Пусть Q = tf", R*-1 = {хе= Rn, хп = Щ^_ Ц(Л) =
= т„-) (А П Я"), где А — любое борелевское подмноййство Rn.
Очевидно, что ц(g)^ 1/2s(dg), и поэтому для всех uef (Ra)
Пример 2. Пусть А — любое борелевское подмножество /?*,
т„(Л)<оо и fi (Л) = ^л |x|-™dx, где осе [О, 1], Пусть еще i5r —
шар с центром в начале координат, n-мерная мера которого
равна т„(Л). Иначе говоря, г = (па>п1т„(А)I/п. Имеют место не-

2.1.5. Случай весовой нормы в правой части 85
равенства
\А | х |-«dx ^ \лпВг | х |-« dx + г*тп (Вг\ А) ^ \Вг | х |-«dx.
Поэтому
S (м — йс)A-
Пусть g — произвольное допустимое множество в R". В силу
изопериметрического. неравенства [nmn^)Yn~1)ln^(o—l/l's(dg) [59,
166, 188, 241]) имеет место оценка
в которой можно поставить знак равенства, если g— шар. По-
Поэтому
sup l> (g)](n-1)/("-a)/s (%) = (n -a)<1-n)/<"-a'(o(a)
U) "
и для всех и е ^" (/?") справедливо неравенство
^ (л - а)*1-»)/!»-»)^»- »/(«-«) | Vu \L {i?n) A)
с точной константой.
2.1.5. Случай весовой кормы в правой части. В этом пункте
z=(x, у) и С = (|, т)) — точки /?я+т, х, |еЯ" и у, т)е/?т. Пусть
еще В? (q) — d-мерный шар с центром q^Rd и д? = В?(О).
Лемма 1. Пусть g — открытое подмножество ^«+т с компакт-
компактным замыканием и гладкой границей dg, такое, что
где а> — т при т>\ и 0^а>—1 при т==1. Тогда
где s-~(n-\-m— 1)-мерная плошрдь.
Доказательство основано на следующем утверждении.
Лемма 2. Пусть а>—т при т>1 и 0^а>—1 при т—\.
Тогда для любой функции v^Cco(Bira + m)) существует такая кон-
константа V, что
\,m+n,\HD-y\\4\adl^cr\ \\v(l)\\4\-dl. C)
Br Br
Доказательство. Достаточно доказать C) при г = 1. По-
Положим В\т+п)=В и Bim)xB[n) = Q. Обозначим через /?(С) рас-

86 §2,1, Условия справедливости интегральных неравенств (случай р=1)
стояние от начала координат О до точки , е 0Q, т. е. R (С) =
= A+|?|аI/2 Мфи hl = l. I5I<1 и /?(?) = О+ h|2I/a при
|?|.= 1, |т)|<1. Учитывая, что В — квазиизометрический образ Q
при отображении ? ->- С/Я (?). можно вывести C) из неравенства
5о' ° <0 — ^ 11Л !¦<« <<? Jo | V» (О! | л ledC,- D)
к выводу которого мы переходим. Так как (m-\-a)\r\f' =
= div(|T)|aT)), то, интегрируя По частям в левой части D), нахо-
находим, что она не превосходит
? |
E)
Положим Г = 51л)хE1т)\5A72)- Пусть т>1. Второе сла-
слагаемое в E) не больше чем c^T\Vv\dt. + c\T\v—V\dt,. Применяя
лемму 1.11.1, отсюда и из E) получаем D), где V — среднее зна-
значение v ч Т. (Здесь существенно, что Т — область при т>1.)
Если т = 1, то множество Т имеет две компоненты: Т+=
=¦ ?1Л)х(V2, 1) и Г_ = В<п"х(—1, — V2)- Рассуждение, только что
использованное в случае m > 1, показывает, что
V±|dg^cjr I
Bi ~ . .
где V+ — средние значения и в Т+. Остается заметить, что при
О
Итак, и для т=1 доказано неравенство D), в котором роль V
может играть V+ или V-.
Доказательство леммы 1. Пусть для краткости В =
_ gim+n) ^ Подставим в неравенство C) вместо функции v усред-
усреднение Хр характеристической функции множества g с радиусом р.
Тогда левая часть последнего неравенства оценивается снизу
суммой 11 -V| $„ hFdE + l V|^|ii|»dC, где e,-{tsfl:
0 1
Пусть е-сколь угодно малое положительное число. В силу A)
при достаточно малых р
Следовательно,
e/i)SBir'iad
Остается отметить, что $B;Ti|ad?Sscrm+n(r-f|t/j)a.

2.1.5. Случай весовой нормы в правой части 87
Замечание 1. Лемма 1 неверна при т—\, а>0. В самом
деле, пусть g = {Cetf"+1: г)>к или 0>rj> — е}, где е =
*= const >0. Очевидно, что условие A) для этого множества вы-
выполнено. Однако \ |T)|ads(Q^C8a, что противоречит
оценке B).
Теорема 1. Пусть v — мера в йп+т, q^\ и а> — т. Точная
константа в неравенстве
. '« Vq («-+». v) < С \Rn+m | у Г | V,u | dz, и е С? (R™), F)
эквивалентна величине
К = sup (р +1 у j)-« pi-«-"l[v (fl<T + m) B))]1/?. G)
к о
Доказательство. 1) Пусть сначала т>>1 или
>—1, т=1. Согласно;теореме2.1.3С = sup ([vig)]1'* /$5g i«/lads(z))>
где g— любое открытое подмножество /?"+m с компактным замы-
замыканием к гладкой границей. Покажем, что для каждого g суще-
существует покрытие последовательностью шаров flp"+m)(zf), i=l»
2, ..., такое, что ""
Каждая точка z eg является центром шара В\т+™(г), для кото-
которого выполнено равенство A). (Действительно, отношение в ле-
левой части A) —непрерывная функция г, равная единице при ма-
малых г и стремящаяся к нулю при г-»-оо.) В силу теоремы 1.2.1
о покрытии существует последовательность непересекающихся
оо
шаров В{гп+т) (г,), для которой g<= M $,"+m)(z,-). Из леммы 1
/—1 '
получаем, что
Следовательно, {5з",+т) (z«)}^, — требуемое покрытие.
Очевидно, что
v (g) ^ Si
Поэтому С^сК при т>1 и при т=1, 0^а> — 1.
2) Пусть т — \ и а>0. Построим конечнок ратное покрытие
множества {?: х\ Ф 0} шарами ^Э/, так, чтобы радиус р/ шара aftj

88 § 2.1. Условия справедливости интегральных неравенств (случай р=\)
совпадал с расстоянием от а®/ до гиперплоскости {?: т] = 0}. Обо-
Обозначим через {фу} разбиение единицы, подчиненное покрытию
{<$/} и такое, что \Vq>f\^c/pf [121, гл. VI, § 1]. Используя уже
доказанное утверждение для случая а = 0 (или, что то же самое,
теорему 1.4.2/2), получаем оценку
" к, (лл+1, v) < с spuP P-" Ьч К" +Ь B>)]1/V 8 V (ф/i) \L (дЛ+1),
p
где v/ —сужение меры v на а®/. Очевидно, что
snp
р: г
Поэтому
pP[j{; ())] sup
р: г Р<Р/. г
sup
Суммируя по / и используя G), находим
Поскольку при а>0 $дЛ+11 ы 11 л I" dS <а5я„+11 ^« 11 tj |аd?, i
С^сК и в случае т=1, а>0.
3) Для того чтобы получить обратную оценку, положим в F)
*/(?) = ФОН(Е-г)),. где ФбС,я№+в|), Ф=1 на 5[1+т), и от-
метим, что
1$ (ft
Следствие. Пусть v — мера в R", q^l и а> — т. Тогда
точная константа в неравенстве F) эквивалентна величине
sup pi-^^lvK"'^))]1''*.
*еЯл, р>0
Для доказательства достаточно отметить, что если supp v с: Rn,
то величина /С, определенная в G), эквивалентна последнему
супремуму.
Замечание 2. Часть доказательства теоремы 1, относя-
относящаяся к случаю т = \, а>0, проходит и для т>1,а>1— т,
так как при таких значениях а для всех и eCf (/?"+m)
Отсюда следует, что точная константа С в F) при т Ss I, a >
> 1 — m эквивалентна величине
sup I у I-* p1-"-"* [v E^л + "»(z))f9. W
т

2.1.6. Неравенства типа Харди —Соболева ... 89
Поскольку неравенство (8) верно и для а< 1 — т, если функ-
функция и равна нулю вблизи подпространства т] = 0, то, повторяя
с очевидными изменениями вторую и третью части доказательства
теоремы 1, приходим к следующему утверждению.
Теорема 2. Пусть v — мера в {?e/?"+m: т)?=0}, q^l и а<
< 1 — т. Тогда точная константа в неравенстве F), где us
е СЦ° ({?: т) Ф 0}), эквивалентна величине Кг-
2.1.6. Неравенства типа Харди — Соболева как следствия тео-
теоремы 2.1.5/1. Здесь получены некоторые часто встречающиеся
в приложениях неравенства между весовыми нормами, частными
случаями которых являются и неравенство Харди
l\x\-lulL (Rn)<cjV,u||L (дЛ)>
и неравенство Соболева
(здесь 1р<Сп и KS^f/?")). Сохраним обозначения, введенные
в п. 2.1.5.
Следствие 1. Пусть l^q^(m-\-n)/(m-\-n— 1) и р = а—
— 1 + ((Я — 1У Я) (т + п) — m/q. Тогда для всех ue^ (/?"+m) спра-
справедливо неравенство
Доказательство. Согласно- теореме 2.1.5/1 достаточно
проверить равномерную относительно риг ограниченность ве-
величины
которая очевидно не превосходит
Последнее выражение не больше чем с| у|р-оср1-(т+л)(?-1)/? при
р<с|у! и не больше чем срМ+и»+»IН)/« при р>с\у\. В
Заменим в A) числа qr1, a, р числами 1—/r1^-^1, a-f
+ A — Р)~1Я$< @—р~1)<7+l)Pt а функцию ы функцией |и|*, где
s = (р — 1)ЯР'1 + 1 • Тогда, применяя к правой" части неравенство
Гельдера с показателями р, р/(р—\), получаем следующее утвер-
утверждение.
Следствие 2. Пусть т-\-п>р^\, /?<<7** р(п-\-т) х
+ I Pl ()l l) ГЭ 5
р) P+ (f)(/
^ (/?л+т) справедливо неравенство
11 {/ 1Р и Ц (««+«) ^ с 111/ |a V« |Lp (дЛ+т). B)

90 § 2.1. Условия справедливости интегральных неравенств (случай р = 1)
При р = 2, а=1— т/2 подстановка u(z)=\y\-av(z) в нера-
неравенство B) приводит к следующему результату.
Следствие 3. Пусть т + п>2, 2<q^2(n + m)/(m+n — 2)
и y =—\Jr(nJrm)B-1-q-1). Тогда для всех v e= Cj° (#л+т) (при
т = 1 подчиненных еще требованию v (х, 0) = 0) имеет место не-
неравенство
(V0)«dz-((m-2f/i)lRn+mW\y\*)dzI/2. C)
(\
В частности, при q = 2(m + n)/(m-\-n — 2) показатель у обра-
обращается в нуль, и мы получаем следующее одновременное усиле-
усиление неравенства Харди (с точной константой) и неравенства Со-
Соболева:
с l v ?2w
Аналогичные результаты для случая рф2, по-видимому, неиз-
неизвестны.
В заключение пункта приведем обобщение неравенства B),
содержащее производные произвольного целого порядка /.
Следствие 4. Пусть т + п> lp, l^p^q^p(m + n)X
х (т + п — lp)-1 и р = а - 1+(т + п) (р-1 — <Г1)> — mq-1. Тогда
для всех ue^(i?n+m) справедливо неравенство
81У 1\ (л"*) ^ С1 \У I" v'" \ьр (лл+т)' D)
Доказательство. Пусть pj = p(n-{-m)(n+m — p(l — j))-1.
Последовательно применяя вытекающие из B) неравенства
11У1Р " \l (яп+т) ^ с 11У I" v" IlPi (лл+т)'
ll^PVt (««+m)<C||t/|aVy+lU| ( „+m), l</</,
приходим к D).
При а = / -f nq-1 — (m + n) /r1 неравенство D) и его частные
случаи A) и B) очевидно неверны. Однако для этого критичес-
критического значения а можно получить аналогичные неравенства (по-
прежнему инвариантные относительно подобных преобразований
пространства /?л+т), изменив весовую функцию в левой части.
Ограничимся следующим утверждением.
Теорема Для всех uef (Rn) справедливо неравенство
$д„ I«(*) 1Р (Лс/W-i + *№*) < Bр)р$дЛ |*л Г11 V« (jc) |Pdx. E)
Доказательство. Положим ра = х„_i + дсл и обозначим
интегралы в левой и правой частях через / и У соответственно.
Интегрируя по частям, получаем
, / р $дЯ дер-11 и Г1 sgn и (ди/дхп) их + 5дЛ 4Р"81 и |р dx.

2.2.1. Определение и некоторые свойства (р, Ф)-емкости 91
Обозначим слагаемые справа через /х и /2. В силу неравенства
Гельдера |/i|^/?/(p-1'/pyi/p. Для того чтобы оценить /2, введем
цилиндрические координаты (г, р, 6), где z e /?"~2, *n-i + ixn =
= рехр(|'б). Тогда
h = ~P \Rn-z дг $„" sina 6 de J" | u I"-1 sgn и фи/dp) р dp ^
Итак, / <; 2pI{p-1)tpJ1/p и неравенство E) доказано.
В случае р=2 из E) при помощи подстановки и(х) =
= | хп |~1/а и (х) вытекает следующее утверждение, дополняющее
следствие 3.
Следствие 5. Для всех »ef (/?"), равных нулю при ха = О,
имеет место неравенство
<i6
!
§ 2.2. О (/>, Ф)-ЕМКОСТИ
2.2.1. Определение > и некоторые свойства (р, Ф)-емкости.
Пусть е — компакт, содержащийся в открытом множестве Q с R",
и Ф —функция из п. 2.1.1. Назовем (р, Ф)-ешостью относи-
относительно п число
(р, Ф)-сар(е, Q) = inf{5Q [Ф(jc, \uj\Pdx: ue9!(e, Q)},
где 9?(е, 2) = {ue^(Q): ы^1 на е\. Если й = /?л, указание
на й в обозначениях (/?, Ф)-сар (е, Q), 9? (е, й) и т. п будем
опускать. В случае Ф(х, S)=|5! будем говорить о р-емкости
компакта е относительно Q (обозначение /?-сар (е, й)).
Приведем несколько свойств (/?, Ф)-емкости.
(i) Для компактов /CciQ и FdQ из включения /CciF сле-
следует неравенство (р, Ф)-сар<7(, Q)^(p, Ф)-сар (F, Q). Это —
очевидное следствие определения емкости. (Из того же определе-
определения следует, что (р, Ф)-емкость F относительно Q не возрастает
при расширении Q.)
(ii) Справедливо равенство
(р, Ф)-сар(е, Q) = inf {^Q [Ф(д:, Vuftdx: ие$(г, Q)}, A)
где ф(е, й) = {ы: ue^(Q), u=\ в окрестности е,
в /?"}.
Доказательство. Так как ??(е, ^)=э*]3(е, й), то доста-
достаточно оценить (р, Ф)-сар (е, й) снизу. Пусть ее(О, 1) и / —

92 § 2.2, 0 (р, ф)-емкости
функция из 9i(e, й), такая, что
$ >, Ф)-сар(е, Й) + е.
Обозначим через {km@}m<i последовательность функций из
С00 (Я1), удовлетворяющую условиям: 0 ^ %'т @< 1 + "*~\ ^m @ = О
в окрестности (—со, 0] и Хт(/)=1 в окрестности [1, +оо),
«S Ki U) <= 1 при всех t. Так как к {f (х)) e $ (е, Q), то
Переходя к пределу при m-voo, получаем
(iii) Для любого компакта ecifi и числа е>0 существует
такая окрестность G, что для всех компактов К, eci/CciG, верно
неравенство
(/>, Ф)-сар(/С, Q)<(/?, Ф)-сар(е, Q) + e.
Доказательство. В силу A) существует такая функция
ыеф(е, Q), что $а[Ф(х, Vu)]Pdx^(/?, Ф)-сар (е, Q) + в. Обо-
Обозначим через G окрестность е, в которой и = 1. Остается заме-
заметить, что для любого компакта К, е а К с: G,
(р,
Аналогично доказывается следующее свойство,
(iv) Для любого компакта ecQ и числа е>0 существует
такое ограниченное открытое множество <о, © с: й, что верно не-
неравенство
(р, Ф)-сар(е, &))<,(/?, Ф)-сар(е, Q)+e.
(v) Для лю'ых компактов /(, F в й верно неравенство Шоке:
(р, Ф)-сар(/СиЛ Q) + (p, Ф)-сар(/СПЛ Й)<
Ф)-сар(/С. Q)+(p, O)-cap(F, Й).
Доказательство. Пусть ы, и — любые функции из $ (К, О)
и ф (F, й) соответственно. Положим ср = max (и, у), -ф = min (и, v).
Очевидно, что q> и г|; имеют компактные носители и удовлетво-
удовлетворяют условию Липшица в й, q> = l в окрестности /CU^. i|? = l
в окрестности К AF. Так как множество {х: u(x)^v (x)} есть объ-
объединение открытых множеств, на которых либо и > v, либо и < у,
и так как Vu (x) = Vv (x) почти везде на множестве {х: и {х) =

2.2.2. Представление (р, Ф)-емкости ... 93
то
= $0[Ф(х,
Отсюда, замечая, что осреднения функций ф • и i|? принадлежат
классам ^ (К U F, Q) и ^ (/С Л F, й) соответственно приходим
к требуемому неравенству.
Функция компактных множеств, удовлетворяющая условиям
(i), (iii), (v), называется емкостью Шоке.
Пусть ? —произвольное подмножество Q. Назовем внутрен-
внутренней {р, Ф)-емкостью Е относительно Q число (р, Ф)-сар(?, Q) =
= sup (р, Ф)гсар {К, й), где {К} — множество компактов, содер-
(Л) -
жащихся в Е. Внешней емкостью (р, Ф)-сар {Е, й) множества
Е с Q называется inf (р, Ф)-сар (G, й), где {G} — все открытые
{0}
подмножества Q, содержащие Е. Множество Е называется (р, Ф)-
измеримым, если (р, Ф)-сар(?, й) = (р, Ф)-сар(?, й). Это число
называется (р, Ф)-емкостью Е.
Из этих определений следует, что любое открытое подмноже-
подмножество Q является (р, Ф)-измеримым. Если е — компакт в Q, то со-
согласно свойству (iii) по любому числу е>0 можно найти такое
открытое множество G, что (р, Ф)-сар(С, Q)sg(p, Ф)-сар(е, й) + е-
Следовательно, все компактные подмножества й обладают свойст-
свойством (/>, Ф)-измеримости.
Из общей теории емкостей Шоке следует, что аналитические
(и, в частности, борелевские) множества (р, Ф)-измеримы [161].
2.2.2. Представление (р, Ф)-емкости, содержащее интеграл по
поверхности уровня.
Лемма 1. Для любого компакта F, FcQ, (p, Ф)-емкость при
р> 1 может быть определена равенством
(р, Ф)-сар(Л Q) =
{Jo
"{Jo (^ [Ф
где Et = {x: \u(x)\ = t\.
Введем обозначения: Л —множество неубывающих функций
ХеС"^1), удовлетворяющих условиям: X(t) = O при /«;0,
X @=1 при <3sl, supp^'d@, 1); Лг — множество абсолютно
непрерывных на R1 неубывающих функций, удовлетворяющих
условиям: X @ = 0 при t^O, % @=1 при t ^ 1, производная %' (t)
ограничена.
В доказательстве леммы 1 используется следующее утвер-
утверждение.

94 § 2.2. О (р. Ф)-емкости
Лемма 2. Пусть g — неотрицательная гуммируемая на [0, 1}
функция. Тогда
1/A-p) MI'"- B)
Доказательство. Отметим, чте в силу неравенства Гель-
дера
и, значит, левая часть B) не меньше правой.
Пусть X е= Ль ?v @ = Л' @ при t <= [v-1, 1 - v-1], supp ?v c=
c[v-\ 1-v-1] (v = l, 2, ...)• Положим Tiv(O = Cv(O(SSv*)~1.
Так как последовательность tiv сходится к Я' на @, 1) и огра-
ограничена, то по теореме Лебега Vr^gdt-^V(K')pgdx.
Усредняя r|v, получаем последовательность \yv], yveCco(R1)r
supp vv cz @, 1), g Vv dx = 1, JJ T^r ^ ^ ^ (yy g dx. Полагая К (t) =
= ^Yv^t, получаем последовательность функций из Л, такую,
что §{KTgdx+§&.ygdx. Значит,
VinfV(X')Pgdx. C)
At
Пусть Mt^{t g(t)^z}, %o(t) = \'oi)dx, гдел@ = 0на/?1\М8и
T\(t)=g(tI/il-'')(lu^gllil-p)dxy1 при (sME. Очевидно, что %0 s
ёЛ,и $l(^)"gdT=($Algg1/A-pldTI-'\ В силу C) левая .часть B)
не превосходит (J^ grVd-p) dt]1"''. Остается перейти к пределу
при e-vO.
Доказательство леммы 1. Пусть и е9? (F, Q) и ^еЛ.
Из определения емкости и теоремы 1.2.4 получаем
(р, O)-cap(F, Q)<JQ ^
где
«@ = $В/[Ф(*. Vu)p(ds/|Vu|). D)
В силу леммы 2
0», Ф)-сар(Л
Для доказательства противоположного неравенства достаточно за-
заметить, что
\а[Ф(х,

2.2.3. Нижние оценки (р, Ф)-емкости 95
Используя свойство B.2.1/1) (р, Ф)-емкости, замечаем, что попутно
здесь доказана также следующая лемма.
Лемма 3. Для любого компакта FciQ (р, Ф)-емкость (р>1)
может быть определена равенством
(р, Ф)-сар (F, fi) =
ГГ л V-p
Г ° (к[ф (л Щ]р {ds/i v" i)I'1^" /
2.2.3. Нижние оценки (p, Ф)-емкости.
Лемма. Для любой функции ке^(й) при п. в. t^O выпол-
выполнено неравенство
[с {dLW'W <: I- (d/dt) mn (Lt)] Qdh [Ф {х, Щ? (ds/| Vu I)I'1"'1'. A)
где, как обычно, L/ = jj:efi: |и(х) |>t}-
Доказательство. В силу неравенства Гельдера при п. в Л
и Т, t<T,
Воспользуемся теоремой 1.2.4:
Разделим обе части последнего неравенства на (Т — t)p^p-l) и оце-
оценим первый сомножитель в правой части:
- 0) $,г т*-Ч
"^^) (A/G - 0) Ьг dt 5,ц 1Ф (х,
Переходя к пределу при Г-vf, получаем при п. в. *>0 нера-
неравенство A)
Из леммы 2.2.2/3 и леммы этого пункта непосредственно вы-
вытекает следующий результат.
Следствие 1. Справедливо неравенство
(р, O)-cap(F, Q)^
Обозначим через С(р) величину infoEg) для всех допусти-
допустимых множеств g, таких, что mn(g)^sp. Тогда из B) получаем
следующее утверждение.

96 § 2.2. О (р, Ф)-емкости
Следствие 2. Справедливо неравенство
(р, Ф)-сар (F, Q) =s ft™"(Q) (Ф/[С (р)]"/"-1')I"". C)
В силу классического изопериметрического неравенства
s (dg) Ss n^n-1)/n(x)lJn [т„ (g)Yn~v'n D)
в случае Ф (х, ?)= 111 находим, что С (р) = л1"-1)/лй>улр(л-1)/'>.
Поэтому
р-сар (F, й) 3= <йР1пп\п-^1п | {р — п)/(р — 1) I?-1 х
при рфп и *
р-сар (F, Q) ^ лч(ол (log {т„ (Q)/mn (F))I-" F)
при р = п. В частности, при п>р
р-сар (F) За <ор/«л<л-р>/л ((л - /»)/(р - 1))р-1 [тп (F)](«-p)/». G)
2.2.4. О р-емкости шара. Покажем, 4tt> если Q и F —кон-
—концентрические шары (с радиусами R и г, R>r), оценки B.2.3/5),
B.2.3/6) превращаются в равенства, т. е. что в этом случае
р-сар (F, Q) =
сол(|л-р|/(р-1))р-1|/?(р-л)/(р-1)-г(Р-л)/(Р-1)|1-р, если рФп, A)
co«(log(/?/r)I-", если р = п. . B)
Пусть центр шаров Q и F совпадает с началом сферических
координат (р, ш), | и | = 1. Очевидно, что
р-сар (F, Q)ss inf [дв da [f l0u/dp|Pp"-Mp3s
. Q)
Точная нижняя грань внутреннего интеграла достигается на
функции
L ?(Р-л)/(р-И _р(Р-п)/(р-1)
р(р-я)/(р-1> (р_я)/(р-1) ПРИ
что приводит к требуемым оценкам р-емкости снизу. Подста-
Подстановка у(р) в интеграл $Q|Vu|Pdx приводит к A), B).
В частности, р-емкость л-мерного шара Вг относительно R" равна
со„((л — рI(р — 1))р-1г"-р при «>/)и нулю при п*^р, Так как

2.3.1. Оценка интеграла, содержащего (р, Ф)-емкость Nt 97
р-емкость—монотонная функция множества, то при п^р для
любого компакта р-сар (F, R") = 0. В случае р < п емкость
точки относительно любого содержащего ее открытого множества Q
равна нулю. Если р>п, то р-емкость центра шара BR относи-
относительно R" равна <лп((р — п)/(р— 1))р-1/?д-р. Значит, в этом случае
р-емкость любого компакта относительно содержащего ее ограни-
ограниченного множества положительна.
2.2.5. О (р, Ф)-емкости в случае р = 1.
Лемма. Для любого компакта FcQ имеет место равенство
A, Ф)-сар (F, Q) = inf a {dg), где инфимум берется по совокупно-
совокупности всех допустимых множеств g, содержащих F.
Доказательство. Пусть ue5>J(F, й). Применяя тео-
теорему 1.2.4, получаем
JQ Ф (х, Vu) dx^ Ц a (dLt) dt ^ inf а (dg).
Отсюда следует оценка емкости снизу.
Пусть g — допустимое множество, содержащее F. Функция
ие(х) =a(d(x)), определенная в доказательстве второй части тео-
теоремы 2.1.1 при достаточно малых е>0, принадлежит классу
9}(F, Q). Поэтому A, ©)-cap(F, Q) < \Q®(x, Vue)dx. Послед-
Последний интеграл, как было показано в доказательстве второй части
теоремы 2.1.1, стремится к a(dg)l что дает требуемую оценку
емкости сверху. ¦
S 2.3. УСЛОВИЯ СПРАВЕДЛИВОСТИ ИНТЕГРАЛЬНЫХ НЕРАВЕНСТВ
(СЛУЧАЙ p5s\)
2.3.1. Оценка интеграла, содержащего (р, Ф)-емкость множе-
множества Nt. Пусть «ef (Q) и g — функция, определенная равен-
равенством B.2.2/4), где р>\. Пусть еще
7-22 sup {<>0: (р, Ф)-сар(Л7„ Q)>0}>0, A)
где Nt = {х е Q: | и (х) | За /}. Из A) следует, что при 0 < t < Т
ф @ d^ Jo (dr/[g (t)]VIp-i)) < oo. B)
Действительно, пусть v(x) = t-a[u (д;)]2.Так как oe9t(Af,, Q), то
из леммы 2.2.2/1 и из A) получаем
и остается заметить, что
4 В. Г. Маэья

98 § 2.3. Условия справедливости интегральных неравенств (случай р^1)
Так как по теореме 1.2.4 $~g"(т)с!т == ^Q [Ф (дс, V«)]pc(a;<oo,
то g(t)<оо при п. в. t>0 и функция г|>(t) строго монотонна
Следовательно, на промежутке [0, ty G)) существуес обратная
к г])@ функция t(ty).
Лемма. Пусть и —функция из ^"(Й), удовлетворяющая усло-
условию A). Тогда функция t(ty) абсолютно непрерывна на любом
отрезке [0, г|> G — б)], где б е (О, 7), и справедливо неравенство
\а [Ф (дс, Vu)Ydx^(T) [f (ф)]Рd*. C)
Если 7 = max | и |, то в C) можно поставить знак равенства.
Доказательство. Пусть O=i|5O<i|>i<...<i|)m = iJ3G — б) —
произвольное разбиение отрезка [0, г|> G — б)]. В силу неравенства
Гельдера
и, следовательно,
Последнее неравенство следует из теоремы 1.2.4. В силу D) и
теоремы Ф. Рисса (см. [100]) функция t(ty) абсолютно непрерывна
и ее производная принадлежит Lp@, ty(T — б)). По теореме 1.2.4
\а[Ф(х, Vu)]Pdx^ Iim Jor-eg(t)dT. E)
б-» + "
Так как t ($)— монотонная абсолютно непрерывная функция, то
в последнем интеграле можно сделать замену переменной x = t (ф).
Тогда
что в сочетании с E) дает неравенство C).
Если Т = тгх\ w, то в E), а следовательно и в C), можно
поставить знак равенства. ¦
Теорема. Пусть и — произвольная функция из &{п). Тогда
при 1
$~ (р, Ф)-сар (Nt, Q) d (/") < (рр/(р - I)"-1) \Q [Ф (х, Vu)]p dx. F)
(При р = 1 коэффициент перед интегралом в правой части F)
равен единице.)

. 2.3.1. Оценка интеграла, содержащего (о, Ф)-емкость .V,. 99
Доказательство. Достаточно доказать F) в предположе-
предположении, что число Т, определенное в A), положительно.
Так как по лемме 2.2.5 A, Ф)-сар (Nt, Q)^a(dL,) при п. в.
i>0, то при р=1 оценка F) следует из B.1.1/3).
Рассмотрим случай р>\. Пусть г|>(О — функция, определен-
определенная равенством B), и t (г))) — обратная к ty(t) Сделаем замену
переменной:
5"(р, Ф)-сар(Л7,, Q)d(tP) = \T0(p, Ф)-сар(ЛГ,, fl)d(f) =
§, Ф)-сар
Полагая в B) v = t~2u2, | = /-2т2, получаем
Так как oe3l(JV/, Q), то по лемме 2.2.2/1 правая часть G) не
превосходит [{р, Ф)-сар (Л^), Q)]1/A~p). Следовательно,
Применяя неравенство Гельдера и неравенство Харди
В(Г) ([' (*)?/*') d*< (Р/(Р " О)" So<П Р' Ш"d*. (8)
получаем
что вместе с леммой 2.3.1 приводит к (С).
Замечание. Неравенство
J0°° (р, Ф)-сар (Nt, Q) d (tP) < С Jа [Ф (дс, V«)]p d^ (9)
с более грубой константой, чем в F), можно доказать значительно
проще следующим образом. В силу монотонности емкости инте-
интеграл в левой части не превосходит S — Bр — 1) ^j/^-oo^ (
cap(JV2/, fi).
Пусть К &С°°(R1), Яе@ = 1 при <ssl, X*@ = 0 при
0^Яе@<1+е (е>0) и пусть h/(jc)=X1BW|u(jc)|-1). Так
как Uj&$l{N2j, Q), то
и | _ 1 )]P [ф (X,
Устремляя в к нулю, получаем (9) с постоянной С = 28р~1.
4»

100 § 2.3, Условия справедливости интегральных неравенств (случай
2.3.2. Оценка нормы в пространстве Орлича. Напомним опре-
определение пространства Орлича (см. [43]).
Пусть функция М на оси —оо<и< + о° допускает пред-
представление М (и) = §о"' Ф @ ^i где Ф @ ~~ положительная при / > О,
непрерывная справа при /^0, неубывающая функция, удовлет-
удовлетворяющая условиям ф@)=0, ф (/)-»¦ оо v при t-*-co. Пусть еще
i|>(sl =sup {/: ф(/)^5}—правая обратная к ф(<) функция. Функ-
Функция Р (и) = §о"! г|> (s) ds называется дополнительной к М (и).
Через %м{п, |л) обозначим пространство fi-измеримых функ-
функций, для которых
В частности, если М (и) = q-11 и |», (/> 1, то Р (и) = (t/')1" I" »
<7'=<7W—О1 и
Норма в .^^(Q, |x) характеристической функции Хв множе-
множества Е вычисляется по формуле \%в\ям^а. ц) = И(^)^>A/1х(?))»
где Р-1 — обратная функция к сужению Р на [0, +°°)-
Действительно, если у = Р~3 A/|х (?)) хя, то JQ P (у) dpi = 1 и из
определения нормы в ?м(&, Iх) следует
Вместе с тем по неравенству Йенсена
JQ XeV dti^ti (E) P-i (A /ц (?)) \Е Р (р) djx).
Если предположить, что \Q P (u)d(xsc: 1, то из определения
нормы в <5?м (Q, |х) получим оценку || %В\ЬМ <о. и) < м-(?)Я A/(я (Е)).
Хотя формально функция М(/) = |/| не укладывается в выше-
вышеприведенное определение пространства Орлича, все последующие
относящиеся к XM{Q, \i) результаты включают и этот случай,
если положить P-1{t) = l. При этом <55>Л1(Й, [i)=L1(Q, jx).
Теорема. 1) Если существует такая постоянная р\ что для
любого компакта F с й
f, (p, Ф)-сар(^ Q), A)
где p^z 1, то для всех функций ae^ffi) справедливо неравенство
H«lpU?iM(Q.ii)^Cjn[O(JC, Vu)]Pdx, где С^р"(р-1I-"^. B)
2) Если для любой функции «ef (Q) справедливо неравен-
неравенство B), то для всех компактов FczQ верно неравенство A), где

2.3.3. Неравенства типа С. Л. Соболева как следствия теоремы 2.3.2 101
Доказательство. 1) Из теоремы 1.2.3 и определения
нормы в %м (Q, |х) получаем
11 и |" \лм т. й = sup {J9 $^у djid (т*): $Q Р (у) dp
< $Г SUP {Jo X*to Ф: Sa Р (о) ф < 1} d (т") =
Следовательно,
11«I" UM (a. B) < 5Г I* (#t) PJ (A/1*)
Используя A) и теорему 2.3.1, отсюда получаем
11«I" kM (о.») < ИГ (Р> ф)'саР (Л'т, Q) d (тО ^
< РРР/(Р - П"5Q [Ф (х, Va)p dx.
2) Пусть и —любая функция из 91 (F, Q). В «илу B)
Минимизируя правую часть по множеству 9? (F, Q), получаем
неравенство A). ¦
Замечание. Пусть Ф(х, у)— функция, удовлетворяющая
сформулированным в 2.1.1 условиям, и пусть функция Ч (х, и, у):
QxR1xRn-^R1 такова, что W (х, и, у)^[Ф(х, у)]' и для всех
ueS^Q) справедливо неравенство
lim k-*lQV(x,ku, kVu)dx<^K\a[<P(x, Vu)]Pdx.
Я,-»+00
Тогда в теореме оценку B) можно заменить следующим более
общим неравенством:
III и |" \ам щ. й < С \а ? (дс, и, Щ dx. C)
(Доказывая необходимость неравенства A) для C), следует в C)
положить и = ко, где v e 9i (F, Q), а затем устремить к к беско-
бесконечности.)
Аналогичное замечание можно сделать о теоремах 2.1.1 и 2.1.2.
2.3.3. Неравенства типа Соболева как следствия теоремы 2.3.2.
В теореме 2.3.2 содержится представляющее самостоятельный
интерес следующее утверждение.
Следствие. 1) Если существует такая постоянная р, что
для любого компакта FcQ
, Ф)-сар(/>, О). A)

102 § 2,3. Условия справедливости интегральных неравенств (случай
где p5sl, cc>0, ap^l, то для всех функций u€f(Q) верно
неравенство
$. Vu))Pdx, B)
где q^ar1 и С«?рр(р - II-*р.
2) Если для любой функции ие^(й) справедливо неравен-
неравенство B) и постоянная С не зависит от и, то для всех компактов
FczQ верно неравенство A), где а = а~1 и р"<:С.
Пример. 1. Из следствия и изопериметрического неравенства
B.2.3/7) получаем, что при п>р^\ для всех и е0&(Rn) имеет
место неравенство Соболева {р> 1) — Гальярдо (р=1):
с константой С = р(п — р)
Замечание. Указанное здесь значение постоянной С в не-
неравенстве C) точно только в случае р = \ (см. теорему 1.4.2/1).
Для того чтобы получить неулучшаемую постоянную, можно по-
поступить следующим образом. По лемме 2.3.1 $*<тах'" п [Р (ty)]P dty=
= J n\Vu\Pdx. Если положить здесь $ = (р — l)(oln/{p — ^(n — p)~xX
«V(), <(^) = у(Г) и считать, что <0ф)= const при
(max J и |), то получим
<•>» $Г IY' (r) \p r"-1 dr = 5^ | Vu \p dx.
Вместе с тем по теореме 1.2.3
\ -р) dx = \™х [и'т„
Из определения функции -ф» леммы 2.2.3 и изопериметрического
неравенства B.2.3/4) вытекает оценка
* @ ^ »i/(I-" (Р - D/(n -р)[(п/а>„)/пя
Следовательно, /пя(Л//(ф))^й)ял-1/-я и $я„ j ы ^/«"-р) dx ^
< (шя/п) J" rnd [у (/-)]/"•/(»-/'). В силу того что ^ IY' (г) \р гП~1 & < °о,
имеем у (/") г(п-рI* -> 0 при г^-оо. Поэтому, интегрируя по частям,
получаем
$я„ I« Г/(л-р) ЛК ю» 5Г lY (r)
Итак,

2.3.3. Неравенства типа С. Л. Соболева как следствия теоремы 2.3.2 103
_ . __
где {у} — множество всех невозрастающих неотрицательных функ-
функций на полуоси [0, оо), таких, что у (г) г{п~р)/р -*¦ 0 при г -*¦ х>.
Итак, вопрос о точной константе в неравенстве C) сведен к одно-
одномерной вариационной задаче. Последняя допускает явное реше-
решение классическими методами вариационного исчисления*. Точная
верхняя грань достигается на любой функции вида
y(r) = (a-{-brP'iP-1)I-n'P, a, b = const >0,
и равна
п-Vp ((р - 1 )/(п - р)ур-»/Р [В {nip, n(p- \Iр) (р - \Iр]-У\
где В—бета-функция. Окончательно точная константа в неравен-
неравенстве C) равна
\n-pj \Г(п/р)Т(\+п-п/р)! '
и знак "равенства достигается, если и(х) = [а + b\x\рПр-^-п1р,
где а и b — положительные константы. (Хотя функция и и не
принадлежит &, ее можно аппроксимировать функциями из М
в норме |Vh|l .) ¦
Лемма. Для 2-емкости (п — \)-мерного шара Blpn~1) e R" при
п>2 справедливо равенство
2-сар {В1; ~ l\ R") = (©„/с.) р"-2, D)
где с8 = л/2, с4=1, сп = (п — 4)!!/(п — 3)!! при нечетном я^=5,
ся = (л/2)(л —4)!!/(л —3)!! при четном п 3*6.
Доказательство. Введем в R" эллипсоидальные координаты
Xi = рshij)cos61г xy = pchij)sin 6t...sin Qj-icosbj (/ = 2, ..., n — 1),
xn = pch^sin Gi...sin Qn_t. Стандартные вычисления приводят
к формулам dx = р"(с№ ¦$> — s\n2e)(chty)n-2dtydo) и
(Vuf = р-а (du/dtyJ/(ch2ty - sin2 bt) + ...,
где dco—элемент поверхности единичного шара в Rn, а многото-
многоточием обозначена положительная квадратичная форма производных
•функции и, не содержащая du/dty. Уравнение шара Бр" ~'' в новых
координатах имеет вид ty = 0. Следовательно,
2-сар (В% ~ ", R") ^ Рл-2 S, e, _, (jnf ^ (ди/Щ* (ch ^)"-2 d^ dco,
где {и} — множество гладких функций на [0, оо) с компактными
носителями. Точная нижняя грань в правой части равна
• Эта задача была решена еще в 1930 г. (В 1 i ss G. A. An integral
quality. —J. Lond. Math. Soc. 1930, vol. 5, p. 40—46). .
ine-

ine104 § 2.3. Условия справедливости интегральных неравенств (случай
( dty/(chty)n-2y1=eni и принимается на функции и=$™dx/(сЬт)"-*Х
X ($" dx/(ch т)"-*). Последняя равна единице на ВрП~1) и доста-
достаточно быстро убывает на бесконечности. Если ее подставить
в интеграл Дирихле, получится оценка
Напомним теперь определение симметризации компакта К в Rn
относительно (п — s)-MepHoro подпространства /?"-*.
Обозначим произвольную точку х е R" через (у, г), где y^R"~*
и геЛ*. Образ /С* компакта К при симметризации относительно
подпространства г = 0 определяется условиями: 1) множество К*
симметрично относительно подпространства г = 0; 2) всякое s-мер-
ное подпространство, параллельное подпространству у —0 и пере-
пересекающее одно из множеств К или К*, пересекает также и дру-
другое, и лебеговы меры сечений этих множеств равны; 3) пересечение
любого s-мерного подпространства, параллельного подпространству
у = 0, с К* является s-мерным паром с центром на гиперпло-
гиперплоскости z = 0.
Пример 2. Будем следовать книге Полна и Cere [108], где по-
показано, в частности, что симметризация не увеличивает 2-емкость.
Пусть л — (п — 1)-мерная плоскость и PvnF — проекция F на п.
Выберем л так, чтобы величина тп--\ (Рг,,/7) принимала максималь-
максимальное значение. Симметризуем F относительно я, а получившийся
компакт — относительно прямой, перпендикулярной к п. Емкость
полученного тела не превосходит 2-сар/7, а его пересечение с л
есть (п— 1)-мерный шар объема m^-i(Prnf). Следовательно, из
всех компактов с фиксированной 2-емкостью наибольшую пло-
площадь ортогональной проекции на (п— 1)-мерную плоскость имеет
(п — 1)-мерный шар. Отсюда и из леммы получаем изопериметри-
ческое неравенство
[тп-х (F П /?«-1)]1«-*>/<«-*> <
^ (сол_г/(п - 1 ))<-»>/<»-»> (Ся/соп) 2-сар (F, R"),
где сп — постоянная, определенная в лемме.
Теперь из следствия вытекает, что в оценке | и
A)/(л2)
l^^ny u^&(Rn), точная константа С удовлетворяет
неравенствам V2C ^ [(ш^Дл - 1))(«-2>/о-и Сл/ш»]1/2 ^ С.
2.3.4. Мультипликативное неравенство (случай р^1).
Теорема. 1) Пусть для любого компакта FczQ выполнено
неравенство B.3.3/1), где pS=l, a>0. Пусть еще q —положи-
—положительное число, удовлетворяющее одному из условий: (i) q^q* =а~1,
если apsgl, или (ii) q<.q* = a, если ар>1. Тогда для любой

2.3.4. Мультипликативное неравенстве (случай р^1) 105
функции aef (й) справедливо неравенство
)lpu\lr(a, w, A)
где ле=@, q), K = r(q* -q)/q(q* -r), ф
2) Пусть pS* I, q*>0, re@, q*]u при некотором q^@, q*]
для любой функции ue^(Q) выполнено неравенство A), в кото-
котором K = r(q* — q)lq (q* —r) и С — постоянная, не зависящая от и.
Тогда для всех компактов Fczu выполнено неравенство B.3.3/1),
где a = (q*)-1 и ps=?cC/fl-*).
Доказательство. 1) Пусть ap^l. Тогда при помощи
неравенства Гельдера получаем
\ \«*««-'>/<»' -'> [ и \г <«• -
и |» dpi =
или, что то же самое,
Оценивая первый сомножитель с помощью B.3.3/2), получаем A)
при ap«Cl. Пусть ар>\. По теореме 1.2.3 ^Q\u\9d^ =
= q J" (i (Л/<) f*-1 Л. Применим к последнему интегралу неравен-
неравенство A.3.3/2), где x=*t*, f(x) = \i(Nt), b = p(q*)-i>l, a>l-
произвольное число, K = a(q — r)q-1, \i — p(q*—q)(q*q)~1. Тогда
-r) X
x (f [ц W)]"/»' tp-1 dt)9'(q -rVp«' - r\
Так как а>1 и функция \x,{Nt) не возрастает, то к первому сом-
сомножителю можно применить неравенство A.3.3/1) следующим
образом1.
Итак,
I и kq @. w < с (S" [ц (Л/Л]р/^ ^ Л)A-к)/р!! и \1г @. й).
Из условия B.3.3/1) и теоремы 2.3.1 получаем
$Г J [Ф (л, V«)p Лс.
Доказательство первой части теоремы закончено.
2) Пусть G — ограниченное открытое множество, О a Q. За-
Зафиксируем число б>0 и положим Pa=sup((i(/r)pa/((p, Ф^сар^, G)))

106 § 2.3. Условия справедливости интегральных неравенств (случай р > 1)
на множестве всех компактов F в G, удовлетворяющих условию
(р, Ф)-сар(/\ G)^6*. Очевидно, что pe<S-V(G)pa<oo.
Пусть и — произвольная функция из *Р(/\ G) и у=тах(/?/-1, <7*г-х).
Подставим в A) функцию ы = сЛ. Тогда
($ i» [ф (jCf Vo)pdx)(t-X)/'j ov|Zr@. и). B)
Пусть \|э (t) — функция, определенная равенством B.3.1/2).
В нашем случае Т = max v = 1. Очевидно, что
$0 ^ ф = ?V W) d (^) = ft |i
где Л// = {д;е: v(x)^st]. Так как NtzDF, то из леммы 2.2.2/3
следует
|i № $ №<?' < |i (Nt)/[(p, Ф)-сар (JV<f G)]*'/p < Р|'/".
Значит,
Поскольку г|)@~"*/р' —невозрастающая функция, из неравенства
A.3.3/1) получаем
$с vv dp <cp?*/p (ft fo (О]»'(I - ">^ d (f
—«•>/"'(ft d
Полагая в последнем интеграле t = t(ty) и применяя неравенство
B.3.1/8) и лемму 2.3.1, получаем
Итак,
(О. ») < сР|*'ргф A)(тг - ,.,/rp- (Jfl [ф {х>
, Ф)-сар(/\ G)]<«*-'"¦'/'¦p (J, [Ф(дс, Vajpdx)^. C)
Последнее неравенство следует из оценки [^A)]р~1 <[(/>, Ф)-
cap(F, G)]J (см. лемму 2.2.2/3). Так как 0^у«?1 и 1
то из B) и C) следует неравенство
*1рг [(р, ф).Сар (F, G)]»<«* -vvrp x
*) В случае, когда (р, Ф)-сар (F, G) = 0 для любого компакта F с: G,
подстановка в A) произвольной функции u e 91 (F, G) приводит к равен-
равенству ц=0.

2.3.5. Оценка нормы в Lq(Q, ц) при $<р ... 107
Минимизируя §с(Ф(лс, Vv)ydx на множестве ty(F,-G), получаем
^{F)Vq^cC^l*K!pr[(p, O)-cap(F, G)]I/p+K("*-'>^'- =
= cCpg**""[(p, O)-cap(F, G)]«*/«".
Отсюда ц(/Ор/«*«-?сС«г'|/«г*Р<«г*-»>/<»•-''(p, O)-cap(F, G).
Следовательно, pd*g cO»'»'-'W <»-/¦>= CO(I -*>.
Так как величина Ре мажорируется постоянной, не зависящей
ни от 6, ни от G, то, используя свойство (iv) (р, Ф)-емкости, по-
получаем, что р<сС/A-и). ¦
2.3.5. Оценка нормы в Lq(Q, ц) при q<Lp (необходимое и
достаточное условия). В следствии 2.3.3 были приведены необхо-
необходимое и достаточное условия справедливости неравенства B.3.3/2)
при q^p. Теперь мы получим такой же результат для p>q^ 1.
Пусть S = {gy}/= + ~ —любая последовательность допустимых
подмножеств й, такая, что gtczgi+v - Положим Hi = li{gi), у{ —
= (р, Ф)-сар (gi,gi+1) и
(Слагаемые вида 0/0 считаем равными нулю.)
Теорема. 1) Если Р<оо, то для всех ms^(Q) справедливо
неравенство
?$ 4e, B)
где p>q>0, ф
2) ?слы существует такая постоянная С, что для всех u
справедливо неравенство B), где р>^^1, mo |5=s? сС.
Доказательство. 1) Пусть tJ = 2-J + Bl (/ = 0, ±1, ±2, ...),
где в/ — убывающая последовательность положительных чисел,
такая, что е^-^О при /^-±схэ. Потребуем еще, чтобы множе-
множества Ltj были допустимыми. Очевидно, что
Пусть gj = LtJ. Последнюю сумму представим в виде
^ Zt=-M">^)9">B~piyjy/-P
и применим неравенство Гельдера. Тогда
Пусть ЯееС00^1), Я8@ = 1 при ^1, ^@ = 0 при f<0,
0 ^ я; @ ^ 1 + е (е > 0) и пусть щ (х) = А, [(| ы (дс) | - <,«)/((, - tm)\.

108 § 2,3. Условия справедливости интегральных неравенств (случай
Так как и, е 91 (gj, gi+i), то
Устремляя е к нулю, получаем
$ C)
2) Рассмотрим последовательность S = {g/}/"J!_«» и положим
= 0 и т* = 2 JL-» (Иу/ТуI/(р-?) при fe Л/, - Л/ + 1, ..., 0,...
..., N — 1, Л/. Через' ыЛ обозначим произвольную функцию из
Ф(^*, g*+i) и определим функцию и=(тк — rk^i)uk + rk+i на g*+i\g*.
u = x-N на ^_jV, u = 0 в QXgjv+i- Так как Me^(Q), то для нее
верно неравенство B). Очевидно, что
Отсюда, из B) и неравенства (тЛ — тт)» < (т« _ т»+1) следует, что
_ д, (т* - та+1)р 5йл+1 х ?л [Ф (х, Vuk)]" dx.
Так как ик — любая функция из ty(gk, gk+i)> то, минимизируя
последнюю сумму, получаем
Подставляя, в это выражение \ —\+1 = Pli/(''~l7)Yi/(?~'')> оконча-
окончательно получаем
2.3.6. Оценка нормы в L?(Q, jx) при ?<р (достаточное условие).
Лемма. Пусть gx, g2, g3 —допустимые подмножества Q, такие,
что gi<=git gi<=ga- Положим уи = (р, Ф)-сар(&, gy), где t</.
Доказательство. Пусть е—любое положительное число.
Выберем такие функции uk^ty(gk, gM) (k=\, 2), что

2.3.6. Оценка нормы в Lq(Q, (x) при q<p ... 109
где E\ — {x:uk{x) = r}. Положим u(x) = 1/iui(x) при
{) ({) + lJ при x^g2. Тогда
ft
где Ех — {х: и (x) — x}. Поэтому
-p) + V^A"p) < ft {Sfit [Ф (*, Vu)p ds/| Vu |}1/A-p) dx + 2e.
Так как и е ^3 (gi, ^з), то в силу леммы 2.2.2/3 правая часть
последнего неравенства не превосходит yjjA~ p) + 2e. ¦
Обозначим через v(t) величину inf(p, Ф)-сар(^, Q), где инфи-
мум берется по всем допустимым множествам g, удовлетворяющим
условию \i(g)^t.
Легко проверить, что условие B.3.2/1) эквивалентно неравен-
неравенству {JvfOS^tf'-^l/O, а условие B.3.3/1) —неравенству Pv^J^f".
Доказанная в этом пункте теорема дает следующее формули-
формулируемое в терминах функции v(?) достаточное условие ограничен-
ограниченности величины р, определенной равенством B.3.5/1) и, значит,
условие справедливости неравенства B.3.5/2) при \
Теорема. Если p>q^\, то
) (P/iP -Ф) \от № WVM dx, A)
P
IS)
где использованы обозначения, введенные в п. 2.3.5.
Доказательство- Пусть интеграл в правой части сходится,
N — целое положительное число, Гу = (р, Ф)-сар (gj, g^+i) при
j^N, TN+1 = oo. По лемме у//(-1"р)<Г)/A-р>-Г;/|1Г«, j^N.
Так как q(p — l)/(p—q)^\, то справедливо неравенство
|(i>/()|(i)/(p-?> _^?(p-i)/(p-?) | И) значит, ^)
отсюда получаем
О-
Т

ПО § 2.3. Условия справедливости интегральных неравенств (случай
Ясно, что Г/^(р, Ф)-сар(?у, Q)^v(fiy). Так как функция v
не убывает, то
ИР/О> - Q) [V (И_
Аналогично
рКр ?>) [
Следовательно, с^ < $?" tv(T)l?/(?~p)
2.3.7. Неравенство, содержащее нормы в Lq(Q, (i) и Lq(Q, v)
-(случай р^=1). В следующей теореме даны условия справедли-
справедливости неравенства
1?г(о.у)) A)
для всех ие^(й) при q^sp^r, p^s\ (ср. с теоремой 2.1.3).
Теорема. Неравенство A) вермо в /пол« и только в том случае,
если для всех допустимых множеств g и G, таких, что g czG,
верна оценка
[V (g)]plq < сС [(р, Ф)-сар {g, G) + [v (G)]*"]. B)
Доказательство. Достаточность. В силу тео-
теоремы 1.2.3 и неравенства A.3.3/1)
где gj = Lt. и {^ — последовательность уровней, определенная
в доказательстве первой части теоремы 2.3.4. Положим у/ =
= (р, Ф)-сар (gj, gj+i) и воспользуемся условием B). Получим
?e(
«i?e(Q. ^^cCfS^-ooZ-^ + S^-co^fvte/)?/']. C)
Первую сумму в правой части этого неравенства оценим с по-
помощью B.3.5/3). Вторая сумма не превосходит
Необходимость. Пусть g и G —допустимые множества и
gczG. Подставим в A) любую функцию «е$(|, G). Тогда
Минимизируя первое слагаемое справа по множеству ty (g, G),
получаем B).

2.3.8. Оценка интеграла JjujPda, где о—заряд 111
Замечание. Очевидно, что достаточным условием справед-
справедливости A) является более простое, чем B), условие
№ (g)]"'* ^ Сг [(р, Ф)-сар (g, Q) + [v (g)Y"\, D)
в котором в отличие от A) фигурирует лишь одно множество g.
Однако, как показывает следующий пример, это условие не
является необходимым.
Пусть Q=R3, q = p = r = 2, Ф (х, у) = \у\, а меры (i и v опре-
определены равенствами
где Л —любое борелевское подмножество/?3, a s — двумерная мера
Хаусдорфа. Условие D) для этих мер и 2-емкости не выполнено.
Действительно, для множеств ^* = Я2*+1\В2*_1 (k = 2, 3, ...)
Покажем, что неравенство A) верно Пусть u^&(Rs) и (р, ш) —
сферические координаты, Очевидно, что
[ыB*.
Отсюда заключаем, что
4*$авДыB*,
Суммируя по k, получаем неравенство
J^ ы2 ф < с ER, | Vu |2 d^ + 5Л, ы» dv). ¦
2.3.8. Оценка интеграла ^Q\u\pda (а —заряд). В следующей
теореме даны близкие (в некотором смысле) достаточное и необхо-
необходимое условия справедливости неравенства
$0|и|^о<С$в[Ф(х, Vu)Ydx, «sf(Q), A)
где а — произвольный заряд в Q (а не неотрицательная мера, как
в теореме 2.3.4) *.
Теорема. Пусть о+ и or — положительная и отрицательная
части гаряда п. Тогда:
* В случае р—\ в теореме 2.1.3 содержится более точный результат.

112 § 2.3. Условия справедливости интегральных неравенств (случай р^1)
1) если при некотором ее@, 1) для всех допустимых мно-
множеств g и G, g cz G, имеет место оценка
°* ig) < Се (Р, Ф)-сар (g, G) + A - е) <r- (G), B)
где Се = const, то справедливо неравенство A), в котором С<сСЕ;
2) если для всех u~sJ?*(Q) имеет место неравенство A), то
для всех допустимых множеств g, G, g cz G
ff-(G). C)
Доказательство. Пусть 8 = A—e)~1/l0 и gj — L^ (j =
= 0, ± 1, ...). В силу теоремы 1.2.3
Отсюда и из B) получаем
S и \1р (а. О+, ^ Се 2^°°- со (Р. Ф
Рассуждая так же, как при выводе B.3.5/3), получаем, что
первая сумма в D) не превосходит
(Fр- 1)8"/(8-\)р)\., [Ф(х, Чи)]рdx.
Так как a- (U) — невозрастающая функция, то
(8(/-1> р _ ei/-*> р) о- (Lj,-,) ^ J2S о" (L,) d (i")
и, следовательно,
2;+Г_да o-(V0 (би+1)р -бУР) <б2р 5Г
Итак,
Остается отметить, что 82рA—е) = 1.
Доказательство второй части теоремы совпадает с доказатель-
доказательством необходимости в теореме 2.3.7. ¦
2.3.9. Мультипликативное неравенство, содержащее нормы
в L9(Q, ц) и Lr{Q, v) (случай p^l). Следующее утверждение
дает необходимое и достаточное условие справедливости мульти-
мультипликативного неравенства
\ и \iq,в. и) ^ С {\а [Ф (х, Vu)Y йх}й | и ^г\а,% A)
при р^\ (ср. g теоремой 2.1.1).

2.3,9. Мультипликативное неравенство (случай рЗ=1) 113
Теорема. Пусть g и G — любые допустимые множества, такие,
что g czG. Тогда:
1) если существует такая постоянная а, что
[li(&\Р1я ^а[(р, Ф)-сар (g, G)f [v(G)f^^, B)
то для всех функций ae^(Q) справедливо неравенство A), где
С<са, 1Дг^A'-8)/г + 6/р, 0^6^ 1, г, q>0;
2) если для всех функций «?#B) верно A), где 0<:8<< 1,
г, <7>0, то для всех допустимых множеств g и G, таких, что
g czCi, верно неравенство B), где а^С.
Доказательство. 1) В силу теоремы 1.2.3 и неравен-
неравенства A.3.3/1)
. 1 и U, (й. ц> = [JT I* (^)d &)Г <> VVV [To
где y = pr[p A — б) + бг]-1, у^7- Следовательно,
где gy = LtJ и {iy} — последовательность уровней, определенная
в доказательстве первой части теоремы 2.3.5. Отсюда
1 и fLg (й. ц, ^ со. [ 2+J°_да 2-"/ (р, Ф)-сар (г/
х[2ГГ_ет2-М^+1)Гв)р/'.
Как было показано в доказательстве теоремы 2.3.5,
Вторая сумма в C) очевидно не превосходит с|и|1г<а. v>
2) Пусть g и G—допустимые множества и ^ с G. Подставим
в A) любую функцию и е ty (g, G). Тогда
[ц fe)]"/« «? C{JU [Ф (x, VH)]"dx}e [v (G)]'1-8»^,
что и дает B). ¦
§ 2.4. НЕПРЕРЫВНОСТЬ И КОМПАКТНОСТЬ ОПЕРАТОРОВ ВЛОЖЕНИЯ
Ър (Q) И Wlp (Q) В ПРОСТРАНСТВО ОРЛИЧА
Пусть Lp (Q) и Wp (Q) — пополнения 2& (Q) по нормам |! Vtu \\l (q>
В этом параграфе мы приведем некоторые следствия теоремы
2.3.2, содержащие необходимые и достаточные условия ограниченно-
ограниченности и компактности операторов вложения пространств Lp(Q) и Wj, (Q)
в пространство XpM(Q, ц) с нормой \\и \p(JePM(a, д>, где ц — мера

114 . §.2.4. Непрерывность и компактность операторов вложения...
в Q. Эти результаты в случае р = 2, M(t)=*\t\ будут использо-
использованы в § 2.5 при исследовании задачи Дирихле для оператора
Шредингера.
2.4.1. Условия ограниченности операторов вложения. Произ-
Произвольному компакту F cz Q поставим в соответствие число
I 0, если р-сар(/\ Q)=0.
Если р = 2, М (t) = | /1, будем использовать обозначение л (F, Q)
вместо np,M(F, Q).
Частным случаем теоремы 2.3.2 является следующее утверждение.
Теорема 1.1) Если для любого компакта F a Q справедливо нера-
неравенство яр>м(F, ЭД^Р. то для всех ке#(й)
II иКЬм со. м) =^CJQ | V« |Pdx, A)
где
р(р )р
2) Если для всех «Ef (Q) справедливо неравенство A), то
лр. м (F, Q)^C для всех компактов F a Q.
. С помощью этого утверждения доказывается следующее утвер-
утверждение.
Теорема 2. Неравенство
llHl'UjMCQ.u^CSoflVHl' + lHOdc, B)
где р<п, имеет место для всех и е^ (Q) в том и только в том
случае, если при некотором б>0
supK^F, ЭД: FczQ, diara (F) <s? 6} < со. C)
(Здесь, «ик обычно, F —компактное подмножество Q.)
Доказательство. Достаточность. Построим в R" куби-
кубическую решетку с длиной ребра сб, где с — достаточно малое поло-
положительное число, зависящее лишь от п. Каждый куб Q,- решетки
заключим в концентрический куб 2Q, с вдвое большим ребром,
грани которого параллельны граням Q,-. Через и обозначим про-
произвольную функцию из ?Я (Q) и через т)(- — бесконечно дифферен-
дифференцируемую в R" функцию, равную единице в Qt и нулю вне 2Qh
I Vt); I < Со/б.
В силу теоремы 1
X$«jnQ|V(H4i)|M*<csup{np.«(f, Q):F<=Q, diara (F) ^6}х

2.4.2. Критерии компактности . 115
Суммируя по i и замечая, что
II И \Р\ХМ (О. д><| Тц\Щ1\Р\хМ (П. д) < Sd I «"III"!** (П. Д»
получаем требуемое неравенство
11 и ip Ьем (о. м «? с sup {яр, Л (F, Q): F с Q, diam (F) < 6} х
1р)<**- D)
Необходимость. Пусть F — любой компакт в Q, диаметр
которого не превосходит б<1. Заключим F в два открытых кон-
концентрических шара В и 2В с радиусами б и 26 соответственно.
Подставим в B) произвольную функцию ue$(f, 2Bf\Q). Так
как и — 1 на f, то в силу B)
M (о. ц> <
Следовательно, ц (F) Р-1 A /ц (F)) < С A + сб") ^в I v" lp dx-
Минимизируя последний интеграл на множестве ty(F, 2Bf\Q),
получаем
С A + с8р) р-сар (F, 2B П Q) •
Остается отметить, что так как р<п, то справедлива оценка
р-сар (F, 2В П Q) < ср-сар (F, Q) E)
с константой с, зависящей только от /г и р.
Действительно, если и е 9f (f, Q) и т) е ^ BВ), tj = 1 на В,
to Htie9t(F, ЙП2В) и, следовательно,
р-сар (F, Q П 2В) < JQn?B | V (mj) |" Ле < с (J2fl | Vh |
Отсюда и из теоремы Соболева получаем E). 51
2.4.2. Критерии компактности. Приведем две теоремы о необ-
необходимых и достаточных условиях компактности операторов вло-
вложения Ьр (Q) и Wl (Q) в J?PtiM(Q, I*)-
Теорема 1. Условия
lim sup {л„ м (F, Q): FczQ, diam (F) -s? 6} = 0, A)
в—о
lim sup {лр, м (F, Q): f с= Й \ Вр} == 0 B)
р-»оо
(з5есь Вр — {х: \х\<.р}) необходимы и достаточны для того, чтобы
любое ограниченное в Lp (Q) (р < п) множество функций из §& (Q)
было относительно компактным в пространстве ^6PtM{Qt ji).

116 § 2.4. Непрерывность и компактность операторов вложения...
Теорема 2. Условия A) и
limsup{np>jM(/\ Q): Fau\Bp, diam (/=")< 1} = 0 C)
p-*t»
необходимы и достаточны для того, чтобы любое ограниченное '
в Wp(Q) (p<n) множество функций из & (Q) было относительно
компактным в пространстве Jfcp,M(Q, ji).
Доказательству теорем 1 и 2 предпошлем лемму.
Лемма. Пусть ц(р) —сужение ц на шар Вр. Для того чтобы
произвольное ограниченное в LP(Q) или WXP(Q) (p<.n) множество
было относительно компактным в пространстве ?PwM(Q, ц1Р)) при
всех р>0, необходимо и достаточно, чтобы при любом р>0 *
lim sup {л„ м (F, Q): FczBp[] Q, diam (F) < 6} = 0. D)
Доказательство. Достаточность. Так как р-емкость
не возрастает с расширением й, то для любого компакта F а Вр П
ПО nPiM(F, Bpf\Q)^np,M(F, Q). Из этого неравенства и усло-
условия D) получаем, что при всех р>0
limsup{npjM(F, ВрПЙ): Fc:BpnQ, diam (F)^ 6} =0.
«->о
Отсюда и из неравенства B.4.1/4), в котором роль Q играет
В%р П й, получаем, что при любом е > 0 для всех и е & (В2р П &)
Заменим здесь функцию и функцией иц, где т) — срезающая функ-
функция, равная единице на ВР и нулю вне В2р. Тогда
(в) 5ВарП0 (« |рdx. E)
11" 1Р 1^м (о. и* ар
Остается отметить, что при р< я всякое множество, ограниченное
в 1Р(Й) (и тем более в Wlp(Q)), компактно в LP(BP[] Q) при любом
р>0. Достаточность условия C) доказана.
Необходимость. Пусть F a Bp f] Q — компакт, диаметр
которого не превосходит б, б<1. Заключим F в концентрические
шары В и 25 с радиусами б и 26 соответственно. Через и обо-
обозначим произвольную функцию из 5? (F, 2B f\Q). Так как любое
ограниченное в $/p(Q) множество функций из & (Q) относительно
компактно в Хр>м{п, ц(р)), то для всех ие^(й)
(Хв|о 1Р \*м (в. ц'Р') < 8 (б) So (I Vy iР + Iv IP dx>
где Хв — характеристическая функция В и е (8)->-0 при 6-^-0*.
* Доказательство этого неравенства легко можно получить, если заметить,
что из теоремы 2.4.2/2, примененной к мере ц'Р', следует, что ц'Р' BВ) -+-0 при
60

2.4.2. Критерии компактности 117
В силу того что функция и равна нулю вне 25 f\ Q, верно нера-
неравенство $а | и \р dx «^ сбр $Q | V« |p dx. Следовательно,
A + (*») е (б) $2
Минимизируя последний интеграл на ^(F, 25f|Q) и используя
B.4 1/5), получаем неравенство пр-М(F, ?2) ^ A +с8р)е(б), а вместе
с ним и необходимость условия D). ¦
Доказательство теоремы 1. Достаточность. Пусть
?е=С°°(/?»), 0<?<1, IVJKcfr1, S = Ob окрестности Вр/2, ^1
вне fip очевидно, что
< 11" 1Р 1^'д, (о. ц'Р') +11 Е« 1Р 1^м (о. ц)- F>
В силу первой части теоремы 2.4.1/1, примененной к множеству
п\Вр/2, условия B) и неравенства nPtM(F, ?2\Вр/2)<Яр.м(Л Q)
по любому е можно найти такое число р>0, что
V(&i)|L @). Так как | V?|<Ф-*<с jл:I и »|л:{-1 и\\L
Q ц)
@)
&)|L @) Тк к | ?|<Ф<с jI |{ \\Lo@) ^
||Lp@), то || | Ъи \р \%рм (Ор д) <се | Vu \Lp @). Отсюда и из F)
Lp@), || | Ъ \ \%м (Ор д) <| \Lp (
получаем
1 III «I" 11^ (О. и) ^ III «1Р11^ (a. u«p.) +^е|| V« 1^(Q). G)
Очевидно, что из A) следует D). Поэтому лемма гарантирует ком-
компактность в <%P-M(Q, (i(p)) любого ограниченного в Ь1р(п) множе-
множества функций из & (Q). Это обстоятельство вместе с G) и дока-
доказывает первую часть теоремы.
Необходимость. Пусть F — компакт в Q, диаметр которого
не превосходит б, б<1. Рассуждая точно так же, как и при
доказательстве необходимости в лемме (следует только заменить
ц.(р) на (i), приходим к неравенству np,M(F, Q)^(l +сбр)е(б),
а значит и к условию A)^
Пусть теперь F с Q\BP. Из компактности в %р.м(Q, (i) любого
ограниченного в Lp (Q) множества функций из & (Q) следует
оценка
где ер-»-0 при р->-со и и — любая функция из ^(Q). В частно-
частности, последнее неравенство верно для любой функции ие$(/\ Q),
и поэтому
Минимизируя правую часть на множестве ф (F, п), приходим
к B). ¦

118 § 2.4. Непрерывность и компактность операторов вложения...
Доказательство теоремы 2. Будем использов ть обо-
обозначения, введенные в доказательстве теоремы 1.
Достаточность. Из B.4.1/4), где 6 = 1 и множество й
заменено на Q\Bp/i, и условия C) следует, что для любого е> О
найдется такое р > 0, что
11 Си \р WM (о. ц, *? е (\ V (Си) Цдй) +1 Ъи \Lp @)).
Отсюда и из F) получаем
Доказательство заканчивается дословно так же, как и доказатель-
доказательство достаточности в предыдущей теореме.
Необходимость. Условие A) выводится так же, как и
в доказательстве необходимости в теореме 2.4.2/1.
Пусть F czQ\Bp, м>8, сНаггЦ/7)^ 1. Из компактности
в XpM(Q, (i) любого ограниченного в Wp(Q) множества функций
из §& (Q) следует оценка
где ер-»-0 при р—>-со и и — любая функция из J?(Q). Заключим F
в концентрические шары В- и 25 с радиусами 1 и 2 и обозначим
через и любую функцию из ^ (F, 2В [\ Q). Рассуждая так же,
как и при доказательстве необходимости в лемме 2.4.2, приходим
к оценке np^i(F> Q)^(l +с)ер, которая равносильна условию C). Ш
Замечание. Сравним A) и D) Очевидно, что D) следует
из A). Обратное утверждение, как показывает следующий пример,
неверно.
Рассмотрим последовательность единичных шаров B'v)
(v = l, 2, ...), удаленных один от другого на расстояние, превос-
превосходящее 1. Пусть й = /?"и ii (F) = JF p (х) dx, где
p-2+v при jee=B(v\
Здесь через р обозначено расстояние от центра ?<v) до точки х.
Покажем, что определенная таким образом мера ц удовлетво-
удовлетворяет условию D), где /> = 2, М (t) = t. Заметим прежде всего, что
для любого компакта F a B(v)
где

2.5.1. Предварительные сведения и обозначения 119
Для оценки емкости cap(F) (т. е. 2-cap(F)) применим изопе-
риметрическое неравенство B.2.3/12):
со;1 (л - 2)-1 cap (F) ^ [(л/<в„) тп (F)]<«-2>/« = [r
Теперь для n(F, Rn) получаем оценку
я (F, Rn) < г (f)vv/(n - 2) (л - 2 + 1 /v),
откуда и следует D).
Если F - шар {г. р < б}, то л (F, R") = б^Дл - 2) (п - 2+1 /v).
Следовательно,
sup{n(F, #я): FczR",
=г lim (б^Дл - 2) (п - 2 + 1 /v)) = {п - 2)-а
v-»oo
и условие A) не выполнено.
§ 2.5. ПРИЛОЖЕНИЯ К СПЕКТРАЛЬНОЙ ТЕОРИИ
МНОГОМЕРНОГО ОПЕРАТОРА ШРЕДИНГЕРА
В этом параграфе мы покажем, как развитая в § 2.4 методика
и некоторые результаты из § 2.4 могут быть применены к спек-
трал! ной теории операторов Шредингера.
2.5.1. Предварительные сведения и обозначения. Начнем с не-
нескольких определений теории квадратичных форм в гильбертовом
пространстве Н. Пусть L — плотное линейное подмножество про-
пространства Н и S[u, и) — квадратичная форма, определенная'на L.
Если существует такая константа у, что для всех и el справед-
справедливо неравенство
S[u, u]^y\tfl%, A)
то форма 5 называется полуограниченной снизу. Наибольшую
постоянную7 в A) обозначим через y(S). Если y(S)>0, то 5 назы^
вается положительно определенной. Для такой формы множество L
является предгильбертовым пространством со скалярным произ-
произведением 5[и, v]. В том случае, когда L — гильбертово простран-
пространство, форма 5 называется замкнутой. Если сходимость в себе
в метрике E [и, ы]I/2 и к нулю в Н влечет сходимость к нулю
в метрике E [и, ы]I/2, то говорят, что форма допускает чамыка-
ние в Н. Пополняя L и распространяя форму 5 на пополнение I по
непрерывности, получаем замыкание 5 формы S.
Допустим теперь, что форма S[u, и] только полуограничена
снизу, не предполагая, что y(S)>0. Тогда при любом c> — y(S)
форма
S[u, и] + с[и, и] B)

120 § 2.5. Приложения к спектральной теории оператора Шредингера
положительно определена. По определению форма 5 допускает
замыкание, если допускает замыкание форма B) при некотором,
а значит, и при любом о — y(S). Замыканием S формы 5 назы-
называется форма S-\-cE — cE.
Как известно и легко проверяется, полуограниченная форма,
допускающая замыкание, порождает единственный самосопряжен-
самосопряженный оператор 5, для которого (Su, u) = S[u, и] для всех «eL.
Пусть Q — открытое подмножество пространства Rn, n > 2, и
h — положительное число. Будем рассматривать заданную на ?& (Q)
квадратичную форму Sh[u, u\—h JQ | Vufdx — §Q \u\2d\i(x).
Будем изучать оператор Sk, порожденный формой Sk при усло-
условии, что она допускает замыкание. Если мера \i абсолютно не-
непрерывна относительно меры Лебега та и производная р = d(i/dmn
локально квадратично суммируема, то оператор Sh является рас-
расширением по Фридрихсу оператора Шредингера — АД— р(х).
В этом параграфе, говоря о емкости, будем иметь в виду
2-емкость и использовать обозначение cap.
Прежде чем приступить к исследованию оператора Sh, сфор-
сформулируем две леммы об оценках емкости, которые будут несколько
раз использованы в дальнейшем. Доказательства этих лемм при-
приведены в [65].
Лемма 1. Пусть F — компакт в Q П В г- Тогда при R>r
/ (l + 2r(/? -r)-4og (Re1"/r)) cap (F,Q) при л = 3,
{ A+2(„-3)-М#-г)-1) прип>3.
Лемма 2. Пусть F —компакт в Q\BR. Тогда при r<R
cap (F, Q\Sr)<A + (n -2)-1 r (R -r)-i).
Все факты об операторе Sh будут формулироваться в терми-
терминах функции
I Ji (F)/cap (F, Q), если cap (F, Q) > 0,
14 ' ' \ 0, если cap(F, Q) = 0,
которая получается из введенной в начале § 2.4 функции пр м (F. Q)
при M(t) = ]t\, p = 2.
2.5.2. Положительность формы Si[u, и]. Следующее утвержде-
утверждение есть частный случай теоремы 2.4.1/1.
Теорема. 1) Если для любого компакта F a Q
n(F,Q)*?p, A)
то для всех «ef (Q) справедливо неравенство
\Q\u\*n(dx)^C\Q\Vu\*dx, B)
где

2.5.3. Полуограниченность оператора Шредингера 121
2) Если неравенство B) верно для всех «ef (fi), то для
любого компакта F a Q
n(f,Q)<C. C)
Следствие. Если sup л (F, Q)< 1 /4, то форма Sr[и, и] поло-
F(=Q
жительна, допускает замыкание в L2 (Q) и, следовательно, поро-
порождает самосопряженный положительный оператор Sa б L2 (Q).
Доказательство. Положительность Sx[и, и] следует из тео-
теоремы. Более того, из неравенства B) следует, что
Sx [и, и] 3* [1 - 4"slip я (F, Q)] $Q | Vu |« dx. D)
FcQ
Пусть последовательность {«v}v>b uvef (Q), сходится в себе
в метрике (Sx[«, и]I/2 к нулю в L2(Q). Тогда в силу D) {«v}v>i
сходится к нулю в Lj(Q) и в себе в /,г(?2, (а)- ^ак как
я (F, Q) JQ | V«v |2 dx,
то «v->-0 в L2(Q, (i). Итак, 5[«v, «v]-»-0 и, значит, форма Si [и, ы]
допускает замыкание в L,(Q). ¦
Отметим, что близкие между собой достаточное и необходимое
условия справедливости неравенства JQ | и |2 da «S С JQ | V« |2 dx,
«ef (Q), где a — произвольный заряд в Q, содержатся в тео-
теореме 2.3.8 (при Ф(х, у) = \у\, р = 2). Эти условия совпадают,
если а^=0, и превращаются в условие sup {n(F, Q): F aQ} <oo,
следующее из теоремы.
2.5.3. Полуограниченность оператора Шредингера.
Теорема. 1) Если
lim sup {n(F, Q): FaQ, diam(F)^8}<l/4, A)
6-»0
то форма Si [и, и] полу ограничена снизу в L2 (?2; и допускает за-
замыкание в L2(Q).
2) Если форма Si [ы, ы] полуограничена снизу в L2 (Q), то
lim sup {я (F, Q): F с Q, diam (F) ^ 6} ^ 1. B)
а-о
Доказательство. 1) Если П — достаточно большое целое
число, то существует такое б>0, что>
sup {я (F, Q): FcrQ, diam(f)<6}^(l/4)((II-1)/(П + 2))«. C)
Построим в R" кубическую решетку с ребром Я = 8/A1+2) ]/Vi.
Каждый куб Q,- решетки заключим в концентрические с ним кубы
Qiv и С?*', грани которых параллельны граням Q*. Пусть длины
ребер кубов Qi" и Q|-2' равны соответственно (Н-\-1)Н и (П4-2)Я.

122 § 2.5. Приложения к спектральной теории оператора Шредингера
Так как diam (Qf) = б, то для любого компакта F a Qf f| Q
я (F, Q П Qia>) < я (F, Q) ^ A/4) ((П - 1)/(П + 2))". D)
Обозначим через и произвольную функцию из & (Q) и через
т]— бесконечно дифференцируемую в R" функцию, равную единице
в Q\1' и нулю сне Q'f. В силу условия D) и теоремы 2.5.2 имеет
место неравенство
lQ[ 2 ф < ((П - 1)/(П + 2))» lQf | V (их\) |2 dx.
Отсюда следует
\qT | и j2 ф < ((П - 1)/(П + 2))» JQ,,, (| V« I2 + (Ci/Я2)! и j») djc.
Суммируя по i и отмечая, что кратность покрытия {Qf} не пре-
превосходит (П + 2)", а кратность покрытия {Q}1'} не меньше чем П",
получаем оценку
$Q | и |2 dji ^ A - П-«) 5Q (| V« |2 + с (ГР/62)! и |2) dx. E)
Итак, форма Si [и, ы] полуограничена. Более того, если
К — достаточно большая постоянная, то 5j [и, и] + К^а\ и \2dx^
^e^a\Vu\2dx, e>0. Отсюда, рассуждая так же, как и при до-
доказательстве следствия 2.5.2, легко вывести, что форма 5г[ы, и]
допускает замыкание в L2(Q).
2) Пусть F — произвольный компакт в Q, диаметр которого
не превосходит б < 1. Заключим F в шар В с радиусом б и по-
построим концентрический шар В' с радиусом ]/б.
Через и обозначим произвольную функцию из Ч? (F, В' П &)¦
В силу полуограниченности формы Si[u, и] существует такая
постоянная К, что \fi,u2d\i^\B,Du)idx-\-K\B,u2dx. Правая часть
последнего неравенства очевидно не превосходит A + /СА,-гб) х
х 5в'п a (VuJ^A:> гДе ^ —первое собственное число задачи Дирихле
для оператора Лапласа в единичном шаре.
Минимизируя интеграл Дирихле и принимая во внимание,
что и = 1 на F, получаем
It (F) < A + КХ-Ч) cap (F, В' П Q).
В силу леммы 2.5.1 cap (F, В' П&)«?A +o(l))cap(F, Q), где
оA)->0 при б-»-0. Поэтому sup{n(/\ Q): fcfi, сИат^^б}^
^1+оA). Остается перейти к пределу при б-*- + 0,- В
Формулируемые ниже два утверждения являются очевидными
следствиями теоремы. (Второе из них содержится как частный
случай в теореме 2.4.1/2.)

2.5.4. Дискретность отрицательного спектра 123
Следствие 1. Условие
lim sup {л (F, Q): Fc:Q, diam^^ei^O F)
6-»0
необходимо и достаточно для полуограниченности в L2 (Q) формы
Sh[u, и] при всех Л>0.
Следствие 2. Неравенство
где и— любая функция из &(Q) и С — постоянная, не зависящая
от и, верно в том и только в том случае, если при некотором
6>0
^ sup{jt(F, Q): Fc:Q, diam (F) «s 8} < оо. G)
Приведем пример, иллюстрирующий применение теоремы 2.5.2
и теоремы этого пункта к оператору Шредингера, порожденному
сингулярной мерой.
Пример. Пусть М — плоское борелевское подмножество /?*.
Определим на любом компакте FczR* меру ix.(F) = mc(F f\M).
(С точки зрения теории обобщенных функций в этом случае по-
потенциал с точностью до знака равен 8-функции, сосредоточенной
на плоском множестве М.) Тогда
л (F, Я3) = т2 (F П М)/сар (F) *? пц (F П М)/сар (F П М).
Так как cap (F П М) =г 8л-1/» [щ2 (F П М)?'2 (см. пример 2.3.3), то
n(F, ^?8)^8-1я^/2[mг(Fn^f)]1/i! (8)
В силу теоремы 2.5.2 достаточным условием положительности
формы Si [и, и] = ^R, | Vu |2 dx — \M | и |2 т2 (dx) является неравенство
m2 (M) «s; 4л-1. Используя следствие, из оценки (8) получаем, что
форма Sh[u, и] полуограничена и допускает замыкание в L2(/?3)
при всех Л>0, каково бы «и было плоское множество М.
2.5.4. Дискретность отрицательного спектра. Пусть р—фикси-
р—фиксированное положительное число ц(р)— сужение меры ц на Вр =
= {х: \х\<.р} и ц(р) = ц — ^*р). Для того чтобы исключить влия-
влияние особенностей меры и. расположенных на конечном расстоя-
расстоянии, будем иногда предполагать, что любое ограниченное в W\ (Q)
(или в LJ(Q)) подмножество пространства ^(Q) компактно в L2(n(p)).
Как показано в лемме 2.4.2, это условие эквивалентно равенству
lim sup \л (F, Q): FaBt{]Q, diainf^6}=0 A)
8-»0
при любом р>0.
Сформулируем два известных утверждения, которые нам пона-
понадобятся в дальнейшем.

!24 § 2.5. Приложения к спектральной теории оператора Шредингера
Лемма 1 [181]. Пусть А [и, и\—замкнутая квадратичная форма
в гильбертовом пространстве Н с положительной нижней гранью
у (А) и областью определения &[А], а форма В [и, и] вещественна
и вполне непрерывна в &[А]. Тогда форма А —В полуограничена
снизу в Н, замкнута на &> [А] и левее у (А) ее спектр дискретен.
Лемма 2 [20]. Для бесконечности отрицательного спектра само-
сопрялсенного оператора А необходимо и достаточно существование
бесконечномерного линейного многообразия, на котором (Аи, и)-<0.
Перейдем теперь к изучению условий дискретности отрицатель-
отрицательного спектра оператора Шредингера.
Теорема. Пусть выполнено условие A). Тогда:
1) если
lira limsup{n(F, Q): FaQ\Bp, diam(F)<6} < 1/4, B)
8-»<x> p-»oo
то форма Si [и, и] полуограничена снизу, допускает замыкание
в L2 (Q) и отрицательный спектр оператора Si дискретен;
2) Если форма Si [и, и] полуограничена снизу, допускает замы-
замыкание в L2 (Q) и отрицательный спектр оператора Si дискретен,
то
lim lim sup{n(F, Q): Fc=Q\5p, diam (F) =s? 6} s? 1. C)
6—*co p —*oo
Доказательство. 1) Покажем, что форма Si [и, и] полу-
полуограничена -снизу, допускает замыкание в L2 (Q) и при любом
положительном у спектр оператора Si + 2y/ левее у дискретен.
Отсюда будет следовать первая часть теоремы. Из B) вытекает,
что существует такое достаточно большое целое П, что при всех
б>0
lim sup{jt(F, Q): F czQ\Bp, diam(F)^8}<(V4)((n -2)/(П + 2))«.
p-*oo
Для каждого б найдется столь большое р = р(б), что выполняется
неравенство
sup{jt(F,Q): FczQ\Bp, diam (F) ^ 8} < (г/4) ((П-
Отсюда
Если здесь меру ц(р1 заменить мерой ц, то мы получим условие
B.5.3/3), использованное в первой части теоремы 2.5.8 для дока-
доказательства неравенства B.5.3/5). Перепишем это неравенство, заме-
заменив \х на fi(p):
$Q | и |» ф(р) < A - П-») Jfl (| Vu |» + c (Ш/ба) I u f) dx. D)

2.5.4. Дискретность отрицательного спектра 125
Обозначив через у произвольное положительное число, найдем
6>0 из равенства П2A — П-")б-2 = у и для этого 6 определим
соответствующее р. Тогда
$Q | и |2 ф(р) ^ A - П-») \Q | Vu |2 dx+у $Q | и |2 dx.
Следовательно, форма
мажорирует форму
Этот факт позволяет утверждать, что форма А [и, и] имеет поло-
положительную нижнюю грань у и допускает замыкание в La (Q).
Замыкание А [и, и] обозначим через А [и, и]. Очевидно, что область
определения формы А [и, и] совпадает с Wj(Q).
В силу A) и следствия 2.5.3/2 форма В[и, и] = $0 |и|2ф,<Р>
непрерывна в ^(Q) и допускает замыкание В[и, и] в ^(Q).
По лемме 2.4.2 форма В [и, и] вполне непрерывна в ^(Q).
Остается применить лемму 1 к формам А[и, и] и В [и, и].
2) Допустим, что при некотором б
limsup{n(F, Q): FaQ\Bp, diam (F) is?6} > I +a, a>0.
p-*oo
Тогда существует такая уходящая в бесконечность последователь-
последовательность компактов Fv, diam (Fv) ^ 6, что
V (Fy) >(l+o)cap (FV) Q). E)
Заключим Fv в шар Bev) с радиусом б. Через BpV) обозначим
концентрический шар с достаточно большим радиусом р. Вели-
Величина р будет уточнена в дальнейшем. Очевидно, что, не теряя
общности, можно считать шары В^ непересекающимися.
По лемме 2.5.2
cap (Fv, B<>v) П Й) ^ (I + e (p)) cap (Fv, Q),
где е(р)->-0 при p-voo. Отсюда и из E) получаем
li(Fv)>Kcap(Fv, B™(]Q), F)
где введено обозначение /C = (l +a)/(l Ц-е(р)).
Пусть число р выбрано так, чтобы постоянная К была больше
единицы. Из неравенства F) следует, что существует такая функ-
функция uv класса $(FV, Bj,v)n«), что JB(v)«v^>^^(v) (V«vJdx.
р р

126 § 2.5. Приложения к спектральной теории оператора Шредингера
Отсюда Si[uv, «v]< — (К— l)(Vp2) Iq u'vdx, где к — первое собст-
собственное число задачи Дирихле для оператора Лапласа в единичном
шаре.
Теперь из леммы 2 следует, что левее —(К — 1)^р~2 спектр
оператора Sa имеет точку сгущения. Мы пришли к противоречию.
2.5.5. Дискретность отрицательного спектра оператора 5Л при
всех п. Следующее утверждение содержит одновременно необхо-
необходимое и достаточное условие дискретности отрицательного спектра
оператора Sh при всех Л>0. Отметим, что если в теореме 2,5.4
мы дополнительно предполагали, что мера ц не имеет сильных
особенностей на конечном расстоянии (условие B.5.1/3)), то^ соот-
соответствующий критерий для всего семейства операторов {S/,}ft>o
установлен для любой неотрицательной меры.
Следствие. Условия
limsup{n(F, Q): Fc=Q, diam (F)^6} = 0, A)
8-»0
limsup{n(F, Q): FaQ\Bp, diam(F)sS 1} =0 B)
p-*oo
необходимы и достаточны для полуограниченности формы Sh [и, и]
в Lt (Q) и дискретности отрицательного спектра оператора Sft
при всех h > 0 *.
Доказательство. Достаточность. Введем обозначение:
/(б)= limsup{n(F, Q): FaQ\Bp, diam(F)<6}.
р-юо
Прежде всего отметим, что если выполнено условие A), то выпол-
выполнено и B.5.4/1). Поэтому согласно теореме 2.5.4 условие /(8)==0,
соединенное с A), достаточно для полуограниченности формы
Sh[u, и] и дискретности отрицательного спектра оператора 5Л
при всех Л>0.
Для доказательства достаточности условий /A) = 0 и A) пред-
представим произвольный компакт F, диаметр которого не превосхо-
превосходит б', б'>6, в виде И Fv, где diam(Fv)<8 и постоянная N
v=l
зависит только от б'/S и п. Так как cap (F, Q) — неубывающая
функция F, то
ц (F)/cap (F, Q) <: ^=, ц (Fv)/cap (Fv, Q).
Отсюда и из монотонности / (б) непосредственнохследуют неравен-
неравенства /F)^/F')=^ N1 (б), которые доказывают эквивалентность
условий /(8)г=0 и /A) = 0.
*) Отметим, что из полуограниченности формы S/, [и, и] при всех h > О
следует, что она допускает замыкание в Ц (Q) при всех h > 0.

2.5.5. Дискретность отрицательного спектра при всех А 127
Необходимость. Если форма 5Л[и, и] при всех Л>0
полуограничена, то в силу следствия 2.5.3/1 выполнено условие A),
а вместе с ним и B.5.4/1). Но при последнем условии из теоре-
теоремы 2.5.4 следует необходимость условия / F) г= О, что эквивалентно
/(i)o m
§ 2.6. ОБ ОДНОЙ ВЫРОЖДАЮЩЕЙСЯ КВАДРАТИЧНОЙ ФОРМЕ
В предыдущих параграфах этой главы было показано, что
довольно общие неравенства, содержащие интеграл ?а[Ф(х, Vu)]pdx,
равносильны изопериметрическим неравенствам между (р, Ф)-
емкостью и мерами. Хотя такие критерии и представляют прин
ципиальный интерес, следует отметить, что их проверка в конк-
конкретных случаях часто оказывается трудной. Даже для довольно
простых квадратичных форм [Ф (х, |)]2 = 2" / =, Щ](*) Ы/ оценки
соответствующих емкостей через меры неизвестны.
Тем самым общие необходимые и достаточные условия, полу-
полученные в настоящей главе, не умаляют значения прямых, не
использующих емкости методов исследования интегральных нера-
неравенств. В настоящем пункте мы иллюстрируем это на примере
квадратичной формы [Ф (х, ?)]2 = (| хп | +1 х' |2) Ц +1?' \\ где х' =
= (хи ..., хп-г), I'= A[, ..., 1п-\). Согласно следствию 2.3.3
неравенство
\ \, Vu)fdx A)
имеет место для всех uef (К") в том и только в том случае,
если mesn-i({xeg, х„ = 0})*?сB, O)-cap(g) для любого допу-
допустимого множества g. Непосредственный вывод последнего изопе
риметрического неравенства автору неизвестен, однако оценка A)
верна и будет сейчас доказана,
Теорема 1. Для всех u^&(Rn) справедливо неравенство (!),
где [Ф (х, Vu)]2 = (\ хп | + ! *' |2) (ди/дхпJ-\- ^^~\(du/dxtJ.
Доказательство. Обозначим интеграл в правой части
неравенства A) через Q(u). Для любого б из интервала @, 1/2)
имеем
^Д dx<:
хп
\ B)
Для того чтобы оценить последний интеграл, воспользуемся сле-
следующим известным обобщением неравенства Харди и Литтлвуда:

128 § 2.6. Об одной вырождающейся квадратичной форме
(Доказательство этой оценки можно найти в работе П. И. Лизор-
кина [56] или получить как следствие теоремы 8.3.) Так как
свертке с ядром | х' |в+1-я в R"-1 соответствует умножение на | ?' |-*
преобразования Фурье, то неравенство C) можно переписать в виде
где (—ДХ')б/а — Дробная степень оператора Лапласа. Теперь нахо-
находим, что правая часть в B) превосходит
с(Q(и) + lRn\xn Iе-1 [(- Д,0в/г"]гих). D)
Из почти очевидной оценки J™ g2t6-1dt^c(^> {g'ftdt-\-
\™} следует неравенство
16' \26 \R1! (F, -vu) (V, х„) Р | х„ Г1 dxn <
(\R11 (Fx.^v (ди/дхп)) (!', хп) |« | хп | dxn +11' |г X
x\Rl\(Fx^ru)(l\ xn)\'dxn),
где /v_>|' — преобразование Фурье в R"-1. Поэтому второй инте-
интеграл в D) не больше чем с$ п (\хп \(du/dxnJ + (Vx.uJ)dx. Ш
Следующее утверждение показывает точность теоремы 1.
Теорема 2. Пространство сужений на R"-1 = {х е Rn: хп = 0}
функций из множества |ы е & (/?"): Q (") + [«IL (л«) < 1} не
является относительно компактным в L2 {В[п ~1)), где B<ip~1) =
= {^'e/?"-1: \x'\<p}.
Доказательство. Обозначим через <р функцию из С™(В"~1),
такую, что ф {у) = ф (— у), | ф fpL, (Ля-1) = 1, и определим последо-
последовательность {фт}"=1 равенством фт(#) = '"<я~1)/2ф {ту)- Так как
эта последовательность нормирована и слабо сходится в L2(Bi""~n)
к нулю, то из нее нельзя выделить последовательность, сходя-
сходящуюся в U(B\n~X)).
Введем еще последовательность {ут}"= ] функций в Rn:
vm {х) = F^x. exp {— <tj>2 | xn |} Fx. ^ ц<рт,
где Ti e R"-1 и <ti> = (| ц |2 + II'2.
Рассмотрим квадратичную форму
^ + | VX,U |2 +1 U I*] dX.
Очевидно, что
Т(и)-BлI-»\Rn(\xn\\dFu/dt|2 + |(д/dt) V^и|2 + <n>«|Fu|2) drjd^.

§ 2.7. О пополнении в метрике обобщенного интеграла Дирихле 129
Дифференцируя функцию Fvm, из последнего равенства получаем,
что Т (vm) не превосходит
I X* , >
2] ехр (-2 <rjJ1 хп |) йц dxn.
Отсюда находим
Т Ш ^ с ^ «г]>2 | VFФт |2 +1 Лрт |2) dr\ =
= Cl H'iZ ! I ЗДт 1^' (Л»-1) +1 Фт III, (ля-1) ^ COnst.
Пусть ар(=С™(в?~1)), г|з=1 на В\п~1). Очевидно, что
(Pmty) \яп-1 — Фт и Г (отг|з) «S const. Последовательность
(Ут1ф)I/2С=| и Доставляет требуемый контрпример. ¦
§ 2.7. О ПОПОЛНЕНИИ В МЕТРИКЕ ОБОБЩЕННОГО
ИНТЕГРАЛА ДИРИХЛЕ
Расмсотрим квадратичную форму
S[u, u} = \Rn(aif (х) (ди/дхй (ди/dxj) + u2) dx,
где \aij(x)\1 J7=x —равномерно положительно определенная матрица,
элементы которой —вещественные гладкие функции. По паре оди
наковых индексов производится суммирование от 1 до п.
Пополнение пространства Со'1 по норме (S [и, и]I/2 обозначим
через Н (S). Введем еще пространство Н (S), полученное пополне-
пополнением множества функций из С0-1 с конечным интегралом S[u, и)
по норме (S[u, и]I'2.
Если элементы матрицы |%|" /=1— ограниченные функции, то
ft (S) — WI и Н (S) = Wi и оба эти пространства очевидно совпа-
совпадают. Известно, что Н (S) = H (S) и в том случае, если функции а1}
не слишком быстро растут на бесконечности [7]. Здесь рассмат-
рассматривается вопрос о совпадении Н (S) и Н (S) в общей ситуации.
Пусть Е с: Rn. Будем говорить (только в этом параграфе),
что Е — множество конечной Н E)-емкости, если существует функ-
функция и е С0-' Л Н (S), равная единице на Е.
Теорема 1. Пространства Н (S) и Н (S) совпадают в том
и только в том случае, если, какова бы ни была область G конеч-
конечной Н(S)-eMKOcmu, существует последовательность {<рт}т^\ функ-
функций из Со'1, сходящаяся по мере к единице на G и такая, что
lim \Gaij(x)(d4>m/dxi)(d(pm/dxJ)dx^O. A)
т—юо
5 В. Г. Мазья

130 § 2.7. О пополнении в метрике обобщенного интеграла Дирихле
Прежде чем доказывать эту теорему, отметим, что если G—
ограниченная область, то последовательность {<pm}m>i всегда
существует и можно положить фт = ф, где (peCJ'1, <p=l на G.
Доказательство. Достаточность. Покажем, что
любую функцию иеС°-'ПЯE) можно приблизить в Н(S) функ-
функциями из Н (S). Без ограничения общности можно допустить,
что «S=0.
Отметим сначала, что если t > О, то Lt = {х: и (х) > t} —множе-
—множество конечной #E)-емкости. Действительно, функция v(x) =
— t-1min{u(x), t} равна единице на Lt, удовлетворяет условию
Липшица и 5 [v, v] «? t~2S [и, и] < оо.
Из теоремы Лебега о предельном переходе под знаком инте-
интеграла следует сходимость последовательностей min {и, т},
(и — тг1)*, т=\, 2, ..., в пространстве Н (S) к функции и
(см. 3.1.2). Поэтому мы можем с самого начала считать функцию и
ограниченной и равной нулю вне открытого множества G конечной
ЯE)-емкости.
Обозначим через G/ компоненты множества G и определим
последовательность
и(х) при хе (J Gj,
0 при х<=Я«\ U Gj,
m=l, 2, ... Очевидно, что и^т)^>-и при т-»-оо в ЯE). Так как
каждая из функций u(m) обращается в нуль вне конечного числа
областей, то мы можем без ограничения общности считать мно-
множество G областью.
Пусть {фт} — построенная для области G последовательность
функций, которая удовлетворяет условиям теоремы. Заменяя {фт}
последовательностью {г|зт}, определенной равенствами: |г|зт| =
= min{2, |фт|}, sgпг|зm = sgпфm, получаем ограниченную после-
последовательность с теми же свойствами. Очевидно, что г|зти е Н (S)
м г|зты -*- и в L2. Кроме того,
B)
Так как последовательность функций A — /
K(du/dXj) сходится к нулю по мере т„ в G и мажорируется
суммируемой функцией 9 ?( jaif(du/dxi)(du/dxj), то первый инте-
интеграл справа в B) стремится к нулю. Сходимость к нулю второго
интеграла следует из ограниченности функции и и равенства A).
Итак, иг|зт->-ы в H(S). Требуемая аппроксимация построена.

§ 2.7 О пополнении в метрике обобщенного интеграла Дирихле 131
Необходимость. Пусть G —любая область в Rn конечной
Н E)-емкости. Обозначим через и функцию из C°-lf)H(S), равную
единице на G. Вследствие совпадения Н (S) и Н (S) эту функцию
можно аппроксимировать в Н(S) последовательностью {<pm}OT>i
функций из Со'1- Так как и=\ на G и <pm-»-u в L2(G), то <pm->l
в G по мере. Кроме того,
Хотя полученный результат мало нагляден, он облегчает про-
проверку конкретных условий равенства или неравенства прост-
пространств Н (S) и H(S), к которой мы переходим.
Теорема 2 [67]. Если п=\ или п = 2, то H(S) = H(S).
Доказательство. Имея в виду теорему 1 и сказанное
сразу же после формулировки этой теоремы, мы придем к равен-
равенству Н (S) = Н (S), если покажем, что любая область G конечной
#E)-емкости ограничена. При « = 1 это очевидно. Пусть « = 2
и ы е= С0'' П# (S), «=1 на G.
Обозначим через О и Р произвольные точки области G и на-
направим ось 0х2 от точки О к точке Р. Тогда
S[u, u]^c\[p]dx2\Rl((du/dx1Y + ui)dx1^cl\)l0P]mzx[u(xu хг)]Чхг,
*1
Ввиду того что G — область и и = 1 на G, справедливо неравен-
неравенство max[u(x:b *2)]2S=1- Следовательно, diam(G)=s?cS[u, и]. В
«1
Следующее утверждение показывает, что при «5=3 ограниче-
ограничения на форму S [и, и] необходимы. Этот результат (с точностью
до изложения) принадлежит Н. Н. Уральцевой [124].
Теорема 3. Если «>2, то существует такая форма S[u, и],
что H(S)=?H(S).
Доказательство. 1) Рассмотрим область G = {х: 0<Сл:я<Ссо,
\х' \<.f{xn)}, где x' = (xlt ..., xn-i) и / — положительная убываю-
убывающая функция из С°° [0, со), / @)< 1. При хЮ положим а^(х)—8{.
Независимо от того, как функции atj определены в области G,
для любой функции кеС0'1, равной единице на G, справедливо
равенство S[u, u] = \\uj^ru Отсюда следует, что G является
областью конечной ЯE)-емкости в том и только в том случае,
если cap(G)<oo (здесь, как и ранее, cap — емкость Винера,
т. е. 2-сар). Очевидно, что
б*

132 § 2.7. О пополнении в метрике обобщенного интеграла Дирихле
Отсюда из известных оценок емкости цилиндра ([50, с. 354—355],
или предложение 9.1.3/1 в настоящей книге) получаем оценки
cap(G)^6 2i°^0[/(/)]n-3, если «>3,
Следовательно, если мы предположим, что \^ [f @]"~3 dt < oo при
«>3 и 5"|log/@l~1^<oo при « = 3, то G будет областью
конечной #(S)-eMK<xTH.
2) Внутри области G определим квадратичную форму
йц (X) Ы/ равенством
atJ (х) Ы, = P + (g {xn)if {хя))*-1ф) (f (хя) ZtZl */?i + InJ,
где т)еСГ(б), 0<т)<1, г) (х) = 1 на множестве {л:: 1<л:я<оо,
\х' |<С 4J{xn)} и g — любая положительная функция на [0, оо),
для которой j™ [g (О]1"" dt < оо.
Отобразим G на цилиндр {#: 0<г/я<оо, |г/' |< 1} при помощи
замены переменных хп = уп, Xi = f{yn)yi, l^/^«—1. Очевидно,
что
So (g (XnVf М)"-1 г) (*) (/' (*„) XlZl Xi dyldxt + dyldxn)*dx ^
где С = {у: 1 < г/я < оо, | у' \ < 1/2}. Применяя к последнему инте-
интегралу неравенство Коши, получаем
)dx^ \{y.l<4i ($ГI д<р/дуп
Если феСЦ1', то правая часть не меньше чем
$1 у., <,
где С! = {г/еС: г/я<2}. Переходя в правой части к переменным
х1у ..., л:„, приходим к оценке
$Г 1«Г (^l1"" Л Soa'V (Лр/ЗдсО (dv/dxj)dx 2s JOi Ф^/^)]" dx,
где d = {л:: | дс' | < х/г/ (-«я), 1 < х„ < 2}. Поэтому для любой после-
последовательности {фт}л1>1 функций из С0-1, сходящейся по мере
в области G к единице, Ига $с а*/ (д(рт/дх,) (d<pm/dxj) dx > 0. Оста-
m->oo
ется воспользоваться теоремой 1.
Теорема 3 имеет интересное приложение к вопросу о самосо-
самосопряженности в L2(Rri), га 3^3, эллиптического оператора. Пусть

§ 2.8. Комментарии к главе 2 133
оператор и-*-5с« = — {д/дх{){ау(х)ди/дх/) + и определен на С~.
Если fa,-/!" ;=i— матрица, построенная в теореме 3, то Н(S)=H(S)
и, следовательно, существует функция шей(S), отличная от
тождественного нуля и ортогональная в H(S) к любой функции
О = \Rn(aU (dw/dxt) (dv/dxj) + wv) dx «= ^„rcSo»dx.
Поэтому область значений замыкания So оператора So не совпа-
совпадает с 1а. Если So — самосопряженный оператор, то w^&E0)
и 5<0 = О. Отсюда, конечно, следует, чтооу = 0. Полученное про-
противоречие означает, что оператор So несамосопряженный. Итак,
одного требования равномерной положительной определенности
матрицы Ia»7WJ?/=i не достаточно для самосопряженности
оператора So [124].
Отметим в заключение, что теме этого параграфа посвящена
также работа С. А. Лаптева [51], в которой рассматривается
квадратичная форма S[u, «] = $ „(a(x)(^uJ + ui)dx, где а(х)^
5? const >0. В работе [51] приведен пример функции а, для
которой Н (S) =? ff (S), и показано, что совпадение Н (S) и Н (S)
имеет место в каждом из следующих случаев: (i) а не убывает
по \х\; (И) а(х) = 0{\х\2+ 1), (Hi) « = 3 и а зависит только от \х\.
§ 2.8. КОММЕНТАРИИ К ГЛАВЕ 2
§ 2.1. Большая часть результатов этого параграфа получена
в статье автора [71] (см. также В. Г. Мазья [213]). Содержание
п. 2.1.5 взято из статьи В. Г. Мазьи [78], а п. 2.1.6 публикуется
впервые. Предположение о существовании неравенства B.16/3)
было сообщено автору Г. М. Тащияном, который установил
близкую оценку в [122] при помощи приема, отличного от изло-
изложенного в п. 2.1.6. Вообще оценки типа B.1.6/4) известны (за
исключением, может быть, некоторых значений параметров р, q,
I, а), но доказаны другими методами (см. например, В П. Ильин
[32]). Теорема 2.1.6 при р = 2 доказана в работе автора [74], где
она оказалась полезной при исследовании вырождающейся задачи
с косой производной.
§ 2.2. Емкость, порожденная интегралом \Qf{x, и, Vu)dx,
введена Шоке [161], где она служит для иллюстрации общей
теории емкостей. Здесь изложение следует статье автора [71].
Лемма 2.2 2/1 прир = 2, Ф(х, |) = ||| представляет собой так
называемый принцип Дирихле с предписанными поверхностями
уровня, обоснованный в книге Полна и Сеге [108, с 74 — 76],
при жестких предположениях относительно множеств уровня

134 § 2.8. Комментарии к главе 2
функции н. Использованные в упомянутой книге соображения
в применении к рассмотренному в § 2.2 общему случаю являются
весьма убедительными эвристическими рассуждениями. В той же
книге выводится изопериметрическое свойство емкости (см. B.2.3/5)
и B.2.3/6)).
Лемма 2.2.5 —непосредственное обобщение аналогичного утвер-
утверждения Флеминга [177] о 1-емкости.
§§ 2.3 и 2.4. Основные результаты этих параграфов получены
автором в [65] при р = 2, Ф{х, |)=|||, М(и) = \и\ ив [71]
в общем случае. К неравенствам типа B.3.1/6) мы еще вернемся
в главе 7.
Свойства симметризации изучены в книгах Полна и Сеге [108]
я Хадвигера [188]. См. также книгу Хеймана [129], где рассмат-
рассматриваются, правда, только круговая симметризация и симметризация
относительно прямой в R2. Однако доказательства Хеймана обоб-
обобщаются на «-мерный случай.
Неравенство B.3.3/3) (с точностью до константы) есть нера-
неравенство Соболева (р>1) и Гальярдо (р=1). Неулучшаемое зна-
значение константы при р=\ (см. A.4.2/8)) независимо и одним и
тем же методом найдено Федерером и Флемингом [176] и авто-
автором [60].
Приведенное в замечании 2.3.1 точное значение константы при
р>\ получено Г. Таленти [250] и Т. Обеном [149] (случай л =3,
р — 2 ранее рассмотрен Розеном [240]).
§ 2.5. Изложение следует работе автора [65]. Изучению
природы спектра многомерного оператора Шредингера прямыми
методами качественного спектрального анализа посвящены работы
К- Фридрихса, И. М. Глазмана, А. М. Молчанова, М. Ш. Бир-
Бирмана и многих других авторов. Первым результатом в этом
направлении была георема Фридрихса о дискретности спектра
оператора '—А + g (х) левее точки lim q(x) A81]. А. М. Молчанов
{99! нашел необходимое и достаточное условие компактности вло-
вложения пространства, полученного пополнением @> (Q) по норме
0,
в Li (Q) и тем самым установил критерий дискретности спектра
задачи Дирихле для оператора Шредингера с полуограниченным
снизу потенциалом. В этой работе Молчанова впервые была
выяснена важность понятия емкости Винера при изучении харак-
характера спектра сингулярных эллиптических операторов. Ряд резуль-
результатов о спектре оператора Шредингера с помощью так называемого
метода расщепления получен в монографии И. М. Глазмана [20];
М. III. Бирман [7, 8] установил ряд новых фактов теории возму-
возмущений квадратичных форм в гильбертовом пространстве, из которых

§ 2.8. Комментарии к главе 2 135
следует, в частности, что дискретность (конечность) при всех
h > 0 отрицательного спектра оператора Sh = — ЛА — р(х) в R"
при р (х) S= 0 эквивалентна компактности вложения W\ (Rn) (Ц (Rn))
в пространство с нормой ^ п\ и \2 р (х) dxI/2 ¦ Исходя из таких
критериев, Бирман вывел достаточные или необходимые условия
дискретности, конечности или бесконечности при всех Л>0 отри-
отрицательного спектра оператора SA. Формулировки этих условий
не используют понятия емкости. Результаты работы М. Ш. Бир-
Бирмана [8] были развиты в статье автора [65]. Кроме результатов,
изложенных в пп. 2.5.2 — 2.5.5, в [65] найдена критерии конеч-
конечности отрицательного спектра оператора S\, а также критерии
бесконечности и конечности отрицательного спектра оператора Sh
при всех h. Близкие вопросы позднее рассмотрены в диссертации
К- Ханссона [191].
Теоремы из § 2.5 оказались полезными при изучении асимпто-
асимптотического поведения собственных чисел задачи Дирихле для опе-
оператора Шредингера. В работе Г. В. Розенблюма [112] рассмат-
рассматривается оператор Шредингера в RK: Н = — Д + Я (х) с потенциалом
q = q+ — q-, q~ s Ln/2,1Ж, п^З. Сформулируем один из резуль-
результатов этой работы. Наложим на пространство решетку кубов
с ребром d и определим множество F(d) как объединение тех
кубов Q решетки, для которых
sup{(]Bq-(x)dx/cap(E))': Ecz2Q}>y,
где 2Q — концентрический подобно расположенный куб вдвое боль-
большего размера, у — некоторое число. Тогда при Х,>0 для числа
N (— Я, Н) собственных значений оператора Н, меньших — Я,
верна оценка N(—%, H)^c1\F^^_m)(ca'k-q(x))l'i + dx, где clt c2,
ся — некоторые константы, зависящие лишь от п.
Результаты § 2.6 получены автором. Из доказательства теоре-
теоремы 2.6/2 следует отсутствие дискретности спектра задачи Стеклова:
_\п f з / ()|и\\+ () 0 Q
^.?/=1 \dxi \ " у 'дх/11 ' v ' '
21 i = i ач cos (v« Х/)ди/дХ{ = \а на dQ
при условии, что граница области Q хотя бы в одной точке
является характеристической. Здесь v — нормаль к dQ, матрица
1а'7ч--1 неотрицательна, а(х)>0, коэффициенты aih а и поверх-
поверхность dQ гладкие. Рассмотренный в § 2.7 вопрос поставлен
М. Ш. Бирманом.

136 § 3.1. Предварительные сведения
Глава 3
О СУММИРУЕМОСТИ ФУНКЦИЙ ИЗ ПРОСТРАНСТВА Ц (Ц
В настоящей главе получены необходимые и достаточные усло-
условия непрерывности и компактности оператора вложения прост-
пространства L\ (Q) в Lq (Q), характеризующие множество Q.
§ 3.1. ПРЕДВАРИТЕЛЬНЫЕ СВЕДЕНИЯ
3.1.1. Обозначения. В этой главе, а также в главах 4 и 5
будем использовать обозначения, введенные в п. 1.1.1, а также
следующие обозначения.
Ограниченное открытое подмножество С множества Q назовем
допустимым, если Q(]dG — многообразие класса С°° (в главе 2
этот термин понимался в более узком смысле).
Пусть Е — замыкание множества Е с= R", дЕ — граница Е,
closj Е — замыкание Е в Q, д,? — внутренняя по отношению к Q
часть границы Е, т. е. diE — Q(]dE.
Положим еще Qp = Qnfip, w+ = max{u, 0}, и- = и+ — и, Et =
= {x: \u(x)\ = t), Lt = {x; |u(x)!>*}, N, = {x: \u(x)\^t\.
В этой главе, как и ранее, будем писать \u\l (Q) = (\q \u\vdx\1'9.
Это обозначение используется и при q е @, 1), когда правая
часть является псевдонормой*. Отметим, что в случае 0<7<1
функционал р (и, v) = JQ | и — v \я dx очевидно удовлетворяет аксио-
аксиомам метрики.
Через С0-' (Q) обозначим пространство функций, удовлетворяю-
удовлетворяющих условию Липшица на любом компактном подмножестве
множества Q.
Если Q — область, то в пространстве L'p (Q), р ^ 1, I = 1, 2, ...,
(см. п. 1.1.2) введем норму | V,«||z. (q)|| +ы| l <g», где ю-некоторое
(непустое) открытое множество с компактынм замыканием ffi a Q.
Из неравенства A.1.11/2) следует, что изменение множества ю
приводит к эквивалентной норме.
Пусть еще W'p, r (Q) — пересечение L'p (Q) П Lr (Q), снабженное
при г~^\ нормой и при 'е@, 1) псевдонормой \u\wi (, =
= I V,u|L (Q) + liи\Lr(Q). В соответствии с п. \.\AWlp p(Q) = Wlp (Q).
¦) Линейное пространство называется псевдонормированным, если на его
мементах задан функционал Jjtj^O, удовлетворяющий условиям: 1) если
|дг|, = О, то х = 0; 2) 1ох1 = а []*[, где яей1; 3) если \хт[-+0, \Q
то \ + \Q

3.1.2. Леммы об аппроксимации функций из Wp , (Q) и Vp (Q) 137
Согласно теоремам 1.1.5/1 и 1.1.5/2 множества L'p(Q)(]Cm(Q)
и Y { (Q) П С°° (Q) плотны в L',(Q) и Wр (Q).
3.1.2. Леммы об аппроксимации функций из WlPir(Q) и Lp(Q).
Лемма 1. Если t) e LJ, (Й), то последовательность функций
( m\n{v(x), m}, если v(x)^0,
\ max{v(x), —т\, если w(
(m = 1, 2, ...) сходится к v в Llp (Q).
То же верно для последовательности
.(*) =
v (х) — тг1, если v (х) ^ тг1,
О, если [ w (x) | < тгх
ь{х)-\-тгг, если v(x)^ — m-1
Доказательство. Так как функции из L),(Q) абсолютно
непрерывны на почти всех параллелях координатным осям (тео-
(теорема 1.1.3/1), то почти всюду в Q: Vy<m) =x""'Vy, где х""' —
характеристическая функция множества |^еЙ: \v(x)\ 1
Поэтому
Сходимость последнего интеграла к нулю следует из теоремы
Лебега о предельном переходе под знаком интеграла.
Доказательство для последовательности w(m) проводится точно
так же.
Лемма 2. Множество функций из пространства UP (Q) П C°°(Q) [~|
OL^iQ) (рз=1) с ограниченными носителями плотно в W%Pt, (Q)
(оо>г>0).
Доказательство. Пусть v^Wp,r(Q). Так как y(ml->y
и v{m)-*-v в пространстве Wp, r(Q), то в Wpr(Q) плотно множе-
множество ограниченных функций tieLJ, (Q), таких, что тп (supp и) <оо.
Предположим, что функция v удовлетворяет этим условиям,
и определим последовательность vm(х) = т) (mrH)v(х), т = \, 2, ....
где пеСГ(^г), 4=1 Ha ^i- Очевидно, что
- v \w^ г (Ш ^ с| Vy |Ld (o\*m) +(c/m) I v 'Lco ,a) x
+!|I->0 при m->oo.
Для того чтобы аппроксимировать каждую функцию vm глад-
гладкими, достаточно воспользоваться разбиением единицы и операто-
операторами усреднения (ср. с доказательством теоремы 1.1.11/2).
Из доказанной леммы получаем такое очевидное утверждение.
Следствие. Если Q— область конечного объема, то множе-
множество функций из пространства Lp (Q) П С°° (Q) П ^ (Q) с ограни-
ограниченными носителями плотно в Lp (Q).

138 § 3.2. Классы множеств Ja и вложение L\ (Q) в Lq (Q)
Лемма 3. Пусть G — открытое подмножество множества Q и
« е С0-' (Q) П LJ, (В), и = 0 внеС Тогда существует последователь-
последовательность функций иэ С°° (Q) П L\, (Q), также обращающихся в нуль
вне G, сходящаяся к и в L), (Q).
Доказательство. Так как функцию и можно приблизить
в Lp (Q) последовательностью щт), определенной в лемме 1, то
можно с самого начала считать, что и = 0 вне некоторого откры-
открытого множества g, расположенного в G вместе с closQg.
Обозначим через {^?(*>} локально-конечное покрытие g откры-
открытыми шарами <^?(*\ <?BwczG, и повторим дословно доказательство
теоремы 1.1.5/1. ¦
Замечание. Если в условии леммы 3 предположить, чтобы
функция и была непрерывной в Q, то от функций аппроксими-
аппроксимирующей последовательности также можно потребовать непрерыв-
непрерывности в Q (см. замечание 1.1.5).
Если дополнительно в условии леммы 3 и е Lr(Q), то аппрок-
аппроксимирующую последовательность можно считать сходящейся
в №j,.,(Q).
Оба эти утверждения — непосредственные следствия доказа-
доказательства леммы 3.
§ 3.2. КЛАССЫ МНОЖЕСТВ Ja И ВЛОЖЕНИЕ Ц (Q) В Lq (Q)
3.2.1. Классы Ja-
Определение. Открытое множество Q принадлежит клас-
классу Ja (as=(n — l)/n), если существует такая постоянная
М <= @, тп (О)), что
2la (M) - sup ([тя {G)f/s (djG)) < cxj, A)
{О)
где {G} — совокупность допустимых подмножеств Q, таких, что
mn(G)*S:M, и s — (п— 1)-мерная площадь.
Условие A) характеризует границу Q «в малом». Поясним
это обстоятельство- Если Q —область с достаточно гладкой гра-
границей, то, как нетрудно понять, (п — 1)-мерная площадь поверх-
поверхности dGf\dQ для любого множества G достаточно малого объема
оценивается снизу (с -точностью до постоянного множителя)
площадью d;G = Q Л dG. Поэтому в силу классического изопери-
метрического неравенства [т„ (G)]{n-1)/n ^ const s (diG), и, значит,
область Q принадлежит классу У,„-!)/„. Если на дп имеются
«пики», направлгнн'^е внутрь Q, то интуитивно ясно, что последнее
неравенство остается выполненным. Если же острие направлено
во внешность области, то существует последовательность множеств
Gvc: Q, для которой lim ([mn(Gv)]("-1)/'I/sE,Gv))=oo. Наряду с этим

3.2.1. Классы Ja 139
для области может выполняться условие A) с некоторым
а>(п— \)/п. Показатель а характеризует в этом случае степень
заострения пика.
Мы увидим в дальнейшем, что именно «изопериметрические»
неравенства типа A) (и более сложные) определяют показатели
суммируемости функций из пространств Соболева.
Лемма 1. Пусть Q — открытый единичный шар и g — открытое
подмножество Q, такое, что dfi —многообразие класса COtl. Тогда
min {mn(g), mn(^\g)}^1/2^/ilrn)s(a,g)'I^'I-1). B)
Константа в неравенстве B) точная.
Доказательство. Достаточно предположить, что 2т„(g)¦<
<vn. В результате сферической симметризации множества g
относительно луча / с началом в центре шара Q получим симмет-
симметричное относительно / множество fczQ, такое, что mn(f) = mn(g),
s(dif)^s(d;g)*. Пусть b — такой шар, что b(}dQ = df(}dQ и
mn(b ()Q)—mn(f). Поскольку mn[f\j(b\Q)] = mn(b), то в силу
изопериметрического свойства шара s(Q(]db)^s(dif).
Элементарный подсчет показывает, что среди всех шаров Ь,
таких, что mn (Q П 6) = const < 1/г'Пл (Q), наименьшее значение
величине s(Q(]db) сообщает шар, ортогональный dQ.
Нетрудно проверить, что для ортогональных к шару Q шаров Ь9
с радиусом р, таких, что т„ (Ьр |~| Q) < 1/2mn (Q), функция
s(Qn5fep)[mnQnbp)]A-'l)/'1 убывает. В
Из леммы 1 непосредственно вытекает следующее утверждение.
Следствие 1. Если Q — n-мерный шар, то Qe/(,-i)/« "
Щп-и/пРктпф)) =VnLi(vn/2Yn-1)'n, где vs - объем s-мерного
единичного шара.
Следствие 2. Ограниченная область, звездная относительно
шара, принадлежит классу J{n-i)/n-
Доказательство. Согласно лемме 1.1.8 множество Q есть
квазиизометрический образ шара. Отсюда и из леммы 1 получаем,
что какова бы ни была константа М (= @, тп (Q)), для всех
открытых множеств gcrQ, таких, что dtg — многообразие клас-
класса С0-1 и mn(g)*S:M, выполнено неравенство
[mn(g)){'-1)/n^C(M)s(dig) C)
(С(М) —константа, не зависящая от g).
*) Сферическая симметризация относительно луча определяется аналогично
симметризации . относительно (я — химерного подпространства. Следует лишь
в определении, проведенном в 2.3.3, заменить s-мерные подпространства,
ортогональные Rn~s, (я — 1)-мерными сферами с центром в начале луча. Отно-
Относительно свойств симметризации см. [108, 129, 188, 235, 237].

140
§ 3.2. Классы множеств /а и вложение Ц (Q) в Lq (Q)
Замечание. При а<(п —1)/п условие A) никогда не вы-
выполняется, так как в этом случае
lim [mn (Bp)]a/s (дВр) = с lim р1-^"» = оо. ¦
р-»0 р-»0
Приведем пример области, не принадлежащей классу Ja при
любых а.
Пример. Пусть Q — область, изображенная на рис. 9. Для по-
последовательности подмножеств Qm, т = 3, 4, ..., имеем m2(Qm) =
« (dQ) *
I m2m-*a.
-оо
при
т
М
т
,-гт
и, следовательно, Q e Ja-
Лемма 2. Если ограниченное открытое множество есть объ-
______ единение конечного числа откры-
*^ Г^ I" * тых множеств из класса /а, то
оно принадлежит тому же классу.
Доказательство. Пусть
Q = QiLJQ2 Q-e/a, k=l, 2, и
М=тт{Мъ Mt}, где Ми М2 —
константы из определения клас-
класса /а для Qb Q2. Через G обоз-
обозначим допустимое подмножество Q,
такое, что mn(G)^M.
Так как тп (G) ^ т„ (G П Ц) •
fl*5. то
1 х
Рис. 9.
2=,!
s(QftndG)
Отсюда из леммы 1.1.9/1 и следствия 3.2.1/2 получаем сле-
следующее утверждение.
Следствие 3. Ограниченная область, удовлетворяющая усло-
условию конуса, принадлежит классу У(л_1)/Л.
3.2.2. Лемма технического характера. Следующее утверждение
будет использовано в п. 3.2.3.
Лемма. Пусть G —допустимое подмножество Q, такое, что
sE;G)<oo. Тогда существует последовательность функций
№т}т>и такая, что 1) wm <= С0-1 (Q); 2) wm = 0eQ\G; 3) wm e
е [0, 1] б Q; 4) для любого компакта eczG, начиная с некото-
некоторого номера т(е), справедливо равенство wm(x) = l при jcse;
5) Ш L |VBb,| d* = s(d,G).
Доказательство. Пусть со — ограниченное открытое мно-
множество, со а й, s [(Q \ со) П 9G] < т~х. Существует столь малое

3.2.2. Лемма технического характера 141
положительное число е = е(т), что для некоторого локально-ко-
локально-конечного в Q е-покрытия множества (Q \ со) (]dG открытыми ша-
шарами Sbi
%tr«-i<2nr\ A)
где Tj —радиус шара <^. Разумеется, можно считать, что каждый
шар <?Bi пересекается с (Q \ со) f) dG.
Введем следующие обозначения: <03\ — концентрический ой?,- шар
с радиусом 2r(; Ci=(J^8;, C2 = (J^, р (х) = dist (х, dtG).
t t
Пусть g = {x^G: р(х)<б}, где б = б (т.) — столь малое число
из интервала @, е), что g f\ да содержится в С, (этого можно до-
добиться, так как покрытие {^} локально-конечно в Q).
Построим функцию v, равную нулю в Q\G, б-^дс) при х е
е^Пй и единице в оставшейся части Q. Эта функция разрывна
на множествах (Q\(d)(]dG и gf}da). Исправим ее с помощью
срезающей функции т), к определению которой перейдем.
Пусть г); е С0-1 (Rn), %=1 вне Зд\, ^ = 0 в 3iu 0^П(<1-
IVriil^/T1 в Si\ и т) (х) = inf {% (х)}. Очевидно, что г\ еС0Д(й).
т] = 0 в Си т)=1 вне С2. Рассмотрим функцию Wm = r\v, которая
равна нулю в Ci(]Q и, следовательно, в окрестности множества
разрывов функции v. Ясно, что
Отметим, что
(Здесь и далее в этой лемме с — постоянные, зависящие только
от п.) Отсюда и из A) получаем оценку $а\с, |^т) |dx«Scor1
Далее, так как по теореме 1.2.4
где Tt={x^(d[]g: p(x)=x}, то при достаточно малом 6 = 8 (т)
Окончательно имеем
\п | Vwm \dx^s (dG) + cm-1.
Функция wm равна нулю вне G и единице вне е-окрестности
QdG В

142 § 3.2. Классы множеств Ja и вложение Ц (Q) в Lq (Q)
3.2.3. Вложение L}(Q) в L?(Q). Пусть G—открытое подмно-
подмножество Q и
3l(ca)^sup[/nn(g)Ja/s(aigr), A)
где супремум берется по всем допустимым множествам g,
cIosq gczG.
Лемма 1. 1) Если 5t(ct)<oo, as^l, то для всех функций ие
е С0'1 (Q) П Ц (Q). равных нулю вне G, справедливо неравенство
\\ulLgW^C\\Vu\\LW, B)
где (? = а-1 u CsS9l(ca).
2) ?сли для всех функций и е С0-1 (Q) П ^1 (^2). обращающихся
в нуль вне G, выполнено неравенство B), то СЗь^с0.
Доказательство. 1) По лемме 3.1.2/3 достаточно дока-
доказать B) для функций ueC° (Q) |~|Ц (Q), равных нулю вне G.
Поскольку |ы||1 (B) = J"mn(A^/)d(^), то из неравенства A.3.1/1)
получаем | и \Lq (Q) ^ $0°° [тя (iV,)]1/? Л.
Отметим теперь, что [тп (Nt)]1/9^Slca)s(?/) при п. в. f>0.
Отсюда и из теоремы 1.2.4 получаем
= ШР | V«
2) Пусть g—допустимое подмножество G, clos^gcrG. Подста-
Подставим в B) последовательность {wm}m3>i из леммы 3.2.2. Для лю-
любого компакта eczg имеем [\e\wm\9dxj1'9^Cs{dig) и, следова-
следовательно, [mn{g)]1^<:Cs(dig). Ш
Для области Q конечного объема положим 31о = 31оA/г'пл(й)).
Теорема. Пусть Q — область и тп (Q) < оо. Тогда:
1) ?слы йе/ц, где ае[(п-1)/л, 1], /по для всех функций
и е L} (Q) справедливо неравенство
inf |и-с|л @)^CiVu|i@), C)
сел» ?
где ^^а-1 ы C^?la;
2) если Зля есех и ^Ц (Q) справедливо неравенство C), /по
Q<=Janpua=q-1 и 2^~1)^^^а, еслиц>\, CssU, если 0<<?<-1.
Доказательство. 1) В силу следствия 3.1.2 достаточно
получить C) для функций, и е LJ (Q) П ^оо (й) П С00 (Q) с ограни-
ограниченными носителями. Обозначим через т такое число, что
2т„ ({х: u(x)Ss т}) ^ т„ (Q) и 2т„ ({х: и(х)> т}) ^ т„ (Q). Со-
Согласно лемме 1

3.2.3. Вложение L\ (Q) в Lq (Q) 143
что и доказывает первую часть теоремы.
2) Пусть для всех и^Ц(п) выполнено неравенство ^не-
^непроизвольное допустимое подмножество Q, такое, что 2mn(G)«g
«S т„ (Q). Подставим в C) последовательность функций \хют}, по
строенную в лемме 3.2.2. Для любого компакта eczG
inf (JJ 1 - с \я dx + Joчс | с \" dx)Vq ^ Cs (d,G)
и, следовательно,
min (| 1 - с \9 тп (G) +1 с \« т„ (Q \ G)I'" ^ Cs (дф.
с
Минимум в левой части в случае q > 1 достигается при
с = [тп (G)]1'*»-11 / \[тп (G)]1/*?-11 +[mn
Следовательно,
{[тп (O)]V<«-» + Im, (Q \
Учитывая условие 2mn(G)<:mn(Q), отсюда получаем [тп (G)]1/? =^
«S2(?-1)/?CsEjG). Случай 0 <<? ^ 1 рассматривается аналогично. ¦
Лемма 2. Пусть Q — область и тп (Q) < со. Пространство
L), (Q) вложено в Lg(Q) (р ^ 1, g > 0) б /лож ы только в том слу-
случае, если для всех функций и е LJ, (Q) выполнено неравенство
inf ||и — сSz.ei0)<C|Vu|i (a). ' D)
(
Доказательство. Необходимость. Пусть Z —подпро-
—подпространство функций, равных константе на Q, и пусть WlD. Q(Q.) —
фактор-пространство Wp, q (Q)/Z, снабженное нормой
inf \u — c\l (i2) + 1V«||? (Я)- Обозначим через Ш тождественное
отображение W'Pi Q (Q) в Lp (Q). Это — линейное непрерывное и
взаимно однозначное отображение, и так как Lp (Q) cz Lq (Q), то
Ш — сюръективное отображение. По теореме Банаха * Ш — изомор-
изоморфизм и, следовательно, имеет место неравенство D).
Достаточность. Пусть выполнено неравенство D). Мы
должны показать, что Ш — сюръективное отображение. В силу D)
* Теорема Банаха (см. Бурбаки [12, с. 23]). Пусть Е н F — вполне метрн-
эуемые векторные пространства над неднскретным нормированным телом.
Каждое непрерывное взаимно однозначное линейное отображение Е на F есть
изоморфизм.

144 $ 3.2. Классы множеств Ja и вложение Ц (Q) в Lg(Q)
образ IF),. 0(й) замкнут в Lp(Q). Поэтому достаточно принять во
внимание, что согласно следствию 3.1.2 пространство W'Ptq(Q),
рассматриваемое как подпространство Llp (Q), плотно в L'p (Q). ¦
Из теоремы и леммы 2 немедленно получается следующее
утверждение.
Следствие. Если Q— область и mn(Q)<oo, то простран-
пространство L\(Q) вложено в Lg(Q), q^\, в том и только в том слу-
случае, если sup [т„ (G)]1/?/s(d;G)-<oo, где супремум берется по всем
допустимым подмножествам Q, таким, что тп (G) ^С х1-гтп (Q).
Замечание. Так как плоская область, ограниченная квази-
квазикругом, принадлежит классу EV\ (см. п. 1.4.8), го для нее Ц (Q) с=
czLo(Q). Отсюда, из леммы 3.2.1 и из сформулированного только
что следствия вытекает, что объединение конечного числа квази-
кругов принадлежит классу Л/г-
3.2.4. Функция %м.
Определение. Пусть Me @, тп (Q)). Обозначим через
км (ц) точную нижнюю границу чисел s EjG) на совокупности всех
допустимых множеств G cz Q, удовлетворяющих условию ц <:
^mn(G)^M. Ш
Очевидно, что функция Я.Л(ц,) не убывает с ростом ц и не
возрастает с ростом М.
В терминах функции Хм можно дать эквивалентное определе-
определение класса Ja. Именно Qe4 в том и только в том случае,
если
Ит ц-%„0г)>0. A)
Лемма. Если Ме@, т„(О)) и Q — область конечного объема,
то Ял(ц,)>0 при всех це@, М].
Доказательство. Пусть 0<nsSmin{M, mn(Q) — M] и
© —область с гладкой границей, такая, что йсг Q и 2тп (Q\co)«<
<|а. Если G —допустимое подмножество Q, M^/nn(G)^fi, то
очевидно, что 2тп (GП ©)^ц и 2т„ (a>\G)^mn (Q) — М^ц,.
Поскольку 5со —гладкая поверхность, то для всех «eLJ(co)
справедливо неравенство
inf ,;« —
Поэтому согласно второй части теоремы 3.2.3 для любого допу-
допустимого подмножества G области Q-
min \mn (G П ©), тп (со \ G)} ^ С (со) s (со П5G).
Итак, ц ^ С (со) ь (Q П dG) и, следовательно, ^((а)>0 при ма-
малых |а. Так как kM(ii) не убывает с ростом ц, то Ял(|а)>0 при
всех ц е @, М]. Ш

3.3.1. Субареальные отображения
145
Легко видеть, что как требование связности Q, так и условие
mn(Q)<oo существенны для справедливости леммы.
Из леммы немедленно получаем следующее утверждение.
Следствие. Если Q — область из класса Ja и mn(Q)<oo,
то, какова бы ни была константа те@, mn(Q)), величина
sup {\mn(G))a/ s{diG): G —допустимое подмножество Q, mn(G)sSm|
конечна.
В дальнейшем для упрощения записи мы будем вместо
km (й)/2(ц) писать просто Х(ц).
3.2.5. Пример области из класса J\. Покажем, что область й,
равная сумме квадратов Qm = {{x, у)'- 2-т-1^х^З-2~т-2, 0<
<.у<2-т~2} и прямоугольников Rm—{(x, у): 3• 2~т-%<х<2~т,
0<у<.1}, т—0, 1, ... (рис. 10) принадлежит классу Jx и не
принадлежит никакому классу /а
при а<1. У1
Пусть Т — треугольник {(х, у):
0<у<х/3, 0<д:<1}, содержа-
содержащийся в Q. Пусть v — u на Q\T
и v — 3yxrlu на Т. Ясно, что
где г = (х* + у2I/2. Следовательно,
I! U 1ци) «^ I VU к,Я) + С I U/r »д (Г).
Так как из очевидного неравен-
неравенства
1 х
= 0,
Рис. 10.
следует вложение L\ (Q) в пространство с нормой \г-1и\\цт), то
LJ (й) с: L (Q), Применяя лемму 3.2.3/2, получаем, что Q e Ji-
Вместе с тем для прямоугольников Gm = .Rmn{(*» у)'- у>2~т-1\
справедливо соотношение Hmm2(Gm)/s(diGm)= 1. Следовательно,
Cijx ^ % (ц) *s с2ц при малых ц.
§ 3.3. СУБАРЕАЛЬНЫЕ ОТОБРАЖЕНИЯ И КЛАССЫ Ja
В этом параграфе вводится понятие и изучаются свойства
«субареального» отображения области, г. е. отображения, при ко-
котором (п — 1 )-мерная площадь подмножеств области существенно
не увеличивается. Использование таких отображений позволит про-
проверять условия принадлежности конкретных областей классу Ja.
3.3.1. Субареальные отображения. Рассмотрим локально-квази-
локально-квазиизометрическое отображение Q э х->| е R"- Образ произвольного

146 § 3.3. Субареальные отображения и классы Ja
множества A cz Q при отображении ? будем обозначать 1А, Пусть
еще i'r —матрица (д|,/дхА)?, *=> и (let gi — якобиан отображения!.
Аналогичный смысл имеют обозначения х% и detxj.
Определение. Назовем отображение | субареальным, если
существует такая постоянная k, что для любого допустимого под-
подмножества G множества й справедливо неравенство
sddiQ^ksidiG). A)
Лемма 1. Отображение ? является субареальным в том и
только в том случае, если при п. в. xeQ
B)
где 1 • || — норма матрицы.
В доказательстве этой леммы будет использовано следующее
утверждение.
Лемма 2. Пусть и&С* (Q)f\L\(Q) и Е — любое измеримое под-
подмножество Q. Тогда для того чтобы имело место неравенство
lE\Vxu\dx^kllE\V%u\dl C)
с постоянной k, не зависящей от и и Е, необходимо и достаточно,
чтобы отображение t удовлетворяло условию B). (Более того, для
справедливости B) достаточно, чтобы C) выполнялось для любого
шара в п.)
Доказательство. Достаточность немедленно следует из B)
и равенств
где а= | Vxu [-1 Vxu.
Необходимость. Фиксируем вектор а единичной длины и
рассмотрим шар Вр (х0) a Q Положим и (х) = ах. Тогда в силу C)
справедливо неравенство
$врЫ *3** $МрЫ IV I *-*$!,„(.,, I D)* «11 det 4 \*dx.
Переходя к пределу при р->0 и используя произвольность а,
получаем при п. в, jtoeQ неравенство C), ¦
Доказательство леммы 1. Достаточность. Пусть
G — произвольное допустимое подмножество области Q. Возьмем
любую точку у е dfi и некоторую ее окрестность Uy, столь ма-
малую, что множество Uy[\G может быть задано в некоторой декар-
декартовой системе координат неравенством xn<f(x'), где х' =
-= (хг, ..., xn-i) и /—бесконечно дифференцируемая функция.

3.3,2. Оценка функции Я, в терминах субареальных отображений 147
Пусть б —фиксированное малое положительное число. Мно
жество точек х из Uy, заданное уравнением xn = B+f(x'), где
8б[0, б], обозначим через Vz. Положим и&(х) = 1 при хл </(*'),
и6(х) = 0 при xn^zf(x') + 6 и ue(x)=l — еб-1 при jteF,. Оче-
Очевидно, что функция ы6 удовлетворяет условию Липшица. В силу
B) и леммы 2
\и^ | Vxu& | dx =г k 1ЩI V|U6 (x (I)) | d?.
Используя теорему 1.2.4, последнее неравенство можно предста
вить в виде б-1 $*s (Ve) deS: &H ^s(iVe)de. Так как функция
s(Ke) непрерывна, то s(V0)^k lim б-1 f6s(|Ke)de. Поэтому.
принимая во внимание полунепрерывность площади снизу, полу
чаем неравенство s(V0) 5=&s(gl/o). Так как точка у произвольна
отсюда следует оценка A).
Необходимость. Пусть |—субареальное отображение ?1
Рассмотрим произвольную функцию и eC°°(Q) [}L\ (Q). Согласно
теореме 1.2.2 множества уровня функции \и\ при п. в. ?>0 —
гладкие многообразия. Пусть В — произвольный шар в й. Потео
реме 1.2.4
| dx = С s (В П Et) dt, Jy, | V6« | d| = Jo°° s (|B П1^/) Л.
По определению субареального отображения s(Ei)^ks(^Ei). Сле-
Следовательно, выполняется неравенство C). Остается сослаться на
лемму 2. Я
3.3.2. Оценка функции X в терминах субареальных отображе-
отображений. Следующая теорема позволяет получать нижние оценки вве-
введенной в конце 3.2.4 функции X в конкретных случаях.
Теорема. Пусть Q — область конечного объема, для которой
существует субареальное отображение на ограниченную область
|й, звездную относительно шара. Положим
0) $o|U|
где инфимум берется по всем допустимым подмножествам обла-
области Q, удовлетворяющим условию ц^т„ (G) ^ yUmn (й). Тогда
существует такая постоянная Q, что
. QA,(n)^[n(|i)]<-«/«. A)
Доказательство. Пусть G — такое допустимое подмноже-
подмножество Q, что т„ (G)<imn (Q)/2. Положим M = supmn(|G) на мно-
множестве таких G. Так как | det |* | ^ const > 0 на любом компакт-
компактном подмножестве области Q, то M<mn(|Q). Принимая во вни-
внимание звездность области |Q относительно шара, а также то, что

148
§ 3.3. Субареальные отображения и классы Ja
|G — многообразие класса Сод, из неравенства C.2.1/2) получаем:
K.(?G)]("-*)/'l<Cs(?(di(G))- Отсюда и из C.3.1/1) следует оценка
[тп ilG)]{n-1)'n < Cks (dfi). Поэтому если тп (G) =г ц, то [п (ц)Уп1 |/л^
KiG)]AVCa() ¦
3.3.3. Оценки функции X для некоторых конкретных областей.
Приведем несколько примеров применения теоремы 3.3.2.
Пример 1. Рассмотрим я-мерную область Q — {x==(x', xn):
х'| </(*„), 0<хл<а}, где /—неотрицательная выпуклая вниз
функция, такая, что /' (а — 0) <С оо и / @) = 0
(рис. 11).
Покажем, что функция Л(ц) для области
Q удовлетворяет неравенствам
k [f (а (И))]" < К (|х) ^ [/ (а (ц))]"-1, A)
где k е @, 1) и а (|х) —функция, определен-
ная уравнением ц = у„_1 $™(ц) [/ (т)]"-1 dt.
Доказательство. Рассмотрим область
Gt — Q П {х: 0<ixn<c t], где t подчинено усло-
условию тп {Gt)=vn-i \{U (т)]-1 dx^1 fifth. (О). Оче-
Очевидно, что s (Q П <5G<) = f«-i [/ (О]"- Так как
X [тп {Gty\ ^ s (Q П dG<) согласно определению
функции А., то правое неравенство A) дока-
доказано. '
Отображение х->| = (хи ..., xn-lt f (*„))
переводит область Q в конус |Q =
= {|=(Г,|л):||'|<|л,0<|л</(а)}. Вдан-
ном случае условие C.3.1/2) эквивалентно
требованию ограниченности /'. Следователь-
Следовательно, отображение х-*-\ субареально.
Остается оценить снизу функцию я, определенную в теореме
3.3.2. Так как якобиан отображения х->| равен /' (хп), то нужно
оценить снизу интеграл
[Qf'(Xn)dx B)
при условии 1/2т„(Q)>mn[G)^\ь Так как /' — неубывающая
функция, то из всех множеств G наименьшее значение интег-
интегралу B) дает множество Ga(Mi). Следовательно,
Рис. И.
Итак, п (|х) ^ п~Н>„-1 [/ (а (|х))]л. Применяя теорему 3.3.2, отсюда
выводим левую оценку A). ¦
Из оценок A) немедленно получаем, что для области Q =
= {х: \х'\<Хп, 0<С.х„<Са}, Р^1, при малых fi:
С1ца^Х(ц)^с211а, а=Р(я-1)/(р(я-1)+1). C)

3.3.3. Оценка функции Я. для некоторых .конкретных областей
14&
т.е. Q е Ур(Л-1)/(р(л-1)+1) и Q е ¦/<* при а<Р(я— 1)/(Р(п — 1)+ 1).
Пример 2. Рассмотрим область Q = {x = (x', х„): 0<х„<оо,
\х' \<.f(xn)}, где / — неотрицательная выпуклая вниз функция,
такая, что /'(-(- 0) > — со и /(+оо) = 0 (рис. 12). Допустим еще,,
что т„ (Q) < со, т. е. что J" [/ (О]" Л < со.
Можно показать, что справедливы оценки
^ [/ (а (ц))]"-1 ^ Я (|х) < [/ (а (ц))]"-1, D)
где & е @, 1) и а (|х) — функция, определенная уравнением |х =
Доказательство проводится так же, как в предыдущем при-
примере. Роль вспомогательного субареального отображения играет
при этом отображение х->| = (xi, .... xn-i, —/(*«)) на
конус {|: \Ъ'\<\Ъп\, 0>|„>— /@)}. В частности, для обла-
области Q = {*= (х\ хп)\ 0<хп<оо, |х' |<A +хп)-*}, где р (л - 1)> I
при малых |х справедливы неравен-
неравенства
. E)
4 при
т. е, Qe Ур (я-d/ip (в-и-
рA)(рA)
Рис. 12.
Рис. 13.
Пример 3. Рассмотрим плоскую спиралевидную область Q,
определенную в полярных координатах неравенствами 1 — ех F) ;>
>Р>1-е2F), 0<6<оо, где 0 < е2 (9 + 2я)< е, F)< е2 F)< 1
и 6i, е2 —функции, удовлетворяющие равномерному условию Лип-
Липшица на [0, со) и такие, что функция е2—ех выпукла вниз на
[0, со) (рис. 13). Допустим еще, что площадь Q конечна, т. е.
что 5~ (е2 — ех) de < оо.
Применяя теорему 3.3.2 к субареальному отображению!: |х =
= 1 - р - V. Ы F) + е2 (в)], Ь = х/2 [е, F) - в! F)] области Q на тре-

150 § 3.4, Двусторонние оценки функции Я....
угольник !|il<|2. 0 < ?¦> < х/г [ег F) — Ъ\ F)] и рассуждая так же,
как в примере 1, получаем
сх [е2 F (ц)) - 8l F (,и))] < X (ц) ^ с2 [в, F (ц)) - 6l F (Ю)], F)
где 6 (ц) —функция, определенная равенством
|х = Н. ,(, ¦ .pdpd6. G)
В частности, для области
{ре'8: 1-(8 + еI-Р>р>1-(8Н-6I-Р-с(8 + еИ}) (8)
где 0<с<2п(Р —1), Р>1, при малых ц справедливы оценки
Ci\*a«^Я,(|х)СгЦ*, где а = Р(Р —I)-1. Таким образом, область,(8)
принадлежит классу У&(з_1Г1.
Более сложный пример области из класса Уа, а> 1, рассмот-
рассмотрен в следующем параграфе.
Замечание. Между прочим, если х->| —субареальное отоб-
отображение Q на ограниченную звездную область, то очевидно, что
пространство L\ (Q) вложено в пространство с нормой
В частности, для областей из примеров 1 и 2 Ц (Q) cr Ln/(n_i) (Q, |х),
где d\.i = \f (xn)\dx. Это —иллюстрация той естественной мысли,
что предельный показатель п(п— 1)~х сохраняется и для «плохих»
областей, если вместо тп рассматривать меру Лебега с весом,
вырождающимся в «плохих» точках границы.
В связи с этим замечанием отметим, что хотя в настоящей
главе рассматривается вопрос о степени суммируемости функций
из L\ (Qy только по мере Лебега, но доказательства результатов
п. 3.2.3 в существенном не изменятся после замены пространства
L?(Q) пространством Lg(Q, |x), где |х — произвольная мера в Q
(ср. с результатами главы 2).
§ 3.4. ДВУСТОРОННИЕ ОЦЕНКИ ФУНКЦИИ h
ДЛЯ ОБЛАСТИ ИЗ ПРИМЕРА НИКОДИМА
В этом параграфе мы рассмотрим область Q из примера 1.1.4/1
при условии em = 6B"m-1), где б —липшицева функция на [0, 1],
такая, что 6B/)~6(/). Здесь будет показано, что Л. (jx) -—' б ((я).
Лемма. Если G —допустимое подмножество Q, G[]C = 0, то
s (dfi) Ss kb (m2 (G)), k = const > 0. A)
Доказательство. Пусть Gm = (Am {] Bm) [\ G. Обозначим
через N наименьший номер, для которого »^ji..\^^/ho-n—i\

3.5.1. Класс Ja
151=
Отсюда и из очевидного неравенства т% (Gm) < 2~т-1 получаем
U Gm\\^бB-N)^ks(d;G). B)
Так как s(d,Gm)<бB--1) для всех m<.N, то в Ат\]Вт нет ни
одной компоненты множества dfi, соединяющей ломаную abed
с отрезком ef (рис. 14). Поэтому при m<N справедливо нера
венство 2s(diGm)^s(deGm), где деА =
= 5Л\5,-Л. Отсюда и из изоперимет-
рического неравенства [s (dGm)f ^
^ 4nm2 (Gm) выводим оценку
Суммируя C) по т и используя
неравенство Bат)^2 ^ 2а„2, ат>0, на-
находим
11/2<cs(^G). D)
ы и яг
771
Рис. 14.
Объединяя B) и D), получаем требуе-
требуемую оценку.
Предложение. Для функции X спра-
справедливы оценки &]б (|х) ^ A, (fx) ^ &2б (ц)»
где klt k2 — положительные константы.
Доказательство. Из A) и тео-
теоремы 1.2.4 следует, что для всех функ-
функций ueC°°(Q), обращающихся в нуль на С, справедливо нера-
неравенство
*J(m2(iV/))d<^JojVu[dx. E)
Из леммы 3.1.2/3 заключаем, что неравенство верно и для
всех иеС"(О), и = 0 на С.
Пусть теперь и — произвольная функция из С0>1(й) и ц — не-
непрерывная кусочно-линейная функция на [0, 1], равная нулю на
[О, х/3] и единице на B/з, 1)- Положим иA){х, у) = и(х, у)ц(у) и
«(*>(*, у) = и(х, у)(\ — т)Ы). Так как | и\ ^\uw | + |"B) |, то Л/, с=
c=WJ/2UW/2 и, следовательно, m2(^V/)^mj(^Vi/2)-fm2(A/{/2). При-
Принимая во внимание условие 6еСод[0, 1], получаем
б (ш, (^)) < б (то (Nft)) + km, (N<t%).
Отсюда и из оценки E), примененной к функции ыA), выводим
^ 8(m2(Nt))dt ^K (\\a\VuW \dxdy + ^Q\ и(^ \dxdy).

152 § 3.5. Компактность вложения L! (п) в I.q (Q) (q^\)
Правая часть этого неравенства не превосходит
K{\\a\Vu\dxdy+\\ju\dxdy), F)
где <B = {(jc, y)eQ: \у\<г/3}-
Оценим интеграл по ш в F). Пусть (х, у) е ю и (х, г) <= С.
Очевидно, что
\и(х, у)\^\и(х, z)\+\\Vu(x, g)\dg,
где интегрирование проводится по вертикальному отрезку, заклю-
заключенному в Q и проходящему через точку (х, 0). После интегри-
интегрирования по х, у и г находим
Итак, $~ б (m2 (Nt)) dt^K (\]a\Vu\dxdy + ^c\u\ dxdy).
Прямоугольник С принадлежит классу /1/2. Поэтому, если
и = 0 на подмножестве Q, площадь которого не меньше чем
l/2m2 (Q), то ^c\u\dxdy^K\]c\^u\dxdy. Следовательно, для
зсех таких функций
\™8(mANt))dt^K\\Q\Vu\dxdy. G)
Подставляя в G) последовательность функций {wm\, построен-
построенную в лемме 3.2.2, получим оценку A) для любого допустимого
множества, площадь которого не превосходит 1/2mi (Q). Итак,
нижняя оценка Л(|х) доказана.
Для того чтобы вывести оценку Л(ц.)=^с6(р), достаточно за-
заметить, что для последовательности {Gm}m>i, где Gm — внутрен-
внутренность Ат U Вт, справедливо равенство s (d,Gm) = б B-mrv) и оценки
4,6 B-т1) ^ m2 (Gm) < 2/.6 B-™-1) Ш
Очевидно, что область Q принадлежит классу Уа, а^1,втом
и только в том случае, если
litn /~*6 (t) > 0. ¦ (8)
К рассмотренной здесь области мы еще вернемся в § 5 сле-
следующей главы.
§ 3.5. КОМПАКТНОСТЬ ВЛОЖЕНИЯ Ц(п) В Lq(u) (<7 3г1)
3.5.1. Класс Ja.
Определение. Множество Q принадлежит классу Ja, где
а>(п— 1)/п, если
lim sup [mn (G)]a/s (dfi) = 0, A)
|i»0

3.5.2. Критерий компактности 1531
где супремум берется по всем открытым подмножествам G мно-
множества Q, удовлетворяющим условию mn(G)^;ii.
Замечание 1. Легко видеть, что условие A) эквивалентно
равенству
lim ц-Чм(ц) = оо, B>
ц-»0
где М— любое фиксированное число из промежутка @, mn(Q))
Замечание 2. В определении класса Ja показатель а больше
чем (п— 1)я-\ так как [тп {B9)Y"-1)ln = const s(dBp).
3.5.2. Критерий компактности.
Теорема. Пусть mn(Q)<oo и п—область. Для компакт-
компактности вложения Ц(п) в Lq(Q), где п/(п— \)>q>?\, необходимо-
и достаточно, чтобы область Q принадлежала классу Ja, где-
Доказательство. Достаточность. Пусть и —произ-
—произвольная функция из Lj(Q)f]CJ (?2)П?=о(?2) с ограниченным носи-
носителем. (По следствию 3.1.2 множество таких функций плотнс-
в L\ (Q).) Очевидно, что при О
Обозначим через т такое число, что mn(Nx)^n, mn (Lx) s=; ,u, где
|х — произвольное число из промежутка (О, М], а М — константа
из определения класса Ja. Используя лемму 3.2.3/1, получаем-
Jo (| и I - т)? dx< (ц/[Яж (fxj]?) (Jo ! Vu | dx
Пусть (о —ограниченная область с гладкой границей, такая,,
что fficQ и 2/ил (Q \ со) ¦< |х. Тогда в силу того что тп (NT) ^ |х,.
находим 2/ил (со П Л^т) ^ |х. Следовательно, $Ju \i dx^s2~1\ni. Та-
Таким образом,
Пусть [uk\k-&i — последовательность функций, удовлетворяю-
удовлетворяющих неравенству |Vuft||L(Q) + ||uft||t(m)< 1.
Так как граница области ю гладкая, то оператор вложения
L\ (ю) в L9(co) вполне непрерывен и можно считать, что {
сходится в себе в L9(co). В силу A)
с \ ит - щ \lq (в) -^ 2|xV9/^ (ц) + [тп (О)/^]1/? | ыт - щ \Lq (
и, следовательно, с lim |um — u,|l (Q)
т. I —»oo "
Остается перейти к пределу в правой части при ц -> +0, имея*
в виду C.5.1/2).

154 § 3.6. Вложение Wj r(Q, dQ) в Lq (Q)
Необходимость. Пусть вложение L[ (Q) в Lq(Q) компакт-
компактно. Тогда L\ (Q) с Z-! (Q) и элементы единичного шара в W\ (Q)
имеют равностепенно абсолютно непрерывные нормы в Lq (Q).
Следовательно, для всех и <= L\ (Q)
{\Q | и |» dx)vq < e (|i) Jo (I Vu ! +1 и |) dx, B)
где G — произвольное допустимое подмножество Q, мера которого
не превосходит ц, а функция е(|х) стремится к нулю при \i -*- 4-0.
Подставим в B) последовательность функций {wm}, построен-
построенную в лемме 3.2.2. Тогда для любого компакта /CcG [тп(К)]1/9^
< се (ц) (s (д[в) 4- тп (G)) и, следовательно, [/п„ (G)]1/? s?
()(^G) ¦
(M)()
Пример. Для области Q = {х: \х' |</(а:л), 0<х„< а} (см. при-
пример 3.3.3/1) условие C.5.1/1) эквивалентно равенству
(S^[/()J)y()] C)
Так как J* [/ (О]" dt ^ [/ (х)]"-1 х, то равенство C) выполнено,
¦если limxa[f(x)Yn-1)ia^1) =0 (в частности, всегда при а = 1).
-§ 3.6. ВЛОЖЕНИЕ W{ r (О, дП) В Lq (О)
3.6.1. Класс множеств /Са.р. Пусть r>0, ueC^Q) и
|" !z.r(da) = (^aa I" lr^sI/r, где s— (n — 1)-мерная мера Хаусдорфа.
"Если г^1, то \u\Lr(da) — норма, а при ге@, 1)—псевдонорма
(см. п. 3,1.1).
Определение 1. Обозначим через №?,r(Q, oQ) пополнение
множества заданных в Q функций с ограниченными носителями,
принадлежащих пересечению пространств Llp (Q) f] С00 (Q) f] С (Q)
в норме или псевдонорме I! V« lz.p(Q) + 1«lz.r (da)- ¦
В этом параграфе изучаются условия, при которых W\t r(Q, dQ)
вкладывается в Lq (Q). В отличие от теоремы Соболева для обла-
областей из класса С0-1 норма в Lr (dQ) в неравенстве
A)
•не всегда играет роль «слабой добавки» к норме градиента в L (Q).
Для областей с «плохими» границами показатель q может за-
зависеть от степени суммируемости функции по границе множества.
Мы увидим, в частности, что для произвольных открытых мно-
множеств U функции из W\, r (Q, дп) суммируемы в Q со степенью
q = n/(n — 1), если г = п/(п— 1).
Определение 2. Открытое множество Q принадлежит клас-
•су ^Са,р, если существует такая постоянная Ш, что для любого

3.6.2. Примеры множеств из класса Ка, 9 155-
допустимого множества g cz Q имеет место неравенство
{тп (g)f < Ш {s (d,g) + [s (deg)?}, B>
где deg = dg[\dQ.
3.6.2. Примеры множеств из класса Ка,^
Пример 1. Произвольное открытое множество п принадлежит
классу /С(я-1)/я. 1. так как условие C.6.1/2) при а = (п— \)/п,
Р = 1 есть классическое изопериметрическое неравенство
К(?)](п-1)/л<([Г A +n/2)]1<»/(nVn))s(dg) A>
(см. п. 6.1.5 и замечание 6.2.2).
Предложение. Если Q e/Ca,i, где а^(п— 1)/п, то Q
где $ —произвольное число из отрезка [(n—l)/na, 1].
Доказательство. Из A) и неравенства
следует, что при любом 6 е[0, 1]
Кte)]°*<c^s(d^), где р =6Н-A -8)(л- 1)/яо.
Если sCegf)^sCigf), то отсюда получаем
K(g)]ap<2cges(ug). C)
Если же s(deg)>s(dig), то в силу B)
К (g)]°*<gf»[s ((%)](>. D)
Объединяя C) и D), заканчиваем доказательство.
Пример 2. Покажем, что двумерная область Q = {(х, у): 0 <
<х<оо, 0<t/<(l H-a:)^-1}, где 0<у^1, принадлежит классу
Ki/y, 1 и в силу предложения Q e ^p/Y. р» где р — любое число из
отрезка [у/2, 1]. .
Пусть g— произвольное допустимое подмножество Q. Прежде
всего очевидно, что
g), E)
где s —длина, а Рг0* — проекция на ось Ох. Так как Y^l. то
= -Г1 [(s (Pro* g) + 1 )v - 1 ]< Г1 [s (Pr0. g)Y>.
Следовательно,
(S I/Y F)

156 § 3.6. Вложение W\ r (Q, dQ) в Lg (Q)
Замечая, что /tt2(g)<$Pr g(l +x)y-1dx, из F) получаем оценку
G)
которая означает, что Q e Ki/y, v
Пример 3. Покажем, что всякое множество Q из класса Ja,
имеющее конечный объем, принадлежит классу Ка. р, где р* — лю-
любое положительное число.
Для любого допустимого подмножества Q, удовлетворяющего
условию tnn(g)<;M, справедливо неравенство
(8)
Пусть ma(g)>M и
2ans (deg) < Af («-D/», где ап = [Г A + n/2)]1/»/n У п. (9)
Тогда в силу изопериметрического неравенства A)
Min-v/n ^ [ma (g)](«-D/« ^ aa (s (dig) +s (deg))
«, следовательно, М1л-1)/л^2а„8(^). Отсюда получаем
[тп (g))a < [mn (Q)]a 2anMW»s (dig), A0)
Если неравенство (9) не выполнено, то
[тя (g)]a ^ К (Q)]a Ban)P [s (aeg)]l». A1)
Из (8), A0) и A1) следует, что Q принадлежит классу Ка, р-
3.6.3. О непрерывности оператора вложения
W\. ,(Q, да) в L,(Q).
Теорема. ?бтгы Qe/(a,p, г^е а«^1, Р5га, /по для всех
«eiF| i/з (О, 6Q) справедливо неравенство C.6.1/1), где а— 1 /а,
1Р
Доказательство. Рассмотрим случай I>f5^a, Пусть
ji — произвольная функция из С°° (Q) f] С (Q) с ограниченным носи-
носителем. Из теоремы 1.2.3 и леммы 1.3.3/1 получаем
A)
Введем множество Ae = {t>0: s(Ei)^[s(Ni(]dQ)f} и представим
последний интеграл в виде ^Д -\- ^СА , где CAt — дополнение At до
положительной полуоси.
Оценим интеграл &\ = \А [тп (Nt)]a® d (t1®). Так как Qe/Ca.p,
то [тп (Nt)]a ^ 2Ш [s (Ne f] dQ)f для п. в. t^At и, значит,

3.6.3. О непрерывности оператора вложения W\ г (Q, дп) в Lq (Q1 157
Рассмотрим интеграл о72 = \СД [/nn(Af/)]a/pd(i1''P). Очевидно, что
* sup (T[mn(^/t)]a)a-p)/p.
CA
При теСЛ, в силу оценки C.6.1/2) имеем [mn (Nx)]a < 2Is (?т)
и, следовательно,
^2 < 2SP-1 $~ s (?,) dt sup (т [т„ (iVt)]aL-P>/P.
х>0
Отсюда с помощью теоремы 1.2.4, получаем
^ ^ 2Ш р-11 Vu Ц@) | и |Щ^. C)
Из неравенств A) —C) следует'
\и\ц,а10) <с» (I V" !|?<а) |«!Ща) + IIи Ьт {да)).'
Рассмотрим теперь случай рз*1. Из условия Q-e/Ca, p выте-
вытекает оценка
$о°° К (^ГЛ < * (\7 s (E<) dt + $~ [5 (N, П aQ)]P dt). D)
Применяя теорему 1.2.3 и лемму 1.3.3/1, имеем
[s (^ П аП)р ЯI/Р < So°° s ( \
Из этих оценок и из D) получаем неравенство
liw|L1/a(a)<^(liVMlL(a,+i|w!1L1/3(aa,). ¦ E)
Приведем пример, показывающий, что для ?2е/Са,р при
«>Р в предельном случае г=1/р теорема неверна.
Пример. Как было показано в примере 3.6.2/2, область Q —
= {(jc, у): 0<jc<oo, 0<^<A+jcJP~1}, где Р е= @, 1/2) принад-
принадлежит классу Ki/2, р- Рассмотрим последовательность функций *
Q э (х, у) -> ит (х, у) = A + х)-*™, кт < р.
Имеем
Iит|l,@) = 2-1/2 («„ - Р)-1/2, | Vumи,,,, = xm/(xm -2Р + 1),
* Каждая из них очевидно принадлежит классу W\ i/p(Q> д Q), так как,
умножая на «расплывающуюся» последовательность срезающих функций, ее
можно приблизить в норме H7J l/^(Q, dQ) функциями с ограниченными носи-
носителями.

158 § 3.7. Комментарии к главе 3
Для и = ит левая часть неравенства |" Sl, (O> « (| !мп> +
4-1| и |!l1/3 E0)) при ит->Р - 0 растет быстрее, чем пра-
правая, и, следовательно, неравенство C.6.1/1) при q=\/a, r=l/p"
неверно.
Замечание. Из доказательства теоремы 3.6.3 следует, что
она останется справедливой и при р* <сс, если в ее формулировке
заменить C.6.1/1) неравенством
F)
Следствие. Каково бы ни было открытое множество п, для
всех и е W{, i (Q, dQ) справедливо неравенство
с точной константой.
Доказательство непосредственно следует из изопериметрического
неравенства C.6.2/1) и из E). Точность константы уже отмечалась
в 1.4.2, когда речь шла о неравенстве A.4.2/8).
§ 3.7. КОММЕНТАРИИ К ГЛАВЕ 3
Результаты настоящей главы в существенной части были сфор-
сформулированы в работе автора [60].
§ 3.1. Лемма 3.1.2/1 доказана в статье Ж. Дени и Ж- Л. Ли-
онса [167].
§ 3.2. Классы Ja были введены автором [60] (см. также [62],
[70]). Лемма 3.2.1/1 доказана Ю. Д. Бураго и автором [11]. Дру-
Другие результаты этого параграфа (кроме леммы 3.2.3/2) получены
автором. Близкое к теореме 3.2.3 утверждение о функциях
класса BV (Q), т. е. о функциях, градиенты которых суть вектор-
векторные заряды, одновременно (и тем же методом) доказано Флемин-
Флемингом и Ришелем [178].
О дальнейшем развитии идеи о связи интегральных и геомет-
геометрических неравенств см. Ю. Д. Бураго и В. Г. Мазья [11] (сум-
(суммируемость следов функций из BV (Q) на дп, точные константы
в некоторых интегральных неравенствах для функций из BV (Q)
и др.; эти результаты изложены в главе 6), М. Миранда [221],
Мичел и Симоне [220], Гоффман и Спрак [199], Оцуки [233],
Обен [149] (неравенства Соболева — Гальярдо для функций на
многообразиях), Федерер (теоремы вложения для потоков) [174],
Климов [36 — 38] (теоремы вложения, связанные с пространствами
Орлича). Лемма 3.2.3/2 доказана Дени и Лионсом [167].
§ 3.3. Содержание этого параграфа взято из работы автора [69].
§ 3.4. Полученные здесь оценки функции X приведены в [213].
§ 3.5- Результаты этого параграфа получены автором [78].
§ 3.6. Содержание этого параграфа взято из диссертации ав-
автора [62].

4.1.1. Эквивалентность некоторых определений р-проводимости 159
Глава 4
О СУММИРУЕМОСТИ ФУНКЦИЙ ИЗ ПРОСТРАНСТВА LP(Q)
§ 4.1. О р-ПРОВОДИМОСТИ
4.1.1. Эквивалентность некоторых определений /J-проводимости.
Через F будем обозначать замкнутые в Q ограниченные подмно-
подмножества открытого множества Q и через G — ограниченные откры-
открытые подмножества Q Пусть FczG. Множество K = G\F назовем
проводником. Объединим в класс Uq(K) функции /б№(B),
такие, что f(x)^\ при х е/7 и f(x)*^O при хеО\С. Назовем
jo-проводимостью проводника К величину
Лемма 1. Справедливо равенство
где через Vq (К) обозначен класс функций {/бС°°(й): f(x) = \ при
x(=F и f(x) = O при xe=?l\G}.
Доказательство. Так как Uq (К) з Vn (К), то достаточно
оценить ср(К) только снизу. Пусть е — произвольное число из про-
промежутка @,1), а / — функция из класса Uq(K), такая, что
^Q\Vf\Pdx^cp(K) + е. Пустьещеф = A+еJ/:-8и cp = min{t|;+, 1}.
Тогда
I ^ !kp(Q) ^ (ср (К) + еI» A + еJ. A)
Введем обозначения: Ф1 = {х: ф=1}, ф2—\х: ф = 0}, Q =
={jc: 1>ф(а;)>0}. Так как Q={x: (I+e)-1>/>e(l+e)-2}, то
closj> QczK-
Построим локально-конечное в Q покрытие множества closa Q
открытыми шарами ЗВйЛ (t = l, 2, ...). Обозначим объединение
этих шаров через Шо- Так как c\os:QaK, то можно построить
это покрытие так, чтобы closo % содержалось в К- Построим
теперь локально-конечные в Q покрытия множеств Ф*\й0, k=\, 2,
открытыми шарами 3Bh, t так, чтобы замыкания в Q множеств
2lft = [J ЗВь.,-, k = 1, 2, не пересекались с clos.., Q. Это возможно,
так как (Ф*\810) flclosj, Q = 0. Очевидно, 4toFc=SIi и (Q\G)cz%.
Пусть a,,j6f№,i) (k = 0, 1, 2; t = l, 2, ...) и пусть в Q
справедливо равенство 2*=о 2П=1а*-«'= ^ Определим при каждом
i = 1, 2,.., функцию Р; е $0 (з^о.,), такую, что \ V (ао,^ф — C;) |i (a) =^

160 § 4.1. О р-проводимости
в'. Далее положим v0.i = p\, t>i. (- = cti.г, u2,i = 0,
Функция и бесконечно дифференцируема в Q, так как каждая
точка области Q содержится лишь в конечном числе шаров <33k.h
и поэтому в сумме B) всегда лишь конечное число слагаемых.
Очевидно, что
ii v (ф -if) kpW ^ 2*-о SH-i iv («*.«ф -у*-') ц,<о>.
Так как ф = 1 на e$?i.j и У1.г = а!,,-, а также ф = 0 на <33*.1 и
у2,/ = 0, то
|У(ф-ы)Ц(П)<2Г=11у(ао1«(Р-РОкр(й)^е/A-е). C)
Поскольку F d 2li и F f]5lo = Ф, то на множестве F: ам=р;=О,
f2.« = 0. fi.i= oi.ii ao,i = O, а2.г = 0. Поэтому на F " = 2<-li yi-i=
= .S/Lo2r=ia*.«"=1- Кроме того, fft.i = O на Q\G и, значит,
на этом множестве ы = 0. Итак, ме1/с(^).
Наконец, в силу A) и C)
У'Р + г(\-гу-К Ш
Пусть TQ (K) = {f<= Va (К), 0</< 1 на ^}. В дальнейшем
будет полезным следующий вариант леммы 1.
Лемма 2. Справедливо равенство
cp(/O = inf{$a|V/|*d*: feT0(K)}.
Доказательство. Поскольку TQ(K) czVq(K), достаточно
оценить ср(К) только снизу. Пусть е>0, Хе ^С°(—со, +°°),
Я,е@ = 1 при *Ssl, Xe(t)=O при t^O, O^K(t)=?^l+e и пусть
Ф е Vq (К)- Введем функцию f = Xs (ф) е Tn (/Q- Очевидно, что
$а | V/1*<& = Ja [^ (Ф)р | V9 f Лс ^ A+ е)" \Q | V9 \pdx
и, следовательно,
4.1.2, Некоторые свойства р-проводимости. Остановимся на
некоторых простых свойствах р-проводимости.
Рассмотрим два расположенных в области Q проводника K=G\F
и К' = G'\F'. Будем говорить, что проводник К,' является частью К
(К' а К), если F <=. F' czG' czG.
Из определения р-проводимости немедленно вытекает следую-
следующее утверждение.
Предложение 1. Если К' czK, mo

4.1.3. Принцип Дирихле с предписанными поверхностями уровня 161
Предложение 2. По любому е> 0 для произвольного проводника К,
имеющего конечную р-проводимость, можно построить проводник
К' cz К, такой, что
К')-ср(К)^0. A)
Проводник К.' можно выбрать так, чтобы d-tF' и d-jG' были много-
многообразиями класса С°°.
Доказательство. Правое неравенство следует из предло-
предложения 1. Пусть функция f&Ua(K) такова, что
cp(/0 + e/2>-Ja|V/|"rfx, B)
и пусть 2б = 1-[(е + 2ср(/С))/Bе + 2ср(/С))]1/Р. Можно считать, что
множества {х e Q: f (х) ~ 1 — 6} и {х е ?2: f (х) = 6} — многообразия
класса С°°, так как в противном случае можно заменить б сколь
угодно близким числом, удовлетворяющим этому условию. Пост-
Построим проводник К.' следующим образом: К' = G'\F', где F' =
= {jc e= Q: f (jc) 5э 1 - 6}, G' = {xi=Q:f (x) > б}. Тогда из B) получим
-8)/(l -2b))\Pdx.
Но функция A — 2б)-'(/ —б) принадлежит классу Uq(K')- Следо-
Следовательно, (ср (К) + е/2)/A — 26)р>ср (К'), что равносильно левому
неравенству A).
Предложение 3. Пусть /C1 = Gi\F1 и Кг = G2\F2 — произволь-
произвольные проводники в Q. Тогда
C)
где K[] = (Gx[]Gi)\(F1{jF,), K() = (G1'[}Gi)\(F1(}F2).
Доказательство. Пусть е — произвольное положительное
число и функции fi и fi из классов Uq (Ki) и Uq (Къ) соответст-
соответственно таковы, что
\ .D)
Введем функции M=sup{h, f2}, m = inf {fu f2]. Очевидно, что
M и т удовлетворяют условию Липшица в Q и что М^\ на
FjUF2 и М<0на Q\(Gi(JG2), а также m^ 1 на Fi ПF2 и
на Q\(Gif]G2)- Кроме того,
Отсюда, используя D) и лемму 4.1.1/1, получаем C).
4.1.3. Принцип Дирихле с предписанными поверхностями уровня
и его следствия. Доказательства следующих лемм 1 и 2 и следст-
следствий 1 и 2 существенно не отличаются от доказательств аналогич-
аналогичных утверждений для (р, Ф)-емкости в пп. 2.2.1—2.2.3.
6 В. Г. Мазья

162 § 4.2. О мультипликативном неравенстве для функций ...
Лемма 1. Для любого проводника К в Q с конечной р-проводи-
мостью справедливо равенство
где Ex = {x(=Q: f(x)=x\.
Лемма 2. Пусть f — функция из С00 (Q) П Lp (Q). Тогда при п. в. t
[s (Et)?«r-v IV/ JZ^ {B() ^ - (d/dt) [mn (Lt)], B)
где L( = {x: f(x)>t}.
Следствие 1. Для любого проводника KeQверно неравенство
C)
Следствие 2. Пусть F —ограниченное замкнутое в Q, a G
и Н—ограниченные открытые подмножества Q, причем FczG,
close G с:Н.
Рассмотрим проводники Ki=G\F, K2 = H\c\osaG, Ks = H\F.
Тогда
[cP (Ki)^"-1' + [cP (K*)}-1'^» < [cp (/Сз)]^"-1». D)
Приведем еще одно свойство р-проводимости, доказательство
которого аналогично доказательству теоремы 2.3.1 (см. также заме-
замечание 2.3.1).
Лемма 3. Пусть usC°''(Q), и = 0, вне открытого ограничен-
ограниченного множества GczQ и пусть Kt — проводник G\Nt- Тогда при
1 справедливо неравенство
$о°°ср (Kt) d (tP) < (рр/(р - I)"-*) $Q | Vu \p dx. E)
При р =» 1 коэффициент перед вторым интегралом в E) равен
единице.
§ 4.2. О МУЛЬТИПЛИКАТИВНОМ НЕРАВЕНСТВЕ
ДЛЯ ФУНКЦИЙ, РАВНЫХ НУЛЮ НА ПОДМНОЖЕСТВЕ П
В этом параграфе найдено необходимое и достаточное условие
справедливости неравенства
Q) A)
для всех функций, обращающихся в нуль на некотором подмно-
подмножестве Q.
Пусть G — открытое ограниченное подмножество О. При р>\
положим
№ а) =sup ([mn{F)r/[cP(G\F)]llp),
in

§ 4.2. О мультипликативном неравенстве для функций... 163
где {F} — совокупность замкнутых в Q подмножеств G, таких, что
•ep(G\F)>0.
\\ Через 81g' a) обозначим величину 81g°, введенную в п. 3.2.3,
т. е.
гДе Ы\ — совокупность допустимых подмножеств G.
Следующее утверждение обобщает лемму 3.2.3/1 (случай
q*^p=\).
Лемма. Положим р^\ и обозначим через G открытое ограни-
ограниченное подмножество Q.
1) Пусть 8l?f'a)<oo и числа q, a, p связаны одним из условий:
=a-1 при a/j==sl,
(ii) q<q*=ar1 при a/j>l.
Тогда для всех функций и eC0I(Q), равных нулю те G, спра-
справедливо неравенство A), в котором г е @, q), x = r (q* — q)/q (q* — г),
2) Пусть q*>0, re @, q*) и при некотором q e @, q*] для
любой функции иеС0'1^), равной нулю вне G, выполнено нера-
неравенство A), в котором % = r(q*—q)lq(q*—г) и С —постоянная,
не зависящая от и. Тогда С =s с (!#• а))и*.
Доказательство. 1) Дословно повторяя доказательство
первой части теоремы 2.3.4 (при \и=тп), приходим к неравенству
1 и \\Lg @,- < с (JT К (Nt)Y* t»'1 dt)ib-*)/p \u?rW. B)
Отсюда при р >> 1 получаем
I и к, <ш < с № «Т* (? ср (Kt) t^ &)**» 1 и \lr т,
где Kt — проводник G\Nt. Остается воспользоваться леммой 4.1.3/3.
В случае р — \ неравенство A) следует из B), леммы 3.1.2/3
и формулы
\0\Vu\dx = ^s(Et)dt C)
(см. теорему 1.2.4).
Пусть р>1. Зафиксируем малое число б>0 и положим
pe = sup (К (F)Ya/cp (G\F))
на множестве всех FczG, таких, что cp(G\F)^6. (После под-
подстановки в A) произвольной функции из Та (G\F) получается
неравенство
[Ср (G4F)]1-* ^ С-р [та
6*

164 § 4.3. Классы множеств
Отсюда следует, что совокупность множеств F, содержащихся в G
и удовлетворяющих условию cp(G\F)^8, непуста.) Очевидно, что
Ps «S б [тп (G)]1**. Далее следует повторить доказательство второй
части теоремы 2.3.4, используя лемму 4.1.3/1 вместо леммы 2.2.2/1
и заменяя (р, Ф) —cap(F, Q) на cp(G\F) Тогда придем к нера-
неравенству Рв<сО/A-х), которое в силу произвольности б дает оценку
С^с№аТх при р>\.
Рассмотрим случай р =¦ 1. Пусть g — любое допустимое подмно-
подмножество G. Подставим в A) построенную в лемме 3.2.2 последо-
последовательность функций {wm}m>i- Тогда
[s (с^)]1-* S* С-1 [тп (ё)]Уч [гПп (g)]-^>
что в силу произвольности е дает s (dtg) ^ С-1 [тп (g)]a- Ш
Следствие. Если Р\>р^\ и ai — pji = a — p-1, то
Доказательство. Подставим в A) вместо и функцию |и|?1/',
где qi > q, qjl — рГ1 = Я~х — Р~х- Тогда
и\\ь„ (Q)^c{qxlqI-K{W6¦а>) -*[\uH*-«VPVu[i. (a)|"|L (a), D)
где r\ = rqxlq. Применяя неравенство Гельдера, получаем
\а | и !Р(«.-«)/« | Vu \Pdx^ ($Q ! и \Ui-v)ppinPi-p)vdxypl~p)/PlX
Отсюда и из D) следует неравенство
где xi = rx (q* — qi)/qi (q* — rt), q* = cqi. Используя вторую *асть
леммы 1, получаем неравенство Ш.Ч1' ai)^c3l((f" a). Ш
§ 4.3. КЛАССЫ МНОЖЕСТВ 1р,а
4.3.1. Определение и простейшие свойства классов 1р.а-
Определение 1. Область Q принадлежит классу 1Р,а(р^1,
а>0), если существует такая постоянная Ms@, mn(Q)), что
%Р. а (М) Si sup ([mn (F)]*/[cp (К)]1'?) < оо, A)
{К)
где {К}— совокупность проводников K = G\F в Q с положитель-
положительной /j-проводимостью, удовлетворяющих условию mn(G)«s7W.
Из предложения 4.1.2/2 следует, что если Q е 1р,а, то тп (F)=0
для любого проводника K = G\F с нулевой р-проводимостью.

4.3.1. Определение и простейшие свойства классов /р, а 165
Замечание. При а<(п — р)/пр, п>р, класс 1р,а пуст, так
как в этом случае ср(В2г\Вг) = constг"-р, и поэтому
[тп (Br)f/[cp (B2r \ Br)f'P = const r" <«-<»-* )Шр) ^ со п ри л -> 0.
Предложение 1. Если область Q есть объединение конечного
числа областей из класса 1р-а, то она принадлежит тому же
классу.
Доказательство. Пусть Q = Qi(JQ2, Qjе/р,а, где f = 1, 2.
Тогда существуют такие постоянные Mi, Мг, что для любого
проводника Ki = Gi\Fi в Cit, такого, что mn(Gi)^:Mi, справед-
справедливо неравенство
Положим М =т'т{М1, М2) и обозначим через К такой про-
проводник G\F, что mn(G)*S:M. Пусть еще & = GГ) Qj, Ki = Gt\Fi.
Если cp(/(i) = 0, то mn(Fi) = 0 и, значит, mn{F)=mn (F2). Следо-
Следовательно,
К С7)]* < «Р.*« W [СР (/(г)]1/" ^ «?,' а (М,) [Ср
В случае cp(Ki)>0 A = 1,2)
\с,(К)}1'" ^С[[UK!)}1'" + [с,
Определение 2. Будем говорить, что Ж — допустимый
проводник, если <%" = l\closQ|r, где Э и g — допустимые подмно-
подмножества Q (см. определение в начале п. 3.1.1).
Предложение 2. Справедливо равенство
SUD (К (g)f/[СР (Ж1)]»/"), B)
где \Ж\ — совокупность допустимых проводников <%" = ,?\c1osqg
с положительной р-проводимостью, таких, что mn(g)<:M. (Сле-
(Следовательно, в определении класса 1р>а можно ограничиться допу-
допустимыми проводниками.)
Докажем неравенство
21р.а(Л4)< sup ([/пя(g)]a/[cp(Ж1)]1^). C)
Обратное неравенство очевидно. Пусть К — любой проводник из
определения 1. По любому е>0 найдется допустимый проводник
&? = 3>\c\osQg, ЖаК, такой, что ср(КJьA — е)ср(Ж) (см.
предложение 4.1.2/2). Очевидно, что mn(g)^,M и
К (ПГ/[сР (К)]1/р < [тп (g))a/V ~ «01/р {сР
что немедленно дает C).

166 § 4.3. Классы множеств /р, а
4.3.2. Совпадение классов 1х,а и Ja.
Лемма. Классы /1|(Х и Ja совпадают и
И».а (М) - sup (|т„ fe)T*/s (<3,g)), A)
(в)
Ы — совокупность допустимых подмножеств Q, таких, что
M
n(g)
Доказательство. Пусть g — допустимое подмножество Q,
такое, что mn{g)*^M и {Wm}mэ>i — последовательность функций,
построенная в лемме 3.2.2. Из свойств {wm\ следует неравенство
\e) для любого компакта в, содержащегося в g. Если
то [mn(e)]a^Wi,a(M)s(dig) и, следовательно,
Допустим, что QWai и обозначим через К произвольный
проводник G\F, удовлетворяющий условию mn(G)^:M. Из фор-
формулы D.2/3) для любой функции i &TQ(K) получаем
^ Inf (s (ддЦтп (g)?) К (F)T- B)
Так как по лемме 4.1.1/2 inf {] | Vf\dx: f ^Ta(K)}=c1(K), то из
B) следует неравенство 2li,a(Al) = sup ([mn(g)]a/s(dtg)). Ш
Ш
4.3.3 Необходимое и достаточное условие справедливости
мультипликативного неравенства для функций из Wj,iS(Q]. Из
лемм 4.2 и 4.3.2 получаем следующее очевидное утверждение.
Следствие. 1) Пусть 91р.а(Л1)<оо при некотором М е
е@, mn(Q)). Тогда для всех функций ыеС01(?>), таких, что
mn(supp и)^М, верно неравенство D.2/1), где re@, q), к =
= r(q*—q)/q(q*— r), q —число, определенное в лемме 4.2/1 и
\p,()Y
2) Если неравенство D.2/1) справедливо для всех функций
C'fQ),таких, 4momn{suppu)^M<mn(Q), тоС^с[ШРга(М)]1-х.
Целесообразность введения классов /р,а оправдывается следую-
следующим утверждением.
Теорема.-1) Пусть йе/ра и q — положительное число, удов-
удовлетворяюще одному из условий: (i) q^q* =or\ если p^q*, или
(ii) q<q*, если p>q*- Тогда для любой функции usWp>s(Q)
справедливо неравенство
9p 0)f A)
где s<q*, r<q, x~r{q*-q)/q(q*-г), С, =
Л(А1)

4.3.3. Необходимое и достаточное условие ...
167
2) Пусть <7* > 0 и при некотором q e @, q*] для всех функций
и е W},,, (Q) выполняется неравенство A), где 0 ¦< s ¦< <? *, 0<Lr <.q*,
x = r(q* — q)lq (q* — г). Тогда Q e lp.a при a = l/q*, и ест постоян-
постоянную M из определения класса 1Р,„. ввести равенством М =cC\q*/<»-«*>,
где с — достаточно малая положительная постоянная, зависящая
только от р, q*, s, то Ci^c2lpce(Af).
Доказательство. 1) В силу леммы 4.1.1/1 достаточно по-
получить A) для функций и е Lj, (Q) Л ^Щ Л С°° (Q) с ограничен-
ограниченными носителями. Пусть T = \nf\t: тп(Ы()<М}. Очевидно, что
mn(Lt) «SM ^mn{Nt). Отметим далее, что
B)
Для оценки первого слагаемого справа преобразуем его следую-
следующим образом:
dx =
\а \nt !" I**(*
и воспользуемся неравенством Гельдера:
~г)
"* ~
\ "I ax) [)q\nt\u\ )
Так как ы<Т на Q\NT, то правая часть последнего неравен-
неравенства не превосходит
j" ~гШ9' ~r)
и j» dxj
)x
Отсюда получаем
L \ nt
" \"dx < M{$~ **' ""
X
-^ C)
Оценим второе слагаемое в правой части B). Учитывая, что
\и(х)\^Т на Nt и mn(NT)^M, получаем неравенство
- «•><«- /¦)/««• - /¦) х

168 § 4.3. Классы множеств /р,а
Объединяя эту оценку с C) и B), находим
Остается применить к функции (|ы| — Т)+ первую часть следствия.
2) Пусть М— любая постоянная, удовлетворяющая неравен-
неравенству 2coM1/s~1/9*Ci< 1, где с0 —зависящая только от s, p, q, q*,r
постоянная, которая будет введена в конце доказательства.
Через б обозначим произвольно малое положительное число,
а через К — проводник G\F в Q, удовлетврряющий условиям
mn (G) < М, ср (К) Ss 6. Определим еще функцию Ре =
sup [пг„ (G)]p/g/cp (К), где супремум вычисляется на множестве всех
только что 'Выделенных проводников. Очевидно, что рв<оо и
что
%.а(М)= lira Щ". D)
в- + о °
Так как s<lq*, то для любой функции иеТо(К) справед-
справедливо неравенство
sup ([mn(Nt)]1/9t/[cp(G\Nt)]l'P)\\Vu\\L (
где /<s (см. доказательство первой части леммы 4.2/1).
Отметим теперь, что поскольку cp(G\Nt)^cp(K)^:8, то
К(#,)]"/«• ^р6ср(G\Nt). Кроме того, ||и\L(@)«SMlfi-1/s|iu||^(И).
Следовательно, Iu|z, (Q>^cAl1/J-1/*py''|Vu||z, (а>. С помощью этой
оценки из A) выводим
К (F)]v* ^ (с,+ctKw-wcf* i v«i ii;ra)!! и izr(o).
Далее следует повторить доказательство второй части теоремы 2.3.4,
используя вместо леммы 2.2.2/3 лемму 4.1.3/1 и заменяя (р, Ф) —
— cap (F, G) на ср (/(). В результате получим оценку
Учитывая определение постоянной М, отсюда выводим, что
pe(Al)^BcoCi)p. Остается воспользоваться равенством D). ¦
4.3.4. Функция \MiP и связь классов /ра и Ja.
Определение. Пусть v^>p(/)—точная нижняя граница ср(К)
на множестве всех проводников K = G\F, удовлетворяющих усло-
условию: mn(F)^st, mn(G)^M.
Аналогично предложению 4.3.1/2 доказывается, что в этом опре-
определений можно ограничиться допустимыми проводниками. Из нера-

4.3.5. Оценки v^ p для некоторых конкретных областей 169
венства D.2.3/3) немедленно получаем следующее утверждение,
связывающее vM,P с функцией Км, определенной в 3.2.4.
Предложение 1. Справедливо неравенство
v*. Р @ 3* ($? [** (a)ynt-P) doI-". A)
Очевидно, что при р s= 1
«Л«(Л*)= sup ^[v^pW]-1^. B)
Отсюда следует, что множество ?2 принадлежит классу 1р.а в том
и только в том случае, если
Ит H^.p@>0. C)
Как уже было отмечено в 3.2.4, множество ?2 принадлежит классу
Ja = h,a в том и только в том случае, если lim /-"J^i @ > О-
Предложение 2. Если Q е Уа+(р_1)/р, moQ s Jpau имеет место
оценка
% У^ D)
Доказательство. Из A) получаем
v*. р @ 5* [9li, а+(р-1)/р (Af)]-* (Jf
Вообще в силу следствия 4.2, р1'>р^\ и ai — pf' = а —/г1,
то класс /р>а является частью класса /Рь а, и ЯР1. aj (M) ^t9lp, ,(Л1),
4.3.5. Оценки v^,p для некоторых конкретных областей. Рас-
Рассмотрим несколько областей, для которых можно дать явные дву-
двусторонние оценки функции \м.р-
Пример 1. Пусть ?2 — область {х: | х' | < / (х„), 0 < а:„ < а}, уже
рассмотренная в начале п. 3.3.3. Покаж м, что справедливы оценки
где ^ — постоянная из неравенства D.3.2/2), зависящая от Л1,
а функция а определена равенством р. =и„_1^ы[/(т)]л-1с(т.
Рассмотрим проводник /C|t.Af = Ga(M)\closaGa((J,), где Ga ==¦•
= |хей: 0<jcn<aJ. Очевидно, что функция ы, определенная
равенствами м(дс) = О вне Ga(^), u(jc) = 1 на Ga((J,) и
u (je) = $"(Л1) dx/f/ (т)]"
 на

170 § 4.3. Классы множеств /р>а
принадлежит классу иа(Ки,м)- Поэтому, подставляя ее в инте-
интеграл ^a\Vu\Pdx, находим
СР (К* м) ^ (? {и,' [/ (Т)]^"^» dxI"".
Используя определение v^,p(m.), отсюда получаем правое нера-
вентсво A).
Подставляя левое неравенство C.3.3/1) в D.3,4/1), выводим
требуемую нижнюю оценку для функции vMiP.
Из A) следует, что fi e /ЛA в том и только в том случае, если
Ш (ft [/ (т)]"-1 dx)ap/(p-v \°х U (т)]»1-"'/»"-1) dx < оо.
В частности, для области
Q<*> = {х: (х! +... + 4 -1I/2 < а%, 0 < хп < 1}, B)
где Х>(р— 1)/(п — 1), при малых / справедливы неравенства
c^p<v^p@^c'^, где а = [Цп-1)+1-/>]/р[Х(п-1)+1).
Таким образом, область B) принадлежит классу 1ра и для нее
1
Пример 2. Пусть Q — область из примера 3.3.3/2. С помощью
оценок C.3.3/4) для функции Хм, рассуждая так же, как в при-
примере 1, получаем неравенства
kP (E т V (
. p (ц) <
C)
Следовательно, йе/,,а в том и только в том случае, если
Em (С U W]" dx)^'"-1' ft [f (т)]^Пр-1) dx < оо.
X—* + ОО
В частности, для области {х: х]+ ... + 4_, <A +дг„)-2р,
0<л;л<оо}, где Р(п —1)>1, при малых t справедливы нера-
неравенства ер? ^vM р (f) ^ c'taP при ар = [р (п — 1) — 1 + р] х
х[Р (п - 1) - I]-1 (здесь ар > 1).
Для области \x:x] + ... + xl-i<e~cx>>, 0<дс„<оо}, где с =
= const > 0, из C) получаем cn^v^-p(^)^cV. и, следовательно,
эта область принадлежит к классу /р, цр.
Пример 3. Пусть ?2 —область на плоскости, рассмотренная
в примере 3.3.3/3. Предложение 3 вместе с нижней оценкой C.3.3/6)
для функции % дает следующую оценку vMiP{t) снизу:
v*., (Q^Cfl (JUS, [6 (Ф)]-1^-1' dq,I-', D)
где в—функция, определенная формулой C.3.3/7) и б = е2 — е^

4.4.1. Об оценке нормы в Lo, (Q) при q* < р ...
171
Для того чтобы получить аналогичную оценку сверху, вве-
введем проводник G9(o\c1osqG9(m), где G9 = {pei(pe?2: 0<ф<8},
и функцию а, определенную равенствами: и=0 вне Ge(<),
« = 1 на G9(W,
на
.Очевидно, что
Отсюда и из D) получаем
vMtP (t) <
)'. E)
В частности, для области
{ре<9: 1-(8 + ф)И»>р>1-(8 + Ф)Н>-
-е(8 + Ф)-р, 0<Ф<оо}, F)
где 0<с<2л(Р — 1), Р>1, при малых t
справедливы оценки ctap^vM>p(t)^c'tap,
где а = (Р — 1 +р)/рф — 1). Таким обра-
образом .область F) является примером ограни-
ограниченной области из класса /р.а при ра>» 1.
Пример 4. Покажем, что примыкающие
друг к другу непересекающиеся цилиндры
Gj = {x:\xn-aj\<aj, Ь))
где ^^ '
чае lim aj = оо
/->00
= {x<=Gj: \xn-aj\^aj/2\ и т)еСГ([О, 1)), r\(t) = l при /е
е[0, 1/2). Подставляя в норму \Vu\l (ал функцию х-*-
-+У)(<х„—ц\/ц), получаем, что cp(Gj\FJ)^:cafpnin(Fj). Поэтому
I'm \i-1vM.p(v) = O.
'u-»o
§ 4.4. ВЛОЖЕНИЕ WlPi , (Q) В Lq, (Q) ПРИ q* <p
4.4.1. Об оценке кормы в Lq* (Q) при q*<p для функций,
равных нулю на подмножестве Q. Если множество й принадле-
Рис. 15.
yl<^. Jti4-... + «-i<:o7b
'<оо, (рис. 15) образуют область, которая в слу-
не принадлежит классу /р, !/р. Пусть Fj =

172 < 4.4. Вложение Wlp stQ) в Lq (Q) при q<p
жит классу Ip,a, ap^l, то согласно теореме 4.3.3 оператор вло-
вложения WpiS(Q) в Lq* (?2), где q* = сг1, ограничен Следующий
пример показывает, что при а/? > 1 (или, что равносильно, при
p>q*) неравенство D.3.3/1) с предельным показателем q = q* = сг1
может не выполняться.
Пример. Рассмотрим двумерную область Q={(a;1, х^;\хг\<.
<A+х2)"р, 0<х2<оо}, где ji>l. Как было показано в при-
примере 4.3.5/2, эта область принадлежит классу /р, i/p+i/fp-n- Дока-
Докажем, что при q = q* = р(Р — 1)/(р + В — 1) неравенство D.3.3/1)
неверно.
Для последовательности функций «m(jCi, jc2) = A +xi)y'n, ym<-
<1+(Р — Ц/р, т=\, 2, ..., справедливы равенства
I V«m \lp (D) = 2vm/[P - 1 - p (ym — 1)],
Так как s<.q* <p, то левая часть неравенства D.3.3/1) для
функции ит стремится к бесконечности при m -»¦ оо быстрее, чем
правая.
Итак, при p>q*=a-1 принадлежность области Q классу/р,а
необходима, но не достаточна для справедливости неравенства
D.3.3/1) с предельным показателем q = q*- В теореме 4.4.2 будет
получено необходимое при q ^ 1 и достаточное при q > 0 условие.
Пусть G — ограниченное открытое подмножество Q. Обозначим
через 5(G) любую неубывающую последовательность {Gj}
(— оо < /' < оо) открытых подмножеств G и через Kj — проводник
G/+i\closi2 Gj. Положим
где ар > 1, /? S& 1.
Лемма. 1) ?слы ©^'"^оо, то для всех и^С°- ' (Q), обра-
обращающихся в нуль вне G, справедливо неравенство
>
|ub,e.(Q,<C|Vuk,p(O). A)
гае <7* = а-\ ар>\ и С^сЪ^^-
2) ?слы неравенство A) справедливо при некотором q* e[l, р)
всех функций и ёС- ' (Q), равных нулю вне G, то С^сЪ(в' а)-
Доказательство. 1) В силу теоремы 1.2.3

4.4.1. Об оценке нормы в Lq, (Q) при q* < p ... 173
где, как обычно, Nt={x:\u(x)\^t}. Применяя неравенство Гель-
дера, получаем
Определим функцию иу равенствами vj= 1 на W2/, и/ = 21~-'|ы| — 1
на L^-i\N2j, и/ = 0 на QXL^-i. Так как иу е Gа (L2/-i\./V2/), то
) Ja | Vuy \p dx = 2< W) p J Vi ч ^ | Vb ,p dx.
Поэтому
2) Рассмотрим какую-либо последовательность 5 (G) и положим
при vzC.N, /v = 0 при \>N, tv = LN при v< —jV. Через «v обо-
обозначим произвольную функцию из класса ?/q (a"v) и определим в Я
функцию ы равенством и (х) = (/v — /v+1) uv (x) Ц- <v+i при jeeA*v.
Так как функция ы принадлежит классу Со> ' (Q) и равна нулю
вне G, то для нее верно неравенство A).
Используя теорему 1.2.3, получаем
Jo W' dx.
Отсюда из A) и из неравенства (/, — tJ+1)i* «j tf — tf+i следует, что
T— n(Ь- WL I V«y\>dx.
Поскольку «/ — произвольная функция из Ua(f(j), то, минимизи-
минимизируя последнюю сумму, получаем
Наконец, замечая, что
tj - tj» = {[тп (GjW'/c,, (Kj))<4b -"'\ \I\<N,
приходим к оценке
2?=_ N ffm» (Gj)YqtlcP

174 § 4.4. Вложение Wp s (Q) в Lq (Q) при q<p
4.4.2. Классы множеств HPt a и вложение WPt s (Q) в Lq* (Q) при
q* <.p. В этом пункте вводятся классы Нр,а множеств, в терми-
терминах которых удается дать необходимое и достаточное условие
вложения №p,j(Q) в Lq* (Q) при q* <p.
Пусть ар > 1. Положим
33 а (М) = sup {У^0 [(/Яд (G/)]ap/(p~1V[c (/С/)]1/(ар~1)Iа~1/Р.
"' (S) * ' °° " '
где М — постоянная из промежутка (О, mn(Q)), a {5}—совокуп-
{5}—совокупность всех неубывающих последовательностей 5 открытых огра-
ограниченных множеств Gj, —оо-</-<оо, содержащихся в Q и таких,
что т„/МGj\*?zM\ через К/ обозначен проводник Gj+i\cIosqGj.
Определение. Множество Q принадлежит классу Яр>а,
если '.Эр, а (М) < оо при некотором М е @, т„ (Q)).
Из леммы 4.4.1 получаем следующее очевидное утверждение.
Следствие 1. 1) Пусть ар> 1 и Шр.а(М)<оо. Тогда для
всех функций ибС0'1^), таких, что /nn(supp«) ^M, верно не-
неравенство D.4.1/1), где q* =а~* и С^сЪр,а(Щ-
2) Если неравенство D.4.1/1) справедливо для всех функций
ueC°J(fi), mn (supp и) ^ М, то С^сВр,а(М).
Повторяя с очевидными упрощениями доказательство тео-
теоремы 4.3.3, из следствия 1 получаем следующее утверждение.
Теорема. 1) Пусть ар>\ и п^Нра. Тогда для всех не
е Wp. s (Q) верно неравенство
где q* =or1, s<Cq*, Ci=cM{~s~Qt)lsqt, Ci^d3p>a(M).
2) Пусть неравенство A), где \^q*<.p, s<.q*, справедливо
для всех функций ue№p>s(Q). Тогда йейд01 и если постоян-
постоянную М из определения класса Нра ввести равенством М =
= cCl" /<s ~ * ', где с — достаточно малая положительная константа,
зависящая только от р, q*, s, то Ci^6'sSp-a(M).
Следствие 2. Если pi~>p^\ и a1 — p~[l=a — p-i, то
33cf'' at)^сЪо'' а' для любого множества G. (Следовательно,
Это утверждение доказывается так же, как и следствие 4.2.
4.4.3. Вложение LP(Q) в LQ* (О)для областей конечного объема.
Приведем необходимое и достаточное условие справедливости
«неравенства Пуанкаре»
т\^\и -c\Lqt m^C\\Vu\Lpm (I)
в предположении, что Q — область и т„ (Q) <; оо.

4.4.3. Вложение Dp (Q) в Lq, (Q) для областей конечного объема 175
По лемме 3.2.3/2 это неравенство и вложение Lp(Q) в Lq* (Q)
(pSsl, q*5?l) эквивалентны Случай т„(п) = оэ рассмотрен
в п. 4.7.5.
Теорема 1. Пусть Q — область конечного объема. Тогда:
1) если 3tp>aA/2mn(^))<oo при ар<1 или ^p,a(t/imn(Q))<oo
при ар > 1, то для всех функций и е Vp (Q) верно неравенство A),
б котором q* = or1, С <sg c33p. a О/г^п,, (Q)) «р« aps^l ы С=^
< сЗЗр, a (Vs/h* (?2)) "Р" ap > 1;
2) если существует такая постоянная С, что для всех функ-
функций и s Lp (Q) справедливо неравенство A), где q*^\, то С^
&?to)) при a~1 = q*5zp и С^сЪр а^1гтп{Щ при
Доказательство. Достаточность доказывается так же, как
и теорема 3.2.3. При этом вместо леммы 3.2.3/1 следует приме-
применить следствие 4.3.3 в случае ap^l и следствие 4.4.2/1 в слу-
случае ар < 1.
Необходимость. Пусть « — произвольная функция из
С0' ' (Q) П L\> (9), такая, что
тп (supp «) < 1/.гт„ (Q). B)
Существует число с0, для которого
1 и -civ (Q> =c inf, I U~CK'(Q)- C)
Отсюда и из неравенства A) получаем
Up u\u — co\q' dx + \co\<i' mn(Q\ supp и) =s? C«* \ Vu Ц' (Q).
Следовательно, 1kmn (Q) \ с0 \ч* < Cq* J V« \f (Q).
Так как H«|z.?.<Q)<|c01 [mn (Q)]1'»* +|« —co|?.?. (qi,
то, используя A) и C), получаем для всех функций «еС0Л(О),
удовлетворяющих условию B), неравенство
Остается сослаться на следствия 4.3.3 и 4.4.2/1. В
Теорема 2. Пусть Q — область конечного объема. Простран-
Пространство Lp (Q) вложено в Lq> (Qj в том и при q* Ss 1 только в том
случае, если Qe/p, i/,- при p=^q* и йеЯл уя» при p>q*.
Доказательство. Необходимость следует из леммы 3.2.3/2
и теоремы 1. Для того чтобы доказать достаточность, следует
показать, что если при некотором М е^ @, 1/2тп (Q)) величины
Шр,а (М) и 91Р>„ (М) конечны, то справедливо неравенство A). Пусть

176 § 4.4. Вложение Wps(Q) в Lq (Q) при q<p
ue=Lp (Q) П C°-' (Q) и T = inf {*: mn (Nt) s? M}. Отметим, что
\alurdx^c[\Q(\u\-Ty+dx+To*M\.
Используя следствия 4.3.3 и 4.4.2/1, отсюда выводим
где С —постоянная, не зависящая от и.
Обозначим через со ограниченную подобласть Q с гладкой гра-
границей, такую, что тл(?2\ю)<М/2. Очевидно, что
Следовательно,
lulLq.w^C{Vu\LpW + cMV<>--VPlutLpw. D)
Так как для области со верно неравенство
inf \u-ch „a
р
то из D) получаем неравенство A) для области Q.
4.4.4. Достаточные условия принадлежности множества
классу Нра- Доказываемые здесь предложения приводят к сле-
следующим формулируемым в терминах функций \м,р и Хм доста-
достаточным условиям принадлежности области классу Нр>а:
A)
5. B)
Предложение 1. Если ар~>1, а<;1, то
%. а (М) < {(арЦар - 1)) $* [T/vM, p (t)]V(«p-i) dT}«-i/p. C)
+ 00
Доказательство. Пусть G= (J Gj, где {G/}/"J°_<„ — не-
\ /: ОО
убывающая последовательность открытых подмножеств Q, такая,
что mn(G)^M и пусть Kj — проводник G/+i\closQG/. Так как
функция v^ p не убывает, то
и аналогично

4.4.4. Достаточные условия принадлежности множества классу Нр<а 177
Отсюда получаем при любом Л/ = 1, 2, ...
,
Р
Обозначим через /С(/) проводник G\closQG/. Согласно определе-
определению функции \м,р имеет место неравенство ср (К{/)) ^Ум,Р (тп (G/)).
Поэтому
у [т„ (G/)]p/(p-g>)-[mB @/.1)У^ -'*>
С(Я(/')]**/(р~?*)
< [Ср(Я)]
(G.Ar-1)]p/(i'-»>) f-
о
Выражение в левой части не меньше чем
Si/1 <nК (С/)]"/(Р"'•' dcP (KM)]'*'"'-» -[ср
Так как {р — l)q*/(p — q*)^ 1, то для всех а, Ь>0 |а* —Ь*|^
^ | а — ft |*, s = (р — 1) q*/{p — Я*)- Поэтому последняя сумма мажо-
мажорирует величину
S,,, < N К
что в силу следствия 4.1.3/2 мажорирует сумму
Si/, < *
Остается воспользоваться определением функции 23р>а(М).
Предложение 2. ?слы ар > 1, а ^ 1, то
x
{} D)
Доказательство. В силу неравенств D.3.4/1) и C)
[®а« (М)]"/'^1) < (ар/(ар - 1)) \% т1/^"-1» х
х f $f [ХЛ- (ff)]i"U-*) dff](p-"/(«i^) dx.
Для оценки правой части воспользуемся неравенством A-3/1)
в форме
- г))" № v-r U № dj, (б)
где /(т)ЗгО, r<\, q>\. Полагая в E) г=1/A— ар), q =
— (р — 1)/(ар— 1). получаем D).

178 § 4.4. Вложение WlPii(Q) в Lq (Q) при q<?p
Следующим замечанием мы воспользуемся в § 4.5.
Замечание. Пусть G —фиксированное открытое подмноже-
подмножество Q. Обозначим через v^> (/) точную нижнюю границу ср (К)
на множестве всех проводников К = G\F, удовлетворяющих усло-
условию mn(F)Szt.
Заменяя в доказательстве предложения 1 Йр>а(М) на 58сР'а)
и vM,P на vcf, получаем оценку
®? • а) 7
{(ар/(ар -
которая вместе с леммой 4.4.1 показывает, что условие
\f [t/v(&?> (t)]1^*-1' dx < оо достаточно для справедливости неравен-
неравенства D.4.1/1) для всех «eCol(Q), обращающихся в нуль вне G.
4.4.5. Необходимые условия принадлежности множества клас-
классам 1р,а и Нр>а. Выбирая специальным образом проводники К
в определении класса /р>а или последовательности {Ь/\ в опреде-
определении класса Нра, мы можем получать различные необходимые
условия принадлежности множества Q этим классам. Приведем
некоторые утверждения такого рода.
Предложение 1. Пусть О — произвольная точка множества Qu
s (t) — площадь пересечения Q со сферой дВ, (с центром О).
Если Qe/p>0[, то при всех достаточно малых р и при г<р
; s (о dtf1"^ $,p dt/[S (O]1^1» < const.
Доказательство. Если Qs/№ то очевидно, что при
малых р и при А<р
[тп (Qr)f^ const [^(QpXcIosqQ,)]1/", где Q6 = QfiBe. A)
Пусть функция и равна единице в Q,, нулю вне Qp и
Подставляя и в определение р-проводимости, получаем оценку
ср (OR\doso Q,) < (\? (dtl[s {t)}inp-l])f-p, B)
которая вместе с A) доказывает предложение.
Точно так же устанавливается следующее необходимое усло-
условие принадлежности классу Ipn,.
1 Предложение 2. Если mn(Q)<oo и Qs/P,a, то при всех
достаточно больших р и при г>р
C)
Отсюда выводится следующее утверждение.

4.4.6. Примеры областей из класса HPi0L 179
Следствие. Если Q — неограниченная область, mn(Q)<oo и
Q е /р, а, то ар ^ 1.
Доказательство. В силу неравенства Гельдера приг>р
г - р=
Поэтому из B) получаем
г - р < const ((JJ s @ dtfl{\~ s @ Л)а).
Пусть последовательность {ру} определена условием J™ s (t) dt =
= 2~Л Тогда
t (ff^ @ ЛI/р($~ @ Л)а) = c
р, - р/-! < const (ff^ s @ ЛI/р/($~ s @ Л)а) =
Если ip<.\, то ряд 2;(р/ —P/-i) сходится, что противоречит
предположению о неограниченности области Q. ¦
Так как условие Йе/Р|1/? необходимо для непрерывности .
оператора вложения LJ,(Q) в L?(Q), то согласно следствию, если
для неограниченной области Q конечного объема Lp (Q) с: L9 (Q),
то р 7з? а.
Приведем необходимое условие принадлежности множества Q
классу Яр>а.
Предложение 3. Если тп (Q) < оо и Q е Яр> а, ар >• 1, то Зля
любой убывающей числовой последовательности {py}/"J°_ ет, стремя-
стремящейся к нулю при /->• —оо ы к бесконечности при j-*--\-oo,
ар р- 1
V+<~ fl ' ~ctnM)w-l>l \"> "' \wp-w^ const.
оо
Доказательство получится из B), если оценить Ър,а(М) снизу
с помощью последовательности 5 = {G/JtJ^^, где G/ =
^||py}
4.4.6. Примеры областей из класса Нр-а.
Пример 1. Область Q, рассмотренная в примере 4.3.5/2, при-
принадлежит классу Яр. а если
1 dt)pl(ap-1) [f (х)У ««) t*-11 (р-1)л*р-1) Ле < оо. A)
Последнее условие является также необходимым при дополнитель-
дополнительных предположениях:
/B0=гс/@, $rtfM]n~ldA;=sSd[/№~1 ПРИ больших ^. B)
Из B) следует, что интеграл A) сходится в том и только в том
случае, если
J™ x»i w-v [/ (л;)]"-1 dx < оо. - C)

180 § 4.4. Вложение Wp s (Q) в Lq (Q) при q<p
Доказательство. Достаточность A) немедленно получается
из левой оценки D.3.5/3) и предложения 4.4.4/1.
Докажем необходимость условия C). Пусть Gj={x^Q: хп<.2~1},
— оо</< + оо и при
и/M-sC
Очевидно, что
ср (Gj\dosGJ+1) < JG N<? t (Vuj \pdx<с i^~-M U @]A-")/(p-l! dA 1~P
Следовательно, при достаточно больших N
РВР> а (М)]р^аР'1} ^ с 27-"_ оо {Jr-" I/ W1'1 dtyi^*-" х
Правая часть в силу B) не меньше, чем c'?yJ*_
Поэтому из конечности Ър,а(М) следует сходимость интеграла C).
Пример 2. Рассмотрим спираль Q из примеров 3.3.3./3. и 4.3.5/3 .
Предположим дополнительно, что при больших 6 справедливы
неравенства:
Тогда, рассуждая так же, как и в примере 1, можно показать,
что Q е Яр> а в том и только в том случае, если
$" б (ф) фР/<«р-1) йф < оо. D)
Более сложный пример области из класса Нр,а приведен
в следующем параграфе.
4.4.7. Другие описания классов 1р>а и Нр,а. Покажем, что
класс проводников К = G\F, использованный в определении 4.3.1/1
класса /р>а, можно существенно сузить.
Теорема 1. Пусть Q — ограниченная область и а —фиксирован-
—фиксированное открытое множество, такое, что © с: Q. Область Q принад-
принадлежит классу IPia (р^ 1, а>0, а^/г1 — пг1) в том и только
в том случае, если
sup ([mn (F)T/[cP (G\F)]Vp) < °о, A>
где G = Q \cs u {F} — совокупность замкнутых в Q подмножеств
множества G.
Доказательство. Обозначим левую часть неравенства A)
через 5 (ю). Необходимость условия A) очевидна, так как 5 (со) ^
^((Q\)) Докажем достаточность. Пусть D —область

4.4.7. Другие описания классов I р<а и Hpt<x l«f
с гладкой границей, такая, что в cr D с: D cz Й, и пусть т) — глад-
гладкая функция, равная единице на Q\D, нулю на и и удовлет-
удовлетворяющая неравенствам 0 ^ ц < 1. Для любой функции u^Lp (Q)
имеем
$Г \т« (\х- (л I«I) (*) ^ *})Г" d (tp) < [s (<о)]р J" Ср (/о11) d (/p),
где К" — проводник (Q\ffl)\{xeQ: (r\\u\)(x)^;t}. Отсюда и из
леммы 4.1.3/3 получаем
? Jo I V (ЧI
+ с J" [mn ({дс: A - л W | и (х\ | > *}) d (/p). B)
Так как supp (I— tj)|u|c:DhD — область с гладкой границей, то
[/п,({х: {\-г\{х))\и(х)\^/})Г^constcp(К'П,
где /CJS) — проводник 1)\{л;: A — ц(х)) \и(х) \^t}. Отсюда, из B)
и леммы 4.1.3/3 находим
J™ {тп ({х: | ы (дс) | ^ t})j4>d(tP) < const (Jfl | V (ц | «|) \р их +
+ So Iv ((• - Л) I и |) |Pdx) < const QQ\^u\Pdx+]D\u\P dx).
Пусть M = 1/2tnn(D) и mn(suppu)«sM. Тогда ^D|u|"dA;=^
^ const JD | Vu \p dx и, следовательно,
[mn ({x: | и (дс) | > <})f d «p)< const $ a | Vu |p dx C)
Рассмотрим проводник К* —G*\F* в Q, подчиненный един-
единственному условию mn(G*)^M, и подставим в C) функцию us
еГп(/С*) (см. п. 4.1.1). Тогда получим оценку [тп (F*)]ap *?
^ const ср (К*), равносильную включению Qe/P,a.
Замечание. В случае р = 1 доказанное утверждение остается
справедливым, если под S (и) понимать супремум величины
[mn(g)]a/s(dig), взятый по всем допустимым подмножествам g,
области Q, таким, что cIosq^c: Q\g.
Точно так же, как и теорема 1, устанавливается, что принад-
принадлежность области Q классу Нр,а равносильна конечности вели-
величины ^ар-а\ где G = Q\ffi (см. п. 4.4.1).
При ар<1 класс /р,а можно охарактеризовать и иначе, взяв
вместо любого множества G пересечение Qp (я) области Q с шаром
Вр (х), х е 3Q. Именно введем функцию

182 § 4.4. Вложение Wlp s (Q) в L4(Q) при q<p
Теорема 2. Пусть Q — ограниченная область и ар < 1. Тогда
Q е/р,а б /лож ы только в том случае, если ар,а(р)<оо при
некотором р.
Доказательство. Необходимость не требует обоснования.
Пусть аР,а(р)<°о- Построим конечное покрытие множества Q
открытыми шарами с радиусом р и подчиненное этому покрытию
разбиение единицы {т){}. В силу леммы 4.2 справедливо не-
неравенство
I UX\t IV (я) < (Яр, а (Р) 1 V (MT]i) |Lp (й).
где q* = а-1. Суммируя по /, заключаем, что W], (Q) a Lq* (Q).
Следовательно, QsJp,a по теореме 4.3.3 (п. 2)).
4.4.8. Интегральные неравенства для области со степенным
заострением. Рассмотрим подробнее область QlW = {х = (#', хп):
|л;'|<ш^, 0<л;п<1} из примера 4.3.5/1, где было показано,
что Qwe=/p.a~npH n>p, %>(р-\I(п-\), а = [Х(л-1) +
+ 1 — р]/р[К(п— 1)+П- Эт° в силу теоремы 4.4.3/2 равносильно вло-
вложению L'P(QW)с:^.(О(Я)), где^*=р[Х(п- 1)+1]/[Я,(я- 1)+1 -р].
Хотя увеличить показатель q* и невозможно, естественно попы-
попытаться улучшить сформулированный результат за счет использо-
использования весовых пространств (ср. с замечанием 3.3.3). Пусть
Преобразование координат к: х-*~%, определенное равенствами
\i — Xi, I sg/^n — 1, \п = хкп, отображает Q(W на QA). Так как
QA)—область класса С01, то для нее из следствия 2.1.6/2 без
труда получаем неравенство
I v \L<I ер, o<ii) < с (| Vy \lo (a, Q, 1,, + В v ||L ()((«»),
где p pqp/( p), $(p q) /q
и и — непустая область, acQ(W. Возвращаясь к переменным я,
приходим к оценке
-i)/p. q(W) +
где 4x- = (d/dxL, ..., dldxn-i). Если положить здесь a = (X—1) х
Х(р—1)Ар, то получим оценку
A)

4.4.8. Неравенства для области со степенным заострением 183
"Выбирая q так, чтобы вес в левой части исчез, приходим к нера-
неравенству
где, как и ранее, q* =р[Х(п— \) + \]/[Х(п— \) + 1 — р]. Так как
А,> 1, то этот результат точнее, чем вложение Lp (Q<X)) с: Lq* (Qm).
При любом к> 1 можно^взять в качестве q предельный пока-
показатель рп/(п — р) в теореме Соболева. Тогда неравенство A)
перепишется в виде
c(lv*'uh.p<i-i. eft)) +
что, в частности, гарантирует вложение Up (Q) crLpn/n-p((X.— l)x
х(п—1)/л, Qw)- На примере функции д^, где т=1+е —
— [к (п — 1) + 11р (в — малое положительное число), легко убедить-
убедиться, что показатель степени веса точен.
Отметим в заключение, что для области Q(X) можно получить
аналог интегрального представления A.1.10/1) (ср. с работой
И. В. Глобенко [21]).
В силу A.1.10/1) для любой функции v е С1 (Q*11 П Ц
имеем
о(Ю =S«,'i.
где фе^(ЙA)) и ^t
Поэтому для функции и = v • х получается интегральное пред-
представление
BW = Jo«*<0u
"~Ч
- I J В(Х) (I *>_/
f Fn (х, у)
где Фе^@11)) и F* e ^(Q^xQ**-')- Легко проверить, что
в качестве и можно было взять любую функцию из С1 (Q1^'). Так
как по теореме 1.1.6/1 C^Q^') плотно в Ц (Q(X)). инте-
интегральное представление B) справедливо для всех и е L\ (Q<A)).

184 § 4.5. Еще о примере Никодима
§ 4.5. ЕЩЕ О ПРИМЕРЕ НИКОДИМА
В этом параграфе мы рассмотрим область, описанную в при-
примере 1.1.4/1 (см. также § 4.3), при условии ет = 6B-т-1), где
б —неубывающая функция, такая, что 28 (/)<*. Здесь будет пока-
показано, что необходимым и достаточным условием принадлежности Q
классу НРш а (при ра >¦ 1) является сходимость интеграла
$J[ W)]1/(ap-x) Л. A)
Лемма. Если gm — неотрицательные измеримые на отрезке [О, 1]
функции, то справедливо неравенство
Доказательство. Пусть А,— абсолютно непрерывная на
отрезке [0, 1] неубывающая функция, удовлетворяющая 'условиям
Ц0) = 0, Ц1) = 1. Положим g(t) = Zmgm(i)- Тогда ]l(X')?gdt =
~ 2т \lWFgmdt. В силу неравенства Гельдера
Наконец, по лемме 2.2.2/2 inf \[
Следовательно, имеет место неравенство B).
Перейдем к доказательству принадлежности Q классу Нр>а,
при условии сходимости интеграла A).
Рассмотрим любую неотрицательную функцию u^Lp (Q),
бесконечно дифференцируемую в Ат[]Вт при любом т и равную
нулю в прямоугольнике С. Зафиксируем произвольный номер т.
Заметим, что для почти всех уровней t e @, оо) каждое множе-
множество уровня Е\т) = {{х, у): и(х, у) = t} f\(Am\jBm) состоит из
конечного числа гладких гомеоморфов окружности и "простых дуг
с концами на д (Ат [} Вт)\{у = 2/3} (см. следствие 1.2.2). В даль-
дальнейшем, не оговаривая особо, мы будем всегда иметь в виду
только такие уровни.
Если число t таково, что
C)
то справедливы неравенства
161)](?H' D)

§ 4.5. Еще о примере Никодима
185
где Л^т) = {(л;, у): и ^ Ц {] {Ат [} Вт). Множество уровней t, для
которых выполнено C) обозначим через 23т. Покажем, что для
t e Ci8m имеет место один из сле-
следующих трех случаев:
E)
, F)
где k — постоянная, зависящая от
интеграла A);
G)
где Lr' =
(8)
(9)
У/
L+1
3 1т
А
с
i-
у
ь
а
Ч
-ЯГ
Вт
f
Отметим, что так как t e ОВт,
то нет ни одной компоненты мно-
множества Е\т), соединяющей ей и ef Рис. 16.
(рис. 16). Кроме того, в силу
условия и = 0в С множество Е\т) (t>0) не пересекает прямую
\т)
а) Пусть выполнено неравенство E). Обозначим через Ё
самую верхнюю компоненту множества Е\, соединяющую лома-
ломаную abc с отрезком fe. Множество Ё\т) разбивает Ат [} Вт на
компоненты. Компоненту, которая содержит отрезок de, обозначим
через Dm. Так как t e ОВт, то множество Ё\т) расположено ниже
прямой г/ = 2/з + 2~т и, значит,
m2(Nr\Dm)*
m2{L\m)\Dm)*
Так как б возрастает и так как 26 (t) < t, то, полагая 7 = (ар — 1)~\
получаем
а л""/Л^"Х г а ***. Л л"'/Л ""^1 л. л А л я/ >m-1_i ъ
(И)
б B-"»-1)
Следовательно,
где
(Lim)\Dm)
A2)

186 § 4.5. Еще о примере Никодима
Множество E{tm)\Dm разбивает CDm на компоненты. Компо-
Компоненту, граница которой содержит Ё\т) и точки отрезка de, обозначим
через Dm. Допустим, что Dmc:Lj'n) и оценим т.г (N\m) П Dm). Для
этого отметим, что множество N\m) [}Dm ограничено компонентами
множества Е\т), каждая из которых (за исключением Ё\т)) либо
замкнута в Ат [) В„, либо соединяет точки или ломаной abcdey
или ломаной def. Отсюда следует, что
s (д (Ат U Вт) П Л/(т) П Dm)< 2s {E\m) П Dm).
Используя изопериметрическое неравенство, получаем
ЫМГ П Dm)ff2 < C/2 Уп)8(ЕГ П Dm). A3)
Так как t eC33m, то из последней оценки и из A1) следует
*,(*Г П Dm) <^
что в сочетании с A2) дает неравенство F).
б) Если предположить, что Ът с N\m), то точно так же полу-
получим неравенство (8).
в) Допустим, что выполнено неравенство (9). Тогда множе-
множество Е\т) не содержит ни одной компоненты, соединяющей abed
и ef и, рассуждая так же, как при выводе неравенства A3),
получаем \m2(Ni!m))f/2<:C/2Vn)s(E<im)). Стсюдаи из(9)следует A0).
Итак, мы пришли к выводу, что возможен один из следующих
случаев: либо справедливо неравенство A0), либо неравенства E)
и F), либо неравенства G) и (8). Множество уровней t, для
которых верно A0), обозначим через Ъ'т. Через 53т и 23т" обозначим
множества уровней t, для которых выполнены неравенства E),
F) и G), (8) соответственно.
Определим функцию ^m(t) равенством
Для этой функции имеем оценку
*. @ < - В <*/*) [«.ОТ (dx
(ср. следствие 4.1.3/1). Интеграл справа представим в виде суммы
{ i Л-\ * +\ "" Из неравенства A0) следует
V— \т (M{
{m)W —

§ 4.5. Еще о примере Никодима
187
Используя E) и F), получаем
\ , < [б B-»»-i)Jp/<i-p> sup
Заметим, что — (d/dx)m2(Nxm)) = {d/dx)m2(Lxm)), и воспользуемся
неравенствами G) и (8). Тогда
Следовательно, г|з
Обозначим через / наименьший номер, для которого
^ BсI~рЬ B-'-1). Тогда из A4) следует
ф/ @ =s? 4& [б B-i-1)]1/<1-A
Далее, замечая, что тг (N\m)) < х/з • 2~т, получаем
б
что в сочетании с A5) дает
v U *•'
\т = I
Так как при т</ имеет место неравенство
'" '\г-РбB-т~1), то в силу A4) при т</
Следовательно, щ{ (J Л^}
и так как б (/) < t/2,
/-1
]
J
Если ^fu^^^^f О
то в силу^б) б [3/8m2 (^)J < D*/i|j,
A4)
A5)
A6)
A7)
A8)

188 § 4.5. Еще о примере Никодима
Если же выполнено неравенство, противоположное A8), то в си-
силу A7)
б [3hm2 (Nt)] < 2P-* Si,"! [*» (О]1""-
Итак, всегда .
б [3/ьт* №] < W 2Г= 1 [*» (О]1"". A9)
где k' — наибольшее из чисел (Щр~х и 2р~2.
Определим функцию ty {t) равенством
Так как по лемме [у (О]1-* ^2m>iK (О]1"*.то из неравенства A9)
получим
- B0)
Пусть F ^произвольное замкнутое в Q подмножество множе-
множества G = Q\C, К = G\F и и — произвольная функция из класса
VQ{K). Согласно B0) бC/8т2(/:'))<й'[г|7A)]1-р, что вместе с лем-
леммой 4.1.3/1 дает оценку б C/8/n2 {F)) ^ k'cp (К). Следовательно,
бC/80^*Чр)@, B1)
где--v^1 —функция, введенная в замечании 4.4.4.
Принимая во внимание сходимость интеграла A) и замечание
4.4.4, из B1) выводим, что для всех «eCOil(Q), равных нулю
в С, существует такая постоянная Q, что
li«JL?<a>*?Q|V«|Lp<a), где?-or1. B2)
Пусть теперь и — произвольная функция из С-' (Q) и пусть
т] — непрерывная в Q функция, равная нулю в С, единице
в (J Ат и линейная в Вт (т= 1, 2, ...). Тогда
,, |«|L /a\ U ^-V B3)
\ 1
Используя B2), получаем
Отсюда и из B3) следует неравенство
|L /ач у А \\ B4)
Р\ mS>\ )}

§ 4.5. Еще о примере Никодима 189
Оценим вторую норму в правой части D). Пусть (х, у) е
Q\ У Ат и (х, z) e С. Очевидно, что
u(x, y)\P^Qs{\u(x, z)|p + J|V(jc, д)\Ыд),
где интегрирование проводится по вертикальному отрезку, заклю-
заключенному в & и проходящему через точку (х, 0). После интегри.
рования по х, у и г получим
Следовательно, || и ||L? (Я) < Qe (I Vu ||Lp @) + \\и \\Lp(C)).
Отсюда inf |"-с||л (Qi^QeflVuk (Я)+ inf Ци-ck (C)V
сеЛ' » V р сел- ° I
Используя неравенство Пуанкаре для прямоугольника С,
получаем
inf 11 и - с Ц № =?? Qe II Vu Ц, (Q),
что согласно теореме 4.3.3/2 эквивалентно принадлежности обла-
области Q классу HPi(X, a^q-1.
Покажем теперь, что сходимость интеграла A) является необ-
необходимым условием принадлежности области Q классу Нр]а. Пусть
$J[W)]Y<tf=oo, где y = <7/(P-<7), q = a~\ Тогда
I]m>.W+1/6(U)-oo, B5)
где Хт = 2~т~1. Рассмотрим непрерывную в Q функцию ит, равную
нулю в С, линейную в Вт и равную [Кп/Ь{%m)Yy+1)/p в Ат, т^\.
Для функции vN = 2i <m < ,v M«
Вместе с тем
Если бы область Q принадлежала классу Яр,а, то для всех и е
eC01(Q), равных нулю в С, было бы выполнено неравенство
^lLpy/(y+l)W^Q\\Q\\u\Pdxdy, B6)
где Q не зависит от ы. Из B6) получаем

190 § 4.6. Некоторые обобщения
Отсюда 2т = 1 №+ '/[б (Ю]у) ^ Qy, что противоречит условию B5).
Замечание 1. Из B) и леммы 4.1.3/2 следует, что для всех
и е С°° (Q), и = 0 в С, справедливо неравенство
$0°° б C/8m2 (tf,)) d (tP) ^Q\\Q\Vu\Pdxdy. B7)
Пусть дополнительно б е С0-' [0, 1] и б B<) ^ const б (t). Тогда,
рассуждая точно так же, как и при доказательстве предложения 3.4,
мы можем вывести из B) оценку \p(t)^kb{t). Обратная оценка
получится, если мы рассмотрим последовательность проводников
{Gm\Fm}, где Gm — внутренность Ат [} Вт, a Fm = closQAm. В самом
деле, если ит — кусочно-линейная функция, равная единице в Ат
и нулю в С, то
сР (Gm\Fm) < J JB | Уит |" их dy = 3/>б B-™-1) < kb (m,
Итак, для области Никодима при любом р^1
Vp@~«@ B8)
и, следовательно, Q е /р,а в том и только в том случае, если
Ига ^"б@>0. B9)
^Так как б (/) ^ t, то ар ^ 1.)
Замечание 2. Рассмотренная в этом параграфе область
интересна в следующем отношении. В то время как для областей
из примеров п. 4.3.5 условия принадлежности классам Ja+i-i/P
и /р,а совпадают (т. е. предложение 4.3.4/2 является точным),
область Никодима в силу B9) одновременно принадлежит клас-
классам Jap и /р>а. Это означает, что, если, например, 6{t) = fi, P>1,
то достаточные условия вложения Lp(Q) в Lq (Q) (р> 1) в терми-
терминах имеющей простой геометрический смысл функции к дают
неправильное значение предельного показателя р/(\-{-рф — \)).
В действительности здесь максимальное значение q*, получен-
полученное непосредственной оценкой функции vp, равно pl§.
4.6. НЕКОТОРЫЕ ОБОБЩЕНИЯ
В теоремах 4.3.3, 4.4.2, 4.4.3/1 и других пространства L, (Q)r
Lr (Q), Lq (Q) можно заменить пространствами Ls (Q, a), Lr (Q, a),
Lq (Q, a) функций, суммируемых со степенями s, r, q по мере a
в Q. При этом, конечно, в соответствующих необходимых и до-
достаточных условиях следует заменить меру Лебега мерой а.
Остановимся для примера на обобщении леммы 4.2.

§ 4.6. Некоторые обобщения 191
Пусть G — открытое ограниченное подмножество й. При р > 1
положим
W;?] -sup ([a (F)Y4[cp (G\F)Y'P),
где {F} — совокупность замкнутых в Q подмножеств Q. Пусть еще
«& аа) = sup ([а (g)f/s
<>
гДе {#} ~~ совокупность допустимых подмножеств множества G.
Таким образом, по определению 81<?'л? = 91<f' "'.
Теорема. Положим р^\ и обозначим через G открытое огра-
ограниченное подмножество Q.
1) Пусть Stff.'^^oo и числа q, a, p связаны одним из условий:
(i) q^q*=a~1 при ар<;1, (И) q<.q*=ar1 при ар>\.
Тогда для есех функций uetj0'1 (Q), равных нулю вне G, спра-
справедливо неравенство
|K|L,<e.e)*?C|VU|Lj(S)|B|Lr(e.e). (О
в котором re@, q), K = r(q*-q)/{q*-r)q, ф^]
2) Пусть <7*>0, re @, q*) и при некотором q^@, q*]
для любой функции и s С0-' (Q), равной нулю вне G, выполнено
неравенство A) в котором к = г (q* — q)/{q* — r)q и С — постоянная,
не зависящая от и. Тогда Cs^cfSl^'a00]1"*.
Доказательство не отличается от доказательства леммы 4.2.
Приведем теперь достаточное условие ограниченности вели-
величины Slk%v).
Предложение. Имеет место оценка
TVaW: aa))V/a, где у = <фр (р - 1 + р^. B)
И? «Г
Доказательство. Пусть К. = G\F им — любая функция
из Va {Ю- Положим i|>(*) = $J(SB I v" I"'1 *)V l~P> d*- Из D.1.3/1)
и определения величины Sic P) следуют огенки
г|) @ < [ср (G\Nt)Y'^ < (81^- Р) [т. (^)]-р)Р/(р), C)
где / е [0, 1). Отсюда получаем, что если 3l(f'P)<oo, то функ-
функция г|)(/) конечна и, следовательно, абсолютно непрерывна на
любом отрезке [0, 1-е], е>0. Пусть t{ty)— функция, обратная
к г|)@- Так как функция ^->a(^W)) не возрастает, то по лем-
лемме 1.3.3/3 при <(ф/е=[0, 1-е]

192 § 4,6. Некоторые обобщения
Выражение в правой части равно
С
(Замена переменной г|) = г|)(/) возможна, так как функция ty(t)
абсолютно непрерывна на отрезке [0, 1 — е].) Отсюда из неравен-
неравенства C) и леммы 4.1.3/2 выводим
D)
В силу того что [а (ВД* <«#;*«(?,) при п. в. те@, 1), ''
оценка D) дает
После перехода к пределу при ^ —*-1 — 0 имеем
Минимизируя правую часть на множестве Vи (К), получаем оценку
Приведем пример использования этого предложения в конкрет-
конкретной ситуации.
Пример. Пусть Q = {je: \x'\<.x%, 0<дс„<оо}, где Х>1,
х' = (хъ ,.., хп-г) и G = {xeQ: 0<дс„<1}. Роль меры а здесь
будет играть (п — 1)-мерная мера s на множестве П={х е Q, хг=0}.
Покажем, что при Цл — 1) + 1 >р^ 1 и у = (к(п — l)-f
-\-\ —рI(К(п — 2)-\-\) величина %{в;Т конечна и что это значе-
значение у неулучшаемо.
Пусть сначала р=\. Как было показано в примере 3.3.3/1,
отображение x-*-? = (xi xa-lt xty области Q на конус |Q =
= {|: 11' | < In, 0 < 1„ < oo} субареально. Следовательно, для
любого допустимого множества g, closQg a G,
s(dig)^cs(d?g). E)
Так как \п — конус и |П—его сечение гиперплоскостью, то по
теореме 1.4.5 для всех иеЦ(^). обращающихся в нуль вне gG,
lulMgro^clVjulMSB,. F)
Следовательно, cs (dilg) ^ s (|П f] lg)- G)

СО
4.7,1. Классы Ja и
(Эта оценка получается в результате подстановки в F) последо-
последовательности {wm}, построенной в лемме 3.2.2.)
Очевидно, что
s(&nnfe) = A,$nngJ?-'d*...<fc,. (8)
Так как А,>1, то из всех множеств Ilf\gc фиксированной мерой
8(ПП#) наименьшее значение интегралу в правой части (8) сооб-
сообщает множество {хеП: 0<лс„<а}, где а —число, определенное
2) II XBI П ) С
щ { „<}, д , р
равенством у„_2 (X(л — 2) -f I)-1 aX("-2)+1 =s (П f]g)- Следовательно,
(ini)[(Il)l?A)/aBI) E) G)
( g)
(inig)[(ng) что вместе с E) и G) дает
оценку s(d,-g)S5c[s(Iing)]a, а = Х(л- 1)/(Цл-2) + 1). Итак,
tfe'? <Zoo, Вместе с тем, так как область Q принадлежит клас-
классу 7р,р, где $=(к(п- 1) + 1— р)р/(Х(п- 1) + 1) (см. пример 4.3.1/1),
то 9l(f' Р) < оо. Теперь из оценки B) получаем, что 9lj?' sr) < оо
M1) ХA)+1 / ЯA)Ц\1
р () у ? s
_ Mn-1) Х(я-1)+1-р / j ¦ Я(п-1)-Ц-Р\-1
Р\Р J+ j
Р
р(Я(п-2)+1) '
Точность этого значения у проверяется на последовательности
множеств Fm^ix&Q: 0<дся<т-1}, m = 1, 2, ... Действительно,
сР (G\Fm) < с
(см. пример 4.3.1/1) и s(Fmnn) = cffr1-X(/|-a). Поэтому из оценки
[s (F« П ЩР < const [cp (G\Fm)f">
следует, что у^(^(л— 0+ I — Р)/Р&(п — 2)+ 1).
В заключение — несколько слов о других обобщениях полу-
полученных здесь результатов.
Следуя главе 2, можно, почти не меняя доказательств, обоб-
обобщить основные результаты этой и предыдущей глав, включив
в рассмотрение функции с конечным интегралом JQ [Ф (х, Vu)]p их
и даже подчиненные более общему условию ^аТ(дс, и, Vu)dx <oo
(ср. в замечанием 2.3.2).
Другое возможное обобщение, не требующее принципиальных
изменений в доказательствах, — замена нормы в Lt(Q) нормой
в пространстве Орлича (см. теорему 2.3.2).
§ 4.7. ВЛОЖЕНИЕ Wlp , (П) В Lq (О) (г > q)
ДЛЯ ОБЛАСТЕЙ БЕСКОНЕЧНОГО ОБЪЕМА
оо оо
4.7.1. Классы Ja и /р,а. Введенные ранее классы Ja, /pa
характеризуют границы области «в малом». В этом параграфе нас
будет интересовать структура области на бесконечности.
7 В. Г. ЛЙзья

§ 4.7. Вложение Wj, r(Q) в L9(Q) (г ></)...
Рассмотрим, например, бесконечную плоскую область \(х, у):
0<аг<оо, \у\ <х1/2}. Так как Q удовлетворяет «условию кону-
конуса», то для функций, заданных в этой области, справедливо
неравенство
l«|L.(B)^C(]Vu|Ll(B,+fUJLr(B)), A)
где г — произвольное положительное число, не превосходящее
двух *.
Условие л^2 существенно для справедливости неравенства A).
Действительно, для функции и (х, у) = (х-\-1)-\ где 3r/2<v<3/4»
2<г<3, правая часть A) конечна, но иё12(й).
Оценка A) в некотором смысле не удовлетворительна: норма
в Lr (Q) не слабее нормы в L2 (Q) (в отличие от случая т„ (Q)<oo).
Если говорить о скорости убывания функции на бесконечности,
то конечность нормы в L, (Q) (г < 2) является даже более огра
ничительным условием, чем принадлежность функции простран-
пространству L2 (?2). Поэтому можно поставить следующую задачу. Пусть
mn(Q)=oo. Найти пространство L0(Q), в которое вкладывается
№р, , (Я) при больших г.
Введем классы множеств, аналогичные классам Ja, /p,a.
со
Определение 1. Множество й принадлежит классу Уа, если
существует такая постоянная М > 0, что
p([(g)}(g)) B)
B)
где супремум берется по всем допустимым множествам g a Q,
таким, что mn(g)^M.
Отметим пока без доказательства, что упомянутая в начале
параграфа область Q = {(x, у): 0<х<оо, \у\<х1/*} лринадле-
00
жит классу Ji/s и что для любого г^З справедливо неравенство
[ и llz., (о. ^ С(? V«i iz., ,о. + .: и кг ,в>). C)
(Показатель 3 в левой части этого неравенства не может быть
уменьшен.)
* Это можно показать, например, следующим образом. Пусть Qm,a — про-
произвольный квадрат целочисленной координатной решетки. Каждую из областей
&т, п = й П Qm, п можно отобразить на Qo, 0 с помощью квазиизометрического
отображения так, чтобы константы Липшица отображающих функций были
равномерно ограничены, а якобианы равномерно отделены от нуля. Отсюда и
из теоремы 1.4.5 получаем последовательность неравенств
с константой с, не зависящей от т, п. Суммируя по я, л я используя нера-
неравенство Bi а?I/а*^2г ai- где агг *' ai>0" приходим к A).

00 00
4.7.1. Классы Ja и !р,а
Пусть F — ограниченное замкнутое в Q подмножество Q и
QR = ?lf\BR. Назовем р-емкостью F относительно Q(обозначение:
p-capQ(F)) предел cp(QR\F) при tf-voo.
со
Определение 2. Область Q принадлежит классу/р,а, если
существует такая постоянная М > О, что
sup ([/п„ (f)]a/[p-capQ (/O]1^) < сю. D)
Здесь супремум берется по всем F, удовлетворяющим условиям
mn(F)^M, p-capQ(F)>0. Ш
оо оо
Аналогично лемме 4.3.2/1 можно доказать, что классы /i,a и Ja
совпадают и что
«1.«(М) = sup ([тп (g)f/s (д/g)),
(g)
где {g} имеет тот же смысл, что и в B).
оо
Предложение 1. В случае а>1/р— 1/п класс /р,а пуст.
оо
Доказательство. Пусть Qs/P,a. Если р —столь боль-
большое положительное число, что mn(Qp)^M и R>p, то из D)
получаем оценку
[тп (Qp)f ^ К [ср (Оя \closfl Qp)]1'", К = const.
Пусть u(x)—i)(\x\), где т]— кусочно-линейная непрерывная
функция, равная нулю при t>R и единице при <<р. Так как
u<=Uq(Qr\c\osq?Ip), to
ср (Q«\c1osq Qp) < (/? - р)-Р тп (Q«\QP).
Следовательно, /? - р ^ /С [mn (QR) - тп (Qp)]1/P [mn (Qp)]-".
Введем числовую последовательность {py}/>i условием mn(Qp W
= 2ЛМ. Тогда Py+i — ру^/С^'Р-"». Суммируя, получаем р^=^
=?SPi + c/C2/(p"~a), что вместе с определением последовательно-
последовательности {pj} дает P/^Pi + c/C[mn(Qp^)]""'-a. Так как p^-voo, то отсюда
следует, что сЖ/r1. Далее P/=^Pi + c/C(unp^)p~'-a и, следова-
следовательно, а^р-1— ггг. Е
Пусть /—ограниченное замкнутое в Q подмножество Q и
Af (a) = inf s (dig) на всех допустимых подмножествах g множе-
множества Q, содержащих F и таких, что mn{g)^a.
I Из неравенства D.1.3/3) непосредственно вытекает следующее
утверждение.
\ Предложение 2. Имеет место оценка
\ р-сара (.F)^^ln{F)[KF{p)\-pnp^daI-p. E)
Т

196 § 4.7. Вложение W[p r(Q) в Lq (Й) (r>q)...
oo oo
Предложение 3. Если йе/„+(Г1|/р, mo Qe/P>A и справедлива
оценка
«p. a (Af) «? ((р - 1 )/pa)W Щ, а+(р_1)/р (Af). F)
Доказательство. Если mn(F)^M, то из E) получаем
неравенство
p-capQ (F) ^ [«,, а+(р_1)/р (Af)]-" (^ (f, а-«н"/Р) p/(p-d daI"",
равносильное F).
4.7.2. Вложение Wp<r (Q) в L?(Q) (г><7). Доказательство фор-
формулируемой далее теоремы близко по методу к доказательству
теоремы 4.3.3. Однако, так как оно все же отличается в деталях,
мы приведем его для удобства читателя.
оо
Теорема. 1) Если множество Q принадлежит классу /PiCt и
л><7 = а~1, то для любой функции мей7{,, г(й) справедливо не-
неравенство
I и h (Q) <: d || Vu k (Q) + Сг | и ^ (Q), A)
p
00
где Ct = Ap(p Л()
2) ?слы при '¦>? справедливо неравенство A), mo область Q
оо
принадлежит классу /р,а, г* а = <у-1. Яры этол
91Р а(М)^A — eJ^Ci, г5е е — произвольное числа из промежутка
(О,' 1)
Доказательство. 1) В силу леммы 3.1.2/2 достаточно
доказать A) для функций из C°°(Q) с носителями в Q^ при неко-
некотором R < оо. Выберем такое число Т, что mn (LT) ^M «s /п„ (Nr).
Очевидно, что
L I« l?d^ = Jl, I«1?^ + 5оГ т" Wt\LT)d(tP). B)
Первое слагаемое справа оценивается с помощью неравенства
Гельдера:
$Lr | и |? ах < М1-^ (JQ | u |r dx)?/r.
В силу неравенства A.3.3/1) второй интеграл справа в B) не
превосходит {^[mn(Nt\LT)]Pf9 d(tP)}9/p. Следовательно,
I! и 1,? (о, < М W" ] и \
Так как т„(^)^М при / s (О, Г), то
Р.а (М)Ь-саРй (ОД>*.Д,,в(Л!) [ср^ЧЛ/*)]1". C)

00
4.7.3. Пример области из класса /„ а
Применяя C) и лемму 4.1.3/2, получаем
II и jLg (В) ^ М™-1" ] и \Lr (Q) -Ь %, а (М) [$~ ср (Q*\ Nt) d (tP)]1/p
<MVf-vt j«^(Q) + 5„e (Al) (pi}Pp_1)/p | Vu \Lp
Lp(
2) Положим М = (С2е-1)г^с-«) и рассмотрим произвольное огра-
ограниченное замкнутое в Q множество F, F c= Q, такое, что /п„ (F)^M.
Пусть ы —любая функция из С01 (Q), равная единице на F и
нулю вне некоторого шара. Очевидно, что
Так как функция mn(Nt) не возрастает и q<.r, то в силу нера-
неравенства 1.3.3/1
Принимая во внимание, что mn(Ni)'^:mn(F)^:M, получаем
I и \l, (a, ^ MV'-Vi (Ц тп {Nt) d (t«))r/9 = гС? | и Ц (Q).
Из A) и последнего неравенства следует, что
Вспоминая, что ы=1 на F и минимизируя ||Vu|l (a), находим
окончательно
К (F)]1^ ^ С, A - e)-i [р-сарй (F)]V?. ¦
Из первой части теоремы и предложения 4.7.1/3 получаем
следующее утверждение.
00
Следствие. Если Qe/,,, a«s;l, p^l, r>q, p(l — a)<l,
q = p/[\ —p(l —a)], то для любой функции и е Wp, r(Q) справед-
справедливо неравенство A).
оо
4.7.3. Пример области из класса /р>а.
Пример. Рассмотрим «параболоид»
{ } A)
где 1>^>0 и a = const>0 (рис. 17).
Покажем сначала, что при а — $ (л — 1)/({}(л — 1)+ 1)
О < lira sup ([mn (g)]a/s (dig)) < оо, B)
Af-»OD
где супремум берется по совокупности всех допустимых подмно-
подмножеств g области Q, таких, что mn(g)~SzM. Симметризуя множе-

198
§ 4.7. Вложение №}, r(Q) в Lq(Q) (r></).
ство g относительно луча 0х„ и повторяя доказательство леммы
3.2.1/1, получаем, что из всех множеств g с фиксированным
объемом М наименьшую площадь dig имеет шар В, ортогональ-
ортогональный дй. Элементарный подсчет показывает, что
lim ([тп (B)]a/s {diB)) т=A- а)аМ- «
Л1-.00 *
Неравенства B) доказаны. ¦
со
Итак, йе/р(п-1)/(р(я-1)+1) и по следствию 4.7.2 и второй части тео-
00
ремы 4.7.2 Й е= 1р.а, где р<р (п - 1L-1 и а^р-1 -@ (л - 1L-1)-1.
Покажем, что это значение а —наибольшее. Действительно,
пусть й (X) = \х е й: л:„ <X}. Очевидно,
что
и, значит, при а>/?-1 —[Р(л—1) + 1
[т. (Q (X))J«/lp-capa (fi (X))f'p ^
«-v)
oo.
Таким - образом, для области A) при
Р(л—1)>/? — lSsO справедливо неравенство
D.7.2/1), в котором r>q = [0 (л - 1) +
4- 1]р/[$(п — 1) + 1 — р]. Это значение q не
может быть уменьшено. Заметим, что оно при р < 1 больше
предельного показателя пр(п-р) в теореме Соболева.
(о 1
4.7А. Пространство L'p (Q) и его вложение в L4 (Q). Пусть
Ьр (й) — пополнение множества функций из (С00 П Lp) (Q) с ограни-
ограниченными носителями по норме jV«|L ,Q). (Здесь, как и всюду
в этом параграфе, т„(й) = оо.)
Согласно лемме 3.1.2/3 пространство Up (Q) совпадает с попол-
пополнением WPl г (й) [г — любое положительное число) по норме
СО 00
S^uk (Q)« Если в определениях классов Уа и /р,а снять требо-
требования mn(g)^M, mn(F)^zM (т. е. положить М = 0), то полу-
оо оо
чим определения классов /«(О), /р,„@). ¦
00
Из замечания 4.3.1 следует, что если п^р и Qe/fta, то
1 /р — 1 /л. Вместе с тем согласно предложению 4.6 а< 1 /р — 1 /л.
оо
Следовательно, не пуст лиш класс /р. i/p-i/л (О) (Этому классу
принадлежит, например, R" или область D.7.3/1) при 0 = 1.)

4.7,5. О неравенстве Пуанкаре для областей бесконечного объема 199
Принимая только что сказанное во внимание и повторяя
с очевидными изменениями доказательство теоремы 2.3.2, полу-
получаем следующее утверждение.
Теорема. Неравенство
(Q)l р=г1, A)
(о)
имеет место для есех и е 1>р (Q) в том и только в том случае,
со
если п>р, q = pn/(n-p) и О, е Ip.i/p-im @)-
Точная константа в A) удовлетворяет неравенствам
ГС
р.
Замечание. Покажем, что из условия й
п>р, не следует неравенство типа Пуанкаре
_1/п @).
аэ
Ip, i/p-i/n @),
С). B)
Рассмотрим область, изображенную на рис. 18, которая пред-
представляет собой объединение двух конусов: {х: \х''\<Схп-{-1} и
{х: | х' |< 1 — хл}, jc' = (*], .... x,7-i). Каждый из этих конусов
аэ
принадлежит классу /pp
надлежит тому же классу (ср. с предло-
предложением 4.3.1/1). Однако для нечетной по
переменной х„ гладкой функции, равной
нулю при 0<х„<1 и единице при хп>2,
которая, конечно, принадлежит Vp (й),
левая часть неравенства B) бесконечна.
Вместе с тем по теореме включение
p,i/p-i/n @). Поэтому их объединение й при-
при(
оо
/рд/р_1/п@) равносильно неравенству
. ря/(п_р,(О).
C)
Рис.18.
Отсюда следует, в частности, что B) влечет принадлежность Q
со
классу /p.ip-1/n @). Теорема показывает также, что в B) норму
в Ьрпцп-р) (^) нельзя заменить нормой в Lq{Q) при цФрп1(п — р).
4.7.5. О неравенстве Пуанкаре для областей бесконечного
объема. Следующее утверждение характеризует области, для ко-
которых выполнено неравенство D.7.4/2). Здесь (и только здесь)
мы будем считать, что требование ограниченности множеств Си/
в определении /^-проводимости отсутствует.
Теорема. Пусть тп@) = со. Неравенство D.7 Л/2) имеет место
для всех и еL),(Q), pis? I, e том- и только в том случае, если

200 § 4.7. Вложение №}, , (Q) в Lq (Q) (r > </)...
OO
Q —область из класса /p,i/p-i/n @), удовлетворяющая следующему
условию:
Если проводник K = G\F в Q имеет
конечную р-проводимость, то либо A)
mn(F)<.oo, либо mn(Q\G)<ioo.
В случае р = 1 условие A) равносильно следующему.
Если G — открытое подмножество й, такое,
что д@ — гладкое многообразие и s(d;G)<oo, B)
mo лыбо mn(G)<oo, лыбо mn(Q\G)<oo.
ОО 00
(Напомним также, что /i,i-i/n@) = y1_1/n@).)
Доказательство. Необходимость условия Йё/,,1/гш@)
была отмечена в конце замечания 4.7.4, а необходимость связно-
связности множества Q очевидна.
Докажем, что из D.7.4/2) следует A). Пусть и —любая функ-
функция из Uq(K), где К — проводник G\F, cp(K)<оо. Положим
в D.7.4/2) и = max {0, minju, 1}}. Тогда при q = pn/(n — p)
Следовательно, либо mn(Q\G)<oo, либо mn(F)<oo.
Пусть теперь р = 1. Докажем необходимость условия B). Отме-
Отметим сначала, что в доказательстве леммы 3.2.2 условие ограни-
ограниченности множества G не использовалось. Пусть G —открытое
подмножество Q, такое, что d;G — гладкоемногообразие иs(d*G)<;oo.
Подставим в D.7.4/2) в качестве и любую функцию wm из после-
последовательности, построенной в лемме 3.2.2. Тогда для любого
компакта QczG, начиная с некоторого номера т,
(| ст l"/^1» mn (Q\G) +11 - ст I"/'"-1» mn
где с„ = const. Так как
Пт
т-*оо
то либо mn(Q\G)<oo, либо ст = 0 и [тп (Q)]'"-1^" < Cs (a,G).
Следовательно, условие B) выполнено.
Доказательство достаточности проведем в несколько этапов.
00
Лемма 1. 1) Пусть Q e IPl9@), гдеq — pn/(n — p), п>р. Тогда
для всех проводников К = G\F, где G — открытое подмножество й,
a F — замкнутое в Q подмножество конечного объема, справедливо
неравенство
К (F)]1/ ^ const cp (/С). C)

4.7.5. О неравенстве Пуанкаре для областей бесконечного объема 201
аэ
2) Пусть Q s Ji-i/n @). Тогда для всех открытых множеств
G сг й, таких, что д@ — гладкое многообразие и т„ (G) < оо, вы-
выполняется неравенство
[тп (G)]1-1 ^ const s (UG). D)
Доказательство. 1) Так как йе/Л,@), то для любого
замкнутого в Q ограниченного множества Н с: F
[тп (H)]1^ s? const cp (G\H).
Теперь C) следует из неравенства cp(G\H)^cp(G\F) и равен-
равенства тп (F) = sup mn (H),
н
аэ
2) Пусть йе/ц/л@), mn(G) <oo hsEjG)<oo. Отметим, что
в доказательстве леммы 3.2.2 не используется ограниченность
множества G, и подставим построенную в этой лемме последова-
последовательность wm в неравенство D.7.4/3). Переходя к пределу при
ГП-+-ОО, получаем для любого компакта Qa:G неравенство
["Ь (Q)]1'1'" < const s (dfi).
Лемма 2. 1) Если Qe/m@), где q = pn/(n — p), n>p, и вы-
выполнено условие A), то для всякой функции и е С° (Q) П Ц, (й)
существует одно \и только одно) число с, такое, что
т„({х: | и(х) — с|^е})<оо для всех е>0. E)
2) То же утверждение верно при р=1, если Q е /И/л @) и
выполнено условие B).
Доказательство. 1) Введем множества А, = {х: и(х)>Ц,
Bt = {x: u(x)^t\, G = Q\,4,, Dt = Q\B, и положим
оо}. F)
Допустим, что с = + оо. Тогда mn(At) =*оо для всех /е/?1 и
в силу неравенства
(Т -t)Pcp(At\BT)^lVu$p{Q) G)
и условия A) mn(Ct) <оо для всех /. Согласно оценке C)
К (С,)]1-"" < const cp (DT\Ct) (8)
при всех T>t. Так как (Г - 0" ср (DT\C,) =s? I VufL {Q), то пра-
правая часть оценки (8) стремится к нулю при Г-v-foo. Следова-
Следовательно, /nn(Q = 0 при всех t и с< + оо.

202 § 4.7. Вложение WJ, , (Q) в Lq (Q) (/-></)...
Пусть теперь с = — оо. Тогда тп (А,) < оо при всех / е Z?1.
Применяя C) к проводнику Л<\Вг, где Т> t, получаем неравенство
[т„ (Вг)]1-"^ < const cp (Л,\Вг),
и так как в силу G) правая часть стремится к нулю при /-> — эо,
то тл(Вг) = 0 для всех Т. Следовательно, с> — оо.
Докажем E). Из определения F) следует, что при е>0
шп({х: ы-с^е})<оо. (9)
С другой стороны, F) дает т„({х: и— с 5s — е/2}) = оо. Отме-
Отмечая, что /^-проводимость проводника /4с_Е/3\Вс-е конечна (см. G)),
получаем из A)
тп({х: ы<с-е})<оо. A0)
Неравенства (9) и A0) равносильны F). Единственность числа
с —очевидное следствие условия A) и конечности проводимости
любого проводника At\Br, t>T. Первая часть леммы доказана.
2) Пусть теперь р — 1. Из тождества
\Q| Vu |их = \t Zs(dAt)dt, «еГ (Q) П Ц(Q) '
следует, что
s(dAt)<.oo при п. в. t A1)
и Шп s(a^)= lim s(dAt) = Q. A2)
Далее достаточно повторить те же рассуждения, что и в дока-
доказательстве первой части теоремы, используя вместо конечности
проводимости проводника A,\Br — Dr\Ct свойство A1) и вместо
стремления к нулю ср(А(\Вг) при t-+--\-oo или при 7*-»-— оо —
свойство A2). ¦
Перейдем к доказательству достаточности в теореме. Пусть
«еС"(Й)A1рР' Согласно лемме 4.1.1/1 можно дополнительно
предположить, что ueLm(Q).
и(х)— с — е, если и(х)>с-\-г,
О, если |ы(х)—с|<;е,
и(х) — с + е, если m(jc)<c — e
Положим ые (х) —
(здесь с —постоянная, определенная в лемме 2). Из E) и ограни-
ограниченности функции и следует, что она принадлежит пространству
Lpni(n-P) (й). Поэтому функцию ие можно подставить в D.2.4/3).
Переходя к пределу при е —>- + 0, получаем D.7.4/2). Ш

4.8.2. Критерий компактности • 203
§ 4.8. О КОМПАКТНОСТИ ВЛОЖЕНИЯ LJ, (Q) В Lq (Q)
В этом параграфе найдены необходимые и достаточные усло-
условия компактности в Lq(Q) множеств, ограниченных в простран-
пространстве L'P(Q). Здесь й —область конечного объема.
4.8.1. Классы /р,а и #р,а. Через 8lp.a(Af) и Ър>а(М) по-преж-
по-прежнему будем обозначать постоянные из определений классов /р>а
и Нр,а.
Определение. Область Q принадлежит классу /р,а
(классу Яр а), если Шра(М)-+-0 при Af-»O ($„ а(М)-+-0 при
М-*-0). Ш
Из равенства D.3.2/1) следует, что Qe/i,a в том и только
в том случае, если
lim sup (К (?)]«/*(%)) = О A)
(здесь, как и ранее, через g обозначены допустимые подмноже-
подмножества О). Ш
В определении^ класса /р,а величина а больше чем l/p — 1/n,
так как ср (В2р\ Вр) = const p"-p и, еледовательно,
[тя (ВрI1/р-'/»/[Ср (B2p\5p)]vp = const > 0.
4.8.2. Критерий компактности.
Теорема. Оператор вложения LP(Q) в Lg*(Q), где oo>q* 5= 1,
вполне непрерывен в том и только в том случае, если Q e /p_ a
при pa^l или ЙеЯр,а при ра>\, где ar1=q*.
Доказательство. Достаточность. Пусть и — произ-
произвольная функция из С00 (й) П Lp (Q) П ?со (й) с ограниченным но-
носителем. (Согласно следствию 3.1.2 множество таких функций
плотно в ?/,(&).) Пусть r=inf{/: ma(Nt)^M}. Очевидно, что
В силу следствия 4.3.3 и следствия 4.4.2/1 справедливо неравенство
где 8(M) = dlp,a(M) при ра«? 1 и 6(Л1)=сЗ}р,в(М) при ра> 1.
Обозначим через Q.w ограниченную подобласть Q с границей
класса С0' ', такую, что mn(Q\QM)<.M/2. Тогда в силу того
что mn{NT)^:M, получаем тп{МТ(\&м)^М12. Следовательно,
\u\i. (пМ)^2~11гТМ11г, и мы пришли к неравенству
I и \Lq. lQ) ^cb [M), Vu k0и», + с^-1/' К №«* i« к,(оМ). (О

204 § 4.8. О компактности вложения LJ, (Q) в Lq (Q)
В силу следствия 3.1.2 последнее неравенство выполнено для
всех и е Lp (Q).
Так как Qm — область с гладкой границей и компактным-замы-
компактным-замыканием, то оператор вложения Lp (й.и) в Lr (й.м) вполне непреры-
непрерывен. Пусть последовательность функций {ит}т^и расположенных
на единичной сфере пространства LJ, (Q), сходится в себе в Lr (Q.w).
Тогда из A) следует
I ит - и, || v и» <сб (М) + сМ-1" [тп (Q)]"»' || ит - щ \Lr {Й/И). B)
По любому е>0 найдется такое М, что сб(М)<е/2, и выберем
столь большой номер Nt, что при т, />Л'е второе слагаемое
справа в B) не превосходит е/2. Тогда || ит — ы; \lq, (П) < е при
т, l>Ne и, значит, последовательность {ит\ сходится в Lg» (Q).
Необходимость. Пусть оператор вложения LJ,(Q) в Z9.(Q)
вполне непрерывен. Тогда элементы единичной сферы в Lp (Q)
имеют равностепенно абсолютно непрерывные нормы в Lg> (Q).
Следовательно, для всех и е Lp (Q)
I и Sv (о ^ е (М) A Vu kp ,й, +1 и \lx («»),
где «в — ограниченная подобласть Q, ffl с: Q, G — произвольное
открытое подмножество Q, объем которого не превосходит М,
а функция г(М) стремится к нулю при М-уО.
Пусть функция u^.Lp (Q) равна нулю вне G. Тогда
! и Iv @) < 8 (М) [ 1 - е (М) Л* "/«4-11 Vu kp (Я).
Остается воспользоваться второй частью следствия 4.3.3 при
ctp^l и второй частью следствия 4.4.2/1 при ар>1. ¦
4.8.3. Достаточные условия компактности вложения LP(Q)
в Lq* (Q). Из неравенств 21„„ fXl (M)^cSlp,a(M), sSPl. a, (M)<
<сЗЭр,а(Л1), где /?1>/?^1,' а, —/?г'=а —/г1, следует, что
/
НРи а,. В ЧаСТНОСТИ, У
c=/p>a. Отсюда получаем следующее утверждение.
Следствие 1. Если область Q принадлежит классу Ja и
р A — а) < 1, 1 ^ р «=: q* = р/[ 1 + р (а — 1)], то оператор вложения
Lp (Q) в Lq* (Q) вполне непрерывен.
Из условия
> A)
и тем более из условия
^3 B)
в силу предложении 4.4.4/1 и 4.4.4/2 следует, что ФР.(
при Af->0. Поэтому справедливо следующее утверждение.

4.8.4. Теорема о компактности для множества конечного объема 205
Следствие 2. Если интеграл B) (интеграл A)) сходится,
то оператор вложения LP(Q) в Lq» (Q) (q* =a-\ ар>\) вполне
непрерывен.
Из следствий 1 и 2 немедленно получаем следующий более
грубый результат.
Следствие 3. Если Qe^u рA — а)«^ 1, p^s I, l^</<
<р/[1 +р(а — 1)], то оператор вложения Llp(Q) в Lg(Q) вполне
непрерывен.
Очевидно, что в теореме 4.2.2 и следствиях 1—3 простран-
пространство LP(Q) можно заменить пространством WlPi r(Q) (где r^q*).
4.8.4. Теорема о компактности для произвольной области ко-
конечного объема. Из положительности функции км (см. лемму 3.2.4)
и оценки D.3.4/1) следует, что vjM.p(/)>0 при />0. Поэтому
существует неубывающая положительная непрерывная на @, т„(О)]
функция ф, такая, что (p(t)/vM,P(t) стремится к нулю при /-»- + ()•
Теорема. Пусть Q — произвольная область конечного объема.
Тогда из любой ограниченной в Lp (Q) последовательности функций
можно выделить подпоследовательность {ыт}т>ь для которой
0,
т,
ы, следовательно, любое ограниченное подмножество Lp (Q) ком-
компактно по п-мерной мере Лебега.
Доказательство. Пусть и— функция из С°° (Q) (] L'p (Q) (]
L(Q) с ограниченным носителем. Очевидно, что
J" Ф[тл(^)^(^<^ФК(^)]сг(^ + ^ф[тл(Й)]. A)
Здесь Т = inf {t: mn (Nt) <? \к}, \к — достаточно малое положитель-
положительное число, не зависящее от функции и. Правая часть неравен-
неравенства A) не превосходит
(ф (T)/V/M|"(т)) ^Ср (LrXyV/) d {tP)+Сф [
где Q^ —область, определенная в доказательстве теоремы 4.8.2,
где следует заменить М на \i. В силу леммы 4.1.3/3
f ф [пи (Nt)] d (f) ^ о ^sup ^ (Ф (x)/vM, р (т)) fVh p
. B)
Следствие 3.1.2 позволяет распространить это неравенство на
все функции из Lp (й). Остается воспользоваться рассуждением,
проведенным в конце доказательства достаточности в теореме 4.8.2.

206 § 4.8. О компактности вложения LJ, (Я) в Lq (?2)
4.8.5. Примеры областей из класса 1А„.
Пример 1. Из оценок D.3.5/1) следует, что область
{х; (*/+ ... +4-01/2</(¦*»), 0<х„<а} из примера 4.3.5/1 при-
принадлежит классу 1°Р,а в том и только в том случае, если
lim (JJ [/ (Z)]"-1 dtf1^-^ \ax [f (/)]u-«>/(p-u dt = 0.
В силу C.3,3/1) и следствия 4.8.3/1 достаточным условием
принадлежности классу /р,а является равенство
Так как функция / нг убывает, то A) выполнено, если ар = 1
и при ар < 1, если lim ха/(л;) = 0, о = (ра-\-р— \)/(п — \)(ар — 1).
+ 0
Пример 2. Область Q = {x: 0<л;„<со, (лг;4-...
из примера 4.3.5/2 принадлежит классу /р,а в том и
только в том случае, если
lim (Jf [/(t)]"-1 dT)ap/(p-1) j; [/ (T)](i-»)/(/'-i' dx = 0 B)
(см, оценки D.3.5/3). В силу C.3.3/4) и D,3.4/1) последнее усло-
условие выполнено, если
(? 1-1" = 0. C).
В частности, Qe/Pi цр, если f(x) = e-p(t), Р'(т)->-4-оо при т->-
-»--!-00- В случае /(т)=е~сТ рассматриваемая область принадле-
принадлежит классу /ftXIр и не принадлежит классу 1р,х/Р-
Аналогично для спирали из примеров 3.3.3/3 и 4.3.5/3 полу-
получаем следующее необходимое и достаточное условие принадлеж-
принадлежности классу /ра:
lim ($+ ю 6 (Ф) depf'^ ^ [б (Ф)]1/A-Р) Жр = 0,
0—* -{- 00
а также более простое достаточное условие:
при 8- + ОО.
В частности, Qe/p,i/p, если б(ф) = е-е((р), Р'(ф)->--f-оо при
Ф-*- + оо, и йе/р,1/р\/р.1/р, если 6(ф)=е-сч>.

§ 4.9. О вложении Llp (?2) в Lg (fi) 207
§ 4.9. О ВЛОЖЕНИИ Llp (Q) В Lg (Q)
Приведем достаточные условия ограниченности и полной не-
непрерывности оператора вложения пространства Llp (Q) в Lq* (Q),
которые являются простыми следствиями теорем 4.3.3 и 4.4.2
о функциях с первыми производными из LP(Q).
Теорема 1. Если йе/рд, 1 — 1 // < ра < 1 или Q e HPi a,
ра>\, то оператор вложения L!P(Q) в Lg*(Q), где q* —
= р/A — /-f-p/a), ограничен.
Доказательство проводится индукцией по числу производных /.
При этом используются вложения 1р,а с: 1Ри а„ Hp.acz HPl_ai, где
Pi>pS=l. oci — pi1 =а — р-1 (см. следствия 4.2 и 4.4.2/2). ¦
В частности, для областей класса 1р,иР-цп теорема 1 гаран-
гарантирует непрерывность оператора вложения Llp(Q) (lp<.n) в Lg*(Q)
с тем же показателем q* = рп/(п — 1р), что и в теореме Соболева.
Из теоремы 1 и предложения 4.3.4/2 получаем следующее
утверждение.
Следствие 1. Пусть 2еУа, где 1 — 1/n^as^ 1 и /рA — a)==S
«^1. Тогда пространство Llp(Q) вложено в Ьд»(п), где q* =
= р/A — р/A —а)) при pi(I — а)< 1 ы (?* —любое положительное
число при pl{\— а) = 1. ¦
(Показатель q* = рп/(п — рТ) получается при a =1 — 1//г.)
Пример 1. Так как область Q(W = {г xf+•••+j?-i \
0<л:л<с1}, А,5=1, принадлежит классу Уа при а =
= Х(п — 1)/(Х(п — 1)+ 1) (см. пример 3.3.3/1), то согласно след-
следствию 1 при \-\-K(n—\)>pl для этой области Lp(Q(X)) dL9.(Q(X)),
где
q* = р (Цп - 1) + 1)/A + к (п - 1) - /з/). A)
Пример функции u(x) = x~v, где v = (l +^(«— 1 ))//> — / — е,
(е — произвольно малое положительное число), показывает, что
. показатель q* нельзя увеличить.
Аналогично теореме 1 получается следующая теорема об усло-
условиях компактности вложения L'p (Q) в Lg> (Q) для множеств конеч-
конечной меры тп.
Теорема 2. Если йб/р,а, 1 —1//<уга<1 или Qe//P>a,
ра>1, то оператор вложения L'p(Qi) в Le*(Q), где q* =
= р/(\ — pl(l — a)), вполне непрерывен.
Из этой теоремы и следствия 4.8.3/1 вытекает следующее
утверждение.
Следствие 2. Если mn(Q)<oo и Qe/a, где 1 — 1/п<
<а^1 ы /рA—а)<1, /по оператор вложения LP(Q) в Lq(Q),
еде q<.p/(\ — pl(\ —а)), вполне непрерывен.

208 § 4.10. Приложения к задаче Неймана...
Отсюда непосредственно получаем следующее более грубое
достаточное условие в терминах классов Ja-
Следствие 3. Если т„(й)<оо u Qe/a A-1/Жа<1)
и 1р{\— а)«^1, то оператор вложения Llp(Q) в Lq(Q,), где q<_
<pl{\ — pl(\ —а)), вполне непрерывен.
Пример 2. Для области, рассмотренной в примере 1, согласно
следствию 3 оператор вложения Llp (Q^) в Lq (Q'*1') вполне непре-
непрерывен при
(ХA) + 1)A+Ц-1)-р1) B)
(предполагается, что 1 -\-К(п — 1)$;/?/)• Поставить в B) знак ра-
равенства нельзя. Действительно, пусть tj eCJ5°@, 3), т]= 1 на A, 2).
Очевидно, что семейство функций {ме}е>о. где ие(х) =
= el-<ki"~l)+I)tpr)(x/e), ограничено в Lp(Q{M) и не компактно
в Lq* (й(Х)). гДе Я* — показатель, определенный равенством A).
§ 4.10. ПРИЛОЖЕНИЯ К ЗАДАЧЕ НЕЙМАНА ДЛЯ
СИЛЬНО ЭЛЛИПТИЧЕСКИХ ОПЕРАТОРОВ
Здесь результаты предыдущих параграфов этой главы исполь-
используются для изучения условий разрешимости и дискретности
спектра задачи Неймана в областях с нерегулярными границами.
4.10.1. Операторы второго порядка. Пусть Q — подобласть R"
конечного объема, и atj (где i, / = 1, •••, п) — вещественные изме-
измеримые функции в Q, aij — aji. Допустим, что существует кон-
константа с>1, такая, что для почти всех xeQ и всех векторов
Е ( Ы ^SIvU/lI
Оператор Aq, 1^</<оо, задачи Неймана для дифференциаль-
дифференциального оператора ы ->- — д/дх, (aijdu/dx/) определим следующими двумя
условиями: 1) ut=WLq (Q), Аяи е Lq- (Q), 1 lq' + 1 lq = 1; 2) для
всех v s Wl. q (й) справедливо равенство
\й vAqu dx = \й аи (ди/dxt) (dv/dxj) dx. A)
Отображение ы->- Aqu замкнуто. Очевидно, что множество значе-
значений R (Aq) оператора Aq содержится в множестве LQ> (Q) 0 1 функ-
функций из Lg(Q), ортогональных единице в Q.
Лемма. R (Ад) = Lq- (й) 0 1 в том и только в том случае, если
для всех v e Wl. q (fi) справедливо «обобщенное неравенство Пуанкаре»
nlLqWt\iiQ). B)
Доказательство. Достаточность. Согласно лемме
3.1.2/2 множество W\. <?(й) плотно в Z4(Q). Поэтому, если нера-
неравенство B) выполнено для всех oslfl. »(й), то оно верно и для
всех ие/4(ф). Следовательно, какова бы ни была функция

4.10.2. Задача Неймана для операторов произвольного порядка 209
), функционал »-»-\avfdx ограничен в LJ(Q) и может
быть представлен в виде
\aatj(dv/dxj)(du/dxi)dx, C)
где и<=Ц (Q). Так как в силу B) Ц (Q) с: Lq (Q), то и е Wi q (Q)
и следовательно, Aqu = f.
Необходимость. Пусть / е Lq- (Q) 0 1, у е Ц (О) Г) ^ (Q),
II Vv \\l, (ш = 1 • Так как Я (Aq) = L,- (й) 0 1, то функционал /-»и(/) =
= ^Q/ud*, определенный на L,'(QHl, можно представить
в виде C), где и —некоторая функция из L,(Q). Поэтому |у(/)|^
<; С1 V« \Ll (Q) и функционалы v (/) ограничены на каждой функ-
функции / е Lg (fi). Значит, они ограничены в совокупности, т. е. для
всех »efi,(^) выполнено неравенство B). ¦
Из теорем 4.3.3 и 4.4.2 и из доказанной леммы непосредст-
непосредственно получаем следующий критерий разрешимости задачи Аяи = /
при всех / е Lq- (fi) 0 1.
Теорема 1. R (Ад) = Lq- (fi) 0 1 в том и только в том случае,
если fie/2, i/g при q^s2 и йеЯг. ия пРи <7<2.
Пусть а — вещественная существенно ограниченная функция в Q,
такая, что а (х) ^const > 0 при п. в. *ей. Тогда определен
оператор и-*-Ачи-\-аи с той же областью определения, что и
оператор Ач. Рассмотрим задачу Неймана Aqu-\-au = f, где^е
ei(-(Q). Если q'^2, то вопрос о ее разрешимости тривиален:
функционал ^Qfvdx непрерывен в пространстве №j(Q) со скаляр-
скалярным произведением ^a(aij(dv/dxj)(du/dxt)-[-auu)dx. Если ц' <2,
то для разрешимости необходимо и достаточно, чтобы для всех
рр ,
v ей7)(й) выполнялось неравенство \v\l (Q)^C|y|yi(Q). Отсюда
и из теоремы 4.3.3 вытекает следующее утверждение.
Теорема 2. R(Ад--f-al) = Lq-(fi), где q'<2, в том и только
в том случае, если й е h, ия-
В силу леммы Реллиха вопрос об условиях, которым должно
удовлетворять множество Q для того, чтобы спектр оператора
А— Аг был дискретным, сводится к изучению условий компакт-
компактности вложения Wi(Q) в L2(fi). Поэтому согласно теореме 4.8.2
имеет место следующее утверждение.
Теорема 3. Спектр оператора А дискретен в том и только
в том случае, если Q e /s. i/a.
Достаточные условия принадлежности множества классам /2. i/q,
Н2, \/я> h. 1/2 и примеры областей из этих классов приведены
в предыдущих параграфах этой главы.
4.10.2. Задача Неймана для операторов произвольного порядка.
В этом пункте мы ограничимся рассмотрением операторов со зна-
значениями в L2 (Q).

210 § 4.10. Приложения к задаче Неймана...
Пусть Q — ограниченная подобласть R". Через i, / обозначим
мультииндексы порядка не выше /, /5=1, и через % — ограни-
ограниченные комплекснозначные измеримые функции в Q. Допустим,
что для всех «eiS (Q) выполнено неравенство
где D1 = {д1' '/(Ц1 • • • дх1п].
Оператор А задачи Неймана для дифференциального опера-
оператора - и -> (— 1 у 2 =! t j = t Dl (аи DJu) определим условиями:
1) uelFi(Q), 4«<=L2(Q); 2) для всех ке^(Й)
$Q о Аи dx = ^ 2; „ _,,; _, у
Очевидно, что множество значений R (А) оператора А содержится
в Li (Q) 0 ^_ь где 6^1-1 — пространство полиномов степени не
выше / — 1.
Если для всех oeLs' (Q) верно неравенство
inf |о-П|, (O)<ft|V,o|t (Q), B)
то, как известно, R (Л) = L2 (Q) 0 ^_i [58, 9.1, гл. 2].
Простое рассуждение, использующее индукцию по числу про-
производных, показывает, что неравенство B) следует из неравенства
Пуанкаре
inf fM-c|i,(
Следовательно, доказано следующее утверждение.
Теорема 1. Если Q e h. 1/2, mo Я (Л) = L2 (Q) 0 $Vb т. е.
задача Неймана Au=f разрешима при всех f e L2(Q) Q ^г-х.
Аналогично можно поставить задачу Неймана для более общего
оператора «-> (—1)'Ц t|. ; ^ГЦацЫи).
Оператор В этой задачи определим условиями: 1) «еУ^(й),
Ви е L-2(Q); 2) для всех ое^(Q) справедливо равенство
50efl«dx = 5Q2i«,. in<ia'fDJu^dx- C)
Теорема 2. Если Q е Д. 1/2, mo /? (В + ?i/) =^= L2 (fi) np« доста-
достаточно больших значениях Re X и оператор (В + XI)-1: L2 (Q) -*•
-^-Vi^) вполне непрерывен.
Доказательству теоремы предпошлем лемму.

4.10.3. Задача Неймана для специальной области 211
Лемма. Если Q e h. 1/2, то для всех и е W% (Q) справедливо
неравенство
Hi" о I Vfc« It, (Q) ^ e S V,« 1^ (Q) + С (е) 1 и k, (Q) D)
при любом e>0
Доказательство. В силу неравенства D.8.2/1)
[ « U,(O) ««2. 1/2 (М) | V« ^@) +С (/
где QM — подобласть Q с границей класса С1, такая, что
2т„ (Q \ QM)<М. Отсюда при всех k = 0, 1, ..., / — 1 получаем
@) + с (тп
Так как граница области QM гладкая, то при всех е>0
I V*« Pz.2 (Од|) < е ||V^+lU |ц (Од|) + с0 (е) | и |ц
Значит, !VfcM|t,(Q)<c8l2, 1/2 (М)[ Vft+1«Jz
Применяя это неравенство к k, k+l, ..., / — 1, получаем
, ^ с [Я2. 1/2 (М)]'-* J V,« It, @) + ci (М) | и
Остается вспомнить, что Э12, i/г (Л1) -»- 0 при М -> 0. ¦
(Попутно мы доказали, что если Q е /2. i/г. т. е. Ш2. i/г (М) < оо
при некотором М <imn(Q), то неравенство D) верно при некото-
некотором е>0.)
Доказательство теоремы 2. В силу A)
Применяя неравенство D) при e = C/2d, получим
=s V.Ci 1V/U a, (Q) + (Re X - C2) I u |i, @).
Значит, при ReX>C2 справедливо неравенство «коэрцитивности»
Отсюда (см., например, [58, гл. 2, 9.1]) следует однозначная раз-
разрешимость уравнения Bu + Xu — f для Bcex/eL2(Q). Полная не-
непрерывность оператора (В + XI)-1 —следствие теоремы 4.9/2. Ш
4.10.3. Задача Неймана для специальной области. В моногра-
монографии Р. Куранта и Д. Гильберта [46] приведен следующий пример
области, для которой неверно неравенство Пуанкаре.

212
§ 4.10. Приложения к задаче Неймана...
Пусть область й представляет собой сумму квадрата Q: {(х, у):
()•<*¦< 2,— \<iy<tl} и последовательности пар симметрично
расположенных квадратов Qm, Q-m, m = \, 2, ..., соединенных
с Q перешейками Sm, S~m (рис. 19). Пусть длины сторон квадра-
квадратов Qm и Q-m, а также высоты перешейков Sm и S-m равны em=2-m.
Ширина перешейков пусть равняется е™.
Введем последовательность функций {ит\т>и определенных
равенствами: ит = ±г^ на Q±m, ит(х, у)=е^(угр 1) на S±m,
и = 0 вне SmUS_mUQmUQ-m- Для
этой последовательности
г
¦ т
о-ест
\\Qu%ldxdy>2.
а-,
нечно
= {(х,
число
Таким образом, при а>3 для об-
области Q неверно неравенство Пуан-
Пуанкаре, а при а^З оператор вложе-
вложения W* (Q) в L2 (Q) не является
вполне непрерывным.
В этом параграфе мы покажем,
что при а^З справедливо неравен-
неравенство Пуанкаре, и, следовательно,
задача Неймана, рассмотренная в
п. 4.10.1, разрешима в Ц(п) при
любой правой части из Li (Q) Q 1 и
что спектр этой задачи дискретен
при а<3.
Рассмотрим любую неотрицатель-
неотрицательную функцию и, равную нулю вне
m (m — фиксированный положительный номер) и беско-
дифференцируемую в Qm [} Sm. Введем обозначения: Et =
у): u=t}, Н,=*{(х, у): u<t}, N, = {(x, у): u^t}. Если
t e @, оо) таково, что
A)
¦п
Рис. 19.
то
B)
Множество уровней /, для которых выполнено A), обозначим
через ф. Повторяя с непринципиальными изменениями рассужде-
рассуждения, проведенные в § 4.5, можно показать, что для / еСф имеет
место один из следующих трех случаев:

4.10.3. Задача Неймана лля специальной области 213
fs{EtJ22r~*, C)
D)
E)
F)
| «(?,)<2-"", G)
Отсюда следует, что множество всех уровней t (о точностью
до множества нулевой меры) можно представить в виде суммы
Ш' (J Л" U W, где Ш' — множество t, для которых верно неравен-
неравенство (8), Ш" и да'" — соответственно множества всех уровней, для
которых выполнен >i неравенства C), D) и E), F).
Для функции ty(t) — \'([E \4u\ds\~1 dx имеем оценку ф@^
*? - $0 (d/dx) m2 (N%) (dx/[s (?T)]2) (см. лемму 4.1.3/2). Интеграл
справа представим в виде суммы \„, + §„„ + ^„„. Из неравен
ства (8) следует
L, =^ — с2~ C-а>т \' [тг (IS/,)J-2 {d/dx) тг (Nx) dx < с2~ (Э-а)m/m2 (Nt).
Используя C) и D), получаем ^„,^2°"" sup m2(NT)^2*0-1'm.
Аналогично в силу E) и F) L,*^20™ sup тг(Яг)^2(а-1>т.
Следовательно, i(i (/) «=s с B^" m + 2- f30 m/m2 (Л^г)). (9)
Так как m2 (W,) «s 2-**, то из (9) получаем
m2 (Л^,) ф @ < c2- <">m. A0)
Поэтому
И<гти5ти1Лс^=2$Г"*я11(^(*))^<е2-^)'-5
Интеграл в правой части не превосходит
mu m
Поэтому JJQ us «М^^сг-'3^)^ us (yuydxdy. A1)
/71u TO /71u /71
Ясно, что это неравенство верно для любой функции «eLj (Q),
равной нулю вне Qm [j Sm, и что аналогичная оценка верна в слу-
случае отрицательных номеров т.

214 § 4.10. Приложения к задаче Неймана...
Пусть теперь v — произвольная функция из L<1(?2) и.пусть
г) — срезающая функция, равная нулю в Q, единице в Qm и Q-m
и линейная в Sm и S~m (m = l, 2, ...). Тогда
И„ 02)
гд" QN = Q\ (J (QmijSm) и Л' —произвольное положительное
\m\~^N
целое число. Из A1) получаем, что при т>0
im \ \Sm v2 dxdy}. A3)
Оценим второй интеграл в правой части. Легко проверить, что
Отсюда
m Lsm и ад у d;t-
Так как s ESm П ^Q) = 2~am, то в силу неравенства Гельдера
]lmV*dxdy<c2-*'»ttsJVv)*dxdy + c2-*'»lv!i2ana_l){dSmn<)Qy A4)
Поэтому из A3) получим
Используя A4), A5), из A2) выводим
{ttQm{jS
\ \aN у2dxdy.
В силу неравенства Гельдера
2; и [ >W I V I
2-(a-1)a/(a+1>imiYa+1>/2a x

4.10.4. Контрпример к неравенству D.10.2/4) 215
Итак,
$ $Q v2 их dy < c2-(SMX>N J Jo (VuJ d* d# +
A6)
Так как при любом г еA, оо)
I у 1^ tap) < с
то из A6) получаем оценху
A7)
Граница области Q.v принадлежит классу С0-1, поэтому оператор
вложения Wi(Qv) в L2(QV) вполне непрерывен. Отсюда и из A7)
следует полная непрерывность оператора вложения Wk (Q) в L2 (Q)
при а<3. Наконец, при a=sS3 из A7) получаем неравенство
Пуанкаре:
inf ||l»-Vlk,(Q)<
те Я1
y|k(Q)+ inf !y-Y!LJ(
те/?1
4.10.4. Контрпример к неравенству D.10.2/4). Покажем, что
из справедливости неравенства D.10.2/4) при некотором е>0 не
следует его справедливость при всех е>0.
Пусть Q —область, рассмотренная в п. 4.10.3. Предположим, что
ширина перешейков Sm и S-m равна 2-3. Как было показано
в п. 4.10.3, в этом случае Qe/2,i/2- Поэтому при некотором
е>0 оценка D.10.2/4) верна.
Рассмотрим последовательность функций \ит\т^и определен-
определенных равенствами ит = 0 вне Qm{JSm, ит(х, у) = 4т(у — 1 J на Sm
и ит(х, у) =2т+1(г/— 1) — 1 в Qm. Очевидно, что
В силу неравенства D.10.2/4), где 1 — 2, имеем 2A)
s^ 2e + k (е) 2~т, т = 1, 2, ..., что неверно при малых е > 0.
§ 4.11. НЕРАВЕНСТВА, СОДЕРЖАЩИЕ ИНТЕГРАЛЫ ПО ГРАНИЦЕ
4.11.1. Вложение W),.r(Q,, dQ) в L?(Q). Содержание этого
пункта примыкает к результатам § 3.6, где рассмотрен случай
р = 1. Пространство Wy , (Q, dQ) и класс К-,., р определены в п. 3.6.1.
Из теоремы 3.6.3 можно получить следующее достаточное усло-
условие непрерывности вложения Wlp, r (Q, dQ) в L?(Q) при р>1.

216
§ 4.11. Неравенства, содержащие интегралы по границе
Теорема 1. Если Q е/Са.р, гдеа^ 1, рA—а)<1 и
для всех и е Wp, r (?2, дп) справедливо неравенство
где q = p/(l-p(l-a)), r-paft (I -p(l -а)).
Доказательство. По теореме 3.6.3 для всех
П С (й) с ограниченными носителями
, то
A)
Положим здесь и — \и\?а и отметим, что в силу неравенства Гель-
дера .
Тогда
¦a<
- 1/а-И « „ .:(р-1)/ра
что и доказывает A).
Так как любое множество Q принадлежит классу Ki-i/n. и то
справедливо следующее утверждение.
Следствие 1. Каково бы ни было открытое множество й,
для и е Wj,, p („_!)/(„ _Р) (Q, дп) при р<.п имеет место неравенство
Заменяя в неравенстве D.7.5/6) функцию и функцией \и\г и
применяя неравенство Гельдера, получаем следующее утверждение.
Следствие 2. Каково бы ни
было открытое множество Q конеч-
конечного объема, справедливо следующее
усиление неравенства Фридрихса:
Рис. 20.
где (п — р)г^р(п— 1),
= гп/(п -1).
Покажем, что показатель q =
= т/(п — 1) слева в C) не может
быть увеличен, если на множество
й не наложены дополнительные тре-
требования.
Пример. Рассмотрим область Q, представляющую собой объеди-
объединение полушара В = {х: хп < 0, | х | < 1}, последовательности
шаров $Вт (т = 1, 2, ...) и тонких трубок %>т, соединяющих <?8т
и В~ (рис. 20). Пусть рт — радиус шара <03т, a hm — высота Чэт.
Обозначим через ит кусочно-линейную функцию, равную единице

4.11.1. Вложение Wj, r(Q, dQ) в Lq (Q) 217
в Shm и нулю вне «®m U Чот. Допустим, что существует такая
константа Q, что для всех функций ит справедливо неравенство
Q (|
\\L
Отсюда следует оценка
Так как первое слагаемое в правой части можно делать сколь
угодно малым, уменьшая толщину трубки ?"„,, то Pm? = O(pm~1H-
Следовательно, q ^ т/(п — 1).
Для того чтобы сформулировать необходимое и достаточное
условие справедливости неравенства A), нам потребуется некото-
некоторая разновидность р-проводимости.
Пусть К — проводник в Q. Положим
cp(/Q=inf [\Q | Vf\pdx: f е
/^1 на F, /<0 на Q\G}. D)
Так же, как лемма 4.1.1/2, доказывается, что проводимость
Ср(К) может быть определена равенством
/eC°°(Q)nC(Q), /-1 на F,
/ = 0 на Q\G}. ¦ E)
Теорема 2. Необходимое и достаточное условие справедливости
неравенства^) при р>1, q^sp^sr имеет вид [т„(i7)]1^<;
«^const([2p(^)]1/p + [s(a(rG)]1/'-), где К-любой проводник G\FeQ.
Это утверждение доказывается аналогично теореме 2.3.7.
Рассуждая так же, как при доказательстве теоремы 4.8.2, по-
получаем следующий критерий компактности.
Теорема 3. Необходимым и достаточным условием полной не-
непрерывности оператора вложения Wp, r (&, dQ) в Lg(Q), где т„ (Q)<Coo
и q'&sp&sr, является равенство
Отсюда и из следствия 2 получаем следующее утверждение.
Следствие 3. Пусть (п — р)г^р(п — 1), гзП. Каково бы
ни было открытое множество конечного объема, оператор вложе-
вложения Wp, r(Q, dQ) в Lq(Q) вполне непрерывен, если q<.rn/(n—l).
Пример этого раздела показывает, что существуют области
конечного объема, для которых вложение WlPt r (Q, dQ) в Lrni(n-i) (Q)
некомпактно.

218 § 4.11. Неравенства, содержащие интегралы по границе
4.11.2. Классы /?«" и Лп~п.
Определение 1. Пусть Wp (Q) — пополнение множества функ-
функций из С°° (Q) П С (Q) П Wp (Q) с ограниченными носителями ио
норме пространства WP(Q).
Определение 2. Будем говорить, что множество Q при-
принадлежит классу /J,"^1', pSsl, а=э=(я — р)/р (n— 1), если сущест-
существует такая постоянная R > О, что
Шр,а (R)^ sup ([s&F)p/[Zp (/С)]1'") < схэ.
Здесь deF = dF f\dQ и супремум берется по множеству всех про-
проводников K = G\F в Q, таких, что G = Q(]BR(x), х<=д?1.
Ограничение а^'(п — р)/р (п — 1) в этом определении объясняется
тем, что при а<(л — р)/р (п — 1) класс 1Р" «" содержит лишь мно-
множества Q, границы которых имеют нулевую меру Хаусдорфа.
Именно справедливо следующее утверждение.
Предложение 1. Если а<(л — р)/р (п — 1), то либо dRp.a(R)==oo,
либо s (дп) = 0.
Доказательство. Пусть fie/J,"»11, s(дп)>0 и е — доста-
достаточно малое число. Построим такое е-покрытие <3Q откры-
открытыми шарами Br.(Xj), что ^l.rr'-ls^cs(dQ). Тогда 2j.r/~1^
^() и, следовательно, хотя бы для одного шара
A)
Рассмотрим проводник Kj = Gj\Fj, где Gj = QПВ2г.(xj) и
Fj = Qn~B7Jxjj. Так как cp(Kj) ==ср-сар(ВЛ.(л:;), B2r.(xj))=crJ-<>
(см. п. 2.2.4), то из определения класса /р"а1} и оценки A) сле-
следует, что г\п ~l) pa ^ const г1} - р . Замечая, что г/<еи что е можно
взять сколь угоднэ малым, получаем неравенство (n-l)pas^
Ssn — p. Я
Определение 3. Множество Q принадлежит классу J{?~1),
если существует такая константа Ме@, mn(Q)), что
&а (М) = SUP {[s (^)Ja/s (dig)'- g — допустимое подмножество
fi, mn(g)<!M}<oo. Ш
Введем еще функцию
где супремум берется ио множеству всех проводникоч K — G\F
в Q, таких, что mn(G)<M.
Точно так же, как и предложение 4.6, доказывается следую-
следующее предложение.

4.11.4. Сценкн нормы в Lq (дп) 219
Предложение 2. Имеет место оценка
%. Y(Л!) <с [Яр.
где у = офр/(р — 1+рР) " 9lP, p — функция из определения класса
/р,р (ел. п. 4.3.1).
Отсюда следует, что
"'a IMp.p^'p. У ¦ (*)
4.11.3. Примеры областей из классов /{Га1' и J\?~l).
Пример 1. Пусть х' = (хъ ..., xn_i) и Q = {х: — оо < хп < | х' |-\
/е/?"-1), гдеО<Я<п — 2. Обозначим через g произвольное
допустимое подмножество й, такое, что s (dig) < 1. Имеем
где Рг —проекция на плоскость хп = 0. Очевидно, что из всех
подмножеств Щ плоскости х„ = 0 с фиксированной (п — 1)-мерной
мерой наибольшее значение интегралу J^(l +Я2|^')-3(Л+1)I/2^'
сообщает (п— 1)-мерный шар с центром в начале координат.
Поэтому s {deg) < с \Q0 r"-a A + Я,1/-*(Х+1')V2 dr, где р = [v~nL i x
Xs(Pr(^))]1/(")- Отсюда получаем s(deg)^cs(Pr(deg)Yn-2->-)'(n-i)
Но так как s(Pr {deg))^s(dig), то [s(d(,g)]<'J-1)/<''-a-'->=?Scs(dig).
Как показано в примере 4.3.5/2, область Q принадлежит классу
Jp,a, гДе Р = (" — 1 + (р — О ^)/(" — 1 — Я) р. Поэтому, используя
D.11.2/2), получаем, что Об/?;", где у = (л - 1 +
1)А)ф2А)
Точность этого значения у проверяется на последовательности
проводников Km = Gm\Fm, где Gm = {xe=Q: 0<хп<2пг1}, Fm=
= {xeQ, 0<xn^m-1} (ср. с примером 4.6).
Пример 2. Такое же рассуждение показывает, что множество
й = {л:: \х'\<х\, 0<л;„<оо}, где kSsl, принадлежит классу
Д"Г-1)/(М'»-2)+1), и так как согласно примеру 4.3.5/1 fie/,f,
где Р = (А,(п-1) + 1-/?)//?(Л(п-1) + 1), то из D.11.2/2) следует,
что ?Je/J*v", где у = (Х(п-1) + 1 -р)/р(Х(п-2) + 1).
4.11.4. Оценки нормы в Lq (дп).
Теорема 1. Пусть s(dQ)<oo. Тогда:
1) если Qe/pia0, aps^l, /no для всех функций ueC°°(Q)n
П С (Q) с ограниченными носителями справедливо неравенство
иЦШ), A)
где ^ = а~х ы С — постоянная, не зависящая от и;
2) если для всех функций и из того же множества выполнено
неравенство A), где l/q^(n — р)/р(п— 1), rno Qe/j,"^1.

220 § 4.П. Неравенства, содержащие интегралы по границе
Доказательство. 1) Построим покрытие dQ одинаковыми
открытыми шарами BR (xi) с центрами хг е dQ, имеющее конечную
кратность, зависящую только от п. Пусть {т|^} — подчингнное этому
покрытию разбиение единицы, такое, что | Vt|,- I^cR-1.
Повторяя с очевидными изменениями доказательство теоремы
2.3.2, получаем
где G = Q П Br (*<)• Суммируя, приходим к оценке
I"|t,(ao)^сЖр,Vq (R)(I Vu tp(Q) + R~4ukpад). B)
2) Покажем, что при некотором достаточно малом М>0 вели-
величина фр, 1/д(М) ограничена.
Рассмотрим произвольный проводник f( = G\F в Q, удовле-
удовлетворяющий условию mn(G)<;M, где М — константа, которая будет
выбрана в конце доказательства.
Подставим в A) любую функцию/ из класса, указанного в фор-
формуле D.11.1/5). Тогда
< С (|| V/ \Lp
Согласно следствию 4.11.1/1
1/и,„/(я_„(О)<С(|У/ир(О) + |/и?(аО,). D)
Из неравенств C) и D) следует
1/ \Lq (aw ^ С (IV/ U, (о, + MVP-(-i)/n? щ (в0)>
Если постоянная М о самого начала выбрана столь малой, что
2СМ1'р-{п-1)""><\, то \f\L wOCWU. шу Минимизируя пра-
правую часть, получаем [s (deF)]1/q < 2С рр (/С)]1/р- ¦
Из доказательства теоремы 1 вытекает следующее утверждение.
Следствие. Если s(dQ)<оо и ра^ 1, то класс /?пU может
быть определен условием: величина *РР>а(Л1) конечна при неко-
некотором М > 0.
Теорема 2. Пусть s(dQ)<oo u /nn(Q)<oo. Тогда:
1) если Q е /р"а1}, ра< 1, /по для всех функций и eC°°(Q) f)
П С (Q) с ограниченными носителями справедливо неравенство
= с' и С — постоянная, не зависящая от и;

4.11.5. Класс /р(па '> и теоремы о компактности 221
2) если для всех функций и из того же класса выполнено нера-
неравенство E), где q>p, то Qs/JHa", a. = q-1.
Первая часть теоремы следует из D.11.1/3) и теоремы 1, а вто-
вторая часть доказывается аналогично второй части теоремы 1.
Теорема 3. Пусть Q — область, s (оп) < со, тп (Q) < со и q Зг р.
Тогда для справедливости неравенства
inf I и - с ||л (дп) *S С1 Vu Ц. @), F)
ее/?' ч р
где q^p и и — любая функция из С00 (Q) ПС(Q) с ограниченным
носителем, необходимо и достаточно, чтобы область Q принадле-
принадлежала классу Ilp,~\ilq-
Доказательство. Достаточность. Пусть K.=G\F,
mn(G)^M. В силу теоремы 4.11.1 /2 и следствия 4.11.1/3 тп(F)^
«S const (Zp(K) + s(deG)). Отсюда и из следствия этого пункта полу-
получаем оценку тп (F) ^ const ср (К). Иначе говоря, область Q при-
принадлежит классу /р,1/р. По теореме 4.4.3/2 и лемме 3.2.3/1 для
всех и ^.L), (Q) имеет место неравенство
inf \u-c\l (q) =s?С1 VuЦх. (Q).
ее Я1 р р
Остается сослаться на теорему 1.
Необходимость. Подставляя в F) любую функцию / из
класса, указанного в формуле D.11.1/5), получаем
min (| 1 - с \9 s (deF) +1 с |« s (дп\д?)) < С" [ср {К)\"р.
Я»
Отсюда следует оценка
s(deF)s(dQ\deG)
Поэтому если 2s (deG) ^ s (dQ), то s (deF) < 2?-xC? [2P (^)]?/p. Остается
взять в качестве множества G любой шар с достаточно малым
радиусом и центром на дп. Ш
4.11.5. Класс I(p,Zl) и теоремы о компактности.
Определение. Множество Q принадлежит классу /р"!*0,
если
я —о
В доказательстве предложения 4.11.2/1 показано, что если
™~ " и класс /pia1' не пуст, то а>(л — р)/р{п — 1).

222 § 4.11. Неравенства, содержащие интегралы по границе
Пример. Рассмотрим области: Qi = {х; 1 <х„ < | Х\ |-\ | х' |< 1},
где 0<Х<п-2, и Q, = {r. |*'|<*?, 0<хл<1}, где A,S&1.
В примерах 4.11.3/1 и 4.11.3/2 было показано, по суще-
существу, что Qx е= /<," у,0 и Q2 е /{," уД где у, = (п - 1 + (р - 1) Х)/(л —
— 2-Я)/? и Y2 = D«-l)+l -/?)/(X(n-2) + l)/?, а также, что
Q ^ /p. v . Следовательно, Q; е /р,а, (i = 1, 2) в том и только в том
случае, если а,->у,-.
Теорема 1. Пусть s(dQ)<oo u /n4(Q)<oo. Множество функ-
функций из С00 (Q) П С (Q) с ограниченными носителями, расположенное
в единичном шаре пространства W), (Q), относительно компактно
в Lq(dQ), q^zp, в том и только в том случае, если Qe/p"!/^-
Доказательство. Достаточность. Пусть Qs/pil/У,
q^p. Если I" 1,^1 (Q)«? 1, то по теореме 4.1.1.4/1
Iv" kp (Q) +1" hp (да) =s? const.
Согласно следствию 4.11.1/3 оператор вложения U7Pt p (Q, дп)
в Lp (Q) вполне непрерывен, и единичный шар в W'p (Qj — компакт-
компактное подмножество пространства LP(Q).
Каково бы ни было положительное число е, можно найти
такое R, что 3Hp,i/?(#)<e. и поэтому в силу D.11.4/2) для всех
и е С°° (Q) П С (U) с ограниченными носителями
! и \Lq (да) < е 1 Vu \Lp (в, + С (е) I и \Lp m.
Теперь стандартное рассуждение приводит к цели.
Необходимость. Пусть в —множество функций, опреде-
определенное в условии теоремы. Так как следы функций из в на dQ
образуют компактное подмножество Lq(dQ), то по любому е>0
найдется такое R, что для всех и ев и всех шаров BR(x) спра-
справедливо неравенство (^в (x)ndQ\u\qdsY/9«se. Пусть и — любая
функция из Cco(Q)flC(Q) с носителем в Br(x). Тогда
I" kq (Br (x) n да) ^ е (| Vu \Lp (п) +1 и \Lp m),
и так как по следствию 4.11.1/2
I" кр (В) < С (| Vu \Lp (о) +1 и |ip (во)),
то
Значит, если число е достаточно мало, то

4.11.6. Приближения к краевым задачам... 223
Пусть /( — проводник (Bx(x)f\Q)\F. Подставляя в последнее
неравенство любую функцию / из класса, указанного в формуле
D.11.1/5), получаем оценку [s(dfF)\1^ ^2eC[rf/(K)]1/p- Ш
Доказывая теорему 1, мы установили также следующее утвер-
утверждение.
Теорема 2. Пусть s(dQ)<oo и тп(Й)<оо. Множество функ-
функций из C°°(Q)r)C(Q) с ограниченными носителями, расположенное
в единичном шаре пространства Wlp,,, (Q, dQ), относительно ком-
компактно в Lq(dQ), q^p, в том и только в том случае, если
^' р. ш •
4.11.6. Приложения к краевым задачам для эллиптического
уравнения второго порядка. В п. 4.10.1 найдены необходимые и
достаточные условия разрешимости в энергетическом пространстве
и дискретности спектра задачи Неймана с однородным краевым
условием для равномерно эллиптического уравнения второго по-
порядка. Теоремы настоящего параграфа позволяют получить ана-
аналогичные результаты и для задачи
Ми ==aij{du/dxi) cos (v, Xj) + bu = q> на dQ,
где v —внешняя нормаль к &Q. Здесь а и Ь — вещественные функ-
функции, a^Lx(Q), beLM(<3Q), ач = ап.
Будем всюду предполагать, что s(dQ)<cx> и mn(Q)<oo. Отно-
Относительно функций а и b допустим, что каждая из них либо отде-
отделена от нуля и положительна, либо тождественно равна нулю.
Сначала предположим, что /ei(й) и фе!(dQ).
Точная постановка задачи такова. Требуется найти функцию
из класса W\(Q, дп), такую, что
где V — любая функция из С (?l)[)Wq(?l, дп) с ограниченным
носителем.
Эта постановка корректна, так как из определения простран-
пространства Wi(?l, дп) и неравенства D.11.1/3) следует, что интеграл —
в левой части тождества D.11.1/5) сходится.
Случай Ь = 0, <р = 0 был исследован в 4.10.1. Те же рассу-
рассуждения, что и в 4.10.1, вместе с теоремами 4.11.1/1 — 4.11.1/3,
4.11.4/1 — 4.11.4/3, 4.11.5/1, 4.11.5/2 приводят к следующим
утверждениям.
Теорема. 1) Если а = 0, Ь = 0, / = 0, то задача A) разрешима
при всех <peL?'(dQ), ^'=^/(^—1)^2, ортогональных единице
на oQ, в том и только в том случае, "если Q — область из класса
,(л-1)
12, 1/9 •

224 § 4.12. Комментарии к главе 4
2) Если infa>0, b = 0, / = 0, то задача A) разрешима при
всех ф е Lq- (dQ), q' «? 2, в том и только в том случае, если Q е
3) Если а = 0, inffc>0, / = 0, то задача A) разрешима при
всех фе?»(дО), каково бы ни было множество Q. Яры тех же
предположениях о функциях a, b, f необходимым и достаточным
условием разрешимости задачи A) при всех ф е Lq> (дп), q' <2, явля-
является включение Q e I^T/q1-
В указанных трех случаях решение задачи A) принадлежит
пространству Wl q (Q 5Q).
4) Пусть ф = Ь, inffc>0. Тогда задача A) разрешима при всех
/е^'Й- <7'^2я/(п+1), каково бы ни было множество Q. Не-
Необходимым м достаточным для разрешимости этой задачи при
всех f e Lq- (Q), ^' < 2п /(п + 1) является условие теоремы 4.11.1/2,
где р = г — 2.
Теорема 2. 1) В предположениях 1) —3) предыдущей теоремы
для полной непрерывности обратного оператора задачи A):
L9 (dQ) ->- U7J, (Q, 5Q), <7<2, необходимо и достаточно, чтобы
множество Q принадлежало классу /г'"^'*-
2) Яры условии 4) теоремы 1 обратный оператор задачи A):
L? (Q) -»¦ WJ. я (Q, 5fl) вполне непрерывен для любого множества Q,
если q' >2nj{n-{-1). Необходимым и достаточным условием полной
непрерывности этого оператора при q' <.2п/(п+ \) является усло-
условие теоремы 4.11.1/3, в котором р = г = 2.
В случае q = 2 теорема 2 дает необходимые и достаточные
условия дискретности спектра задач:
Lu = 0 в Q, Mu = ku на дп,
Lu = Хы в Q, Ми = 0 на 5Q.
Простым упражнением является распространение результатов
этого пункта на случай смешанной краевой задачи:
Lu = f на Q\?, Л1ы = ф на dQ\E, ы = 0 на Е,
где ? —подмножество Q.
§ 4.12. КОММЕНТАРИИ К ГЛАВЕ 4
§ 4.1. Проводимость (т. е. 2-проводимость) изучалась Полна
и Сеге [108]. К теоремам вложения понятие проводимости было
применено автором [61]. Изложение следует в работе автора [76].
Относительно содержания раздела 4.1.3 см. комментарии к §2.2.
Следствие 4.1.3/2 на эвристическом уровне при р = 2 получено
Полна и Сеге [108]. Лемма 4.1.3/3 доказана автором [76].

§ 4.12. Комментарии к главе 4 225
§ 4.2—4.4. Содержание этих параграфов, за исключением раз-
разделов 4.4.5 и 4.4.7, взято из работы автора [78].
§ 4.5. Результат этого параграфа при р = 2 получен авто-
автором [68].
§ 4.6 опубликован в книге автора [213, ч. 2].
§ 4.7. Часть этого параграфа D.7.1—4.7.4, кроме предложе-
предложения 4.7.1/1) опубликована в статье автора [78]. Предложение
4.7.1/1 и содержание раздела 4.7.5 взято из книги [213, ч. 2].
В связи с предложением 4.7.1/1 отметим работу Р. Андерссона
[145], где, в частности, для областей бесконечного объема дока-
доказана невозможность вложения L'P(Q) в L?(Q)npn \1рф\Щ-\-\/п.
§ 4.8, 4.9 являются частью статьи автора [78].
§ 4.10 частично содержится в работе автора [68], разделы
4.10.2, 4.10.4 и 4.10.5 опубликованы в книге [213, ч. 2]. Экви-
Эквивалентность неравенства Пуанкаре и разрешимости задачи Ней-
Неймана хорошо известна. То же относится к связи условий дискрет-
дискретности спектра и теорем о компактности (см. Ж. Дени и Ж.-Л. Ли-
Лионе [167], Ж.-Л. Лионе и Э. Мадженес [58], Й. Нечас [228]
и др.).
§ 4.11 взят из книги [213, ч. 2].
Имеется ряд работ, в которых для специальных классов об-
областей (нэ удовлетворяющих условию конуса или неограниченных)
доказаны теоремы о непрерывности или полной непрерывности
оператора вложения W'p (Q) в Lq (Q), или изучаются условия, не-
необходимые для этих свойств (Ж.-Л. Лионе [210], К. Бьеруп[154],
Г. Стампаккья [246], И. В. Глобенко [21], С. Кампанато [158],
Р. Андерссон [145, 146], А. Херд [201]. Р. А. Адаме [143]). Ана-
Аналогичные вопросы для «анизотропного» пространства W\, (Q) рас-
рассмотрены в книге О. В. Бесова, В. П. Ильина, С. М. Николь-
Никольского [6, § 12, гл. 3].
Отметим еще посвященные исследованию различных классов
областей, связанных с теоремами вложения, статьи Л. Френкеля
[179], К. Эймика [144], Д. Эдмундса [169]. В упомянутой работе
Эймика изучается, в частности, разложение пространства [L2 (Q)]N
на два ортогональных подпространства, состоящих из солено-
идальных векторных полей и градиентов функций из W$(Q), ко-
которое играет важную роль в математической теории вязкой жидко-
жидкости (О. А. Ладыженская [47]). Если Q — ограниченная область,
то согласно теореме К- Эймика [144] это разложение возможно
в том и только в том случае, если пространства Wt (Q) и Ц (Q)
совпадают. По теореме 4.4.3/2 настоящей книги последнее равно-
равносильно включению Q е 1%, щ.
8 В Г. Мазья

226 § 5.1. О вложении Wlp (Q) в С (Q) f] Lm (Q)
Глава 5
О НЕПРЕРЫВНОСТИ И ОГРАНИЧЕННОСТИ ФУНКЦИЙ
ИЗ ПРОСТРАНСТВ С. Л. СОБОЛЕВА
Если n-мерная область удовлетворяет «условию конуса», то по
теореме Соболева любая функция и из пространства U^'P(Q) при
pl>n совпадает почти всюду с непрерывной в Й функцией и
удовлетворяет неравенству \u\LaiW)<:C\u\wl где С—посто-
р
янная, не зависящая от и.
Простои пример плоской области Q = {x: 0<х, < 1, 0<а-2<
<jkT}, v> 1, и функции и(х) = х%, й>0, заданной в Q, г ока-
оказывает, что условие конуса существенно для справедливости этой
теоремы. Естественно ожидать, что для функций, заданных на
множестве с «плохой» границей, иногда должно выполняться вло-
вложение Wlp(Q) в Loo(Q)nC(Q) при более жестких, чем в теореме
Соболева, предположениях ори/.
В этой главе изучаются классы областей Q, для которых опе-
оператор вложения пространства Wlp(Q) в пространство Lm(Q)(]С(Q)
ограничен или вполне непрерывен. Некоторые из доказываемых
здесь теорем имеют характер необходимых и достаточных усло-
условий и формулируются в терминах р-проводимости. Другие резуль-
результаты представляют собой более легко проверяемые достаточные
условия справедливости теорем вложения WP(Q) в L» (Q) П С (Q).
Приводятся примеры, иллюстрирующие свойства «плохих» обла-
областей.
Большая часть результатов этой главы была анонсирована
автором в {61J и подробно изложена в [76].
§ 5.1. О ВЛОЖЕНИИ Wlp(Q) В C(Q)nZ.00<G)
5.1.1. Критерии непрерывности операторов вложения \Хпр(9.)и
LJ,(Q) в C(Q)fH<»(Q). Пусть у — любая точка области йи,о>0.
В этом и двух следующих разделах будем рассматривать только
проводники вида Qp(y)\y. Введем на @, -j-00) функцию
YP<P)= inf cp(Qp(i/)\#), р>п. Ш A)
VEfl
Очевидно, что ур не возрастает и равна нулю при р> diam(Q).
Условие р>п в определении ур вызвано тем, что в силу
B.2.4/1), B.2.4/2) инфимум в правой части A) равен нулю при

5.1.1. Критерии непрерывности операторов вложения ... 227
Замечая, что функция и(х) = (] — р~х|х — г/!)+ принадлежит
классу Ua(Qp(y)\y), получаем оценку ур(р)^ср"-Р.
Теорема 1. Оператор вложения Wlp (Q) в С (Q) П ?« (Q) ограни-
ограничен в том и только в том случае, если yp(pK=0.
Доказательство. Достаточность. Пусть и—любая
функция из С* (Q) Л №{, (Q) и у— такая точка Q, что и(у)Ф0.
Обозначим через R такое число, что yP(R)>0, и через р —про-
—произвольное число из промежутка (О, R]. Пусть еще v (x) —
=Л ((*- у)/р) и (х)/и (у), где г] е= С (В Д. Так как у (*/) = 1 и v(x) =• О
вне Ц)(#), то ср (Qp (г/) \ у) s^$Q I Vy|PdA; и, следовательно,
и (if) |" ср (Qp (у) \ г/)< с (JQp w | \и \р dx + р-Р Ц {у) | ы \р dx), B)
что доказывает достаточность условия ур
Необходимость. Пусть для всех и е Wp(Q) справедливо
неравенство
liwlLootQ)^^!!/!^^^. C)
Если в C) подставить любую функцию иеТа(Qp{у) \у), то
получим оценку 1 «SC([ Vu|L (Q, + yyp"/''). Если р —достаточно
малое число, то отсюда следует BC)-P*S:^Q\Vu\Pdx. Минимизи-
Минимизируя последний интеграл по множеству Та (йр(м) \у), получаем
ср(Пр{у)\у)^BС)-Р. Ш
Утверждение, аналогичное теореме 1, имеет место и для про-
пространства Lp(Q).
Теорема 2. Пусть /nn(Q)<oo. Оператор вложения простран-
пространства Lp (Q) в С (Q) П ^оо (Q) ограничен в том и только в том слу-
случае, если Ур^О.
В доказательстве нуждается только достаточность условия
0. В силу леммы 3.1.2/2 достаточно доказать неравенство
только для ограниченных функций из Lj,(Q). Обозначим через со
открытое множество, fflcrQ. Из оценки C) следует
) < С (|| V« lLp (Q) +1 и \Ь(О (Q) (mn (Q \
Выбирая со так, чтобы выполнялось неравенство 2С(тп (Q\co)I/p<
< 1, получаем D). ¦
Замечание. 1. Обозначим через Llp (Q) и Wlp (Q) пополнения
пространств С°° (Q) П С (Q) П l\ (Й) и С° (Q) П С (О) П Wp (Q) по нор-
нормам Lp (Q) и Wlp (Q).
Если в теоремах 1 и 2 заменить ур (р) на функцию ур (р) =
= inf с (Qp(y)\y), где св —р-проводимость, определенная равен-
J/SQ
8*

228 § 5.1. О вложении Wp (Q) в С (Q) П Lm (Q)
ством D.11.1/5), то получим аналогичные утверждения для про-
пространств Wlp(Q) и LP(Q).
! ¦ следующей теореме даны двусторонние оценки констант в не-
неравенстве E).
Обозначим через ар(ц) точную нижнюю границу ср(К) на
множестве проводников K = G\F в Q, подчиненных условию
mn(G)^M.m
Так как ср (К) — неубывающая функция множества F, то в этом
определении можно считать, что F — точка.
Теорема 3. 1) Если ор(ц)ф0 при некотором n<Cmn(Q), то
для всех функций и eL|, (Q) Л Lq (Q) справедливо неравенство
p |L,(O>, E)
где *,<[о
[р(иI y
2) Обратно, если для любой функции и е Uv (Q) f] Lq (Q) спра-
справедливо неравенство E), то ар (\х) ^ Bky)-P при ц = B?г)-?.
Доказательство. 1) Достаточно доказать неравенство E)
для функций из C°°(Q) ()Ц,(О.) [\Lq(Q,). Выберем такое положи-
положительное число t, что тп(\х: |ы(^)|>/})^ц и тп({х: \u(x)\^t})^:^.
Пусть T>t и \х: \и(х)\^Т\Фф. В силу определения р-про-
водимости для проводника Kt,r = {x: \u(x)\>t\ \ {х: \и(х)\^Т)
имеем
Следовательно, (T — t)pop(^)<-^Q\Vu\pdx. Отсюда
что и доказывает E).
2) Пусть выполнено неравенство E). Положим ц = B&г)-« и
рассмотрим произвольный проводник K = G\F, удовлетворяю-
удовлетворяющий условию mn(G)<;n. Пусть \ит) — последовательность функ-
функций из класса Та (К), такая, что !^"т||? (Q)-*~cp(K). Очевидно,
что
и что в силу неравенства E)
1 ^ 2h | Vum \Lp {K) -> 2kt [cp
Следовательно, ар (ц) ^ Bkx)-P. Ш
Замечание 2. Из теорем 1 и 3 следует, что условия ур == О
и ар = 0 эквивалентны.
Г). 1.2. Условие, достаточное для вложения Wp (Q) в С (Q) Л ^оо(й)
в терминах функции Хм. Из следствия 4.1.3/2 и определения

5.1.2. Условие, достаточное для вложения Lp(Q) в С(Q)(]LO3(Q) ... 229
функций ар и км немедленно следует оценка
ap(ii)^(^odx/[kM(x)}P'^l-p, A)
где ц=^Л1, которая вместе с теоремой 3 дает следующее доста-
достаточное условие вложения WP(Q.) в C(Q)fU-oo(Q).
Теорема 1. Если для некоторого М <.тп (Q)
$?|оо, B)
то оператор вложения W], (Q) в C(Q)f]^-co(?2) ограничен.
Отсюда вытекает следующее очевидное утверждение.
Следствие. Если йе/а и рA — а)>1, то оператор вло-
вложения Wp(Q.) в C(Q)f|^oo(^) ограничен.
Пример. Рассмотрим область
Q = {x: (х|+ ... + *!!-О1'»</(*„). 0<х„<а} C)
из примера 3.3.3/1. Из C.3.3/1) следует, что сходимость интег-
интеграла B) эквивалентна условию
o «х>. D)
Покажем, что если последнее не выполнено, то ар(ц.) = 0 и
тем самым пространство WP(Q.) не вложено в C(Q)f]?oo(?2).
Пусть F = Qfl{0<xn<e}, G=Q f| {x: 0<хл<6}, гдеб>е
и К — проводник С\ F. Введем функцию u^Ua(K), равную
единице на F, нулю вне G и функции
на G\F. Очевидно, что
cP CO < So Iv" I"dx=c (Z №W {Ып-1Шр-1))I~р- E)
Поэтому если интеграл C) расходится, то ср{К)->~0 при е-*-0
и, следовательно, ор=з0. ¦
В случае /(т) = стр, Р^ 1, область Q принадлежит классу Уа,
где а = Р(я- 1)/(Р("- 1)+1) (см. пример 3.3.3/1) и, следова-
следовательно, Wp (fl) с С (Q) П La, (fi) при р > 1 -f p (а- 1). ¦
Из условия D) следует также, что оператор вложения Wlp (Q)
в С(Q) П^оо(й) ограничен при всех р>п, если при малых т
функция / определена равенством / (т) = т (log тг1)-1 (log51 т-1)-1...
... (log* чг1)-1, где \ogm — m раз итерированный логарифм. (Эта
область, конечно, не удовлетворяет условию конуса.) ¦
Если для каждой точки Р области Q можно построить «ква-
«квазиконическое тело», расположенное внутри этой области и задан-
заданное при соответствующем выборе системы координат с началом
в точке Р неравенствами C), где функция / удовлетворяет усло-
условию D), то очевидно, что Yp(p)^0 и оператор вложения IFP(Q)
в С (Q) fl La> (Q) ограничен.

230 § 5.2. О мультипликативной оценке модуля функции из Wp (Q)
§ 5.2. О МУЛЬТИПЛИКАТИВНОЙ ОЦЕНКЕ МОДУЛЯ
ФУНКЦИИ ИЗ Wp(Q)
5.2.1. Условия справедливости мультипликативного неравен-
неравенства. Известно, что если область Q удовлетворяет условию ко-
конуса, то имеег место неравенство
|[^, A)
где р>п. Это —частный случай общих мультипликативных не-
неравенств Э. Гальярдо —Л. Ниренберга (см. 1.4.7, 1.4.8). В сле-
следующей теореме в терминах функции ар дано необходимое и до-
достаточное условие справедливости оценки:
I « flLoo (Q) < С I Ы Ц^ (а) \U \Lp <Q) . B)
где л —некоторое положительное число.
Теорема 1. Если при некотором г>0
lim ц'ар(ц)>0, C)
и-»+о
то для всех ueFJ,(Q) имеет место неравенство B).
Обратно, если для всех функций и е Wlp (Q) выполнено нера-
неравенство B), то область Q удовлетворяет условию C).
Доказательство. Достаточность. По условию тео-
теоремы существует такая постоянная М, что цгар(ц)^х = const>0
при це@, М]. Поэтому согласно теореме 5.1.1/3
I и tLoo ш) <: У'руг1'» | Vu \lp ш) + Ц'1/р I и \Lp (а». D)
Минимум правой части по ц достигается при ц* =
! и k (Q)/tfVu|j?. ш)У/(г+1} и равен ск-1"Ч'+1>\Чи\1п$1) X
p
Если 11*<?М, то неравенство B) доказано. Если ц*>М, то
1 M1D)
1 р ()
v}Ipi~1\uIl iQ)^M1+1/r\Vu[l (Q) и из D) получаем
(
1 и lLoo (В) < W-Vp<"« | Vu li^J,1» [ u l^U)" + сМ"
@).
Неравенство B) доказано.
Необходимость. Положим М = BСг*1)-р1(г*1). Можно счи-
считать константу С в B) столь большой, -что М<т„(й).
Рассмотрим произвольный проводник K = G\F, удовлетво-
удовлетворяющий условию mn(G)^n^M. Из неравенства B) для любой
функции uezTa{K) следует 1 <C^/pu+d(j\u[Lp(a) + М1/'I^*1».
Поэтому 2С+1ЦГ/Р1^"к @)^1* Минимизируя левую часть по
множеству Га (/(), находим BС+1)Р цгар (ц) ^ 1. ¦

5.2.2. О мультипликативном неравенстве в предельном случае г={р—п)/п 231
Из теорем 1 и 5.1.2/1 получаем следующее достаточное усло-
условие справедливости неравенства B).
Следствие. Если Qe4, где 1 >а5= 1 — 1/п и рA — а)>1,
то для любой функции uef|,(Q) справедливо неравенство B),
где г — р(\—а) — \.
Доказательство. Так как Йе4, то Хм(ц)^СмРа при
ц<Л4, где См — положительная константа. Отсюда и из оценки
E.1.2/1) получаем ар{ц)^Срм A -pal{p- l))"-1^1^- ¦
Пример. В случае f(xn),= cx%, рэ1, область E.1.2/3) принад-
принадлежит классу Уэ(П-1|/(В(я-1)+1), и поэтому в силу следствия при
р > 1 + р* (п — 1) справедливо неравенство B), где г — (р — 1 —
— р" (п — 1))/A -+¦ Р (я — !))• Этот показатель является точным, так
как из E.1.2/5) следует оценка
ор FР ("-1)+1) =С с, (^й | -Р( )
где б—любое достаточно малое положительное число.
5.2.2. О мультипликативном неравенстве в предельном случае
г—(р — п)/п. Если г = (р — пIп, неравенство E.2.1/2) превраща-
превращается в E.2.1/1). В этом частном случае необходимое и достаточ-
достаточное условие удается выразить в терминах функции ур.
Теорема. Неравенство E.2.1/1) выполняется для всех и е IF{; (Q)
в том и только в том случае, если
P"-"YP(P)>0. A)
р—+о
Доказательство. Достаточность. Пусть г^столь
малое число, что рр~.пур{р)>Ь>0 при р<у. В силу оценки
E.1.1/2) при р^г справедливо неравенство
c61/"i«lLcO(a)<Pl-n/')iVufLp(Q) + p-n/''lui|Lp,a,. B)
где с>0. Минимум правой части B) по р>0 достигается при
р* = п(р- п)-11 и \ьрШ)/\ Vu kp(О) и равен с| Vu Ц^ау \.и \1~№. Если
то неравенство E.2.1/1) доказано. Если р*>г, то
и из B) получаем
Vu iZ^e, I и ii;(%p + г-"/" | и \L
(«Vu lLp @) + г-») u kp (O)y/P i и (L-<t.
Итак, достаточность условия A) доказана.
Необходимость. Подставим в E.2.1/1) любую функцию
иеГа (Qp {y)\y)- Поскольку
I и |?р @) ^ ср», | и ^ (в) < с {ср

232 § 5.2. О мультипликативной оценке модуля функции из Wp (Q)
ТО В силу E.2.1/1)
С-р =ss с (ср (Qp (у)\у) + рп)п/р Р" (p~n)/p-
Следовательно, С-р'/п<с{рР-пур(р) + рР). Остается перейти к ниж-
нижнему пределу при р-^ + 0. ¦
В следующем предложении дано условие, достаточное для B),
которое обобщает условие конуса. Обозначим через со открытое
подмножество единичной (п — 1)-мерной сферы и через Sp — «сек-
«сектор» @, р)хш.
Предложение. Пусть существуют такие положительные по-
постоянные рыб, что в любую точку множества Q можно поме-
поместить вершину «сектора» Sp, расположенного в Q и удовлетворяю-
удовлетворяющего условию s(w)>8. Тогда имеет место условие A).
Доказательство. Обозначим через Ср(у) пересечение упо-
упомянутого «сектора» (с вершиной в точке цей) с и:аром Bs, (у) и
через (г, 6) —сферические координаты с центром у. Очевидно, что
сР(®р(у)\У)Ssinf $c {y) | Vu\pdx, где инфимум берется по всем
функциям и еС0-х(Ср(у)), таким, что и(у)=\, ы(р, 6) = 0 при
6еш. Остается отметить, что
Рассмотрим область, не удовлетворяющую условию предложе-
предложения, для которой неравенство A) тем не менее выполнено
Пример. Пусть Q —область, изображенная на рис. 21. Пусть
6m = 2-m, Qm = {x: 6m+1<|x|<6m}flfi и
y^Qm- Обозначим через и такую функ-
функцию из TQ(Qp{y)\y), что \Q\Xu\Pdx^
^ср{^(у)\у) + к. Отметим, что для лю-
любых точек 5, т] <= Qy, / = 1, 2, ...
| иA)-
Vv"
C)
Рис. 21.
(Эта оценка инвариантна относительно
преобразования подобия, и поэтому ее
достаточно получить для QL. Но для Qj
неравенство C) содержится в теореме
1.4.5, п. (f).) Рассмотрим сначала случай
р<6т, когда С1тПдВр(у)фф. Пусть в C) j = m, \ = y и
Л е Qm П ЗВР (w. Тогда 1 ^ ср^-2 (Ср (Qp (у) \ у) + г). Допустим
теперь, что р^бт. Для всех | е Qyfl {*=(*x> x2): a:2<0| имеем
j

§ 5.3. О модуле непрерывности функций из D (Q) 233
Принимая во внимание C), находим, что последнее неравен-
неравенство верно для всех SeQy. Следовательно, / osc
. Замечая, что fi2p(О) гэQp(у), получаем окон-
окончательно
1 = (osc и)" < ер" (с, (Qp (y)\y)+ в).
§ 5.3. О МОДУЛЕ НЕПРЕРЫВНОСТИ ФУНКЦИЙ ИЗ Llp (Q)
Следующее утверждение —очевидное следствие определения
р-проводимости.
Теорема 1. Пусть тп(й)<оо * и и — любая функция из Ц, (Q).
Для того чтобы при п. в. х, у е Q ылеело лес/no неравенство
|«(*)-и(У)'КЛ(|х-0|)|Уиир<о>, (I)
где Л — неубывающая непрерывная функция на @, оо), необходимо
и достаточно, чтобы для любого проводника К =G\F вы-
выполнялось неравенство
сР (К) 5г [Л (dist (d,F, dfi))]-P. B)
Так как проводимость — невозрастающая функция G и неубы-
неубывающая функция F, то последнее условие эквивалентно следую-
следующему:
с„ [(О \х)\у]^[\(\х-у \)]-р, х, у г О. ¦ C)
Будем говорить, что функция и принадлежит пространству
CA(Q), если
sup (| и(х)-и (у) |/Л (| х-01))< оо. ¦
Q
Согласно только что сказанному оператор вложения Ц, (Q)
в СЛ (й) непрерывен в том и только в том случае, если выпол-
выполнено неравенство C).
Оставшуюся часть параграфа посвятим рассмотрению обла-
области Q, уже неоднократно встречавшейся ранее в примерах 3.3.3/1,
3.5.2, 4.3.5/1, 5.1.2. Здесь будет показано, что для этой области
оператор вложения LJ, (й) в СЛ (Q) непрерывен в том и только
в том случае, если
I1/Р' c = const>0. D)
* Условие конечности объема Q позволяет, сославшись на следствие 3,1.2,
доказать A) только для функций из С00 (Q) П Llg (Q) с ограниченными носи-
носителями.

234 § 5.3. О модуле непрерывности функций из LJ, (й)
Доказательство. Необходимость. Подставим в A)
функцию и, равную единице при х„<е, нулю при xn>t + s и
совпадающую с функцией
при e^xn^t + e. (Здесь е>0 и *е@, а — е).) Тогда
1 ^ а [л (of ($;+e ед (^](я-1)/(р-1))р.
что при г~*--\-0 переходит в D).
Достаточность условия D) — простое следствие неравенства *
| и (х) - и @) | ^ k ($*" dil[f Ш^'^Т1" •V" Ц,<й>- E)
в доказательстве которого потребуется следующее утверждение.
Лемма. Пусть п^ = {х — {х',хп): \х' |</(*„), 0<а:п<&} u
и — функция из С00 (йй), такая, что и @) = 0 и и (х) ^ 1 при
хп=Ь. Тогда
J Va |" dx^ A (J dg/[/ F)]<-"/^>I-1'. F)
Доказательство. Достаточно доказать F) в предположе-
предположении, что и = 0 при Аг„<е и ы=1 при а:я>6 —е, где в —малое
положительное число. Тогда JQ | Vu \pdx^ep(Ke), где Ke = Ge\Fe,
/re=closQQE, GE = Qft_E. Для оценки cp(Kt) снизу воспользуемся
неравенствами E.1.2/1) и C.3.1/1)**. Имеем
сР (/Се) ^ k (\b;* dint (i)](-i>/^i>I-', G)
что вместе с F) доказывает лемму.
Докажем неравенство E). Заметим сначала, что для гладких
функций в замыкании области g* = {yeQ: ха — [2/' (а)]-1 /(а:п)<
<.уп<хП1 хп<.а\ справедливо неравенство
\и(г)-и(у)\^С\г-у ?-"'? | Vu |Lp (gje), (8)
где г, г/ —любые точки gx, а С — постоянная, не зависящая от а:.
(Это —следствие теоремы Соболева о вложении LJ, в С1-" для
областей с липшицевой границей.)
• Из георемы 1.1.6/1 следует, что для рассматриваемой области про-
пространство С00 (Q) плотно в LJ, (Q).
** Эти неравенства применимы, несмотря на то, что множество Ge имеет
большую меру. Действительно, продолжая функцию / на отрезок [b, 2b], по-
получаем увеличенную область й^,, такую, что 2mn(GE)^:mn(Qib), не меняя
проводимости Ке.

§ 5.4. Ограниченность функций с производными из класса Орлича 235
Пусть и^С03 (йо), и @) = 0, и(х) = \ в некоторой точке х е
й„. В силу (8)
С U (Xn)]n-p max 11 - и (у) |" < L I v" \" dx-
Поэтому если 2minu<l в gx, то JQ \4
Отсюда и из очевидного неравенства
dt/[f (Dy
получаем оценку E).
Допустим теперь, что 2и(у)^\ при всех y&gx. Тогда функ-
функция 2и удовлетворяет условиям леммы, где Ь = хп — [2/' (а)] / (хп)
и, следовательно,
Неравенство E) доказано.
§ 5.4. ОГРАНИЧЕННОСТЬ ФУНКЦИЙ С ПРОИЗВОДНЫМИ
ИЗ КЛАССА ОРЛИЧА
Значительная часть результатов предыдущих параграфов этой
главы допускает обобщение на пространство функций с конечным
интегралом
$QO(jVu|)dx, A)
где Ф—выпуклая функция. Для этого следует, конечно, ввести
проводимость, порожденную интегралом A).
Здесь мы остановимся только на одном достаточном условии
ограниченности функций со сходящимся интегралом A), форму-
формулируемом в терминах функции К, и его следствиях.
Лемма. Если ueC°°(Q), то при п. в. t
Ц (ds/| V« |) = - (d/dt) mn (Lt), B)
где Et={x: u(x) = t}, Lt = {x: u(x)>t].
Равенство B) следует из тождества \x->u>tdx — §dl x
x $? (ds/\ Vu |), которое в свою очередь следует из теоремы 1.2.4.
Теорема. Пусть Ф — выпуклая неотрицательная функция,
ф@) = 0 и Ч — дополнительная к Ф (см. п. 2.3.2). Если область Q
конечного объема такова, что
C)

236 § 5.4. Ограниченность функций с производными из класса Орлича
то любая функция «sCx(Q) с конечным интегралом A) огра-
ограничена.
Доказательство. Обозначим через т такое число, что
2mn(Nt)Ssmn(Q) и Ъпп (Lt) <, т„ (Q), где Nx={x: u(x)^x}, LT =
= {a:: u(x)>t}. Введем обозначения: m(t) = mn(Lt), h(t) = s(Et).
В силу неравенства сф «s Ф (а) + ^ (Р), а, р > О имеем
Используя B) и интегральное неравенство Иенсена, получаем
Следовательно,
(u (x) -т)+ ss [n Ф (I Vu 1) dx+ ^/tm»(й) Y AА (м))Ф-
Аналогичная оценка получается для (т — и (х))+. Поэтому функ-
функция и ограничена и
Из доказанной теоремы получаем следующее утверждение.
Следствие. Если йеЛ, а<1, и \^W(t)t1-1'adt<оо, то
любая функция ы е С°°(й) с конечным интегралом A) ограничена.
В частности, и е Loo, если
\Q | Vu IVd-») Д log* | Vu | (Iog5+ • | Vu |)' dx < oo, D)
где mSsO, г>а/A— а) и log^ — k раз итерированный log+, (При
m = 0 выражение в первых скобках в D) отсутствует.)
При доказательстве второго утверждения следует воспользо-
/m У1
ваться тем, что выпуклая функция гР(/) = а/1/а]^[ log*n x
х (\ogm+1t)-ril-a)/a эквивалентна при больших t дополнительной
к выпуклой функции
/ ш \a/(l-a)
A - a) /vti-a) Yl log* t (log^t1 ty
(см. [43]).

5,5.1. Критерий компактности 237
Вывод теоремы Соболева о вложении Wp(u) в ()П()
при р>п для областей, удовлетворяющих условию конуса, может
быть усилен на основании следствия. Именно, если QeA-i/,,
то непрерывность и ограниченность функции в Q следуют из схо-
сходимости интеграла
я-1
e>0.
Покажем, что в D) нельзя положить г = а/A —а).
Пример. Рассмотрим область О из примеров 3.3,3/1, 3.5.2
и др. В силу C.3.3/1) условие C) эквивалентно условию
Пусть f(x) = cx^, p^l. Тогда, как уже неоднократно отме-
отмечалось, йе)а при а= Р(п—1)/(Р(п—1) +1). Функция и (х) =
= log[?+3Ji?1, m^O, не ограничена в Q. Вместе с тем при малых
хп>0
/т + \ \Р(я-1)
1 log*.|Vu
l (log"&)-* {}o
l
+ \ \a/(l-a)
и поэтому L | Vu |V(i-o)[ Yl log*. | Vu I dJC <oo.
§ 5.5. О КОМПАКТНОСТИ ВЛОЖЕНИЯ Wlp (Q) В C(Q)nia,(Q)
5.5.1. Критерий компактности. Пусть ур — функция, опреде-
определенная равенством E.1.1/1) и Q —область конечного объема.
Теорема. Для полной непрерывности оператора вложения W[p (Q)
в С (Q) П ^оо (й) необходимо и достаточно, чтобы функция ур удов-
удовлетворяла условию
lim vp(p)=oo. A)
Р- + 0
Доказательство. Достаточность. Из оценки E.1.1/2)
следует, что для всех достаточно малых р>0
1 и (L ш, < с [уР (р)]-1 II Vu 1?о @) + С (р) || и |?в ,о).
где С(р)<Соо при каждом р>0. Зафиксируем достаточно малое
число р > 0 и обозначим через сор такое открытое множество,

238 § 5.5. О компактности вложения lFj,(Q) в f (Q)|"|Loo(Q)
что ©р с:Q и 2с(р)mn (Q\ ©р)< 1. Тогда
Рассмотрим единичный шар в WP(Q) и выделим из него по-
последовательность \ит\, сходящуюся в Lp((op). Тогда
|«*-"il?o,(Q)<2c[YP(p)]-i. B)
Учитывая, что ур(р)-»-оо при р-+0 и переходя к подпосле-
подпоследовательности {ит\, получаем последовательность, сходящуюся
в L00(Q)nC(Q).
Необходимость. Пусть оператор вложения Wp (Q)
в C(QH?oo(Q) компактен и
ур(р)- inf ср(Qp(y)\y)<A. C)
Построим числовую последовательность р*, стремящуюся к ну-
нулю, и последовательность точек j/t?Q так, чтобы выполнялось
неравенство
Л. Л=1, 2, ... D)
Так как limcp(Bp(t/)\ y) = oo при р>п, то предельные
точки последовательности {г/*} находятся на <ЗЙ. Из D) следует,
что существует последовательность функций иь^Та( pi{yk)\y/i),
удовлетворяющих неравенству \Q\4uk\pdx> А.
Поскольку 0 ==s ик <=, 1, эта последовательность ограничена
в W], (Q) и, следовательно, компактна в С (Q) П L^, (Q). Значит,
по любому е>0 найдется такой номер N, что \ит — и*||?оо(о)<е
при всех т, k^N. В частности, \и\ (У\) — ик(уу)\ <е при всех
k>N. Вместе с тем, так как ух не является предельной точкой
последовательности {у:,\ и uf(x)=0 вне QPft(f/*), uN(yx) = l, то
илг (^v) — "* (ул) I = 1 при достаточно больших fe. Таким образом,
предположение C) неверно. ¦
Замечание. Если в теореме заменить ур(р) на функцию
YP(p), определенную в замечании 5.1.1/1, то получим необходимое
и достаточное условие компактности вложения W'P(Q) в C(Q).
В теореме по существу доказано также, что условие A) необхо-
необходимо и достаточно для компактности вложения Lp (Q) в С (Q) f|
T1MQ).
5.5.2. Достаточное условие компактности в терминах функ-
функции км-
Теорема. Если при некотором М интеграл E.1.2/2) сходится,
то оператор вложения W'p (Q). в С (Q) f| LTO (Q) вполне непрерывен.

5.5.3. Область, для которой оператор вложения .-,.
239
Доказательство. Из определения функции ар следует^ что
Ср (йр (у)\У)^ар («я (Ц> (У))) Для . всех у <= Й. Поэтому и из
E.1.2/1) получаем неравенство
с,(Ц, 0/) \ У)
Так как т„ (йр (у)) < vnpn, то отсюда и из определения функции ур
Й" I
7
находим ур (р) )
Теперь требуемое утверждение следует из теоремы 5.5.1.
Пример. Как отмечалось в примере 5.1.2, для области Q =
— {х: |х'|</(х„), 0<х„<а} условие E.1.2/2) эквивалентно схо-
сходимости интеграла E.1.2/4). Поэтому
для этой области оператор вложения
Wp(&) в С(й)(Ноо(й) вполне непре-
непрерывен в том и только в том случае,
если выполнено условие E.1.2/4).
?.5.3. Область, для которой опера-
оператор вложения W},(u) в С (Q)f| ?«,(&)
ограничен, но не вполне непрерывен.
Для области, рассмотренной в примере
5.5.2, оператор вложения №р(й) в
С (й) П L-o (Q) ограничен и вполне не-
непрерывен одновременно.
Согласно теореме 1.4.6/2 этот опера-
оператор обладает тем же свойством, если
область удовлетворяет условию конуса.
Для областей с «плохой» границей
положение может быть иным. В качестве
примера рассмотрим область, для которой функция ур не равна
тождественно нулю и ограничена. Из теорем 5.1.2/1 и 5.5.1
' следует, что для этой области оператор вложения W], (й) в
С(й)П^оо(й) ограничен, но не вполне непрерывен.
Пример. Покажем сначала, что для изображенной на рис. 22
области YP(p)^O при р>2. Рассмотрим проводник йр(г/)\«/,
где р — достаточно малое число и jeQ. Если i/eQ, то
сР (QP (У) \у)^ с?9-", где Qp (у) = Bp(y)f]Q (см. предложение 5.2.2)
и, значит,
i>. A)
Рис. 22.
Пусть точка у содержится в прямоугольнике Rm и G
Bp(y)f](Q\jRm). Из определения р-проводимости следует
B)
Рассмотрим произвольную функцию u e7a(G\(/) Пусть
Nt¦= {х е Q: и (х) ^t\ и Е, = {х е Q: и (х) = Ц. Мы можем рассмат-

240 § 5.5. О компактности вложения Wlp (Q) в С (Q) f| Ь» (Q)
ривать только те уровни t, для которых Et — гладкая кривая.
Если т2(Л/,Mг2е?, где р' = р/(р — 1), то т*(Ntf)Q)s*е&S=
5*/л2(Л^П#т)- Поскольку Qs/i/2, то в случае т2 (JV<) s* 2e?
имеем
[s (?,)? Ss стг (Nt П Q) 3= VaCm* (Л/,). C)
Пусть /п2 (#/•)< 2е„. Если множество ?* содержит компоненту,
соединяющую точки ломаных abc и de/ (рис. 23), то, как легко
видеть, имеет место неравенство
2s(Et)^s(dQ[]Nt) и в силу изо-
периметрического неравенства
<; s (dQ П ^<) +
<3s(?/). D)
Таким образом, в случае
/П2(#,)<2е? либо s(^)^:em> ли-
либо (/MMMV'^CoS^)-
Перейдем к оценке cp(G\y).
Из следствия 4.1.3 получаем
/ ^ -§(d/dt)mt(Nt)<dt/ls(El)Y)]V.
Рис. 23. . E)
Представим интеграл правой ча-
части E) в виде суммы интегралов по множествам Аъ А%, Аз, где
А2 =» {<: s
Из C) следует
Интеграл по Л2 допускает очевидную оценку
2,
а интеграл по Л8 оценивается с помощью D):
Из последних трех неравенств и E) получаем оценку cp(G\y)^s
S= const, которая вместе с B) и A) дает требуемый результат.
Покажем, что оператор вложения Wlp(Q) в C(Q)f]?oo(^) не
вполне непрерывен. Определим последовательность функций

5.6.1. О (р, ^-проводимости 241
{ит)т ^ 1 равенствами: ит(хи *2) = ei,/A ~ р\х-г — 1), если (xL, х2) е/?т,
"ш (*i> ^г) = 0, если (хи х2) е Q. Эти функции равномерно огра-
ограничены в Wp (й), так как
I Vum |'Lp(а» = 1, \\ит \\Lp(Q) =
Однако \ит — U/,|loo(Q) = 2 при тфк к последовательность {ыт}
нг компактна в С(й)^Й)
§ 5.6. ОБОБЩЕНИЯ НА ПРОСТРАНСТВА С. Л. СОБОЛЕВА
ПРОИЗВОЛЬНОГО ЦЕЛОГО ПОРЯДКА
5.6.1. О (р, /)-провоцимости. Пусть G — открытое подмножество
множества Q и F — замкнутое в Q подмножестве G.
Определим (р, /)-проводимость проводника G \ F равенством
Cp.i(O\f) = inf|Vlu|?p(a,, A)
где инфимум берется по всем функциям usC°°(Q), равным нулю
на Q\G и единице на F.
Предлежение 1. Если pl>n, р>\ или 1^п, р=\, то при
2
с,., (Я* \ Яр) ~ Я"-*. B)
Доказательство. Если R — 1, то B) следует из неравен-
неравенства Соболева:
1"Iz-oo(в,)<iс||VtutL (Bt) для всех иеС(В{).
Общий случай сводится к R = 1 с помощью преобразования
-подобия.
Предложение 2. ?слм n — pl и р>\, то при R>2р
сР. / {BR \ Sp) — (log (/? /р))г"р- C)
Вывод соотношения C) содержится в доказательстве установ-
установленного в дальнейшем предложения 9.1.2/2.
Предложение 3. Если pl^n, p>\ или 1<п, р=\, то при
ср i (BR \ Вр) ^ р"-?1. D)
Доказательство. Очевидно, что cPpi(Rn\Ep) ^
^Cpj(BR\Bp)^cpj(B2P\Bp), Достаточно показать, что и пра-
правая и левая из этих функций эквивалентны pn-pl. Преобразова-
Преобразованием подобия доказательство сводится к случаю р=1, когда тре-
требуемое утверждение следует из неравенства Соболева: \и \\l„.,,._„,, «S

242 § 5.6. Обобщения на пространства С. Л. Соболева...
В этом параграфе мы будем рассматривать только проводники
вида G\y, где уеG. Из предложений 2 и 3 определения
(р, /)-проводимости следует, что при pl^n, р>1 или при 1<.п,
р=1 функция cPtl(G\y) тождественно равна нулю. Согласно
предложению 1 при pl>n, р>\ или при 1^п, р = \ имеет
место соотношение ср, / (Вр (у) \у) = ср"-"', с = const > 0.
5.6.2. Вложение LP(Q) в C(Q)f]?oo(Q).
Теорема. Пусть Q —область. Тогда оператор вложения Llp(Q)
в С (Q) П ?оо (й) непрерывен в том и только в том случае, если для
некоторого открытого множества ы с компактным замыканием
fficfi
inf cpl(G\у)>0, где G=Q\ffi. A)
«ее
Доказательство. Достаточность. Пусть (о' —огра-
—ограниченное открытое множество с гладкой границей, такое, что
б) с: о)', О' с Q. Обозначим через т] функцию из С00 (Q), равную
единице вне ы' и нулю на ы, и через и — любую функцию из
класса С° (Q)()LP(Q).
Зафиксируем произвольную точку уей\м', для которой
и (у) Ф 0, и положим v (х) = т] (х) и (х)/и ((/)Д6Й. Так как у (г/) = 1
a v(x) = 0 вне множества G = Q\ffi, то cPjl(G\ у) «?[V,y|? (Q).
Следовательно,
« (У) \ср, I (G\y) *^С ^ = 0 | V; (иц) Цр @, <С| V;U |f^ (Q) + C|ll?,_ | ^^
Поэтому
sup# | и \р < с ^info ср>, (G \ у)у (| V/U ||fр @) + С\\и fwl_, ^.^ B)
Оценка \и\ вы' следует из теоремы Соболева о вложении Wlp в С
для области с гладкой границей.
Необходимость. Пусть для всех и е С°° (Q) f| Llp (Q) вы-
выполнено неравенство
sup | ы | < С (| V,u |L ,o, + II" lkD «о»), C)
где со — некоторая область с компактным замыканием ш, ffi с Q.
Рассмотрим любой проводник G\y, где G = Q\о иуеС Под-
Подстановка в C) любой функции и^С° (Q) f| Lp (Q), равной единице
в точке г/ и нулю вне G, дает 1 ^sup |u|^C| Vu||t (n). Миними-
Минимизируя последнюю норму, получаем cpj(G\y)^:C~''.
5.6.3. Вложение пространства Vlp(Q) в C(Q)n^oo(Q). Приве-
Приведем теперь прямое обобщение теоремы 5.1.2/1 на случай прост-
пространства Vlp(Q).

5.6.4. Компактность вложения ifp(C) в ? (О) П ?<»(&) ••• 243
Пусть у.бй и р — положительное число. Рассмотрим провод-
проводник &р(у)\у- Пусть pl>n или 1 = п, р=\ и
4.l^iP{y)\y)-inl^llk=liVkufLpiQh A)
где инфимум берется по.всем бесконечно дифференцируемым в Q
функциям из класса Vlp(Q), равным нулю в Q \ Вр {у) и единице
в точке у.
Теорема. Оператор вложения пространства Vlp (Q) в С (Q) П
[}Lco(Q) непрерывен в том и только в том случае, если
p(p(y)\yH. B)
(Si!
Доказательство. Достаточность. Пусть и — любая
функция из С°(О) П Ур(й), У — такая точка Q, что и (у) Ф 0. Пусть еще
inf c*p, i (Qp (у) \ у) > 0 при некотором р и т]еСГE1). Рассмот-
рим функцию u(x) = Ti((x — «/)/p)u(x)/u((/). Так как v (е/) = 1 и
v(x) = 0 вне Qp(t/), то
Следовательно,
| и (у) |MnfQ с*. , (Qp
Необходимость. Пусть для всех бесконечно дифференци-
дифференцируемых в Q функций из VlP(Q) выполнено неравенство
Рассмотрим любой проводник Q,, (у) \ у, где у е Q. Подставим в C)
любую функцию из определения с*, i(Q,)(y)\y). Очевидно, что
II"II/. <Q)^{VnP")llp sup |u|. Поэтому, если р<у-1/п BС)-"/я,
р алу)
то sup | ы j ^ Ci 21fe = i iv*" Si-D (Qp (^)) и, следовательно, 1^
p '
(я О/))- Минимизируя правую часть на множестве
P (у у), получаш с*р., (Q, {у) \ у) ^сСГр. в
5.6.4. Компактность вложения Llp(Q) в С(?2)П^зо(й). Приве-
Приведем теперь критерий компактности вложения Ь'„ (Q) в С (Q) f| Loo(Q).
Теорема. Пусть тп (Q) < схэ. Оператор вложения Lp (Q) в C(Q) f|
П Loo (Q) вполне непрерывен в том и только в том случае, если
для некоторой монотонной последовательности ограниченных откры-

244 § 5.6. Обобщения на пространства С. Л. Соболева...
тых множеств {cov}v5,b такой, что wv с: Q и wv -*- Q,
lim inf cp, i (Gv \ у) = °°. A)
6
Доказательство. Достаточность. Пусть (Ov — откры-
открытое множество, такое, что (ovci (Ov, (OvCrQ. В силу E.6.2/2)
inf cp.,(Gy\y)\-4\V,u\i w +
eGv j \ p
_1{ Л + suplul*.
Остается воспользоваться компактностью вложений Lp(Q)
BWp~'((Dv) и C(@v), а также условием A) (ср. с доказательством
достаточности в теореме 5.5.1).
Необходимость. Допустим, что для возрастающей после-
последовательности открытых множеств {(ov}v>i
lim inf cp,i(Gv\y)<Z.A = const. B)
v -. со у <= Gv
Введем в LP(Q) норму lu\L, (Q) = Iv/"k (Q) + 1"S/. (Ml). В силу B)
существуют последовательности \yv] и {uv}, и,б^(у\у,)
такие, что |iV,uv|i, \Q)<iAllp. По условию последовательность
{«v}vs*i компактна в С{Q){\L^(U). Значит, по любому е>0 най-
найдется такой номер JV, • что sup j u^ — uv| <е при всех ц, v> N.
a
Так как uv(//v)= 1, то
I "wU/v) — 11 <:е при ц, v>iV. C)
Далее, поскольку (o(l f Q, то при фиксированном v>N и для
всех достаточно больших номеров |и точка t/v находится в со^.
Поэтому «w(«/v) = 0, что противоречит неравенству C). ¦
Отметим, что при доказательстве необходимости мы получили A)
для любой монотонной последовательности ограниченных откры-
открытых множеств (ov, cov с Q, исчерпывающей Q.
5.6.5. Достаточные условия непрерывности и полной непрерыв-
непрерывности вложения Lp(Q) в С (Q)f\Lco(Q). Приведем достаточное
условие ограниченности и компактности оператора вложения Llp(Q)
в C(Q)fH=o(Q). обобщающее условие E.1.2/2).
Теорема 1. Пусть тп (Q) < со, р ^ 1, / — целое положительное
число и область Q удовлетворяет условию
A)

5.6.6. Об операторах вложения пространства Wlp (Й)П Wp (О), l>2k 245
Тогда справедливо неравенство
I«koo<BJ<C|u!L,(a) B)
и оператор вложения L'P(Q) в С (Q)f]Lco(Q) вполне непрерывен.
Доказательство. В силу теоремы 5.1.2/1
1 и Ц^ ,В) < С (| Vu |Lp/ (В, +1 и \lv «о,), C)
где (о —открытое множество, fflcrQ, а С —постоянная, не зави-
зависящая от ы. Из A) получаем, что Q е Уа> где 1— ос=1/р/. По-
Поскольку р(/—1)A —а)< 1 и р/ = р/[1 — р(/— 1) A — а)], то со-
согласно следствию 4.9/1
^ С, (« V/U |j,p (Q, + I!" Sip (»)). D)
Объединяя (З) и D), приходим к неравенству B).
Компактность вложения Lp (Q) в С (Q) [~| ?«, (Q) получается из D)
и теоремы 5.5.2, в которой число р заменено на pi, а условие
E.1.2/1)-на A).
Теорема 2. Если Q — область конечного объема из класса Jat
где 1 >a>(n —1)/п и р/A—а)>1, то для всех и &W'P(Q) спра-
справедливо неравенство
1 и \\LmW < С | ы q + [> | ы l^^,1», г = pi A - а) - 1.
Для доказательства достаточно воспользоваться следствием 5.2.1,
где р заменено на pi, а затем применить D).
Пример. Пусть Q —область из примеров 3.3.3/1, 5.1.2 и др.
В силу оценок C.3.3/1) для нее условие A) эквивалентно тре-
требованию
В частности, если f(x) =ет&, р ^ 1, то оператор вложения Lp(Q)
в С (Q) П ^-оо (?2) вполне непрерывен, если pi > Р (п — 1) + 1. Если
здесь знак больше заменить равенством, то этот оператор уже не
будет непрерывным. Действительно, функция и (х) = log | logх„ \
не ограничена в Q» при р/=Р(п — 1)+ 1 принадлежит классу L'P(Q).
5.6.6. Об операторах вложения пространства Wlp (Q) [~| WP (Q)
в случае l>2k. В § 1.6 показано, что при l^2k для простран-
пространства W'p (Q) П И^р (й) теоремы вложения типа Соболева остаются
справедливыми для любых ограниченных областей. Здесь мы рас-
рассмотрим случай l>2k, когда согласно 1.6.4 возникает необходи-
необходимость в дополнительных ограничениях на Q,

246
§ 5.6. Обобщения на пространства С. Л. Соболева...
В силу следствия 4.9/1 и теоремы 5.6.5/2 из принадлежности
области Q классу Ja, (я — 1)/я*=;а<;1 следует непрерывность
¦оператора вложения Wlp (Й) в W™ (Q), где q-1 = p~l — (/ — т) A — а),
если 1 >р{1 — т) A — а), q — любое положительное число, если
1 =р{1 — т){\ — а), и q = oo, если 1 <р(/ — т) A — а).
Далее показано, что при m^2k этот результат точен и для
пространства W\, (й) f) tt^p (Q). Приведем пример области Q из
класса Ja, для которой из не-
kxa прерывности оператора вложения
W'p(Q)f]Wp(Q) в W?(Q) сле-
следует неравенство q-l^p —
Пусть область Q есть объеди-
объединение полушара В~ = {х==(у, г):
г<0,
ности половин
эллипсоидов:
<. 2} и последователь-
непересекающихся
= (y, г): г>0,
Рис 24
где v^y^i, о,- =,
= 3-2-^ (рис. 24).
В еГ определим функцию a)<(x) = (l — бГ^г2 — 6ys f у — Ог|2)*х
Xt]B/6v), где т] —гладкая функция на @, +°о), ц(г) = 0 вблизи
точки 2 = 0 и т]= 1 на полуоси A/2, +°°)- Каждую из функций wh
i = l, 2, ..., будем считать продолженной нулем на Q\ef.
Нетрудно проверить, что
если
если
K2k (V-D-
Пусть пространство Wlp(Q,)f\^kp(Q,) непрерывно вложено в Wi}(Q),
2k. Тогда
или, что равносильно, e7(m-|) + <1/p-1/w<"-1+T)^cC-*. Следова-
Следовательно, \/q^\/p — (l— m)(l — а) при а = (п— 1)Дп — 1 +?)•
Покажем теперь, что Q e Ja- Введем множества е+ =
= {1 = (т], С)е/?л: С>0,^ + л2<1}и7+ = е+П{5:С<б!-т}. Так
как оператор вложения №$(е+) в L,(e+), s=l/a, непрерывен, то
для всех ое^1И
I о II, <rt> «? с (| Vy |i ((+) + 67 ~' [ v

5.6.6. Об операторах вложения пространства Wр (Я) f) W* (Q), / >ft 247
Пусть и е l^'i (Q). Применяя последнее неравенство к функ-
функции v (?) = и (б,1) + Oit SJt,), получаем
где y? = {•* ^ е<+<- z<'6,-}. Следовательно,
} A)
Обозначим через 77 зеркальное отображение yt относительно йло-
скости г = 0. Очевидно, что
Отсюда и из A) выводим неравенство
Так как второе слагаемое справа не превосходит c\u\wi B_., то
inf \u—c\L (
cgS' т
Теперь принадлежность области О. классу Ja следует из тео-
теоремы 3.2.3.
Глава 6
О ФУНКЦИЯХ ИЗ ПРОСТРАНСТВА BV(Q)*
В этой главе рассматривается пространство BV (Q) функций,
обобщенные производные которых суть меры в открытом множе-
множестве Q с R". Изучаются связи между свойствами функций из BV(Q)
и геометрическими характеристиками границы Q. В терминах
«изопериметрических неравенств» даны условия на Q, необходимые
и достаточные для того, чтобы любая функция из BV (Q) допускала
продолжение на Rn из BV (/?") и оператор продолжения был
ограничен.
Определено понятие «следа» на границе для функции из BV(Q)
и даны условия суммируемости следа. Приведены некоторые ре-
результаты, касающиеся связи между «изопериметрическими нера-
Эта глава написана совместно с Ю, Д, Бураго.

48 § 6.1. Свойства периметра множества и функций из BV (й)
¦венствами» и интегральными неравенствами (типа теорем вложе-
вложения) для BV(Q).
Рассмотрен также вопрос о справедливости формулы Гаусса —
Остроградского для функций из BV (У).
§ 6.1. СВОЙСТВА ПЕРИМЕТРА МНОЖЕСТВА И ФУНКЦИЙ ИЗ BV (Q)
6.1.1. Определения пространств BV (У) и относительного пери-
периметра. Пространством BV (У) называется пространство локально
¦суммируемых в Q функций и, градиенты \qU которых (в смысле
теории обобщенных функций) являются зарядами в У. Вариацию
заряда на всей области У обозначим через 1и2ву<а>- Периметр
множества Ш относительно У определим равенством
lBV(Q), A)
•где Ха обозначает характеристическую функцию множества А.
<Если ХвпаёвВУ(Q), полагаем Ра(?) = оо.)
Введем еще периметр Ш относительно замкнутого множе-
множества CQ; именно Pcq($) = inf P ($), где G — открытое множество.
ас
Если PRn (Ш) < со, то, очевидно, что
, PCQ(§) = varVRnX*(CQ),
.(»)-Ря«(8). ' B)
•Отметим еще, что если %1{\п — Шъ{\п, то
Рв(*|) = Яо(»0- C)
В дальнейшем везде, где это не вызовет недоразумений, мы будем
писать Vu вместо Vr.u, VRnu и Р {€) вместо PRn(S).
6.1.2. Аппроксимация функций из BV (Q). Из определения
оператора усреднения е#л (см. п. 1.1.5) непосредственно вытекают
следующие утверждения.
Лемма 1. Если u^BV(Q) и G —открытое подмножество У,
такое, что [G]h cz У, где [G]h — h-окрестность G, то
IV^uluaj^varVuffGfo). A)
Лемма 2. Если щ е BV (Q) и и,--*-и в L (У, 1ос), то
l«ilBV(a)<lirn \Uilevia)- B)
¦ (—00
Доказательство. Достаточно рассмотреть случай
lim ЦигРву(В)<°о- Для любой вектор-функции ф с компонентами
из 22) (Q) имеем
x = — \п щ div ф dx -*¦ — Ja u di v ф dx. C)

6.1.2. Аппроксимация функций из BV (Q) 249»
Поэтому
|$| lim
т. е. Vau есть заряд и справедливо неравенство B).
По определению последовательность \цк}к > i конечных зарядов^
сходится к заряду и локально слабо в Q, если для любой функ-
функции ipeC(Q) с компактным носителем
lim L y\ik {dx) = L фи {dx).
Лемма 3. Если u,eBK(Q), щ-+и вL{Q, loc) u sup\ui\Bv(Q)<Z.
<оо, mo
Доказательство. По лемме 2 u^BF{Щ. Остается со-
сослаться на C) и воспользоваться плотностью В (Q) в простран-
пространстве непрерывных функций с компактными носителями в Q.
Теорема. Пусть u^BV(Q). Тогда существует последователь-
последовательность \ит}т> 1 функций из С™ (Q), такая, что ит-+и в L (Q, loc) ы
lim
Если. дополнительно ueL(Q), mo um-+u в L(Q).
Доказательство. Пусть {Qi}i >о — последовательность
открытых множеств с компактными замыканиями Q,- a Q;+1, такая,
что IJQ, = Q, по=Ф- Множество Q,- выберем так, чтобы имело
место равенство var Vm /(J dQ,\ = 0. Это можно сделать, например,
следующим образом. Пусть |Q[} —произвольная последовательность
открытых множеств с компактными замыканиями, такая, что
U Q,' = Q, Q; с Q, 5Q- Пйй) = 0 при / ^ у, <?й;- е С™. Обозначим
/-окрестность Q[ через Q'-. При малых t поверхность dQ't гладкая.
Множество тех t, для которых var Vu (dQ;) Ф 0, конечно или счетно
как множество скачков монотонной функции. Поэтому для любого i
можно найти произвольно малое число U, такое, что var Vu (dQ/j =
= 0. Остается положить Q,- = Q'.k
Зафиксируем целое положительное число т и выберем такие-
ограниченные открытые множества J?,-, G;, что G,- гз #; zd (Ql+i\Q,) и
r\
?, var Vu (G, \ (Qw \ Q,)) < n
Пусть {a,} — разбиение единицы, подчиненное покрытию
множества Q. Найдутся столь малые числа /i,>0, что

¦250 § 6.1. Свойства периметра множества и функций из BV (й)
с [&t\ и
|| и — о^нМ к (г>.) max | Va,-1 < nrVt1. D)
Положим ыт = Х«»в^л.и- Тогда ит-+и в L(Q, loc). Кроме того,
Так как suppa; cz J?'*, то по лемме 1 первое слагаемое не пре-
превосходит
2]. | V**A.u||L{3) «? 2< var v" (G,-) «g 2]. var
Для второго слагаемого справа в E) ввиду равенства ^]. Va,- = О
и оценки D) имеем
Г7~ I! II V t-4f. ,, .Л Т7~ [,
\L(uY
2>t
Следовательно, | VuOT \l iq> ^ var Vu (Q) + 2m и lim
moo
< var Vu (Q).
Это неравенство вместе с леммой 2 доказывает теорему.
Следствие. Если «eW(Q), то функции и+, и~, j u| также
принадлежат ВК (Q) и
I«+ Ibv (й) + J"" lev (О) = I!! и 11вv (й) =!'«Звv <а>- F)
Действительно, пусть {ыт[ — последовательность функций из
С30 (Q), построенная в теореме Тогда и„, -*¦ и, ит -*-и~ в L (Q, loc) и
1! «mbv (Я, + 1 Um \bV (Я. = ! I «m I \bV (Я) = i! "m i!fl V (Я)- G)
Отсюда и из леммы 6.1.2/1 получаем неравенство
\U+ \bV(Q)-\- JW~1bV(H)^1wIbV(H)- . (8)
Следовательно, ы+, ы~ е BV (Q). Неравенство, обратное к (8), оче-
очевидно. Переходя в G) к пределу, получаем F).
6.1.3. Аппроксимация множеств с конечным периметром. По
определению последовательность {$,-} множеств ?,- cz Q сходится
к ^cQ, если х#, ->-Х# в ^-(^, loc).
Из лемм 6.1.2/2, 6.1.2/3 вытекают следующие утверждения.
Лемма 1. Если Шк-*-Ш, то Р<> (%) ^ Ит Ра фк), и если
sup/>0(S*)<oo, то Vox*.2251-— VqX#.
Лемма 2. Пусть «eL(Q) w X<? — характеристическая функция
множества %czQ. Пусть еще | х<? — " 1ма> =^ е. Гог^а 5ля любого

6.1.3. Аппроксимация множеств с конечным периметром 251
fr, 1— у], Y>0, справедлива оценка | %s — %N L Q. =s? ey-1, где
= {x: u(x)^t).
Доказательство. Очевидно, что
Is - U\L(S \ Nf) + \U - %g \L{Nl \ <?) 5s
Так как ы (*) < / при * e Ш \ iV/ и ы (x) ~5s t при jc e iV< \ ^, тс
Теорема. Для любого измеримого множества Щ cQ. конечной
меры тп существует последовательность множеств $,- с Q, для
которых d%i\dQ есть С*-гладкое подмногообразие R" (вообще
говоря, не компактное), и при этом is.-^is в L(Q) и-
Доказательство. Если Р(Ш) = оэ, то утверждение оче-
очевидно. Пусть Р {Ш) < сю. Обозначим через ит последовательность,,
построенную в теореме 6.1.2 по функции u = %s. Так как 0=^
==?Х<?=^;1, то, как видно из определения функции ит, для нее
имеют место неравенства 0 <: ит ^ 1. Поэтому согласно тео-
теореме 1.2.4
где Eltm) = {x:um{x) = t\. Для п. в. <е@, 1) множества Е\т)
являются (^-многообразиями (см. следствие 1.2.2). Далее мы
будем иметь дело только с таким t.
Пусть е>0. Выберем столь большое т = т(г), что
\ls — "mlk(O)<e. Тогда по лемме 1
X#-Xvc
где N\m) = {x: um{t)^t} и/е[е1/2, l-e1'2]. Кроме того, пр»
каждом т существует t = tm е (е1/2, 1 — е1/2), такое, что
Из B) и C), а также из равенства Ра{Щ= lim \Js(?'m))(ii, вы-
m-*oo
текающего из A) и теоремы 6.1.2, получаем, что х (m)-*-ts
N'm
в L(Q) и lims(?{m)WPa(g).
Замечание. Если g —множество с компактным замыканием
ШаО., то построенные в теореме гладкие многообразия оказы-
оказываются компактными.

252 § 6.1. Свойства периметра множества и функций из BV (Q)
6.1.4. Компактность семейства множеств с равномерно огра-
ограниченными относительными периметрами.
Теорема. Совокупность множеств ёа a Q с равномерно ограни-
ограниченными относительными периметрами Pq Ша) компактна.
Доказательство. Для каждого ?а по теореме 6.1.2 су-
существует последовательность иат, сходящаяся к х« в I (Q, 1ос)
¦и такая, что
lim fVUaJ^ =Po(ga).
m -*oo
Из леммы 1.4.6 следует, что каково бы ни было открытое мно-
множество со с компактным замыканием fficQ и гладкой границей,
семейство Ыпт\ компактно в L ((а). Следовательно, семейство h& \
компактно в L (со).
6.1.5. Изопериметрическое неравенство. Теорема. Если ё — изме-
измеримое подмножество Rn и т„ (?) < оо, то справедливо нераеенство
mn(?yn-l)i»^n-lv-VnP{%). A)
Доказательство. Достаточно рассмотреть случай Р (g)<oo.
По теореме 6.1.3 существует такая последовательность открытых
множеств ti с С00 —гладкими границами дёи что тп (#,) ->- тп (Щ
и s{d%i)->-P (Щ, где s — (п — 1)-мерная площадь. Для множеств &t
неравенство вида A) справедливо (см. [59] и др.). Переходя
к пределу, получаем A).
6.1.6. Интегральная формула для нормы в BV (Q).
Лемма. Если uiy ыг — неотрицательные функции из L(Q), то
$в | и, - и, \dx = \™ mn ((L J \ Ц) U (L? \ Щ dt,
где Lt=*{x: xeQ, u,{x)>t\.
Доказательство. Очевидно, что
^A(u,- ux) dx = /j + /2t
¦где A = {x^Q: иг>щ\. По теореме 1.2.3
h = S~mn(LJn A) dt - g° mn (L*t[\A)dt.
Отметим, что если xeLj\Ц, то ux(x)>иг(х). Следовательно,
{Ц\Ц)[}А = Ц\Ц, где /4={jcsQ: Ui>u2}, и аналогично
(Ц \ Ц) (\{п\А) = Ц\Ц. Поэтому /, = J™ т„ Щ \ L?) Л. Ана-
Аналогично /а = L я!„ (Ц \ L}) di, что и доказывает лемму.

6.1.7. О вложении BV (Q) в Lq(Q) 253
Теорема. Для любой локально-интегрируемой в Q функции и
справедливо равенство
soe Lif = [х1, и \Х) ^> JJ-.
Доказательство. В силу следствия 6.1.2 можно считать,
что ы^О. Для любой гладкой вектор-функции ф с компактным
носителем в Q в силу теоремы 1.2.3
Следовательно,
| \Q и div ф dx | < max | Ф | J" Pa
где J — нижний интеграл Лебега.
Поэтому
X B)
Если ||ulsi'(a) = oo, то равенство A) доказано. Пусть теперь
«е BV (Q). Рассмотрим последовательность {ит\, построенную при
доказательстве теоремы 6.1.2. Заметим, что ит^0. Пусть {со,} —
последовательность открытых множеств со, с компактными замы-
замыканиями ffljCzQ, причем и®« = ^- Так как ит-+и в L(Q, loc),
то по лемме
\ш_ \um-u\dx = \" mn {{{Lf \ Lt) U (Lt \ L?)) П и,) Л -*¦ О,
где L? = {x^?i: um(x)>t\. Поэтому при п. в. / для всех i
Это означает, что L?-+Lt при п. в. ?. Отсюда по лемме 6.1.3/1
*g>T lim PQ{Lf)dt^ lim *^РЙ(^)Л.
Здесь *$ — верхний интеграл Лебега.
По формуле A.2.4/1) последний интеграл равен \Чит\ца), и
потому
S lim
что вместе с B) доказывает теорему.
6.1.7. О вложении BV{Q) в Lq(Q). Содержание этого пункта
тесно связано о главой 3. Прежде всего отметим, что в силу тео-

254 § 6.2. Формула Гаусса—Остроградского для липшицевых функций
ремы 6.1.2 из неравенства
inf \u-c\le<a)<C|VuUl(B), - msLi(Q),
следует неравенство
inf |и-сЦ.-<а><С|и|вг<а>, «
Поэтому если Q — область конечного объема, то по теореме 3.2.3
последнее неравенство (в случае q~5z\) имеет место для всех
«еВК(й) тогда и только тогда, когда йе^а, a^q-1.
Точно так же получаются для пространства BV (Q) аналоги
относящихся к L\ (Q) утверждений теорем 3.5.2/1 и 4.3.3/1.
В силу теоремы 6.1.3 определения классов Ja и Ja можно
дать в терминах отношения [тп (Щ]а/Ра {Щ, где Ш — измеримое
подмножество Q. Введенная в п. 3.2.4 функция км может быть
определена как точная нижняя граница чисел PQ(<t) на совокуп-
совокупности измеримых множеств ^сй, удовлетворяющих условию
ц()
Отметим еще, что согласно лемме 3.2.1/1, если Q — единичный
шар, то для любого множества $czQ имеет место неравенство
min К (S), mn (Q \ Ш)] < 1/2rfi1 Г л) [Р о ($)]п (л-1), A)
причем константа точная.
§ 6.2. ФОРМУЛА ГАУССА — ОСТРОГРАДСКОГО
ДЛЯ ЛИПШИЦЕВЫХ ФУНКЦИЙ
6.2.1. Нормаль по Федереру и приведенная граница. Для
фиксированных х, v eR", \фО положим
Определение 1. Единичный вектор v называется (внешней)
нормалью по Федереру к множеству & в точке х, если
lim р-«т„(?ЛЯР(*)ЛЛ+) = 0,
lim р-"т„ {СП Л Вр (х) Л А~) = 0. w
Р-.0
Определение 2. Приведенной границей д*Ш множества Щ
называется множество тех точек х е дШ, в которых существует
нормаль к Ш.
6.2.2. Формула Гаусса — Остроградского. Этот параграф посвя-
посвящен доказательству следующего утверждения.
Теорема 1. Если Р(Ш)<оо, то множество д*Ш измеримо отно-
относительно s и var Ух*, причем var Vx<? (дШ \ д*Ш) = 0 и для любого

6.2.3. Несколько вспомогательных утверждений
255
, varVX,(«)=s(©).
A)
Отсюда немедленно вытекает следующее утверждение.
Теорема 2 (формула Гаусса— Остроградского). Если (),
и и—функция в R" с компактным носителем, удовлетворяющая
условию Липшица, то
Vu (x) dx = \d.su(x)v (x) s (dx)
B)
Достаточно доказать B) для гладких функций. По определе-
определению Vx<? имеем $й„ %#Vu dx = — ^„ uV%g (dx), что вместе о A) до-
доказывает теорему.
Замечание. Из теоремы 1 следует между прочим, что
Р (Ш)^ь(дШ). При этом не исключено, что Р (S)<Zs(d'g). Более
того, периметр может быть конечным, в то время как s(d$) = oo.
В качестве примера достаточно рассмотреть круг Вх на плоско-
плоскости, из которого удалена последовательность отрезков бесконечной
суммарной длины. В этом случае d*S = dBi-
6.2.3. Несколько вспомогательных утверждений.
Лемма 1. Пусть векторный заряд ц, сосредоточенный на SczR*,
удовлетворяет условию | ц {Щ) | = var ц (Щ. Тогда ц = аср, где а — по-
постоянный вектор, а ср— скалярная неотрицательная мера.
Доказательство. Так как заряд ц абсолютно непрерывен
относительно v = var|n, то v-почти всюду существует производ-
производная dn/dv = / = (/i, ..., In). Из равенства | ц (Ш) \ = varц (Ш) сле-
следует, что неравенство |/|<1 невозможно на множестве положи-
положительной меры v. В самом деле тогда бы мы имели | ц (Е) | •<
<Cvar|n(?') для некоторого множества Е, v(?)>0. Так как
|H(8\?)l^varM(S\?), то !(*(8)!^1и(?) +1и(*\?)!<
< var (я (?) + var^ (%\E) = \атц (Щ и мы пришли к противоре-
противоречию. Поскольку очевидно, что |/!«?l v-почти всюду, то |/| = 1
•v-почти всюду, и так как | dfj./dv | «s 1, то ц; (Щ = J (d^,/dv) dx
в силу абсолютной непрерывности ц,- относительно v. Поэтому
Условие v (Ш) = | ц (Ш) | означает, что в неравенстве Мин-
ковского
имеет место случай равенства. Но тогда v-почти всюду функции
x-*-fi(x) не меняют знака и пропорциональны коэффициентам, не
зависящим от х.

256 § 6.2. Формула Гаусса—Остроградского для липшицевых функций
Лемма 2. Если Р (Щ < ос и в шаре Вр справедливо равенство
^Хв = Щ, где а — постоянный вектор, а ф — скалярная мера, то
с точностью до множества нулевой меры тп
р; (х-у)а>0},
где у —некоторая точка из Вр.
Доказательство. Можно считать, что а = A, 0, ••-, 0).
Усредняя %# с радиусом е, получаем, что в шаре 5р_е
\Ле%г = 0 A = 2 т).
Следовательно, в ?р_г функция &%е%# не зависит от х2, ..., х„ и
не убывает по Xi. Поэтому то же самое можно сказать и о пре-
предельной функции х<?-
Лемма 3. Если />(?)< ос, то при п. в. р>0
Доказательство. При всех р!>0, за исключением не
более, чем счетного множества, var V%s (дВр) = 0. Пусть р не при-
принадлежит этому исключительному множеству. Обозначим через
i\e(t) кусочно-линейную непрерывную функцию на @, оо), рав-
равную единице при Кр и нулю при i>p + e, e>0.
Так как
lRn X* (*) [ile (i * I)] dx= — lRn т)е (| x I) Vxg (dx),
TO
p+e4p A)
Ввиду равенства var \?х# (дВр) = О последний интеграл стре-
стремится к нулю при е-> + ()• При п. в. р левая часть A) имеет
предел, равный р-1 ^дв xs (dx). Ш
Лемма 4. Если Р (Щ < оо, то Р ($ (] Вг (х)) < ос для любой
точки x^R" при п. в. г>0 и спраоедливо равенство
Р(Ш(\В, (х)) = Рвг (х) (Щ + s (Ш Л дВг (х)).
Доказательство. Будем считать, что точка л: совпадает
с началом координат. По теореме 6.1.3 существует такая после-
довагельность полиэдров Пг, что П,-->-^ и Р (П()-*-Р (Щ. Исполь-
Используя теорему Фубини, получаем, что s(Xli[]dBr)^>'S(U (]дВг) при
п. в. г>0. Тогда
lira P (Hi П Br) ^ lira Р (Щ + lira s (П; П дВг) = Р (?) + s (if П дВг)

6.2.4. Исследование множества N 257
и тем самым Р (Щ [\ Br) ¦< со. Согласно лемме 6.1.3/1 существует
.* последовательность полиэдров П,-, для которой
VXn,ne,-*-Vx*ner, Vxn^Vx*. B)
.Пусть число г таково, что lim varVxn. (д&г) = 0. (Это равенство
.'может нарушаться лишь для счетного множества значений г.)
Тогда из B) следует, что
VBrXn,-»-VBrx,. C)
Из сходимости s(U;[]dBr) к s(g[\dBr) получаем, что функции
множества цг, определенные равенством ц»08)=$5д Xsnn/vds, где
V —внешняя нормаль к ?„ слабо сходится к ц, где ц (Ъ) =
= ^b,5Ctin#vds- Очевидно, что ^Хп.пвг=^вгХп. + ^- Переходя
в этом равенстве к пределу и учитывая B) и C), а также сла-
слабую сходимость iii к ц, получаем ^is[xffr — ^BД<? + М" Так как
функция множества Чвг1в сосредоточена на ВГ) а ц-на дВг, то
из последнего тождества следует утверждение леммы.
6.2.4. Исследование множества N. Обозначим через N мно-
множество точек- x^d'S, удовлетворяющих следующим условиям:
a) var Vx,? EР {х)) > 0 при всех р>0, б) существует предел {¦ =
= lim (VX* (Bp (x))/var VX^ (Bp (*)), прич#м 111 *= 1.
Отметим сразу же, что вектор | (х) существует и 11 (д;) | = 1
почти всюду по мере varVx#, при этом
A)
Лемма. Если />A)<оои хеЛ/, то
B)
C)
р-»0
Пйр1-лР« („(*)<оо. D)
Р-.0 Р
Доказательство. По определению вектора | при доста-
достаточно малых р
РВо[х) (У) = var Vx#(Bp(*))<21УхИ^р W)I-
Правая часть этого неравенства в силу леммы 6.2.3/3 не пре-
превосходит 2s(Sfldfl,,(*)). По лемме 6.2.3/1 .Р(«ЛВР(*)) =
9 в. г. Mi.3i..i

258 § 6.2. Формула Гаусса—Остроградского для липшиаевых функций
= Рвр (,, (?) + s (Ш Л дВр {х)). Отсюда
Р(*ПВр(*))«?Зв(*П-дВр(*)). E)
Эта оценка вместе с изопериметрическим неравенством F.1.5/1)
показывает, что при почти всех достаточно малых р
ma(8()Bp(x)yn-»"'^c{d/dp)mn(er\Bp{x)). F)
В силу свойства а) множества Л' и леммы 6.2.3/4 Р (% Л Вр (х)) > О,
следовательно, т„ (f f) Яр (*)) > 0.
Поскольку функция р -*- т„ (Ш П Вр (х)) абсолютно непрерывна,
то из F) следует, что Cip" =s? т„ ф П Вр (х)) при почти всех р.
Очевидно, что тогда последнее неравенство верно и при всех р.
Этим неравенство B) доказано. Заменяя в приведенном рассужде-
рассуждении Ш на СШ, получаем C).
Из E) следует, что при п. в. р Р (#f]fip W)^cp"» что вместе
с леммой 6.2.3/1 дает при всех р оценку Рв (*) (Щ «? срп~г. ¦
" Теорема. Если />(&)•< оо и x^N, то в точке х существует
нормаль v по Федереру, причем \ = \. Кроме того, при любом
е>0
Urn p1-" var Vx# (Вр (х) (] [А»)р&) = vn-lt G)
/ р—о
еде А0 —{у: (у — jc)v = O}, а [ }г — г-окрестность.
Доказательство. Достаточно проверить, что из любой
последовательности р > 0 можно выделить подпоследовательность,
для которой выполнены равенства F.2.1/1), G). Обозначим через
ЬЩ множество, полученное из Ш преобразованием подобия с цент-
центром х и коэффициентом 6. Можно считать, что точка х совпадает
с началом координат. Очевидно, что Рв Ф) — Р"~1Рв1 (Р^)-
По лемме относительные периметры PBl (p~l%) равномерно огра-
ограничены. Следовательно, по теореме 6.1.4 существует такая после-
последовательность р; -*¦ 0, что последовательность множеств бх Л рГ'#
сходится к некоторому множеству <3f.
При этом по лемме 6.1.3/1 Vb^-i^-*-VSlX2S- Тогда при всех
г е @, 1), за исключением не более чем счетного числа,
v VBlXp-1<? (Br) = VXpr.# (Br) r=-. V%3> (Br). (8)
Из определения множества Л^ следует, что
Шп (| VX* (BPlr) |/var VX* (BPlr))
Сравнивая последние равенства с (8) и учитывая полунепрерыв-
полунепрерывность вариации при слабой сходимости, получаем
r) | = lim I VX -,# (Br) I = lim var VXp-I<? (fi.)^varПА^г)- (9)

; 6.2.5. Соотношения между varV/^ и s на <$? 259
Отсюда в силу лемм 6.2.3/1, 6.2.3/2 следует, что множество & ("| Вг
с точностью до множества нулевой меры т„ совпадает с множе-
множеством {y<=Br: yv<b}. С
Покажем, что Ь = 0. Действительно, если Ь<.0, то
О = щ»{& ПВь)= Нт та(рг1*[\S,ь) = Нт р?тп{% ПВ,ь,),
что противоречит B). Аналогично &>0 противоречит C). Из схо-
сходимости Вг П Р/"'с -> 5Г П & — Вг П А~ следует, что равенства вида
F.2.1/1) выполняются для последовательности {р/}, где {р,} —
подпоследовательнл^ть любой налерэд заданной последовательно-
последовательности р->0, а г — сколь угодно близко к единице. Отсюда следует
F2.1/1).
Остается доказать равенство G). Выберем подпоследователь-
подпоследовательность р,-, для которой varVXpTi!?->fi, где мера ц удовлетворяет
условию ц (i5) Зг var ^%2> (®) Для любого Ъ с Ви Вместе с тем
из (9) следует, что существуют сколь угодно близкие к единице
числа г < 1, для которых ц (В,) = | V-ц (В,) \ ^ var VyvZ, (Br). Отсюда
получаем, что ^ = уагУх^. Теперь для п. в. е>0, re @, 1)
имеем
lim (Piry-» var VX* (Bp , П [А%в)
I -¦ 00
= lim var Vxp-.#.(B, Г1И°]е) =
откуда следует равенство G).
6.2.5. Соотношения между var V%$ и s на дШ. Из теоремы 6.2.4
следует, что d*ezuN. Так как, кроме того, var Vxs{Ra\N)=:O,
то и var Vx# (/?" \ д*Щ — 0, так что множества N,d*% измеримы
относительно var V%g.
Нам понадобится следующее известное утверждение общего
характера.
Лемма 1. >Пусть р — мера в Rn и пусть для всех точек х
^-измеримого множества Ъ справедливо неравенство
Р-.0
еде р не зависит от х. Тогда 0s (S3) «2 с (п) ц C3).
Доказательство. Для любого е>0 найдется открытое
множество G, такое, что fi(G\>B) + fACS\G)<;e.
По определению меры Хаусдорфа по числу е > 0 можно опре-
определить такое 6>0, что для любого покрытия G шарами Вр,г
Pi<;6, выполняется <
A)

260 § 6.2. Формула Гаусса —Остроградского для липшицевых функций
Для каждой точки х е S3 П G рассмотрим семейство шаров
Bp(x)c:G, 3p<6, таких, что
B)
По теореме 1.2.1/1 найдется последовательность попарно не-
непересекающихся шаров BPi(Xi), удовлетворяющих условию
U B9Pi (xt) zd 23 П G. Тогда ? p (Bp. (*,)) *? ц (G) < и B3) + e.
В вилу неравенств A), B)
s(G)<ci(л)L(Зр,)"-1 + в<(н(л) ?Р?-»+ "<
< ^ (л) р;1 ? (I (fip. (х,)) + в < с8 (л) р-1 (и (в) + -) + в. ¦
Из определения 6.2.1/1 и теоремы Фубини вытекает следую-
следующее утверждение.
Лемма 2. ?сли Р(?)<со к *(=д*?, то
о —о
где нижний предел берется по любому подмножеству полной меры
интервала 0<р<1.
Лемма 3. Если Р (?)<со и х&д*Ш, то
Ш р»-« var Vxs (Bp (x)) s= Ц.-1.
Доказательство. Пусть Q — подмножество интервала <
<р<1, на котором выполнено тождество из леммы 6.2.3/3.
В силу лемм 6.2.3/3 и 2
fim oi-rvar VX* (Вр <*)) ^ ПШ p1-" | Vx* (Bp (x)) |
o-»0 P-»0
Из лемм 1 и 3, учитывая равенство varVx,?(d*?\./V)=Of
получаем вледующее утверждение.
Лемма 4. Ясли P(g)<co, mo s(d*8\N) = 0.
Для доказательства теоремы 6.2.2/1 теперь достаточно прове-
проверить, что на N векторные меры yds и varV%g(dx) совпадают.
Лемма 5. Пусть Р(?)<оо и пусть множество Ь Л N изме-
измеримо относительно varVx*- Тогда s (Ь) ^ var V%g (8).
Доказательство. Функция х -*- /р(jc) = uji_jp1-" x
х var Vx# (Bp (а:)) полунепрерывна снизу. Это следует из того,
что Вр (х) \ fip (atj)-*- ф при д;, ->-х. Поэтому fp (x) измерима. Пусть
Р,- -*¦ 0. По теореме 6.2.4 последовательность функций /р сходится
на /V к функции /(*)el. По теореме Егорова для любого е>0

6.2.5. Соотношения между var 4%g я s на дШ 261
найдется такое множество Ne<=N, что var V%g (Ne) < е и на
N \Ne последовательность fP{ сходится равномерно. Значит, най-
найдется такое б>0,.что
var Vx* (Br (x)) < A + е) Vn-S»-1 - C)
для всех x'^N\'Nt и ге@, б).
По определению меры s найдется такое конечное покрытие
множества N\Ne шарами Br. (xt), г/<б, что (l + e)sC3 {NN))
^fn-iH^. Отсюда и из C) следует
var Vx* («) =s? e + var VX<? (в П W \ N,))
Ввиду произвольности е лемма доказана.
Следующее утверждение .представляет собой вариант класси-
классической теоремы о покрытии Витали— Каратеодори.
Лемма 6. Пусть ц — конечная мера в R", сосредоточенная на
множестве Ш. Пусть еще 5U — такое семейство замкнутых шаров,
что для каждой точки х^Ш найдется такое б(х)>0, что
Вг (х) е Ш при всех г<б(х) и для некоторого k">6
ccr*<fi(fir(jc))^pr*, D)
где Вг (х) — любой шар из 30?, а а, Р — положительные постоян-
постоянные, не зависящие от г и х. Тогда существует такой не более чем
счетный набор попарно непересекающихся шаров Sr(l) e 9H, что
j
Доказательство. Зафиксируем число а> 1 и построим
последовательность шаров ^'> е Э){ следующим образом.
Пусть 02?w ^т(/-1) уже определены. Тогда ^^'. выбира-
выбирается так, чтобы выполнялись условия
Ф при
ац (^<Я)^sup {ц (Вг(х)): fir(х) П^(П - Ф, КК/}•
Если при некотором / этот процесс оборвется, то
Пусть последовательность {^С} бесконечна. Обозначим через
* замкнутый шар, концентрический ^i'', с радиусом Ri = Qrh
где /j — радиус &и\ а постоянная QgA, oo) будет указана
далее. Отметим, что с самого начала можно было строить после-
последовательность {!§Н1)} так, чтобы вместе с ^г(|) семейству 3I при-
принадлежал шар C(i).

262 § 6.2. Формула Гаусса*-Остроградского для липшицевых функций
Докажем, что при некотором значении Q для всех j
. E)
Пусть хб1\ U &(i). Тогда найдется такой шар ^сЗ)!
е центром х, что ^ГП-^Г(|)=Ф ПРИ *</'• Отметим, что при не-
некотором р~^\ обязательно & (]&(р} Ф Ф- Действительно, если
в$ р jjr(p) _ ф дЛЯ всех pt т0 п0 построению последовательности
{&№} имеем ц (^) <; ац (^г(р)). Так как шары iP^' попарно не
пересекаются, последнее неравенство противоречит конечности
меры ц.
Пусть номер р выбран так, что <®гП^г("=-0 ПРИ t<P и
в$ о ^г(р) ^t ф. Из неравенства ц (^) ^ац (^(р*) и из D) следуют
оценки аг*<;ц(.®г)«^ац(.^г1''))<;ар>?, где г —радиус шара ^.
Поскольку шары ^ и ^(р* пересекаются, то для расстояния d
между их центрами имеем d ^ г + гр < гр A + (ар /aI/fc). Пусть
постоянная Q равна 1 +(aP/aI/ft. Тогда d^.Rp и тем самым хе
е С(р). Включение E) доказано.
Остается отметить, что
Так как ряд ^t-if1^1") сходится, то ц(?\ (J ^Г(П -*-0 при
J-+OO.
Лемма 7. Если P(i)<.oo и Ъ —измеримое относительно
var Vx<r подмножество N, то Ъ является s-измеримым и
у s(8)<varVx*(e). F)
Доказательство. Из теоремы 6.2.4 следует, что для лю-
любого ее (О, 1) мера (i = varV%^ удовлетворяет условиям леммы 6
при а = уя_1A-е), P=t»n-i(I -t-e), k — n — l.
По определению меры Хаусдорфа по е найдется такое б > О,
что для любого конечного покрытия S3 шарами Bt.(xt), rt<iS,
имеем sOBJ^Oj-iS^'+e.
Пусть {^('^ — последовательность замкнутых шаров, о кото-
которых шла речь в лемме 6, причем можно считать, что их радиусы
меньше б. Выберем из {<gf(i)\ конечную подпоследовательность
1 так, чтобы выполнялось неравенство цB3\ (J ^'М

6.3.1. Доказательство необходимости условия F.3/2) 263
Как показано в ходе доказательства леммы 1, найдется такой
конечный набор попарно непересекающихся открытых шаров
с радиусами pf < б, что ц I\J С J \ <;е и концентрические шары
утроенного радиуса образуют покрытие множества 58 \ (J
Тем самым |J 3C(» U ( \J &(i)\ => 33. Теперь имеем
/ \Кч I
x(з 2/pT-' + Sk.T'Hв-
где г; —радиус шара 2&W. Отсюда
что ввиду произвольности е приводит к F.2.5/6).
Так как неравенство F.2.5/6) справедливо для всех ц-измери-
мых множеств, то из него следует s-измеримость #.
Объединяя леммы 4, 5 и 7, получаем утверждение теоремы
6.2.2/1.
§ 6.3. О ПРОДОЛЖЕНИИ ФУНКЦИЙ ИЗ BV(Q)
НА ВСЕ ПРОСТРАНСТВО
Для множества ScQ введем следующую характеристику:
та(ё)= inf Рса(Ъ). Очевидно, что та(Щ (&Ш)
<ВПа*
Теорема. 1) Если для любой функции ueBV(Q) существует
продолжение u^BV (#"), такое, что
(Qh A)
где С — постоянная, не зависящая от и, то для любого множества
(*). B)
2) Обратно, если для любого множества $ с: ?1 выполнено не-
неравенство B) с постоянной С, не зависящей от %, то для любой
функции aeBV(Q) существует продолжение ueBV(Rn), для
которого справедлива оценка A).
6.3.1. Доказательство необходимости условия F.3/2). Неравен-
Неравенство F.3/2) очевидно, если Ра(ё) — оо. Пусть Pq(S)<.oo. По
условий существует продолжение %g характеристической функ-
функции х#. такое, что | %в \BV {Rn) < CPQ (Щ. Отсюда и из формулы
F.1.6/1) следует
\\PRn({x: u>t})dt.

264 § 6.3. О продолжении функций из BV (Q) ва все пространство
Так как {х: %g (х) > t\ П й = Ш при *е@, 1), то, учитывая
F.1.1/2), F.1.1/3), получаем -
СРа($)^ inf P«.(8)s* inf Pa(S3) + inf
откуда следует F.3/2).
6.3.2. Три леммы о Рса(Щ- Доказательству достаточности
условия F.3/2) предпошлем три вспомогательных утверждения.
Лемма 1. Если 35 с Q, та C3) < со, Ра B3) < со, то существует
множество Sci?", такое, что Ш[\?1 — Ъ и
РСа{Ш) = хй(Ъ). A)
Доказательство. Пусть {?;} — последовательность под-
подмножеств Rn, такая, что St П Q = 33 и
limPC0(S,) = T0(8)." B)
1->0О
В силу B) supPCQ(^,)<oo, и так как PQ(Шг) = PQC3)<со,
то sup PRlt (Si) <. со. Отсюда и из теоремы 6.1.4 следует, что су-
существует подпоследовательность (за которой мы сохраним обозна-
обозначение {%i}), сходящаяся к некоторому множеству Ж. Вследствие
леммы 6.1.3/1 Р(%)< lim P (Si). Отсюда, учитывая, что^П^ = ^3
i-tca
и равенства F.1.1/2), F.1.1/3), получаем
Рса (Ш) ^ Нт Рса (Щ = ха B3). C)
/->со
Сравнивая F.3.2/3) с определением tqB3), получаем F.3.2/1).
Лемма 2. Пусть <$и Ш^~ измеримые подмножества R". Тогда
Pea (Si П *.) + Рса ($1U *•) *S Pea (#i) + Рса (*«). D)
Доказательство. Пусть G — открытое множество G :э CQ.
Тогда по формуле F.1.6/1)
Pa (Si) + Pa С
= К Pq ({U, + Х<г, > /}) dt + S* Po ({X<f, + X*. > П)dt «
= Po(SiUS,) + Po(SinS,). E)
Рассмотрим последовательность открытых множеств G,, таких,
что Gi+icGj и riGi = CQ. Так как Рса(?*)= 1!m P0.(S*), Л=1,
2, то, применяя E), получаем D).

6.3.3. Доказательство достаточности условия F.3/2) 265
Лемма 3. Пусть Рса(?*)<оо, ?=1,2. Положим Ъь— ?*П&-
Тогда если Ъ\ cjjja
= ta(8»), ft = 1,2, F)
mO />CQ (ft П ft) = PCC (ft), ^CQ (ft U *l) = Рсв (ft).
Доказательство. Так как ?!|~|ШгПй = ^i и (%iU?«) ПЙ ==
= 932, то по определению tq
№• G)
В силу F) неравенство D) можно переписать в виде
Pea (ft fl *t) + Pea (Si U *i
что вместе с G) доказывает лемму^
6.3.3. Доказательство достаточности условия F.3/2).
1°. План доказательства. Исходя из множеств Nt={x: u(x)^t)
строим семейство множеств 23<, удовлетворяющих условиям:
«, fl Q = Nt, Pea («.) = та (N,); %t с ^ ври t> т.
Множества ©< мы строим сначала для счетного, всюду плот-
плотного на (—оо, +оо) множества {tt} (п. 2°), а затем —для всех
прочих / (п. 3°). Наконец, в п. 4° вводится функция и (х) —
= sup {t: xeiBi} и доказывается, что й(х) удовлетворяет усло-
условиям теоремы 6.3.
2°. Так как иеВУ(й), то ввиду формулы F.1.6/1) PQ(Nt)<
<6о при п. в. /. Поэтому можно выбрать счетное всюду плотное
на (—оо, +°°) множество .{/(}, tt^tj при 1ф\ так, чтобы
Pa(Nti)<oo. Из F.3/2) следует, что та (#<,)< оо.
Построим последовательность множеств %r i = 1, 2,..., таких,
что 1) ^.ПЙ-% 2) Рса («<,.) = та(#,.), 3) % <= 33,. при /,>/у.
Согласно лемме 6.3.2/1 существует множество 53^, удовлетво-
удовлетворяющее условиям 1), 2). Пусть множества S3<t, ..., 33< уже по-
построены так, что условия 1)—3) выполнены при i, j—l,..., п— 1.
В силу леммы 6.3.2/1 существует множество 2^,, удовлетво-
удовлетворяющее условиям 1), 2). Пусть /„,—наибольшее из тех чисел tit
t = l, ..., n—1, для которых h<.tn, a /* —наименьшее из чи-
чисел /,-, t = l п — 1, для которых /„ < /,-. Положим 2)<п =
= (=8<л) П В,щ) U %: Очевидно, что ©<, =э §8<л :э 8^. Следовательно,
»<я<=33<( при tn>tt и 33<я=э^ при /„</", f=l,..., n—1. Так
как 53<Я»ПЙ = ^Я, ^ttf\Q = Nt,^Ntn и Sfc.nQ*=#fc:tfv го
95< ПЙ = Л^< . Применяя лемму 6.3.2/3 к множествам ЗЭ<Л), 4Й<„
а затем к множествам 33(л)П^.. 33<», получаем Реп ('3<л) = та(Л'<л).
Итак, для набора множеств 93^, ..., 93<п выполняются условия
1)-3) при i; /=1, .... п.

266 § 6.3. О продолжении функций из BV (Q) на все пространство
3°. Пусть t Ш {U}- Выберем из множества {^} две монотонные
последовательности {а{}, {р\}, такие, что а* < t < Pi и lim at =
= lim Pi -1.
i—oo
Согласно лемме 6.3.2/1 существует множество 93i**> такое, что
ЗЗГ'ПЙ = ^/ и Рса(Щ°') = т;а(М(). Рассмотрим последовательность
множеств 93}А) = Щ0' Л $аЛ, * = 1, 2,... Очевидно, что $'А) П & = Nt,
8f. В силу леммы 6.3.2/3 PCQ(ЗЗГ) = т0(Л/,). Введем
обозначение S,= f| 93{А). Так как ©{*'-¦.?, при Л-»-оо, то
Рса Фд < Ит Pea (%\k)) = ^а (^)- Вместе с тем 33, f) й — Nt. Сле-
довательно, xQ (Nt) ^ Pea $t)* Итак, Pc
Рассмотрим теперь последовательность множеств-кг
k=l, 2, ... Точно так же, как и при рассмотрении множеств Ъ\к),
00
получаем, что множество $В<= И @<А) измеримо и удовлетворяет
*1 '
следующим условиям: 1K3/ f\Q = Nh 2) Pcai%) — ta(Nt), 3K3Pjc=
cSB.czSBa., i=l, 2, ...
Пусть теперь /, т — произвольные числа, причем t < т. Тогда
из C) следует, что ЗЭ< zs ®t-
4°. Рассмотрим функцию й (х), определенную равенством й (х) =
= sup{/: х&45(}. Положим 31/= {х: u(x)^t}, $t = {x: й(х)>Ц.
Очевидно, что % гэ 33< гэ йг. Множества 21, \ % при различных t
попарно не пересекаются, следовательно, /л„ (91, \ &/) = 0 при
п. в. /.
Значит, при п. в. / множества 21<, 6< измеримы и, кроме того,
Докажем, что функция и локально суммируема. Как известно,
для подмножества Щ шара Вц, такого, что тпШ < mnBR — е, спра-
справедливо неравенство
A)
(Это, в частности, следует из леммы 3.2.1/1.)
Пусть замкнутый шар 5в содержится в Q и Вц — шар, содер-
содержащий Бе. Тогда из A) следует, что для любого множества
тпШ < С {R, 6) \PBr (Щ + nin {Ш П В6)] <
Полагая в этом неравенстве Ш = Ъг{\ВК при t^O и Ш = К\(
при < < 0 и используя равенство Рса C3*) = Та (Nt) и оценку

6.3.5. Еше одна теорема о продолжении 267
F.3/2), получаем .
] при
, b)[CPa(Nt) + mn((Q\Nt)ftB6)] при
Принимая во внимание, что при п. в. / тп A8/)=/пя (Я<), из двух
последних неравенств выводим
$" тп (% П BR) dt + $0_ет ntn (BR \ Ш() dt <
что равносильно неравенству
\BR\u\dx^C(R, б) [С||ы\ву @, +5BeI« |Лс].
откуда и следует локальная суммируемость функции й.
Применяя F.1.6/1), F.3/2) и вспоминая, что при п. в. t
(&дР(ё) получаем
т. е. asBV(^) и выполняется оценка F.3/1).
6.3.4. Эквивалентная формулировка теоремы 6.3. Теорема 6.3
может быть перефразирована в терминах оператора продолжения,
т. е. оператора А$: и-*-й, сопоставляющего каждой функции
и е BV (Q) ее продолжение и е BV (/?").
Предварительно положим
Ms I - sup {I й \BY (Rn)l\ u \BV (a): U(=BV (Щ
и введем обозначение | Q | для точной нижней границы тех чисел k,
для которых tq(I)^/JPq (t) при всех §с=й.
Теорема. Оператор Аа существует и ограничен в том и только
в том случае, если | Q | < оЬ.
При этом \AqI^\+\Q\ для любого оператора продолжения
Aq и существует оператор Аа, такой, что | Aq\= 1 4-|й |.
6.3.5. Еще одна теорема о продолжении. Условие F.3/2) тео-
теоремы 6.3 носит глобальный характер. Ему не удовлетворяют, на-
например, никакие несвязные множества Q.
Это явление можно устранить, если ослабить требования отно-
относительно оператора продолжения. Именно, справедливо следующее
утверждение.
Теорема. Пусть Q — ограниченное открытое множество. Тогда
для того, чтобы любая функция и е BV (Q) имела продолжение

268 « 6.4. Некоторые точные константы для выпуклых областей
й е BV {R"), удовлетворяющее неравенству
Iй \bv (кп) < К (I" \bv (Q) + II и U. (о). A)
где К не зависит от и, необходимо и достаточно, чтобы нашлось
такое б > О, что для всякого множества % czQ, диаметр которого
меньше б, выполнялось условие та (ё) ^ СР$ ($), причем постоян-
постоянная С не зависит от Ш.
Доказательство. Необходимость1. Пусть %cz Q и
%s — характеристическая функция Ш, a %g — продолжение %#, удов-
удовлетворяющее A). Тогда
К {PQ («) + т„Ш) lS2\fa\Bv (л-) ^ К ^ ({* X* > Ц) dt.
Так как {х: у.в>ЦГ\?1 = $ при / е @, 1), то отсюда получим
mJS) ^ inf
В силу того, что <?ВтзШ, из этой оценки и из изопериметриче-
ского неравенства F.1.5/1) находим
, К{Ра(Ш) + тпЩ)^ю\1п{тпЩ(»-Ъ1п. ¦ -, B)
Положим Ь = п/2К- Тогда из B) при условии diam#<6 сле-
следует неравенство тпЩ =^ Ра (#). Поэтому
2КРо (9) ^ inf Р (О) ^ та (*).
Достаточность. Рассмотрим разбиение единицы а<(^), t=
= 1,..., v, такое, что (J supp a< zs Q, diam supp а< < б и | grad а,-1^
< d=const. Пусть и е БУ (Q). Положим ф,- = ищ и Nt = {x: | ф,- |^
^t]. Так как при всех гфО diamJV,<6, то ха(Nt) =^CPa(Nt).
Поэтому, дословно повторяя доказательство достаточности в тео-
теореме 6.3, получаем функцию ц>{ е BV (/?"), такую, что ф, = ф* в Q и
Положим й — 2 4>i- Очевидно, что й = и в Q и
§ 6.4. НЕКОТОРЫЕ ТОЧНЫЕ КОНСТАНТЫ ДЛЯ ВЫПУКЛЫХ ОБЛАСТЕЙ
Согласно теореме 6.3 норма оператора продолжения BV(U)-*-
-*-BV(Rn) выражается через точную константу в изопериметри-
ческом неравенстве F.3/2). В некоторых частных случаях послед-
последнюю можно найти. Так, для плоских выпуклых областей эта

6.4.1. Леммы об аппроксимации множества полиэдрами 269
константа имеет простой геометрический смысл (см. следствие
6.4.4/2). Если Q — л-мерный шар, то константа легко вычисляется
(см. следствие 6.4.4/3).
6.4.1. Леммы об аппроксимации множества полиэдрами.
Лемма 1. Пусть Q — конечная выпуклая область в R" и пусть
#czQ, PRn ($)<oo. Тогда существует последовательность поли-
полиэдров Пк, таких, что П>^-| и
lim Ра (П*) = />а (Ш), lim Pea (П*) = PCQ (&). A)
ft-»oo
Доказательство. Пусть Qe —область, полученная из Q
подобным расширением с коэффициентом 1+е и с центром в фик-
фиксированной точке области Q. Обозначим через Ще образ Ш при
том же подобном преобразовании. Очевидно, что
Отсюда нетрудно получить, что
фг) = Рса(Щ. B)
е-*0
Действительно, A+г)п~1Ра (%)^Ра (§е) и, следовательно, Ра (?M*
ШР(%). Последнее неравенство следует из леммы
бл.з/i;
Так как Pq«S)+Pcq(8) = 'P(9) и ( (
то из первого равенства B) получаем второе. При п. в. е
varVX(?e(dQ) = 0. C)
Пусть число е удовлетворяет этому условию. Согласно теореме
6,1.3 существует последовательность полиэдров П*_е, таких, что
ПА g-*-#g и Р (П*_ Е) -»- Р (^Е) при ?-»-оо. Отсюда и из леммы
6.1.2/3 следует, что varXnfte—^varVx<?e. Ввиду условия C)
имеем
lim var Vxn. (дп) < var Vx^ (dQ) = О,
ft-oo *'e е
и поэтому
lim Ра (П*. е) = Ра (Шг), lim Рса(ПА> е) = Рса (ёе). D)
*-»оо ft-»oo
I
Выберем последовательность чисел е,-, удовлетворяющих усло-
условию C), так, что ej-»-0 при i-»-oo. Тогда из B) и D) следует
lim lim Ра(Пк, Е.) = Ра(Ш), lim lim

270 § 6.4. Некоторые точные константы для выпуклых областей
В дальнейшем нам понадобятся следующие элементарные
утверждения.
Лемма 2. Пусть Q — конечная выпуклая область в Rn и П —
конечный полиэдр. Тогда s {дП П Си) S== s (dQ П П).
Лемма 3. Пусть Q — конечная выпуклая область в R" и пусть
#c~Q, Pq(§)<C.oo. Тогда существует такая последовательность
полиэдров Hk, что Ilk-*-& и -~.
lim Pa(nk(]Q) = PQ(S), lim Рса(П*ПЙ) = /)са(^).
fc-юо i-»oo
Доказательство. В силу леммы 1 существует последова-
последовательность полиэдров П*, Пк-+-Ш, удовлетворяющая равенствам A).
Очевидно, что Ра(п,1(]О.) = Ра(п1). Согласно лемме 6.3.2/3
^(ППЙ)^(Пй). Следовательно,
lim Pea (Пл Л Q) «S Hm Рса (П*) = РСа {Щ. E)
t-»00 t-»00
lim Ра (П* П &) = Hm PQ (П*) = Pa (^). F)
Так как П*ПЙ->^, то
G)
Из F) и G) следует PCq($)< Hm Pea(П*П-О), что вместе/с E)
t-»00
доказывает лемму.
6.4.2. Об одном свойстве Рса-
Лемма. Пусть P(Q)<oo ы s-почти всюду на dQ существует
нормаль к Q. Тогда для любого множества Ш cr Q
Рса (?) + Рса (Й \ Щ =
Доказательство. Так как Ха = Х# + Ха\*. то
var Vxa (CQ) < var Vx<? (CQ) + var VxQ \ s (CO)
Так как на dQ s-почти всюду существует нормаль к Q, то, в силу
теоремы 6.2.2/1 var Vxa(CQ) =PRn(Q) = s(dQ). Следовательно,
s (dQ) < Pea @) + Pea (Q \ I).
Докажем обратное неравенство. Обозначим через 81*, S* при-
приведенные границы множеств $., Q\?. Множества 81*. Ъ* s-изме-
римы (теорема 6.2.2/1). Отметим, что множества %* f|d*Q, 93* f|d*Q
не пересекаются. Действительно, пусть существует точка х е d*Q,
общая для 9(* и 33*. Тогда объемная плотность каждого из мно-
множеств Щ, Й\$ в точке х равна г/г. Последнее невозможно, так

6.4.4. Функция |Q.| для выпуклой области ' 271
как хед*й. Следовательно,
s B1* П d*Q) + s C* П d*Q) <* (dQ).
Остается воспользоваться равенствами
s (В* Л a*Q)-±= s C* П 5Q) = Pea {« \ S)
(см. теорему F.2.2/1). Ш . ,
6.4.3. Представление функции множества та(Ш) для выпуклой
области Q.
Теорема. Если Q — конечная выпуклая область в eft", .то для
любого множества Ш сг й, Р (?) <! оо, выполняется равенство
. A)
Доказательство. Пусть для определенности
Р(й\^) и пусть множество 35 таково, что
() Ф). Допустим сначала, что т„B5)<оо.
Согласно лемме 6.4.1/1 найдется последовательность полиэд-
полиэдров Пл, Пй-»-®, такая, что
lim Ра (П*) = Ра (SB), lim PCQ <П*) = PCQ C5). B)
k~*oo Ik-» оо
Так как /пл(г8)<оо, то полиэдры Пк конечны. В силу леммы
6.4.1/2 Рса(П*ПЙ)^/>са(П*). Отсюда и из B) получаем
. . C)
Ввиду того что П*ПЙ-»23ПЙ. имеем PB3f]Q)=?S Нт Р(Пк(]О),
fc^Tob
что вместе с первым равенством B) дает
Рса{Щ = РсаE3ПЙ)< Нт Рса(П*ПЙ)-
, *-»00
Отсюда и из F.4.3/3) следует РсЪ (Ш) ^ Рса (Щ = та (§). Итак,
о()о()
Пусть теперь тяC3) = схз. Так как РсаB3)<оо, то в этом
елучае т„(ОВ)<со (см. F.1.7/1)). Заметим далее, чтоРса(С23) =
=3/>caE3) = xa(^) = Ta(Q\^). Отсюда согласно доказанному
та (G \ е) = Рса (Q \ ^) и, значит, ввиду A) та (^) = РСа Й ^
?)
са()
Так как очевидно, что та (^) =^ Рса (в), то получаем
са()
в.4.4. Функция |Q| для выпуклой области.
Следствие 1. Пусть Q — ограниченная выпуклая область.
Тогда
|Q| = inf{ft:

272 § 6.4. Некоторые точные константы для выпуклых областей
где ё — любое подмножество Q, удовлетворяющее условию
VdQ)
()
Доказательство непосредственно вытекает из теоремы 6.4.3 и
леммы 6.4.2.
Следствие 2. Пусть Q—конечная выпуклая область в R*.
Тогда |Q| = (l/2ft)s(dQ)f, где ft —минимум длин отрезков, концы
которых разбивают дп на дуги равной длины.
Доказательство. Возьмем произвольное е>0. Пусть
? —измеримое подмножество Q, такое, что Рц{<ё)>О, РсаФ)<
<l/?s(dQ) и \Щ-РСа{Щ1РаФ)<ъ (см. следствие I). Согласно
лемме 6.4.1/3 найдется многоугольник П, такой, что |Q| —
nQP(nJ
cn(n)n()
Пусть А, В — точки пересечения 3Q с какой-либо компонен-
компонентой границы П. Точки А, В можно выбрать так, что участок
рассматриваемой компоненты дП, ограниченный точками А и В,
весь принадлежит Q. Прямолинейный отрезок АВ разбивает Q
на два множества: Q и Q'. Йусгь Pca(Q)^Pca(Q')- Очевидно,
что Рса(О)/АВ^Рса(Т1[\О)/Ра(П) и, следовательно,
\u\-Pca(Q)/AB<2&. A)
Если Pen (Q) = Рса (<?')» то вследствие неравенства AB^h и
произвольности в из неравенства A) получаем требуемое утвер-
утверждение.
Пусть РСа (Q) < Рса (<?')• Сдвинем отрезок АВ параллельно
в новое положение А'В' (A' edQ, В' edQ) так, чтобы Pea (Qi) -
= ^0(^1). где Qu Q'i— области, на которые отрезок А 'В' разби-
разбивает Q.
Элементарный подсчет показывает, что Pea (Qi)/A'B' 2*
&*Pca(Q)/AB. Это вместе с A) доказывает следствие.
Лемма. Пусть Q — единичный шар в ?я. Тогда величина
inf {Pea ($)'¦ Шс.0., Ра(%) = Р = const «^ (оя} равна площади сфе-
сферической части границы шарового сегмента, основание которого
имеет площадь р.
Доказательство. Пусть gc=Q, Pa($) = p. В силу леммы
6.4.1/3 существует последовательность полиэдров Пй) Пй->?,
такая, что PQ (П*) -> р, РСа (П, П Й) -+ Рса ($)¦
Произведем сферическую симметризацию множества Пл f| ^ от-
относительно некоторого луча / с началом в центре Q. Получим
симметричное относительно / множество Щ с кусочно-гладкой
границей и такое, что
Обозначим через Q* шаровой сегмент, сферической частью гра-
границы которого является дЩ f] 3Q. Очевидно, что PQ (Qk) < PQ (П^),
Pea (Qk) = Рса (Ш>, откуда и следует утверждение леммы.

6.5.2. О суммируемости грубого следа 273
Следующие утверждения выводятся из леммы простым под-
подсчетом.
Следствие 3. 1) Если Q —единичный шар в /?", то |Й'| =
/2
<оя/2и„1.
2) Если Я — единичный шар в R*, то для любого Щ cz Q спра-
справедливо неравенство 4пР0(%)^Рса(8)Dп — Рса(Щ)-
3) Если Q— единичный круг, то для любого Ш cz Q справед-
справедливо неравенство Pq (Щ ^2 sin (VsPcq (<$))•
§ 6.5. ГРУБЫЙ СЛЕД ФУНКЦИИ ИЗ BV (Q)
И НЕКОТОРЫЕ ИНТЕГРАЛЬНЫЕ НЕРАВЕНСТВА
6.5.1. Определение грубого следа и его свойства. Определим
на приведенной границе. Q «грубый след» и* функции и е BV (Q).
Положим *
и* (х) = sup {t: P (Nt) < оо, х <= d*Nt], где х е= d*Q.
Очевидно, что если функция и имеет предельное значение
в точке *ed*Q, то и* (х) = lirri и (у).
у-*х
Лемма 1. Пусть s(dQ) <oo. Тогда для любого множества EczQ
из Pq(%)<.co следует Р ($) < оо.
Доказательство. Из конечности s(dQ) следует, что можно
построить последовательность полиэдров Uk, ll,, cz Q, Пк -»- Q,
таких, что s (дПк) <,К<.оо. Так как Pq (ё) < оо, то Рй ($ (] Uk) =sc
«S Ki <. оо. Кроме того, Щ |~| Пй -> Щ. Этим вследствие леммы 6.1.3/1
утверждение доказано.
Следствие. Ясли s(dQ)<.co и u^BV(Q), то P(Nt)<.oo
при п. в. t.
Лемма 2. Пусть s(dQ)<[oo и ueBV(fi). Тогда грубый след
и* (х) является s-измеримой функцией на d*Q, причем при п. в. /
s({x: *<=d*Q, и* (x)^zt}) =s(d*Q(}d*Nt). A)
Доказательство. Пусть число t таково, что P(Nt)<.оо.
Рассмотрим множество <$?/ = {*: дсей*Й, и*(х)^Ц. Из определе-
определениям* следует, что <?ftt^>d*Nt f]d*Q. Как известно (теорема 6.2.2/1),
множество d*NtQd*Q измеримо относительно s. Множества
<s%)t\[d*Ntf\d*Q] при различных t не пересекаются, следова-
следовательно, при п. в. t s{SSt\[d*Ntfid*Q]) — 0. Поэтому при п. в. /
измеримо множество SSt и, следовательно, функция и* (х) измерима.
6.5.2. О суммируемости грубого следа.
Теорема. Пусть Р (Q) <oo u пусть s-почти всюду на dQ су-
существует нормаль к Q. Тогда для того чтобы для любой функции
* Точную верхнюю грань пустого множества считаем равной —оо.

274 § 6.5. Грубый след функции из BV(Q)...
имела место оценка
:klulBViQb A)
где k не зависит от и, необходимо и достаточно, чтобы для любого
множества $ с: Q было верно неравенство
min {Рса (*), Рса (Й \ Ш)\ < kPQ (*). B)
Доказательство. Необходимость. Пусть IcQ,
/>Q(#)<oo. Тогда по лемме 6.5.1/1 />(&)<оо. Пуст*,,х<? — харак-
характеристическая функция множества Ш. Тогда
inf $a
(Последнее равенство справедливо, так как по условию
(dQd*Q) 0)
\
Вместе с тем |Х#lav w = Pq(%)- Применяя A), получаем B).
Достаточность. Пусть ueBF(fi). Очевидно, чтоs(Xl\\d*Nt)
как функция t не возрастает. Действительно, пусть x^d*Qf\d*Nt
и пусть т<*. Тогда
1 = lim 2vnp-nmn (Q f) Bp) ^ lim 2vnp-"mn (Nx П Bp) ^
• p-»0 p-»0
=s lim 2vnp-nma (Nt f| Bp) = 1,
p-»0
т. e. *e=d*Qnd*JVt. ••
Аналогично s(dQ\d*Nt) — неубывающая функция /.. В силу
формулы F.1.6/1) имеем
s(dQ\d*Nt)]dt.
Положим t0 = sup {t: P (Nt) < oo, s (дп П 3*^) ^ s (dQ \d*Nt)}.
Тогда
= ldQ\u*(x)-to\s(dx).
Следовательно, k | и \bv (q> ^ inf JaQ | ы* — с | s (dx), что и доказывает
теорему. Из следствия 6.4.4/1 получаем, что для выпуклой обла-
области Q точная константа в A) равна |Q|. В частности, для плоской

6.5.3. Точные константы в некоторых интегральных оценках грубого следа 275
выпуклой области эта константа совпадает с отношением /&()
к длине наименьшей хорды, делящей dQ на дуги равной длины
(следствие 6.4.4/2).
Согласно следствию 6.4.4/3 для единичного шара точная кон-
константа в A) равна (о„/2ип~1.
6.5.3. Точные константы в некоторых интегральных оценках
грубого следа.
Определение 1. Пусть wtczQ. Обозначим через Й?'точ-
Й?'точную нижнюю границу тех k, для которых [PcaffiFkfe
для всех множеств Ш cz Q, удовлетворяющих условию
)=0. A)
Теорема. Пусть Р (Q) < оо и пусть s-почти всюду на Q су-
существует нормаль к Q. Тогда для любой функции ueBK(Q),
такой, что ы(^П&)=0, u*(a^f\d*Q) =0, выполняется не-
неравенство
$av<Q>, B)
причем константа ?% точная.
Доказательство. Имеем
В силу формулы F.1.6/1) первый интеграл в правой части равен
Отметим, что mn{esff\Nt) + s(e??()d*Nt)=0 при п. в. <2*0. Сле-
Следовательно, по определению ?#
0 s ({х: и* ^ /}) dt < f PCQ (Nt) dt ^ а
Аналогично получаем
Окончательно $dQ | u* \ s (dx) «^ g% \u\BV (a>.
Для того чтобы показать точность константы ?#, достаточно
положить в неравенстве B) ы=х<?, где Щ — множество, удовлет-
удовлетворяющее условию A).
Определение 2. Введем функцию
US) = sup{([PCQ(g)]*/Pa(S)): Icfi, PQ(g)>0, Pca^X.S}.
Из последней теоремы получаем такое очевидное утверждение.
Следствие. Пусть P(Q)<oo и пусть s-почти всюду на dQ
существует нормаль к Q. Тогда для любой функции и е BV (Q),

276 § 6.5. Грубый след функции из BV (Q)...
такой, что s({x: и* (*)?=0})< 5, справедливо неравенство
причем константа ?,i(S) точная.
Из леммы 6.4.4 следует, что для шара функция ?iE) совпа-
совпадает с отношением 5 к площади основания шарового сегмента,
сферическая часть границы которого имеет площадь 5. В частно-
частности, Ь E) = 5/B sin E/2)) при п = 2 и ?iE) = 4n/Dn-5) при п = 3.
Лемма. Пусть U —область, P(Q)<oo« s-почти всюду на дп
существует нормаль к Q. Тогда
Доказательство. Пусть {^} —минимизирующая последо-
последовательность для iiE). Если Hmmin {тпЩь mh (й \ ?,)} > 0, то
I -*со
утверждение леммы следует из теоремы 6.1.3 и леммы 3.2.4. Пусть
этот нижний предел равен нулю й пусть для определенности
т„?{->0. Тогда т„ (Q \ Щг) -> т„п. По лемме 6.1.3/1
\ип Р (Q\ Шг)^Р (Q)=s(d?i). По лемме 6.4.2 s(dQ) = PCQ (Ш,) +
+ Pco^\^i). Кроме того, всегда Р(Q\Ei) = PQ(Q\$i) +
+ Pcq № \ #»•)¦ Итак, для любого е > 0 при достаточно больших i
Pa (Q \^i)^Pcq (*i)-e^5 -е,
т. е. infPQ(Q\gMi5. ¦
Очевидно, что введенная в лемме этого пункта функция ц свя-
связана с ?я равенством t,^ E) = Sa/r\ E).
Из той же леммы немедленно следует, что если Q — область,
Р (Q) = s (dQ) < оо и ?* E) < оо при некотором 5 < s (dQ), то вели-
величина ?O-(S) конечна при всех Sg@, s(dQ)).
Отсюда и из теоремы 6.5.2 получаем, что неравенство F.5.2/1)
имеет место в том и только в том случае, если ?iE)<oo при
некотором Se@, s (dQ)).
6.5.4. Еще о суммируемости грубого следа.
Теорема. Пусть P(Q)<oo и пусть s-почти везде на дп су-
существует нормаль к Q. Тогда для того, чтобы любая функция
и е BV (Q) удовлетворяла неравенству
II и* к «ш) «? * (| и lav (О) +1« U. (о>). A)
где постоянная k не зависит от и, необходимо и достаточно,
чтобы выполнялось следующее условие'. Существует такое 6>0,
что для каждого измеримого множества Щ ей, диаметр которого
меньше 6, справедлива оценка
Pcu@)^hP*@), B)
где постоянная kx не зависит от Ш.

6.5.5. Продолжение функций из BV (Q) на CQ постоянной 277
Необходимость условия B) легко получить, полагая в A)
и = X* и применяя изопериметрическое неравенство. Достаточность
может быть получена из теоремы 6.5.3, если воспользоваться раз-
разбиением единицы (ср. с доказательством теоремы 6.2.2/2).
Замечание. Если каждое из множеств Йь Й2 удовлетво-
удовлетворяет условиям теоремы, то их объединение также удовлетворяем
этим условиям.
Доказательство следует из формулы F.3.2/4).
6.5.5. Продолжение функции из BV (й) на СИ постоянной.
В данном пункте мы всюду предполагаем, что Р (Й) < оо и>
s(dQ\d*Q) = 0.
Введем обозначение ис(х) = и(х) при xgQ, ue(x)=c npi*
хеСИ, где се/?1.
Лемма. Имеет место равенство
Доказательство. Имеем
$Г: \ue-c\>t})dt-
\ \"Pca({x: \u-c\>t})cU.
Очевидно, что
Далее, так как s(dQ\d*Q) = 0, то
\7рсо({х: \u-c\>t})dt = \"s({x: (и - с)* > t}) dt +
что вместе с B) и C) доказывает равенство A).
Обозначим через BV (Q) подмножество BV (Q), состоящее из
функций, для которых II «о IBV (««) = !« |bv (Q). Тогда из A) следует,
что для рассматриваемого класса областей и е BV (Q) тогда и
только тогда, когда и* — 0. Значит, элементами фактор-простран-
фактор-пространства BV (Й) / BV (Q) являются классы функций, имеющих равные
грубые следы и*.
Из формулы A) и теоремы 6.5.2 получаем следующее
утверждение.
Следствие 1. Если для любого множества ШczQ
min[Pca(%), Pca(Q\$)]<:kPQ(g), - D)
где постоянная k не зависит от Ш, то найдется такое с, что
E)

278 § 6.5. Грубый след функции из fiV(Q)...
Обратно, если для каждой функции и е BV (Q) найдется
такое с, что выполняется неравенство E), где k не зависит от и,
то для любого множества % с: Q справедливо неравенство D).
Следствие 2. Для того чтобы для любой функции и е BV(Q)
выполнялось неравенство
F)
€ постоянной k, не зависящей от и, необходимо и достаточно,
чтобы существовало такое число 6 >• 0, что для любого измеримого
множества ScQ, diam#<6, справедливо неравенство Pcq(#)«s
*SkiPQ(I), где ki не завимт от Щ.
-~ Необходимость немедленно следует из равенства A) и изопе-
риметрического неравенства. Достаточность следует из A) и тео-
теоремы 6.5.4.
Из неравенства F.3.2/4) получаем следующее утверждение.
Следствие 3. Если каждое из открытых множеств Qi, Q»
'удовлетворяет условиям следствия 2, то их объединение также
удовлетворяет этим условиям.
Отсюда, в частности, вытекает, что для множеств Q, предста-
вимых в виде конечного объединения областей с липшицевыми
границами, любую функцию из BV(Q) можно продолжить нулем
на все прострянство, так что будет выполняться неравенство F).
6.5.6. Мультипликативные оценки грубого следа. Будем пред-
предполагать, что Р(й)<оо и s-почти всюду на dQ существует нор-
нормаль к Q. Через od обозначим подмножество Q и через ffi и
?а E) — функции, введенные в определениях 6.5.3/1 и 6.5.3/2.
Следующее утверждение дополняет теорему 6.5.3.
Теорема. 1) Если ^/<7*><оо, где q*^\, то для любой функ-
функции и е BV (Q), такой, что
и(х) = 0 при x<=&>?()Q, и* х) = 0 при xee/fl^. CD
выполняется неравенство
I И* kq (dQ) < С (| « IflK ?О> I И* й, («»)• B)
где 0<t<q<q*,
x = t(q*-q)/q(q*-t) C)
2) Если для всех неВК(й), удовлетворяющих условию A),
выполняется неравенство B), где число х определено формулой C)
и q*>q, q*>t, то ?О/в*>г^с«<«'-<>/<'' <«-'>.
Доказательство. 1) Рассуждая точно так же, как и в до-
доказательстве теоремы 6.5.3, получаем неравенство
где Гг = {х е dQ: J и * (х) | ^ г}.

6.5.6. Мультипликативные оценки грубого следа 279
Положим в лемме 1.3.3/2 1 = /?, f(Q=s(Tx), b=l/q*, а е=
A, оо), k = a(q-t)/q, p = (q* -q)/q*q. Тогда
s (Гт) т»-1 dx < с ($" [s (Гт)]а f« *)<•• - Wf (f*" ° X
в. E)
Так как a> 1 и функция s(FT) не возрастает, то к первому мно-
множителю можно применить лемму 1.3.3/1. Тогда
"s (Гт) т" dx)a = с ($3Q | и* (*) Г s (dx))a. > F)
Объединяя D) — F), получаем утверждение первой части теоремы.
2) Нижняя оценка константы С получаете^ в результате под-
подстановки в B) функции is, где ? —множество, удовлетворяющее
условию F.5.3/1).
Рассмотрим две области, для которых можно получить точные
условия конечности функции ?$?.
Пример 1. Пусть х = (х', х»),1'еК'1-1ий = {г 1<х„<|х'|-*,.
|х'|<1}, где 0<р<п — 2, и пусть в^ = {х: xn=l, U'j<l}.
Покажем, что $? < оо при a = (п — 1 )/(п — 2 — Р)! (Неулучшае-
(Неулучшаемость этого значения а проверяется на последовательности мно-
множеств <fm = {xeQ: #„>т}, т=1, 2, ...)
Хотя область Q не выпуклая, к ней применимо доказательства
леммы 6.3.2/3. Поэтому достаточно проверить оценку
[Pa (g)]e-i>/("-2-e> < cPQ (Щ G)
для любого множества Ш, являющегося пересечением полиэдра с Q
и не пересекающего в??. Но эта оценка уже была получена в при-
примере 4.11.2/1.
Пример 2. Рассуждая точно так же и ссылаясь на пример 4.12/2,
можно показать, что для области Q = {x: |х'|<х?, 0<хп<\\,
Р ^ 1, и множества &^ = {х: \ х' \ < 1, хп — 1} величина t1 конечна
при a = P(n —1)/(P (n —2)-f 1) и что это значение а точное.
Из теоремы этого пункта получается, что ограниченность вели-
величину ?i/G» E) — необходимое и достаточное условие справедливости
неравенства B) для любой функции и е BV (Q), такой, что
s({x: ы* (x)=?0})«gS (ср. со следствием 6.5.3). Отсюда очевидно,
что ограниченность t,i/q* (S) при некотором S < Р (Q) необходима
и достаточна для справедливости неравенства
[ и* кд (да) ^ (Ci J и Ьv (Q) + С21 и* \Lr m)f-" | и* ftt (ваь (8)
где и — любая функция из BV (Q), r<q*, а числа q*, q, t и
х —те же, что и в теореме этого пункта (ср. с теоремой 4.3.3).

280 § 6.6. След функции из BV (Q) на границе... ,
6.5.7. Оценка нормы в /-„/(л-и 'Q) функции из BV (Q) с сумми-
суммируемым грубым следом. В заключение параграфа докажем утвер-
утверждение, аналогичное следствию 3.6.3.
Теорема. Пусть Р (Q) <oo u s-почти всюду на dQ существует
¦нормаль к Q. Тогда для любой функции и eJBK(Q) имеет место
•неравенство
in{\ и Ьк(о> + | «* ¦Ucao)), - A)
причем константа nv~l/n точная.
Доказательство. Имеем в силу C.6.3/1)
I и Кип -1, (в) <• $о+ °° К^]<^>/» dt
$-оо [щп (Q \ М,)]
где М< = {дс: ы (х) ^ f}. Согласно изопериметрическому неравен-
неравенству F.1.5/1)
(Mt) = w71/я [Pa (At,)+9F* At, (] d*Q)].
Так как при п. в. t s(d*Mt(]d*Q)=s({x: u*^t\) (лемма 6.5.1/2), то
Принимая во внимание, что по лемме 6.4.2
4- Pea (^ \ M<) = P (Q), получаем аналогично
Следовательно,
s ({дс: | u* | ^ ф dt} = nan-1/n (| и\BV (
Точность константы в A) следует из того, что A) превращеатся
в равенство при и = %в , где 5Р —шар в п.
По образцу этой теоремы обобщается на функции из BV (Q)
теорема 3.6.3.
§ 6.6. СЛЕД ФУНКЦИИ ИЗ BV(Q) НА ГРАНИЦЕ
И ФОРМУЛА ГАУССА - ОСТРОГРАДСКОГО
6.6.1. Определение следа. Пусть Q— открытое множество в R"
и пусть функция и суммируема в окрестности точки х edQ. Верх-
мим и нижним следом функции и в точке х назовем соответственно

6.6.2. Совпадение следа и грубого следа 28t
числа
п (х) = ПтA /т„ EР (х) П Q)) \BpWnau (у) dy,
и (х) = Пт A/тп (Во (х) П Q)) Г и (и) Иц
Если п(х) = и(х), то их общее значение назовем следом п(х}
функции и в точке х е 6Q.
6.6.2. Совпадение следа и грубого следа.
Лемма. Пусть u^BV(Q), u^sOu Jd,nu* (x)s(dx) <со. Тогда-
для любой точки xed*Q имеет место неравенство
Доказательство. В силу теоремы 6.5.7 функция и сум-
суммируема в Q и, следовательно, определена функция и (х).
Неравенство A) очевидно, если и*(х) = 0. Предположим, что
0<u*(jc)<oo. Возьмем произвольное е>0 и .такое t, что-
0<ы*(*)-/<е и Pa(Mt)<oo. Тогда хевд*М?; где М, =
— {У- и(у)^Ц- Очевидно, что в точке х нормаль к Mt совпадает-
с нормалью к Q. Следовательно, найдется такое га (х) > 0, что
при 6<r<ro(x)
l-e<ma(Mt(]Br (x))/mn (Q П Br (x)) < 1. B).
Так как \Br{x)f)au(y)dy = ^mn(Mz(]Br(x))dx,
то из B) получаем
^ < (m. (Mt П 5r)/mn (Q П Br)) ^(l-t)t,
что и доказывает неравенство A) при ы*(дс)<оо.
В случае и* (х) = оо рассуждение проводится подобным образом..
Теорема. Пусть Р {Q) <оо « пусть s-nmmu везде на dQ cy~
шествует нормаль к Q. Если и е BV (Q) и \дп\и* \s (dx) < оо^.
то s-почти везде на dQ след й функции и существует и совпадает
с грубым следом и*.
Доказательство. Согласно теореме 6.5.7 функция и сум-
суммируема в Q, следовательно определены верхний и нижний
следы а, и.
Рассмотрим сначала случай неотрицательной функции и. Тогда
по лемме и(х)^и*(х) при всех xed*Q.
Докажем теперь, что если и ^ 0, то для s-почти всех х е d?t
имеет место неравенство п(х)^и* (х). Допустим, что s({xed*Q:
п(х)>и* (*)})> 0. Тогда найдется такое с>0, что s(Q)>0, гд&

282 § 6.6. След функции из AV(Q) на границе...
Q = {x: хей*й, п(х)>и* (х)-\-с\. Вспоминая определение п(х),
имеем при х е Q
с+и* (дс)<ШпA/т«(Др(дс)ПС))СmMCiBpiAldt.
р—0 '
Так как xe5*Q, то
Нт B/уяря) тя (Q Л Вр (х)) =1. C)
р—о
„.Поэтому
с+и* {х) < B/уя) Нт р-я Г т. (Af, П 5Р W) Л <
р-0
^ B/oH)W lim p1-» fo°° [т„ (Af < П 5Р (х))]»»-11'» dt. D)
о->о J
Вследствие равенства C)
т„(М, ПВр(х))^арmin{тя(Л1< ПВр(х)), тп(Вр(х) \М<)},
где ар не зевисит от t и ар-*-1 при р-*-0.
Применяя относительное изопериметрическое неравенство
{6.1.7/1), получаем
[mn(MtПBp{x))}»-l)in^a?-')/»(а„/2)'»J>/«ojL,varVXm,Eр(дс)). E)
Замечая, что ч
и интегрируя неравенство E) по I, находим
(d*Q П d*M<) Л} = a<p" - »/«(
XVnU {var Vu (Bp (x)) + $a.anBp (x) ¦«• (a) s (dy)}. F)
Сравнивая D) и F) и учитывая, чтоар-*-1 при р-*-(), получаем
с + ы* (х) < Vn1-1 jiim p1-" var Vu (Bp (x)) +
} G)
Согласно формуле F.2.4/7) при s-пояти всех х
lim p1-" var Vxq (Вр (дс)) = ия1.
р0

6.6.3. След характеристической функции 283
Но var V%o(Bp) = s(d*Q f\ Вр). Поэтому при s-почти
неравенство G) можно переписать в виде
с+и* (х)<:vnl-iTim p1- var Vu(Bo(x)) +
Интеграл / ($) = ^gu* (y)s(dy) абсолютно непрерывен относи-
относительно меры s(S). Следовательно, при s-почти всех x^d*Q су-
существует производная
(dl/ds) (х) = lim A/s(d*Q П Яр (x))) \d,af)BpM u* (y)s(dy) = u* (x)
(см., например, [189, с. 290]).
Поэтому при s-почти всех xeQ неравенство (8) можно пере-
переписать в виде
Так как var Vu {Rn)<. oo, varVu(Q) = 0, то на основании леммы
6.2.5/1 из неравенства (9) следует, что s(Q) = O. ¦
Пусть теперь и — произвольная функция из BV (Q). Тогда функ-
функции u+ = 1/2(u + l« I). и~ = 1/г(|и | — и) также принадлежат BV (Q).
В силу доказанного выше s-почти везде на d*Q справедливы»
равенства
2+(*) = (и+(*))*. й-(х)*=(и-(х)): A0)-
Следовательно, s-почти везде на д*п существует след й функ-
функции и, причем
Вместе с тем очевидно, что
• при и* (х) 3= О,
(rW)e|O при В.(х)>0.
таи что всегда
Сравнивая равенства A0) —A2), видим, что п(х) = и*(х).
6.6.3. След характеристической функции. Для характеристиче-
характеристической функции условия теоремы 6.6.2 могут быть несколько ослаб-
ослаблены. Именно имеет место следующее утверждение.

284 § 6.6. След функции из BV(Q) на границе...
Лемма- Пусть Р (й)<оо, Щ cz Q и Ра($)<.оо. Тогда при
s-почти всех Jted*fi след х<? функции х<? существует и совпа-
совпадает с xl-
Доказательство. Положим Ck = {x: x^d*Q, х#(*)<1.
0*>1/*Ь k = 2, 3, ... Так как х!(*) = 1 при х<=д*ЙГ|д*? и
jj| (х) = 0 при х е д*п/д*&, то на множестве <5*й \ (J Cft функ-
ции х<? и х! совпадают.
Остается доказать, что s(Cft) = 0, fe = 2, 3, ...Так как С6*й
то при х е С*
Х# (дс) = Шп (m?(g П 5Р (х))//п« (^ П ЯР (*))) =
р-0
= B/yn) lim/nn(Vn 5P W) ^ ^- (D
р^О
В силу леммы 6.5.1/2 Р(%)<.оо. Поэтому из F.1.7/1) сле-
следует, что
тп (Ш О Вр (х)) ^ С [var VRnts EР (х))]"'^».
Сравнивая с A), имеем
Шп р1 ¦¦» var Vx* (ЯР (*)) ^ (««/гЛС)»"-1»/". B)
р-0
Так как Ск(]д*Ш = ф, то varVx<?(Cft) = 0. Поэтому из B), при-
применяя лемму 6.2.5/1, получаем s (С*) = 0, что и доказывает лемму.
6.6.4. Суммируемость следа функции из BV(Q).
Теорема. Пусть Р (Q) <со « пусть s-почти всюду на <5Q су-
существует нормаль к Q. Тогда:
1) если для любого измеримого множества Ш выполнено не-
неравенство
т\п{Рса(Ш), Рса(&\Ш)}^kPa{$), A)
где k не зависит от Ш, то для любой функции и ^BV (Q) сущест-
существует след й, причем
ini]da\u-c\s(dx)^k\ulBVW; B)
2) если для любой функции ueBK(Q), имеющей на dQ след й,
справедливо неравенство B) с постоянной k, не зависящей от и, то
для любого измеримого множества Шап верна оценка A).
Доказательство. 1) В силу теоремы 6.5.2 грубый след
функции и суммируем на dQ. Следовательно, по теореме 6.6.2
s-почти всюду на dQ существует след й, который совпадает с и*.
Поэтому из неравенства F.5.2/1) следует нер'авенство B).

6.6.5. Формула Гаусса —Остроградского для функций из BV (Q) 285
2) Пусть Ш — измеримое подмножество Q, таксе, что Pq(&) < со.
В силу леммы 6.6.3 след %g функции /<? s-почти всюду сущест-
существует и равен xl- Поэтому, полагая в B) и=х#. получаем
что равносильно (ср. с доказательством необходимости в тео-
теореме 6.5.2) неравенству A). ¦
6.6.5. Формула Гаусса — Остроградского для функций из BV(Q).
Лемма. Для любой функции цеВК(й) и любого измеримого
множества <?& с Q имеет место равенство
Vu(OI) = $± ?VX«,(Л)dt, где Mt = {х: и(х)^Ц. A)
Доказательство. Достаточно доказать A) в предпо-
предположении uSsO. Пусть ф —бесконечно дифференцируемая функ-
функция с компактным носителем в Q. Тогда
- JQ q>Vu (dx) = Ja ыУФ (dx) = JQ ^Хл1/ (ж) ЛУФ (dx).
По теореме Фубини последний интеграл равен ^ dt \а%м {x)Vq>(dx).
Далее отметим, что при п. в. t-
{dx) = ?Л]а фУхд,, (dx) = \Q Фd^ g" Vxa,,dt. B)
Здесь перестановка порядка интегрирования допустима, ибо из
равенства F.1.6/1) следует конечность интеграла ]™dtx
х $а|ф| varVxMt(dx). Равенство A) непосредственно следует из B).
Теорема (формула Гаусса— Остроградского). Пусть P(Q)<oo
и пусть s-почти везде на дО. существует нормаль к Q. Тогда для
любой функции asBK(Q), грубый след которой суммируем по
границе Q, выполняется равенство
где v (х) — нормаль к Q в точке х.
Доказательство. Так как для любого множества Ш, та-
такого, что Р (Ш) < со, Vx<? (/?") = 0, то в силу леммы
S
, (да П d*Mt) dt.
Так как s(dQ\d*Q)=0 и так как в точках d*Q(]d*Me нор-
нормаль к Mt совпадает с нормалью к Q, то
, (dQ (]д*М<) = Ь.апд.М( v (х) s (dx) = VXQ (d*Mt).

286 § 6.7. Комментарии к главе б
Итак, Vu(Q) = $
Г (d*Mt) dt-]°_x VXa (д*п \ d*Mt) dt
На примере круга с разрезом |z = pe'e: 0<р<1, 0<8<2я}
и функции u(z) = 6 видно, что при нашем определении следа
условие s(dQ\d*Q) = 0 не может быть снято.
Из. теорем 6.6.2 и 6.6.5 непосредственно получаем следующее
утверждение.
Следствие. Пусть P(Q)<oo и s(dQ\d*Q)=0. Если для
' любого множества Щ с Q имеет место неравенство
min{Pca(?), Pea (& \ $)} < kPQ (Щ,
где k не зависит от Ш, то для любой функции и е BV (Й) сущест-
существует след й(х) и имеет место формула Гаусса—Остроградского
§ 6.7. КОММЕНТАРИИ К ГЛАВЕ 6
Первые два параграфа содержат изложение известных фактов
теории множеств с конечным пермиетром и функций класса BV.
Основы этой теории заложены Р. Каччополи [156, 157) и
Э. Де Джорджи [164, 165] и получили дальнейшее развитие
в работах К- Крикеберга [205], У. Флеминга [177], У. Флеминга
и Р. Ришеля 1178] и др. С точностью до изложения результаты
пунктов 6.1.6, 6.1.3—6.1.5 принадлежат Э. Де Джорджи [ 164, 165]г
Теорема 1.1 из 6.1.2 представляет собой модификацию результата
К. Крикеберга [205]. Формула F.1.6/1) принадлежит У, Фле-
Флемингу и Р. Ришелю [178].
Результаты § 6.2 получены Э. Де Джорджи [165] и дополнены
Г. Федерером [171].
Теорию множеств с конечным периметром в настоящее время
можно рассматривать как раздел теории целочисленных потоков
(см. Г. Федерер [172, раздел 4.5]).
§ 6.3 — 6.6 представляют собой несколько расширенное изло-
изложение статьи Ю. Д. Бураго и автора [11].
Боковски и Шпернер [155] получили оценки функций ц (S) и км
для выпуклых областей через радиусы вписанного и описанного
шаров.

7.1.1. Пространства wlp, Wlp, b'p и flj, при всех ?>0 287
Сведения о различных изопериметрических неравенствах можно
найти в книге Ю. Д. Бураго и В. А. Залгаллера [10] ив обзор-
обзорной статье Р. Оссермана [232].
В статье Й. Соучека [245] изучаются свойства функций, про-
производные которых порядка / являются зарядами.
В связи с материалом этой главы упомянем еще статью
А. И. Вольперта [18].
Г л ав а 7 —>
НЕКОТОРЫЕ ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА,
ЕМКОСТИ И ПОТЕНЦИАЛЫ
Эта глава является вспомогательной. Здесь собраны (в основ-
основном без доказательств) результаты теории функций, которые либо
используются в дальнейшем, либо примыкают к используемым.
В первую очередь приводятся теоремы о пространствах диффе-
дифференцируемых функций произвольного положительного порядка
(§ 7.1). Теория этих пространств в значительной мере отражена
в монографиях (И. Стейн [121], Я- Петре [234], С. М. Николь-
Никольский [104], О. В. Бесов, В. П. Ильин, С. М. Никольский [6],
Г. Трибель [123]), хотя в* ряде случаев читатель, интересующийся
доказательством, будет вынужден обратиться к оригинальней
статье. В § 7.2 речь идет о свойствах емкостей и нелинейных
потенциалов. Этот материал, к сожалению, еще рассеян по жур-
журналам, но попытка его систематического изложения привела бы
к недопустимому увеличению объема книги. Во всяком случае для
понимания дальнейшего достаточно приведенных здесь фор-
формулировок.
$ 7.1. ПРОСТРАНСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ
ЛЮБОГО ПОЛОЖИТЕЛЬНОГО ПОРЯДКА
7.1.1. Пространства wlp, Wlp, bpt Blp при всех />0. ПрирзП
и целом />0 через wlp обозначим пополнение пространства $& по
норме 1 V;u\l ¦ При /)>1 и дробном I определим пространство wlp
как пополнение & по норме
. A)
Здесь Ади (ft) = и (х+у) — и (х), [I] — целая, а {/} — дрооная часть
числа /.

288 § 7.1. Пространства дифференцируемых функций любого порядка
Если в этом определении заменить норму A) нормой
1, B)
то получим пространство^ (здесь Ц,и(х) — и(х-\-у) — 2w(x)
+ и(х — у)). При />1 положим |ub=lVu|/_i.
р р
р р
Пусть еще W'p и ВР — пополнения & по нормам \u\j+\u\L
и IIы \bi +1 и к соответственно.
При дробных / нормы в пространствах w'p и blp, Wlp и В1Р
эквивалентны. Действительно, из тождества 2(u(x+h) — u(x)) —
= - [ы (х + 2Л) *- 2u(x + h) + u {х)] + [и {х + 2Л) — ы (л:)] следуют
оценки B-2;)D/u<C/u^B + 2;)D,u, 0</<l, где
(Ди) (х) = (J | (Д,ы) (х) \р 11/1-*-** dy)vp,
(ClU) (x) = (J | (A?u) (x) |" | у Y** dyI/p.
Полезность определенных пространств в значительной степени
обусловлена следующими утверждениями.
Теорема. При ре[1, оо), />0 и от=1, 2, ...
f«l^(^)~jn)f||yl"I-W)-rV* + [nl/lip(^«), C)
гйе {/s^(/?л+1) — люб<» продолжение функции uef (/?") «а
пространство Rn+1 = {(x, у): xeRn, y&R1}. Прибавляя к норме
справа норму U в Lp(Rn+i), получаем эквивалентную норму
в Вр (R"). В тех же обозначениях
I" L, (**) ~ jnf !l VU |L> {Rn+i) ~ inf I U |rl (я*пу D)
Соотношение C) имеет длинную историю (см. [153, 147, 3,
180, 113, 182, 53] и др.) и в приведенной форме установлено
С. В. Успенским в [126]; соотношения D) доказаны в [182].
Сведения о состоянии теории пространств с «весовыми» нормами
можно почерпнуть из книг X. Трибеля [123], А. Куфнера [206]
и обзорной статьи [5].
7.1.2. Пространства потенциалов М. Рисса и Бесселя. Шкалы
«дробных» пространств, отличные от введенных в п. 7.1..1, опреде-
определяются при помощи операторов:
F-i|g|'Ff (— Д + 1 у/а = F-1 A +! 5 !
Fu (I) = и (I) = 2л-"/г J &х%и (х) dx, Д —лапласиан.

7.1.2. Пространства потенциалов. М. Рисса и Бесселя 289
Именно через п'р и Н1Р A</з<оо, />0) обозначим соответ-
соответственно пополнения пространства & по нормам
I и l»i = II (- Д)'/2« кр, I и Ihid=I (- А +1 )'/а и !v
Следующее утверждение — теорема С. Г. Михлина [98] о муль-
мультипликаторах интеграла Фурье.
Теорема 1. Пусть функция Ф, определенная на R"\{0}, имеет
производные д"Ф(%)/д%^...d%]k, где O^k^n и 1 =^/i</г• • •
...jb^n. Пусть, кроме того,
\%\*\ д*Ф (ХудХ^ ...dXJk\^M = const.
Тогда для всех u^Lp справедливо неравенство
где с — постоянная, зависящая только от п и р.
Следствие 1. Пусть 1 = 1, 2, ... Тогда существуют поло-
положительные числа с и С, зависящие только от п, р, I и такие,
то для всех u
с | (- Л)'/2 и1р<^\ V,b kp < С | (- A)'/» lv A)
Доказательство. Пусть а — мультииндекс порядка Л Тогда
F-^Fu = F-1^ 111-111 \l Fu. Функция |a 11 \~l удовлетворяет усло-
условиям теоремы 1, что дает правую оценку A). Вместе с тем |||'-
()|-1, где са = П/а\, так что
Снова применяя теорему 1, получаем левую оценку A).
Аналогично доказывается следующее утверждение.
Следствие 2. Пусть /=1, 2, ... Существуют положитель-
положительные числа с и С, зависящие только от п, р, I, такие, что для'
всех и е ®
с\ и \wip < 1 (- А + 1)'/» и Uo < С1 и Ц.
Итак, если р > 1 и / — целое, то wp = hlp и Wlp = Hlp.
Доказательство следующей теоремы можно найти в статье
автора и В. П. Хавина [89].
Теорема 2. Если рКп, р> 1, mo~uehp в том и только
в том случае, если и = (— А)-"г f та с | х \l~n * f, где fsLp, а звез-
звездочкой обозначена свертка.
Хорошо известно аналогичное свойство пространства Нр.
Ю В. Г. Мааья

290 § 7.1. Пространства дифференцируемых функций любого порядка
Теорема 3. Функция и принадлежит пространству Нр, р>1,
в том и только том случае, если
где f&Lp, Gi(x) = c\x\l'-n)/2K{n-i)/i(\x\), /Cv — модифицированная
функция Бесселя третьего рода.
При | х | sg; 1 справедливы оценки
с log B/| х |), l = n,
с, 1>п.
Если |х|^1, то Gt(x)^c\ jc|('—«-!)/»e— I«i. Интегральные опера-
операторы f -?¦ | x |'-"*/, f-±Gi#f называются потенциалами М. Рисса
и Бесселя. Таким образом, теоремы 2 и 3 утверждают, что каж-
каждый элемент пространства h\ (pi < п) (Hlp) есть потенциал М. Рисса
(Бесселя) с плотностью из Lp.
Сформулируем теорему Р. Стрихартца [247] об эквивалентных
нормировках пространств hp и Н'р.
Теорема 4. Пусть {/}>0 и
• B)
Имеют место соотношения
C)
D)
Следующая теорема Т. О. Шапошниковой [131], аналогичная
теореме 7.1.1, дает характеристику пространств ftj»(/?") и
Hlp (Rn) в терминах продолжений на пространство 7?"+*. Дву-
Двусторонние оценки нормы в Lp функции и, заданной на R1, при
помощи ее гармонического продолжения на Rxx@, со) связаны
с именами Литтлвуда, Пэли, Зигмунда и Марцинкевича. Основ-
Основной результат для функции g(u) Литтлвуда — Пэли, определенной
равенством
[g (")] (х) = B° I VI/ (х, у) |а у dy)v%,
где U (х, у) — интеграл Пуассона функции ы, состоит в эквива-
эквивалентности норм lu\Lp(Rt) и lg(uLLpiRt), 1<р<оо. В книге
И. Стейна [121] эквивалентность этих норм доказана для п-мер-
ного случая..

7.1.-3. Еще несколько свойств введенных пространств 291
Теорема 5. Норма функции u^&(Rn) в h.lD(Rn), 0</<l,
эквивалентна норме
где инфимум берется по всем продолжениям U е $& (Rn+I>) функ-
функции и на #"+*={(*, у): хе=Я", t/e=/?*}. Норма и в H[{Rn) оце-
оценивается снизу нормой продолжения Пи, определенного равенст-
равенством A.7.1/7). Аналогично
|| и Ц ~ inf \\Rn (\Rk | у ]*-*-» (| W |« +1 U |«) dyf2 dx\l
7.1.3. Еще несколько свойств введенных функциональных про-
пространств. Следующие две теоремы, доказательства которых можно
найти в книгах И. Стейна [121], Я. Петре [234], С. М. Николь-
Никольского [104], Г. Трибеля [123], представляют собой классические
факты теории пространств b'p, Blp, h!p, Hlp.
Теорема 1. Если 2=s?/?<oo, то h'pczbp, Н'р <=.ВР. Если 1<
<р<2, то bpczhp, B^czHp.
Теорема 2. (i) Если реA, оо), />0, то
(Здесь и в (и) обозначение {U} имеет тот же смысл, что и в тео-
теореме 1.7.1/1.)
(и) Если ре[1, оо), />0, то
В (i) и (и) можно заменить Ь и h на В и Н соответственно
Соотношения (i), (ii) получили далеко идущее обобщение в ра-
работе А. Йонссона и Г. Валлина [203], где речь идет о продол-
продолжении на Rn функций из класса В1Р на так называемых d-множе-
ствах F. Этот термин означает, что d-мерная мера Хаусдорфа Hd
(см. п. 1.2.4) удовлетворяет следующему условию: Hd(F {\В (х, р))~
~ pd для всех х е F и р < 6.
В дальнейшем, если В — шар с радиусом г, то через \хВ обо-
обозначается концентрический шар с радиусом \ir. Аналогично кубу Q
с длиной ребра й ставится в соответствие концентрический и по-
подобно расположенный куб ц<3 с длиной ребра fid.
Сформулируем теорему, которая для пространства Н'р, {/}>0,
легко выводится из G.1.2/4) [247]. Для Wlp и В1Р это — простое
следствие определений пространств.
Теорема 3. Пусть {В(-/)}/>о — покрытие R" шарами с радиу-
радиусом 1, имеющее конечную кратность, зависящую только от п.
10*

292 § 7.1. Пространства дифференцируемых функций любого порядка
Пусть ещ 0^ —центр шара В^\ 0<0) = 0 и
где ne=CS°Bfl@>), r\=l на fi(°>. Тогда
у1/' 0)
где 5р = Я'р, Wp или fip, a s?p=hpt vJp или b'p соответственно.
Можно проверить, что для любой функции v e Co" (fii) спра-
справедливо «обобщенное неравенство Фридрихса»
. B)
Поэтому норму [ыт1/|/ в A) можно заменить эквивалентной нор-
МОЙ
Говоря о вложении банахова пространства ^ в другое бана-
банахово пространство Y (обозначение: X с: У), будем, как всегда,
иметь в виду непрерывное вложение.
Теорема 4. 1) Если 1=1, 2, .... то Ь[^.па[.
2) Если р>1, />Х2зО, п^(/ — %)р и 1—п/р = %—п/л, то
hp с Лп.
3) ^слы р^1, 1>%>0 п>A—'К)р и 1 — п/р = 1 — п/п, то
blpczbkn.
А) Если pSs\, />0, п>1р и 1/л=1/р — 1/п, то b'pczLn.
5) Если 1=1, 2, .... n^t — % и 1 — п = к — п/л, то wltczb^.
Заменяя в 1) —5) строчные буквы b, h, w прописными, также
получаем верные утверждения.
6) Если р>\, />л$гО, п = A — К)р, то Ир с Н„при любом
яеA, оо). Если р>\, 1р> п, то Н[ с= Ью(]С.
7) Евли р>\, l>\>0, n = (l — k)p, то В10аВкл при любом
л<=A, оо).
8) Если р>\, />0, п = 1р,то В1 с:/,„ при любом л еA, оо).
9) ?слы /?>1, //?>n, mo fi^cL^nC.
Различные доказательства утверждений 1) —4), 6) —9) изло-
изложены в монографиях, упомянутых в начале этого раздела, ре-
результат п. 5) принадлежит В. А. Солонникову [120]. Вложение
2) — непосредственное следствие непрерывности оператора
(— Д)(*-')/*; Lp -*¦ Ln, установленной С. Л. Соболевым [116]. Утвер-
Утверждение 1) еледует из неравенств
и из теоремы 7.1. (Здесь U e&{Rn+1) — любое продолжение
функции uef (#")•) Та же теорема вместе с неравенством

7.2.1. Емкость сар^е, Slp) и ее свойства 293
вытекающим из следствия 2.1.6/4, приводит к 3) при р=\.
В случае р>\ тот же результат следует из вложения
йр+1/р(/?п+1)с:Л^+1/я(/?п+1) (см. п. 2 и п. (i) теоремы 2. Соответ-
Соответствующие утверждения для пространств Н1Р и В1Р получаются ана-
аналогично. Вложения из п. 6) легко следуют из определения бес-
селева потенциала. Сказанное в пп. 7) и 9) вытекает из п. 6),
примененного к пространству H'p+i/p (Rn+1), а утверждение 8)—
следствие п. 7).
Наряду с указанной ранее литературой, в которой установ-
установлены теоремы вложения и теоремы о следах и продолжениях для
различных пространств функций с дробными производными и их
обобщений, укажем, не стремясь к полноте, статьи О. В. Бесо-
Бесова [4], В. И. Буренкова [13, 14], Л. Р. Волевича и Б. П. Па-
неяха [17], К- К. Головкина [23, 24], К. К- Головкина и
В. А. Солонникова [25], В. П. Ильина [33, 34], Л. Д. Кудряв-
Кудрявцева [45], В. А. Солонникова [119], Н. Ароншайна, Ф. Мулла и
П. Шептыцкого [148], Л. Хермандера и Ж"-Л. Лионса [200],
М. Тэйблсона [248, 249], первую главу книги Л. Хермандера
[130], книгу И. В. Гельмана и автора [185].
§ 7.2. НЕКОТОРЫЕ СВЕДЕНИЯ ИЗ ТЕОРИИ ПОТЕНЦИАЛА
7.2.1. Емкость сар(е, Slp) и ее свойства. Каждому из опреде-
определенных в § 7.1 функциональных пространств SP=HP, WlPt Blp,
ftp, w'p, blp можно поставить в соответствие функцию множества,
называемую емкостью. Именно для любого компактного множе-
множества ее Rn положим
сар(е, Slp)=mlhufsr. u^C?, и^\ на е\.
Если Е — любое подмножество /?", то внутренней и внешней
емкостями множества Е называются числа
сар(?, 5р) = sup {cap (e, Slp)\ eczE, e — компакт},
сар(?, S'p) = inf {cap (G, Slp): G^dE, G — открытое множество}.
Из теоремы 7.1.3/3 следует, ^то справедливо соотношение
сар(е, Slp)^^.>ocap(e[]B^, 5p), A)
где {fi(l)} — последовательность шаров, введенная в теореме 7.1.3/3.
Сформулируем несколько известных свойств емкости cap (•, Slp),
где SP = H'P или hlp, /?>1 [89, 109, 216].

294 " § 7.2. Некоторые сведения из теории потенциала
1) Если множество eczR" компактно, то по любому числу
е>0 можно указать такое открытое множество GczR", чтоСэг
и сар(е', S'p)<. cap (e, Sp) + e, каково бы ни было компактное под-
подмножество е' множества G.
2) Если множество eczR" компактно, то cap (e, Slp) —
= сар(е, Slp).
3) Если ?х с= ?2 с= R", то cap (?ь Sp)<sscap(?2, Sp),
сар(?ь SP)<cap(?2, SP).
4) Если {?*}Г=1 — последовательность множеств в /?", ? =
= [j?ft, то clp~(?, S^)<Sr-|eap(?*» 5^
Известно, что любое аналитическое (в частности, любое боре-
левское) подмножество ? пространства Rn измеримо относительно
емкости сар(-, Slp) (т. е. сар(?, 5'р) = сар(?, Slp)) [89, 216].
Наряду с емкостью сар(е, Slp) вводят еще емкость
J k (х — у) f (у) dy 5s 1 для всех дсе?},
где fe — положительная, убывающая, непрерывная функция ня по-
полуоси @, +оо) [216].
Отметим некоторые связи между введенными емкостями
(I) Если 5р = Яр или ftp, a k — ядро Бесселя или Рисса, то
ск Р(Е)= а cap (E,S'P).
(и) Если diam?^l и pl<.n, то
сар(?, Яр)~сар(?, ftp) B)
[140]. Соотношения, аналогичные B), верны и для других пар
пространств Вр, b'p и W'p, w'p.
(iii; Если 2^/?<оо, то
сар(?, Яр)~сар(?. fip)
[243]. Более того, в случае 2 — 1/п </?<2 равенства cap (?, Яр)= 0
и сар(?, fiP) = 0 выполняются одновременно [135]. Для произ-
произвольных реA, оо), />0 можно утверждать, что
cap (?, H'r)<c cap (?, Blp),
где е — постоянная, зависящая только от п, р, I [135, 243].

7.2.2. Нелинейные потенциалы 295
(iv) Если EczRn, />0, 1<р<оо, то
сар(?, В'р (/?»)) ~ cap (?, H'p+l/p (R^))^cap{E, Blp+1/P (R**1))
[243].
(v) Пусть т, />0, \<.р, q<.oo. Для EczRn справедливо
неравенство
[сар(?, ^))п-1р^с[сар(Е, tip)\"~m при щ<1р<п.
Если дополнительно Е с: 5Ь то
[сар(?, Н?)У~1р^с[сар(Е, Н1,)}*-' при mq<lp<n,
[log (со/cap (?, Я^1))]1-" ^ с cap (?, я?) при mq<lp = n,
[сар(?, ^f-'^cfcap^, Я^)]* при mq = lp = n
Полагая здесь Е = ВГ, убеждаемся, что все показатели степе-
степеней точны. Сформулированные оценки получены в работе [139].
7.2.2. Нелинейные потенциалы. При исследовании свойств
емкостей, введенных в п. 7.2.1, оказывается полезным аппарат
теории нелинейных потенциалов (см. работы В. Г. Мазьи и
В. П. Хавина [89], Д. Р. Адамса rf Н. Мейерса [141], Л. Хед-
берга и Т. Вольфа [197] и др.). Здесь собраны некоторые факты
этой теории.
Пусть ргA, оо), n>pl. Всякая (неотрицательная) мера ц,
заданная на борелевском а-кольце пространства /?", порождает
функцию Up- ;Ц, определенную в Rn равенством
. ,fi) (х) = \Rn | х - у |<-« ($л„ | z - у I'- dfi (г)I""-1' dy A)
или, что то же, {/„, *ц =//(Лц)р'-\ р + р' = рр'.
Если /> = 2, то, переставляя интегралы в A) и учитывая фор-
формулу композиции
\\y-z\'-n\y-x\1-ndy =
[50, с. 64], получаем
Функция U2, /Ц представляет собой потенциал М. Рисса порядка 21
(при / = 1 — потенциал Ньютона). По аналогии, UPf ;Ц называют
нелинейным потенциалом ((/?, /)-потенциалом) М. Рисса.
Вводится также нелинейный потенциал Бесселя Vp /Ц =
Для потенциалов UPi ;(i и Vp, W имеет место следующий гру-
грубый принцип максимума.

296 § 7.2. Некоторые сведения из теории потенциала
Предложение 1. Пусть Р\х.—один из потенциалов UPiiH или
VPi p. Тогда существует постоянная Ш, зависящая только от п,
р, I, такая, что
(Рц) (х) ^ 301 sup {(Рц) (х): х <= supp \i}.
Это утверждение доказано в [89, 140]. Известно, что при р = 2,
l в качестве константы Ш можно взять единицу (см.
Н. С. Ландкоф [50, с. 96]). В общем случае это невозможно,
даже если р=2 (см. Н. С. Ландкоф [50, с. 204]).
Следующее утверждение содержит основные свойства так на-
называемой (р, /)-емкостной меры [89, 216].
Предложение 2. Пусть Е — подмножество пространства Rn.
Если сар(?, /i|,)<oo, то существует единственная мера ц?, об-
обладающая следующими свойствами:
2) (UPi ;ЦЕ) (х) Ss 1 при (р, 1)-квазивсех
(Термин «(/?, 1)-квазивсюду» означает: всюду, за исключением мно-
множества нулевой внешней емкости сар(-, Лр));
3) supp \i a E;
4) М?) = сар(?, h'p);
5) (Up, i[iE) (х) < 1 для всех х е supp н?.
Меру цЕ называют емкостной мерой множества Е, а ?/р, ;Ц? —
емкостным потенциалом множества Е.
Это предложение остается верным при замене h'p на Н'р, UPi ;ц
на Vp, /|х и /; на Jt.
Отметим еще, что емкость сар(е, S'p) (для Sp = hp или Н1Р)
может быть определена равенством
cap (e, Slp) = sup {ц (е): supp ц с= е и (Рц) (х) *=? 1}, B)
где P = UPil или VPt, [89].
Сформулируем некоторые точечные оценки (р, /)-потенциалов,
очевидные в линейном случае, но совсем не тривиальные в нели-
нелинейном.
Предложение 3 [89, 134]. (i) Если 2 — 1/п<р<п/1, то
(VP, rfi) (х) ^ с $0°° (ц {В (х, р))/р»-грI/(р-1) е-Р (ф/р). C)
(ii) Если р>\ и ф(р) = supц (В (х, р)), то
X
D)
Для потенциала Uр, /Ц при тех же значениях р имеют место
такие же оценки, в которых отсутствует множитель е-*р.

7.2.3, Метрические свойства емкостей 297
Почти очевидно, что оценка
(У; iV) (x)^ с $~ (ц (В (х, p))/p«-'p)V(P-i) е-* (dp/p), - E)
обратная к C), верна при всех реA, оо),/> 0, но сама оценка
C) в случае /?<;2 —//п не имеет места, В этом легко убедиться,
взяв в качестве меры ц точечную нагрузку.
Недавно Вольф показал [197], что при pl<.n имеет место не-
неравенство
где (WPi,ii)(x) = ^(n(B(x, p))/p"-">I/<"-1) (dp/p). Соответствующее
неравенство для бесселевых потенциалов имеет вид
C^^S^vdii, G)
где pi <; п и
EР, ,ц) (х) = $" (|* (В (х, p))/p«-'"I/(/'-i) e-» (dp/p). (8)
Оценки, обратные к F) и G), непосредственно следуют из E).
Замечание. Отсутствие неравенства C) при р^2 — 1/п вы-
вызывало серьезные осложнения при попытке удовлетворительного
обобщения основных фактов классической теории потенциала на
нелинейный случай. Неравенства F) и G) позволили Л. Хедбергу
(см. [19]) снять эту трудность при помощи аналога нелинейной
теории потенциала, в которой роль Up, ;Ц "и Vp, W играют неко-
некоторые функции WPt i\i и S"Pi i\i, эквивалентные №Р(,ц и Sp>rfi.
Верхние точечные оценки типа C) получены и в случае 1 <
<Zp^2 — l/n при дополнительном предположении об ограничен-
ограниченности потенциала. Именно имеет место следующее утверждение.
Предложение [140].
(i) Если \<р<2 — 1/п и (UPtin)(x)<;f< для всех дсе/?", то
где y = ({2-p)n-l)/(n-lp).
(ii) Если р = 2 — 1/п и (UPt ;ц) (х) ==? К для всех дсе/?", то
(Из условия (Up. rfi) {х)^К для всех дсе#" следует что ц (В (х, р))
1/С1">)
р)
7.2.3. Метрические свойства емкостей. Полезно иметь в виду
следующие соотношения [216]:

29Й § 7.2. Некоторые сведения из теории потенциала
Если р/<пиО<р<1,то
cap (Яр, //i)~p»-*. * A)
Если pl<.n и 0<р<оо, то
cap(fip, Л^) = срл-"'. B)
Если pl = n, 0<р<; 1, то
cap(Яр, Hlp)~(\ogB/p)y-p. C)
Если pl>n, то сар({дс}, Яр)>0. Таким образом, при pl>n
только пустое множество имеет нулевую емкость. (
Следующие соотношения для емкости параллелепипеда полу-
получены в [137].
Предложение 1. Пусть 0<а1^оа<...^ая, a=(au Cj, ...,а„)
" Q(а) = {хе=Rn: \xj\^a/t /=1, .... п}. Тогда;
(i) Если k—\<.lp<.k, k=\, ..., п, то
cap(Q(a), hlp)~al-lp f\ a,
i=k+i
{здесь произведение равно единице, если k = n);
(ii) если lp = k, k=\, 2, ..., п— 1, то
cap(Q(a). ^
Имеют место двусторонние оценки такого же типа и для
cap (Q-(a), Hlp).
Если Г—квазиизометрическое отображение i?" на себя, то
сарG7^', 5р)~сар(?, Sp), где S'P = HP или Л{,. Это —простое
следствие равенства G.2.2/2).
Н. Мейерс [217] показал, что если Р — проектор Rn-+Rk,
k<n, то сар(Р?, 5р)^сар(?, Sp), где SP = H'P или ftp.
Для произвольного множества Е a Ra по любой неубывающей
положительной на полуоси [0," оо) функции ф определим ф-меру
Хаусдорфа:
Н(Е, Ф)= lim inf 2,<pfa).
где {В(г)} —любое покрытие множества Е открытыми шарами
с радиусами rt < e. Если ф (t) = td, то число d называют размер-
размерностью меры Хаусдорфа; d-мерная мера Хаусдорфа Hd {E) мно-

7.2.3. Метрические свойства емкостей 299
жества Е равна vdH(E, #*) (см. п. 1.2.4). При d = n мера //„
совпадает с n-мерной мерой Лебега тп.
Следующие два предложения содержат не совпадающие, но
точные в известном смысле достаточное и необходимое условия
положительности емкости, формулируемые в терминах мер Хаус-
дорфа.
Предложение 2. Пусть Кр^п/l и ц>—неотрицательная, не-
неубывающая функция на [О, оо), такая, что ф@) = 0 и
Тогда сар(?, Н1р)>0 для любого борелевского подмножества Е
пространства Rn, имеющего положительную ц>-меру Хаусдорфа.
Это утверждение — следствие оценки G.2.2/4), см. [89].
Предложение 3 [89, 216]. Пусть Е — борелевское подмноже-
подмножество Ra. Тогда:
1) если n>pl и Я„_р/(?) < оо, то сар(?, Slp) = 0, где Sp~hp
или Н1Р;
2) если n = pl и Н(Е, ф)<оо, где qp(r) = |logr|1-'), то
сар(?, Яр) = 0.
Приведем еще одно достаточное условие обращения емкости
сар(?, Н'р) в нуль.
Предложение 4 [89]. Пусть N —заданная на полуоси [О, оо)
измеримая неотрицательная функция. Предположим, что при лю-
любом положительном г множество Е можно покрыть не более чем
N (г) замкнутыми шарами, радиусы которых не превосходят г.
Если
MM dr = оо,
то сар(?, Н1р)=0.
Предложения 2 и 4 позволяют полностью описать п-мерные
кангоровы множества положительной емкости сар(?, Н1Р).
- Пусть % = {lj}^=i — убывающая последовательность положи-
положительных чисел, такая, что 2//+i<// (y = l, 2, ...) и Дх — замкну-
замкнутый промежуток длиной U. Обозначим через ех множество, лежа-
лежащее в At и равное объединению двух замкнутых промежутков Да
и Д3 длиной /2 и содержащее оба конца промежутка Дх. Поло-
Положим ?1 = e1x...xgi; Проделаем ту же операцию с промежутками
л раз
Д2 и Д8 (роль /2 переходит к /э); получим четыре замкнутых про-
промежутка длиной /3, объединение которых обозначим через ея;
00
Ez = ег х • • • X еа и т. д. Положим Е (X) = ("| Ej.
п раз /™'

300 § 7.2. Некоторые сведения из теории потенциала
Предложение 5 [89]. Следующие утверждения равносильны:
(i) cap (?(.?), Hlp)>0;
(") S/ >. 2Jn'^-P4f- p1)'{1-p> < oo, если п > pi,
2/ > 12'"/A-p) log (/y//y+i) < oo, если n = pi.
7.2.4. Уточненные функции. Функция ф из Hlp называется
уточненной или (р, /)-уточненной, если существует последова-
последовательность {фт}т>1 функций из @>', сходящаяся к q> в Н1Р и такая,
что для любого положительного числа е можно указать такое
открытое множество <о, что сар(<о, //р)<е и фт->-ф равномерно
в Rn\a>.
Другое (равносильное) определение таково: функция ф е #р
называется уточненной, если по любому е>0 можно найти такое
открытое множество <о, что сар(<о, #р)<е и сужение функции ф
на множество Rn \ о непрерывно.
Перечислим основные свойства уточненных функций:
1. Если фе//р, то существует уточненная функция ф\ совпа-
совпадающая с ф почти везде (по n-мерной мере Лебега) в R".
2. Если фх и ф2 — уточненные функции, совпадающие почта
везде (по n-мерной мере Лебега), то фх и фа совпадают квази-
всюду.
3. Всякая последовательность уточненных функций класса Н1Р,
сходящаяся в Н1Р к уточненной функции ф, содержит подпосле-
подпоследовательность, сходящуюся к ф квазивсюду.
Доказательство этих фактов можно найти в статье автора и
В. П. Хавина [89], где указана более ранняя литература.
При pl>n сказанное становится бессодержательным, так как
HlpczC.
Следующий результат Т. Бэгби и У. Зимера [151] показывает,
что функция из Яр совпадает с функцией из Ст (т^1) вне «е-
которого множества, малого в смысле соответствующей ем-
емкости.
Предложение. Пусть и^Н1р, 1<р<оо, т —целое число,
O^m^Z. Тогда по любому е>0 найдется функция ие^Ст и
открытое множество <о, такие, что сар(<о, Яр~т)<е и и(х) =
= ие (х) для всех х е Ra \ <о.
В дополнение к литературе по нелинейным потенциалам, уже
упомянутой в этом параграфе, укажем лекции Д. Р. Адамса
[138], содержащие также обзор ряда вопросов, не затронутых
здесь.

§ 8.1. Описание результатов 301
Глава 8
О СУММИРУЕМОСТИ ПО ПРОИЗВОЛЬНОЙ МЕРЕ ФУНКЦИЙ
ИЗ ПРОСТРАНСТВ ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ
?8.1. ОПИСАНИЕ РЕЗУЛЬТАТОВ
Согласно следствию 2.3.3 при q^p неравенство
- 1" Ц (u. R») < А И V" \Lp{R*)' " G C0°°» (О
вытекает из «изопериметрического» неравенства
(ц (?))"/« < ргР (р - I)"-1 Ар cap (E, wlp).
Здесь и далее Е — любое борелевское множество в Rn, a wp — по-
пополнение С™ по норме ||Vu|i .
Вместе с тем если для любой функции иеС™ справедливо
неравенство A), то для всех Е a Ra
(ц (?))"/?< Л" cap (?, wlp).
В настоящей главе приведены аналогичные результаты, в ко-
которых роль пространства wlp играют пространства Н1Р, h'p, Wlp,
w'p, Blp, blp. Именно, пусть Slp — одно из упомянутых пространств.
Тогда точная константа в неравенстве
|ик?(ц)<Л|и|я,, иеС ^ B)
где q^sp, эквивалентна точнэй кснстанте в «изопериметрическом»
неравенстве
(ц (?))"/« ^В cap (E,Slp). C)
Оценка А ^ В немедленно следует из определения емкости.
Обратное неравенство представляет собой более глубокий факт,
доказательство которого основано на неравенстве
J0°°cap(^f StitP-idt^Ciuf,, D)
где- ugS{,, С — постоянная, не зависящая от и и Nt =
= {х: \u(x)\^?:t}. В § 8.2 приведены три доказательства нера-
неравенства D), имеющие разные области применения.
Возникает вопрос, можно ли обойтись Гез емкости и произ-
произвольных множеств Е в необходимом и достаточном условии спра-
справедливости неравенства B). Из теоремы 1.4.1 Д. Р. Адамса еле-

302 §,8.1. Описание результатов
дует, что для пространства потенциалов М. Рисса S'p = h'p, pl<.n,
ответ положителен в случае q > р > 1. Условие Адамса имеет вид
ц(В(х, р))^Ср*, E)
где В (х, р) — любой шар с центром х и радиусом р и s = q (n/p — /).
Таким образом, оценка E) (при q>p) для любого шара вле-
влечет изопериметрическое неравенство C) для любого множества Е.
В § 8.5 дано прямое доказательство более общих утвержде-
утверждений такого типа. Именно пусть для любого шара В (х, г) спра-
справедливо неравенство
li (В (х, г))<сф(сар(Бг,¦*{,)), F)
где ВГ = В(О, г), Ф —возрастающая функция, подчиненная допол-
дополнительным требованиям, ц —мера в Ra. Тогда для всех борелев-
ских множеств Е с: R"
11(Е)^сФ(ссар(Е,к'р)). G)
Из этой теоремы и эквивалентности неравенств B) и C) в § 8.6
выводится, что неравенства, подобные F), необходимы и доста-
достаточны для справедливости оценок следов потенциалов М. Рисса
или Бесселя в пространствах Орлича LM(ii) и, в частности,
в Lq (ц). Это дает, между прочим, новое (не использующее интер-
интерполяции) доказательство упомянутой теоремы Адамса. Другое
следствие, представляющее самостоятельный интерес, утверждает,
что неравенство
\u[l.i»)*?c\u\ i,
ч нр
где q>p>\, lp = n, имеет место в том и только в том случае,
если для всех шаров В(х, г) с радиусами,ге@, 1/2)
Приведем еще некоторые результаты, относящиеся к условиям
справедливости неравенства B).
(a) Если S'p = Н'р, pi < п, то B) имеет место одновременно
с неравенством E), в'котором 0<р<1 (см. § 8.6).
(b) В случае pl>n условие, необходимое и достаточное для
B), при Slp = H'p, имеет простой вид sup {ц (В (х, 1): x^Ra}<oo
(см. § 8.6).
(c) При q = p условие E) не достаточно для B) (ем. замеча-
замечание 8.6/2), и в этом, по-видимому, наиболее важном для прило-
приложений случае, приходится удовлетвориться менее наглядным усло-
условием C).
(d) В § 8.4 дано следующее необходимое и достаточное усло-
условие справедливости неравенства B) при p>q>0.

8.2.1. Случай производных второго порядка 303
Пусть {gy}/L_oo —любая последовательность открытых мно-
множеств таких, что gy7iC=g/ и fV = f*(g/), Y/ = caP(«/. 5р)< гДе
Slp = hlp или Sp = Hlp, р>1. Неравенство B) при q<p верно
в том и только в том случае, если
ДГ— @*/ - ^I1д1У)'Т'(р-9) < const.
Отсюда следует более простое достаточное условие:
где x@ = inf{cap(?, S,): ц (?)>*} (см. п. 8.4.3).
(е) В случае pl>n, p>q необходимое и достаточное условие
справедливости оценки B) можно записать в существенно более
простой форме:
где {Qi\ — последовательность замкнутых кубов с длиной ребра 1,
образующих координатную решетку в Ra (см. п. 8.4.4).
(f) Отметим еще случай q=\, р>\, когда неравенство BL
Sp = hp или Slp = Hlp равносильно включению 7/це?Р' или
/Ц е Lp> соответственно (здесь /, и Jt — потенциалы М. Рисса и
Бесселя порядка /) (см. п. 8.4.4).
(g) В § 8.7 рассмотрен случай р=\. В дополнение к теореме
1.4.3 здесь показано, что для S\=b\ неравенство B) выполнено
одновременно с E), где р=1, a q^l. В случае Sl = B't в E)
следует добавить ограничение р е @, 1). Напомним, что согласно
теореме 1.4.3 сказанное относится и к s\ = w[, S\=W[.
(h) Рассматривая blp и Blp, р>1, как пространства следов на
гиперплоскости функций из соответствующих пространств потен-
потенциалов, получаем из теорем о hlp и Н1Р аналогичные утверждения
для b'p и В1р (замечание 8.6/3).
В § 8.8 приведены необходимые и достаточные условия ком-
компактности оператора вложения Н1Р в, Lg([i) и др., являю-
являющиеся непосредственными следствиями результатов, полученных
8. §8.2-8.7.
§ 8.2. ОЦЕНКА ИНТЕГРАЛА ОТ ЕМКОСТИ МНОЖЕСТВА,
ОГРАНИЧЕННОГО ПОВЕРХНОСТЬЮ УРОВНЯ
8.2.1. Случай производных второго порядка. В п. 2.3.1 было
получено неравенство (8.1/4) для SP = LP (Q). Попытка обобщения
доказательства на функции с производными порядка / > 1 встре-
встречает трудности потому, в частности, что операция срезки по уров-

304 § 8.2. Оценка интеграла от емкости множества ...
ням выводит функцию из пространства. В этом пункте показано,
как можно преодолеть эти трудности в случае 1 = 2, 1
Пусть е — компактное подмножество Q и
aef (Q), ы^=0 в Q, ы=1 в окрестности е].
Теорема. Для любой неотрицательной функции из & (Q) спра-
справедливо неравенство
J"cap+M, Ll(Q))tP-ldt<clQ\V,u\Pdx, где р<=(\, оо). A)
Доказательству этой теоремы предпошлем следующую лемму.
Лемма. Если u&&(Rl), и^О, то
dt ^ (Bр - 1 )/{р - I))" ^, | и" \рdt B)
(интегрирование распространено на носитель функции и).
Доказательство. Очевидно, что при е>0
$л,(| и' |2"/(ы + е)Р) Л = A/A -р)) \Я1 \и' \*р-*и' {{и + гI-Р)'dt.
Интегрируя по частям, получаем
I"'12P dt- 2Р-
Следовательно,
$ + е)Р) dt < (Bр - 1)/(р - 1))р ]R11 и' |р Л.
Остается перейти к пределу при e-v-fO. ¦
Доказательство теоремы. Очевидно, что
$"cap+W, L'p(u))d(tP)^c^_m2rPJcar{gj, L'P(Q)),
где gj = {x: u(x)^s2-J\. Используя монотонность функции
сар+(-, Lp (Q)), получаем
где Yy = p(^ ^(g>))
Остается доказать неравенство
C)

8.2.1. Случай производных второго порядка 305
Это будет сделано с помощью операции «гладкой срезки». Введем
неубывающую функцию аеС°°[0, 1], равную нулю в окрестно-
окрестности точки t = 0 и единице в окрестности t = 1. Введем еще функ-
функцию /еСя@, оо), определенную на отрезке [*/+1, tj\ равенством
/(и) = Ь+1 + «((«- tj+i)/(tj - tj+i)) (tj - tJ+l),
где tj = 2~J. Так как сужение функции (/ (и) — ^+1) (tj — tj+i)-1 на
множество g/+i\gj, продолженное единицей на gj и нулем во
внешность gf+1, — неотрицательная функция из .^(gy+i), то
2-PJ cap* fey, Z^ (ву+1)) < с 58/+Лй/1V2/ (и (х)) \р dx.
Отсюда следует неравенство
ЕТГ-со 2"P/V/ ^c 5QI V2/ (и (х)) \р dx. D)
Так как |/'(у)|<с, (/"(yJl^or1, то
(| V« pp/«P) dx).
Оценивая второй интеграл в правой части с помощью леммы, по-
получим C). ¦
Если множество Q совпадает со всем пространством и п~>2р,
р>\, то ограничение м^О в предыдущей теореме легко снять.
Именно справедливо следующее утверждение.
Следствие. Если п>2р, р>1, то для любой функции
ие^(/?") имеет место неравенство
$Г сар+ (Nt, LI) d (tP) < с \RJ V2« \p dx.
Доказательство. Пусть и е&(Rn) и т;т(д;) = ц(х/т), где
Tje^^). т) = 1 на Bu a m — достаточно большое число. Поло-
Положим v= \х\2-"*\ Аи |. Усредняя функцию A +m-1)t]mv, получаем
последовательность функций хют из 0&, удовлетворяющих усло-
условиям: |и|^аут,
lim IVa^U ^c|V2«|L E)'
т-»оо Р р
Очевидно, что
J <$ cap ({*
и всс^илу теоремы
J" сар+ (^, ?«) d (/р) < с I Vwm fLp iRn).
Переходя к пределу и используя E), заканчиваем доказательство.

306 § 8.2. Оценка интеграла от емкости множества ...
Непосредственно обобщить доказательство теоремы на случай
производных порядка выше двух не удается из-за отсутствия ана-
аналога леммы для высоких производных. Действительно, на при-
примере функции ^Bi-xiefffi1), «5=0, совпадающей с t2 при
|<|<1, мы видим, что из конечности нормы |«(/>ii. <«i> при />2
не следует конечность интеграла $Л, | и(-" @ |р///и (f)p(J-iy>U dt.
В следующем пункте показано, что тем не менее операция
«гладкой срезки» приводит к успеху в случае Q = Rn, если ее
применить не к произвольной неотрицательной функции, а к по-
потенциалу с неотрицательной плотностью.
8.2.2. Доказательство, основанное на гладкой срезке вблизи
поверхностей уровня потенциала. Введем максимальный опера-
оператор Т Харди — Литтлвуда со значениями
(Tg) (х) = sup (I lmnBr) \B(X) \g(l)\ <%. A)
Лемма [194]. Пусть 0<6<1, 0<г<л и Irf —потенциал
М. Рисса порядка г с неотрицательной плотностью /, т. е. Irf =
= 1*1'-"*/. Тогда
(x)f[(Tf) (*)]i-°. B)
Доказательство. При любом б>0
Вместе о тем
T.о (МТ F2)-» 5„_х, < 62-k f (У) dy ^
^c8^(Tf)(x)^=02-^. C)
Следовательно, A^) (х) < с F^ (Tf) (х) + б^6-1» (Irf) (x)).
Полагая здесь 8r=(Irf)(x)/(Tf) (х), приходим к B).
Следствие. Пусть I —целое число, 0<;/<n, Ilf = \x\l~n*ft
где /S=0 и F — функция из С1 @, оо), такая, что
Тогда п. в. в R" | V^ (/,/) | < cQ (Tf +1VJJ |).

8.2.2. Доказательство, основанное на гладкой срезке ... 307
Доказательство. Имеем
Так как | V,u | «S //_,/, то отсюда получаем
где сумма ?' распространена на наборы чисел Д, .... /а, каждое
из которых меньше I. Применяя лемму 2.1, заканчиваем дока-
доказательство.
Пусть w — неотрицательная функция в /?", удовлетворяющая
условию Макенхаупта:
sup ((IimnQ) \Q wp dx) (A imnQ) \Q w~?' dx)"'1 < oo, D)
где супремум берется по всем кубам Q. При этом условии опе-
операторы Т и V/// непрерывны в пространстве функций ф с конеч-
конечной нормой 1щ\\ь [162, 227].
Теорема. Пусть р > 1, / = 1, 2, ... и 1р < п. Справедливо не-
неравенство (8.1/4), где Slp — пополнение пространства Cf no норме
\wViUJl .
Доказательство. Пусть «sCS°(/?"), « = /// и v = It\f\.
Очевидно, что кеС'(/?") и v (х) = О (| х ]'-"¦) при |дс|-»-оо. Так
как v(x)^\u[x)\, то, полагая tj = 2-J (/ = 0, d=l, ...), получаем
5ГсаР(^> 5ЙйИ^с2Г—«2^?/. E)
где Y/ = cap({x: v(x)^tj\, Slp). Дословно так же, как неравен-
неравенство (8.2.1/4), получаем
где / — функция, введенная в доказательстве теоремы 8.2.1. В силу
следствия 1 последняя норма мажорируется величиной
+ la'Vil/IUp). ' F)
Так как весовая функция w удовлетворяет условию D), то
сумма F) не больше чем Ci|да/|L =d\ w(—AI ltu\l ^с8wVtu\L . ¦

308 § 8.2. Оценка интеграла от емкости множества ...
Следствие. Справедливо неравенство (8.1/4), в котором
SlP = blp, р>\, />0.
Доказательство. Пусть U — любое продолжение функции
ые=СГ(/?") на пространство R"+1{X = (x, *„+1): Xf=Rn,
Согласно теореме 7.1.1/1
где LP (/?л+\ до) — пополнение Cf (#"+1) по норме | wVku \\L (Rn+iy
Следовательно, сар(е, ^(#"))~сар(е, Lf+' (/?л+\ 4+К~ '/P)i
Нетрудно проверить, что функция Х-*-ги(Л^) = ^-</>-'/р удов-
удовлетворяет условию D). Поэтому теорема приводит к оценке
р \Л • *п +1 )
Минимизируя правую часть по всем продолжениям функции и
на /?"+1, заканчиваем доказательство.
8.2.3. Доказательство, использующее принцип максимума для
нелинейных потенциалов. Пусть /С(х — бесселев или риссов (линей-
(линейный) потенциал порядка / меры \х и К (K\i)p' ~l — порожденный К
нелинейный потенциал, 3I — константа в грубом принципе макси-
максимума для потенциала К (К\*)р'~' (см. предложение 7.2.2/1).
Теорема. Справедливо неравенство (8.1/4), в котором Slp —любое
из пространств Н1Р или hlp (p/<n). Точная константа С в (8.1 /4)
допускает оценки
если
если р<2.
Доказательство. Пусть для краткости с(t) = cap(Nt, Slp).
Можно провести доказательство в предположении, что u = Kf,
/SsO, f^Lp. Обозначим через ц* емкостную меру множества Nt
(см. предложение 7.2.2/2).
Левая часть неравенства (8.1/4) не превосходит величины
которая не больше чем \f\L ||J™tP-2K\itdt\L t.
Поэтому теорема будет доказана, если мы получим оценку
P-idt. A)
Заметим сначала, что в силу принципа максимума
[ B)

§ 8.3. Условия справедливости теорем вложения ... 309
Далее рассмотрим отдельно случаи ps=2 и р<2. Пусть ps=2.
Перепишем левую часть неравенства A) в виде
Оценим это выражение сверху с помощью неравенства Гель-
дера величиной
Р' (ИГ ^ (Wdv dxf-"' (J $Г (КцгУ-' Г * М' dt dx dxf ~ \
которая в силу B) не превосходит
Неравенство (8.1/4) доказано при р
Пусть р<2. Левая часть A) равна
р' \ f %/^p-2dt (%Kw»-*di)p'-x dx
и потому согласно неравенству Минковского не превосходит
р' 17 (К
Оценивая эту величину при помощи неравенства B), получаем
для нее мажоранту
и неравенство'(8.1/4) установлено при р<2.
§ 8.3. УСЛОВИЯ СПРАВЕДЛИВОСТИ ТЕОРЕМ ВЛОЖЕНИЯ
В ТЕРМИНАХ ИЗОПЕРИМЕТРИЧЕСКИХ НЕРАВЕНСТВ
Сформулируем обобщение теоремы 2.3.2 на случай пространств
бесселевых и риссовых потенциалов в R". Доказательство не отли-
отличается от доказательства теоремы 2.3.2 и поэтому не приводится.
Теорема. Точная константа А в неравенстве
II" lpliM(u)< А [и С,, ¦ A)
р
где S'p = hlp при pl<n или Slp = Hlp при pl^n, pe(l, оо), экви-
эквивалентна величине
Точнее, В^А^рВС, где С —постоянная в неравенстве (8.1/4)
(см. теорему 8.2.3).

310 § 8.4. Вложение в Lq (ц) при р><;>0
Из этого утверждения немедленно получаем следующее
утверждение.
Следствие. Точная константа Ср,д в неравенстве
\u{l (u)<Cftff|M| ,, B)
р
где q^p>l и Slp —любое из пространств, упомянутых в тео-
теореме, допускает оценки Bp^^Cp^^Bp^ipCy'p. Здесь
В„,9 = sup {(ц (Ey'Vc&piE, S'p)) :EczR", cap (?, S'p) > 0}, .
а С —постоянная в неравенстве (8.1/4).
§ 8.4. ВЛОЖЕНИЕ В Lq (ц) ПРИ p>q>0
В этом параграфе найдено необходимое и достаточное условие
справедливости неравенства (8.3/2) при p>q>0, р>1. Доказа-
Доказательству этого результата предпошлем лемму.
8.4.1. Вспомогательная оценка. Будем использовать обозначе-
обозначения K\i, K(K\i)p'~l и Ш, введенные в начале п. 8.2.3. Обозна-
Обозначим через {gj}+J°_ m последовательность открытых подмножеств Rn
и через {ЭДД^я, — возрастающую последовательность положитель-
положительных чисел. Пусть еще уу = cap (gy, Slp), где Slp = Hlp (pi < п) или
Sp = h'p (pl<.n) и vy —емкостная мера множества gj.
Лемма. Справедливо неравенство
BpS/^+i1 «/«-</)?/, (О
где Вр^рЖР-1 при р«?2 и Вр^р(р- l)?-1 ЭК при р^2.
Доказательство. Случай р«^2. Так как ха — у**^
^(хх!х-1(х — у) при oc^l, jf>(/^0, то для любой положитель-
положительной последовательности {a.j}f^Lm
Следовательно, левая часть неравенства A) не больше величины
S р Е/ Qj+i - h) {к v/)"'-»B;

8.4.2. Основная теорема 311
Последний, интеграл в силу неравенства Гельдера и принципа
максимума для нелинейных потенциалов не превосходит
х (?,. (tj+1 - tj) ti+'i 2/ > t (ti+1
и оценка A) доказана при р
Случай р>2. Достаточно провести доказательство для конеч-
конечных наборов {tj} и {у/}. Рассуждая так же, как в начале доказа-
доказательства леммы, оцениваем левую часть неравенства A) величиной
которая в силу неравенства Минковского не больше чем
р 2/ <*/« - w (Е/ <«(^i - «(S (^,к- > ^v, dxI^1»)"-1.
Это выражение согласно принципу максимума не превосходит
рШ X С/+1 - W °f ~'. где ау =
Заметим далее, что
<(р -
< (Р
Следовательно,
8.4.2. Основная теорема. Пусть <& — любая последовательность
открытых множеств {gy}/!^-», такая, что gy+xc:gy. Положим еще
(y, 5'p) и
р. яp
Теорема. Точная константа в неравенстве (8.3/2), где
эквивалентна величине Мр„.
Доказательство. 1) Покажем, что имеет место оценка
„ A)
где С —постоянная в неравенстве (Ь.1/4).

312 § 8.4. Вложение в ?г(ц) при р><7>0
Пусть feC fZ&O, u = Kfngj = {x: (Kf)(*)>«/}, где а>1.
Очевидно, что
В силу неравенства Гельдера последняя сумма не превосходит
величины &1. ,B/aPly+1)Y/)*/P- Отметим, что
/- 1)) 2, S^-i саР (^« 5р
Полагая здесь ар = 2, получаем неравенство
Следовательно, || и \г (и> < DрСI/" ^"р,»J u | . B)
и неравенство A) доказано.
2) Получим оценку
Cp.q^B-"p®p,q, . C)
где Вр — постоянная из_леммы 8.4.1.
Пусть t0, t+i, ..., t±N — положительные числа, которые будут
выбраны в дальнейшем, tj+i>tJt LN = 0. Положим
где (iy—емкостная мера множества gj, входящего в произвольную
последовательность @. В силу леммы 8.4.1
D)
Так как К{Ку^)р'~1^ 1 квазивсюду на gy и так как из (8.3/1)
следует оценка ц (?)p/*«SCpcap(?, 5Р) для любого множества Е,
то ц-почти всюду на gj справедливо неравенство K{Kv-j)p'~l^\.
Поэтому
1 " Ik- (Д) ^ | 2j\ 11< N (*¦/+! "" Ь) Xj Г (д)»
Я
гДе %/ — характеристическая функция множества gy. Отсюда
получаем
ji/клг
Положим iy+i = (((iy — (iy+i)/YyI/(p"?)- Тогда из D) и (б) находим
(S,/,<*@v-i

8.4.4. Два простых случая 313
Переходя к пределу при N-*-oo, заканчиваем доказательство
оценки C), а вместе с ним и доказательство теоремы.
8.4.3. Достаточное условие (p>q>0). Введем функцию @, оо) э
э *-»-x(*) = inf сар(?, Sp), где инфимум вычисляется по множе-
Е
ству всех EczR", таких, что n(E)^t.
В терминах функции и можно дать следующее достаточное
условие справедливости неравенства (8.3/2) при p>q>0:
$. A)
Следствие. Справедливо неравенство
I« kg <ц) < [plip - <7))С-*)/"* {АрСУ'р X
){p)!9 B)
s
где 0<q<p, p>\.
Доказательство. Неравенство B) непосредственно полу-
получается из (8.4.2/1) и оценок
J 0
8.4.4. Два простых случая. Если pl>n, то необходимое и
достаточное условие справедливости оценки (8.3/2), где Slp = Hlpt
Wp или Blp, можно записать в существенно более простой форме,
чем в теореме 8.4.2. Именно справедливо следующее утверждение.
Теорема 1. Если pl>n, p>q и СРуq — наилучшая константа
в неравенстве (8.3/2), то
где {QW>} — последовательность замкнутых кубов с длиной ребра 1,
образующих координатную решетку в Rn*.
Доказательство. Пусть О1" —центр куба Q('\ O(o)=0 и
2Q(») — концентрический Q(" и подобно расположенный куб с вдвое
большей длиной ребра. Положим x\i(x) = x\(x — 0(i)), где rjs
е= CS° BQ@)), т] = 1 на Q<0). Имеем
B)
* Утверждения такого типа были получены в кандидатской диссертации
В. Л. Олейника в 1975 г. (Ленингр. уи-т).

314 § 8.5. Теоремы типа Картана и оценка емкости
Заметим, что при pl>n
C)
SP
где S'p = hlp, wlp или blp (см. G.1.3/2) и пп. F), (9) теоремы 7.1.3/4).
Из G.1.3/1), B) и C) получаем верхнюю оценку для Ср,д.
Для оценки Ср>д снизу достаточно подставить в (8.3/2) функцию
ии (*) = SJL0 Ц (Q(i)) ч, (x), N = 1,2, ...Я
В случае <7=1 константа Ср,д легко вычисляется.
Теорема 2. Пусть Slp—любое из пространствН1Р или h'p. Тогда
Ср, 1 = 1 A|i !lp,, еде K\i — потенциал Бесселя или М. Рисса.
Доказательство. Пусть \u\^Kf, /^0 и \fjL =\u\
р
Имеем 5|u|d|i<5//C|idx<I/!tp|/CM'kpM что дает оценку
^I^Iv Обратное неравенство получается подстановкой в (8.3/2),
где <7=1» функции ы=/С(/СцI/(р~1).
§ 8.5. ТЕОРЕМЫ ТИПА КАРТАНА И ОЦЕНКИ ЕМКОСТИ
В этом параграфе устанавливается равносильность неравенств
типа (8.1.6) и (8.1.7). Это утверждение получается как следствие
теоремы, дающей оценку массивности множества, на котором вве-
введенные в п. 7.2.2 функции Т7Л/|Л и SPri\i мажорируют заданную
величину. Впервые такие оценки были получены для гармониче-
гармонических функций А. Картаном [160] (см. также Р. Неванлинна [101]).
Для линейных потенциалов М. Рисса они даны в книге Н. С. Ланд-
кофа [50].
Аналогичная схема используется здесь в нелинейном случае.
Лемма. Пусть 1<.р<=п/1, ц — конечная мера в R" и q> — такая
возрастающая функция на [0, 4-°°), что ф@) = 0, ф (г) = ф (re) =
= ц(Яп) при r>r0. Обозначим через kf множество {xe-R":
Р)()У[]} где P\i = WPtl\k, если pl<n, P^ = SPrl\i, если
р'~' ь~Ьг1~Л dr, если р = п/1.
Тогда множество $& можно покрыть последовательностью шаров
с радиусами rk^.r0, удовлетворяющими неравенству
- . A)

§ 8.5. Теоремы типа Картаиа и оценка емкости 315
Доказательство. Рассмотрим случай 1<р<и//. Пусть
f, Допустим, что ц(В(х, г))«^ф(г^для всех г>0. Тогда
Но это означает, что хё^ Полученное противоречие показы-
показывает, что для каждой точки xsf найдется такое число г =r (х) e
е (О, /-0), что ф (г) < ц (В (х, г)) «=5 \i (/?"). Применяя теорему 1.2.1,
выделяем из объединения шаров {В (х, г (х))}х е $ покрытие
{В(хк, /•*)}, k = \, 2 множества & кратности с = с(п).
Очевидно, что
2* Ф Ы < Ц, И (В (**, /"*)) «S qi (/?"),
и лемма доказана в случае К р < п//. Для р = п/l доказатель-
доказательство проводится точно так же.
В следующей теореме Ф —неотрицательная, возрастающая
функция на [0, +оо), такая, что функция /Ф (/-1) убывает и стре-
стремится к нулю при t-*--\-co. Пусть еще для всех ы>0
j+l(/)H^<ei,(«)- B)
где ф (о) = (иФ (у-1))р/ -', если 1< р < л//, и ф (и) = v (Ф (у1-р))р'- ',
если р — п/1.
Теорема. Пусть /jeA, л//], ц —конечная мера в R" и т —по-
—положительное число. Пусть еще mp-1>ix(R") в случае р = п/1.
Тогда множество G = {x е^°: (Рц) (х) >т} может быть покрыто
последовательностью шаров {В(хк, гк)\, такой, что
2* ф (саР &„> S'p)) < сФ (ст1^ (Rn)). C)
Здесь Sp = hlp при lp<n и Slp = Hlp при 1р = п.
Доказательство. Пусть х = сар(Бь hlp) при п>1р.
В случае п = !р введем величину
*: сар(Вг, Я'„)<
Пусть еще Q = ц (/?"). Положим в лемме ф (г) = Q, если г>г0, и
_ / СФ (х/"л~/р)/ф (хг? ~'")» если р/ < я, /" < Л>,
Ф I СФ (х | log р-^/Ф (х | logг011-"), если pl = n,
Здесь и далее г0 —число, которое будет выбрано в дальнейшем так,
чтобы выполнялось неравенство т>К[ф] (число У [ф] определено
в лемме).

316 § 8.5. Теоремы типа Картаиа и оценка емкости
1. Пусть Кр<п/1. Имеем
Покажем, что интеграл в правой части не превосходит
cQp'-ir^-MM — P). Это равносильно следующему неравенству:
(Ф (хг? - ">))' -Р' Jo" (Ф (xrn-lP)/rn-lP)p' -' (dr/r) ^ of ~ 'р'Л' - р».
Полагая здесь wpl-n = t и xrpl~n = U, получаем оценку
\2 ('Ф (И)"'"' Н Л < с (*0Ф (ft1))"' -',
которая верна в силу (8.5/2). Итак, У [ф] <cQp'-VJ" -/p)/A -р) и
неравенство Y[y]<.m будет удовлетворено, если положить
/ (lJlQ
Введем открытое (в силу полунепрерывности снизу функции Р\х)
множество & = {x<=Rn: (Рц) (х)> К[ф]}. Так как т>сК[ф],
то G с: $& f Пусть {В(Хь, rk)} — последовательность шаров, по-
построенная в лемме для множества ?& с помощью выбранной здесь
функции ф. Неравенство A) можно переписать в виде
2*ф (ю* ~/р) ^ сФ (ст1-^).
Тем самым построено покрытие множества G шарами {?(xft, /"й)},
удовлетворяющими C).
2. Пусть теперь р = п/1. Условимся считать, что го<.1/е.
В рассматриваемом случае
= So0 (ф WV1'"' е"СГг~1 ^+Q"'"' 5" е~СГ/'-1 ^- D)
Для второго интеграла имеем оценки
Покажем, что первый интеграл в правой части D) не превосхо-
превосходит cQp' — • | log r01, т. е. докажем неравенство
(Ф (х | log го МУ- р' %' (Ф (х | log г |1-р))р' -1 (dr/r) < с | log г01.
Положив здесь x|logr|=f и х|logг01 = t0, перепишем эту оценку
в виде
которая верна в силу B). Поэтому существует такая постоянная
сеA, оо), что Y[ф]<cQp'~1\ logr01. Таким образом, неравенство

§ 8.5. Теоремы типа Картава и оценка емкости 317
К[ф]<т будет удовлетворено, если положить Jlogr0J1-''=(cm-1)''-1Q.
Окончание доказательства проходит точно так же, как и при
р е= A, п/1).
Замечание 1. Доказательство теоремы показывает, что
в случае pl = n радиусы шаров, образующих покрытие.множе-
покрытие.множества G, можно считать не превосходящими \/е.
Следствие 1. Пусть 1 <Lp*^n/l и Ф — функция, опреде-
определенная перед теоремой. Пусть еще К —компактное множество в R",
такое, что cap(K, Sp)>0, где Slp=hlp, если рКп, и Slp = Hlp,
если pi = п. Тогда существует покрытие множества К шарами
B(xk, rk), такое, что
Xk Ф (cap (Brk, 8'р))<сФ(сcap (К, S'p)), E)
где с — постоянная, зависящая от п, р, I и функции Ф. В случае
pl = n можно считать, что г^^е-1.
Доказательство. Ограничимся случаем pi<п, при pi = п
рассуждения дословно те же.
Положим С (К) = inf {^ Wр, № Ф: ^р> № ^ 1 О5» 0"квазивС1°ДУ
на К). В силу неравенства G.2.2/6) емкости С (К) и cap (/С, hlp)
эквивалентны. В работе Л. Хедберга и Т. Вольфа [197] по су-
существу показано, что мера ц^, реализующая С (К), существует и
что С (К) = Цк (К). Положим Gs = {х е= Rn: W9г {цк (*) 2» 1 - 4. где
е>0. Так как (/7г-/)-квазивсюду на К имеет место неравенство
Wp,№к (х) 5з 1, то EczG&{]E0, где сар(?0, АР) = 0.
По теореме существует покрытие множества Ge шарами В (xj, rj),
для которых выполнено неравенство C), где т = 1 — е и p,(R") —
= cap(/t, hlp).
Так как функция ty(t)/t суммируема на A, +оо), то функ-
функция ф, определенная равенством ф(г) = ф(сар(Вг, &р)), удовлет-
удовлетворяет условию G.2.3/4). Отсюда и из предложения 7.2.3/2 сле-
следует, что множество Ео имеет нулевую ф-меру Хаусдорфа. Поэтому
можно покрыть Ео шарами В (yit pi} так, чтобы выполнялось
неравенство
2,- Ф (cap [ВР{, Ар))<в.
Шары В (xf, rj) и В (у{, pi) в совокупности образуют требуемое
покрытие.
Следствие 2. Пусть /?еA, п/1], Slp = hp, если 1р<п,
S'p — H'p, если 1р = п, и Ф — функция, определенная перед теоремой.
Если мера ц такова, что для любого шара В (х, р)
I* (В (х, р)) <: Ф (с cap (Вр, Slp)), F)

318 § 8.6. Теоремы, вложения (условия в терминах шаров)
то для любого борелевского множества Е с конечной емкостью
cap (E, Slp) имеет место неравенство
H(?)<cO(ccap(?,'Sy). G)
Здесь с — постоянная, зависящая от п, р, I и функции Ф.
Доказательство. Достаточно доказать G) для компакта Е.
Согласно следствию 1 существует покрытие множества Е шарами
B{xk, rk), удовлетворяющими условию E). Используя свойство
аддитивности меры ц, а также оценку F), имеем
ц (?)<ц ([} В(х„, гк)\< 2*И (Б(**.
*Q 2,кФ {с cap (Brk, S^
Замечание 2. Согласно G.2.1/2), cap(?, Яр)~cap(?, Л'),
если diam?^l. Поэтому при дополнительном требовании
diamfsgl в следствии 2 можно и в случае pl<.n положить
я1 — Н1
Ор — Ир* ^
Для того чтобы это показать, проверим, что мера Rnz^A-*-
-». цг (А) = ц (A f| E) удовлетворяет условию F).
Пусть diam?^l и для всех ге@, 1)
Н1Р)). (8)
При г<\ имеем ^(В(х, г))=ц(В(х, г) (] Е) <, ц (В (х, г)) <
г=?ф(сар(?,, Н1р))^Ф(сcap(Br, hlp)). В случае г^1 для любой
точки i/e? iii(B(x, г))*^ц(В (у, 1)). Отсюда, используя (8) и
монотонность емкости, получаем
Итак, мера Hi удовлетворяет условию F).
§ 8.6. ТЕОРЕМЫ ВЛОЖЕНИЯ (УСЛОВИЯ В ТЕРМИНАХ ШАРОВ)
Теорема. Пусть М—выпуклая функция и~ N —дополнитель-
—дополнительная к М. Пусть еще функция Ф, обратная для функции t-*-
-*-гЛНA/0. подчинена условию (8.5/2). Тогда:
1) точная константа А в неравенстве (8.3/1), где Sp=hp,
lp<Cn, эквивалентна величине
. Р))): *е/^ р>0};
2) для точной константы А в неравенстве (8.3/1), где Sp =
имеют место соотношения:
, р))):

§ 8.6. Теоремы вложения (условия в термииах шаров) 319
в случае pl<n,
,4~C3 = sup{|logp|'-1n(B(x, p))N-41/ii(B(x, p))):
хеЯл, 0<р<1/2}
в случае pl = n.
Доказательство непосредственно следует из теоремы 8.3 и соот-.
ношений В~С/, } — l, 2, 3, установленных в следствии 8.5/2 и
замечании 8.5/2.
Замечание 1. Очевидно, что в случае pl>n константа А
в неравенстве (8.3/1), где Slp = Hlp, эквивалентна величине
Ж*, 1))): х <=#"}•
Действительно, пусть {т\Щ — разбиение единицы, подчиненное
конечнократному покрытию пространства R" единичными ша-
шарами {BW>}. Из определения нормы в LM(n) и теоремы Соболева
о вложении Нр в L^ получаем оценку
lm
Последняя сумма не превосходит c\uf t (см. теорему 7.1.3/3) и,
р
значит, A^c2Ci. Обратная оценка получается при помощи под-
подстановки в неравенство (8.3/1) функции ц^С™(В(х, 2)), равной
единице на В(х, 1).
Теперь теорема 1.4.1 Д. Р. Адамса получается из п. 1) тео-
теоремы подстановкой М (t) = tv/P, где q~>p.
Замечание 2. Покажем, что условие (8.1/5) при s = n—pl
не достаточно для справедливости оценки (8.1/2) в случае q = p.
Пусть q — p, n>pl. Выберем борелевское множество Е, мера
Хаусдорфа которого размерности n — pi конечна и положительна.
Можно считать, что Е замкнуто и ограничено (так как любое
борелевское подмножество положительной хаусдорфовой меры
содержит замкнутое подмножество, обладающее тем же свойством).
По теореме Фростмана (см. [35, теорема 1, гл. II]) существует
ненулевая мера ц с носителем в Е, такая, что
ц(В(х, p))^cp«-"' A)
с константой с, не зависящей от х и р. Согласно предложению
7.2.3/3 сар(?, Н1р) = 0. Вместе с тем из неравенства (8.1/2) сле-
следует, что ц(?)«?Лсар(?, Яр), и потому ц(?)=0. Полученное
противоречие показывает, что, несмотря на выполнение условия A),
неравенство {8.1/2) неверно. ¦ . > •.

320 § 8.6. Теоремы вложения (условия в терминах шаров)
Полагая в теореме М (t) = №?, получаем следующий результат,
относящийся к случаю 1р = п.
Следствие 1, Если lp = n, q>p>\, то наилучшая кон-
константа А в неравенстве
1и,(и>^Л1«1н/ B)
эквивалентна величине
xezRn, 0<p<V.}.
Из теоремы легко получается следующее утверждение, относя-
относящееся к случаю pl=-n и мерам «степенного» типа.
Следствие 2. Пусть pl = n и M(t)=exp(tP'-i) — l. Нера-
Неравенство (8.3/1) выполнено в том и только в том случае, если при
некотором Р > 0
sup {р-Рц (В (х, р)): xezR", 0 < р < 1} < оо.
Доказательство. Так как W (t) = (logt)f-1(\ +o(l)) при
t-*-oo, то Ф-1 (9 ^W-1 A/0 = (tog О1-"'A+оA))- Следовательно,
log Ф (<) = — tP'-{ (I +o(l)). Очевидно, что функция Ф удовлетво-
удовлетворяет условию (8.5/2). Остается вспомнить, что сар(?р, Яр)~
~|1°§Р|1~/' ПРИ Р ^Ф, х/г) и применить теорему.
Замечание 3. Так как Blp(Rn) есть пространство следов
на R" функций из Hlp+l/p (Rn+1), то теорема и следствие 1 остаются
справедливыми, если в их формулировках заменить Hlp(Rn)
на B'p(Rn).
Замечание 4. Можно получить утверждения, аналогичные
теореме и следствиям 1 и 2, положив V*u вместо и в левых частях
неравенств (8.3/1) и B). Например, следствие 1 обобщается сле-
следующим образом.
Если (l — k)p=n, <7>р>1, то наилучшая константа в не-
неравенстве
u)^^[«iH/ C)
эквивалентна величине С5.
Оценка А^сСь не требует дополнительного обоснования. Для
того чтобы доказать обратное неравенство, поместим начало коор-
координат в произвольную точку пространства и положим в C)
где Ра@, 1/2) и fceC00^1), ;(<)-l при t>\, C@-0 при
*1/2. Очевидно, что supp ы с 5р1/2. С помощью стандартных,

§ 8.7. Теоремы вложения в случае р — \ 321
но довольно громоздких оценок можно показать, что при I^KVa
{&tu) (х)^с\х{-""> (log A /| х I))-1,
где &ги — функция Стрихартца G.1.2/2) при {/}>0 и J?"/U = |
при {4=0. Отсюда и из теоремы 7.1.2/4 следует неравенство
". Вместе с тем |Vftu|l?(B,^ft!n(Bp). Следо-
Следо^ l?(
вательно, А ^сСъ.
§ 8.7. ТЕОРЕМЫ ВЛОЖЕНИЯ В СЛУЧАЕ р = 1
Цель этого параграфа—доказательство следующей теоремы,
дополняющей теорему 1.4.3.
Теорема 1. Пусть k —целое неотрицательное число, 0<Z —
o. Тогда точная константа А в неравенстве
rt^Aiui, A)
эквивалентна величине
K= sup р'-*-"ц (В (х, р)I'?.
х, р>0
Доказательство. 1) Выведем оценку А^сК. Положим
в (8.7/1) u.(l)=(xi—|i)*9(p-J(x—?)), где ф е Со°(Вч), ф = 1на Bv
Так как lV*u|I (u) ^ kl\i (В (х, р)), l!«Ss' = cP"~'+*» T0 А^сК-
2) Получим оценку А^сК- В случае q~> 1 в силу теоремы 8.6
и замечания 8.6/2
» V*U \Lq (ц) ^ С SUp (fi (Б (X, рI/г/р*-(/-я+''/О+я//) | Ы \j-n-nit,
где < —число, достаточно близкое к единице, f>l.
Остается применить пункты (iii) и (iv) теоремы 7.1.3/4.
Покажем, что А^сК. при ц=\. Достаточно рассмотреть слу-
случай fe=»0. Пусть /е@, 1). Согласно следствию 2.1.5
где U e Cf (Rn+1) — произвольное продолжение на R"*1 функции и.
Принимая во внимание соотношение \и\ ;<~inf^ „+1[«Н|4tU\dz,
содержащееся в теореме 7.1.1/1, получаем неравенство А^сК-
Если 1=1, то по теореме 1.4.3 ll«iL(,, Rn\^cKt V2,^ lL(Rn+iy
Минимизируя правую часть по всем U, приходим к оценке А^сК
для пространства Ь\.
Допустим, что оценка А < сК установлена при условии / е
&(N — 2, N — 1), где N — целое число, N^2, и докажем ее для
11 В. Г. Мазья

322 § 8.7. Теоремы вложения в случае р=1
le(N-l, N). Имеем
$ | и | ф (х) =с J | J ((|—х) Vt« (|)/| | — х |я) dg I dfx (х) =^с ^ / V« | /tfi dx,
где /ifi = | л: j1—rt «(x. По индукционному предположению последний
интеграл не превосходит
с sup
х, о
В силу леммы 1.4.3, где q=\, последний супремум не превосхо-
превосходит сК. Ш
Замечание 1. Подставим в A) функцию и, определенную
равенством и (х) = ц(х/р), где r\^Cf (Rn), р>0. Устремляя за-
затем р к бесконечности, получаем, что неравенство A) не выпол-
выполняется при l — k>n, если цфО.
При l — k = n, q<.oo это неравенство имеет место в том и
только в том случае, если ц (R") < оо.
Теорема 2. Пусть 0<&</, t — k^n, l=s??<oo. Тогда
тонная константа Со в неравенстве
эквивалентна величине Ко = sup p'-*-« ц (В (х, р)I/?.
х; ре (О, I)
Доказательство. Оценка Со5= сКо получается дословно
так же, как оценка С^сК в теореме 1. Для доказательства
обратного неравенства воспользуемся разбиением единицы {фу}/>1,
подчиненным покрытию R" единичными шарами с центрами в узлах
достаточно мелкой координатной решетки, и применим теорему 1
к норме || Vft (ф7ы) I/, (u), где \и}— сужение ц на носитель ф/. Тогда
$|Vft«|?dn.==?c2y$|V/
^с/Со*
где s[ = w[ или b{. (Здесь мы воспользовались неравенством
,?а?«?(?аг)'> где а^^О, q^\.) О;ылка на теорему 7.1,3/3 за-
заканчивает доказательство.
Замечание 2. В случае l—k^n точная константа в B)
эквивалентна одной из величин:
sup [\a(B(x, 1))]1/?, если qS*l,
где {Q("}—та же последовательность, что и в теореме 8.4.4/1.
Доказательство содержится в замечании 8.6/1 и в теореме 8.4.4/1.

§ 8.8. Критерии компактности 323
§ 8.8. КРИТЕРИИ КОМПАКТНОСТИ
Из теорем об интегральных неравенствах, доказанных в пре-
предыдущих параграфах этой главы, непосредственно получаются
необходимые и достаточные условия компактности операторов вло-
вложения пространств Н'р, hlp, Wlp, wlp, Blp и blp в пространство Lg(\i).
Доказательства этих результатов проводятся стандартным спосо-
способом (ср. с теоремами 2.4.2/1 и 2.4.2/2) и поэтому здесь мы огра-
ограничимся четырьмя формулировками. Две первые теоремы осно-
основаны на следствии 8.3.
Теорема 1. Пусть р > 1, pl<.n и s' — любое из пространств
hlp, w'p, blp. Любое ограниченное в s'p множество функций из &
относительно компактно в Lq (ц) в том и только в том случае,
если
limsup {(у, (e)/cap(е, slp)): ее: R\ diame«s6| =0, A)
lira sup {(p.(e)/cap(e, s'p)): ec/?»\Bp} = 0, B)
где В0 = {х: ||}
Теорема 2. Пусть р > 1, pt^n и Slp — любое из пространств
Hlp, Wlp, Blp. Ограниченное в S? множество функций из 22> отно-
относительно компактно в Lg(\i) в том и только в том случае, если
выполнено условие A), а также условие
lim sup {(ц (е)/сар {е, Slp)): ecz Rn\B0, diame^l} = 0. C)
p-*oo
Отедующие теоремы получаются из теоремы 8.6 и следствия
8.6/1 соответственно.
Теорема 3. Пусть р^1, />0 и pl<.n. Пусть еще 1^</<оо,
если р=\ и р<<?<оо, если р>1. Тогда множество |uef;
\и\ / < 1} относительно компактно в Lq(ц) в том и только
wp
в том случае, если
A) lim sup p*-»/*[|i(B(x, p))]V» = 0,
e-+o к ре@. в)
(ii) lim sup p1-»/* [ц (В (х, p))]1/? = 0.
i Jti-»oo pe@, и
Теорема 4. Пусть р>\, l>0, pl = n и q>p. Множество
\и^Ф: \ и \wi < 11 относительно компактно в Lq (ц) в том и
только в том случае, если
(i) lim sup | log p \*-vp [ц (В (x, p))F? = 0,
6-*o г, ре@. в)
(ii) lim sup | log p I1-1//» [ц [В (х, р))]1/* = 0.
|*|-»oo2p<l
11*

324 § 8.9. Комментарии к главе 8
§ 8.9. КОММЕНТАРИИ К ГЛАВЕ 8
§ 8.2. Неравенства типа (8.1/4) были доказаны в работе автора
[71], где (8.1.4) (и даже более сильная оценка, в которой роль
емкости множества Qt играет емкость конденсатора Qt \ Q9j) была
получена для /=1 и / — 2. В более трудном случае 1 = 2 в дока-
доказательстве была использована операция «гладкой срезки» потен-
потенциала Еблизи эквипотенциальных поверхностей (см п. 8.2.1).
Д. Р. Адаме [136], объединив этот прием с неравенством Л. Хед-
берга (8.2.2/2), доказал (8.1/4) для пространства Соболева Wlp
при всех целых /. Доказательство Адамса изложено в 8.2.2 Те
же средства вместе с теоремой 7.1.1/1 о следах функций из весо-
весового пространства Соболева позволили автору {79] получить не-
неравенства (8.1/4) для функций из пространства W'P при всехр>1
и />0. Как следствие отеюда выводится (9.1/4) для пространства
бесселевых потенциалов Н1Р при всех дробных />0, но только
в случае р^2. Последнее ограничение было снято Б. Дальбер-
гом [163], доказательство которого гакже основано на «гладкой
срезке» и использует тонкие оценки потенциалов с неотрицатель-
неотрицательной плотностью. Наконец, недавно К. Ханссон [190, 191] нашел
новое доказательство неравенства (8.1/4) для пространств потен-
потенциалов, в котором указанная операция срезки не применяется.
Доказательство К. Ханссона пригодно для широкого класса по-
потенциалов с общими ядрами. В 8.2.3 приведено взятое из работы
автора [84] доказательство неравенства (8.1/4), основанное иа
идее К- Ханссона, но, по-видимому, более простое.
§ 8.3. Эквивалентность теорем вложения и изопериметрических
неравенств, связывающих меры и емковти, обнаружена автором
в 1962 г. [62, 63]. Результаты такого типа были в дальнейшем
получены в статьях автора [65, 70], Д. Р. Адамса [136], автора
и С. П. Преображенского [87] и др.
Одна из теорем работы Д. Р. Адамса 1136] утверждает, что
условие ц (еум ^ Ci eap (e, hlp) для всех компактов eczR" равно-
равносильно неравенству
I hVe \lv. <> C2fi (eI/*' для всех е\
'"V,
здесь iie —сужение меры ц на множество е.
§ 8.4. Результаты получены автором в [80].
§ 8.5, 8.6. Здесь мы следуем в основном работе автора и
С П. Преображенского [87]. По сравнению с этой работой огра-
ограничения на функцию Ф оелаблены при 1<р<2 — 1/п за счет
использования результатов появившейся позднее статьи Л. Хед-
берга и Т. Вольфа [197]. Замечание 8.6/2 принадлежит Д. Р. Адам-
су [136], следствие 8.6/2 другим методом ранее доказано Д. Р. Адам-
сом [132].

§ 8.9. Комментарии к главе 8 325
§ 8.7. Результаты получены автором в [82].
Теоремы этой главы нашли применение к задаче об описании
классов мультипликаторов в различных пространствах дифферен-
дифференцируемых функций (В. Г. Мазья [81, 84], В. Г. Мазья и
Т. О. Шапошникова [93 — 95,97]). Класс мультипликаторов, дей-
действующих из одного функционального пространства Si в другое S2,
обозначают через M(Si-*-S2). Иначе говоря, М (Si-*-S2) =
== {у: yu^S2 для всех wsSi}. Норма элемента у bM(Si->S2)
равна норме оператора умножения на у. Следующие эквивалент-
эквивалентные нормировки пространства М (W™-*- W1,,) (т, /— целые, т^1)
указаны в работах автора и Т. О. Шапошниковой [93] и автора
[84]. Через \у\р,«о -<«./) будем обозначать норму в М (W™-*-
а) Если l<.p<s^n/m, то
)-(p. л
Р) Если \<.p<Lq или l=*p*^q, то
nsup р*-»>Р 0 V/Y |l, (Bp W) + P-* IY U, (вр <*>))
при тр<п\
sup ((log B/p)) vp' 1V/T It. (в. W) + PJIY It- (fl0 W))
*еД", ps@. l) v v м '/
при тр = п, p>U
SUP lYb/n ,„. пРи mp>n и при /7 = 1, m = n.
«у) Если 1 <.q<.p, то
Кроме того, в случае 1^^<Ср, рт~>п
(Обозначения те же, что и в пп. 8.4.2. 8.4.4.)

326 § 9.1. Емкость Cap
Глава 9
ОБ ОДНОЙ РАЗНОВИДНОСТИ ЕМКОСТИ
§ 9.1. ЕМКОСТЬ Сар
9.1.1. Простейшие свойства емкости Сар(е, LP(Q)). В п. 7.2.1
введена емкость cap (e, Slp) компакта е с R", порожденная любым
из пространств S'P=H'P, hlp, В'р и т. д., т.е. функция множества
inf h и f,: ue5lD, где 91 (e) = {uz=&: uSsl на е}.
I sp J
Для многих приложений оказывается полезной другая функ-
функция множества, в определении которой роль класса 91 (е) играет
класс ЗЯ (е, Q) = {ue Со° (й): и = 1 в окрестности е}- (Как обычно,
в случае Q = #" указание на Q будем опускать.) Э^гу новую функ-
функцию множества также называют емкостью; здесь для нее принято
обозначение Cap (e, Slp (Q)).
Имея в виду дальнейшие приложения, мы ограничиваем емко-
емкостями Сар, порожденными пространствами LP(Q) и Wlp, где /=1,
2, ...
Внутренняя и внешняя емкости произвольного подмножества
множества Q определяются равенствами
Сар (?, Llp (Q)) = sup Cap (e, Vp (Q))»
есЕ
Cip(?, Llp(Q))= inf Cap(G, L
G?
Здесь е —любое компактное подмножество Е и G — любое откры-
открытое подмножество Q, содержащее Е. Если верхняя и нижняя
емкости совпадают, их общее значение называется емкостью мно-
множества Е и обозначается через Cap (E, Lp (О)).
В дальнейшем, говоря о (р, /)-емкости, будем иметь в виду
именно эту функцию множества.
Из определения емкости Сар(е, Llp(Q)) непосредственно выте-
вытекают следующие два свойства.
Монотонность. Если eicej и Qi^>Q2, то
Cap(elt Ц(?Щ)<Сар(*, Ь'р (ОД).
Непрерывность справа. Для каждого е > 0 существует
такая окрестность ю, йс2 компакта е, что для любого ком-
компакта е', ecze' cz to
' Сар(е', #@))<Сар(е, 4@))+в.

9.1.1. Простейшие свойства емкости Cap (e, Llp(Q)} 327
В следующих трех предложениях устанавливаются простейшие
связи между емкостями Сар(-, Si) и Сар(-, So).
Предложение 1. Пусть со и Q — открытые множества в Rn,
D = diamfi<oo, fflcQ Тогда для любого компакта ее: аз, уда-
удаленного на расстояние ДР от да, имеет место неравенство
Сар(е, 2.{,(©))<c(D/Ae)*Cap(e, 1р{п)).
Доказательство. Пусть ыеЗЛ(е, Q) и аеС?°(бо), a=l
в окрестности е и | V,-a(*)| =<сДГ', t=l, 2, ... (см. [121, § 2,
гл. 6]). Тогда
Сар (е, Ц, (и)) < | V, (аи) Цр (в) < с %\=0 ДУ"П " | Vju tp w
1 Остается воспользоваться неравенством Фридрихса
Аналогично доказывается следующее утверждение.
Предложение 2. Пусть eczQ, D = diam Q и Де = dist {e, dQ}.
Вложение Lj, (i?n) в L" (i?n) при соответствующих значениях р,
I, q, m приводит к следующей оценке.
Предложение 3. Пусть п>1р, р>\ или n^sl, p=l. Если
eczBr, то
Сар(е, Llp(Bir))^cCap (е, Ц), A)
где с = с(п, р, I).
Доказательство. Пусть и еёЗЛ (е), аеЗЛ(Вг, 52Г). Имеем
где qJ = pn(n-(lp
Приведе^Гдве нижние оценки для Cap (e, Lj, (Q)).
Предложение 4. Пусть е czQ,[\Rs, ч^п. Тогда
Сар(е, Llp{u))^c{mseyi4y
где q = ps/(n — lp) при р>\, s>n— /р>0 или при р=\,
^п —1^0. Постоянная с зависит только от п, р, I, q.
Для доказательства достаточно применить неравенстбо
liL (л") к произвольной функции и&Ш(е, О).

328 5 9.1. Емкость Cap
Предложение 5. Если О, —открытое множество, е—компакт
в О. и d^= dist (e, dQ), то
Сар(е, I{,(Q))s&«C-p/, B)
где pl>n, р>\ или l^zn, p= 1.
Доказательство. Для любой функции ыеЗЛ(е, Q)
Поэтому p
Следствие. Пусть pl>n, р>\ или 1^п, р=\ и х0—
точка шара Вр. Тогда
Сар(х0, Д(В«р))~рп-*\ C)
Доказательство. Нижняя оценка емкости следует из
предложения 5, а верхняя получается подстановкой в норму
|V,u|l (Bto) функции ы со значениями и (х) = ц ((х — х0) р-1), где
i (
9.1.2. Емкость континуума.
Предложение 1. Пусть п> 1р>п— 1, р^1 ы е —континуум
с диаметром d. Тогда
х Сар(е, L'p)~d"-4>. A)
Доказательство. Заключим в в шар Bd с радиусом d и
обозначим через 52<г концентрический шар с радиусом 2d. Исполь-
Используя монотонность емкости, получаем
Cap (e, Vp) ^ Cap (Bd, Llp) = cd«-'p.
Пусть О и Р — точки компакта е, |О — P|=d. Направим ось
Охп от точки О к точке Р. Введем обозначения: х = (х', хп), х' =
:*„ = /}, ВЙ"° (О = ВИП {*:*« = <},
...+а„-1 = /. Для любой функции ие
Так как е(ЦФф, e(f)czBd и pl>n — 1, то
Сар (е (О, Д (ВЙ-1)

9.1.2. Емкость континуума 329
Минимизируя |V,u|? (bmj на множестве Ш(е, Bid), получаем
Сар(е, L'p(B2dJ)l^ cdn~'p. Остается воспользоваться оценкой
(9.1.1/1). ¦
Предложение 2. Если п — lp, р > 1, то для любого контину-
континуума е с диаметром d, 2d<.D имеет место соотношение
Cap (e, llp (BD)) ~ (log (D/d)Y-p. B)
Здесь Во — открытый шар с радиусом D и центром Оее.
Доказательство. Сначала оценим емкость сверху. Пусть
Bd={x: \x\<.d}. Определим на множестве BD\Bd функцию v:
v (х) = [log (D/d)]-1 log (D/\ x |) и обозначим через a j, функцию из
С00[0, 1], равную нулю вблизи точки / = 0, единице вблизи ?=1
и такую, что 0^<x(t)^l. Пусть еще и (х) = а [и (х)] при л:е
eBD\Ва, и(х) = 1 в Bd и и(х) — 0 вне BD. Очевидно, что и
&Ш(Ба, BD). Кроме того, легко видеть, что |V,()|
а%; с [log (D/d)]-11 х \~1 на BD \ Bd- Отсюда получаем
Сар (Bd, L'p (BD)) < \Bd I V,u (x) \p dx <
^ с [log (D/d)yp \B^Bd \x \-*p dx = с [log (D/d)]1-".
Перейдем к доказательству нижней оценки емкости. Пусть Р
и Q —точки множества е, удаленные на расстояние d. Обозначим
через (г, со) сферические координаты точки в системе с центром Q,
л>0, (osS"-1 и через и — функцию из Ш(е, BiD(Q)), такую, что
где v = Cap(e, Z,J,E2D(Q)))^Cap(e, L'P(BD))> а е-малое положи-
тельное число. Введем еще функцию U (г) == | и (г, -)|L (Sn-iy Так
как, по крайней мере, в одной точке сферы {х: \х\=г), где
r<d, функция и равна единице и так как pl>n—\, то
11 - U (г) | ^с||и (г, -)-U(r) I , Отсюда
/ p(d/) C)
Поскольку (/ — 1)р<п, то
Поэтому правая часть неравенства C) не превосходит
cj^iUJL (B2rf(Q>)<Co(v — е). Если 7^=Bсо)-\ то нужная оценка
получена. Пусть 7<Bс0)-1. Тогда \dd/2 U (r)dr>d/4 и при неко-
некотором ro^{d/2, d) справедливо неравенство U{ro)> 1/2.

330
Еще раз
X \dD\rVu\f>
у — е^с [2D
§ 9.1.
используя D),
(dr/r) - e
\rU'(r)\P
В силу
(dr/r)-t
Емкость Сар
заключаем, что у — е^
неравенства Гельдера
^c(\ogBD/d)I-p\\l2f U
с[
'(г)
„_, da X
drp =
= с (log BD/d)Y~P U (го)" Ss 2"с (log (D/d)I-". В
9.1.3. Емкость цилиндра.
Предложение 1. Пусть C6d —цилиндр {х=(х', х„У- }х
\xn\^d/2}, где 0<26<d и Q-id = \x: \xi\<.d\. Справедливы о-
отношения
, если п — I > pi,
Доказательство. Пусть ueDJ(Ce>d, Q2d)- Очевидно, что
L | V/U \Pdx^ \Zftdxn \ | VJii I'd*, A)
где v; {
t=l, ..., n— Ц. Внутренний интеграл в правой части неравен-
неравенства A) не меньше чем Cap^""", ^(BjT"")). гДе Вр1"" —
(п—1)-мерный шар {х': !л:'|'<р} и р = 2 (n—lI/2d. Отсюда и из
предложений 9.1,2/1 и 9.1.2/2 получаем, что этот интеграл мажо-
мажорирует сб"-Р'-1 гфи п— \>pl и ^(logd/бI" при n—\=pl. Ми-
Минимизируя левую часть неравенства A) на множестве Ш (Ce, d, Q2d),
получаем требуемую оценку емкости снизу.
Перейдем к выводу верхней оценки. Пусть х' ->- и (х1) — глад-
гладкая функция с носителем в шаре В'"~п, равная -единице в окрест-
окрестности шара В(Г~П. Введем еще функцию ца равенством r\d(x) =
= r\(x/d), где т) el((),, Q2). Так как функция аг-*¦ r\d(x)и(х')
принадлежит классу 331 (Сд. d, Qid), то
Cap (Ce, rf, Llp (QM)) < J | V, («T)d) |p dx <
Минимизируя последний интеграл и используя предложения
9.1.2/1 и 9.1.2/2, получаем требуемую верхнюю оценку емкости.
9.1.4. Множества нулевой емкости Сар(-, W'p). Из определе-
определения емкости Сар(-, Ц(О)) и предложения 9.1.1/2 следует, что
Сар(е, Wp) = 0 в том и только в том случае, если существует
ограниченное открытое множество Q, содержащее е, такое, что
Сар(е, Lp(Q)) = 0. В силу предложения 9.1.1/2 выбор множе-
множества Q безразличен.

§ 9.2. О (р, /)-полярных множествах 331
Из следствия 9.1.1 получаем, что при 1р>п, р>\ и при
п, р = \ равенство Сар(е, W'P) — 0 имеет место, только если^
е=ф.
Предложение 9.1.1/3 показывает, что в любом из случаев
п>1р, р>\ или rfStl, p=\ равенства Сар(е, И?р) = О и
Сар(е, Ар) = О равносильны. Из следствия 9.1,1 и предложений
9.1.2/1 и 9.1.2/2 следует, что при n^lp, p>\ аналогичное
свойство не имеет места. Точнее, если n^lp, p>\,
Сар(е, Lp) = O для любого компакта е.
то
§ 9.2. О (р, 0-ПОЛЯРНЫХ МНОЖЕСТВАХ
I
Обозначим через W'p1 пространство линейных непрерывных
функционалов Т: и-*-(и, Т) на W'p.
Множество Е с R" назовем (р, 1)-полярным, если единствен-
единственным элементом из W~' с носителем в Е является нуль.
Теорема I. Пространство & (Q) плотно в Wp в том и только
в том случае, если CQ —(р, 1)-полярное множество.
Доказательство. 1) Допустим, что Ш&(Q) не плотно в W'p.
Тогда существует ненулевой функционал Т <= WJ-', равный нулю
на &(О)*, т. е. с носителем в CQ. Следовательно,-CQ не явля-
является (р, О-полярным.
2) Пусть 2& (Q) плотно в Wlp. Для любого функционала Т е
е Wp~'1 с носителем в CQ (при всех ие^(й)) (и, Т)=0. Сле-
Следовательно, это равенство верно для всех uell^J, и Т = 0. Итак,
CQ — (р, 0-полярное множество.
Теорема 2. Множество Е — (р, ^-полярно в том и только
в том случае, если Сар(?, Wlp) = 0.
Доказательство. 1) Пусть Сар(?, Wlp) = 0 и T<=WJ-',
supp Г czE. He ограничивая общности, будем считать, что
supр Т— компакт (в противном случае мы могли бы вместо Т
взять аТ, где ае^). Пусть ф —любая функция из SP и
{"m}w>i —последовательность функций из Ш&, равных единице г
в окрестности носителя Т, сходящаяся к нулю в Wlp. Так как
фA — «т) = 0 в окрестности носителя Т, то (ф, T) = (<pum, T).
Правая часть стремится к нулю при т-+оо и, значит, (ф, 7") = О
для всех ф е ^¦ Поскольку пространство ^ плотно в Wlp, то
Т = 0.
* Здесь используется следствие теоремы Хана—Банаха. Пусть М—ли-
М—линейное множество в банаховом пространстве В и х0—элемент В, расположен-
расположенный на положительном расстоянии от М. Тогда существует такой ненулевой
функционал Т е= В*, что {х, Г) = 0 для всех х е М.

332 § 9.3. Эквивалентность двух емкостей
2) Пусть Е — (р, /)-полярное множество. Тогда любой ком-
компакт К в Е — также (р, 0-полярное множество и пространство
2% (R"\K) плотно в Wlp. Пусть v e 9I (К) Так как пространство
&(R"\K) плотно в Wp, то существует последовательность vm е
&&(R"\K), сходящаяся к у в Wlp. Каждая из функций vm — v
равна единице вблизи К, имеет компактный носитель и
\vm — v\wi-*-0. Следовательно, Сар (К, W'p) — 0. H
р
Принимая во внимание только что доказанное утверждение,
можно дать следующую эквивалентную формулировку теоремы 1.
Теорема 3. Пространство 3 (Q) плотно в W'p в том и только
в том случае, если Сар(?, Wp) = 0.
§ 9.3. ЭКВИВАЛЕНТНОСТЬ ДВУХ ЕМКОСТЕЙ
Сравним емкости Сар(е, Lp) и сар(е, Lp), p^\. Очевидно,
что первая из них мажорирует вторую. Нетрудно видеть, что
имеет место и обратное неравенство. Действительно, каковы бы
ни были число se@, 1) и функция и е 31 (е), мы можем аппрок-
аппроксимировать функцию ye = min{(l — г)-1 и, 1} в Ц, последователь-
последовательностью функций из Ш (е). Поэтому
Сар (е, ?},) «S $ | Vu, |" dx < A - е)-" J | Vu |" dx
и, следовательно, Сар (е, Lp) <сар (е, Lp). Итак, емкости Cap (e, Lp)
и cap (e, Lp) совпадают.
Поскольку при 1> 1 операция срезки по уровням выводит
функцию из пространств Vp и Wlp, приведенное рассуждение не-
непосредственно не применимо для доказательства эквивалентности
емкостей Сар и cap, порожденных этими пространствами. В этом
параграфе показано, что тем на менее указанная эквивалентность
имеет место при р > 1.
9.3.1. Вспомогательное мультипликативное неравенство. Сле-
Следующее утверждение применяется в п. 9.3.2. Оно представляет
собой частный случай теоремы Гальярдо — Ниренберга (см.
п. 1.4.8).
Лемма 1. Если и е L'p (] L», p > 1 и т = 1, 2, ..., / — 1, то
|Vm«Lpl/m<C|«lkm/l|V|U|^'. A)
Докажем сначала одно элементарное неравенство для функ-
функций на R1.

9.3.1. Вспомогательное мультипликативное неравенство 333
Лемма 2. Пусть т —натуральное число, q>m+l и v —любая
функция на R1 с конечной нормой
IV kqHm
Тогда'
1 v \Lqlm
Г ((m-
\ ((q-
Г ((m-l)/(q-~m-l))V\ если q<2m,
\ ((yI'2, если 2
Доказательство. Введем обозначение bj=\\y<>'^
(Интегрирование распространено на R1.) Рассмотрим сначала слу-
случай <7<2т. Пусть 6 = <7Bm — q)/2m(m— 1). В силу неравенства
Гельдера
Интегрируя по частям в последнем интеграле (это оправдано из-
за неравенства Bт — q){tn — 1)-1< 1), получаем, что он не пре-
превосходит
((от- l)/(q-m- l))\\v |(?-"-i)/C"-D | V" \dx <
Пусть q~^2m. После интегрирования по частям в Ьх получаем
^ < («7/от - 1) \ | w" 11V
Применяя к последнему интегралу тройное неравенство Гельдера
с показателями pr=ql(q — m), pt = q/(m—l), ps = m, заключаем,
что
b1^((q-m)/m)b[-2mJqbim-1)/'lb[m+l)/q.
Итак, bt^cbr "'mb\m + l>/im, где c = ((m- \)/(q-m- I))?/*,
если <7<2m, и c = ((q — m)/m)9/2m, если q^2m.
Доказательство леммы 1. Пусть q>m-\-\ и ат =
= |Vmu|/, , m = 0, 1, ..., l. В силу леммы 2 am s^ Cia^l iOm—i-
Отсюда при q — pt с помощью индукции получаем ат ^
(l—m)lm m/l mm
2а и; . Ш
Следствие. Если и, v еЦП^-оо, то
IV/ (ыу) к < с (|| ы li^, | Vtv к +1 v koo | V,u к ). B)

334 § 9.3. Эквивалентность двух емкостей
Доказательство. Используя лемму 1, получаем
IV, (uv) kp < с SL
9.3.2. Соотношение Cap~cap при p> 1.
Теорема 1. Пусть р>1, n>p/, /=1, 2, ... Тогда Зля лю-
любого компакта е
cap(e, Lp)«? Сар (е, Z,p)sSccap(e, Ц). A)
Доказательство. Левое неравенство следует из включе-
включения ЭЛ (е) с 91 (е). Оценим емкость Сар сверху. Обозначим через G
ограниченное открытое множество,-содержащее е и такое, что
cap (б, Lp)^cap (e, Llp) + e.
Пусть U — (р, /)-емкостныи потенциал множества G (см. п. 7.2.2).
В силу предложения 7.2.2/2 неравенство i?/3s 1 имеет место
(р, /)-квазивсюду в 0 и, следовательно, почти всюду в некоторой
окрестности компакта е. Применим к U оператор усреднения с ра-
радиусом т-\ т = 1, 2, ..., и умножим результат на срезающую
функцию г\т со значениями г\т(х) = г\(х/т), где ц е СТ, т)@)= 1.
Получим последовательность {Um}m^i функций из Со", такую, что
О<;?/„,<;а в /?", (/„>1 в окрестности е,
lira |V,t/m|? ^cap(e, Lp) + e. - B)
n
(Неравенство Um^a следует из предложения 7.2.2/1.)
Введем функцию ш= 1 — [A — Um)+]l+1, которая очевидно
имеет компактный носитель и принадлежит С Кроме того,
1 V/ш ||i «S | V; [A — Um)l+1] Hi . Применяя следствие 9.3.1, отсюда
получаем IViw\\L <;c||Vj(/m||L . Остается воспользоваться неравен-
неравенством B).
Точно так же доказывается следующее утверждение.
Теорема 2. Пусть р>1, / = 1, 2, ... Тогда для любого ком-
компакта е
сар(е, №р)<Сар(е, У{,)<ссар(е, W'p). C)
Следствие 1. Пусть р>\, 1=\, 2, .... и е —замкнутое
подмножество куба Qa=\x' 2j^|^d}. Тогда
cap (в, L'P (Qw)) ^ Сар (в, LP (QM)) < с cap (e, Lp (Q2rf)). D)

§ 9.4. Комментарии к главе 9 335
Доказательство. Достаточно вывести D) для d = 1. Левое
неравенство очевидно, а правое следует из предложения 9.1.1/2
и теоремы 2.
Верны ли оценки A) и C) при р=\, 1</<п, по-видимому,
неизвестно.
Замечание, Доказательство георем 1, 2 и следствия 1 не
изменятся, если в определении емкости Сар заменить класс
2I (е, Q) более узким классом {usCS°(Q), «=1 в окрестности е,
01}
}
Следствие 2. Пусть р>1, /=1, 2,... и еи ег — компакты
в Qa. Справедливо неравенство
Сар (в, U е», 1\ (Q**)) <?* 2J_ i Cap (eh Vp (QM)), F)
где с„ — постоянная, зависящая только от п, р, I.
Доказательство. Пусть щ <= Ш (eit Qid), О ^ щ <: 1,1 =* 1,
2, и пусть
1 V,U,- |?р < с cap (eit Vp (QM)) + e F)
(см. замечание). Функция u = ui + ua принадлежит пространству
Co° (Q2rf) и удовлетворяет неравенству и з* 1 на «i U е2- Отсюда и
из следствия 1 получаем
Сар {в! U e2, Llp (Q2rf)) ^ с cap {ег U е2, !{,
fLp
что вместе с F) приводит к E).
§ 9.4. КОММЕНТАРИИ К ГЛАВЕ 9
§ 9.1. Емкость Сар(е, 14 (Й)) введена автором [64]. Материал
этого параграфам основном взят из статьи автора [75].
§ 9.2. Определение B, /)-полярного множества дано в статье
Л. Хермандера и Ж--Л. Лионса [200]. Результаты этого пара-
параграфа получены в работе У. Литтмана [211]. Относительно тео-
теоремы 9.1.4/2 см. более раннюю работу В. В. Грушина [27].
§ 9.3. Эквивалентность емкостей Cap (e, Vp) и cap (e, Ц) уста-
установлена автором для целых I [70, 72]. Близкое утверждение по-
получено У. Лигтманом [212]. Для дробных / эквивалентность соот-
соответствующих емкостей доказана в работе Д. Р. Адамса и Дж.
Полккнга [142]. Доказательство леммы 9.3.1/1 взято из статьи
автора [72]. Другое доказательство теоремы 9.3.2/1, основанное
на использовании «гладкой срезки» и неравенства Л. Хедберга
(8.2.2/2), предложено в работе Д. Р. Адамса [136].

336 § 10.1. Связь точной константы с емкостью (случай й=1
Глава 10
ИНТЕГРАЛЬНОЕ НЕРАВЕНСТВО
ДЛЯ ФУНКЦИЙ НА КУБЕ
Пусть Qa— открытый и-мерный куб с длиной ребра d, грани
которого параллельны координатным осям. Пусть еще р За 1, k
и / — целые числа, 0<;?=s^/ и ы— функция из пространства
K(Qa), P^l-
Часто оказывается полезным неравенство
где интервал-изменения q тот же, что и в теореме вложения Со-
Соболева. Это неравенство неоднократно используется и в следую-
следующих главах. Очевидно, что A) неверно для всех u^Wlp(Qd), но
если функцию и подчинить дополнительным ограничениям, оно
может оказаться справедливым.
В этой главе даны двусторонние оценки для точной констан-
константы С в A). В § 10.1, 10.2 в основном рассматривается случай,
когда и обращается в нуль вблизи компакта eczQa и k = 0. Су-
Существование константы С равносильно положительности (р, ^-емко-
^-емкости множества е, и для (р, ^-несущественных множеств е верхние
и нижние оценки для С формулируются в терминах этой емкости.
Если q^p и е — (р, /)-существенное множество, т. е. имеет емкость,
сравнимую с емкостью куба, то С оценивается с помощью так
называемого (р, /)-внутреннего диаметра.
В § 10.3 функция и априори принадлежит произвольному
линейному подмножеству 0> пространства Wlp (Qd). Здесь получен
результат, обобщающий основную теорему первого параграфа, и
даны его приложения к конкретным классам &. При этом мы
приходим к необходимости ввести некоторые функции класса S,
играющие ту же роль, что и (р, /)-емкость.
Отметим, что как результаты этой главы, так и их доказатель-
доказательства сохраняют силу, если вместо куба Qd рассматривать произ-
произвольную ограниченную липшицеву область с диаметром d.
10.1. СВЯЗЬ ТОЧНОЙ КОНСТАНТЫ С ЕМКОСТЬЮ (СЛУЧАЙ k=l)
10.1.1. Определение (р, ^-несущественного множества.
Определение. Пусть е — компактное подмножество куба Qa.
В любом из случаев n^spl, р>1 или п>/, р=1 будем гово-
говорить, что е—(р, ^-несущественное подмножество Qa, если
Сар(е, Llp(Qia))<yd»-p', A)

10.1.2. Основная теорема 337
где у — достаточно малая константа, зависящая только от п, р, I.
В настоящей главе в качестве такой константы можно взять лю-
любое положительное число, удовлетворяющее неравенству
7<4-р*. B)
Если неравенство A) не выполнено, то по определению е —
(р, /)-существенное подмножество Qa.
При n<.pl, р>\ или при п<^1, р = 1 назовем (р, ^-несу-
^-несущественным только пустое множество.
Совокупность всех (р, I)-несущественных подмножеств куба Qa
обозначим через ®<T(Qrf).
10.1.2. Основная теорема. Обозначим через uQd среднее значе-
значение функции и на кубе Qa, т. е.
я<к = К (
Введем еще полунорму
Теорема. Пусть е — замкнутое подмножество куба Qa.
1) Для всех функций иеС°°(^), таких, что dist (suppu, e)>
>0, верно неравенство
luhq (Qd)^C\u\p,,.Qd, A)
где </е[1, рп(п — pi)-1] в случае п>pi, р^\; <7е[1, со) в слу-
случае n = pl, р~^>\- Константа С допускает оценку
e, Llp(Q2dj). B)
2) Пусть для функций и еСм (Qd), таких, что dist (supp ы, е)>
> 0, вер«о неравенство
|, Q<|, C)
г5е е e®^*(Qd) ы <7 удовлетворяет тем же условиям, что и в 1).
Тогда
( ^(QM)). D)
Доказательству теоремы предпошлем следующую лемму.
Лемма 1. Пусть е —компакт в Qx. Существует такая посто-
постоянная О 1, что
(
inf /| 1 - и «^ : «еС°° (Qj, dist (supp и, е) > 0| <
Ц@,)). E)

338 § ЮЛ. Связь точной константы с емкостью (случай k=\)
В доказательстве левой оценки будем использовать следующее
хорошо известное утверждение (см. теорему 1.1.16).
Лемма 2. Существует линейное непрерывное отображение
А: С*-1'1^)-»-^*-1'1^**), k=\, 2, ..., такое, что: (i) Av=v
на Qd, (ii) если dist(suppu, е)>0, то dist(supply), e)>0, (Hi)
lVi(Av)lLp{Qid)^clViV\Lp{Qd), 1 = 0, 1, .... /, 1<р«я. F)
Доказательство. Пусть и = ЛA— и). Обозначим через т)
функцию из &(Qz), равную единице в окрестности куба Qx. Тогда
Сар(е, Qt)^cl\V,(iV>)\i4lx<c\vfl. G)
Теперь левая оценка E) следует из F) и G).
Докажем правую оценку E). Пусть w е ЗЛ (е, Q2). Тогда
Минимизируя последнюю норму на множестве ЗЛ(е, Q4), получаем
| w f i «С с Cap (е, Up (Q2))-
Минимизируя левую часть, заканчиваем доказательство леммы.
Доказательство теоремы. Достаточно доказать теорему
для случая d=l и затем воспользоваться преобразованием по-
подобия.
1) Пусть N = 1 и \Lp (Qa). Так как dist(suppu, e)>0, то по
лемме 1
Cap (е, Vp (Qi)) <; с 11 — N~*u f i =
= cN-p\u\pp., Ql + с|| 1 -N-*ul?p(Qi))
т. e. Np Cap (e, lp (Q2)) <S с | и \pp,,, Ql + с || N - u »?p (Qi). (8)
Без ограничения общности можно предположить, что uq^O.
Тогда
IN - uQl | = || и \\Lp (Qi) -1 aQl ||Lp (Qi) *=? l и - aQt \Lp (Qi).
Следовательно,
\N — u\l (Qt)^\N — uqAl (Qj) + f" — "qJIl (qx) =^2iu — Scjji. (q^. (9)
В силу (8), (9) и неравенства Пуанкаре \и — uqx\l (qa^S
qx справедлива оценка Cap (e, Llp (Q2)) J ы |? rQ »<
IuIp,/. Qi* ^3 теоремы вложения Соболева и последнего игра-

10.1.3. Вариант теоремы 5.1.2/1 и его следствия 339
венства получаем
\ ' l«l?e(Q1)<
<c{l+[Cap(e, ^(Q,))!-1}!"!?.!.^
Первое утверждение теоремы доказано.
2) В случае pl~>n, р>\ или 1^5*п, р=«1 утверждение оче-
очевидно. Рассмотрим остальные значения put. Пусть функция
ij) e Ш (е, Q2) такова, что
TO»?p(Qs)^Cap(e, Z/p(Q2)) + e, A0)
и пусть и = 1 —if. Применяя неравенство IVyi|)|i.
/=1, ..., /-1, получаем \и \р. t, ?1 = \^\P."i ^^
Отсюда и из A0) следует, что | и ||Lp (Ql/2) =s? cC [Cap (e, Lp (Q2)) + в]1/р.
В силу неравенства Гельдера
l-fol/2 = «Ql/2<cC[Cap(e, LUQ2))]1/P- (H)
Остается показать, что среднее Значение i|> в кубе Qi/2 мало.
Отмечая, что для любой функции шеС^—1, 1], удовлетворяю-
удовлетворяющей условию w(—1)=о)A) = 0, справедливо неравенство
получаем
dx-
I
A2)
Следовательно, i|)Q1/2^2BP-1>n/P[Cap(e, Q2) + e]1/p.
Отсюда, а также из A0.1.1/1) и A0.1.1/2) следует yQu2
что вместе с (И) доказывает вторую часть теоремы.
10.1.3. Вариант теоремы 10.1.2 и его следствия. В следующей
теореме, которая будет использована в главе 12, доказано утвержде-
утверждение, близкое к первой части теоремы 10.1.2 и относящееся к более
широкому классу функций.
Теорема. Пусть е—замкнутое подмножество Qd и б — число из
интервала @, 1). Тогда для всех функций из мноокества
[u^C^iQa): C<jd3s0, u(xX6d-"/p||u|ko(Qd) при всех л:ее}
справедливо неравенство A0.1.2./1), где С~р Э= с A — 8)" d-nPl9 x
хсар(е, Llp(Qid)).

340 § 10.1. Связь точной константы с емкостью (случай ? = 1)
Доказательство. Повторяя доказательство леммы 10.1.2/1,
получаем
с-1 cap (в, Ц, (Q,)) < inf Л 1 - и fi : и <= С00 (&), ы < 0 на el
^ с cap (e, !'„(<?•))•
Далее следует заметить, что из неравенства 1 — ЛНыэ= 1 — б на е
вытекает оценка
A - б)" cap (в, l\ (Q,)) «?? с 11 - ЛНи Г
и повторить доказательство первой части теоремы 10.1.2.
Следствие 1. Пусть е —замкнутое подмноокество Qd. Для
всех функций и eC°°(Qd), обращающихся в нуль на е, имеет место
неравенство
Доказательство. Достаточно положить d = 1. Пусть
^ (") = So <! р к /х& 5(з, Фэ (У)и (У) fy — многочлен из обобщенного
неравенства Пуанкаре для куба Qi (см. лемму 1.1.11). Пусть еще
S(u) = P (и) — jft ф0 (у) и (у) dy. Так как при | р | > 0 все функции фр
ортогональны единице, то
Qi). B)
Достаточно доказать A) в предположении | Vu fx. («зл^
^6ju1l (qj, где б = б(п, р, /) —малая постоянная. Тогда функ-
функция v = и — S (и) удовлетворяет на е неравенству | v (x) | ^.
^c61uJl ту Пусть для определенности Vq1^O. Применяя
к функции v теорему .этого пункта, получаем
Отсюда и из леммы 1.1.11 находим
Ссылка на B) заканчивает доказательство.
Из следствия 1 вытекает следующее утверждение.

10.1.3. Вариант теоремы 5.1.2/1 и его следствия 341
Следствие 2. Пусть е—замкнутое подмножество Qd. Для
всех функций и е С00 (Qd), обращающихся в нуль на е вместе со
всеми производными до порядка k, k<l, включительно, имеет
место неравенство
, (% «ад+саРмг(^))'
C)
Доказательство. Достаточно обосновать C) при q — p и
= 1.. Согласно следствию 1
W(tvJ+1ugf№) + cgp(e> Д.,(Qi))8v,«f?p(Ql)
при / = 0, 1, ..., Л —1. Следовательно,
Так как сар(е, ^"'(Q^^capCe, 4"*+'(Qi)) при / = 0,.... ft- 1,
то следствие доказано.
Замечание 1. Согласно следствию 9.3.2/1 прир>1 в фор-
формулировках теоремы и следствий 1 и 2 можно заменить cap
емкостью Сар.
Замечание 2. Из предложения 9.1.1/3 в формулировках
теоремы и следствия 1 при п > 1р можно заменить cap (e, L'p (Q4d))
величиной cap (e,' Ц, (/?")). Аналогичное замечание относится
к следствию 2 в случае n>p(l — k-\-l).
Замечание 3. Из предложения 7.2.2/2и свойств (р, ^-уточ-
^-уточненных функций (см. п. 7.2.4) следует, что, определяя емкости
сар(?, h'p) борелевского множества, можно минимизировать норму
\и\\ i по всем (р, ^-уточненным функциям из /if, удовлетворяю-
щим (р, /)-квазивсюду на Е неравенству и^1. Это позволяет
говорить в теореме этого пункта о (р, ^-уточненных функциях из
Vlp(Qd), Для куторых неравенство и (х) ^ bdrnip | и \L ^выполнено
(р, /)-квазивсюду на борелевском множестве Е a Qd. Аналогично
в следствии 1 речь может идти о борелевском множестве Е czQa
и об уточненных функциях из Vp(Qd), равных нулю квазивсюду
на Е. Класс функций, рассмотренный в следствии 2, также можно
расширить, заменив его классом ?*(?) уточненных функций us
^ Vlp(Qd), таких, что ГРи{х) = 0 для (р, / — |а|) — квазивсех х^Е,
и всех мультииндексов порядка | а | ^ k.

342 § 10.2. Связь точной константы с (р, /)-внутренним диаметром
§ 10.2. СВЯЗЬ ТОЧНОЙ КОНСТАНТЫ
С (р, 0-ВНУТРЕННИМ ДИАМЕТРОМ (СЛУЧАЙ к = \)
10.2.1. Функция множества Xlp,g(G).
Определение. Любому открытому множеству QczQd при-
припишем число
гдер5г1 и инфимум берется по всем функциям иеС°°(^),
обращающимся в нуль в окрестности Qd\G.
В силу теоремы 10.1.2, если Qd\G — (p, ^-несущественное
подмножество Qd, то
К.я(С)~d-v"Cap(&\G; llp(Qw))-
Без требования малости (р, /)-емкости Qd \ G это соотношение
неверно —если множество G «мало», величина kp.i,(G) становится
большой*, в то время как cap (Qd\G, Ь1р{0.ы))^сйп-Р1.
В этом параграфе дана характеристика функции множества
"klp,q{G) при <7Э:рЗ=1 в некоторых новых терминах, связанных
с (р, /)-емкостью, при условии
10 О
р ) р у \
10.2.2. Определение (р, /)-внутреннего диаметра. Зафиксируем
куб Qd и обозначим через Da произвольный открытый куб в Qd
с длиной ребра б и гранями, параллельными Qd.
Определение. Пусть G — открытое подмножество куба Qd.
Точную верхнюю грань тех б, для которых множество {De: Qe\Ge
e®^"(De)} He пусто, назовем (р, /)-внутренним (кубическим) диа-
диаметром G относительно Qd и обозначим через DPii(G, Qd).
В предельном случае Qd = Rn и будем писать Dpt(G) и гово-
говорить о (р, ^-внутреннем (кубическом) диаметре множества G.
Очевидно, что если Qd\G— (р, ^-несущественное подмноже-
подмножество куба Qd, то DPii(G, Qd) = d.
Пусть n<pl, р>1 или п = 1, р=1. При указанных р и / по
определению все множества, кроме пустого, являются (р, /^су-
/^существенными. Поэтому для любого открытого множества G, G a Qd,
(р, /)-внутренний (кубический) диаметр DPti(G, Qa) совпадает
с внутренним (кубическим) диаметром D(G), т. е. с верхней гранью
длин ребер кубов De, вписанных в G.
10.2.3. Оценки точной константы в терминах (р, ^-внутрен-
^-внутреннего диаметра. В следующей теореме содержатся двусторонние
оценки Xp,9(G) при q^p^\.
* Например, легко проверить, что если G—куб с длиной ребра в, то
11

10.2.3. Оценки в терминах (р, /)-вн утреннего диаметра 343
Теорема 1. Пусть G —открытое подмножество Qd, такое, что
— (р. 1)-существенное подмножество куба Qd. Тогда:
\ (p, )ущ у Qd
1) для всех функций и е С" (Qd), обращающихся в нуль в окрест-
окрестности множества Qd\G, верно неравенство A0.1.2/1), в котором
1
C^dlDp.tiG, Qd)l'-«">" -•-); A)
2) если для всех функций иеС*(Qd), обращающихся в нуль
в окрестности множества Qd\G, верно неравенство A0.1.2/1), то
C^c2[Op.z(G, &)]< — <*—«-»>. B)
Доказательство. 1) Предположим сначала, что
Dp,i(G, Qd)<d и обозначим через б любое число из промежутка
(DpiiG, Qd), d]. Из определения (р, /)-внутреннего диаметра сле-
следует, что для любого куба Об множество e = De\G является
(р, /)-существенным подмножеством, т. е.
сар(е, Lp(D8e))>YS"-'p*. C)
В случае Dp, z (G, Qd) = d положим б = d. Тогда оценка C) также
выполняется, поскольку (по условию) е—(р, /)-существенное под-
подмножество куба D,6 —Qd-
Согласно первой части теоремы 10.1.2 и неравенству C)
cbnplq p
|J,/,Oe. D)
Построим покрытие куба Qd кубами De> кратность которого не
превосходит некоторого числа, зависящего только от п, и про-
просуммируем D) по всем кубам покрытия. Тогда
D{d)^fLpiQdy E)
Воспользуемся известным мультипликативным неравенством
I v Ц, (Qd) < с I v li Д} (EL о ^-' II v^ u, (qJ/1 F)
(см. лемму 1.4.7). Полагая в F) v = u — UQd и применяя неравен-
неравенство Пуанкаре |u-uQd\Lp(od)^cd\ V«|Lp(Qrf), получаем \^jU\Lp(Qd)^
^lH^Hi, Qd. Отсюда и из E), где q = р, следует оценка
Поэтому | и \Lp (Qd) ^c8'\u |p. ,. Qrf) G)
* Здесь и далее Оев— открытый куб с длиной ребра сб, центр которого
совпадает с центром куба ?Ve> a грани параллельны граням Clj.

344 § 10.2. Связь точной константы с (р, /)-внУтРенним диаметром
и в случае q = p первая часть теоремы доказана. Пусть
Суммируя неравенство
fLp m + вн* ||и ft, (Ов))
по всем кубам покрытия {Qg} и используя неравенство
() ' 0<8<1> получаем оценку
О
К
Остается применить неравенство G).
2) Пусть 0<6<Dp,i(G, Qd) и De —куб, имеющий (р, /)-не-
существенное пересечение с Qd\G. Обозначим через т| функцию
из C°°(?le), равную нулю вблизи д&6, единице на кубе De/г и
удовлетворяющую неравенствам | Vjr\ | ^ сЬ1, / = 1, 2, ... Если
V — любая функция из COT(Q.e)i равная нулю вблизи Qa\G, то
для функции и = т)У, продолженной нулем во внешность ?16, по
условию теоремы справедливо неравенство A0.1.2/3). Поэтому
Отсюда и из оценки
получаем
(8)
Можно считать, что 2с'С6-' + п(р"'-<г1)< 1, так как противопо-
противоположное неравенство и есть требуемое неравенство C). Тогда
в силу (8) У|к?(Об/2)^2с'СМр- i.?x6> и B) следует из второй
части теоремы 10.1.2, примененной к кубу ?i^. ¦
В каждом из случаев pl<n, р>\ или 1 = п, р=1 теорема 1
может быть сформулирована в терминах внутреннего диа-
диаметра D(G).
Теорема 2. Пусть G — произвольное открытое подмножество
куба Qd, G=?Qd и числа п, р, I удовлетворяют одному из условий
pl~> п, р>1 или / = /г, /э = 1. Пусть еще С —точная константа
в неравенстве A0.1.2/1), где q^[p, oo) Тогда
n^-x-l>">. (9)

10.3.1. Необходимое и достаточное условие ...
§ 10.3. ОЦЕНКИ ТОЧНОЙ КОНСТАНТЫ В ОБЩЕМ СЛУЧАЕ
Будем обозначать через 6 линейное подмножество простран-
пространства Wlp (Qd).
Наша цель — изучение неравенства
где меб и q — то же число, что и в теореме 10.1.2. Норму
в правой части A) можно заменить эквивалентен, оставив сла-
слагаемые, соответствующие / = / и j = k-\-\.
10.3.1. Необходимое и достаточное условие справедливости
основного неравенства. Пусть E— замыкание К в метрике прост-
пространства V'p(Qd) и Р* — множество полиномов П степени, не пре-
превышающей k, k ^ / — 1, нормированных равенством
d-n]Q |П|р<к = 1. A)
Теорема. Неравенство A0.3/1) справедливо в том и только
в том случае, если Р*П6-=ф.
Доказательство. Необходимость условия Ркf]й = ф оче-
очевидна. Докажем достаточность.
Если РаП6 = 0, то в S можно ввести норму |и|@ =
= 5j/=*+i^'~1\V/u\l (Qd)' превратив это множество в банахово
пространство. Пусть /—тождественное отображение @ в Lp(Qd).
Так как @сг Vlp (Qd)a Lq(Qd), то оператор / определен на <S.
Покажем, что он замкнут. Пусть |иш|@->0 и \ит — и\ь (Qd)-*'Q
при /п->оо. Тогда существует последовательность полиномов
{Пт}т>1 степени не выше k, такая, что ит — Пт->0 в Lq(Qd).
Следовательно, и = НтПт в пространстве VlP(Qd), и так как
Рь[}<&= Ф, то и = 0. Замкнутость оператора / доказана. Теперь
из теоремы Банаха следует, что этот оператор непрерывен, т. е.
что справедливо неравенство A0.3/1). ¦
В качестве примера рассмотрим класс б7" (Е) (г = 0, ..., / — 1,
Е — борелевское подмножество Qd (p, /)-уточненных функций ие
^Vp(Qd), Р>1, таких, что V/« = 0 (р, I — /)-квазивсюду на Е,
/ = 0, .... г.
Так как из любой последовательности (р, /)-уточненных функ-
функций, сходящейся в Vlp(Qd), можно выделить подпоследовательность,
сходящуюся (р, /)-квазивсюду (см. п. 7.2.4), то EГ(?) — замкнутое
подмножество Vlp(Qd).
Значит согласно теореме 1 неравенство A0.3/1) верно для всех
aeSr(E) в том и только в том случае, если в Р* нет много-

346 § 10.3. Оценки точной константы в общем случае
члена, удовлетворяющего условию V/II = 0 (p, I — /)-квазивсюду
на Е, / = 0, .... г
10.3.2. Емкости классов функций. Пусть П —многочлен из Р*
и пусть cap (б, П, Up (Qia)) = inf JQ | Vtu \p dx, где инфимум берется
по всем функциям и <=Lp(Q2d), таким, что сужение и — П на Qd'
принадлежит линейному подмножеству E пространства Vlp (Qd).
Свяжем с E следующие / емкостей:
САР*(@, lP{Q.w))= inf сар(@, П, Llp{Qid)).
{ППР}
Иначе говоря, САР*(б, L^Q^^ inf L |Vz«|Pdx, A)
{П, и) v»d
где инфимум берется по всем парам: {П, и}, ПеР», и (^ е®,
n-uesLUOu).!
Очевидно, что CAPft(S, Lp(Q.2d)) не увеличивается е ростом k.
Справедливо неравенство
САР*F, Vp«lu))*?><&-#. B)
Действительно, пусть T)e3JJ(Qi, Q2) и ца (х) = т) (x/d). Так как
1еР» и сужение функции 1 — ца на Qd равно нулю, то пара
{1, i)a} является допустимой для вариационной задачи A). Отсюда
и следует B).
Введем норму || и || ^ ((?^} = Е/=о ^ IV К (ад-
Следующее утверждение аналогично лемме 10.1.'2/1.
Лемма. Емкость САР* (б, Lp(Qd)) эквивалентна следующей
емкости класса 6:
.irr.w. C)
где инфимум берется по всем парам {П, в), ПеР», П-ве
eVUQd), «sS.
Доказательство. Имеем
САР*(<5, ^(Q«))^JQJV/(iw(n-^a))|*d«f
где Л —оператор продолжения из леммы 10.1.2/2. Правая часть
очевидно не превосходит с ||| П — Аи \\\р i . IP силу A0.1.2/6)
ЛП = П, поэтому, еще раз используя A0.1.2/6), получаем

10.3.3. Оценки точной константы в основном неравенстве 347
Минимизируя правую часть, получаем требуемую верхнюю оценку
для CAPft.
Докажем нижнюю оценку. Так как функцию (П — и) \q можно
-продолжить до функции из Up (Qtd), то классы допустимых функ-
функций в определениях обеих рассматриваемых емкостей одновре-
одновременно пусты или не пусты. Пусть ПеР*, v^Lp(Q2d), (TI — v)q eg.
Тогда емкость C) не превосходит IIMH^/ <c|Vzt»JLp(Q2dj. ¦
10.3.3. Оценки точной константы в основном неравенстве. Из
теоремы 10.3.1 следует, что неравенство A0.3/1) справедливо
в том и только в том случае, если САР*(б; Lp(Q2d))>0. Сле-
Следующая теорема дает двусторонние оценки точной константы С
в A0.3.1), формулируемые в терминах емкости CAP*(@; Lp(Q2d))-
Теорема. 1) Если САР*((?; Lp(Q2d))>0, то для всех функций
и е (? выполнено неравенство A0.3/1), в котором ¦
С ^cd»/* [САР*(<?; l\ (Q2d))]-1/P. A)
2) Если для всех функций иeS выполнено неравенство A0.3/1)
и если САР*(@; Llp(Q2d))^codn-pl, где с0 — достаточно малая по-
постоянная, зависящая лишь от п, р, I, k, то
С 5= cd-'я [САР* (<?; Up (Q2d))]/P. B)
Доказательство. 1) Пусть и—функция изб, нормиро-
нормированная равенством
[ и; Lp(Qd)| = d«/P, C)
и П —любой многочлен из Р*. Согласно лемме 10.3.2
Отсюда и из неравенства | Vtv \tp (pri) ^ cd1-11 Vtv \Lp (p^ + cd-41 v \l ^
получаем, что первая сумма в D) не превосходит аН||П — и\l (Qd\ +
+ e|V/U !!,,(<?„)• Значит,
[CAP*(g; Llp(Q2d))]1/P<,ciH\n-u\Lp{od) +
Для каждой функции ueVj, (Qd) найдется такой полином я сте-
степени, меньшей k-\-l, что
~ и К

348 § 10.3. Оценка точной константы в общем случае
Допустим сначала, что ||Vft+1«iI.p((?d)>Bc')-1d'!/p-*-1. Тогда
в силу A0.3.2/2)
[САР* (<?; V,, (Q2d))]1/P *S cd*-*11 Vft+1« |Lp (Qd). G)
Пусть теперь j VMu\]LpiQii)^Bc')-1dn'p-k-1. Из F) выводим
оценку |я — u\l (Qd)^2-Чп/р = 21и|/, ^ и, следовательно,
2-^"/? ^ 1 я |Lp {Qd) «S 3 • 2-№/р. (8)
Положим П = d"/p || л !llp((?d)Jt. Тогда из (8) получим
1п - " Ч (ад ^22"- d-n/p 1я Ч (<?*)" Ьр (<?„).
Правая часть очевидно не превосходит
= 21 я - и \}Lp {Qd) + 2! | я |Lp ((?rf) - \ и *Lp (Qd)! ==? 41 я - и \Lp (<?<f).
Используя оценку F), получаем 1П — и |l (Qd)«s4c'd*+1|Vft+i«||?, ^,
что вместе с E) и G) дает оценку
[САР*F; l\ (Q*))]1" <с SL* +, ^J«V,«Ilp (Orf), (9)
справедливую для всех функций meS, нормированных равен-
равенством C).
Из теоремы вложения Соболева и оценки A0.3.2/2) следует
\иК (ад ^ cd* + 1 + "<' ' I vft+1« ц, (ча) +
« (*--"-'>f иhD(Qa)^cd"-' + "'"' + > [CAP,(d /.{, (Q2d))]'1/Px
что вместе с (9) дает A0.3/1) с постоянной С, удовлетворяющей
неравенству A0.3.3/1).
2) Пусть в — любое положительное число и пусть 11 е Р*,
V1 еUp (Qzd), П — ф-(q ей, причем
5< м V/^'" dx^ САР* (S; ^(Qad^ + ed""'P>
Так как сужение гр — П на Qd принадлежит классу 6, то по усло-
условию теоремы

10.3.4. Класс @о(е) и емкость Capft(e, Llp(Q2d)) 349
Поскольку \р е L'p (Q2d), правая часть этого неравенства не
превосходит
Lp {Qd)
Аналогично | г|з |z.? {Qd) *S cd' +" <*" - p~'> 1 V;tJj Iz. (<?m)<c (c0 + вI/? d"/?.
Значит, | ф - П ta (<?rf) ^ IП |tff (<?(j) - с (со + в)** d«/«
и в силу A0)
I ф !l0 (cd) < в (с» + eI/" d»/» + cC (CAP* F; /.{, (QM)) + ed«-'pI/p. A1)
Заметим теперь, что \U\l (Qd) ^cd" <p~'— «"'»| Пjt ^. Эта оценка
следует из неравенства Гельдера, если p^q. В случае p>q ее
можно получить, например, следующим образом:
IП \Lp (Qd) < с (dw j Vft+1n \Lp (Qd) + d- <P"' - '"') IП iLq (Qd)) =
= cd«<P-'-^)|niS((?d).
Так как П ePft, то \U\Ln(Qd)=dnip. Поэтому
n(d) ^^
Используя малость постоянной с0, получаем A0.3.3/2). ¦
10.3.4. Класс do (e) и емкость Cap* (e, L'p (Q2<*)). Оставшуюся
• часть параграфа посвятим рассмотрению класса
go(e) = {ueC°°(Qdy. dist(suppи, е)>0}, A)
где е — компактное подмножество куба Qd.
Введем еще функцию множества е:
Сар*(в, LIP(QU))= inf infL \VJ\Pdx, B)
где p ^ 1 и {/} — совокупность функций из L'p (Qu)> каждая из
которых совпадает с многочленом IlePj в некоторой окрестно-
окрестности компакта е. Так как Ро = {±1}, то Саро(е, L'p (Q2d)) =
= Сар(е, Llp(Q2dj).
Покажем, что емкости Capft(e, L'p (Qu)) и CAP* (<&<> (е), Ц, (Qu))
эквивалентны.
Лемма. Справедливы неравенства
САРЛбо(е), /.'„ «?„))<Сар*(в, Llp(QM))^cCAPk{<l0(e), L'p (QM)).
Доказательство. Левое неравенство — очевидное следствие
определений обеих емкостей.
Докажем правое неравенство. Пусть П еР4, и sGo(e), А —опе-
—оператор продолжения из леммы 10.1.2/2 и T)d —функция, использо-
использованная при выводе неравенства A0.3.2/2). Из свойства (и) one-

350 § 10.3. Оценки точной константы в общем случае
ратора А следует, что функция х\а (П — Аи) принадлежит классу {/},
введенному в определении емкости Cap* (e, L'p (Q2d))- Поэтому
Сар* (е, Llp (Qu)) ^ | ц, (п-Аи)Л, < с | П -
Принимая во внимание равенство ЛП = П и оценку A0.1.2/6) для
функции у = П — и, заканчиваем доказательство ссылкой на
лемму 10.3.2.
Из теоремы 10.3.1, примененной к классу бо(е). и леммы по-
получаем следующее утверждение, совпадающее при А = 0 с теоре-
теоремой 10.1.2.
Следствие. 1) Если Capft (e, l'p (Q2d)) > 0, то для всех функ-
функций небо(е) выполнено неравенство A0.3/1), в котором
2) Если для всех функций и еЙ0 (е) выполнено неравенство
A0.3/1) и если Capк(е, Llp{Qid))<.Cf4n-Pl,adec0 —достаточно малая
постоянная, зависящая только от п, р, I, то
e, Llp(Q2d))YVP-
10.3.5. Нижняя оценка для Сар*. Выведем нижнюю оценку
для Capft(e, L'p(Q2d)) через емкость Сар(е, Llp~k (QM))-
Предложение. Справедливо неравенство
Cap* (e, L\ (QM)) ^ cd-"P Сар (е, ЦТ * @и)У A)
Доказательство. Достаточно рассмотреть случай d = 1.
Из неравенства
<?i)l oslj (Qi),
следует, что
Cap (e, L'p (Q,)) ^ с Cap {e, Ц,~" (Q,)). B,
Пусть IlePs и / — функция из Z,p(Q2d), такая, что, / = 11
в окрестности множества е. Очевидно, что для всех i = 1, ..., п
разность дП/dxi — df/dxi принадлежит классу @0(е). Пусть для
некоторого f
C)
где е — положительное число (зависящее только от k, I, n), зна-
значение которого указано в дальнейшем. Тогда
^, Lp~l(Qt)). D)

10.3.5. Нижняя оценка для Capj 351
Если для всех i = l, ..., неравенство C) не выполнено, то
с помощью условия нормировки 1П \l (^ = 1 получим оценку
В качестве е можно взять число 1 /Bс). Так как Ti = f на е, то
i/(*)I2sVa. x&e и, значит,
Отсюда^ и из D) следует неравенство
(e; L1,'1 (Яш)), Сар(е,
Применяя B), заканчиваем доказательство.
Приведем пример множества е, для которого
CaPl(e, ?j(Q,)) = O и Сар(е, L?(Qa))>0.
Пример. Пусть л = 3, р = 2, / = 2 и е —центр куба Qi
= {х: \xt\-tC.1/»}. Так как в силу теоремы вложения Соболева для
всех u^W)
то Сар (е, Ц (Q,)) ^ «г1 > 0.
Покажем, чго Capi(e, L| (Q2)) = 0. Пусть П = 2 V^3 x. Очевидно,
что IlePj. Обозначим через т)е функцию из 5Ш (Qe, Q»8), такую,
чтЬ [ V/r)e) ^ сг-J. Функция Пт)е совпадает с П в окрестности
точки е и, значит,
CaPl (е, Ц (Q,)) < \Qt | V2IlT]e) |a dx.
Но, как легко видеть, последний интеграл есть О(е). Итак,
CaPl(e, /4(Qi)) = 0.
Замечание. В связи с только что приведенным примером
рассмотрим квадратичные формы
Si (и, и) = j
52 (и, и) - JQi 2J,,. 1 (д*и/дх{ dx,f dx,
определенные на функциях и&С°° @i), равных нулю вблизи
центра куба Qi. Эти формы порождают операторы Аа — Л и А2 со
свободными граничными условиями на dQi и дополнительным усло-
условием ы = 0 в точке е. Из следствия 10.3.4 и сказанного в при-
примере следует, что первый из этих операторов — положительно
определенный, а второй —нет.
Вообще говоря, в случае р = 2 основные результаты этого
параграфа немедленно переформулируются как необходимые и

352 $ 10.3. Оценки точной константы в общем случае
достаточные условия положительной определенности и как двусто-
двусторонние оценки первого собственного числа эллиптического опера-
оператора, порожденного квадратичной формой S (и, и). Эта форма
задается на линейном подмножестве 6 пространства Vi (Qi) и удов-
удовлетворяет условию «коэрцитивности»:
(и, и) < с, 2)„
для всех
10.3.6. Оценки точной константы при малом (р, /)-внутреннем
диаметре. Здесь показано, что при условии малости (р, /)-внут-
реннего диаметра множества Qd\e точная константа A0.3/1)
(при q^ p^\ и E = Ко (е)) эквивалентна некоторой степени этого
диаметра.
Лемма. Пусть G —открытое подмножество куба Qd, такое, что
DPll(G, QdXcod, A)
где с0 — достаточно малая постоянная, зависящая только от п, р, I.
Тогда для всех функций и&С° (Qd), обращающихся в нуль в окрест-
окрестности множества Qd\G, справедливо неравенство
IVКtti)^c\Pp.'<g> Q*)V-'Sv'"kp(«„). B)
где 1 = 0, 1 /-1.
Доказательство. Достаточно предположить, что^=1 и
Положим D=*DPii(G; Qi). Так как б<1, то
) и согласно теоремам 10.2.3/1 и 10.2.3/2
Отсюда и из неравенства
IIV kp (Ql) < с (| V,u bp (Ql) + f и \Lp
следует, что
, р () р у д
Для оценки ||Vyu||i ^ при /^1 можно воспользоваться не-
неИтак, неравенство B) при у = 0 доказано.
Для оц V|| 1
равенством
IV К№) <с(I Vm U,(ад +1«
Теорема. Пусть q — mo же число, что и в теореме 10.1.2, и
пусть выполнено условие A). Тогда для всех функций u^Cco(Qd),
обращающихся в нуль п окрестности множества Qd\G, справед-
справедливо неравенство
(Qd) ^CZ'/^ + ^-'^JU kp (<w, C)

10.3.7. Приложение к граничной теореме едннственности ... 353
где k = 0, 1, ..., / — 1. Точная константа С в C) удовлетворяет
неравенствам
с, [Dp>, (G, Qd)Y -» <р- -•-)< с < с2 [Dp>, (G, Qd)]' - » <р- - *-»>. D)
(В случае n<Cpl, р>\ или п = 1г. р = 1 в C) и D) величину
Dp,i(G> Qa) можно заменить внутренним диаметром D(G, Qd).)
Доказательство. Правая сценка D) следует из A0.2.3/1)
и леммы, а левая содержится во второй части теоремы 10.2.3/1
и в теореме 10.2.3/2.
Замечание. Малость (р, /)-внутреннего диаметра сущест-
существенна для справедливости теоремы. В самом деле, пусть G — куб
Qj.cz:/?3 с исключенным центром. Тогда d=\, D(G)= 1/2, но со-
согласно замечанию 10.3.5 неравенство
l"U.«?,)^C|ViMlU№l) E)
неверно. (Эго легко увидеть и непосредственно, если положить в E)
и(х)=х?(х/ъ), где е>0, ? = 0 на В^О), ?=1 вне В»@).)
10.3.7. Приложение к граничной теореме единственности для
аналитических функций класса ЦA!). Из неравенства A0.1.2/1)
можно вывести некоторую оценку для интеграла от логарифма
модуля функции из L),, которая характеризует малость множе-
множества нулей функции, достаточную для конечности упомянутого
интеграла [91].
Пусчь Е — борелевское множество в ,Ra~l = {х = (х', хп) е /?":
л;„ = 0} и {В}—совокупность л-мерных открытых шаров с цент-
центрами в Z?"-1. Через 2В обозначим концентрический шар вдвое
большего радиуса. Пусть s (В) = mesn-i (Z?"-1 Л В), с(Е(]В) =
= сар(?П5. WlpBB)), S = %{B)s(B) и у.(х)-число различных
шаров В, содержащих точку х.
Лемма. Пусть <р — (р, 1)-уточненная функция класса Lp([}B),
равная нулю на E[\G. Тогда
[$ue] A)
где с = с(п, р).
Доказательство. Если (#\ S, ц) — пространство с конеч-
конечной мерой (д., а /-неотрицательная функция, заданная на SC и
измеримая относительно а-кольца S, то при любом р>0
ехр (A/1* (ST)) \^ log/ф)^ (A/ц (JT)) \st;fpdv.fp. B)
Поэтому
A IS (В)) ^n/?n_x log | Ф | dx1 ^ A Ip) log ((Ma (В)) $впл#_д | ф |" dx<),
12 В. Г. Мазья

354 $ 10.3. Оценки точной константы в общем случае
каков бы ни был шар В. Заметим теперь, что при р ^г 1
J
!
mesn(B) )в]*' cap (Б, W\, B5))
Js1 Yl
\Pdx)
и воспользуемся неравенством A0.1.2/1) и замечанием 10.1.3/3.
Имеем
(l/mesn (В)) Je | ф р dx < (с/с (? П S)) $ь I Vф |" dx.
Тогда A /s (В)) $fi ^„^ |ф |" rfx' ^ {с/с (Е Л 5)) $
и, следовательно,
^ » iv log I ф| ydx' = У1,ИЛ » 1 log
Применяя к последней сумме неравенство B), получаем нужную
оценку.
При помощи неравенства A; "может быть доказана георема
единственности для аналитических функций класса LJ, в круге
(см. с гатью автора и В. П. Хавина |91), где этот вопрос рас-
рассмотрен подробно и где указана библиография *).
Пусть Я—множестьо всех функций, аналитических в единич-
единичном круге U, и пусть ^*с:21. Говорят, что множество ?, содер-
содержащееся в промежутке @, 2я), есть множество единсценности
для X, если всякая функция / eSF, для которой litn f(reiti) = O
при любом 8е?, тождественно равна нулю на U.
Пусть Е — борелевское подмножество интервала @, 2я) и
{6} — соБокуптхмъ попарно непересекающихся открытых проме-
промежутков бс:@, 2л). Пусть еще /F)—длина 6, В —круг, диамет-
диаметром которого служит интервал 6, 2В — концентрический круг
вдвое большего радиуса и с(Е[\Ь) = сар (Е[\Ь; lfyLpBB)).
Пусть множество Е таково, что
?1F) log (I (в)/с (Е П б)) оо C)
и аналитическая функция / класса Llp (U) удовлетворяет условию
lim /(/ef0) = 0 при любом 6е?. Из A) следует (см. [91,
г—¦ 1 —0
* См. также задачу В. П. Хавина и С. В. Хрущева в книге «99 задач
комплексного анализа». Зап. науч. семинаров Ленингр. отд. Мат. ин-та им.
В. А. Стеклова АН СССР, 1978. т. 81, с. 242—245.

§ 10.4. Комментарии к главе 10 355
, 569 — 570]) равенство
Е" log (r lim о | / (ге'е) i) d8 = - сю,
Scoropce вместе с известной тегремой единственности для анали-
аналитических функций из класса Харди Н1 показывает, что /(z) = 0
йри всех ze.U. Итак, Е есть множество единственности для
UW).
Поскольку с(?¦ П6>'^j 1 при р>2, то в этом случае в C)
mo>khj спустить с(Е(]Ь). В случае р<.2 можно под с(?П^) по"
нмать (?б Wl(R2)
§ 10.4. КОММЕНТАРИИ К ГЛАВЕ 10
§ 10.1. Термин «несущественное множество» применительно
к множествам малой емкости Винера введен А. М. Молчановым
[99], где (в неявной форме) доказана теорема 10.1.2 при /7 = 2,
/ = 1. Потребовавший нового доказательства случай 1> 1 рас-
рассмотрен автором [64] (см. также В. Г. Мазья [66, 75]). Эти ре-
результаты были повтор. н л У. Дснохью [168], Р. А. Адамссм [143],
Дж. Полкингом [236].
Неравенство A0.1.3/3) и его частный случай A0.1.3/1), уси-
усиливающие первую часть теоремы 10.1.2, были установлены Л. Хед-
бергом [195] при р> 1 и при прмещи другого метода, для кото-
которого ограничение р Ф 1 существенно. В п. 10.1.3 эти результаты
получаются как следствия тесремы 10.1.3, доказательство которой
(но не формулировка) содержалось уже в работе автора [75].
Отметим, чго наше доказательство пригодно и для р=\.
Неравенство A0.1.3/3) играет важную роль в упомянутой ра-
работе Л. Хедберга, где решена известная проблема «спектрального
синтеза в пространствах С. Л. Соболева». Основной результат
Хедберга формулируется следующим образом.
Пусть и <=Wlp(R~), p>\, т — целое положительное число.
Пусть еще К—замкнутое подмножество Rn и Dy-u\K = 0 для всех
мулыпииндексоз а, 0 <~ \ а\ ^/ — 1. Тогда и ^Wlp (Rn \K), т. е.
существуют такие функции um^C?(R'i\K), что lim (ы —
p
Очевидным следствием этой теоремы Хедберга является сле-
следующая теорема единственности задачи Дирихле.
Пусть &cz R" — ограниченное открытое подмножество Rn и
и —решение уравнения А'и = 0 в Q из пространства W™(Rn),
удовлетворяющее условию Дирихле ГРи |аа = 0, 0 ^ | а | «S / — 1.
Тогда ы = 0 в Q.
12*

356 $ U.I. Постановка задачи
§ 10.2. Функция множества, аналогичная ?4 а, введена и ис-
использована для описания условий единственности решения первой
краевой згдачи В. А. Кондратьевым [40, 41]. В этих работах
она называется емкостью Cj. с. Связь Xlp, q с (р, /)-внутренним
диаметром установлена автором [77].
§ 10.3. Результаты этого параграфа (за исключением предло-
предложения 10.3.5 и п. 10.3.6) взяты из статьи автора [75]. Предло-
Предложение 10.3.5 было опубликовано в книге автора [214]. Сно вместе
со следствием 10.3.4 показывает, что для кснстанты С, рассмот-
рассмотренной в следствии 10.3.4, верна оценка
С <«**«/« [Сар (в, 11Р~кШ)]-Х/Р>
ранее полученная прямым методом в работе Л. Хедберга [195]
(ср. с более сильным неравенством A0.1.3/3), о котором шла
речь в комментариях к ч? 10.1).
В связи с материалом этой главы упомянем статью Н. Мей-
ерса [218], е которой изучается неравенство
где L — некоторый проектор ^(Q)-»-^ и Q —липшицева об-
область.
Некоторое семейство «полиномиальных (р, /)-емкостей», близ-
близких к cap((so(e), П, Lp(Q2d)), было использовано Т. Бэгби [150]
при исследовании проблемы аппроксимации в Lp решениями
эллиптических уравнений.
Глава 11
ВЛОЖЕНИЕ ПРОСТРАНСТВА Lp(Q)
В ДРУГИЕ ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА
§ 11.1. ПОСТАНОВКА ЗАДАЧИ
Если п>pi при р>\ и п~^1 при р=1, то для всех функ-
функций ие^(Й) справедливо неравенство Соболева
,M|z.p(O), A)
где q = pn/(n — pi)-1. В силу A) отображение ()
eLj(Q) непрерывно. Так как пространство & (Q) плотно в LP(Q),
это отображение можно единственным образом распространить на
Lp(Q) с сохранением непрерывности. Нетрудно показать, что по-
построенное отображение биоднозиачно. Действительно, пусть обра-

11.2.1. Вспомогательные утверждения 357
зом в Lg(Q) элемента u&Lp(Q) является нуль и пусть последо-
последовательность {Um\m2gi ФУНКЦИЙ «3 & (Q) СХОДИТСЯ К U В Lp (Q).
Тогда для всех мультииндексов а порядка / и всех функций фе
lira \a<?Daumdx= lira (—1)' L umD*<vdx = 0,
m-юо m-»oo
и так как последовательность Daum сходится в L^Q), то сна схо-
сходится к нулю.
Из сказанного следует, что каждый элемент пространства
;Lp(Q) (п> pi при р>\ или nSs/ при />=1) можно отождест-
отождествить с функцией из Lq(9.) и тождественное отображение L'p(Q)э
.э u->ueL? (Q) взаимно однозначно, линейно и непрерывно (т. е.
является топологическим вложением).
Если n^lp, /?>1 или п</, р=1 и если при некотором
<7>0 справедливо неравенство A) с кснстантой с, не зависящей
от uef(Q), то мы придем к тому ».е выводу. Однако при ука-
указанных значениях п, /, р неравенство A) выполнено не всегда и*
более того пространство Llp(Q) не всегда можно топологически
вложить в пространство обобщенных функций &?' (Q).
Теоремы этой главы содержат условия, необходимые и доста-
достаточные для топологического вложения L'P(Q) в пространства
^'(Q), L,(Q, loc) и Lg(Q) (§11.1 - 11.4). В § 11.5 найдены усло-
условия компактности вложения Llp(Q) в Lq(Q), а в § 11.6 резуль-
результаты первых параграфов применяются к исследованию первой
краевой задачи для эллиптических уравнений порядка 21.
§ 11.2. ВЛОЖЕНИЕ Llp(Q) В 3'(Щ
Цель этого параграфа—доказательство следующего утверж-
утверждения.
Теорема. Пространство Llp(Q) A^/j<oo) топологически вло-
вложено в ?$' (Q) в том и только в том случае, если выполняется
одно из условий:
1) п>pi при р> 1, /i5s/ при р= 1;
2) CQ — не (р, п/р)-полярное множество, если n = pl, р>\;
3) Си —непустое множество, если n<pl и nip—нецелое;
4) CQ — не (р, п/р)-полярное или не лежит в (п—\)-мерной
гиперплоскости, если n<pl, п/р —целое.
Принимая во внимание теорему 9.2/2, в приведенной форму-
. лировке можно вместо «(/?, п/р)-полярное множество» читать «мно-
«множество нулевой внутренней (р, п/р)-емкости».
11.2.1. Вспомогательные утверждения.
Лемма 1. Пространство Llp(Q) топологически вложено в ?$' (Q)
в том и только в том случае, если для любой функции <§щ.О2) (Q)

358 § 11.2. Вложение Ц, (Q) в SI (Q)
функционал
&(Q)=>u-+\au^dxi=(u, 1р)е^'(О) A)
непрерывен относительно нормы \\iu\L (Q).
Доказательство. 1) Если Lp (Ь) с ^'(Q), то всякая по-
последовательность и„е^' (Q), фундаментальная в норме г v,u х |ЦЬ
сходится в &' (Q), следовательно, функционал (и, »(:) непрерывен.
2) Пусть функционал (и, ф) непрерывен относительно н:.»рмы
| V/Ы |z. (Q). Тогда отображение A) можно по непрерывности рас-
распространить на Llp(Q). Остается показать, что мы получим таким
образом биоднозначное отображение.; Пусть ит— фундаментальная
последовательность в Lp (Q), сходящаяся к нулю в &' (Q). Оче-
Очевидно, что для всех фб^(Q) и всех мультииндексов а по-
порядка I
\Q <pDaum их = (-1)' \п umD*<p dx -> 0;
и так как последовательность Г)Рит сходится в LP(Q-), то сиз
сходится к нулю.
Следствие. Пространство LlpiQ) вложено в SJ' (Q) в том и
только в том случае, если для любой функции i|) e 2Ш (Q) и для
всех uef^(Q) верна оценка
|(Ы, itfKKlV,!!!^,,). ... B)
Лемма 2. Пространство Llp (п) вложено в 3' (Q) в том и
только в том случае, если для любой функции ф е & (Q) суще-
существует обобщенная функция T'ef''(Q) с носителем в CQ, та-
такая, что
| (ы, ф - Г) | ^ /f I v,u Itp (яЯ), uef (/?"), C)
Доказательство. Необходимость. Пусть !{, (Q) с:
cz^'(Q). Тогда по следствию для всех aef (Q) верно н ра-
равенство B). Пространство &(Q) можно отождествить с подпро-
подпространством 02? (Rn), продолжив функции нулем в Си. По теореме
Хана —Банаха функционал A) можно продолжить до функцио-
функционала и-*-(и, s) на &(/?"), непрерывного относительно нормы
iV| (ля), т. е. допускающего оценку
j, D)
где К не зависит от и. Так как s = ty в Q, то носитель обобщен-
обобщенной функции Г = г|з —s расположен в CQ- Оценки C) и D) экви-
эквивалентны.
"Достаточность. Пусть верна оценка C) Тогда функцио-
функционал ^(Д")эи->(и, s), где s = ijj— T непрерывен относительно

11.2.2. Случай Q = #» 359
«ормы ||V,u[L (Ля) на & (Rn), а, значит, и на Ш(Й), где он сов-
совпадает с A). Остается ссслаться на следствие.
'¦ Лемма 3. Пусть n^pl при р> I и п</ при р=\. Если
•для тбой функции ipe-^Q) существует обобщенная функция
Т е Wp~-1 (R") с компактным носителем в CQ, такая, что
{#, ф-Г) = 0 E)
для всех мультииндексов {5 порядка | Р | ^ k = [/ — п/р], то про-
пространство Lp(Q) вложено в S?' (Q).
Доказательство. Пусть Вр —шар {х: |х|<р}, содержа-
содержащий носители ij; и Т. Покажем, что для всех функций «е^(Rn)
справедлива оценка C). В самом деле, для любого полинома Р
степени не выше k
где т| —функция из & (BiQ), равная единице в В9. Пусть К =
|=|г|з — Т\ -I . Тогда
1 Wp> (R )
и, ф —7) sg,/C (ы —Я)п1 ,. _ч ^ С ( Ч,и ,|, |Ол\ + 11ы —Pjz. (в Л
Применяя неравенство fnf \u-P\l (вг)^С{Vt+,u\L (Bg,, где
{Я}— множество всех полиномов Я стег.ени не выше k, а гакже
неравенства i^k+iuti (b%j)<?\Vк+1иI,l (b2 j^c(VjuiL (лл), где </=
= pn[n— /?(/ — /г— 1)]л, получим C). ¦
11.2.2. Случай й = #л.
Лемма. Пусть n^lp при р>\ или п'<1 при р=\ и са-
саму льтииндекс порядка | а | < / — nip. Тогда существует последова-
последовательность функций uve^ (/?"), такая, что uv-^jca e &' (R") и
Доказательство. Пусть |а|</ — п/р и tj — бесконечно
дифференцируемая функция на полуоси @, оо), равюя единице
в окрестности отрезка [О, 1J и нулю в окрестности полуоси
[2, со). Очевидно, что последовательность и„ (х) ^ лг^п (v-11 л: [)
-стремится к х7- в &' (Q). Вместе с тем
Sv'"v!l („,п^const v»">+'« -'7^г°-
Пусть \а\ = 1 — п/р, Положим при xg Bvi\Bv = J
(v>2)
и через ф@ обозначим функцию из С°°[0, 1], равную нулю
вблизи < = 0,и единице вблизи ( = 1. Пусть еще ш? (х) = ф [yv (д:)]
при хе?^\В„ wv(x)=l вВ,и Шу(л;) = 0 вне flVi. Очевидно,

360 $ 11.2. Вложение Vp(Q) в @' (Q)
что последовательность uv (х) = x"a>v (х) стремится к х* в *&' {R").
Вместе с 1ем, так как | V/e>v(x)| <;const (log v)-1 \x\-J при />0,
то fV/Uvi;L (^)=^const(logv)-1(JBvi4BJx|('al-/)PdxI/p = const х
X (log v)VP-S ^-^O.
Теорема. Пространство Vp (Rn) вложено в &' (/?") в том и
только в том случае, если п>1р, р>\ или п^1, р=\.
Необходимость непосредственно следует из леммы, а достаточ-
достаточность-из оценки |иЦрЛ/(„_,р)(О)^с(п, Л P)IIV/u!|z.p<Q> и приве-
приведенного в § 11.1 доказательства биоднозначности.
Следствие. Пространство VP(Q) вложено в Ш' (Q) для всех
открытых множеств п в том и только в том случае, если п>1р,
р> 1 или n^sl, р=1.
Необходимость доказана в теореме. Продолжая любую функ-
функцию uef (Q) нулем в CQ, получаем вложение §t (Q) в 0&(/?"),
а, следовательно, и вложение 0' (/?") в ^' (fl). Поэтому L'p (fi)'cz
с L'p (Rn) cz ?$>' (Rn) cz &' (п), где знак с означает топологиче-
топологическое вложение.
11.2.3. Случай n = pl, /7>1.
Лемма. Если замкнутое множество Е не (р, 1)-полярно, то
существует обобщенная функция Т е W~' (Rn) с компактным но-
носителем в Е, такря, что A, Т)= 1.
Доказательство. Так как Е не (р, /)-полярно, то суще-
существует обобщенная функция Sef/'(/?"), ЭфО, с носителем
в Е. Пусть функция Г = ф5 такова, что (<р, 5)=1. Очевидно,
что обобщенная функция Г=ф5 удовлетворяет требованиям
леммы.
Теорема. Пусть п=1р, р>1. Для того чтобы Lp(Q) было
вложено в !%!' (Q), необходимо и достаточно, чтобы CQ не было
(р, nip)-полярным.
Доказательство. Необходимость. Из леммы 11.2.2
следует, что какова бы ни была функция ¦$&&(&), такая, что
A, \р)фО, неравенство не может выполняться для всех ые
е S! (/?"). Так как °LP (Q) с 0' (Q), то существует обобщенная
функция T^@?'(Rn), такая, что suppTczCQ и \(и, \р — Г)|<
s^c|V,«iL [яП) для всех ueS>№) (лемма 11.2.1/2). Очевидно,
что ТфО. Вместе с тем
\(и, Dl^cjv^j^^+Ku, Ч>I<с|иЦ(лЯ),
т. е. Т ^Wp~-' (Rn). Итак, CQ —не (р, п/р)-полярное множество.
Достаточность. Так как CQ — не (р, л/р)-полярное мно-
множество, то существует обобщенная функция 7\>е WJ'1 (Rn) с ком-
компактным носителем в Си, такая, что A, Г„)=1 Пусть я|з е J^ (Q)

11.2.4. Случай n<pl, п/р—целое, 1<р<со 361
и Г = (г|\ 1)Г0. Так как A, я|з— Т) = 0, то согласно лемме 11.2.1/3
(где k = 0) пространство АЦ, F) вложено в ^' (Q). ¦
11.2.4. Случай n<Cpl, п/р — дробное.
Теорема. Если n<.pl, п/р — нецелое, то для вложения L'P(Q)
в &' (Q) необходимо и достаточно, чтобы множество СО было
непусто.
Доказательство. Необходимость. Если СО = ф, то
по теореме П.2.2 пространство l'p (О) не вложено в &' (Я).
Достаточность. Пусть СОФф. Можно считать, что 0е
<= Си. Положим
где б—дельта-функция, D — вещественное дифференцирование,
k = [l-n/p] и г|)е^@). Так как k<l-n/p, то D*b e= W~'' (Rn)
при | а | sg: k и Т е W7^' (/?"). Кроме гого, очевидно, что (Xs, tJj — Г) =
= 0 при jp |=^k. Остается воспользоваться леммой 11.2.1/3. ¦
11.2.5. Случай л<р/, п/р — целое, 1<р<оо.
Теорема. Пусть n<_pl, п/р — целое, 1<р<оо. Пространство
L'p (Q) вложено в ?&' (Q) в том и только в том случае, если CQ
не (р, п/р)-полярное или не содержится в (п — \)-мерной гипер-
гиперплоскости.
Доказательство. Положим k = l — n/p.
Достаточность, а) Допустим, что множество СО, не
(р, п/р)-полярно. Тогда по лемме 11.2.3 существует обобщенная
функция Гое Wp~'(/?") с компактным носителем в СО, такая,
что A, 7\>) = 1. Положим ^Х^^в^И""^. Очевидно,
что Г —обобщенная функция из Wp~> (/?") с компактным носите-
носителем в СО.
Остается показать, что для любой функции if> e 2& (О) можно
выбрать числа па так, чтобы удовлетворялось условие A1.2.1/5)
для всех мультииндексов р порядка | р | а^й. Иначе говоря, должна "
быть разрешима система линейных уравнений
В силу того что (DvT0, 1)=0 при |yl>0. Эта система может
быть записана в виде
2as?3<UP!/(P-a)!)G\>, хР-») = (ф, jfi). A)
Матрица системы A)—треугольная с ненулевыми элементами на
главной диагонали (на ней расположены числа Р! (Го, l) = pi).
Значит, система A) разрешима.

362 § 11.2. Еложение ?'р(й)-в- J?' (Q)
б) Пусть CQ не лежит в (п — 1)-мерной гиперплоскости. До-
Допустим, что точки 0, а\, ..., ап расположены в СО. и аффинно-
независимы. Пусть еще я|з е ^ (Q). Введем обобщенную функцию
Т = Р9(— iV) б (х) + 2; ., Я,- (- iV) б (х - ау),
где Ро. Я|, ..., Я„ — однородные многочлены, степени которых не
превосходят k— 1. Так как р(/ — fe+l)>n, то Т <= Н?;Г<'(/?").
Выберем многочлены Яо, Яь ..., Рп так, чтобы выполнялось
условие A1.2.1/5). Пусть Q(%) и /?(?) — суммы членов степени не
выше k в разложениях Тейлора преобразований Фурье f (?) и
\j:(|.) соотвегственнэ и пусть г (?) — однородная часть /? E) сте-
степени k. Очевидно, что
t (I) = Я
QE) = Z
Так как формы (а/, 5) независимы, можно выбрать полиномы
Яь Я2, ..., Ял так, чтобы выполнялось равенство
Многочлен Яо определим равенством Я0 = — (Я1 + ... + Я„)+ /?—>.
(Ясно, что степень Яо меньше fe.) Игак, Q(?) = /?(?), что равно-
равносильно, A1.2.1/5).
Необходимость. Пусть L'piQ) вложено в *%' (Q) и пусть
CQczRn-1 (положим для определенности R"-1~{x:x,=0}). Пока-
Покажем, что CQ не (р, п//?)-полярно. По лемме 11.2.1/2 для любой
функции ^?^(9) существует такая обобщенная Функция Т
с носителем в CQ, что выполнено неравенство A1.2.1/3). Так как
Ш с: А?"-1, то Т допускает представление
т ^У б <*> ® 5, (х2 х.) =
где Sje&' (Я"-1), suppS/cCQ (см. [242, т. 1, с. 101]). Пока-
Покажем, что Г,=?0 и что T,(=WJ-l(Rn). Имеем
Пусть Ро Pi —различные числа из @, 1). Интерполяционная
формула Лагранжа показывает, что существуют постоянные
То, •••, Y/, такие, что аь= 2'=0Т/Я (Ру) для любого полинома
Р (t) = Oo + ai + ... + ait'. В частности, если P(t) = tk, то
l=2!-oV/P}- B)

11.2.5. Случай п. < pi, nip — целое, 1 < р < оо 363
Для полинома f (t\x, |2, ..., la) = ^'fa.oll^/(h, ••-, ln)V имеем
Ei$»(Ei &¦) = S/-oV/7* (Ру^г. ?2 t,). Следовательно,
= 2/-o(Y//P/)T'<*i/P/. **• ••¦• x»>-
Определим функцию
Из неравенства A1.2.1/3) для ij> — T получаем
| (и, ib* - Тк) К К1V/U > ,„я, D)
при всех и е ^ (/?"). Мы можем считать, что функция г|> е ^ (/?")
удовлетворяет условию (\р, х*)=1 Отсюда в силу B) и C) сле-
следует, что (г|)*, х*) = 1. Допустим, что Г* = 0. Тогда для всех
I (и, \f*) | <: К . ^iU 1L ,яп\.
р
Применяя лемму 11.2.2, получаем отсюда, что (i)jft, Jc*) = O. Итак,
ТкФ0 или, что равнссилыю, 8кф0. Так как ifEf (Д то
из D) следует, что Th <= WJ-'(/?").
_ Покажем теперь, что &(х{\ <g>Sk e Wkp~l (Rn) Как известно
(см., например, [121, § 4, гл. 6]), для любого набора функций
gj ^W'p~!(R") (/' = 0, 1, ...,/— 1) существует такая функция
Фе^{, (/?"), что d}Q>/dx/ = g/ при х е Л"J и
| Ф! j , „ ^ К У
Пусть gj = O при /^=fe и gk = u, где и — любая функция из
Wp~"(Rn). Тогда
с ' М '
\ \ < о.
Так как Tk e й7^'(/?"), то, применяя только что Сформулирован-
Сформулированную теорему, получаем
Итак, 8(xl)®Sk(=Wpn'''(Rn) и множество Си не (р, п/р)-по-
лярно. ¦
Итак, теорема 11.2 доказана полностью.

364 § 11.3. Вложение L'p(Q) в Lq{Q, loc)
§ 11.3. ВЛОЖЕНИЕ L'p(Q) В Lg(Q, loc)
Следующее утверждение показывает, что теорема 11.2 содер-
содержит также необходимые и достаточные условия вложения Lp (Q)
в L9(Q, loc).
Теорема. Пусть n^pl при р> 1 или п<Ц при р=\- Если
пространство L'p (й) вложено в 2Р' (Й), то оно вложено в Lq (Q, loc),
где q — любое положительное число при n = pl и в С (Q) при п < pi.
Доказательство. Пусть G-^ область в Rn с компактным
замыканием и гладкой границей, G(]Q^ ф. Покажем сначала,
что существует набор функций фа из &(G()Q), \а\ — I— 1, такой,
что матрица |(ф^, х^)\ невырождена. Пусть ф — любая функция
из J?'(C«)Q), удовлетворяющая условию (ф, 1)=#=0, и пусть
<f>a = Dx(p. Очевидн), что еслиа>Р, то (фа,^)=(—1);а'(ф, Оад^)=0
и матрица |(фа, х-')\ — треугольная. Так как на глйвной диагонали
находятся числа (—1)а:а! (ф, \)ФО, то определитель отличен
от нуля и существование функций фа доказано.
Поскольку Lp (Q) d ^ (п>, го по следствию 11.2.1 справед-
справедлива оценка
|(ф«, ")|*Stf|V,uJVQ) A)
с постоянной К, не зависящей от и. В силу теоремы вложения
Соболева для всех ме^(й)
что вместе с A) дает lu\Lg{G)^K\\VtufLp(Q).
Биоднэзначность отображения L'p (Q) э и ->¦ и е Lq (Q, loc) до-
доказывается точно так же, как и в § 11.1. ¦
Приведем еще два следствия теоремы 10.1.2, дополняющие тео-
теорему этого иараграфа.
Следствие 1. Пусть п = 1р, р>\ и Qd— куб, для которого
, Lp(QM))>0.
Тогда для всех функций ме^(й)
<?d)^CIV<"lva>' B)
где С^cd"P'9[Cap{Qd\Q, L'p(QU))Y1-
Доказательство. Согласно теореме 10.1.2
1«tq {Qd) < cd"?'* [Cap (Qd \ Q, Ц, (Qu))l ^ufi,,. Q-r C)

§ 11,4. Вложение L'p (Q) в Lq (Q) (случай p~^q) 365
.Поскольку при /3s 1, qj = pn[n — p(l — /)]-' справедливы не-
равг но!ва
\Lq (
To !"!p. л (Эм *Sc i V*u Ik (Q), что вместе с C) дает оценку B).
Следствие 2, 1) Если pl>n, nip —целое и Cap($rf\Q,
LnpP(Qidj)>0, то для всех функций ие^(й)
max | и |"^С| Vjiil,,,), D)
еде С <с*"-» [Cap fe \ Q, ; )}]
2) ?сли pl>n, nip —нецелое и Оа\пф ф, то для всех функ-
функций и e^(Q) справедливо неравенство D), г^ C^cdlp~n,
Доказательство. 1) Пусть kp — n и д>п. Тогда, исполь-
используя теорему Соболева, получаем
max ] и ] *=s cd'-*-1 max | V,-k-,u \ < cd'-*-"/? j V/-Au |L ((? >. E)
В силу неравенства B), в котором / и и заменены на k и V^u,
имеем
{od)
[Cap «?rf \ Q, Ц,
Отсюда и из E) следует D).
2) Пусть / — такое целое число, что l — p-1n<lj<.l — p-1n-\-l.
Так как p(l — j)<:n, то
где q = pn[n — (l—Dp]-1. Условие рA — /+ 1)>л эквивалентно
неравенству q>n. Следовательно,
max | УЛ1и | ^cd' - •-» | V/и Jt (Qrf) <cd-/»- + '-/ +' | V/U ?Lp @).
Отсюда и из неравенства max | u ¦ <; cdJ-1 max | V^-tu | полу-
\ Qd
чаем D). В
§ 11.4. ВЛОЖЕНИЕ L'p(Q) В Lt(Q) (СЛУЧАЙ p^q)
В этом параграфе найдены необходимые и достаточные усло-
условия справедливости неравенства A1.1), где и —любая функция
из ^(Q).
Полученные здесь результаты можно вывести (правда, только
для р> 1) из Солее общих теорем, доказанных в § 12.2, где изу-

366 § 11.4. Вложение Up (Й) в Lq (Q) (случай ps^q)
чается пространство L'P(Q, v). Тем не менее отдельное изложеггае
показалось автору не лишенным смысла из-за важности рассмат-
рассматриваемого частного случая, возможнхти включить р=1 и боль-
большей наглядности формулировок.
11.4.1. Услозие в терминах (р, /)-знутреннего диаметра. Если
в доказательствах теорем 10,2.3/1 и 10.2.3/2 положить d = oo, го
получается следующее утверждение.
Теорема. Пусть число q удовлетворяет одному из условий:
(i) q^[p, npin — p!)-1], если pSsl, n>pl;
(ii) q^[p. со), если р>\, n = pl;
(iii) q e[p, oo], если pl>n, p>\ или l = n, p—l.
Неравенство A1.1) справедливо в том и только а том случае, если
(a) Dp/(Q)<;co при n>pl, р^\ или п = р\, р>1;
(Р) D(Q)<x) при n<pl, р>\ или 1 = п, р=\.
Точная константа С в A1.1) удовлетворяет соотношению
( [D-,,(Q)]'-"<"-'-«'> в случае (а),
С* ^^ i ill
\ [D(Q)]! -я(р-'-«-ч в случае ф). у>
11.4.2. Услозие в терминах емкости. В силу теоремы Соболева
при q=-pn(n — pi)-1, n>pl и при q = co, p — l, l = n неравен-
неравенство A1.1) справедливо, каково бы ни было множество Q. Поэтому
остаётся рассмотреть только случаи: q^pnin—pl)-1 при п = р!
и q^oo при n<.pl, р^\.
Приведем необходимее и достаточное условие справедливости
неравенства A1.1), формулируемое в других терминах и вытекаюг
щее из теоремы 10.1.2.
Теорема 1. Пусть q—mo оке число, что и в теореме 11.4.1.
Неравенство A1.1) справедливо в том и только в том случае, если
при некотором d>0 имеет место неравенство
infCap(&\Q; L?(QM))>0. A)
Здесь инфимум берется по всем кубам Qd с длиной ребра d и гра-
гранями, параллельными координатным осям.
Доказательство. Достаточность. Построим в Rn
кубическую решетку с длиной ребра. Пусть dlp-n Cap (Qd \ Q;
Llp (Qm)) Ss x > 0 для любого куба решетки.
Согласно чеэреме 10.1.2
I и К, (ад <«J2Li **!**" !?.№,).
Суммируя по всем кубам решетки, получаем неравенство

11.4.2. Условие в терминах емкости 367
Для оценки правой части воспользуемся неравенством
I V*u Ji, (Q) <= с J V/Ц !х (Q)!|U||z. (Q). B)
Тогда
, Рк-ш)) ii«itn(O) • C)
Так как Cap(Qd\Q, Z-p(Q2d))^cdn-''', то х^с и, следовательно,
правая часть неравенства C) не превосходит
Значит, Nli^Qj^cdP'x-'IV/uSi^Q). D)
Докажем неравенство A1.4.1/1) в случае q>p. В силу тео-
теоремы 10.1,2
Суммируя по всем кубам Qd и используя неравенство
< ^ а< (а«" ^ 0, е ^ 1), получаем
! и If, (В) < сх-У/* 2) -1 **-" So IV I" djc-
Теперь неравенство B) дает
I и \lq ,u, < с*-У«Р'« 2/ =.dP/-" Iv'" ifp'o) I« Й"w//I}-
Применяя D), получаем окончательно
I и S?o (Q) < схЧ»р/я+р'-» 5 V,u l?p (Q). E)
Необходимость. Пусть Qd — произвольный куб с ребром d
и и— любая функция из пространства C°°(Qd), такая, что
dJst(Od\Q, supp«)>0. Заменим в A1.1) функцию и функцией т\,
где r\<=&(Qd), л=' «а Qa/г, |Vyrj )<cd-'. Тогда
Отсюда I и \Lg {Qa/2) < сС 2)=оdM p (d)
Применяя известнее неравенство
!« Ь-р (QKd) < cd I vu |ip (ад+с; u kp (Qdn)
и неравенство Гельдера, получаем

368 § 11.4. Вложение Llp(il) в L, (fi) (случай
Поэтому если число d столь велико, что 2сФН+л<?-р)/и< 1, то
Поскольку
I'" К (<?,) < cdn ("-v)/w+1 iv" 1% (<?,) + c 1" U
то |u U, (Qd) SJ
В силу второй части теоремы 10.1.2 либо Cap(<3d\Q;
^ydn-Pl, где у —постоянная, удовлетворяющая неравенству
A0.1.1/2), либо
Cap(&\Q; Llp(QM))^cd"P'9(С + d'+n<j»-«>/w)-*. В
Теорему 1 можно перефразировать следующим образом.
Теорема 2. Для справедливости неравенства A1.1) необходимо
и достаточно, чтобы выполнялось одно из следующих условий:
1) при некотором d0
inf Cap (Qd \ Q; Llp (Rn)) > 0, если n > pi;
2) при некотором d > 0
inf Cap (Qd \Q; Llp (Qid)) > 0, если n = pl, p > 1;
<?d
3) область Q не содержит произвольно больших кубов, если:
(i) n<.pl, p>l,(ii) n^l, p = \, (in) n= pi и дополнение Qсвязно.
Доказательство. В случае 1) утверждение следует из
теоремы 1 и предложения 9.11/3. Случай 2) содержится в тео-
теореме 1. Если n<.pl, условие Cap(Qd\Q; Llp (Qid)) s= cd"-pl экви-
эквивалентно непустоте Qd\Q, что доказывает 3) при пФр1, р>\.
Пусть n = pl, р>\ и дополнение Q связно. Если Q содержит
произвольно большие кубы, то очевидно, что неравенство A) не
выполнено. Пусть в Q нельзя поместить кубы любого размера и
пусть число do столь велико, что при d>d0 любой куб Qa имеет
непустое пересечение с дополнением Q. Тогда в Rn \ Q сущест-
существует континуум, содержащий точки из Qd и R"\Qid. Остается
применить предложение 9.1.2/1. -
Приведем пример бесконечной области, для которой выпол-
выполняются условия теоремы 1.
Пример. В каждом кубе Q\i], г 5^1, координатной решетки
с ребром 1 выделим замкнутое подмножество еи лежащее на s-мер-
ной плоскости, s>n— pl^sO. Пусть inf т&^const>0. Обозна-
Обозначим через Q дополнение множества (J^. Тогда в силу предло-
предложения 9.1.1/4 Сар (еь Lp(Qil)))^const >0 для любого куба Q^K
Значит, для множества Q неравенство A1.1) выполнено.

11.5.1. Определения и леммы 369
§ 11.5. ВЛОЖЕНИЕ Vp(Q) В Lq(Q) (СЛУЧАЙ p>q^\)
11.5.1. Определения и леммы. Продолжим изучение неравен-
неравенства A1.1). Здесь получено необходимое и достаточное условие
при q^[l, p). В отличие от случая q^p, рассмотренного ранее,
это условие зависит от q. Оно означает, что с «малой погреш-
погрешностью» множество Q есть сумма кубов Q('>, кратность пересече-
пересечения которых конечна, а длины ребер {d«}i> i удовлетворяют условию
«Малость» описывается в терминах введенной в п. 10.3.4 емкости
^; L'P(QM))= inf infL \4p\Pdx.
Напомним, что S5/-! — множество полиномов степени, не превы-
превышающей / — 1, нормированных равенством d-n L iH\p'dx=l,
а {и} — множество функций из Lp(Qm), каждая из которых совпа-
совпадает с многочленам Пе^н в окрелнэсти комлакга exzQd.
Будем использовать следующее утверждение, представляющее
собой частный случай (& = / — 1) следствия 10.3.4.
Лемма 1. 1) Пу:ть е — компакт ног подмножество куба Qd,
такое, что Cap/-i(e; Lp(Q2d))>0. Тогда для любой функции ые
eC^CQrf), равной нулю в окрестности множества е, выполнено
неравенство
Здесь 1 «S q «S рп (п — pl)-x при л > pi; 1 <; q < оо при п = pi;
1 <:q^оо при n<pl и
A^cd^lCap^ie; Up(Qu))}11".
2) Если для^ любой функции и е С°° (Qa), равной нулю в окрест-
окрестности компакта eczQd, выполнено неравенство A1.1) и если
Сарг-г(е, L'p (Qu)) ^z Codn-pl, где с0 — достаточно малая постоян-
постоянная, то
А ^ cd"i* [Cap,-, (e; Llp (Q?d))\-1/P.
Определение 1. Пусть у — некоторая достаточно малая
константа, зависящая только от л, р, I. Компактное подмноже-
подмножество куба Qd назовем (р, I, /—^-несущественным, если
Сар^О?; L'p(QM))<Yd"-'" B)
В противном случае множество е называется (р, I, I — ^-су-
^-существенным. •

370 « П.5. Вложение L'p(Q) в L? (Я) (случай
Совокупность (р, 1,1 — ^-несущественных подмножеств куба Qd
обозначим через ^^Vi(Qrf).
Лемма 2. Пусть l^q^p и для любой функции и^С*(О)
имеет место неравенство A1.1). Тогда существует такая завися-
зависящая только от п, р, q, l константа с, что для любого куба Qd
с ребром d, d^cCp?/<»<p-'?)+'w)) множество Qd\Q является
(р, I, I — \)-существенным подмножеством Qd.
Доказательство. Рассмотрим функцию и eC°°($rf), гакую,
что dist(suppu, Qlt\Q)>0. Пусть ц^СТ(Qi), tj = J на QVS и
% (*) = Л (x/d)-
После подстановки функции ux\d в неравенство A1.1) имеем
Огсюда и из неравенства
I и ho (ад < cd' I V,u \Lp {Qd) + cd»«»- p vw | u 1^ (Qd/2) C)
(см., например, лемму 1.1.11) получаем
i«К «м <СоС Оv'" Ч <ад+d"{9 P)IP9-11" t
Следовательно, при 2c0Cdn 19-p)/p9-i
\uK(Q"n)^2c°CiV
Вместе с тем из C) и неравенства Гельдера вытекает, что
Поэтому при 2c0Cd"(9-p)/p<r-t<\
I и k0 (Qd) < с, (d-(« Ц (ад
Предполагая дополнительно, что dn{p-9)IP9+l>C, получаем оценку
/« lUp (Qd). D)
Если 0Д2ё*^н(<?1/)- то доказыв"ать нечего. В противном
случае согласно п. 2) леммы 1 из неравенства D) следует оценка
cd"'" [Сарм {Qd \ Q, L'p (Qid))]-1/P ^ 2cxd» b
или, что то же самое,
CaP/_x(Qd\Q, Ц,(Qu))^(с/2сг)"&*-#.

11.5.2. Основной результат 37
Но всегда можно считать, что yz?z(c/2ci)p. Следовагельнс
Определение 2. Куб QD = QD (х) с цен гром в точке х е i
называется критическим, если
D = su?{d: &\Q<=^Vi(Q*)b
Из леммы 2 вытекает следующее утверждение.
Следствие. Пусть 1 <;q<р и для любой функции и е
eCi°(Q) имеет место неравенство A1.1). Тогда для любой точк\
x^Q существует критический куб QD(x).
В дальнейшем Q<*> — открытый куб, грани которого парад
лельны координатным осям, а длина ребра равна dit t = l, 2, ..
Пусть еще rQ'l) — концентрический подобно расположенный ку
с длиной ребра cdt и \i — положительная константа, згвисяща:
только от п.
Определение 3. Покрытие {Q(i)}/>i множества Q принад
лежит классу С,,р.ч, если:-1) F>\Qe9fH(Pin). где P"> = nQ<')
2) Р1')ПЯ.1/' = ф. если 1ф\\ 3) кратность покрытия \Q[i)} не пре
восходит постоянной, зависящей только от п; 4) Q(''\fie
i a^/-i (Q10); 5) ряд (lj сходится.
11.5.2. Основной результат.
Теорема. Пусть \^q<.p. Неравенство A1.1) выполнено дл
есех ч eLp(Q) в том и только в том случае, если существуем
покрытие множества й из класса Ci_Pi4.
Доказательство. Необходимость. Пусть х е Q
Qd — Qri(x), D-r длина ребра критического куба с центром в точке х
Положим
g (d) = dfi-* Сарм {Qd \ Q; I', «?„))
и обозначим через d такое число из промежутка [D, 2D], чт<
g(dOsy, где у — константа из A1.5.1/2). Пусть еще М — сово
купность кубов {Qrf},eQ.
Покажем, что для любой последовательности \QU)\ непересе
кающихся кубов из М ряд A1.5.1/1) сходится. В силу леммь
11.5.1/1, каково бы ни было число ef > 0, существует такая фунх
ция VieC°(Qli)), что dist(suppo,-, Q<7"»\fi)>0 и
Будем считать, что е(=у^Гр/- Тргда в силу A1.5.1/2)

372 § П.5. Вложение ?'p(Q) в L?(Q> (случай
Оценивая правую часть с помощью неравенства
| v, lLp {Q,t>) < cd\ 1 V,o, lL
(см. лемму 1.1.11) и используя малость постоянной у, приходим
к оценке
J I"dx<cdi«~p)lq-pl\Vi fLq {чла,у C)
Пусть &e=JW>), E»=l в v«Q">, |VA|^crfT*. ft=l, 2, ...
Введем функцию а; — ^. Очевидно, что
Применяя B), получаем
I
Отсюда
По
V/"»iz.p(Q'
и из C)
условию
следует
георемы
оценка
><«*?"-'¦
для любой
функции и е Ш
(Q) верно
D)
не-
у р фу f
равенство A1.1). Нормируем функцию щ равенством
l",fL (Q«>)=a/ (о)
и положим в A1.1) u = 2]f=i"<- Тогда
1
В силу D)
что вместе с E) дает {^^d1-pm4~p)){p'4)"'^сСК Значит,
ряд A1.5.I/I) сходится.
Согласно теореме 1.2.1 существует последовательность кубов
{Qu)b>i <^М, образующая покрытие Q конечной кратности, ври-
чем inQU)(]iiQ^] = 0, 1ф\. Сходимость ряда A1.5.1/1) была
только что доказана (рассуждение следует провести для последо-
последовательности попарно непересекающихся кубов fiQ(/)). Следова-
Следовательно, (Q(I'>}[>| — покрытие класса CtiPiV.
Достаточность. Пусть и еCf {Q) и {Q(i)},->i — покрытие
множества Q, принадлежащее классу Q,p,?. Очевидно, что

11.5.3. Вложение Llp(Q) в Lq(Q) для «бесконечной воронки» 373
где A,i = dr'"l'"?Cap/-1(Qw\Q; L,BQ<'>))- Применяя неравенство
Гельдера, получаем
)Q\u?dx^[2jt3*\K' ) ¦ [2ji^\Ki[)Q4>\u\ ах) \ •
В силу леммы 11.5.1/1
Отсюда вытекает оценка^
11 и |»dr<e(S, >, хГо-'у-9»" (Jo | v/U
и так как QW\Qi^' (Q(i)), то
В доказательстве необходимости попутно установлено следую-
следующее необходимое условие справедливости неравенства A11).
Предложение. Пусть {QU)}( >i — последовательность непересе-
непересекающихся кубов, расположенных в й. Тогда для справедливости
неравенства A1.1) при q<p
необходимо, чтобы ряд A1.5.1/1)
сходился.
11.5.3. Вложение L'P(Q) в
Lq (Q) для «бесконечной ворон-
воронки».
Пример. Рассмотрим область
Q:
(хг, хп), х* =
Рис. 25.
где ф— ограниченная убываю-
убывающая функция.
Покажем, что для справедливости неравенства A1.1) при р>
> <7 :> 1 необходимо и достаточно, чтобы выполнялось условие
$~[ф(г)]аЛ<оо, где a = n-l+lpq/{p-q). A)
Доказательство. Обозначим через {аД и {&,} числовые
последовательности, определяемые соотношениями
Ьо = О, 6Ш - 6, =
(Ь,),
1.
Очевидно, что а;, 6,—»-0 при i-*-oo и что разности ai+i — a,-,
Ь,+1 — 6,- не возрастают.
Построим две последовательности кубов (рис. 25):
ixt = {а,
!, 2!
1},

374 - § 11.6. Компактность вложения Llp{Q) в W? (Q)
Кубы Qe'ii покрывают область Q. Все (я — 1)-мерные грани
за исключением двух, полностью лежат в1?*\й и
Cap (Q& \ Q; l\ BQ&)) 5* с Fц., - 6,)"""•
Отсюда и из предложения 10.3.5 следует, что Qi%\Q —
(р, I, I — 1 )-существеннсе подмножество куба Qext-
Допустим, что интеграл A; сходится, и покажем, что сходится
ряд A1.5.1/1) Действительно,
Так как функция <р не возрастает, то
Значит, 2Г=о (a'+i - а«)а+1 < [ф @)f+1 + Z1Ф @J1 * и достаточное
условие теоремы 11.5.2 выполнено
Докажем необходимость условия A). Допустим, что
\о [ф (*)]а d/= оо и что для любой последовательности располо-
расположенных bQ непересекающихся кубов ряд A1.5.1/1) сходится.
В силу монотонности функции ф
= 27=, 1ф Fj)]" (б|« - ь>) ^ 2Г-. Lft;+1 Гф «)р л.
Следовательно, для последовательности кубов Qjn'. ряд A1.5.1/1)
расходится. Мы пришли к противоречию Остается воспользо-
воспользоваться предложением этого пункта.
§ ИЛ. КОМПАКТНОСТЬ ВЛОЖЕНИЯ ?'О(О) В Lg(Q)
В этом параграфе получены необходимые и достаточные усло-
условия компактности оператора вложения L'P(Q) в Lq(Q), p, q^\.
11.6.1. Случай p<,q.
Теорема. Для относительной компактности множества <У —
= |ue^r(Q): |V<u|l 0)^1} в Lg(Q) необходимо и достаточно,
чтобы выполнялось одно из следующих условий:
1) для любого d>0
lim inf Cap@d\?2; L, №))>№-", A)
0-«>Qrfc«'l\flf>
если п > pi. Здесь k — положительная постоянная, не зависящая
от d;

11.6.1. Случай ps=<7 375
' 2) для любого d > 0
lirn^ inf Cap(&\Q; VP(Qt*))>b, B)
если n = pl;
3) множество Q не содержит бесконечной последовательности
непересекающих/я кубоз, если pl>n или если pl = n и множество
R" \ Q связно.
Доказательство. Дост-а точность. Прежде всего отме-
отметим, что в силу предложений 9.1.1/3, 9.1.2/1 и следствия 9.1.}
условия теоремы эквивалентны нер?венству
lim inf Odp{Qd\Q; Llp(Qidj)>ftd"-" C)
(см. доказательство теоремы 11.4.2/1). Отсюда и из первой части
теоремы 11.4.2/1 получаем A1 1) для всех ue^(Q), а значит,
и ограниченность множества «F в Wlp(Q).
Поскольку всякое ограниченное подмножество Wlp(Q) компактно
в Lg (Q \ flp), то достаточно доказать неравенство
где е — любое положительное, ар — достаточно большое число.
Пусть iieC00^"), ч = 0 в В1/2, т]=1 вне Я, и цр (х) = ц (х/р).
Обозначим через d зависящее от е малое число, значение кото-
которого будет уточнено в дальнейшем. Согласно условию C) сущест-
существует столь большой радиус p(d), что при p>p(d)>l для всех
кубов Qa, QdczRn\ Bp/i, выполнено
Поэтому из неравенства A1.1), в котором роль множества Q
играет Q \ flp/2, следует
I и пр hq (q \ вр/2) < ck-W^*P» | V, (ицр) lLp {Q ч Вр/2).
Мы могли заранее выбрать число d так, чтобы выполнялось не-
неравенство ck idfp-w/i < e. Тогда
II« hq (Q \ вр) *S се 2'-=0
,(O)'
чхо доказывает первую чгсть теоремы.
Необходимость. Пусть е —любое положительное число.
Предположим, что множество aF относительно компактно в Lq (Й).
Тогда существует столь большое число р = р(е), что для всех

3/6 § 11.7. Приложения к задаче Дирихле... ,
Обозначим через Qa любой куб с ребром d, расположенный вне
шара flp. В доказательстве второй части теоремы 11.4.2/1 пока-
показано, что либо
где у —постоянная, удовлетворяющая неравенству A0.1.1/2), либо
Cap (Qd \ Й; Ц, (Q2d)) ss cdnP"> (e + d'+»<
11.6.2. Случай р><7. Следующее утверждение показывает, что
при р > <7 ^ 1 оператор вложения Lp (п) в L? (й) вполне непре-
непрерывен и непрерывен^юдновременно.
Теорема. Для относительной компактности множества аГ =
= {MGf(Q): |Vzu|l (Q)<1} в L?(Q) (\<^q<p) необходимой
достаточно, чтобы для Q существовало покрытие класса Ci>p_g.
Доказательство. Необходимость непосредственно следует
из теоремы 11.5.2. Докажем достаточность. Пусть {Q("}i>i — по-
покрытие Q класса C/iPl?, d,—длина ребра куба Q(l), e —положи-
—положительное число и N — столь большой номер, что
. A)
Обозначим через р радиус такого шара Вр = {х: |*|<р}, что Bp/i
содержит кубы QA) Q(W). Из неравенства A1.5.2/6) для мно-
множества Q \ Вр/2 получаем
где т]р— та же функция, что и в доказательстве теоремы 11.6.1.
Отсюда и из A) немедленно получается оценка
Теперь утверждение теоремы следует из компактности вложения
Z/Q) B ^"'(Qn(
§ 11.7. ПРИЛОЖЕНИЯ К ЗАДАЧЕ ДИРИХЛЕ
ДЛЯ СИЛЬНО ЭЛЛИПТИЧЕСКОГО ОПЕРАТОРА
Пусть / — целое положительное число и i, / — мультииндексы
порядка не выше /. Рассмотрим измеримые ограниченные в Q
функции а^, такие, что ац = ац для любой пары (i, j). Пусть
для всех комплексных чисел tt, |i| = /, и для почти всех хей
V = const>0. A)

11.7.1. Задача Дирихле с неоднородным граничным условием 377
На пространстве /4(Й) определим квадратичную форму
Я G, Л = $„ 2,,, = ¦ /,=lauD'TDJTdx.
Очевидно, что полунормы [9{ (Т, Т)]1/2 и IV/T]1/., (Q) эквивалентны.
Далее показано, как результаты предыдущих параграфов этой
главы применяются при исследовании задачи Дирихле для
оператора
11.7.1. Задача Дирихле с неоднородным граничным условием.
Лемма. Пусть L{(Q) есть подпространство ^'(Q), Тогда любая
функция Т е Lj (Q) представляется в виде
Т = и + п, A)
где и^Ц(п), /геД(й) и Ап = 0 (в смысле теории обобщенных
функций).
Доказательство. Введем в L[ (О.) норму Щ (и, и)]1/г. Пусть
T = Ui + hi (i = 1, 2) — два разложения типа A). Поскольку
A(hx-h2) = 0 и (u!-u2)e= Lj(Q), то 9?(«i-«a, A1-A2)=0. Сле-
Следовательно, Щ («i — иг, Ui — ut) = 0 и их = ua. Единственность пред-
представления A) доказана.
Пространство L[ (Q) становится гильбертовым, если в нем
ввести любое из скалярных произведений
ЯлгG\ G) = 4fl(T, G) + N-*(T, G)z.l(@), N=l, 2
где (о — непустое ограниченное открытое множество, о с Q. Обо-
Обозначим через uN проекцию функции Т е L[ (Q) на /4(Й) (по усло-
условию La (Q) — подпространство La (й)) в пространстве La (й) с нор-
нормой [9ЫС, G)]1'2. Тогда
Ям(Т-и„, ф)^=0. B;
Как было отмечено в § 11.3, из вложения Z,*(Q) в ^'(й;
следует вложение L[(Q) в L2(?2, loc), а, значит, и оценка
где С —постоянная, не зависящая от uN. Отсюда и из очевидной
неравенства Щ (uN, un)^31n(T, T) следует, что последователь
ность uN можно считать сходящейся слабо в L[(Q) и в L2(Q
к некоторой функции и из ??(?2^ Переходя к пределу в B), по
лучаем, что для функции h = T—u справедливо равенстве
9}(Л, ф) = 0, где ф —любая функция из L[(Q). Ш
Представление A) позволяет найти решение уравнения Ап = 0
«принимающее вместе со своими производными порядка не выш<

378 § 11.7. Приложения к задаче Дирихле...
/ — 1 те же граничные значения, что и Т», т. е. решает задачу
Дирихле для уравнения Ah = 0. Поэтому содержащиеся в тео-
теореме 11 2 условия вложения Ц (й) в <S)' (Q) дают формулируемые
в терминах B, /)-емкссти критерии разрешимости задачи Дирихле
для уравнения Ah = 0. Именно справедливо следующее
утверждение.
Теорема. Для того чтобы любая функция Т е Ll2 (Q) была
предспгавима в виде A), необходимо и достаточно, чтобы выпол-
выполнялось одно из условий: 1) п>2/; 2) Сйфф при нечетном п,
п<2/; 3) CQ - множество положительной B, п/2)-емкости при
п = 2/; 4) CQ не содержится в (п — 1 )-мерной гиперплоскости или
является множеством положительной B, п/2)-емкости при чет-,
ном п, п<2/.
11.7.2. Задача Дирихле с однородным граничным условием.
Результаты § 11.4, 11.5 дают условия^однозначной разрешимости
в Ц (Q) первой краевой задачи для уравнения Au=f с правой
частью из Lr(Q).
Постановка задачи. Пусть / — известная функция из
L4-(Q) (q' =q(q — l)-1, оо^^>1). Требуется найти обобщенную
функцию TgLj(Q), удовлетворяющую уравнению AT = f-
Следующий факт хорошо известен.
Лемма. Для разрешимости задачи Дирихле при всех f e Lq- (Q)
необходимо и достаточно, чтобы для любой функции и е ^ (Q)
выполнялось неравенство
Q). A)
Доказательство. Достаточность. Поскольку для
всех «ef (Q)
то функционал (f, и), заданный на линеале 02? (Q), плотном в L{ (й),
ограничен в L'i(Q). Следсвательно, по теореме М. Рисса сущест-
существует такой элемент Т s I* (Q), что для любой функции и &?? (Q)
справедливо равенство (/, u) = sJJ(T, и), эквивалентное уравне-
уравнению AT = f.
Необходимость. Каждая функция «ef (Q), располо-
расположенная на единичной сфере пространства Li(Q), порождает функ-
функционал (v, /) определенный на Lq- (й). Так как любой функции
f^L4-(Q) соответствует решение Tf задачи Дирихле, то | (и, /)|^
<.| V,T/i?.l(Q). Следовательно, функционалы (v,J) ограничены на
каждой функции / gL,' (il). Тогда нормы (и, /) ограничены в сово-
совокупности, что эквивалентно неравенству A). Ш
При q^2n(n — 2!)-1, п>21 (г. также при q = oo, n = 21) нера-
неравенство A) не можег быть верным для всех и с одной и той же

П.7.3. Дискретность спектра задачи Дирихле 379
константой. Вместе с тем, если q — 2n (п — 2/)-1, п>2/, неравен-
неравенство A) справедливо, какова бы ни была область Q. Оставшиеся
случаи были рассмотрены в § 11.4, 11.5. Для q> 2 теорема 11.4.2/1
вместе с леммой- приводит к следующему результату.
Теорема 1. Первая краевая задача разрешима в /4(й) при есех
f<=L«-(Q) Bssg'>2n/(n + 2/), n=»2/ или 2^-q'^\, n<2l)
в том и только в том случае, если выполнено одно из условий:
1) существует такое d>0, что infCap(Qd\Q; /.*)>• О б слу-
чае п>21;
2) существует такое d>0, что infCap(Ed\Q; L[(Q2d))>0
в случае п=21;
3) область Q не содержит произвольно больших кубов, если
п < 2/ или если п = 2/ и дополнение к О, связно.
При q<2 из теоремы 11.5.2 и леммы получаем следующее
утверждение.
Теорема 2. Первая краевая задача для уравнения AT =/ разре-
разрешима в Z,J(Q) при всех f ^L4-(Q), 1<^<2, в том и только
в том случае, если существует покрытие множества Q из класса С/,4,9,
имеющее конечную кратность.
11.7.3. Дискретность спектра задачи Дирихле. Квадратичная
форма $(м, и) порождает в L2(Q) самосопряженный оператор А.
По известной теореме Реллиха, необходимым и достаточным усло-
условием дискретности спектра этого оператора является компактность
вложения Ll%(Q) в L2(Q). Поэтому из теоремы 11.6.1 получаем
следующий формулируемый в терминах B, /)-емкости критерий
дискретности спектра.
Теорема. Для дискретности спектра оператора А необходимо
и достаточно, чтобы выполнялись следующие условия:
1) для любого d>0
lim inf Cap(Qd\Q; L\)->kdn-il, если п>21.
(Здесь и далее k — положительная константа, не зависящая от d.)
2) для любого d>0
lim inf Cap(Qd\Q; Li(Q2d))->k, если n = 2l;
. 3) область Q не содержит бесконечной последовательности не-
непересекающихся одинаковых кубов, если п<2/ или если п = 21 и
дополнение к Q связно.

§ 11.7. Приложения к залаче Дирихле...
11.7.4. Задача Дирихле для несамосопряженного оператора.
Рассмотрим квадратичную форму
Щи, u) = ]Q^luUl^laij(x)D'uDTudx ^
(i, / — n-мерные мультииндексы).
Задачу Дирихле с однородным граничным условием для
оператора
поставим следующим образом. Пусть / — непрерывный функиш нал
на W{(Q), требуется найти элемент из пространства Wj(?2), для
которого I
33 (ы, ф) = (ф, f), A)
какова бы ни была функция (p^W'}(Q).
Следующее утверждение представляет собой конкретизацию
известной теоремы из теории гильбертова пространства (см., на-
например, [58, 9.1, гл. 2]).
Лемма. Если для всех ф е W[ (Q.)
то задача Дирихле A) однозначно разрешима.
Обозначим через Г такую положительную постоянную, что
для всех комплексных чисел &, h'l^'- Пусть еще
%а = inf \\ V(u ft, (о,: ! ы |t, (О) = 1, , и <= U, (Q)}.
Теорема. Пусть выполнено одно из неравенств:
Ьг.1(?1)<соу/Г, если n^s2l,
8(О,)<л0у/Г, если я< 2.',
где 62,П^) —B, 1)-внутренний диаметр Q, 6"(Q) — внутренний
диаметр Q, а с0 — некоторая постоянная, зависящая только от п
и I. Тогда задача Дирихле A) однозначно разрешима.
Доказательство. Очевидно, что
*(и, u)-Re©(«,
Используя неравенство | Vku \ц {0) < с | Vtu |*/'@) | и |^-$', и е l\ (Q),

|5 11.8. Комментарии к главе 11 381
получаем
Я (u, u)-Rcb(u, u)^G/2)|V,ujil(O) + c(r«'/vt|-1)t"!l,(O).
Следовательно,
Re «(и, и)=s (v/4) | V,u PL w + (*qY/4 - (сГ2'/?2'))!« ft, <g>- B)
Остается воспользоваться теоремой 11.4.1, согласно которой
¦21,
n<2i. m
Гб,.,(Й)-г', если я;
Q \ б fQ)-a?, если я-
Итак, задача Дирихле однозначно разрешима для областей
с малым B, /)-внутренним диаметром при п^21 или с малым
внутренним диаметром при п<2/.
§ 11.8. КОММЕНТАРИИ К ГЛАВЕ 11
§ 11.1, 11.2. Ж. Дени и Ж.-Л. Лионе [167] в связи с воп-
вопросом о применимости метода ортогональных проекций к задаче
Дирихле для оператора Лапласа дали следующее описание мно-
множеств Q, для которых пространство L\(Q) вложено в @t' (Q). Это
вложение имеет место при п^З для любого множества Q, при
п = 2, если емкость Винера дополнения CQ положительна, и при
п — 1, если дополнение CQ непусто. Доказательство Дени и Лионса
используег тонкую теорию потенциала,
Для любого целого / вопрос о вложении L% (Qj в *&' (Q) был
решен другим методом Л. Хермандером и Ж.-Л. Лионсом [200].
Их результат был сформулирован в терминах B, /)-полярности.
В работе автора [66] было отмечено, что условия теоремы Херман-
дера и Лионса можно переформулировать в терминах введсни и
в [64] /-гармонической емкости.
Метод доказательства теоремы 11.2 представляет собой моди-
модификацию метода работы Л. Хермандера и Ж.-Л. Лионса [200].
Изложение в основном следует статье автора и А. А. Хволеса [92],
где получен следующий результат,
Теорема. Пусть р > 1, / > 0 и h'p (Q) — пополнение !2$ (Q) по
норме | (— Л)'/2 и jL tRny {В частности, hlp(Q) = Vp (Q) для целого I.)
Пространство hlp (Q) вложено в Off' (Q) в том и только в том
случае, если выполняется одно из условий:
1) n>pl; 2) cap(CQ, Яр)>0, если n = pl; 3) Спфф, если
n<pl и I—nip —дробное; 4) либо cap(CQ, //p/p)>0, либо СО.
не лежит в (п — 1)-мерной гиперплоскости, если n<ipl, 1 — п/р —
целое.

Э82 § 11.8. Комментарии к гларе 11
§ 11.3—11.6. Результаты эти* параграфов получены авто-
автором [75, 77, 80].
§ 11.7. Изложенная здесь схема приложений теорем об гн е-
гральных неравенствах к краевым задачам в вариационной ферме
хорошо известна (см., например, Ж. Дени и Ж--Л. Лионе [167]),
Ж.-Л. Лионе и Э. Маджсн.х [58].
Критерий дискретности спектра задачи Дирихле для огератора
Лапласа (теорема 11.7.3 при /= 1) найден А. М. Молчановым \9'].
Для любых целых / теорема 11.7.3 доказана автором [64], Анало-
Аналогичные результаты для более-общих операторов приведены в § 12.3.
Однозначная разрешимость задачи Дирихле для оператора В
(см. п. 11.7.4) в области малого B, ^-внутреннего диаметра, по-
понимаемого в несколько ином смысле, установлена В. А. Конд-
Кондратьевым [40, 41] (см. комментарии к § 10.2). Известны и другие
приложения результатов главы 10 к теории эллиптических урав-
уравнений (теоремы типа Фрагмена — Линделефа для эллиптических
уравнений произвольного порядка —Е. М. Ландис [49], оценки
собственных чисел оператора задачи Дирихле в неограниченней
области —Г. В. Розенблюм [112], М. О|елбаев [106, 107], усло-
условия регулярности по Винеру) гр?ни».ной точки для полигармони-
полигармонического уравнения — автор [215], автор и Т. Дснчев [85].
Теоремы, доказанные в п. 11.7.2, справедливы и для квази-
квазилинейных эллиптических уравнений. Вот пример обобщения такого
рода [73].
' Рассмотрим урагнение
где / — суммируемая в Q функция, a — мультииндекс порядка /,
D%=:dl/dxcfl...dx*". По паре одинаковых индексов производится
суммирование. Все функции вещественны.
Допустим, что функции а< н прерывны при почти всех x^Q
по совокугнэсти всех остальных переменных и при любых зиаче-
ниях этих переменных измеримы по х. Кроме того, предположим,
что для любого вектора у = {уа} при некотором р>\ справедливы
неравенства
Будем считав выполненным условие «монотонности»: если ьифу, то
\аг{х, v) — arjL(x, w)](va — wa)>0.
Назовем функцию и е L'p (Q) П L (Q, 1ос) решением задачи
Дирихле: Au = f в Q, ы = 0 на dQ, если для ^(Q)

§ 12.1, Вспомогательные утверждения 383
При помощи 1еоршы Ж. Лере и Ж.-Л. Лионса [167] нетрудна
показать, что эта задача разрешима для любой функции /е L<,'(Q),
1^^'<оо, \/q+\/q' = 1, в том и только в гом случае, если
Llp(U)czLq(Q.) Отсюда и из теорем, доказанных в§ 11.4 и § 11.5,
следуют явные необходимые и достаточные условия разрешимости.
Глава 12
ВЛОЖЕНИЕ Vp(u, v) В W?{u)
В этой главе рассматривается пополнение Lp{u, \) простран-
пространства 2& (Q) в метрике f V,u Jt (Ц, +1 и jt (Q. v>, где р > 1, Q — откры-
открытое подмножество R" и v —мера в Q.
В § 12.2 показано, например, что пространство $0 (Щ, снаб-
снабженное метрикой Llp(R", v), непрерывно вложено в Lp(Rn) в том
и только в том случае, если при достаточно большом d для любого
куба Qa с ребром d
inf v (QrfX^Ss const >0. A)
Здесь \ё\ —совокупность всех подмножеств куба Qa, имеющих
достаточно милую емкость еар(е, L'p{Q?>dj)- Соответствующий опе-
оператор вложения вполне непрерывен в том и только ь том случае,
если выполнено условие A) и infv(Q,,\e) стремится к бесконеч-
ности, когда куб Qd удаляется в бесконечность (§ 1-2.3).
В § 12 4 рассматривается вопрос о возможности замыкания
некоторых операторов вложения. Одна из георем этого параграфа
утверждает, что тождественный оператор, определенный на & (Q)
и действующий из LP(Q) в L'P(Q, v), допускает замыкание в том
и только в том случае, если мера v абсолютно непрерывна отно-
относительно (р, /)-емкости. В § 12.5 доказанные ранее критерии
переформулируются в случае р = 2 как необходимые и достаточ-
достаточные условия положительной определенности и дискретности спектра
самосопряженного эллиптического оператбра, порожденного квад-
квадратичной формой
§ 12.1. ВСПОМОГАТЕЛЬНЫЕ УТВЕРЖДЕНИЯ
Лемма 1. Для любой функции ueC°°(Qd) верно неравенство
С^г.«. 4,+i ? '""WA)

384 § 12.1. Вспомогательные утверждения
где v — мера в Qd, инфимум берется по всем компактным множе-
множествам е cz Qa, таким, что cap (е, Lp (Q2(/)) ^ Ып~р1 (X — произволь-
произвольная постоянная), полунорма ||р, /, Qd введена в п. 10.1.2.
Доказательство. Будем считать, что среднее значение uqu
функции и в кубе Qd неотрицательно, и положим
2т = d-*ip \ и \Lp (Qd), ex~{x€= Qd: и (х) ^т}.
Очевидно, что Вик.^^Ци-тЦ^ + т^
и, значит, l"tp(Q(/)<2l"-Tl^(O(/). B)
Рассмотрим случай сар(ег, L'p (Q2</)) > Ып'р1. Если й^^-т.то,
применяя к функции и— т теорему 10.1.3 и используя B), выво-
выводим оценку
«l?./.Qrf- C)
Если же uQd<.%, то в силу неравенства [и — й<^ \l
получаем
I" К («rf) ^ 2 0 " |I
(Здесь мы воспользовались неотрицательностью функции й<?..)
Итак, при сар(ет, L'p (Q2</)) > hi*- справедлива оценка C). В слу-
случае cap (ex, L'p (Qid)) =б Ып-р1 имеем
v (Q, \ в)) |! и \lp (Qrf. v).
Отсюда и из C) следует неравенство A).
Лемма 2. Пусть е — компактное подмножество Qa, такое, что
сар(е, Z.J,(QM))<|uf»-»», D)
где |х — достаточно малая зависящая только от п, I, p положи-
положительная постоянная. Тогда
inf (\u\tl (Rn l\u\L (Rn))^c(d-'+d»<>>v(Qd\e)V>>). E)
Доказательство. Очевидно, что достаточно ограничиться
случаем d=l. Согласно замечанию 9.3.2 существует функция
Э9?(е, Qa). такая, что 0^ф*=г1 и
F)

§ 12.2, Непр ерывность оператора вложения \} (Q, v) в W™ (Q) 385
Обозначим через w произвольную функцию из класса CfiQi),
равную единице на Qx,2 и удовлетворяющую условию О*^(о<;1.
Для функции и = соA—ф), которая очевидно принадлежит классу
Cf(Qi\E), получаем неравенства
JQi G)
«S С, + Г2 I ?;ф |L (лЯ) < Cj + CoC!!ji1/P. (8)
Оценим норму функции и ъ Lp снизу:
I" h (««) S* I (о ILp (Л») -1Ф 8Lp (лл) ^ 2-»/р -
-IfyPt (я-) sup (I"Il (j?-)/Iv<«Iz. (л-)).
Используя малость постоянной jx, отсюда и из F) получаем оценку
\u\l (r")^2-1-я/р. Объединяя последнее неравенство с G) и (8),
приходим к E). ¦
Из доказательства леммы 2 следует, что достаточно считать
число |х удовлетворяющим неравенству
inf (8V'"Il (Wi«lt (/?"))p. О)
где Со — константа в F).
В дальнейшем подмножества куба Qrf, удовлетворяющие нера-
неравенству Сар(е, Lp(Qi,,))^ydn-Pl, где n^pl, у = цс;\ с# —кон-
стан га в (9.3.2/5), будем называть (р, /)-несущественными (ср.
с определением 10.1.1). При pl~>n, как и ранее, единственным
(р, ^-'несущественным, по определению является пустое множество.
Совокупность всех (р, /)-несущественных замкнутых подмно-
подмножеств куба Qd, как и ранее, будем обозначать через ^"(Qd),
§ 12.2. НЕПРЕРЫВНОСТЬ ОПЕРАТОРА ВЛОЖЕНИЯ L'p (Q, v) В W? (Q)
Пусть п — произвольное открытое множество в R" и v — мера
в Q. Через fa обозначим множество всех кубов Qd, пересечения
которых с СО. (р, /)-несущественны.
Введем число
D = DpJ(v, Q)= sup /d: d«-P'^ inf v(^\e)\. A)
Очевидно, что D — неубьгеающая функция множества Q. При v = 0
величина D совпадает с введенным в § 10.2 (р, ^-внутренним
диаметром множества Q.
13 В. Г. Мазья

386 $ 12.2. Непрерывность оператора вложения Llp(Q, v) в W™(Q)
Теорема 1. Пусть 0«Sm«S/, p^r<oo, / — m > л/р —
Тогда:
1) неравенство
верно для всех ы s Co° (Q) в том и только в том случае, если су-
существуют такие положительные постоянные d и k, что для всех
кубов Qd из Fq и всех компактов Е из ®^"(Q</)
v(Qrf\?)Ssfc C)
2) для наименьшей константы в неравенстве B) справедливы
оценки
1CD'l/l/D 1}С D)
Доказательство. Сначала докажем правое неравенство D)
и необходимость условия C). Из определения D следует, что для
любого е>0 существует куб QdeFa, для которого
=s inf v(Qd\e)
и D^d^D — e, если D<oo, d>e-\ если D = oo.
Пусть e e »^* (Qrf). Согласно следствию 9.3.2/2 множество Е =
= ell(Q</\Q) удовлетворяет условию A2.1/4), и по лемме 12.1/2
найдется функция и &СТ(Q<i\E), такая, что
tulLi)(Qd). E)
t
Используя очевидные неравенства
1 и \Lp {Qd) < ct mln {d*w | и \Lf (
из E) получаем
и | w
Так как е—сколь угодно малое число, то правое неравенство D)
доказано.
Если имеет место B), то из правого неравенства D) и из усло-
условия 1>п/р — п/г следует, что D<oo. Но тогда при d = 2D и
k = dn~P' выполняется C).
Докажем достаточность условия C) и левое неравенство D).
Покроем R" решеткой кубов Qd, где d — такая постоянная, что
неравенство C) выполнено. Если куб Qd имеет (р, /)-существен-

$ 12.2. Непрерывность оператора вложения L'p(Q, v) в W™ (Q) 387
ное пересечение с R"\u, го по геореме 10.1.2
^fLp(Qd)^CdP'\ulPp.LQd.
Если же $d\Q eE^lQd). то по лемме 12.1/1
Суммируя по всем кубам решетки, получаем
1«11„ (й) < с 2) _,dP/1V tp (a) + с*-"d" I«l?p (в. v). G)
Применяя неравенство A1.4.2/2) i неравенство Гельдера, из G)
получаем
\и \lv ш. <cd"' I V,u l?p(О) + ckM» Iu |?B@. v). (8)
Так как оператор вложения Wlp в W? непрерывен, то доста-
точн<сть условия C) доказана
Пусть /? = maxjd, (d'lk 1)l/pl\. Тогда из (8) получаем | ы;!/. ^
^cR'fui., Отсюда следует оценка для точной константы С
?р iQ. v)
в неравенстве B)
Заменим здесь и на u{x/R). Тогда
С ^ С SUp
И! m
<c/?'-»'Wraax|/?-ffl, 1} sup тпг1-- (9>
Можно предположить, что D<oo. Из определения величины D
получаем, что для d = 2D, k^d"-?1 выполняется неравенство C).
Подставляя в (9» \=*2D, получаем левое неравенство D). ¦
Так как при pl~>n несущественным является только пустое
множество, то в этом случае георема 1 допускает следующую
эквивалентную формулировку, не использующую понятия емкости
Теорема 2. Пусть />/>n, Oagm^/, p=^r<oo, 1 — т>
>п/р — п/г. Тогда:
1) неравенство B) выполнено для всех uef (Я) в том и только
в том случае, если при некоторых d>0 uk>0 для всех кубов Qd,
QdczQ верна оценка v (Qd) > k;
13*

388 § 12.3. Компактность оператора вложения L'p(Q, v) в W™ (Q)
2) для наименьшей константы С в неравенстве B) верна оцен-
оценка D), где
D = DPi/(v, Q)= sup {d: d"-p<^v(Qd)}. A0)
Qd<=Q
Формулировку части 1) теоремы 1 можно упростить и в слу-
случае pl = n, когда Rn \ Q — связное множество.
Теорема 3. Пусть pl = n и множество Rn\Q связно. Нера-
Неравенство B) выполнено для всех и е & (Q) в теш и только в том
случае, если существуют такие постоянные d>0 u fe>0, что
для всех кубов Qd, Qd cz Q и всех (р, ^-несущественных компактов
F czQd справедливо неравенство C).
Доказательство. Следует установить только достаточность
сформулированного условия, поскольку необходимость установ-
установлена в теореме 1.
Пусть Qd — куб координатной решетки, имеющий непустое пе-
пересечение с Rn \ Q. Тогда куб Qu содержит континуум длины,
не меньшей d, принадлежащий /?"\Q. Поэтому согласно пред-
предложению 9.1.2/2 cap (Qid №, l'P (Qm)) 5э с.
Отсюда и из теоремы 10.1.2 следует неравенство
||и fLp (Qa) ^cd" | и \рр.,, Qd, usf(Q). (II)
Из этой оценки, примененной к каждому кубу Qd, пересекаю-
пересекающемуся с Rn\Q, и неравенства F) для кубов QdczQ полу-
получим G). Дальнейшие рассуждения —в точности те же, что и в до1
казательстве достаточности условия C) в теореме 1. ¦
§ 12.3. КОМПАКТНОСТЬ ОПЕРАТОРА ВЛОЖЕНИЯ
§ 2 КОАК
L'p (D, v) В W? (О)
12.3.1. Существенная норма оператора вложения. Пусть Е —
тождественное отображение пространства С?°(й), рассматриваемое
как оператор из пространства L'P(Q, v) в пространство W? (/?").
Поставим в соответствие оператору Е его существенную норму,
т. е. величину
P = PP.i.m = inf|?-r|, A)
где {Т\ —множество всех вполне непрерывных операторов;
L'P(Q, v)-+W?(Rn)-
Теорема. Пусть 0=^т</, р^г<оо, / — т>п/р — п/r.Тогда:
1) р <; оо в том и только в том случае, если D = DPm t (v, Q) <oo;

12.3.1. Существенная норма оператора вложения 389
2) существует такая постоянная с > 1, что
00 00
c-1p^Dl-n^+n'rmax{D~m, 1}<ср, B)
где S = Dp.,(v, fi)= lira D,.,(v, Q\QN), C)
W-юо
Qw — куб с центром в точке О.
Доказательство. Утверждение 1) следует из теоремы
12.2/1. Докажем левее неравенство B). Пусть TN (N = 1, 2,...) —
оператор умножения на функцию т] (N~xx), где т] е CS° (Q2), tj =• 1
на Qx. В силу теоремы 12.2/1 для любой функции usCo°(Qa)
справедливы неравенства
Поэтому при N^sD имеем
Из D) и известной теоремы о компактности следует, что опера-
оператор TN вполне непрерывен: Llp(Q, v)-*-W?. Применяя теорему
12.2/1 к множеству Q\QN, для любой функции «еС^°(й) по-
получаем оценку
где DN~Dp,i(\, Q\QN). Отсюда, используя E) и переходя
к пределу при N -*¦ оо, приходим к левому неравенству B).
Докажем правое неравенство B). Можно предположить, что
оо оо
ОфО. Очевидно, что D15=D2Ss...Dr55...2=D. Рассуждая так
же, как и при доказательстве правого неравенства 02.2/4), для
любого достаточно большого номера N построим функцию us <=
оо
еСо°(Q\Qn), диаметр носителя которой не превосходит 20 и
такую, что
оо
Очевидно, что
I uN It. = D»ip И Gcou^v II < c3"p min j\\ GOT«^ I, I VmGoo«^ || \, G)
где Ga — оператор, определенный равенством (Gau) (x) — и (ах). Вы-
Выберем последовательность {/V4»>i так, чтобы расстояние между
оо
носителями ы^, uN. Aф}) было больше чем 2ynD. Из F) и G)

390 $ 12.3. Компактность оператора вложения LJ,(Q, v) в W™ (Q)
получаем
| О. (иЯ/ - uNi) |^, | VmG» (uNi - uN/
uNl\wn. (8)
Обозначим через Т произвольный вполне непрерывный оператор:
Ц (Й, v)-*-W?. Переходя, если нужно, к подпоследовательности,
можно считать, что последовательность {Т'ылгЛ сходится в W?.
Далее,
| (Е - Т) {uN. - uNj) \к S* I uN. - uNj \у? - J T (uN. - uV/) \\w?,
что вместе с (8) дает оценку
сь ilm HE-T)(uN.-uN/)lwm^D'-»wmax {D-", 1}.
Л^ V
Отсюда и из F) следует неравенство
Ct\E-T\Ll -^D«-*/w«/''max{^-, 1}. ¦
*»р (U, V) -* I» ^
12.3.2. Критерии компактности. Из теоремы 12.3 непосредст-
непосредственно получаем следующий критерий компактности.
Теорема 1. Пусть O^m^l, /?=^r<oo, / — m>«-(p-1 — г-1).
д множество
относительно компактно в W? в том и только в том случае, если
О = ОР.,К Й)<оо и Нт DP(/(v, Q\QN) = 0.
Последняя георема допускает следующую эквивалентную фор-
формулировку.
Теорема 2. Пусть O^m^l, р«^/-<оо, / — т>п (р-1 — г-1).
Тогда множество <Р относительно компактное W?в том и только
в том случае, если существуют такие положительные постоянные do и
к,что для любого куба Qda, ^„cFq и для любого компакта ?е
e«^*(Qd.) выполнено неравенство A2.2/3) и при стремлении куба
Qdt Qd^Pa (d —любое положительное число) в бесконечность
inf v(Qa\e>-+oo. A)
Доказательство. Необходимость. Неравенство
A2.2/3) вытекает из теоремы 12.2/1. Если A) не выполняется, то
существует уходящая в бесконечность последовательность кубов

12.3.2. Критерии компактности 391
bs удовлетворяющая следующим условиям: (i) множество
\di} длин ребер кубов Q(i> ограничено и (ii) справедливо неравен-
неравенство inf v(Q{i)\e)<c0- Отсюда и из леммы 12.1/2 следует,
.e/irfQ"'1)
что найдется последовательность функций {ы,},->1 из M(Q), удов-
удовлетворяющих условиям
, dist (supply, supp«y)>c>0, 1Ф1;
Достаточность. Пусть выполняются условия A2.2/3) и
<1). В силу теоремы 12.2/1 из A2.2/3) следует конечность
Dp,,(v, й). Согласно A) и A2.2/8)
lim sup \\u\\wm/\\uL, =0.
Отсюда и из правого неравенства A2.2/4), примененного к мно-
множеству Q\Qn, получаем, что lim Dpi(v, Q\QN) = 0. Поэтому
N — со
множество aF относительно компактно в W? на основании тео-
теоремы 1. ¦
Очевидно, что в случае pl>n теорему 2 можно переформу-
переформулировать следующим образом.
Теорема 3. Пусть pl~>n, 0sgm<C/, psSr<oo, I — m>n/p—
— п/r Множество зГ относительно компактно в W? в том и
только в том случае, если выполнено условие теоремы 12.2/1 и если
при стремлении куба Qd, Qd<z:Q (с произвольной длиной ребра)
в бесконечность
v(Qd)-voo. B)
В случае pl = n при условии, что Rn\Q — связное множе-
множество, формулировку теоремы 2 можно упростить.
Теорема 4. Пусть pl=n, 0^т<.1, р*^г<со, т<п/г и
множество Rn\& связно. Тогда множество еГ относительно ком-
компактно в W? в том и только в том случае, если выполнено усло-
условие теоремы 12.2/3 и при стремлении куба Qa, (JdCrQ (d — лю-
любое положительное число) в бесконечность справедливо соотноше
ние A).
Доказательство. Используя теорему 2, можно ограни
читься доказательством достаточности. Согласно теореме Галь-
ярдо — Ниренберга (см. теорему 1.4.7)
где 0 <;?<;/ и Р = /-1(м/р — n/r-f k). Поэтому достаточно дока-
доказать относительную компактность множества / в tp. В силу

392 $ 12.4. О замыкании операторов вложения
теоремы 12.2/3 множество «F ограничено в W'p и, следовательно,
относительно компактно в Lp (Вр) при любом р е @, оо). Оста-
Остается показать, что для любого е можно найти такое p = p(s), что
е- C)
Положим в A2.1/1) d' = e и выберем p=p(s) так, чтобы для
любого куба QrfCQ, пересекающегося с Rn\Bp, выполнялось
неравенство inf v (Qa \ е) e-pd". Тогда для таких кубов
I" К №r) < се (I" 1л I. О, +1" к, (Qd. v)). D)
Для всех Qd, пересекающихся с Rn\Q и R"\BP, согласно
A2.2/11) имеем
u\p,i,Qd. E)
Возведем D) и E) в степень р и просуммируем полученные не-
неравенства по всем кубам координатной решетки с ребром d, пе-
пересекающимся с Rn\Bp. Это приводит к C). ¦
§ 12.4. О ЗАМЫКАНИИ ОПЕРАТОРОВ ВЛОЖЕНИЯ
Пусть V —мера в R". Будем называть ег (р, /)-абсолютно не-
прерьшнж, если из равенства сар(В, W'p)=^0 (В — борелевское
множес!во) следует v(B) = 0. Например, согласно предложен.чю
7.2.3/2 ф-мера Хаусдорфа (р, /)-абсолютно непрерывна, если
сходится интеграл G.2.3/4).
Пусть & — тождественный оператор, определенн ли на $& (й) и
действующий из LP(Q) в °Lln(Q, v).
Теорема 1. Пусть n^pl, p>\. Оператор Щ допускает замы-
замыкание в том и только в том случае, если мера v— (p, 1)-абсо,1ютно
непрерывна-
Доказательство. Достаточность. Пусть последова-
последовательность {и*}*>1 функций из ?? (Q) сходится к нулю в LP(Q) и
в себе в L'P(Q, v) и пусть Оаы*->-иа в Ьр(п) для любого мульги-
индекса а порядка /. Тогда для всех ip^(Q)
= lim \QultDa(fdx = 0
и va=0 почти везде в Q. Следовательно, и*^-0в $р (Q). После-
Последовательность {и/,} содержит подпоследовательность \wk), сходя-
сходящуюся к нулю (р, /)-квазивсюду (см. п. 7.2.4). Из (р, /)-абсолют-
ной непрерывности меры v следует, что v-почти всюду и>л-»-0.
Так как {ик} сходится в себе в LP(Q, v), то uk^>~0 в этом про-
пространстве.

§ 12.4. О замыкании операторов вложения 393
Необходимость. Пусть существует такое борелевское мно-
множество BcQ, что cap (В, Wlp) = 0 и v (В) >0. Обозначим через F
компактное подмножество В, удовлетворяющее условию 2v(F)>
>v(B), и через {со4*>о —последовательность открытых множеств
со следующими свойствами: l)Fc %ц cwjcQ, 2) cap (ffifr, Wlp)->-
->-0, 3) v(co*)->-v(F). Введем емкостную меру \i.k и емкостный
бесселев потенциал wk = V' „ /Ц, множества (лк (см. предложение
7.2.2/2).
Покажем, что щ^О в пространстве С(е), где е — любой ком-
компакт, не пересекающийся с F. Пусть 6=dist(e, F) и к — такой
номер, что 2dist(e, %)>6. Положим
(см. определение бесселева потенциала в п. 7.1.2). Если 4\х — у\<
<б, то 4\z — y\^8 для всех гейц и, значит,
g*(f/)^eF)[fi*(oft)]I/("-l> = t F)[cap(fflb WW(p~~l).
Поэтому
Вместе с тем
Из этих оценок и равенства wk (х) = J G/ (х — у) gk (у) dy следует,
что itij-t-Ов С(е).
Рассуждение, использованное в доказательстве теоремы 9.3.2/1,
показывает, что для функций vk = 1 — [A — а>*)+]' справедлива
оценка
\\vkl i^c\wkl I. A)
р wP
Кроме того, очевидно, что % = 1 в окрестности F и
в R", а также что последовательность {v/,} стремится к нулю рав-
равномерно на любом компакте, не пересекающемся с F.
Обозначим через ик усреднение функции vk с достаточно малым
радиусом. Используя равенство limcap(%, Wlp) = 0 и оценку A),
получаем, что S «* 1Г/->-0. Пусть tj — любая функция из ЗЛ(ш, Q)
с носителем 5. Очевидно, что г\ик = 1 в окрестности F и IrjUjtl ; ->-0.
р
Покажем, что последовательность цик сходится в себев?р(Й, v).
Пусть е — произвольное положительное число и М —столь боль-
большой номер, что v(шд!\F)<е. Выберем такое целое число N,

394 § 12.4. О замыкании операторов вложения
что для всех
\uk(x)\p^e/v(S) при
Отсюда при любых k, /> N получаем
Sol 1 ("*-
Поэтому последовательность tju* сходится в себе в Lp (Q, v).
Поскольку uk = 1 на /\ то | т]«Л ||? (Qi v) 5= v (F) > 0. Существо-
Существование такой последовательности противоречит возможности замы-
замыкания оператора Ш. Ш
В случае pl>n оператор % всегда допускает замыкание. Это —
очевидное следствие теоремы Соболева о вложении Wlp (Q)
в С(Й, 1ос).
Теорема 2. Для того чтобы тождественный оператор, опреде-
определенный на &{Q) и действующий из W'P(Q) в LP(Q, v), допускал
замыкание, необходимо и достаточно, чтобы мера v была (р, /)-
абсолютно непрерывной.
Доказательство. Достаточность. Пусть последова-
последовательность {«*}*>! функций из 22?(Q) сходится к нулю в Wlp(Q)
и в себе в Lp (Q, v). Тогда она стремится к нулю в Lp (Q, v)
в силу предыдущей теоремы.
Необходимость. Пусть существует такое борелевское мно-
множество В, что cap (В, W'p)=0 и v(?)>0. При этом условии
в доказательстве теоремы 1 была построена последовательность
ице#(Й), сходящаяся к нулю в $'P(Q) и в себг в LP(Q, v),
но не сходящаяся к нулю в LP(Q, v). ¦
Теорема 3. 1) Для того чтобы тождественный оператор, дей-
действующий из Llp(Q) в LP(Q, v) (lp<.n) и определенный на&(п),
допускал замыкание, необходимо и достаточно, чтобы мера v была
(р, 1)-абсолютно непрерывной.
2) То же утверждение верно и для случая п = pi, если Rn\Q—
множество положительной (р, 1)-емкости.
Доказательство. 1) Достаточность. Пусть последо-
последовательность {и*}*>1 функций из J^(Q) сходится к нулю в L'P(Q)
и в себе в LP(Q, v). Так как 1р<п, то /,J,(Q)cL?(fi), q =
= рп(п — р1)~л и, следовательно, последовательность {«*} сходится
к нулю по n-мерной мере Лебега. Далее так же, как и при до-
доказательстве достаточн юти в теореме 1, можно из {uk\ выделить
подпоследовательность {wk}, сходящуюся к нулю v-почти всюду.
Необходимость следует из теоремы 2.
2) Случай n = pl рассматривается точно так же. При этом
следует воспользоваться вложением L'p (п) в Lg (й, 1ос) (см 5 11-3).

§ 12.5. Приложения: положительная определенность... 395
§ 12.5. ПРИЛОЖЕНИЯ: ПОЛОЖИТЕЛЬНАЯ ОПРЕДЕЛЕННОСТЬ
и дискретность спектра сильно эллиптического оператора
Определим на функциях uef (Q) квадратичные формы
8 (и, и) = Я(и, u) + $Q|u|2dv,
где аар — измеримые функции, a v — мера в Q. Предположим, что
для всех и <= & (Q)
II <Л(и ) < | VH 11, @).
Kl I V,U II, (О) <Л(и, Ы) < Х2 | V,H
По определению форма Ъ допускает замыкание в L2(Q), если
любая последовательность функций ит s^"(Q), сходящаяся в себе
в метрике 'Ъ (и, иI1г и к нулю в L2 (Q), сходится к нулю в метрике
$(«, «I/г. При этом условии существует единственный самосопря-
самосопряженный оператор В в L2(Q), такой, что («, Ву) = 33(«, с), «,
»е^(С). Очевидно, что возможность замыкания формы 58 также
необходима для существования оператора В.
Согласно теореме 12.4/1 форма Ъ допускает замыкание в L2(Q)
в том и только в том случае, если мера v является (р, /^абсо-
/^абсолютно непрерывной. Допустим, что v обладает этим свойством.
Следующее утверждение является частным случаем теоремы
12.2/1.
Теорема 1. 1) Для положительной определенности оператора В
необходимо и достаточно, чтобы при некоторых d>0, &>>0 для
всех кубов Qd, имеющих B, 1)-несущеспьзенное пересечение с Си и
всех B, ^-несущественных компактов FczQd, выполнялось нера-
неравенство
v(Qd\F)>fe. A)
2) Для нижней грани Л спектра оператора В справедливы
оценки
D 2'ADw B)
где d, с2 — постоянные, зависящие только от п, I, a D определя-
определяется равенством A2.2/1) при р=2.
Следствие 1. 1) Если 2/>л, то необходимым и достаточ-
достаточным условием положительной определенности оператора В явля-
является неравенство v (Qrf) ^ k, где d и k — некоторые положительные
постоянные, a Qd —любой куб, расположенный в Q.
2) Для нижней грани Л спектра оператора В справедливы
оценки B), где D определяется равенством A2.2/10) при р = 2.
Следствие 2. Если 21 = п и множество CQ связно, то для
положительной определенности оператора В необходимо и доста-

396 § 12.5. Приложения: положительная определенность...
точно, чтобы при некоторых d>0 и &>0 для всех кубов QdczQ
и всех B, п/2)-нвсущественных компактов F a Qd выполнялось не-
неравенство A).
Этот факт есть частный случай теоремы 12.2/3.
Теорема 2. Для нижней грани Г точек сгущения спектра опе-
оператора В справедлива оценка
l «s Г s? c2y^D~21, C)
00
где D определяется равенством A2.3.1/3) при р—2.
Доказательство. Пусть р — число, определенное равенст-
равенством A2.3.1/1) при р = 2. В силу теоремы 12.3.1 достаточно дока-
доказать, что Г=р 2. Из теорем 12.3.1 и 1 следует, что Г = 0 в том
и только в том случае, если р=со. Поэтому можно считать, что
ГфО и рфоо.
Обозначим через Ек соответствующее самосопряженному опе-
оператору В семейство ортогональных проекторов, отвечающих раз-
разложению ед1.н:;чного оператора пространства L2(Q). Тогда
к-ЧЬ(и, u)^UE-Ek)ufL.M. D)
Так как при Я-<Г проектор Е\ конечномерен, из D) и опреде-
определения р следует оценка Г sg p-z.
Для любого е, 0<е<Г, существует ортонормированная
в Ь^(й) бесконечная последовательность функций {ф;}<>ь такая,
что (Вф,-, ф;) = 0 при гфи Г —е<(Вфь ф;)<Г + е.
Пусть Т— произвольный вполне непрерывный оператор из
l\ (Q, v) в U (Q). Имеем
\(Е — Г)(ф,- — q>j)°Ll (Q) ||ф,
(О)—11г(ф< —9/)8l, @)
фг—ф/). Ф;-
(Q, V)
^ (Г + 8)-V* _ 2-»/» (Г - e)-V21| Т (ф. _
Верхний предел правой части при i, j-yco равен
Поэтому в силу произвольности е из определения р получаем,
ЧТО рЗ^гГ-1. Ш
Из этой теоремы вытекает следующее утверждение.
Теорема 3. Спектр оператора В дискретен в том и только
ОО
в том случае, если D=0.
Эта теорема эквивалентна следующему утверждению.
Теорема 4. Спектр оператора В дискретен в том и только
в том случае, если при стремлении к бесконечности куба Qd
(d —любое положительное число), имеющего B, ^-несущественное

§ 12.6. Комментарии к главе 12 397
пересечение с CQ,
inf v(Qd\F)-voo. E)
В случае 21 > п этот критерий можно перефразировать сле-
следующим образом.
Теорема 5. Пусть 2/>л. Оператор В имеет дискретный
спектр в том и только в том случае, если при стремлении к бес-
конечности куба QdczQ (d — любое положительное число)
v (Qd) -» со.
Из теоремы 12.3.2/4 получаем, что справедлива следующая
теорема.
Теорема 6. Пусть 21 = п и множество CQ связно. Тогда опера-
оператор В имеет дискретный спектр в том и только в том случае,
если при стремлении к бесконечности куба QdaQ (d — любое по-
положительное число) имеет место E).
§ 12.6. КОММЕНТАРИИ К ГЛАВЕ 12
Результаты этой главы представляют собой развитие работы
А. М. Молчанова [99], в которой найдено необходимое и доста-
достаточное условие дискретности спектра задачи Дирихле для опера-
оператора Шредингера —A + v (v — абсолютно непрерывная мера) или,
что эквивалентно, условие компактности вложения Ц(п, v)
в L2(Q). Для пространства /4(Q, v) при 2/>л (когда можно
обойтись без емкости) такие критерии были получены М. Ш. Бир-
Бирманом и Б. С. Павловым [9]. В случае q^p~>\, / = 1, 2, ...
необходимые и достаточные условия ограниченности и компактно-
компактности оператора вложения Llp(Q, v) в Lg(u) найдены автором [75].
Двусторонние оценки нормы и существенной нормы этого опера-
оператора даны автором и М. Отелбаевым [86], где рассмотрено про-
пространство с нормой
(/—произвольное положительное число). Теоремы вложения для
более общих весовых пространств в дальнейшем получены П. И. Ли-
зоркиным и М. Отелбаевым [57], а также М. Отелбаевым [107].
Функция
Dp ,(x)= sup id: d"-P'^ inf v(Qa(x)\e)
(ср. с A2.2/1)) была использована М. Отелбаевым [106] для по-
получения оценок поперечников по А. Н. Колмогорову единичного
шара в L'P(Q, v), измеряемого в метрике LP(Q). Приведем этот
результат.

396 § 12.6. Комментарии к главе 12
Поперечником по Колмогорову множества М в банаховом про-
пространстве В называется число
( inf sup int I/—gjB. k=l, 2
dk(M, B) = \ {L*}/eMseL*
I sup I Ля, * = 0.
f e M
где {L/,) — совокупность подпространств В размерности, не пре-
превосходящей k.
Теорема [106]. Пусть М —единичный шар пространства
L'P(Q, v) и N (к) —число поперечников М в LP(Q), пргвкходящих
Аг\ %>0. Тогда
к»"т„ {х: Dp.; (х) ^ Х-1"} ^ cN
где с не зависит от п, v и К.
По определению оператор вложения Vp (Q, v) в Lp (Q) при-
принадлежит классу /в, если
2Г-о№*(Л1. Lp(Q))f <оо.
Только что сформулированная теорема показывает, что рас-
рассматриваемый оператор вложения принадлежит классу /$ в том
и только в том случае, если 8/>п и \'Q [Dp-l(x)]n-tQdx<.oo.
Непосредствгнные приложения этих результатов — двусторон-
двусторонние оценки собственных чисел задачи Дирихле для оператора
(—A)' + v, условия ядерности резольвенты этого оператора и т. п.

УСЛОВНЫЕ ОБОЗНАЧЕНИЯ
Функциональные пространства Подмножества
=C^(Q), Q> suPP/> B(x* Р) = Яр
^p ^
C*'a(Q), ^;(Q), d*?- •'•'• • • •• • • • 6.2.Г
Lp(Q), f
Lp(Q, loc) ......../.. 1.1.1 Qd ••••-••• • • • •• • 10
. . .• . .
1.1.2 v
Классы подмножеств
1.1.4
1.1.13 с°'1 •;•• ••••••*• • •
. . . . , . EV[ l.J.16
. 1.4.1
>, Q), ^(e, Q) 2.2.1 Ja # # •••¦••'.'• •¦••••• •••¦•• 3-5J
/^ ^ fi 1
•^ ,(«)•• •> •¦•¦• •..... 3.1.1 Г*'////////.[..... 4.зл
UQ(K),VQ(K),Ta(K).... 4.1.1 . ю
¦ -.-¦¦• Ja> 'p.a ••»••• 4.7.1
LUQ) 4.7.4 oo oo
" • , /«@). /p.a@) 4.7.4
V (C). f ^ (Q) ,,...,,,. 4.11.1 ; л 8 .
,,.,.,,,. 6.1.1 .(л — 1) wn—l) 4119
?ЛЛ />-«....,.....¦ 4.И.5
7 12
... .<# , r. . v. . . ¦. . 10.1.1
., 7.2.1 d|t|bV.................'.•... ......11.5.1
Q) . . . .- 9.1.1 .
W~~J ..,,*. 9.1.4 Функции множества
10-3 mn, dist(?, F) 1.1.1
6° M 10.3,4 ц , . . 1.4.1

400
Условные обозначения
s, o(dg) 2.1.1
(p, Ф)-сар(е, Q), p-cap(e,Q) • . 2.2.1
\ Й), n(F, Q) 2.4.1
« 3.2.3
cD(K). . . 4.1.1
> 4.2
- a)
> P(E),
Qj. AQ
4.4.1
5.6.1
6.1.1
6.3
6.3.4
6.5.3
cap (в, S*,), сар(Я,
u
? • • •
H (?. ф)
еар+(г, ?» (Q)) ...
Cap(e, ^
......
7.2.1
7.2.2
7.2.3
8.2.1
Q)
. . 10.2.2
Ю.3.4
12.2
, Q) . . 12.3J
Операторы
1.1.1
1.1.5
<l »•...•....*•»»•.• 1.4.1,
7 Л .2
c2t
<o
N (x)
Константы
, v
Функции
1.5.3
6.1.1
7.1.2
7.2.2
8.2.2
1.1.1
1.1.14
2.1.1
7.2.2
2.1.1
3.1.1
3.2.1
3.2.4
4.4.2
4.7.1
ap. 4.11.P
Y/>> Vp • • 5.1.1
u* {x) . . . 6.5.1
U (S) 6.5.3
п(х), u(x) 6.6.1
10.3.2
Другие символы
= (alf ..... an), \ a|,
[ф|
1.1,1
8.5
u
Qd'
CAP
CAP,((S, ^
10.3.2

УКАЗАТЕЛЬ ЛИТЕРАТУРЫ
1. Альфорс Л. Лекции по квазиконформным отображениям. М., 1969, 132 с.
2. Бабич В. М. К вопросу о распространении функций. — Успехи мат
наук, 1953, т. 8, .№ 2; с. 111—113.
3. Бабич В. М., Слоэодецкий Л. Н. Об ограниченности интеграла Дирихле —
Докл. АН СССР, 1956. т. 106, № 4. с. 604-607.
4. Бесов О. В. Исследование одного семейства функциональных пространств
в связи v еоремами вложения и про олжения. — Труды Мат. ин-тз
им. В. А. Отклеп АН СССР, 1961, т. (Ю, с. 42—81.
5. Бесов О. В., Ильин В. П., Кудрявцев Л. Д., «Пизоркий П. И.. Николь-
Никольский С. М. Теория вложений классов дифференцируемых функций многих пе-
переменных.—В кн.: Дифференциальные уравнения с частными производными.
М., 1970, с. 38—63.
6. Бесов О. В., Ильин В. П., Никольский С. М. Интегральные представления
функций и теоремы вложения. М., 1975. 408 с.
7. Бирман М. Ш. Возмущения квадратичных форм и спектр сингулярных
граничных задач.—Докл. АН СССР, 1950, т. 125, № 3, с. 471—474.
8. Бирман М. Ш. О спектре сингулярных задач. — Мат. сб. 1961. т. 55,
с. 125—174.
9. Бирман М. Ш., Павлов Б. С. О полной непрерывности некоторых опера-
операторов вложения. — Вестн. Ленингр. ун-та, 1961, № 1, с. 61—74.
10. Бураго Ю. Д., Залгаллер В. А. Геометрические неравенства. Л,, 1980.
288 с.
11. Бураго Ю. Д., Мазья В. Г. Некоторые вопросы теории потенциала и те*
ории функций для областей с нерегулярными границами. — Зап. науч. семи-
семинаров Ленингр. отд. Мат. ин-та им. В. А. Стеклова АН СССР, 1967, т. 3. 152 с.
12. Бурбаки Н. Топологические векторные пространства. М., 1959. 410 с.
13. Буренков В. И. О теоремах вложения для области Rk = {а,Л < дЛ' <
<РЛ 0 </К 1}. — Мат. сб., 1968, т. 75, № 4, с. 496-501.
14. Буренхоз В. И. Об аддитивности пространств Wrp и Вгр и о теоремах
вложения для областей общего вида. — Труды Мат. ин-та им. В. А. Стеклова
АН СССР, 1969, т. 105, с. 30—45.
15. Водопьянов С. К., Гольдштейн В. М., Латфуллин Т. Г. Критерий про-
продолжения функций класса L\ из неограниченных плоских областей. — Сиб.
мат. жури., 1979, т. 20, № 2,'с. 416-419.
16. Водопьянов С. К., Гольдштейн В. М., Решетник Ю. Г. О геометриче-
геометрических свойствах функций с первыми обобщенными производными. — Успехи
мат. наук, 1979, т. 34, № 1, с. 17—65.
17. Волевич Л. Р., Панеях Б. П. Некоторые пространства обобщенных; функ-
функций и теоремы вложения.—Успехи мат. наук, 1965, т. 20, № 1, с. 3—?4.
18. Вольперт А. И. Пространства BV и квазилинейные уравнения. — Мат,
сб., 1967, т. 73, № 3, с. 255—301
19. Гельфанд И. М., Шилов Г. Е. Пространства основных и обобщенных
функций. М., 1958. 307 с.
20. Глазман И. М. Прямые методы качественного спектрального анализа
сингулярных дифференциальных операторов. М., 1963. 339 с.
21. Глобенко И. В. Некоторые вопросы теории вложения для областей с осо-
особенностями на границе. — Мат. сб., 1962, т.. 57, № 2, с. 201—224.

402 Указатель литературы
22. Глушко В. П. Об областях, звездных относительно шара. — Докл.
АН СССР, 1962, т. 144, № 6, с. 1215—1216.
23. Головкин К. К. Теоремы вложения для дробных пространств. — Труды
Мат. ин-та им. В. А. Стеклова АН СССР, 1964, т. 70, с. 38—46.
24. Головкин К. К. Параметрически "нормированные пространства и норми-
нормированные массивы. — Труды Мат. ин-та им. В. А. Стеклова АН СССР, 1969,
т. 106, с. 1—135.
25. Головкин К. Км Солонников В. А. Теоремы вложения для дробных про-
пространств, ,,- Докл. АН СССР, 1962, т. 143, № 4, с. 767—770.
26. Гольдштейн В. М. Продолжение функций с первыми обобщенными про-
производными из плоских областей. — Докл. АН СССР, 1981, т. 257, № 2, с. 268—
271.
27. Грушин В. В. О задаче во всем пространстве для некоторого класса урав-
уравнений в частных производных. — Докл. АН СССР, 1962, т. 146, № 6, с. 1251 —
1254.
28. Гусман М. Дифференцирование интегралов в Rn. М., 1978. 200 с.
29. Данфорд Н., Шварц Дж. Линейные операторы. Общая теория. М., 1962.
892 с. .. "
30. Ильин В. П. Некоторые неравенства в функциональных пространствах
и их применение к исследованию сходимости вариационных процессов: Авто-
реф. канд. дис. Л., 1951. 12 с.
31. Ильин В. П. К теореме вложения для предельного показателя. — Докл.
АН СССР, 1954, т. <6, с. 905—908.
32. Ильин В. П. Некоторые интегральные неравенства и их применение
к теории дифференцируемых функций многих t ремённых. — Мат. сб., 1961,
т. 54, № 3, с. 331—380.
33. Ильин В. П. Интегральные представления дифференцируемых функций
и их применение к вопросам продолжения функций классов Wlp (С). — Сиб.
мат.« журн., 1967, т. 8, № 3, с. 573—586.
34. Ильин В. П. Интегральные представления функций классов Llv (G) и
теоремы вложения. — Зап. науч. семинаров Лен. отд. Мат. ин-та им. В. А. Стек-
Стеклова АН СССР, 1970, т. 19, с. 95—155.
35. Карлесов Л. Избранные проблемы теории исключительных множеств.
М., 1971. 126 с.
313. К1 мов В. С. Теоремы р.тожени • /ля пространств Орлича их прило-
приложения к краевым задачам. — Сиб. мат. журн., 1972, т. 13, № 2, с. 334—348.
37. Климов В. С. Изопериметрические неравенства и теоремы вложения. —
Докл. АН СССР, 1974, т. 217, № 2, с. 272—275.
38. Климов В. С. Теоремы вложения и изопериметрические неравенства. —
Изв. АН СССР, 1976, т. 40, Кя 3, с. 645-671.
39. Кокилашвили В. М. О неравенствах Харди в весовых пространствах. —
Сообщ. АН Груз. ССР, 1979, т. 96, № 2, с. 37—40.
40. Кондратьев В. А. О разрешимости первой краевой задачи для эллип-
эллиптических у авнений. —Докл. АН СССР, 1961, т. 136, № 4, с. 771—774.
41. Кондратьев В. А. О разрешимости первой краевой задачи для сильно-
эллиптических уравнений. — Труды Моск. мат. о-ва, 1967, т. 16, с. 209—292.
42. Кондратов В. И. О некоторых свойствах функций из пространства LD. —
Докл. АН СССР, 1945, т. 48, с. 563—566.
43. Красносельский М. А., Рутицкий Я. Б. Выпуклые функции и простран-
пространства Орлича. М., 1958. 271 с.
44. Крон род А. С. О функциях двух переменных. — Успехи мат, наук,
1950, т. 5, № 1, с. 24—134.
45. Кудрявцев Л. Д. Прямые и обратные теоремы вложения. Приложения
к решению вариационным методом эллиптических уравнений, — Труды Мат.
>н-та им. В. А. Стеклова АН СССР, 1959, т. 55, с. 1—181.
46. Курант Р., Гильберт Д. Методы математической физики, М,, 1951, 544 с.

Указатель литературы 403
47. Ладыженская О. А. Математические вопросы динамики вязко* несжи-
несжимаемой жидкости. М., 1970. 288 с.
48. Ландис Е. М. Уравнения второго порядка эллиптического я параболи
ческого типоз. М., 1971. 2ч,7 с.
49. Ландис Е. М. О поведении решени эллиптических уравнений высокого
порядка в неограниченных областях. — Труды Моск. мат. с-ва 1974, т. 31.
с. 35—58.
50. Ланвгкоф Н. С Оснозы современной теории потенциала. М.. 1966.
545 с.
51. Лаптев г. А. О замыкании в метрике обобщенного интеграла Дирих
ле# —Дифференциальные уравнения, 1971, т. 7, № 4, с.«727—736.
52. Левин В. И. Точные константы в неравенствах типа Карлсона. —Докл.
АН СССР, 1948, т. 59. с. 635—639.
53. Лизорхин П. Й. Граничные свойства функций из «весовых классов». —
Докл. АН СССР, 1960, т. 132, М 3, с. 514—517.
54. Лизорчкн П. И* Обобщенное лиувиллевское дифференцирование и функ-
функциональные пространства Vp (Ert). Теоремы вложения. — Мат. сб. 1963, т. 60,
№ 3, с. 325—353.
55. Лизорхин П. И. Обобщенные гельдеровы пространства Brp fj и их соот-
соотношения с пространствами С. Л. Соболева Lrp. — Сиб. мат. журн., 1968, т. 9,
JSfe 5, с. 1127—1152.
56. Лизоркин П. И. Оценки интегралов типа потенциала в нормах с разност-
разностными отношениями. — В кн.: Теория кубатурных формул и приложения функ-
функционального анализа к некоторым задачам математической физики. Новоси-
Новосибирск, 1975, с. 94—109.
57. Лизоркин П. И., Отелбаев М. Теоремы вложения и компактности для
пространств соболевского типа с весами. I — Мат. сб. 1979. т. 108, № 3, с. 358 —
377; II —Мат. сб., 1980, т. 112, № 1, с. 56—85.
58. Лионе Ж.-Л., Мадженес Е. Неоднородные граничные задачи и их при-
приложения. М., 1971. 371 с.
59. Люстернкк Л. А. Неравенство Брунна—Минковского для произволь-
произвольных множеств. — Докл. АН СССР, 1935, т. 3, с. 55—58.
60. Мазья В. Г. Классы областей и теоремы вложения функциональных про-
пространств. — Докл. АН СССР, 1960, т. 133, № 3, с. 527—530.
61. Мазья В. Г. Р-проводимость и теоремы вложения некоторых функцио-
функциональных пространств в пространство С. — Докл. АН СССР, т. 140, № 2, 1961,
с. 299—302.
62. Мазья В. Г. Классы множеств и теоремы вложения функциональных про-
пространств: Автореф. канд. дис. М., 1962. 15 с.
63. Мазья В. Г. Об отрицательном спектре многомерного оператора Шре-,
дингера. — Докл. АН СССР, 1962, т. 144, № 4, с. 721—722.
64. Мазья В. Г. О задаче Дирихле для эллиптических уравнений произволь-
произвольного порядка в неограниченных областях. — Докл. АН СССР, 1963, т. 150, № 6,
с. 1221—1224.
65. Мазья В. Г. К теории многомерного оператора Шредингера, — Докл.
АН СССР, 1964, т. 28, № 5, с. 1145—1172.
66. Мазья В. Г. Полигармоническая емкость в теории первой краевой за-
задачи. -* Сиб. мат. журн., 1965, т. 6, № 1, с. 127—148.
67. Мазья В. Г. О замыкании в метрике обобщенного интеграла Дирихле. —
Зап. науч. семинаров Ленингр. отд. Мат. ин-та им. В. А. Стеклова АН СССР,
1967, т. 5, JV» 1, с. 192—195.
68. Мазья В. Г. О задаче Неймана в областях с нерегулярными границами. —
Сиб. мат. журн., 1968, т. 9, № 6, с. 1322—1350.
69. Мазья В. Г. О слабых решениях задач Дирихле и Неймана, *- Труды
Моск. мат. о-ва, 1969, т. 2, с, 137—1/2,

404 Указатель литературы
70. Мазья В* Г. Классы множеств и мер, связанные с теоремами вложе-
вложения. — В кн.: Теоремы вложения и их приложения (Труды симпозиума по тео-
теоремам вложения, Баку, 1966). М., 1970, с. 142—159.
71. Мазья В. Г. О некоторых интегральных неравенствах для функций
многих переменных. — В кн.: Проблемы мат. анализа. Л., 1972, вып. 3, с. 33—68.
72. Мазья В. Г. Об устранимых особенностях ограниченных решений квази-
квазилинейных эллиптических уравнений любого порядка. — Зап. науч. семинаров
Ленингр. отд. Мат. ин-та им. В. А. Стеклова АН СССР, 1972, т. 26, с. 116—130.
73. Мазья В. Г. Приложения некоторых интегральных неравенств к теории
квазилинейных эллиптических уравнении. — Comment. Math. Univ. Carolinae,
1972, т. 13, № 3, с, 535—552.
74. Мазья В. Г. О вырождающейся задаче с косой производной. — Мат. сб,„
1972, т. 87, № 3, с. 417—454.
75. Мазья В. Г. О (р, /)-емкости, теоремах вложения и спектре самосопря-
самосопряженного эллиптического оператора. — Изв. АН СССР. Сер. мат., 1973, т. 37,
№ 2, с. 356—385.
76. Мазья В. Г. О непрерывности и ограниченности функций из пространств
С. Л. Соболева. — В кн.: Проблемы мат. анализа, Л., 1973, вып. 4, с. 46—77.
77. Мазья В. Г. О связи двух видов емкости. — Вестн. Ленингр. ун-та,
1974, № 7, с. 33—40.
78. Мазья В. Г. О суммируемости функций из пространств С. Л. Соболева. -•-
В кн.: Проблемы мат. анализа. Л., 1975, вып. 5, с. 66—98.
79. Мазья В. Г. О емкостных оценках сильного типа для «дробных» норм. —
Зап. науч. семинаров Ленингр. отд-ния Мат. ин-та им. В. А. Стеклова АН СССР,
1977, т. 70, с. 161—168.
80. Мазья В. Г. Об одном интегральном неравенстве. Семинар института
прикладной математики Тбил. ун-та.—Доклады, 1978, № 12—13, с. 33—36.
81. Мазья В. Г. Мультипликаторы в пространствах С. Л. Соболева. — В кн.:
Применение методов теории функций и функционального анализа к задачам
математической физики. Пятое Советско-Чехословацкое Совещание. Новоси-
Новосибирск, 1978, с. 181—189.
82. Мазья В. Г. О суммируемости по произвольной мере функций из про-
пространств С. Л. Соболева-Л. Н. Слободецкого. — Зап. науч. семинаров Ленингр.
отд. М т. ин-та им. В. А. Стеклова АН СССР, 1979, т. 92, с. 192—202.
83. Мазья В. Г. Интегральное представление функций, удовлетворяющих
однородным краевым условиям, и его приложения. — Изв. вуз. Математика,
1980, № 2, с. 34—44.
84. Мазья В. Г. Об одной теореме вложения и мультипликаторах в парах
пространств С. Л. Соболева. — Труды Тбил. мат. ин-та им. А. М. Размадзе,
1980, т. 66, с. 59—69.
85. Мазья В. Г., Дончев Т. О регулярности по Винеру граничной точки для
полигармонического оператора. — Докл. Болг. Акад. наук, 1983, т. 136,
с. 177—179.
86. Мазья В. Г., Отелбаев М. О теоремах вложения и спектре одного псевдо-
псевдодифференциального оператора.—Сиб. мэт.журн., 1977, т. 18, №5, с. 1073—1087.
87. Мазья В. Г., Преображенский С. П. Об оценках (/, р)-емкостей и сле-
следах потенциалов. — Wissenschaftliche Informationen. Karl-Marx-Stadt. Sect.
Math., 1981, N 28, S. 1—38.
88. Мазья В. Г., Хавин В. П. Нелинейный аналог ньютоновского потенци-
потенциала и метрические свойства (р, /)-емкости. — Докл. АН СССР, 1970, т. 194,
№4, с. 770—773.
89. Мазья В. Г., Хавии В. П. Нелинейная теория потенциала. — Успехи
мат. наук, 1972, т. 27, № 6, с. 67—138.
90. Мазья В. Г., Хавин В. П. Об аппроксимации в среднем аналитическими
функциями. — Вестн. Ленингр. ун-та, 1968, № 13, с. 62—-74.
91. Мазья В. Г., Хавин В. П. Приложения (р, /)-емкости к нескольким за-
задачам теории исключительных множеств.— Мат. сб., 1973, т. 90, №4, с. 558—591,

Указатель литературы 405
92. Мазья В. Г., Хволес А. А. О вложении пространства Llp (Q) в простран-
пространство обобщенных функций. — Труды Тбил. мат. ин-та им. А. М. Размадзе, 1981,
т. 66, с. 70—83.
93. Мазья В. Г., Шапошникова Т. О. О мультипликаторах в пространствах
С. Л. Соболева. — Вестн. Ленингр. ун-та, 1979, № 7, с. 33—40.
94. Мазья В. Г., Шапошникова Т. О. Мультипликаторы в пространствах
дифференцируемых функций. — В кн.: Теория кубатурных формул и прило-
приложения функционального анализа к задачам математ ческой физики. Новоси-
Новосибирск, 1979, с. 37—90.
95. Мазья В. Г., Шапошникова Т. О. Мультипликаторы в парах пространств
потенциалов. — Math. Nachrichten, 1980, Bd. 99, S. 363—379.
96. Мазья В. Г., Шапошникова Т. О. Замена переменных как оператор в паре
пространств С. Л. Соболева. — Вестн. Ленингр. ун-та, 1982, № 1, с. 43—48.
97. Мазья В. Г., Шапошникова Т. О. Мультипликаторы в парах пространств
дифференцируемых функций. — Труды Моск. мат. о-ва, 1981, т. 43, с. 37—80.
98. Михлин С. Г. Многомерные сингулярные интегралы и интегральные урав-
уравнения. М., 1962. 254 с.
99. Молчанов А. М. Об условиях дискретности спектра самосопряженных,
дифференциальных уравнений второго порядка. — Труды Моск. мат. о-ва, 1953,
т. 2, с. 169—200.
100. Натансон И. П. Теория функций вещественной переменной. М., 1974.
480 с.
101. Неваклинна Р. Однозначные аналитические функции. М., 1941. 388 с.
102. Никольский С. М. Неравенства для гелых функций конечной степени
и их применение в теории дифференцируемых функций многих переменных. —
Труды Мат. ин-та им. В. А. Стеклова АН СССР, 1951, т. 38, с. 244—278.
103. Никольский С. М. Свойства некоторых классов функций многих пере-
переменных на дифференцируемых многообразиях. — Мат. сб., 1953, т. 33, № 2>
261—326.
104. Никольский С. М. Приближение функций многих переменных и теоремы
вложения. М., 1977. 455 с.
105. Олейник В. Л., Павлов Б. С. О критериях ограниченности и полной
непрерывности некоторых операторов вложения. — В кн.: Проблемы мат. фи-
физики. Л., 1970, вып. 4, с. 112—116.
106. Отелбаев М. Двусторонние оценки поперечников и их применения. —
Докл. АН СССР, 1976, т. 231, № 4, с. 810—813.
107. Отелбаев М. Теоремы вложения пространств с весом и их применения
к изучению спектра оператора Шредингера. — Труды Мат. кн-та им. В. А. Стек-
лова АН СССР, 1979, т. 150, с. 265—305.
108. Полна Г. и Сеге Г. Изопериметрические неравенства в математической
физике. М., 1962. 336 с.
109. Решетняк Ю. Г. О понятии емкости в теории функций с обобщенными
производными.—Сиб. мат. жури., 1969, т. 10, № 5, с. 1109—1138.
ПО. Решетняк Ю. Г. Некоторые интегральные представления дифференци-
дифференцируемых функций. —Сиб. мат. журн., 1971, т. 12, № 2, с. 420—432.
111. Решетняк Ю. Г. Пространственные отображения с ограниченным иска-
искажением. Новосибирск, 1982. 285 с.
112. Розенблюм Г. В. Об оценках спектра оператора Шредингера. — В кн.:
Проблемы мат. анализа. Л., 1975, № 5, с. 152—165.
113. Сло5одецкий Л. Н. Обобщенные пространства С. Л. Соболева и их при-
приложение к краевым задачам для дифференциальных уравнений в частных про-
производных.— Уч. зап. Ленингр. пед. ин-та им. А. И. Герцена, 1958, т. 197,
с. 54—112.
114. Смирнов В. И. Курс высшей математики. Т. 5. М., 1959. 665 с.
115. Соболев С. Л. О некоторых оценках, относящихся к семействам функ-
функций, имеющих производные, интегрируемые с квадратом. — Докл. АН СССР,
1936, т. 1, с. 267—270.

406 Указатель литературы
116. Соболев С. Л. Об одной теореме функционального анализа. — Мат.
сб., 1938, т. 4, № 3, с. 471—497.
117. Соболев С. Л. Некоторые применения функционального анализа в ма-
математической физике. Л., 1950. 255 с.
118. Соболев С. Л. Введение в теорию кубатурных формул. М., 1974. 808 с.
119. Солонников В. А. О некоторых свойствах пространств %(Т0 дробного
порядка. — Докл. АН СССР, 1960, т. 134, № 2, с. 282—285.
120. Солонников В. А. О некоторых неравенствах для функций из классов
W? (/?*). — Зап. науч. семинаров Ленингр. отд. Мат. ин-та им. В. А. Стеклова
АН СССР, 1972, т. 27, с. 194—210.
121. Стейн И. Сингулярные интегралы и дифференциальные свойства функ-
функций. М., 1973. 342 с.
122. Тащиян Г. М. Классическая формула асимптотики спектра эллиптиче-
эллиптических уравнений, вырождающихся на границе области. — Мат. заметки, 1981,
т. 30, № 6, с. 871—880.
123. Трибель X. Теория интерполяции, функциональные пространства, диф-
дифференциальные операторы. М., 1980. 664 с.
124. Уральцева Н. Н. О несамосопряженности в L2 (Rn) эллиптического
оператора с быстро растущими коэффициентами. — Зап. науч. семинаров Ле-
«ингр. отд. Мат. ин-та им. В. А. Стеклова АН СССР, 1969, т. 14, с. 288—294.
125. Успенский С. В. Свойства классов Wrp с дробной производной на диф-
дифференцируемых многообразиях. — Докл. АН СССР, I960, т. 132, № 1, с. 60—62.
126. Успенский С. В. О теоремах вложения для Бесовых классов. — Труды
Мат. ин-та им. В. А. Стеклова АН СССР, 1961, т. 60, с. 282—303.
127. Фаддеев Д. К. О представлении суммируемых функций сингулярными
интегралами в "точках Лебега. — Мат. сб., 1936, т. 1, № 3, с. 352—368.
128. Харди Г. Г., Литтлвуд Д. Е„ Полна Г. Неравенства. М„ 1948. 456 с.
129. Хеймая В. К. Многолистные функции. М., 1960. 179 с.
130. Хермандер Л. Линейные дифференциальные операторы с. частными
ттроиз~одными. М., 1965. 379 с.
131. Шапошникова Т. О. Эквивалентные нормировки в пространствах функ-
функций с дробной или функциональной гладкостью. — Сиб. мат. журн., 1980, т. 2,
№ 3, с. 184—196. .
132. Adams D. R. Traces of potentials arising from translation invariant ope-
operators. — Ann. Sci. Norm. Sup. Pisa, 1971, vol. 25, N 1, p. 203—217.
133. A<Jams D. R. A trace inequality for generalized potentials. — Studia
Math., 1973, vol. 48, N 1, p. 99—105.
134. Adams D. R. Traces of potentials II. — Ind. Univ. Math. J., 1973, vol. 22,
N 10, p. 907—918.
135. Adams D. R. On the exceptional sets for spaces of potentials. — Pacific
J. Math., 1974, vol. 52, N 1, p. 1—5.
136. Adams D. R. On the existence of capacitary strong type estimates in Rn. -?-
Ark. Mat., 1976, vol. 14, N 1, p. 125—140.
137. Adams D. R. Sets and functions of finite L^-capacity. — Ind. Univ.
Math. J., 1978, vol. 27, p. 611—627.
138. Adams D. R. Lectures on LP-potential theory. Preprint, Univ. of Umea,
Depart, of Math. 1981, N 2, p. 1—74.
139. Adams D. R., Hedberg L. I. Inclusion relations among fine topologies
in non-linear potential theory. — Reports Depart, of Math., Univ. of Stockholm,
Sweden, 1982, N 10, p. 1—15.
140. Adams D. R., Meyers N. G. Thinness and Wiener criteria for non-linear
potentials. — Ind. Univ. Math. J., 1972, vol. 22, N 2, p. 139—158.
141. Adams D. R., Meyers N. G. Bessel potentials. Inclusion relations among
classes of exceptional sets. — Ind. Univ. Math. J., 1973, vol. 22, N 9, p. 873—905.
142. Adams D. R., Polking J. C. The equivalence of two definitions of capa-
capacity. — Proc. Amer. Math. Soc., 1973, vol. 37, N 2, p. 529—534.

Указатель литературы 407
г.
143. Adams R. A. Sobolev spaces. New York; San Francisco; London, 1975.
268 p.
144. Amick (. J. Some remarks on Rellich s theorem and the Poincare ine-
inequality. — J. London Math. Soc. Ser. 2, 1978, vol. 18, pt. 1, p. 81—93.
145. Andersson R. Unbounded Soboleff regions. — Math. Scand., 1963, vol. 13r
p. 75—89.
146. Andersson R. The type set of a generalized Sobolev operator. — Medde-
ianden Iran Lunds Universitets Mat. Semin., 1972, vol. 19, p. 1—101.
147. Aronszajn N. On coercive integro-differential quadratic forms. — In;
Conference on partial differential equations. Univ. of Kansas, 1954, Report N 14,
p. 94—106.
148. Aronszajn N., Mulla F., Szeptycki P. On spaces of potentials connected
with L^-classes. — Ann. Inst. Fourier, 1963, vol. 13, N 2, p. 211—306.
149. Aubin T. Problemes isoperimetriques et espaces de Sobolev. ^-C. R. Acad-
Sci. Paris, 1975, t. 280, N 5, p. 279—281.
150. Bagby T. Approximation in the mean by solutions of elliptic equations. —
Trans. Amer. Math. Soc, 1984, vol. 281, p. 761—784.
151. Bagby Т., Ziemer W. P. Pointwise differentiability and absolute conti-
continuity. — Trans. Amer. Math. Soc., 1974, vol. 191, p. 129—148.
152. Besicovitch A. S. A general form of the covering principle and relative
differentiation of additive functions. — In: Proc. Cambridge Philos. Soc. I — 1945,
vol. 41, p. 103—110; II — 1946, vol. 42, p. 1—10.
153. Beurling A. Ensembles exceptiormels. — Acta Math., 1939, vol. 72.„
p. 1—13.
154. Bjorup K. On inequalities of Poincare's type. — Math. Scand., 1960
vol. 8, p. 157—160.
155. Bokowski J., Sperner E. Zerlegung konvexer Korper durch minimale
Trennflachen.—J.reine und angew. Math., 1979, Bd. 311/312, S. 80—100.
156. Caccioppoll R. Misure e integrazione sugli insiemi dhnensionalmente
orientati. -r- Rend, della Accad. Naz. dei Lincei. Ser. 8, 1952, vol. 12, N 1, p. 3—Ik
157. Caccioppoll R. Misure e integrazione sugli insiemi dimensionalmente
orientati. — Rend, della Accad. Naz. dei Lincei. Ser. 8, 1952, vol. 12, N 2, p. 137—
146,
158. Campanato S. И teorema di immersione di Sobolev per una classe di aperti
non dotati della proprieta di cono. — Ric. di Mat., 1962, vol. 11, N 1, p. 103—
122.
159. Calderon A. P. Lebesgue spaces of differentiable functions and distribu-
distributions. — Proc. Sympos. Pure Math., 196l\ vol. 4, p. 33—49.
160. Cartan H. Sur les systemes des fonctions holomorphes a varietes lineaires.
et leurs applications. — Ann. Ecole Norm. Sup., 1928, vol. 3, p. 255—346.
161. Choquet G. Theory of capacities. — Ann. Inst. Fourier, vol. 155, N 5,
p. 131—395.
162. Coifman R., Fefferman С Weighted norm inequalities for maximal func-
functions and singular integrals. — Studia Math., 1974, vol. 5, p. 241—250.
163. Dahlberg В. Е. J. Regularity properties of Riesz potentials. — Ind. Univ.
Math., J., 1979, vol. 28, N 2, p. 257—268.
164. De Giorgi E. Su una teoria generale della misure (r—l)-dimensionale in
uno spazio ad r dimensioni. — Ann. Mat. Ser. 4, 1954, vol. 36, p. 191—213.
165. De Giorgi E. Nuovi teoremi relative alle misure (r— l)-dimensionale
in spazio ad r dimensioni. — Ric. Mat., 1955, vol. 4, p. 95—113.
166. Dinghas A. Minkowskische Summen und Integrate, superadditiv Men-
genfunktionale, isoperimetrische Ungleichungen. — Mem. Sci. Math., 1961, N 149r
p, 1—101.
167. Deny J., Lions J.-L. Les espaces du type de Beppo Levi. — Ann. Inst*
Fourier, 1953—1954, vol. 5, p. 305—370.
168. Donoghue W. F., jr. A coerciveness inequality, -*- Ann, Scuola Normr
Super. Pisa, 1966, vol. 20, p. 589—593.

408 Указатель литературы
169. Edmunds D. E. Embeddings of Sobolev spaces: Non-linear analysis, func-
function spaces and applications. — Proc. of a spring school held in Horni Bradlo, 1978.
Teubner-Texte zur Math. Leipzig, 1979, p. 38—58.
170. Ehrling G. On a type of eigenvalue problems for certain elliptic diffe-
differential operators. — Math. Scand., 1954, vol. 2, p. 267—285.
171. Federer H. A note on the Gauss-Green theorem. — Proc. Amer. Math.
Soc, 1958, vol. 9, p. 447—451.
172. Federer H. Curvature measures. — Trans. Amer. Math. Soc, 1959, vol. 93,
N 3, p. 418—491.
173. Federer ,H. The area of non-parametric surfaces.— Proc. Amer. Math.
Soc, 1960, vol. 11, N 3, p. 436—439.
174. Federer H. Geometric measure theory. Berlin; Heidelberg; New York,
1969. 676 p.
175. Federer H. A minimizing property of extremal submanifolds. — Arch.
Rat. Mech. Anal., 1975, vol. 9, N 3, p. 207—217.
176. Federer H., Fleming W. H. Normal and integral currents. — Ann. Math.,
1960, vol. 72, p. 45S-520.
177. Fleming W. H. Functions whose partial derivatives are measures. —
Illinois J. Math., 1960, vol. 4, N 3, p. 452—478.
178. Fleming W. H., Rishel R. W. An integral formula for total gradient va-
variation. - Arch. Math., I960, vol. 11, N 3, p. 218—222.
179. Fraenkel L. E. On regularity of the boundary in the theory of Sobolev
spaces. — Proc. London Math. Soc, 1979, vol. 39, N 3, p. 385—427.
180. Freud G., Kralik D. Cber die Anwendbarkeit des Dirichletschen Prin-
lips fur den Kreis. — Acta Math. Hung., 1956, Bd. 7, N 3—4, S. 411—418.
181. Friedrichs K. Spektraltheorie halbbeschrankter Operatoren und An-
uendung auf die Spektralzerlegung von Differentialoperatoren. — Math, Ann.,
1934, Bd. 109, S. 463—487, 685—713.
182. Gagliardo E. Caratterizazloni delle trace sulla frontiera relative ad al-
cune classi di funzioni in piu variabili. — Rend. Semin. Mat. Univ. Padova, 1957,
vol. 27, p. 284—3C5.
183. Gagliardo E. Proprieta di alcune classi di funzioni in piu variabili. —*
Ric. Mat., 1958, vol. 7, p. 102—137.
184. Gagliardo E. Ulteriori proprieta di alcune classi di funzioni in piu vari-
variabili. — Ric, Mat., 1959, vol. 8, N 1, p. 24—51.
185. Gelman I. W., Mazja W. G. Abschatzungen fur Differentialoperatoren
im Halbraum. Berlin, 1982. 221 S.
186. Goldstein V. M.t Vodopjanov S. K. Prolongement des fonctions de classe
Llp et applications quasi confcrmes. — C. R. Acad. Sci. Paris, 1980, t. 290, N 10,
p. 453—456.
187. Gustin W. Boxing inequalities. — J. Math. Mech., 1960, vol. 9, 229—239.
188. Hadwiger H. Vorlesungen uber Inhalt, Oberflache und Isoperimetrie,
Berlin; Gottingen; Heidelberg, 1957. 312 S.
189. Hahn H., Rosenthal A. Set functions. Albuquerque; New Mexico, 1948.
324 p.
190. Hansson K. On a maximal inbedding theorem of Sobolev type and spectra
of Schrodinger operators. Diss. Linkoping, 1978. 76 p.
191. Hansson K. Imbedding theorems of Sobolev type in potential theory. —
Math. Scand., 1979, vol. 45, p. 77—102.
192. Hansson K. Continuity and compactness of certain convolution opera-
operators. Inst. Mittag-Leffler, 1982, Report N 9, p. 1—12.
193. Hardy G. H., Littlewood . E., lolya G. Some simple inequalities satis-
satisfied by convex functions. — Messenger Math., 1929, vol. 58, N 10, p. 145—152.
194. Hedberg L. I. On certain convolution inequalities. — Proc. Amer. Math.
Soc, 1972, vol. 36, N 2, p. 505—510.
195. Hedberg L. I. Two approximation problems in function spaces, — Ark,
Mat., 1978, vol. 16, N I, p. 51—81.

Указатель литературы 409*
196. Hedberg L. I. Spectral synthesis in Sobolev spaces and uniqueness of so-
solutions of the Dirichlet problem. — Acta Math., 1981, vol. 147, p. 237—264.
197. HedbeiM L. I., Wolff Т. Н. Thin sets in non-linear potential theory. Ann..
Inst. Fourier, 1983, vol. 33, N 4, p. 161—187.
198 Hestenes M. R. Extension of the range of a differentiable functions. —
Duke Math. J., 1941, vol. 8, p. 183—192.
199. Hoffmann D., Spruck J. Sobolev and isoperimetric inequalities for Rie-
mannian submanifolds. — Comm. Pure Appl. Math., 1974, vol. 27, N 6, p. 715—
727; 1975, vol. 28, N 6, p. 765—766.
200. Hormander L., Lions J.-L. Sur la completion par rapport a une integrate-
de Dirichlet. — Math. Scand., 1956, vol. 4, N 3, p. 259—270.
201. Hurd A. E. Boundary regularity in the Sobolev imbedding theorems. —
Can. J. Math., 1966, vol. 18, N 2, p. 350—356.
202. Jones P. W. Quasiconformal mappings and extendability of functions-
in Sobolev spaces. — Acta Math., 1981, vol. 147, N 1—2, p. 71—88.
203. JonssDn A., Wallin H. A Whitney extension theorem in L? and Besov
spaces.— Ann. Inst. Fourier, 1978, vol. 28, f. 1, p. 139—192.
204. Kolsrud T. Approximation by smooth functions in Sobolev spaces, a coun-
counterexample. — Bull. London Math. Soc, 1981, vol. 13, p. 167—169.
205. Krickeberg K. Distributional, Funktionen beschrankter Variation un&i
Lebesguescher Inhalt nichtparametrischer Flachen. — Ann Mat. Ser. 4, 1957,
vol. 44, p. 105-134.
206. Kufner A. Weighted Sobolev spaces. — Teubner Texte zur Math..
Leipzig, 1980. 152 S.
207. Leray J., Lions J.-L. Quelques resultats de ViSik sur les problemes ellip-
tiques non lineaires par les methodes de Minty-Browder. — Ball. Soc. Math., France,.
1965, vol. 93, p. 97—107.
208. Levi B.Sul prinzipiodi Dirichlet. —Rend. Palermo, 1906,vol. 22, p.293—
359.
209. Lichtenstein L. Eine elementare Bemerkung zur reelen Analysis. — Math».
Z., 1929, Bd. 30, S. 794—795.
210. Lions J.-L. Ouverts m-reguliers. — Revista de la Union Mat. Argentina,.
1955, vol. 17, p. 103—116.
211. Littman W. A connection between a-capacity and (m, p)-polarity. — Bulk.
Amer. Math. Soc, 1967, vol. 73, p. 862—866.
212. Littman W. Polar sets and removable singularities of partial differential
equation. — Ark. Math., 1967, Bd. 7, N 1, S. 1—9.
213. Mazja VV. G. Einbettungssatze fur Sobolewsche Raume. Teubner-Texte
zur Math. T. 1. Leipzig, 1979. 204 S; T. 2, 1980. 188 S.
214. Mazja W. G. Zur Theorie Sobolewscher Raume. Teubner-Texte
zur Math. Leipzig, 1981. 170 S.
215. Maz'ya V. G. Behaviour of solutions to the Dirichlet problem for the
biharmonic operator at a boundary ooi t. Equadiff IV. Prague, 1977. — Lecture
Notes in Mathematics, 1979, vol. 703, p. 250—262.
216. Meyers N. G. A theory of capacities for potentials of functions in Lebes-
gue classes. — Math. Scand, 1970, vol. ' 6, N 2, p. 255—292.
217. Meyers N. G. Continuity of Bessel potentials. — Israel J. Math., 1972,.
vol. 11, N 3, p. 271—283.
218. Meyers N. G. Integral inequalities of Poincare and Wirtinger type. —
Arch. Rat. Mech. Anal., 1978, vol. 68, N 2, p. 113—120.
219. Meyers N.. Serrin J. H-W. — Proc. Nat. Acad. Sci. USA, 1964, vol. 51,
p. 1055—1056,
220. Michael J. H., Simon L. M. Sobolev and mean-value inequalities on ge-
generalized submanifolds of Rn.—Comm. Pure Appl. Math., 1973, vol. 26, N 3,
p. 362—379.
221. Miranda M. Disuguaglianze di Sobolev sulle ipersuperfici minimali. —
Rend, Sem. Mat. Univ. Padova, 1967, vol. 38, p. 69—79.

410 Указатель литературы
222. Моггеу С. В. Functions of several variables and absolute continuity II. —
Duke Math. J., 1940, vol. 6, p. 187—215.
223. Моггеу С. В. Multiple integrals in the calculus of variations. Berlin; Hei-
Heidelberg; New York, 1966. 506 p.
224. Morse A. P. The behavior of a function on its critical set. — Ann. Math.
1939, vol. 40, N 1, p. 62—70.
225. Morse A. P. A theory of covering and differentiation. — Trans. Amer.
Math. Soc, 1944, vol. 55, p. 205—235.
226. Muckenhoupt B. Hardy's inequality with weights. — Studia Math.
1972, vol. 44, N 1, p. 31—38.
227. Muckenhoupt B. Weight d norm inequalities for the Hardy maximal
function. — Trans. Amer. Math. Soc., 1972, vol. 165, p. 207—226.
228. Necas J. Les methodes directes en theorie des equations elliptituies. Pra-
Prague, 1967. 351 p.
229. Nikodfm O. Sur une classe de fonctions considerees dans le probletne de
Dirichlet. — Fundam. Mat., 1933, vol. 21, p. 129—150.
230. Nirenberg L. On elliptic partial differential equation (Lecture 11).-^
Ann. Scuola Norm. Super Pisa. Ser. 3, 1959, vol. 13, p. 115—162.
231. Nirenberg L. An extended interpolation inequality. — Ann. Scuola Norm.
Super. Pisa. Sci. fis. e mat., 1966, vol. 20, N 4, p. 733—737.
232. Osserman R. The isoperimetric inequality. — Bull. Amer. Math. Soc,
1978, vol. 84, N 6. p. 1182—1238.
233. Otsuki T. A remark on the Sobolev inequality for Riemannian submani-
Jolds. — Proc. Japan Acad., 1975, vol. 51, p. 785—789.
234. Peetre J. New thoughts on Besov spaces: Duke Univ. Math. Series, I.
Durham, 1976. 304 p.
235. Pfaltzgraff J. A. Radial symmetrization and capacities in space. — Duke
Math. J., 1967, vol. 34, N 4, p. 747—755.
236. Polking J С Approximation in Lp by solutions of elliptic partial dif-
differential equations. — Amer. J. Math., vol. 94", 1972, p. 1231—1244.
237. Polya G., Szego G. Inequalities for the capacity of a condenser. — Amer. J.
Math., 19'5, vol. 67, p. 1—32.
238. Rellich F. Ein Satz uber mittlere Konvergenz. — Math. Nachr., 1930,
Bd. 31, S. 30—35.
239. Rickman S. Characterization of quasiconformal arcs. — Ann. Acad. Sci.
Fenn., 1966, Al—395, p. 7—30.
240. Rosen G. Minimum value for С in the Sobolev inequality ||ф81| ^
«S С || grad ф IP. — SIAM J. Appl. Math., 1971, vol. 21, N 1, p. 30—33.
241. Schmidt E. Ober das isoperimetrische Problem im Raum von n Dimen-
uionen. —Math. Z., 1939, Bd. 44, S. 689—788. .
242. Schwartz L. Theorie des distributions. Paris, 1973. 420 p.
243. Sjodin T. Capacities of compact sets in linear subspaces of Rn. — Pacif
J. Math., 1978, vol. 78, N 1, p. 261—266.
244. Smith K. T. Inequalities for formally positive integro-differential forms. —
Bull. Amer. Math. Soc., 1961, vol. 67, p. 368—370.
245. Soucek J. Spaces of functions on domain Q, whose &-th derivatives are
measures defined on Q. — Casopis Pest. Mat., 1972, vol. 97, p. 10—46, 94.
246. Stampacchia G. Problemi al contorno ellittici, con dati discontinui, do-
tati di soluzioni holderiane. — Ann. Mat. pura ed applicata, Ser 4. 1958, vol. 51,
p. 1—38.
247. Strichartz R. S. Multipliers on fractional Sobolev spaces, —J. Math, a,
Mech., 1967, vol. 16, N 9, p. 1031—1060.
248. Talbleson M. H. Lipschitz classes of functions and distributions in Ent —
Bull. Amer/Math. Soc, 1963, vol. 69, N 4, p, 487—493,

Указатель литературы 41
249. Taibleson M. H. On the theory of Lipschitz spaces oi distributions or>
Euclidean n-space. I. Principal properties.—J. Math. a. Mech., 1964, vol. 13,
N 3, p. 407—479.
250. Talent! G. Best constant in Sobolev inequality. — Ann. Mat. pura e&
Appl. Ser 4 1976, vol. 110, p. 353—372.
251. Tone Hi L. L'estremo assoluto degli integrali doppi. — Ann. Scuola Norm.
Sup. Pisa, 1933. vol. 2, p. 89—130.
252. Triebei H. Spaces of Besov — Hardy — Sobolev type. Teubner-Texte-
zur Math. Leipzig, 1978. 207 S.
253. Whitney H. A function not constant on a connected set of critical points. —
Duke Math. J., 1935, vol. 1, p. 514—517.

ОГЛАВЛЕНИЕ
Предисловие ¦ # . . . . • 3
Введение 5
Глава 1. Основные свойства пространств С. Л. Соболева ....«,.., 11
§ 1.1. Пространства Llp (Q), Vlp (Q) и Wlp (Q) —
§ 1.2. Некоторые факты теории множеств и теории функций . . . 33
§ 1.3. Некоторые неравенства для функций одной переменной . . 41
§ 1.4. Теоремы вложения типа С. Л. Соболева 50
§ 1.5. Еще о продолжении функций из пространств С. Л. Соболева 67
§ 1.6. Неравенства для функций, исчезающих на границе вместе
с производными до некоторого порядка 74
Глава 2. Неравенства, содержащие первые производные функций, рав-
равных нулю на границе 81
§ 2.1. Условия справедливости интегральных неравенств (случай
р=1) 82
§ 2.2. О (р, Ф)-емкости 91
§ 2.3. Условия справедливости интегральных неравенств (случай
р^\) 97
§ 2.4. Непрерывность и компактность операторов вложения L[ (Q)
и W{ (Q) в пространство Орлича 113
§ 2.5. Приложения к спектральной теории многомерного оператора
Шредингера 119
§ 2.6. Об одной вырождающейся квадратичной форме . , 127
§ 2.7, О пополнении в метрике обобщенного интеграла Дирихле 129
§ 2.8, Комментарии к главе 2 • 133
Глава 3. О суммируемости функций из пространства L\ (Q) ¦ 136
§ 3.1. Предварительные сведения ....•• —
§ 3.2. Классы множеств Ja и вложение Ц (Q) в Lq (Q) .••••• 138
§ 3.3. Субареальные отображения и классы Ja 145
§ 3,4. Двусторонние оценки функции X для области из примера
Никодима «•••••••••••«••••••••••••••• 150

Оглавление 413
§ 3.5. Компактность вложения L[ (Q) в Lq(Q) (<7^ 1) »¦•..¦. 152
§ 3.6. Вложение W\ r{Q, dQ) в Lq(Q) • •..••;•••••••. 154
§ 3.7. Комментарии к главе 3 . # ... # ..,,.,..,. # # ## # 158
Глава 4. О суммируемости функций из пространства ¦ Llp(Q) ..,.,,, 159
§ 4.1. О р-проводимости —
§ 4.2. О мультипликативном неравенстве для функций, равных
нулю на подмножестве Q ......... 162
§ 4.3. Классы множеств 10%а 164
§ 4.4. Вложение W{Pt g (Q) в Lq (Q) при q < p 171
§ 4.5. Еще о примере Никодима . » • . • , 184
§ 4.6. Некоторые обобщения 190
§ 4.7. Вложение Wp r(Q) в Lq (Q) (r>q) для областей бесконеч-
бесконечного объема ¦ , . . . 193
§ 4,8. О компактности вложения L * (Q) в Lq (Q) ¦ ¦ 203
§ 4.9. О вложении Llp(Q) в Lq(Q) 207
§ 4.10. Приложения к задаче Неймана для сильно эллиптических
операторов . 208
§ 4.11. Неравенства, содержащие интегралы по границе 215
$ 4.12. Комментарии к главе 4 . • 224
Глава 5. О непрерывности и ограниченности функций из пространств
С. Л. Соболева •,.....¦ 226
§ 5.1. О вложении Wp(Q) в C
§ 5.2. О мультипликативной оценке модуля функции из Wlp (Q) 230
§ 5.3-. О модуле непрерывности функций из Ll (Q) 233
§ 5.4. Ограниченность функций с производными из класса Орлича 235
§ 5.5. О компактности вложения Wlp (Q) в С (Q)f\ L^ (Q) ..... 237
§ 5.6. Обобщения на пространства С. Л. Соболева произвольного
целого порядка •••• »«»• 241
Глава 6. О функциях из пространства BV (Q) • • # 247
§ 6.1. Свойства периметра множества и функций из BV (Q) . . . . 248
§ 6.2. Формула Гаусса —Остроградского для липшицевых функ-
функций 254
§ 6.3„ О продолжении функций из ВV (О) на все пространство ¦ , 263
§ 6.4. Некоторые точные константы для выпуклых областей . . . 268
§ 6.5. Грубый след функции из BV (Q) и некоторые интегральные
неравенства 273
§ 6.6. След функции из BV (Q) на границе и формула Гаусса-^
Остроградского •.»,•••••••• 280
§ 6.7, Комментарии к главе 6 . . »*•••• 286

414 Оглавление
Глава 7 г Некоторые функциональные пространства, емкости и потен-
. . цналы. 287
§ 7Лг Пространства дифференцируемых функций любого положи-
положительного порядка • —
§ 7J2.. Некоторые сведения из теории потенциала . 293
Глава 8. О суммируемости по произвольной мере функций из про-
пространств дифференцируемых функций. . . . 30)
§ 8.1. Описание результатов . . . . . . —
§ 8.2. Оценка интеграла от емкости множества, ограниченного по-
поверхностью уровня 303
§ 8.3.* Условия справедливости теорем вложения в терминах изо-
периметрических неравенств 309
§ 8.4. Вложение в L9(\l) при р></>0 310
§ 8.5. Теоремы типа Картана и оценки емкости 314
§ 8.6. Теоремы вложения (условия в терминах шаров) 318
§ 8.7. Теоремы вложения в случае р=1 321
§ 8.8. Критерии компактности . , . • • 323
§ 8.9. Комментарии к главе 8..................... 324
Глава 9. Ой одной разновидности емкости ................. 326
§ 9.1. Емкость Gap . . . . •. . . ч . —
§ 9.2. О (р, /)-полярных множествах ¦ ¦ 331
$ 9.3. Эквивалентность двух емкостей 332
§ 9.4. Комментарии-к главе 9- . . . . ч , > * ^ 335
Глава 10. Интегральное неравенство для функций на кубе ...... Ф . 336
§ 10.1. Связь точной константы с емкостью (случай k=\) .... —
§ 10.2. Связь точной константы с (р, 7)-внутренним диаметром
(случай *=1) . . . 342
§ 10.3. Оценки точной константы в общем случае 345
$ 10.4. Комментарии к главе 10 355
Глава 11.'Вложение пространства Llp(Q) в другие функциональные про-
пространства 356
§ ИХ Постановка задачи —
§ П.2. Вложение llp (Q) р @}' (Q) . 357
§ 11.3. Вложение Llp (Q) в Lq (Q, !ос) # ЪЬ\
§ 11.4. Вложение Up (Q) ъ Lq{u) (случай p-^q) .......... 365
§ 11.5. Вложение ilp (п) в Lg(Q) (случай р>р^1) ....... 369
§ 11.6. Компактность вложения Llp(Q) в Lg(Q) 374
§ 11.7. Приложения к задаче Дирихле для сильно эллиптического
, , . . ооерэтора.. ,\. 376
§ 11.8., Комментарии к главе 11 ................... 381

Оглавление 415
Глава 12. Вложение Llp (Q, v) в W? (Q) 383
§ 12.1. Вспомогательные утверждения —
§ 12.2. Непрерывность оператора вложения Llp (Q, v) в W™ (fl) 385
§ 12.3. Компактность оператора вложения Llp (Q, v) в W™ (Q) 38Ь
§ 12.4. О замыкании операторов вложения 392
§ 12.5. Приложения положительная определенность и дискрет-
дискретность спектра сильно эллиптического оператора 395
§ 12.6. Комментарии к главе 12 397
Условные обозначения 399
Указатель литературы 401