| Математический сборник |
|
|
|
|
|
Эта публикация цитируется в 10 научных статьях (всего в 10 статьях) Монотонная линейная связность чебышёвских множеств в трехмерных пространствах А. Р. Алимовabc, Б. Б. Бедновade a Механико-математический факультет, Московский государственный университет имени М. В. Ломоносова b Математический институт им. В. А. Стеклова Российской академии наук, г. Москва c Московский центр фундаментальной и прикладной математики d Московский государственный технический университет имени Н. Э. Баумана (национальный исследовательский университет) e Первый Московский государственный медицинский университет имени И. М. Сеченова
Англоязычная версия:
Sbornik: Mathematics, 2021, Volume 212, Issue 5, Pages DOI: https://doi.org/10.1070/SM9325 
Реферативные базы данных:
      Величиной наилучшего приближения, или расстоянием от заданного элемента x линейного нормированного пространства X до заданного непустого множества M⊂X, называется величина ρ(x,M):=infy∈M‖x−y‖. Множество всех ближайших точек (элементов наилучшего приближения) из множества M для заданного x∈X обозначается PMx. Иными словами, PMx:={y∈M∣ρ(x,M)=‖x−y‖}. Множество M называется чебышёвским множеством, если для каждого x∈X множество PMx одноточечно. Для непустого подмножества M⊂X точка x∈X∖M называется точкой солнечности, если существует точка y∈PMx (называемая точкой светимости) такая, что y∈PM((1−λ)y+λx) для всех λ⩾ (иными словами, из точки y исходит “солнечный луч”, проходящий через x, для каждой точки которого y является ближайшей во множестве M). Множество M\subset X называется солнцем, если каждая точка x\in X\setminus M является точкой солнечности для M. “Солнца” являются наиболее естественными объектами, для которых выполнен обобщенный критерий Колмогорова элемента наилучшего приближения (лемма D). Им присущи те или иные свойства отделимости: шар можно отделить от такого множества посредством большего шара или опорного конуса (см., например, [1]). В настоящей работе изучаются структурные свойства чебышёвских множеств в трехмерных пространствах. Ставится задача описания пространств, в которых чебышёвские множества характеризуются в терминах более слабых, чем выпуклость. В качестве такой характеристики рассматривается свойство монотонной линейной связности множества (см. определение 1 ниже). Целью работы является характеризация трехмерных пространств, в которых любое чебышёвское множество монотонно линейно связно (теорема 1). В частности, показывается, что в трехмерных пространствах вида Y\oplus_\infty\mathbb R (где \dim Y=2) произвольное чебышёвское множество монотонно линейно связно. Аналогичный вопрос для множеств с полунепрерывной снизу метрической проекцией решен в [7]. Определение 1. Непрерывная кривая k(\tau), 0\leqslant \tau\leqslant 1, в линейном нормированном пространстве X называется монотонной, если скалярная функция f(k(\tau)) является монотонной по \tau для любого функционала f\in \operatorname{ext}S^* (здесь и ниже \operatorname{ext}S^* – множество крайних (экстремальных) точек единичной сферы S^* сопряженного пространства). Замкнутое множество называется монотонно линейно связным (см. [5], [1; § 9]), если любые две его точки можно соединить непрерывной монотонной кривой, лежащей в этом множестве. Монотонная линейная связность является более слабым свойством, чем выпуклость, и более сильным, чем линейная связность. Например, окружность на евклидовой плоскости линейно связна, но не монотонно линейно связна, а координатный крест монотонно линейно связен, но не является выпуклым множеством. Классическим примером монотонно линейно связного множества является множество (обобщенных) дробно-рациональных функций в пространстве C(Q) (см., например, [17; § 4]). Понятие монотонной линейной связности играет важную роль во многих задачах теории приближений и ее приложений (см. работы [17], [16] и приведенные в них ссылки). К примеру, здесь можно отметить результат о солнечности чебышёвских множеств в бесконечномерных линейных нормированных пространствах при условии его монотонной линейной связности (см. [1; п. 9.2], [17]). Взаимосвязь монотонных (в каком-нибудь смысле) множеств с классом солнц и чебышёвских множеств активно изучается в последнее время. Напомним, что точка s, лежащая на границе единичного шара B, называется точкой гладкости шара B (единичной сферы S) пространства X, если опорная гиперплоскость к шару B в точке s единственна (иными словами, если в точке s норма пространства X дифференцируема по Гато). Через \operatorname{sm}S обозначим множество всех точек гладкости сферы S. Точка s\in S называется достижимой точкой шара B (единичной сферы S), если найдется опорная гиперплоскость H к шару B в точке s такая, что H\cap B=\{s\}. Через \operatorname{exp}S мы будем обозначать множество всех достижимых точек сферы S. Следующий классический результат, установленный независимо В. И. Бердышевым и A. Брондстедом (см., например, [9], [10]), характеризует трехмерные нормированные пространства, в которых любое чебышёвское множество выпукло. Теорема A. В трехмерном нормированном пространстве любое чебышёвское множество выпукло, если и только если каждая достижимая точка единичной сферы S является точкой гладкости (т.е. \operatorname{exp}S\subset \operatorname{sm}S). Такое же условие (т.е. \operatorname{exp}S\,{\subset}\,\operatorname{sm}S) является характеристическим в задаче о выпуклости чебышёвских множеств и для четырехмерных пространств (в симметричном случае соответствующая характеризация получена А. Л. Брауном, в несимметричном – А. Р. Алимовым; см. [8]). Для пространств большей размерности ответ в задаче о характеризации пространств, в которых любое чебышёвское множество выпукло, до сих пор не получен. Также напомним, что если X_1, X_2 – линейные нормированные пространства, то \ell^\infty-прямой суммой X_1\oplus _\infty X_2 пространств X_1 и X_2 называется их прямая сумма с нормой \|(x_1,x_2)\|_\infty=\max\{\|x_1\|_{X_1}, \|x_2\|_{X_2}\}. Основным результатом настоящей работы является следующая теорема. Теорема 1. В трехмерном нормированном пространстве X любое чебышёвское множество монотонно линейно связно, если и только если выполнено одно из следующих двух условий: 1) любая достижимая точка единичной сферы пространства X является точкой гладкости (\operatorname{exp}S \subset \operatorname{sm}S); 2) X=Y\oplus_\infty \mathbb R (т.е. единичная сфера пространства X – цилиндр). В теореме 1 достаточность доказана первым автором, необходимость – вторым автором. Замечание 1. На нормированной плоскости любое чебышёвское множество (и, более общо, любое солнце) монотонно линейно связно (см. [4]). В настоящей работе важную роль играет аппарат выпуклости множества по направлениям и, в частности, формулируемые ниже теоремы B и C о выпуклости солнц по касательным направлениям сферы (см. [2]). Всюду ниже X – действительное линейное нормированное пространство; B(x,r) – замкнутый шар с центром x и радиусом r; \mathring B(x,r) – открытый шар с центром x и радиусом r; S(x,r) – сфера с центром x и радиусом r. В частном случае мы полагаем: B:=B(0,1) – единичный шар, S=S(0,1) – единичная сфера, S^* – единичная сфера сопряженного пространства. Хорошо известно, что в конечномерном линейном нормированном пространстве: 1) любое чебышёвское множество является солнцем; 2) любое солнце линейно связно и локально линейно связно (см. [1]). При изучении связности солнц в конечномерных пространствах А. Л. Браун (см. [11], [1; п. 9.3]) ввел важный класс (BM) линейных нормированных пространств. В таких пространствах оказалось возможным установить ряд нетривиальных результатов о геометрическо-топологических свойствах солнц и чебышёвских множеств. Мы говорим, что X – (BM)-пространство, если
\begin{equation*}
B(0,\|x\|)\cap \bigl(\mathrm{m}(x,y)\setminus\{x\}\bigr)\ne\varnothing
\end{equation*}
\notag
при условии, что [x,x-y]\cap \mathring B(0,\|x\|)=\varnothing, x\ne 0. Здесь и далее через \mathrm{m}(x,y) обозначается пересечение всех замкнутых шаров, содержащих точки x, y (оболочка Банаха–Мазура точек x и y).
Класс (\mathrm{BM})-пространств содержит в себе все гладкие пространства, все двумерные пространства с полигональным единичным шаром, пространства \ell^\infty_n, c_0, c, \ell^\infty (см. [1]). Строго выпуклое пространство лежит в классе (BM) тогда и только тогда, когда оно гладкое (см. [11]). Пространства \ell^1, \ell^1_n, n\geqslant 3, не принадлежат классу (\mathrm{BM}). Двумерные и трехмерные (BM)-пространства охарактеризованы A. Л. Брауном в [11] и [12; теорема 5.1] (леммы A и B). Лемма A. Для двумерного нормированного пространства X следующие условия эквивалентны: a) X\in (\mathrm{BM}); b) \operatorname{sm} S^*\cap \operatorname{ext}S^*\subset \operatorname{exp}S^*; c) если x\in S, то или x\in \operatorname{sm}S, или s – общая крайняя точка двух отрезков, лежащих в сфере S. Как следствие, двумерное полиэдральное пространство лежит в классе (\mathrm{BM}). Лемма B. Трехмерное пространство X лежит в классе (\mathrm{BM}), если и только если X или является гладким пространством, или имеет вид X=Y\oplus_\infty\mathbb R, где Y – двумерное (\mathrm{BM})-пространство. В конечномерном пространстве монотонно линейно связное множество является солнцем (см. [1; теорема 9.3]). Однако имеются примеры конечномерных пространств (любой размерности \geqslant 3), содержащих не монотонно линейно связные чебышёвские множества и солнца (см., например, [1; пример 9.1]). Различные варианты монотонной связности (устойчивая монотонная связность, слабая монотонная связность, монотонная линейная связность в несимметричных пространствах) и их приложения к вопросу существования непрерывных выборок из множеств наилучших и почти наилучших приближений исследовались И. Г. Царьковым (см. [15]–[17]). Известен следующий результат (см. [11; теоремы 4.1 и 4.2], [4; теорема 4.1]). Лемма C. Произвольное солнце (и, следовательно, произвольное чебышёвское множество) на нормированной плоскости и в конечномерном (BM)-пространстве монотонно линейно связно. Для негладких пространств иной структуры (и размерности \geqslant 3) вопрос о монотонной линейной связности чебышёвских множеств и солнц ранее не рассматривался. Замечание 2. Трехмерное пространство вида X=Y\oplus_\infty \mathbb R не обязательно лежит в классе (BM), например, в качестве Y можно взять пространство со строго выпуклым негладким шаром. Поэтому достаточность в теореме 1 не вытекает из леммы C. Напомним (см. [1; п. 3.2]), что под опорным конусом к шару B(x,\|x-y\|) в его граничной точке y мы понимаем множество
\begin{equation}
\mathring K(y,x)=\bigcup_{r>0}\mathring B\bigl(-ry+(r+1)x,(r+1)\|x-y\|\bigr),
\end{equation}
\tag{1}
состоящее из гомотетичных раздутий шара \mathring B(x,\|x-y\|) относительно точки y. Ниже K(y,x) – замыкание открытого конуса \mathring K(y,x).
Следующий результат представляет собой аналог классического критерия Колмогорова ближайшего элемента для выпуклых множеств (см., например, [1; теорема 3.1]). Лемма D. Множество M\subset X является солнцем в X тогда и только тогда, когда для каждой точки x\notin M найдется точка y\in P_Mx такая, что \mathring K(y,x)\cap M=\varnothing. Нам также потребуются следующие два результата о выпуклости солнц по касательным направлениям единичной сферы (см. [2], [3]). Сначала дадим необходимые определения. Определение 2 (см. [3]). Пусть y\in S. Через \Lambda_y мы обозначаем множество предельных точек отношения (y-z)/\|y-z\| при z\to y, z\in S (\Lambda_y – множество полукасательных направлений к сфере S в точке y). Направление d называется (глобально) касательным направлением для сферы S, если для любой точки y\in S условие опорности направления d в точке y влечет, что d\in \Lambda_y, т.е. направление d является касательным в точке y. Множество M называется выпуклым по направлению d, если условие x,y\in M, (y-x)\parallel d, влечет, что [x,y]\subset M. Теорема B. В нормированном пространстве солнце выпукло по любому касательному направлению единичной сферы. Теорема C. Подмножество двумерного банахова пространства является солнцем, если и только если оно замкнуто, связно и выпукло по любому касательному направлению сферы. Определение 3. Под плоскостью мы будем понимать двумерное аффинное подпространство в X. Если X=Y\oplus_\infty \mathbb R – трехмерное пространство с цилиндрической нормой, то под координатной плоскостью мы будем понимать либо плоскость, параллельную основанию единичного шара B (цилиндра), либо плоскость, параллельную двумерной плоскости, натянутой на образующую цилиндра B и некоторое касательное направление к единичной сфере S_Y пространства Y. В частности, плоскость, параллельная двумерной боковой грани цилиндра B (если такая имеется), является координатной. На любой плоскости H рассматривается норма, индуцированная нормой пространства X на H (в качестве начала координат плоскости H можно брать любую точку \theta из H; единичный шар B_H пространства H определяется пересечением B(\theta,1)\cap H). В случае X=Y\oplus_\infty \mathbb R плоскости, параллельные плоскости Y (или, что то же самое, основанию цилиндра – единичного шара B пространства X), будем называть главными координатными плоскостями. Единичный шар любой главной координатной плоскости H получается параллельным переносом единичного шара плоскости Y. Лемма 1 (см. также [7]). Пусть M – чебышёвское множество в трехмерном пространстве вида X=Y\oplus_\infty \mathbb R, H – главная координатная плоскость в X, и пусть M\cap H\ne\varnothing. Тогда M\cap H – солнце в H. Доказательство. Поскольку M – солнце в X, то по теореме B множество M выпукло по любому касательному направлению (к сфере пространства X и, следовательно, к сфере пространства H). В нашем случае шар пространства X – цилиндр, его основание – шар пространства H. По теореме C будет доказано, что M\cap H – солнце в H, если мы покажем, что множество M':=M\cap H связно. Рассуждая от противного, предположим, что M' несвязно. Тогда (см., например, [1; теорема 5.2]) множество M' также не P-связно в пространстве H (т.е. для некоторой точки x\in H множество ее ближайших точек из M' относительно нормы \|\,{\cdot}\,\|_H несвязно). Без ограничения общности можно считать, что 0\in H, x=0, \rho_H(0,M')=1. Тогда пересечение B_H\cap M' несвязно (при этом \mathring B_H\cap M'=\varnothing, где \mathring B_H – открытый единичный шар в H). Соответственно найдутся точки u,v\in B_H\cap M', u\ne v (u, v – ближайшие точки из M' для 0 на плоскости H). Плоскость H разбивает пространство X на два открытых полупространства \Pi^\pm. Обозначим \mathring B_H^\pm :=\{z\in \Pi^\pm \mid z=y +s, где y\in \mathring B_H, а s – единичный вектор, перпендикулярный плоскости H\}.
Хорошо известно, что чебышёвское множество в конечномерном нормированном пространстве \mathring B-связно, т.е. имеет связные пересечения с открытыми шарами (см., например, [1; теорема 5.2]). Поскольку по сказанному выше \mathring B_H\cap M=\varnothing и так как множество \mathring B_H разделяет шар \mathring B на две несвязные компоненты, то выполняется хотя бы одно из следующих двух равенств:
\begin{equation}
M\cap (\mathring B_H^+\cap \mathring B)=\varnothing, \qquad M\cap (\mathring B_H^-\cap \mathring B)=\varnothing .
\end{equation}
\tag{2}
Без ограничения общности можно считать, что выполнен первый случай, т.е. у цилиндра B внутренность “верхней половинки” не содержит точек из M. Для \alpha \geqslant 0 рассмотрим точку w_\alpha :=(1-\alpha )u+\alpha s. Хорошо известно, что B(x,r)\subset B(x',r') , если и только если \|x-x'\|\leqslant r'-r. Отсюда следует, что при 0<\alpha <1/2 шар B(w_\alpha ,\alpha ) содержится в шаре B(0,1), а при малых \alpha >0 он лежит в замыкании полупространства \Pi^+, поэтому \mathring B(w_\alpha ,\alpha )\subset (\mathring B_H^+\cap \mathring B) при малых \alpha >0. Так как по (2) M\cap (\mathring B_H^+\cap \mathring B)=\varnothing , то M\cap \mathring B(w_\alpha ,\alpha )=\varnothing, и поскольку \|u-w_\alpha \|=\alpha , то u – ближайшая точка из M для точки w_\alpha . По лемме D \mathring K(u,w_\alpha )\cap M=\varnothing, что вместе с представлением (1) для конуса \mathring K(u,w_\alpha ) влечет, что \mathring B(w_1,1)\cap M=\varnothing (w_1=s по определению точки w_\alpha ). Ясно, что u\in S(w_1,1). По построению B(w_1,1)\,{\cap}\, H=B_H, поэтому v\in S(w_1,1). Таким образом, поскольку \mathring B(w_1,1)\cap M=\varnothing и u,v\in S(w_1,1), то u,v\in P_Mw_1, что противоречит тому, что M – чебышёвское множество.
Лемма доказана. Для чебышёвского множества M из трехмерного пространства X=Y\oplus_\infty \mathbb R рассмотрим аналогичный вопрос об аппроксимативных свойствах множества M\cap H, где
\begin{equation}
\begin{aligned} \, &\text{плоскость $H$ параллельна плоскости, порожденной образующей} \\ &\text{цилиндра $B$ и произвольным фиксированным касательным на-} \\ &\text{правлением шара $B_Y$ пространства $Y$}. \end{aligned}
\end{equation}
\tag{3}
Пусть \|\,{\cdot}\,\|_H – норма на H, индуцированная нормой пространства X (как и выше, за начало координат берем любую точку из H). Понятно, что единичная сфера пространства H является прямоугольником. Без ограничения общности (см. [1; теорема 8.15]) мы будем отождествлять H с пространством \ell^\infty_2=(\mathbb R^2,\|\,{\cdot}\,\|_\infty). Лемма 2. Пусть M – чебышёвское множество в трехмерном пространстве вида X=Y\oplus_\infty \mathbb R, и пусть плоскость H определена в (3). Тогда если M\cap H\ne\varnothing, то Замечание 3. В условиях леммы 2 непустое множество M\cap H может не быть чебышёвским множеством в H (хотя по лемме 2 пересечение M\cap H является солнцем в H). В качестве примера рассмотрим пространство X=\ell^2_2\oplus_\infty\mathbb R с единичным шаром B. Пусть точка s лежит на относительной границе основания цилиндра (единичного шара пространства Y). Такая точка s является достижимой, поэтому найдется опорная плоскость G такая, что G\cap B=\{s\}. Ясно, что G – чебышёвское множество в X. Пусть H – опорная плоскость к шару B, проходящая через точку s и содержащая образующую цилиндра B. Поскольку H\cap G – прямая, параллельная основанию цилиндра, то она не является чебышёвским множеством в H. Замечание 4. Отметим без доказательства, что в условиях леммы 2 в полиэдральном трехмерном пространстве вида X=Y\oplus_\infty \mathbb R непустое множество M\cap H является чебышёвским множеством в H. Для проверки этого факта достаточно воспользоваться солнечностью множества M\cap H (лемма 2) и утверждением о том, что в конечномерном пространстве любая граничная точка солнца является точкой светимости (см. [1; предложение 4.1]). Нам далее потребуется (см. [11; теорема 4.2]) следующая характеризация А. Л. Брауна солнц в конечномерных (\mathrm{BM})-пространствах в терминах \operatorname{m}-связности (связности по Менгеру). Лемма E. Непустое подмножество N конечномерного (\mathrm{BM})-пространства является солнцем, если и только если оно \operatorname{m}-связно, т.е. Напомним, что \operatorname{m}(x,y) – пересечение всех шаров, содержащих точки x и y. Доказательство леммы 2. Обозначим для краткости M':=M\cap H. Рассуждая от противного, предположим, что M' не является солнцем в H. Напомним, что H отождествляется с пространством \ell^\infty_2=(\mathbb R^2,\|\,{\cdot}\,\|_\infty). Поскольку \ell^\infty_n\in (\mathrm{BM}), то по лемме E непустое множество N является солнцем в пространстве \ell^\infty_n, если и только если оно m-связно. Иными словами,
\begin{equation}
N\ \text{- солнце в}\ \ell^\infty_n \iff (\operatorname{m}_\infty(x,y)\setminus\{x,y\})\cap N\ne \varnothing \quad \forall\,x,y\in N, \quad x\ne y,
\end{equation}
\tag{4}
где по определению \operatorname{m}_\infty(x,y) – пересечение всех шаров пространства \ell^\infty_n, содержащих точки x и y. По предположению множество M' не является солнцем. Тогда M' не \operatorname{m}-связно. Поэтому по (4) найдутся точки u,v\in M', u\ne v, такие, что
\begin{equation}
(\operatorname{m}_H(u,v)\setminus\{u,v\})\cap M' =\varnothing
\end{equation}
\tag{5}
(здесь и ниже \operatorname{m}_H(u,v) обозначает пересечение всех замкнутых шаров пространства H, содержащих точки u и v).
Для x=(x^{(1)},x^{(2)}) и y=(y^{(1)},y^{(2)})\in H положим
\begin{equation*}
x \mathrel{=\!\!\!\mid\,} y,\quad\text{если }x^{(i)}\ne y^{(i)}\quad\text{для всех }i=1,2.
\end{equation*}
\notag
Покажем, что u \mathrel{=\!\!\!\mid\,} v (в пространстве H). Рассуждая от противного, предположим, что у точек u и v первые координаты одинаковые. Так как по построению одномерные грани единичного шара B_H (квадрата) пространства H параллельны касательным направлениям шара B_X пространства X и так как M – солнце в X, то по теореме B множество M выпукло по любому касательному направлению к сфере пространства H. Поэтому равенство первых координат у точек u и v влекло бы, что отрезок [u,v] содержался бы в M, что, однако, противоречит (5). Поэтому u \mathrel{=\!\!\!\mid\,} v (в пространстве H), и, значит, \operatorname{m}_H(u,v) – невырожденный прямоугольник в пространстве H (\operatorname{m}_H(u,v) – растяжение шара B_H вдоль его ребра). Пусть u, s, v, t – вершины прямоугольника \operatorname{m}_H(u,v). Для z\in \operatorname{m}_H(u,v) через p(z) обозначим ближайшую точку из M для z в норме пространства X. По лемме D В зависимости от положения точки z на квадрате \operatorname{m}_H(u,v)\setminus\{u,v\} (и соответственно точки p(z) на сфере (цилиндре) S(z,\|z-p(z)\|)) при пересечении конуса \mathring K(p(z),z) с плоскостью H получается множество только одного из следующих видов: 1) плоскость H; 2) открытое полупространство в H с границей, параллельной одной из сторон прямоугольника \operatorname{m}(u,v); 3) сдвиг \mathring K_i+u_z одного из четырех открытых координатных квадрантов \mathring K_i=\{\mathring K(p_i,0)-p_i\}, i=1,\dots,4, плоскости H, где p_i, i=1,\dots, 4, – крайние точки единичного шара B_H пространства H, а точка u_z зависит от точки z. Здесь мы воспользовались тем, что согласно (3) плоскость H параллельна плоскости, порожденной образующей цилиндра B и произвольным фиксированным касательным направлением шара B_Y пространства Y, поэтому пересечение \mathring K(p(z),z)\cap H не может быть полосой. Пусть точка z лежит на отрезке [s,t]. Ясно, что для точки z\in [s,t] выполнение любого из случаев 1) или 2) ведет к противоречию с (6): одна из точек u или v обязательно попадает в конус \mathring K(p(z),z). Для \zeta\notin M рассмотрим отображение \zeta \mapsto \varphi (\zeta):= ({p(\zeta)-\zeta})/{\|p(\zeta)-\zeta\|}. Поскольку M – чебышёвское множество в конечномерном пространстве, то отображения p(\,{\cdot}\,) и \varphi (\,{\cdot}\,) непрерывны (хорошо известно, что метрическая проекция на чебышёвское множество в конечномерном пространстве непрерывна). Далее, если для z\in [s,t] точка \varphi (z) лежала бы в относительной внутренности собственной боковой грани цилиндра B_X, то линейная размерность конуса \mathring K(\varphi (z),0) была бы не меньше 1, что возможно только в случае 1) или 2), а по сказанному выше для любой точки z\in [s,t] всегда выполнен случай 3). Определим нижнюю гипергрань \underline F сферы S_X как \underline F:=S_Y\oplus_\infty \{-1\}. Аналогично определяется верхняя гипергрань \overline F. Таким образом, при z\in [s,t] точка \varphi (z) лежит либо на нижней, либо на верхней главной гиперграни сферы S_X, причем
\begin{equation}
\text{$\varphi (s)$ и $\varphi (t)$ не лежат на одной и той же главной гиперграни сферы $S_X$}.
\end{equation}
\tag{7}
Действительно, пусть (7) не выполнено. Тогда без ограничения общности можно считать, что как \varphi (s), так и \varphi (t) лежат на нижней главной гиперграни \underline F сферы S_X. Пусть p(t)=:\{w\}, r:=\rho(t,M). Без ограничения общности мы можем считать, что вектор u\,{-}\,t направлен “в положительном направлении”, т.е. u\,{-}\,t=0\oplus_\infty \{c\} при некотором c\,{>}\,0. Это влечет, что луч \{\lambda u +(1-\lambda )t\mid \lambda >0\} пересекает верхнюю грань сферы S(t,r) по центру этой грани. По условию \varphi (t)\in \underline F, поэтому точка w лежит на нижней грани сферы S(t,r). Из последних двух утверждений вытекает, что [w,u]\cap \mathring B(t,r)\ne \varnothing. Хорошо известно, что \mathring K (w,t)=\{z\in X\mid [w,z]\cap \mathring B_X(t,r)\ne \varnothing\} (см., например, [1; п. 3.1]). Поэтому u\in \mathring K(w,t), что невозможно по лемме D. Полученное противоречие доказывает утверждение (7). Поскольку отображение \varphi непрерывно, то образ отрезка [s,t] связен, и, следовательно по (7) не может содержаться в (дизъюнктном) объединении двух главных гиперграней сферы S_X. Поэтому образ отрезка [s,t] при отображении \varphi содержит точки из боковой поверхности шара B_X. Но для прообраза любой такой точки при отображении \varphi обязательно выполнен случай 1) или 2), что, как и выше, приводит к противоречию с (6). Таким образом, исходное предположение, что M' не является солнцем в H, неверно, поэтому M\cap H – солнце в H для любой координатной плоскости H. Лемма 2 доказана. Определение 4. Пусть X – трехмерное пространство вида X=Y\oplus_\infty \mathbb R. На плоскости Y введем норму \|\,{\cdot}\,\|_{Y_P}, единичным шаром которой является многоугольник P. Полученное таким образом пространство обозначим через Y_P. По построению мы считаем, что
\begin{equation}
\begin{aligned} \, &\text{любая сторона многоугольника $P$ параллельна некоторому каса-} \\ &\text{тельному направлению сферы $S$ пространства $X$, лежащему в $Y$}. \end{aligned}
\end{equation}
\tag{8}
Определим пусть B_P – единичный шар пространства X_P (B_P – полиэдральный цилиндр), \|\,{\cdot}\,\|_P – норма пространства X_P. Ниже индекс P будет соответствовать объектам в трехмерном пространстве X, определяемым в терминах нормы \|\,{\cdot}\,\|_P, а индекс H – объектам на плоскости H, определяемым в терминах нормы \|\,{\cdot}\,\|_H, где плоскость H определена в (3). Лемма 3. Пусть M – чебышёвское множество в X=Y\oplus_\infty \mathbb R. Тогда множество M – монотонно линейно связное солнце в пространстве X_P, где X_P определено в (8), (9). Замечание 5. Требование (8) из определения 4 пространства X_P в условиях леммы 3 существенно. Иными словами, заключение леммы 3 перестает быть верным в произвольном цилиндрическом пространстве X_Q=Y_Q\oplus_\infty \mathbb R. Действительно, рассмотрим трехмерное пространство X=Y\oplus_\infty \mathbb R, где двумерное пространство Y имеет негладкую строго выпуклую единичную сферу S_Y и s – точка негладкости сферы S_Y (рис. 1). В нашей ситуации B_X=B_Y \oplus_\infty [-1,1] (B_Y – единичный шар пространства Y). Положим a:= 0\oplus_\infty \{1\} и определим \widehat S_Y:=S_Y\,{+}\,a (“верхняя грань” цилиндра B), \widehat s:= s\,{+}\,a, \widehat Y := Y+a. Пусть L_1, L_2 – две опорные прямые к сфере \widehat S_Y в плоскости \widehat Y в точке \widehat s такие, что L_i\cap \widehat S_Y=\{\widehat s\}, i=1,2. Множество всех единичных опорных функционалов в точке \widehat s к шару B_X пространства X образует двумерную грань F на сфере S^*. Поэтому можно выбрать два функционала f_1,f_2 \in F таким образом, что H_i\cap \widehat Y=L_i и H_i\cap S_X=\{\widehat s\}, где H_i:=\{x\in X\mid f_i(x)=1\}, i=1,2. Пусть \Pi_i – замкнутое опорное полупространство к шару B_X в точке \widehat s с границей H_i, i=1,2. Ясно, что множество M=\Pi_1\cup \Pi_2 является чебышёвским в X. Пусть теперь f=(f_1+f_2)/2. Такой функционал также является опорным к шару B_X в точке \widehat s, и гиперплоскость H:=\{x\mid f(x)=1\} пересекает шар B_X только по точке \widehat s. Пусть L:=H\cap \widehat Y. Для точки t\in (\widehat s, a) рассмотрим прямую \widehat L_t:=L+t-\widehat s, положим L_t:=\widehat L_t -a и определим шар B_Y' как часть шара B_Y, заключенную между прямыми \pm L_t. Направление прямой L_t является касательным направлением к сфере S_Y'. Однако множество M, очевидно, не выпукло по этому направлению. Поэтому по теореме B множество M не является солнцем в пространстве X с единичным шаром B'_Y\oplus_\infty [-1,1]. Отметим, что аналогичный пример можно построить и в полиэдральном пространстве. При доказательстве леммы 3 мы будем использовать еще одну характеризацию солнц в пространстве \ell^\infty_n (см. [6]). Лемма F. Непустое множество N\subset \ell^\infty_n является солнцем в \ell^\infty_n, если и только если N замкнуто, связно и пересечение N с любой координатной аффинной гиперплоскостью H в \ell^\infty_n является солнцем в H или пусто. Доказательство леммы 3. Наши рассуждения будут аналогичны доказательству достаточности в лемме F. Поскольку единичный шар пространства X_P – полиэдральный цилиндр, то X_P\in (\mathrm{BM}) по лемме B.
Рассуждая от противного, допустим, что утверждение леммы 3 неверно, т.е. множество M не является солнцем в пространстве X_P. Так как по сказанному выше X_P\in (\mathrm{BM}), то по лемме E найдутся точки x,y\in M, x\ne y, такие, что
\begin{equation}
(\operatorname{m}_P(x,y)\setminus\{x,y\})\cap M =\varnothing .
\end{equation}
\tag{10}
Пусть H – координатная плоскость пространства X_P, H\cap M\ne \varnothing. Покажем, что случай x,y\in H невозможен. Рассуждаем от противного. Если x,y\,{\in}\, H, то, очевидно, \operatorname{m}_P(x,y) \cap H=\operatorname{m}_P(x,y)=\operatorname{m}_H (x,y). Далее, по леммам 1 и 2 пересечение M\,{\cap}\, H является солнцем в H и, следовательно, (\operatorname{m}_H(x,y)\setminus\{x,y\})\cap M \ne \varnothing по лемме E, что противоречит (10). Поэтому точки x и y не могут лежать в одной координатной плоскости. Как следствие, многогранник \operatorname{m}_P(x,y) является телом.
Пусть F_1,\dots,F_\nu – все двумерные грани тела \operatorname{m}_P(x,y), содержащие точку x, и пусть E_1,\dots,E_\mu – все двумерные грани тела \operatorname{m}_P(x,y), содержащие точку y (так как \operatorname{m}_P(x,y) – цилиндр, то \nu, \mu\leqslant 3). По (10) имеем
\begin{equation*}
F_i\cap M=\{x\}, \quad E_j\cap M=\{y\}, \qquad i=1,\dots, \nu, \quad j=1,\dots, \mu.
\end{equation*}
\notag
Для произвольного множества F\subset\mathbb R^3 и его граничной точки z определим
\begin{equation*}
\operatorname{cone}(F,z):=\{\alpha f+(1-\alpha)z\mid f\in F,\ \alpha\geqslant 0\}.
\end{equation*}
\notag
Ясно, что направление является касательным для сферы S_Z некоторого двумерного банахова пространства Z тогда и только тогда, когда оно параллельно некоторому невырожденному отрезку из границы \operatorname{m} _Z(x, y) при некоторых x, y. Это замечание показывает, что любая из плоскостей \operatorname{aff} F_i, \operatorname{aff} E_j (аффинных оболочек граней F_i и E_j соответственно) является координатной в X в смысле определения 3. Далее, по леммам 1, 2 пересечение множества M с координатной плоскостью \operatorname{aff} F_i является солнцем для любого i. Отсюда, поскольку по (10) F_i\cap M=\{x\} для любого i и E_j\cap M=\{y\} для любого j, получаем
\begin{equation}
\operatorname{cone}(F_i,x)\cap M=\{x\}, \quad \operatorname{cone}(E_j,y)\cap M=\{y\}, \qquad i=1,\dots, \nu, \quad j=1,\dots, \mu.
\end{equation}
\tag{11}
Множество M линейно связно (как чебышёвское множество в конечномерном пространстве X) и x,y\in M, но точки x, y нельзя соединить кривой, лежащей в M, поскольку множество
\begin{equation*}
U=\biggl(\operatorname{m}(x,y)\cup \biggl(\bigcup_{i=1}^\nu \operatorname{cone}(F_i,x)\biggr) \cup \biggl(\bigcup_{j=1}^\mu \operatorname{cone}(E_j,y)\biggr)\biggr)\setminus \{x,y\}
\end{equation*}
\notag
разделяет пространство X, U\cap M=\varnothing в силу (11), а точки x и y лежат в разных компонентах связности множества X\setminus U. Полученное противоречие показывает, что M – солнце в X_P. Так как X_P – полиэдральное пространство с цилиндрической нормой, то по лемме B X_P \in (\mathrm{BM}), поэтому из солнечности M в X_P вытекает, что M монотонно линейно связно в пространстве X_P (см. [1; п. 9.4]).
Лемма 3 доказана. Доказательство теоремы 1. Достаточность. Согласно теореме A, если в трехмерном пространстве X любая достижимая точка единичной сферы является точкой гладкости, то любое чебышёвское множество в X выпукло. Ясно, что выпуклое чебышёвское множество N монотонно линейно связно. (Действительно, любые две точки множества N можно соединить отрезком, полностью содержащимся в N, а отрезок монотонен относительно каждого функционала из X^*.)
Пусть M – чебышёвское множество в трехмерном пространстве X=Y\oplus_\infty \mathbb R с цилиндрической нормой. Установим, что Для этой цели мы построим последовательность Q_n\subset Y центрально-симметричных выпуклых многоугольников с центром в 0 таких, что полиэдральные цилиндры P_n:=Q_n\oplus_\infty [-1,1] (определенные в (8) и (9) с P=P_n) будут аппроксимировать единичный шар B пространства X при n\to \infty. Построение осуществляется следующим образом. На единичной сфере S_Y (двумерного) пространства Y существует счетное всюду плотное множество G точек гладкости (классическая теорема Мазура; см., например, [12; § 1]). Каждой такой точке s\in G соответствует экстремальный функционал \varphi _s из сферы S^*_Y, линия уровня которого \{x\in X \mid \varphi _s(x)=1\} является опорной прямой к сфере S_Y в пространстве Y (это соответствие не обязательно взаимно однозначное). Если таких экстремальных функционалов конечное число, то S_Y – многоугольник, B_Y – полиэдральный цилиндр и требуемый результат следует из лемм C и B. Соответственно считаем, что \Phi:=\{\varphi _s\mid s\in G\} бесконечно. Множество \Phi плотно во множестве всех экстремальных функционалов \operatorname{ext} S^*_Y, поскольку по классической теореме Страшевича из выпуклого анализа (см., например, [14; теорема 1.18.5]) множество достижимых точек выпуклого подмножества конечномерного пространства плотно во множестве его экстремальных точек, а любой функционал \varphi _s, где s\in G, является достижимой точкой сферы S^*_Y. Пусть F=(f_i)_{i\in \mathbb N} – счетное всюду плотное подмножество \Phi. Напомним (см. [1; п. 9.1]), что если пространство Z сепарабельно, \mathscr H=(h_i)_{i\in I} – семейство функционалов из \operatorname{ext} S^*, w^*-плотное во множестве крайних точек \operatorname{ext} S^* единичной сферы сопряженного пространства, \mathscr H=-\mathscr H, (\alpha_i)\,{\subset}\, \mathbb{R}, \alpha_i>0, i\in I, \operatorname{card}I\leqslant \aleph_0 и \sum ^\infty_{i=1}\alpha_i <\infty, то ассоциированная (по Брауну) норма |z| вектора z\in Z определяется по формуле (см. [11], [4]) Поскольку \overline F\supset \operatorname{ext} S_Y^*, то в определении (13) ассоциированной нормы мы можем взять \mathscr H=F\cup (-F), I=\mathbb N, h_i=f_i, i=1, 2, \dots . Для любого n\in \mathbb N положим Q_n:=\{x\in Y\mid |f_i(x)|\leqslant 1,\, i=1, \dots, n\}. Ясно, что Q_n – центрально-симметричный выпуклый многоугольник с центром в 0. Поскольку \operatorname{ext} S_Y^* – граница Джеймса пространства Y (т.е. для любого x\in Y найдется f\in \operatorname{ext} S_Y^* такой, что f(x)=\|x\|), то в метрике Хаусдорфа, т.е. последовательность полиэдральных шаров (Q_n) приближает шар B_Y. Более того, любая сторона многоугольника Q_n есть неодноточечная часть линии уровня экстремального функционала f\in \operatorname{ext} S_Y^*, который в силу построения определяется по некоторой гладкой точке s\in S шара B_Y. Как следствие,
\begin{equation}
\begin{aligned} \, &\text{любая сторона многоугольника $Q_n$ параллельна некоторому} \\ &\text{касательному направлению сферы $S_Y$ пространства $Y$}. \end{aligned}
\end{equation}
\tag{15}
Положим P_n:=Q_n\oplus _\infty [-1,1]. Из (14) следует, что последовательность многогранников (P_n) аппроксимирует шар B_X пространства X, а в силу (15) для нее выполнено требуемое условие (8): любая сторона многогранника P_n параллельна некоторому касательному направлению сферы S пространства X. Как и выше, для любого n через Y_{Q_n} обозначим пространство Y с нормой \|\,{\cdot}\,\|_{Y_n}, единичным шаром которой является многоугольник Q_n. Положим X_{P_n}:=Y_{Q_n}\oplus_\infty \mathbb R (единичным шаром пространства X_{P_n} является полиэдральный цилиндр P_n); норму пространства X_{P_n} обозначим через \|\,{\cdot}\,\|_{P_n}. Зафиксируем произвольно числовую последовательность \alpha _i >0, i=1,2,\dots, \sum^\infty_{i=1} \alpha _i <\infty, и для каждого n в соответствии с (13) определим ассоциированные нормы
\begin{equation}
|x|_{P_n}=\sum_{i=1}^n\alpha_i|f_i(x)|,\qquad |x|_{X}=\sum_{i=1}^\infty\alpha_i|f_i(x)|
\end{equation}
\tag{16}
соответственно на пространствах X_{P_n} и X.
Рассуждая от противного, предположим, что (12) не выполнено, т.е. множество M не монотонно линейно связно в X. Тогда M не m-связно в X (см. [4; теорема 4.2]) и, значит, найдутся точки u,v\in M, u\ne v, такие, что По построению пространство X_{P_n} удовлетворяет условию (8) определения 4. По лемме 3 множество M является солнцем в X_{P_n} для любого n, по лемме B каждое из пространств X_{P_n} лежит в классе (\mathrm{BM}), а в конечномерных (\mathrm{BM})-пространствах любое солнце монотонно линейно связно (лемма C). Поэтому множество M монотонно линейно связно в X_{P_n} для любого n. Соответственно для любых двух точек u и v из M найдется монотонная кривая k_{P_n}(\,{\cdot}\,)\subset \bigl(M\cap \operatorname{m}_{P_n}(u,v)\bigr), их соединяющая; при этом длина кривой k_{P_n}(\,{\cdot}\,) в норме |\,{\cdot}\,|_{P_n} равна |u-v| _{P_n} (см. [1; лемма 9.1] и [11; следствие 3.2]). Пусть z_{n}\in M – середина этой кривой относительно нормы |\,{\cdot}\,|_{P_n}, т.е. По сказанному выше \|\,{\cdot}\,\|_{P_n}\to \|\,{\cdot}\,\|_X, а из (16) имеем По соображениям компактности из последовательности (z_n) можно выбрать сходящуюся подпоследовательность (z_{n_k}), которую мы отождествляем с (z_n), такую, что z_n\to z\in M. Тогда |z\,{-}\,u|_X=|z\,{-}\,v|_{X}=\frac 12 |u\,{-}\,v|_X в силу (18) и (19), и, следовательно, z\in \operatorname{m}(u,v) (см. [1; п. 9.1]), при этом, очевидно, z\ne u,v. Однако это противоречит (17). Итак, утверждение (12) доказано.Пусть x \in S. Множество единичных функционалов из X^*, достигающих нормы на элементе x, обозначим через J(x), т.е. Такие множества J(x) будем называть гранями сферы S^*. Если множество V содержится в аффинном подпространстве исходного пространства, то его внутренность в этом подпространстве (в плоскости или на прямой) обозначим через \operatorname{int} V. Внутренность множества W со сферы банахова пространства (в частности, внутренность октанта сферы) также обозначим через \operatorname{int} W.Необходимость. Рассмотрим классификацию сфер S^* сопряженного пространства X^* по количеству крайних точек в их гранях. Рассмотрим четыре возможных случая: a) существует двумерная грань не менее чем с четырьмя крайними точками сферы S^*; b) существуют двумерные грани, и все они содержат не более трех крайних точек S^*; c) не существует двумерной грани, но существуют одномерные грани; d) все грани нульмерные, т.е. точки. В доказательстве необходимости мы рассматриваем пространства, сферы которых не являются цилиндрами и имеют достижимые точки негладкости. В случае d) у сферы S точек негладкости нет, поэтому по теореме C в таких пространствах каждое чебышёвское множество выпукло, а значит, монотонно линейно связно (подробнее об этом – выше в доказательстве достаточности). Ясно, что каждой трехмерной сфере S с достижимой точкой негладкости соответствует сопряженная сфера S^*, которая попадает в один из случаев a)–c). Построение чебышёвского, но не монотонно линейно связного множества основано на следующих двух леммах. Лемма 4. Пусть x \in S – достижимая точка негладкости,
\begin{equation}
\begin{gathered} \, f_1, f_2 \in J(x) \cap \operatorname{ext} S^*, \qquad f_0 \in \operatorname{int}J(x), \notag \\ g_i=\frac12 f_i +\frac12 f_0,\notag \\ M_i=\bigl\{y \in X\mid g_i(y)=g_i(x)=1,\,g_j(y) \leqslant g_j(x)=1,\,j \in \{1, 2\}\setminus\{i\}\bigr\}, \qquad i=1, 2, \notag \\ M=M_1 \cup M_2. \end{gathered}
\end{equation}
\tag{20}
Тогда M – чебышёвское множество. Множество M представляет собой “двускатную крышу” над сферой S, причем M \cap S=\{x\} и множество K(x, 0)\setminus \{x\} находится между M \setminus \{x\} и S \setminus \{x\}. Доказательство леммы 4. В силу выбора функционалов g_i (некрайних точек сопряженной сферы, достигающих нормы только в достижимой точке негладкости x) сфера S(y, r) для любой точки y вне M и радиуса r=\rho(y, M) пересекается с M по единственной точке вида rx\,{+}\,y или -rx\,{+}\,y (точка \pm rx\,{+}\,y есть достижимая точка негладкости сферы S(y, r), которая соответствует точке \pm x сферы S).
Действительно, предположим противное: пусть точка z\in M такова, что \|y - z\|=r и z\ne \pm rx+y. Без ограничения общности считаем, что сфера S(y, r) и множество M имеют общую точку z во множестве уровня функционала g_1. Рассмотрим точки q_{\pm}=\pm rx+y. Без ограничения общности считаем, что g_1(q_-) \leqslant g_1(y) \leqslant g_1(q_+) при g_1(y)\leqslant g_1(z) (т.е. плоскости уровня функционала g_1, проходящие через q_+ и z, лежат в одном полупространстве относительно плоскости уровня функционала g_1, проходящей через y). При этом |g_1(q_+) - g_1(y)|=r в силу выбора точки q_+. Заметим, что \rho(y, M) \geqslant |g_1(z) - g_1(y)|. Предположим, что |g_1(z) - g_1(y)| \ne r, и рассмотрим на интервале (y, q_+) такую точку q_+', что g_1(z)=g_1(q_+'). Если q_+' не из M (т.е. множество M отделяет точку y от q_+'), то на интервале (y, q_+') есть точка q_+'' из M. Отсюда получаем \rho(y, M) \leqslant \|y\,{-}\, q_+'\| < r, что невозможно. Если же q_+' \in M, то \rho(y, M) \leqslant \|y - q_+'\| < r, что также невозможно. Значит, |g_1(z) - g_1(y)|=r, или g_1(q_+)=g_1(z). Таким образом, отрезок [q_+, z] лежит на сфере S(y, r), что невозможно, так как функционал g_1 является опорным к сфере S(y, r) только в точках q_{\pm} (поскольку g_1 \in \mathrm{int}J(x)). Значит, для произвольной точки y ближайшая в M имеет вид \pm rx+y при некотором r и единственна. Лемма доказана. Лемма 5. Пусть x \in S – достижимая точка негладкости, f_1, f_2 \in J(x) \cap \operatorname{ext} S^*. Пусть линейно независимые f_3, f_4 \in \operatorname{ext}S^*\setminus\{\pm f_1, \pm f_2\} таковы, что существует единственный элемент f'_0=\operatorname{span} \{f_3, f_4\}\cap(f_1, f_2). Пусть f_0 \in \operatorname{int}J(x) \cap \operatorname{span}\{ f_3, f_4\} и M – множество из (20). Тогда M не монотонно линейно связно. Доказательство. Заметим, что функционалы g_1, f_3, f_0 линейно независимы. Действительно, f_0 отличен от f_3, а g_1 не лежит в плоскости \operatorname{span} \{f_3, f_0\}=\operatorname{span} \{f_3, f_4\}.
Значит, для любой тройки значений существует элемент, на котором эти функционалы принимают такие значения. Пусть z_1 таков, что g_1(z_1)=1, f_3(z_1)=0, f_0(z_1)=0. Тогда g_2(z_1) < 0, поскольку g_1 и g_2 лежат по разные стороны относительно плоскости \mathrm{span}\{ f_3, f_4\}=\{f\mid f(z_1)= 0\}. Элемент z_1 лежит в M_1: g_1(z_1)=1, g_2(z_1) < 1. Аналогично, для линейно независимой тройки g_2, f_3, f_0 найдем точку z_2, для которой g_2(z_2)=1, f_3(z_2)=0, f_0(z_2)=0. Точка z_2 лежит в M_2. На произвольном элементе z \in (z_1, z_2) функционалы g_1 и g_2 принимают значения меньше 1 (как на выпуклой линейной комбинации элементов z_1 и z_2). Следовательно, (z_1, z_2) \cap M=\varnothing. Теперь докажем, что точки z_1 и z_2 не соединяются кривой из множества M, монотонной относительно крайних функционалов f_3 и f_4. Действительно, из условия f_3(z_1)=f_3(z_2) следует, что кривая \gamma, соединяющая точки z_1 и z_2, монотонна относительно f_3 тогда и только тогда, когда \gamma лежит в плоскости \{z\mid f_3(z)=f_3(z_1)\}. При этом f_4(z_1)=f_4(z_2), поскольку f_4 есть линейная комбинация f_3 и f_0. Поэтому аналогично предыдущему кривая \gamma, монотонная относительно f_4, содержится в плоскости \{z\mid f_4(z)=f_4(z_1)\}. Значит, единственная монотонная относительно как f_3, так и f_4 кривая, соединяющая z_1 с z_2, – это отрезок [z_1, z_2], который не содержится целиком в M. Следовательно, множество M не монотонно линейно связно. Лемма доказана. a) Пусть достижимой точке негладкости x \in S соответствует двумерная грань J(x) сферы S^*, содержащая не менее чем четыре крайние точки, т.е. существуют различные функционалы f_1, f_2, f_3, f_4 \in \operatorname{ext} S^* \cap J(x). Считаем, что при некотором обходе границы грани J(x) функционалы f_1, f_3, f_2, f_4 расположены именно в таком порядке. Существует точка f_0=[f_1, f_2] \cap [f_3, f_4] из \operatorname{int} J(x). По функционалам f_1, f_2, f_3, f_4 и достижимой точке негладкости x строится чебышёвское, но не монотонно линейно связное множество M при помощи лемм 4 и 5. Случай а) полностью разобран. Лемма 6. Сфера пространства X является цилиндром тогда и только тогда, когда для каждой линейно независимой тройки f_1, f_2, f_3 \in \operatorname{ext} S^* не существует функционала при условии Доказательство. Необходимость. Если сфера пространства X – цилиндр, то без ограничения общности можно считать, что половина S^* есть конус с вершиной f_1. Следовательно, все крайние точки сферы S^*, за исключением \pm f_1, лежат в одной плоскости и выражаются как линейная комбинация двух крайних точек f_2 и f_3.
Достаточность. Предположим, что для данных линейно независимых элементов f_1, f_2, f_3 \in \operatorname{ext} S^* не существует функционала f_4 \in \operatorname{ext} S^* с условием (21), но сфера S^* не является конусом, т.е. найдутся функционалы f_5, f_6 \in \operatorname{ext} S^*\setminus\{\pm f_1, \pm f_2, \pm f_3\}, причем f_5=\lambda_1f_1 + \lambda_2f_2, f_6=\mu_1f_1 + \mu_3f_3 с ненулевыми коэффициентами \lambda_1, \lambda_2, \mu_1, \mu_3. Тогда система \{f_2, f_3, f_6\} крайних точек сопряженной сферы линейно независима, a f_5 выражается через них с условием (21) на коэффициенты: f_5=\frac{\lambda_1}{\mu_1}(f_6 - \mu_3f_3) + \lambda_2f_2. Противоречие. Лемма доказана. b) Пусть существуют двумерные грани, все они содержат не более трех крайних точек S^* и сфера пространства X не является цилиндром. Если грань J(x) \subset S^* треугольная, то x \in S является достижимой точкой негладкости. При этом три крайние точки S^* из грани J(x) – вершины треугольной грани J(x) – линейно независимы и достигают своей нормы на x. Рассмотрим множество N \subset S достижимых точек негладкости сферы S, для каждой из которых найдутся три различных крайних функционала, достигающих на этой точке своей нормы. Нам понадобятся два подслучая. b_1) Пусть точка x \in N такова, что при f_1, f_2, f_3 \in J(x)\cap \operatorname{ext} S^* существует f_4=\lambda_1 f_1 + \lambda_2 f_2 + \lambda_3 f_3 \in \operatorname{ext} S^* с условием \lambda_1\lambda_2\lambda_3 \ne 0. Без ограничения общности считаем, что \lambda_1 > 0, \lambda_2 > 0, \lambda_3 < 0. Значит, плоскость \operatorname{span} \{ f_3, f_4 \} пересекает (f_1, f_2). Применяя леммы 4 и 5 для функционалов f_1, f_2, f_3, f_4 и точки x, получаем не монотонно линейно связное чебышёвское множество M. b_2) Пусть теперь для каждой точки x \in N не существует функционала f_4=\lambda_1 f_1 + \lambda_2 f_2 + \lambda_3 f_3 \in \operatorname{ext} S^* с условием (21) при f_1, f_2, f_3 \in J(x)\cap \operatorname{ext} S^*. Зафиксируем точку x \in N и ее тройку f_1, f_2, f_3 \in J(x)\cap \operatorname{ext} S^*. По лемме 6 найдутся хотя бы две плоскости среди трех плоскостей \operatorname{span} \{ f_i, f_j\}, i \ne j, \{i, j\} \subset \{1, 2, 3\}, каждая из которых содержит не менее одного крайнего функционала сопряженной сферы, отличного от \pm f_k, k=1, 2, 3. Без ограничения общности считаем, что в каждой из плоскостей \operatorname{span} \{ f_1, f_2\} и \operatorname{span}\{ f_1, f_3\} есть крайний функционал из S^*, отличный от \pm f_j, j=1, 2, 3. Теперь рассмотрим множество
\begin{equation*}
O_1=\{f \in S^* \mid f=\alpha_1 f_1 + \alpha_2f_2 + \alpha_3f_3,\, \alpha_1 \geqslant 0, \,\alpha_2 \leqslant 0, \, \alpha_3 \leqslant 0\}
\end{equation*}
\notag
(это октант S^*, содержащийся в трехгранном угле, образованном лучами f_1, -f_2, -f_3). Граница O_1 состоит из отрезка [-f_2, -f_3], дуги между f_1 и -f_2, полученной пересечением S^* и плоскости \operatorname{span} \{ f_1, f_2 \}, и дуги между f_1 и -f_3, полученной пересечением S^* и плоскости \operatorname{span}\{ f_1, f_3 \}. Заметим, что для k\,{=}\,2, 3 дуга границы O_1 между f_1 и -f_k содержит крайнюю точку S^* из плоскости \operatorname{span}\{ f_1, f_k\}, отличную от \pm f_j, j=1, 2, 3. Действительно, две прямые l_1 \ni \pm f_1 и l_k \ni \pm f_k делят “окружность” S^*\,{\cap}\,\operatorname{span}\{ f_1, f_k\} на четыре части, причем две из них – отрезки [f_1, f_k] и [-f_1, -f_k] (напомним, треугольник f_1f_2f_3 есть грань S^*). Так как в плоскости \operatorname{span}\{ f_1, f_k \} по предположению есть крайние точки S^*, отличные от \pm f_1, \pm f_2, \pm f_3, то на дуге границы октанта O_1 между f_1 и -f_k есть крайние точки S^*.
Возможны сферы S^* двух видов: A) в O_1 есть двумерная грань J, для которой (трехэлементное) множество ее крайних точек J \cap \operatorname{ext} S^* не содержит f_1; B) в O_1 есть только одна двумерная грань, причем одна из вершин этой грани совпадает с f_1, или двумерной грани в октанте O_1 нет. A) Пусть в октанте O_1 сопряженной сферы есть двумерная грань с тремя точками g_1, g_2, g_3 \in \operatorname{ext} S^*, каждая из которых отлична от f_1. Тогда два из этих функционалов лежат в одной из плоскостей, \operatorname{span}\{ f_1, f_2\} или \operatorname{span}\{ f_1, f_3\}, а третий – в другой плоскости, скажем, в \operatorname{span}\{ f_1, f_3\} (потому что внутри октанта крайних точек нет по предположению и граница октанта между -f_2 и -f_3 есть отрезок). Соответственно крайняя точка \beta_1f_1 + \beta_3f_3, отличная от g_i и f_1 (например, f_3 при условии, что f_3 \ne g_i, i=1, 2, 3), имеет вид \gamma_1g_1 + \gamma_2g_2 + \gamma_3g_3 при \gamma_1\gamma_2\gamma_3 \ne 0. Получаем противоречие с условиями пункта b_2). B) Пусть в октанте O_1 есть только одна двумерная грань, причем одна из вершин этой грани совпадает с f_1, или двумерной грани в октанте O_1 нет. Напомним, что на границе октанта O_1 между f_1 и -f_2 и между f_1 и -f_3 есть крайние точки f_2' и f_3' соответственно. Пусть O_1' – часть октанта O_1, ограниченная плоскостями \operatorname{span}\{ -f_2, -f_3\}, \operatorname{span}\{ -f_2, f_2'\}, \operatorname{span}\{ -f_3, f_3'\}, \operatorname{span}\{ f_2', f_3'\}. Пусть g \in \operatorname{int} O_1' – точка гладкости S^*. Она существует, так как точки гладкости сферы плотны на ней (по теореме Мазура; см. [13; гл. 1]). Точка g лежит на некотором отрезке, поскольку внутри O_1 нет крайних точек. Если точка g лежит на двух неколлинеарных отрезках, то в октанте O_1 есть часть двумерной грани K=J(z) (z – достижимая точка негладкости), у которой ни одна вершина не совпадает с f_1 (поскольку точка гладкости g выбрана из \operatorname{int}O_1'). Если внутренность грани K имеет точки вне октанта O_1, то плоскость P=\operatorname{span}\{\alpha, \beta\} (\alpha, \beta \in \operatorname{ext} S^*), совпадающая с одной из плоскостей \operatorname{span}\{ f_i, f_j\}, i \ne j, \{i, j\} \subset \{1, 2, 3\}, пересекает грань K, а вместе с ней и некоторый отрезок [a, b] \subset K с концами в крайних точках S^*. По функционалам a, b, \alpha, \beta и точке z строится чебышёвское, но не монотонно линейно связное множество при помощи лемм 4 и 5. Грань K целиком лежать в O_1 не может, поскольку это противоречит рассматриваемому случаю. Далее считаем, что [d_1, d_2] есть максимальный отрезок, содержащий g. Если d_1 не крайняя точка, то она лежит на интервале (c, d) сферы S^*. Это значит, что в O_1 есть часть двумерной грани K', а именно часть плоскости, проходящая через отрезки [c, d] и [d_1, d_2]. При этом крайние точки K' отличны от f_1, поскольку точка гладкости g выбрана из \operatorname{int}O_1', т.е. не содержится в грани с вершиной в f_1. Если грань K' целиком лежит в O_1, то это противоречит рассматриваемому случаю; если внутренность грани K' выходит за октант O_1, то (аналогично предыдущему) строится чебышёвское, но не монотонно линейно связное множество при помощи лемм 4 и 5. Далее считаем, что d_1, d_2 – крайние точки S^*. Лемма 7. Пусть [d_1, d_2] \subset S^* – отрезок с концами в крайних точках, который содержит внутри себя точку гладкости g \in S^*. Если точка x \in S такова, что J(x)=[d_1, d_2], то x – достижимая точка негладкости. Доказательство. Действительно, x – точка негладкости, так как J(x) не одноэлементно.
Поскольку g \in (d_1, d_2) – точка гладкости сферы S^*, то существует единственный элемент из S, плоскость уровня которого опорна к S^* в g. Так как x достигает нормы на g, то касательная плоскость к S^* в g и будет плоскостью уровня элемента x. При этом функционал g достигает нормы только на x. Поэтому x – достижимая точка. Лемма доказана. Рассмотрим достижимую точку негладкости x из леммы 7, которая соответствует отрезку [d_1, d_2] \ni g с концами в крайних точках. При этом d_1, d_2 – крайние точки S^*, лежащие вне \operatorname{int}O_1'. Значит, интервал (d_1, d_2) пересекается с одной из плоскостей, \operatorname{span}\{ -f_2, f_3' \} или \operatorname{span}\{ -f_3, f_2' \}, скажем, с \operatorname{span}\{ -f_2, f_3' \}. Обозначим d_4=-f_2, d_3=f_3'. По леммам 4 и 5 для достижимой точки негладкости x и функционалов d_1, d_2, d_3, d_4 строится чебышёвское, но не монотонно линейно связное множество M. Случай b) полностью разобран. c) Пусть теперь на сфере S^* не существует двумерной грани и сфера S не цилиндр, но существуют одномерные грани. Пусть x \in S – достижимая точка негладкости. Тогда J(x) – отрезок [f_1, f_2] на S^* с концами в крайних точках. Рассмотрим такую крайнюю точку f_3, что \{f_1, f_2, f_3\} линейно независимы. Пусть O – октант сферы S^*, ограниченный плоскостями \operatorname{span}\{ f_1, f_2\}, \operatorname{span}\{ f_1, f_3\}, \operatorname{span}\{ f_2, f_3\}. Возможны два случая. A) Множество \operatorname{int}O содержит крайнюю точку f_4. В этом случае плоскость \operatorname{span}\{ f_3, f_4\} пересекает интервал (f_1, f_2), и для достижимой точки негладкости x \in S и функционалов f_1, f_2, f_3, f_4 строится не монотонно линейно связное чебышёвское множество M при помощи лемм 4 и 5. B) Во множестве \operatorname{int} O нет крайних точек. Рассмотрим произвольную точку гладкости g \in \operatorname{int}O. Точка g не крайняя, значит, лежит на отрезке [d_1, d_2] с концами в крайних точках (поскольку двумерных граней на сфере S^* нет). Если хотя бы один из концов отрезка [d_1, d_2] лежит вне O, то интервал (d_1, d_2) пересекается плоскостью \operatorname{span}\{f_3, f_1\} или плоскостью \operatorname{span}\{f_3, f_2\} (интервал (d_1, d_2) пересекаться с плоскостью \operatorname{span}\{f_1, f_2\} не может, так как [f_1, f_2] \subset S^*). Для определенности скажем, что (d_1, d_2)\,{\cap}\, \operatorname{span}\{f_3, f_1\} \ne \varnothing. По лемме 7 отрезку [d_1, d_2] соответствует достижимая точка негладкости y \in S. Для точки y и функционалов d_1, d_2, f_3, f_1 строится не монотонно линейно связное чебышёвское множество M при помощи лемм 4 и 5. Пусть теперь для каждой точки гладкости g \in \operatorname{int}O крайние точки d_1, d_2 (концы отрезка на сфере, содержащего g) содержатся в O. Напомним, что в \operatorname{int}O нет крайних точек. Поскольку d_1, d_2 \notin (f_1, f_2) (так как иначе в O есть двумерная грань, содержащая отрезки [f_1, f_2] и [d_1, d_2]), то d_1 и d_2 лежат в разных плоскостях: d_1 \in \operatorname{span}\{ f_3, f_1\}, d_2 \in \operatorname{span}\{ f_3, f_2 \}. Действительно, g \in \operatorname{int}O \cap [d_1, d_2], значит, обе точки d_1, d_2 в плоскости \operatorname{span}\{ f_1, f_3 \} лежать не могут. Во внутренности октанта O' \subset O, ограниченном плоскостями \operatorname{span}\{ d_1, d_2\}, \operatorname{span}\{ d_1, f_3\}, \operatorname{span}\{ d_2, f_3\}, рассмотрим точку гладкости g_1, которая лежит на отрезке [d_3, d_4] с концами в крайних точках. Аналогично предыдущему доказываем, что d_3 \in \operatorname{span}\{ f_3, f_1\}, d_4 \in \operatorname{span}\{ f_3, f_2 \}. Заметим, что (d_3, d_4) \cap (d_1, d_2) = \varnothing. Отрезок [d_1, d_2] пересекается либо плоскостью \operatorname{span}\{d_3, f_2\} (если d_3 \ne d_1), либо плоскостью \operatorname{span}\{d_4, f_1\} (если d_4 \ne d_2). Без ограничения общности считаем, что отрезок [d_1, d_2] пересекается плоскостью \operatorname{span}\{d_3, f_2\}. По лемме 7 отрезку [d_1, d_2] соответствует достижимая точка негладкости y \in S. Для точки y и функционалов d_1, d_2, d_3, f_2 строится не монотонно линейно связное чебышёвское множество M при помощи лемм 4 и 5. Случай c) полностью разобран. Пункты a), b) и c) исчерпывают все возможные варианты пространств с достижимой точкой негладкости, сфера которых отлична от цилиндра. В каждом из таких пространств строится пример чебышёвского множества M, не являющегося монотонно линейно связным. Теорема 1 доказана. Проблема 1. Вопрос о характеризации пространств, в которых любое чебышёвское множество монотонно линейно связно, остается открытым для размерности \geqslant 4. Проблема 2. Не известен ответ на вопрос о характеризации пространств размерности \geqslant 3, в которых любое солнце (строгое солнце) монотонно линейно связно. Проблема 3. Пример из п. a) в доказательстве достаточности теоремы 1 показывает, что в пространстве \ell^1_3 существует не монотонно линейно связное чебышёвское множество. Не известно, какое свойство множества, ослабляющее не только свойство выпуклости, но и свойство монотонной линейной связности, характеризует все чебышёвские множества в пространствах, не охваченных теоремой 1, в частности в \ell^1_3. БлагодарностиАвторы глубоко благодарны П. А. Бородину, многочисленные замечания и комментарии которого способствовали улучшению статьи, а также И. Г. Царькову за полезные обсуждения. 
Цитирование в формате AMSBIB
\RBibitem{AliBed21}
Эта публикация цитируется в следующих 10 статьяx:
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|