Б. Б. Беднов, “Трехмерные пространства, в которых каждое ограниченное чебышевское множество монотонно линейно связно”, Матем. заметки, 114:3 (2023), 323–338; Math. Notes, 114:3 (2023), 283

Напомним некоторые аппроксимативные понятия. Для множества

$M$ из действительного банахова пространства

$X$ и точки

$x\in X$ элемент

$y\in M$ называется элементом наилучшего приближения, или ближайшей точкой, если

В 1958 г. Ефимов и Стечкин [1] сформулировали следующую задачу: охарактеризовать конечномерные линейные нормированные пространства, в которых всякое ограниченное чебышевское множество выпукло. Полный ответ на этот вопрос был получен Царьковым в [2] (см. [3], а также [4], где подробно разбирается доказательство из [2] и исследуются возникающие при этом сопутствующие задачи).

В 2005 г. Алимов [5] ввел понятие монотонной линейной связности множества, которое ослабляет свойство выпуклости.

Цель настоящей работы – охарактеризовать все трехмерные действительные банаховы пространства, в которых каждое ограниченное чебышевское множество монотонно линейно связно.

2. Обозначения и определения

Символами

$S(x, r)$ и

$B(x, r)$ обозначим соответственно сферу и шар пространства

$X$ с центром

$x$ радиуса

$r$ . Пусть

$S=S(0, 1)$ – единичная сфера пространства

$X$ ,

$S^*$ – единичная сфера пространства

$X^*$ , сопряженного к

$X$ ;

$B=B(0, 1)$ – единичный шар пространства

$X$ .

Напомним, что точка

$s$ сферы

$S$ пространства

$X$ называется точкой гладкости (сферы

$S$ или шара

$B$ ), если опорная гиперплоскость к шару

$B$ в точке

$s$ единственна. Точка

$s\in S$ называется достижимой точкой (сферы

$S$ или шара

$B$ ), если найдется такая опорная гиперплоскость к шару

$B$ в точке

$s$ , что пересечение этой гиперплоскости и шара

$B$ одноточечно (другими словами, существует функционал

$f^*\in X^*$ , достигающий нормы только на

$s$ ).

Трехмерные пространства, в которых любая достижимая точка является точкой гладкости, будем называть пространствами Бердышева–Брондстеда [6], [7].

Здесь угол между прямыми

$L_1,L_2$ с направляющими единичными векторами

$e_1,e_2$ есть величина

$\widehat{L_1, L_2}:=\min\{\|e_1+e_2\|,\, \|e_1-e_2\|\}$ .

Конечномерные пространства, у которых множество крайних точек сферы

$S^*$ плотно в ней (или, эквивалентно, множество достижимых точек сферы

$S^*$ плотно в

$S^*$ ), будем называть пространствами Царькова–Фелпса. Свойства этих пространств изучались в [8], [2], [9] и многих других работах. Заметим, что пространства Бердышева–Брондстеда содержатся среди пространств Царькова–Фелпса.

Напомним, что если сфера трехмерного пространства

$X$ – цилиндр, то

$X$ есть

$\ell_\infty$ -прямая сумма

$\mathbb R\oplus_\infty Y$ для произвольного двумерного нормированного пространства

$Y$ . Такие пространства

$X$ будем называть цилиндрическими.

Пусть

$x\in S$ – достижимая точка негладкости. Множество единичных функционалов из

$X^*$ , достигающих нормы на элементе

$x$ , обозначим через

$J(x)$ , т.е.

Ниже

$\operatorname{int} J(x)$ обозначает внутренность грани

$J(x)$ относительно аффинного подпространства, задаваемого этой гранью. Так же для множества

$A \subset S$ символами

$\operatorname{int} A$ и

$\partial A$ будем обозначать множество внутренних и граничных точек множества

$A$ в топологии сферы

$S$ соответственно.

3. Историческая справка и вспомогательные результаты

В середине 20 века возник вопрос: какими свойствами характеризуется банахово пространство

$X$ , в котором каждое чебышевское множество выпукло? Ответ известен в пространствах до размерности 4. Такие пространства размерности 3 и 4 характеризуются следующим образом: сфера пространства не должна содержать достижимых точек негладкости [6], [7], [10].

Один из самых интересных нерешенных вопросов в связи с чебышевскими множествами называется проблемой Ефимова–Стечкина–Кли ([11]–[13]) и формулируется так: всякое ли чебышевское множество в бесконечномерном гильбертовом пространстве выпукло?

Преобразование условий в вопросе выпуклости чебышевских множеств развивалось в нескольких направлениях. Изменялись не только условия чебышевости [14], [15] или выпуклости [16]. Так, Стечкин [2] поставил задачу: найти необходимые и достаточные условия на конечномерное банахово пространство, чтобы в нем всякое ограниченное чебышевское множество было выпуклым. Царьков [2] нашел такое условие.

Этот результат был перенесен на пространства с несимметричной нормой в [17].

После определения монотонно линейной связности множества возник вопрос о соотношении классов чебышевских множеств и монотонно линейно связных множеств в различных пространствах. Некоторые результаты об этом есть в работах [17]–[19]. Свойство монотонной линейной связности множеств широко применяется в геометрической теории приближений (см., например, [20], [21]).

Также недавно среди всех трехмерных банаховых пространств удалось выделить такие пространства, в которых каждое чебышевское множество монотонно линейно связно [22]. Заметим, что в произвольном двумерном пространстве каждое чебышевское множество монотонно линейно связно, что следует из результатов работы [23].

В доказательстве теоремы B для каждого трехмерного пространства, отличного от пространства Бердышева–Брондстеда и от цилиндрического пространства, были построены чебышевские множества, не являющиеся монотонно линейно связными. Они были построены неограниченными при помощи следующих двух лемм (в [19] эти леммы обобщены и доказаны для конечномерных пространств произвольной размерности больше 2).

Множество

$M'$ представляет собой “двускатную крышу” над сферой

$S$ , причем

$M' \cap S=\{x\}$ .

Оказывается, не каждое такое множество можно ограничить, сохранив свойство чебышевости. Основным результатом работы является

4. Доказательство теоремы

Доказательство. A) Точка

$g_0$ лежит во внутренности двумерной (достижимой) грани

$J(x)$ сферы

$S^*$ . Считаем, что

$\varepsilon$ -окрестность

$U(g_0)$ не имеет пересечения с другими гранями

$S^*$ (т.е.

$U(g_0) \cap S^* \subset J(x)$ ).

В этом случае $g=g_0$ и множество $\{x\}$ коническое. Действительно, пусть $x^*$ из определения конического множества есть $g$ ; $g_1, g_2\in J(x)\cap U(g_0)$ таковы, что $g\in (g_1, g_2)$ ; прямая $L^\perp=\ker g_1 \cap \ker g_2$ ; прямые $L,L_1,L_2$ перпендикулярны (в евклидовом смысле) $L^\perp$ и лежат в ядрах функционалов $g,g_1,g_2$ соответственно. При $\varepsilon_1 < \min\{\widehat{L_1, L}, \widehat{L_2, L}, \varepsilon\}$ все прямые из множества $\{L' \mid \widehat{L', L} < \varepsilon_1\}$ , проходящие через точку $x$ , пересекаются с $S$ только по $x$ , поскольку содержатся в множествах уровней функционалов из $[g_1, g_2]$ . При этом для любого функционала $x_1^*\in S^*$ из $\varepsilon_1$ -окрестности точки $g$ множество $\{y\in S \mid x_1^*(y)=1\}$ совпадает с $\{x\}=E$ , так как такие $x_1^*$ содержатся в $J(x)$ .

Б) Точка $g_0$ лежит во внутренности одномерной достижимой грани. Если $U(g_0)$ пересекается с двумерной (достижимой) гранью $J(y)$ , то в $U(g_0) \cap J(y)$ есть точка гладкости $g\in \operatorname{int} J(y)$ , изолированная от крайних точек, и применим п. А).

Иначе в $U(g_0)$ найдется некрайняя точка гладкости $g$ (гладкость – в силу теоремы Мазура) из относительной внутренности одномерной достижимой грани $J(x)=[d_1, d_2]$ , для которой можно выбрать свободную от крайних точек окрестность $U(g)$ , не имеющую пересечений с двумерными гранями $S^*$ .

Рассмотрим такое двумерное подпространство $H \ni g$ , что $d_1 \not\in H$ . Ядра всех функционалов из этого подпространства пересекаются по одной прямой. Обозначим эту прямую $L$ , $L \subset X$ .

Поскольку все точки из $U(g)$ – не крайние, то существует такая $\varepsilon'$ -окрестность $U'(g)$ , что подпространство $H$ пересекает по внутренности все грани $S^*$ , которые имеют непустое пересечение с $U'(g)$ . Действительно, пусть $d'_1,d'_2$ – точки пересечения $[d_1, d_2]$ с $\partial U(g)$ , $d'_3, d'_4$ – точки пересечения $H$ с $\partial U(g)$ . Ясно, что при обходе границы $U(g)$ между точками $d'_1$ и $d'_2$ находится точка из множества $\{d'_3, d'_4\}$ в силу выбора $H$ . Пусть точка $g'\in S^*$ содержится в ”треугольнике” $T_{13}$ на сфере $S^*$ с вершинами $\{g, d'_1, d'_3\}$ , три “стороны” которого содержатся в плоскостях $H$ , $\operatorname{span}\{J(x)\}$ , $\operatorname{span}\{d'_1, d'_3\}$ . Точка $g'$ не является крайней, поэтому лежит на некотором отрезке $[d_3, d_4] \subset S^*$ при $d_3, d_4\in \operatorname{ext} S^*$ (последнее условие – в силу отсутствия пересечения $U(g)$ с двумерными гранями). Отрезок $[d_3, d_4]$ пересекать $(d_1, d_2)$ не может, так как иначе $U(g)$ пересекается с двумерной гранью. Ни один из концов отрезка $[d_3, d_4]$ не содержтся в $T_{13}$ . Значит $[d_3, d_4]$ пересекается с $H$ внутри $U(g)$ . Аналогично для каждой точки $g'\in S^*$ из ”треугольников” с вершинами $\{g, d'_1, d'_4\}$ , $\{g, d'_2, d'_4\}$ , $\{g, d'_2, d'_3\}$ отрезок со сферы $S^*$ с концами в крайних точках $S^*$ , который содержит $g'$ , пересекается с $H$ внутри $U(g)$ . Найдется $\varepsilon'$ -окрестность точки $g$ , содержащаяся в объединении этих четырех ”треугольников”.

При этом для грани $J(y)$ , имеющей непустое пересечение с $U'(g)$ , множество $J(y)\cap H$ может не лежать в $U'(g)$ .

Пусть $j_g$ – множество всех граней $S^*$ , имеющих непустое пересечение с $U'(g)$ . Произвольной грани $J(y)\in j_g$ сопоставим элемент $h= J(y)\cap H$ . Все грани из $j_g$ одномерны, поэтому $J(y)=[h_1, h_2]$ при $h_1, h_2\in \operatorname{ext} S^*$ .

Число $\varepsilon_y$ – минимальное значение угла между прямой $L$ и прямыми из ядер функционалов $h_1, h_2$ . Число $\inf\{\varepsilon_y\colon J(y)\in j_g\}=\varepsilon''$ отлично от нуля, поскольку в $U'(g)$ нет крайних точек. Пусть $\varepsilon=\min \{\varepsilon', \varepsilon''\}$ , $U''=\{g'\in S^* \mid \|g'-g\|< \varepsilon/2\}$ . Множество $E=\{x\in X \mid g'(x)=1 \text{ при } g'\in U''\}$ – коническое множество. Действительно,

1) при $x^*=g$ для каждого $x\in L$ выполнено $x^*(x)=0$ , поскольку $L\in \ker g$ ;
2) по построению множества $E$ , если $x_1^*\in S^*$ и $\|x_1^*-x^*\| < \varepsilon$ , то множество $\{x\in S \mid x_1^*(x)=1\}$ содержится в $E$ ;
3) в силу выбора $\varepsilon$ , если прямая $L_1$ образует угол с прямой $L$ величины меньше $\varepsilon$ и $z\in L_1\cap E$ (т.е. $L_1$ лежит в множестве уровня некоторого функционала $x_1^*\in U'' \cap J(z)$ ), то $L_1\cap S=\{z\}$ .

Лемма 1 доказана.

Заметим, что если в окрестности точки

$g$ в плоскости

$H$ есть точка негладкости

$g'$ , то такой точке в множестве

$E$ соответствует невырожденный отрезок со сферы

$S$ , и множество

$\{y\in S \mid g'(y)= 1\} \subset E$ не одноточечное.

Доказательство этой леммы в основном повторяет доказательство необходимости в теореме B, но ищется точка гладкости

$S^*$ , изолированная от крайних точек.

Доказательство леммы 3. Поскольку мы рассматриваем пространства, отличные от пространств Царькова–Фелпса, значит в

$X^*$ существует некрайняя точка гладкости

$g\in S^*$ в относительной внутренности некоторой грани, в окрестности которой нет крайних точек. Действительно, пусть

$X$ не содержится в множестве пространств Царькова–Фелпса. Тогда в

$X^*$ найдется такая точка

$\omega$ , что в некоторой окрестности

$U(\omega)$ нет крайних точек. Если

$\omega$ – крайняя точка, то в

$U(\omega)$ есть некрайняя точка гладкости

$\omega'$ (гладкость – в силу теоремы Мазура), причем найдется

$U(\omega')$ , свободная от крайних точек. Для применения леммы 1 в дальнейшем требуется п. i) в формулировке леммы 3, поэтому если некрайняя точка гладкости

$\omega'$ не содержится в относительной внутренности некоторой грани, то, следуя доказательству леммы 1, в

$U(\omega')$ найдется требуемая точка

$g$ .

По точке $g$ однозначно определяется достижимая точка негладкости $x\in S$ , для которой $g\in \operatorname{int} J(x)$ (см., например, [22; лемма 7]).

Чтобы выбрать требуемые точки $g,x$ и $f_1,f_2,f_3,f_4$ , рассмотрим классификацию сфер $S^*$ сопряженного пространства $X^*$ по количеству крайних точек в их гранях.

Рассмотрим четыре возможных случая:

a) существует двумерная грань с не менее чем четырьмя крайними точками сферы $S^*$ ;
b) существуют двумерные грани, и все они содержат не более трех крайних точек $S^*$ ;
c) не существует двумерной грани, но существуют одномерные грани;
d) все грани нульмерные, т.е. одноточечные.

Мы рассматриваем пространства, отличные от пространств Царькова–Фелпса и цилиндрических. В случае d) у сферы $S$ точек негладкости нет, а значит такое пространство содержится среди пространств Царькова–Фелпса.

a) Пусть некрайней точке гладкости $g\in S^*$ из относительной внутренности некоторой двумерной грани $J$ , в окрестности которой нет крайних точек, соответствует достижимая точка негладкости $x\in S$ , для которой двумерная грань $J=J(x)$ сферы $S^*$ содержит не менее чем четыре крайние точки, т.е. существуют различные функционалы $f_1, f_2, f_3, f_4\in \operatorname{ext} S^* \cap J(x)$ . Считаем, что при некотором обходе границы грани $J(x)$ функционалы $f_1, f_3, f_2, f_4$ расположены именно в таком порядке. Существует точка $g'= [f_1, f_2] \cap [f_3, f_4]$ из $\operatorname{int} J(x)$ . Ясно, что точка $g'$ – некрайняя точка гладкости из относительной внутренности грани $J(x)$ , в окрестности которой нет крайних точек, и точке $g'$ соответствует достижимая точка негладкости $x$ . Искомый набор элементов – это $g', x, f_1, f_2, f_3, f_4$ .

Случай а) полностью разобран.

b) Пусть существуют двумерные грани и все они содержат не более трех крайних точек $S^*$ , причем сфера пространства $X$ не является цилиндром.

Считаем, что некрайней точке гладкости $g\in S^*$ из относительной внутренности некоторой двумерной треугольной грани $J$ (в окрестности этой точки нет крайних точек), соответствует достижимая точка негладкости $x\in S$ . При этом три крайние точки $S^*$ из грани $J(x)$ – вершины треугольной грани $J(x)$ – линейно независимы и достигают своей нормы на $x$ .

Рассмотрим множество $N \subset S$ достижимых точек негладкости сферы $S$ , для каждой из которых найдутся три различных крайних функционала, достигающих на этой точке своей нормы.

Нам понадобятся два подслучая, обусловленных леммой 6 из [22].

$\mathrm{b}_1$ ) Пусть $x\in N$ такова, что при $f_1, f_2, f_3\in J(x)\cap \operatorname{ext} S^*$ существует

$\begin{equation*} f_4=\lambda_1 f_1+\lambda_2 f_2+ \lambda_3 f_3\in \operatorname{ext} S^* \end{equation*} \notag$

с условием

$\lambda_1\lambda_2\lambda_3 \ne 0$ . Без ограничения общности считаем, что

$\lambda_1 > 0$ ,

$\lambda_2 > 0$ ,

$\lambda_3 < 0$ , что значит

$\operatorname{span} \{f_3, f_4\} \cap (f_1, f_2) \ne \varnothing$ . Пусть точка

$g'$ есть произвольная точка из

$\operatorname{int} J(x) \cap \operatorname{span}\{f_3, f_4\}$ . Эта точка является точкой гладкости и изолирована от крайних точек

$S^*$ .

Искомый набор – $g',x,f_1,f_2,f_3,f_4$ .

$\mathrm{b}_2$ ) Пусть теперь для каждой точки $x\in N$ не существует функционала

$\begin{equation*} f_4=\lambda_1 f_1+\lambda_2 f_2+\lambda_3 f_3\in \operatorname{ext} S^* \end{equation*} \notag$

с условием

$\lambda_1\lambda_2\lambda_3 \ne 0$ при

$f_1, f_2, f_3\in J(x)\cap \operatorname{ext} S^*$ .

Зафиксируем точку $x\in N$ и ее тройку $f_1, f_2, f_3\in J(x)\cap \operatorname{ext} S^*$ . В силу рассматриваемого случая все крайние функционалы $S^*$ лежат в трех плоскостях $\operatorname{span} \{ f_i, f_j\}$ , $i \ne j$ , $\{i, j\} \subset \{1, 2, 3\}$ . Поскольку сфера пространства $X$ не цилиндр, найдутся хотя бы две из этих трех плоскостей, каждая из которых содержит не менее одного крайнего функционала сопряженной сферы, отличного от $\pm f_k$ , $k=1, 2, 3$ . Без ограничения общности считаем, что в каждой из плоскостей $\operatorname{span} \{ f_1, f_2\}$ и $\operatorname{span}\{ f_1, f_3\}$ есть крайний функционал из $S^*$ , отличный от $\pm f_j$ , $j=1, 2, 3$ .

Теперь рассмотрим множество

$\begin{equation*} O_1=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \ \alpha_1 \geqslant 0, \alpha_2 \leqslant 0, \ \alpha_3 \leqslant 0\bigr\} \end{equation*} \notag$

– это октант

$S^*$ , содержащийся в трехгранном угле, который образован лучами

$f_1,-f_2,-f_3$ . Граница

$O_1$ состоит из отрезка

$[-f_2, -f_3]$ , дуги между

$f_1$ и

$-f_2$ , полученной пересечением

$S^*$ и плоскости

$\operatorname{span} \{ f_1, f_2 \}$ , и дуги между

$f_1$ и

$-f_3$ , полученной пересечением

$S^*$ и плоскости

$\operatorname{span}\{ f_1, f_3 \}$ . Заметим, что для

$k=2, 3$ дуга границы

$O_1$ между

$f_1$ и

$-f_k$ точно содержит крайнюю точку

$S^*$ из плоскости

$\operatorname{span}\{ f_1, f_k\}$ , отличную от

$\pm f_j$ ,

$j=1, 2, 3$ . Действительно, две прямые

$l_1 \ni \pm f_1$ и

$l_k \ni \pm f_k$ делят “окружность”

$S^* \cap \operatorname{span}\{ f_1, f_k\}$ на четыре части, причем две из них – отрезки

$[f_1, f_k]$ и

$[-f_1, -f_k]$ (напомним, треугольник

$f_1f_2f_3$ есть грань

$S^*$ ). Так как в плоскости

$\operatorname{span}\{ f_1, f_k \}$ по предположению есть крайние точки

$S^*$ , отличные от

$\pm f_1, \pm f_2, \pm f_3$ , на дуге границы октанта

$O_1$ между

$f_1$ и

$-f_k$ есть крайние точки

$S^*$ .

Возможны сферы $S^*$ двух видов: A) в $O_1$ есть двумерная грань $J$ , для которой (трехэлементное) множество ее крайних точек $J \cap \operatorname{ext} S^*$ не содержит $f_1$ ; B) в $O_1$ есть только одна двумерная грань, причем одна из вершин этой грани совпадает с $f_1$ , или двумерной грани в октанте $O_1$ нет.

A) Пусть в октанте $O_1$ сопряженной сферы есть двумерная грань с тремя точками $g_1, g_2, g_3\in \operatorname{ext} S^*$ , каждая из которых отлична от $f_1$ . Тогда два из этих функционалов лежат в одной из плоскостей $\operatorname{span}\{ f_1, f_2\}$ или $\operatorname{span}\{ f_1, f_3\}$ , а третий – в другой плоскости, скажем, в $\operatorname{span}\{ f_1, f_3\}$ (потому что внутри октанта крайних точек нет по предположению и граница октанта между $-f_2$ и $-f_3$ есть отрезок). Соответственно, крайняя точка $\beta_1f_1+\beta_3f_3$ , отличная от $g_i$ и $f_1$ (например, $f_3$ , при условии, что $f_3 \ne g_i$ , $i=1, 2, 3$ ), имеет вид $\gamma_1g_1+\gamma_2g_2+\gamma_3g_3$ при $\gamma_1\gamma_2\gamma_3 \ne 0$ . Получаем противоречие с условиями п. $\mathrm{b}_2$ ).

B) Пусть в октанте $O_1$ есть только одна двумерная грань, причем одна из вершин этой грани совпадает с $f_1$ , или двумерной грани в октанте $O_1$ нет.

Напомним, что на границе октанта $O_1$ между $f_1$ и $-f_2$ и между $f_1$ и $-f_3$ есть крайние точки, $f_2'$ и $f_3'$ соответственно. Пусть $O_1'$ – часть октанта $O_1$ , ограниченная плоскостями $\operatorname{span}\{ -f_2, -f_3\}$ , $\operatorname{span}\{ -f_2, f_2'\}$ , $\operatorname{span}\{ -f_3, f_3'\},$ $\operatorname{span}\{ f_2', f_3'\}$ . Пусть $g'\in \operatorname{int} O_1'$ – точка гладкости $S^*$ . Она существует, так как точки гладкости сферы плотны на ней (по теореме Мазура [24; гл. 1]).

Точка $g'$ лежит на некотором отрезке, поскольку внутри $O_1$ нет крайних точек. Если точка $g'$ лежит на двух неколлинеарных отрезках, то в октанте $O_1$ есть часть двумерной грани $K=J(z)$ ( $z$ – достижимая точка негладкости), у которой ни одна вершина не совпадает с $f_1$ (поскольку точка гладкости $g'$ выбрана из $\operatorname{int}O_1'$ ).

Если внутренность грани $K$ выходит за октант $O_1$ , то плоскость $P= \operatorname{span}\{\alpha, \beta\}$ $(\alpha, \beta\in \operatorname{ext} S^*)$ , совпадающая с одной из плоскостей $\operatorname{span}\{ f_i, f_j\}$ , $i \ne j$ , $\{i, j\} \subset \{1, 2, 3\}$ , пересекает грань $K$ , а вместе с ней и некоторый отрезок $[a, b] \subset K$ с концами в крайних точках $S^*$ .

Любая точка $g''\in \operatorname{int} K \cap \operatorname{span}\{\alpha, \beta\}$ есть некрайняя точка гладкости $S^*$ , в окрестности которой нет крайних точек. Тогда набор $g'', z, a, b, \alpha, \beta$ – искомый.

Грань $K$ целиком лежать в $O_1$ не может, поскольку это противоречит рассматриваемому случаю.

Далее считаем, что $[d_1, d_2]$ есть максимальный отрезок, содержащий $g'$ .

Если $d_1$ некрайняя точка, то она лежит на интервале $(c, d)$ сферы $S^*$ . Это значит, что в $O_1$ есть часть двумерной грани $K'$ , а именно, часть плоскости, проходящая через отрезки $[c, d]$ и $[d_1, d_2]$ . При этом крайние точки $K'$ отличны от $f_1$ , поскольку точка гладкости $g'$ выбрана из $\operatorname{int}O_1'$ , т.е. не содержится в грани с вершиной в $f_1$ . Если грань $K'$ целиком лежит в $O_1$ , то это противоречит рассматриваемому случаю; если внутренность грани $K'$ выходит за октант $O_1$ , то (аналогично предыдущему) находится требуемый набор элементов.

Далее считаем, что $d_1, d_2$ – крайние точки $S^*$ .

Рассмотрим достижимую точку негладкости $x'$ , которая соответствует отрезку $[d_1, d_2] \ni g'$ с концами в крайних точках. При этом $d_1, d_2$ – крайние точки $S^*$ , лежащие вне $\operatorname{int}O_1'$ . Значит, интервал $(d_1, d_2)$ пересекается с одной из плоскостей $\operatorname{span} \{ -f_2, f_3' \}$ или $\operatorname{span}\{ -f_3, f_2' \}$ , скажем, с $\operatorname{span}\{ -f_2, f_3' \}$ . Обозначим $g''=(d_1, d_2) \cap \operatorname{span}\{ -f_2, f_3'\}$ .

Тогда искомый набор есть $g'', x', d_1, d_2, -f_2, f'_3$ , поскольку, следуя лемме 2, $g''$ – точка гладкости.

Случай b) полностью разобран.

c) Пусть теперь на сфере $S^*$ не существует двумерной грани и сфера $S$ – не цилиндр, но существуют одномерные грани на сфере $S^*$ . Пусть точка $g\in S^*$ – такая некрайняя точка гладкости в относительной внутренности некоторой одномерной грани, что в ее окрестности $U$ нет крайних точек; $x\in S$ – соответствующая $g$ достижимая точка негладкости. Тогда $J(x)$ – отрезок $[f_1, f_2]$ на $S^*$ с концами в крайних точках. Рассмотрим такую крайнюю точку $f_3$ , что $\{f_1, f_2, f_3\}$ линейно независимы. Пусть $O$ – октант сферы $S^*$ , ограниченный плоскостями $\operatorname{span}\{ f_1, f_2\},$ $\operatorname{span}\{ f_1, f_3\},$ $\operatorname{span}\{ f_2, f_3\}$ . Возможны два случая.

A) В $\operatorname{int}O$ есть крайняя точка, $f_4$ . Тогда плоскость $\operatorname{span}\{ f_3, f_4\}$ пересекает интервал $(f_1, f_2)$ в точке $f_0$ . Заметим, что $f_0$ – некрайняя точка гладкости, как и все точки на отрезке $[f_1, f_2]$ (лемма 2). Если у точки $f_0$ есть окрестность без крайних точек $S^*$ , то требуемый набор элементов – это $f_0(=g), x, f_1, f_2, f_3, f_4$ .

Однако возможно, что у точки $f_0$ нет окрестности без крайних точек. Тогда в одном из открытых полупространств, на которые плоскость $\operatorname{span}\{f_1, f_2\}$ делит пространство $X^*$ , в некоторой окрестности $U^0=U(f_0)$ точки $f_0$ есть бесконечное множество крайних точек $S^*$ . Рассмотрим множество $F_i$ , $i=1, 2$ , всех плоскостей, проходящих через $\pm f_i$ и крайнюю точку $k\in U^0$ . Найдутся такие четыре точки $k_1, k_2, k_3, k_4\in U^0$ , что часть $\widehat O$ сферы $S^*$ , ограниченная плоскостями $\Pi_1=\operatorname{span}\{ f_1, k_1\}$ , $\Pi_2=\operatorname{span}\{ f_1, k_2\}$ , $\Pi_3= \operatorname{span}\{ f_2, k_3\}$ , $\Pi_4=\operatorname{span}\{ f_2, k_4\}$ ( $\Pi_1, \Pi_2\in F_1$ , $\Pi_3, \Pi_4\in F_2$ ) полностью содержится в $U=U(g)$ . В $\widehat O$ рассмотрим точку гладкости $g'$ . Это некрайняя точка гладкости, изолированная от крайних точек сферы $S^*$ . Она лежит на отрезке $[d_1, d_2]$ с концами в крайних точках, причем ни $d_1$ , ни $d_2$ не содержится в $U$ . Значит, найдется такая плоскость $\Pi_i$ , $i=1, 2, 3, 4$ , что $\Pi_i \cap [d_1, d_2]=g'' \subset U$ , т.е. $g''$ – некрайняя точка гладкости, изолированная от крайних точек. Искомым набором является $g'', x''$ – достижимая точка негладкости, которая достигает нормы на $g''$ , $d_1, d_2$ и пара линейно независимых крайних точек из той самой плоскости $\Pi_i$ .

B) Во множестве $\operatorname{int} O$ нет крайних точек.

Рассмотрим произвольную точку гладкости $g'\in \operatorname{int}O$ . Точка $g'$ некрайняя, значит, лежит на отрезке $[d_1, d_2]$ с концами в крайних точках (поскольку двумерных граней на сфере $S^*$ нет).

Если хотя бы один из концов отрезка $[d_1, d_2]$ лежит вне $O$ , то интервал $(d_1, d_2)$ трансверсально пересекает плоскость $\operatorname{span}\{f_3, f_1\}$ или плоскость $\operatorname{span}\{f_3, f_2\}$ (интервал $(d_1, d_2)$ пересекаться с плоскостью $\operatorname{span}\{f_1, f_2\}$ не может, так как $[f_1, f_2] \subset S^*$ ). Для определенности скажем, что

$\begin{equation*} (d_1, d_2)\cap \operatorname{span}\{f_3, f_1\} \ne \varnothing, \qquad g''=(d_1, d_2) \cap \operatorname{span}\{f_3, f_1\}. \end{equation*} \notag$

Точке

$g''$ соответствует точка

$y'\in S$ – достижимая точка негладкости. Набор

$g'',y',d_1,d_2, f_3,f_1$ – искомый.

Пусть теперь для каждой точки гладкости $g'\in \operatorname{int}O$ крайние точки $d_1,d_2$ – концы отрезка на сфере, содержащего $g'$ – содержатся в $O$ . Напомним, что в $\operatorname{int}O$ нет крайних точек.

Поскольку $d_1, d_2 \not\in (f_1, f_2)$ (так как иначе в $O$ есть двумерная грань, содержащая отрезки $[f_1, f_2]$ и $[d_1, d_2]$ ), то $d_1$ и $d_2$ из разных плоскостей: $d_1\in \operatorname{span}\{ f_3, f_1\}$ , $d_2\in \operatorname{span}\{ f_3, f_2 \}$ . Действительно, $g\in \operatorname{int}O \cap [d_1, d_2]$ , значит, обе точки $d_1,d_2$ в плоскости $\operatorname{span}\{ f_1, f_3 \}$ лежать не могут.

Во внутренности октанта $O' \subset O$ , который ограничен плоскостями $\operatorname{span}\{ d_1, d_2\}$ , $\operatorname{span}\{ d_1, f_3\}$ , $\operatorname{span}\{ d_2, f_3\}$ , рассмотрим точку гладкости $g''$ , лежащую на отрезке $[d_3, d_4]$ с концами в крайних точках. Аналогично предыдущему доказываем, что $d_3\in \operatorname{span}\{ f_3, f_1\}$ , $d_4\in \operatorname{span}\{ f_3, f_2 \}$ .

Пусть интервал $(d_1, d_2)$ пересекается хотя бы одной из плоскостей $\operatorname{span}\{d_3, f_2\}$ , $\operatorname{span}\{d_4, f_1\}$ . Без ограничения общности считаем, что интервал $(d_1, d_2)$ пересекается плоскостью $\operatorname{span}\{d_3, f_2\}$ . Пусть $g'''=(d_1, d_2) \cap \operatorname{span}\{d_3, f_2\}$ – точка гладкости (по лемме 2), изолированная от крайних точек (поскольку в $\operatorname{int} O \ni g'''$ нет крайних точек). Точке $g'''$ (как и точке $g'$ ) соответствует достижимая точка негладкости $y\in S$ . Набор $g''', y, d_1, d_2, f_2, d_3$ – искомый.

Однако возможно, что интервал $(d_1, d_2)$ не пересекается ни одной из плоскостей $\operatorname{span}\{d_3, f_2\}$ , $\operatorname{span}\{d_4, f_1\}$ . Именно, если $f_1=d_1=d_3$ или $f_2=d_2=d_4$ . Без ограничения общности считаем, что $f_2=d_2=d_4$ .

В этом случае мы можем считать, что для каждой точки $g_1\in \operatorname{int} O'$ отрезок $[d_3(g_1), d_4(g_1)]$ содержится в $O$ и отрезок $[d_1, d_2]$ не пересекает ни одна из плоскостей $\operatorname{span}\{d_3(g_1), f_2\}$ , $\operatorname{span}\{d_4(g_1), f_1\}$ ; иначе применимы предыдущие рассуждения пункта с).

Это означает, что для каждой точки $h\in \operatorname{int} O$ отрезок $[d_1(h), d_2(h)]\ni h$ является отрезком $[d_1(h), f_2]$ , т.е. $O$ есть “четверть конуса” – часть сферы, крайние точки которой содержатся в $\operatorname{span}\{f_1, f_3\} \cup f_2$ . Это четверть конуса с вершиной $f_2$ . Заметим, что $[f_2, f_3] \subset S^*$ , так как иначе $O \cap \operatorname{span}\{f_2, f_3\}$ содержит крайнюю точку $f'$ и плоскость $\operatorname{span}\{f_1, f'\}$ пересекает некоторую грань $[f_2, d_1(h)]$ .

Рассмотрим множество

$\begin{equation*} O_1=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \ \alpha_1 \leqslant 0,\ \alpha_2 \geqslant 0,\ \alpha_3 \geqslant 0\bigr\} \end{equation*} \notag$

(это октант

$S^*$ , содержащийся в трехгранном угле, образованном лучами

$-f_1,f_2,f_3$ ). Считаем, что его внутренность не содержит крайних точек, поскольку иначе плоскость

$\operatorname{span}\{-f_1, f'\}$ при

$f'\in \operatorname{int} O_1 \cap \operatorname{ext} S^*$ пересекает внутренность некоторой грани

$[f_2, d_1(h)]$ , состоящей из точек гладкости, изолированных от крайних точек

$S^*$ .

Считаем также, что все отрезки, проходящие через внутренние точки $O_1$ , имеют общее начало, так как иначе применимы предыдущие рассуждения пункта с).

Значит, $O_1$ также “четверть конуса”. Заметим, что вершина этого конуса отлична от $-f_1$ , поскольку $[f_2, f_3]$ есть отрезок и $S^*$ не имеет граней размерности больше 1.

Если вершина “четверти конуса” $O_1$ совпадает с $f_3$ , то рассмотрим произвольную (крайнюю) точку $h_1\in O \cap \operatorname{span}\{f_1, f_3\}$ , отличную от $f_1$ и $f_3$ , и произвольную (крайнюю) точку $h_2\in O_1 \cap \operatorname{span}\{-f_1, f_2\}$ , отличную от $-f_1$ и $f_2$ . Плоскость $\operatorname{span}\{h_1, h_2\}$ пересекает интервал $(f_2, f_3)$ в точке $g$ . В окрестности этой точки во внутренности $O$ выберем точку гладкости $g'$ , лежащую на таком отрезке $[d_1(g'), f_2]$ , что $[d_1(g'), f_2] \cap \operatorname{span} \{h_1, h_2\}=g''$ . Набор $g'', x'', d_1(g'), f_2, h_1, h_2$ – искомый при таком элементе $x''\in X$ , что $[d_1(g'), f_2]=J(x'')$ .

Если вершина $O_1$ совпадает с $f_2$ , то $O_1$ вместе с $O$ образуют уже “половину конуса” с общей вершиной $f_2$ . Рассмотрим октанты $\pm O$ , $\pm O_1$ , $\pm O_2$ , $\pm O_3$ сферы $S^*$ , разделенной плоскостями $\operatorname{span}\{f_1,f_2\}$ , $\operatorname{span}\{f_1,f_3\}$ , $\operatorname{span}\{f_2,f_3\}$ . Здесь

$\begin{equation*} \begin{gathered} \, -O_1=\bigl\{f\in S^* \mid f=-(\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3), \, \alpha_1 \leqslant 0, \, \alpha_2 \geqslant 0, \, \alpha_3 \geqslant 0\bigr\}, \\ O_2=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \, \alpha_1 \geqslant 0, \, \alpha_2 \geqslant 0, \, \alpha_3 \leqslant 0\bigr\}, \\ O_3=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \, \alpha_1 \geqslant 0, \,\alpha_2 \leqslant 0, \, \alpha_3 \geqslant 0\bigr\}. \end{gathered} \end{equation*} \notag$

При этом любой из октантов $\pm O, \pm O_1,\pm O_2,\pm O_3$ на границе содержит хотя бы один отрезок (например, вида $[\pm f_1, \pm f_2]$ , так как сечение $S^*$ плоскостью $\operatorname{span}\{f_1,f_2\}$ есть параллелограмм). Применяя рассуждения пункта c), считаем, что внутренность каждого октанта среди $\pm O,\pm O_1,\pm O_2, \pm O_3$ не содержит крайних точек $S^*$ и каждый из октантов $\pm O,\pm O_1,\pm O_2,\pm O_3$ есть “четверть конуса”.

Рассмотрим октант $O_2$ . Напомним, что $S$ не цилиндр и все крайние точки $S^*$ не могут содержаться только во множестве $\operatorname{span}\{f_1, f_3\} \cup \operatorname{span}\{f_2\}$ . Значит на границе $O_2$ в плоскости $\operatorname{span}\{-f_3, f_2\}$ есть крайние точки, отличные от $f_2, -f_3$ .

Рассмотрим произвольную (крайнюю) точку $h_1\in O \cap \operatorname{span}\{f_1, f_3\}$ , отличную от $f_1$ и $f_3$ , и произвольную (крайнюю) точку $h_2\in O_2 \cap \operatorname{span}\{-f_3, f_2\}$ , отличную от $-f_3$ и $f_2$ . Плоскость $\operatorname{span}\{h_1, h_2\}$ пересекает интервал $(f_1, f_2)$ . Искомый набор – $g, x, f_1, f_2, h_1, h_2$ .

Случай c) полностью разобран.

Пункты a), b), c) и d) исчерпывают все возможные варианты пространств с достижимой точкой негладкости, сфера которых отлична от цилиндра.

Лемма 3 доказана.

Пусть

$U=U(g)$ – окрестность точки

$g$ из леммы 3, в которой нет крайних точек.

Заметим, что множество

$M$ – это точки над “двускатной крышей”

$M''$ , причем для

$M''$ выполнены леммы A и B при соответствующих функционалах

$f_1,f_2, f_3, f_4$ , а

$\partial M_1 \cap \partial M_2$ – прямая

$L^\perp$ , параллельная ядру функционала

$g$ .

Доказательство леммы 4 повторяет доказательство леммы A:

$g_1, g_2$ – некрайние функционалы из внутренности грани

$S^*$ . По просьбе рецензента приводим здесь полное

В евклидовом пространстве

$\mathbb R^3$ введем декартову систему координат: достижимую точку негладкости

$x$ из леммы 3 поместим в начало системы координат, первый и второй базисный вектор выберем в плоскости

$\{z\in X\colon g(z)=1\}$ , третий базисный вектор выберем перпендикулярным к ядру

$\operatorname{ker} g$ . Шар

Существует такое малое

$\delta\in (0, 1)$ , что шар

$K$ радиуса 1 с центром в

$(1-\delta)z_0$ удовлетворяет следующему условию: для любой точки

$y\in M''\cap \partial K$ касательная плоскость к

$K$ в точке

$y$ параллельна ядру функционала из

$U(g)$ .

Автор выражает благодарность П. А. Бородину и И. Г. Царькову за внимание к работе и ценные замечания.

1. Введение

2. Обозначения и определения

3. Историческая справка и вспомогательные результаты

4. Доказательство теоремы

СПИСОК ЦИТИРОВАННОЙ ЛИТЕРАТУРЫ