Аннотация:
Предыдущие результаты авторов о существовании глобальных определяющих функций распространены на ряд новых постановок. В частности, условие строгой псевдовыпуклости области ослабляется до условия строгой q-псевдовыпуклости, а также рассматриваются более общие ситуации, когда объемлющее многообразие представляет собой почти комплексное многообразие или комплексное пространство. Также исследуется вопрос о том, насколько предположение о гладкости границы рассматриваемой области существенно для полученных результатов.
Библиография: 27 названий.
Ключевые слова:
строго псевдовыпуклые области, плюрисубгармонические определяющие функции, ядро области.
Исследование Т. Харца выполнено при частичной поддержке Deutsche Forschungsgemeinschaft – DFG (грант № SH 456/1-1), а также National Research Foundation of Korea – NRF за счет финансирования Korean government – MSIP (грант № 2011-0030044).
Пусть M – комплексное многообразие, а Ω⊂M – строго псевдовыпуклая область с гладкой границей. Как хорошо известно, если M штейново, а Ω относительно компактна в M, то в некоторой окрестности замкнутой области ¯Ω существует такая гладкая строго плюрисубгармоническая функция φ, что Ω={φ<0} и dφ≠0 на границе bΩ (см., к примеру, [9; теорема 2] и [18; лемма 1.3]). Однако если в Ω есть нетривиальное компактное аналитическое подмножество E, то по принципу максимума никакая плюрисубгармоническая функция φ:Ω→(−∞,0) не будет строго плюрисубгармонической вдоль E. Более того, как показывает следующий пример, даже когда мы считаем многообразие M штейновым, не всегда возможно построить строго плюрисубгармоническую функцию φ с указанными выше свойствами, если область Ω не является относительно компактной в M.
Пример 1. Пусть f:C→C – целая функция, а
Ω:={(z,w)∈C2:log|w−f(z)|+C1(|z|2+|w|2)<C2}⊂C2,
где C1, C2 – константы, причем C1>0. Для почти всех констант C2Ω – неограниченная строго псевдовыпуклая область с гладкой границей в C2, содержащая комплексную прямую L:={(z,f(z))∈C2:z∈C}. Пусть φ – такая плюрисубгармоническая функция в окрестности ¯Ω, что Ω={φ<0}. Тогда φ субгармонична и ограничена сверху на L, так что она постоянна по теореме Лиувилля. В частности, функция φ не является строго плюрисубгармонической в точках L.
Таким образом, в общем случае не всегда возможно избежать вырождения формы Леви функции φ внутри области Ω. В этой связи назовем вещественнозначную функцию φглобальной определяющей функцией области Ω, если она обладает следующими свойствами:
(I) φ – гладкая функция в открытой окрестности U⊂M замыкания ¯Ω;
(II) φ плюрисубгармонична в U и строго плюрисубгармонична вблизи bΩ;
(III) Ω={φ<0} и dφ≠0 на bΩ.
Существование глобальной определяющей функции исследовалось в предыдущей работе авторов [13]. В частности, мы доказали там следующие два результата.
Теорема 1.1 (см. [13]). Пусть M – комплексное многообразие, Ω⊂M – строго псевдовыпуклая область с гладкой границей, а f:bΩ→R гладкая, ограниченная снизу функция. Тогда существует такая гладкая плюрисубгармоническая функция F, определенная в открытой окрестности замыкания области ¯Ω, что F|bΩ=f и F строго плюрисубгармонична вблизи bΩ.
Теорема 1.2 (см. [13]). Пусть M – комплексное многообразие, а Ω⊂M – строго псевдовыпуклая область с гладкой границей. Тогда в открытой окрестности ¯Ω существует такая гладкая плюрисубгармоническая функция φ, что Ω={φ<0}, dφ≠0 на границе bΩ и φ строго псевдовыпукла вблизи bΩ.
Определим ядро c(Ω) области Ω как множество точек z∈Ω, в которых никакая гладкая плюрисубгармоническая функция φ:Ω→(−∞,0) не является строго плюрисубгармонической. Тогда можно доказать также следующее усиление теоремы 1.2, являющееся основным результатом в [13].
Теорема 1.3 (см. [13]). Для любой строго псевдовыпуклой области Ω с гладкой границей в комплексном многообразии M существует глобальная определяющая функция, являющаяся строго плюрисубгармонической вне ядра c(Ω).
Ясно, что аналогичное обобщение возможно и для теоремы 1.1: прибавив, если нужно, глобальную определяющую функцию со свойствами, обеспечиваемыми теоремой 1.3, можно гарантировать, что функция F, построенная в теореме 1.1, строго плюрисубгармонична вне c(Ω).
Целью настоящей работы является распространение упомянутых результатов на более общие ситуации. Точнее, нас интересуют следующие вопросы. Мы хотим обобщить результаты выше на комплексные пространства и почти комплексные многообразия. Мы исследуем вопрос о том, насколько необходимо условие гладкости границы bΩ области Ω. И, наконец, мы рассмотрим также более общий случай строго q-псевдовыпуклой области и (строго) q-плюрисубгармонической определяющей функции.
Основные результаты, которые нам удалось установить, формулируются следующим образом. Во-первых, в ситуации почти комплексных многообразий удается доказать аналоги теоремы 1.1 и теоремы 1.2 для произвольных строго (J,q)-пседовыпуклых областей (что касается обобщения понятия строгой q-псевдовыпуклости на области в почти комплексных многообразиях, см. п. 2.1 ниже). Более того, некоторый вариант теоремы 1.3 выполнен для q=0, т.е. для строго J-псевдовыпуклых областей. Однако в общем случае теорема 1.3 не распространяется на (J,q)-псевдовыпуклые области при q>0 даже в интегрируемом случае, и мы явно предъявляем контрпример. Во-вторых, для комплексных пространств мы обобщаем теорему 1.1 и теорему 1.2 на строго гипер-q-псевдовыпуклые области (при q=0 к ним относятся также строго псевдовыпуклые области). Однако при попытке обобщения теоремы 1.3 на строго псевдовыпуклые области в комплексных пространствах возникают технические тонкости, связанные с регулярностью глобальной определяющей функции, и нам не удается установить полный аналог этой теоремы. Подробности, относящиеся, в частности, к роли, которую играет гладкость границы области bΩ, видны из приводимых ниже точных формулировок.
Кроме того, в ситуации комплексных многообразий мы доказываем также следующие результаты: гладкое множество подуровня любой (не обязательно гладкой) строго плюрисубгармонической функции можно представить как множество подуровня гладкой строго плюрисубгармонической функции (см. предложение 2.1); у каждой строго псевдовыпуклой области (не обязательно имеющей гладкую границу) есть базис окрестностей, состоящий из строго псевдовыпуклых областей с гладкой границей (см. теорему 2.5; заметим также, что эта теорема обобщается на случаи почти комплексных многообразий и комплексных пространств; см. ниже соответствующие результаты).
Материал статьи организован следующим образом. В § 2 рассматривается ситуация почти комплексных многообразий. Сначала, в п. 2.1, вводятся некоторые базовые определения и, в частности, понятия (строгой) (J,q)-плюрисубгармоничности и строгой (J,q)-псевдовыпуклости. Затем, в п. 2.2, мы доказываем результаты о глобальных определяющих функциях строго (J,q)-псевдовыпуклых областей с гладкими границами. Случай меньшей регулярности границы bΩ рассмотрен в п. 2.3. Параграф 3 посвящен распространению теорем 1.1–1.3 на гипер-q-псевдовыпуклые области в комплексных пространствах. Наконец, § 4 содержит некоторые открытые вопросы, связанные с тематикой нашей статьи.
§ 2. Глобальные определяющие функции в почти комплексных многообразиях
Этот параграф разбит на три части. Сначала, в п. 2.1, мы напомним несколько определений и зафиксируем обозначения, а также введем понятия (строго) (J,q)-плюрисубгармонической функции и (J,q)-псевдовыпуклой области. В п. 2.2 мы докажем существование глобальных определяющих функций строго (J,q)-псевдовыпуклых областей с гладкой границей в почти комплексных многообразиях. Наконец, в п. 2.3 мы обобщим наши результаты на случай областей, не обязательно имеющих гладкую границу.
2.1. Определения и обозначения
Пусть M – комплексное многообразие комплексной размерности n:=dimCM. Обозначим комплексное касательное пространство к M в точке z∈M через T1,0z(M). Если φ:M→R – гладкая функция, то определим отображения (∂φ)z,(¯∂φ)z:T1,0z(M)→C и Lev(φ)(z,⋅):T1,0z(M)→R в локальной голоморфной системе координат h=(z1,…,zn) следующими формулами:
будет обозначать вещественный дифференциал функции φ в точке z. (На протяжении статьи “гладкость” всегда означает “C∞-гладкость”. Разумеется, приведенные выше определения дифференциалов и формы Леви можно использовать и для C1- и C2-гладких функций соответственно.)
Полунепрерывная сверху функция φ:M→[−∞,∞) называется плюрисубгармонической, если для каждого голоморфного отображения f:Δ→M единичного круга Δ⊂C в многообразие M суперпозиция φ∘f субгармонична на Δ. Такая функция называется строго плюрисубгармонической, если для каждой гладкой функции θ:M→R с компактным носителем найдется такое число ε0>0, что функция φ+εθ плюрисубгармонична при |ε|⩽ε0. Если функция φC2-гладкая, то она (строго) плюрисубгармонична тогда и только тогда, когда у формы Lev(φ)(z,⋅) имеются n (положительных) неотрицательных собственных значений при всех z∈M. Скажем, что открытое множество Ω⊂Mстрого псевдовыпукло в точке z∈bΩ, если у z найдется открытая окрестность Uz⊂M и в этой окрестности – строго плюрисубгармоническая функция φz:Uz→R такая, что Ω∩Uz={φz<0}. Скажем, что ΩCs-гладкое в граничной точке z∈bΩ, s⩾1, если у z найдется открытая окрестность Uz⊂M и там существует такая Cs-гладкая функция ˜φz:Uz→R, что Ω∩Uz={˜φz<0} и d˜φz≠0 в точках bΩ∩Uz. Назовем открытое множество Ω строго псевдовыпуклым или Cs-гладким, если оно строго псевдовыпуклое или соответственно Cs-гладкое в каждой граничной точке.
Отметим, что тот факт, что строго псевдовыпуклую область с C2-гладкой границей можно задать C2-гладкой плюрисубгармонической функцией локально, вблизи каждой граничной точки, не вполне тривиален. Мы не смогли найти его доказательство в литературе, поэтому сформулируем соответствующее утверждение здесь.
Предложение 2.1. Пусть M – комплексное многообразие, Ω⊂M – его открытое подмножество, причем граница bΩCs-гладкая в точке z0∈bΩ, s⩾2. Предположим, что у z0 есть открытая окрестность U⊂M, а в U есть строго плюрисубгармоническая функция ψ:U→[−∞,∞) такая, что Ω∩U={ψ<0}. Тогда после возможного уменьшения U можно найти Cs-гладкую строго плюрисубгармоническую функцию φ:U→R, для которой Ω∩U={φ<0} и dφ≠0 в точках bΩ∩U.
Доказательство. Заметим, что при dimCM=1 утверждение тривиально, так что можно считать, что n:=dimCM⩾2. По предположению можно найти открытую окрестность U⊂M точки z0, такую строго плюрисубгармоническую функцию ψ:U→[−∞,∞), что Ω∩U={ψ<0}, и такую Cs-гладкую функцию ˜φ:U→R, что Ω∩U={˜φ<0} и d˜φ≠0 в точках bΩ∩U. Уменьшая U при необходимости и вводя подходящие голоморфные координаты в окрестности z0, можно считать, что U⋐, z_0=0, \psi и \widetilde{\varphi} определены в окрестности замыкания \overline{U}, а тейлоровское разложение функции \widetilde{\varphi} в точке 0 имеет вид
Для точек z \in U положим \operatorname{dist}(z,b\Omega) := \inf_{z' \in b\Omega \cap U} \|z-z'\|, а для точек \zeta \in b\Omega \cap U через N_\Omega(\zeta) обозначим вектор единичной внешней нормали к b\Omega в \zeta.
Докажем, что \psi \equiv 0 на b\Omega \cap U. Действительно, для каждой плюрисубгармонической функции u, определенной вблизи некоторой точки \zeta \in \mathbb{C}^n, и каждого вектора w \in \mathbb{C}^n имеет место равенство u(\zeta)=\limsup_{t \to 0+} u(\zeta+tw) (к примеру, см. [7; предложение 7.4]). В частности, \psi(\zeta)=\limsup_{t \to 0+} \psi(\zeta- tN_\Omega(\zeta)) \leqslant 0 для \zeta \in b\Omega \cap U. Ясно, что \psi \geqslant 0 на b\Omega \cap U по самому выбору функции \psi.
Далее, докажем, что, уменьшая U при необходимости, можно найти такие числа l,L > 0, что для каждой точки z \in U \setminus \Omega\widetilde{\varphi}(z) \geqslant l \operatorname{dist}(z,b\Omega) и \psi(z) \leqslant L \operatorname{dist}(z,b\Omega). Очевидно, надо доказывать только часть, относящуюся к \psi, поскольку неравенство для \widetilde{\varphi} непосредственно следует из того факта, что d\widetilde{\varphi} \neq 0 на b\Omega \cap U. Доказательство проводится, как в лемме Хопфа. Сначала, уменьшая U при необходимости, предположим, что корректно определена проекция \pi \colon U \to b\Omega \cap U по направлениям нормалей N_\Omega(\zeta). В частности, z=\pi(z)+ \operatorname{dist}(z,b\Omega)N_\Omega(\pi(z)) для всех z \in U \setminus \Omega. Для каждой точки \zeta \in b\Omega \cap U и числа r > 0 положим \zeta_r := \zeta -rN_\Omega(\zeta). В силу \mathscr{C}^2-гладкости границы b\Omega \cap Ur>0 можно выбрать достаточно малым для того, чтобы:
(i) B^n(0, 5r) \subset U, а пересечение b\Omega \cap B^n(0, 5r) было графиком \mathscr{C}^2-гладкой функции над некоторым открытым подмножеством пространства T^\mathbb R_0(b\Omega);
(ii) для каждой точки \zeta \in b\Omega \cap B^n(0,r) было выполнено B^n(\zeta_{2r},2r) \subset \Omega \cap U,
где B^n(a,r) := \{z \in \mathbb{C}^n \colon \|z-a\| < r\} и T^\mathbb R_0(b\Omega) обозначает вещественное касательное пространство к b\Omega в точке 0. Для каждой точки \zeta \in b\Omega \cap B^n(0,r) положим G_\zeta := B^n(\zeta,r) \setminus \overline{\Omega}, и пусть функция h_\zeta \colon \overline{G_\zeta} \to \mathbb R задается равенством
Заметим, что для каждой точки \zeta \in b\Omega \cap B^n(0,r) функция h_\zeta гармонична на G_\zeta и непрерывна на \overline{G_\zeta}, h_\zeta(\zeta)=0, h_\zeta > 0 на bG_\zeta \setminus \{\zeta\} и существует такая константа c > 0, что h_\zeta > c на bG_\zeta \setminus b\Omega. Выберем достаточно большое число C > 0 таким, чтобы \psi \leqslant C на U, и положим M := C/c. Поскольку \psi \equiv 0 на b\Omega \cap U, получаем, что \psi \leqslant Mh_\zeta на bG_\zeta для каждой \zeta \in b\Omega \cap B^n(0,r). В силу субгармоничности \psi отсюда следует, что \psi \leqslant Mh_\zeta на \overline{G_\zeta}. В частности,
\begin{equation*}
\begin{aligned} \, \psi(\zeta+tN_\Omega(\zeta)) &\leqslant Mh_\zeta(\zeta+tN_\Omega(\zeta))=M \biggl(\frac{1}{r^{2n-2}}- \frac{1}{(r+t)^{2n-2}} \biggr) \\ &\leqslant M(2n-2)\frac{1}{r^{2n-1}} t =: L t \end{aligned}
\end{equation*}
\notag
для каждого числа t \in (0,r) и каждой точки \zeta \in b\Omega \cap B^n(0,r). Это показывает, что \psi(z) \leqslant L\operatorname{dist}(z,b\Omega) для каждой точки z \in \{\zeta+tN_\Omega(\zeta) \in \mathbb{C}^n \colon \zeta \in b\Omega \cap B^n(0,r), t \in [0,r)\}.
Чтобы прийти к противоречию, предположим теперь, что найдется такой вектор \xi_0 \in H_{0}(\widetilde{\varphi}) := \{\xi \in \mathbb{C}^n \colon (\partial \widetilde{\varphi})_0(\xi)=0\}, что \|\xi_0\|=1 и \operatorname{Lev}(\widetilde{\varphi})(0,\xi_0) \leqslant 0. Выберем такое \varepsilon > 0, что функция \widetilde{\psi} := \psi-\varepsilon \|\,{\cdot}\,\|^2 по-прежнему полюрисубгармоническая в U. Докажем, что \widetilde{\psi} < 0 в проколотом круге \Delta_{\xi_0}(0,\delta) \setminus \{0\} := \{\lambda\xi_0 \colon \lambda \in \mathbb{C}, 0 < |\lambda| < \delta\}, при условии, что \delta > 0 выбрано достаточно малым. Так как функция \widetilde{\psi} субгармоническая на \Delta_{\xi_0}(0,\delta) и \widetilde{\psi}(0)=0, это будет противоречить принципу максимума. Действительно, если выбрано такое \lambda \in \mathbb{C} \setminus\{0\}, что \lambda\xi_0 \in \overline{\Omega}, то утверждение тривиально. Но в противном случае мы можем воспользоваться соотношениями (1) и оценками выше на \psi и \widetilde{\varphi}, чтобы показать, что
причем выражение справа отрицательно при 0 < |\lambda| << 1. Это показывает, что форма \operatorname{Lev}(\widetilde{\varphi})(0,\,\cdot\,) положительно определена на H_0(\widetilde{\varphi}).
Для завершения доказательства предложения выберем такую гладкую функцию \chi \colon \mathbb R \to \mathbb R, что \chi (0)=0, \chi '(0)=1 и \chi ''(0)=k . Стандартными рассуждениями показывается, что при достаточно больших k > 0 функция \varphi := \chi \circ \widetilde{\varphi} строго плюрисубгармонична вблизи 0, что и требовалось доказать (вариант таких рассуждений можно найти, к примеру в доказательстве леммы 2.1 ниже).
Замечание 2.1. 1) Приведенное выше определение строго псевдовыпуклых открытых множеств такое же, как и в работе [20]. В частности, предполагается, что строго плюрисубгармонические функции \varphi_z, задающие \Omega вблизи заданной точки z \in b\Omega, непрерывны. Заметим, что если опустить требование непрерывности локальной определяющей функции \varphi_z, то мы получим строго больший класс множеств, чем строго псевдовыпуклые множества. В самом деле, функция u(z) := \sum_{j=1}^\infty 2^{-j}\log|z-1/j| корректно определена и субгармонична в \mathbb{C}, причем u(0) \neq -\infty, так что функция \psi(z,w) := u(z)+(|z|^2+|w|^2)-u(0) строго плюрисубгармоническая \mathbb{C}^2. Рассмотрим открытое множество \Omega:= \{\psi < 0\}. Тогда L\,{:=}\,\{0\}\,{\times}\,\mathbb{C}\,{\subset}\, b\Omega, поскольку \{1/j\} \times \mathbb{C} \subset \Omega для каждого целого j\in \mathbb{N}. В частности, поскольку \psi(z,w)\,{=}\,|w|^2 \,{\not\equiv}\, 0 на L, у b\Omega нет окрестности, в которой функция \psi непрерывна. Чтобы прийти к противоречию, предположим, что найдутся такая открытая окрестность U \Subset \mathbb{C}^2 точки 0 \in b\Omega и такая непрерывная строго плюрисубгармоническая функция \varphi \colon U \to \mathbb R, что \Omega \cap U=\{\varphi < 0\}. Пусть U' \Subset U – такое открытое множество, что 0 \in U', и пусть \lambda \colon \mathbb{C}^2 \to (-\infty,0] – такая гладкая функция, что \overline{U'}=\{\lambda=0\}. Уменьшив U при необходимости, можно найти такое \varepsilon > 0, что функция \varphi' := \varphi+\varepsilon\lambda по-прежнему плюрисубгармонична на U. Поскольку \varphi непрерывна, имеем \varphi \equiv 0 на L \subset b\Omega, так что найдется такое c > 0, что \varphi' < -c в окрестности L \cap bU. Тогда \varphi'|_{L \cap U} – непостоянная субгармоническая функция, достигающая максимума в 0 \in L \cap U, что невозможно. В частности, заметим, что граница множества подуровня строго плюрисубгармонической функции, не обязательно являющейся непрерывной, может содержать нетривиальные аналитические множества.
2) Описанных осложнений не будет, если на границу b\Omega наложены какие-нибудь слабые условия регулярности. К примеру, в \mathscr{C}^0-гладком случае имеет место следующий аналог предложения 2.1.
Пусть \mathscr{M} – комплексное многообразие, \Omega \subset \mathscr{M} – открытое множество, а граница b\Omega является \mathscr{C}^0-гладкой в точке z_0 \in b\Omega (т.е. b\Omega локально, вблизи точки z_0 представляет собой график непрерывной функции). Пусть найдутся открытая окрестность U \subset \mathscr{M} точки z_0 и строго плюрисубгармоническая функция \psi \colon U \to [-\infty, \infty) такие, что \Omega\,{\cap}\, U\,{=}\,\{\psi\,{<}\, 0\}. Тогда, уменьшая U при необходимости, можно найти непрерывную строго плюрисубгармоническую функцию \varphi \colon U \to \mathbb R, для которой \Omega \cap U=\{\varphi < 0\}.
Действительно, уменьшая U при необходимости, можно считать, что U\,{\subset}\,\mathbb{C}^n. В силу \mathscr{C}^0-гладкости b\Omega в точке z_0 существует вектор w \in \mathbb{C}^n \setminus \{0\} такой, что уменьшая U еще сильнее, получим, что z+tw \in \Omega для каждой точки z \in b\Omega \cap U и каждого числа t \in (0,1). В силу тех же рассуждений, что и выше, \psi(z)=\limsup_{t \to 0+} \psi(z+tw) \leqslant 0 для каждой точки z \in b\Omega \cap U. Итак, \psi \equiv 0 на b\Omega \cap U. Теперь существование функции \varphi следует из [24; теорема 2.5].
Пусть теперь M – гладкое многообразие вещественной размерности 2n. Обозначим касательное пространство к M в точке p \in M через T_p(M), и для \mathscr{C}^1-гладкого отображения гладких многообразий \varphi \colon M \to N обозначим через (d\varphi)_p \colon T_p(M) \to T_p(N) его дифференциал в p. Почти комплексной структурой J называется отображение, сопоставляющее точке p\in M линейный изоморфизм J(p) \colon T_p(M) \to T_p(M) такой, что J(p) \circ J(p)=- \operatorname{Id}, где \operatorname{Id} \colon T_p(M) \to T_p(M) – тождественное отображение. Назовем пару (M,J) почти комплексным многообразием комплексной размерности n, а \mathscr{C}^1-гладкое отображение f \colon (M',J') \to (M,J) назовем (J',J)-голоморфным, если J \circ df=df \circ J'. Если M'=\Delta – единичный круг в \mathbb{C}, а J'=J_{\mathrm{st}} – стандартная почти комплексная структура, соответствующая умножению на i \in \mathbb{C}, то отображение f называется J-голоморфным диском. В дальнейшем всегда считается, что структурное отображение J хотя бы \mathscr{C}^1-гладкое.
Пусть (M,J) – почти комплексное многообразие комплексной размерности n и p \in M. Если \varphi \colon M \to \mathbb R – гладкая функция, то введем отображение (d^c_J\varphi)_p \colon T_p(M) \to \mathbb R формулой (d^c_J\varphi)_p(X) := -(d\varphi)_p(JX); здесь и далее мы опускаем указание на точку в обозначениях для почти комплексной структуры и пишем J вместо J(p). Также введем отображения (\partial_J\varphi)_p, (\overline{\partial}_J\varphi)_p \colon T_p(M) \to \mathbb{C} и \operatorname{Lev}_J(\varphi)(p,\,\cdot\,) \colon T_p(M) \to \mathbb R формулами
(на самом деле, если структура J всего лишь \mathscr{C}^1-гладкая, то f, вообще говоря, не будет \mathscr{C}^2-гладкой, так что использовать формулу для формы Леви надо с осторожностью; к примеру, см. [17; лемма 1.2] и следующие за этой леммой замечания).
Пусть T_p^\mathbb{C}(M) := \mathbb{C} \otimes T_p(M); обозначив \mathbb{C}-линейное продолжение оператора J через J^\mathbb{C}, положим
Если L \colon T_p(M) \to \mathbb{C} – \mathbb R-линейное отображение, то через L^\mathbb{C} \colon T_p^\mathbb{C}(M) \to \mathbb{C} обозначим его \mathbb{C}-линейное продолжение. Заметим, что
В частности, рассматриваем ли мы естественное вложение T_p(M) \simeq 1 \otimes T_p(M) \subset T_p^\mathbb{C}(M), X \mapsto 1 \otimes X, или вложение T_p(M) \simeq T_p^{1,0}(M) \subset T_p^\mathbb{C}(M), X \mapsto (1/2)(X-iJX), форма (\partial_J\varphi)_p^\mathbb{C} принимает на T_p(M) одни и те же значения; равным образом (\overline{\partial}_J\varphi)_p^\mathbb{C} принимает на T_p(M) одни и те же значения для естественных вложений T_p(M) \simeq 1 \otimes T_p(M) \subset T_p^\mathbb{C}(M), X \mapsto 1 \otimes X, и T_p(M) \simeq T_p^{0,1}(M) \subset T_p^\mathbb{C}(M), X \mapsto (1/2)(X+iJX). Поэтому, раз никакой двусмысленности не возникает, мы часто будем рассматривать (\partial_J\varphi)_p как \mathbb{C}-линейный функционал на T_p^{1,0}(M), а (\overline{\partial}_J\varphi)_p как \mathbb{C}-линейный функционал на T_p^{0,1}(M) (в частности, мы, как правило, будем опускать верхний индекс \mathbb{C}, указывающий на \mathbb{C}-линейное продолжение).
Зададим отображение \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,) \colon T_p^{1,0}(M) \to \mathbb R формулой
Заметим, что у каждой точки p почти комплексного многообразия (M,J) найдется окрестность U и локальные координаты z \colon U \to \mathbb{C}^n, в которых z(p)= 0, (dz \circ J \circ dz^{-1})(0)=J_{\mathrm{st}} и для каждой \mathscr{C}^2-гладкой функции \varphi \colon U \to \mathbb R выполнено \operatorname{Lev}_J(\varphi)(p,X)=\operatorname{Lev}_{J_{\mathrm{st}}}(\varphi \circ z^{-1})(0,(dz)_p(X)) (к примеру, см. [3; предложение 3.6]). Так что легко видеть, что отображение \operatorname{Lev}_J^\mathbb{C}(\varphi)(p;\,\cdot\,,\,\cdot\,) \colon T_p^{1,0}(M) \times T_p^{1,0}(M) \to \mathbb{C}, заданное поляризацией
представляет собой эрмитову форму на T_p^{1,0}(M), причем справедливо равенство \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\xi)=\operatorname{Lev}_J^\mathbb{C}(\varphi)(p;\xi,\xi). В дальнейшем, говоря о собственных значених формы \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,), мы всегда будем иметь в виду собственные значения эрмитовой формы \operatorname{Lev}_J^\mathbb{C}(p;\,\cdot, \cdot\,) Мы также часто будем рассматривать \operatorname{Lev}_J(\varphi)(p,\,\cdot\,) как отображение пространства T_p^{1,0}(M), идентифицируя ее с \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,) (и обычно будем опускать верхний индекс \mathbb{C} в соответствующем обозначении).
Если (M,J)=(\mathbb R^{2n}, J_{\mathrm{st}}), где J_{\mathrm{st}} – такая стандартная почти комплексная структура, что J{\partial}/{\partial x_j}={\partial}/{\partial y_j} и J{\partial}/{\partial y_j}=-{\partial}/{\partial x_j}, j=1, \dots, n, то несложные вычисления показывают, что
где мы полагаем (1/2)(X-iJX)=\sum_{j=1}^n X_j (\partial/\partial z_j) в T_p^{1,0}(M). В частности, в таком случае (\partial_J\varphi)_p=(\partial \varphi)_p, (\overline{\partial}_J\varphi)_p=(\overline{\partial} \varphi)_p и \operatorname{Lev}_J(\varphi)(p\,\cdot\,)=\operatorname{Lev}(\varphi)(p,\,\cdot\,) после стандартного отождествления пространств \mathbb R^{2n} и \mathbb{C}^n. Используя [3; предложение 3.6] и формулы преобразований из (2), многие из стандартных методов вычисления формы Леви в комплексном евклидовом случае можно распространить на ситуацию почти комплексных многообразий. К примеру, если \mu \colon \mathbb R \to \mathbb R – \mathscr{C}^2-гладкая функция, то
(Ниже мы будем прибегать к рассуждениям такого рода, не повторяя ссылок на [3; предложение 3.6].)
Пусть (M,J) – почти комплексное многообразие комплексной размерности n. Непрерывную сверху функцию \varphi \colon M \to [-\infty, \infty) назовем J-плюрисубгармонической, если для каждого J-голоморфного диска f \colon \Delta \to M суперпозиция \varphi \circ f субгармонична на \Delta. Функция называется строгоJ-плюрисубгармонической, если для каждой финитной гладкой функции \theta \colon M \to \mathbb R найдется число \varepsilon_{0} > 0 такое, что функция \varphi+ \varepsilon\thetaJ-плюрисубгармонична при |\varepsilon| \leqslant \varepsilon_0. (Напомним, что по теореме Нийенхейса–Вольфа (см. [21; теорема III]), для каждой точки p \in M и каждого вектора X \in T_p(M) существует такой J-голоморфный диск f \colon \Delta \to M, что f(0)=p и (df)_0({\partial}/{\partial x})=X; здесь z= x+iy – стандартная координата на \mathbb{C}.)
Заметим, что \operatorname{Lev}_J(\varphi)(p,X)=(1/4)\Delta(\varphi \circ f)(0) для каждого такого J-голоморфного диска f \colon \Delta \to M, что f(0)=p и (df)_0({\partial}/{\partial x})=X (см., например, [17; лемма 1.2]). Так что легко видеть, что \mathscr{C}^2-гладкая функция \varphi \colon M \to \mathbb R является J-плюрисубгармонической, если и только если у формы \operatorname{Lev}_J(\varphi)(p,\,\cdot\,)n неотрицательных собственных значений в каждой точке p \in M. Заметим, кроме того, что для каждой точки p \in M и каждой открытой окрестности U \subset M этой точки можно построить такую гладкую функцию \theta \colon M \to \mathbb R с компактным носителем в U, что \operatorname{Lev}_J(\theta)(p,X) > 0 для всех векторов X \in T_p(M) \setminus \{0\}. Так что легко видеть также, что \mathscr{C}^2-гладкая функция \varphi \colon M \to \mathbb R строго J-плюрисубгармонична, если и только если у формы \operatorname{Lev}_J(\varphi)(p,\,\cdot\,)n положительных собственных значений в каждой точке p \in M.
Введем теперь понятия (строго) (J,q)-плюрисубгармонической функции и строго (J,q)-псевдовыпуклой области на почти комплексном многообразии (они обобщают известные в ситуации комплексных многообразий понятия (строго) q-плюрисубгармонической функции и строго q-псевдовыпуклой области). Пусть q \in \mathbb{N}_0 := \{0\} \cup \mathbb{N}. \mathscr{C}^2-гладкая функция \varphi \colon M \to \mathbb R называется (строго) (J,q)-плюрисубгармонической, если у формы \operatorname{Lev}_J(\varphi)(p,\,\cdot\,) не менее n-q (положительных) неотрицательных собственных значений в каждой точке p \in M. Как и выше, легко видеть, что \varphi строго (J,q)-плюрисубгармонична, если и только если для всякой финитной гладкой функции \theta \colon M \to \mathbb R найдется такое число \varepsilon_{0} > 0, что при |\varepsilon| \leqslant \varepsilon_0 функция \varphi+ \varepsilon\theta(J,q)-плюрисубгармонична. Заметим, что для q \in \mathbb{N}_0(J,q)-плюрисубгармонические функции являются также (J,q+1)-плюрисубгармоническими. Более того, (J,0)-плюрисубгармонические функции в точности совпадают с \mathscr{C}^2-гладкими J-плюрисубгармоническими функциями, и функция (J,q)-плюрисубгармонична при q \geqslant n, если и только если она \mathscr{C}^2-гладкая. В силу (3) суперпозиция (строго) (J,q)-плюрисубгармонической функции с \mathscr{C}^2-гладкой выпуклой, строго возрастающей функцией снова оказываются (строго) (J,q)-плюрисубгармонической.
Открытое множество \Omega \subset M назовем строго(J,q)-псевдовыпуклым в точкеp \in b\Omega, если найдутся открытая окрестность U_p \subset M точки p и такая \mathscr{C}^2-гладкая функция \varphi_p \colon U_p \to \mathbb R, что \Omega \cap U_p=\{\varphi_p < 0\}, d\varphi_p \neq 0 на b\Omega \cap U_p и у ограничения формы Леви \operatorname{Lev}_J(\varphi_p)(p,\,\cdot\,) на T_p(b\Omega) \cap JT_p(b\Omega) не меньше n-q-1 положительных собственных значений (точнее говоря, мы имеем здесь в виду, что после естественного вложения T_p(b\Omega) \hookrightarrow T_p(M) \xrightarrow{\sim} T_p^{1,0}(M) ограничение формы \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,) на подпространство T_p(b\Omega) \cap iT_p(b\Omega) имеет не меньше n-q-1 положительных собственных значений). В случае q=0 мы будем просто говорить, что область \OmegaстрогоJ-псевдовыпукла в точке p. Легко видеть, что \Omega строго (J,q)-псевдовыпукла в \mathscr{C}^k-гладкой граничной точке p \in b\Omega, k \geqslant 2, если и только если найдутся открытая окрестность U_p \subset M точки p и \mathscr{C}^k-гладкая строго (J,q)-плюрисубгармоническая функция \varphi_p \colon U_p \to \mathbb R такие, что \Omega \cap U_p=\{\varphi_p < 0\} и d\varphi_p \neq 0 на b\Omega \cap U_p. Более того, если область \Omega строго (J,q)-псевдовыпукла в точке p \in b\Omega, то для любой \mathscr{C}^2-гладкой функции \varphi \colon U_p \to \mathbb R в открытой окрестности U_p \subset M точки p, для которых \Omega \cap U_p=\{\varphi_p < 0\}, причем d\varphi_p \neq 0 на b\Omega \cap U_p, у ограничения формы Леви \operatorname{Lev}_J(\varphi)(p,\,\cdot\,) на T_p(b\Omega) \cap JT_p(b\Omega) не меньше n-q-1 положительных собственных значений. Множество \Omega называется строго(J,q)-псевдовыпуклым, если оно строго (J,q)-псевдовыпуклое во всех точках p \in b\Omega.
Пусть \varphi \colon M \to \mathbb R – \mathscr{C}^1-гладкая функция. Предположим, что (d\varphi)_p \neq 0, и пусть \Omega := \{\varphi < \varphi(p)\}. Несложные вычисления показывают, что в предположении естественного вложения T_p(b\Omega) \hookrightarrow T_p(M) \xrightarrow{\sim} T_p^{1,0}(M) выполнено равенство T_p(b\Omega) \cap iT_p(b\Omega)=\{\xi \in T_p^{1,0}(M) \colon (\partial_J\varphi)_p(\xi)=0\} =: H_p(\varphi). В частности, H_p(\varphi) – максимальное комплексное подпространство пространства T_p(b\Omega) \subset T_p^{1,0}(M). Наконец, если h – эрмитова метрика на M, то для каждой точки p \in M через \|\,{\cdot}\,\|_{h_p} и \|\,{\cdot}\,\|_{h_p^\ast} будем обозначать индуцированные нормы на пространстве T_p^{1,0}(M) и его дуальном пространстве соответственно. Если пространство ясно из контекста, то p будем опускать и писать просто \|\,{\cdot}\,\|_h и \|\,{\cdot}\,\|_{h^\ast}.
2.2. Определяющие функции для строго q-псевдовыпуклых областей
Приступим к доказательству существования глобальной определяющей функции для строго (J,q)-псевдовыпуклой области в почти комплексном многообразии. Центральная часть доказательства в обоих случаях q=0 и q > 0 одна и то же. Однако в случае, когда q > 0, в некоторый момент доказательства возникает техническая сложность, отсутствующая при q=0. Это связано с тем фактом, что, вообще говоря, сумма двух q-плюрисубгармонических функций \varphi_1, \varphi_2 \colon U \to \mathbb R, определенных на открытом множестве U \subset \mathbb{C}^n, снова оказывается q-плюрисубгармонической только в том случае, если \operatorname{Lev}(\varphi_1)(z,\,\cdot\,) и \operatorname{Lev}(\varphi_2)(z,\,\cdot\,) положительно определены на одних и тех же (n-q)-мерных подпространствах пространств T_z^{1,0}(\mathbb{C}^n) для всех точек z \in U. Таким образом, при q > 0 надо следить за направлениями, в которых формы Леви q-плюрисубгармонических функций из наших построений положительны. Вот почему, прежде чем формулировать теоремы о глобальных определяющих функциях, мы доказываем следующую лемму, касающуюся как раз этой проблемы для q > 0.
Лемма 2.1. Пусть (M,J) – почти комплексное многообразие комплексной размерности n с эрмитовой метрикой h, а \Omega \subset M – строго (J,q)-псевдовыпуклая область с гладкой границей для некоторого q \in \{0,1, \dots, n-1\}. Тогда для каждой гладкой функции \varphi \colon V \to \mathbb R, определенной на открытой окрестности V \subset M множества b\Omega, с тем свойством, что \Omega \cap V=\{\varphi < 0\} и d\varphi \neq 0 на b\Omega, найдется окрестность V' \subset V границы b\Omega и для каждой точки z \in V' найдется (n-q)-мерное комплексное подпространство L_z \subset T_z^{1,0}(M) такие, что выполнено следующее утверждение: для каждого открытого множества U \Subset M существуют такая строго возрастающая, строго выпуклая гладкая функция \mu \colon \mathbb R \to \mathbb R со свойством \mu(0)=0 и такая константа c > 0, что \operatorname{Lev}_J(\mu \circ \varphi)(z, \xi) \geqslant c\|\xi\|_{h_z} для всех точек z \in V' \cap U и всех векторов \xi \in L_z.
Доказательство. Для каждого целого l\,{=}\,1,2, \dots, 2n положим \operatorname{Gr}_\mathbb R(l,M)\,{:=} \{\{w\} \times L \subset T^{1,0}(M) \colon L \subset T_w^{1,0}(M) является вещественным l-мерным подпространством\}, и, аналогично, для каждого l =1,2, \dots, n определим \operatorname{Gr}_\mathbb{C}(l,M) := \{\{w\} \times L \subset T^{1,0}(M) \colon L \subset T_w^{1,0}(M) \text{ есть комплексное } l \text{ -мерное подпространство}\}\subset \operatorname{Gr}_\mathbb R(2l,M), наделяя его индуцированной топологией. Если W \subset M – открытое множество, то обозначим через \Gamma(W, \operatorname{Gr}_\mathbb{C}(l,M)) множество непрерывных отображений \lambda \colon W \to \operatorname{Gr}_\mathbb{C}(l,M) таких, что \lambda(w)= \{w\} \times L для некоторого одномерного подпространства L \subset T_w^{1,0}(M). Более того, для \lambda \in \Gamma(W, \operatorname{Gr}_\mathbb{C}(l,M)) положим [\lambda(w)] := \{\xi \in T_w^{1,0}(M)\colon (w,\xi) \in \lambda(w)\}. Пусть \varphi \colon V \to \mathbb R – такая гладкая функция на открытой окрестности V \subset M границы b\Omega, что \Omega \cap V=\{\varphi < 0\} и d\varphi \neq 0 на b\Omega. Уменьшая V при необходимости, будем считать, что d\varphi \neq 0 на V, и тогда для каждой точки z \in V обозначим через N_z ортогональное дополнение к пространству H_z(\varphi) в T_z^{1,0}(M) относительно метрики h_z. Наконец, для произвольной постоянной k > 0 введем гладкую функцию \mu_k \colon \mathbb R \to \mathbb R формулой \mu_k(t) := e^{kt}-1.
Поскольку область \Omega строго (J,q)-псевдовыпуклая, для каждой точки z \in b\Omega найдутся ее открытая окрестность W_z \subset V и отображение \lambda_z \in \Gamma(W_z, \operatorname{Gr}_\mathbb{C}(n-q-1,M)) такие, что [\lambda_z(w)] \subset H_w(\varphi) при w \in W_z, и найдется такая константа c_z > 0, что в каждой точке w \in W_z для векторов \xi \in [\lambda_z(w)] выполнено неравенство \operatorname{Lev}_J(\varphi)(w,\xi) \geqslant 2c_z\|\xi\|^2_{h_w}. Заметим, что в силу (3)
для всех w \in V и \xi \in T_w^{1,0}(M). Значит, в силу непрерывности \lambda_z, уменьшая W_z при необходимости, видим, что для каждой точки z\in b\Omega найдется такая непрерывная функция k_z \colon W_z \to (0,\infty), что для всех w \in W_z, \xi \in [\lambda_z(w)] \oplus N_w и k \geqslant k_z(w) выполнено неравенство \operatorname{Lev}_J(\mu_k \circ \varphi)(w,\xi) \geqslant c_zke^{k\varphi(w)}\|\xi\|^2_{h_w}.
Пусть \{W_{z_j}\}_{j=1}^\infty – локально конечное подпокрытие b\Omega. Найдем такие открытые множества V_{z_j} \Subset W_{z_j}, что система \{V_{z_j}\}_{j=1}^\infty по-прежнему покрывает b\Omega, и пусть V' := \bigcup_{j=1}^\infty V_{z_j}. Вдобавок, для каждой точки w \in V' выберем индекс j(w) \in \mathbb{N} так, чтобы w \in V_{z_{j(w)}}; пусть L_w := [\lambda_{z_{j(w)}}(w)] \oplus N_w.
Пусть теперь U \Subset M – произвольное открытое множество. Положим J := \{j \in \mathbb{N}\colon U \cap V_{z_j} \neq \varnothing\} и c' := \min\{c_{z_j}\colon j \in J\} и найдем достаточно большую постоянную K > 0, для которой K \geqslant \max\{k_{z_j}(w) \colon j \in J, w \in V_{z_j}\}. Тогда \operatorname{Lev}_J(\mu_K \circ \varphi)(w,\xi) \geqslant c'Ke^{K\varphi(w)}\|\xi\|^2_{h_w} в каждой точке w \in V' \cap U для всех векторов \xi \in L_w. Значит, \mu := \mu_K и c := c'\min\{Ke^{K\varphi(w)} \colon w \in V' \cap U\} – искомые функция и константа.
Лемма доказана.
После этой подготовительной работы мы можем доказать два основных результата параграфа.
Теорема 2.1. Пусть (M,J) – почти комплексное многообразие комплексной размерности n, пусть \Omega \subset M – строго (J,q)-псевдовыпуклая область с гладкой границей, где q \in \{0, 1, \dots, n-1\}, и пусть f\colon b\Omega \to \mathbb R – гладкая, ограниченная снизу функция. Тогда найдется гладкая (J,q)-плюрисубгармоническая функция, определенная в открытой окрестности множества \overline{\Omega}, такая, что F|_{b\Omega}=f и F строго (J,q)-плюрисубгармонична вблизи b\Omega.
Доказательство. Поскольку f ограничена снизу, без ограничения общности можно считать, что f>0. Пусть \widetilde{F} \colon M \to (0,\infty) – гладкое продолжение f. Выберем такие открытые множества U_j' \Subset U_j \Subset M, что \{U_j'\}_{j=1}^\infty – локально конечное покрытие b\Omega.
Пусть \{\chi_j\}_{j=1}^\infty – такое семейство гладких функций \chi_j \colon M \to [0,\infty), что \{\chi_j > 0\}=U_j' для каждого индекса j \in \mathbb{N}, \sum_{j=1}^\infty \chi_j \leqslant 1 на M и \sum_{j=1}^\infty \chi_j \equiv 1 вблизи b\Omega. Пусть \beta \colon (0,\infty) \to (0,\infty) – такая строго возрастающая, строго выпуклая гладкая функция, что \beta(t)=e^{-1/t} для малых значений t, и пусть \widetilde{\beta} \colon \mathbb R \to [0,\infty) – такое гладкое продолжение \beta, что \widetilde{\beta}|_{(-\infty,0]} \equiv 0. Как и в доказательстве теоремы 1.1 (см. [13]), выбором подходящих функций \{\chi_j\}_{j=1}^\infty можно добиться, чтобы для каждого j \in \mathbb{N} продолжение g_j \colon M \to [0, \infty) функции \beta^{-1} \circ(\widetilde{F}\chi_j) \colon U_j' \to (0,\infty) нулем оказалось гладким на M.
Зафиксируем эрмитову метрику h на M. Пусть \varphi \colon V \to \mathbb R – гладкая функция в открытой окрестности V \subset M границы b\Omega такая, что \Omega \cap V=\{\varphi < 0\} и d\varphi \neq 0 на b\Omega. По лемме 2.1 найдется открытая окрестность V' \subset V множества b\Omega, а для каждой точки z \in V' найдется (n-q)-мерное комплексное подпространство L_z \subset T_z^{1,0}(M) со следующими свойствами: для каждого целого j \in \mathbb{N} существуют число c_j > 0 и строго возрастающая, строго выпуклая гладкая функция \mu_j \colon \mathbb R \to \mathbb R со свойством \mu_j(0)=0 такие, что для суперпозиции \varphi_j := \mu_j \circ \varphi неравенство \operatorname{Lev}_J(\varphi_j)(z,\xi) \geqslant c_j\|\xi\|_{h_z} имеет место для всех z \in V' \cap U_j и \xi \in L_z. Более того, можно считать без ограничения общности, что U_j \Subset V' и \Omega \cap U_j=\{\varphi_j|_{U_j} < 0\} для всех j \in \mathbb{N}.
Зафиксируем j \in \mathbb{N}. Пусть \lambda_j \colon M \to (-\infty,0] – гладкая функция, для которой \overline{U_j'}=\{\lambda_j =0\}. Выберем достаточно малое \varepsilon_j > 0 и достаточно большое C_j > 0 так, чтобы форма \operatorname{Lev}_J(g_j+C_j(\varphi_j+ \varepsilon_j\lambda_j))(z,\,\cdot\,) была положительно определена на L_z для всех z \in U_j. Заметим, что по построению g_j+C_j(\varphi_j+\varepsilon_j\lambda_j) < 0 на bU_j \cap \overline{\Omega}, так что функция \widetilde{\beta} \circ (g_j+C_j(\varphi_j+ \varepsilon_j\lambda_j))|_{U_j} обращается в нуль в окрестности этого множества и, значит, ее продолжение нулем в открытую окрестность \mathscr{U}_j := M \setminus \{z \in bU_j \colon (g_j+ C_j(\varphi_j+\varepsilon_j\lambda_j))(z) \geqslant 0\} множества \overline{\Omega} является гладкой (J,q)-плюрисубгармонической функцией F_j \colon \mathscr{U}_j \to [0,\infty) такой, что F_j|_{b\Omega}=f\chi_j и F_j \equiv 0 вне U_j. Более того, W_j := \{F_j > 0\} \subset U_j – открытая окрестность множества b\Omega \cap U_j' и F_j строго (J,q)-плюрисубгармонична в W_j. Точнее говоря, \operatorname{Lev}_J(F_j)(z,\,\cdot\,) > 0 на L_z \setminus \{0\} в каждой точке z \in W_j, причем \operatorname{Lev}(F_j)(z,\,\cdot\,) \equiv 0 для z \notin W_j.
Положим F := \sum_{j=1}^\infty F_j. Тогда F – корректно определенная гладкая функция на открытой окрестности \mathscr{U} := \bigcap_{j=1}^\infty \mathscr{U}_j \subset M множества \overline{\Omega}. По построению F|_{b\Omega}=f. Более того, \operatorname{Lev}_J(F)(z,\,\cdot\,) > 0 на L_z \setminus \{0\} для z \in W := \bigcup_{j=1}^\infty W_j \supset b\Omega и \operatorname{Lev}_J(F)(z,\,\cdot\,) \equiv 0 для z \notin W. Значит, функция F имеет нужные свойства.
Теорема 2.2. Пусть (M,J) – почти комплексное многообразие комплексной размерности n, и пусть \Omega \subset M – строго (J,q)-псевдовыпуклая область с гладкой границей для некоторого q \in \{0, 1, \dots, {n-1}\}. Тогда в открытой окрестности множества \overline{\Omega} найдется гладкая (J,q)-плюрисубгармоническая функция \varphi, для которой \Omega=\{\varphi < 0\}, d\varphi \neq 0 на b\Omega и \varphi строго (J,q)-плюрисубгармонична вблизи b\Omega.
Доказательство. Пусть \varphi := F-1, где F – функция из теоремы 2.1, отвечающая граничным значениям f \equiv 1. Тогда \varphi – гладкая (J,q)-плюрисубгармоническая функция в открытой окрестности множества \overline{\Omega}, тождественно равная нулю на b\Omega и строго (J,q)-плюрисубгармоническая вблизи b\Omega. Заметим, что при построении F мы можем выбрать функцию \widetilde{F} такой, чтобы \Omega=\{\widetilde{F} < 1\} и M \setminus \overline{\Omega}=\{\widetilde{F} > 1\}. Более того, уменьшив \mathscr{U} при необходимости, можно считать, что \sum_{j=1}^\infty \chi_j \equiv 1 на \mathscr{U} \setminus \overline{\Omega}. Как и в доказательстве теоремы 1.2 (см. [13]), отсюда легко будет следовать, что \Omega=\{F < 1\}, т.е. \Omega=\{\varphi < 0\}. Наконец заметим, что d\varphi \neq 0 на b\Omega, если числа C_j из конструкции F выбрать достаточно большими (в действительности, так как граница b\Omega гладкая, тот факт, что d\varphi не обращается в нуль на b\Omega, выполнен автоматически: см., к примеру, [15; доказательство предложения 1.5.16], которое легко подкорректировать для (J,q)-плюрисубгармонических функций. Теорема доказана.
Замечание 2.2. 1) Функция F из теоремы 2.1 строго (J,q)-плюрисубгармонична на открытой окрестности W множества b\Omega и постоянна на \Omega \setminus W. Из конструкции ясно, что для каждого открытого множества \omega \subset \Omega, у которого \overline{\omega} \subset \Omega, мы можем выбрать F постоянной на \omega.
2) Пусть h – эрмитова метрика на M, а \nu, \mu \colon b\Omega \to (0,\infty) – положительные непрерывные функции. Тогда функцию F можно выбрать такой, что \|(dF)_z\|_{h^\ast} \geqslant \nu(z) в каждой точке z \in b\Omega и \operatorname{Lev}_J(F)(z,\,\cdot\,) \geqslant \mu(z)\|\,{\cdot}\,\|^2_h на L_z для всех z \in b\Omega. Действительно, пусть для каждого j \in \mathbb{N}U_j'' \Subset U_j' – это такое открытое множество, что система \{U_j''\}_{j=1}^\infty по-прежнему покрывает b\Omega. Теперь при построении F для каждого j \in \mathbb{N} мы можем выбрать достаточно малое \varepsilon_j > 0 и достаточно большое C_j > 0 так, чтобы (dF_j)_z(N_\Omega(z)) \geqslant 0 для всех z \in b\Omega, (dF_j)_z(N_\Omega(z)) \geqslant \nu(z) для z \in b\Omega \cap U_j'' и \operatorname{Lev}_J(F_j)(z, \,\cdot\,) \geqslant \mu(z) \|\,{\cdot}\,\|^2_h на L_z для z \in b\Omega \cap U_j'', где N_\Omega(z) – единичная внешняя нормаль к b\Omega в z в смысле метрики h. Построенная функция F удовлетворяет требуемым условиям.
Сформулируем также аналог теоремы 1.3. На самом деле мы сформулируем обобщение более сильного результата, содержащегося в [14; теорема 2.1]. Сначала нам потребуется обобщить понятие ядра (произвольного порядка) на ситуацию почти комплексных многообразий.
Определение 2.1. Пусть (M,J) – почти комплексное многообразие, а \Omega \subset M – открытое множество. Тогда для каждого q=1, \dots, n множество
называется ядром порядка q множества \Omega. Кроме того, множество \mathfrak{c}_J(\Omega) := \mathfrak{c}_{J,1}(\Omega) называется просто ядром\Omega.
Теорема 2.3. Пусть (M, J) – почти комплексное многообразие, а \Omega \subset M – строго J-псевдовыпуклая область с гладкой границей. Тогда существует такая ограниченная гладкая J-плюрисубгармоническая функция \varphi на открытой окрестности границы \overline{\Omega}, что \Omega=\{\varphi < 0\}, d\varphi \neq 0 на b\Omega и \varphi строго J-плюрисубгармонична вблизи b\Omega. Более того, функцию \varphi можно выбрать строго J-плюрисубгармонической вне \mathfrak{c}_J(\Omega) и такой, что \operatorname{rank} \operatorname{Lev}_J(\varphi)(z,\,\cdot\,)=n-q для всех z \in \mathfrak{c}_{J,q}(\Omega) \setminus \mathfrak{c}_{J,q+1}(\Omega) и q=1, 2, \dots, n.
Доказательство. Легко проверить, что при \delta > 0 гладкий максимум \widetilde{\max}_{\delta}(\varphi,\psi) двух (строго) J-плюрисубгармонических функций \varphi, \psi на M снова оказывается (строго) J-плюрисубгармоническим; здесь мы обозначили через \widetilde{\max}_{\delta} гладкий максимум, определенный в [13; § 2]. Таким образом, мы можем закончить доказательство в точности так же, как в [14; теорема 2.1]. Теорема доказана.
Далее, основной результат о структуре ядра \mathfrak{c}(\Omega) комплексного многообразия \Omega, полученный в [13], утверждает, что \mathfrak{c}(\Omega) всегда 1-псевдовогнуто в \Omega. Мы можем доказать обобщение этого результата на случай почти комплексных многообразий. Сначала нам потребуется следующее определение.
Определение 2.2. Пусть \Omega – открытое подмножество почти комплексного многообразия (M,J), и пусть множество A \subset \Omega относительно замкнуто. Скажем, что A(J,1)-псевдовогнуто в \Omega, если не существует области U \subset \Omega с гладкой вещественной гиперповерхностью H \subset U таких, что разность U \setminus H состоит из двух связных компонент U_1 и U_2, H \cap A \neq \varnothing, U \cap A \subset \overline{U}_1 и область U_1 строго J-псевдовыпукла в каждой точке p \in H.
Можно показать, к примеру, опираясь на доказательства [13; предложение 3.2 и теорема 3.2], что замкнутое подмножество A комплексного многообразия \Omega(J,1)-псевдовогнуто в \Omega, если и только если оно 1-псевдовогнуто в смысле классического определения Ротштейна, где J – естественная интегрируемая почти комплексная структура на \Omega.
Теорема 2.4. Пусть (M,J) – почти комплексное многообразие, а \Omega \subset M – его открытое подмножество. Если структура J является \mathscr{C}^\infty-гладкой, то ядро \mathfrak{c}_J(\Omega)(J,1)-псевдовогнуто в M.
Доказательство. Чтобы прийти к противоречию, допустим существование таких U и H, как в определении выше, и зафиксируем p\in H \cap \mathfrak{c}_J(\Omega). По существу, доказательство проводится, как в [13; лемма 3.2], за следующими тремя исключениями. Чтобы показать, что H можно считать фрагментом гладкой строго выпуклой гиперповерхности в (\mathbb{C}^n,J_{\mathrm{st}}), нам сначала надо ввести локальную систему координат вблизи p, как в [3; предложение 3.6]. Далее, существование непрерывной максимальной J-плюрисубгармонической функции \widetilde{\varphi} на относительно компактной J-псевдовыпуклой области G с гладкой границей, которая принимает некоторые предписанные граничные значения \varphi|_{bG} на bG, было доказано в [11; теорема 7.5 и предложение 7.13] (см. также [22; предложение 4.1]). Наконец, при построении функции \psi := \delta_{\gamma_2} \ast (\widetilde{\varphi}-\gamma_1)+\gamma_3 \|\,{\cdot}\,\|^2 мы не можем воспользоваться сверткой, так что вместо этого приходится определять \psi как подходящее сглаживание функции (\widetilde{\varphi}-\gamma_1)+\gamma_3 \|\,{\cdot}\,\|^2 с помощью конструкции Рихберга из [23; теорема 3.1]. Теорема доказана.
Как и в случае J-плюрисубгармонических функций, теперь для каждой области \Omega в почти комплексном многообразии (M,J) можно было бы определить ее ядро \mathfrak{c}_J(\Omega,q) относительно класса (J,q)-плюрисубгармонических функций, положив
\begin{equation*}
\begin{aligned} \, \mathfrak{c}_J(\Omega,q) &:= \bigl\{z \in \Omega \colon\text{никакая ограниченная сверху гладкая} \\ &\qquad\text{ $(J,q)$-плюрисубгармоническая функция в $\Omega$ не является} \\ &\qquad \text{ строго $(J,q)$-плюрисубгармонической в } z \bigr\}. \end{aligned}
\end{equation*}
\notag
Однако мы не знаем, содержательно ли это определение: у нас нет примеров областей \Omega \subset M таких, что \mathfrak{c}_J(\Omega, q) \neq \varnothing при q > 0. В самом деле, для областей Штейна \Omega, как показывает следующее утверждение, множество \mathfrak{c}_J(\Omega, q) всегда пустое для любого q > 0. (Напомним, что область \Omega в почти комплексном многообразии называется областью Штейна, если в ней существует \mathscr{C}^2-гладкая строго J-плюрисубгармоническая исчерпывающая функция; см. [3]. Как можно видеть из [12; теорема 4.1], если J является \mathscr{C}^\infty-гладкой, то можно дать эквивалентное определение, потребовав существования \mathscr{C}^\infty-гладкой строго J-плюрисубгармонической исчерпывающей функции.)
Предложение 2.2. В каждой области Штейна \Omega в почти комплексном многообразии (M,J) можно найти ограниченную гладкую строго (J,1)-плюрисубгармоническую функцию. В частности, \mathfrak{c}_J(\Omega,q)= \varnothing для всех q > 0.
Доказательство. Пусть \psi \colon \Omega \to \mathbb R – гладкая строго J-плюрисубгармоническая функция. Заменив \psi на e^\psi при необходимости, можно считать без ограничения общности, что \psi \geqslant 0. Определим функцию \chi \colon (-1, \infty) \to \mathbb R формулой \chi (t) := -1/(1+t) и рассмотрим ограниченную гладкую функцию \varphi := \chi \circ \psi. Тогда в силу (3)
для всех точек z \in \Omega и векторов \xi \in T_z^{1,0}(M). В частности, \operatorname{Lev}_J(\varphi)(z,\,\cdot\,) > 0 на подпространстве H_z(\psi)=\{\xi \in T_z^{1,0}(M) \colon (\partial_J\psi)_z(\xi)=0\}, имеющем размерность не меньше \dim_\mathbb{C} M-1. Предложение доказано.
Можно было бы ожидать, что для областей \Omega в комплексных многообразиях во всяком случае компактные аналитические подмножества чистой размерности q+1 всегда лежат в \mathfrak{c}(\Omega,q). Однако, как показывает следующий пример, это не обязательно так.
Пример 2. Пусть \mathscr{M} := \{(z,[x]) \in \mathbb{C}^3 \times \mathbb{CP}^2 \colon z_ix_j=z_jx_i, \,i,j= 0,1,2\} – раздутие пространства \mathbb{C}^3 в начале координат. Для j=0,1,2 зададим отображения h_j \colon U_j \to \mathbb{C}^3 из плотных открытых подмножеств U_j := \{(z,[x]) \in \mathscr{M}: x_j \neq 0\} формулами
и набор \{(U_j,h_j) \colon j=0,1,2\} задает комплексную структуру на \mathscr{M}. Для j= 0,1,2 зададим гладкую функцию \varphi_j \colon \mathscr{M} \to \mathbb R формулой
и, как в доказательстве предложения 2.2, можно видеть, что эта функция строго 1-плюрисубгармонична на \mathbb{C}^3. Значит, \varphi_j1-плюрисубгармонична на \mathscr{M} и строго 1-плюрисубгармонична на U_j. Пусть теперь \Omega \Subset \mathscr{M} – строго псевдовыпуклая область с гладкой границей, заданная условием
Тогда из проведенных вычислений видно, что для каждой точки (z,[x])\,{\in}\,\Omega существует гладкая 1-плюрисубгармоническая функция на \Omega, ограниченная сверху, и строго 1-плюрисубгармоническая вблизи (z,[x]), так что \mathfrak{c}(\Omega,1)=\varnothing. В частности, чисто 2-мерное компактное аналитическое множество \{0\} \times \mathbb{CP}^2{\subset}\,\Omega не содержится в \mathfrak{c}(\Omega,1).
Заметим также, что, вообще говоря, у теоремы 1.3 нет аналога для строго q-псевдовыпуклых областей \Omega при q>0, т.е. в общем случае нельзя глобальную определяющую функцию области \Omega из теоремы 2.2 выбрать строго q-плюрисубгармонической вне \mathfrak{c}(\Omega, q) (даже в контексте комплексных многообразий). Действительно, для области \Omega в последнем примере имеем \mathfrak{c}(\Omega,1)=\varnothing, но на \Omega нельзя найти гладкой строго 1-плюрисубгармонической функции, поскольку таких функций нет на многообразии \mathbb{CP}^2.
2.3. Определяющие функции областей с не обязательно гладкими границами
Теперь попробуем выяснить вопрос, в какой степени результаты п. 2.2 обобщаются на области с не обязательно \mathscr{C}^\infty-гладкими границами. Чтобы избежать чрезмерного многословия, ограничимся указанием необходимых изменений в формулировках наших результатов в виде следующего замечания.
Замечание 2.3. 1) Утверждения теорем 2.1 и 2.2 сохраняют силу при замене \mathscr{C}^\infty-гладкости на \mathscr{C}^s-гладкость, где s \geqslant 2. Если q=0 и у каждой точки z \in b\Omega найдутся открытая окрестность U \subset M и там – \mathscr{C}^1-гладкая строго J-плюрисубгармоническая функция \varphi \colon U \to \mathbb R такие, что \Omega \cap U=\{\varphi < 0\} и d\varphi \neq 0 на b\Omega \cap U, и если f \colon b\Omega \to \mathbb R – \mathscr{C}^2-гладкая функция (т.е. у каждой точки z \in b\Omega есть открытая окрестность U_z \subset M и в ней – \mathscr{C}^2-гладкая функция F_z \colon U_z \to \mathbb R такие, что F_z совпадает с f на b\Omega \cap U_z), то выполнено утверждение, аналогичное теореме 2.1 с \mathscr{C}^1-гладкой функцией F. Похожий результат (в котором, в частности, функция f \colon b\Omega \to \mathbb R снова предполагается \mathscr{C}^2-гладкой) верен и если \Omega можно локально, в окрестности каждой точки p \in b\Omega, представить как множество подуровня непрерывной строго J-плюрисубгармонической функции (не налагая на b\Omega никаких условий гладкости). Аналогично можно обобщить и теорему 2.2 (но, разумеется, без наложения условий на дифференциал функции \varphi при s=0). Более того, при анализе случая возможно негладких границ стоит также упомянуть, что в доказательствах теорем 2.1 и 2.2 множество \Omega не обязательно связно. В частности, любое строго псевдовыпуклое открытое множество на комплексном многообразии допускает глобально определенную непрерывную определяющую функцию. (Для обобщений на упомянутые выше случаи с s < 2 в (технически более простом) случае q=0 достаточно повторить доказательства теорем 2.1 и 2.2 из [13].)
2) Следует также отметить, не вдаваясь в детали доказательства, что условия на гладкость границы b\Omega можно ослабить еще дальше. Действительно, в теореме 2.1 достаточно считать, что \Omega можно локально, вблизи каждой граничной точки, представить как множество подуровня \mathscr{C}^\infty-гладкой строго (J,q)-плюрисубгармонической функции, дифференциал которой может обращаться в нуль на b\Omega (или, более общо, можно представить как множество подуровня \mathscr{C}^s-гладкой строго (J,q)-плюрисубгармонической функции для некоторого s \geqslant 2 – или для (q,s)=(0,1) – но тогда и функция F из теоремы 2.1 окажется, вообще говоря, лишь \mathscr{C}^s-гладкой). Области этого типа рассматривались, к примеру, в работах [15] и [16]. Это вполне ясно при q=0. При q \in \{1, 2, \dots, n-1\} это вытекает из следующего факта: если \Omega \subset \mathbb{C}^n – открытое множество, z \in b\Omega, U \subset \mathbb{C}^n – открытая окрестность точки z и функции \varphi_1, \varphi_2 \colon U \to \mathbb R\mathscr{C}^2-гладкие и строго q-плюрисубгармонические, причем \Omega \cap U=\{\varphi_1 < 0\}=\{\varphi_2 < 0\}, то для каждого вектора \xi \in H_z(\varphi_1)=H_z(\varphi_2) (к примеру, в [15; предложение 1.5.16] показано, что (d\varphi_1)_z=0, если и только если (d\varphi_2)_z=0) неравенство \operatorname{Lev}(\varphi_1)(z,\xi) \geqslant 0 выполнено тогда и только тогда, когда \operatorname{Lev}(\varphi_2)(z,\xi) \geqslant 0 (к примеру, см. доказательство [1; предложение 15]). В частности, сумма \varphi_1+\varphi_2 строго q-плюрисубгармонична вблизи точки z, если как \varphi_1, так и \varphi_2 строго q-плюрисубгармоничны вблизи z и (d\varphi_1)_z=(d\varphi_2)_z=0. Итак, если \Sigma(b\Omega) – множество таких точек z \in b\Omega, что граница b\Omega гладкая в z, то функция F=\sum_{j=1}^\infty F_j из доказательства теоремы 2.1 автоматически строго (J,q)-плюрисубгармонична в окрестности множества b\Omega \setminus \Sigma(b\Omega), а строгая (J,q)-плюрисубгармоничность в окрестности остальной части b\Omega доказывается, как выше (в случае неинтегрируемой структуры J мы снова пользуемся [3; предложение 3.6]). Точно так же можно ослабить условия теоремы 2.2, но тогда отличие от нуля дифференциала построенной функции \varphi мы сможем гарантировать только в точках \Sigma(b\Omega).
3) Напомним, что до сих пор мы считали структурное отображение J хотя бы \mathscr{C}^1-гладким. Если же J лишь C^{\alpha}-непрерывно для некоторого \alpha \in (0,1), то неясно, будут ли различные возможные определения строгой J-псевдовыпуклости областей \Omega \subset M с \mathscr{C}^k-гладкими границами по-прежнему эквивалентными (поскольку неясно, останется ли верным [3; предложение 3.6]). Однако если предположить, что \mathscr{C}^k-гладкая строго J-плюрисубгармоническая локальная определяющая функция существует вблизи каждой точки p \in b\Omega, k \geqslant 0, то процедура склейки из кусочков, как в теореме 1.1, по-прежнему будет работать на почти комплексном многообразии (M,J) со всего лишь \mathscr{C}^\alpha-непрерывной структурой J. (Такое же замечание можно сделать и когда J еще менее регулярна. Однако заметим, что в этом случае теорема Нийенхейса–Вольфа может не выполняться и понятия (строгой) J-плюрисубгармоничности и строгой J-псевдовыпуклости могут оказаться тривиальными.) Неясно, возможно ли такое же обобщение теорем выше на случай строго q-псевдовыпуклых областей, как упомянутое в замечании 1, если J не будет хотя бы \mathscr{C}^1-гладкой.
4) Что касается случая \mathscr{C}^\infty-гладких функций, то для каждого s\in \mathbb{N}_0^\infty := \{0\} \cup \mathbb{N} \cup \{\infty\} можно определить множества
\begin{equation*}
\begin{aligned} \, \mathfrak{c}_J^s(\Omega) &:= \bigl\{z \in \Omega \colon\text{никакая ограниченная сверху $\mathscr{C}^s$-гладкая} \\ &\qquad\text{$J$-плюрисубгармоническая функция в $\Omega$} \\ &\qquad\text{не является строго $J$-плюрисубгармонической в точке } z \bigr\}. \end{aligned}
\end{equation*}
\notag
Тогда для s \in \mathbb{N}_0^\infty верен результат, аналогичный теореме 1.3. Заметим однако, что неясно, верно ли равенство \mathfrak{c}^{s_1}(\Omega)=\mathfrak{c}^{s_2}(\Omega) при s_1 \neq s_2 в общем случае. Аналогичные обобщения возможны для ядер \mathfrak{c}_{J,q}(\Omega) порядка q и для соответствующего результата теоремы 2.3. Более того, результат, аналогичный теореме 1.3, выполняется и в случае, когда граница b\Omega гладкая в более слабом смысле, как в п. 2) выше.
5) Можно также ввести еще один вариант ядра, положив
\begin{equation*}
\begin{aligned} \, \widetilde{\mathfrak{c}}_J(\Omega) &:= \bigl\{z \in \Omega \colon\text{никакая $J$-плюрисубгармоническая функция, на $\Omega$} \\ &\qquad \text{ограниченная сверху и не равная $-\infty$ тождественно на связной} \\ &\qquad \text{компоненте множества } \Omega, \text{ не является строго} \\ &\qquad\text{$J$-плюрисубгармонической в } z \bigr\}. \end{aligned}
\end{equation*}
\notag
Заметим, что это определение более слабого понятия: вообще говоря, \widetilde{\mathfrak{c}}_J(\Omega) \subsetneq \mathfrak{c}_J(\Omega). К примеру, функция \varphi(z,w) := \log|w-f(z)|+C_1(|z|^2+|w|^2) строго плюрисубгармонична и ограничена сверху в области \Omega из примера 1, так что в этом случае \widetilde{\mathfrak{c}}(\Omega)=\varnothing, однако \mathfrak{c}(\Omega) \neq \varnothing (как и раньше, мы опускаем индекс J, если объемлющее многообразие комплексное). Нам не известно, существуют ли почти комплексное многообразие (M,J) и строго псевдовыпуклая область \Omega \subset M такие, что \widetilde{\mathfrak{c}}_J(\Omega) \neq \varnothing.
Продемонстрируем еще одно применение конструкций из доказательства теоремы 2.1.
Теорема 2.5. Пусть \mathscr{M} – комплексное многообразие, и пусть \Omega \subset \mathscr{M} – строго псевдовыпуклое открытое множество (не обязательно относительно компактное и не обязательно с гладкой границей). Пусть U \subset \mathscr{M} – произвольная открытая окрестность границы b \Omega. Тогда верны следующие утверждения.
(1) Существует такое строго псевдовыпуклое открытое множество \Omega'\subset \mathscr{M} с гладкой границей, что \Omega \setminus U \subset \Omega', \overline{\Omega'} \subset \Omega и \mathfrak{c}(\Omega')=\mathfrak{c}(\Omega).
(2) Существует такое строго псевдовыпуклое открытое множество \Omega'' \subset \mathscr{M} с гладкой границей, что \overline{\Omega} \subset \Omega'', \overline{\Omega''} \subset \Omega \cup U и \mathfrak{c}(\Omega'')= \mathfrak{c}(\Omega).
В частности, у \overline{\Omega} есть окрестностный базис из строго псевдовыпуклых открытых множеств с гладкими границами. Более того, если \Omega – область, то в качестве \Omega' и \Omega'' можно взять такие области.
Доказательство. Зафиксируем открытую окрестность U \subset \mathscr{M} границы b\Omega.
(1) Сначала докажем существование строго псевдовыпуклого множества \Omega'. Пусть \omega \subset \Omega – произвольное фиксированное открытое множество такое, что \Omega \setminus U \subset \omega и \overline{\omega} \subset \Omega. По теореме 2.2 и замечанию 2.2, 1) найдется такая непрерывная плюрисубгармоническая функция \varphi вблизи \overline{\Omega}, что \Omega=\{\varphi < 0\}, \varphi \geqslant -1, \varphi \equiv -1 на \omega и \varphi строго плюрисубгармонична на \{\varphi > -1\}. Используя сглаживание по Рихбергу (к примеру, см. [2; теорема I.5.21]), мы можем найти непрерывную плюрисубгармоническую функцию \widetilde{\varphi} вблизи \overline{\Omega} такую, что \widetilde{\varphi}\,{\geqslant}\,\varphi, \widetilde{\varphi} \equiv -1 на \omega, \widetilde{\varphi} гладкая строго плюрисубгармоническая на \{\widetilde{\varphi} > -1\}, и |\widetilde{\varphi}- \varphi| < 1/2. Пусть c \in (-1,-1/2) – регулярное значение \widetilde{\varphi}; положим \Omega' := \{\widetilde{\varphi} < c\}. Тогда \Omega' – строго псевдовыпуклое открытое множество, причем \Omega \setminus U \subset \Omega' и \overline{\Omega'} \subset \Omega.
Остается показать, что \mathfrak{c}(\Omega')=\mathfrak{c}(\Omega). Из того, что \Omega' \subset \Omega, сразу следует, что \mathfrak{c}(\Omega') \subset \mathfrak{c}(\Omega). С другой стороны, заметим, что для достаточно малых \delta > 0 функция \varphi_1 := \widetilde{\max}_\delta(\widetilde{\varphi}-c,-(c+1)/2) гладкая, плюрисубгармоническая и ограниченная сверху на \Omega, причем она строго плюрисубгармонична вблизи \Omega \setminus \Omega' и \Omega'=\{\varphi_1 < 0\}. В частности, отсюда видно, что \mathfrak{c}(\Omega) \subset \Omega'. Для произвольной фиксированной точки p \in \Omega' \setminus \mathfrak{c}(\Omega') найдем такую гладкую функцию \varphi_2 \colon \Omega' \to \mathbb R, которая плюрисубгармонична, ограничена сверху и при этом строго плюрисубгармонична вблизи p. Тогда функция \varphi_p := \widetilde{\max}_1(C_1\varphi_1, \varphi_2-C_2), где C_1,C_2 > 0 – такие постоянные, что \varphi_2-C_2 < C_1\varphi_1-1 вблизи b\Omega' и C_1\varphi_1(p) < \varphi_2(p)-C_2-1, является гладкой, плюрисубгармонической и ограниченной сверху в \Omega, причем \varphi_p строго плюрисубгармонична вблизи p. Это показывает, что \mathfrak{c}(\Omega) \subset \mathfrak{c}(\Omega').
(2) Докажем теперь существование строго псевдовыпуклого множества \Omega''. Уменьшив U при необходимости, обозначим через \varphi такую непрерывную плюрисубгармоническую функцию на \Omega \cup U, что \Omega=\{\varphi < 0\}, \varphi \geqslant -1, \varphi > -1/2 на U и \varphi строго плюрисубгармонична на \{\varphi > -1\}. Без ограничения общности можно считать, что \varphi > 0 вне \overline{\Omega} (на самом деле функция \varphi из теоремы 2.2 обладает этими свойствами по построению).
Докажем, что найдется такое строго псевдовыпуклое открытое множество \widetilde{\Omega}'' \subset \mathscr{M} (не обязательно имеющее гладкую границу), что \overline{\Omega} \subset \widetilde{\Omega}'' \subset \Omega \cup U. Доказательство по сути то же, что и в [26; лемма 2]: выберем локально конечное открытое покрытие \{U_j\}_{j=1}^\infty границы b\Omega открытыми множествами U_j \Subset U. Для каждого индекса j \in \mathbb{N} пусть \eta_j \colon \mathscr{M} \to (-\infty, 0] – такая гладкая функция, что \{\eta_j < 0\}= U_j. Положим \phi := \varphi+\sum_{j=1}^\infty \varepsilon_j\eta_j, где \varepsilon_j, j \in \mathbb{N}, – положительные постоянные. Ясно, что \phi > 0 вблизи b(\Omega \cup U), \phi < 0 на \overline{\Omega}, и, если \varepsilon_j выбраны достаточно малыми, \phi остается строго плюрисубгармонической на U. Положим \widetilde{\Omega}'' := \{\phi < 0\}.
Заметим, что подходящим выбором чисел \varepsilon_j можно также обеспечить, чтобы \mathfrak{c}(\widetilde{\Omega}'')=\mathfrak{c}(\Omega). Действительно, так как \Omega \subset \widetilde{\Omega}'', то сразу ясно, что \mathfrak{c}(\Omega) \subset \mathfrak{c}(\widetilde{\Omega}''). Заметим теперь, что в конструкции \phi можно взять \varepsilon_j настолько малыми, что \phi > -1/2 на U. Тогда можно использовать ту же процедуру сглаживания, что и в части (1) (выбирая c=-1/2), и получить такую гладкую, ограниченную сверху плюрисубгармоническую функцию \phi_1 \colon \widetilde{\Omega}'' \to [-1/4,\infty), что \phi_1 > 0 на \widetilde{\Omega}'' \cap U и \phi_1 строго плюрисубгармоническая на \{\phi_1 > -1/4\}. Повторяя рассуждения из доказательства в части (1), легко увидеть, что \mathfrak{c}(\widetilde{\Omega}'') \subset \mathfrak{c}(\Omega).
Теперь применим часть (1) теоремы к строго псевдовыпуклому множеству \widetilde{\Omega}'' и открытой окрестности границы b\widetilde{\Omega}'', не пересекающей \Omega, и получим искомое множество \Omega''. Доказательство части (2) завершено.
Два последних свойства, утверждаемых теоремой, очевидны по построению.
Замечание 2.4. 1) Аналогичные выводы можно сделать и тогда, когда \Omega – область в почти комплексном многообразии (M,J), которую локально, вблизи каждой граничной точки p\in b\Omega, можно представить как множество подуровня непрерывной строго J-плюрисубгармонической функции, при условии, что структура J\mathscr{C}^\infty-гладкая. Единственное дополнительное наблюдение, нужное для этого, заключается в том, что аналог сглаживания по Рихбергу возможен и в почти комплексной ситуации; см. [23; теорема 3.1].
2) Неясно, верно ли аналогичное утверждение для строго q-псевдовыпуклых открытых множеств (или областей) \Omega \subset \mathscr{M}, поскольку не всегда можно произвести q-сглаживание q-плюрисубгармонической функции; см. [4].
§ 3. Глобальные определяющие функции в комплексных пространствах
В этом параграфе мы распространяем результаты о существовании глобальных определяющих функций на ситуацию комплексных пространств. Однако по крайней мере по двум позициям, указанным ниже, наши результаты здесь слабее, чем для комплексных многообразий. Во-первых, нам не удается установить общую теорему существования глобальных определяющих функций гладко строго q-псевдовыпуклых областей при q > 0. Вместо этого мы вынуждены ограничиться строго гипер-q-псевдовыпуклыми областями. Во-вторых, если \Omega – гладко строго псевдовыпуклая область (т.е. q=0) в некотором комплексном пространстве, то возникают технические тонкости, связанные с регулярностью искомой функции и заключающиеся в построении глобальной гладкой определяющей функции, являющейся гладко строго плюрисубгармонической вне \mathfrak{c}(\Omega). Начнем с набора необходимых нам определений и результатов.
Пусть X=(X, \mathscr{O}_X) – комплексное пространство (все комплексные пространства считаются приведенными и паракомпактными). Голоморфная карта для X – это набор (U, \tau, A, G), где U \subset X – открытое подмножество, A – аналитическое множество в области G \subset \mathbb{C}^n, а \tau \colon U \xrightarrow{\sim} A – биголоморфное отображение. Для каждой точки x \in X пусть T_x(X) обозначает касательное пространство по Зарискому к X в точке x, т.е. T_x(X) := (\mathfrak{m}_x/\mathfrak{m}_x^2)^\ast, где \mathfrak{m}_x \subset \mathscr{O}_x – это максимальный идеал ростков голоморфных функций, обращающихся в нуль в x. Если f \colon X \to Y – голоморфное отображение между комплексным пространствами X и Y, то через f_\ast обозначим индуцированный дифференциал f_\ast=f_{\ast,x} \colon T_x(X) \to T_{f(x)}(Y). Пусть \varphi \colon X \to \mathbb R – гладкая функция, (U, \tau ,A, G) – голоморфная карта на X в окрестности x, а \widehat{\varphi} \colon G \to \mathbb R – такая гладкая функция, что \varphi=\widehat{\varphi} \circ \tau на U (см. определение гладкой функции на комплексном пространстве ниже). Тогда можно определить функционалы (d\varphi)_x \colon T_x(X) \to \mathbb R и (\partial \varphi)_x, (\overline{\partial} \varphi)_x \colon T_x(X) \to \mathbb{C}, полагая
для \xi \in T_x(X). Действительно, в силу [27; предложение, часть 1] это определение не зависит от гладкого продолжения функции \widehat{\varphi} и в силу [9; § 1, утверждение (1)] оно не зависит и от голоморфной карты (U, \tau ,A, G). В частности, H_x(\varphi) := \{ \xi \in T_x(X)\colon (\partial \varphi)_x(\xi)=0\} – корректно определенное подпространство пространства T_x(X). Аналогичным образом хотелось бы определить отображение \operatorname{Lev}(\varphi)(x,\,\cdot\,) \colon T_x(X) \to \mathbb R формулой
Однако, как показано в [27; пример 1], определенная таким образом величина \operatorname{Lev}(\varphi)(x,\xi), вообще говоря, зависит от выбора гладкого продолжения функции \widehat{\varphi}. На самом деле, для корректности определения (4) надо потребовать, чтобы X было локально неприводимым в точке x; см. [27; предложение, часть 2]. (Нам не известно, можно ли корректно определить функционалы (\partial \varphi)_x, (\overline{\partial} \varphi)_x и (d\varphi)_x в общем случае, если \varphi считать всего лишь \mathscr{C}^1-гладкой. Мы также не знаем, можно ли на локально неприводимых комплексных пространствах корректно определить форму Леви \operatorname{Lev} (\varphi)(x,\,\cdot\,) произвольной \mathscr{C}^2-гладкой функции \varphi.)
Скажем, что функция \varphi \colon X \to \mathbb Rгладкая или (строго) плюрисубгармоническая, если для каждой точки x \in X найдутся голоморфная карта (U, \tau, A, G) в окрестности x и гладкая или соответственно (строго) плюрисубгармоническая функция \widehat{\varphi} \colon G \to \mathbb R такие, что \varphi|_U=\widehat{\varphi} \circ \tau. Заметим, что из этого определения не ясно, допускает ли гладкая (строго) плюрисубгармоническая функция \varphi \colon X \to \mathbb R указанные локальные продолжения \widehat{\varphi}, являющиеся одновременно гладкими и (строго) плюрисубгармоническими. На самом деле, вообще говоря, это не так; см., к примеру, [25; предостережение 1.5] и [27; пример 2]. Если в окрестности каждой точки x \in X у функции \varphi есть голоморфные карты и локальные продолжения \widehat{\varphi}, являющиеся одновременно гладкими и (строго) плюрисубгармоническими, то будем называть \varphi гладко (строго) плюрисубгармонической. Назовем область \Omega \subset Xстрого псевдовыпуклой, если у каждой точки x \in b\Omega существуют открытая окрестность U_x \subset X и непрерывная строго плюрисубгармоническая в ней функция \varphi_x \colon U_x \to \mathbb R такие, что \Omega \cap U_x=\{\varphi_x < 0\}. Область \Omega назовем гладко строго псевдовыпуклой, если для каждой точки x \in b\Omega функцию \varphi_x \colon U_x \to \mathbb R можно взять гладко строго плюрисубгармонической. (Можно аналогичным образом ввести понятия \mathscr{C}^s-гладко (строго) плюрисубгармонической функции и \mathscr{C}^s-гладко строго псевдовыпуклой области для любого s \in \mathbb{N}_0^\infty. Заметим, что функция \varphi \colon X \to \mathbb R является \mathscr{C}^0-гладкой и (строго) плюрисубгармонической тогда и только тогда, когда она \mathscr{C}^0-гладко (строго) полюрисубгармоническая; см. [24; теорема 2.4].)
Пусть q \in \mathbb{N}_0. Назовем функцию \varphi \colon X \to \mathbb R (строго) q-плюрисубгармонической, если у каждой точки x \in X существуют голоморфная карта (U, \tau, A, G) в окрестности x и \mathscr{C}^2-гладкая (строго) q-плюрисубгармоническая функция \widehat{\varphi}\,: G \to \mathbb R такие, что \varphi|_U=\widehat{\varphi} \circ \tau. Назовем \varphiгладко (строго) плюрисубгармонической, если в окрестности каждой точки x \in X найдутся голоморфная карта и локальное продолжение \widehat{\varphi}, являющееся гладким и (строго) q-плюрисубгармоническим. Область \Omega \subset X назовем (гладко) строгоq-псевдовыпуклой, если у каждой точки x \in b\Omega существует открытая окрестность U_x \subset X, а в ней – (гладко) строго q-плюрисубгармоническая функция \varphi_x \colon U_x \to \mathbb R такие, что \Omega \cap U_x=\{\varphi_x < 0\}. (Можно дать аналогичные определения \mathscr{C}^s-гладко (строго) q-плюрисубгармонических функций и \mathscr{C}^s-гладко строго q-псевдовыпуклых областей, для любого s > 2.)
Наконец скажем, что граница b\Omegaгладкая в точкеx \in b\Omega, если в открытой окрестности U \subset X точки x существует такая гладкая функция \varphi \colon U \to \mathbb R, что \Omega \cap U=\{\varphi < 0\} и (d\varphi)_x \neq 0. Заметим, что b\Omega гладкая в x \in b\Omega, если и только если во всякой достаточно малой минимальной голоморфной карте, покрывающей x (т.е. в достаточно малой карте (U, \tau, A, G), покрывающей x и такой, что G \subset \mathbb{C}^{\operatorname{ebdim}_ x X}, где \operatorname{ebdim}_ xX=\dim_\mathbb{C} T_x(X) – размерность вложения пространства X в точке x), область \Omega является пересечением X и области с гладкой границей в объемлющем пространстве \mathbb{C}^n. Скажем, что функция f \colon b\Omega \to \mathbb R гладкая, если она является ограничением гладкой функции, заданной в открытой окрестности U \subset X границы b\Omega. В случае, когда X – многообразие, а граница b\Omega гладкая, это определение совпадает с обычным. (Аналогичные определения \mathscr{C}^s-гладкой границы и \mathscr{C}^s-гладкой функции опять-таки можно дать для любого s \in \mathbb{N}_0^\infty.)
Теперь мы можем сформулировать основные результаты этого параграфа, которые обобщают теоремы 1.1 и 1.2 на случай гладко строго псевдовыпуклых областей в комплексных пространствах.
Теорема 3.1. Пусть X – комплексное пространство, \Omega \subset X – гладко строго псевдовыпуклая область, и пусть f \colon b\Omega \to \mathbb R – гладкая ограниченная снизу функция. Тогда существует гладко плюрисубгармоническая функция F в открытой окрестности множества \overline{\Omega}, для которой F|_{b\Omega}=f, причем F гладко строго плюрисубгармонична вблизи b\Omega.
Теорема 3.2. Пусть X – комплексное пространство, а \Omega \subset X – гладко строго псевдовыпуклая область. Тогда существует гладко плюрисубгармоническая функция \varphi в открытой окрестности \overline{\Omega} такая, что \Omega=\{\varphi < 0\} и \varphi гладко строго плюрисубгармонична вблизи b\Omega.
Нам хотелось бы также установить результаты, аналогичные теоремам 2.1 и 2.2 в случае гладко строго q-псевдовыпуклых областей в комплексных пространствах. Однако нам неизвестно, возможно ли это при q > 0 в общем случае. Трудность здесь на самом деле следующая: если \Omega – область в комплексном многообразии \mathscr{M}, z \in b\Omega, U \subset \mathscr{M} – открытая окрестность точки z, а \varphi_1, \varphi_2 \colon U \to \mathbb R – такие гладкие функции, что \Omega \cap U=\{\varphi_1 < 0\}=\{\varphi_2 < 0\}, то \operatorname{Lev}(\varphi_1)(z,\xi) \geqslant 0 для каждого вектора \xi \in H_z(\varphi_1), если и только если \operatorname{Lev}(\varphi_2)(z,\xi) \geqslant 0 (см. замечание 2.2). Так что, складывая \varphi_2 и \varphi_1, мы не теряем положительности формы Леви на H_z(\varphi_1), а если H_z(\varphi_1) \neq T_z(\mathscr{M}), то возможную потерю положительности в нормальном направлении к H_z(\varphi_1) (относительно некоторой эрмитовой метрики h на \mathscr{M}) можно скомпенсировать, взяв суперпозицию суммы \varphi_1+\varphi_2 с гладкой строго возрастающей, строго выпуклой функцией \chi \colon \mathbb R \to \mathbb R. Однако в случае комплексных пространств это, вообще говоря, уже не так, что видно из примера ниже.
Пример 3. Пусть X := \{(z,w) \in \mathbb{C}^2 \colon z^3=w^2\} и \Omega := X \setminus \{0\}. Рассмотрим гладко 1-плюрисубгармонические функции \varphi_1, \varphi_2 \colon X \to \mathbb R, заданные ограничениями на X функций \widehat{\varphi}_1(z,w) := |z+w|^2-2|z-w|^2 и \widehat{\varphi}_2(z,w) := |z-w|^2-2|z+w|^2 на \mathbb{C}^2 соответственно. Легко проверяется, что в малой открытой окрестности U \subset X точки 0 \in X выполнено равенство \Omega \cap U= \{x \in U \colon \varphi_1(x) < 0\}=\{x \in U \colon \varphi_2(x) < 0\} и, значит, \Omega – гладко строго 1-псевдовыпуклая область. Поскольку T_0(X) \simeq \mathbb{C}^2, а пространство X локально неприводимое, у любого гладкого продолжения функции \varphi_1+\varphi_2 на открытую окрестность точки 0 \in \mathbb{C}^2 форма Леви в начале координат совпадает с формой Леви функции \widehat{\varphi}_1+ \widehat{\varphi}_2 в точке 0. Однако \operatorname{Lev}(\widehat{\varphi}_1+\widehat{\varphi}_2)(0, \,\cdot\,) отрицательно определена на \mathbb{C}^2 \simeq H_0(\varphi_1).
Можно возразить, что приведенный пример весьма патологический. С другой стороны, заметим, что обычно в определении гладко строго q-псевдовыпуклой области в комплексном пространстве не делается никаких предположений о гладкости b\Omega (к примеру, см. [1]). Во всяком случае, даже когда мы предполагаем, что граница b\Omega гладкая в точке x \in b\Omega, нам неизвестно, можно ли сравнить формы Леви в точке x у двух локально определяющих функций для \Omega в окрестности x так, как это делается в случае многообразий.
Вследствие проблем, указанных выше, для q > 0 мы доказываем обобщения теорем 2.1 и 2.2 только для гипер-q-псевдовыпуклых областей вместо гладко строго q-псевдовыпуклых. Прежде чем формулировать результаты точно, приведем необходимые определения.
Сначала напомним определение эрмитовой метрики на комплексном пространстве. Для комплексного пространства X рассмотрим его касательное пространство в смысле Зариского \pi \colon T(X) \to X, т.е. множество T(X) является просто несвязным объединением \bigcup_{x \in X} T_x(X) (к примеру, см. детали в [5]). Эрмитовой метрикой h на X называется такое гладкое отображение h \colon T(X) \times_\pi T(X) \to \mathbb{C}, что h|_{T_x(X) \times T_x(X)} – эрмитова метрика на T_x(X) для каждой точки x \in X. Если h – эрмитова метрика на X, то для любой точки x \in X через \|\,{\cdot}\,\|_{h_x} и \|\,{\cdot}\,\|_{h_x^\ast} обозначим индуцированные нормы на T_x(X) и T_x^\ast(X) соответственно. Если контекст понятен, то иногда нижний индекс x будем опускать и использовать обозначение \|\,{\cdot}\,\|_h или \|\,{\cdot}\,\|_{h^\ast}.
Пусть X – комплексное пространство с эрмитовой метрикой h. Назовем гладкую функцию \varphi \colon X \to \mathbb Rгипер-q-плюрисубгармонической (соответственно строго гипер-q-плюрисубгармонической), если для каждого комплексного подпространства Y \subset X, каждой точки y \in Y, любой голоморфной карты (U, \tau, A, G) для Y, покрывающей y, и любой эрмитовой метрики \widehat{h} на G \subset \mathbb{C}^n такой, что h|_U=\tau^\ast\widehat{h}, найдутся открытая окрестность G' \subset G точки \tau(y) и гладкая функция \widehat{\varphi} \colon G' \to \mathbb R, для которой \varphi=\widehat{\varphi} \circ \tau на U' := \tau^{-1}(G') \subset U, с тем свойством, что для каждой точки x \in G' у ограничения формы Леви \operatorname{Lev}(\widehat{\varphi})(x,\,\cdot\,) на любое (q+1)-мерное подпространство \mathbb{C}^n неотрицательный (соответственно положительный) след, т.е. для каждого \widehat{h}-ортонормального семейства векторов e_1, e_2, \dots, e_{q+1} \subset \mathbb{C}^n выполнено неравенство \sum_{j=1}^{q+1} \operatorname{Lev}(\widehat{\varphi})(x, e_j) \geqslant 0 (соответственно > 0). Заметим, что эти определения зависят от зафиксированной метрики h и что, вообще говоря, форма Леви функции \widehat{\varphi} не определена функцией \varphi однозначно (но это выполнено, если X локально неприводимо). Кроме того, из определения ясно, что все (строго) гипер-q-плюрисубгармонические функции являются (строго) q-плюрисубгармоническими. Основное преимущество множества (строго) гипер-q-плюрисубгармонических функций над множеством всех (строго) q-плюрисубгармонических функций в том, что первое множество замкнуто относительно сложения. (В случае не обязательно строго гипер-q-плюрисубгармонических функций здесь требуется, чтобы для любого продолжения \widehat{h} метрики h у \varphi было продолжение \widehat{\varphi} с описанными выше свойствами. В этом случае на комплексные подпространства Y \subset X накладывается дополнительное условие, которое обеспечивает, чтобы ограничения гипер-q-субгармонических функций на комплексные подпространства снова оказывались гипер-q-плюрисубгармоническими: в наших построениях это свойство не потребуется. Более того, для не обязательно строго гипер-q-плюрисубгармонических функций также неясно, приводит ли условие существования продолжения \widehat{\varphi} в одной какой-то карте на Y – вместо существования продолжений во всех картах на Y – к эквивалентному определению. В случае строго гипер-q-плюрисубгармонических функций таких осложнений не возникает, так как в этой ситуации можно использовать менее техническое эквивалентное определение; к примеру, см. [8; предложение 2.2]. В частности, из наших замечаний выше следует, что для любой строго гипер-q-плюрисубгармонической функции \varphi \colon X \to \mathbb R и любой финитной гладкой функции \theta \colon X \to \mathbb R найдется такое \varepsilon_0 > 0, что для любого \varepsilon \leqslant \varepsilon_0 функция \varphi+\varepsilon\theta оказывается строго гипер-q-плюрисубгармонической.) Наконец заметим, что (строго) гипер-0-плюрисубгармоничность означает гладкую (строгую) плюрисубгармоничность. Понятие гипер-q-плюрисубгармоничности было введено для комплексных многообразий Г. Грауэртом и О. Рименшнайдером в работе [10], а используемое нами определение для комплексных пространств заимствовано из работы [8] (на самом деле, Г. Грауэрт и О. Рименшнайдер использовали термин “гипер-(q+1)-выпуклые функции”, а не “строго гипер-q-плюрисубгармонические функции”, но поскольку мы до этого говорили о строгой q-плюрисубгармоничности вместо (q+1)-выпуклости, мы продолжим использовать терминологию такого рода).
Будем говорить, что область \Omega \subset X=(X,h) строго гипер-q-псевдовыпуклая, если у каждой точки x \in b\Omega найдутся открытая окрестность U_x \subset X и строго гипер-q-плюрисубгармоническая функция \varphi_x \colon U_x \to \mathbb R такие, что \Omega \cap U_x= \{\varphi_x < 0\}. Заметим, что \Omega строго гипер-0-псевдовыпукла тогда и только тогда, когда она гладко строго псевдовыпукла. (Опять-таки можно дать аналогичные определения и в \mathscr{C}^s-гладкой категории, для любого s \geqslant 2.)
Теперь обратимся к обобщениям теорем 2.1 и 2.2 на гипер-q-псевдовыпуклые области в комплексных пространствах. Заметим, что при q=0 сюда будут относиться также гладко строго псевдовыпуклые области. Таким образом, теоремы 3.1 и 3.2 оказываются частными случаями следующих двух теорем, так что нам достаточно доказать только эти более общие результаты.
Теорема 3.1'. Пусть X – комплексное пространство с эрмитовой метрикой h, пусть \Omega \subset X – строго гипер-q-псевдовыпуклая область, а f \colon b\Omega \to \mathbb R – ограниченная снизу гладкая функция. Тогда найдется такая гипер-q-плюрисубгармоническая функция F, заданная в открытой окрестности множества \overline{\Omega}, что F|_{b\Omega}=f и F строго гипер-q-плюрисубгармонична вблизи b\Omega.
Доказательство. Поскольку f ограничена снизу, можно считать без ограничения общности, что f>0. Пусть \widetilde{F} \colon X \to (0,\infty) – гладкое продолжение f. Пусть \{U_j''\}_{j=1}^\infty – локально конечное покрытие границы b\Omega открытыми множествами U_j'' \Subset X такое, что для каждого индекса j\in \mathbb{N} найдется такая строго гипер-q-плюрисубгармоническая функция \varphi_j \colon U_j'' \to \mathbb R, что \Omega \cap U_j''=\{\varphi_j < 0\}. Более того, пусть U_j' \Subset U_j \Subset U_j'' – такие открытые множества, что система \{U_j'\}_{j=1}^\infty по-прежнему покрывает b\Omega.
Пусть \{\chi_j\}_{j=1}^\infty – семейство таких гладких функций \chi_j \colon X \to [0,\infty), что \{\chi_j > 0\}=U_j' для всех j \in \mathbb{N}, \sum_{j=1}^\infty \chi_j \leqslant 1 на X и \sum_{j=1}^\infty \chi_j \equiv 1 вблизи b\Omega. Пусть \beta \colon (0,\infty) \to (0,\infty) – строго возрастающая, строго выпуклая гладкая функция, причем \beta(t)=e^{-1/t} для малых значений t, и пусть \widetilde{\beta} \colon \mathbb R \to [0,\infty) – такое гладкое продолжение \beta, что \widetilde{\beta}|_{(-\infty,0]} \equiv 0. Как и в доказательстве теоремы 1.1, подходящим выбором функций \{\chi_j\}_{j=1}^\infty можно обеспечить, чтобы при всех j \in \mathbb{N} тривиальное продолжение g_j \colon X \to [0, \infty) функции \beta^{-1} \circ(\widetilde{F}\chi_j) \colon U_j' \to (0,\infty) нулем было гладким на X.
Пусть \lambda_j \colon X \to (-\infty, 0] – такие гладкие функции, что \overline{U_j'}= \{\lambda_j=0\}. Тогда выберем достаточно малые множители \varepsilon_j > 0 и достаточно большие C_j > 0 так, чтобы функции g_j+C_j(\varphi_j+\varepsilon_j\lambda_j) по-прежнему были строго гипер-q-плюрисубгармоническими на U_j. Заметим, что по построению g_j+C_j(\varphi_j+ \varepsilon_j\lambda_j) < 0 на bU_j \cap \overline{\Omega}, так что функция \widetilde{\beta} \circ (g_j+C_j(\varphi_j+\varepsilon_j\lambda_j))|_{U_j} равна нулю в окрестности этого множества и, значит, ее продолжение нулем в открытую окрестность \mathscr{U}_j := X \setminus \{x \in bU_j \colon (g_j+C_j(\varphi_j+\varepsilon_j\lambda_j))(x) \geqslant 0\} множества \overline{\Omega} задает гипер-q-плюрисубгармоническую функцию F_j \colon \mathscr{U}_j \to [0,\infty) со свойствами F_j|_{b\Omega}=f\chi_j и F_j \equiv 0 вне U_j. Более того, W_j := \{F_j > 0\} \subset U_j – открытая окрестность множества b\Omega \cap U_j', причем F_j строго гипер-q-плюрисубгармонична на W_j. Значит, F := \sum_{j=1}^\infty F_j – гипер-q-плюрисубгармоническая функция в открытой окрестности \mathscr{U} := \bigcap_{j=1}^\infty \mathscr{U}_j \subset X множества \,\overline{\Omega}, причем F|_{b\Omega}=f и F строго гипер-q-плюрисубгармонична на множестве W := \bigcup_{j=1}^\infty W_j \supset b\Omega. Теорема доказана.
Теорема 3.2'. Пусть X – комплексное пространство с эрмитовой метрикой h, и пусть \Omega \subset X – строго гипер-q-псевдовыпуклая область. Тогда в открытой окрестности множества \overline{\Omega} существует такая гипер-q-плюрисубгармоническая функция \varphi, что \Omega=\{\varphi < 0\} и \varphi строго гипер-q-плюрисубгармонична вблизи b\Omega.
Доказательство. Пусть \varphi := F-1, где F – функция из теоремы 3.1', отвечающая граничным значениям f \equiv 1. Тогда \varphi является гипер-q-плюрисубгармонической функцией в открытой окрестности \overline{\Omega}, тождественно равной нулю на b\Omega и строго гипер-q-плюрисубгармонической вблизи b\Omega. Более того, как и в доказательстве теоремы 2.2, при построении F мы можем выбрать \widetilde{F} и \mathscr{U} так, чтобы \Omega=\{F < 1\}, т.е. \Omega=\{\varphi < 0\}. Теорема доказана.
Замечание 3.1. 1) В последних двух формулировках строгая гипер-q-псевдовыпуклость понимается относительно произвольной фиксированной эрмитовой метрики на X.
2) Аналогично ситуации ранее, функция F из теоремы 3.1' строго гипер-q-плюрисубгармонична в открытой окрестности W границы b\Omega и постоянна в \Omega \setminus W. Из наших построений сразу видно, что для любого открытого множества \omega \subset \Omega с замыканием \overline{\omega} \subset \Omega можно выбрать F постоянной на \omega.
3) Утверждения теорем 3.1' и 3.2' верны и после замены \mathscr{C}^\infty-гладкости на \mathscr{C}^s-гладкость с любым s \geqslant 2. Более того, доказательство проходит и для \mathscr{C}^s-гладко строго псевдовыпуклых областей с s \in \{0, 1\}, однако при этом в теореме 3.1' приходится предположить, что функция f \colon b\Omega \to \mathbb R хотя бы \mathscr{C}^2-гладкая. В частности, у любой строго псевдовыпуклой области в комплексном пространстве есть глобально заданная непрерывная определяющая функция.
Как и в случае многообразий, теперь можно ввести понятие ядра открытого подмножества произвольного комплексного пространства.
Определение 3.1. Пусть X – комплексное пространство, а \Omega \subset X открыто. Тогда множество
\begin{equation*}
\begin{aligned} \, \mathfrak{c}(\Omega) &:= \bigl\{ x \in \Omega \colon \text{никакая ограниченная сверху плюрисубгармоническая} \\ &\qquad \text{функция в $\Omega$ не является гладко строго плюрисубгармонической} \\ &\qquad\text{в точке } x \bigr\} \end{aligned}
\end{equation*}
\notag
назовем ядром множества \Omega.
Легко видеть, что конструкция гладкого максимума двух функций (см. [13; § 2]) может быть выполнена в произвольном комплексном пространстве. Однако при распространении теоремы 1.3 на комплексные пространства возникает техническая тонкость, связанная с регулярностью глобальной определяющей функции.
На самом деле в доказательстве теоремы 1.3 (т.е. [13; основная теорема]) авторы построили гладкую плюрисубгармоническую функцию \varphi_1 как сумму ряда из гладких плюрисубгармонических функций. Соответственно, в случае комплексных пространств функция \varphi_1 окажется суммой ряда из гладко плюрисубгармонических функций. Однако заметим, что при переходе к пределу в классе гладко плюрисубгармонических функций на комплексном пространстве, вообще говоря, неясно, когда предельная функция снова окажется гладко плюрисубгармонической.
Действительно, если повторить доказательство теоремы 1.3 для комплексных пространств, то легко подобрать соответствующую последовательность \{\varepsilon_j\}_{j=1}^\infty такой, чтобы \varphi_1 была гладкой и плюрисубгармонической (здесь потребуется эквивалентность свойств слабой плюрисубгармоничности и плюрисубгармоничности на комплексных пространствах; см. [6; теорема 5.3.1]), но неясно, окажется ли \varphi_1 снова гладко плюрисубгармонической. Проблема в том, что для точки x \in X и заданной последовательности \{\Psi_j\} гладко плюрисубгармонических функций на X после локального вложения X в некоторое пространство \mathbb{C}^n каждая функция \Psi_j продолжается до гладкой плюрисубгармонической функции в некоторую окрестность \widehat{U}_j \subset \mathbb{C}^n точки x, однако непонятно, можно ли добиться того, чтобы при этом пересечение \bigcap_{j=1}^\infty \widehat{U}_j содержало окрестность точки x. В случае функции \varphi_1 мы умеем бороться с этой трудностью только вне \mathfrak{c}(\Omega), а именно, мы во всяком случае можем показать, что \varphi_1 гладко строго плюрисубгармоническая вне \mathfrak{c}(\Omega).
Наметим соответствующее доказательство. По построению \varphi_1=\sum_{j=1}^\infty \varepsilon_j\Psi_j для некоторых гладко плюрисубгармонических функций \Psi_j на \Omega. Зафиксируем некоторую точку x\in \Omega \setminus \mathfrak{c}(\Omega). После локального вложения пространства X мы можем найти такие гладкие продолжения \widehat{\Psi}_j функций \Psi_j на равномерно большую окрестность точки x в объемлющем пространстве \mathbb{C}^n, что у каждой функции \widehat{\Psi}_j будет неотрицательная форма Леви в x. Более того, поскольку x\notin \mathfrak{c}(\Omega), в силу выбора функций \Psi_j по крайней мере у одной из функций \widehat{\Psi}_j форма Леви в точке x положительная. Таким образом, если выбрать подходящую последовательность \{\varepsilon_j\}, то функция \widehat{\varphi}_1 := \sum_{j=1}^\infty \varepsilon_j\widehat{\Psi}_j окажется гладким продолжением \varphi_1 с положительной формой Леви в точке x, так что \varphi_1 гладко строго плюрисубгармонична в x. (Аналогичные результаты верны в гладкости \mathscr{C}^s для каждого s \geqslant 2. Более того, ввиду [24; теорема 2.4], полный аналог теоремы 1.3 выполняется для строго псевдовыпуклых областей в комплексных пространствах в категории \mathscr{C}^0-гладкости.)
Неясно, можно ли обобщить теорему 3.2 об 1-псевдовогнутости ядра из работы [13] на комплексные пространства. А именно, как уже упоминалось, мы не знаем, можно ли в общем случае найти гладко плюрисубгармоническую функцию \varphi \colon \Omega \to \mathbb R, являющуюся гладко строго плюрисубгармонической вне \mathfrak{c}(\Omega), так что неясно, проходит ли доказательство [13; лемма 3.2] в более общей ситуации. (Однако, поскольку для ядра \mathfrak{c}^0(\Omega), определенного в терминах непрерывных, ограниченных сверху плюрисубгармонических функций, верен аналог теоремы 1.3, можно доказать следующий вариант [13; лемма 3.2]: нельзя найти голоморфную карту (U, \tau, A, G) для \Omega и гладкую вещественную гиперповерхность M\in G такие, что G \setminus M состоит из двух связных компонент G_1 и G_2, M \cap \mathfrak{c}^0(\Omega) \neq \varnothing, G \cap \mathfrak{c}^0(\Omega) \subset \overline{G_1}, и G_1 строго псевдовыпукла в каждой точке p \in M. Более того, с помощью аргументов, аналогичных использованным в доказательстве [13; предложение 3.2], легко видеть, что это утверждение эквивалентно следующему свойству локального максимума для ядра \mathfrak{c}^0(\Omega): у каждой точки x \in \mathfrak{c}^0(\Omega) есть такая открытая окрестность U \subset \Omega, что для всякого компакта K \subset U и любой плюрисубгармонической функции \varphi в окрестности K выполняется неравенство \max_{\mathfrak{c}^0(\Omega) \cap K} \varphi \leqslant \max_{\mathfrak{c}^0(\Omega) \cap bK} \varphi; здесь максимум по пустому множеству полагается равным -\infty.)
Упомянем, наконец, еще два обобщения результатов § 2. Во-первых, аналог предложения 2.2 выполнен в произвольных пространствах Штейна (по поводу существования гладко строго плюрисубгармонических функций на пространстве Штейна см., к примеру, [19; § 3, лемма]). Во вторых, теорему 2.5 также можно обобщить на комплексные пространства. Точная формулировка следующая.
Теорема 3.3. Пусть X – комплексное пространство, а \Omega \subset X – строго псевдовыпуклое открытое множество. Пусть U \subset X – произвольная открытая окрестность границы b \Omega. Тогда выполнены следующие утверждения.
(1) Существует гладко строго псевдовыпуклое открытое множество \Omega' \subset X такое, что \Omega \setminus U \subset \Omega', \overline{\Omega'} \subset \Omega и \mathfrak{c}(\Omega')=\mathfrak{c}(\Omega).
(2) Существует гладко строго псевдовыпуклое открытое множество \Omega'' \subset X такое, что \overline{\Omega} \subset \Omega'', \overline{\Omega''} \subset \Omega \cup U и \mathfrak{c}(\Omega'')=\mathfrak{c}(\Omega).
В частности, у \overline{\Omega} есть окрестностный базис из гладко строго псевдовыпуклых открытых множеств. Более того, если \Omega – область, то в качестве \Omega' и \Omega'' также можно взять области.
В последнем параграфе мы формулируем некоторые открытые вопросы по тематике нашей статьи.
Вопрос 1. Пусть X – комплексное пространство, а \Omega \subset X – гладко строго псевдовыпуклая область. Существует ли такая гладко плюрисубгармоническая функция \varphi \colon U \to \mathbb R в открытой окрестности U \subset X множества \overline{\Omega}, что \Omega= \{\varphi < 0\} и \varphi гладко строго плюрисубгармонична вне \mathfrak{c}(\Omega)?
Вопрос 2. Пусть X – комплексное пространство, а \Omega \subset X – гладко строго q-псевдовыпуклая область. Существует ли такая гладко q-плюрисубгармоническая функция \varphi \colon U \to \mathbb R в открытой окрестности U \subset X множества \overline{\Omega}, что \Omega=\{\varphi < 0\} и \varphi гладко строго q-плюрисубгармонична вблизи b\Omega?
Вопрос 3. Верно ли, что \mathfrak{c}^{s_1}(\Omega)=\mathfrak{c}^{s_2}(\Omega) для каждой строго псевдовыпуклой области \Omega \subset \mathbb{C}^n с \mathscr{C}^\infty-гладкой границей и любых таких показателей s_1,s_2, что определены соответствующие ядра \mathfrak{c}^{s_1}(\Omega) и \mathfrak{c}^{s_2}(\Omega)? (Определение \mathfrak{c}^s(\Omega) см. в замечании 2.3, 4).)
Список литературы
1.
A. Andreotti, H. Grauert, “Théorèmes de finitude pour la cohomologie des espaces complexes”, Bull. Soc. Math. France, 90 (1962), 193–259
K. Diederich, A. Sukhov, “Plurisubharmonic exhaustion functions and almost complex Stein structures”, Michigan Math. J., 56:2 (2008), 331–355
4.
K. Diederich, J. E. Fornaess, “Smoothing q-convex functions and vanishing theorems”, Invent. Math., 82:2 (1985), 291–305
5.
G. Fischer, Complex analytic geometry, Lecture Notes in Math., 538, Springer-Verlag, Berlin–New York, 1976, vii+201 pp.
6.
J. E. Fornaess, R. Narasimhan, “The Levi problem on complex spaces with singularities”, Math. Ann., 248:1 (1980), 47–72
7.
J. E. Fornæss, B. Stensønes, Lectures on counterexamples in several complex variables, Math. Notes, 33, Princeton Univ. Press, Princeton, NJ; Univ. of Tokyo Press, Tokyo, 1987, viii+248 pp.
8.
M. Fraboni, T. Napier, “Strong q-convexity in uniform neighborhoods of subvarieties in coverings of complex spaces”, Math. Z., 265:3 (2010), 653–685
9.
H. Grauert, “Über Modifikationen und exzeptionelle analytische Mengen”, Math. Ann., 146 (1962), 331–368
10.
H. Grauert, O. Riemenschneider, “Kählersche Mannigfaltigkeiten mit hyper-q-konvexem Rand”, Problems in analysis, Lectures sympos. in honor of S. Bochner (Princeton Univ., Princeton, NJ, 1969), Princeton Univ. Press, Princeton, NJ, 1970, 61–79
11.
F. R. Harvey, H. B. Lawson, “Potential theory on almost complex manifolds”, Ann. Inst. Fourier (Grenoble), 65:1 (2015), 171–210
12.
F. R. Harvey, H. B. Lawson, Jr., S. Pliś, “Smooth approximation of plurisubharmonic functions on almost complex manifolds”, Math. Ann., 366:3-4 (2016), 929–940
13.
T. Harz, N. Shcherbina, G. Tomassini, “On defining functions and cores for unbounded domains. I”, Math. Z., 286:3-4 (2017), 987–1002
14.
T. Harz, N. Shcherbina, G. Tomassini, “On defining functions and cores for unbounded domains. II”, J. Geom. Anal., 30:3 (2020), 2293–2325
15.
G. M. Henkin, J. Leiterer, Theory of functions on complex manifolds, Monogr. Math., 79, Birkhäuser Verlag, Basel, 1984, 226 pp.
16.
G. M. Henkin, J. Leiterer, Andreotti–Grauert theory by integral formulas, Progr. Math., 74, Birkhäuser Boston, Inc., Boston, MA, 1988, 270 pp.
17.
S. Ivashkovich, J.-P. Rosay, “Schwarz-type lemmas for solutions of \overline{\partial}-inequalities and complete hyperbolicity of almost complex manifolds”, Ann. Inst. Fourier (Grenoble), 54:7 (2004), 2387–2435
18.
J. Morrow, H. Rossi, “Some theorems of algebraicity for complex spaces”, J. Math. Soc. Japan, 27:2 (1975), 167–183
19.
R. Narasimhan, “The Levi problem for complex spaces”, Math. Ann., 142 (1960/61), 355–365
20.
R. Narasimhan, “The Levi problem for complex spaces. II”, Math. Ann., 146 (1962), 195–216
21.
A. Nijenhuis, W. B. Woolf, “Some integration problems in almost-complex and complex manifolds”, Ann. of Math. (2), 77:3 (1963), 424–489
22.
S. Pliś, “The Monge–Ampère equation on almost complex manifolds”, Math. Z., 276:3-4 (2014), 969–983
23.
S. Pliś, “Monge–Ampère operator on four dimensional almost complex manifolds”, J. Geom. Anal., 26:4 (2016), 2503–2518
P. A. N. Smith, “Smoothing plurisubharmonic functions on complex spaces”, Math. Ann., 273:3 (1986), 397–413
26.
G. Tomassini, “Sur les algèbres A^0(\overline D) et A^\infty(\overline D) d'un domaine pseudoconvexe non borné”, Ann. Scuola Norm. Sup. Pisa Cl. Sci. (4), 10:2 (1983), 243–256
27.
V. Vâjâitu, “On the equivalence of the definitions of q-convex spaces”, Arch. Math. (Basel), 61:6 (1993), 567–575
Образец цитирования:
Т. Харц, Н. Щербина, Дж. Томассини, “Об определяющих функциях и ядрах для неограниченных областей. III”, Матем. сб., 212:6 (2021), 126–156; T. Harz, N. Shcherbina, G. Tomassini, “On defining functions and cores for unbounded domains. III”, Sb. Math., 212:6 (2021), 859–885