|
Внутренние функции матричного аргумента и классы сопряженности в унитарных группах
Ю. А. Неретинabc a Faculty of Mathematics, University of Vienna, Vienna, Austria
b Институт проблем передачи информации им. А. А. Харкевича Российской академии наук, г. Москва
c Механико-математический факультет, Московский государственный университет имени М. В. Ломоносова
Аннотация:
Обозначим через Bn множество комплексных квадратных матриц порядка
n, чьи евклидовы операторные нормы меньше 1. Его граница Шилова – множество U(n) всех унитарных матриц. Голоморфное отображение Bm→Bn назовем внутренним, если оно отображает U(m) в U(n). С другой стороны, рассмотрим группу U(n+mj) и ее подгруппу U(j), вложенную в U(n+mj) блочно-диагонально (m блоков U(j) и единичный блок размера n). Классу сопряженности в U(n+mj) относительно подгруппы U(j) мы ставим в соответствие “характеристическую функцию”, которая является рациональным внутренним отображением Bm→Bn. Мы показываем, что класс внутренних функций, которые могут быть получены как характеристические функции, замкнут относительно естественных операций таких, как поточечные прямые суммы, поточечные произведения, композиции, подстановки в конечномерные представления полной линейной группы и др. Мы также явно описываем соответствующие классы сопряженности.
Библиография: 24 названия.
Ключевые слова:
внутренние функции, операторные узлы, классические комплексные области, характеристические операторные функции, передаточные функции.
Поступила в редакцию: 19.09.2021 и 16.02.2022
§ 1. Формулировка результатов1.1. Обозначения Ниже ∙ Mat(n) – пространство комплексных квадратных матриц порядка n; ∙ 1n – единичная матрица порядка n; ∙ GL(n,C) – группа комплексных обратимых матриц порядка n; ∙ U(n) – группа унитарных матриц порядка n. Пусть V, W – линейные пространства с базисами e1,…,ep и f1,…,fq соответственно. Мы упорядочиваем матричные элементы тензорного произведения V⊗W как
e1⊗f1,…,ep⊗f1, e1⊗f2,…,ep⊗f2, …, e1⊗fq,…,ep⊗fq.
В соответствии с этим мы записываем и тензорное произведение матриц. 1.2. Матричные шары и внутренние отображения Обозначим через ‖⋅‖ операторную норму в евклидовом пространстве, т.е. ‖z‖2 – это максимальное собственное значение матрицы z∗z. Пусть Bn (матричный шар) – множество комплексных матриц z порядка n таких, что ‖z‖<1. Через ¯Bn обозначим его замыкание, т.е. множество матриц, удовлетворяющих условию ‖z‖⩽, через \partial \mathrm B_n – границу множества \mathrm B_n, т.е. множество матриц с нормой, равной 1. Унитарная группа \operatorname{U}(n) содержится в \partial\mathrm B_n и является границей Шилова области \mathrm B_n. Напомним, что псевдоунитарная группа \operatorname{U}(n,n) действует на \mathrm B_n биголоморфными преобразованиями, а пространство \mathrm B_n является симметрическим пространством
\begin{equation*}
\mathrm B_n\simeq \operatorname{U}(n,n)\big/(\operatorname{U}(n)\times \operatorname{U}(n))
\end{equation*}
\notag
(см. [21; § 6], [15; § 2.3], а также п. 2.1 ниже). Мы назовем голоморфное отображение F\colon \mathrm B_m\to\mathrm B_\alpha внутренним, если его граничные значения на \operatorname{U}(m) определены почти всюду и F отображает \operatorname{U}(m) в \operatorname{U}(\alpha). Ниже мы обсуждаем только рациональные отображения, поэтому смысл термина “граничные значения” здесь ясен. Замечание 1.1. Напомним, что внутренние функции \mathrm B_1\to \mathrm B_1 (т.е. голоморфные отображения единичного круга |z|<1 в себя, переводящие в себя также и окружность |z|=1) являются классическим предметом теории функций комплексного переменного, см., например, [8]. Внутренние функции \mathrm B_1\to \mathrm B_\alpha возникли в связи с работами М. С. Лившица 1946–1954 гг. по спектральной теории операторов, близких к унитарным, см. [11], [12], [23]. В. П. Потапов в [22] получил мультипликативное представление таких функций, см. также [3]. Внутренние функции \mathrm B_m\to \mathrm B_\alpha появились в [16]–[17] в связи с теорией представлений бесконечномерных классических групп. 1.3. Операторные узлы и характеристические функции Фиксируем \alpha и m\,{\in}\,\mathbb N. Выберем j\,{=}\,0,1,2,\dots . Рассмотрим унитарную группу \operatorname{U}(\alpha\,{+}\,mj) и ее подгруппу \operatorname{U}(j), вложенную как
\begin{equation*}
T\mapsto \begin{pmatrix} 1_\alpha&0\\ 0& T\otimes 1_m \end{pmatrix} := \begin{pmatrix} 1_\alpha&0&0&\dots&0\\ 0&T&0&\dots&0\\ 0&0&T&\dots&0\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 0&0&0&\dots&T \end{pmatrix}\in \operatorname{U}(\alpha+mj).
\end{equation*}
\notag
Рассмотрим сопряженные классы группы \operatorname{U}(\alpha+mj) по отношению к подгруппе \operatorname{U}(j), т.е. матрицы, определенные с точностью до эквивалентности
\begin{equation*}
g\sim hgh^{-1}, \quad \text{где }\ g\in \operatorname{U}(\alpha+mj), \quad h\in \operatorname{U}(j).
\end{equation*}
\notag
Мы называем такие классы операторными узлами (colligations). Пусть S\,{\in}\, \mathrm B_m, а s_{\mu\nu} – ее матричные элементы. Мы записываем g как блочную матрицу размера \alpha+\underbrace{j+\dots+j}_{m \text{ раз}},
\begin{equation}
g=\begin{pmatrix} a&b_1&\dots\\ c_1&d_{11}&\dots\\ \vdots&\vdots&\ddots \end{pmatrix} \in \operatorname{U}(\alpha+mj),
\end{equation}
\tag{1.1}
и рассматриваем следующее соотношение:
\begin{equation}
\begin{pmatrix} p\\ x_1\\ \vdots\\ x_m \end{pmatrix} = \begin{pmatrix} a&b_1&\dots&b_m\\ c_1&d_{11}&\dots&d_{1m}\\ \vdots&\vdots&\ddots&\vdots\\ c_k&d_{m1}&\dots&d_{mm} \end{pmatrix} \begin{pmatrix} q\\ s_{11}x_1+\dots +s_{1m}x_m \\ \vdots \\ s_{m1}x_1+\dots +s_{mm}x_m \end{pmatrix},
\end{equation}
\tag{1.2}
где столбцы p, q содержатся в \mathbb C^\alpha, а x_1,\dots,x_m\in \mathbb C^j. Мы исключаем переменные x_1,\dots,x_m и получаем зависимость
\begin{equation*}
p =\Theta[g;S] q,
\end{equation*}
\notag
где \Theta[g;S] – рациональная матричнозначная функция переменной S, зависящая от параметра g. Согласно [16; теорема 4.1] эта функция зависит лишь от класса сопряженности, содержащего g, и является внутренней функцией матричной переменной S. Мы называем \Theta[g;S] характеристической функцией операторного (матричного) узла. Повторим определение в других терминах. Обозначим
\begin{equation*}
1_j\otimes S:= \begin{pmatrix} s_{11}\cdot 1_j&\dots&s_{1m}\cdot 1_j\\ \vdots&\ddots&\vdots\\ s_{m1}\cdot 1_j&\dots&s_{mm}\cdot 1_j \end{pmatrix}.
\end{equation*}
\notag
Тогда
\begin{equation}
\Theta[g;S]=a+b(1_j\otimes S)(1_{mj}-d(1_j\otimes S) )^{-1} c.
\end{equation}
\tag{1.3}
Замечание 1.2. Пусть H\,{=}\,H_1\oplus H_2 – гильбертово пространство, а \begin{pmatrix} a&b\\ c&d \end{pmatrix} – унитарный оператор в H. Характеристическая функция Лившица, возникшая в спектральной теории операторов, не являющихся нормальными, см. [11], [12] (см. также [23], [7], [6]), задается формулой
\begin{equation}
\Theta(\lambda)=a+b\lambda(1-\lambda d)^{-1}c.
\end{equation}
\tag{1.4}
В нашей конструкции это соответствует m=1. Мы предпочитаем использовать оригинальный термин “характеристическая функция”, который подчеркивает аналогию с характеристическими числами и характеристическим многочленом. В нашем уравнении (1.2) можно видеть обобщение уравнения Ax=s x. Но термин “характеристическая функция” перегружен (у него есть два других общепринятых значения – индикаторная функция и преобразование Фурье меры в теории вероятности). Для (1.4) используется также другой термин трансфер-функция (transfer function), см., например, [ 5], пришедший из теории систем. Замечание 1.3. Структуры типа операторных узлов возникают в теории представлений бесконечномерных классических групп как “полугруппы двойных классов смежности”. Впервые это было обнаружено Г. И. Ольшанским в [20], см. также [14; § IX.3–4]. Такие полугруппы действуют в пространствах унитарных представлений соответствующих групп операторами с гауссовскими ядрами. Гауссово ядро определяется матрицей, и Ольшанский показал, что эти матрицы задаются выражениями, похожими на матричнозначные характеристические функции одной переменной. Происхождение внутренних функций матричной переменной в [16], [17] было похожим, но источником был более широкий класс унитарных представлений из работы Н. И. Нессонова [19]. С этой точки зрения, основные объекты – это полугруппы операторных узлов, а внутренние функции – инструмент для их понимания. В настоящей статье мы не ссылаемся на теорию представлений и рассматриваем внутренние функций и матричные узлы как абстрактные предметы. 1.4. Гипотеза Обозначим через
\begin{equation*}
\operatorname{Inn}(m,\alpha)=\operatorname{Inn}[\mathrm B_m,\mathrm B_\alpha]
\end{equation*}
\notag
пространство всех рациональных внутренних отображений F\colon \overline{\mathrm B}_m\to\overline{\mathrm B}_\alpha. Через \operatorname{Inn}_\circ(m,\alpha) обозначим подмножество, состоящее из отображений F таких, что F(\mathrm B_m)\subset \mathrm B_\alpha. По принципу максимума модуля последнее условие равносильно такому: для некоторого z_0\in\mathrm B_m выполнено F(z_0)\in \mathrm B_\alpha. Мы также определим пространство
\begin{equation*}
\operatorname{Char}(m,\alpha)=\operatorname{Char}[\mathrm B_m,\mathrm B_\alpha],
\end{equation*}
\notag
состоящее из характеристических функций, определяемых всеми возможными элементами групп \operatorname{U}(\alpha+mj) с j=0, 1, 2, \dots . Через \operatorname{Char}_\circ(m,\alpha) обозначим подмножество, состоящее из функций, отображающих открытый матричный шар \mathrm B_m в открытый матричный шар \mathrm B_\alpha. В обозначениях (1.1), отображение \Theta[g;\cdot] содержится в \operatorname{Char}_\circ(m,\alpha), если и только если \|a\|<1. Гипотеза 1.4. Любая рациональная внутренняя функция является характеристической функцией некоторого матричного узла, т.е.
\begin{equation*}
\operatorname{Inn}(m,\alpha)=\operatorname{Char}(m,\alpha).
\end{equation*}
\notag
Замечание 1.5. Гипотеза была сформулирована в [17]. Она не бесспорна, потому что похожее утверждение для внутренних функций в полидиске не выполнено (или верно при дополнительных ограничениях на рациональные внутренние функции, см. случай полидиска в [9], [4]). 1.5. Операции в \operatorname{Char}(m,\alpha) В настоящей статье мы показываем, что класс \coprod_{m,\alpha}\operatorname{Char}(m,\alpha)\subset \coprod_{m,\alpha}\operatorname{Inn}(m,\alpha) замкнут относительно нескольких естественных операций1[x]1Эти утверждения анонсированы в [17].. Во всех случаях мы описываем явно операции с матричными узлами, соответствующие операциям с внутренними функциями, эти формулы содержатся в доказательствах. Теорема 1.6. a) Пусть F_1\in \operatorname{Char}(m,\alpha), F_2\in \operatorname{Char}(m,\beta). Тогда F_1\oplus F_2\in \operatorname{Char}(m,\alpha+\beta). b) Пусть F\in \operatorname{Char}(m,\alpha+\beta) допускает разложение в прямую сумму F=F_1\oplus F_2, где F_1\in \operatorname{Inn}(m,\alpha), F_2\in \operatorname{Inn}(m,\beta). Тогда F_1\in \operatorname{Char}(m,\alpha), F_2\in \operatorname{Char}(m,\beta). Первая (тривиальная) часть утверждения доказана в п. 3.1, вторая – в п. 3.5. Следующее утверждение было получено в [16; теорема 4.1]. Теорема 1.7. Пусть F_1, F_2\in \operatorname{Char}(m,\alpha). Тогда поточечное произведение F_1 F_2 матричнозначных функций F_1, F_2 содержится в \operatorname{Char}(m,\alpha). Теорема 1.8. Пусть F_1\in \operatorname{Char}(m,\alpha), F_2\in \operatorname{Char}(m,\beta). Тогда поточечное тензорное произведение F_1\otimes F_2 матричнозначных функций F_1, F_2 содержится в \operatorname{Char}(m,\alpha\beta). Утверждение доказано в п. 3.3. Теорема 1.9. Пусть G\in \operatorname{Char}(\beta,\gamma) определено матрицей \begin{pmatrix} a&b\\ c&d \end{pmatrix}\in \operatorname{U}(\gamma+ \beta j), а F\in \operatorname{Char}(\alpha,\beta) – матрицей \begin{pmatrix}p&q\\ r&t\end{pmatrix}\in \operatorname{U}(\beta+\alpha i). Пусть
\begin{equation}
\det(1_{\beta j}-d(1_j\otimes p))\ne 0.
\end{equation}
\tag{1.5}
Тогда G\circ F\in \operatorname{Char}(\alpha,\gamma). Более того, заключение выполнено, и если
\begin{equation}
\det(1_{\beta j}-d(1_j\otimes F(S_0)) )\ne 0 \quad\textit{для некоторого }\ S_0\in \mathrm B_\alpha.
\end{equation}
\tag{1.6}
Замечание 1.10. a) В частности, условие (1.5) выполнено, если \|d\|<1 или \|p\|<1. Напомним, что \|d\|\leqslant 1, \|p\|\leqslant 1. b) Может случиться, что образ отображения F содержится в множестве точек разрыва отображения G. Условие (1.6) достаточно (но не необходимо) для того, чтобы исключить такую ситуацию. Теорема 1.9 доказывается в п. 3.4. Далее, рассмотрим унитарное конечномерное представление \rho унитарной группы \operatorname{U}(n). Тогда (см., например, [24; § 42]) оно голоморфно продолжается до представления группы \operatorname{GL}(n,\mathbb C). Представление \rho называется полиномиальным, если все матричные элементы \rho(g) являются многочленами от g\in\operatorname{GL}(n,\mathbb C). Рассмотрим полугруппу \operatorname{Mat}^\times(n) всех матриц порядка n по отношению к умножению. Группа \operatorname{GL}(n,\mathbb C) плотна в \operatorname{Mat}^\times(n), и все полиномиальные представления группы \operatorname{GL}(n,\mathbb C) продолжаются по непрерывности на полугруппу \operatorname{Mat}^\times(n) (матрицы \rho(\cdot) представления полугруппы \operatorname{Mat}^\times(n) определяются теми же многочленами). Теорема 1.11. Пусть \rho – полиномиальное представление группы \operatorname{U}(\alpha). Пусть F\in\operatorname{Inn}(m,\alpha). Тогда \rho\circ F содержится в \operatorname{Inn}(m,\dim\rho). Утверждение доказано в п. 3.6. Следствие 1.12. Пусть F\in\operatorname{Inn}(m,\alpha). Тогда \det(F)\in \operatorname{Inn}(m,1). 1.6. Некоторые замечания о поведении внутренних функций на стратах границы Напомним (см. [21; § 6], см. также ниже п. 2.3), что граница области \mathrm B_m\subset \operatorname{Mat}(m) является объединением континуального семейства попарно непересекающихся комплексных (открытых) многообразий (граничных компонент). Эти компоненты являются максимальными комплексными многообразиями, содержащимися в границе. Каждая компонента C биголоморфно эквивалентна некоторому матричному шару \mathrm B_\nu, где \nu=0,1,\dots,m-1. При этом биголоморфно отображение \mathrm B_\mu\to C продолжается до гомеоморфизма замыканий \overline{\mathrm B}_\mu\to \overline C. Следующие высказывания очевидны. Предложение 1.13. a) Пусть F\in \operatorname{Inn}[\mathrm B_m,\mathrm B_\alpha]\setminus \operatorname{Inn}_\circ[\mathrm B_m,\mathrm B_\alpha]. Тогда F(\mathrm B_m) содержится в единственной граничной компоненте C\subset \mathrm B_\alpha. Более того, F содержится в \operatorname{Inn}_\circ[B_m,C]. b) Пусть F\in \operatorname{Inn}[\mathrm B_m,\mathrm B_\alpha] непрерывно в некоторой точке граничной компоненты C\subset \mathrm B_m. Тогда F\in \operatorname{Inn}[C,\mathrm B_\alpha]. Следующее утверждение доказано в п. 3.7. Теорема 1.14. a) Пусть F\in \operatorname{Char}[\mathrm B_m,\mathrm B_\alpha] отображает \mathrm B_m в граничную компоненту C\subset \overline{\mathrm B}_\alpha. Тогда F\in \operatorname{Char}_\circ[\mathrm B_m,C]. b) Пусть F\in \operatorname{Char}[\mathrm B_m,\mathrm B_\alpha] определено матрицей \begin{pmatrix}a&b\\ c&d\end{pmatrix}\in \operatorname{U}(\alpha+mj). Пусть C\subset \overline{\mathrm B}_m – компонента границы. Пусть \det(1_{mj}- d(1_j\otimes S_0))\ne 0 для некоторой матрицы S_0\in C. Тогда ограничение F на C содержится в \operatorname{Char}[C,\mathrm B_\alpha]. 1.7. О некоторых возможных обобщениях конструкции Как было замечено выше, \mathrm B_n является симметрическим пространством. Наша конструкция внутренних функций может быть автоматически расширена на эрмитовы симметрические пространства серий
\begin{equation*}
\operatorname{U}(p,q)/(\operatorname{U}(p)\times \operatorname{U}(q)), \qquad \operatorname{Sp}(2n,\mathbb R)/\operatorname{U}(n), \qquad \operatorname{SO}^*(2n,\mathbb R)
\end{equation*}
\notag
(см., например, [21], они называются классическими комплексными областями типов I, II и III) и для прямых произведений таких пространств (см. [16], [18]). Начальные пространства и пространства-образы в таких конструкциях не являются независимыми. Например, этот подход не дает возможности построить внутренние функции из обычного единичного комплексного шара \operatorname{U}(n,1)/(\operatorname{U}(n)\times \operatorname{U}(1)) в единичный круг (они существуют согласно работам А. Б. Александрова [1] и Э. Лоу [13]) и (более общо) из пространств \operatorname{U}(p,q)/(\operatorname{U}(p)\times \operatorname{U}(q)) в единичный круг при p\ne q (они тоже существуют, см. [2]). Однако можно попробовать взять m=\infty. Возникает следующий вопрос. Вопрос 1.15. Пусть g – унитарный оператор
\begin{equation*}
\mathbb C\oplus \ell^2\oplus \ell^2\,\to \mathbb C\oplus \ell^2,
\end{equation*}
\notag
т.е. gg^*=1, g^*g=1. Представим g в блочной форме
\begin{equation*}
g=\left(\begin{array}{c|cc} a&b_1&b_2 \\ \hline c&d_1&d_2 \end{array}\right).
\end{equation*}
\notag
Пусть (s_1,s_2) – точка открытого единичного шара в \mathbb C^2. Положим
\begin{equation}
\begin{aligned} \, \notag \Theta[g;(s_1,s_2)] &:=a+\begin{pmatrix} b_1& b_2\end{pmatrix} \begin{pmatrix}s_1\cdot 1_\infty\\ s_2\cdot 1_\infty\end{pmatrix} \left(1_\infty- \begin{pmatrix} d_1& d_2\end{pmatrix} \begin{pmatrix}s_1\cdot 1_\infty\\ s_2\cdot 1_\infty\end{pmatrix} \right)^{-1}c \\ &=a+\begin{pmatrix} s_1 b_1+s_2 b_2\end{pmatrix} [1- s_1d_1-s_2d_2]^{-1}c. \end{aligned}
\end{equation}
\tag{1.7}
Можно ли найти внутреннюю функцию такого типа? Возможно ли найти условия на g, при которых \Theta[g;\cdot] является внутренней функцией на единичном шаре в \mathbb C^2? Довод в пользу этого предположения очень простой. Мы пишем соотношение
\begin{equation*}
\begin{pmatrix} p\\ x\end{pmatrix} =\left(\begin{array}{c|cc}a&b_1&b_2\\ \hline c&d_1&d_2 \end{array}\right) \begin{pmatrix} q\\ s_1 x\\ s_2 x \end{pmatrix}.
\end{equation*}
\notag
Исключая переменные x, мы получаем p=\Theta[g,(s_1,s_2)]\,q. С другой стороны, матрица g унитарна, следовательно,
\begin{equation*}
|p|^2+\|x\|^2=|q|^2+|s_1|^2 \|x\|^2+ |s_2|^2 \|x\|^2,
\end{equation*}
\notag
т.е.
\begin{equation*}
|p|^2=|q|^2-(1-|s_1|^2-|s_2|^2)\|x\|^2.
\end{equation*}
\notag
Если |s_1|^2+|s_2|^2<1, то |p|\leqslant |q| и |\Theta[g,(s_1,s_2)]|\leqslant1. На первый взгляд кажется, что |s_1|^2+|s_2|^2=1 сразу влечет |p|= |q|, но все не так просто, так как матрица в квадратных скобках в (1.7) может быть в этом случае необратимой. Легко привести примеры, когда функция \Theta[g;\cdot] не является внутренней, однако и характеристическая функция (1.4) тоже не всегда внутренняя, см. [23; § VI.1].
§ 2. Предварительные сведения2.1. Дробно-линейные отображения Мы реализуем псевдоунитарную группу \operatorname{U}(n,n) как группу комплексных матриц g=\begin{pmatrix} A&B\\ C&D \end{pmatrix} размера n+n, удовлетворяющих условию
\begin{equation*}
g \begin{pmatrix} -1_n&0\\ 0&1_n \end{pmatrix}g^* =\begin{pmatrix} -1_n&0\\ 0&1_n \end{pmatrix}.
\end{equation*}
\notag
Для каждого g\in\operatorname{U}(n,n) мы рассмотрим следующее дробно-линейное преобразование пространства \operatorname{Mat}(n):
\begin{equation}
\gamma[g;z]=(A+zC)^{-1}(B+zD).
\end{equation}
\tag{2.1}
Такие преобразования переводят матричный шар \mathrm B_n в себя (см., например, [21; § 6], [15; § 2.3]). Это действие группы \operatorname{U}(n,n) транзитивно, стабилизатор точки z=0 состоит из матриц \begin{pmatrix} a&0\\ 0&d\end{pmatrix}, где a\in\operatorname{U}(n), d\in \operatorname{U}(n). Поэтому \mathrm B_n является однородным пространством,
\begin{equation*}
\mathrm B_n=\operatorname{U}(n,n)/(\operatorname{U}(n)\times\operatorname{U}(n)).
\end{equation*}
\notag
2.2. Реализация \mathrm B_n как области в грассманиане Рассмотрим псевдоевклидово пространство
\begin{equation*}
V^{2n}=V_-^n\oplus V_+^n:=\mathbb C^n\oplus \mathbb C^n,
\end{equation*}
\notag
снабженное эрмитовой формой \mathscr M=\mathscr M_n, которая определена матрицей \begin{pmatrix} -1_n&0\\ 0&1_n \end{pmatrix}. Наша группа \operatorname{U}(n,n) сохраняет эту форму. Обозначим через \operatorname{Gr}(n) грассманиан всех n-мерных подпространств в V^{2n}. Мы говорим, что подпространство L\in\operatorname{Gr}(n) отрицательно (соответственно, неположительно), если форма \mathscr M отрицательно (соответственно, неположительно) определена на L. Подпространство L\in\operatorname{Gr}(n) изотропно, если форма \mathscr M равна нулю на L. Мы обозначим соответствующие подмножества в грассманиане через
\begin{equation*}
\operatorname{Gr}^{<0}(n), \qquad \operatorname{Gr}^{\leqslant 0}(n), \qquad \operatorname{Gr}^{0}(n)
\end{equation*}
\notag
соответственно. Для любого линейного отображения z\colon V_-^n\to V_+^n мы рассмотрим n-мерное пространство L[z], состоящее из векторов вида (v_-,v_-z). Если z\in \mathrm B_n, то форма \mathscr M отрицательна на L(z). Обратно, любое отрицательное n-мерное пространство в V имеет форму L(z) для некоторого элемента z\in \mathrm B_n. Формула (2.1) соответствует естественному действию \operatorname{U}(n,n) на множестве отрицательных подпространств. Также
\begin{equation*}
\overline{\mathrm B}_n\simeq \operatorname{Gr}^{\leqslant 0}(n), \qquad \operatorname{U}(n)\simeq \operatorname{Gr}^0(n).
\end{equation*}
\notag
2.3. Структура границы матричного шара \overline{\mathrm B}_n Граница \mathrm B_n состоит из n орбит \mathscr{O}_j, где j=1, 2, \dots,n-1, группы \operatorname{U}(n,n). В качестве представителей орбит можно выбрать матрицы вида \begin{pmatrix}1_j&0\\0& 0_{n-j}\end{pmatrix}. Граница Шилова \operatorname{U}(n) соответствует j=n. На языке грассманиана \operatorname{Gr}(n) орбита \mathscr{O}_j соответствует неположительным подпространствам L таким, что ранг формы \mathscr M на L равен (n-j). Любая компонента границы \partial \mathrm B_n может быть приведена дробно-линейным преобразованием к виду
\begin{equation*}
\begin{pmatrix}u&0\\ 0& 1_j\end{pmatrix}, \quad\text{где $u$ пробегает $\mathrm B_{n-j}$}.
\end{equation*}
\notag
На языке грассманиана граничные компоненты C нумеруются числом j=1,\dots,n, изотропным подпространством W\subset \mathbb C^n\oplus \mathbb C^n размерности j. Сама компонента состоит из всех n-мерных неположительных подпространств L\,{\supset}\, W, причем ядро формы \mathscr M на L совпадает с W. 2.4. Линейные отношения Пусть V, W – линейные пространства. Линейное отношение Y\colon V\rightrightarrows W – это линейное подпространство в V\oplus W. Пусть Y\colon V\rightrightarrows W и Z\colon W\rightrightarrows U – линейные отношения. Их произведение ZY\colon V\rightrightarrows U – это множество всех v\oplus u\in V\oplus U, для которых существует w\in W, удовлетворяющее v\oplus w\in Y, w\oplus u\in Q. Пусть H\subset V – линейное подпространство. Подпространство YH\subset W состоит из w\in W, для которых существует v\,{\in}\, H, удовлетворяющий v\oplus w\in Y. Мы можем рассматривать H как линейное отношение 0\rightrightarrows V, следовательно, мы можем понимать YH как произведение линейных отношений. Для линейного отношения Y\colon V\rightrightarrows W мы определяем: – ядро \ker Y\subset V как пересечение Y\cap V; – область определения \operatorname{dom} Y\subset V как проекцию Y на V параллельно W; – образ \operatorname{im} Y\subset W как проекцию Y на W; – неопределенность \operatorname{indef} Y как Y\cap W. Произведение линейных отношений Y\colon V\rightrightarrows W, Z\colon W\rightrightarrows Y является непрерывной операцией (Y,Z)\to ZY вне множеств
\begin{equation*}
\ker Z\cap \operatorname{indef} Y\ne 0, \qquad \operatorname{im} Y+\operatorname{dom} Z\ne W.
\end{equation*}
\notag
2.5. Изотропная категория Объектами изотропной категории, см. [15; § 2.10], являются пространства
\begin{equation*}
V^{2n}=V_+^n\oplus V_-^n\simeq \mathbb C^n\oplus\mathbb C^n,
\end{equation*}
\notag
где n\,{=}\,0, 1, 2, \dots . Морфизмы V^{2n}\to V^{2m} – это линейные отношения Y\colon V^{2n}\rightrightarrows V^{2m}, удовлетворяющие условиям: 1) если v\oplus v'\in Y, то \mathscr M_n(v,v)=\mathscr M_m(v',v'); 2) размерность \dim P является максимально возможной, т.е. \dim Y=m+n. Произведение морфизмов – это произведение линейных отношений. Группа автоморфизмов объекта V^{2n} – это \operatorname{U}(n,n). Подчеркнем, что произведение имеет точки разрыва. Снабдим V^{2n}\oplus V^{2m} разностью эрмитовых форм на этих пространствах:
\begin{equation*}
\mathscr M_{m,n}(v\oplus w, v'\oplus w'):=\mathscr M_n(v,v')-\mathscr M_m(w,w').
\end{equation*}
\notag
Тогда подпространство V_-^n\oplus V_+^m\subset V^{2n}\oplus V^{2m} является отрицательным относительно формы \mathscr M_{m,n}, а подпространство V_+^n\oplus V_-^m\subset V^{2n}\oplus V^{2m} положительно. Мы применяем тот же довод и получаем следующее утверждение. Линейное отношение P\colon V^{2n}\rightrightarrows V^{2m} изотропно, если и только если P является графиком унитарного оператора V_-^n\oplus V_+^m\to V_+^n\oplus V_-^m. Таким образом, множество морфизмов из V^{2n} в V^{2m} находится во взаимно однозначном соответствии с унитарной группой \operatorname{U}(n+m), а произведение морфизмов Y\colon V^{2n}\rightrightarrows V^{2m}, Z\colon V^{2m}\rightrightarrows V^{2k} индуцирует операцию
\begin{equation*}
\operatorname{U}(n+m)\times \operatorname{U}(m+k)\to \operatorname{U}(n+k).
\end{equation*}
\notag
О следующем утверждении см., например, [15; теорема 2.8.4]. Предложение 2.1. Пусть Y\colon V^{2k}\rightrightarrows V^{2m} соответствует унитарной матрице \upsilon=\begin{pmatrix} p&q\\ r&t \end{pmatrix}\in \operatorname{U}(k+m), а Z\colon V^{2m}\rightrightarrows V^{2n} соответствует унитарной матрице \zeta=\begin{pmatrix}a&b\\ c&d\end{pmatrix}\in \operatorname{U}(n+m). Пусть
\begin{equation*}
\det(1-pd)^{-1}\ne 0.
\end{equation*}
\notag
Тогда Z Y соответствует матрице
\begin{equation}
\zeta\circledast\upsilon =:\begin{pmatrix} a+b(1-pd)^{-1}pc& b(1-pd)^{-1} q \\ r(1-dp)^{-1}c&t+rd(1-pd)^{-1}q \end{pmatrix}.
\end{equation}
\tag{2.2}
2.6. Отображения Крейна–Шмульяна Пусть L\in\operatorname{Gr}^{\leqslant 0}(m). Применяя морфизм Z\colon V^{2m}\rightrightarrows V^{2n} изотропной категории к L, мы получаем элемент грассманиана \operatorname{Gr}^{\leqslant 0}(n), поэтому мы получаем отображение \overline{\mathrm B}_m\to \overline{\mathrm B}_m (см. [15; теорема 2.9.1]). Пусть \zeta=\begin{pmatrix} a&b\\ c&d \end{pmatrix} – унитарная матрица, соответствующая Z. Тогда соответствующее отображение \sigma[\zeta] задается формулой
\begin{equation}
\sigma[\zeta;u]\colon u\mapsto a+bu(1_m-ud)^{-1}c, \quad\text{где }\ u\in \overline{\mathrm B}_m.
\end{equation}
\tag{2.3}
Это выполняется, если u удовлетворяет условию \det(1-ud)\ne 0. Заметим, что 1) для любого \zeta\in\operatorname{U}(n+m) наше отображение непрерывно как отображение \mathrm B_m\to\overline{\mathrm B}_n; 2) если \|d\|<1, то наша формула определяет непрерывное отображение \overline{\mathrm B}_m\to\overline{\mathrm B}_n; 3) если \|a\|<1, то формула определяет непрерывное отображение \mathrm B_m\to\mathrm B_n. Замечание 2.2. Отображения \sigma[\zeta;z] являются частным случаем отображений Крейна–Шмульяна, см. [10], см. также [15; § 2.9]. Замечание 2.3. Отображение (2.3) из \mathrm B_m в \mathrm B_m является внутренним и, более того, является характеристической функцией, определяемой элементом группы \operatorname{U}(n+m\cdot 1). Лемма 2.4. Пусть \zeta и \upsilon такие же, как и в предложении 2.1. Тогда для любого u\in \mathrm B_k выполнено
\begin{equation}
\sigma[\zeta;\,\sigma[\upsilon;\,u] ]=\sigma[\zeta\circledast \upsilon;\, u ].
\end{equation}
\tag{2.4}
Замечание 2.5. Ср. [15; теорема 2.9.4], но условия этой теоремы у нас не выполнены. По сути лемма 2.4 утверждает ассоциативность произведения линейных отношений 0\rightrightarrows V^{2k}\rightrightarrows V^{2m}\rightrightarrows V^{2n}. Однако формула (2.2) не имеет места на многообразии \det(1-pd)=0. Чтобы избежать ссылки на доказательства или повторения доказательств, мы приводим формальное вычисление. Доказательство леммы 2.4. Нам надо преобразовать следующее выражение к форме Крейна–Шмульяна:
\begin{equation}
a+b\, \bigl(u(1-tu)^{-1} |_{u=p+qz(1-tz)^{-1}r} \bigr)\, c.
\end{equation}
\tag{2.5}
Шаг 1. Достаточно преобразовать нужным образом выражение в больших скобках, оно является суммой I+J двух слагаемых
\begin{equation*}
\begin{aligned} \, I:&=p [1-dq-dq z(1-tz)^{-1}r]^{-1}, \\ J:&=qz(1-tz)^{-1} [1-dq-dq z(1-tz)^{-1}r]^{-1}. \end{aligned}
\end{equation*}
\notag
Прежде всего, мы должны проверить, что обратная матрица [\,{\dots}\,]^{-1} существует. Так как (1-dp)^{-1} обратима, мы можем преобразовать [\,{\dots}\,]^{-1} к виду
\begin{equation}
[\,{\dots}\,]^{-1}=(1-dq)^{-1}(1- dq z(1-tz)^{-1}\cdot r(1-dq)^{-1})^{-1}.
\end{equation}
\tag{2.6}
Далее, мы замечаем, что матрицы (1-AB) и (1-BA) обратимы или необратимы одновременно. Поэтому достаточно проверить существование матрицы
\begin{equation*}
(1- r(1-dq)^{-1}\cdot dq z(1-tz)^{-1})^{-1} =(1-tz) (1- \{t+r(1-dq)^{-1}\cdot dq\}\cdot z)^{-1}.
\end{equation*}
\notag
Так как \|t\|\leqslant 1, \|z\|<1, матрица (1-tz) обратима. Далее, выражение в фигурных скобках совпадает с правым нижним блоком матрицы (2.2). Следовательно, \|\{\,{\dots}\,\}\|\leqslant 1 и второй фактор корректно определен. Шаг 2. Преобразуя слагаемое J с помощью (2.6), получаем
\begin{equation*}
J=q z(1-tz)^{-1}\cdot r(1-dq)^{-1}(1- dq z(1-tz)^{-1}\cdot r(1-dq)^{-1})^{-1}.
\end{equation*}
\notag
Применяя матричное тождество
\begin{equation*}
A(1-BA)^{-1}=(1-AB)^{-1}A,
\end{equation*}
\notag
мы приходим к
\begin{equation*}
\begin{aligned} \, J&=q z(1-tz)^{-1}\cdot (1- r(1-dq)^{-1}\cdot dq z(1-tz)^{-1})^{-1}r(1-dq)^{-1} \\ &=qz (1- \{t+r(1-dq)^{-1}\cdot dq\}\cdot z)^{-1}r(1-dq)^{-1}. \end{aligned}
\end{equation*}
\notag
Далее, преобразуя слагаемое I с помощью (2.6) и применяя тождество
\begin{equation}
(1-C)^{-1}=1+C(1-C)^{-1}
\end{equation}
\tag{2.7}
ко второму множителю в (2.6), мы получаем
\begin{equation*}
\begin{aligned} \, I&=p(1-dp)^{-1} \\ &\qquad + p(1-dp)^{-1} d\cdot q z(1-tz)^{-1} r(1-dq)^{-1} (1- dq z(1-tz)^{-1} r(1-dq)^{-1})^{-1} \\ &=p(1-dp)^{-1}+ p(1-dp)^{-1} d\cdot J. \end{aligned}
\end{equation*}
\notag
Итак,
\begin{equation*}
\begin{aligned} \, &I+J =p(1-dp)^{-1}+\{p(1-pd)^{-1}d+1\}\cdot J \\ &\ =(1-pd)^{-1}p+\{(1-pd)^{-1}\}\cdot qz (1- \{t+r(1-dq)^{-1}\cdot dq\}\cdot z)^{-1}r(1-dq)^{-1} \end{aligned}
\end{equation*}
\notag
(мы применили (2.7) к выражению в фигурных скобках). Мы подставляем результат в (2.5) вместо выражения в больших скобках. Лемма доказана. 2.7. Отображения Крейна–Шмульяна и характеристические функции Формулу (1.3) можно записать как
\begin{equation}
\Theta\biggl[\begin{pmatrix} a&b\\ c&d \end{pmatrix};S \biggr]= \sigma\biggl[\begin{pmatrix} a&b\\ c&d \end{pmatrix};1_j\otimes S\biggr].
\end{equation}
\tag{2.8}
2.8. Полиномиальные представления групп \operatorname{GL}(n,\mathbb C) Неприводимые голоморфные представления \rho_\mathbf m(g) группы \operatorname{GL}(n,\mathbb C) нумеруются “сигнатурами”
\begin{equation*}
\mathbf m:=(m_1, \dots, m_n), \quad \text{где }\ m_j\in \mathbb Z, \quad m_1\geqslant m_2\geqslant\dots\geqslant m_n,
\end{equation*}
\notag
см., например, [24; § 49–50]. Напомним полуявную конструкцию представлений \rho_\mathbf m. Рассмотрим пространство \mathbb C^n со стандартным базисом e_1, \dots, e_n. Представление \lambda_k(g) с сигнатурой (\underbrace{1,\dots,1}_{k \text{ раз}}, 0,\dots,0) является k-й внешней степени \bigwedge^k \mathbb C^n, его вектор старшего веса равен v_k=e_1\wedge \dots \wedge e_k. Матричный элемент \langle \rho(g) v_k,v_k\rangle равен k-му главному минору \Delta_k(g) матрицы g. Представление \lambda_n это просто \det(g) (в частности, мы можем рассматривать его отрицательные тензорные степени). Представление \rho_\mathbf m является подпредставлением в
\begin{equation}
\bigotimes_{k=1}^{n-1} \lambda_k^{\otimes (m_k-m_{k+1})}(g)\otimes\lambda_k(g)^{m_n}.
\end{equation}
\tag{2.9}
Точнее, \rho_\mathbf m является циклической оболочкой вектора старшего веса
\begin{equation*}
\xi_\mathbf m:=\bigotimes_{k=1}^{n-1} (e_1\wedge \dots \wedge e_k)^{\otimes( m_k-m_{k+1})}\otimes (e_1\wedge\dots\wedge e_n)^{\otimes m_n}.
\end{equation*}
\notag
Матричный элемент
\begin{equation*}
\langle \rho_\mathbf m(g)\xi_\mathbf m,\,\xi_\mathbf m\rangle=\prod_{k=1}^{n-1} \Delta_k^{m_k-m_{k+1}}\cdot \det(g)^{m_n}
\end{equation*}
\notag
является многочленом тогда и только тогда, когда m_n\geqslant 0. С другой стороны, при m_n\geqslant 0 представление \rho_\mathbf m полиномиально по построению.
§ 3. Доказательства3.1. Прямые суммы Доказательство теоремы 1.6, a). Рассмотрим элемент g\in \operatorname{U}(\alpha+mi), записанный как
\begin{equation}
g=\left(\begin{array}{c|ccc} a&b_1&b_2&\dots \\ \hline c_1&d_{11}&d_{12}&\dots \\ c_2&d_{21}&d_{22}&\dots \\ \vdots&\vdots&\vdots&\ddots \end{array}\right),
\end{equation}
\tag{3.1}
и элемент \widetilde g\in \operatorname{U}(\beta+mj), записанный как
\begin{equation}
\widetilde g=\left(\begin{array}{c|ccc} \widetilde a&\widetilde b_1&\widetilde b_2&\dots \\ \hline \widetilde c_1&\widetilde d_{11}&\widetilde d_{12}\vphantom{\widetilde {A^{A^A}}}&\dots \\ \widetilde c_2&\widetilde d_{21}&\widetilde d_{22}&\dots \\ \vdots&\vdots&\vdots&\ddots \end{array} \right).
\end{equation}
\tag{3.2}
Рассмотрим блочную матрицу порядка
\begin{equation*}
\alpha+\beta+i+j+\dots+i+j=(\alpha+\beta)+\underbrace{(i+j)+\dots+(i+j)}_{\text{$m$ раз}},
\end{equation*}
\notag
заданную как
\begin{equation*}
g(\oplus)\widetilde g:= \left( \begin{array}{cc|ccccc} a&0&b_1&0&b_2&0&\dots \\ 0&\widetilde a&0&\widetilde b_1&0&\widetilde b_2&\dots \\ \hline c_1&0&d_{11}&0&d_{12}&0&\dots \\ 0&\widetilde c_1&0&\widetilde d_{11}&0&\widetilde d_{12}&\dots \\ c_2&0&d_{21}&0&d_{22}&0&\dots \\ 0&\widetilde c_2&0&\widetilde d_{21}&0&\widetilde d_{22}&\dots \\ \vdots&\vdots&\vdots&\vdots&\vdots&\vdots&\ddots \end{array}\right).
\end{equation*}
\notag
В силу формулы (2.8)
\begin{equation*}
\Theta[g(\oplus)\widetilde g;S]=\Theta[g;S]\oplus\Theta[\widetilde g;S]
\end{equation*}
\notag
(мы применили отображение Крейна–Шмульяна, определенное матрицей g(\oplus)\widetilde g к матрице S\otimes 1_{i+j}). 3.2. Поточечные произведения Теорема 1.7 была получена в [16]. Для полноты мы приведем соответствующую операцию на матричных узлах. Пусть g\in \operatorname{U}(\alpha+mi) имеет вид (3.1), а \widetilde g\in \operatorname{U}(\alpha+mj) вид (3.2). Мы определим матрицу g\odot\widetilde g формулой
\begin{equation}
g\odot\widetilde g\,{:=}\, \left(\begin{array}{c|ccccc} a&b_1&0&b_2&0&\dots \\ \hline c_1&d_{11}&0&d_{12}&0&\dots \\ 0&0&1_j&0&0&\dots \\ c_2&d_{21}&0&d_{22}&0&\dots \\ 0&0&0&0&1_j&\dots \\ \vdots&\vdots&\vdots&\vdots&\vdots&\ddots \end{array}\right) \left(\begin{array}{c|ccccc} \widetilde a&0&\widetilde b_1&0&\widetilde b_2&\dots \\ \hline 0&1_i&0&0&0&\dots \\ \widetilde c_1&0&\widetilde d_{11}&0&\widetilde d_{12}&\dots \\ 0&0&0&1_i&0&\dots \\ \widetilde c_2&0&\widetilde d_{21}&0&\widetilde d_{22}&\dots \\ \vdots&\vdots&\vdots&\vdots&\vdots&\ddots \end{array} \right).
\end{equation}
\tag{3.3}
Тогда
\begin{equation*}
\Theta[g\odot \widetilde g;S]=\Theta[g;S]\,\Theta[\widetilde g;S].
\end{equation*}
\notag
3.3. Поточечные тензорные произведения Доказательство теоремы 1.8. Это следствие предыдущего высказывания. Так как
\begin{equation*}
A\otimes B=(1\otimes B)\cdot(A\otimes 1),
\end{equation*}
\notag
достаточно проверить утверждение для F_1\otimes 1 и 1\otimes F_2. Функция F_1\otimes 1 является прямой суммой нескольких копий функции F_1. По теореме 1.6 она является характеристической функцией. Точнее, если F_1 порождена матрицей \begin{pmatrix}p&q\\ r&t\end{pmatrix}, то
\begin{equation}
\begin{aligned} \, \notag &\Theta\left[\begin{pmatrix}p&q_1&\dots&q_m\\ r_1&t_{11}&\dots&t_{1m}\\ \vdots&\vdots&\ddots&\vdots\\ r_m&t_{m1}&\dots&t_{mm} \end{pmatrix};S \right]\otimes 1_\beta \\ &\qquad =\Theta\left[\begin{pmatrix} p\otimes 1_\beta&q_1\otimes 1_\beta&\dots&q_m\otimes 1_\beta\\ r_1\otimes 1_\beta&t_{11}\otimes 1_\beta&\dots&t_{1m}\otimes 1_\beta\\ \vdots&\vdots&\ddots&\vdots\\ r_m\otimes 1_\beta&t_{m1}\otimes 1_\beta&\dots&t_{mm}\otimes 1_\beta \end{pmatrix};S \right]. \end{aligned}
\end{equation}
\tag{3.4}
Тождество
\begin{equation}
1_\alpha\otimes\Theta\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix};S \right] = \Theta\left[\begin{pmatrix}1_\alpha\otimes a&1_\alpha\otimes b \\ 1_\alpha\otimes c&1_\alpha\otimes d\end{pmatrix};S \right]
\end{equation}
\tag{3.5}
немедленно вытекает из (2.8). Следовательно,
\begin{equation*}
\Theta\left[\begin{pmatrix} p&q\\ r&t \end{pmatrix};S \right]\otimes \Theta\left[\begin{pmatrix} a&b\\ c&d \end{pmatrix};S \right]
\end{equation*}
\notag
является характеристической функцией матричного узла
\begin{equation}
\left( \begin{array}{c|ccccc} p\otimes a&q_1\otimes 1_\beta&p\otimes b_1& q_2\otimes 1_\beta&p\otimes b_2&\dots\\ \hline r_1\otimes a& t_{11}\otimes 1_\beta& r_1\otimes b_1& t_{12}\otimes 1_\beta& r_1\otimes b_2&\dots\\ 1_\alpha\otimes c_1&0&1_\alpha\otimes d_{11}& 0&1_\alpha\otimes d_{12}&\dots\\ r_2\otimes a& t_{21}\otimes 1_\beta& r_2\otimes b_1& t_{22}\otimes 1_\beta& r_2\otimes b_2&\dots\\ 1_\alpha\otimes c_2&0&1_\alpha\otimes d_{21}& 0&1_\alpha\otimes d_{22}&\dots\\ \vdots& \vdots&\vdots&\vdots&\vdots&\ddots \end{array} \right).
\end{equation}
\tag{3.6}
Теорема доказана. 3.4. Композиции Доказательство теоремы 1.9. В силу (2.8) и (3.5)
\begin{equation*}
\begin{aligned} \, G\circ F(S) &=\sigma\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix}; 1_j\otimes \sigma\left[\begin{pmatrix} p&q\\ r&t \end{pmatrix};1_i\otimes S \right]\right] \\ &= G\circ F(S)=\sigma\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix}; \sigma\left[\begin{pmatrix} 1_j\otimes p&1_j\otimes q\\ 1_j\otimes r&1_j\otimes t \end{pmatrix};1_i\otimes S \right]\right]. \end{aligned}
\end{equation*}
\notag
Если \det(1_{\beta j}-d(1_j\otimes p))\ne 0 (условие (1.5)), то мы можем применить формулу (2.2) и лемму 2.4. В этом случае мы получаем
\begin{equation*}
\sigma\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix} \circledast \begin{pmatrix} 1_j\otimes p&1_j\otimes q\\ 1_j\otimes r&1_j\otimes t \end{pmatrix}; 1_{ij}\otimes S \right],
\end{equation*}
\notag
где \circledast-произведение матриц определено формулой (2.2). Так как оба множителя являются унитарными матрицами, мы получаем внутреннее отображение \mathrm B_\alpha\,{\to}\, \mathrm B_\gamma. Следствие 3.1. Пусть F\in \operatorname{Char}[m,\alpha]. a) Для h\in \operatorname{U}(\alpha, \alpha) выполнено \gamma[h]\circ F\in \operatorname{Char}[m,\alpha]. b) Для h'\in \operatorname{U}(m,m) выполнено F\circ \gamma[h']\in \operatorname{Char}[m,\alpha]. Действительно, в этих случаях наше условие выполнено. Закончим доказательство теоремы 1.9. Пусть выполнено условие (1.6), т.е. \det(1_{\beta j}-d(1_j\otimes F(S_0)) )\ne 0. Возьмем элемент h\in \operatorname{U}(\alpha,\alpha), переводящий 0 в S_0, тогда F(\gamma[h;0])=F(S_0), и мы применяем следствие 3.1 к G\circ(F\circ \gamma[h]) и ссылаемся на уже доказанную часть теоремы 1.9. Таким образом, G\circ (F\circ \gamma[h])\in\operatorname{Char}(\alpha,\gamma). Далее, мы применяем следствие 3.1 к (G\circ F\circ \gamma[h])\circ \gamma[h^{-1}] и получаем желаемое утверждение. Теорема 1.9 доказана. 3.5. Отщепление слагаемых Доказательство теоремы 1.6, b). Пусть характеристическая функция F\in\operatorname{Char}[m,\alpha+\beta] имеет блочную форму
\begin{equation*}
F(z):=\begin{pmatrix} F_1(z)&0\\ 0&F_2(z) \end{pmatrix}.
\end{equation*}
\notag
Покажем, что F_1\in \operatorname{Char}[m,\alpha]. Сначала предположим, что F_2\in \operatorname{Inn}_\circ[m,\beta]. Рассмотрим отображение Крейна–Шмульяна G\colon \mathrm B_{\alpha+\beta}\to \mathrm B_\alpha, определенное матрицей
\begin{equation}
\left(\begin{array}{c|cc} 0&1_\alpha&0\\ \hline 1_\alpha &0&0\\ 0&0&1_\beta \end{array}\right),
\end{equation}
\tag{3.7}
и возьмем композицию G\circ F,
\begin{equation*}
\begin{aligned} \, G\circ F(z) &=\begin{pmatrix}1_\alpha&0 \end{pmatrix} \begin{pmatrix}F_1(z)&0\\ 0&F_2(z)\end{pmatrix} \\ &\qquad\times \left\{\begin{pmatrix}1_\alpha&0\\ 0&1_\beta\end{pmatrix} - \begin{pmatrix}0&0\\ 0&1_\beta \end{pmatrix} \begin{pmatrix}F_1(z)&0\\ 0&F_2(z)\end{pmatrix}\right\}^{-1} \begin{pmatrix}1_\alpha\\ 0 \end{pmatrix}. \end{aligned}
\end{equation*}
\notag
Матрица в фигурных скобках равна
\begin{equation*}
\begin{pmatrix}1_\alpha&0\\ 0&1_\beta-F_2(z) \end{pmatrix},
\end{equation*}
\notag
она обратима, и по теореме 1.9 отображение G\circ F содержится в \operatorname{Char}[m,\alpha]. Но
\begin{equation*}
G\circ F=F_1(z),
\end{equation*}
\notag
это влечет наше утверждение. Далее, пусть F_2\notin \operatorname{Inn}_\circ(m,\alpha). Тогда F_2(\mathrm B_m) содержится в некоторой компоненте C границы \mathrm B_\beta. В силу следствия 3.1 мы можем предположить, что C находится в каноническом положении, т.е. C состоит из матриц вида
\begin{equation*}
\begin{pmatrix} u&0\\ 0&1_{k} \end{pmatrix}, \quad\text{где }\ u\in \mathrm B_{\beta-k},
\end{equation*}
\notag
и, следовательно, F_2(z) имеет форму
\begin{equation}
F_2(z)=\begin{pmatrix} R(z)&0\\ 0&1_{k} \end{pmatrix}, \quad\text{где }\ \|R(z)\|<1 \quad\text{для }\ z\in \mathrm B_m.
\end{equation}
\tag{3.8}
Теперь выбираем \lambda\in\mathbb C такое, что |\lambda|=1 и \lambda\ne1. Вместо (3.7) мы берем матрицу
\begin{equation*}
\left(\begin{array}{c|cc} 0&1_\alpha&0\\ \hline 1_\alpha &0&0\\ 0&0&\lambda\cdot 1_\beta \end{array} \right)
\end{equation*}
\notag
и соответствующее отображение Крейна–Шмульяна G. В силу (3.8) матрица
\begin{equation*}
\left\{\begin{pmatrix}1_\alpha&0\\ 0&1_\beta\end{pmatrix} - \begin{pmatrix}0&0\\ 0&\lambda 1_\beta \end{pmatrix} \begin{pmatrix}F_1(z)&0\\ 0&F_2(z)\end{pmatrix}\right\} = \begin{pmatrix}1_\alpha&0\\0&1_\beta- \lambda F_2(z)\end{pmatrix}
\end{equation*}
\notag
обратима, и по теореме 1.9 мы имеем G\circ F=F_1(z)\in \operatorname{Char}(m,\alpha). Теорема доказана. 3.6. Композиции с полиномиальными представлениями Доказательство теоремы 1.11. В силу теоремы 1.6, a) достаточно рассмотреть неприводимые представления. Согласно конструкции п. 2.8 любое неприводимое представление \rho_\mathbf m=\rho_{m_1,\dots,m_n} содержится в тензорах
\begin{equation*}
\bigotimes_{k=1}^n \biggl(\bigwedge^k \mathbb C^n \biggr)^{\otimes(m_k-m_{k-1})}\,\otimes\, \biggl(\bigwedge^n\mathbb C^n \biggr)^{m_n}\subset (\mathbb C^n)^{\otimes( \sum_{k=1}^n m_k)}.
\end{equation*}
\notag
По теореме 1.8 для любой характеристической функции F(z) функция F(z)^{\otimes L} является характеристической функцией. По теореме 1.6, b) мы можем отщепить прямое слагаемое. Теорема доказана. 3.7. Граничные компоненты Доказательство теоремы 1.14. a) Без потери общности мы можем предположить, что C имеет каноническую форму \begin{pmatrix}u&0\\ 0&1_k \end{pmatrix}. Следовательно, наша функция F расщепляется в прямую сумму. По теореме 1.6, b) мы можем отщепить слагаемое. b) Снова мы можем предположить, что C\subset \mathrm B_m состоит из матриц вида \begin{pmatrix}u&0\\ 0&1_l \end{pmatrix} . Как и в п. 3.4, мы можем предположить, что S_0:=\begin{pmatrix}0&0\\ 0&1_l \end{pmatrix}. Единичное вложение u\mapsto \begin{pmatrix} u&0\\ 0&1_l\end{pmatrix} является отображением Крейна–Шмульяна, определенным матрицей
\begin{equation*}
\left(\begin{array}{cc|c} 0&0& 1_{m-l}\\ 0&1_l&0\\ \hline 1_{m-l}&0&0 \end{array}\right).
\end{equation*}
\notag
Теперь мы можем применить теорему 1.9. Теорема 1.14 доказана.
|
|
|
Список литературы
|
|
|
1. |
А. Б. Александров, “Существование внутренних функций в шаре”, Матем. сб., 118(160):2(6) (1982), 147–163 ; англ. пер.: A. B. Aleksandrov, “The existence of inner functions in the ball”, Sb. Math., 46:2 (1983), 143–159 |
2. |
А. Б. Александров, “Внутренние функции на компактных пространствах”, Функц. анализ и его прил., 18:2 (1984), 1–13 ; англ. пер.: A. B. Aleksandrov, “Inner functions on compact spaces”, Funct. Anal. Appl., 18:2 (1984), 87–98 |
3. |
D. Alpay, An advanced complex analysis problem book. Topological vector spaces, functional analysis, and Hilbert spaces of analytic functions, Birkhäuser/Springer, Cham, 2015, ix+520 pp. |
4. |
J. A. Ball, V. Bolotnikov, “Canonical transfer-function realization for Schur–Agler-class functions of the polydisk”, A panorama of modern operator theory and related topics, Birkhäuser/Springer Basel AG, Basel, 2012, 75–122 |
5. |
H. Bart, “Transfer functions and operator theory”, Linear Algebra Appl., 84 (1986), 33–61 |
6. |
М. С. Бродский, “Унитарные операторные узлы и их характеристические функции”, УМН, 33:4(202) (1978), 141–168 ; англ. пер.: M. S. Brodskii, “Unitary operator colligations and their characteristic functions”, Russian Math. Surveys, 33:4 (1978), 159–191 |
7. |
В. М. Бродский, “Об операторных узлах и их характеристических функциях”, Докл. АН СССР, 198:1 (1971), 16–19 ; англ. пер.: V. M. Brodskiĭ, “On operator nodes and their characteristic functions”, Soviet Math. Dokl., 12 (1971), 696–700 |
8. |
Дж. Гарнетт, Ограниченные аналитические функции, Мир, М., 1984, 470 с. ; пер. с англ.: J. B. Garnett, Bounded analytic functions, Pure Appl. Math., 96, Academic Press, Inc. [Harcourt Brace Jovanovich, Publishers], New York–London, 1981, xvi+467 с. |
9. |
G. Knese, “Rational inner functions in the Schur–Agler class of the polydisk”, Publ. Mat., 55:2 (2011), 343–357 |
10. |
М. Г. Крейн, Ю. Л. Шмульян, “О дробно-линейных преобразованиях с операторными коэффициентами”, Матем. исследования (Кишинёв), 2:3 (1967), 64–96 ; англ. пер.: M. G. Kreĭn, Ju. L. Šmul'jan, “On linear-fractional transformations with operator coefficients”, Amer. Math. Soc. Transl. Ser. 2, 103, Amer. Math. Soc., Providence, RI, 1974, 125–152 |
11. |
М. С. Лившиц, “Об одном классе линейных операторов в гильбертовом пространстве”, Матем. сб., 19(61):2 (1946), 239–262 ; англ. пер.: M. S. Livšic, “On a class of linear operators in Hilbert space”, Amer. Math. Soc. Transl. Ser. 2, 13, Amer. Math. Soc., Providence, RI, 1960, 61–83 |
12. |
М. С. Лившиц, “О спектральном разложении линейных несамосопряженных операторов”, Матем. сб., 34(76):1 (1954), 145–199 ; англ. пер.: M. S. Livšic, “On the spectral decomposition of linear non-selfadjoint operators”, Amer. Math. Soc. Transl. Ser. 2, 5, Amer. Math. Soc., Providence, RI, 1957, 67–114 |
13. |
E. Løw, “A construction of inner functions on the unit ball in C^p”, Invent. Math., 67:2 (1982), 223–229 |
14. |
Ю. А. Неретин, Категории симметрий и бесконечномерные группы, Эдиториал УРСС, М., 1998, 431 с.; англ. пер.: Yu. A. Neretin, Categories of symmetries and infinite-dimensional groups, London Math. Soc. Monogr. (N.S.), 16, The Clarendon Press, Oxford Univ. Press, New York, 1996, xiv+417 с. |
15. |
Yu. A. Neretin, Lectures on Gaussian integral operators and classical groups, EMS Ser. Lect. Math., Eur. Math. Soc. (EMS), Zürich, 2011, xii+559 pp. |
16. |
Yu. A. Neretin, “Multi-operator colligations and multivariate characteristic functions”, Anal. Math. Phys., 1:2-3 (2011), 121–138 |
17. |
Ю. А. Неретин, “Сферичность и умножение двойных классов смежности для бесконечномерных классических групп”, Функц. анализ и его прил., 45:3 (2011), 79–96 ; англ. пер.: Yu. A. Neretin, “Sphericity and multiplication of double cosets for infinite-dimensional classical groups”, Funct. Anal. Appl., 45:3 (2011), 225–239 |
18. |
Ю. А. Неретин, “Умножение классов сопряженности, операторные узлы и характеристические функции матричного аргумента”, Функц. анализ и его прил., 51:2 (2017), 25–41 ; англ. пер.: Yu. A. Neretin, “Multiplication of conjugacy classes, colligations, and characteristic functions of matrix argument”, Funct. Anal. Appl., 51:2 (2017), 98–111 |
19. |
Н. И. Нессонов, “Фактор-представления группы GL(\infty) и допустимые представления GL(\infty)^X”, Матем. физ., анал., геом., 10:2 (2003), 167–187 |
20. |
G. I. Ol'shanskiĭ, “Unitary representations of infinite-dimensional pairs (G,K) and the formalism of R. Howe”, Representation of Lie groups and related topics, Adv. Stud. Contemp. Math., 7, Gordon and Breach, New York, 1990, 269–463 |
21. |
И. И. Пятецкий-Шапиро, Геометрия классических областей и теория автоморфных фуикций, Физматлит, М., 1961, 191 с. ; англ. пер.: I. I. Piatetskii-Shapiro, Automorphic functions and the geometry of classical domains, Math. Appl., 8, Gordon and Breach Science Publishers, New York–London–Paris, 1969, viii+264 с. |
22. |
В. П. Потапов, “Мультипликативная структура J-нерастягивающих матриц-функций”, Тр. ММО, 4, ГИТТЛ, М., 1955, 125–236 ; англ. пер.: V. P. Potapov, “The multiplicative structure of J-contractive matrix functions”, Amer. Math. Soc. Transl. Ser. 2, 15, Amer. Math. Soc., Providence, RI, 1960, 131–243 |
23. |
Б. Секефальви-Надь, Ч. Фояш, Гармонический анализ операторов в гильбертовом пространстве, Мир, М., 1970, 431 с. ; пер. с фр.: B. Sz.-Nagy, C. Foiaş, Analyse harmonique des opérateurs de l'espace de Hilbert, Akadémiaí Kiadó, Budapest; Masson et Cie, Paris, 1967, xi+373 pp. |
24. |
Д. П. Желобенко, Компактные группы Ли и их представления, Наука, М., 1970, 664 с. ; англ. пер.: D. P. Želobenko, Compact Lie groups and their representations, Transl. Math. Monogr., 40, Amer. Math. Soc., Providence, RI, 1973, viii+448 с. |
Образец цитирования:
Ю. А. Неретин, “Внутренние функции матричного аргумента и классы сопряженности в унитарных группах”, Матем. сб., 213:8 (2022), 26–43; Yu. A. Neretin, “Inner functions of matrix argument and conjugacy classes in unitary groups”, Sb. Math., 213:8 (2022), 1041–1057
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/sm9673https://doi.org/10.4213/sm9673 https://www.mathnet.ru/rus/sm/v213/i8/p26
|
Статистика просмотров: |
Страница аннотации: | 386 | PDF русской версии: | 38 | PDF английской версии: | 66 | HTML русской версии: | 197 | HTML английской версии: | 103 | Список литературы: | 85 | Первая страница: | 6 |
|