Внутренние функции на комплексных полугруппах Ли над группой SU(p,q)
    Д.А. Ланин, Омский государственный университет, кафедра математического анализа
    Пусть - вещественная алгебра Ли, G - группа Ли с алгеброй . Выпуклый замкнутый острый телесный конус в алгебре , инвариантный относительно действия группы , будем называть инвариантным конусом. Среди всех таких конусов есть минимальный. Если - инвариантный конус, то множество оказывается замкнутой комплексной полугруппой (см. [1,2]) и называется полугруппой Ольшанского. Будем рассматривать группу G, алгебру и полугруппу Ольшанского в матричной реализации. Под внутренней функцией на полугруппе Ольшанского будем понимать голоморфную ограниченную рациональную (от матричных элементов) функцию без особенностей на границе, равную по модулю единице на группе G. Степень рациональной внутренней функции определим как максимум степеней числителя и знаменателя. Наша задача состоит в нахождении свойств внутренних функций на полугруппах Ольшанского над группой SU(p,q). Сходные вопросы рассматриваются в работах [3,4]. В [3] дано полное описание рациональных внутренних функций на поликруге. Этот результат распространен на произвольные ограниченные симметрические области в [4].
    Через обозначим инволюцию, выделяющую группу в группе .
    В настоящей работе получены следующие результаты:
    Теорема 1. Каждая рациональная внутренняя функция на полугруппе л имеет вид где f(X) - многочлен от элементов матрицы X, а |C|=1.
    Теорема 2. В случае минимального конуса степень рациональной внутренней функции на полугруппе Ольшанского над группой SU(p,q) не меньше, чем , причем эта оценка точная.
    1. Основные понятия и обозначения
    1.1. Говоря о блочной матрице , будем подразумевать, что A имеет размеры , а D - . Пусть , где . Тогда
    
    Положим , т.е. - инволюция, выделяющая группу в группе . Если f(A) - многочлен от матричных элементов , то также будет многочленом от .
    1.2. Поскольку - инвариантный, можно представить в виде
    
    Поэтому, .
    1.3. Пусть известно, что значения двух многочленов F(A) и H(A) от элементов матрицы A совпадают при . Эти многочлены не обязательно равны, и мы будем называть их эквивалентными. Класс эквивалентности, в котором лежит многочлен P, будем обозначать [P].
    Определение. Будем говорить, что [P] и [Q] взаимно просты, если для любых и многочлены и не имеют общих нетривиальных () множителей.
    Определение. Степенью рациональной функции будем называть , где , причем [P1] и [Q1] - взаимно просты, а P1 и Q1 имеют минимальную степень.
    Корректность последнего определения гарантируется следующим фактом ([5]):
    Теорема 3. В кольце многочленов на односвязной полупростой алгебраической группе разложение на простые множители однозначно.
    2. Доказательство теоремы 1
    Нам понадобится теорема Боголюбова об острие клина (см. [6]). Приведем ее формулировку в удобной для нас форме.
    Теорема 4. Пусть - область в , C - конус в . Пусть в локальных трубах заданы функции , голоморфные и ограниченные в соответствующих областях, а их граничные (предельные) значения совпадают на . ............