Группы Ли — представление группы Ли в бесконечномерном векторном пространстве. Теория представлений групп Ли есть часть общей теории, представлений то-пологич. групп. Специфика групп Ли позволяет использовать в этой теории средства анализа (в частности, инфинитезимальный метод), а также значительно расширить класс "естественных" групповых алгебр (функциональных алгебр относительно свертки), рассмотрение к-рых связывает данную теорию с гармоническим анализом абстрактным, т . е. с частью общей теории топологических алгебр. Пусть G — группа Ли. Представлением группы Gв широком смысле наз. произвольный гомоморфизм , где — группа всех обратимых линейных преобразований векторного пространства E: Если Е — топологич. векторное пространство, то обычно рассматриваются гомоморфизмы со значениями в адгебре С(Е).всех непрерывных линейных преобразований пространства Е, либо в алгебре S(Е).всех слабо непрерывных линейных преобразований пространства Е. Алгебры С(Е), S (Е).наделяются одной из стандарт-нйх топологий (напр., слабой или сильной). Представление ф наз. непрерывным (раздельно Х непрерывным), если вектор-функция непрерывна (раздельно непрерывна) на . Если Е — квазиполное бочечное пространство, то всякое раздельно непрерывное представление непрерывно. Непрерывное представление ф наз. дифференцируемым (аналитически м), если операторная функция j(g) дифференцируема (аналитична) в S(E). Под размерностью представления понимают размерность пространства Е. Важнейшим примером представления группы Gявляется ее регулярное представление определяемое в том или ином классе функций f(z).на группе G. Если G — группа Ли, то ее регулярное представление непрерывно в С(G).и ( определяется относительно Хаара меры на G) и дифференцируемо в (относительно стандартной топологии в — топологии компактной сходимости). Всякое непрерывное конечномерное представление группы G аналитично. Если G — комплексная группа Ли, то естественно рассматривать также ее комплексно аналитические (голоморфные) представления. Как правило, в теории представлений групп Ли рассматриваются только непрерывные представления, и условие непрерывности специально не оговаривается. Если группа G компактна, то все ее неприводимые (непрерывные) представления конечномерны. Соответственно, если G — полупростая комплексная группа Ли, то все ее неприводимые голоморфные представления конечномерны. Связь с представлениями групповых алгебр. Для группы Ли важнейшими групповыми алгебрами являются алгебра , алгебра i — пополнение алгебры по наименьшей регулярной норме (см. Алгебра функций), — алгебра всех финитных бесконечно дифференцируемых функций на — алгебра всех комплексных мер Радона с компактными носителями на — алгебра всех финитных обобщенных функций (распределений Шварца) на , а также, для комплексной группы Ли, алгебра всех аналитич. функционалов над Линейные пространства являются сопряженными, соответственно, к где — множество всех голоморфных функций на (с топологией компактной сходимости). Все эти алгебры наделяются естественными топологиями; в частности, является банаховой алгеброй- Умножение (свертка) элементов , где — одна из указанных выше групповых алгебр, определяется равенством относительно правоинвариантной меры на , с естественным распространением этой операции на класс обобщенных функций. Интегральная формула устанавливает естественную связь между представлениями группы и представлениями алгебры (при условии корректной определенности интеграла): если интеграл слабо сходится и определяет оператор при каждом , то отображение является гомоморфизмом. В этом случае говорят, что представление группы продолжается до представления алгебры А, пли является Л-представле я н и е м. Обратно, всякое слабо непрерывное невырожденное представление алгебры Аопределяется 1 по указанной формуле, нек-рым представлением группы G(слабо непрерывным при , слабо дифференцируемым при , слабо аналитическим при .). Указанное соответствие сохраняет естественные соотношения между представлениями, такие, как топологич. неприводимость или эквивалентность. Если группа унимодулярна, то ее унитарным представлениям (в гильбертовых пространствах соответствуют симметричные представления алгебры относительно инволюции в (см. Групповая алгебра). Если Е — секвенциально полное локально выпуклое хаусдорфово пространство, то всякое непрерывное представление группы в пространстве является -представлением. Если, кроме того, представление группы дифференцируемо, то оно является -представлением. В частности, если — рефлексивное или квазиполное бочечное пространство, то всякое раздельно непрерывное представление является -представлением, причем для всех . Инфинитезимальный метод. Если представление дифференцируемо, то оно бесконечно дифференцируемо, и пространство наделяется структурой -модуля, где -алгебра Ли группы , путем рассмотрения инфинитезимальных операторов Ли: Операторы образуют представление алгебры , наз. дифференциалом представления . Вектор наз. дифференцируемым (относительно ), если вектор-функция дифференцируема на G. Вектор наз. аналитически м, если — аналитич. функция в окрестности единичной точки . Если является представлением, то пространство всех бесконечно дифференцируемых векторов всюду плотно в Е. В частности, это верно для всех непрерывных представлений в банаховом пространстве; более того, в этом случае [4] пространство всех аналитич. векторов всюду плотно в Е. Дифференциал в может быть приводимым, даже если топологически неприводимо в Е. Двум эквивалентным представлениям группы G соответствуют эквивалентные дифференциалы в ); обратное, вообще говоря, неверно. Для унитарных представлений в гильбертовых пространствах из эквивалентности дифференциалов в следует эквивалентность представлений [7]. В конечномерном случае представление группы однозначно восстанавливается по своему дифференциалу. Представление алгебры наз. интегрируемым (G-интегрируемым), если оно совпадает с дифференциалом нек-рого представления группы Gна подпространстве, всюду плотном в пространстве представления. Критерии интегрируемости известны (к 1977) лишь в частных случаях (см., напр., [4]). Если Gодносвязна, то всякое конечномерное представление алгебры является G- интегрируемым. Неприводимые представления. Одной из основных задач теории представлений является классификация всех неприводимых представлений данной группы G, определяемых с точностью до эквивалентности, при согласованном определении понятий не-приводимости'и эквивалентности. Так, представляют интерес следующие две задачи. 1) Описание множества .всех классов унитарной эквивалентности неприводимых унитарных представлений группы G. 2) Описание множества Всех классов эквивалентности по Феллу [7] вполне неприводимых представлений группы G. Для полупростых групп Ли с конечным центром эквивалентность по Феллу равносильна эквивалентности по Най-марку [7], причем имеет место естественное вложение . Множества естественно топологизируются; при этом топология в них не обязательно хаусдорфова [5]. Если G — компактная группа Ли, то — дискретное пространство. Описание множества в этом случае получено Э. Картаном (Е. Cartan) и Г. Вейяем (Н. Weyl). Линейная оболочка матричных элементов группы G (т. е. матричных элементов представлений ) образует в этом случае подалгебру в (алгебру сферич. функций), всюду плотную в С(G).и в Матричные элементы образуют базис в . Если матрицы всех представлений определяются в базисе, по отношению к к-рому они унитарны, то соответствующие матричные элементы образуют ортогональный базис в (теорема Петера- Be й-л я). Если группа G некомпактна, то ее неприводимые представления, как правило, бесконечномерны. Метод построения таких представлений, на примере классических матричных групп предложенный И. М. Гель-фандом и М. А. Наймарком [1], явился началом интенсивного развития теории унитарных бесконечномерных представлений. Обобщением этого метода для произвольных групп Ли является теория индуцированных представлений Дж. Макки[5]. В 50-х гг. 20 в. начинает развиваться также общая теория неунитарных представлений в локально выпуклых векторных пространствах, основанная в значительной степени на теории топологических векторных пространств и теории обобщенных функций. Детальное описание известно (к 1977) для отдельных классов групп Ли (полупростых комплексных, нильпотентных и некоторых разрешимых групп Ли, а также их полупрямых произведений). Пусть G — полупростая группа Ли с конечным центром, есть -представление в пространстве Еи К — компактная подгруппа в G. Вектор наз. К- финитным, если его циклич. оболочка относительно Кконечномерна. Подпространство Vвсех /f-финит-ных векторов всюду плотно в Еи является прямой (алгебраической) суммой подпространств где — максимальное подпространство в F, представление Кв к-ром кратно . Представление наз. К- финитным, если dim для всех . Подгруппа Кназ. массивной, если всякое вполне неприводимое представление группы G является K-финитным. Принципиальное значение в теории представлении имеет следующий факт: если К — максимальная компактная подгруппа в G, то K массивна. Если векторы из Vдифференцируемы, то Vинвариантно относительно дифференциала представления . Представление наз. нормальным, если оно j-финитно и векторы из Vслабо аналитич. Если нормально, то существует взаимно однозначное отображение (определяемое сужением на V). замкнутых подмодулей G-модуля и подмодулей -модуля , где — алгебра Ли группы G(см. [7]). Таким образом, изучение нормальных представлений удается алгебраизовать-при помощи инфинитезимального метода. Примером нормального представления группы Gявляется ее элементарное представление . Представление вполне неприводимо для точек общего положения. В общем случае допускает разложение в конечный композиционный ряд, факторы к-рого вполне неприводимы. Всякое квазипростое неприводимое представление группы Gв банаховом пространстве инфиннтезимально эквивалентно одному из факторов , при нек-ром . Это верно также для вполне неприводимых представлений группы G в квазиполных локально выпуклых пространствах. При этом, если Gкомплексна, то вместо факторов достаточно рассматривать подпредставления (см. [7]). В простейшем случае представление апределяется парой комплексных чисел с целочисленной разностью и действует по формуле правых сдвигов в. пространстве всех функций удовлетворяющих условию однородности: Если — положительные целые числа, то содержит неприводимое конечномерное подпредставленпе (в классе полиномов от , ), фактор по к-рому вполне неприводим. Если — отрицательные целые числа, то имеет двойственную структуру. Во всех остальных случаях модуль вполне неприводим. Множество в этом случае находится во взаимно однозначном соответствии с множеством пар () (. — целое), факторизованном по отношению ()~(). Подмножество состоит из представлений основной серии ( — чисто мнимое) ( см. где — орбита относительно (всякая орбита четно-мерна). Если — соответствующая аналитич. одгруппа в и — характер группы , то представление , соответствующее , индуцируется характером подгруппы Н. При этом эквивалентно тогда и только тогда, когда соответствующие функционалы лежат на одной орбите . В простейшем случае группы всех унипотентных матриц по отношению к фиксированному базису в орбиты общего положения в являются двумерными плоскостями и точками на плоскости . Каждой орбите общего положения соответствует неприводимое представление группы , определяемое формулой вида в гильбертовом пространстве, . Инфинитезимальные операторы этого представления совпадают с операторами — единичный оператор в пространстве E. Указанный результат равносилен теореме Стоуна — Неймана о самосопряженных операторах с коммутационным соотношением Каждой точке соответствует одномерное представление (характер) . Множество в этом случае описывается аналогично, с выходом в комплексную область по параметрам . Указанный метод орбит естественно обобщается на разрешимые связные группы Ли и даже на произвольные группы Ли, причем в обще'м случае приходится рассматривать орбиты в , где — комплексификация , удовлетворяющие Век-рым условиям целочисленности [8]. Исследование общего случая сводится в известной степени к двум рассмотренным случаям посредством теории индуцированных представлений [5], позволяющей описывать неприводимые унитарные представления полупрямого произведения с нормальным делителем в терминах неприводимых представлений и нек-рых подгрупп группы (в силу теоремы Леви — Мальцева). Практически этот метод эффективен лишь в том случае, когда радикал коммутативен. Другим методом научения является описание характеров неприводимых унитарных представлений группы G;множество таких характеров находится в естественном взаимно однозначном соответствии с, . Справедливость общей формулы для характеров, предложенной А. А. Кирилловым [8], проверена (к 1977) лишь для отдельных классов групп Ли. Гармонический анализ функций на G. Для компактной группы Ли гармонич. анализ сводится к разложению функций в обобщенные ряды Фурье по матричным элементам группы G (теорема Петера — Вейля для и ее аналоги для других классов функций). Для некомпактных групп Ли основы гармонич. анализа были заложены в [1] введением обобщенного преобразования Фурье где — оператор элементарного представления — мера Хаара на G, и формулой обращения (аналог Планшереля формулы).для , в случае классических матричных групп над полем G. Этот результат был обобщен на локально компактные унимодулярные группы (абстрактная Планшереля теорема). Преобразование Фурье переводит свертку функций на группе в умножение их (операторных) образов Фурье и потому является важнейшим инструментом изучения групповых алгебр. Если — полуиростая группа Ли, то операторы удовлетворяют структурным соотношениям вида — сплетающие операторы, — группа Вейля симметрического пространства ( — максимальная компактная подгруппа в ), — группа Вейля алгебры ( — комплексификация алгебры Ли группы ). Если функции финитны, то операторные функции являются целыми функциями комплексных параметров . Для групповых алгебр где — полупростая связная комплексная группа Ли, известны аналоги классических Пэли — Винера теорем[7], т. е. дано описание образов этих алгебр относительно преобразования Фурье. Эти результаты позволяют изучить структуру групповой алгебры, ее идеалов и представлений; в частности, они используются при классификации неприводимых представлений группы . Аналоги теорем Пэли-Винера известны также для нек-рых нильпотентных (метабеле-вых) групп Ли и для групп движений евклидова пространства. Проблемы спектрального анализа. Для унитарных представлений групп Ли известна общая процедура разложения представления в прямой интеграл неприводимых представлений. [5]. Проблема состоит в отыскании аналитич. методов, осуществляющих это разложение для конкретных классов групп и их представлений, а также в установлении критериев однозначности такого разложения. Для нильпотентных групп Ли известен способ сужения неприводимого представления группы на подгруппу (см. Орбит метод). Для неунитарных представлений сама постановка задачи требует уточнения, поскольку в классе таких представлений отсутствует свойство полной приводимости. В ряде случаев рассмотрение группы заменяется рассмотрением одной из ее групповых алгебр , н задача спектрального анализа трактуется как задача изучения двусторонних идеалов алгебры . Задача спектрального анализа (и спектрального синтеза).тесно связана также с задачей аппроксимации функций на группе или однородном пространстве ( — подгруппа) линейными комбинациями матричных элементов группы . Приложения к математической физике. Связь теории представлений групп Ли со специальными функциями математич. физики была отмечена еще О. Картаном. В дальнейшем было установлено, что основные клас.