Дискретная группа преобразований, порождаемая отражениями относительно гиперплоскостей. Наиболее часто рассматриваются О. г., состоящие из движении односвязного полного риманова многообразия постоянной кривизны, т. е. евклидова пространства Е n, сферы Sn или пространства Лобачевского Ln. Истоками теории О. г. являются исследования правильных многогранников и правильных разбиений евклидовой плоскости и сферы ("орнаментов"). Во 2-й пол. 19 в. эти исследования были распространены на n-мерный случай И, В связи с задачами теории функции комплексного переменного, на плоскость Лобачевского; были также описаны правильные разбиения пространства Ln на правильные многогранники. Группа симметрии любого правильного многогранника, а также группа симметрии правильного разбиения пространства на правильные многогранники являются О. г. В 1934 были перечислены (см. [1]) все О. г. в En и Sn (последние можно рассматривать как частный случай О. г. в En+1). Еще в 1925-27 в работах Г. Вопля (Н. . Weyl) н Э. Картава (Е. Cartan) О. г. появились как Вейля группы полупростых групп Ли. Позднее было установлено, что группы Вейля — это в точности те О. г. в En, к-рые имеют единственную неподвижную точку н записываются в нек-ром базисе целочисленными матрицами, а аффинные группы Вейля — это все О. г. в Е п с ограниченным фундаментальным многогранником (см. Дискретная группа преобразований). Основные результаты теории групп отражении. Пусть Xn=Sn, En или Ln. Всякая О. г. в Xn допускает в качестве образующих отражения rt относительно гиперплоскостей Hi, , ограничивающих фундаментальный многогранник Р. Относительно этой системы образующих она является Кокстера группой с определяющими соотношениями (rirj)nij=P, где числа nij находятся следующим образом: если грани и . смежны и угол между ними равен aij то ; если они не смежны, то (и тогда гиперплоскости Hi и Hj не пересекаются). Обратно, любой выпуклый многогранник в пространстве Xn, все двугранные углы к-рого суть целые части p, является фундаментальным многогранником группы, порожденной отражениями относительно ограничивающих его гиперплоскостей. Всякая О. г. в Е n является (как группа движений) прямым произведением тривиальной группы, действующей в евклидовом пространстве нек-рой размерности, и групп движений следующих двух типов: (I) конечная О. г., фундаментальный многогранник к-рой есть симплициальный конус, и (II) бесконечная О. г., фундаментальный многогранник к-рой есть симплекс. Группа типа (I) может рассматриваться как О. г. на сфере с центром в вершине фундаментального конуса; ее фундаментальным многогранником будет тогда сферич. симплекс. О. г. типа (I) однозначно определяется своей матрицей Кокстера, Поэтому классификация таких групп совпадает с классификацией конечных групп Кокстера. О. г. типа (II) определяется своей матрицей Кокстера с точностью до гомотетии. Классификация таких групп с точностью до гомотетии совпадает с классификацией неразложимых параболич. групп Кокстера. Всякая О. г. в Е n, имеющая ограниченный фундаментальный многогранник, является (как группа движений) прямым произведением групп тина (II). О. г. в Е п изучены значительно хуже. По многим причинам естественно выделить те из них, фундаментальный многогранник к-рьтх ограничен или выходит на абсолют лить в конечном числе точек (зто равносильно конечности объема). Ниже рассматриваются только такие группы. Они описаны более или менее явно только при n= 2, 3. О. г. в L2 определяются k-угольником с углами (если вершина бесконечно удаленная, то считается, что угол при нeй paвен нулю). Многоугольник с заданными углами всегда существует и зависит от k-3 параметров. При фундаментальный многогранник О. г. в Ln однозначно определяется своим комбинаторным строением и двугранными углами. Для п=3 получено исчерпывающее описание таких многогранников [5]ц, тем самым, О. г. Для известны лишь примеры и нек-рые общие способы построения О. г. в Ln (см. [6], [7]). Неизвестно (1983), существуют ли О. г. в Ln с ограниченным фундаментальным многогранником при и с фундаментальным многогранником конечного объема при Наряду с О. г. в пространствах постоянной кривизны рассматриваются линейные О. г., действующие дискретно в открытом выпуклом конусе действительного векторного пространства. Это позволяет дать геометрия, реализацию всех групп Кокстера с конечным числом образующих (см. [3], [4]). Всякую конечную О. т. можно рассматривать как линейную группу. Конечные О. г. характеризуются среди всех конечных линейных групп тем, что алгебры инвариантных многочленов этих групп обладают алгебраически независимыми системами образующих [4]. Напр., для группы всех перестановок базисных векторов такими образующими будут элементарные сим-метрич. многочлены. Пусть — степени образующих инвариантов конечной О. г. G( п — размерность пространства); числа наз. показателями группы G. Имеет место формула где ck, — число элементов группы G, для к-рых пространство неподвижных точек имеет размерность п-k. В частности, равно числу отражении в группе равно порядку группы. Если группа Gнеприводима, то собственные значения ее элемента Киллинга — Кокстера (см. Кокстера группа). равны , где h — число Кокстера: Утверждения предыдущего абзаца, за исключением последнего, сохраняют силу для линейных трупп над произвольным полем нулевой характеристики (см. (4)). Отражением в этом случае следует называть линейное преобразование, пространство неподвижных точек к-рого имеет размерность п-1. Перечислены [8] все конечные линейные О. г. над полем комплексных чисел. Найдены [9] конечные линейные О. г. над полями ненулевой характеристики. Лит.:[1] Сохeter Н. S. M., "Ann. Math.", 1934, v. 35, р, 588-621; [2] Коксетер Г. С. М., Мозер У. О. Дж., Порождающие элементы и определяющие соотношения дискретных групп, пер. с англ., М., 1980; [3] Tits J., в кн.: Proceedings of the International Congress of Mathematicians. 1962, Dursholm, [1963], p. 197-221; [4] Бурбаки Н., Группы и алгебры Ли, пер. с франц., М., 1972, гл. 4-6; [5] Андреев Е. М., "Матем. сб.", 1970, т. 81, с. 445-78; т. 83, с. 256-60; [6]Макаров В. С., в кн.: Исследования по общей алгебре, в. 1, Киш., 1968, с. 120-29; [7] Винберг Э. Б., "Матем. сб.", 1967, т. 72, с. 471-88; 1972, т. 87, с. 18-36; [8] Shерhard G. С., Тоdd J. A., "Canad. J. Math.", 1954, v. 6, p. 274-304; [9] Сережкин В. Н., "Докл. АН СССР", 1976, т. 227, с. 574-75. Э. Б. Винберг.