Теория инвариантных (относительно непрерывных групп отображений пространства на себя) мер на множествах, состоящих из подмногообразий пространства (напр., прямых, плоскостей, геодезических, выпуклых поверхностей и т. п. многообразий, сохраняющих свой тип при рассматриваемых преобразованиях). И. г. строится для различных пространств, прежде всего для евклидовых, проективных, однородных. И. г. занимается введением инвариантных мер, их связями и геометрич. применениями. Возникла в связи с уточнением постановки задач о геометрич. вероятностях. Для введения инвариантной меры предварительно ищут такую функцию от координат точки в пространстве, интеграл от к-рой по некоторой области пространства не изменялся бы после непрерывного преобразования координат пространства, составляющих определенную группу Ли. Это требует отыскания интегрального инварианта заданной группы Ли. Последний находится как решение системы дифференциальных уравнений в частных производных где F(x)- искомый интегральный инвариант, х- точка n-мерного пространства, xih- коэффициент инфинитезимального преобразования группы, r- количество параметров преобразования. Важное значение в И. г. имеют измеримые группы Ли, т. е. такие группы, к-рые допускают существование одного и только одного (с точностью до постоянного множителя) инварианта. Последними, в частности, являются простые транзитивные группы. Следующая задача И. г. состоит в установлении меры множества многообразий, которые сохраняют свой тип после нек-рой группы непрерывных преобразований. Мера устанавливается равной интегралу где А a- множество точек в пространстве параметров группы Ли, F- интегральный инвариант группы, определяемый уравнением (1), или плотность меры. Подинтегральное выражение в (2) наз. также элементарной мерой множества многообразий. Определенный выбор этой меры полностью устанавливает соответствие с основной задачей учения о геометрич. вероятностях. Фактически под геометрич. вероятностью множества многообразий со свойством А 1 понимается относительная доля этого множества, рассматриваемого как подмножество многообразий множества многообразий, имеющих более общее свойство А. Задача сводится к установлению мер множества многообразий со свойством А, подмножества со свойством А 1 и их отношения. Последнее и есть геометрич. вероятность. В случае однородного многомерного пространства мера множества многообразий (напр., точек, прямых, гиперплоскостей, пар гиперплоскостей, гиперсфер, гиперповерхностей 2-го порядка) однозначно (с точностью до постоянного множителя) определяется интегралом где суть относительные компоненты (i= 1, ..., h)заданной транзитивной группы Ли G2. Линейные комбинации с постоянными коэффициентами этих относительных компонент представляют собой левые части уравнений системы Пфаффа, соответствующей рассматриваемому множеству многообразий. Мера (3) наз. кинематической мерой в однородном пространстве с заданной в нем группой преобразований. Она представляет собой обобщение так наз. кинематической меры Пуанкаре. (Далее все меры указываются с точностью до постоянного множителя.) И. г. на евклидовой плоскости Е 2 обычно рассматривает лишь одно непрерывное преобразование — группу движений (без отражений). Для множества точек интегральный инвариант — единица, для множества прямых — тоже единица, если в качестве параметров прямых выбраны параметры ее нормального уравнения ри j. Длина произвольной кривой равна где п- число пересечений прямых с кривой, а интегрирование ведется по множеству прямых, пересекающих кривую. Мера множества прямых, пересекающих, две выпуклые фигуры (овалы), равна разности длин перекрестно охватывающей овалы кривой и внешней охватывающей кривой (см. рис. 1). Мера множества прямых, разделяющих два овала, равна длине перекрестно охватывающей кривой без суммы длин контуров овалов. Мера множества пар точек определяется как где р,j — параметры нормального уравнения прямой, проходящей через точки, а t1 и t2 суть расстояния по этой прямой от точек до точки пересечения прямой и перпендикуляра к прямой, проведенного из начала координат (см. рис. 2). Мера множества пар прямых равна где хи у- координаты точки пересечения пары прямых, а a1 и a2 — углы, к-рые составляют эти прямые с одной из координатных осей (см. рис. 3). Мера множества пар кривых, пересекающих овал, равна половине квадрата длины кривой, ограничивающей овал, без площади овала, умноженной на p (формула Крофтона). Применение кинематич. меры к множеству конгруэнтных овалов, пересекающих заданный овал, позволяет получить одно из изопериметрич. неравенств, а именно классическое Воннезена неравенство. Если где s — длина хорды овала H, G- множество пересекающих овал прямых, r — расстояние между двумя точками внутренней области овала, то что позволяет просто определить среднее расстояние между двумя точками внутри овала. Кинематич. мера множества фигур есть мера множества фигур, конгруэнтных данной. Она равна где X- множество точек фигуры, х, у- координаты ее фиксированной точки, j — угол, определяющий поворот фигуры. Кинематич. мера может трактоваться как мера множества подвижных систем координат. Если неподвижную систему координат сделать подвижной, а подвижную — неподвижной, то для одного и того же множества преобразований кинематич. мера останется неизменной (симметричность кинематич. меры). Если с каждым элементом множества конгруэнтных фигур связать иную подвижную систему, то кинематич. мера также сохраняется. Мера множества конгруэнтных конечных дуг произвольной кривой, пересекающих заданную дугу нек-рой кривой, равна учетверенному произведению длин дуг (формула Пуанкаре). Количество отрезков прямой данной длины l, пересекающих овал, равно 2pF0+2lL0, где F0 и L0- площадь овала и длина ограничивающей его кривой. Если заменить овал незамкнутой кривой, то F0=0, и число пересечений будет равно 2lL0. Мера множеств овалов, пересекающих данный овал, равна 2n(F0+F)+L0L, где F0,F суть соответствующие площади, a L0 и L- длины кривых, ограничивающих овалы. И. г. в евклидовом пространстве Е 3 строится по аналогии с И. г. в E2, Для множеств точек интегральный инвариант также равен единице. Если множество прямых задано множеством их уравнений в двух проектирующих плоскостях: x=kz+a, y=hz+b, то интегральный инвариант для совокупности параллельного переноса и поворота осей равен (k2+h2+1)-2. В частности, мера множеств прямых, пересекающих выпуклую замкнутую поверхность (поверхность овалоида), равна половине поверхности овалоида. Введение по аналогии с Е 2 меры множества пар точек позволяет вычислить среднее значение 4-й степени длин хорд овалоида, к-рое равно 12V/pS, где Vи S- его объем и поверхность. Для пар пересекающихся прямых, заданных уравнениями в двух проектирующих плоскостях: и где а, b и с — координаты точек пересечения прямых, она равна Меры множества пересечений двух заданных подвижных овалоидов относятся как их объемы. Для плоскости, заданной уравнением в отрезках, интегральный инвариант равен где а, b, с- длины отрезков. Мера множества плоскостей, пересекающих поверхность площади S, равна p2S/2, а среднее значение длин кривых, по к-рым овалоид пересекается множеством плоскостей, равно где — интегральная средняя кривизна. Для пар плоскостей интегральный инвариант равен произведению интегральных инвариантов множеств плоскостей. Кинематич. мера в Е 3 равна произведению меры множества по-различному ориентированных плоскостей и элементарной кинематич. меры в ориентирующей плоскости. Интегральный инвариант для вращений пространственной фигуры, имеющей одну неподвижную точку, равен где li=aitg(j/2), а ai, i=1,2,3, суть направляющие косинусы оси вращения, j — угол поворота вокруг этой оси. Мера множеств тел, имеющих общую точку и отличающихся поворотом в пространстве, равна p2. И. г. на поверхности строится введением меры множества геодезических как интеграла от внешней дифференциальной формы поверхности по всему множеству. Таким образом, внешняя дифференциальная форма есть плотность множества геодезических, так как она инвариантна относительно выбора системы криволинейных координат на поверхности и относительно выбора параметра, определяющего положение точки на геодезической. В геодезических полярных координатах плотность имеет вид в частности для сферы dG=cosp[dqdr], а для псевдосферы dG=chr[dqdr]. Для множества геодезических, пересекающих гладкую или кусочно гладкую кривую, плотность равна dG=[sinj[djds], где j — угол пересечения, s — длина кривой. Плотность кинематич. меры (кинематич. плотность) равна dK=[dPdV], где dP- элемент площади поверхности, V- угол между геодезической и полярным радиусом. Многие результаты И. г. на Е 2 обобщаются на случай однородной поверхности. Плотность меры множества представляет собой кинематич. плотность, что позволяет получить обобщение формулы Пуанкаре для Е 2. Меры множества пар геодезических и пар точек строятся так же, как: для Е 2. На основе так наз. поли метрической геометрии П. К. Рашевского (см. [4]) результаты И. г. на произвольной однородной поверхности обобщаются на более широкий класс поверхностей. Обобщение производится путем использования биметрич. системы Рашевского. Сначала двумя способами вводится мера в двупараметрич. множестве кривых плоскости. Затем все выводы, справедливые в случае плоскости (рассматриваемой как множество линейных элементов), обобщаются на случай линий постоянной геодезич. кривизны произвольной поверхности. И. г. на проективной плоскости Р 2. Для полной группы проективных преобразований на Р 2: интегральный инвариант существует лишь для совокупности трех точек и равен кубу обратной величины площади треугольника, вершинами к-рого являются эти точки. Для пар точек и группы аффинных унимодулярных преобразований интегральный инвариант равен единице, а для группы аффинных преобразований интегральный инвариант множества пар точек равен ( х 1 у 2- х 2 у 1)-2, где х 1, у 1 и x2, y2 суть координаты точек. Множество прямых проективной плоскости неизмеримо, но для пар точка — прямая и полной группы проективных преобразований (4) интегральный инвариант равен (x0a+y0b+1)-3, где х 0, у 0 суть координаты точки, а прямая задается уравнением ax+by+1=0. Множество параллелограммов, заданных уравнениями причем a1b2-a2b1=0, имеет плотность меры для группы аффинных преобразований Для множества окружностей на Р 2, заданных уравнением максимальной группой преобразований является группа преобразований подобия х=ах'+ by' + с, у=bх'+ay'+d. Плотность меры для нее равна (g-a2-b2)-2. На ее основе вычисляется мера множеств окружностей (центры к-рых находятся в нек-рой области), пересекающихся с заданной кривой. Мера множества окружностей на Р 2 равна кинематич. мере совокупности групп трансляции и гомотетии. Множество конич. сечений (инвариант D неравно 0 )имеет в качестве максимальной группы инвариантности проективную группу: причем i, j=1, 2, 3. Плотность меры для него равна D-2. Для множества гипербол максимальная группа инвариантности есть аффинная группа (6). Плотность меры их множества равна где а, b, с суть коэффициенты общего уравнения гиперболы. Аналогично измерима максимальная группа инвариантности эллипсов, а для парабол она неизмерима. Для парабол измеримы лишь ее подгруппы: группы унимодулярных аффинных и центроаффинных преобразований. Элементарная кинематич. мера группы проективных преобразований (4) равна D-3, где D — определитель преобразования. Множество прямых центроаффинной плоскости измеримо. Плотность меры их множества равна р -3, где р — свободный член нормального уравнения прямой. Кинематич. мера группы преобразований (5) не центроаффинной плоскости равна Если D=D(j) есть ширина овала, то D-2 есть его плотность меры для аффинного унимодулярного преобразования. И. г. в проективном пространстве Р 3. Группа движений в проективном пространстве Р 3 с прямоугольной декартовой системой координат является измеримой лишь для совокупности нетырех точек, и плотность меры равна при этом D-4, где D есть объем тетраэдра, вершинами к-рого являются эти точки. Для совокупностей двух и трех точек измерима лишь группа аффинных унимодулярных преобразований. Плотность ее меры равна единице. Для трех точек также измерима группа центроаффинных преобразований (при условии, что точки не лежат на одной прямой). Множество прямых в Р 3 имеет в качестве максимальной группы инвариантности полную группу движений, но она для них неизмерима (измерима лишь нек-рая ее подгруппа). Измерима полная группа преобразований для пар прямых. Множество плоскостей относительно полной группы преобразований в Р 3 не допускает меры; для множества плоскостей измерима лишь ее подгруппа ортогональных преобразований. Пары плоскостей допускают меру для группы центроаффинных унимодулярных преобразований. Параллелепипеды допускают меру частной группы аффинных преобразований, множество пар плоскость — точка допускает меру полной группы преобразований в Р 3. Множество сфер в Р 3 допускает меру группы преобразований подобия, причем плотность меры равна R-4, где R- радиус сферы. Множество поверхностей 2-го порядка допускает меру полной группы преобразований в Р 3, причем плотность меры равна D-5, где D есть инвариант поверхности. Множество окружностей в Р 3 допускает меру группы преобразований подобия, причем плотность меры равна R-4, где R- радиус окружности. Кинематич. мера в Р 3 полной группы преобразований равна D-4, где D есть ее определитель. Плотность меры множества точек в центроаффинном унимодулярном пространстве трех измерений равна единице. Измеримо и множество плоскостей в этом пространстве с плотностью р -4, где ресть параметр нормального уравнения плоскости. И. г. на поверхности постоянной кривизны V2. Семейству кривых в F2 с постоянной положительной кривизной соответствует максимальная группа инвариантности G+3 (х). Семейства специального вида (трех-, двух- и однопараметрические) допускают плотности меры максимальной группы инвариантности (инфинитезимальных преобразований группы а в случае одного параметра — группы G1(x). То же справедливо для F2 с отрицательной постоянной кривизной. Трехпараметрич. кривые специального вида допускают плотность меры максимальной группы инвариантности преобразований равную единице. Меры существуют у группы и в случае специальных видов двух- и однопараметрич. семейств. В обоих случаях условие допущения семейством кривых Fq(x)меры максимальной группы инвариантности G2(x)состоит в пространственной транзитивности (измеримости) присоединенной группы Н 2(a). Обобщение И. г. Вышеприведенное изложение относится к традиционному пониманию содержания И. г. как теории инвариантной меры множества геометрич. объектов в различных пространствах, в основном в однородных. При понимании И. г. как теории преобразования функций, заданных на множестве одних геометрич. объектов в нек-ром пространстве, в функции, заданные на множестве иных геометрич. объектов того же пространства, в качестве основной ставится задача, обратная интегрированию нек-рой функции точек пространства по нек-рому геометрич. объекту этого же пространства. Напр., если вводится интегральное преобразование функции f(x) в га-мерном аффинном пространстве (преобразование Радона) как интегрирование ее по гиперплоскости, то в качестве обратной ставится задача восстановления f(x)по ее интегралам по гиперплоскостям, т. е. задача нахождения обратного преобразования Радона. Аналогично ставятся и решаются задачи о восстановлении функции на линейчатых поверхностях 2-го порядка в 4-мерном комплексном пространстве, когда известны ее интегралы по прямым, составляющим эту поверхность, а также о восстановлении функции по ее интегралам, взятым по орисферам в действительном и мнимом пространствах Лобачевского. Лит.:[1] Бляшке В., "Успехи матем. наук", 1938, в. 5, с. 97-149; [2] Сантало Л. А., Введение в интегральную геометрию, пер. с англ., М., 1956; [3] Гельфанд И. М., Граев М. И.., Виленкин Н. Я., и связанные с ней вопросы теории представлений, М., 1962; [4] Рашевский П. К., Полиметрическая геометрия, в кн.: Тр. семинара по векторному и тензорному анализу, в. 5, М,-Л., 1941, с. 21-147; [5] Stoka M. I., Geometrie integrals, Вис, 1967; [6] Итоги науки. Алгебра. Топология. Геометрия. 1968, М., 1970, с. 157-91. С. Ф. Шушурин