Раздел математич. анализа и дифференциальной геометрии, в к-ром изучаются свойства отображений, сохраняющихся при заменах координат в образе и прообразе отображения (или при заменах, сохраняющих нек-рые дополнительные структуры); предлагается общий подход к решению различных задач о вырождениях отображений, функций, векторных полей и т. д.; дается классификация наиболее часто встречающихся вырождений, указываются их нормальные формы и алгоритмы приведения к нормальным формам. Точка области определения дифференцируемого отображения (т. е. отображения класса , см. Дифференцируемое многообразие).наз. регулярной, если в этой точке матрица Якоби имеет максимальный ранг, и критической в противном случае. Строение отображения в окрестности регулярной точки описывает классич. теорема о неявной функции, в окрестности такой точки и в окрестности ее образа существуют координаты, в к-рых отображение линейно. Во многих случаях ограничиться рассмотрением лишь регулярных точек недостаточно, поэтому естественны вопросы: а) описания отображения в окрестности каждой критич. точки; б) описания строения множества критич. точек. Ответы на а) и б) для произвольного отображения отсутствуют по двум причинам: при попытке охватить все отображения нет надежды на получение обозримых ответов (например, множество критических точек локально может быть произвольным замкнутым множеством), и для приложений достаточно знать ответы лишь для достаточно обширного множества отображений. Вопросы а), б) и многие другие в теории особенностей исследуются по следующей схеме: 1) из рассмотрения исключается множество "нетипичных", "патологических" отображений, 2) указывается критерий "типичности" отображения, 3) проверяется, что всякое отображение аппроксимируется "типичными", 4) изучаются "типичные" отображения. Выбор множества типичных отображений зависит от решаемой задачи и не однозначен: чем меньше отображений отнесено к типичным, тем легче задача их изучения, однако 2) и 3) требуют, чтобы множество типичных отображений было достаточно широким и достаточно конструктивно определяемым. Эту схему иллюстрирует следующая теорема Уитни: всякое дифференцируемое отображение можно аппроксимировать таким отображением f, что для любой точки в окрестностях точек а и f(а) можно выбрать координаты, в к-рых отображение f записывается в одной из трех нормальных форм: (критерий типичности см. в [3] или [4]). Работа X. Уитни (Н. Whitney, 1955), в к-рой была доказана эта теорема, считается началом теории О. д. о., хотя ряд отдельных результатов появился гораздо раньше (теория Морса критических точек функций, теоремы Уитни об особенностях вложений, работы Л. С. Понтрягина о связи особенностей с характеристическими классами). Основные понятия теории особенностей дифференциальных отображений. Ростки дифференцируемых отображений. Пусть X, Y — гладкие многообразия, . (Всюду ниже термин "гладкий" будет употребляться как синоним термина бесконечно дифференцируемый.) Ростком в точке рназ. класс эквивалентности отображений , совпадающих в некоторой окрестности точки р;множество ростков отображений, переводящих рв q, обозначается . Группа ростков гладких замен переменных в X, сохраняющих точку р, обозначается Важная локальная задача теории О. д. о.- изучение естественного действия группы Решение этой и многих подобных задач обычно начинается с аппроксимации функциональных пространств и бесконечномерных групп, действующих на них, конечномерными многообразиями и действиями на них групп Ли. Полученные результаты затем переносятся в исходную бесконечномерную ситуацию. Расслоения струй. Пусть — гладкие отображения и f(p)=g(p)=q;отображения f и gимеют, по определению, касание порядка kв точке р, если их ряды Тейлора в этой точке совпадают до порядка k. Класс эквивалентности отображений, имеющих в точке ркасание порядка k, наз. k- струей. Множество всех f-струй отображений, переводящих ряд, наделяется естественной структурой гладкого многообразия и обозначается Определена естественная проекция Класс эквивалентности гладких замен переменных в X, сохраняющих точку рн имеющих в этой точке касание порядка k, наз. о б р а т и м о и k- струей в точке р. Обратимые f-струи образуют группу Ли . Группа Ли действует на , аппроксимируя действие Пусть = (дизъюнктное объединение (X,Y)p,q по всем . Множество наделяется естественной структурой гладкого расслоения над со слоем и структурной группой где m=dim X, n=dim Y. Особенности и классы особенностей. Орбита действия на наз. k-оcобенностью; любое подмножество в Jk(m,n), инвариантное относительно , наз. классом k — особенностей. Пусть Sтакой класс. Поскольку Jk(m,n).можно отождествить с Jk(X,Y)p,q, в Jk(X,Y)p,q определяется подмножество S(X,Y)p,q, не зависящее от способа отождествления. Множество S(X, наз. универсальным классом особенностей (или универсально и особенностью, если S — особенность). Универсальная особенность S(X,Y).является подмногообразием в Jk(X,Y), коразмерность этого подмногообразия равна коразмерности Sв Jk(m,n). Пусть — гладкое отображение. Сопоставлением каждой точке k-струи отображения f в точке р получается гладкое отображение Jk(X,Y), наз. k-струйным расширением f. Отображение имеет, по определению, в точке p особенность типа S, если . Множество S(f) всех точек, в к-рых f имеет особенность типа S, есть не что иное, как . Поэтому изучение множества S(f) разбивается на два этапа: изучение универсального множества S(X, Y) в Jk(X, Y), сводящееся к изучению Sв Jk(m,n); изучение взаимного расположения S(X, Y) и jkf(X). На втором этапе обычно применяется теорема трансверсальности Тома. Трансверсальность. Гладкое отображение гладких многообразии трансверсально подмногообразию (обозначается ), если для любой точки либо , либо 0. Если , то множество f-1 (С) либо пусто; либо является подмногообразием в А, коразмерность к-рого равна коразмерности Св В. Теорема трансверсальности Тома: пусть X, Y — гладкие многообразия и С — подмногообразие в Jk(X, Y); тогда множество тех f, для к-рых , является массивным подмножеством в (X,Y) в -топологии Уитни. (Множество наз. массивным, если оно является пересечением счетного числа открытых плотных подмножеств.) Топология Уитни. Пусть и U — открытое множество в Jk(X, Y). Пусть Множества M(U).образуют базис нек-рой топологии, паз. -топологией Уитни на . В этой топологии является Бэра пространством, т. е. каждое массивное подмножество плотно. Мультиструи. При изучении самопересечений образа гладкого отображения используется понятие мультиструи. Пусть — естественная проекция. Пусть и (s раз). Множество может быть наделено естественной структурой гладкого многообразия и наз. s-кратным расслоением k-cтруи. Для s-кратных струй определяются k-струйное расширение отображения f, k-особенности, универсальные особенности и т. д. и доказывается аналог теоремы трансверсальности Тома. Устойчивые дифференцируемые отображения. Центральной проблемой теории О. д. о. в период ее возникновения была задача изучения устойчивых дифференцируемых отображений. Гладкое отображение гладких многообразий наз. устойчивым, если для любого достаточно близкого к f отображения найдутся диффеоморфизмы и такие, что При небольших , а также при n=1 и любом тустойчивые дифференцируемые отображения плотны в пространстве всех собственных дифференцируемых отображений [3]. В пространстве отображений устойчивые отображения не составляют всюду плотного множества (см. [1]). Для нек-рых пар многообразий (напр., для ) вообще нет ни одного устойчивого отображения Xв Y. Найдены |14], [15| все "устойчивые размерности" ( т, n):для любых гладких многообразий Х т и Yn устойчивые отображения Х т в Yn плотны в пространстве собственных дифференцируемых отображений Xm->Yn, снабженном -топологией Уитни, тогда и только тогда, когда пара, (m, n) удовлетворяет хотя бы одному из следующих условий и ; б) n<7q+9 и ; в) n<8 и q= — 1; г) n<6 и q= -2; д) n<7 и При доказательстве этой теоремы, а также во многих других вопросах оказываются полезными следующие два понятия: отображение наз. гомотопически устойчивым, если для любой гладкой гомотонии ft отображения f0 найдутся гладкие гомотопии ht и kt тождественных диффеоморфизмов Xm и Yn такие, что для достаточно малых t;отображение наз. инфинитезимально устойчивым, если всякое бесконечно близкое к f0 отображение может быть получено из f0 "бесконечно близкими к тождественным" диффеоморфизмами Xm и Yn. Для собственного отображения понятие устойчивости, гомотопич. устойчивости и инфинитезимальной устойчивости совпадают [3]. Задача нахождения локальных нормальных форм устойчивых отображений сводится к задаче классификации нек-рых конечномерных локальных алгебр [14], [15]. Для фиксированных m, re число таких нормальных форм конечно. Если в определении устойчивого отображения в качестве h и kвзять вместо диффеоморфизмов гомеоморфизмы, то получится определение топологически устойчивого отображения. Доказана теорема (см. [8]) о плотности множества топологических устойчивых отображений в пространстве всех отображений любого компактного многообразия Х т в любое многообразие Yn (при любых т, п). Конечно определенные ростки. Пусть — нек-рое отношение эквивалентности на множестве ростков отображений , переводящих 0 в 0. k-струя любого такого ростка — это его отрезок ряда Тейлора порядка k. Росток f наз. k-определенным, если любой другой росток g, имеющий ту же k-струю, удовлетворяет соотношению . Росток наз. конечно определенным, если он k-определен при нек-ром k. Достаточно и наз. такая k-оструя s, что любые два ростка f, g, имеющие s в качестве k-струи, удовлетворяют соотношению . Наиболее часто встречающиеся эквивалентности носят специальные названия:r-эквивалентность — принадлежность одной орбите группы "правых" зимен координат; rl -эквивалентность — принадлежность одной орбите группы Топологическая эквивалентность — принадлежность одной орбите группы . Изучении k-определенного ростка сводится к изучению отображения, заданного многочленами степени . Решение вопроса о том, является ли росток f k-определенным относительно rl -эквивалентности, сводится к задаче о разрешимости нек-poй явно выписываемой системы конечного числа линейных уравнений. Множество конечно определенных относительно rl -эквивалентности ростков открыто в , однако плотно не для любых т, п. Естественно рассмотреть более грубое отношение топологич. эквивалентности. После выбрасывания из подмножества бесконечной коразмерности остается счетное число классов топологич. эквивалентности, каждый из к-рых является полуалгебраич. множеством. Отсюда следует, что открытое плотное множество в ( Х т — компактно) составляют отображения, ростки к-рых топологически эквивалентны полиномиальным [13]. Деформации. Если отображение зависит от параметров, то говорят, что задано семейство отображений. Если семейство отображений изучается локально, то при малом изменении параметров в окрестности фиксированных значений говорят о деформации отображения, соответствующего этим значениям параметров. Оказывается, во многих случаях изучение всевозможных деформаций сводится к изучению одной единственной, из к-рой получаются все остальные. Такая деформация, в нек-ром смысле самая большая, содержит в себе все существенно разные деформации данного отображения. Она наз. нереальной деформацией (см. [11), [12], [13]). Критические точки функций. Критич. точка функции наз. невырожденной, если второй дифференциал — невырожденная квадратичная форма. Функция общего положения имеет лишь невырожденные критич. точки, а в окрестности каждой из них она может быть приведена к стандартной форме. Вырожденные критич. точки приходится рассматривать в тех случаях, когда эти функции зависят от параметров, и чем больше число этих параметров, тем более сложные критич. точки будут встречаться неустранимым (малым шевелением) образом при нек-рых значениях параметров. Семейство функций, зависящее от любого числа параметров, можно превратить малым шевелением в семейство, в к-ром при каждом значении параметра в окрестности любой точки области определения функция представляется многочленом в нек-рой локальной системе координат. Это позволяет при локальном изучении функций рассматривать только многочлены и использовать комплексный анализ. Классификация критических точек функций. Естественно начать с классификации ростков в 0 голоморфных функций в С n, считая два ростка эквивалентными, если один переводится в другой ростком голоморфной замены координат в , сохраняющей 0. Струя (многочлен Тейлора) голоморфной функции в 0 достаточна, если она определяет функцию с точностью до эквивалентности. Росток, у к-рого критич. точка 0 изолирована, всегда имеет достаточную струю и, следовательно, эквивалентен многочлену. Кратностью (или числом Милнора) m критич. точки 0 наз. число невырожденных критич. точек, на к-рые распадается критич. точка 0 при малом шевелении функции. Если кратность критич. точки функции f равна и, то (m+1)-струя достаточна. Т. к. кратность m при малом изменении f не может увеличиваться, то классификация функций, близких к функции с изолированной критич. точкой, сводится к изучению действия группы Ли k- струй замен переменных на пространстве k-струй при достаточно большом k. В пространстве k-струй функций f таких, что f(0)=0, df(0)=0, коразмерность орбиты f равна m-1, поэтому критич. точки кратности m встречаются неустранимым образом в семействах функций, зависящих от (m-1) параметров. Получены классификация (см. [10]) всех критич. точек кратности и алгоритм приведения любой такой функции к нормальной форме. Сложность критич. точки определяется не только ее кратностью m, но и ее модальностью т(числом модулей). . Критич. точка наз. простой (или 0-модальной), если среди всех близких критич. точек найдется не более чем конечное число попарно неэквивалентных. Два ростка функций наз. стабильно эквивалентным и, если они становятся эквивалентными после прямого сложения с невырожденными квадратичными формами от подходящего числа переменных (для ростков функций от одинакового числа переменных стабильная эквивалентность не отличается от обычной). С точностью до стабильной эквивалентности простые ростки исчерпываются следующим списком: Модальностью точки при действии группы Ли Gна многообразии Xназ. наименьшее число ттакое, что достаточно малая окрестность точки хпокрыта конечным числом m-параметрич. семейств орбит. Получена также классификация ростков функций модальности 1 и 2 (см. [10]). Классификация простых особенностей и особенностей малой модальности оказывается связанной с группами Ли, Кокстера и Вейля серий А, D, Е, с теорией Кос Артина, классификацией правильных многогранников в трехмерном пространстве, классификацией Кодаиры вырождений эл-липтич. кривых, фаассификацией треугольников на плоскости Лобачевского (см. [10], [11]). Краевые особенности. Ряд геометрич. задач требует изучения критич. точек функций на многообразии с краем. В комплексном случае эта ситуация соответствует изучению ростка функции, заданной в пространстве с выделенным подпространством . Такие ростки изучаются с точностью до замен переменных в , переводящих в себя. В этой ситуации также получена классификация всех простых ростков, ростков модальностей 1 и 2. Классификация простых краевых особенностей оказывается связанной с простыми алгебрами Ли В, С, F4. Топологические характеристики ростка голоморфной функции. Пусть — функция, голоморфная в окрестности нуля и имеющая в нуле критич. точку кратности m. Пусть h, e — положительные числа, — шар , S — его граница, — диск |t| <h, Т' -проколотый диск Пусть , . Для подходящих e и h (в достаточно малого и h достаточно малого по сравнению c e) отображение — гладкое локально тривиальное расслоение. Слой X(t).этого расслоения — (2n-2) — мерное многообразие с краем, гомотопически эквивалентное букету h (n-1)-мерных сфер. Kpaй X(t).есть 2n-3-мерное многообразие, диффеоморфное . Даже для сравнительно простых f это многообразие может быть нетривиальным. Напр., 28 многообразий суть 28 сфер Милнора (к-рые все гомеоморфны обычной семимерной сфере, но попарно не диффеоморфны). Группа приведенных гомологии изоморфна . Индекс пересечения определяет на целочисленную билинейную форму. Перенос слоев расслоения над кривыми в Т' определяет действие фундаментальной группы p1( Т'). в (n-1)-мерных гомологиях слоя. Образующей p1 ( Т').отвечает автоморфизм группы гомологии, наз. оператором монодромии. Оператор монодромии сохраняет форму пересечений. Собственные значения оператора монодромии несут информацию об асимптотиках различных интегралов, связанных с функцией f. Лит.:[1] Арнольд В. И., Варченко А. Н., Гусейн-Заде С. М., , М., 1982; [2] Арнольд В. И., Математические методы классической механики, М., 1974; [3] Голубицкий М., Гийсмин В., Устойчивые отображения и их особенности, пер. с англ., М., 1977; [4] Брекер Т., Ландер Л., Дифференцируемые ростки и катастрофы, пер. с англ., М., 1977; [5] Постон Т.,Стюарт И., Теория катастроф и ее приложения, пер. с англ., М., 1980; [6] Милнор Д ж., Особые точки комплексных гиперповерхностей, пер. с англ., М., 1971; [7] , Сб. ст., пер. с англ, и франц., М., 1908; [8] Topological stability of smooth mappings, В.- Hdlb.- N. Y., 1976; [9] Thоm R., Stabilito structurelle et morphogenese, N. Y., 1972; [10] Арнольд В. И., "Функц. анализ и его приложения", 1972, т. 6, № 4, с. 3-25; 111] его же, "Успехи матем. наук", 1972, т. 27, в. 5, с. 119- 184; 1973, т. 28, в. 5, с. 17-44; 1974, т. 29, в. 2, с. 11-49; 1975, т. 30, в. 5, с. 3-65; [12] Том Р., там же, 1972, т. 27, в. 5, с. 51-57; [13] Варченко А. Н., "Изв. АН СССР. Сер. матем.", 1974, т. 38, № 5, с. 1037-90; 1975, т. 39, № 2, с.294-314; [14] Мазер Д., "Математика", 1970, т. 14, № 1, с. 145-75; [15] его же, "Успехи матем. паук", 1973, т. 28, в. 6, с. 165 — 90; 1974, т. 29, в. 1, с. 99-158. А. Н. Варченко, А. Г. Кушниренко.