Предельное Множество

C(f, z0; S).функции f(x): G Q, определенной в области со значениями на сфере Римана W, в точке по множеству , — множество значений , для к-рых существуют такие последовательности точек , n=1, 2, . . .; , что Каждое значение наз. предельным значением функции f в точке z0 по множеству S. Теория П. м.- это раздел теории функций, в котором граничные свойства функций изучаются в терминах топологических и метрических свойств различных П. м. Если в качестве множества S взята вся область G, то получается полное предельное множество С(f, z0; G)=C(f,z0); в случаях строгого включения соответствующие П. м. C(f, z0; S).иногда наз. частными. Полное П. м. C(f, z0) всегда замкнуто; если функция f непрерывна на множестве S, локально связном в точке , то П. м. С(f, z0; S).либо вырожденное, т. е. состоит из одной точки, либо является невырожденным континуумом. Если П. м. С(f, z0; S).совпадает с W, то оно наз. тотальным П. м. Значение принадлежит множеству повторяющихся значений R(f, z0; S).функции f в точке z0 по множеству S, если существует такая последовательность точек , n=1, 2, . . ., , что a=f(zn), n=1, 2, .... Всегда . Еслл для нек-рого а Q в области G существует путь L: z=z(t),0t<1, оканчивающийся в точке и такой, что , то а наз. асимптотическим значением функции f в точке z0 (вдоль пути L). Асимптотическое множество A(f, z0; G) — это совокупность всех асимптотич. значений f в точке z0. Понятие П. м. было впервые явно сформулировано П. Пенлеве в 1895 (под названием "область неопределенности", см. [1]) в связи с изучением поведения аналитич. ции вблизи ее особой точки и классификацией особенностей таких функций. С тех пор в теории П. м. изучаются в основном три геометрически простейших случая: а) z0 — изолированная точка границы FrG или внутренняя точка G; б) — единичный круг или, вообще, нек-рая жорданова область, а z0 — точка границы Г=FrD; в) граница E=FrG есть всюду разрывный компакт на плоскости (т. е. вполне несвязный компакт, не содержащий никакого невырожденного континуума) и . Ряд классич. результатов . теории аналитич. ций допускает формулировку в терминах П. м. Напр., Сохоцкого теорема в несколько усиленной форме: если z0 — изолированная точка всюду разрывного компакта и f(z) — меромбрфная функция на GE, то П. м. C(f, z0; GE).либо вырожденное, либо тотальное. Дополнительно к этому Пикара теорема утверждает, что в случае, когда C(f,z0; GE).тотально, т. е. когда z0 — существенно особая точка, множество CR(f, z0; GE).WR(f, z0; GE).содержит не более двух различных значений. В этом же случае (Иверсена теорема). Основной из результатов, касающийся теории поведения мероморфных функций вблизи "тощей" границы (теории Пенлеве), состоит в следующем (см. [1], [2]): если множество Е Gимеет линейную хаусдорфову меру нуль, m(E)=m1 (E)=0, и функция f мероморфна в GE, то в каждой точке z0EП. м. C(f, z0; GE).либо вырожденное, либо тотальное; более того, в первом случае f мероморфна и в точке z0. Таким образом, точка z0 Е, в к-рой П. м. C(f, z0; GE).вырожденное, является устранимой особой точкой функции f; изучение устранимых множеств различных классов функций можно рассматривать как раздел теории П. м. Важным усилением теоремы Пикара является теорема Голубев а: если и f мероморфна в GE, то в любой существенно особой точке множество CR(f, z0; GE).имеет аналитическую емкость нуль (и, следовательно, плоскую меру m2( СR)=0). Началом теории П. м. в случае непрерывной границы можно считать работу П. Фату (P. Fatou, 1906) о граничных значениях функций f(z), голоморфных в единичном круге Х Если такая функция f ограничена в D, то почти всюду (в смысле меры Лебега) на окружности она имеет радиальные и угловые граничные значения (теорема Фату). Для произвольной точки пусть h(z,j) обозначает хорду круга D, оканчивающуюся в z и образующую с радиусом, проведенным в эту точку, угол раствора j, -p/2<j<p,/2. И пусть D(z, j1, j2) — угловая область с вершиной , состоящая из всех точек круга D, заключенных между двумя хордами h(z, j1:) и h(z, j2), — p/2 <j1 < j2 < p/2. Точку наз. точкой Фату и относят к множеству F(f), если объединение по всем угловым областям Д(E, ф 1( ф 2) состоит из единственного значения , наз. угловым граничным значением функции / в точке E. Иная формулировка теоремы Фату состоит в том, что для ограниченной голоморфной в круге Dфункции / справедливо разложение . Результат дополняется теоремой единственности Ф. и М. Р и с с о в (1916): если / голоморфна и ограничена в круге В и на нек-ром множестве , mes М>0, имеет угловое граничное значение j(Q=a, , то . Это утверждение было независимо доказано Н. Н. Лузиным и И. И. Приваловым (1919), к-рые существенно распространили его также на случай произвольных мероморфных функций. В том же году Н. Н. Лузин и И. И. Привалов опубликовали граничную теорему единственно с-т и для случая радиальных граничных значений: если голоморфная в Dфункция / на множестве Мвторой категории и метрически плотном на нек-рой дуге имеет одно и то же радиальное граничное значение , то есть , то /(z)=a. В 1936 И. И. Привалов отметил, что утверждение /(z)=const остается в силе и в том случае, когда значения не обязательно одинаковы в точках , но принадлежат нек-рому множеству (логарифмической) емкости нуль. Основная идея и элементы доказательства теорем Лузина — Привалова применимы и в общем случае непрерывных отображений f круга D, что и было позднее использовано во многих работах. Точку zГ= наз. точкой Плеснера и относят к множеству I(f), если пересечение но всем угловым областям D(z, j1, j2) с вершиной z совпадает с W. В 1927 А. И. Плеснер доказал, что для любой мероморфной в круге Dфункции f почти все точки окружности Г принадлежат либо F(f), либо I(f), то есть , mes E=0. Точку наз. точкой Мейера и относят к множеству M(f), если C(f,z; D)W и пересечение хордальных П. м. по всем хордам, проведенным в точку z, совпадает с С(f,z; D). К. Мейер (К. Meier, 1961) установил следующий аналог теоремы Плеснера в терминах категории по Бэру: если f мероморфна в D, то все точки окружности Г, за возможным исключением множества Епервой категории, принадлежат объединению . Получено уточнение теоремы Мейера, согласно к-рому Еесть множество первой категории и типа Fs (см. [12] — [14], где получены усиления теорем Плеснера и Мейера, а также даны обращение теоремы Мейера и характеризация множества M(f)). Работа П. Фату послужила первоначальным толчком к развитию фундаментальных исследований граничных свойств аналитич. ций. Исследования Ф. и М. Риссов, Н. Н. Лузина, И. И. Привалова, Р. Неванлинны (R. Nevanlinna), А. И. Плеснера, В. И. Смирнова и др. проводились независимо от идей П. Пенлеве, и для них характерно использование методов, связанных с теорией меры и теорией интегрирования, с понятием категории по Бэру (см. [4] — [9]). Основным объектом исследований Ф. Иверсена (F. Iversen) и В. Гросса (W. Gross) были также мероморфные функции f в области Dс жордановой границей Г=Fr D. В произвольной точке граничное предельное множество С(f,z0; Г) определяется следующим образом: если М r обозначает замыкание объединения по всем точкам то . Одна из основных теорем, полученных независимо Ф. Иверсеном и В. Гроссом, утверждает, что при указанных условиях в каждой точке множество Ci(f,z0; D) = C(f,z0; D)C(f,z0; Г) открыто и все значения , за возможными двумя исключениями, принадлежат множеству повторяющихся значений R(f,z0; D);кроме того, каждое исключительное значение (если таковые существуют) является асимптотич. значением функции f в точке z0. Исследования Ф. Иверсена и В. Гросса получили свое дальнейшее развитие в работах А. Бёрлинга (A. Beurling), В. Зайделя (W. Seidel, он и ввел термин "П. м." в 1932) и др. (см. [5] — [9]). Рассматривались в основном случаи, когда z0 принадлежит нек-рому "малому" множеству Еточек границы Г нулевой линейной меры или нулевой емкости, и изучалось П. м. С(f,z0; ГЕ), определяемое аналогично множеству C(f,z; Г). В этих исследованиях использовались и методы теории потенциала. Новейшие результаты в этом направлении сформулированы ниже для случая круга . Пусть фиксировано множество Ена дуге g границы Г= , mes E=0,. Каждой точке отнесем жорданову дугу , оканчивающуюся в z. Пусть -замыкание объединения по всем точкам и пусть Тогда множество S(z0) = C(f,z; D)C*(f,z; ГE) открыто, множество S(z0)R(f,z; D)имеет емкость нуль, а каждое значение является асимптотическим значением функции f либо в точке z0, либо в каждой точке нек-рой последовательности . Если емкость Еравна нулю, то для каждой связной компоненты Sk(z0), k=1, 2, . . ., множества S(z0) множество Sk(z0)R(f,z0; D)состоит самое большее из двух различных значений. С помощью нормальных семейств была доказана теорема Линделёфа: если голоморфная функция f ограничена в круге Dи имеет асимптотич. значение ав точке , то она имеет в этой же точке значение айв качестве углового граничного значения. Нормальность семейства мероморфных функций f(z) в области Gможно характеризовать в терминах т. н. сферической производной Именно, семейство Fнормально тогда и только тогда, когда сферич. производные , равномерно ограничены внутри G, т. е. для любого компакта можно указать такую постоянную С=С (К), что Однако наиболее важный вклад нормальных семейств в теорию П. м. формулируется при помощи понятия нормальной функции. Мероморфная в односвязной области Gфункция f(z) наз. нормальной функцией в G, если нормально семейство , где Sпробегает семейство всех конформных автоморфизмов области G; f(z).нормальна в многосвязной области G, если она нормальна на универсальной накрывающей поверхности G. Мероморфная функция f(z) в круге нормальна тогда и только тогда, когда существует константа , такая, что Здесь левая часть есть элемент длины в т. н. хордальной метрике на сфере Римана W для отображения w=f(z), а стоящее в правой части выражение ds(z)=|dz|/(l-|z|2) есть элемент длины в гиперболич. метрике круга D. Ограниченные голоморфные функции и мероморфные функции, не принимающие трех различных значений, являются нормальными функциями, и нек-рые свойства функций названных классов переносятся на произвольные нормальные функции. Напр., для произвольной нормальной функции справедливо утверждение теоремы Линделёфа. Класс всех нормальных мероморфных функций в круге Dимеет нек-рое сходство с классом ограниченного вида функций. Однако имеются и существенные различия. Напр., существуют нормальные мероморфные функции без асимптотич. значений, а следовательно и без радиальных граничных значений, чего не может быть для функций ограниченного вида. Важные исследования аспмнтотич. значений были проведены Дж. МакЛейном (G. R. MacLane, см. [7], [9]). Теория МакЛейна позволила получить новые доказательства известных ранее свойств нормальных функций; так, напр., множество точек , в к-рых нормальная голоморфная функция f(z) имеет асимптотич. значение, а следовательно и угловое граничное значение, плотно на Г. С понятием нормальности тесно связано распределение значений мероморфных функций. Последовательность точек zn единичного круга , наз. Р- последовательностью для меро-морфной функции f(z) в D, если для любой ее бесконечной подпоследовательности и для любого e>0 множество состоит самое большее из двух значений. Показано, что f обладает хотя бы одной P-последовательностью в том и только в том случае, если Таким образом, распределение значений мероморфной функции f(z) связано со строением П. м. непрерывной функции qf(z). Существенные продвижения имеются в теории П. м. общих отображений . Так, еще в 1955 была доказана теорема о точках неопределенности: для произвольного отображения точки , в к-рые можно провести две непрерывные кривые и такие, что образуют самое большее счетное множество. Теорема максимальности Коллингвуда: пусть L0 — произвольный континуум в круге Dтакой, что , и пусть континуум Lq получается из L0 поворотом на угол q вокруг начала координат; тогда для произвольного отображения f:DW точки , в к-рых образуют множество первой категории на Г. Точку относят к множеству С(f), если П. м. C(f,z; D).совпадает с пересечением по всем угловым областям с вершиной z. Доказано [10], что для произвольного отображения f : DW, где Е — множество типа Fs и первой категории. Обратно, для произвольного множества типа Fs и первой категории существует голоморфная и ограниченная в Dфункция f(z), для к-рой E=ГC(f). Множество С(I).является подмножеством множества K(f), состоящего из таких точек , в к-рых для любых двух угловых областей D(z, j1, j2) и D(z, j'1, j'2). Пусть и . Для данного e>0 пусть r(z, e, E).обозначает длину наибольшей открытой дуги на Г, лежащей в дуговой e-окрестности точки z и не имеющей общих точек с Е;если такой дуги нет, то полагают r(z, e, Е)=0. Множество Еназ. пористым на Г, если для любой точки s-пористое множество есть объединение не более чем счетного числа пористых множеств. Всякое s-пористое множество есть множество первой категории и линейной меры нуль. Для произвольного отображения справедливо равенство Г=, где Еесть а-пористое множество типа Gds. Обратно, для произвольного s-пористого множества Есуществует голоморфная и ограниченная в Dфункция f(z), для к-рой . О теории П. м. для функций многих комплексных переменных см., напр., [15] — [17]. Лит.:[1] Рainleve P., Legons sur la theorie analytique des equations differentielles..., P., 1897; [2] Zoretti L., Lemons sur le prolongement analytique..., P., 1911; ЕЗ] Голубев В. В., Однозначные аналитические функции. Автоморфные функции, М., 1961; [4]Привалов. И. И., Граничные свойства аналитических функций, 2 изд., М.- Л., 1950; [5] Носиро Киоси, Предельные множества, пер. с англ., М., 1963; [6] Коллингвуд Э., Ловатер А., Теория предельных множеств, пер. с англ., М., 1971; [7] Мак-Лейн Г., Асимптотические значения голоморфных функций, пер. с англ., М., 1966; [8] Маркушевич А. И., Тумаркин Г. Ц., Хавинсон С. Я., в кн.: Исследования по современным проблемам теории функций комплексного переменного, М., 1961, с. 100-10; [9] Ловатер А., в кн.: Итоги науки и техники. Математический анализ, т. 10, М., 1973, с. 99-259; [10] Долженко Е. П., "Изв. АН СССР. Сер. матем.", 1967, т. 31, № 1, с. 3-14; [11] его же, "Ann. Math.", 1976, v. 2, p. 191-201; [12] Гаврилов В. И., "Докл. АН СССР", 1974, т. 216, № 1, с. 21-23; [13] Гаврилов В. И., Канатников А. Н., там же, 1977, т. 233, № l, с. 15-17; [14] Канатников А. Н., там же, 1978, т. 238, № 5, с. 1043-1046; [15] Рудин У., Теория функций в поликруге, пер. с англ., М., 1974; [16] Xенкин Г. М., Чирка Е. М., в кн.: Итоги науки и техники. Современные проблемы математики, т. 4, М., 1975, с. 13-142; [17] Rudin W., Function theory in the unit ball of C". N.Y. -[e.a.], 1980. В. И. Гаврилов, Е. Д. Соломенцев.