Раздел прикладной теории дифференциальных уравнений, связанный с изучением колебательных явлений в естествознании и технике. Основные проблемы К. т. состоят в доказательстве существования и фактич. отыскании колебательных (периодических, почти периодических и др.) движений — решений заданной системы, и исследовании поведения остальных решений по отношению к данным колебательным. Различают теорию линейных колебаний и теорию нелинейных колебаний. В теории линейных колебаний дело сводится к изучению линейных систем дифференциальных уравнений, это обычно бывает связано с тем, что рассматриваемые величины (искомые функции системы дифференциальных уравнений) столь малы, что оказывается возможным пренебречь нелинейными членами в правых частях системы. Рассматриваются линейные системы дифференциальных уравнений: где x(t)и f(t)суть n-мерные векторы, а Р(t) — квадратная матрица порядка n, причем Р(t)и f(t)чаще всего являются периодич. или почти периодич. функциями. Основные проблемы теории линейных колебаний: построение периодич. и почти периодич. решений системы (1) и исследование свойств их устойчивости. Наиболее детально с этих точек зрения изучены случаи, когда заданная система близка к системе уже изученной, иными словами, те случаи, когда удается ввести малый параметр следующим образом: в предположении, что система полностью исследована, а m — малый параметр. Для таких систем в большинстве случаев удается исследовать вопрос о существовании периодических (соответственно почти периодических) решений и фактически построить их. При весьма широких предположениях относительно матриц Ри Qдается представление характеристич. показателей системы (3) в виде функций параметра (см. [7], [10]), в частности исследовано интересное явление параметрич. резонанса в линейных системах [5]. В теории нелинейных колебаний как по постановке задач, так и по методам исследования существенным образом различаются так наз. локальные и нелокальные проблемы. К первым из них относятся такие задачи, в к-рых удается выделить какие-либо "малости" (напр., малы сами исследуемые величины, или в системе имеются малые параметры). Если в исследуемой задаче искомые функции можно считать малыми, то дело сводится к исследованию окрестности состояния равновесия для системы дифференциальных уравнений где x(t)и X( х, t )суть n-мерные векторы и Х(0, t)=0. Здесь широко применяются методы локальной качественной теории дифференциальных уравнений ['4] и методы теории устойчивости движения в смысле Ляпунова [1]. Весьма важный результат для теории нелинейных колебаний был получен А. Н. Колмогоровым и его последователями (см. [4]): было доказано существование квазипериодич. решений в окрестности состояния равновесия х=0 для системы (4). Часто в заданные системы дифференциальных уравнений входят малые параметры, т. е. рассматриваются системы вида где m — малый параметр. С такого рода системами связывают следующую проблему: наряду с системой (5) рассматривают так наз. "порождающую" систему — ту, в к-рую обращается система (5) при m=0, т. е. систему вида (4). Предполагается, что "порождающая" система обладает нек-рым свойством; ставится вопрос: не будет ли и система (5) обладать тем же свойством при малых, но отличных от нуля m. Напр., пусть система (4) имеет периодич. или почти периодич. решение x=y(t), будет ли при этом система (5) обладать периодич. или почти периодич. решением x=j(t,m) таким, что Еще А. Пуанкаре [2] разработал мощные методы для решения такого рода проблем. В ряде случаев им было не только доказано существование периодич. решения, но и указан алгоритм для его построения (см., напр.,[5]). Н. М. Крылов, Н. Н. Боголюбов и их ученики (см. [3], [6], [11]) развивали для систем вида (5) асимптотич. методы. Среди этих методов особо важную роль играет метод осреднения, к-рый состоит в следующем. Рассматривается так наз. стандартная система: Оказывается, что к такой системе могут быть сведены многие системы теории нелинейных колебаний. Наряду с системой (6) рассматривается "осредненная" система где Н. М. Крылов и Н. Н. Боголюбов показали, что система (7) приближает систему (6) с точностью до величин порядка m2. С помощью дальнейших осреднений можно избавиться от зависимости от tв членах сколь угодно высокого порядка малости по m. Однако этот процесс, как правило, расходится, так что описанный метод является по существу асимптотическим. Весьма важную роль в теории нелинейных колебаний играет метод интегральных поверхностей. Основы этого метода были заложены А. М. Ляпуновым [1]. При весьма общих предположениях было доказано (см. [3], [6], [11]), что если "порождающая" система (4) имеет интегральную поверхность с определенными свойствами, то и система (5) обладает такой же интегральной поверхностью. С описанным кругом проблем тесно связана теория релаксационных колебаний. Эти колебания описываются системами дифференциальных уравнений с малыми параметрами при производных: где хи X -n-мерные векторы, уи Y — m-мерные векторы, а m — малый параметр. Наряду с системой (8) рассматривается вырожденная система: Если система (9) имеет специальное "разрывное" периодическое решение, то и (8) в ряде случаев располагает при малых m истинным периодич. решением (см. [12]). В приложениях весьма часто встречаются системы дифференциальных уравнений, в к-рых нельзя выделить никаких малостей. Здесь сталкиваются с нелокальными проблемами К. т. При исследовании нелокальных проблем возникают весьма серьезные трудности. Однако в ряде частных, но важных для приложений, случаев удается провести полное исследование соответствующей системы или получить достаточно существенную информацию о поведении ее решений. Напр., для уравнения представляющего собой обобщение Ван дер Поля уравнения, Н. Левинсон и О. Смит [15] доказали существование, устойчивость и единственность предельного цикла. При доказательстве существенно использовался тот факт, что уравнение (10) есть уравнение 2-го порядка. В дальнейшем было доказано существование пернодич. решения у нелинейного уравнения 3-го порядка и различных автономных систем высших порядков. При исследовании периодических неавтономных систем, т. е. систем вида (4), у к-рых X( х,i+w)=X(x, t), с системой связывают ее преобразование Пуанкаре Т, вводимое формулой Тх 0=х(w,0, х 0), где x(t, t0, x0)- решение системы (4) такое, что x(t0, t0, x0) = x0. Если х* есть неподвижная точка преобразования Т, то решение x(t,0, х* )имеет период w по t. Это дает возможность для доказательства существования периодич. решений применять различные теоремы о существовании неподвижной точки (см. [8], [9]). В теории нелинейных колебаний важную роль играют диссипативные системы (это такие системы вида (4), у к-рых все решения при достаточно больших tостаются в фиксированном шаре) и системы с конвергенцией (у таких систем все решения сходятся к одному устойчивому); разработаны достаточно надежные методы доказательства конвергентности и диссипативности конкретных систем [8]. Поведение решений диссипативной периодич. системы во многом определяется структурой нек-рого асимптотически устойчивого интегрального множества этой системы. Поэтому для теории нелинейных колебаний существенно исследование структуры таких множеств. В случае, если заданная система имеет лишь конечное число периодич. решений, такое множество удается охарактеризовать достаточно полно [13]. Если же система имеет бесконечно много периодич. решений, то в этом случае оказывается, что асимптотически устойчивые интегральные множества имеют чрезвычайно сложную структуру [13]. Исследование таких систем связано, как правило, с преодолением значительных трудностей, и его удается провести лишь в исключительных случаях. Пример такого исследования дан М. Картрайт и Дж. Литлвудом [16] при исследовании уравнения Ван дер Поля с вынужденней: В частности, они показали, что это уравнение при соответствующем выборе параметров bи kимеет бесконечно много периодич. решений. Лит.:[1] Ляпунов А. М., Общая задача об устойчивости движения, Хар., 1892; [2] Роinсаrе Н., Les methodes nouvelles de la mecanique celeste, t. 1, P., 1892; [3] Крылов Н. М., Боголюбов Н. Н., Новые методы нелинейной механики, М.-Л., 1934; [4] Немыцкий В. В., Степанов В. В., Качественная теория дифференциальных уравнений, М.-Л., 1949; [5] Малкин И. Г., Некоторые задачи теории нелинейных колебаний, М.-Л., 1956; [6] Боголюбов Н. Н., Мигропольский Ю. А., Асимптотические методы в теории нелинейных колебаний, 3 изд., М., 1963; [7] Еругин Н. П., Ли. нейные системы обыкновенных дифференциальных уравнений с периодическими и квазипериодическими коэффициентами, Минск, 1963; [8] П л и с с В. А., Нелокальные проблемы теории колебаний, М.- Л., 1964; [9] Красносельский М. А., Оператор сдвига по траекториям дифференциальных уравнений, М., 1966; [10] Якубович В. А.,Старжинский В. М., Линейные дифференциальные уравнения с периодическими коэффициентами, М., 1972; [11] Митропольский Ю. А., Лыкова О. Б., Интегральные многообразия в нелинейной механике, 1973; [12] Мищенко Е. Ф., Розов Н. X.. Дифференциальные уравнения с малым параметром и релаксационные колебания, М., 1975; [13] ПлиссВ. А., Интегральные множества периодических систем дифференциальных уравнений, М., 1977; [14] Арнольд В. И., "Успехи матем. наук", 1963, т. 18, в. 6, с. 91 — 192; [15] Levinson N., Smit О. К., "Duke Math. J.", 1942, v. 9, p. 382-403; [16] Littlewbod J. E., "Acta math.", 1957, v. 97, № 3-4, p.267 -308. В. А. Плисc.