Спуска Метод

Метод решения задачи минимизации где f — нек-рая функция переменной х= (х 1, . . ., х n). Итерационная последовательность С. м. вычисляется по формуле где gk — вектор, указывающий нек-рое направление убывания функции f в точке х k, а — итерационный параметр, величина к-рого указывает длину шага в направлении gk. Если функция f дифференцируема и xk не является ее точкой экстремума, то вектор gk должеа удовлетворять неравенству где f' (xk) — градиент функции f в точке xk. Если f — достаточно гладкая функция (напр., дважды непрерывно дифференцируемая) и последовательность векторов удовлетворяет неравенству (*), то существует такая последовательность что При определенных ограничениях (см. [3]) на функцию f и способ выбора параметров и векторов gk последовательность сходится к решению х* исходной задачи. К С. м. относятся градиентные методы, в к-рых векторы каким-либо образом выражаются через векторы . Одним из наиболее распространенных является случай, когда где В(х) — симметрическая матрица, удовлетворяющая для любых векторов хи у неравенству с нек-рыми константами При дополнительных предположениях (см. [3])относительно f и специальном выборе градиентный метод обеспечивает сходимость последовательности к решению исходной задачи со скоростью геометрич. прогрессии со знаменателем g<l. Частным случаем градиентных методов является наискорейшего спуска метод, в к-ром матрица В(х)выбирается единичной. Лит.: [1] Канторович Л. В., Акилов Г. П., Функциональный анализ в нормированных пространствах, 2 изд., М., 1977; [2] 3ойтендейк Г., Методы возможных направлений, пер. с англ., М., 1963; [3] Пшеничный Б. Н., Данилин Ю. М., Численные методы в экстремальных задачах, М., 1975; [4] Поляк Б. Т., лЖ. вычисл. математики и матем. физики