Метод последовательного квадратичного программирования (SQP)

Принцип SQP заключается в линеаризации ограничений и квадратичной аппроксимации функции Лагранжа. На каждой итерации $k$ мы решаем задачу поиска направления поиска $d_k$, минимизируя квадратичную модель Лагранжиана при линейных ограничениях. После нахождения $d_k$ выполняется уточнение текущей точки $x_{k+1} = x_k + alpha_k d_k$, где $alpha_k$ — длина шага, определяемая методами поиска, обеспечивающими сходимость (например, функция фильтра или штрафные функции).

Преимущество SQP — высокая скорость сходимости (квадратичная при близости к оптимуму), что делает его незаменимым для высокоточных задач инженерии и управления. В отличие от простых штрафных методов, SQP очень хорошо "чувствует" активные ограничения на границе допустимой области, что позволяет быстрее находить точное значение экстремума. Основные вычислительные затраты приходятся на решение квадратичной подзадачи и вычисление матрицы вторых производных (Гессиана) Лагранжиана.

Для работы с большими задачами часто используются квазиньютоновские варианты SQP, где матрица Гессиана аппроксимируется формулой BFGS на основе изменения градиента функции Лагранжа. Это избавляет от необходимости вычислять производные второго порядка вручную, что критично для сложных прикладных задач. Решатели типа SNOPT или IPOPT являются современными реализациями этих подходов, работающими в коммерческих системах моделирования.

Внедрение SQP позволяет оптимизировать сложные динамические системы, где ограничения на состояние могут быть нелинейными и сильно связанными. Успех применения SQP определяется качеством реализации процедур выбора шага и надежностью оценки вторых производных. Метод остается "золотым стандартом" в индустрии для решения нелинейных оптимизационных задач, где требуется высокая точность и сходимость.

Список литературы:
1. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. — М.: Мир, 1985.
2. Богомолов С.А. Методы нелинейной оптимизации. — М.: Физматлит, 2005.
3. Никулин Е.А. Методы оптимизации. — СПб.: Лань, 2017.