Многоуровневое (в частности, двухуровневое) математическое программирование описывает сложный класс задач оптимизации, в которых целевая функция и ограничения содержат переменные, являющиеся оптимальным решением другой задачи оптимизации. Этот математический аппарат идеально подходит для моделирования иерархических систем принятия решений, где участники обладают асимметричными полномочиями. В экономике и теории игр такие задачи известны как модели Штакельберга, где существует «Лидер», делающий первый ход, и «Ведомый», реагирующий на действия Лидера.

Метод эллипсоидов, предложенный советским математиком Леонидом Хачияном в 1979 году, стал исторической вехой в математическом программировании. Этот алгоритм впервые строго доказал, что задачи линейного программирования могут быть решены за полиномиальное время. В отличие от классического симплекс-метода, который в худших сценариях (например, на кубе Клее-Минти) требует экспоненциального количества шагов, метод эллипсоидов гарантирует нахождение оптимума с оценкой сложности, зависящей только от размера входных данных, что навсегда изменило теоретический ландшафт теории алгоритмов и вычислительной сложности.

Когда целевая функция имеет сложный, мультимодальный ландшафт с множеством локальных минимумов, градиентные методы оказываются бесполезными. В таких случаях на помощь приходят методы глобальной оптимизации, основанные на случайном поиске. Они не гарантируют нахождение глобального минимума за конечное время, но обладают высокой вероятностью попадания в "бассейн притяжения" глобального оптимума.