Дробно-линейное программирование — это задача оптимизации, где целевая функция представляет собой отношение двух линейных функций, а ограничения остаются линейными. Подобные задачи часто возникают в экономике, когда необходимо максимизировать эффективность (например, отношение прибыли к затратам) при линейных ресурсных ограничениях. Несмотря на нелинейный вид функции, задача может быть сведена к линейному программированию.

Условия Каруша-Куна-Таккера (ККТ) — это абсолютный фундамент и центральная теорема современного нелинейного математического программирования. Они представляют собой обобщение классического метода множителей Лагранжа на задачи оптимизации, содержащие не только строгие равенства, но и ограничения-неравенства. Любой современный численный метод поиска экстремумов (от алгоритмов внутренней точки до последовательного квадратичного программирования) алгоритмически сводится к поиску точки в многомерном пространстве, которая удовлетворяет системе уравнений и неравенств ККТ.

Глобальная оптимизация сложных, сильно нелинейных и невыпуклых функций долгое время считалась "алхимей" численных методов. Эвристические алгоритмы (генетические алгоритмы, отжиг) способны находить хорошие локальные минимумы, но никогда не дают 100% математической гарантии того, что найденное решение действительно является глобальным. Интервальный анализ (Interval Analysis) — это принципиально иной математический аппарат, предоставляющий абсолютные, аналитически доказанные гарантии нахождения всех глобальных экстремумов в заданной области поиска, что критически важно в робототехнике, химической кинетике и проектировании систем жизнеобеспечения.

В эпоху больших данных (Big Data) и машинного обучения традиционные методы оптимизации, требующие загрузки всей матрицы данных в оперативную память одного вычислительного узла, перестали справляться с нагрузкой. Метод множителей с чередующимися направлениями (Alternating Direction Method of Multipliers, ADMM) стал алгоритмическим спасением для распределенной выпуклой оптимизации. Он гармонично сочетает в себе способность к декомпозиции, свойственную методу двойственного восхождения, и высокую скорость сходимости метода дополненного лагранжиана, позволяя разбивать гигантские задачи на мелкие фрагменты, решаемые параллельно.

Субмодулярность в дискретной (комбинаторной) оптимизации играет ту же фундаментальную роль, что и выпуклость/вогнутость в непрерывном математическом программировании. Субмодулярные функции формализуют интуитивное экономическое понятие убывающей предельной полезности (diminishing returns) и повсеместно возникают в задачах машинного обучения, выбора признаков, размещения сенсорных сетей, максимизации влияния в социальных сетях и задачах покрытия. Оптимизация таких функций представляет собой передний край современной прикладной математики.

Целочисленное программирование — это раздел математического программирования, в котором на некоторые или все переменные накладывается условие целочисленности. Это кардинально меняет природу задачи: если для линейного программирования существуют эффективные полиномиальные методы, то целочисленные задачи во многих случаях относятся к классу NP-трудных. Наиболее распространенным и эффективным подходом для их решения является метод ветвей и границ.