Стохастическая оптимизация минимизирует функции с шумными градиентами, решая задачи машинного обучения и управления. Она обеспечивает масштабируемость для больших данных через мини-батчи.

Стохастическая аппроксимация итеративно минимизирует целевые функции по шумным градиентам. Она решает уравнения типа (mathbb{E}[H( heta,X)]=0) последовательными корректировками.

Стохастическое управление оптимизирует процессы с неполной информацией и случайными помехами. Оно решает задачи динамического программирования для стохастических дифференциальных уравнений.