Теория больших отклонений количественно описывает экспоненциально малые вероятности редких событий в больших системах. Она устанавливает скорости убывания вероятностей как (P(A_n)sim e^{-nI(A)}).

Стохастическая аппроксимация итеративно минимизирует целевые функции по шумным градиентам. Она решает уравнения типа (mathbb{E}[H( heta,X)]=0) последовательными корректировками.

Стохастическое управление оптимизирует процессы с неполной информацией и случайными помехами. Оно решает задачи динамического программирования для стохастических дифференциальных уравнений.