Современный искусственный интеллект и машинное обучение зависят от сотен скрытых настроек (гиперпараметров): скорости обучения, количества слоев в нейросети, параметров регуляризации. В отличие от весов модели, которые обновляются градиентным спуском, гиперпараметры задаются до начала обучения. Каждая проверка нового набора гиперпараметров требует полного цикла переобучения тяжелой нейросети, что может занимать дни или недели работы суперкомпьютера. Слепой случайный поиск (Random Search) или перебор по сетке (Grid Search) здесь экономически неприемлемы. Для быстрого поиска оптимума в таких астрономически дорогих вычислительных средах исследование операций предложило элегантный и интеллектуальный подход — Байесовскую оптимизацию (Bayesian Optimization).