Байесовская оптимизация: максимизация дорогих функций "черного ящика"

Математическое ядро байесовской оптимизации опирается на Гауссовские процессы (Gaussian Processes, GP). GP используется в качестве априорного распределения (prior) вероятностей над всем бесконечным множеством возможных целевых функций. Обучая GP на уже известных точках (наблюдениях), алгоритм по теореме Байеса вычисляет апостериорное распределение (posterior) функции. Уникальная сила регрессии на гауссовских процессах заключается в том, что она для любой неизведанной точки пространства $x$ возвращает не только математическое ожидание (прогноз) значения функции $\mu(x)$, но и дисперсию $\sigma^2(x)$, которая является строгой мерой нашей неуверенности в этом прогнозе.

Имея суррогатную модель с оценкой неопределенности, алгоритм использует функцию сбора (Acquisition Function), чтобы определить, какую точку пространства стоит исследовать (вычислить) следующей. Функция сбора решает фундаментальную дилемму оптимизации — баланс между эксплуатацией (Exploitation, выбор точек, где прогнозируемое значение $\mu(x)$ высоко) и исследованием (Exploration, выбор точек с высокой дисперсию $\sigma^2(x)$, где мы ничего не знаем). Наиболее популярной функцией сбора является Ожидаемое Улучшение (Expected Improvement, EI), которая математически аналитически вычисляет ожидаемую величину превосходства функции в точке $x$ над лучшим уже найденным значением (рекордом).

Алгоритмический цикл работает следующим образом: сначала с помощью дешевых градиентных методов или глобального поиска максимизируется аналитическая функция сбора $EI(x)$. Найденная точка $x_{next}$ отправляется в реальный, "дорогой" черный ящик для вычисления $f(x_{next})$. Полученный результат добавляется в базу данных наблюдений, после чего суррогатная модель (Гауссовский процесс) обновляет свои ковариационные матрицы. Благодаря такому интеллектуальному подходу, Байесовская оптимизация часто находит глобальный оптимум сложнейших многомодальных функций всего за несколько десятков или сотен итераций.

Современный триумф байесовской оптимизации неразрывно связан с настройкой гиперпараметров (Hyperparameter Tuning) в машинном обучении. Инструменты вроде Optuna и Spearmint используют этот подход для подбора скорости обучения, архитектуры слоев и коэффициентов регуляризации в нейросетях, экономя мегаватты вычислительной мощности. Кроме того, метод активно применяется в материаловедении для поиска сплавов с оптимальными характеристиками, доказывая, что математика Байеса способна извлекать максимум информации из минимума дорогостоящих экспериментов.

Список литературы:
1. Snoek J., Larochelle H., Adams R.P. Practical Bayesian Optimization of Machine Learning Algorithms. — NIPS, 2012.
2. Rasmussen C.E., Williams C.K.I. Gaussian Processes for Machine Learning. — MIT Press, 2006.
3. Шахов А.В. Методы байесовской оптимизации: теория и практика. — М.: ДМК Пресс, 2020.