Метод Монте-Карло для марковских цепей (MCMC): алгоритм Метрополиса-Гастингса
При решении задач стохастической оптимизации, байесовского вывода в машинном обучении и оценке финансовых производных аналитикам часто требуется вычислить сложные многомерные интегралы. Классические численные методы (такие как квадратуры Гаусса) терпят полное фиаско в пространствах высокой размерности из-за проклятия размерности. Стандартный метод Монте-Карло, основанный на случайной генерации точек, также становится неэффективным, если область, дающая основной вклад в интеграл, ничтожно мала. Для преодоления этого математического барьера был создан Метод Монте-Карло марковских цепей (MCMC). Этот аппарат позволяет компьютеру интеллектуально сэмплировать (извлекать выборки) из сложнейших, аналитически неразрешимых распределений вероятностей, концентрируя вычислительную мощь именно там, где это математически наиболее важно.