В древнегреческой мифологии разбойник Прокруст укладывал путников на свое ложе, вытягивая им ноги или отрубая их, чтобы подогнать под размер кровати. В современной статистике, биоинформатике и компьютерном зрении «Анализ Прокруста» — это строгий математический аппарат для сравнения двух многомерных облаков точек. Задача заключается в том, чтобы найти такое идеальное пространственное вращение (и отражение), которое максимально точно наложило бы один набор точек на другой, минимизируя сумму квадратов расстояний между ними. Решение этой знаменитой Ортогональной проблемы Прокруста осуществляется не громоздкими методами градиентной оптимизации, а одним единственным, алгебраически совершенным применением Сингулярного разложения (SVD).

Когда дата-сайентисты обучают гигантские нейронные сети или решают переопределенные системы уравнений на терабайтах данных, они не могут загрузить всю матрицу в оперативную память. Решением стала разработка алгоритмов, которые считывают данные по одной строке (одному примеру) за раз. Исторически первым таким алгоритмом стал алгоритм польского математика Стефана Качмажа, опубликованный в 1937 году. В 2009 году Томас Стромер и Роман Вершинин доказали, что если выбирать строки матрицы не по порядку, а случайным образом с определенными вероятностями, метод Качмажа обретает фантастическую, экспоненциальную скорость сходимости. Так родилась строгая алгебраическая теория рандомизированного метода Качмажа (RK), ставшая фундаментом для понимания современного стохастического градиентного спуска (SGD).

Алгоритмы Ланцоша и Арнольди великолепно справляются с нахождением крайних (самых больших или самых маленьких) собственных значений гигантских разреженных матриц. Однако в физике твердого тела, фотонике и квантовой химии инженерам часто требуется найти собственные значения, спрятанные глубоко внутри спектра (вблизи заданного пользователем значения). Классические методы в подпространствах Крылова для этой задачи сходятся катастрофически медленно. В 1996 году голландские математики Герард Слейпен и Хенк ван дер Ворст совершили прорыв, объединив старинный метод диагонализации Якоби с алгоритмом подпространств Дэвидсона. Так родился метод Якоби-Дэвидсона — невероятно гибкий алгоритм, позволяющий целенаправленно извлекать резонансные частоты из самого центра матричного спектра.