Когда дата-сайентисты обучают гигантские нейронные сети или решают переопределенные системы уравнений на терабайтах данных, они не могут загрузить всю матрицу в оперативную память. Решением стала разработка алгоритмов, которые считывают данные по одной строке (одному примеру) за раз. Исторически первым таким алгоритмом стал алгоритм польского математика Стефана Качмажа, опубликованный в 1937 году. В 2009 году Томас Стромер и Роман Вершинин доказали, что если выбирать строки матрицы не по порядку, а случайным образом с определенными вероятностями, метод Качмажа обретает фантастическую, экспоненциальную скорость сходимости. Так родилась строгая алгебраическая теория рандомизированного метода Качмажа (RK), ставшая фундаментом для понимания современного стохастического градиентного спуска (SGD).

Алгоритмы Ланцоша и Арнольди великолепно справляются с нахождением крайних (самых больших или самых маленьких) собственных значений гигантских разреженных матриц. Однако в физике твердого тела, фотонике и квантовой химии инженерам часто требуется найти собственные значения, спрятанные глубоко внутри спектра (вблизи заданного пользователем значения). Классические методы в подпространствах Крылова для этой задачи сходятся катастрофически медленно. В 1996 году голландские математики Герард Слейпен и Хенк ван дер Ворст совершили прорыв, объединив старинный метод диагонализации Якоби с алгоритмом подпространств Дэвидсона. Так родился метод Якоби-Дэвидсона — невероятно гибкий алгоритм, позволяющий целенаправленно извлекать резонансные частоты из самого центра матричного спектра.

Матричная алгебра способна извлекать колоссальные объемы информации не только из физических уравнений, но и из абстрактных топологических сетей (графов). Спектральная теория графов изучает свойства матриц смежности и лапласианов сетей для ответов на важнейшие вопросы топологии: насколько хорошо перемешивается информация в социальной сети? Насколько сложно разорвать интернет-соединение пополам? В центре этой теории находятся так называемые экспандеры — уникальный класс графов, которые сочетают в себе на первый взгляд несочетаемое: они имеют крайне мало ребер (очень разреженные, дешевые в постройке), но при этом обладают невероятно высокой алгебраической связностью, обеспечивая фантастическую скорость распространения сигнала.