Одной из самых ресурсоемких операций в вычислительной линейной алгебре является обращение больших матриц (вычислительная сложность O(n^3)). В задачах онлайн-машинного обучения, фильтрации сигналов в реальном времени и системной идентификации данные часто поступают последовательно (по одному вектору). При получении новой порции данных матрица системы немного изменяется, и нам требуется найти ее новую обратную матрицу. Пересчитывать обратную матрицу с нуля каждый миллисекунду для систем с тысячами переменных — физически невозможно. На помощь приходит потрясающий математический инструмент — Формула Шермана-Моррисона и ее матричное обобщение, Тождество Вудбери (Woodbury matrix identity), которые позволяют вычислять обновления за сотые доли секунды.

Когда дата-сайентисты анализируют временные ряды (например, графики курсов акций, температурные изменения климата или объемы розничных продаж), они часто используют спектральный анализ Фурье или авторегрессионные модели ARIMA. Однако в 1980-х годах (параллельно в СССР и США) был разработан уникальный непараметрический метод, который перевел анализ временных рядов на чистый язык линейной алгебры и матричной факторизации. Этот метод получил название «Анализ сингулярного спектра» (Singular Spectrum Analysis, SSA) или метод «Гусеница» (Caterpillar). SSA элегантно комбинирует геометрию подпространств с динамикой сигналов, позволяя без всяких априорных уравнений разлагать сложнейший временной ряд на понятные компоненты: медленный тренд, периодические (сезонные) колебания и высокочастотный хаотичный шум.

Классическая линейная алгебра идеально описывает плоские евклидовы пространства, где базисные векторы постоянны и ортогональны. Однако когда мы переходим к анализу поверхностей сложной формы (сферы, торы) или к описанию гравитации в Общей теории относительности Эйнштейна, геометрия пространства становится искривленной, а базисы начинают меняться от точки к точке. Для работы с такой геометрией итальянский математик Грегорио Риччи-Курбастро вместе со своим учеником Туллио Леви-Чивитой создал абсолютный дифференциальный анализ, известный сегодня как Тензорное исчисление Риччи. Этот математический аппарат объединил линейную алгебру, матрицы и дифференциальные уравнения в единый механизм, позволяющий физическим законам сохранять свою форму в любой, сколь угодно запутанной системе координат.