Точное вычисление собственных значений (спектра) матриц большой размерности — задача колоссальной вычислительной сложности, требующая применения громоздких итерационных алгоритмов вроде метода QR. Однако во многих прикладных инженерных задачах (например, при проверке устойчивости энергосетей или мостовых конструкций) точные значения корней характеристического многочлена не нужны. Инженерам достаточно знать лишь примерную область на комплексной плоскости, где эти корни могут находиться. В 1931 году советский математик Семен Аронович Гершгорин опубликовал невероятно изящную теорему, которая позволяет очертить строгие границы спектра абсолютно любой квадратной матрицы, используя лишь элементарную арифметику: простые сложения модулей ее элементов.

Одной из самых ресурсоемких операций в вычислительной линейной алгебре является обращение больших матриц (вычислительная сложность O(n^3)). В задачах онлайн-машинного обучения, фильтрации сигналов в реальном времени и системной идентификации данные часто поступают последовательно (по одному вектору). При получении новой порции данных матрица системы немного изменяется, и нам требуется найти ее новую обратную матрицу. Пересчитывать обратную матрицу с нуля каждый миллисекунду для систем с тысячами переменных — физически невозможно. На помощь приходит потрясающий математический инструмент — Формула Шермана-Моррисона и ее матричное обобщение, Тождество Вудбери (Woodbury matrix identity), которые позволяют вычислять обновления за сотые доли секунды.

Когда дата-сайентисты анализируют временные ряды (например, графики курсов акций, температурные изменения климата или объемы розничных продаж), они часто используют спектральный анализ Фурье или авторегрессионные модели ARIMA. Однако в 1980-х годах (параллельно в СССР и США) был разработан уникальный непараметрический метод, который перевел анализ временных рядов на чистый язык линейной алгебры и матричной факторизации. Этот метод получил название «Анализ сингулярного спектра» (Singular Spectrum Analysis, SSA) или метод «Гусеница» (Caterpillar). SSA элегантно комбинирует геометрию подпространств с динамикой сигналов, позволяя без всяких априорных уравнений разлагать сложнейший временной ряд на понятные компоненты: медленный тренд, периодические (сезонные) колебания и высокочастотный хаотичный шум.

Классическая линейная алгебра идеально описывает плоские евклидовы пространства, где базисные векторы постоянны и ортогональны. Однако когда мы переходим к анализу поверхностей сложной формы (сферы, торы) или к описанию гравитации в Общей теории относительности Эйнштейна, геометрия пространства становится искривленной, а базисы начинают меняться от точки к точке. Для работы с такой геометрией итальянский математик Грегорио Риччи-Курбастро вместе со своим учеником Туллио Леви-Чивитой создал абсолютный дифференциальный анализ, известный сегодня как Тензорное исчисление Риччи. Этот математический аппарат объединил линейную алгебру, матрицы и дифференциальные уравнения в единый механизм, позволяющий физическим законам сохранять свою форму в любой, сколь угодно запутанной системе координат.