Мы живем в эпоху Больших Данных, когда объекты часто описываются тысячами параметров: каждый пиксель на фотографии или каждый ген в ДНК пациента является отдельной переменной. Работать с таким массивом измерений напрямую невозможно: алгоритмы захлебываются в вычислениях, а человек не способен визуализировать пространства выше трехмерного. Эту проблему «проклятия размерности» изящно решает Метод Главных Компонент (Principal Component Analysis, PCA), разработанный Карлом Пирсоном. Несмотря на свое статистическое происхождение, PCA является чистейшим триумфом линейной алгебры. Он использует собственные векторы матриц ковариации для поворота координатных осей так, чтобы отделить значимую информацию (сигнал) от случайного шума.

При решении однородных систем линейных алгебраических уравнений (СЛАУ), где правая часть (вектор свободных членов) полностью состоит из нулей, система всегда имеет как минимум одно решение — тривиальное (все неизвестные равны нулю). Однако главный интерес для науки представляют те случаи, когда матрица системы вырождена, и помимо нулевого вектора существует бесконечное множество ненулевых решений. Множество абсолютно всех векторов, которые обнуляются при умножении на заданную матрицу A, называется ее нуль-пространством или ядром (Ker A). Понимание структуры ядра матрицы позволяет химикам балансировать сложнейшие уравнения реакций, а инженерам-строителям — анализировать степени свободы и внутренние напряжения фермовых конструкций мостов.

Сингулярное разложение (SVD) является вершиной анализа двумерных матриц, позволяя находить скрытые факторы и сжимать данные. Но что делать, когда данные имеют более двух измерений? Например, видео (ширина, высота, время), цветные медицинские МРТ-сканы (X, Y, Z) или данные социальных сетей (пользователь, действие, контекст, время). Такие многомерные массивы описываются тензорами высоких рангов. Попытка сплющить тензор в обычную матрицу (матрицизация) приводит к колоссальной потере структурной информации. Для полноценного анализа многомерных данных математики обобщили SVD на многомерный случай, создав два фундаментальных метода: разложение CP (CANDECOMP/PARAFAC) и разложение Таккера. Эти алгоритмы лежат в основе современных рекомендательных систем и хемометрики.

Когда мы исследуем функцию одной переменной, первая производная показывает нам скорость роста (наклон), а вторая производная — кривизну графика (выпуклость или вогнутость), что позволяет точно находить максимумы и минимумы. Но как быть с функциями многих переменных, которые описывают сложные многомерные поверхности? Здесь на помощь приходит матрица Гессе (гессиан), названная в честь немецкого математика Людвига Отто Гессе. Гессиан — это квадратная симметричная матрица, состоящая из всех возможных вторых частных производных скалярной функции. В симбиозе с градиентом (аналогом первой производной), матрица Гессе является главным математическим аппаратом теории оптимизации, машинного обучения и теоретической механики.