Когда мы работаем с векторами в абстрактных линейных (евклидовых) пространствах, нам необходим математический инструмент для измерения «взаимоотношений» между ними: длин, углов и того, насколько сильно они пересекаются друг с другом. Датский математик Йорген Педерсен Грам ввел конструкцию, которая идеально решает эту задачу. Матрица Грама — это квадратная симметричная матрица, составленная из всех возможных попарных скалярных произведений заданного набора векторов. Эта матрица не только хранит в себе полную метрическую геометрию системы векторов, но и позволяет изящно вычислять многомерные объемы, расстояния от точек до гиперплоскостей и проверять векторы на линейную зависимость без использования метода Гаусса.

Симметричные матрицы (у которых элементы симметричны относительно главной диагонали, A = A^T) встречаются в математике и физике повсеместно. Они описывают тензоры инерции твердых тел, матрицы напряжений в сопромате, матрицы ковариации в статистике и гамильтонианы в квантовой механике. Столь широкое распространение не случайно: симметричные матрицы обладают невероятно удобными и «красивыми» математическими свойствами, которые объединяются в одну из самых важных теорем всей линейной алгебры — Спектральную теорему. Эта теорема утверждает, что геометрия любого преобразования, заданного симметричной матрицей, сводится к простому масштабированию (растяжению или сжатию) вдоль взаимно перпендикулярных осей.

Мы живем в эпоху Больших Данных, когда объекты часто описываются тысячами параметров: каждый пиксель на фотографии или каждый ген в ДНК пациента является отдельной переменной. Работать с таким массивом измерений напрямую невозможно: алгоритмы захлебываются в вычислениях, а человек не способен визуализировать пространства выше трехмерного. Эту проблему «проклятия размерности» изящно решает Метод Главных Компонент (Principal Component Analysis, PCA), разработанный Карлом Пирсоном. Несмотря на свое статистическое происхождение, PCA является чистейшим триумфом линейной алгебры. Он использует собственные векторы матриц ковариации для поворота координатных осей так, чтобы отделить значимую информацию (сигнал) от случайного шума.