Собственные значения и собственные векторы матриц

Математическое определение и физический смысл

На языке математики уравнение для собственных векторов выглядит лаконично: A * v = lambda * v, где A — квадратная матрица преобразования, v — ненулевой собственный вектор, а lambda (лямбда) — скалярное собственное значение. Физический смысл этого явления колоссален. В механике сплошных сред собственные векторы тензора напряжений показывают главные оси, вдоль которых материал испытывает только чистое растяжение или сжатие, без сдвига. В квантовой механике собственные значения оператора Гамильтона представляют собой возможные энергетические уровни квантовой системы. Выделение собственных векторов позволяет понять самую суть, «скелет» линейного преобразования, скрытый за громоздкой матрицей чисел.

Характеристическое уравнение

Для нахождения собственных значений и векторов необходимо решить уравнение (A - lambda * I) * v = 0, где I — единичная матрица. Так как по определению собственный вектор v не может быть нулевым, матрица (A - lambda * I) обязана быть вырожденной, то есть ее определитель должен быть равен нулю. Уравнение det(A - lambda * I) = 0 называется характеристическим уравнением матрицы. Раскрыв определитель, мы получим полином степени n (где n — размер матрицы). Корни этого полинома и являются искомыми собственными значениями. После того как собственные значения найдены, мы подставляем их по очереди обратно в систему уравнений и находим соответствующие им собственные векторы.

Спектр матрицы и диагонализация

Множество всех собственных значений матрицы называется ее спектром. Если квадратная матрица размера n на n имеет ровно n линейно независимых собственных векторов, ее можно диагонализовать. Это означает, что матрицу можно представить в виде произведения P * D * P^(-1), где D — диагональная матрица, на главной диагонали которой стоят собственные значения, а столбцы матрицы P — это соответствующие собственные векторы. Диагонализация — это невероятно мощный инструмент вычислительной математики. Например, возведение диагонализуемой матрицы в сотую степень сводится к возведению в сотую степень только чисел на диагонали матрицы D, что требует доли миллисекунды машинного времени вместо миллионов операций матричного умножения.

Применение в алгоритмах и анализе данных

В современном анализе данных (Data Science) собственные векторы используются для метода главных компонент (PCA). Метод PCA позволяет снизить размерность огромных наборов данных, отбрасывая шум и оставляя только самую важную информацию. Он работает путем нахождения собственных векторов ковариационной матрицы данных. Собственные векторы с самыми большими собственными значениями указывают направления максимальной дисперсии (разброса) данных. Кроме того, системы распознавания лиц используют технику «собственных лиц» (Eigenfaces), основанную на аналогичном математическом аппарате, раскладывая изображение лица в линейную комбинацию базовых, собственных изображений.