Сингулярное разложение (Singular Value Decomposition, сокращенно SVD) часто называют вершиной классической линейной алгебры. Если метод собственных значений (диагонализация) работает только для квадратных матриц и требует довольно жестких условий, то SVD применимо абсолютно к любой матрице: квадратной, прямоугольной, вырожденной, нулевой. Это разложение позволяет заглянуть в самую глубокую анатомию любого линейного преобразования, выявляя его скрытую структуру. Сегодня алгоритмы вычисления SVD встроены в каждую библиотеку машинного обучения, так как на этом математическом фундаменте стоят системы рекомендаций, методы сжатия данных, распознавание изображений и семантический анализ текстов.

В то время как линейные формы (функции первой степени) описывают прямые, плоскости и гиперплоскости, квадратичные формы открывают нам дверь в мир кривых и поверхностей второго порядка: эллипсов, парабол, гиперболоидов и конусов. Формально, квадратичная форма — это однородный многочлен второй степени от нескольких переменных. Квадратичные формы являются важнейшим инструментом в аналитической геометрии для классификации поверхностей, в математическом анализе для исследования функций многих переменных на экстремум (максимум и минимум), а также в теоретической механике, где кинетическая и потенциальная энергии часто выражаются именно через квадратичные формы от скоростей или координат.

Математика не изучает объекты в изоляции; ей всегда интересны связи и трансформации. В линейной алгебре роль таких трансформаторов играют линейные операторы (или линейные отображения). Линейный оператор — это специальная функция, которая берет вектор из одного пространства и переводит его в вектор другого (или того же самого) пространства, при этом строго сохраняя структуру линейных комбинаций. Геометрически операторы описывают всевозможные преобразования пространства: растяжения по осям, сдвиги, симметрии, проекции на плоскости и вращения. Понимание того, как работают линейные операторы, позволяет описывать динамику сложных систем в физике и программировать трехмерную компьютерную графику.