Традиционная линейная алгебра утверждает, что динамика линейной системы полностью определяется ее собственными значениями (спектром). Если действительные части всех собственных значений отрицательны, система асимптотически устойчива. Однако в 1990-х годах физики и математики (в частности, Ллойд Трефетен) обнаружили парадокс: жидкости в трубах становились турбулентными даже при числах Рейнольдса, для которых классический спектральный анализ предсказывал абсолютную стабильность. Разгадка крылась в так называемых ненормальных матрицах (матрицах, чьи собственные векторы не образуют ортогональный базис). Для анализа скрытых нестабильностей таких систем была разработана потрясающая теория псевдоспектров.

Долгое время в инженерии и компьютерной графике трехмерные вращения описывались с помощью углов Эйлера (крен, тангаж, рыскание) или матриц поворота 3x3. Однако оба этих метода имеют критические изъяны: углы Эйлера страдают от эффекта «шарнирного замка» (gimbal lock) — потери одной степени свободы при совпадении осей, а матрицы поворота из-за ошибок округления перестают быть ортогональными и начинают искажать объекты. Гениальное решение этих проблем было найдено ирландским математиком Уильямом Гамильтоном в 1843 году. Он создал кватернионы — четырехмерную алгебру, расширяющую комплексные числа. Сегодня линейная алгебра кватернионов — это абсолютный стандарт в движках видеоигр (Unity, Unreal Engine), орбитальной механике спутников и кинематике роботов-манипуляторов.

Когда линейный оператор действует на многомерное векторное пространство, большинство векторов изменяют свою длину и направление, хаотично перемешиваясь. Но если присмотреться к структуре оператора, можно обнаружить целые области (плоскости, гиперплоскости), которые ведут себя как закрытые экосистемы. Если взять любой вектор из такой области и подействовать на него оператором, результирующий вектор гарантированно останется лежать в этой же самой области, никогда не выходя за ее пределы. Эти стабильные геометрические структуры называются инвариантными подпространствами. Их поиск и анализ — это ключ к расщеплению сложнейших линейных преобразований на набор простых, независимых блоков, что является фундаментальным процессом в квантовой физике и теории автоматического управления.

Сингулярное разложение (SVD) является мощнейшим инструментом линейной алгебры, но у него есть один концептуальный недостаток: при аппроксимации данных оно неизбежно порождает матрицы, содержащие отрицательные числа. Для многих физических и информационных систем это лишено всякого смысла. Например, не существует пикселя с отрицательной яркостью, невозможно встретить отрицательное количество слов в документе или отрицательную концентрацию химического вещества. Чтобы решить эту проблему интерпретируемости, в 1999 году Ли и Сын опубликовали в журнале Nature статью, предложив алгоритм факторизации неотрицательных матриц (Non-negative Matrix Factorization, NMF). Этот метод стал фундаментальным алгоритмом машинного обучения для выделения базисных признаков в данных.