Концепция обратной матрицы является одной из центральных в линейной алгебре, однако она обладает жесткими ограничениями: обратную матрицу можно найти только для квадратных матриц, у которых определитель не равен нулю (невырожденных матриц). Но что делать, если система прямоугольная (уравнений больше или меньше, чем неизвестных) или матрица квадратная, но содержит линейно зависимые строки? В середине XX века математики Элиаким Гастингс Мур и Роджер Пенроуз независимо друг от друга ввели уникальное обобщение — псевдообратную матрицу (обозначается как A^+). Этот мощнейший математический инструмент позволяет находить наилучшие решения для любых, даже самых безнадежных вырожденных матричных систем.

Сингулярное разложение (Singular Value Decomposition, сокращенно SVD) часто называют вершиной классической линейной алгебры. Если метод собственных значений (диагонализация) работает только для квадратных матриц и требует довольно жестких условий, то SVD применимо абсолютно к любой матрице: квадратной, прямоугольной, вырожденной, нулевой. Это разложение позволяет заглянуть в самую глубокую анатомию любого линейного преобразования, выявляя его скрытую структуру. Сегодня алгоритмы вычисления SVD встроены в каждую библиотеку машинного обучения, так как на этом математическом фундаменте стоят системы рекомендаций, методы сжатия данных, распознавание изображений и семантический анализ текстов.