Когда французский математик Жак Адамар формализовал понятие «корректно поставленной задачи», он требовал три условия: решение должно существовать, быть единственным и непрерывно зависеть от входных данных. В реальной жизни, особенно в обратных задачах физики и обработке сигналов, системы линейных уравнений AX = B часто являются некорректно поставленными. Матрица A может иметь почти нулевые собственные значения (гигантское число обусловленности), из-за чего ничтожный шум измерений в векторе B приводит к астрономическим ошибкам в решении X. Чтобы получить физически адекватный ответ, советский математик Андрей Тихонов разработал гениальный алгебраический метод стабилизации таких систем, известный во всем мире как регуляризация Тихонова (или гребневая регрессия в статистике).

В реальных инженерных задачах, статистике и дата-саенсе мы крайне редко сталкиваемся с идеальными системами уравнений, имеющими точное решение. Обычно экспериментальных данных (уравнений) гораздо больше, чем искомых параметров (неизвестных). Такие системы называются переопределенными, и из-за неизбежных погрешностей измерений они практически всегда несовместны (вектор свободных членов не лежит в пространстве столбцов матрицы). Для извлечения полезной информации из такого «хаоса» Карл Фридрих Гаусс и Адриен Мари Лежандр разработали Метод Наименьших Квадратов (МНК). Сегодня МНК является краеугольным камнем регрессионного анализа, эконометрики и алгоритмов фильтрации сигналов.