Сингулярные числа и аппроксимация матриц: Теорема Эккарта-Янга-Мирского
Сингулярное разложение (SVD) позволяет представить любую матрицу как сумму матриц первого ранга, взвешенных их сингулярными числами. Мы часто упоминаем, что отсечение самых малых сингулярных чисел используется для сжатия изображений и подавления шума в данных. Но почему этот эвристический подход работает так эффективно? Фундаментальный математический ответ дает теорема Эккарта-Янга-Мирского. Эта жемчужина линейной алгебры строго доказывает, что усеченное сингулярное разложение является не просто «одним из хороших способов» сжатия данных, а абсолютно наилучшим из всех математически возможных способов приблизить сложную матрицу матрицей меньшего ранга.