Main menu

Тензорный поезд (Tensor Train): преодоление проклятия размерности

Когда мы переходим от двумерных матриц к многомерным массивам чисел — тензорам, мы сталкиваемся с жестоким математическим феноменом, известным как «проклятие размерности». Если тензор имеет d измерений (мод), и по каждому измерению длина равна n, то общее количество элементов в нем составляет n^d. При n=10 и d=20 объем тензора превышает вместимость всех жестких дисков на планете. В физике квантовых многочастичных систем и при решении уравнений в частных производных высоких размерностей этот барьер казался непреодолимым. В 2011 году российский математик Иван Оселедец предложил блестящий формат разложения многомерных массивов — Тензорный поезд (Tensor Train, TT), который свел экспоненциальную сложность к полиномиальной, совершив революцию в многолинейной алгебре.

Подробнее

Тензорные разложения: CANDECOMP/PARAFAC и Таккера

Сингулярное разложение (SVD) является вершиной анализа двумерных матриц, позволяя находить скрытые факторы и сжимать данные. Но что делать, когда данные имеют более двух измерений? Например, видео (ширина, высота, время), цветные медицинские МРТ-сканы (X, Y, Z) или данные социальных сетей (пользователь, действие, контекст, время). Такие многомерные массивы описываются тензорами высоких рангов. Попытка сплющить тензор в обычную матрицу (матрицизация) приводит к колоссальной потере структурной информации. Для полноценного анализа многомерных данных математики обобщили SVD на многомерный случай, создав два фундаментальных метода: разложение CP (CANDECOMP/PARAFAC) и разложение Таккера. Эти алгоритмы лежат в основе современных рекомендательных систем и хемометрики.

Подробнее

Соц. сети