Метод Ньютона в задачах безусловной нелинейной оптимизации
Метод Ньютона по праву считается одним из самых мощных и быстро сходящихся алгоритмов в арсенале нелинейного математического программирования. В то время как методы градиентного спуска первого порядка анализируют только "наклон" целевой функции, метод Ньютона привлекает информацию о ее "кривизне", используя вторые производные. Это позволяет алгоритму строить точную параболическую аппроксимацию функции и достигать оптимума с квадратичной скоростью сходимости.