Граничин О.H.
Введение в методы
стохастической оптимизации и оценивания: Учебное пособие. 131 с.
Учебник
состоит из одного файла формата
PDF. Скачать.
В пособии дается систематическое
изложение основ методов стохастической многомерной оптимизации и оценивания в
условиях наблюдений с помехами. Кроме классических результатов, при
формулировке которых обычно рассматриваются постановки задач в отсутствие помех
либо при стандартных предположениях об их статистических характеристиках
(независимость и центрированность в теоретико-вероятностном смысле), в учебное
пособие включен материал об алгоритмах, дающих состоятельные оценки неизвестных
(или оптимизируемых) параметров при почти произвольных помехах.
Содержание
Введение . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . 5
Список обозначений . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
Методы оценивания и оптимизации .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
1. Примеры задач оценивания . . .
. . . . . . . . . . . . . . . . . _
1.1. Оценивание величины
постоянного сигнала, наблюдаемо го на фоне помехи
1.2. Задача об обнаружении
сигнала . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
1.3. Рандомизированные алгоритмы
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
1.4. Функционал среднего риска .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.5. Предсказание значений
случайного процесса . . . . . . . . . . . . . . . . . . . . . 31
2. Элементы регрессионного
анализа, метод наименьших квадратов . 33
2.1. Наилучшая аппроксимация
одной случайной величины с помощью другой
2.2. Оценивание по конечному
числу наблюдений . . . . . . . . . . . . . . . . . . . . . 36
2.3. Рекуррентные модификации
метода наименьших квадратов . . . . . . . . . 42
3. Оптимальная фильтрация
случайных процессов . . . . . . . . . . . . . . . . . .47
3.1. Фильтр Винера-Колмогорова .
. . . . . . . . . . . . . . . . _
3.2. Фильтр Калмана-Бьюси . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53
4. Методы стохастической
аппроксимации и случайного поиска .. . . . . 61
4.1. Поиск корня неизвестной
функции. Алгоритм Роббинса Монро . . . . . . . 62
4.2. Минимизация функционала
среднего риска . . . . . . . . . . . . . . . . . . . . . . . 65
4.3. Процедура Кифера_Вольфовица
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.4. Рандомизированные алгоритмы
стохастической аппроксимации . . .. . . 68
4.5. Пассивная стохастическая
аппроксимация . . . . . . . . . . . . . . . . . . . . . . . . . 72
4.6. Модификации алгоритмов
стохастической аппроксимации . . . . . . . . . . .73
4.7. Алгоритмы случайного поиска
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .80
5. Элементы теории оценивания . .
. . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 83
5.1. Метод эмпирического
функционала . . . . . . . . . . . . . _
5.2. Байесовские оценки . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
5.3. Метод максимального
правдоподобия . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
5.4. Достижимая точность
оценивания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .93
6. Оценивание при ограниченных
помехах . . . . . . . . . . . . . . . . . . . . . . . . . . 97
6.1. Случайный сигнал,
наблюдаемый на фоне ограниченныхпомех .
. . . _
6.2. Метод рекуррентных целевых
неравенств. Конечно_сходящиеся алгоритмы
6.3. Алгоритм "Полоска"
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . 102
6.4. Метод эллипсоидов . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
Приложение. Некоторые необходимые
математические сведения . . . 107
П.1.Теория вероятностей . . . . .
. . . . . . . . . . . . . . . . . . . _
П.1.1. Случайные величины . . . .
. . . . . . . . . . . . . . . . . . _
П.1.2. Некоторые неравенства для
случайных величин . . . . . . . . . . . . . . . . .109
П.1.3. Закон больших чисел для
независимых случайных величин . . . . . . . 110
П.1.4. Стационарные случайные
процессы . . . . . . . . . . . . . . . . . . . . . . . . . . .111
П.1.5. Последовательности
случайных величин, близкие к супермартингалам 113
П.2.Некоторые матричные
соотношения . . . . . . . . . . . . . . . . . . . . . . . . . . 115
П.3. Факторизация матричных
функций . . . . . . . . . . . . . . _
П.4.Сходимость рекуррентных
алгоритмов . . . . . . . . . . . . . . . . . . . .. . . . . 116
П.4.1. Линейный случай . . . . .
. . . . . . . . . . . . . . . . . . . _
П.4.2. Метод стохастической
функции Ляпунова . . . . . . . . . . . . . . . . . . . . . . .118
Терминологический указатель . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
Указатель
литературы. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . .123
|
