Общее
Учебная карта дисциплины (УКД) Файл 10.5Кбайт
Программа Файл 55.8Кбайт
Кибернетика и первые нейронные сети
Первые цифровые компьютеры
Появление экспертных систем
Вероятностный подход
Случайный лес
Последние достижения
Постановка задачи обучения по прецедентам. Классификация и восстановление регрессии. Признаки и их виды. Модель алгоритмов и метод обучения. Функционал качества. Вероятностная постановка задачи обучения. Принцип максимума правдоподобия и его связь с минимизацией эмпирического риска. Выбор алгоритма в вероятностной постановке задачи. Проблема переобучения и обобщающая способность алгоритма.
Обобщенный алгоритм
Примеры частных алгоритмов:
- метод ближайших соседей
- метод окна Парзена
Понятие выступа объекта
Алгоритм отбора эталонов
Проклятие размерности
Выбор метрики
Применение формула Байеса к задаче машинного обучения. Построение приближенной плотности распределения: одномерный случай (дискретное, кусочно-постоянное, приближение с помощью ядра, приближение нормальным законом распределения), многомерный случай (наивный байесовский классификатор, приближение с помощью ядра, многомерное нормальное распределение).
Логистическая регрессия. Бинаризация признаков. Скоринг. Смеси распределений. EM-алгоритм восстановления смеси.
Случаи линейно разделимой и неразделимой выборок
Двойственная задача
Типы объектов
Нелинейное обобщение SVM
SVM-регрессия
L1 регуляризация
Метод наименьших квадратов
Геометрический смысл
Регуляризация
Сингулярное разложение
Непараметрическая регрессия
Понятие закономерности
Критерий качества закономерностей
Поиск закономерностей
Алгоритмы классификации на основе логических закономерностей
AdaBoost
AnyBoost
Градиентный бустинг
Бэггинг и метод случайных подпространств
Постановка задачи
Примеры применения
Оценки качества
Подходы к решению задачи
Постановка задачи
Предыстория
Латентный семантический анализ (LSA)
Вероятностный LSA (PLSA)
Латентное размещение Дирихле (LDA)
Постановка задачи
EM-алгоритм
Метод k-средних
DBSCAN
Задачи компьютерного зрения
Признаки изображений
Глобальные: гистограммы, контекст формы, GIST
Локальные: детекторы и дескрипторы особых точек
Свертки
Примеры задач
Модель авторегрессии
Модель скользящего среднего
Модель ARMA
ARIMA - интегрированная ARMA
Подбор параметров модели. Авторегрессионный спектр