Тематический план

  • Общее

    • Иконка Гиперссылка
      Журнал оценок Гиперссылка
      Недоступно, пока не выполнены условия: Ваше поле Адрес электронной почты не пустое
    • Иконка Гиперссылка
      Другие книги Гиперссылка
      Недоступно, пока не выполнены условия: Ваше поле Адрес электронной почты не пустое
  • Основные понятия

    История. Постановка задачи обучения по прецедентам. Типы задач. Вероятностная постановка задачи обучения. Выбор алгоритма в вероятностной постановке задачи. Проблема переобучения и обобщающая способность алгоритма. 

  • Метрические алгоритмы

    Обобщенный алгоритм. Примеры частных алгоритмов:
       - метод ближайших соседей
       - метод окна Парзена
    Понятие выступа объекта. Алгоритм отбора эталонов. Проклятие размерности. Выбор метрики

  • Вероятностный подход к обучению

    Применение формулы Байеса к задаче машинного обучения. Построение приближенной плотности распределения: одномерный и многомерный  случаи.
    Логистическая регрессия. Бинаризация признаков. Скоринг.
    Смеси распределений. EM-алгоритм восстановления смеси.

  • Линейные алгоритмы классификации

    Общая формула линейного классификатора
    Метод стохастического градиента. Обоснование
    Выступ объекта для линейного классификатора
    Кривая ошибок (ROC) и PR-кривая

  • Методы восстановления регрессии

    Метод наименьших квадратов. Геометрический смысл. Регуляризация. Сингулярное разложение. Непараметрическая регрессия

  • Логические методы классификации

    Понятие закономерности. Критерий качества закономерностей. Поиск закономерностей. Алгоритмы классификации на основе логических закономерностей

  • Метод опорных векторов

    Случаи линейно разделимой и неразделимой выборок. Двойственная задача. Типы объектов. Нелинейное обобщение SVM. SVM-регрессия. L1 регуляризация