Курс / 02
Машинное обучение
Как программа выучивает правило по примерам и как понять, что оно сработает на новых данных: от прямой через точки до градиентного бустинга и нейросетей. Каждая заметка либо исправляет ограничение предыдущего метода, либо меняет задачу, и говорит, что именно.
Что нужно знать: курс теории вероятностей или хотя бы математическое ожидание, условную вероятность и метод максимального правдоподобия; векторы, произведения матриц и производные; умение читать короткий код на NumPy. Каждая заметка заканчивается разделом «Код», который запускается как написан. Разделы «Обучение без разметки» и «За пределами классификации» ответвляются от обучения с учителем: они меняют задачу, а не заменяют классификатор.
- 01
Постановка задачи обучения
Что значит учиться на примерах и как понять, что это получилось.
После раздела: Задавать функцию потерь, разбиение и базовое решение до обучения и находить утечку в конвейере.
Опубликовано заметок: 4 из 4 - 02
Линейная регрессия
Линейная модель, обученная по формуле и спуском, без подгонки под шум.
После раздела: Обучать линейную модель по формуле и градиентным спуском, не смешивая целевую величину для генеральной совокупности, эмпирический риск, оптимизатор и обобщение.
Опубликовано заметок: 4 из 4 - 03
Линейная классификация
Разделение классов гиперплоскостью и измерение тех ошибок, которые важны.
После раздела: Отличать оценку от вероятности, а откалиброванную вероятность от порога и выбирать метрику, которая соответствует цене ошибок.
Опубликовано заметок: 6 из 6 - 04
Деревья и ансамбли
Нелинейные модели из простых правил и почему их усреднение и бустинг работают.
После раздела: Объяснять, что может выразить дерево, почему усреднение деревьев снижает дисперсию и как бустинг дообучается на том, в чём ансамбль ещё ошибается.
Опубликовано заметок: 4 из 4 - 05
Нейронные сети
Признаки выучиваются вместе с моделью.
После раздела: Проходить вручную один прямой и обратный проход и диагностировать неудачную кривую обучения.
Опубликовано заметок: 3 из 3 - 06
Обучение без учителя
Структура в данных, когда целевой переменной нет.
После раздела: Смена задачи: находить кластеры, смеси, низкоразмерную структуру и аномалии, когда целевой переменной нет.
Опубликовано заметок: 4 из 4 - 07
Не только классификация
Когда ответ — порядок или рекомендация.
После раздела: Ещё одна смена задачи: учиться порядку или рекомендации, с метриками и разбиениями, которые соответствуют тому, как используется список.
Опубликовано заметок: 2 из 2