Ускоренный курс Scikit-learn - Библиотека машинного обучения для Python

• Scikit-Learn - универсальная библиотека для машинного обучения.  

• Видеоролики серии объединены для бесплатного видео codecamp.  

• Видео разделены на разделы для освещения различных тем.  

• Обсуждение конвейеров машинного обучения и их сложности.  

• Важность предварительной обработки данных для улучшения моделей.  

• Метрики оценки моделей и их создание.  

• Метаоценки и постобработка данных.  

• Библиотека для оценки знаний предметной области.  

• Цель - показать, как использовать машинное обучение в компании.  

• Использование версии 0.23 Scikit-Learn.  

• Важность просмотра всех видеороликов для полного понимания.  

• Обширная экосистема Scikit-Learn.  

• Получение данных и передача их модели.  

• Разделение данных на X и Y для прогнозирования.  

• Пример с прогнозированием цен на жилье.  

• Загрузка бостонского набора данных.  

• Создание модели k-ближайших соседей.  

• Этапы создания и обучения модели.  

• Прогнозы на основе данных X и Y.  

• Использование линейной модели регрессии для сравнения.  

• Удобство использования Scikit-Learn благодаря общему API.  

• Модель k-ближайших соседей используется для прогнозирования цен на жилье.  

• Создан массив прогнозов и исходных значений.  

• Построен точечный график для оценки модели.  

• Регрессор k-соседей ищет ближайших соседей и использует их среднее значение для прогноза.  

• Проблемы с масштабированием данных могут влиять на точность прогнозов.  

• Модель машинного обучения включает не только регрессор k-соседей, но и предварительную обработку данных.  

• Предварительная обработка должна масштабировать данные для равномерного влияния на прогноз.  

• Импорт необходимых модулей из scikit-learn.  

• Создание конвейера для масштабирования и нормализации данных.  

• Замена модели на конвейер для улучшения прогнозов.  

• Использование одних и тех же данных для обучения и прогнозирования может искажать результаты.  

• Изменение количества соседей в регрессоре k-соседей для проверки его эффективности.  

• Разделение набора данных на три части для обучения, проверки и прогнозирования.  

• Использование разных частей данных для обучения и проверки модели.  

• В scikit-learn есть объект для разделения данных на обучение и тестирование.  

• Использование этого объекта позволяет избежать проблем с масштабированием данных.  

• Объяснение объекта cv для поиска по сетке в Scikit-Learn.  

• Описание перекрестной проверки и ее важности.  

• Превращение конвейера в полноценный поиск по сетке.  

• Импорт объекта cv для поиска по сетке из Scikit-Learn.  

• Передача оценщика и конвейера в поиск по сетке.  

• Настройка параметров, таких как количество соседей, через таблицу параметров.  

• Описание процесса перекрестной проверки и отслеживания результатов.  

• Преобразование результатов в фрейм данных Pandas для анализа.  

• Анализ лучших настроек и их интерпретация.  

• Важность понимания данных и их контекста.  

• Пример с набором данных Boston, где важно учитывать расовые аспекты.  

• Проблемы с использованием устаревших или расистских данных.  

• Опасности использования неподходящих данных.  

• Важность скептического подхода и стресс-тестов моделей.  

• Риски, связанные с оптимизмом и утечкой информации.  

• Ответственность за ввод данных и самообразование.  

• Важность этики и механизмов обратной связи в алгоритмическом проектировании.  

• Необходимость понимания истории данных и возможных проблем в процессе производства.  

• Обсуждение важности предварительной обработки данных в Scikit-Learn.  

• Пример использования набора данных drawdata one для демонстрации.  

• Визуализация данных с помощью matplotlib.  

• Обнаружение выбросов и их влияние на модель.  

• Использование стандартного скаляра для масштабирования данных.  

• Пример кода для масштабирования с помощью стандартного скаляра.  

• Демонстрация проблемы стандартного скаляра с выбросами.  

• Предложение другого метода нормализации данных.  

• Введение в квантильный преобразователь и его преимущества.  

• Пример расчета квантилей и их использование для нормализации данных.  

• Демонстрация улучшения масштабирования данных с квантильным преобразователем.  

• Импорт квантильного преобразователя из Scikit-Learn.  

• Замена стандартного скаляра на квантильный преобразователь.  

• Демонстрация влияния квантильного преобразователя на прогнозы модели.  

• Создание функции для вывода графиков и прогнозов.  

• Сравнение результатов с использованием стандартного скаляра и квантильного преобразователя.  

• Демонстрация улучшенного качества прогнозов с квантильным преобразователем.  

• Квантильный преобразователь менее подвержен влиянию выбросов.  

• Сравнение с прогнозируемым графиком данных показывает большую разницу.  

• В долгосрочной перспективе квантильный преобразователь более стабилен.  

• Логистическая регрессия плохо справляется с задачами классификации, не поддающимися линейному разделению.  

• Предварительная обработка с помощью квантильного преобразователя улучшает результаты логистической регрессии.  

• Добавление полиномиальных функций улучшает классификацию.  

• Один горячий кодировщик преобразует текстовые данные в числовые.  

• Важно правильно настроить кодировщик для предотвращения ошибок в неизвестных категориях.  

• Настройка кодировщика позволяет избежать ошибок в неизвестных категориях.  

• Веб-сайт drawdata.xyz позволяет визуализировать данные и экспериментировать с препроцессорами.  

• Возможность загружать и копировать данные для использования в Jupyter Notebook.  

• Метрики важны для выбора лучшей модели.  

• Поиск по сетке сравнивает прогнозы моделей с исходной метрикой.  

• Пример использования поиска по сетке для выбора лучшей модели на примере набора данных о мошенничестве с кредитными картами.  

• Набор данных о мошенничестве с кредитными картами несбалансирован.  

• Важно учитывать несбалансированность при выборе модели и метрики.  

• Простая модель логистической регрессии используется для начала.  

• Приложение выдает ошибку из-за несбалансированности данных.  

• Увеличиваем количество итераций до 1000 для решения проблемы.  

• Подсчитываем сумму всех прогнозов для оценки модели.  

• Определяем вес класса для логистической регрессии.  

• Увеличиваем вес класса для мошенничества для улучшения модели.  

• Запускаем поиск по сетке для оптимизации веса класса.  

• Импортируем поиск по сетке и логистическую регрессию.  

• Устанавливаем максимальное количество итераций и параметры для поиска.  

• Запускаем поиск по сетке для определения лучшего веса класса.  

• Результаты поиска по сетке включают вес класса и баллы.  

• Баллы рассчитываются на основе точности и запоминания.  

• Изменяем показатели для оценки модели: точность и запоминание.  

• Добавляем точность и запоминание в поиск по сетке.  

• Используем функцию make_scorer для передачи метрик в поиск.  

• Запускаем поиск по сетке с новыми метриками.  

• Строим графики для оценки модели по весу класса.  

• Сравниваем результаты тестов и наборов поездов.  

• Обсуждаем важность перекрестной проверки для получения точных результатов.  

• Создаем функцию минимальной точности запоминания.  

• Используем эту функцию для выбора лучшей модели на основе точности и запоминания.  

• Добавляем новую метрику в поиск по сетке для оптимизации модели.  

• Обновление поиска по сетке для выбора модели.  

• Графики показывают, что модель выбирается в области равновесия.  

• Зеленая линия остается ниже остальных.  

• Создание метрики с использованием функции минимальной точности.  

• Функция make score преобразует метрику в вызываемый объект.  

• Это позволяет использовать метрику в поиске по сетке.  

• Демонстрация работы функции make score.  

• Пример использования метрики в поиске по сетке.  

• Объяснение важности веса выборки для моделей машинного обучения.  

• Добавление веса выборки в метрику.  

• Влияние на алгоритм и баланс между точностью и запоминанием.  

• Замена логистической регрессии на детектор выбросов.  

• Адаптация метрик для проверки эффективности детектора.  

• Использование изолирующего леса для обнаружения выбросов.  

• Создание функций для преобразования предсказаний изолирующего леса.  

• Добавление фактора загрязнения как гиперпараметра для оптимизации.  

• Включение новых функций в методы подсчета очков.  

• Изолирующий лес можно использовать с метриками для обнаружения выбросов.  

• Метрики позволяют использовать алгоритмы обнаружения выбросов как классификаторы.  

• Гибкость API scikit-learn позволяет использовать метрики для оценки моделей.  

• Важно проверять качество этикеток для моделей.  

• Неправильные метки могут привести к неверным метрикам.  

• Метрики могут быть неправильно интерпретированы без учета качества этикеток.  

• Некоторые метрики могут иметь обратные зависимости, например, среднеквадратичная ошибка.  

• Важно указывать, что "больше" означает "лучше" для метрик.  

• Метрики могут зависеть от наличия меры вероятности.  

• Метамодели позволяют выполнять постобработку после создания модели.  

• Пример: использование мета-оценок для добавления дополнительного поведения к модели.  

• Мета-оценки позволяют сбалансировать различные модели в поиске по сетке.  

• Классификатор голосования позволяет взвешивать различные модели.  

• Пример использования классификатора голосования для уравновешивания моделей логистической регрессии и "ближайшего соседа".  

• Возможность использовать поиск по сетке для определения оптимальных весов моделей.  

• Классификатор голосования объединяет модели логистической регрессии и k-ближайших соседей.  

• Используется для усреднения вероятностей прогнозирования.  

• Графики показывают, как модели улучшают прогнозы.  

• Позволяет комбинировать разные модели для улучшения точности.  

• Оценщик принимает другие модели scikit-learn как входные данные.  

• Гибкость и выразительность моделей.  

• Порог влияет на точность и отзыв модели.  

• Метамодель порога позволяет настраивать порог для улучшения точности.  

• Пример использования поиска по сетке для оптимизации параметров.  

• Постобработка моделей для улучшения точности и отзыва.  

• Пример конвейера для предсказания веса цыплят с течением времени.  

• Кодирование и масштабирование данных для машинного обучения.  

• Линейная регрессия не учитывает эффект диеты правильно.  

• Возможность использования группирования диет для обучения разных моделей.  

• Создание моделей для разных диет.  

• Использование метамодели для определения диеты на основе новых данных.  

• Тренировка разных линейных регрессий для каждой диеты.  

• Моделирование временных рядов с сезонными эффектами.  

• Использование сгруппированного предиктора и фиктивного регрессора.  

• Проблемы с прогнозированием последних и ранних данных.  

• Введение весов выборки для разных данных.  

• Пример использования экспоненциального сглаживания для уменьшения влияния старых данных.  

• Демонстрация работы метамодели в scikit-learn.  

• Проблемы с искажением тренировочных данных.  

• Преимущества использования интерпретируемых моделей.  

• Переход от систем, основанных на правилах, к моделям машинного обучения.  

• Введение инструмента human learn для создания систем, основанных на правилах.  

• Цель проекта - облегчить создание и тестирование таких систем.  

• Пример использования функции "загрузить титаник" для загрузки данных и создания модели.  

• Пример использования правил для предсказания выживания пассажиров на "Титанике".  

• Введение функции, основанной на правиле, для предсказания выживаемости.  

• Демонстрация работы функции и её применения к данным.  

• Классификаторы функций не совместимы с scikit-learn.  

• Инструмент "классификатор функций" решает эту проблему.  

• Инструмент преобразует функцию в совместимый классификатор.  

• Пример поиска по сетке с использованием классификатора функций.  

• Перебор значений порога и отслеживание точности и запоминаемости.  

• Результаты поиска по сетке отображаются в виде диаграммы.  

• Классификатор функций позволяет проверять модели машинного обучения.  

• Инструмент легко настраиваемый и может использоваться для добавления моделей поведения.  

• Пример использования классификатора функций для создания системы с запасным сценарием.  

• Использование набора данных для предсказания вида пингвина.  

• Интерактивные диаграммы для визуализации данных.  

• Создание алгоритмов классификации с помощью рисования многоугольников.  

• Создание интерактивных классификаторов из нарисованных многоугольников.  

• Пример работы классификатора с новыми данными.  

• Преимущества нарисованных моделей, таких как возможность объяснения сомнений.  

• Данные могут быть неполными, что затрудняет классификацию.  

• Машинное обучение устойчиво к отсутствию данных.  

• Выбросы могут быть определены как точки, выходящие за пределы многоугольника.  

• Интерактивный детектор выбросов может помочь идентифицировать такие точки.  

• В отсутствие легкодоступных меток можно использовать рисование для присвоения меток данным.  

• Интерактивные диаграммы могут использоваться для создания классификаторов и детекторов выбросов.  

• Интерактивные препроцессоры могут считывать данные с диаграмм и использоваться в конвейерах.  

• API диаграмм позволяет использовать их в различных инструментах, таких как Pandas и Scikit-learn.  

• Видеоролики по Scikit-learn обширны и поверхностны.  

• Рекомендованы другие ресурсы для изучения, такие как Calm Code, Spacey, Algorithm Whiteboard и Pi Data.  

• Документация Scikit-learn содержит множество полезных функций и проектов для конкретных случаев использования.