CatBoost Против XGBoost Против LightGBM | Catboost против XGBoost | Lightgbm против XGBoost против CatBoost

• Аман, специалист по обработке данных, объясняет, почему алгоритмы повышения производительности, такие как CatBoost, XGBoost и LightGBM, часто ищут на YouTube.  

• Видео посвящено различиям между этими алгоритмами и их применению в различных ситуациях.  

• Аман обещает показать код на Python и объяснить, как настроить параметры для каждого алгоритма.  

• Все три алгоритма являются алгоритмами повышения производительности, объединяющими несколько моделей.  

• Основное различие заключается в том, как создаются деревья решений.  

• CatBoost использует симметричные деревья, LightGBM - деревья, растущие по листьям, а XGBoost - деревья, растущие по глубине.  

• CatBoost использует упорядоченное кодирование для категориальных переменных.  

• LightGBM использует bin или bucket-based подход.  

• XGBoost требует кодирования категориальных переменных в one-hot vectors.  

• CatBoost использует выборку с минимальной дисперсией.  

• LightGBM использует градиентную одностороннюю выборку.  

• XGBoost использует базовую выборку без замены.  

• XGBoost - самая старая версия, выпущенная в 2014 году.  

• LightGBM - более новая версия, выпущенная в 2016 году.  

• CatBoost - самая новая версия, выпущенная в 2017 году.  

• Аман показывает, как использовать CatBoost для предсказания ожидаемой продолжительности жизни.  

• Он объясняет, как импортировать данные и создать тренировочный и тестовый наборы.  

• Аман инициализирует регрессор CatBoost и запускает модель без аргументов, чтобы проверить её работу.  

• Программа запускается с 1000 итерациями по умолчанию.  

• Время выполнения составляет около 35 секунд.  

• Сравнение с LightGBM и XGBoost.  

• XGBoost не поддерживает категориальные переменные напрямую.  

• Необходимость преобразования категориальных переменных в уровни.  

• Время выполнения XGBoost составляет 0,7 секунды.  

• LightGBM работает быстрее и точнее.  

• LightGBM не требует кодирования категориальных признаков.  

• Время выполнения LightGBM составляет 0,19 секунды.  

• Увеличение количества итераций до 100 ускоряет выполнение.  

• Время выполнения сокращается до 4,1 секунды.  

• Точность не сильно меняется.  

• CatBoost работает медленно с категориальными данными.  

• Увеличение количества итераций до 100 снижает точность.  

• CatBoost хорошо работает с категориальными данными.  

• CatBoost показывает хорошие результаты с категориальными данными.  

• LightGBM также работает хорошо, но требует меньше данных для обучения.  

• CatBoost может быть полезен для данных с большим количеством категориальных признаков.  

• XGBoost подходит для поддержки сообщества и ручной настройки.  

• LightGBM подходит для быстрой тренировки и больших объемов данных.  

• CatBoost подходит для категориальных функций и больших объемов данных.  

• Важно пробовать разные модели и учитывать их особенности.