Оптимизация производительности запросов в ClickHouse / Максим Кита (ClickHouse)

• Максим, разработчик ClickHouse, рассказывает о своей роли в проекте.  

• Основная тема доклада - производительность в ClickHouse.  

• ClickHouse - это OLAP система с колонковой базой данных, что улучшает компрессию данных.  

• Данные обрабатываются блоками по 65,535 элементов.  

• Массивы в ClickHouse используют под-массивы, что улучшает производительность.  

• Под-массивы используют метод realloc, что позволяет избежать ненужных операций.  

• Колонки состоят из массивов и могут содержать битовые маски.  

• Класс iColumn отвечает за работу с колонками и выполняет реляционные операторы.  

• Запросы проходят через логический и физический планы, которые затем оптимизируются.  

• Пайплайн включает функциональные и интеграционные тесты, а также стресс-тесты.  

• Пифома-тесты запускаются на каждый коммит и собирают статистику для анализа производительности.  

• Пифома-тесты помогают находить регрессии и оптимизировать производительность.  

• Запросы в пифома-тестах должны быть сбалансированными по длине и тестировать конкретные функции.  

• Тестирование должно проводиться на реальных данных, а не на нереальных.  

• Нестабильные запросы требуют глубокого анализа и исправления.  

• Пример оптимизации запроса, который часто прыгал по производительности.  

• Замена хэш-таблицы на стек увеличила производительность в четыре раза.  

• Собираем все метрики, включая софтфолс и структуру task-stat.  

• Поддерживаем интерфейс для работы с этими структурами.  

• Включаем профилировщик для каждого запроса и собираем стек-треисы.  

• Собираем стек-треисы со всех потоков с помощью сигналов.  

• Используем патченную версию библиотеки для раскрутки стека.  

• Это позволяет анализировать производительность и предотвращать блокировки.  

• Генерируем флейм графы для анализа горячих точек.  

• Используем кластерные табличные функции для сбора статистики с разных узлов.  

• Это помогает измерять производительность в распределенных системах.  

• Высокопроизводительные системы должны быть определены алгоритмами.  

• Важно учитывать возможности оборудования и тестировать на реальных данных.  

• Нет универсального алгоритма, нужно пробовать разные подходы.  

• Разбивайте сложные задачи на простые и оптимизируйте их.  

• Используйте низкоуровневые трюки, такие как специализации и компиляция.  

• Агрегация данных может быть масштабирована горизонтально и вертикально.  

• Оптимизация сортировки и вставки в меш три.  

• Использование различных специализаций для ускорения работы.  

• Пример: вставка в меш три стала в два-три раза быстрее.  

• В ClickHouse нет одной самой крутой библиотеки.  

• Важно использовать низкоуровневые фреймворки и высокоуровневые абстракции.  

• Пример: сортировка в ClickHouse ускорена в десять раз за счет различных специализаций.  

• Используем 97 внешних зависимостей, включая алгоритмы для парсинга JSON и интеграции с Sajur-Stri.  

• Находим и фиксим баги, форвардим их в мастер-репозиторий.  

• Поддерживаем множество библиотек и форков, включая LIV и другие.  

• Джит-компиляция позволяет трансформировать динамическую конфигурацию в статическую.  

• Не все функции и алгоритмы легко скомпилировать, но это может значительно улучшить производительность.  

• Джит-компиляция имеет свои косты, такие как хранение скомпилированного кода и ухудшение леттенси.  

• Компилируем все, что можно, включая выражения и агрегатные функции.  

• Оптимизируем компаратор вордербая, чтобы избежать лишних виртуальных вызовов.  

• Превращаем динамическую конфигурацию в статическую, что улучшает производительность.  

• Используем технику динамического диспача для оптимизации под разные процессоры.  

• Компилируем код с разными инструкциями в зависимости от поддерживаемых процессоров.  

• Макросы помогают определить, какие функции компилировать с разными инструкциями.  

• Оптимизируем циклы с помощью макросов и атрибутов.  

• Генерируем код с префиксами и суффиксами для функций.  

• Находим и заворачиваем циклы в макросы для ускорения выполнения.  

• Оптимизируем агрегатные функции, такие как сумм и эвереч.  

• Используем макросы для вызова специализированных функций в зависимости от поддерживаемых процессоров.  

• Ускорение функций в полтора-два раза благодаря оптимизации циклов.  

• Оптимизируем циклы в унарных функциях, таких как раунд.  

• Применяем сложные инструкции для улучшения производительности.  

• Ускорение в семь раз благодаря оптимизации и использованию макросов.  

• Для процессоров Intel Rocket Lake и Ice Lake используются оптимизации AVX-512.  

• Эти оптимизации могут снижать производительность, поэтому важно тестировать их влияние.  

• Для последних процессоров Intel проблема с AVX-512 решена, и можно использовать эти оптимизации без риска.  

• Внутри производительности ClickHouse лежит пайплайн, который требует тщательного тестирования.  

• Без глубокой интроспекции невозможно оптимизировать производительность.  

• Важно понимать, как изменения в коде влияют на метрики системы.  

• После создания основных алгоритмов и интерфейсов, можно переходить к обработке специальных случаев.  

• Важно тестировать производительность на низком уровне, изменяя данные и добавляя динамическую компиляцию.  

• Вопросы о том, почему ClickHouse не тормозит, и ответы на них.  

• Обсуждение использования контейнеров и хэш-функций в системе.  

• Ответы на вопросы о лимитах использования словарей и их применении в удаленных шардах.  

• Добавление новых функций для работы с текстом и NLP.  

• Планы по улучшению функционала для анализа текста.  

• Проблемы с нетворкингом и их влияние на производительность.  

• Рекомендации по настройке Linux для улучшения производительности.  

• Советы по локализации данных для минимизации пересылки по сети.  

• Нагрузочные тесты занимают много времени и требуют тщательного анализа.  

• Оптимизация подсистем и алгоритмов может занимать до нескольких месяцев.  

• Важно проверять результаты тестов на разных платформах и устройствах.  

• Возможность задавать вопросы по эксплуатации, словарям, джойнам и новым функциям.  

• Ответы на вопросы будут даваться совместно с Артуром.