Go за гранью скорости: pprof на проде | avito.code

• Иван Нещадин, инженер в Авито, рассказывает о способах оптимизации приложений на Go.  

• В прошлой серии обсуждались бенчмарки eprof, сегодня будет рассмотрено использование prof на прозе.  

• В Go есть три способа снять профиль, и в этом видео будет рассмотрен третий способ.  

• Для добавления хендлеров в HTTP сервер можно использовать пакет http Pro.  

• Если используется сторонняя библиотека, как Gorilla Mux, нужно использовать методы из библиотеки piprof.  

• Пример сервиса, который выводит номер телефонного объявления, используется для демонстрации.  

• Сервис долго отвечал, что приводило к ошибкам у пользователей.  

• Решение: закрыть сервис кэшем, но это привело к троттлингу.  

• Для анализа проблемы используется prof.  

• Запуск сервиса с помощью команды Go Run CD Main Go.  

• Использование утилиты wrk для нагрузки сервиса.  

• Написание скрипта на Lua для генерации данных для нагрузки.  

• Запуск сервера и wrk параллельно.  

• Сбор профиля для понимания работы сервиса под нагрузкой.  

• Результаты: сервис отвечал в среднем 0,87 мс, максимум 131 мс, обрабатывал 45 тысяч запросов в секунду.  

• Анализ профиля CPU показывает, что 8% времени тратится на вызовы runtime scanobject.  

• Использование команды list для более детального анализа.  

• Обнаружены вызовы, связанные с коллектором, что вызывает беспокойство.  

• Сбор профиля памяти с помощью команды prof.  

• Обнаружено, что 221 МБ памяти выделено внутри кэша.  

• Использование инструмента для интерактивного просмотра профиля в браузере.  

• Использование встроенного инструмента в prof для анализа профиля.  

• Возможность интерактивного просмотра профиля в браузере.  

• Понимание, где именно возникают проблемы с памятью и сборкой мусора.  

• Выделено 200 МБ памяти для кэша.  

• В кэше выделено 7,5 миллионов объектов.  

• Горбач коллектор сканирует все объекты для удаления.  

• Используется библиотека Gcash с LRU кэшем.  

• Каждый элемент кэша хранит три указателя.  

• Дополнительно хранится указатель на время удаления элемента.  

• 20 миллионов указателей на каждый элемент.  

• Перезапуск сервиса и сбор трассировки.  

• Горбач коллектор работает 100 миллисекунд, что вызывает большую нагрузку.  

• Замена библиотеки на Bigcash.  

• Bigcash хранит объекты в виде массива байт.  

• Оптимизация использования оперативной памяти.  

• Перезапуск сервиса и сбор нового профиля.  

• Уменьшение выделений памяти с 300 МБ до 170 МБ.  

• Уменьшение количества элементов в памяти.  

• Горбач коллектор работает менее 1 миллисекунды.  

• Увеличение производительности сервиса.  

• Оптимизация кода с помощью инструментов.  

• Профилирование и оптимизация кода.  

• Использование полезных инструментов.  

• Призыв к оптимизации кода для улучшения производительности сервисов.