Внутреннее устройство планировщика Go - Concurrency в Go

• Обсуждение планировщика: зачем он нужен, какие задачи решает.  

• Введение в скели и обсуждение их работы.  

• Обсуждение очередей и синхронизации в Go.  

• Работа с бесконечными циклами и бау-нагрузкой.  

• Занятие построено в виде игры или сценки.  

• Представление себя разработчиками Google.  

• Необходимость языка для разработки веб-сервисов.  

• Веб-сервисы характеризуются бау-нагрузкой.  

• Много сетевых операций, мало времени на компьютерную обработку.  

• Постоянное переключение контекстов.  

• Потоки операционной системы и их абстракция.  

• Проблемы с созданием отдельных потоков для каждого коннекшна.  

• Высокие затраты на память и медленное переключение потоков.  

• Планировщик операционной системы меняет контексты потоков.  

• Поток имеет контекст для выполнения кода.  

• Медленное переключение потоков из-за работы ядра операционной системы.  

• Неочевидные накладные расходы при переключении контекстов.  

• Вымывание кэшей и буферов при переключении потоков.  

• Важность минимизации накладных расходов на контекст-переключения.  

• Контекст-вичинги бесполезны и тратят ресурсы процессора.  

• Можно создать свои контексты внутри приложения с помощью ассемблера.  

• Ядро операционной системы не знает о легковесных потоках, что ускоряет работу.  

• Легковесные потоки могут использовать минимальный размер стека.  

• Использование модели с легковесными потоками требует меньше оперативной памяти.  

• Контекст-вичинги работают в пользовательском пространстве, что ускоряет выполнение.  

• Новый язык должен абстрагировать управление потоками от программистов.  

• Пользователи управляют легковесными потоками, которые выполняются на системных потоках.  

• Важно, чтобы программисты не задумывались о деталях управления потоками.  

• Один поток выполняет несколько легковесных потоков.  

• Легковесные потоки хранятся в очереди и выполняются по очереди.  

• Возникает вопрос о вытеснении легковесных потоков.  

• Планировщик операционной системы вытесняет потоки.  

• Разработчики Google начинают с кооперативной многозадачности.  

• Компилятор добавляет инструкции для переключения контекста в код.  

• Важно обеспечить масштабируемость кода.  

• Многопроцессная модель не всегда масштабируема.  

• Потоки должны синхронизироваться для корректной работы.  

• Разработчики Google решают создать неблокирующую очередь.  

• Лок-фри структура данных имеет два входа, что вызывает проблемы с кэш-контентом.  

• Идея нарезать очередь на кусочки для каждого потока решает проблему избыточной синхронизации.  

• Вводится концепция процессора, который представляет собой абстракцию для выполнения кода.  

• Процессор связан с локальной очередью, что позволяет избежать избыточной синхронизации.  

• Один поток соотносится с одним процессором.  

• Разработчики решают добавлять новые горутины в локальную очередь процессора.  

• Возникает вопрос, что делать, если в очереди заканчиваются горутины.  

• Воркшеринг предполагает, что потоки делят горутины между собой.  

• Воркстелинг позволяет потокам получать горутины из других очередей.  

• Для работы с общей локальной очередью требуется синхронизация.  

• Разработчики выбирают примитив синхронизации в пользу лок-фри.  

• Вопрос о том, у какой очереди красть горутины, решается рандомно.  

• Если в другой очереди тоже нет горутин, используется опрос с повторными попытками.  

• Обсуждается, сколько горутин красть из другой локальной очереди.  

• Размер локальных очередей ограничен, поэтому важно правильно определить количество забираемых горутин.  

• Красим половину данных, чтобы минимизировать контеншен.  

• Чем чаще ходим по чужим очередям, тем чаще мешаем чужим потокам.  

• Цель - разработать язык для написания веб-сервисов, которые часто работают с бау нагрузкой.  

• Бау нагрузка - это постоянные сетевые операции, которые приводят к сколам.  

• Сколы блокируют пользовательские потоки, что вызывает контекст вич.  

• Необходимо решить проблему контекст вича, чтобы избежать неэффективной работы.  

• Разрабатываем язык программирования, чтобы управлять потоками.  

• Перед вызовом скола открепляем поток от локальной очереди.  

• Создаем новый поток для выполнения кода, который был в локальной очереди.  

• Поток, выполнивший скол, не удаляется, а резервируется на тред пол.  

• При следующем сколе поток снова открепляется от процессора.  

• Планировщик Go открепляет поток от процессора, если он будет заблокирован на системном вызове.  

• Планировщик Go открепляет поток, если он будет заблокирован на системном вызове долгое время.  

• В случае шорт-лайф сколов поток остается на процессоре.  

• Планировщик операционной системы может не ставить поток на исполнение, если он заблокирован.  

• Разработчики не будут знать о системном мониторе ССМОН.  

• ССМОН периодически проверяет поток и открепляет его от процессора, если он не ожил.  

• Если поток короткоживущий, ССМОН периодически проверяет его, иначе создает новый поток.  

• После выполнения горутины, она добавляется в очередь процессора.  

• Если процессор недоступен, горутина добавляется в глобальную очередь.  

• Глобальная очередь используется как отстойник для горутин, которые не могут быть выполнены.  

• В сервисе с 10,000 соединений может быть создано более 10,000 потоков.  

• Это может привести к проблемам с оперативной памятью и производительностью.  

• Решение: использование мультиплексирования в операционных системах.  

• Неблокирующие вызовы позволяют избежать блокировок и экономить память.  

• Использование мультиплексирования позволяет операционной системе управлять данными.  

• В Linux это называется multiplexing, в macOS — multiplexing.  

• Глобальная очередь используется для горутин, которые не могут быть выполнены локально.  

• Один раз в 61 тик шедулера проверяется глобальная очередь.  

• Это предотвращает частые конфликты и обеспечивает равномерное распределение горутин.  

• Кэширование данных в ядре процессора может быть неэффективным.  

• Использование очереди FIFO и LIFO для улучшения кэширования.  

• Однокомпонентная очередь LIFO позволяет горутинам, только что выполненным, сразу попадать в LIFO.  

• Циклы между горутинами могут приводить к голоданию FIFO.  

• Решение: ограничение времени непрерывной работы в цикле.  

• ССМОН используется для проверки готовности потоков и их открепления от процессора.  

• Пользователи языка программирования не знают о системных потоках.  

• Для синхронизации используются легковесные потоки и примитивы синхронизации.  

• Проблема блокировки потоков при использовании системных примитивов.  

• Написание собственных примитивов синхронизации, таких как мьютексы.  

• Использование спинлоков для проверки условий блокировки.  

• Вытеснение заблокированных горутин через планировщик Go.  

• Введение трех состояний горутин: выполняется, готова к выполнению, заблокирована.  

• Создание отдельной очереди для заблокированных горутин.  

• Проблема "голодания" горутин в очереди.  

• Введение режима "голодания" для горутин, которые долго блокируются.  

• Разблокировка мьютекса и немедленная блокировка новой горутины.  

• Переход в режим "голодания" при длительном блокировании.  

• Проблема бесконечных циклов в веб-сервисах.  

• Добавление вытесняющей многозадачности для бесконечных циклов.  

• Использование сигналов для вытеснения горутин, работающих более 10 миллисекунд.  

• Используется сигнал SIGK, который обрабатывается потоком в обработчике.  

• Гатина может быть вытеснена не сразу, если находится в безопасном участке кода.  

• Безопасные участки кода и сборщик мусора будут рассмотрены в будущем.  

• Теория планировщика важна для уверенности и прохождения собеседований.  

• Курс по concurrency на Go не для новичков, требует уверенного знания языка.  

• Курс включает написание параллельного кода, изучение паттернов и решение задач на собеседованиях.  

• Курс состоит из 11 уроков, первый урок посвящен основам работы компьютера и многозадачности.  

• Второй урок фокусируется на goroutines и планировщиках.  

• Практическая часть включает изучение синхронизации, дедлоков и инверсии приоритетов.  

• Рассматриваются каналы, их внутреннее устройство и паттерны использования.  

• Контексты используются в последних версиях Go, изучаются их различия и применение.  

• Адвенс часть курса включает сложные темы, такие как барьеры памяти и структуры данных.  

• Рассматривается архитектура веб-серверов и изоляция транзакций в базах данных.  

• Обсуждаются способы реализации изоляции транзакций и подходы к программированию.  

• Профилирование, тестирование и отладка кода также включены в курс.  

• Лайф кодинг включает написание кода для реальных задач и собеседований.  

• Курс проводится онлайн в Zoom, с интерактивным подходом.  

• Дополнительные материалы и сертификаты доступны для участников.  

• Стандартное участие включает запись курса, домашку, дипломный проект и поддержку в чате.  

• VIP-участие добавляет проверку работ и еженедельные сессии.  

• Материалы для подготовки курса будут доступны в чате открытого урока.