Как мы делали отказоустойчивый Redis в Yandex Cloud / Евгений Дюков (Yandex Cloud )

• Обсуждение важности отказа устойчивости в редисе и его использования в различных приложениях, таких как очереди, пользовательские сессии и рейд-митинг.  

• Пример использования отказа устойчивости в интернет-магазине, где пользователь может купить товар, не регистрируясь, и потеря данных может привести к проблемам.  

• Сентинель - механизм запуска редис-сервера, который позволяет клиентам общаться с редисом, не указывая реплики.  

• Редис-кластер - кластер с шардами, где клиенты могут голосовать за выбор нового мастера при падении старого.  

• Партишин праймериз не закрывается от нагрузки, что может привести к потере данных.  

• Сентинель может быть не отказоустойчивым, если клиенты создают его на разных хостах.  

• Кластер может быть не отказоустойчивым из-за проблем с изоляцией и распределением праймериз по доменам.  

• Использование костылей для решения проблем с отказом устойчивости, таких как закрытие партишин праймериз и использование вейт команды.  

• Рекомендация клиентам ставить сти рядом с редисом и использование документации для указания на возможные потери данных.  

• В видео обсуждается решение для Redis, которое позволяет клиентам создавать кластеры с тремя шардами, но при этом не терять данные.  

• Решение основано на использовании специального агента, который хранит информацию о состоянии кластера и обновляет его при необходимости.  

• В случае потери связи с мастером, один из кандидатов становится новым менеджером и переводит локальный Redis в офлайн-режим.  

• Затем менеджер пытается выяснить состояние кластера и остановить репликацию.  

• Если состояние кластера позволяет, менеджер делает каскадную репликацию, чтобы догнать приоритетную ноду.  

• После этого менеджер поворачивает реплики на новый праймериз и открывает запись.  

• В видео обсуждаются два набора тестов: функциональные тесты и тесты с джепсоном.  

• Функциональные тесты проверяют предопределенные сценарии, а тесты с джепсоном имитируют различные сценарии сбоев в сети.  

• В заключение, автор подчеркивает, что решение для Redis не является новым, но может быть полезным для тех, кто хочет избежать потери данных.  

• В докладе обсуждается процесс ришардирования, когда клиенты расширяют кластеры и добавляют новые шарды.  

• Ришардирование происходит автоматически, когда клиент нажимает специальную команду в опи.  

• В докладе подчеркивается, что система гарантирует доступность данных, но не гарантирует доступность мастера.  

• В случае полного пропадания сети и восстановления кластера, он соберется заново.  

• В ходе дискуссии обсуждаются вопросы о ришардировании, использовании параметра "райт консерн мажор" и задержке старта мастера.  

• Докладчик отвечает на вопросы о поддержке разных версий редиса и о том, как патчи применяются на разных уровнях.