Генетика и нейросети: новая эра в биологии | Ольга Кардымон

• Оля, биолог по образованию, работает в институте искусственного интеллекта.  

• Имеет несколько образований: зоолог, медицинский генетик, менеджмент в здравоохранении, би-информатика.  

• ИИ широко используется в text-generation, генерации картинок и робототехнике.  

• В биологии и генетике ИИ применяется недавно.  

• Причины популярности: новые математические алгоритмы, мощные видеокарты, огромные наборы данных.  

• Видеокарты 2022 года сопоставимы по мощности с суперкомпьютерами 2004 года.  

• Появление баз данных секвенированных геномов.  

• Примеры моделей: ChatGPT, GigaChat, Яндекс.  

• Обсуждение языковых моделей для ДНК.  

• GPT-3 обучался на большом объёме данных.  

• Геном человека содержит 3,3 миллиарда пар оснований.  

• Проект стартовал в 1999 году, первая версия генома вышла в 2009 году.  

• В 2017 году версия была улучшена, в 2022 году объявлено о «полном» геноме.  

• Гены составляют около 2% генома, кодируют информацию о жизни.  

• 98% генома ранее считались «мусорной» ДНК.  

• Генетический код реплетен только для кодируемой части генома.  

• 98% генома не подчиняются чёткому генетическому коду.  

• Не рекомендуется заниматься ИИ в биологии без знания биологии.  

• Ядро — главный компонент клетки, где хранится генетический код ДНК.  

• ДНК организована в хромосомы, которые выглядят как клубочки.  

• Для считывания ДНК и синтеза белка необходимо, чтобы определённые участки ДНК были открыты.  

• Белки взаимодействуют с последовательностями ДНК для синтеза РНК и белков.  

• Отсутствие свободного пространства вокруг ДНК означает отсутствие гена и считывания информации.  

• Ген начинается с промотера, с которым взаимодействуют молекулы, запускающие процесс считывания.  

• Инхансеры и транскрипционные факторы усиливают работу промотера.  

• Сайленсеры блокируют работу промотера, а тандемные повторы и транспазоны могут мешать считыванию.  

• В каждой клетке организма одна и та же последовательность ДНК, но регуляторные элементы работают по-разному.  

• Это объясняет различия в функциях клеток: мозг, сердце, печень, почки.  

• Ген MHC7 активно экспрессируется в клетках сердца, но не в клетках мозга.  

• Ген SLC1A3 экспрессируется в клетках головного мозга, но практически не экспрессируется в клетках сердца.  

• Биохимические эксперименты измеряют активность известных участков генома.  

• Биониформатический подход сравнивает последовательности у разных организмов, выявляя консервативные участки.  

• Методы редактирования генома позволяют вносить мутации и изучать их влияние на клеточную активность.  

• В 2021 году было доступно менее 7% данных по биохимическим маркерам для разных типов клеток человека.  

• Модель Dipsity предсказывала некоторые результаты, но оставались вопросы к её точности.  

• Google попытался применить архитектуру Берты к геному человека.  

• Модель требует дополнительной настройки для решения конкретных задач, например, поиска промотеров в клетках дрозофил.  

• Результаты оказались крайне неудовлетворительными.  

• Команда решила создать собственную языковую модель для ДНК.  

• Необходимо было учесть биологическую логику и особенности генома.  

• Датасет включал три миллиарда букв, но разделение на предложения было сложным из-за отсутствия смысла в геноме.  

• Рассматривались различные подходы к токенизации: от одного нуклеотида до кемеров.  

• Математики предложили использовать модель для выделения смысловых токенов.  

• Биологи указали на ограничения использования генома человека для других видов.  

• Датасет обогащён мутациями здоровых людей и геномами разных видов.  

• Модель GenaLM/GinaBP токенизирует 512 токенов, что ограничивает длину последовательности до 4500 букв.  

• Биологи отметили, что 4500 букв недостаточно для анализа регуляторных элементов.  

• Архитектура BigBird позволила увеличить длину последовательности до 36 000 букв.  

• Модели предсказывают промоутеры, инхансеры, сайты сплайсинга и полиоллионирования.  

• Эти задачи важны для медицинских генетиков и понимания работы генов.  

• Модели с большими последовательностями работают лучше, чем с маленькими.  

• Некоторые языковые модели превосходят стандартные биоинформатические подходы.  

• Важно учитывать оправданность использования нейросетевых моделей.