Часть 2. Превращаем слова в вектора для GPT

• Обсуждение мифов о преобразовании текста в векторы.  

• Представление учебной модели Андрея Карпатова с 85 тысячами параметров и крошечным словарём из трёх токенов.  

• Задача модели — сортировка слов.  

• Сравнение с системой AlphaFold, получившей Нобелевскую премию за моделирование сворачивания белка.  

• Подчёркивание способности текстовых нейросетей решать сложные задачи, включая химию.  

• Объяснение процесса разбиения текста на токены.  

• Формирование векторного словаря на основе токенов.  

• Развенчивание мифов о расшифровке векторов.  

• Вектор интерпретируется в контексте, а не сам по себе.