Prompt Engineering — как найти общий язык с LLM | Наталья Бруй и Алёна Шувар | True Tech Day 2.0

• Искусственный интеллект может создавать новые профессии.  

• Промт-инженеринг позволяет работать с ИИ без специального образования.  

• В МТС есть два спикера, которые расскажут о промт-инжиниринге.  

• Промт-инжиниринг — новая дисциплина, связанная с улучшением моделей.  

• Промты — это запросы к модели, влияющие на качество ответов.  

• Модели не обладают врожденными знаниями, поэтому важно правильно формулировать промты.  

• Модели могут генерировать тексты, работать с текстами и кодом.  

• Они помогают в обучении и генерации тестовых вопросов.  

• Начинать с простого вопроса и добавлять контекст.  

• Экспериментировать и использовать простые инструкции.  

• Избегать негативных промтов и указывать формат вывода.  

• Zero-shot и one-shot промтинг.  

• Zero-shot: обычный запрос без контекста.  

• One-shot: запрос с примерами правильной обработки информации.  

• Пример с Zero-shot и One-shot.  

• Техника Chain of Thought: пошаговые рассуждения модели.  

• Self-consistency: проверка собственных рассуждений модели.  

• Jailbreak позволяет обойти ограничения модели.  

• Примеры: pretending, evil, duenya.  

• Jailbreak помогает проверить модель перед массовым использованием.  

• Создание бенчмарков для оценки моделей.  

• Бенчмарки включают общие вопросы, ю кейсы и анализ текста.  

• Модели с расширенным контекстом используются для больших объемов информации.  

• Представлены три модели МТС и две модели от Сбербанка и Яндекса.  

• Модели МТС превосходят конкурентов по всем трем категориям.  

• Бенчмарк позволяет оперативно проверять модели и выявлять недочеты.  

• В открытом доступе два бота в Telegram: первый на основе модели GT-3.5 Turbo, второй для поиска информации по видео.  

• Веб-интерфейс для настройки моделей и написания системных промтов.  

• Модели используются для генерации текста на основе описаний.  

• Примеры: генерация вопросов для интервью и медиаматериалов.  

• Модели помогают в создании рекламных текстов, листовок и заголовков.  

• Обсуждение защиты от джейлбрейка и тестирования моделей.  

• Использование различных форматов для сохранения результатов.  

• Планы по развитию моделей и их использованию в массовом доступе.  

• Оценка качества сумаризации в бенчмарке маленького контекста.  

• Использование автоматической метрики для большого контекста.  

• Оценка сгенерированного текста моделями.  

• Модель тестируется для массового использования.  

• Оцениваются ответы с точки зрения обывателя.  

• В отделе разметки и тренеров работают специалисты, чтобы диверсифицировать обучение моделей.  

• В штат набираются люди с разным полом, возрастом и опытом.  

• Это помогает добиться разностороннего обучения моделей.  

• Для узких бизнес-задач привлекаются специально обученные эксперты.  

• Стоимость разметки в сложных темах может быть выше, чем в других.  

• Модель, показанная на экране, еще не в полном доступе.  

• В боте G5 используется модель G5.3.5.  

• Автопромг не используется, но ChatGPT-4 может помочь.  

• Некоторые коллеги используют ChatGPT для написания промтов.  

• Протек-менеджеры общаются с заказчиками.  

• Чаще всего приходят запросы на генерацию текста для блогов.  

• Заказчики предоставляют идеальные результаты, которые они хотят получить от модели.