Введение в разработку AI агентов. Основы работы с LLM

• Приветствие зрителей на YouTube и в школе Гайдау.  

• Обсуждение формата стрима и возможности демонстрации экрана.  

• Вопрос о серии стримов и планах на будущее.  

• Объяснение, что такое агенты и почему они стали популярными.  

• Введение в тему LLM и их роль в современном мире.  

• Пример использования LLM для предсказания текста.  

• LLM натренированы на фиксированной информации.  

• Ограничения в получении актуальной информации.  

• Примеры использования LLM для генерации текста, фото и видео.  

• LLM тренируются на всех доступных текстах из интернета.  

• Различие между открытыми и закрытыми дата-сетами.  

• Ограничения в получении новой информации после тренировки.  

• Обсуждение проблемы с ключами и их аннулирование.  

• Завершение стрима и прощание с зрителями.  

• Модели LLM имеют ограничения по времени и параметрам.  

• Они натренированы на определенный класс задач и информации.  

• Количество параметров влияет на "интеллектуальность" модели.  

• Модели LLM не могут формулировать сложные тексты, такие как налоговые декларации.  

• Тесты для LLM включают вопросы по математике и общим знаниям.  

• Тесты доступны онлайн на сайте Hugging Face.  

• Количество параметров влияет на "умность" модели.  

• Параметры определяются в ходе обучения модели.  

• Примеры моделей с большим количеством параметров: GPT-3 и GPT-4.  

• Большие модели требуют много видеопамяти и работают медленнее.  

• Специализированные устройства могут ускорить работу моделей.  

• Время и количество параметров ограничивают производительность.  

• Модели LLM обучаются на больших объемах информации.  

• Специализированные датасеты используются для обучения.  

• Для разработки моделей LLM не обязательно знать математику.  

• Модели LLM могут галлюцинировать, предсказывая неверные данные.  

• Агенты с LLM часто включают цензоры и подсказчики для минимизации галлюцинаций.  

• Полностью избавиться от галлюцинаций пока невозможно.  

• Обсуждение демонстрации презентации в Discord.  

• Инструкция по отправке презентации в чат.  

• Переход к обсуждению темы агентов.  

• Агенты как часть системы.  

• Планирование действий системы.  

• Пример запроса на исследование конкурентов.  

• Последовательность действий для выполнения запроса.  

• Пример анализа конкурентов.  

• Декомпозиция планов на под-планы.  

• Использование различных агентов для выполнения задач.  

• Важность доступа к инструментам для получения информации.  

• Роль тулов в запросах к LLM.  

• Шаблоны запросов к LLM.  

• Использование тулов для вызова функций.  

• Пример служебного промта для ролевого поведения.  

• Пример ролевого поведения в LLM.  

• Влияние роли на тон и словарь ответов.  

• Примеры использования тулов для различных ролей.  

• Важность истории сообщений для корректной работы системы.  

• Проблемы, возникающие при неправильном использовании шаблонов.  

• Взаимодействие пользователя и системы через сообщения.  

• Роль памяти в системе.  

• Контекст и его значение для LLM.  

• Вопросы понимания контекста пользователями.  

• Нейронные сети имеют ограничения по количеству вводимых данных.  

• Современные сети могут обрабатывать большие объемы информации.  

• Контекст сети измеряется в токенах, которые переводятся в символы.  

• Агенты могут анализировать и сохранять информацию, например, данные о конкурентах.  

• Для этого используется специализированное хранилище памяти.  

• Агенты фиксируют результаты своих действий и взаимодействий.  

• Память агентов состоит из обычного текста, подаваемого в промты.  

• Промты могут быть разными для выполнения различных задач.  

• Агенты используют два типа памяти: шорт мемори и лонг мемори.  

• Агенты могут анализировать сайты и выполнять задачи.  

• Промты управляют действиями агентов, как программирование на естественном языке.  

• Агенты могут проверять и критиковать свои планы, что улучшает их работу.  

• Агенты-интервьюеры анализируют резюме и задают вопросы на основе полученной информации.  

• Они могут переключаться между режимами планирования и исполнения.  

• Агенты используют записи разговоров и анализируют проекты для формирования вопросов.  

• Примеры агентов включают Айви, созданную в инкубаторе Соколова.  

• Айви используется для проведения интервью и анализа резюме.  

• Мер-Корт также является примером агента с большим количеством функций и возможностей.  

• Интервью с агентом менее стремно, так как не нужно угождать собеседнику.  

• Агент имеет множество состояний и ролей, которые меняются в зависимости от заданий.  

• ЛМ служит центром системы, а переходы между состояниями происходят через промтирование.  

• Программисты создают универсальные скрипты для агентов.  

• Скрипты должны быть адаптированы для различных ситуаций, например, приветствие или анализ конкурентов.  

• Агенты могут выполнять задачи, которые раньше выполняли низкооплачиваемые специалисты.  

• ЛМ не может выполнять задачи без стимулов и переходов.  

• Разработчики должны структурировать и детектить переходы для получения полезных результатов.  

• Люди могут отклоняться от сценариев, что усложняет задачу.  

• Координация агентов происходит через традиционные инструменты.  

• Исследования направлены на более сложные способы взаимодействия без слов.  

• Пока это не имеет практической пользы, но тема интересная.  

• Модели обучаются на больших объемах данных, включая интернет.  

• Сети учатся предсказывать текст и понимать контекст.  

• После обучения языку, сети учатся выполнять инструкции и общаться.  

• Сети могут выдавать правильные ответы, но не учитывать контекст.  

• Реворд-модель помогает улучшить качество ответов.  

• Люди оценивают и корректируют ответы, чтобы улучшить стиль общения.  

• В следующий раз планируется презентация и разбор готовых агентов.  

• Будут рассмотрены примеры и методы создания агентов.  

• Обучение под свои задачи возможно, но требует значительных ресурсов.  

• Использование готовых сетей, таких как Meta QVNN, для минимизации затрат.  

• Подбор сетей для конкретных задач, учитывая их экономические и функциональные преимущества.  

• Хостинг для запуска больших сетей в пассивном режиме.  

• Возможность использования дорогих моделей на короткий срок без постоянных затрат.  

• Преимущества хостингов перед облачными провайдерами, такими как OpenAI, из-за полного контроля над данными.  

• Квантизация параметров для уменьшения их размера без значительного снижения интеллекта.  

• Использование различных моделей для выполнения задач, включая озвучивание и роутинг.  

• Применение мультимодальных сетей для анализа изображений и текста.  

• Возможность интеграции с блокчейном через фреймворки, такие как Coen Base Age.  

• Примеры использования для создания контрактов и перевода денег.  

• Необходимость использования нескольких хостингов для достижения лучших результатов.  

• Мультимодальные сети для анализа изображений и текста одновременно.  

• Полнодуплексные модели для голосового и текстового взаимодействия.  

• Интеграция с другими платформами, такими как Eliza, для расширения возможностей.  

• Сети учатся на данных, что может привести к повторению текста.  

• Современные сети учатся на всем интернете, что затрудняет генерацию уникального текста.  

• Инструменты для проверки авторства текста существуют, но их использование сложно.  

• Современные сети, такие как GPT-5, имеют свои ограничения.  

• Обучение на большом объеме текста не всегда дает прирост в способностях сети.  

• Архитектура сетей, таких как трансформеры, имеет свои пределы.  

• Возможно, в будущем появятся новые технологии, которые преодолеют текущие ограничения.  

• Сравнение с двигателями внутреннего сгорания: современные технологии могут стать нормой, как и китайские автомобили.  

• Вопрос о создании полноценного искусственного интеллекта остается открытым.  

• Если сеть будет генерировать данные для себя, она деградирует до примитивного уровня.  

• Это приведет к минимизации функций и примитивизации.  

• Завершение обсуждения и приглашение к дальнейшим опросам в Discord.  

• Обсуждение планов действий и работы с различными LLM.  

• Важность понимания шаблонов и форматов промтов.  

• Необходимость разбираться в различных техниках промтов.  

• Техники промтов, такие как промтирование чейна фес и зиро пром.  

• Задачи классификации и создание классификаторов на базе LLM.  

• Важность шаблонов промтов и их покрытия.  

• Использование агентов и скриптов для работы с LLM.  

• Структурирование и преобразование данных, полученных от LLM.  

• Примеры задач, таких как оценка интервью.  

• Подведение итогов и планы на будущее.  

• Благодарность участникам и анонс следующей лекции.  

• Обещание подготовить больше примеров кода и приглашение на следующий стрим.