Вызов антропного убитого инструмента

• Компания Entropy опубликовала список обновлений для агентов, которые мало кто замечает.  

• Эти обновления важны для создания агентов, особенно для выполнения длительных и сложных задач.  

• Два вызова — основа работы агентов, преобразующая вывод языковой модели в JSON для вызова API-функций.  

• Механизм вызова инструмента практически не изменился за последние два года.  

• Агент генерирует параметры для запуска функции на основе предоставленного списка определений.  

• Пользователь задаёт вопрос агенту, например, «Какая погода в Париже?».  

• Агент отправляет вопрос и schema в языковую модель, которая возвращает инструмент для вызова функции.  

• На стороне сервера запускается функция с параметром «paris», получается ответ, который отправляется обратно в модель.  

• Модель синтезирует сообщение на основе ответа.  

• Для сложных задач агент запускает несколько инструментов подряд, что может привести к недетерминированному поведению и избыточным данным в контекстном окне.  

• Пример с Gmail: агент должен повторно отправлять запросы для каждого идентификатора электронной почты.  

• Избыточные метаданные поглощают контекстное окно, делая его неэффективным.  

• Агент пишет блог о новостях искусственного интеллекта, запуская веб-поиск и инструменты для работы с HTML-кодом.  

• Модель должна вручную воссоздавать содержимое строк для передачи в инструмент написания блога.  

• Это требует много токенов и неэффективно использует контекстное окно.  

• Новый релиз Entropy предлагает улучшения в инструментальном ядре для решения проблем с контекстным окном.  

• Программный вызов инструментов позволяет модели писать код для запуска функций, а не выводить JSON.  

• Модель может использовать условные пути и циклы for для детерминированного выполнения задач.  

• Эксперименты показали, что контекстное окно программного инструментального кода значительно меньше традиционного.  

• Включение программного вызова инструмента в настройки агента легко и не требует перестройки всей итерации.  

• Функция выполнения кода позволяет агенту писать и выполнять код в «песочнице».  

• Использование кода позволяет модели выполнять пакетную обработку задач параллельно.  

• Условные циклы и детерминированная фильтрация сокращают количество вызовов модели.  

• Сокращение потребления токенов на 30–50% и ускорение процесса подбора агентов.  

• AI Builder Club предлагает пошаговые примеры и руководства по работе с большими массивами данных и агрегированию информации.  

• Доступны курсы и материалы по программированию ИИ и созданию производственных агентов.  

• Еженедельные семинары с отраслевыми экспертами.  

• Сообщество разработчиков ИИ.  

• Динамическая фильтрация сокращает потребление токенов на 24% путём извлечения только релевантного контента из HTML-страницы.  

• Активация фильтрации проста: нужно указать специальную версию web fetch tool 226259.  

• В ответе API отображаются этапы выполнения кода для извлечения релевантных ключей.  

• Двойной поиск оптимизирует контекстное окно, загружая только необходимые инструменты.  

• Вместо сотен схем инструментов загружается один инструмент поиска инструментов, что экономит около 500 токенов.  

• Оптимизация контекстного окна может достигать 80%.  

• Отложенная загрузка позволяет агенту не видеть ненужные инструменты, что снижает потребление токенов.  

• Сервер MCP поддерживает гибкую конфигурацию отложенной загрузки.  

• Метод особенно эффективен при работе с более чем десятью инструментами.  

• Примеры ввода помогают агенту лучше понять, как использовать сложные инструменты, например, «создать тикет».  

• Примеры вводятся в массив при определении инструмента и используются для подражания агенту.  

• Повышает точность обработки сложных параметров с 72% до 90%.  

• Анонс новых шаблонов и готовящегося к выпуску релиза.  

• Приглашение присоединиться к AI Builder Cloud для получения дополнительной информации.  

• Упоминание о еженедельных семинарах и сообществе разработчиков ИИ.