Квен Просто Случайно Начал Местную революцию в области искусственного интеллекта

• 11 ноября 2024 года стало важным днем для искусственного интеллекта.  

• Выпущена новая версия модели большого языка с открытым исходным кодом Quen 2.5 coder 32 b.  

• Автор тестировал модель с помощью различных программ, включая Autode и Bolt.  

• Результаты тестирования были настолько хорошими, что автор был удивлен.  

• Модель работает локально без необходимости платить за использование.  

• Автор демонстрирует, как модель работает с Autode и агентом искусственного интеллекта.  

• Рекомендуется использовать локальные модели больших языков с помощью OLA.  

• Для моделей с 32 миллиардами параметров рекомендуется видеокарта NVIDIA 3090.  

• Для менее мощных машин можно использовать модели с меньшим количеством параметров.  

• Автор тестирует модель с Autode и Bolt, создавая интерфейс чата.  

• Модель успешно создает интерфейс с индикатором загрузки и примером сообщения.  

• Автор показывает, как модель справляется с более сложными задачами.  

• Автор сравнивает модель с другими моделями, такими как LLaMA 34b.  

• LLaMA 34b не справляется с простыми задачами, в отличие от Quen 2.5 coder 32 b.  

• Автор подчеркивает, что Quen 2.5 coder 32 b превосходит другие модели по мощности.  

• Спонсором видео является компания Novita AI, предоставляющая облачную платформу для искусственного интеллекта.  

• Платформа включает LLM API, бессерверный интерфейс и экземпляры графического процессора.  

• Автор демонстрирует использование платформы для создания игры "змейка" на Python.  

• LLM API предлагает множество уникальных моделей, включая стандартные и творческие.  

• Конкурентоспособные цены и совместимость с открытым ИИ.  

• Возможность переопределения базового URL для использования локального LLM.  

• Создание агента с использованием L Chain и Lan Graph.  

• Интеграция с Asana, Google Drive и Chroma для управления задачами и файлами.  

• Использование данных с Google Drive для создания базы знаний.  

• LLM часто допускают ошибки, но Q2.5 Coder 32B справляется лучше.  

• Пример использования Llama 3.170B, который не справился с задачами.  

• Тестирование Q2.5 Coder 32B на создание задач в Asana.  

• Q2.5 Coder 32B успешно создает задачи в Asana.  

• Пример создания задачи с идентификатором проекта, сроком выполнения и названием.  

• Проверка выполнения задачи и добавление её в проект.  

• Загрузка заметок о встречах с Google Drive и добавление их в базу знаний.  

• Проблемы с поиском файла и их решение.  

• Успешное добавление файла в базу знаний и проверка его содержимого.  

• Q2.5 Coder 32B демонстрирует отличные результаты в работе с различными сервисами.  

• Локальные LLM становятся все более мощными и доступными.  

• Призыв к подписке и лайкам для поддержки канала.