Местный по сравнению с Облачные LLMS/RAG - Давайте, НАКОНЕЦ, закончим эту дискуссию

• Автор делится опытом создания агентов с искусственным интеллектом с использованием различных технологий.  

• Обсуждает использование локальных и управляемых сервисов для ИИ.  

• Подчеркивает важность принятия обоснованного решения о выборе технологий.  

• Описывает важность Docker для локальной инфраструктуры.  

• Перечисляет используемые технологии: OAMA для LLM, Quadrant для векторной базы данных, Superbase для аутентификации и PostgreSQL.  

• Упоминает N8 для автоматизации рабочего процесса и Redis для кэширования.  

• Описывает использование C Cloud, GPT или Grok для LLM.  

• Перечисляет Pinecone или Quadrant для векторной базы данных и Superbase для аутентификации.  

• Упоминает Cloud N8 для автоматизации и Redis для кэширования.  

• Автор предлагает использовать схему дерева решений для выбора между локальными и управляемыми сервисами.  

• Подчеркивает важность гибридного подхода, где некоторые части могут быть локальными, а другие - управляемыми.  

• Обсуждает, когда использовать управляемые сервисы для быстрого запуска.  

• Подчеркивает, что управляемые сервисы подходят для простых доказательств концепции.  

• Упоминает, что конфиденциальные данные требуют локального подхода.  

• Если данные конфиденциальны, рекомендуется использовать локальные технологии.  

• Обсуждает необходимость новейших технологий для сложных задач.  

• Подчеркивает, что для сложных задач лучше использовать управляемые сервисы.  

• Если приложение не будет масштабироваться более чем на 1000 пользователей, управляемые сервисы могут быть дешевле.  

• Если приложение будет масштабироваться, локальные технологии могут быть более рентабельными.  

• Упоминает, что удобство управляемых сервисов может быть привлекательным для многих компаний.  

• Представлена схема принятия решений, которая помогает начать с вопросов и получить ответы в местных или управляемых службах.  

• Подчеркнуто, что существует множество мнений о том, когда использовать локальные и управляемые сервисы.  

• Важно учитывать различные требования компаний к конфиденциальным данным.  

• Призыв делиться мыслями в комментариях о том, когда обращаться к местным властям.  

• Упоминание о важности местных моделей, таких как Llama, и планах создавать больше контента на эту тему.  

• Призыв поставить лайк и подписаться, если диаграмма была полезной.