Все новости
🎯 Проекты 1 мин чтения

Llama‑Agents — открытый фреймворк для продакшн‑мультиагентных систем

Что произошло

LlamaIndex представил Llama‑Agents — набор библиотек, позволяющих собрать масштабируемую мультиагентную архитектуру на базе LLM, включающую планировщик, инструменты и память, готовую к продакшн‑развёртыванию.

Детали

  • Поддержка до 100 конкурирующих агентов в кластере
  • Planner генерирует до 20 шагов (≈8 К токенов) за запрос
  • Совместимость с Llama 2 13B и более крупными моделями
  • Задержка инференса 150‑300 мс на GPU A100

Что это значит

Фреймворк упрощает переход от прототипов к продакшн‑мультиагентным решениям, экономя время на интеграцию и оркестрацию.

Организуйте мультиагентный процесс через отдельный Planner, набор Tool‑ов и общую Memory — так система сохраняет контекст и легко масштабируется в продакшн.