Пара слов о LLM-агентах, о которых кричат из каждого утюга (включая этот).
Агент - это система на базе LLM, которая способна решать сложные задачи, требующие нескольких последовательных действий. Помимо LLM (точнее, интерфейса к ней), агент включает в себя:
-планировщик задач
-память (контекст LLM как кратковременная, векторная база данныхкак долговременная)
-коннекторы к внешним сервисам (поиск в интернете, запросы к базам данных итд)
-компонент для рефлексии над промежуточными ответами и доработки плана.
Когда на вход агенту прилетает запрос от пользователя, происходит следующее:
1. Задача декомпозируется с помощью LLM на отдельные шаги
2. Шаги последовательно исполняются с помощью внешних тулов
3. При необходимости агент "обдумывает" результаты и корректирует план действий
4. Пользователь получает финальный результат.
Существует много подходов к построению агентов, самый популярный из которых - ReAct.
Детальный разбор архитектуры агентов можно почитать тут
https://lilianweng.github.io/posts/2023-06-23-agent/
Надо сказать, что для сложных задач (разработка приложений, реализация какой-нибудь навороченной бизнес-логики) часто используют мультиагентные системы. Например, фреймворки Autogen или Crew.ai позволяют собирать из агентов целые "виртуальные команды" с разными ролями и компетенциями.
Агент - это система на базе LLM, которая способна решать сложные задачи, требующие нескольких последовательных действий. Помимо LLM (точнее, интерфейса к ней), агент включает в себя:
-планировщик задач
-память (контекст LLM как кратковременная, векторная база данныхкак долговременная)
-коннекторы к внешним сервисам (поиск в интернете, запросы к базам данных итд)
-компонент для рефлексии над промежуточными ответами и доработки плана.
Когда на вход агенту прилетает запрос от пользователя, происходит следующее:
1. Задача декомпозируется с помощью LLM на отдельные шаги
2. Шаги последовательно исполняются с помощью внешних тулов
3. При необходимости агент "обдумывает" результаты и корректирует план действий
4. Пользователь получает финальный результат.
Существует много подходов к построению агентов, самый популярный из которых - ReAct.
Детальный разбор архитектуры агентов можно почитать тут
https://lilianweng.github.io/posts/2023-06-23-agent/
Надо сказать, что для сложных задач (разработка приложений, реализация какой-нибудь навороченной бизнес-логики) часто используют мультиагентные системы. Например, фреймворки Autogen или Crew.ai позволяют собирать из агентов целые "виртуальные команды" с разными ролями и компетенциями.