Исследования в 1 клик или шо там?
Третьего дня баловался разными вариантами массивных исследований по почти любым вопросам исходя из одного запроса пользователя. Схема в голове была такая:
1) Вводишь запрос: Найди всю информацию в интернете, которая касается
"Применение теоремы Колмогорова-Арнольда для замены классически MLP слоёв LLM моделей на новые KA-networks (KAN перцептроны)"2)
Агент#1 разбивает твой запрос на пункты и начинается глубокий анализ. В
System INFO должна работать инструкция по правильному reasoning и дальнейшее применение всей логики запроса пользователя для разделения на поисковые запросы для DuckGOGO, Google - чтобы собрать информацию, которая потребовалась исходя из reasoning
(рассуждений в 9 -12 пунктов по вашей задаче)В случае с нашим запросом агент разобьёт всю задачу на подпункты и найдёт практически всё, что связано с контекстом запроса по применению теоремы Колмогорова-Арнольда в замене MLP слоёв языковых моделей. 3)
Агент#2 собирает всю информацию из найденного и начинает разбивать ссылки для более глубинного анализа и извлечения информации, далее создаёт дополнительные запросы в поисковик и ищет всю нужную информацию.
4) Вся собранная информация дальше передаётся
Агенту#3 кодеру, который создаёт требуемое окружение в докере, устанавливает все пакеты прослеживая моменты установки и тайминги, далее начинает писать код и тестировать его.
5-6 попыток исправления кода вполне достаточно перед отправкой к следующему агенту. 5)
Агент#4 анализатор кода выполняет свою роль в следующих аспектах:
а) проверяет логику в рамках контекста задачи (запрос пользователя поделённый на целый план действий и логику проекта)
б) проверяет все ли библиотеки использованы не потерялся ли контекст при работе с кодом
в) отправляет отчет обратно к
Агенту#3 кодеру
6) Агент#3 кодер исправляет косяки и возвращает финальные коды после 5-6 тестов в докере.
7. Финальный отчет с грамотно отформатированным аутпутом для удобного копирования и запуска всех скриптов + туториал по установке
(сделано для людей далёких от программирования или установки каких-либо зависимостей)В чем цимес то?
А он в том, что некая версия программы уже имеется. вы можете наблюдать её работу на приложенной гифке.
НО ЕСТЬ ПРОБЛЕМЫ:
1) Добиться грамотного структурного output в виде JSON чтобы грамотно совмещать интересные функции LLM + браузер + поисковик + докер и программирование с созданием файлов - ОЧЕНЬ СЛОЖНО!
Почему? Я забыл упомянуть самое важное - этот проект должен быть ПОЛНОСТЬЮ БЕСПЛАТНЫМ и работать на основе свободных моделей, таких как: Llama 3.1 70b, Mixtral8b (единственная поддерживающая Structured Output адекватно) , Llama 3.1 8b
Единственное место, которое предоставляет адекватный ресурс для исследований новых технологий -
GROQ.COMОни дают возможность сделать подобное исследование
абсолютно бесплатным.
Напомню вам, что эти ребята работают по технологии LPU,
которая ебанистически ускоряет вычисления для LLM моделей.
P.S. Буду выкладывать результаты работы над этим странным, но перспективным софтом. В идеале он должен упрощать рутинные задачи по расспросам нейронок за разные темы, которые требуется быстренько уяснить во время рабочего процесса и двинуться дальше. Также данный софт должен справляться и с очень сложными задачами, которые требуют глубокого анализа и ризонинга.
