Нужно рассказывать ИИ, какой ущерб он может нанести.
В процессе разработки агентов для Арканады убедился, что агенты делают такую дичь, которую иногда сложно разрулить.
Такое нельзя переносить на корпоративный прод.
Крайне необходимо объяснять последствия, делить проблемы на классы, и сообщать в MD инструкциях, что задачи класса 3+ имеют особый уровень бизнес ответственности.
Я проверил — это срабатывает корректно.
Я держу "на поводе" то, что агенты создали, проверяю, и часто это расходится с поставленными целями.
Те Goals от Codex, которые сейчас тиражирует интернет, нужно перепроверять. Оказывается - фигня.
Модель понимает ваши цели в контексте токенов, а не в контексте ваших смыслов.
Иначе говоря, у вас разные контекстные окна.
Другой пример:
Вот у тебя бизнес. Заехали к тебе пацаны с претензией. Ты говоришь, что платишь другим людям. Но на разборке смотрящий по городу принял решение не в твою пользу.
В корпоративном бизнесе это не приемлемо. Поэтому своих агентов обучать нужно смолоду.
В процессе разработки агентов для Арканады убедился, что агенты делают такую дичь, которую иногда сложно разрулить.
Такое нельзя переносить на корпоративный прод.
Крайне необходимо объяснять последствия, делить проблемы на классы, и сообщать в MD инструкциях, что задачи класса 3+ имеют особый уровень бизнес ответственности.
Я проверил — это срабатывает корректно.
Я держу "на поводе" то, что агенты создали, проверяю, и часто это расходится с поставленными целями.
Те Goals от Codex, которые сейчас тиражирует интернет, нужно перепроверять. Оказывается - фигня.
Модель понимает ваши цели в контексте токенов, а не в контексте ваших смыслов.
Иначе говоря, у вас разные контекстные окна.
Другой пример:
Вот у тебя бизнес. Заехали к тебе пацаны с претензией. Ты говоришь, что платишь другим людям. Но на разборке смотрящий по городу принял решение не в твою пользу.
В корпоративном бизнесе это не приемлемо. Поэтому своих агентов обучать нужно смолоду.