Совсем не потеме канала, но интересно.
У финансовых ИИ-агентов есть неочевидная особенность: деньги — чувствительная тема. Ошибка в генерации картинки — забавно. Ошибка системы, которая управляет деньгами, воспринимается не как баг, а как потеря контроля.
Поэтому финансового агента надо проектировать не вокруг максимальной автономности, а вокруг контролируемости. Агент готовит информацию, но любое действие с деньгами всегда подтверждает человек.
Права доступа, пороги, правила остановки и журнал действий здесь не скучная корпоративная обвязка. Это часть продукта.
Это важно даже тогда, когда агент приходит к правильному выводу. В исследовании FinRCA-Bench система в 254 случаях верно определила причину финансового расхождения, имея неполный набор доказательств. Ответ оказался правильным, но проверить путь к нему было нельзя. Для финансов это плохой результат: правильного ответа «по счастливой случайности» недостаточно.
Очевидный тренд в финансовых агентах — меньше магии чёрного ящика, больше объяснений, доказательств и явного согласия. Их автономность будет расти, но последнее слово останется у человека.
https://bit.ly/4qvC34s
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto
Другие каналы по темам:
🤖 AI @maltsevdaily
🧑🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym
У финансовых ИИ-агентов есть неочевидная особенность: деньги — чувствительная тема. Ошибка в генерации картинки — забавно. Ошибка системы, которая управляет деньгами, воспринимается не как баг, а как потеря контроля.
Поэтому финансового агента надо проектировать не вокруг максимальной автономности, а вокруг контролируемости. Агент готовит информацию, но любое действие с деньгами всегда подтверждает человек.
Права доступа, пороги, правила остановки и журнал действий здесь не скучная корпоративная обвязка. Это часть продукта.
Это важно даже тогда, когда агент приходит к правильному выводу. В исследовании FinRCA-Bench система в 254 случаях верно определила причину финансового расхождения, имея неполный набор доказательств. Ответ оказался правильным, но проверить путь к нему было нельзя. Для финансов это плохой результат: правильного ответа «по счастливой случайности» недостаточно.
Очевидный тренд в финансовых агентах — меньше магии чёрного ящика, больше объяснений, доказательств и явного согласия. Их автономность будет расти, но последнее слово останется у человека.
https://bit.ly/4qvC34s
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto
Другие каналы по темам:
🤖 AI @maltsevdaily
🧑🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym