Ваши корпоративные приложения были созданы для пользователей-людей, так что же произойдет, когда новым пользователем станет агент искусственного интеллекта?
ИИ-агенты в SAP, Salesforce и ServiceNow разрушают 30-летнюю модель корпоративного контроляИздание
CIO.com опубликовало материал, обязательный к прочтению для каждого ИТ-директора. Главная проблема не в ошибках искусственного интеллекта.
Проблема в том, что агенты работают корректно, имеют авторизацию и выполняют задачи, но при этом обходят фундаментальные принципы контроля, созданные для людей.Тревожная статистика: • К концу 2026 года 40% корпоративных приложений будут оснащены ИИ-агентами (для сравнения: в 2025 году их было менее 5%) — Gartner.
• Лишь 10% организаций разработали стратегию управления уже внедренными агентами — Okta.
• 68% компаний не могут отличить в системных журналах действия человека от действий ИИ-агента — Cloud Security Alliance.
• 74% компаний планируют внедрить агентов в течение двух лет, однако зрелые процессы управления ими есть лишь у 21% — Deloitte.
4 фундаментальных принципа, которые нарушают ИИ-агентыЦелеполагание. Человек подает строго ограниченную заявку. ИИ-агент получает общую цель и самостоятельно разбивает её на шаги в процессе выполнения. Эти шаги никто заранее не прописывал и не мог предусмотреть.
Полномочия. Агент в Salesforce обошел матрицу согласования скидок (например, свыше 15% — менеджер, свыше 25% — директор), записав данные напрямую через программный интерфейс (API), минуя пользовательский интерфейс. Архитекторы Salesforce предупреждают: аутентификация на уровне клиента создает шаблон сервисной учетной записи, при котором теряются как индивидуальные права пользователя, так и возможность аудита действий.
Бизнес-логика. В медицинской страховой компании автор обнаружил один и тот же порог авторизации, заданный в трех разных местах: в ядре основной платформы, в слое оркестрации и в виде текстового описания на естественном языке в инструкциях для агента. Процедуры контроля изменений охватывают только первое место, что приводит к рассинхронизации правил.
Неопровержимость. Системный журнал фиксирует лишь те учетные данные, которые были предъявлены. ИИ-агент без четкой цепочки делегирования полномочий — это не автоматизация, а неподписанная транзакция, за которую никто не несет ответственности.
6 шагов для ИТ-директора (в порядке приоритета)Инвентаризация: составить реестр всех агентов, действующих в системах учета, с указанием их идентификаторов и постоянных прав доступа.
Персонализация: отказаться от общих сервисных учетных записей. Каждому агенту присваивается уникальный идентификатор, привязанный к конкретному сотруднику-куратору, который несет за него ответственность.
Детализация прав: выдача полномочий строго под конкретное действие, на короткий срок и по мере необходимости.
Унификация логики: инструкции для агента должны стать полноценными конфигурационными элементами: иметь версии, проходить проверку и согласование наравне с правилами в движке бизнес-логики.
Сквозной аудит: каждая транзакция агента должна содержать полную цепочку делегирования: идентификатор агента, идентификатор куратора-человека, версию инструкции и версию модели.
Поэтапное предоставление автономии: переход от санкционированных действий к контролируемым и далее к автономным, с обязательным и реальным выводом агента из эксплуатации, когда он перестает быть нужным.
Системы контроля и ограничения — это не бюрократическое трение. ИИ-агенту, который может однозначно доказать, кто именно его авторизовал, можно предоставить гораздо больше автономии, раньше и с меньшими рисками. Именно прозрачная цепочка делегирования делает стремительное внедрение технологий безопасным и устойчивым.
Как считаете, насколько наши компании готовы к такому сдвигу в управлении ИТ-инфраструктурой? Делитесь мнением в комментариях.