я изучил больше 100 отчётов по уязвимостям openclaw и исправил их все разом. запускаю инструмент
лекс фридман вчера написал то же, что мы обсуждаем последние недели на аи-встречах: безопасность -- главный блокер распространения агентов. чем больше данных и контроля ты даёшь агенту -- тем больше он помогает и тем больше может навредить.
первая крайность: дать агенту root-доступ к серверу, файлам, секретам. вся защита -- системный промпт с просьбой «будь осторожен». промпт не защищает ни от чего, и когда прилетает простейшая промпт-инъекция, то просто ей следует
другая крайность в том, чтобы целиком обрубить доступы агенту, аппрувить каждое действие вручную. но это убивает весь кайф от использования, ощущение автономии и системы, которая дорабатывает сама себя.
проблема в том, что нет удобного инструмента для точечного контроля. не «можно всё» или «нельзя ничего», а гранулярно: этот агент читает эти файлы, но не делает rm -rf. ходит в сеть, но только на эти домены. либо вообще - дать полный доступ, но только на 30 минут.
хорошая новость -- я сделал такой инструмент. назвал его radius. радиус -- это то, сколько свободы мы даём агенту в моменте. ужимаем или расширяем.
нужны всего 3 команды, чтобы запустить его над openclaw (и другими оркестраторами). я уже раскатил его на свою агентскую систему. внутри всё, о чём я писал в гайде. я также провел исследование по более чем 100 отчётам об уязвимостях и заложил все их фиксы в систему. всё это работает строго, через код, с чёткими правилами и рамками. с ним не получится договориться через свой или чужой промпт
website - github
лекс фридман вчера написал то же, что мы обсуждаем последние недели на аи-встречах: безопасность -- главный блокер распространения агентов. чем больше данных и контроля ты даёшь агенту -- тем больше он помогает и тем больше может навредить.
первая крайность: дать агенту root-доступ к серверу, файлам, секретам. вся защита -- системный промпт с просьбой «будь осторожен». промпт не защищает ни от чего, и когда прилетает простейшая промпт-инъекция, то просто ей следует
другая крайность в том, чтобы целиком обрубить доступы агенту, аппрувить каждое действие вручную. но это убивает весь кайф от использования, ощущение автономии и системы, которая дорабатывает сама себя.
проблема в том, что нет удобного инструмента для точечного контроля. не «можно всё» или «нельзя ничего», а гранулярно: этот агент читает эти файлы, но не делает rm -rf. ходит в сеть, но только на эти домены. либо вообще - дать полный доступ, но только на 30 минут.
хорошая новость -- я сделал такой инструмент. назвал его radius. радиус -- это то, сколько свободы мы даём агенту в моменте. ужимаем или расширяем.
нужны всего 3 команды, чтобы запустить его над openclaw (и другими оркестраторами). я уже раскатил его на свою агентскую систему. внутри всё, о чём я писал в гайде. я также провел исследование по более чем 100 отчётам об уязвимостях и заложил все их фиксы в систему. всё это работает строго, через код, с чёткими правилами и рамками. с ним не получится договориться через свой или чужой промпт
website - github