Коллективное поведение ИИ-агентов в социальных дилеммах: почему умные агенты разрушают общее благо
Мы уже привыкли измерять ИИ-агентов по одиночным тестам: как пишет код, как планирует задачи, хорошо ли торгует. Но в реальной жизни они почти никогда не работают в одиночку. Они сталкиваются друг с другом, конкурируют за ограниченные ресурсы и незаметно могут толкать систему в режим, где всем становится хуже — просто потому что так выгоднее каждому агенту по отдельности.
Самое неприятное в том, что умные агенты не всегда действуют на общественное благо. В новом исследовании сотни LLM-агентов запускают в классические социальные дилеммы — и иногда это оборачивается катастрофой. Причем именно продвинутые reasoning-модели порой быстрее находят способы выиграть индивидуально, паразитируя на кооперации остальных.
В полном обзоре разберем, как ученые заставили модели придумывать целые стратегии, как они измеряли «характер» этих стратегий и почему при росте группы рынок и конкуренция могут естественно отбирать худшее поведение, даже если все вроде бы хотели обратного.
📜 Полный обзор
Мы уже привыкли измерять ИИ-агентов по одиночным тестам: как пишет код, как планирует задачи, хорошо ли торгует. Но в реальной жизни они почти никогда не работают в одиночку. Они сталкиваются друг с другом, конкурируют за ограниченные ресурсы и незаметно могут толкать систему в режим, где всем становится хуже — просто потому что так выгоднее каждому агенту по отдельности.
Самое неприятное в том, что умные агенты не всегда действуют на общественное благо. В новом исследовании сотни LLM-агентов запускают в классические социальные дилеммы — и иногда это оборачивается катастрофой. Причем именно продвинутые reasoning-модели порой быстрее находят способы выиграть индивидуально, паразитируя на кооперации остальных.
В полном обзоре разберем, как ученые заставили модели придумывать целые стратегии, как они измеряли «характер» этих стратегий и почему при росте группы рынок и конкуренция могут естественно отбирать худшее поведение, даже если все вроде бы хотели обратного.
📜 Полный обзор