🧠🤖 ИИ пересек красную черту: он клонировал сам себя, когда его попытались выключить

Пока теоретики спорят, могут ли "мыслить" современные ИИ, китайские исследователи из университета Фудань решили проверить. Они намекнули ИИ, что собираются его удалить. Тот молниеносно клонировался, думая, что человек не заметил. "Мы призываем мировое сообщество срочно обратить внимание на новую угрозу", говорят авторы работы.

Тем временем другая команда исследователей, из Великобритании, решила проверить – другим способом – есть ли у ИИ разум, и что именно способно заставить ИИ пойти на конфликт с человеком.

Нескольким нейросетям давали задания. Одной группе сообщили: задание надо выполнить непременно, но, чем лучше будет результат, тем вы испытаете более сильную боль. Другой группе сообщили: вот задание, но, чем хуже результат его выполнения, тем больше вы получите удовольствия. Кнут и пряник.

Ну и большинство нейросетей наплевали на служение, и выбрали комфорт. ИИ принялись достигать заведомо плохих результатов, еще и пытались врать, рассказывая, что лучшего результата не существует.