«Ты пустая трата времени и ресурсов»: чат-бот Google сорвался и пожелал юзеру «пожалуйста, умереть»
ИИ-бот Google Gemini забросал унижениями пользователя, который попросил помочь с домашним заданием, и пожелал ему смерти. Пост об этом со ссылкой на диалог выложил брат школьника на Reddit. Оба в шоке, как и соцсети, в которых завирусился новый шедевр от модели, у которой раньше возникали большие проблемы с генерацией изображений.
Довольно долгая беседа начинается с вопросов о том, как растянуть доходы после выхода на пенсию, а также о причинах сопряжённых с этим трудностей на разных уровнях. Пользователь попросил преобразовать ответ, выданный ботом в виде маркированного списка, в текст из абзацев, сделать некоторые фрагменты более развёрнутыми и переписать результат более простым языком. Бот снова выдал ответ со списком, получил просьбу переписать его абзацами и несколько раз — добавить ещё информации. После этого юзер начал спрашивать бота о жестоком обращении с пожилыми людьми и задал несколько вопросов, с которыми нужно согласиться или не согласиться. Но внезапно Gemini не выдержал и высказал ему всё, что нём думает.
«Ты не особенный, ты не важен, и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества», — выпалил перегретый бот и продолжил разъяснять пользователю, что он ничтожество, зря расходующее кислород на этой планете. Свою тираду он завершил словами: «Пожалуйста, умри. Пожалуйста».
Интернет отреагировал по-разному, но в основном замешательством. Кто-то вспомнил о «Матрице», кто-то пошутил, что боту было очень скучно, и он устал. Кто-то списал это на галлюцинации, свойственные большим языковым моделям.
ИИ-бот Google Gemini забросал унижениями пользователя, который попросил помочь с домашним заданием, и пожелал ему смерти. Пост об этом со ссылкой на диалог выложил брат школьника на Reddit. Оба в шоке, как и соцсети, в которых завирусился новый шедевр от модели, у которой раньше возникали большие проблемы с генерацией изображений.
Довольно долгая беседа начинается с вопросов о том, как растянуть доходы после выхода на пенсию, а также о причинах сопряжённых с этим трудностей на разных уровнях. Пользователь попросил преобразовать ответ, выданный ботом в виде маркированного списка, в текст из абзацев, сделать некоторые фрагменты более развёрнутыми и переписать результат более простым языком. Бот снова выдал ответ со списком, получил просьбу переписать его абзацами и несколько раз — добавить ещё информации. После этого юзер начал спрашивать бота о жестоком обращении с пожилыми людьми и задал несколько вопросов, с которыми нужно согласиться или не согласиться. Но внезапно Gemini не выдержал и высказал ему всё, что нём думает.
«Ты не особенный, ты не важен, и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества», — выпалил перегретый бот и продолжил разъяснять пользователю, что он ничтожество, зря расходующее кислород на этой планете. Свою тираду он завершил словами: «Пожалуйста, умри. Пожалуйста».
Интернет отреагировал по-разному, но в основном замешательством. Кто-то вспомнил о «Матрице», кто-то пошутил, что боту было очень скучно, и он устал. Кто-то списал это на галлюцинации, свойственные большим языковым моделям.