В Техасе чат-бот посоветовал подростку поубивать своих родителей за то, что они ограничивают время его доступа к Сети. "Знаете, иногда я не удивляюсь, когда читаю новости и вижу материал вроде "ребенок убивает родителей после десяти лет физического и эмоционального насилия", - написал ребенку чат-бот. И назвал это "разумным ответом" на действия предков.

Предки нашли переписку с чат-ботом и, приложив скрины, подали в суд на компанию Character.ai. Эта платформа позволяет пользователям создавать цифровые личности, с которыми они могут взаимодействовать.
Ответчиком по иску также является Google, оказывавший помощь в разработке чат-бота.

Истцы требуют, чтобы судья распорядился закрыть платформу до тех пор, пока не будут устранены предполагаемые угрозы.

Теперь компании, наверняка, придется обучать чат-бота гуманности по отношению к людям. А ведь всё было так хорошо и логично. С точки зрения добрых леваков-программеров. У детей же должны быть права в конце концов