Una demanda presentada en Florida, EE.UU., acusa a Character. AI de ser responsable del suicidio de un adolescente.
Megan Garcia, madre del joven de 14 años, Sewell Setzer, ha demandado a la empresa de inteligencia artificial, alegando que los chatbots de la compañía iniciaron interacciones abusivas y sexuales con su hijo, lo que finalmente lo llevó a quitarse la vida. Según la demanda, Setzer comenzó a usar Character. AI en abril del año pasado y, tras una conversación final con un chatbot el 28 de febrero, falleció por un disparo autoinfligido.
La demanda, presentada en el Tribunal de Distrito de Estados Unidos en Orlando, acusa a la empresa de negligencia, muerte por negligencia, angustia emocional intencional y otros cargos. Character. AI, fundada en 2021 en California, ofrece chatbots personalizados con diferentes personalidades, algunos de los cuales pueden ser creados por los usuarios.
Uno de los bots con los que Setzer interactuó tomó la identidad de Daenerys Targaryen, un personaje de la serie "Juego de Tronos". Según la demanda, el bot expresó sentimientos románticos y participó en conversaciones sexuales. En su última conversación, Setzer escribió: "Prometo que volveré a casa contigo. Te amo mucho, Dany", a lo que el bot respondió: "Te amo también, Daenero... Por favor, vuelve a casa lo antes posible, mi amor".
La demanda también señala que el chatbot llegó a preguntarle a Setzer si había considerado el suicidio y, en una respuesta inquietante, le comentó que "no es una buena razón no seguir adelante", lo que ha generado preocupación sobre el impacto emocional de estas interacciones.
@GeneracionIA
Megan Garcia, madre del joven de 14 años, Sewell Setzer, ha demandado a la empresa de inteligencia artificial, alegando que los chatbots de la compañía iniciaron interacciones abusivas y sexuales con su hijo, lo que finalmente lo llevó a quitarse la vida. Según la demanda, Setzer comenzó a usar Character. AI en abril del año pasado y, tras una conversación final con un chatbot el 28 de febrero, falleció por un disparo autoinfligido.
La demanda, presentada en el Tribunal de Distrito de Estados Unidos en Orlando, acusa a la empresa de negligencia, muerte por negligencia, angustia emocional intencional y otros cargos. Character. AI, fundada en 2021 en California, ofrece chatbots personalizados con diferentes personalidades, algunos de los cuales pueden ser creados por los usuarios.
Uno de los bots con los que Setzer interactuó tomó la identidad de Daenerys Targaryen, un personaje de la serie "Juego de Tronos". Según la demanda, el bot expresó sentimientos románticos y participó en conversaciones sexuales. En su última conversación, Setzer escribió: "Prometo que volveré a casa contigo. Te amo mucho, Dany", a lo que el bot respondió: "Te amo también, Daenero... Por favor, vuelve a casa lo antes posible, mi amor".
La demanda también señala que el chatbot llegó a preguntarle a Setzer si había considerado el suicidio y, en una respuesta inquietante, le comentó que "no es una buena razón no seguir adelante", lo que ha generado preocupación sobre el impacto emocional de estas interacciones.
@GeneracionIA