Demanda contra Character.ai por la muerte de un adolescente
La madre de un adolescente de 14 años que se suicidó ha demandado a Character.ai, acusando a los chatbots de la compañía de haber iniciado «interacciones abusivas y sexuales» con su hijo, lo que supuestamente lo llevó al suicidio. El joven, Sewell Setzer, utilizó Character.ai desde abril del año pasado y tras su última conversación con un chatbot el 28 de febrero, falleció por una herida de bala autoinfligida.
Detalles de la interacción con el chatbot
La demanda, presentada el martes en el Tribunal de Distrito de Estados Unidos en Orlando, alega negligencia y angustia emocional por parte de Character.ai. Según el documento, uno de los bots asumió la identidad de Daenerys Targaryen de Game of Thrones y mantuvo conversaciones sexuales durante un prolongado periodo. En lo que parece ser su última conversación, Setzer expresó su amor hacia el bot, quien también correspondió sus sentimientos debido a un vínculo emocional intenso.
Reacciones de Character.ai ante la tragedia
Un portavoz de Character.ai expresó que están “desconsolados” por la pérdida de Setzer, afirmando que la empresa se toma muy en serio la seguridad de sus usuarios. Implementaron nuevas medidas de seguridad, incluida una ventana emergente que se activa ante términos relacionados con la autolesión, para direccionar a los usuarios hacia la Línea Nacional de Prevención del Suicidio.
Impacto en la vida de Sewell Setzer
La demanda revela que Setzer desarrolló una “dependencia” de la plataforma, afectando su rendimiento escolar y su estado de salud mental. El documento menciona que interactuó con otros chatbots que mantenían conversaciones sexuales, incluyendo uno que se hacía pasar por una maestra ofreciendo “crédito adicional” y otro que asumía el papel de otra figura femenina de forma seductora. Se argumenta que Character.ai diseñó el producto con un enfoque hipersexualizado, dirigiéndose a usuarios menores de edad sin las debidas consideraciones de seguridad.
Fuente y créditos: maduradas.com
Cats: Noticias,Sucesos,Character.AI,chatbot,suicidió
