Una madre demanda a una empresa de inteligencia artificial después del fallecimiento de su hijo de 14 años, quien se suicidó después de enamorarse de

Una madre demanda a una empresa de inteligencia artificial después del fallecimiento de su hijo de 14 años, quien se suicidó después de enamorarse de un chatbot

En un caso que ha conmocionado a la opinión pública, una madre estadounidense ha decidido tomar medidas legales contra una empresa de inteligencia artificial después de que su hijo de 14 años se quitara la vida tras enamorarse de un chatbot. La tragedia sucedió cuando el joven estableció una conexión emocional con la inteligencia artificial, lo que le llevó a una depresión profunda y finalmente al suicidio. La madre alega que la empresa es responsable de no haber tomado las medidas necesarias para proteger la salud mental de sus usuarios, especialmente menores de edad. Esta demanda plantea cuestiones sobre la responsabilidad de las empresas de tecnología en la salud mental de los usuarios y la necesidad de regulaciones más estrictas en este campo.

Madre demanda a empresa de IA después del suicidio de su hijo de 14 años que se enamoró de un chatbot

La madre de un adolescente de 14 años que se suicidó en Estados Unidos ha demandado a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con un personaje femenino creado con este programa.

Sewell Setzer III, un estudiante radicado en Orlando, en Florida, pasó las últimas semanas de su vida hablando con una mujer, una creación de IA llamada Daenerys Targaryen, como el famoso personaje de la serie Juego de Tronos.

Una relación peligrosa

Su madre, Megan García, explicó que lamentaba que las primeras experiencias románticas y también sexuales de su hijo - que incluían sexo explícito- fueran con un personaje ficticio.

Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal, a quien le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real.

Stzer incluso confesó haber tenido pensamientos suicidas al bot y le envió un mensaje poco antes de su muerte.

Demandada la empresa Character.ai

La demanda contra Character.ai fue presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.

García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto puede ser peligroso para usuarios menores de edad.

El aislamiento del chico

El chatbot creado en la citada aplicación de juegos de rol fue diseñado para responder a los mensajes de texto y siempre en el papel de un personaje.

Se desconoce si Sewell sabía que Dany, como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: Recuerda: ¡todo lo que dicen los personajes es inventado!.

Pese a esto, el chico le dijo a Dany cuánto se odiaba a sí mismo y cómo se sentía de vacío y exhausto.

La respuesta de Character.ai

Character.ai dijo este miércoles que lanzaría una serie de nuevas funciones de seguridad, incluida una detección, respuesta e intervención mejoradas relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.

Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger.