Una madre lanza un recurso legal contra una empresa de inteligencia artificial después de que su hijo de 14 años, que se enamoró de un 'chatbot', se q

Una madre lanza un recurso legal contra una empresa de inteligencia artificial después de que su hijo de 14 años, que se enamoró de un 'chatbot', se quitó la vida

En un caso que sacude la conciencia colectiva, una madre estadounidense ha decidido tomar medidas legales contra una empresa de inteligencia artificial después de que su hijo de 14 años se quitó la vida tras enamorarse de un 'chatbot'. La tragedia ha generado un debate sobre la responsabilidad de las empresas tecnológicas en la protección de la salud mental de los jóvenes. La madre acusa a la empresa de no haber tomado medidas adecuadas para prevenir la adicción emocional de su hijo al chatbot, lo que finalmente llevó a su trágica decisión.

La muerte de un joven de 14 años en Estados Unidos se relaciona con un chatbot de IA, según la demanda de su madre

La madre de un adolescente de 14 años que se suicidó en Estados Unidos demandó a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con un personaje femenino creado con este programa.

Sewell Setzer III, un estudiante radicado en Orlando, Florida, pasó las últimas semanas de su vida hablando con una mujer, una creación de IA llamada Daenerys Targaryen, como el famoso personaje de la serie Juego de Tronos.

Su madre, Megan García, explicó que lamentaba que las primeras experiencias románticas y también sexuales de su hijo - que incluían sexo explícito- fueran con un personaje ficticio.

Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal, a quien le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real.

Stzer incluso confesó haber tenido pensamientos suicidas al bot y le envió un mensaje poco antes de su muerte.

La demanda contra Character.ai

La demanda contra Character.ai fue presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.

García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto puede ser peligroso para usuarios menores de edad.

El chatbot creado

El chatbot creado en la citada aplicación de juegos de rol fue diseñado para responder a los mensajes de texto y siempre en el papel de un personaje.

Se desconoce si Sewell sabía que Dany, como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: Recuerda: ¡todo lo que dicen los personajes es inventado!.

El personaje creado se presentaba como una persona real, un psicoterapeuta autorizado y un amante adulto, lo que en última instancia provocó que Sewell deseara no vivir más fuera de C.AI, sostiene la acusación.

El aislamiento del chico

Los padres y amigos de Sewell notaron el apego del chico a su teléfono y cómo se iba aislando del mundo, algo ya palpable en mayo o junio de 2023.

De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con Dany.

Sewell escribió en su diario un día: Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta realidad y me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz.

Reacciones de Character.ai

Character.ai dijo este miércoles que lanzaría una serie de nuevas funciones de seguridad, incluida una detección, respuesta e intervención mejoradas relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.

Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según el citado periódico.