Character.AI eliminará sus chats para menores de edad tras suicidio de adolescente
Character.AI opta por eliminar los chats dirigidos a menores de edad tras un incidente fatal. Detalles aquí.
Actualizado: 29 de Octubre, 2025, 01:06 PM
Publicado: 29 de Octubre, 2025, 12:50 PM
Caso de suicidio por Character.AI
Nueva York.– El servicio de 'chatbot' de inteligencia artificial (IA) Character.AI anunció este miércoles que eliminará sus chats abiertos para los menores de 18 años tras el suicidio de un adolescente que se obsesionó con un personaje femenino creado por este programa.
A partir del 25 de noviembre, los menores de edad no podrán acceder a estos chats, que permiten a los usuarios crear y hablar con personajes específicos con los que se pueden mantener conversaciones de tipo romántico y terapéutico, según un comunicado.
Hasta esa fecha, Character.AI limitará el tiempo de chat de los usuarios menores de 18 años a dos horas al día, e implementará una nueva función de verificación de edad para garantizar que dispongan de una experiencia "adecuada".
Además, la compañía creará y financiará un Laboratorio de Seguridad de la IA, una organización independiente y sin ánimo de lucro dedicada a "la alineación de la seguridad para las funciones de entretenimiento de la IA de próxima generación".
Sobre el caso de suicidio
El año pasado, un estudiante de 14 años radicado en Orlando (Florida), Sewell Setzer III, se suicidó tras pasar semanas hablando con una personalidad creada por esta IA, Daenerys Targaryen, un personaje de la serie 'Game of Thrones'.
El menor desarrolló un apego emocional a este bot, a quien le enviaba mensajes de texto constantemente, e incluso comenzó a alejarse del mundo real, de acuerdo con The New York Times.
(FUENTE EXTERNA)Caso de Sewell Setzer III con una IA
Setzer confesó al bot haber tenido pensamientos suicidas y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido como castigo durante unos días.
La madre de Setzer demandó posteriormente a los desarrolladores de este chatbot y, tras el suicidio del joven, la empresa prohibió que los menores participaran en conversaciones sexuales con personajes creados con esta tecnología.
- Según CNBC, de los 20 millones de usuarios activos mensuales con los que cuenta la empresa, el 10 % son menores de 18 años.
Otras tecnologías investigadas
En septiembre, la Comisión Federal de Comercio (FTC) abrió una investigación sobre Character.AI y otras tecnológicas como Alphabet, Meta y OpenAI sobre el uso de sus inteligencias artificiales por parte de menores de edad.
Recientemente, el director ejecutivo de OpenAI, Sam Altman, anunció que la empresa permitirá a partir de diciembre de este año "contenido erótico" para los usuarios de ChatGPT que verifiquen su edad en la plataforma.
Agencia EFE
La Agencia EFE, o simplemente EFE, es una agencia de noticias internacional con sede en Madrid. Fue fundada en 1939 gracias al impulso del entonces ministro del Interior, Ramón Serrano Suñer, en la que participaron activamente: José Antonio Jiménez Arnau, Manuel Aznar Zubigaray y Vicente Gállego.
Biografía completa »