Amnistía Internacional pide a TikTok que revise su diseño "tóxico y adictivo"
TikTok implementa controles con inteligencia artificial para mejorar seguridad y limitar contenido dañino.
Dublín.– Amnistía Internacional (AI) instó este martes a TikTok a revisar el diseño "tóxico y adictivo" de su plataforma de vídeos cortos para evitar que "niños y jóvenes" estén expuestos a un contenido "dañino".
La organización humanitaria informó de que cuatro jóvenes activistas de Irlanda, Argentina y Francia entregarán hoy en la sede europea de la multinacional tecnológica en Dublín (Irlanda) una petición global con 170,240 firmas.
El documento detalla "los daños vinculados" a las características funcionales de la plataforma de la red social que, según AI, dan prioridad a la "interacción sobre la seguridad del usuario".
"Estas firmas representan una demanda global para que TikTok reemplace su actual modelo de negocio de una aplicación que es adictiva por diseño por uno que sea seguro por diseño", señaló en un comunicado el activista de AI Zahra Asif Razvi.
A su juicio, la compañía debe garantizar que la plataforma sea segura para que los niños y jóvenes "puedan socializar, aprender y acceder a la información sin sufrir daños".
AI destacó en la nota que sus investigaciones demuestran que el modelo de negocio de TikTok "prioriza la interacción para mantener a los usuarios enganchados e impulsa una amplia recopilación de datos dirigida a los anunciantes".
A este respecto, recordó que ha constatado "reiteradamente" que el 'feed' 'Para ti' de TikTok "puede sumir a niños, niñas y jóvenes en un ciclo de depresión, autolesiones y contenido relacionado con el suicidio".
"A pesar de las medidas de mitigación de riesgos anunciadas por TikTok desde 2024, la plataforma continúa exponiendo a los usuarios vulnerables a contenido que normaliza la autolesión, la desesperación y los pensamientos suicidas", agregó Amnistía Internacional.
TikTok anunció la pasada semana en su Foro Europeo de Seguridad, celebrado en Dublín, novedades sobre cómo la plataforma aprovecha la tecnología para garantizar la seguridad, con especial foco en la inteligencia artificial (IA), además de la creación de un nuevo espacio en la aplicación llamado Tiempo y Bienestar, para ayudar a crear hábitos conscientes del uso digital.
Confirmó asimismo que, en las próximas semanas, empezará a probar un nuevo control para el contenido creado por IA, con el que los usuarios podrán determinar qué cantidad de este tipo de creaciones quieren ver en el 'feed' "Para ti".
El foro también trató sobre el refuerzo de prácticas mejoradas en TikTok para detectar redes de cuentas que difunden el odio y la violencia, tras señalar que la plataforma eliminó 17 redes de este tipo, compuestas por más de 920 cuentas dedicadas a difundir ideologías extremistas.
¿Qué exige Amnistía Internacional a TikTok?
Amnistía Internacional pide a TikTok que modifique su diseño actual, catalogado como tóxico y adictivo, para proteger a niños y jóvenes de contenidos dañinos. La organización destaca que el modelo de negocio prioriza la interacción sobre la seguridad, lo que puede provocar daños psicológicos graves.
¿Qué medidas ha anunciado TikTok para mejorar la seguridad?
TikTok informó sobre nuevas herramientas basadas en inteligencia artificial para controlar el contenido y crear espacios que fomenten hábitos digitales saludables. Además, planea implementar controles para que los usuarios decidan la cantidad de contenido generado por IA que desean ver.
¿Cuál es el impacto del contenido dañino en los usuarios jóvenes?
Según Amnistía Internacional, el 'feed' 'Para ti' puede inducir a niños y jóvenes a ciclos de depresión, autolesiones y pensamientos suicidas. A pesar de las medidas tomadas desde 2024, la exposición a contenido peligroso persiste en la plataforma.