Una demanda desclasificada revela que miles de menores de edad recibieron versiones falsas de herramientas diseñadas para reiniciar sus algoritmos.
Puntos clave
- La demanda de Nueva York alega que TikTok ofreció una función placebo de reinicio de algoritmo a miles de menores.
- Un gestor de producto interno advirtió que un grupo placebo entraba en conflicto directo con la transparencia del algoritmo.
- La plataforma defendió estas prácticas argumentando que realiza pruebas habituales para validar la experiencia de sus productos.
El experimento con la seguridad de los menores
Una versión actualizada y desclasificada de la demanda del estado de Nueva York contra TikTok ha revelado acusaciones sobre el uso de funciones de seguridad falsas. Según los documentos judiciales, miles de usuarios de la plataforma, incluyendo a niños y adolescentes, formaron parte de un experimento sin saberlo. En este ensayo, se les proporcionó una versión "fantasma" o placebo de herramientas de seguridad en lugar de las funciones operativas reales.
El foco de la acusación se centra en la herramienta conocida como "Algo Refresh", diseñada para permitir que los usuarios reinicien sus recomendaciones de contenido y dejen de recibir videos no deseados o potencialmente dañinos. Mientras que los usuarios participantes creían haber activado la función para limpiar su historial de visualización, sus fuentes de contenido no experimentaron ningún cambio, a diferencia de aquellos usuarios que no formaban parte del experimento y sí tenían acceso a la versión completamente funcional.
Objeciones internas y otras pruebas
La demanda también expone que estas prácticas generaron dudas dentro de la propia empresa. Un gestor de producto del área de Bienestar Digital de TikTok expresó internamente su preocupación sobre el diseño del test. Según los documentos, este empleado señaló que la función de reinicio se basaba en la transparencia y el control del algoritmo, por lo que utilizar un grupo placebo entraba en conflicto directo con ese propósito.
Asimismo, las autoridades del estado afirman que la red social engañó a los usuarios al presentar la herramienta "Algo Refresh" como un reinicio permanente, cuando en realidad se trataba de una medida temporal. La demanda de Nueva York se suma a más de dos docenas de casos presentados por diversos estados que acusan a la compañía de diseñar su plataforma para fomentar el uso adictivo entre los menores y de mentir sobre sus medidas de protección.
Por su parte, el portavoz de TikTok, Nathaniel Brown, declaró que la empresa realiza mejoras continuas en su plataforma. Según la postura oficial de la compañía, al igual que la mayoría de las empresas del sector, prueban regularmente nuevos productos y funciones para validar la experiencia de usuario y comprender su funcionamiento en el mundo real.
Por qué importa
Este caso pone de manifiesto la creciente tensión entre las prácticas de optimización de productos de las grandes tecnológicas y la seguridad real de los usuarios más vulnerables. Para el lector, el caso evidencia que las herramientas de control parental o de bienestar digital que ofrecen las redes sociales pueden estar sujetas a experimentos internos que anulan su eficacia sin previo aviso. La resolución de este conflicto legal determinará el nivel de transparencia que se les exigirá a las plataformas en el futuro respecto a las funciones de salud mental y control de contenidos.
Fuentes: New York alleges TikTok gave teens, children a placebo safety feature instead of a real one (TechCrunch) · New York accuses TikTok of serving users ‘placebo’ safety features (The Verge)
Comparte esta noticia
Lee también
