El caso de TikTok vuelve a tocar uno de los puntos más delicados de las redes sociales: qué pasa cuando una empresa decide experimentar con la seguridad de sus usuarios sin que estos lo sepan. La compañía retiró una función de protección a millones de personas para realizar una prueba, y uno de esos usuarios acabó suicidándose. Se llamaba Chase Nasca, tenía 16 años y su cuenta había sido escogida al azar para quedar fuera de las nuevas salvaguardas.
Qué es el A/B testing y cómo terminó afectando a un adolescente
El A/B testing es algo que se hace a diario en cualquier producto digital. La idea es sencilla: se divide a los usuarios en dos grupos para comparar una versión nueva frente a la anterior y ver cuál funciona mejor. Eso hizo TikTok a principios de 2022, cuando mejoró su algoritmo con la intención de reducir los bucles de contenido dañino, detectar patrones repetitivos y diversificar un poco más el feed que se mostraba a cada persona.
El problema estuvo en el llamado grupo de control. Ese algoritmo antiguo, sin la nueva protección, siguió activo para cerca del 10% de todos los usuarios estadounidenses, es decir, unos 15 millones de personas. Chase Nasca fue uno de ellos. Su cuenta quedó fuera de las medidas de seguridad y el resultado fue demoledor: recibió una avalancha de vídeos sobre suicidio, autolesiones y depresión.
Un documento confidencial que apunta directamente al diseño de la plataforma
Los datos que salieron a la luz en el marco de una demanda judicial son duros. En las dos semanas previas a su muerte, TikTok recomendó a Chase 7.563 vídeos. Al menos el 73% trataba sobre sufrimiento emocional, soledad o depresión, y casi el 10% incumplía directamente las normas de la plataforma sobre autolesiones y suicidio. En las horas anteriores a su fallecimiento marcó como favoritos varios vídeos relacionados con el suicidio.
Link affiliatoHay una frase en ese documento filtrado que pesa más que ninguna otra: las estrategias de TikTok para evitar las burbujas de filtros no tuvieron efecto en este usuario por diseño. Ese matiz, lo intencionado del asunto, es justo lo que refuerza las acusaciones de quienes sostienen que estas plataformas se han construido a propósito para enganchar a los más jóvenes. La compañía ya ha pasado por los tribunales en Estados Unidos y está en el punto de mira de la Unión Europea por este mismo motivo.
El análisis de la cuenta de Chase no lo hizo TikTok por iniciativa propia. Llegó después de que un medio contactara con la empresa en marzo de 2023 para preparar un artículo sobre el suicidio del adolescente. El documento reconoce que el chico buscaba contenido de deportes y comedia, pero también canciones sobre sentirse solo, y que esas búsquedas activaron el algoritmo hasta dejar su cuenta atrapada en una burbuja donde se le recomendaba una y otra vez material sobre suicidio, autolesiones y temas depresivos, sobre todo en los días finales.
Lo llamativo es lo que la empresa dijo en paralelo. En marzo de 2023 el CEO compareció ante el Congreso de Estados Unidos, y a una pregunta escrita sobre si conocían casos de suicidio tras ver vídeos tristes o que incitaban a ello, la respuesta fue clara: TikTok no cree que el uso de la plataforma haya provocado que los usuarios se suiciden. Para entonces la compañía ya había hecho su propia investigación sobre el caso de Chase Nasca.
Consultada de nuevo, la empresa envió un comunicado en el que lamenta profundamente cualquier pérdida trágica que haya afectado a una familia y asegura que la seguridad y el bienestar de sus usuarios, en especial de los adolescentes, sigue siendo su prioridad. Añade que continúa reforzando sus inversiones en seguridad mediante sistemas de detección y equipos especializados que actúan para retirar los contenidos que infringen sus Normas de la Comunidad.
Link affiliatoFuente
Imagen: xataka.com