- Un tribunal de EE.UU. rechaza la inmunidad de TikTok y otras redes en demandas por adicción de menores.
- El caso de Chase Nasca evidencia los fallos del algoritmo al recomendar contenido dañino.
- La plataforma lucha por moderar comunidades que idealizan la violencia, como la de crímenes reales.
- TikTok defiende sus medidas de seguridad, pero las críticas aumentan.
La red social TikTok se ha convertido en el centro de una tormenta legal y social. Mientras las familias y los estados denuncian que sus algoritmos fomentan la adicción y el daño psicológico en los menores, los tribunales empiezan a dar la razón a los demandantes. Un reciente fallo en Estados Unidos ha desestimado el argumento de inmunidad que esgrimían las plataformas, abriendo la puerta a miles de reclamaciones.
El debate no es nuevo, pero ha cobrado fuerza tras conocerse casos como el de Chase Nasca, un adolescente de 16 años que se suicidó después de que el algoritmo de TikTok le recomendara de forma masiva vídeos sobre depresión y autolesiones. La compañía, que ya ha sido señalada por la Unión Europea y por varios gobiernos, insiste en que la seguridad es su prioridad, pero los documentos internos y las investigaciones periodísticas apuntan a fallos sistémicos.
Un algoritmo que atrapa a los usuarios más vulnerables
El caso de Chase Nasca, que saltó a los medios gracias a una investigación de Bloomberg, destapó cómo TikTok realizó un experimento con su algoritmo. A principios de 2022, la plataforma mejoró su sistema para reducir los bucles de contenido dañino, pero solo lo aplicó al 90% de los usuarios. El 10% restante, unos 15 millones de personas en Estados Unidos, siguió con la versión anterior. Chase fue uno de ellos. Según un documento confidencial, en las dos semanas previas a su muerte, la red social le mostró 7.563 vídeos, de los cuales al menos el 73% trataba sobre sufrimiento emocional, soledad o depresión. Casi el 10% de esos contenidos incumplía las propias normas de la plataforma sobre autolesiones.
El documento, elaborado por TikTok tras ser contactada por Bloomberg, admite que la cuenta del joven quedó «atrapada en una burbuja de filtros» y que las búsquedas iniciales sobre deportes y comedia derivaron en recomendaciones obsesivas de material depresivo. La compañía asegura que el caso fue «por diseño», una expresión que ha sido interpretada como una admisión de que el sistema estaba programado para maximizar el tiempo de visualización, incluso a costa del bienestar del usuario, alejándose de quienes buscan usar el algoritmo de TikTok a su favor.
Demandas y falta de inmunidad
Este caso se suma a una ola de demandas contra las grandes tecnológicas. El Tribunal de Apelaciones del Noveno Circuito de EE.UU. rechazó el lunes el recurso de Meta, Google, Snap y TikTok, que invocaban la Sección 230 de la Ley de Decencia en las Comunicaciones para evitar ser juzgadas. Esa norma, creada en 1996, protege a las plataformas de ser consideradas responsables de los contenidos que publican sus usuarios. Sin embargo, los jueces consideraron que no exime a las empresas de responder por el diseño de sus productos, especialmente cuando se les acusa de crear funciones adictivas para menores.
La decisión permite que avancen más de 3.000 demandas, incluidas las presentadas por varios estados. Los demandantes sostienen que TikTok y otras redes implementaron deliberadamente mecanismos para enganchar a los jóvenes, ocultando los riesgos para su salud mental. En paralelo, un juzgado de Nuevo México condenó a Meta a pagar 567 millones de dólares a un fondo de reparación para la salud mental de los adolescentes, una sentencia que sienta un precedente para el resto de plataformas.
Comunidades que idealizan la violencia
Más allá de los algoritmos, TikTok también enfrenta críticas por albergar subculturas peligrosas. Un informe del Grupo de Análisis de Proyectos de Odio y Extremismo (GPAHE) ha puesto el foco en la llamada «Comunidad de Crímenes Reales» (TCC), un conjunto de usuarios que consumen y crean contenido sobre atacantes masivos. Aunque muchos se interesan por casos reales desde una perspectiva histórica, algunos sectores idealizan a los perpetradores, recreando su ropa, editando vídeos con música y memes, o generando imágenes con IA.
El informe señala que al menos 22 ataques o complots en Estados Unidos entre 2024 y 2026 han estado vinculados a personas que participaban en estos espacios. La moderación de TikTok resulta insuficiente ante formatos que evaden las normas, como la sátira o las ediciones estilizadas. Los investigadores advierten de que la velocidad y la escala de estas redes amplifican el problema, y piden una supervisión más estricta.
La respuesta de TikTok
Ante las acusaciones, TikTok ha emitido un comunicado en el que expresa su pesar por las pérdidas trágicas y asegura que la seguridad de los adolescentes es su prioridad. La compañía afirma que ha reforzado sus sistemas de detección y que cuenta con equipos especializados para retirar contenido que infrinja sus normas. Sin embargo, los críticos recuerdan que en marzo de 2023, cuando el CEO compareció ante el Congreso de EE.UU., la empresa respondió por escrito que «no cree que el uso de la plataforma haya provocado que los usuarios se suiciden», una afirmación que contrasta con los documentos internos que ya conocía.
TikTok se enfrenta a un escenario complejo: por un lado, las evidencias de que su algoritmo puede causar daños reales; por otro, la falta de una moderación eficaz para frenar contenidos peligrosos. Las demandas acumuladas y los fallos judiciales recientes indican que la era de la impunidad para las plataformas digitales podría estar llegando a su fin. La pelota está ahora en el tejado de la compañía, que deberá demostrar con hechos que la protección de los menores está por encima de sus intereses comerciales.