- TikTok ha etiquetado más de 3.000 millones de vídeos generados por inteligencia artificial y se ha unido al comité de la C2PA para mejorar la transparencia.
- En España, se han detectado cuentas que utilizan IA para crear vídeos falsos de personas con síndrome de Down y vender productos sobrevalorados.
- La plataforma prueba nuevos sistemas de detección para eliminar el spam generado por IA en temas sensibles como política, salud y finanzas.
- Los creadores pueden usar herramientas de IA para promocionar productos, pero deben etiquetar el contenido y cumplir las normas de transparencia.
La inteligencia artificial se ha convertido en una herramienta de doble filo dentro de TikTok. Por un lado, permite a creadores y marcas generar vídeos promocionales de forma rápida y económica; por otro, ha abierto la puerta a estafas que explotan la credulidad de los usuarios. La plataforma, consciente del problema, ha anunciado nuevas medidas para etiquetar, detectar y frenar el contenido generado por IA que pueda ser engañoso, especialmente en ámbitos como la política, la salud y las finanzas.
En España, el fenómeno ya tiene ejemplos concretos. Varias cuentas han difundido vídeos creados con inteligencia artificial en los que aparecen supuestos niños y jóvenes con síndrome de Down llorando o siendo insultados, con el objetivo de vender bolsos, macetas y otros productos a precios inflados. Estos contenidos, que acumulan miles de visualizaciones, redirigen a tiendas online que carecen de los requisitos legales básicos y, en muchos casos, ofrecen artículos que también se encuentran en plataformas como Amazon o Aliexpress por menos dinero.
La respuesta de TikTok no se ha hecho esperar. La compañía ha anunciado que prueba sistemas de detección mejorados para identificar cuentas dedicadas a publicar spam generado por IA, sobre todo en temas que puedan afectar a la confianza pública o al bienestar, como la actualidad política, el asesoramiento financiero y el contenido médico. Además, se ha unido al Comité Directivo de la C2PA, una tecnología que permite rastrear el origen de los contenidos y saber si han sido generados o modificados significativamente por IA.
Hasta la fecha, TikTok ha etiquetado más de 3.000 millones de vídeos como generados por inteligencia artificial, combinando credenciales de contenido, marcas de agua invisibles y herramientas de etiquetado para creadores. La plataforma también ha invertido más de cuatro millones de dólares en programas de alfabetización sobre IA, en colaboración con organizaciones como NAMLE y Henry Ajder, para ayudar a los usuarios a identificar y comprender este tipo de contenido.
Paralelamente, el auge de las herramientas de IA para crear anuncios en TikTok Shop ha disparado el interés de los vendedores. Con solo una foto del producto y aplicaciones como ChatGPT o Google Flow, es posible generar un vídeo promocional en cuestión de minutos. Sin embargo, las políticas de la plataforma exigen que tanto creadores como anunciantes revelen el uso de IA y cualquier relación comercial, bajo pena de incumplir las normas de transparencia. En Estados Unidos, más de la mitad de las 803.500 tiendas de TikTok Shop no registraron ninguna venta el año pasado, lo que demuestra que la competencia es feroz.
En el caso español, las estafas con IA han puesto en alerta a las autoridades. El Instituto Nacional de Ciberseguridad (INCIBE) advierte de que muchas de estas tiendas online no incluyen información legal obligatoria, como el aviso legal completo o la política de devoluciones. Los vídeos falsos apelan a la empatía del espectador para generar interacciones y ventas, una estrategia de sadfishing en redes sociales que ya se había visto anteriormente con ancianos y que ahora se repite con personas con discapacidad.
La combinación de creatividad artificial y falta de escrúpulos ha llevado a TikTok a reforzar sus alianzas con expertos y a ampliar los recursos educativos dentro de la aplicación. El objetivo es que los usuarios puedan distinguir entre un contenido legítimo y uno manipulado, y que las cuentas que abusan de la IA para engañar sean eliminadas cuanto antes. La plataforma ya ha borrado más de 86 millones de cuentas falsas en los primeros tres meses del año, pero reconoce que la evolución de la tecnología exige actualizar constantemente los sistemas de protección.
Mientras tanto, los creadores que utilizan la IA de forma honesta siguen teniendo a su disposición herramientas como Smart Split o AI Outline, y pueden optar a funciones experimentales como Gestionar temas, que permite controlar la cantidad de contenido generado por IA que aparece en su feed. La transparencia, el etiquetado y la educación se perfilan como las tres patas sobre las que TikTok quiere construir un ecosistema donde la inteligencia artificial no sea sinónimo de engaño, sino de oportunidad bien gestionada.
