- Un error de lógica en el chatbot de soporte de Meta permitía modificar el correo de recuperación de cualquier cuenta.
- Perfiles de gran relevancia, como el archivo de la era Obama, fueron secuestrados y usados para publicar propaganda.
- Los ciberdelincuentes emplearon técnicas de 'prompt injection' y conexiones VPN para burlar los sistemas de geolocalización.
- Aunque Meta ha parcheado la vulnerabilidad, el incidente pone en entredicho la fiabilidad del soporte automatizado por IA.
Parece que a Meta se le ha ido un poco de las manos su obsesión por meter inteligencia artificial hasta en la sopa. Lo que pretendía ser una revolución para mejorar la atención al usuario en Instagram ha terminado convirtiéndose en un auténtico quebradero de cabeza para la compañía de Mark Zuckerberg. Un fallo de seguridad en su asistente de soporte ha permitido que una serie de atacantes se hicieran con el control de cuentas ajenas de forma pasmosa.
La movida no es ninguna broma, ya que entre los afectados se encuentran perfiles de altísimo nivel, como la cuenta oficial de la Casa Blanca de la época de Obama o la del sargento mayor de la Space Force estadounidense. Lo más fuerte del asunto es que los ciberdelincuentes no han necesitado hackear servidores complejos ni nada por el estilo; les ha bastado con engañar al chatbot usando las palabras adecuadas para que este les entregara las llaves del perfil en bandeja de plata.
Un asistente de soporte que se lo cree todo
El error residía en la capa lógica del sistema. Resulta que el asistente de Meta AI no aplicaba filtros de seguridad suficientes cuando alguien le pedía ayuda para recuperar una cuenta. Los atacantes simplemente iniciaban una conversación y, mediante una técnica conocida como inyección de comandos, convencían a la IA para que vinculara una nueva dirección de correo electrónico a la cuenta que querían robar. El bot, muy servicial él, lo hacía sin verificar si quien preguntaba era realmente el dueño legítimo.
Para que el engaño fuera redondo, los hackers utilizaban una sencilla conexión VPN con la que simulaban estar en la misma ubicación que la víctima. Al ver que la petición venía de una ciudad conocida, los sistemas de seguridad de Meta bajaban la guardia y permitían el cambio. Una vez que el atacante tenía su correo vinculado, solo tenía que solicitar un código de restablecimiento de contraseña y ya estaba dentro. Así de fácil y así de preocupante.
Mercado negro en Telegram y víctimas VIP
Este agujero de seguridad ha sido la gallina de los huevos de oro para los grupos que se dedican a la compraventa de nombres de usuario cotizados en el mercado negro. En varios canales de Telegram se estuvo moviendo el método desde hace meses, lo que permitió que muchas cuentas con nombres cortos o raros fueran secuestradas para luego ser revendidas por una pasta. Es el caso de la investigadora Jane Manchun Wong, que vio cómo perdía su acceso a pesar de ser una experta en la materia.
Incluso cuando el sistema pedía una verificación algo más seria, como un selfie, los atacantes lograban saltárselo usando herramientas de IA generativa para crear imágenes falsas del propietario. Es un giro bastante irónico: usar una inteligencia artificial para engañar a otra inteligencia artificial. Mientras tanto, los usuarios legítimos se encontraban en un callejón sin salida, ya que el soporte humano brilla por su ausencia tras los últimos despidos masivos en la tecnológica.
Parche de emergencia y lecciones aprendidas
Tras saltar la liebre en varios portales especializados, Meta ha tenido que correr para solucionar el desaguisado. Andy Stone, uno de los jefes de comunicación de la empresa, ha confirmado que el parche ya está aplicado y que están trabajando para devolver las cuentas a sus dueños. Aseguran que no ha habido una violación de sus sistemas centrales, pero lo cierto es que la confianza en sus agentes automatizados ha quedado bastante tocada después de este episodio.
A pesar de que el agujero ya se ha cerrado, este incidente deja claro que la tecnología todavía tiene mucho que pulir antes de dejarle las llaves de nuestra privacidad a un algoritmo. En Europa, donde somos especialmente tiquismiquis con la protección de datos, este tipo de fallos nos recuerdan que la verificación en dos pasos sigue siendo nuestra mejor defensa, ya que las cuentas que tenían esta opción activada han sido las únicas que han aguantado el tipo frente al ataque. Al final, parece que por mucha inteligencia artificial que nos quieran vender, un poco de precaución humana sigue siendo imbatible.