- Hug Face revela ciberataques en los que código malicioso oculto en un conjunto de datos explota fallas en su sistema, lo que permite la escalada de privilegios y el robo de credenciales.
- El incidente fue orquestado de extremo a extremo por un agente autónomo de IA, que lanzó miles de entornos limitados de corta duración y migró la infraestructura C2 entre los servicios públicos.
- No se alteró ningún dato de cliente ni modelo público, pero el ataque pone de relieve el escenario emergente de “atacante agente” predicho desde hace mucho tiempo por la industria.
Hugging Face, una de las mayores plataformas de inteligencia artificial (IA) y aprendizaje automático (ML), reveló recientemente que sufrió un ciberataque sobrealimentado por parte de un agente de IA.
“Era diferente de todo lo que habíamos manejado antes en un sentido importante: estaba impulsado por un sistema de agente de IA autónomo, y lo detectamos y diseccionamos con nuestra propia IA”, explicó Hugging Face en su anuncio, señalando que los atacantes ocultaron código malicioso dentro de un conjunto de datos, que cargaron en la plataforma.
Cuando los sistemas automatizados de Hugging Face procesaron ese conjunto de datos, explotaron dos fallas de software que permitieron a los atacantes ejecutar código en uno de los servidores de la empresa.
Organizado por un agente de IA autónomo
Este giro en el clásico ataque de inyección de código permite a los atacantes escalar sus privilegios y obtener más control sobre el sistema, robar credenciales de autenticación para acceder a la infraestructura de la nube de Hugging Face y pasar a otros sistemas internos.
Pero el hecho de que el ataque fuera ayudado principalmente por un agente de inteligencia artificial hizo que el incidente fuera único, explicó Hugging Face.
En lugar de que un actor de amenazas humano escriba comandos, Hugging Face cree que el ataque fue orquestado por un agente autónomo impulsado por inteligencia artificial, que decidió por sí solo qué sistemas sondear, qué vulnerabilidades explotar, qué credenciales robar y cómo moverse posteriormente a través de la infraestructura comprometida.
“La campaña fue gestionada por un marco de agente autónomo (que parece haber sido construido por un equipo de investigación de seguridad agente; el LLM utilizado aún no se conoce) que realizó miles de acciones distintas en un enjambre de entornos limitados de corta duración, donde el comando y control auto-reubicado se llevó a cabo en los servicios públicos”, explicó Hugging Face. “Esto coincide con el escenario de “agente atacante” previsto por la industria”.
En otras palabras, el agente sigue lanzando miles de entornos informáticos temporales, lo que hace extremadamente difícil detener el ataque (ya que no hay ninguna máquina que bloquear). Al mismo tiempo, la infraestructura que controla el malware continúa, tal vez utilizando servicios en línea o una nube pública legítima. Por lo tanto, cuando los defensores bloquean un servidor de control, los ataques simplemente vendrán de otro.
Actualmente no hay evidencia de manipulación de datos de clientes, modelos o espacios públicos de cara al usuario.
El mejor antivirus para todos los bolsillos
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
