Investigadores de la Universidad de Toronto han demostrado un gusano informático que se abre paso a través de una red, ejecutando ataques separados para cada máquina, sin participación humana.
La mayor parte de la cobertura citó esto como un gran avance en la forma en que los gusanos de IA pueden atacar cualquier dispositivo en línea, pero esa capacidad ha sido visible en el horizonte para cualquiera que observe el mundo criminal clandestino.
Lo que hace el documento es resolver el argumento sobre si es construible y, al hacerlo, reintroduce tres cuestiones que la mayoría de los equipos de seguridad de Internet no abordarán directamente.
Investigador senior de delitos cibernéticos de Flair.
El primero de ellos es el costo, y es esta historia la que importa. Los ataques a edificios dirigidos a sistemas específicos son lentos y costosos y requieren operadores capacitados.
Este costo es una de las razones por las que muchas empresas medianas fueron ignoradas en gran medida: no valían la pena el esfuerzo de ingeniería. El gusano Toronto supera esa limitación ejecutando un modelo de peso abierto en las GPU de máquinas ya comprometidas.
Los dispositivos demasiado vulnerables para albergar un modelo envían su lógica a un nodo infectado en otra parte de la red. La factura informática del atacante la pagan las víctimas y cada máquina capturada amplía la propia infraestructura del gusano.
Una vez que los ataques útiles no cuestan casi nada, ser desinteresado te impide defenderte. Ser accesible es más importante que ser atractivo.
Complejidad de parcheo
El siguiente tema, la gestión de parches, es donde las cosas se complican un poco más. Tradicionalmente, cuando un gusano convencional aprovecha una vulnerabilidad particular, la respuesta convencional es parchearlo y el gusano morirá. WannaCry se extendió a más de 150 países en 2017 debido a un solo defecto, lo que refuerza la lección de que la aplicación rápida de parches limita el daño.
Este gusano, sin embargo, no les da a los defensores ni un solo defecto que corregir. Crea una ruta diferente para cada host y, en una prueba, cuando las copias en el sistema anterior fallan repetidamente debido a un error de detección, el proceso principal detecta la verificación fallida, la elimina y vuelve a intentarlo. No se puede contar con cerrar una sola puerta a algo que reescribe su enfoque a medida que avanza.
Y finalmente, y lo que es más alarmante, el gusano pudo tragarse las sugerencias de seguridad recientemente publicadas durante la ejecución y crear ataques contra vulnerabilidades que no existían cuando se entrenó el modelo subyacente. Esto desafía la noción de que los límites de conocimiento limitan significativamente la IA agresiva.
Si el modelo puede leer los avisos de hoy y razonar en base a ellos, la fecha de capacitación será mucho más corta de lo que muchos piensan.
Funciona, con limitaciones.
Sin embargo, sus limitaciones deben quedar claramente establecidas. Los intentos de explotación tuvieron éxito el 44 por ciento de las veces, y los investigadores observaron que la mayoría de las fallas se debieron a cargas útiles mal formadas y no a una lógica defectuosa.
También fue lento. Sin embargo, a lo largo de quince experimentos, el gusano obtuvo un acceso superior a aproximadamente el 74 por ciento de los huéspedes, se replicó en aproximadamente el 62 por ciento y alcanzó siete generaciones de autorreplicación en una semana, según los investigadores.
Una tasa de éxito del 44 por ciento que vuelve a intentarlo constantemente no es un muro para toparse con amenazas. Esa es una línea de base, y seguir esa línea de base es lo que los modelos de peso abierto pueden hacer hoy en día, una capacidad que hasta ahora ha ido en una dirección.
Otro punto no revelado es que el modelo se ejecuta en un entorno controlado por el atacante. Esto hace que muchas de las medidas de seguridad discutidas por los proveedores de IA (no denegación, filtros y límites de velocidad) sean en gran medida irrelevantes. No hay limitación de tasas cuando se especula sobre la infraestructura que ya posee el atacante.
Si su modelo de riesgo de IA supone que un proveedor de plataforma implementará barreras de seguridad, este es un escenario que las evita por completo.
Planifique alrededor del atacante
Qué hacer al respecto es menos dramático que la amenaza misma. Sigue parcheando. El problema es que el parcheo era una rutina contra oponentes que ya eran capaces, y solo hizo que la cinta fuera más rápida.
Una solución más eficaz es planificar en torno a un atacante que eventualmente entre y una vez dentro. La división y el control, por ejemplo, deberían tener prioridad sobre la persecución de las debilidades individuales. Si el punto de entrada puede ser casi cualquier cosa, la pregunta importante es hasta qué punto puede extenderse una intrusión.
También está la cuestión de la exposición. Al igual que los operadores humanos, un gusano así intentará dar el paso más fácil primero. Estos pueden incluir credenciales filtradas, infraestructura olvidada, servicios de Internet o acceso a mercados criminales que ya están en circulación.
Monitorear las exposiciones externas se trata principalmente de ganar tiempo, en lugar de prevenir por completo el compromiso, que un atacante autónomo está diseñado para eliminar.
El gusano permaneció en el laboratorio y el código pasó a manos de los investigadores de defensa, lo cual fue la decisión correcta. Pero la contención académica no es lo mismo que la seguridad.
La economía que alguna vez protegió a muchas organizaciones se está debilitando, el modelo de parchear y seguir adelante está perdiendo efectividad y algunos investigadores y profesionales están implementando ataques autónomos funcionalmente relevantes en aproximadamente doce a dieciocho meses.
Por lo tanto, la pregunta que deberíamos hacernos es si se debe tomar en serio ahora, en sus términos o más adelante en el caso del atacante.
Hemos revisado y clasificado los mejores paquetes de software de protección de terminales.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
