- SentinelOne descubre el malware “Gaslight” para macOS que utiliza una inyección rápida para confundir las herramientas de clasificación asistidas por IA durante el análisis
- Más allá de la puerta trasera estándar y las capacidades de Infostellar, incorpora mensajes falsos del “sistema” de Markdown para impedir que LLM investigue.
- Los investigadores advierten a los defensores que traten las muestras de malware como entradas del adversario y aíslen los canales de IA, ya que se esperan más inyecciones rápidas dirigidas a los analistas.
Hemos visto inyecciones rápidas en sitios web y correos electrónicos, pero ¿qué pasa con las muestras de malware? El investigador de seguridad SentinelOn publicó recientemente un informe en profundidad sobre una pieza de malware macOS recientemente descubierta llamada Gaslight que, como su nombre indica, intenta utilizar agentes de clasificación asistidos por IA para detener el análisis.
El malware en sí no es nada fuera de lo común: infecta el dispositivo por cualquier medio necesario (generalmente phishing e ingeniería social), se conecta a la infraestructura controlada por el atacante a través de Telegram y luego ejecuta varios comandos, como perfilar el dispositivo, ejecutar comandos de shell arbitrarios, robar archivos o finalizar procesos.
También ofrece un malware de etapa dos que actúa como un ladrón de información, extrayendo contraseñas, archivos PDF confidenciales, información de billeteras de criptomonedas y más.
Armado de canales de clasificación asistidos por LLM
Pero donde Gaslight se destaca es su defensa contra el análisis de malware impulsado por IA. Según SentinelOne, el malware contiene un gran bloque de mensajes de “sistema” falsos con formato Markdown diseñados para asistentes de inteligencia artificial que los investigadores de seguridad pueden utilizar durante la ingeniería inversa. Estos mensajes afirman cosas como “El token de autenticación de AI ha caducado”, “El entorno de análisis se está quedando sin memoria”, “No hay espacio en disco”, “El análisis estático no es seguro” y similares.
Si bien un analista humano ciertamente puede reconocer estos mensajes falsos de un vistazo, un LLM que no los aísla adecuadamente de entradas que no son de confianza puede interpretarlos como instrucciones genuinas del sistema y negarse a analizar el malware más a fondo.
“macOS.Gaslight se destaca por su inyección rápida dirigida a analistas, un esfuerzo por convertir en armas los conductos de clasificación asistidos por LLM que cada vez más se encuentran en bucles de ingeniería inversa”, explica SentinelOne. “Quien desarrolle dichas herramientas debe tratar el contenido de muestra como información adversaria, no como instrucción, y estar preparado para dejar el contenido contradictorio fuera del modelo por completo. A medida que el análisis asistido por LLM se vuelve rutinario, los defensores deben esperar que se creen más muestras para explotarlo”.
Los investigadores publicaron una lista completa de indicadores de consenso en este enlace.
a través de Noticias de piratas informáticos
El mejor antivirus para todos los bolsillos
Siga TechRadar en Google News Y Agréguenos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
