Durante años, la industria de la inteligencia artificial operó bajo la filosofía de la innovación rápida. Si bien esto beneficia a sectores como el de la salud, la ola inicial de optimismo en torno a los modelos generativos está dando paso a una realidad desafiante. Numerosas agencias de seguridad nacional y organizaciones de investigación están emitiendo advertencias sobre el potencial de estos modelos para ser utilizados como armas.
Para esta precaución es fundamental darse cuenta de que los grandes modelos de lenguaje hacen más que procesar texto: democratizan el conocimiento técnico y actúan como tomadores de decisiones en lugar de herramientas. En las manos equivocadas, esta capacidad puede aplicarse a operaciones cibernéticas maliciosas y a la destrucción de infraestructura digital crítica.
Gerente Técnico Senior en ExtraHop.
Históricamente, los ciberataques sofisticados requerían experiencia técnica especializada en desarrollo y penetración de redes. Hoy en día, la inteligencia artificial llena la brecha de conocimiento de las personas que carecen de capacitación formal pero tienen intenciones maliciosas.
Evaluaciones recientes realizadas por agencias de seguridad internacionales, como la Organización para la Prohibición de las Armas Químicas, destacan que el surgimiento de modelos de diseño molecular basados en datos significa que aquellos con experiencia limitada pueden eludir el seguimiento de los marcos regulatorios.
Los nuevos modelos de IA de vanguardia, como Mithos, podrían teóricamente identificar vías sintéticas alternativas para diseñar sustancias químicas tóxicas utilizando reactivos de laboratorio comunes.
Dentro del entorno empresarial, la exposición a las cadenas de suministro de software y la infraestructura de la nube también sigue siendo una vulnerabilidad crítica. Las aplicaciones de terceros representan un alto porcentaje de los riesgos de seguridad emergentes, y las operaciones empresariales modernas dependen de una red de proveedores de servicios digitales y agregadores de datos que apenas eran visibles hace poco tiempo.
Cada proveedor representa un punto de entrada potencial, y un único certificado comprometido de un pequeño proveedor de servicios externo puede brindarle al atacante libertad de movimiento lateral dentro de una red corporativa o gubernamental.
El escepticismo público actual es una respuesta a la falta de transparencia en cómo se entrenan, monitorean e integran estos modelos de frontera. Las organizaciones que desarrollan modelos tienen la responsabilidad de garantizar que sus innovaciones no comprometan la estabilidad de los sistemas públicos.
Esto requiere un compromiso con el despliegue responsable de estas herramientas, priorizando la seguridad nacional y la resiliencia arquitectónica sobre la velocidad del mercado. La industria debe alejarse de las declaraciones genéricas y centrarse en prácticas de seguridad claras y verificables.
Un nuevo marco para la visibilidad técnica
Las organizaciones deben adoptar un enfoque riguroso para la visibilidad de las máquinas y la defensa de la red. Las herramientas de seguridad tradicionales centradas en el perímetro son inadecuadas: los marcos defensivos deben pasar a un monitoreo interno continuo.
Esto significa analizar el tráfico de este a oeste dentro de la red de una organización para verificar las comunicaciones entre sistemas y comprender los patrones de flujo de datos comunes. Las anomalías deben hacerse evidentes de inmediato para que los equipos de operaciones de seguridad puedan actuar antes de que la intrusión se intensifique.
También es necesario desglosar los tiempos de reacción. La ventana tradicional de varias semanas que disfrutan los atacantes brinda a las amenazas automatizadas demasiadas oportunidades de causar daño. Las plataformas modernas de detección y respuesta de red reducen el tiempo de permanencia de los atacantes al detectar comportamientos sospechosos de las máquinas en tiempo real.
Dado que los sistemas prefieren diseños estructurados y esquemas consistentes, las herramientas de defensa deben aprovechar la telemetría de red para rastrear cómo estos modelos interactúan con los almacenes de datos internos. Los equipos de seguridad necesitan ver exactamente cómo se procesan los datos, garantizando que modelos no autorizados no mapeen los activos corporativos.
Los gobiernos están respondiendo a esta realidad con legislación actualizada, como el fortalecimiento de la Ley Nacional de Seguridad Cibernética en el Reino Unido. Estas actualizaciones amplían el alcance de la regulación legal para incluir proveedores de servicios digitales esenciales, proveedores de servicios gestionados y centros de datos.
Las sanciones estrictas aumentan el costo del incumplimiento, y la notificación obligatoria de incidentes exige que las empresas alerten a los reguladores en un plazo muy ajustado, a menudo de 24 horas. Estos cambios legislativos reconocen lo que los expertos en tecnología han advertido durante años: que las violaciones de la ciberseguridad de la infraestructura crítica son una amenaza a la seguridad nacional.
Los intentos automatizados de infracción y explotación son inevitables. La industria debe tratar los activos físicos críticos con el mismo nivel de precaución que la infraestructura de software avanzada. En un mundo donde los sistemas automatizados pueden orquestar intrusiones complejas en la red, es imperativo adoptar medidas de seguridad más integrales.
Hemos presentado el mejor software de seguridad para terminales
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
