- El código generado por IA está creciendo más rápido que los sistemas de supervisión de seguridad
- Las revisiones manuales luchan por mantenerse al día con el software generado por máquinas
- Los líderes de seguridad temen la propagación de patrones de codificación inseguros a lo largo del proceso de desarrollo.
Los asistentes de codificación de inteligencia artificial se están extendiendo a los equipos de desarrollo más rápido de lo que los marcos de seguridad pueden adaptarse.
Una nueva investigación de SALT Security afirma que el 90% de los líderes de seguridad ahora informan una preocupación activa por los riesgos que plantea el software generado por IA.
Sin embargo, las organizaciones continúan adoptando herramientas de inteligencia artificial porque aceleran las tareas de codificación, reducen el tiempo dedicado a tareas repetitivas y aceleran la entrega de software.
La IA de revisión humana no puede manejar la velocidad
Los líderes de seguridad creen que las prácticas de desarrollo diseñadas antes de que la IA se generalizara ya no pueden proporcionar una supervisión adecuada.
Casi un tercio (29%) de los encuestados identificó patrones de codificación inseguros como el principal riesgo introducido por los asistentes de IA.
Estos sistemas aprenden de enormes conjuntos de datos de capacitación que contienen sus propios errores y prácticas antiguas.
Una herramienta de inteligencia artificial puede generar código que parece completamente funcional y al mismo tiempo reproducir silenciosamente vulnerabilidades que un humano podría detectar.
Este problema es similar al hecho de que el software antivirus debe actualizar constantemente sus definiciones porque las nuevas amenazas surgen más rápido que las bases de datos de firmas.
La diferencia aquí es que ninguna autoridad central rastrea cada patrón inseguro que una IA podría replicar, ya que a pesar de la preocupación generalizada que introduce la IA, más de un tercio de las organizaciones todavía dependen de revisiones manuales de código antes de un lanzamiento.
La dependencia de la verificación humana se vuelve estructuralmente problemática cuando la IA genera volúmenes de código que un equipo no puede inspeccionar a fondo.
Este enfoque funcionó cuando los desarrolladores escribieron software a velocidad humana, pero falló cuando la IA aceleró drásticamente la producción.
La fatiga de los revisores aparece rápidamente, los equipos aplican estándares de manera inconsistente y los requisitos de seguridad se interpretan de manera diferente entre los departamentos.
Roy Eliyahu, director ejecutivo y cofundador de Salt Security, dice que los asistentes de codificación de IA están cambiando fundamentalmente la forma en que se construye el software, pero la gobernanza no ha seguido el ritmo.
“La mayoría de las organizaciones reconocen los riesgos, pero muchas todavía están intentando gestionar el código generado por IA utilizando mecanismos de seguridad diseñados para un mundo anterior a la IA”.
Este enfoque no tiene mejor escala que utilizar una única bandeja de entrada de correo electrónico para manejar millones de mensajes diarios sin filtrado ni automatización.
La complejidad empresarial dificulta la implementación
Las empresas más grandes, con más de 500 empleados, enfrentan desafíos de gestión que las empresas más pequeñas simplemente no enfrentan.
Los equipos distribuidos utilizan diferentes herramientas, siguen diferentes flujos de trabajo y aplican estándares de seguridad con un rigor inconsistente en diferentes regiones.
El riesgo de que los desarrolladores dependan excesivamente de los asistentes de IA aumenta proporcionalmente con el tamaño del equipo y la presión de entrega.
Las agencias de seguridad, incluidas las agencias gubernamentales de ciberseguridad, han advertido anteriormente que los sistemas de inteligencia artificial amplían las superficies de ataque y complican significativamente las estructuras de rendición de cuentas.
Sin una mejor visibilidad de dónde entra el código generado por IA, la gobernanza sigue siendo predecible como proceso.
Tratar a los asistentes de codificación de IA como componentes de la cadena de suministro de software (como cualquier verificación de riesgo de malware de terceros) ofrece un camino más realista que esperar que la revisión manual de alguna manera tenga éxito.
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
