Más de la mitad de las empresas del mundo utilizan actualmente IA generativa de alguna forma. Esta imagen puede parecer una historia de éxito, y en muchos casos lo es.
La velocidad a la que las organizaciones han pasado de experimentar con IA a incorporarla en las operaciones diarias, desde los flujos de trabajo de seguridad hasta la toma de decisiones comerciales, es notable desde cualquier punto de vista.
Director senior de estrategia y gestión de productos en OpenText.
Pero hay una verdad menos cómoda justo debajo de la superficie de este impulso: la adopción está avanzando mucho más rápido que la infraestructura de gobernanza, seguridad y gestión de riesgos necesaria para respaldarla.
La brecha entre lo que se le pide a la IA que haga y lo que las organizaciones realmente han implementado para supervisarla está creciendo, y es un problema que la industria ya no puede darse el lujo de posponer.
Solo uno de cada cinco encuestados ha alcanzado lo que realmente se puede describir como madurez de la IA, un estado en el que las aplicaciones de ciberseguridad están completamente implementadas, los riesgos de seguridad se evalúan sistemáticamente y el rendimiento se rastrea en comparación con puntos de referencia significativos.
El resto está navegando por los despliegues de IA y todavía está sentando las bases para sustentarlo.
Una brecha creciente entre el impulso de la IA y su control
En todas las industrias, el entusiasmo por la IA es innegable. Las empresas están implementando herramientas GenAI para aumentar la productividad, optimizar las operaciones y mejorar la toma de decisiones. A medida que estas herramientas proliferan, las estructuras para gestionarlas se quedan atrás.
Menos de la mitad de las organizaciones tienen una estrategia basada en riesgos para evaluar y gestionar los sistemas de IA. Todavía hay menos políticas de privacidad de datos específicas de IA.
Esta falta de gobernanza sustancial se cruza con una serie de riesgos clave asociados con el comportamiento de la IA y el uso de datos. Los sesgos de los modelos y las preocupaciones éticas relacionadas a menudo están profundamente arraigados en los datos y arquitecturas de entrenamiento que siguen siendo difíciles de gestionar a escala y pueden producir resultados injustos, inexactos o poco confiables.
El riesgo de información rápida y de entrada, como resultados engañosos o dañinos, es motivo de preocupación. Mientras tanto, los riesgos impulsados por los usuarios, incluida la difusión involuntaria de información falsa generada con la ayuda de la IA, afectan a más de la mitad de las organizaciones que han implementado estas herramientas.
Estas brechas de gobernanza no existen de forma aislada. A medida que las empresas amplían la IA a través de más flujos de trabajo y puntos de contacto, los riesgos se agravan.
Sin políticas claras sobre cómo aprenden los sistemas, a qué datos acceden y cómo se validan los resultados, las organizaciones se exponen a vulnerabilidades operativas, éticas y regulatorias que serán difíciles de gestionar con el tiempo.
Las implicaciones de seguridad se están volviendo cada vez más evidentes
La IA promete y, en muchos casos, ya está brindando avances significativos para los equipos de seguridad. La rápida detección de anomalías, los análisis mejorados y la reducción de la carga de trabajo manual se encuentran entre sus principales beneficios.
Sin embargo, paradójicamente, muchas organizaciones informan que la IA también dificulta el mantenimiento de prácticas sólidas de privacidad y seguridad.
Este desafío surge en parte de la escala y la autonomía de los sistemas de IA modernos. A medida que los modelos interactúan con mayores volúmenes de datos y operan con menos puntos de control humanos, introducen nuevos vectores de pérdida de privacidad, exposición de datos y acceso no autorizado.
Además, continúan las preocupaciones sobre la confiabilidad. Los errores en las reglas de decisión de la IA y los problemas derivados de datos deficientes o incompletos se citan a menudo como barreras para la eficacia de la IA. Estas brechas de confiabilidad también afectan la confianza.
Poco más de la mitad de los profesionales creen que la supervisión humana sigue siendo esencial, no como una cuestión de elección, sino porque todavía no se puede confiar en que los sistemas de IA funcionen de forma independiente con suficiente coherencia o seguridad.
Nada de esto indica que la IA esté fallando. La inversión empresarial en IA generativa y agente muestra pocos signos de desaceleración. Pero la tecnología no es la barrera: la infraestructura institucional necesaria para gestionarla todavía se está poniendo al día y cerrando la brecha de la que ahora depende la adopción responsable de la IA.
Crear una IA confiable y escalable no requiere iniciativa
A pesar de estos desafíos, el camino sigue siendo desigual, pero el camino hacia una adopción responsable y segura de la IA está cada vez más claro. Cuatro pilares se destacan como críticos para alinear la innovación en IA con las necesidades de cumplimiento y riesgo empresarial:
- Gestión de identidad y acceso. – A medida que los agentes de IA asumen un papel más importante en toda la empresa, deben administrarse con la misma disciplina que se aplica a cualquier usuario privilegiado. Esto significa ampliar los controles de identidad a las identidades no humanas, imponer el acceso con menos privilegios y establecer límites claros en torno a lo que los sistemas de IA pueden alcanzar y hacer.
- Seguridad de datos – Para muchas organizaciones, el riesgo clave no es sólo lo que las herramientas de IA pueden crear, sino también lo que pueden acceder, revelar o eliminar. Los sistemas sólidos de protección de datos son esenciales para proteger la información confidencial, los datos personales y los repositorios clave, de modo que los sistemas de inteligencia artificial operen con los datos correctos y con las salvaguardias adecuadas.
- Detección y respuesta a amenazas – La IA se vuelve más autónoma; Los equipos de seguridad necesitan visibilidad del comportamiento de las máquinas y de la actividad humana. El monitoreo continuo puede ayudar a identificar acciones inusuales, señalar violaciones de políticas y acelerar las investigaciones cuando surgen riesgos.
- Seguridad de la aplicación – La IA comienza mucho antes de que se implemente la seguridad. Integrar la seguridad en el software y las aplicaciones que admiten flujos de trabajo impulsados por IA permite a las organizaciones identificar vulnerabilidades antes y construir sistemas más resilientes por diseño.
Estos no son conceptos nuevos en la gestión de tecnología empresarial. Son adaptaciones de principios establecidos a un contexto nuevo y en rápida evolución. El desafío es que el ritmo de adopción de la IA, en muchas organizaciones, ha superado el ritmo al que se han realizado estas adaptaciones.
El verdadero valor de la IA surge cuando la seguridad, la gobernanza y la gestión de la información se integran desde el principio.
Las empresas todavía ven una gran promesa en la IA generativa y agencial. Pero su capacidad para desbloquear ese valor depende de equilibrar la innovación con la responsabilidad.
Para que las organizaciones avancen, el camino hacia la madurez de la IA requerirá inversión no solo en herramientas avanzadas, sino también en políticas claras, prácticas de datos confiables y mecanismos de supervisión sólidos.
Las empresas que tendrán éxito serán aquellas que intencionalmente generen confianza a medida que desarrollan capacidades, garantizando que la IA opere de manera transparente, segura y con un marco de gobernanza diseñado para el éxito a largo plazo.
Hemos presentado el mejor software de seguridad para terminales
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
