La inteligencia artificial avanza más rápido de lo que la mayoría de los modelos de gobierno empresarial están diseñados para soportar.
Las organizaciones están incorporando rápidamente la IA en las operaciones de los clientes, los flujos de trabajo internos, los sistemas de toma de decisiones, el desarrollo de software, la cadena de suministro, el análisis y las iniciativas de automatización.
Pero si bien la adopción se está acelerando, crea una situación en la que la rendición de cuentas está fragmentada.
Esa brecha está creando una nueva categoría de riesgo empresarial.
Responsable global de transformación de mercado en Fusion Risk Management.
Durante años, los líderes en ciberseguridad se han centrado en proteger sistemas, gestionar amenazas y proteger datos. Hoy en día, ese amplio mandato ya se está expandiendo: a medida que la IA se integra cada vez más en los entornos operativos, los CISO se ven arrastrados a cuestiones más amplias de confianza, seguridad, resiliencia y responsabilidad ejecutiva.
Un informe reciente de mejores prácticas de Forrester señaló que “los CISO serán autoridades de confianza y garantía para las empresas”.
Este cambio refleja una realidad creciente: las empresas luchan cada vez más por determinar quién es el responsable del riesgo de la IA a medida que las decisiones se distribuyen entre sistemas, funciones comerciales y procesos autónomos.
Los modelos de gobernanza luchan por seguir el ritmo
La mayoría de las estructuras de gobierno empresarial se diseñaron en torno al concepto de un modelo de supervisión centralizada. Los equipos de seguridad gestionan los riesgos de ciberseguridad. Obligaciones regulatorias gestionaron el cumplimiento. Realizar la gestión de operaciones. Los líderes empresariales gestionan resultados estratégicos. La IA trastoca esos límites.
Hoy en día, la IA influye cada vez más en las decisiones operativas en todas las funciones. Se pueden utilizar diferentes herramientas y modelos simultáneamente para la interacción con el cliente, la detección de fraude, las adquisiciones, la gestión de la fuerza laboral, el desarrollo de software y las operaciones de la cadena de suministro internamente, así como a través de un ecosistema de proveedor o cadena de suministro. Como resultado, la visibilidad es limitada y la rendición de cuentas resulta difícil de definir.
Cuando las interrupciones afectan simultáneamente las funciones legales, de privacidad, operativas y técnicas, muchas organizaciones carecen de una visión clara de cómo se cruzan estos riesgos.
La mayoría de los marcos de gobernanza se diseñaron para software que respalde las decisiones. Ahora, la IA participa cada vez más en su creación.
Brecha de visibilidad detrás del riesgo de IA
Muchas organizaciones todavía dependen de procesos administrativos fragmentados, documentación estática, hojas de cálculo y flujos de trabajo de informes desconectados para gestionar entornos que la IA ha vuelto más complejos.
Los sistemas de IA no funcionan de forma aislada. Dependen de canales de datos interconectados, modelos de terceros, infraestructura de nube, API, sistemas operativos y dependencias de procesos comerciales que están en constante evolución. Cuando la visibilidad de estas dependencias es limitada, las organizaciones luchan por comprender de dónde provienen las decisiones impulsadas por la IA, cómo se propagan y qué efectos en cadena crean.
Esa brecha de visibilidad se convierte rápidamente en un problema de resiliencia. Si las organizaciones no pueden conectar las actividades impulsadas por la IA con los sistemas operativos y los resultados comerciales, no podrán evaluar eficazmente la exposición durante la disrupción, validar planes de continuidad o demostrar responsabilidad bajo presión.
Aquí es donde muchas organizaciones descubren que la gobernanza de la IA ya no es sólo un desafío político. Este es un desafío de resiliencia operativa que puede tener implicaciones financieras y para los clientes.
Dado que los equipos de ciberseguridad ya trabajan en la intersección del riesgo tecnológico, la resiliencia, la gobernanza y la respuesta a incidentes, muchas organizaciones buscan cada vez más en los CISO la confianza y seguridad en toda la empresa.
La resiliencia de la IA requiere un contexto operativo
La conversación sobre la gobernanza de la IA se ha centrado en marcos éticos, políticas y controles regulatorios, que siguen siendo importantes. Pero la resiliencia depende de algo cada vez más útil: comprender cómo las operaciones impulsadas por la IA impactan el entorno empresarial real cuando se interrumpen.
Esto requiere que las organizaciones vayan más allá de los modelos de gobernanza estáticos y adopten una visibilidad operativa continua.
Las organizaciones líderes se centran cada vez más en cuestiones como:
- ¿Qué servicios empresariales dependen de sistemas impulsados por IA?
- ¿Qué procesos operativos se ven comprometidos si falla la producción de IA?
- ¿Dónde crea la dependencia de terceros una exposición posterior?
- ¿Con qué rapidez pueden los equipos rastrear las decisiones impulsadas por la IA durante un incidente?
- ¿Pueden los líderes demostrar responsabilidad operativa en tiempo real?
- ¿Podemos volver a modelos operativos más tradicionales si los agentes o las capacidades de IA fallan?
Estas preguntas abarcan la ciberseguridad, la resiliencia, las operaciones y la gobernanza ejecutiva. Representan un amplio cambio en la gestión de riesgos empresariales.
Confianza, responsabilidad y resiliencia
Las organizaciones ya no se miden por la existencia de estructuras de gobierno. Cada vez más, los sistemas complejos se juzgan en función de si pueden demostrar eficazmente confianza, responsabilidad y resiliencia cuando fallan bajo estrés, y la IA está acelerando este cambio.
Las organizaciones que se adaptan rápidamente no necesariamente implementarán la mayor cantidad de IA. Serán ellos quienes podrán comprender, gestionar y recuperarse más claramente de las consecuencias operativas que la IA puede crear en caso de una interrupción.
Protege tus datos con el mejor administrador de contraseñas.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
