Las empresas se enfrentan a un nuevo desafío: la IA en la sombra. Durante décadas, los equipos empresariales han luchado con la ‘TI en la sombra’, donde los empleados eludían los procesos de adquisición y aprobaciones para adoptar sus propias plataformas en la nube y aplicaciones SaaS.
Hoy en día, los empleados están adoptando rápidamente IA generativa, IA copiloto y plataformas de automatización más allá del control de los departamentos de TI centralizados. Los equipos están liberando IA potencial, pero TI no siempre es consciente y esto está creando un riesgo real relacionado con la “IA en la sombra”.
Fundador de Scopism y autor de SIAM Foundation and Professional Body of Knowledge.
El ritmo de adopción de la IA está superando a la gobernanza. Sí, los trabajadores deben experimentar con la IA. Puede automatizar tareas manuales, ayudar a los empleados a centrarse en tareas de alto valor y tomar mejores decisiones.
El desafío es que las empresas no siempre son conscientes del uso de la IA. A diferencia del software tradicional, los modelos de IA y las herramientas de automatización no requieren infraestructura ni adquisiciones significativas. Los usuarios pueden adoptar nuevas herramientas inmediatamente sin la participación de TI
Visibilidad operativa
A medida que crece la adopción, la IA se incorpora a los procesos departamentales sin una gobernanza o supervisión adecuada. Las empresas ya no sólo luchan con las adquisiciones. Tienen dificultades con la visibilidad operativa.
No saben qué herramientas de inteligencia artificial están utilizando sus empleados. No saben qué datos se están cargando. No saben dónde se almacena la información confidencial y esto expone a las empresas a riesgos operativos, de cumplimiento y de reputación.
La proliferación de proveedores está creando una complejidad adicional, ya que es uno de los mayores desafíos del uso de IA no administrada. Muchas empresas se están dando cuenta del hecho de que la IA ya se utiliza en todas las empresas. ¿problema? También están tratando de simplificar las operaciones agregando más herramientas de inteligencia artificial a un panorama tecnológico ya fragmentado.
Cada departamento está reuniendo diferentes plataformas de IA. Los empleados están creando una automatización personalizada. Los proveedores están incorporando capacidades de inteligencia artificial a sus productos con poca supervisión.
Ha creado un ecosistema inconexo de herramientas, proveedores y flujos de trabajo automatizados. La complejidad de los proveedores solo aumenta cuando se combinan varios proveedores, como proveedores de subcontratación, plataformas de nube pública y proveedores de SaaS, donde las responsabilidades se comparten entre las partes.
Puntos ciegos de la IA
Agregue IA a la mezcla y creará puntos ciegos adicionales. Cuando un flujo de trabajo automatizado falla, produce resultados incorrectos o viola los estándares de cumplimiento, ¿quién es el responsable? ¿Proveedor de modelos de IA? ¿El proveedor de software subyacente? ¿Plataforma de automatización? ¿La persona que lo implementa? ¿Fuente de datos?
Si las empresas no tienen una gobernanza sólida en torno a las actividades de IA y la integración de servicios, será difícil responder a esta pregunta. La transformación de la IA es una cuestión de modelo operativo, no solo de tecnología, y muchos ven la transformación de la IA de manera equivocada. En lugar de simplemente intentar implementar tecnología de IA, los líderes deben considerar cómo se utilizan las herramientas de IA en toda la empresa.
Desarrollar la resiliencia de la IA no se trata solo de utilizar la mayor cantidad de herramientas de IA. Se trata de incorporar gobernanza, responsabilidad y resiliencia operativa a las actividades de IA desde el principio.
Esto requiere un cambio de mentalidad. Los equipos de TI ya no pueden ser meros guardianes. Más equipos utilizarán herramientas de inteligencia artificial con o sin aprobación de TI. Los esfuerzos por limitar el uso de la IA conducirán a una mayor TI en la sombra.
Los equipos de TI y de gestión de servicios de TI deben evolucionar para centrarse en la integración de servicios, la gobernanza y la supervisión operativa. Estos incluyen:
- Crear transparencia en el uso de la IA
- Establecer directrices para el uso responsable de la IA
- Gestión de riesgos de proveedores
- Integración de la IA en los flujos de trabajo operativos
- Establecer responsabilidad por las decisiones impulsadas por la IA
- Permitir la innovación con la gobernanza adecuada
Las organizaciones necesitan visibilidad de extremo a extremo del uso de la IA entre equipos, proveedores, herramientas de automatización y servicios de IA de terceros. Sin ello, su resiliencia operativa parecerá resquebrajada.
La gobernanza será más importante a medida que aumente la presión regulatoria. La gobernanza será cada vez más importante a medida que los legisladores presten atención a la IA. A medida que entren en vigor nuevas regulaciones como la Ley de IA de la UE, junto con nuevas interpretaciones de las leyes de protección de datos existentes, se espera que las organizaciones rindan cuentas de cómo se monitorean, administran y utilizan las herramientas de IA.
Pero la mayoría de las empresas están adoptando la IA mucho antes de considerar su gobernanza. A medida que los órganos de gobierno intervienen para regular cómo las empresas utilizan la IA, es probable que las empresas queden muy rezagadas en las consideraciones de gobernanza.
Los empleados pueden compartir información confidencial sin darse cuenta a través de sistemas públicos de inteligencia artificial. Las empresas pueden comenzar a utilizar contenido generado por IA para actividades orientadas al cliente sin verificación de datos ni verificación de calidad. Las decisiones internas se pueden tomar mediante flujos de trabajo automatizados sin visibilidad ni auditabilidad.
Cuatro pasos para evitar la crisis de la IA en las sombras
No es demasiado tarde para que las empresas eviten la crisis de la IA en la sombra. Sin embargo, deben tomar medidas para gestionar de manera responsable las herramientas y el uso de la IA.
- Comprender cómo se utiliza la IA Obtenga una comprensión de qué herramientas de IA se utilizan en toda la organización, quién y con qué propósito. Esto incluye iniciativas informales o dirigidas por departamentos que ocurren fuera de TI.
- Definir pautas de uso responsable Establezca directrices claras para el uso responsable de la IA, las prácticas de datos, la gestión de riesgos de los proveedores y la responsabilidad. No es necesario crear procesos de aprobación restrictivos. Pero debes crear pautas prácticas que los equipos puedan seguir.
- Considere la IA como un servicio operativo La IA está cada vez más integrada en los flujos de trabajo críticos para el negocio. Como tal, debe tratarse como cualquier otro servicio importante. Defina quién es responsable de las operaciones de IA, cómo se gestionan los proveedores y cómo se aplican la seguridad y el cumplimiento.
- Abordar la gobernanza de la IA como una iniciativa para toda la empresa La gobernanza de la IA no debería ser responsabilidad exclusiva de TI. Las adquisiciones, la seguridad, los recursos humanos, las operaciones, el ámbito legal y el liderazgo ejecutivo deben trabajar juntos.
La realidad es que las organizaciones no deben temer a la IA. Pero un punto de partida es reconocer cuán inconscientemente ya están perdiendo el control de la visibilidad y la tecnología que impulsan cada vez más sus negocios.
Hemos presentado los mejores chatbots de IA para empresas.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
