Los agentes de IA se están incorporando cada vez más a operaciones en vivo. Cambia el desafío empresarial con el siguiente obstáculo centrado en la preparación organizacional.
Toda empresa debe planificar cuidadosamente cómo se asignan las tareas, cómo se gestionan las decisiones, cómo se dirigen los sistemas y dónde se ubican las responsabilidades de las personas, a medida que los agentes realizan más trabajo en el mundo real.
Vicepresidente de datos e inteligencia artificial en Kyndryl UK&I.
La brecha entre ambición y preparación es cada vez más difícil de ignorar. El informe de preparación de Kyndryl encontró que el 87% de los líderes empresariales esperan que la IA remodele por completo las trayectorias profesionales y las responsabilidades de los roles. Pero en este momento, sólo el 29% dice que los trabajadores pueden usar la IA de manera efectiva, mientras que el 62% dice que todavía están en la “etapa experimental” con la IA.
El éxito de los agentes de IA dependerá menos de las capacidades de aislamiento y más de si la empresa está posicionada adecuadamente para gestionarlos, orquestarlos y gestionarlos.
Esto significa alineación entre la intención comercial, los derechos de decisión, el acceso a los datos, la soberanía, el diseño del flujo de trabajo, la gobernanza y la supervisión humana. Sin esa base, los agentes tendrán dificultades para ofrecer valor a escala y pueden introducir nuevos riesgos.
Complejidad operativa en la práctica.
Por eso vale la pena ser específico sobre lo que significa la IA agente y por qué crea complejidad operativa en la práctica. Los sistemas agentes no son sólo IA generativa con una interfaz más sofisticada. Son sistemas que pueden planificar, tomar medidas, coordinar tareas y coordinar flujos de trabajo de varios pasos con participación humana limitada.
Esto los hace más capaces, pero materialmente más difíciles de gobernar. Una vez que la tecnología pueda razonar, ejecutar herramientas, coordinar sistemas y actuar, la pregunta ya no es sólo “qué puede hacer”, sino si estamos equipados para hacerlo.
Las pequeñas implementaciones agentes suelen depender de conjuntos de datos confinados y afectan a relativamente pocos sistemas. A escala, esa simplicidad desaparece. Más sistemas, más integración, más diversidad operativa y mayores exigencias de gobernanza añaden presión. Muchos proyectos piloto pierden impulso en este punto, ya que la ampliación de la IA obliga a las organizaciones a afrontar una deuda arquitectónica y organizativa persistente.
Si queremos que estos sistemas funcionen en entornos empresariales complejos, debemos dejar de colapsar la discusión en una discusión de LLM. LLM es importante, pero es sólo un elemento en una arquitectura de sistema agente mucho más amplia. Las implementaciones empresariales reales dependen de la orquestación, las herramientas, el contexto, la memoria, la lógica del flujo de trabajo, las políticas, los permisos, los controles de tiempo de ejecución, la gestión de identidades, la observabilidad y el aumento humano, todos trabajando juntos.
Si centramos la conversación demasiado estrechamente, corremos el riesgo de diseñar componentes críticos que determinen si el sistema puede funcionar de forma segura y eficaz en producción.
Para mí, uno de los puntos prácticos más importantes es que debemos diseñar teniendo en cuenta los flujos de trabajo operativos más complejos, especialmente en entornos de misión crítica, pero secuenciar la implementación de manera inteligente para que podamos implementar el riesgo a medida que escalamos.
Escalar adecuadamente
A medida que los agentes escalan, ejercen presión sobre la empresa de cuatro maneras.
El primero es la sobrecarga de datos, a medida que la información sensible y no estructurada se vuelve más disponible, reutilizable y divulgada.
El segundo es la tensión de integración, ya que cada agente adicional aumenta la dependencia de las plataformas, interfaces y procesos operativos existentes.
El tercero es la tensión operativa, a medida que interactúa un número cada vez mayor de componentes autónomos, lo que agrava la complejidad y multiplica los escenarios de falla.
En cuarto lugar está la tensión en materia de gobernanza, donde los modelos de supervisión diseñados para sistemas estáticos luchan por seguir el ritmo del comportamiento dinámico y adaptativo.
Depende de algunas disciplinas prácticas para estar bien gestionado:
Establezca límites de decisión claros: Determine qué decisiones pueden tomar los agentes, qué se debe intensificar y qué permanece firmemente bajo control humano.
Orquestación de diseño a escala: Los entornos de múltiples agentes requieren flujos de trabajo coordinados, contexto compartido y puntos de control claros para evitar desviaciones, duplicaciones y fallas de cumplimiento.
Incorporar intervenciones en el modelo operativo desde el principio; El control de supervisión no debe considerarse una medida de emergencia. Debe construirse a través de umbrales, alertas, aprobaciones y mecanismos de desconexión y reversión.
Asignar responsabilidades a roles y sistemas de registro designados: Si una decisión no puede identificarse, impugnarse y defenderse, no está lista para su producción.
Aquí es donde el control debe acercarse mucho más al tiempo de ejecución. No basta con que una política quede simplemente en un segundo plano en un documento de política, foro de gobernanza o de otro tipo. La política debe ser legible por máquina, comprobable y ejecutable. Los permisos deben adaptarse al contexto y extenderse desde el principio.
Requisitos operativos clave
Además, la telemetría, la orquestación, el monitoreo en tiempo real y AIOps son ahora requisitos operativos clave. A medida que la IA agente se convierte en parte de los flujos de trabajo cotidianos, la telemetría debe ir más allá del tiempo de actividad y el tiempo de respuesta. Las organizaciones ahora requieren visibilidad del comportamiento, alineación con la intención, dependencias del flujo de trabajo, tendencias de excepción y cumplimiento de políticas por código.
También es necesario desarrollar pruebas. Si un sistema es dinámico, sensible al contexto y capaz de tomar diferentes caminos, no podemos probarlo como si fuera un flujo de trabajo determinista con algo de IA superpuesto. No sólo estamos probando respuestas, estamos probando comportamiento.
Esto crea un equilibrio de liderazgo difícil pero importante. Demasiada autonomía sin un control adecuado crea un riesgo incontrolable. Demasiado control sin suficiente autonomía ralentiza la realización de valor. El objetivo no es una libertad ilimitada ni un confinamiento rígido, sino una autonomía limitada: agentes que operen a gran velocidad con políticas y controles claramente aplicados, senderos de crecimiento y explicabilidad.
Las asociaciones estratégicas también están pasando a formar parte de la arquitectura subyacente. Ninguna organización puede manejar la orquestación, la integración, la gobernanza, la interoperabilidad de la plataforma y el rediseño del modelo operativo al ritmo que se requiere ahora. Las alianzas más efectivas deben diseñarse conjuntamente en torno a la responsabilidad compartida por los resultados, la resiliencia y la rapidez para generar valor.
Igual de importante es que las organizaciones deben dejar tiempo para alinearse. Esto significa reunir a las personas desde el principio a través de ciclos de diseño, foros de gobernanza y hojas de ruta multifuncionales. Las partes interesadas internas y externas deben participar desde el principio: arquitectos para validar la pila, ingenieros para escalarla y líderes de riesgo para garantizar el cumplimiento.
Cuando esos aportes se integran tempranamente, es menos probable que las iniciativas agentes se estanquen, sin importar cuán avanzada sea la tecnología.
Dibujados como uno para alcanzar la visión.
El potencial de los agentes de IA no se desbloqueará únicamente mediante la experimentación. Las organizaciones preparadas para rediseñar los sistemas que las rodean con la gobernanza, la arquitectura, el modelo operativo y la disciplina de liderazgo necesarias para convertir la autonomía en valor empresarial se darán cuenta de esto.
Las organizaciones que están marcando el ritmo entienden que la escala depende de estar estructuralmente preparadas para ejecutar operaciones nativas de IA.
Hemos calificado las mejores herramientas de visualización de datos.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
