La IA agente está pasando rápidamente de la aspiración de las salas de juntas a la realidad empresarial.
Gartner predice que casi el 40% de las aplicaciones empresariales incluirán agentes de IA para tareas específicas este año, frente a sólo el 5% el año pasado.
Este crecimiento obliga a todos los CIO, CISO y líderes tecnológicos a considerar: ¿qué acceso debería permitirse a la IA y cómo debería operar una vez dentro de la empresa?
CIO y director digital de Sutherland Global.
Muchas organizaciones comienzan integrando agentes de IA directamente en sistemas heredados, conectándolos a bases de datos backend, API y flujos de trabajo en nombre de la velocidad.
Si bien este enfoque en línea puede funcionar en entornos modernos y bien gobernados, a menudo pasa por alto los flujos de trabajo y los controles de aprobación en torno a los cuales se construyeron los sistemas heredados. Los agentes pueden acceder a datos restringidos, eludir autorizaciones o realizar transacciones sin registros atribuibles completos.
Como resultado, existe una brecha administrativa cada vez mayor. Las decisiones vinculadas a datos confidenciales no se pueden reconstruir ni defender de manera confiable con la misma confianza que las tareas realizadas por humanos. Incluso los modelos avanzados se estancan en las pruebas piloto porque las empresas no pueden demostrar cómo se produjeron los resultados.
La solución no es frenar la adopción de la IA. Se trata de cambiar la forma en que la IA interactúa con los sistemas que ya dirigen las empresas.
Cuando la IA pasa por alto el sistema, se estropea
Considere un flujo de trabajo financiero en un sistema de software ERP. Un agente actualiza los datos bancarios del vendedor y realiza un pago a través de la ruta rápida, sin pasar por el paso de autorización requerido y la verificación de segregación de funciones. Posteriormente, cuando se cuestiona la transacción, la organización no puede probar quién autorizó el cambio, por qué se hizo o si se siguieron los controles adecuados.
Ahí es donde falla la rendición de cuentas. Se realizan cambios dentro del sistema original, pero la evidencia está incompleta, es inconsistente o está desconectada del sistema de registro.
Simular el comportamiento humano proporciona un enfoque más seguro y práctico. Estos agentes actúan como un empleado humano: inician sesión con credenciales estándar, navegan por las interfaces de usuario existentes, leen pantallas en contexto, siguen flujos de trabajo establecidos y realizan tareas en pleno cumplimiento de todos los controles ya implementados.
Sin nueva API. Sin exposición de datos de backend sin procesar. No se debe reescribir la lógica empresarial ni las reglas de seguridad de décadas de antigüedad. Las barreras de seguridad diseñadas para proteger contra errores o abusos humanos (validación, permisos, aprobaciones y registros de auditoría) permanecen 100 % intactas.
Este enfoque centrado en la interfaz de usuario es particularmente útil para organizaciones que ejecutan procesos de misión crítica en plataformas más antiguas. Crear API seguras y controladas para sistemas heredados es costoso y requiere mucho tiempo, y a menudo deja protecciones integradas en la capa de interfaz.
Si bien los agentes humanos simulados no pueden igualar directamente la velocidad de las llamadas de backend, brindan beneficios empresariales mucho más valiosos: implementación inmediata, responsabilidad férrea y cero interrupciones en los controles probados. No es necesario evitar la IA para una operación segura. Necesita repensar cómo encaja en el sistema que lo rodea.
Preparación para humanos simulados en la empresa.
Tres prioridades pueden ayudar a las organizaciones a prepararse para emular procesos humanos a medida que la IA se integra en flujos de trabajo críticos.
1. Ponga la IA donde está el trabajo
La mayoría de las estrategias de IA empresarial suponen que una integración backend más profunda genera una mejor automatización. En entornos moldeados por sistemas heredados, a menudo hace lo contrario: introduce nueva complejidad y evita flujos de trabajo y controles ya creados a nivel de interfaz.
En su lugar, centra la IA en los puntos donde puede funcionar sin necesidad de reconstruir el sistema. Este enfoque reduce drásticamente los gastos generales de integración, limita la exposición a los sistemas centrales y permite que la IA escale dentro de los modelos operativos existentes en lugar de forzar una costosa modernización.
2. Alinear la responsabilidad de la IA con la responsabilidad humana
Los agentes deben actuar bajo los mismos principios que el reconocimiento de nombre y los empleados. Conservan los flujos de trabajo de aprobación, realizan un seguimiento de los permisos basados en roles y crean los mismos artefactos de auditoría (incluidas entradas de registro, historial de cambios, tickets y aprobaciones registradas) en los que las organizaciones ya confían para revisar la actividad humana.
Esto elimina el peligroso modelo de gobernanza de dos niveles en el que la IA opera bajo estándares diferentes a los de los empleados. Las organizaciones pueden mantener la visibilidad, la responsabilidad y los controles establecidos de cumplimiento y gestión de riesgos a medida que la IA asume más responsabilidad.
3. Diseño para la adaptabilidad en lugar de una automatización frágil
La automatización robótica de procesos (RPA) tradicional se basa en secuencias de comandos rígidas, clic a clic, que interrumpen o generan excepciones en el momento en que cambia una pantalla. Los agentes humanos simulados interpretan el contexto en tiempo real, se ajustan a las variaciones y continúan operando, tal como lo hacen los empleados capacitados.
Esa adaptabilidad es esencial en entornos empresariales dinámicos donde las políticas cambian, las excepciones son comunes y los sistemas rara vez son estáticos. En lugar de un mantenimiento constante de reparaciones y reparaciones, las organizaciones obtienen IA que puede operar de manera más resiliente dentro de los flujos de trabajo del mundo real.
Escalar la IA con los sistemas existentes
A medida que la IA agente crezca, las empresas serán juzgadas no solo por la inteligencia de sus sistemas sino también por su capacidad para gestionarlos. Se intensificará la presión para equilibrar la innovación con la regulación.
Las estrategias más sostenibles serán aquellas que integren de forma segura la IA en los sistemas que ya existen, en lugar de evitarlos. Cuando las acciones de un agente pueden ser auditadas y justificadas con el mismo rigor que se aplican a un colega humano, finalmente está listo para la producción.
Cómo se definirá la IA segura y escalable en la empresa.
Contamos con el mejor software para pequeñas empresas..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
