- Dos de cada cinco empresas necesitarán ampliar sus agentes de IA para 2027
- Insta a las organizaciones a repensar los principios básicos de gobernanza
- Se presenta un marco exhaustivo de cuatro etapas.
Gartner advierte que dos organizaciones tendrán que desmantelar sus agentes de IA para 2027 debido a lagunas en sus marcos de gobernanza que sólo pueden descubrirse después del hecho.
Esto se debe a que las organizaciones están tratando a los agentes de IA como si estuvieran completamente bloqueados o como si fueran de total confianza; es este control uniforme el que podría ser el mayor dolor de cabeza para las empresas en los próximos años.
El informe revela que esto en realidad puede presentar dos riesgos: además de una evidente confianza mal calculada que da a los agentes acceso a sistemas a los que no deberían tener acceso, políticas demasiado estrictas pueden llevar a los trabajadores humanos a otras herramientas no autorizadas, lo que aumenta los riesgos potenciales de exposición de datos.
La gobernanza es una consideración importante para la IA agente
En el futuro, Gartner aconseja a las empresas adoptar un marco de cuatro etapas para un control de acceso más granular, comenzando con el “Nivel 1: Observar”. Esto proporcionará a los agentes de IA acceso de solo lectura a fuentes de datos definidas con resultados disponibles solo para el usuario solicitante.
El ‘Nivel 2: Consejos’ se sumaría a esto al hacer recomendaciones o sugerencias de acciones que deberían ser revisadas manualmente por humanos; según esta política, los agentes aún no tendrían acceso de escritura al sistema.
Para un acceso completo de lectura y escritura, el ‘Nivel 3: Actuar con aprobación’ permite a los agentes actuar, escribir datos y enviar comunicaciones, pero solo después de la aprobación humana explícita cada vez.
El principio final, “Etapa 4: Actuar de forma autónoma”, es donde los agentes de IA realmente pueden desarrollar sus propias tareas al realizar tareas por sí mismos. Las personas seguirán participando en los niveles de excepción, registro de auditoría y resultados agregados.
“Debido a que la responsabilidad por los resultados recae en la organización, este nivel requiere la gobernanza más estricta, que incluye monitoreo continuo, barreras de seguridad impuestas, mecanismos de reversión rápida, disyuntores que detienen las operaciones de los agentes en caso de violaciones de los umbrales y una propiedad clara del comportamiento de los agentes”, explicó el director senior y analista Shiv Verma.
El informe de Gartner sirve como recordatorio a las empresas de que la carrera hacia la autonomía sin una consideración cuidadosa de lo que los agentes pueden leer y escribir puede comprometer la seguridad más adelante. Con un enfoque calculado de la gobernanza, las empresas pueden evitar por completo los retrocesos reactivos.
Siga TechRadar en Google News Y Agréganos como fuente preferida Obtenga nuestras noticias, reseñas y opiniones de expertos en su feed.
