De 100 organizaciones de ingeniería, el 61 % ya utiliza agentes de IA. Sin embargo, casi nadie les cree lo suficiente como para ponerlos en producción.
Hay varias razones para esto. En primer lugar, los agentes son propensos a cometer errores que los humanos saben evitar por experiencia. Se mueven a un ritmo mucho más rápido y, por su propia naturaleza, operan de forma autónoma. Si algo sale mal, a menudo no hay seguimiento de auditoría ni visibilidad de lo que están haciendo en toda la organización.
Esto se vuelve problemático cuando un agente deshonesto inevitablemente filtra credenciales, accede a un almacenamiento no autorizado o agota los presupuestos de la nube antes de que alguien se dé cuenta.
Esta falta de confiabilidad es la razón por la que la mayoría de las empresas mantienen a los agentes alejados de cualquier cosa importante.
Pero el verdadero problema no son los agentes. Es la ausencia de gobernanza en torno a su uso. El control ya existe y existe desde hace mucho tiempo.
Estos son los mismos principios que se han aplicado a los ingenieros humanos durante años: privilegios mínimos, registros de auditoría, gestión de identidades y acceso con alcance. Aunque resultan familiares, las empresas luchan por aplicar estas reglas básicas.
Para garantizar que las organizaciones tengan un buen comienzo implementando agentes de IA, deben implementar tres controles de gobernanza simples: aislamiento, alcance y autorización.
Aislado por defecto
Comience con espacios de trabajo aislados y transitorios. Cada tarea creada a partir de una plantilla limpia debe eliminarse tan pronto como finalice. No hay estado compartido ni sangrado entre ejecuciones. Esto significa que si algo sale mal, el daño se limitará a ese trabajo y nada más allá.
Luego, desde ese espacio de trabajo, todos los agentes no deberían tener acceso saliente de forma predeterminada. no limitado a cero Una ‘lista de permitidos’ explícita define exactamente qué dominios, métodos y rutas puede tocar un agente. Todos los demás están bloqueados. Incluso con acceso limitado, incluso los sistemas sensibles como GitHub o Salesforce deberían tener acceso de solo lectura.
Su agente se encuentra en un espacio de trabajo aislado. La conectividad de red es limitada. Ahora es el momento de controlar la llamada a la herramienta. El protocolo de contexto modelo (MCP), por ejemplo, es la forma en que los agentes invocan herramientas externas, incluidos sistemas de archivos, bases de datos y API. Sin una barrera hermética, un agente puede comunicarse con cualquier servidor MCP disponible.
El peligro es que se trata de una superficie de ataque importante y en gran medida invisible. Los servidores proxy ubicados frente a estas herramientas permiten a los administradores definir una lista blanca, filtrar a nivel de herramienta y registrar cualquier cosa que intente salirse de los límites.
Permisos de alcance y monitoreo en tiempo real.
Incluso un agente bien aislado puede causar problemas si se ejecuta con más permisos de los necesarios. Los agentes nunca deben heredar las credenciales completas de un usuario. Las claves API deben contener solo los permisos necesarios para esa tarea específica y nada más.
Además de una identidad omnipresente, debe haber una visibilidad clara. El monitoreo en tiempo real y la transmisión de cada solicitud a través del equipo de alertas proporcionarán señales oportunas y procesables cuando un agente realice 10 veces sus llamadas API normales, contacte a un nuevo dominio o comience a quemar tokens inusualmente rápido.
El enrutamiento LLM con reconocimiento de identidad combina esto. Autenticar a los usuarios a través de SSO existente y enrutar todas las solicitudes de modelo a través de claves administradas centralmente resuelve el problema de dispersión de claves API. Sin esta medida de control, cientos de claves sueltas se acumulan silenciosamente sin atribución ni ruta de recuperación clara.
Autorizar tareas de agencia con un humano en el circuito
Piense en un agente como un empleado junior talentoso. Alto rendimiento, dispuesto a ayudar, pero aún no confiado en impulsar la producción sin supervisión. Los agentes de IA deberían generar resultados pero no determinar qué barcos. Aquí es donde entran las puertas de autorización humana, respaldadas por los controles de acceso existentes basados en roles. Las personas deben ser mutuamente responsables del desempeño de sus agentes. Piense en ello como un control técnico.
Sin embargo, hay un área en la que deberías ayudar con la supervisión humana: la selección del modelo. No todos los trabajos deberían recaer en el mismo modelo. Por ejemplo, existen requisitos diferentes a los de la creación de contenido de datos controlado. El enrutamiento por política garantiza que se cumplan los requisitos de cumplimiento sin depender de desarrolladores individuales para tomar la decisión correcta cada vez.
Complete la pista de auditoría para que todo el lote sea responsable. Cada mensaje, cada llamada a una herramienta, cada interacción con el modelo debe asignarse a una identidad autenticada y exportarse a cualquier pila observable que ya tenga. Siempre debe quedar claro qué usuario autenticado envió qué mensaje a qué modelo y por qué.
Integre la administración en su infraestructura, no en su aplicación
En general, el objetivo es capacitar a las organizaciones para que implementen con confianza sus agentes de IA sin ralentizar a sus desarrolladores, agentes o negocios. Garantice esto estableciendo una capa de gobernanza para sostener la adopción de agentes de IA. Pero hay un problema. Implementar la gobernanza a nivel de infraestructura. Hay dos razones para esto.
En primer lugar, evita la duplicación de políticas para cada pila de IA que implemente. En segundo lugar, garantiza un régimen coherente en un mundo que cambia muy rápidamente, en el que los agentes, modelos y sistemas se superarán entre sí cada mes. No conviene reescribir los principios de gobernanza al ritmo del cambio de la IA.
Si se hace correctamente, la gobernanza del aprovechamiento de la infraestructura prepara la producción de IA. Los equipos de seguridad con visibilidad de lo que hacen los agentes se inclinarán por obtener más aprobaciones, los equipos de cumplimiento con pistas de auditoría claras aprobarán más rápido y los desarrolladores que confíen en Guardrails podrán seguir adelante.
Las empresas que construyan gobernanza ahora no sólo tendrán una mejor postura de seguridad, sino que superarán a los competidores que esperan la aprobación para ejecutar su primer piloto.
Hemos revisado y clasificado el mejor software para pequeñas empresas..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
