La inteligencia artificial ha entrado oficialmente en su fase operativa. Después de años de experimentación, las empresas utilizan cada vez más la IA no sólo para analizar datos, sino también para actuar en consecuencia.
A la vanguardia de este cambio están los agentes de IA, sistemas autónomos diseñados para realizar tareas complejas, automatizar flujos de trabajo e interactuar con otros sistemas digitales en nuestro nombre.
Responsable Global de Innovación, GBG.
Su adopción se está acelerando a un ritmo increíble; un estudio reciente de McKinsey muestra que el 62 % de las organizaciones ya están experimentando con ellos. Es fácil ver por qué la IA agente ofrece un camino relativamente sencillo para incorporar una automatización poderosa en lo profundo de los procesos comerciales.
Sin embargo, a medida que estos sistemas evolucionan de herramientas pasivas a agentes autónomos, estamos entrando en una nueva era de riesgo digital. La conversación ya no se trata sólo de crear agentes inteligentes, sino de si toda la economía de agentes puede funcionar sin una capa de confianza debajo. La verificación de identidad ha evolucionado más allá de una característica de seguridad básica para convertirse en la infraestructura que hace posible el comercio autónomo.
Cuando una IA puede acceder a bases de datos confidenciales, comunicarse con sistemas de terceros y ejecutar comandos, surge una pregunta crítica: ¿Cómo saber quién o qué está al otro lado de esa llamada API? El verdadero comercio de agentes no será posible sin un marco sólido para la identidad y la responsabilidad de los agentes.
Riesgos del mundo real de agentes de IA no controlados
El atractivo de la IA agente es su autonomía, pero ese es su mayor riesgo. Un agente de IA no controlado o comprometido que opere dentro de una red corporativa puede convertirse en un poderoso vector de actividad maliciosa. Estos riesgos no son nuevos, sino una extensión directa de las ciberamenazas existentes amplificadas por la velocidad y escala de la IA.
El vector de amenaza más definitorio en la era de la IA agente es la inyección rápida. Esto es exclusivo de los agentes de IA porque utiliza las habilidades del lenguaje natural que los hacen tan poderosos como arma. A diferencia de los ciberataques tradicionales que se basan en la explotación de errores de software o el descifrado de contraseñas, la inyección rápida elude los perímetros de seguridad estándar al introducir texto creado con fines malintencionados directamente en el flujo de procesamiento de un agente.
Básicamente, engaña a la IA para que anule las instrucciones originales del sistema y ejecute los comandos del atacante como acciones legítimas. En un entorno empresarial donde los agentes tienen permisos para acceder a CRM, procesar facturas o modificar bases de datos, una inyección exitosa puede convertir instantáneamente a un útil asistente digital en una amenaza interna no reconocida.
Con una inyección rápida, se puede instruir a los agentes para que extraigan datos o aumenten sus privilegios. Un agente diseñado para acceder a una base de datos de clientes para un análisis legítimo podría, si se ve comprometido, recibir instrucciones de copiar y transmitir toda esa base de datos a un servidor externo. De manera similar, la escalada de privilegios se convierte en una preocupación importante, ya que un agente con permisos limitados puede sondear la red en busca de vulnerabilidades o explotar una falla para otorgarse acceso elevado, convirtiéndose efectivamente en un administrador deshonesto.
Las interacciones entre IA presentan una nueva frontera de riesgos para la seguridad. A medida que los agentes de IA de una empresa comienzan a comunicarse con agentes de socios o clientes, el potencial de comprometer la cadena de suministro aumenta exponencialmente. Sin una forma de verificar la identidad del agente que interactúa, cada conexión de IA a IA se convierte en un posible punto ciego de seguridad.
Desarrollar un marco para las creencias agentes.
En la economía de agentes emergente, la confianza depende de las respuestas a tres preguntas, de las cuales sólo dos las normas actuales abordan de manera significativa: “¿Quién es este agente?” (abordado por primitivas de identidad como W3C DID, que se aplica cada vez más a los agentes), “¿Tiene este agente autorización para gastar esta cantidad en nombre del usuario?” (Marcos como los estándares administrados por la Alianza FIDE, como AP2 y Verifiable Intent, aportados por Google y Mastercard), y finalmente “¿Cuál es la reputación y el historial de este agente?”, una pregunta que la pila de estándares actuales deja abierta.
Juntos, forman la pila de confianza y pago necesaria para mover el comercio de agentes de un entorno limitado experimental a transacciones convencionales de alto valor. La arquitectura de confianza cero es más importante que nunca para proteger los sistemas contra amenazas de agentes. La identidad de un agente debe volver a verificarse para cada transacción o solicitud, y sus permisos deben limitarse al mínimo requerido para su tarea específica, según el principio de privilegio mínimo. Esto significa que si un agente de confianza se ve comprometido, su capacidad para causar un daño masivo se ve seriamente limitada.
Esta misma lógica se extiende más allá del perímetro corporativo en ambas direcciones. Por un lado, los agentes de IA están empezando a realizar transacciones en nombre de los consumidores: reservar, comprar, pagar y devolver. Las empresas, por otro lado, están desplegando agentes para cumplir con los mismos pedidos, incorporar nuevos clientes, automatizar las cadenas de suministro y ejecutar funciones administrativas completas. Está surgiendo un nuevo triángulo de confianza entre consumidores, empresas y agentes, en el que cada interacción funciona simultáneamente en ambos lados.
En ese mundo, la identidad de los agentes se convierte en una cuestión tanto comercial como de seguridad. Una empresa necesita saber que un agente de pedidos tiene un mandato válido y completo de una persona real que le ha autorizado a actuar. Pero igualmente, un agente del consumidor necesita confianza en que el agente comercial que cumple el pedido es legítimo, está autorizado y es rastreable. La confianza fluye en ambas direcciones y la máquina se acelera. Es un desafío de verificación de un orden fundamentalmente diferente a cualquier cosa que hayamos abordado antes, y que la industria apenas está comenzando a estandarizar a través de marcos como el Protocolo de pago agente de FIDO. Obtener los derechos de KYA es fundamental para permitir una economía de agentes funcional.
Finalmente, las empresas necesitan sistemas que monitoreen continuamente el comportamiento de los agentes para crear una línea de base de actividad normal, identificando así actividades anormales. Si un agente intenta repentinamente hacer algo fuera de su función habitual, como acceder a una nueva base de datos, conectarse a una dirección IP inusual o ejecutar comandos con una frecuencia demasiado alta, este comportamiento activará inmediatamente una alerta y, potencialmente, una suspensión automática de los permisos del agente.
La confianza como catalizador de la innovación
Algunos líderes tecnológicos piensan que las medidas de seguridad estrictas son una barrera para la innovación, pero en realidad es todo lo contrario. Al generar confianza y seguridad entre los agentes de IA desde cero, las empresas pueden innovar sin miedo. Pueden implementar con confianza soluciones agentes para impulsar la eficiencia, reducir los costos operativos y desbloquear nuevas fuentes de ingresos sin exponerse al riesgo catastrófico de una autonomía incontrolada.
La era de la IA agente está aquí y tiene el potencial de remodelar la forma en que operan las empresas. La autonomía sin supervisión es responsabilidad, pero la autonomía con identidades verificadas, mandatos con alcance y señales de confianza continuas es la base de una nueva capa comercial. A medida que la arquitectura del agente madure, la certificación de confianza se convertirá en un requisito previo para las transacciones. KYA no es un cargo de seguridad. Así es como permaneces en el juego.
Contamos con las mejores plataformas de comercio electrónico..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
