Una creciente narrativa en la industria tecnológica sugiere que los agentes de IA reemplazarán a las aplicaciones SaaS tradicionales, gestionando de forma autónoma los flujos de trabajo de software empresarial y reduciendo departamentos enteros.
Pero si bien los agentes de IA se están implementando rápidamente en toda la empresa, este marco tergiversa cómo funcionan realmente los sistemas empresariales.
El artículo continúa a continuación.
Director Senior de Ingeniería de Clientes, Internacional en Elastic.
Sin una contextualización y una base operativa adecuadas, la IA puede realizar tareas de manera deficiente. En lugar de resultados fiables y precisos, puede producir alucinaciones, resultados que parecen plausibles pero que son incompletos, engañosos o totalmente erróneos.
Es un negocio arriesgado. Los errores pueden propagarse rápidamente a través de las operaciones: un modelo de riesgo crediticio mal calculado puede autorizar transacciones fraudulentas, exponiendo a la empresa a pérdidas financieras e investigaciones regulatorias. Los agentes de apoyo a la atención médica pueden seguir recomendaciones que inadvertidamente violen las reglas de privacidad o brinden consejos médicos perjudiciales.
Incluso las decisiones estratégicas, como el abastecimiento de la cadena de suministro, pueden resultar en pérdida de ingresos, desperdicio de recursos y reacciones negativas del público si los modelos predictivos malinterpretan las tendencias del mercado.
En resumen, sin el contexto adecuado, la IA puede realizar evaluaciones erróneas y tomar malas decisiones. Y las consecuencias son reales: pérdidas financieras, violaciones regulatorias y daños a la reputación de la marca.
Enfatiza la importancia continua de la supervisión humana y el despliegue cuidadoso. Los sistemas de IA requieren más que capacidades de modelo en bruto. Necesitan un entorno que fomente la relevancia, garantice la alineación operativa y mantenga la gobernanza.
Para abordar esto, las organizaciones deben analizar detenidamente cómo preparan la IA para el trabajo y cómo ayudan a que funcione de manera óptima. Para muchos, la solución reside en un enfoque conocido como “ingeniería de contexto”.
Lo que realmente faltan los agentes de IA
La ingeniería de contexto consiste en brindar a los agentes de IA lo que necesitan para desempeñarse de manera confiable en entornos empresariales del mundo real. Los analistas de Gartner lo definen como “diseñar y estructurar datos, flujos de trabajo y entornos relevantes para que los sistemas de inteligencia artificial puedan comprender la intención, tomar mejores decisiones y ofrecer resultados relevantes y alineados con la empresa”.
Considere la posibilidad de que un agente de atención al cliente se encargue de las disputas de facturación. Para responder de forma eficaz, necesita acceso al historial de la cuenta del cliente, a los registros de transacciones recientes, a la documentación del producto y a la política de reembolso actual de la empresa, todo a la vez y en el orden de prioridad correcto. Sin ese contexto de ingeniería, incluso un modelo altamente capaz producirá respuestas genéricas en el mejor de los casos y confusas en el peor.
Hoy en día, muchos agentes de IA tienen modelos sólidos pero carecen de un acceso consistente al contexto operativo. No reemplazan las plataformas subyacentes, los almacenes de datos o los sistemas operativos de los que dependen las empresas; Cuanto mejor se adapten a ellos y al contexto que proporcionan esos sistemas.
Resolverlo no se trata sólo de mejores modelos. Requiere una plataforma que pueda integrar datos estructurados y no estructurados, recuperar las señales más relevantes en todos los sistemas y brindar a los ingenieros visibilidad sobre cómo se generan los resultados para que puedan identificar brechas e iterar con confianza.
Las organizaciones que aplican eficazmente la ingeniería de contexto pueden eliminar la fricción causada por la gestión de múltiples herramientas, al tiempo que garantizan que los agentes de IA operen de manera confiable en entornos complejos del mundo real.
En resumen, el contexto abarca cada capa de la pila de ingeniería. Cuando funciona, la IA se convierte en una capa poderosa y confiable sobre los sistemas empresariales existentes, no en un reemplazo.
Obtenga el contexto adecuado y la IA potenciará a toda su organización
La ingeniería de contexto no se trata sólo de reducir las alucinaciones o aumentar la confiabilidad, aunque eso es importante. Si se hace correctamente, permite a los desarrolladores crear flujos de trabajo de IA complejos y de varios pasos, personalizar agentes en dominios específicos, como servicios médicos, legales y financieros, al tiempo que garantiza que los resultados cumplan con los requisitos de tono, estilo de razonamiento y cumplimiento.
También otorga a los humanos un importante papel continuo. La relevancia y el contexto no son estáticos; Evolucionan a medida que cambian las condiciones comerciales, las regulaciones y las necesidades de los usuarios. Es por eso que los líderes de IA necesitan circuitos de retroalimentación, monitoreo y supervisión humana, para que los agentes puedan adaptarse, mantener el cumplimiento y ofrecer valor.
La conclusión es clara: si se utiliza el contexto adecuado, se mejorarán más que los resultados de la IA. Mejore la toma de decisiones, la eficiencia y la resiliencia de las personas y equipos con los que trabaja, sin reemplazar los sistemas fundamentales que los sustentan.
He probado más de 70 mejores herramientas de IA.
