- La mayoría de las empresas tienen dificultades para implementar IA agente de manera efectiva, y la infraestructura heredada es una de las principales razones, según el informe.
- En una encuesta de Google a líderes de TI, el 83% dijo que se necesitaban actualizaciones de infraestructura
- Los líderes de TI también están preocupados por los costos ocultos de la IA agente, como el mayor consumo de energía y la complejidad operativa.
Si hay un único mensaje que sacar de este artículo es que la infraestructura de la que dependen todas las empresas hoy en día no está diseñada para manejar IA agente.
Google encuestó a más de 1.400 líderes senior de TI sobre sus ambiciones de IA y descubrió que el 83% de las organizaciones dijeron que necesitarían actualizar su infraestructura para aprovechar todos los beneficios de la IA agente de grado de producción.
Además, muchos de los encuestados también ven costos inesperados al intentar ejecutar IA agente en infraestructura heredada. El 62% dice que ve un impuesto de inferencia significativo impulsado por las tarifas de salida de datos, el exceso de almacenamiento y el hardware especializado inactivo, mientras que el 82% dice que el escalado de la IA introduce costos ocultos de complejidad operativa. El 79% cita la seguridad, la gobernanza y las MLOps como barreras clave para escalar la IA agente.
Se requiere actualización para obtener todos los beneficios de la IA agente.
Para abordar estas limitaciones, Google tiene varias recomendaciones para organizaciones limitadas por una infraestructura heredada.
La ventaja de Fluid Compute es “reducir los gastos operativos al hacer coincidir dinámicamente el silicio correcto con la tarea correcta”, la primera recomendación de Google, proporcionando potencia de cálculo para tareas de IA agente sin reducir la capacidad de las cargas de trabajo típicas, evitando la necesidad de usar memoria adicional para ejecutar cargas de trabajo agente que utilizan grandes ventanas de contexto.
Para los agentes en conflicto causados por la cascada de nuevas tareas entre plataformas y equipos, Google recomienda utilizar herramientas de gobernanza de nivel empresarial, que normalmente ya utilizan los socios comerciales de la nube. Google ofrece su propia plataforma, Agent Gateway, como ejemplo de una solución que brinda visibilidad y supervisión de cómo se comunican los agentes, los datos a los que acceden y sus cargas de trabajo.
Organizar los datos de manera más eficiente evita que los agentes de IA realicen cálculos excesivos cuando ejecutan consultas pesadas en un intento de acceder a datos aislados. Las organizaciones que buscan mejorar la eficacia de la IA agencial deberían trabajar para utilizar una capa de datos unificada que anote automáticamente los datos no estructurados, permitiendo a los agentes entender dónde están los datos sin tener que navegar por los canales. Un beneficio adicional de utilizar una capa de datos unificada es que ayuda a evitar la duplicación de datos, lo que ahorra costos adicionales de almacenamiento excesivo a largo plazo.
Llevar su IA al borde (implementando agentes directamente en los sitios donde más se utilizan) es otra recomendación que las organizaciones están siguiendo activamente. El 90% de las organizaciones encuestadas por Google dijeron que esto era una consideración en sus iniciativas de IA. Al implementar agentes en el sitio en plantas de fabricación, tiendas minoristas u hospitales, los agentes se benefician de una menor latencia, una mayor resiliencia (en caso de una interrupción centralizada de la nube) y una mayor rentabilidad con un modelo local altamente optimizado que reduce los costos por token.
Como ocurre con las empresas de todos los tamaños, los costos de energía son una consideración clave. Al seleccionar nuevo hardware, el 91% de los líderes ahora consideran el consumo de energía como un factor, especialmente cuando se navega por la disponibilidad de energía en regiones sin ampliar la capacidad, el cumplimiento normativo y reducir el costo de propiedad de los sistemas de IA.
Siga TechRadar en Google News Y Agréguenos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
