La IA generativa ha pasado rápidamente de la experimentación al uso temprano en la producción en muchas empresas. Sin embargo, pocas personas pueden predecir con seguridad lo que van a gastar en seis meses.
Para una tecnología que ha consumido tanta atención y capital a nivel de la junta directiva, eso refleja una falta de certeza que pocos líderes tecnológicos pueden reconocer personalmente como cierta para sus propias organizaciones.
El costo es real y la dirección es clara, pero la cifra al final del año puede seguir siendo verdaderamente incierta.
Miembro de la Junta Directiva de la Fundación FinOps y se desempeña como vicepresidente senior de nube y FinOps de Flexera.
Captando un rayo de confianza en la carrera de infraestructura, el CEO de Amazon indicó que espera gastar mucho en infraestructura de TI para respaldar la IA, un estimado de 200 mil millones de dólares en gasto de capital en IA, argumentando que “no será conservador” en la forma en que invierte en la tecnología.
En realidad, lo que distingue a la IA de la inversión en infraestructura anterior no es la escala del compromiso sino la naturaleza del gasto.
La computación en la nube también era impredecible cuando llegó, pero eventualmente se estableció en patrones que los equipos financieros pudieron aprender a modelar. La IA aún no está resuelta de la misma manera y muchos factores dependen de cómo se utilice.
Gran parte del uso de la IA empresarial sigue siendo exploratorio, lo que en parte dificulta la previsión. Y a diferencia de la nube, que estuvo confinada a los equipos técnicos durante años antes de extenderse, la IA se está moviendo entre las organizaciones casi de inmediato. Cambia todo acerca de cómo intentas gestionarlo.
Límites a la visibilidad financiera
A primera vista, algunas formas de IA parecen haber carecido de infraestructura previa: datos limpios, granulares, en tiempo real y su costo. Pero en el panorama en rápido crecimiento de proveedores de tecnología que utilizan la IA de alguna manera, muchos no lo hacen.
En algunos casos, la fijación de precios basada en tokens es precisa de una manera que la facturación temprana en la nube nunca lo fue, y para los equipos financieros acostumbrados a hacer mucho menos, puede parecer un paso en la dirección correcta para resolver el problema de visibilidad.
Desafortunadamente, todavía tenemos un largo camino por recorrer, ya que comprender lo que se gastó el mes pasado dice muy poco sobre lo que se gastará el próximo trimestre, especialmente una vez que se supera a los equipos de adopción que esencialmente dan forma al caso de negocio.
Hay que tener en cuenta que los equipos de operaciones legales, de recursos humanos y de clientes no están pensando en la economía de tokens (tokenmix). Sólo les preocupa si la herramienta funciona.
La exposición a los costos no se crea por una sola decisión, sino por docenas de pequeñas expansiones, cada factor aislado, ninguno de los cuales se refleja en un pronóstico integral. Cuando alguien une los puntos, la curva de demanda ya se ha desplazado.
Ampliar las disciplinas existentes
Las empresas que están haciendo un mejor trabajo en la gestión del gasto en IA tienen una larga experiencia en la gestión de tecnologías basadas en el uso. Por ejemplo, los equipos de gestión de activos de TI (ITAM) suelen tener más experiencia trabajando con construcciones más estáticas, como usuarios o puestos, lo que hace que la naturaleza basada en el uso de la IA sea más desafiante.
Los equipos de FinOps, por otro lado, tienen una sólida experiencia en la gestión del consumo procedente de nubes públicas. Por lo tanto, los equipos de FinOps pueden estar mejor posicionados para hacer frente al nuevo tsunami de costos y gastos de la IA, garantizando que la adopción se gestione a medida que crece.
FinOps está ampliando su alcance más allá de sus raíces iniciales en la nube pública, y la gestión de costos de la IA ahora se encuentra firmemente dentro de esa competencia para muchos, lo que refleja un cambio en la forma en que la Fundación FinOps está incorporando cada vez más la IA en su dirección. Parte de esa expansión consiste en pronosticar una demanda que se comporta de manera diferente a las cargas de trabajo convencionales.
También existe un creciente interés en saber si la propia IA puede respaldar las prácticas de FinOps, en particular la detección de anomalías, la optimización y, con el tiempo, la previsión, a medida que los patrones de gasto se vuelven más difíciles de modelar.
El desafío es implementar prácticas FinOps con la suficiente antelación para que la gobernanza dé forma a cómo escala la IA, sin tener que luchar por recuperar el control una vez que los costos ya hayan superado la supervisión.
La complejidad del entorno heredado
Para las organizaciones cuyos patrimonios tecnológicos se construyeron en torno al cumplimiento, extender la gobernanza a la IA es más difícil de lo que parece.
Las empresas que priorizan la IA diseñan teniendo en cuenta los costos desde el principio, haciendo suposiciones como lo harían con cualquier otro insumo de producto, dando forma a las decisiones de arquitectura antes de que se comprometan las limitaciones económicas.
Adaptar la IA a la infraestructura heredada significa algo diferente. Los compromisos comerciales y los modelos operativos existentes no se adaptan rápidamente a un modelo de consumo que es inherentemente variable, y esa fricción tiene un impacto directo en el consumo.
A menudo, la dificultad es que la IA se está introduciendo en un entorno construido en torno a suposiciones muy diferentes sobre cómo se comporta la demanda, y eso es parte de lo que dificulta la previsión.
El desafío no es sólo el gasto nuevo, sino el aumento del gasto en un entorno donde la supervisión y la regulación ya son difíciles de mantener.
Las organizaciones que navegan por esto tienden a realizar pruebas controladas antes de implementaciones más amplias y son intencionales sobre cómo se propaga la adopción. En la práctica, se trata a menudo de una adopción temprana no gestionada, antes de que los patrones de uso, los costos y las dependencias se vuelvan difíciles de desentrañar.
La misma exposición va cada vez más allá de la gobernanza interna. A medida que la IA aparece con más frecuencia en las conversaciones sobre adquisiciones de los clientes, las cuestiones que alguna vez fueron principalmente internas están comenzando a investigarse también externamente.
Para las organizaciones cuyos sistemas de gobernanza no son dinámicos, estas preguntas pueden imponer un nivel de claridad que quizás aún no estén preparadas para brindar.
Resultados empresariales a partir de métricas de actividad
Más allá de la gobernanza y la contención de costos, queda una pregunta difícil: si las inversiones en IA están creando un valor comercial significativo. La mayoría de los equipos de liderazgo aún no están en condiciones de responder con confianza y las métricas que actualmente llegan a la junta directiva no lo ponen fácil.
Describe la actividad sin explicar el uso de modelos, volúmenes estimados y precios calculados. Es fácil crear una actualización convincente del tablero a partir de datos de costos, independientemente de si alguno de ellos está moviendo el negocio.
Lo que más se acerca a la respuesta es si los supuestos individuales están generando algo que valga la pena para un cliente o algo que reduzca significativamente el costo o el riesgo.
Producir resultados empresariales incrementales por libra o dólar gastado en IA es una medida difícil, pero es importante para la economía porque requiere una posición clara de lo que la IA realmente ofrece.
Aquí es exactamente donde muchas organizaciones todavía encuentran la tarea más difícil de lo que parece, especialmente a medida que las implementaciones de IA van más allá de los modelos utilizados para comprender el costo y el valor.
A medida que los mercados se expanden, este desacoplamiento es aún más importante, porque cuando esas economías siguen siendo intangibles, pueden generarse exposiciones a costos que son difíciles de identificar inicialmente y difíciles de contener más adelante.
Para muchas empresas, el desafío que tienen por delante es escalar la IA, sin permitirle superar el valor que crea.
Mejor almacenamiento en la nube: probado, revisado y calificado por expertos.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
