- Las PC con IA están surgiendo como una opción viable para ejecutar IA nativa sin costos inesperados.
- Los costos únicos de PC reducen la necesidad de desembolsar tarifas de tokens en la nube
- Una extensa investigación reafirma la creciente popularidad de los modelos pequeños
Los nuevos datos de Gartner afirman que ahora puede ser un buen momento para comprar PC con IA, ya que la computación en la nube enfrenta numerosos desafíos en el mundo empresarial que cambia rápidamente.
La demanda de construcción de centros de datos está rezagada a medida que las tensiones en la cadena de suministro y las comunidades locales se oponen a nuevos proyectos, lo que significa que la informática medida podría costar más de lo previsto para algunas empresas.
Al trasladar parte de su procesamiento de IA a nivel local, las empresas pueden evitar algunos de esos costos mensuales adicionales al realizar una compra única de una PC más potente como parte de su ciclo de actualización regular.
AI PC representa un modelo de computación híbrido ideal
Si bien la adopción de PC con IA comenzó con bastante lentitud y las empresas lucharon por comprender los beneficios, ahora se las considera una opción alternativa en la nube en lugar de un beneficio principal por derecho propio.
Dado que el uso de la IA es cada vez más intenso y los costos de los tokens impredecibles afectan duramente a las empresas, predecir los costos mensuales es el nuevo gran desafío al que se enfrentan muchos.
Los modelos lógicos y de lenguaje pequeño con modelos entrenados específicamente para casos de uso empresarial individuales, en última instancia, requieren menos recursos que los modelos de vanguardia líderes, lo que les permite ejecutarse de forma nativa como parte de un enfoque híbrido más amplio.
Gartner predice que la voz y el chat, la generación de texto, la generación de imágenes y audio, y más, pronto podrán migrar a las PC de los trabajadores, y sólo las tareas más intensivas se manejarán a través de centros de datos de hiperescala.
Para 2029, los investigadores de la compañía estiman que casi un tercio (30%) de las nubes empresariales podrían usar PC con IA para reducir el consumo de tokens de IA. Para 2030, el 70% de las PC corporativas podrán ejecutar algunas tareas GenAI localmente.
Los investigadores de Omdia han notado un cambio en el uso de modelos de IA, y los modelos pequeños y medianos resultan populares para tareas de dominios específicos que no requieren toda la amplitud de cálculo.
“Las GPU más antiguas mantienen su valor y permanecen en servicio, ya que continúan ofreciendo una opción rentable para la estimación y diferenciación de modelos pequeños y medianos”, afirmó Alexander Harwell, analista principal senior de Advanced Computing.
a través de Registro
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.