En los últimos años, la mayoría de las conversaciones sobre infraestructura de IA han girado en torno a la escala masiva del entrenamiento en IA.
Las fábricas de entrenamiento de IA que las principales empresas de IA están construyendo para construir modelos de vanguardia y liderar la carrera de la IA son nada menos que impresionantes: decenas de miles de GPU, consumo de energía comparable al de una ciudad mediana y decenas de miles de petabits por segundo para escalar el entrenamiento en múltiples campus.
Pero, a medida que la adopción de la IA se acelera y sus aplicaciones se expanden, un desafío de infraestructura más grande se convertirá en el centro de atención. Nuevas presiones reales y sostenibles sobre las redes provienen del lado de la demanda de la IA: la inferencia.
La conjetura es cada vez que alguien hace una pregunta a un chatbot, coloca un archivo en una herramienta de productividad para su análisis o confía en un resumen generado por IA en su bandeja de entrada o en los resultados de búsqueda. Por consulta, el tráfico generado es liviano, no comparable a una ejecución de capacitación masiva.
Ahora multiplique eso por la cantidad de personas que interactúan con la IA en todo el mundo (y considere que cada vez se trata de videos, imágenes y archivos de soporte) y podrá ver dónde está surgiendo el próximo gran impulsor de la demanda de red.
Según las proyecciones, la curva de crecimiento es más pronunciada, global y ampliamente distribuida, y ahora está remodelando la forma en que se diseña la conectividad de los centros de datos y el ecosistema de red más amplio que conecta regiones de nube, áreas metropolitanas y continentes.
Suponer punto de inflexión
Más poderoso que cualquier tecnología es que los usuarios adopten activamente la IA es el efecto compuesto de las funciones de IA que se inyectan en plataformas que ya prestan servicios a miles de millones.
Basta con echar un vistazo a su ecosistema tecnológico y no hay duda de que ahora tiene su motor de búsqueda, correo electrónico, software de oficina, mapas, redes sociales y capacidades de inteligencia artificial integradas en su teléfono inteligente. La IA integrada en estos productos garantiza un acceso instantáneo y global y un uso abrumador e inevitable.
El resultado es un aumento asombroso en el volumen estimado. Tomemos como ejemplo a Google, que informó un aumento interanual de 50 veces en la cantidad de tokens de IA procesados mensualmente a principios de 2025… y luego lo duplicó nuevamente solo dos meses después y continúa creciendo a un ritmo impresionante, como se ve en el aumento de tokens intertrimestral del 60 por ciento anunciado en abril de 2026.
La eficiencia a nivel de hardware y algorítmico ayuda a reducir la demanda de recursos adicionales, pero no tanto. Ofrecer este mayor volumen de inferencia requiere una implementación acelerada de nueva capacidad de GPU y un número cada vez mayor de centros de datos de inferencia distribuidos en más geografías.
La suposición de que la primera causa de la distribución geográfica no es sólo una historia de cálculo sino, en esencia, una historia de creación de redes.
Del texto al vídeo: implicaciones para los modelos multimodales en redes
Hasta hace poco, la contribución de la IA al tráfico general de Internet ha sido limitada. Un mensaje de texto y una respuesta de texto equivalen a unos pocos kilobytes, insignificante al lado de un minuto de transmisión de video.
Eso está cambiando rápidamente.
Los modelos multimodales analizan y generan imágenes, audio, vídeo y contenido 3D. Un usuario que carga un videoclip corto en HD para analizarlo o editarlo envía varios megabytes por segundo en sentido ascendente.
Los investigadores, estudiantes y personal están incorporando cada vez más colecciones de documentos a modelos para resumir los hallazgos clave y producir informes detallados. Los análisis de video basados en la nube que procesan las transmisiones de las cámaras para brindar información y alertas están encontrando su camino hacia modelos de negocios viables.
Multiplique esas interacciones por decenas de millones a miles de millones de usuarios y el supuesto tráfico se convierte en un importante impulsor del flujo de tráfico masivo y distribuido.
El modelo lógico añade una segunda tensión. En lugar de crear una respuesta inmediata, dividen los problemas en múltiples pasos internos, a menudo respaldando información en tiempo real. Una única respuesta visible para el usuario puede ubicarse encima de docenas de recuperaciones en segundo plano, enviando megabytes de datos entre modelos, sistemas de almacenamiento y fuentes externas, muchos de los cuales cruzan los límites del centro de datos.
Y una mayor presión sobre la red proviene de la ampliación de la ventana de contexto. Los modelos de Frontier ahora pueden aceptar muchas indicaciones: pensar en conjuntos completos de documentos, historiales de conversaciones, bases de conocimiento recuperadas y más. La generación de recuperación aumentada se ha convertido en una técnica ampliamente aceptada para muchas aplicaciones empresariales de IA e implica inyectar conocimiento relevante en cada solicitud del modelo de consulta.
En total, estas tendencias significan que la estimación ya no es una carga de trabajo liviana desde la perspectiva de la red. Se está convirtiendo en un impulsor dominante del crecimiento del tráfico tanto en los centros de datos como en los usuarios y la infraestructura de IA.
Cómo cambiar el enfoque DCI
Los modelos de IA ahora están distribuidos en todas las regiones, y las señales de uso y la retroalimentación del aprendizaje por refuerzo deben fluir hacia la inteligencia centralizada.
Los flujos de trabajo de inferencia desagregados y de múltiples pasos están proliferando en sitios con capacidades cada vez más complementarias; Piense en uno para precarga centrado en procesamiento de alto contexto y gran contexto, y el otro para decodificación centrado en generación de tokens de baja latencia y eficiencia de memoria y caché.
Y los requisitos soberanos de IA están empujando cargas de trabajo hacia ciertas jurisdicciones, multiplicando la cantidad de instalaciones que deben estar unidas con alta capacidad y confiabilidad.
Suposiciones comunes Los enlaces DCI ya operan a múltiples terabits por segundo por ruta. Cada uno de ellos está aumentando en capacidad y en número de rutas, impulsado por topologías de interconexión más resistentes y diversas y junto con el volumen y la distribución geográfica de los centros de datos de IA emergentes basados en hipótesis.
Los supuestos interconectados son sólo un lado de la ecuación del centro de datos. El otro implica conectar usuarios, agentes, cosas y organizaciones para ejecutar sus cargas de trabajo proyectadas a través de esta infraestructura mallada.
Las vías de acceso a la multinube están evolucionando para permitir el movimiento de grandes conjuntos de datos empresariales a través de plataformas de IA. Cargar videos para su análisis en la nube de IA requerirá un acceso de banda ancha más simétrico y soporte para una gama más amplia de cámaras para una agregación escalable. Todo el ecosistema de networking debe adaptarse.
Entonces, ¿cómo pueden los operadores de redes mantenerse al día con la demanda y los proveedores de servicios aprovechar esta tendencia?
Conectando los puntos – o tokens
Los operadores de redes ya están respondiendo con planes centrados en la escalabilidad, la flexibilidad, la eficiencia y la seguridad. Para maximizar la capacidad de cada par de fibras (un recurso que nunca ha sido más valioso y buscado) están adoptando plataformas y sistemas ópticos coherentes capaces de 1,6 Tb/s por longitud de onda.
Lumen Technologies, por ejemplo, es uno de esos proveedores de redes que está construyendo para el mañana. Está ampliando su red a una velocidad increíble y para ello está utilizando un transceptor coherente de 1,6 Tb/s de gran ancho de banda.
Además, la naturaleza variable y variada de los patrones de tráfico anticipados hace que las redes estáticas no sean ideales. Por lo tanto, muchos operadores están recurriendo al control de redes multicapa asistido por IA para cambiar la capacidad y optimizar el rendimiento casi en tiempo real.
Una vez más, Lumen es un excelente ejemplo de esto; Al utilizar un rico conjunto de controles, el proveedor obtiene una visibilidad integral y maximiza la utilización y el rendimiento de sus recursos de fibra desde un único punto de control.
Y para colmo, dado que el tráfico estimado a menudo incluye datos confidenciales, los operadores de red están incorporando cifrado en la capa óptica a cualquier nueva implementación de DCI.
Las cargas de trabajo de inferencia están evolucionando más rápido de lo que cualquier modelo de predicción puede seguir. Las redes mejor posicionadas para los próximos cinco años están diseñadas para escalar en capacidad, alcance e inteligencia sin requerir actualizaciones importantes cada vez que aumentan las cargas de trabajo.
La formación definió la primera ola de construcción de infraestructura de IA. La inferencia está adoptando su segunda forma: una forma mucho más compleja y distribuida globalmente que transformará el panorama de las redes.
Utilice el mejor almacenamiento en la nube empresarial para administrar sus datos.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
