Es posible que se haya retrasado el plazo para el cumplimiento de la IA de alto riesgo según la legislación de la UE sobre IA. Y para los equipos de cumplimiento sobrecargados, esto puede parecer un alivio bienvenido. Pero las empresas que prosperan en la era de la IA entienden que un plazo arbitrario no era realmente el punto.
CEO y fundador de Solidus.
La carrera por implementar la IA ya está en pleno apogeo.
Modelos como Claude Mythos y GPT-5.5 de OpenAI, denominado “Spud”, representan un tremendo salto en capacidad. En las manos adecuadas, aceleran las decisiones, sacan a la luz conocimientos y crean una ventaja competitiva real. En las manos equivocadas, o sin una supervisión adecuada de los datos que los alimentan, las consecuencias pueden ser desastrosas.
Como descubrió recientemente Pocket OS cuando un agente de inteligencia artificial eliminó toda la base de datos de la empresa en nueve segundos.
Lo que realmente afirma la Ley de IA de la UE
Cuando se elimina el lenguaje regulatorio, lo que realmente pide la Ley de IA de la UE es demostrabilidad. El artículo 10 estipula que los sistemas de inteligencia artificial de alto riesgo, como los utilizados en la calificación crediticia, la suscripción de seguros, las decisiones laborales y aplicaciones resultantes similares, deben basarse en datos de capacitación que sean rastreables, bien gobernados y demostrablemente libres de sesgos.
Las organizaciones deben documentar las fuentes de datos, cada transformación aplicada, los supuestos realizados y cómo se identificaron y resolvieron los posibles sesgos.
Este no es un ejercicio de marcar casillas. Es un replanteamiento fundamental de cómo las organizaciones gestionan sus conjuntos de datos. Y las multas por hacerlo mal son elevadas: hasta 35 millones de euros o el 7% de los ingresos anuales globales.
El problema subyacente es que la mayoría de las infraestructuras de datos empresariales no están diseñadas teniendo en cuenta este nivel de trazabilidad. El RGPD ha puesto vallas en torno al almacenamiento y el acceso a datos, pero la Ley de IA eleva el listón considerablemente.
Ahora necesita rastrear los datos desde su fuente original a través de cada transformación, hasta su efecto final en los resultados del modelo. Como anécdota, la validación de un modelo de IA puede llevar entre nueve y 12 meses, y eso supone que, para empezar, se cuenta con una infraestructura de pedigrí.
Los servicios financieros son esenciales
En ningún otro lugar esto tiene mayores consecuencias que en los servicios financieros. Los modelos de calificación crediticia entrenados con datos históricos pueden codificar sesgos pasados, escalando automáticamente las disparidades financieras, a menudo sin que nadie en la organización se dé cuenta de lo que está sucediendo. Un banco que no puede rastrear cómo un conjunto de datos de entrenamiento da forma al resultado de un modelo no sólo está expuesto al riesgo regulatorio. Esto potencialmente perpetúa el daño sistémico.
Irónicamente, este sector ya ha estado aquí antes. BCBS 239 ya exige que las instituciones financieras demuestren la precisión, integridad y capacidad de los datos para agregar datos de riesgo a pedido. La Ley de IA no es una nueva categoría de desafío, es una intensidad para la cual ya se crearon líneas de datos concretos para abordar.
Linaje de datos como infraestructura, no como gastos generales de cumplimiento
Las organizaciones mejor posicionadas en este momento son aquellas que dejan de pensar en el linaje de datos como un costo de cumplimiento y comienzan a tratarlo como una infraestructura central. Hay una diferencia importante entre estos dos puntos de vista.
Ahora la atención debe centrarse en un modelo de gobernanza que detecte los problemas durante el diseño, antes de que un modelo llegue a producción, no durante la respuesta a un incidente. Pedigree hace que este tipo de gobierno proactivo sea práctico a escala empresarial.
El descenso bitemporal permite a los equipos recrear el estado exacto de los datos utilizados para el entrenamiento del modelo en cualquier momento, lo cual es esencial para fines de auditoría. Más importante aún, permite a los equipos simular su impacto posterior antes de que cambien los datos o el esquema, evitando la degradación silenciosa del modelo que puede reducir silenciosamente el ROI.
La ventana es más pequeña de lo que parece.
Las prórrogas de tiempo ofrecen tiempo, pero no tanto como parece. Los reguladores estadounidenses ya están integrando la IA en las pruebas de supervisión. Gartner predice que para 2028, el 50% de las organizaciones adoptarán un gobierno de datos de confianza cero a medida que el contenido generado por IA penetre en la cadena de suministro de datos empresariales. Las normas de viaje son claras y coherentes.
Para que la gobernanza de la IA sea correcta, primero se debe crear el nivel de clan. Este no es un proyecto que sucede en una semana. Y las empresas que comiencen a construir ahora, no para imponer una fecha límite, sino para comprender lo que está en juego, serán las que implementarán la IA con confianza, auditabilidad y confianza real.
La Ley de IA de la UE acaba de recibir una moratoria en su aplicación, pero las empresas que la tratan como un respiro podrían estar caminando sonámbulas hacia problemas mayores.
Hemos presentado las mejores herramientas de IA.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
