Para los líderes tecnológicos empresariales, el debate actual sobre las normas europeas de IA puede parecer engañosamente simple. Si los reguladores retrasan algunos requisitos de IA de alto riesgo o suavizan partes de la carga de cumplimiento, puede parecer que la implementación debería ser más fácil, con niveles de presentación de informes más bajos y menos barreras entre la prueba de concepto y la producción.
Sin embargo, no es tan sencillo.
La solución llevó a UnlicliAI.
Si bien la visibilidad del uso de IA de alto riesgo se debilita o se ralentiza, el riesgo no desaparece. Se mueve hacia abajo, hacia las empresas que realmente implementan los sistemas.
La directiva de Bruselas sobre su implementación deja esto particularmente claro: la flexibilidad regulatoria sobre el papel no se traduce en una reducción de la rendición de cuentas en la práctica. Las empresas siguen siendo responsables de lo que hace su IA
Esto es importante porque la mayoría de las organizaciones no implementan herramientas de IA de forma aislada. Lo están utilizando en comunicaciones con clientes, flujos de trabajo operativos, controles de cumplimiento, manejo de documentos, procesos de reclamos y soporte de decisiones internas, donde los resultados tienen consecuencias reales y donde “el modelo es incorrecto” no es una respuesta reservada.
Las juntas directivas, los equipos de riesgo y los propietarios operativos seguirán necesitando respuestas a las mismas preguntas básicas: ¿por qué el sistema produjo este resultado, qué dio forma a esa decisión, qué sucede cuando es incierto y se puede revisar su lógica después del hecho?
La carga está pasando del papeleo de cumplimiento a la evidencia operativa
La vieja idea era que la regulación indicaría a las empresas cómo era una “IA responsable”. En realidad, muchos líderes tecnológicos están descubriendo que el cumplimiento es sólo una parte del problema. El difícil desafío es demostrar que un sistema de inteligencia artificial es lo suficientemente confiable como para usarse en flujos de trabajo donde los errores tienen consecuencias graves.
La mayor parte de la IA implementada en entornos empresariales ahora se basa en grandes modelos de lenguaje (LLM). Estos sistemas son poderosos, pero son probabilísticos por diseño: generan el siguiente resultado basándose en patrones en los datos en lugar de razonar un problema de una manera transparente y sujeta a reglas.
Esto los hace útiles para redactar, resumir y gestionar la ambigüedad, pero mucho menos adecuados para flujos de trabajo donde las decisiones deben ser coherentes, rastreables y fáciles de justificar a posteriori.
Esta es la razón por la que el ser humano en el circuito es a menudo una defensa más débil de lo que parece a primera vista. Si simplemente se le pide al revisor humano que verifique un resultado de un modelo de caja negra, que no puede explicar cómo llegó a su respuesta, entonces la organización no ha resuelto el problema de la confianza.
Esto insertó un respaldo manual en un proceso que no era de confianza. Esto puede reducir la exposición legal en el corto plazo, pero no mejora la productividad, la rendición de cuentas o la confianza. También escala mal, ya que la supervisión humana de cada salida de IA anula el propósito de la automatización.
En la práctica, esto significa que los CIO, CTO y líderes de gobernanza de IA deben pensar menos en si un modelo se ve impresionante en las demostraciones y más en si puede sobrevivir al escrutinio en producción.
¿Qué deberían priorizar los compradores empresariales?
Hay cuatro preguntas que abordar en cualquier decisión de recopilación o implementación, y las respuestas apuntan a una arquitectura emergente que combina razonamiento probabilístico y determinista: lo que los profesionales llaman IA neurosimbólica.
Primero, ¿puede el sistema explicar cómo llegó a una respuesta de manera que un revisor no experto pueda seguirla? No se limite a hacer un resumen razonable, sino que exprese la lógica, las reglas o las limitaciones que dan forma a los resultados.
En segundo lugar, ¿sabe cuándo no responder? En entornos de alto riesgo, un sistema de IA útil no siempre responde con fluidez. Es aquel que reconoce la ambigüedad, difiere, aumenta o dice “no sé” cuando la confianza es demasiado baja. Un LLM rara vez hará esto porque está optimizado para responder, incluso cuando no sabe la respuesta.
En tercer lugar, ¿se puede realizar una auditoría a posteriori? Si un regulador, cliente o revisor interno pregunta por qué se tomó una decisión, las partes necesitan más que una puntuación de confianza y una simple exención de responsabilidad. Necesitan un rastro.
Cuarto, ¿qué problema es adecuado para resolver con la arquitectura? Aquí es donde la IA neurosimbólica adquiere directamente relevancia. Sistemas neuronales – LLM – Fuerte en reconocimiento de patrones y flexibilidad del lenguaje. Los sistemas simbólicos son fuertes en reglas, restricciones, consistencia y auditabilidad.
Cuando una hoja de cálculo calcula el resultado de una fórmula, nadie vuelve a comprobar si alucinó una respuesta alternativa. Requiere iniciativas ideales de la IA en flujos de trabajo controlados.
La IA neurosimbólica combina ambos, utilizando capacidades neuronales para interpretar el lenguaje y extraer información, mientras aplica la lógica simbólica para determinar e interpretar los resultados. Empresas como Lloyds Banking Group ya están operando estos sistemas en un entorno regulado.
El verdadero riesgo empresarial es la producción opaca, no el control.
Durante años, la industria consideró la transparencia como algo que se podía agregar una vez que el sistema ya estaba implementado, a través de divulgaciones, alertas o paneles de control de cumplimiento. La realidad de las implementaciones empresariales está exponiendo los límites de ese enfoque. Si un sistema es opaco por diseño, ninguna cantidad de papeleo lo hará verdaderamente creíble.
Por eso el debate actual en Europa es importante para los líderes tecnológicos empresariales. Incluso si los formuladores de políticas conceden más tiempo o reducen algunos requisitos formales, la responsabilidad inherente no desaparece.
Las empresas que pasen más eficazmente del piloto a la producción no adoptarán la visión más permisiva en materia de cumplimiento. Elegirán arquitecturas, controles y modelos operativos que puedan resistir el escrutinio desde el principio.
Si las obligaciones de transparencia son débiles, las empresas no eluden su responsabilidad, sino que la absorben. La pregunta es si los sistemas que implementan pueden resistir ese escrutinio.
Hemos presentado los mejores chatbots de IA para empresas.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
