La IA empresarial se enfrenta a un problema de confianza que los buenos modelos por sí solos no resolverán. Una vez que los sistemas de IA comienzan a manejar el código fuente, los registros de clientes, los documentos internos o la lógica empresarial controlada, ya no es cuestión de si el modelo está funcionando bien.
Los equipos de seguridad y los auditores quieren saber dónde se fueron las suposiciones, quién puede acceder a los datos mientras los usan y qué evidencia queda después del hecho.
Los datos confidenciales suelen ser más vulnerables cuando un sistema de inteligencia artificial los procesa activamente. Durante la estimación, las indicaciones y los contextos internos pueden pasar a través de la infraestructura más allá del control directo de una empresa. En entornos regulados o comercialmente sensibles, las promesas de confidencialidad rara vez satisfacen al equipo de revisión.
La atención sanitaria muestra el poco margen de error que hay. Un proveedor que trabaja para Catholic Health dejó abierta una base de datos durante seis semanas, lo que afectó a 483.000 pacientes y dio lugar a la demanda.
Desde entonces, el Departamento de Salud y Servicios Humanos ha propuesto cambios a las reglas de seguridad de HIPAA que reforzarían la protección de la información médica electrónica.
Finanzas muestra cuán rápido aumenta el escrutinio cuando la IA afecta los flujos de trabajo regulados. Las prioridades de examen de la SEC para 2026 dicen que los examinadores revisarán si las empresas tienen políticas y procedimientos adecuados para monitorear y supervisar su uso de la IA.
Los bancos también están restringiendo los agentes de codificación de IA a las máquinas de desarrollo porque esas herramientas pueden crear riesgos de TI en la sombra.
Estos ejemplos no muestran qué secretos soluciona la IA por sí sola. Muestran por qué las empresas exigen controles más estrictos en torno a suposiciones sensibles, especialmente cuando la IA toca datos controlados, códigos propietarios o sistemas internos.
Las empresas se hacen dos preguntas diferentes a la vez: si la salida de la IA es lo suficientemente segura para consumirla y si los datos confidenciales también estaban protegidos mientras se llevaba a cabo la inferencia. Las empresas ya saben cómo proteger los datos en reposo y en tránsito.
El estado débil es utilizar datos, cuando un modelo está procesando activamente indicaciones, código o contexto interno.
¿Qué cambios secretos de la IA?
Privacidad AI tiene como objetivo proteger los datos mientras se lleva a cabo ese procesamiento. En un flujo de trabajo en la nube estándar, esa fase puede depender de una infraestructura que el cliente no puede inspeccionar por completo.
Esta preocupación es más obvia cuando las empresas dependen de servicios de IA alojados por proveedores, pero el mismo principio se aplica a las implementaciones autohospedadas de hardware informático propietario.
Incluso dentro del propio entorno de una empresa, los supuestos sensibles pueden requerir protección contra exposición interna innecesaria, y los equipos de cumplimiento pueden necesitar evidencia que puedan mostrar a los auditores.
La informática secreta ha existido durante años, pero siguió siendo un control especializado cuando el cifrado se convirtió por primera vez en la norma para los datos almacenados y en tránsito. La IA en la nube, la infraestructura compartida y la colaboración regulada han impulsado el uso de datos al análisis empresarial convencional.
Esto hace que las estimaciones sean una de las partes del flujo de trabajo más difíciles de defender en una auditoría o revisión de proveedores.
El entorno de ejecución confiable, o TEE, es fundamental para ese modelo. Un TEE crea un tiempo de ejecución aislado de hardware para una carga de trabajo cuando se ejecuta. La información confidencial y el contexto interno residen dentro de ese entorno seguro con menos exposición a los sistemas circundantes.
Para las empresas que trabajan con código propietario o información controlada, proporciona una forma más segura de gestionar suposiciones confidenciales.
La protección por sí sola no es suficiente para los equipos de seguridad y cumplimiento. La certificación convierte el aislamiento en algo que pueden probar. Cuando una carga de trabajo se ejecuta en un TEE, los registros de certificación pueden proporcionar pruebas criptográficas de que utilizó el entorno seguro que se suponía debía utilizar.
Esto brinda a los equipos de compras, auditoría y regulación algo más sólido que el lenguaje de las políticas o las garantías de los proveedores.
En la práctica, la arquitectura puede adoptar muchas formas. Algunas plataformas empresariales separan el acceso al modelo de rutina de los supuestos de alta seguridad, de modo que los equipos pueden usar modelos estándar para el trabajo de desarrollo general y modelos habilitados para TEE para trabajos más sensibles.
Otros agregan autenticación criptográfica asociada con la ejecución del enclave y registros de seguridad y uso exportables. Estos controles son importantes porque los equipos de revisión pueden probarlos con respecto a políticas, requisitos de auditoría y estándares de riesgo de terceros.
La IA secreta también tiene límites y esos límites deben establecerse claramente. El control de acceso aún determina a qué puede acceder un agente. No elimina ningún permiso de agente y no protege el código inseguro. La revisión humana y la garantía del software aún determinan si el código generado es seguro para la producción.
La IA confidencial fortalece la capa operativa en torno a suposiciones sensibles y brinda a las empresas una manera clara de verificar cómo se manejaron esas suposiciones.
Por qué las implementaciones sensibles de IA se evalúan de manera diferente
Los compradores empresariales ya están haciendo la distinción entre IA de bajo riesgo e implementaciones sensibles. La comodidad sigue impulsando la adopción en los flujos de trabajo cotidianos, donde la velocidad y la facilidad de uso son primordiales. En entornos críticos para la seguridad, el estándar avanza hacia la prueba de aislamiento, autenticación y ejecución.
Los puntos de adquisiciones del gobierno están del mismo lado. En entornos de defensa, los sistemas de inteligencia artificial y los contratistas detrás de ellos ya enfrentan expectativas de gobernanza, auditoría y adquisiciones más estrictas.
Los datos muestran que el 62% de las organizaciones que siguieron CMMC 2.0 Nivel 2 carecían de los controles de gobernanza asociados con el éxito de la certificación, lo que ofrece una medida útil de qué tan alto está ya el listón. Cuestiones similares están empezando a dar forma a las compras empresariales en otros sectores sensibles.
El desarrollo de software se encuentra cerca del centro de ese cambio. Los contextos de desarrollo sensibles a menudo contienen lógica empresarial, decisiones arquitectónicas y detalles operativos que las empresas no pueden revelar casualmente.
A medida que los asistentes de codificación profundizan en el trabajo de producción, los equipos de revisión plantean preguntas más difíciles sobre el control, la visibilidad y la evidencia.
En los flujos de trabajo más sensibles, la IA sigilosa está empezando a actuar como puerta de aprobación. Las empresas que se encuentran bajo mayor presión quieren aislamiento del tiempo de ejecución, ejecución verificable y registros de seguimiento de auditoría. Estas demandas pueden determinar qué implementaciones de IA se permitirán.
Hemos presentado las mejores herramientas de IA.
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
