Aunque la inteligencia artificial (IA) sigue dominando la conversación empresarial, su adopción generalizada aún está lejos.
De hecho, sólo un tercio de los profesionales dice que los programas de IA se están ampliando en sus organizaciones.
Muchas empresas dudan en ir más allá de los proyectos piloto, siendo la falta de confianza una barrera importante.
Las preocupaciones sobre la confiabilidad, la protección de datos, la seguridad de TI, la imparcialidad y el potencial de abuso también continúan frenando la adopción.
Para cerrar esta brecha, las empresas deben comprender qué hay detrás, cómo cerrarla y cómo garantizar que estos procesos se escalen en toda la empresa.
¿Qué hay detrás de la brecha de confianza?
La falta de confianza en los sistemas de IA frena a las organizaciones. Solo el 57% de los equipos de datos e inteligencia artificial confían plenamente en los resultados de los sistemas de inteligencia artificial, y esa cifra se reduce a solo un tercio entre los gerentes de productos y desarrolladores de software. Esto apunta a una mayor falta de confianza a medida que la IA se integra cada vez más en las operaciones cotidianas.
Los temores de los desarrolladores se basan en varios factores. Las alucinaciones, cuando los modelos de IA generan información que parece creíble pero en realidad es falsa, significan que los empleados están preocupados por su confiabilidad en casos de uso sensibles o de alto riesgo.
Del mismo modo, la ciberseguridad, la seguridad de los datos ingresados en los sistemas de IA, el riesgo de fuga a terceros, la posibilidad de que los atacantes comprometan los entornos de IA, el cumplimiento de los estándares éticos y si los sesgos en los sistemas pueden cambiar con el tiempo durante el aprendizaje durante las operaciones en vivo están contribuyendo a la desconfianza de los empleados hacia los modelos de IA.
Generar confianza en la IA
A medida que las organizaciones buscan generar confianza en la IA, la gestión de la calidad se está convirtiendo en una prioridad mayor. De hecho, el 79% de los tomadores de decisiones en el lugar de trabajo ven un vínculo directo entre la confianza en la IA y los sistemas proactivos de garantía de calidad, como pruebas, monitoreo y supervisión periódicos.
La confianza solo se puede generar cuando tanto los sistemas de IA como los datos detrás de ellos están sujetos a un control de calidad exhaustivo que se aplica continuamente, no solo como una prueba única antes de su implementación.
Una base sólida comienza con la calidad de los datos. Las organizaciones necesitan tener confianza en que la información que se envía a los sistemas de IA es completa, actualizada y precisa. Los resultados de la IA son tan confiables como sus entradas, por lo que la información defectuosa o incompleta conducirá inevitablemente a malos resultados. Una gobernanza de datos sólida es esencial para garantizar que las decisiones impulsadas por la IA se mantengan en el mundo real.
La gestión de la calidad debe cubrir la seguridad, el cumplimiento y el control de acceso. Las organizaciones necesitan salvaguardas para garantizar que la información no se filtre desde los sistemas internos a terceros y que la IA cumpla con requisitos reglamentarios como la Ley de IA de la UE y el RGPD.
Una rendición de cuentas clara es igualmente importante para proteger las empresas sensibles. Por ejemplo, las organizaciones deben garantizar que solo el personal autorizado de RR.HH. pueda acceder a los registros de recursos humanos, con controles establecidos para monitorear y administrar cómo se utilizan esos datos dentro del entorno de IA.
Al mismo tiempo, la confianza no se trata sólo de reducción de riesgos. Las organizaciones quieren garantizar que las inversiones en IA ofrezcan un valor mensurable, y más de la mitad de las organizaciones citan como máxima prioridad mejorar el retorno de la inversión (ROI) de la implementación de IA. Demuestra que la confiabilidad y el rendimiento son tan importantes como la seguridad y la gobernanza.
Por qué la gestión de la calidad todavía tiene dificultades para escalar
Para muchas empresas, el desafío ya no es si utilizar o no la IA, sino cómo operarla de manera confiable a escala. Esto está resultando difícil ya que los procesos de gestión de calidad todavía dependen en gran medida de la supervisión manual.
La gestión de la calidad debe extenderse a todo el ciclo de vida de la IA, desde el diseño y la capacitación del modelo hasta el monitoreo continuo en las pruebas y la producción.
Sin embargo, entre las organizaciones que realizan pruebas periódicas, solo entre el 15 % y el 29 % han implementado procesos automatizados de garantía de calidad en cualquier etapa del desarrollo de la IA. Esto significa que los controles de calidad a menudo se realizan total o parcialmente manualmente, lo que los hace lentos, costosos y propensos a errores humanos.
En última instancia, esto limita la adopción generalizada de la IA. Las implementaciones a gran escala son difíciles de lograr cuando la garantía de calidad depende en gran medida del esfuerzo manual, ya que la ampliación requeriría un aumento significativo de personal.
Si bien muchas organizaciones están tratando de gestionar la adopción de la IA sin una gobernanza clara, la mitad todavía carece de una estrategia de gobernanza de la IA en toda la empresa. Esto a menudo se ve agravado por una falta de experiencia y una comprensión limitada de cómo los sistemas de IA llegan a sus resultados. Al mismo tiempo, la presión para implementar rápidamente la IA puede desviar recursos de las pruebas, el seguimiento y la supervisión.
Las consecuencias de una gestión de calidad inadecuada se sienten rápidamente, especialmente cuando los sistemas de inteligencia artificial interactúan directamente con los clientes. Más allá del riesgo de multas regulatorias, las organizaciones a menudo enfrentan clientes descontentos, oportunidades comerciales perdidas y pérdida de productividad cuando los resultados generados por la IA generan más trabajo que ganancias de eficiencia.
Un fuerte enfoque en la calidad vale la pena
Mientras los problemas de confiabilidad, seguridad y gobernanza sigan sin resolverse, las empresas tendrán dificultades para implementar exitosamente la IA a gran escala. En consonancia con esto, tres cuartas partes de los tomadores de decisiones creen que una garantía de calidad de la IA más eficaz hará que sus organizaciones experimenten un impacto significativo o transformador en la confianza de los usuarios.
Las empresas deben elevar la IA a un nuevo nivel de confianza mediante una combinación de conjuntos de herramientas adecuados, estructuras de gobernanza sólidas, eficiencias de procesos y conocimientos técnicos. Sólo integrando estos cimientos podrán las organizaciones implementar la IA de manera rentable y sostenible a largo plazo, al tiempo que generan la confianza necesaria para adoptarla de manera responsable.
Hemos revisado y clasificado el mejor software para pequeñas empresas..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
