Casi a diario parecen surgir nuevos informes sobre implementaciones de IA en el mundo real, pero hay un mensaje claro que parece impregnarlos: la IA en la sombra es un gran problema.
El uso de herramientas no autorizadas o no autorizadas por parte de los empleados es común independientemente del tamaño, sector o geografía de la empresa, y a menudo se debe a una o dos razones: los empleadores están siendo demasiado prescriptivos con respecto a las herramientas de IA aprobadas y les dan a los empleados una ventana estrecha de herramientas inapropiadas para experimentar, o carecen por completo de una estrategia clara.
Estos informes ya han detallado los riesgos con gran profundidad, pero, en resumen, el uso de versiones de aplicaciones de IA para consumidores pone en riesgo datos sensibles y confidenciales del lugar de trabajo, ya sea a través de filtraciones o exfiltración secundaria a través de la capacitación de modelos. De ahí que las empresas inviertan en versiones de nivel empresarial con mayor seguridad.
Último vídeo deTecnologíaRadar
La IA en la sombra es un síntoma de un problema mayor
Con demasiada frecuencia, los empleadores ven la IA en la sombra como una enfermedad que afecta a su fuerza laboral. Algo que debería erradicarse con una formación más eficaz o consecuencias más estrictas por infringir las normas.
Pero la realidad es que la IA en la sombra es a menudo un síntoma de la cultura laboral de frontera, y son las razones que he comenzado a explorar cuando hablo con expertos de la industria y formuladores de políticas.
Canva promueve la importancia de la libertad de elección: el gigante australiano del software ofrece a sus empleados total autonomía sobre los modelos que quieren utilizar, dándoles tiempo para identificar las herramientas adecuadas en lugar de decidir las opciones adecuadas.
Las políticas solo funcionan cuando son accesibles
Comenzando con políticas inadecuadas e inapropiadas, Shana Simmons, directora legal de Zendesk, me explicó en una entrevista exclusiva que muchos de los contratos y políticas actuales son demasiado formales y específicos de un campo.
“Las políticas de IA a menudo fracasan porque están escritas para defensores, no para personas que se espera que las sigan”, esbozó, y agregó: “Si la gente no comprende las pautas, su comportamiento no cambiará”.
Simmons también explicó que las políticas se guardan a puerta cerrada en lugares de difícil acceso, como carpetas de recursos humanos que los empleados nunca revisan.
“Si una política está oculta en un manual o en un sitio web, no llegará a los trabajadores cuando la necesiten”, dijo, y agregó que las políticas deberían en realidad ser parte de la interfaz de usuario o, en otras palabras, donde los trabajadores ya están.
Canva nos advierte que “el error más común es tratar el entrenamiento en IA como un plan de estudios”, cuando en realidad debería verse como una actividad secundaria y en constante evolución. El portavoz de la empresa enfatizó que los empleados aprenden resolviendo sus propios problemas, no “siguiendo un curso de indicaciones”.
Para saber si los empleados o los empleadores tienen la culpa (o si es compartida), pregunté si la IA en la sombra era un reflejo de la mala conducta de los empleados o de herramientas inadecuadas.
En respuesta, Simmons enfatizó que “la mayoría de la gente quiere hacer lo correcto”, y estuvo de acuerdo en que la causa más común de la IA en la sombra es en realidad unas herramientas deficientes.
“Si los empleados reciben las herramientas que necesitan y se les informa sobre las reglas y requisitos de una manera que tenga sentido para ellos, y cuentan con controles técnicos para limitar el comportamiento más riesgoso, esperaría que la IA en la sombra no sea un problema mayor que cualquier otra forma de mala conducta de los empleados”.
Entonces, la respuesta no es necesariamente aprobar cada nueva aplicación de IA, pero comprender por qué los usuarios prefieren ciertas herramientas sobre otras es clave para construir políticas y protecciones adecuadas en torno a ellas.
En determinadas situaciones de bajo riesgo, la IA en la sombra puede ser una parte importante y útil de la respuesta, mostrando a las organizaciones dónde se están quedando cortos y exactamente dónde invertir, pero igualmente importante es una supervisión clara de la misma para garantizar que no se produzcan fugas u otras amenazas.
La alfabetización en IA no se puede enseñar, se aprende
Es evidente, entonces, que los trabajadores necesitan más orientación y apoyo. ¿Pero se presenta en forma de capacitación, políticas, acceso a herramientas o algo más?
Simmons explica que “la formación por sí sola no es muy eficaz para desarrollar la fluidez en la IA”, aunque dar a los empleados una dirección clara y algunos consejos básicos sin duda sirve como punto de partida útil. Zendesk, por ejemplo, ha tenido mayor éxito al brindarles a los empleados el tiempo y el espacio para experimentar y acostumbrarse a la IA en sus propios términos.
La postura de esta empresa en particular fue pausar el trabajo no urgente y organizar un hackathon interno dedicado para fomentar la exploración activa. El resultado fue un aumento significativo en las habilidades prácticas de IA de los trabajadores y una mejor colaboración entre equipos, pero el cierre completo de las operaciones que no eran de emergencia no fue un requisito y solo reflejó una iniciativa.
Es una iniciativa similar dirigida por Canva, que pidió a sus más de 5300 empleados que abandonaran las herramientas y experimentaran con la IA durante una semana entera.
“Le damos a nuestro equipo espacio para dar un paso atrás, salir del negocio habitual y probar algo realmente nuevo”, dijo un portavoz.
“La formación práctica en IA debería ir más allá de los cursos introductorios y las técnicas de estimulación y crear un espacio para que los empleados utilicen las herramientas en un entorno seguro”, concluyó Simmons. Pilotar herramientas de inteligencia artificial con datos artificiales (y, por lo tanto, sin consecuencias dañinas) conduce en última instancia al más alto nivel de confianza.
‘Los empleadores son dueños de las condiciones… los empleados son dueños de la curiosidad’
Otra área importante donde se dividen los estudios e informes es quién es responsable de la mejora y la reconversión de habilidades, ya sea a través de políticas actualizadas, capacitación pasiva o experimentación activa.
Como ejecutivo de C-suite, Simmons cree que las organizaciones deben asumir la responsabilidad brindando a los empleados acceso a herramientas y oportunidades para aprender. Claramente, deben pensar de manera innovadora y ofrecer una gama más amplia de apoyo: “no sólo capacitación, sino también ideas y experimentación a través de iniciativas como hackathons, sandboxes y oportunidades de colaboración”.
Pero más allá de eso, “aprovechar esas oportunidades y aprovecharlas” depende enteramente de los empleados. Después de todo, esto no es solo para el beneficio de su organización, sino también para garantizar que sigan siendo relevantes a medida que evoluciona el trabajo en una era en la que la IA es lo primero.
Una opinión secundaria de Canva también respalda esto: “Los empleadores son dueños de los términos: tiempo, presupuesto, permiso para experimentar… los empleados son dueños de la curiosidad”.
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
