Con la presión que sufren los médicos del NHS, no sorprende que muchos fideicomisos recurran a la IA en busca de ayuda. En general, esto es algo bueno.
Las herramientas de inteligencia artificial pueden desempeñar un papel valioso en la gestión del flujo de trabajo, la automatización de la documentación, la coordinación de las rotaciones de atención y la agilización de la comunicación.
Sin embargo, el ritmo del desarrollo de la IA, y de la IA generativa en particular, se ha acelerado drásticamente.
Vicepresidente EMEA, Wolters Kluwer Health.
Como resultado, los marcos de gobernanza no logran seguir el ritmo de las demandas de primera línea y los profesionales de la salud están comenzando a utilizar herramientas que no están aprobadas por sus organizaciones.
Esto está causando problemas en todos los niveles, especialmente cuando esas herramientas se utilizan para respaldar la toma de decisiones clínicas.
IA en las sombras
“IA en la sombra” es un término comúnmente utilizado para describir el uso no autorizado de IA dentro de las organizaciones. Si bien el fenómeno existe en todas las industrias, está creciendo rápidamente en la atención médica. Una encuesta reciente en EE. UU. encontró que el 17% de los trabajadores de la salud admitieron haber utilizado herramientas de inteligencia artificial no autorizadas en el lugar de trabajo.
Otra encuesta encontró que el 39% de los trabajadores sanitarios de primera línea dijeron que utilizan herramientas de IA genéricas y gratuitas semanalmente o más. Estas no son pruebas aisladas. A pesar de los riesgos bien documentados, que incluyen alucinaciones, inconsistencias y sesgos, la IA ya se está integrando en las actividades cotidianas, a menudo sin una gobernanza o supervisión formal.
Las razones de esto son comprensibles. Los profesionales de la salud se enfrentan a la escasez de personal, a las crecientes demandas de los pacientes y a una abrumadora carga de trabajo administrativa. Se espera que los médicos documenten más, se comuniquen más rápido y procesen volúmenes cada vez mayores de información mientras mantienen un alto nivel de atención al paciente.
No es de extrañar que estén buscando la herramienta de inteligencia artificial más cercana. Especialmente cuando esa herramienta de inteligencia artificial es muy accesible, gratuita o de bajo costo y fácil de usar. Los usos de Shadow AI en el sector de la salud actualmente van desde médicos de primera línea hasta funciones administrativas, como redacción de informes y apoyo a la contratación.
La mayoría de los profesionales de la salud no violan intencionalmente las reglas al utilizar herramientas “turbias”. Simplemente están accediendo a una ayuda muy necesaria de una fuente conveniente. Y su empleador no les ofrece una alternativa sólida.
Los líderes sanitarios deben actuar rápidamente
Las organizaciones médicas, y el NHS en particular, a menudo se han mostrado cautelosos a la hora de implementar nuevas tecnologías, aunque a menudo con muy buenas razones. Los sistemas clínicos requieren pruebas exhaustivas, una base de evidencia sólida y una gobernanza rigurosa antes de su implementación, y las decisiones respaldadas por la IA pueden tener consecuencias directas en los resultados de los pacientes.
Cualquier herramienta de toma de decisiones clínicas debe probarse minuciosamente sobre la base de investigaciones médicas sólidas y estar en constante revisión y mejora. Sin embargo, el retraso permite que Shadow AI llene los vacíos.
Actualmente se encuentran en el mercado herramientas de IA de calidad adecuada, pero el problema sigue siendo cómo los líderes pueden frenar el uso de la IA en la sombra. Esta es una cuestión que debería resolverse rápidamente porque hay mucho en juego.
El riesgo es real.
Los riesgos del uso no autorizado de la IA incluyen violaciones de seguridad y privacidad, así como la principal preocupación: la atención al paciente.
En términos de protección de datos y privacidad, las soluciones genéricas de IA son efectivamente “cajas negras”. Pregúntele a ChatGPT si los datos de salud confidenciales estarán seguros en sus manos, por ejemplo, y le informará que no cumple con la Ley de Información de Salud.
Esto no es sorprendente (la información del paciente es “datos de categoría especial” según el RGPD y a menudo requiere protección adicional), pero ilustra el peligro de enviar demasiada información a una aplicación no autorizada.
Cuando se trata de atención al paciente, las soluciones genéricas de IA utilizadas para tomar decisiones clínicas conllevan un riesgo inherente: incluso cuando los resultados parecen convincentes, los errores pueden ser difíciles de detectar y evaluar. Pueden recopilar información de una amplia gama de fuentes que pueden estar desactualizadas, no verificadas o inexactas.
Un médico que tiene prisa y prescribe una herramienta no autorizada corre un gran riesgo. Si una herramienta no autorizada proporciona orientación incorrecta sobre los síntomas, los medicamentos, el diagnóstico o las vías de tratamiento, las consecuencias pueden ser graves.
Orientación y liderazgo, no autoridad de mano dura
La respuesta no es una prohibición total, que podría enviar a la IA no autorizada a las sombras. El objetivo de los líderes sanitarios debería ser establecer directrices claras sobre el uso de la IA e invertir en educación y formación sobre sus riesgos y beneficios.
Al mismo tiempo, las empresas deben proporcionar herramientas alternativas clínicamente válidas, seguras y fáciles de usar. Si los sistemas aprobados tardan demasiado en implementarse o no satisfacen las necesidades operativas, los médicos y administradores inevitablemente recurrirán a herramientas no aprobadas.
La estructura de gobernanza también es una parte importante del proceso. Esto debería incluir equipos de TI, expertos en seguridad y gestión operativa, ya que la implementación de la IA afecta simultáneamente la atención al paciente, el cumplimiento, la eficiencia de la fuerza laboral y el riesgo organizacional.
Sin duda, la IA se convertirá en una parte cada vez más importante de la prestación de atención sanitaria moderna. Las empresas que tendrán éxito no serán necesariamente aquellas que adopten la IA más rápidamente, sino aquellas que construyan marcos confiables sobre los cuales los médicos puedan acceder a herramientas seguras, clínicamente sólidas y adecuadamente administradas.
Contamos con el mejor software de historia clínica electrónica..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
