A partir de 2026, la seguridad de las herramientas de inteligencia artificial públicas y de uso general como ChatGPT, Gemini, etc. parece estar yendo en dos direcciones diferentes. La tecnología se está adentrando cada vez más en las decisiones cotidianas, pero las empresas que la construyen envían señales contradictorias sobre cuán estrictamente deberían regularla.
En enero, OpenAI reforzó las salvaguardias de salud en ChatGPT, limitando la forma en que el chatbot responde a preguntas médicas y dirige a los usuarios a asesoramiento profesional, un reconocimiento sutil de que la IA de propósito general puede engañar a los humanos en situaciones de alto riesgo. Mientras tanto, Anthropic recientemente se retractó de parte de su compromiso voluntario de seguridad de IA.
Director de Producto y Tecnología de Dext.
Estas contramedidas plantean una gran pregunta: ¿dónde debería ubicarse realmente el ferrocarril para la IA pública? La atención sanitaria se ha convertido en una clara línea roja, pero otra área importante se está expandiendo con mucho menos escrutinio a través de la IA: las finanzas.
La práctica de consultar herramientas públicas de inteligencia artificial para obtener orientación financiera se está convirtiendo rápidamente en una práctica habitual, incluso cuando aumentan los costos en el mundo real de seguir consejos erróneos.
Costes ocultos: la IA como nueva “compañera de pub”.
Este cambio ya está ocurriendo a gran escala. La investigación de Lloyds Bank sugiere que 28 millones de personas están utilizando herramientas públicas de inteligencia artificial para administrar su dinero u obtener orientación sobre decisiones monetarias. Para muchos, herramientas como ChatGPT se han convertido en la versión digital de un compañero de pub, que siempre tiene consejos sobre dónde debe ir su dinero.
Esta comparación parece inocua hasta que las empresas empiezan a seguir este consejo. En el contexto de un chatbot, es un “compañero” que posee doctorados en una variedad de temas, lo que significa que puede brindar múltiples respuestas con fluidez y confianza, incluso cuando la información y el contexto subyacentes son inestables.
Y debido a que sistemas como ChatGPT están diseñados para ser útiles y satisfactorios para los usuarios, a veces pueden crear una respuesta clara y coherente que enfatice la incertidumbre, lo que puede reforzar la impresión de que el resultado es más confiable de lo que realmente es.
Si bien el riesgo de las herramientas de inteligencia artificial de uso general rara vez proviene de un comportamiento malicioso de la tecnología, la realidad es que estos sistemas nunca fueron diseñados para brindar asesoramiento financiero regulado. Generan respuestas basadas en patrones en los datos de capacitación en lugar de evaluar si una decisión es apropiada para un negocio.
Esto hace que el propietario de una empresa confíe demasiado rápido en la interpretación de un chatbot, lo que hace que tome decisiones e ignore por completo el hecho de que el sistema no tiene responsabilidad ni una visión clara propia.
En última instancia, es fácil generar confianza, pero el buen juicio es mucho más difícil.
Evidencia: el daño ya está ocurriendo
Pero ahora, la pérdida se siente en todos los ámbitos, especialmente entre los contadores que se ven obligados a recoger los pedazos. Investigaciones recientes han descubierto que la mitad de los contables y tenedores de libros del Reino Unido dicen que las empresas han perdido dinero después de actuar siguiendo consejos incorrectos generados por IA.
En toda la profesión, comienza a desarrollarse una escena familiar. Los profesionales de las finanzas conocen cada vez más a clientes que elaboran un plan financiero que comienza como un mensaje de chatbot. Lo que parece creíble en la pantalla rara vez sobrevive al escrutinio profesional.
Aparecen grietas durante las revisiones de rutina. Se ha malinterpretado una norma fiscal. Un gasto se encuentra en la categoría equivocada. Una decisión financiera depende de viejas pautas. Ninguno de estos errores parece catastrófico por sí solo, pero pueden afectar rápidamente los resultados de una empresa con importantes sanciones fiscales y pérdida de capital.
Los errores financieros son raros y una sola decisión errónea puede derivar rápidamente en problemas de flujo de caja, riesgos de cumplimiento o desafíos estratégicos más grandes.
Cuando estas situaciones ocurren para los clientes debido a una mala orientación de los asesores financieros, siempre existe la opción de responsabilizarlos. Por ejemplo, el jefe de la F1, Eddie Jordan, demandó a HSBC por £5 millones en 2024 por aconsejarle indebidamente que invirtiera en un fondo de “bajo riesgo”.
Sin embargo, la dura realidad de lidiar con las consecuencias de los consejos incorrectos de los chatbots es que no hay nadie más que usted para enfrentar las consecuencias para HMRC.
Para empeorar las cosas, muchas empresas asumen que los sistemas públicos de IA son más competentes que los profesionales que tienen delante. En la práctica, los modelos de propósito general carecen de visibilidad del historial financiero, las obligaciones o las presiones comerciales de una empresa. Sin ese contexto, incluso el consejo más seguro puede desviar una empresa.
Por qué la regulación por sí sola no resolverá el problema
La IA está haciendo avanzar la toma de decisiones financieras más rápido que las salvaguardias diseñadas para manejarla. Si bien el asesoramiento financiero ha operado durante mucho tiempo dentro de un marco profesional regulado, las herramientas de inteligencia artificial de uso general ahora están ingresando al mismo espacio sin límites iguales.
Las empresas ya están incorporando estas herramientas a las decisiones financieras cotidianas, a menudo sin una comprensión clara de los ferrocarriles o los riesgos involucrados. El resultado es una brecha cada vez mayor entre la rapidez con la que se utiliza la tecnología y la lentitud con la que se monitorea.
Sólo esperar la legislación expone ese vacío legal.
Las empresas de tecnología tienen la oportunidad de actuar rápidamente. Vallas claras a nivel de producto en torno al asesoramiento financiero proporcionarán una capa de protección inmediata. Los chatbots ya redirigen a los usuarios cuando las preguntas médicas se vuelven demasiado específicas. El mismo principio puede aplicarse cuando la conversación gira en torno a estrategias de inversión, decisiones fiscales o financiación empresarial.
La IA de uso general destaca por explicar conceptos, resumir información y acelerar la administración rutinaria, pero el asesoramiento financiero es una categoría completamente diferente. Esto requiere juicio profesional, conciencia regulatoria y una comprensión profunda del contexto que normalmente se encuentra en herramientas de IA especializadas creadas específicamente para este propósito, en lugar de en sistemas públicos de IA. Trazar una línea firme entre estas categorías eliminaría gran parte de la confusión actual.
Las empresas que experimentan con IA también necesitan una comprensión clara de dónde ayuda la tecnología y dónde no. Los chatbots pueden respaldar los flujos de trabajo financieros y acelerar las tareas rutinarias, pero no pueden reemplazar la experiencia profesional. Tratarlos como asistentes en lugar de asesores es donde radica su verdadero valor.
Abordar las brechas de rendición de cuentas
Usar un chatbot simple como un director financiero es una apuesta que rara vez da sus frutos. Estos modelos ofrecen un rendimiento convincente sin una pizca de responsabilidad profesional. La verdadera seguridad radica en elegir herramientas especializadas que respeten la línea entre soporte administrativo y asesoramiento regulado.
De manera similar, los contadores siguen siendo filtros vitales, asegurando que los conocimientos generados sean consistentes con el contexto del mundo real. Teniendo esto en cuenta, los clientes deben aspirar a obtener lo mejor de ambos mundos: un contador que comprenda los matices de su negocio, pero que utilice eficazmente la IA para ofrecer resultados con mayor velocidad y precisión.
Será esencial navegar un año en el que las empresas enfrentan un nivel de incertidumbre sin precedentes que requiere la columna vertebral para poner el juicio humano en el centro de cada decisión de alto riesgo, en lugar de simplemente depender de software rápido. Para las empresas, esto significa saber dónde termina el código y comienza la responsabilidad.
Hemos clasificado el mejor software de elaboración de presupuestos..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
