Meta y otros gigantes tecnológicos están justificando los recientes despidos con la misma narrativa: la IA puede hacer el trabajo ahora, por lo que los humanos no son necesarios.
Sí, es cierto que hemos visto a la IA alcanzar rápidamente niveles de habilidad humana. Sin embargo, a lo largo de nuestra década de trabajo creando herramientas de IA que ofrecen preparación de entrevistas personalizada, también hemos visto por qué diseñar sistemas impulsados únicamente por IA es una apuesta equivocada.
Nick Charles es el cofundador de Triscretty InterviewAI y líder y desarrollador de productos de IA.
Andy Kurtzig es el director ejecutivo de Pearl.
Sin embargo, sobre el papel, parece que la IA ya ha alcanzado un rendimiento a nivel humano. Microsoft utilizó recientemente el modelo o3 mejorado de OpenAI para “resolver” más de ocho de cada diez estudios de casos de prueba del New England Journal of Medicine, en comparación con una tasa de éxito del 20% para los médicos humanos.
Mientras tanto, METR, una organización sin fines de lucro de investigación de IA, predice que para 2030, la IA “podría ejecutar proyectos de software complejos” que hoy requieren semanas o incluso meses de trabajo humano experto.
Pero nuestro reemplazo no es tan inevitable como la industria de la IA quiere hacer creer.
Las empresas que hoy eligen implementar la IA únicamente para ahorrar costos están a punto de descubrir una costosa verdad: los sistemas de IA más efectivos están diseñados en torno a la experiencia humana, no a su ausencia.
La incorporación permanente e intencionada de la validación humana en los flujos de trabajo de IA desbloqueará cada capa posterior de funcionalidad de IA.
Donde fallan los sistemas de IA
Aún es difícil lograr mejoras en la precisión de la IA. Cada mejora del 10% en el modelo fundamental requiere gastar 1 billón de dólares. Al mismo tiempo, los investigadores de Stanford descubrieron que los grandes modelos lingüísticos nunca podrán distinguir de forma fiable entre lo que es verdad y lo que la gente cree que es verdad.
Traducción: Sin el juicio humano en el sistema, la IA escalará con confianza los puntos ciegos. Pero incluso cuando la IA es perfecta, hay un punto de falla: a menudo, los sistemas que contienen IA no la usan adecuadamente.
Así es como se ve cuando una empresa adopta flujos de trabajo defectuosos impulsados por IA:
Un líder de gestión de productos contrata a un agente para crear de forma independiente un panel de rendimiento semanal. Todo parece estar bien, por lo que el primer ministro lo envía con sólo una supervisión superficial. En unos pocos meses, el liderazgo cambió la inversión publicitaria hacia un nuevo producto basado en el gráfico. El tanque de ventas del próximo trimestre. La razón: los agentes contaron silenciosamente a los usuarios de prueba gratuita como clientes de pago, algo que un experto humano habría encontrado en segundos. En cambio, se quemó una cuarta parte del presupuesto publicitario porque no se definió adecuadamente el papel de la supervisión humana.
O tomemos el caso de una empresa que utiliza IA para tomar decisiones de contratación. Sin la participación humana para afinar su selección, el modelo se calcifica en torno a suposiciones obsoletas sobre cómo la gente cree que es un líder exitoso. Aprueba a varios candidatos que se quedan cortos en el papel pero que aportan la combinación perfecta de diferentes habilidades; que un directivo experimentado sacaría automáticamente del montón. Aquí, reglas de enrutamiento más codificadas para cada aplicación podrían haber mantenido a estos candidatos en carrera.
Estos no son escenarios imaginarios. Los vemos jugando con sistemas de IA en nuestro propio trabajo; La forma en que todavía son variables es responsable de que las pautas médicas cambien rápidamente y asuman erróneamente que pueden eludir las medidas de supervisión humana.
Las consecuencias continúan creciendo a medida que las empresas se apresuran a integrar la IA en sus procesos centrales y los consumidores evitan cada vez más el asesoramiento de expertos en favor de asesoramiento sobre IA. Durante una congelación de código, un agente de IA en Replit eliminó una base de datos en vivo completa sin revisión humana, y el reconocimiento facial impulsado por IA llevó a una mujer de Tennessee en Dakota del Norte a cinco meses de cárcel por un delito que no cometió.
Estos fenómenos son el costo predecible de no integrar adecuadamente a las personas y, en cambio, tratarlas como una ineficiencia que hay que optimizar.
Creación de flujos de trabajo nativos de IA
Los líderes de las empresas están presionando a los equipos para que “incorporen algo de IA” a los flujos de trabajo existentes para mejorarlos. Sin embargo, incorporar la IA sólo exacerba los problemas subyacentes a medida que el proceso escala. Para construir una IA que cumpla su promesa de crecimiento, debemos rediseñar los flujos de trabajo para aprovechar inherentemente las fortalezas de la IA, las personas y el software.
El hecho es que no todos los trabajos requieren un LLM; Hay situaciones que requieren predicción de enrutamiento, validación y restricciones. Si todo es probabilístico, el flujo de trabajo se parece más a un motor de sugerencias que a un sistema fiable.
Los mejores sistemas de IA combinan procesos rígidos y flexibles y definen claramente la propiedad de las tareas en tres niveles distintos:
1. Flexibilidad de la IA: Incorpora modelos probabilísticos que interpretan solicitudes más abstractas y las convierten en acciones reconocibles.
2. Software determinista: El enrutamiento codificado agrega reglas, restricciones, activadores de validación y excepciones que dirigen las operaciones a la ruta correcta. Esto puede incluir una capa RAG sensible al contexto que extrae de una “base de conocimientos” predefinida y controla la memoria y la compresión.
3. Personas para el contexto: Evalúe continuamente los supuestos del modelo, modifique los flujos de trabajo en función de condiciones externas, aclare matices o ambigüedades generales en el comportamiento humano y tome decisiones finales.
La flexibilidad de la IA detecta entradas que no coinciden del todo con lo que espera el sistema, mientras que la capa determinista ayuda a bloquear tareas que es incapaz de realizar, en lugar de complacer al usuario.
En este nivel ideal de funcionalidad, la IA puede hacer recomendaciones sobre dónde ir a continuación, pero dejar que los humanos elijan qué camino tomar.
Redefiniendo el ser humano en el circuito
Sí, la IA suele equivocarse, pero eso no niega su potencial. A menudo, es un sistema defectuoso en torno a la IA el que conduce a las averías más peligrosas.
Para mejorar la integración de la IA, el objetivo es agregar “humanos en el circuito”. Si un humano sólo está allí para comprobar el resultado final de una IA, ese flujo de trabajo es defectuoso. En cambio, deberíamos diseñar sistemas de IA en los que cada parte contribuya mejor a un resultado confiable.
Hoy en día, excluir a los humanos de los procesos impulsados por la IA es como intercambiar un activo compuesto por una ganancia única. En cambio, centrarse y definir claramente el papel de la experiencia humana hará que los sistemas de IA mejoren con el tiempo.
Las empresas que dominarán la próxima década no serán aquellas con los organigramas más pequeños, sino aquellas que integrarán adecuadamente a las personas con el software para impulsar los avances de la IA.
Contamos con el mejor software de automatización de TI..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
