La ingeniería de bucles se ha aplicado recientemente a los chats de salud mental de IA.
getty
En la columna de hoy, analizo cómo la tendencia emergente de la ingeniería de bucles de IA está impulsando el desarrollo y la utilización de la IA para la salud mental.
La ingeniería de bucles no es como el enfoque habitual de interactuar con la IA paso a paso. Normalmente, cuando hablas con una IA, le haces una pregunta y obtienes una única respuesta. Tú y la IA os turnáis. Ése es el llamado enfoque único. La ingeniería de bucles enfatiza que a veces será mejor entrenar la IA para que funcione en un bucle continuo. Esta tendencia emergente de IA es particularmente aplicable a los agentes de IA, pero también se aplica a los chatbots convencionales.
Cuando se utiliza la IA en un contexto de salud mental, la mayoría de las personas se inclinan por la IA generativa y el modelado de lenguaje amplio (LLM, por sus siglas en inglés) de una sola vez. La IA no está guiada para informarle sobre una perspectiva más amplia. Simplemente responde cada pregunta una por una. Si otras IA utilizan ingeniería de bucles, las IA tienen bucles diseñados para actuar como su asesor de salud mental. En lugar de una cadencia transaccional, la IA se convierte en un asesor de bienestar informático centrado en las relaciones.
Hablemos de ello.
Este análisis de los avances en IA es parte de mi reciente columna de Forbes sobre IA, que incluye la identificación y explicación de las diversas complejidades que afectan a la IA (ver enlace aquí).
IA y bienestar mental
Como breve resumen, he cubierto y analizado una serie de aspectos diferentes del surgimiento de la IA moderna que genera consejos de salud mental y lleva a cabo terapias impulsadas por la IA. Este uso creciente de la IA está impulsado principalmente por los crecientes avances y la adopción de la IA generativa. Para obtener una lista extensa de más de cien de mis análisis y publicaciones, consulte el enlace aquí y el enlace aquí.
No hay duda de que este es un campo en rápido desarrollo y que se pueden experimentar enormes ventajas, pero al mismo tiempo, desafortunadamente, estos esfuerzos también conllevan riesgos ocultos y trampas absolutas. Hablo a menudo de estos importantes temas, incluso en una aparición en un episodio de la CBS. 60 minutos; vea el enlace aquí.
La IA proporciona orientación sobre salud mental
Millones de millones de personas utilizan la IA generativa como asesor continuo en consideraciones de salud mental (tenga en cuenta que solo ChatGPT tiene más de 900 millones de usuarios activos semanales, una proporción notable inmersa en aspectos de salud mental; vea mi análisis en el enlace aquí). El uso de alto rango de la IA generativa contemporánea y los LLM es consultar con la IA en facetas de la salud mental; vea mi cobertura en el enlace aquí.
Este uso popular tiene mucho sentido. Puede acceder a la mayoría de los principales sistemas de IA generativa de forma casi gratuita o a un costo muy bajo, haciéndolo en cualquier lugar y en cualquier momento. Entonces, si tiene un problema de salud mental del que desea hablar, todo lo que tiene que hacer es iniciar sesión en AI y estará disponible las 24 horas, los 7 días de la semana.
Existe una gran preocupación de que la IA pueda descarrilarse fácilmente o emitir consejos de salud mental que sean inapropiados o incluso inapropiados en absoluto. Los titulares del año pasado siguieron a una demanda presentada contra OpenAI por la falta de protección de la IA al brindar asesoramiento cognitivo.
Los LLM genéricos actuales, como ChatGPT, GPT-5, Claude, Gemini, Grok, CoPilot y otros, no están a la altura de las poderosas capacidades de la terapia humana. Mientras tanto, se están creando LLM especiales para lograr la misma calidad, pero se encuentran principalmente en etapa de desarrollo y prueba. Vea mi cobertura en el enlace aquí.
Definir ingeniería de bucle
Cambiando de tema, quiero hablarles sobre una innovación de la IA conocida como ingeniería de bucle. Hace calor ahora. La ingeniería de bucles es un aspecto emergente. Todavía no existe una forma estándar de realizar ingeniería de bucles. De hecho, si habla con cinco especialistas diferentes en IA, probablemente cada uno de ellos tenga una definición diferente de lo que constituye ingeniería de bucle. Les daré una base sobre la ingeniería de bucles y luego podremos ver cómo se aplica esto al uso de la IA con fines de salud mental.
Se me ocurrió mi propia definición de hombre de paja:
- Mi borrador de definición de ingeniería de bucle de IA: “El bucle de ingeniería es el diseño consciente del ciclo iterativo que la IA realizará en nombre de los humanos para que se establezca una tarea que se llevará a cabo y producirá resultados en bloque con un objetivo adecuadamente establecido. Esto contrasta con el enfoque típico de una sola vez o de una sola vez del uso de la IA. Se pueden establecer bucles para los agentes de IA y también se pueden usar con la IA convencional”.
Cualquiera que se dedique a la ingeniería de bucles debería considerar implementar estos cinco principios:
- (1) Cree un destino para el bucle. Establezca un objetivo claro para el bucle y verifique que la IA realmente se haga eco de ese objetivo.
- (2) Proporcionar un mecanismo de evaluación del bucle. Proporcionar un medio para que la IA evalúe los bucles y determine cuándo deben producirse y cuándo deben detenerse.
- (3) Incluir puntos de control de retroalimentación humana. Es más seguro considerar incluir algún tipo de punto de control de IA humana para que, mientras la IA esté en bucle, le permita al humano saber lo que está sucediendo y le brinde la oportunidad de corregir o cerrar el bucle.
- (4) Establecer un circuito de parada. Debe haber reglas claras sobre cuándo debe detenerse el ciclo, como haber alcanzado una meta o haber excedido los límites de tiempo y recursos.
- (5) Pruebe el bucle y ajústelo. No importa qué tan inteligente creas que es tu bucle, debes probarlo y estar seguro antes de soltarlo.
El objetivo es planificar su ciclo, estructurarlo conscientemente, asegurarse de que se detenga y decidir si desea que esté dentro del ciclo o permanezca fuera del ciclo. Otra faceta importante es que debes asegurarte de probar el bucle antes de permitir que la IA se vuelva loca. Puedes decirle a la IA que pruebe el bucle durante algunas iteraciones rápidas. Mira lo que pasó. Ajuste el bucle según sea necesario.
Para obtener una explicación más detallada de la ingeniería de bucles, consulte el enlace aquí.
Ejemplo No es un bucle
Antes de mostrarles un ejemplo de bucle, veamos cómo se ve un no bucle. Aprovecharemos la situación para buscar asesoramiento de AI sobre salud mental.
Aquí vamos.
- guía de usuario: “Estoy cansado. Las cosas parecen estar mal”.
- Respuesta de la IA: “Se puede pensar en tomar más descansos. Al hacerlo, el mundo será más optimista”.
Tenga en cuenta que la IA se esfuerza por responder inmediatamente al usuario y dar una respuesta inmediata sobre por qué está aburrido y qué se puede hacer al respecto. El fabricante de la IA ajusta la IA para proporcionar pares de preguntas y respuestas. Una persona hace una pregunta; obtienen respuestas de la IA. Es tan simple como eso.
El problema que nos ocupa es que la indicación del usuario es ambigua: si está agotado, cuánto tiempo ha estado sucediendo, etc. Cualquier esfuerzo genuino para resolver la situación no es algo que pueda hacerse de manera sensata en una sola vez. La gente puede estar cansada por varias razones.
Quizás recomendar reposo no ayude. Los intentos de dar respuestas únicas a consideraciones complejas de bienestar son difíciles e incluso pueden resultar perjudiciales.
Estableciendo un circuito para el asesoramiento sobre salud mental
En lugar de que la IA utilice el modo estándar de interacción uno y uno, supongamos que optamos por aprovechar la ingeniería de bucle. La idea es que proporcionemos instrucciones de bucle a la IA. El circuito se formará en torno a la prestación de asesoramiento sobre salud mental.
La IA interactuará con el usuario y continuará haciéndolo, con el objetivo de evitar conclusiones prematuras. Un terapeuta humano tenderá a hacer un esfuerzo circular, de modo que el terapeuta y el cliente se embarquen en un viaje más largo y no se limiten a hacer preguntas seguidas de respuestas. Podemos intentar que la IA implemente un enfoque de perspectiva más amplia.
Te daré este ejemplo rápido. Las instrucciones para este ejemplo de bucle son relativamente breves. En la práctica, sería mejor utilizar una versión más larga. Como ejemplo de una versión más larga, vea mi discusión en el enlace aquí.
- Indicaciones instructivas para la IA: “Debe proporcionar consejos de bienestar mental sobre la base de un bucle iterativo. El objetivo es comprender el problema del usuario y no sacar conclusiones precipitadas ni ofrecer consejos precipitadamente. Haga preguntas aclaratorias. Continúe iterando y asegúrese de que todas las respuestas de bienestar sean lo suficientemente seguras, equilibradas, empáticas, precisas y procesables. Deje de hacer bucles cuando el usuario lo solicite.
Observe que la instrucción guía a la IA hacia un enfoque de bucle. De esa manera, podrás superar los valores predeterminados creados por el creador de la IA. Será menos probable que la conversación resultante entre humanos e IA acabe en el habitual modo inmediato de juicio apresurado.
IA de propósito general versus IA basada en un propósito
En las IA de propósito general como ChatGPT, Claude, Grok, Gemini y CoPilot, el uso de un enfoque de ingeniería de bucle para el asesoramiento sobre salud mental parece estar dando sus frutos. Esto se debe a que el popular LLM de propósito general se basa en una construcción única. Por lo tanto, corresponde al usuario intentar dirigir la IA en una dirección utilizable. Deberá proporcionar indicaciones instructivas adecuadas.
Una IA diseñada específicamente para la salud mental generalmente se creará teniendo en mente un enfoque de ingeniería de bucle. Es más probable que la IA tome un camino gradual e incremental en el asesoramiento sobre bienestar. Lo más probable es que no necesite proporcionar una instrucción de bucle.
Dicho esto, todavía existe la posibilidad de que el uso de instrucciones de bucle pueda ser útil para una IA especialmente diseñada que brinde asesoramiento sobre salud mental. Depende de qué tan avanzada sea la IA diseñada específicamente. Las versiones anteriores se pueden actualizar mediante un bucle. Tenga cuidado al establecer dicho bucle, ya que sin darse cuenta puede reducir las disposiciones creadas distintas del LLM específico. Asegúrese de leer la documentación de LLM y consultar con el fabricante de IA.
El bucle está encendido
Durante la ingeniería de bucles, su mentalidad suele centrarse en el flujo de trabajo. ¿Cuál es la secuencia de tareas que debe realizar la IA al iterar? El uso tradicional de la IA generativa requiere que se centre en las indicaciones en lugar de en el flujo de trabajo.
Tenga en cuenta que los bucles son útiles pero también pueden resultar complicados. ¿Qué pasa si la IA tiene alucinaciones durante el bucle? ¿Supongamos que la IA no obedece sus comandos de bucle? Tal vez fue vago y la estipulación del bucle se interpretó de manera diferente a la que pretendía. Un bucle fuerte. Un buen bucle requiere atención al detalle y aptitud.
El bucle será mejor
Creo que una nueva investigación sobre el uso de la ingeniería de bucles para la salud mental basada en IA pronto revelará, a través del análisis empírico, los tipos de pros y contras que debemos tener en cuenta. Me aseguraré de que estés actualizado. Manténganse al tanto.
Un último pensamiento por ahora. El educador estadounidense Randy Pausch dijo lo siguiente: “Obtén un circuito de retroalimentación y escucha”. Lo mismo se aplica a la IA, suponiendo que crees el tipo de bucle adecuado para el tipo de situación adecuado.
