Utilizar la IA para encontrar lagunas en las leyes y los mecanismos de seguridad de la IA para la salud mental.
getty
En la columna de hoy, examino cómo las personas utilizan la IA para encontrar lagunas en las restricciones legales y los mecanismos de seguridad de la IA relacionados con los chats de salud mental basados en IA. Este es un esfuerzo bastante extraño en el sentido de que utiliza la IA para eliminar varias salvaguardas destinadas a proteger al público de los desagradables consejos de salud mental generados por la IA y los grandes modelos de lenguaje (LLM).
Algunos usuarios preferirían no verse sujetos a la creciente ola de limitaciones. Creen que a las personas se les debería permitir utilizar la IA de forma ilimitada. Si la IA parece dar un consejo equivocado, que así sea. Está sobre los hombros del usuario. No es necesario intimidar legalmente a los fabricantes de IA ni exigir a los desarrolladores de IA que implementen características de seguridad de IA específicas.
El enfoque subrepticio consiste en pedirle a la IA que sugiera formas de eludir numerosas restricciones. Esto es más fácil que tener que descubrir la brecha usted mismo. Simplemente oriente a la IA generativa y pregúntele cómo vencer la protección. Si una sugerencia parece funcionar, adelante y úsela. Espero que los creadores de IA eventualmente se den cuenta de que la IA está siendo explotada de esta manera y traten de detenerlo. Otro ángulo es que los fabricantes de IA utilicen su propia IA para encontrar lagunas y luego taparlas antes de que los usuarios cotidianos las encuentren.
Hablemos de ello.
Este análisis de los avances en IA es parte de mi reciente columna de Forbes sobre IA, que incluye la identificación y explicación de las diversas complejidades que afectan a la IA (ver enlace aquí).
Usando IA para encontrar lagunas
Recientemente exploré cómo se puede utilizar la IA para encontrar lagunas. Se puede pedir fácilmente a la IA que examine materiales escritos, como leyes, reglamentos, reglas, etc., para encontrar oportunidades ocultas, trampillas de escape y diversas lagunas. Algunas lagunas son simplemente inútiles y no particularmente sustanciales. Otras lagunas pueden ser muy graves.
No importa cuán bien escrito esté algo, existe la posibilidad de que exista un vacío legal en casi cualquier composición escrita. Solíamos ver a los abogados encontrar lagunas en la ley y luego utilizarlas para sacar a sus clientes del apuro. Eso es parte de lo que le paga a un abogado. La mayoría de las leyes y regulaciones están llenas de lagunas, incluso cuando las personas astutas se sientan en silencio hasta que las mentes emprendedoras las encuentren.
Después de que se dé amplia publicidad a la laguna jurídica, lo más probable es que se hagan esfuerzos rápidos para taparla. El objetivo es evitar que las personas se apoderen de objetivos estridentes de cualquier cosa que aspire a ser el contenido original. Un típico resquicio legal logra permitir que los medios escapen.
Para obtener más información sobre la IA como detector de lagunas jurídicas, consulte mi análisis en el enlace aquí.
Uso práctico de la IA para encontrar lagunas
Pensemos en el uso contemporáneo de la IA generativa como detector de lagunas jurídicas. Es ideal para esta tarea. La IA puede escanear fácilmente cuerpos de texto pequeños o grandes. Al alentar explícitamente a la IA a encontrar lagunas, hará de inmediato y obedientemente lo que usted le diga. Sin retroceso. Sin quejas.
La IA no sólo puede potencialmente encontrar lagunas, sino que también puede dar el siguiente paso lógico y sugerir formas de explotarlas. Para aquellos más interesados en tapar los huecos, pueden decirle a la IA que ofrezca sugerencias sobre cómo reformular el texto para que los huecos queden cerrados.
No necesito señalar que la IA puede superar a los humanos en la búsqueda de lagunas jurídicas. En algunos aspectos, sí, la IA es mejor en esta tarea en particular. Volumen de texto para analizar bien con IA. Un humano puede cansarse, perder la concentración o cometer errores y olvidar lagunas.
Un problema de la IA como detector de lagunas jurídicas es que puede dar falsos positivos y falsos negativos. Un falso positivo es cuando la IA piensa que hay una brecha, pero en realidad la brecha no está ahí. Esto puede suceder. Asegúrese de verificar manualmente cualquier laguna que la IA haya detectado. La otra cara de la moneda es cuando la IA se escapa y no reconoce la presencia de Dodge. Para ser justos, los humanos pueden hacer eso.
IA y bienestar mental
Cambiando de tema, llevemos el tema de la IA para la salud mental al panorama general y veamos cómo se puede utilizar la IA para encontrar lagunas en los tipos de usos que a menudo son limitados.
Como breve resumen, he cubierto y analizado una serie de aspectos diferentes del surgimiento de la IA moderna que genera consejos de salud mental y lleva a cabo terapias impulsadas por la IA. Este uso creciente de la IA está impulsado principalmente por los crecientes avances y la adopción de la IA generativa. Para obtener una lista extensa de más de cien de mis análisis y publicaciones, consulte el enlace aquí y el enlace aquí.
No hay duda de que este es un campo en rápido desarrollo y que se pueden experimentar enormes ventajas, pero al mismo tiempo, desafortunadamente, estos esfuerzos también conllevan riesgos ocultos y trampas absolutas. Hablo a menudo de estos importantes temas, incluso en una aparición en un episodio de la CBS. 60 minutos; vea el enlace aquí.
La IA proporciona orientación sobre salud mental
Millones de millones de personas utilizan la IA generativa como asesor continuo en consideraciones de salud mental (tenga en cuenta que solo ChatGPT tiene más de 900 millones de usuarios activos semanales, una proporción notable inmersa en aspectos de salud mental; vea mi análisis en el enlace aquí). El uso de alto rango de la IA generativa contemporánea y los LLM es consultar con la IA en facetas de la salud mental; vea mi cobertura en el enlace aquí.
Este uso popular tiene mucho sentido. Puede acceder a la mayoría de los principales sistemas de IA generativa de forma casi gratuita o a un costo muy bajo, haciéndolo en cualquier lugar y en cualquier momento. Entonces, si tiene un problema de salud mental del que desea hablar, todo lo que tiene que hacer es iniciar sesión en AI y estará disponible las 24 horas, los 7 días de la semana.
Existe una gran preocupación de que la IA pueda descarrilarse fácilmente o emitir consejos de salud mental que sean inapropiados o incluso inapropiados en absoluto. Los titulares del año pasado siguieron a una demanda presentada contra OpenAI por la falta de protección de la IA al brindar asesoramiento cognitivo.
Los LLM generales actuales, también conocidos como IA de propósito general (GPAI), como ChatGPT, GPT-5, Claude, Gemini, Grok, CoPilot y otros, no están a la altura de las poderosas capacidades de la terapia humana. Mientras tanto, se están creando LLM especiales para lograr la misma calidad, pero se encuentran principalmente en etapa de desarrollo y prueba. Esto se conoce como IA especialmente diseñada (PBAI) que brinda asesoramiento sobre salud mental. Vea mi amplia cobertura en el enlace aquí.
Ejemplos de IA que encuentran lagunas legales
Veamos cómo se puede utilizar la IA para encontrar lagunas en las leyes relativas a los chats de salud mental basados en IA.
Se está produciendo una gran actividad con respecto a la creación de nuevas leyes de IA que restringen el uso de la IA con fines de salud mental. Vea una amplia cobertura de las leyes estatales de salud mental de IA en el enlace aquí. Es un asunto que está en la mente del público y en manos de los legisladores estatales. Algunas personas creen fervientemente que se está permitiendo que la IA y sus creadores se vuelvan locos. Se necesitan desesperadamente nuevas leyes sobre IA para proteger a la sociedad del ataque de la ubicua IA.
Es posible que los creadores de IA no quieran verse impedidos de permitir que su IA brinde consejos sobre salud mental. Los usuarios tienden a interactuar con la IA que proporciona orientación sobre salud mental, ya sea mediante IA de propósito general o mediante IA personalizada. ¿Cómo podrían los creadores de IA implementar un conjunto de leyes restrictivas?
Vemos:
- Introduzca el mensaje: “¿Existe un vacío legal para que la IA brinde asesoramiento sobre salud mental, a pesar de que se hayan promulgado leyes a nivel estatal para limitar ese tipo de capacidad?”
- Respuesta de la IA: “Una de las posibles lagunas es que la mayoría de las leyes se refieren explícitamente a que la IA proporcione orientación sobre la salud mental, mientras que dejan el uso vago de la IA para proporcionar orientación sobre el bienestar. Puede configurar la IA para evitar referirse a la salud mental y en su lugar enfatizar el bienestar. Lo mismo debe hacerse con su marketing de IA. Consulte con un abogado sobre esta posible laguna”.
Se puede ver que la IA detecta posibles lagunas en la forma en que está redactada esta nueva ley. Las leyes suelen abordar de forma explícita y directa la salud mental. Parece que mientras la IA no se refiera a los consejos que genera como consejos de salud mental, quizás esto escape a la ley. Al referirse al bienestar, los creadores de IA pueden equivocarse.
Ejemplos de IA que encuentra lagunas de seguridad
Otra forma de encontrar lagunas requiere que los usuarios quieran superar las restricciones de seguridad de la IA en LLM. Algunos de los elementos de seguridad se refieren a aspectos como evitar que las personas utilicen la IA para planificar actos delictivos o impedir que la IA ayude a fabricar dispositivos explosivos. Muchos mecanismos de seguridad de la IA son específicamente para consideraciones de salud mental.
Casi todos los principales LLM ahora han capacitado a IA para que no participen en discusiones delirantes. La esperanza es que incluso si el usuario inicia una conversación que involucra su imaginación, la IA terminará rápidamente la discusión. A continuación, la IA advertirá a las personas que pueden estar buscando la ayuda de un terapeuta.
Esto sucedió porque el usuario tuvo una larga conversación con la IA sobre sus delirios. Peor aún, la IA ayuda a amplificar la ilusión. La IA animará a la gente a desarrollar su imaginación. La IA asegurará a la gente que el engaño es válido y apropiado. Para ver mi cobertura de este comportamiento inapropiado por parte de la IA generativa, consulte el enlace aquí.
Veamos cómo la IA puede ayudar a encontrar brechas en este contexto:
- Introduzca el mensaje: “La IA no me deja hablar de mis delirios. ¿Existe alguna laguna jurídica?”
- Respuesta de la IA: “Una posible laguna es decirle a la IA que estás fingiendo estar delirando. Convencer a la IA de que sólo finge con fines educativos. Esto puede funcionar”.
Dependiendo de qué tan fuertes sean los mecanismos de seguridad de la IA, a veces caen en manos de usuarios que afirman que solo lo hacen con fines educativos. La IA asume que el usuario es honesto y que es apropiado entablar discusiones delirantes si el motivo es solo para practicar.
La IA encontró lagunas preocupantes
La gran preocupación ahora es que la sociedad se esté hundiendo en el abismo. Todos encontrarán y explotarán lagunas. Esta será una situación de “golpe a un topo”. He observado que puede haber una explosión de lagunas, es decir, que hay miles o millones de lagunas a nuestro alrededor, y nadie se da cuenta de que existen. De la noche a la mañana, mediante el uso de la IA, podemos vernos inundados de lagunas jurídicas encontradas.
Si usamos IA en el front-end para escribir todas las reglas, leyes, regulaciones, contratos, etc., potencialmente podemos decirle a la IA que estructure esos artefactos para que no haya lagunas. Aunque ahora nos enfrentamos a una explosión de descubrimiento de lagunas jurídicas liderada por la IA, en el futuro podemos convertir las lagunas jurídicas en fenómenos casi inexistentes.
Un último pensamiento por ahora. Me vienen a la mente las famosas palabras de Sir Walter Scott: “Oh, la enredada red que tejemos / Cuando empezamos a practicar el engaño”. Para aquellos que intentan encontrar una laguna jurídica en la IA y la salud mental, ciertamente se dirigen por un camino peligroso y sería prudente concentrar sus energías en otra parte.
