Las preguntas que usted le hace a AI sobre casos legales no están protegidas por el privilegio abogado-cliente, dictaminó un tribunal federal.
Getty
Claude de Anthropic, ChatGPT de OpenAI y Gemini de Alphabet pueden ser excelentes para ayudar con la investigación o la creación de hojas de cálculo, pero una cosa que definitivamente no lo son es su abogado. En todo caso, recurrir a la inteligencia artificial en busca de asesoramiento jurídico podría resultar contraproducente, como le ocurrió a un acusado de delitos de cuello blanco en Nueva York que intentó proteger de los fiscales federales sus comunicaciones con Claude; ahí es donde pidió una estrategia de defensa legal.
Parece obvio que no deberías confiar en en inteligencia artificial para asesoramiento jurídico, especialmente si está en juego algo importante, como su libertad o mucho dinero. La novedad es que incluso discutir asuntos legales con tu chatbot favorito puede resultar arriesgado.
En febrero, el juez del Tribunal de Distrito de los Estados Unidos, Jed S. Rakoff, del Distrito Sur de Nueva York, dictaminó que los modelos de lenguaje grande de IA no son abogados y que cualquier comunicación con ellos puede usarse contra acusados criminales como cualquier otro documento. El juez afirmó en su decisión que su fallo “parece responder a la cuestión de la primera impresión en todo el país”, lo que significa que ningún otro tribunal de Estados Unidos se ha pronunciado sobre esta cuestión. Su conclusión sobre el privilegio probablemente también se aplicaría a los litigios civiles.
La cuestión del privilegio surgió en el caso criminal de fraude de valores contra el empresario de Texas Bradley Heppner, ex presidente y director ejecutivo de GWG Holdings, que cotiza en bolsa, quien fue acusado de defraudar a inversionistas por más de 150 millones de dólares. Heppner, de 60 años, fue declarado culpable por un jurado este mes y está a la espera de sentencia. Se enfrenta a una pena máxima de 20 años de prisión.
Según registros judiciales, después de que Heppner se enteró el año pasado de que estaba siendo atacado por investigadores federales, comenzó a pedirle a Claude que esbozara una “estrategia de defensa” que pudiera utilizar en el tribunal contra cargos penales.
Cuando más tarde los agentes del FBI allanaron su casa y confiscaron algunos dispositivos electrónicos, encontraron 31 copias almacenadas de documentos y conversaciones que Heppner tuvo con Claude sobre su caso criminal. Después de que los abogados de Heppner insistieran en que los documentos eran privilegiados, porque él había tenido esas conversaciones como preparación para hablar con sus abogados, el gobierno los separó. Luego le pidió a Rakoff que se pronunciara sobre si estaban adecuadamente protegidos del escrutinio gubernamental bajo el privilegio abogado-cliente o la doctrina del producto del trabajo.
El 17 de febrero, Rakoff dictaminó que no lo eran. En su orden de 12 páginas, Rakoff respaldó sus conclusiones con varias razones legales.
En primer lugar, señala Rakoff, “porque Claude no es abogado…
No sólo eso, escribió Rakoff, sino que argumentó que la confidencialidad de los acusados penales (al igual que los abogados) requiere una “relación humana de confianza”.
“No existe tal relación, ni puede existir, entre los usuarios de IA y plataformas como Claude”, escribió Rakoff.
El juez confirmó que la empresa matriz de Claude, Anthropic, señaló específicamente en los términos de uso de Claude, que Heppner aceptó, que conserva los derechos sobre todos los “datos”, incluidas las conversaciones del usuario con Claude, que luego pueden entregarse a las autoridades “en relación con reclamos, disputas o litigios”.
Rakoff continuó observando que la única forma en que las comunicaciones de Heppner con Claude podían mantenerse confidenciales era si su abogado le ordenaba específicamente que le pidiera asesoramiento legal a Claude y, en ese caso, se podría argumentar que Claude estaba actuando como el agente del abogado. Pero en este caso, Heppner lo hizo por iniciativa propia y su abogado sólo se enteró de su conversación con la IA después del hecho.
Además, cuando los fiscales del caso preguntaron a Claude si podía dar asesoramiento jurídico a usuarios como Heppner, respondió: “No soy abogado y no puedo dar asesoramiento jurídico formal”. Luego recomienda ponerse en contacto con un abogado autorizado.
La decisión proporciona una “buena advertencia” a los propietarios de empresas que han utilizado grandes modelos de lenguaje de IA para diversas estrategias legales, dijo el abogado de Nueva York, David Feldman, en el sitio web de su firma. “La decisión establece una clara distinción entre asesores legales humanos y asistentes digitales”, escribió, señalando que la principal objeción es que el uso de Claude por parte de Heppner ahora podría ser utilizado como arma en su contra por los fiscales federales. “Los abogados deberían considerar recordar a sus clientes que el uso abierto de (sistemas) de IA no puede considerarse comunicación confidencial”, escribió Feldman.
Feldman dijo en un correo electrónico de seguimiento a Forbes que cree que este es un problema creciente entre los ejecutivos de alto nivel que piensan que la IA reemplazará o puede reemplazar a los abogados costosos. “Tiendo a dedicar mi tiempo a limpiar el desorden creado por este tipo de acciones”, escribió. “Con la llegada de la IA, los clientes se sienten aún más alentados a intentar manejar las cosas sin nuestro consejo”.
Alan Pentz, un consultor de pequeñas empresas que se ha centrado en el desarrollo de la IA en los últimos años, dijo que la noticia no es sorprendente, dado que es legal, hablando de los grandes modelos de lenguaje de IA “todos encontrados” en los tribunales. En otras palabras, los ejecutivos deben tener cuidado de no compartir información confidencial con grandes modelos lingüísticos como Claude, ChatGPT, Gemini u otros.
“La IA es como la búsqueda, los documentos y el correo electrónico de Google”, escribió Pentz en un correo electrónico a Forbes. “Proceda en consecuencia.”
La decisión también es emblemática de la nueva realidad para empresas de todos los tamaños, dijo Samir Black, fundador de la firma de tecnología Data Pros Consulting y Forseti Verify, con sede en Georgia.
“Este es un nuevo ángulo de ataque… está muy en línea con la nueva era de la investigación”, dijo Black sobre las conversaciones conmemorativas de IA como la de Heppner. “Ya no se trata de archivos en tu máquina. Se trata de conversaciones con IA y chatbots.
¿Quieres tener más éxito? Suscribir al boletín semanal de Forbes Careers para obtener consejos e ideas.
Más sobre Forbes:
