Las acciones de algunos podrían tener implicaciones de gran alcance en la confianza del público en la IA.
getty
La policía británica sacó a un oficial del frente y abrió una investigación criminal sobre el presunto uso de IA para crear pruebas en varios casos. La policía de Derbyshire calificó las acusaciones de perversión del curso de la justicia. No se han realizado arrestos. La Fiscalía de la Corona, que decide qué acusar en Inglaterra y Gales, dijo que estaba trabajando con los equipos de defensa y los tribunales en los casos que podrían verse afectados. Este es el primer caso conocido en la justicia penal británica.
El caso girará en torno a lo que pretendía un oficial. El problema que reveló era más grande que el de un oficial, pero tenía una solución simple.
Los registros originales son evidencia real
Las fuentes de transcripción original, audio de cámaras corporales, entrevistas grabadas y notas sin editar son la evidencia. Cuando un modelo convierte esa fuente en una declaración escrita limpia, esa declaración es un derivado. Copias que han pasado por un proceso que no puedes ver. Si la fuente se conserva y permanece en la cadena de custodia, puede reproducirla nuevamente y comparar la versión de IA con lo que realmente decía. Si la fuente ha desaparecido, la descendencia es todo lo que tienes y se demuestra por sí misma.
Esta es la vieja doctrina forense digital con ropa nueva. Mantenlo original. Trabajar a partir de una copia. Regreso al origen para resolver cualquier disputa. La IA no cambia las reglas. Esto hace que la regla tenga carga, porque la copia ahora se escribe sola y puede alejarse de la fuente sin que nadie la toque de mala manera.
La IA no puede ser interrogada: los humanos deben responder
La preservación es la mitad. La otra mitad son personas. La prueba en los casos penales debe ser patrocinada por un ser humano que pueda jurar que es exacta y responderla en el contrainterrogatorio. La defensa llegó a hacerle al oficial una pregunta inocente. ¿El testigo dijo esto, con estas palabras, o el software escribió de esta manera? El oficial debe responder, bajo juramento, y la grabación queda ahí para su inspección. Los modelos no pueden prestar juramento, no pueden ser cuestionados y no se les puede responsabilizar. Saca a los humanos de ese círculo y te quedarás con un documento que nadie podrá hacer frente.
Sin la fuente, los errores de la IA parecen idénticos a las fabricaciones de la IA
Sin el original con el que comparar, los errores honestos y las fabricaciones deliberadas parecen idénticos en la página. Un modelo que suaviza la duda de un testigo hasta convertirla en una afirmación llana, y el oficial que edita la cita para que signifique que nunca fue así, produce el mismo párrafo claro. Los descuidados y los corruptos no pueden separarse. Las fuentes conservadas son lo que los separa, y esa es la misma solución para ambos.
La herramienta de redacción de informes de IA más utilizada por la policía estadounidense es Draft One de Axon, un flujo de trabajo diferente al de Derbyshire, pero con sus propios problemas de auditoría. Cuando el funcionario exporta el informe completo, el sistema elimina el borrador inicial. La Electronic Frontier Foundation, o EFF, un grupo de libertades civiles que revisó la herramienta, descubrió que las agencias a menudo no podían determinar qué informes contaban con la ayuda de AI. El producto publica un seguimiento de auditoría como característica. Es lo opuesto a la preservación. Diseñado para eliminar un artefacto que puede comprobar la salida.
Este informe ha fallado abiertamente. Un informe policial generado por IA muestra a un oficial transformándose en una rana, el tipo de error que es bastante obvio de detectar al salir por la puerta. El error importante es el que tiene sentido, y eso es exactamente lo que el borrador eliminado te permitirá comprobar.
La policía ya tiene un ejemplo directo de que la herramienta útil es responsable porque la minoría abusa de ella. Flock Safety opera una red nacional de cámaras automatizadas de lectura de matrículas intervenidas por miles de departamentos. Una verdadera habilidad. También lo son los registros de mal uso. La EFF documentó búsquedas que localizaron a manifestantes, cientos de interrogatorios plagados de insultos raciales y preguntas dirigidas a personas que buscaban atención reproductiva. Una auditoría en un condado de California encontró que los comerciantes revelaron por error datos locales a agencias de fuera del estado cientos de miles de veces, y algunos de los hallazgos citaron la aplicación de medidas de inmigración. Los agentes individuales han utilizado cámaras para perseguir intereses románticos.
La mayoría de los departamentos utilizan Flock en la política. No importa. El resultado fue tortura con múltiples demandas, contratos cancelados, prohibiciones en todo el estado y el público ahora trata a toda la red como sospechosa. Un puñado de malos actores ponen las condiciones para todo.
La evidencia de la escritura de IA se encuentra en el mismo lugar. Algunos oficiales fabrican con IA, además de una gran cantidad de errores honestos que nadie puede detectar porque no se guarda la fuente, suficientes para que los jueces y jurados no crean en todas las declaraciones asistidas por IA, incluidas las precisas. El oficial de Derbyshire, si la acusación, es más que un problema para su propio caso. Es una vista previa de la factura de todo el sistema de pago si se pierde el cheque.
La Ley de Evidencia de IA y la Regla Federal 707 llegan tarde
Los abogados y legisladores estadounidenses están avanzando lentamente. Los fiscales del condado de King en el estado de Washington se niegan a aceptar narrativas policiales generadas por IA. California se convierte en el segundo estado, después de Utah, en exigir una divulgación por escrito cuando AI presenta un informe policial. El poder judicial federal ha propuesto la aprobación de la Regla Federal de Evidencia 707, cuyo objetivo es mantener las pruebas generadas por máquinas al mismo nivel de confiabilidad que el testimonio de expertos antes de que las vea un jurado. Las reglas de divulgación y los estándares de confiabilidad ayudan. Nada recupera los recursos eliminados.
Cada caso abordado por los funcionarios de Derbyshire debe ahora ser desmantelado, porque nadie puede repetir el original y escuchar las palabras de los testigos. Multiplique eso por que cada departamento realice entrevistas a través de IA y descarte recursos al salir. El registro sigue siendo autorizado. Aún falta la prueba de lo que dicen. Conserve el registro original, coloque a un humano que pueda ser interrogado junto a él y la mayor parte de este riesgo desaparecerá. Deshazte de eso y algunos malos actores podrán decidir hasta qué punto pueden confiar en el resto.
