Los agentes de IA crean nuevos desafíos para los expertos en ciencia forense digital.
getty
Los agentes de IA pueden usar las computadoras de dos maneras: no crear registros que los examinadores forenses digitales utilicen para demostrar que una persona hizo algo, o crear registros que parezcan que las personas lo hicieron. Después de todo, el motivo de la siguiente sala del tribunal se instaló en una computadora común y corriente.
La advertencia proviene de Ovie Carroll, instructor principal del Instituto SANS, coautor del curso de análisis forense de Windows y director del laboratorio de delitos cibernéticos del Departamento de Justicia, escribiendo a título personal. En un nuevo artículo, explicó el motivo del nombre: SAIDI, abreviatura de “alguna inteligencia artificial lo hace”. El abogado se ha apoyado en sus antepasados durante décadas. SODDI, “alguien más lo hizo”, es el argumento de que el Wi-Fi está abierto, la cuenta está compartida, el malware es el responsable, cualquiera menos el acusado está frente al teclado. El sucesor del desconocido intercambio humano por el asistente de IA autoinstalado por el usuario.
El artículo se basa en una prueba controlada. En una máquina con Windows 11, Carroll coloca un documento de Word en una carpeta de OneDrive e indica al agente de IA, el marco OpenClaw de código abierto que ejecuta Claude de Anthropic, que abra el documento, agregue un párrafo de resumen y lo guarde. Los agentes hacen el trabajo. Simplemente nunca funciona como lo hace una persona. En lugar de abrir Word, reescribe el archivo a través de la biblioteca del programa en una sesión invisible de PowerShell, un tipo de proceso silencioso que se ejecuta sin ventanas ni clics. Cambios de documentos. Los cambios se sincronizan con la nube. Después se inicia Word sólo para mostrar el archivo completo.
Los registros que Windows crea cuando los humanos abren documentos, archivos de acceso directo, listas de documentos recientes, entradas de registro alcanzadas por el primer verificador, nunca se crean. Un examinador que se base en ellos informará que el documento nunca fue abierto. Esa conclusión sería falsa y Carroll realiza una prueba para demostrar lo fácil que es.
Los archivos en tu carpeta ya no prueban que los tocaste
Las disputas sobre evidencia digital a menudo se reducen a evidencia de atribución o quién estaba frente al teclado. El caso de empleo gira en torno a quién copió la lista de clientes. La investigación de fraude gira en torno a quién editó la factura. Durante años, los auditores han respondido con el equivalente digital de las huellas, el rastro de los registros del sistema operativo que quedan cuando las personas hacen clic en carpetas y abren archivos.
Algunos agentes no dejan esa huella porque no cruzan la puerta principal, mientras que diferentes agentes pueden impulsar la Palabra como una persona y dejar un registro que parece humano.
El error opuesto es igualmente peligroso. Una hoja de cálculo modificada se encuentra en la carpeta personal de alguien como evidencia de una acción personal. Puede ser el trabajo del asistente que actúa siguiendo instrucciones vagas o sin instrucciones que recuerda dar.
Carroll describe claramente dos modos de falla: una verificación que no encuentra ningún registro y concluye que no pasó nada, y una verificación que encuentra el archivo y concluye que el usuario lo creó. Se puede culpar a personas inocentes por lo que el software le hizo a su cuenta. Los culpables pueden señalar un copiloto de IA instalado por su empleador.
Lo que realmente responde ‘La IA por qué eso’
En la prueba de Carroll se puede recuperar la verdad. Aquí no es donde suelen mirar los examinadores. El sistema de archivos cambia los registros del diario y los reescribe al segundo. El registro de eventos captura sesiones silenciosas de PowerShell. El agente mantiene su propio registro de sesiones, guardando las palabras de los comandos escritos. Tres registros independientes, cada uno creado por un sistema diferente, contaron una historia consistente.
La respuesta a la defensa de SAIDI es el trabajo posterior de la herramienta: diario de cambios, registro de eventos y registros de sesiones de agentes que capturan lo que realmente se ejecutó. Si bien los registros de la prueba de Carroll establecen que se dio una instrucción y que el agente la llevó a cabo, no determinan quién escribió la instrucción ni si esa persona entendió lo que haría el agente.
Los tribunales se preparan para pruebas generadas por máquinas
El tribunal federal vio parte de esta visita y luego dudó. La Regla Federal de Evidencia 707 propuesta mantendría la evidencia generada por máquina con el mismo estándar de confiabilidad que el testimonio de expertos humanos, y después de comentarios públicos mixtos, el comité retiró la regla para realizar más estudios. Las batallas por la atribución de agentes podrían llegar a los tribunales años antes de que esté lista alguna norma, y los tribunales han tenido problemas con la evidencia digital ordinaria.
El propio agente nunca explicará una de las gradas. La Regla Federal de Evidencia 603 requiere que cada testigo haga un juramento diseñado para vincular la conciencia, y el software no tiene una conciencia que vincular. Vale la pena recordar la línea de Carroll al respecto: sin rendición de cuentas no hay testimonio, sólo resultados.
Los agentes ya están aquí, leyendo archivos y compilando documentos con cuentas de usuario normales en computadoras normales. En algún lugar de la actividad se encuentra el primer caso que determina si una persona o un agente de IA toca un archivo. Si el examinador se detiene en las huellas que faltan, el coste de la respuesta incorrecta recaerá en quién necesita la correcta.
