- Cisco advierte que los informes de incidentes generados por IA suelen ser inexactos, inconsistentes y vulnerables a la pérdida de datos debido a las limitaciones de LLM.
- La organización recomienda indicaciones granulares de una sola tarea, documentos fuente específicos y reglas de formato estrictas para mejorar la confiabilidad.
- La contaminación cruzada entre informes sigue siendo un desafío, y los investigadores recomiendan nuevas sesiones para cada nuevo informe de incidente para evitar errores.
Cualquier empresa que desee utilizar herramientas de IA para sus informes de seguridad querrá leer un nuevo informe de Cisco que describe su experiencia en el uso de informes de eventos generados por IA.
La compañía advirtió que quienes utilizan IA para crear contenido técnico de formato largo deberían esperar “errores importantes, conclusiones inusuales y estilos de escritura inconsistentes”, en gran parte debido a la naturaleza impulsada por la probabilidad del modelo de lenguaje grande (LLM).
“Estos modelos producen resultados al predecir el siguiente token en una secuencia, generalmente una palabra o subpalabra, basándose en los pesos del modelo y los datos de entrenamiento”, dice Cisco, o, como dice The Register, “son esencialmente un novedoso sistema automatizado que hace conjeturas fundamentadas”.
Qué funciona y qué no
Dado que la IA esencialmente predice la siguiente palabra, según Cisco crea cuatro problemas clave:
- El LLM utiliza datos diferentes para cada nueva pregunta, lo que hace que la coherencia y la estandarización sean un desafío.
- Incluso si se comparten los mismos datos, los resultados siempre serán ligeramente diferentes
- Cada nuevo documento tendrá una estructura y formato diferente, lo que supone otro desafío de estandarización.
- La IA a menudo descarta datos valiosos, alterando los resultados
- Esto no quiere decir que la IA sea inutilizable para informes técnicos extensos, sino todo lo contrario. Aún puede ahorrar a las empresas grandes cantidades de datos, pero la herramienta debe configurarse y optimizarse adecuadamente.
Cisco dice que un mejor enfoque es darle a la IA “instrucciones granulares de una sola tarea enfocadas en una pequeña parte específica del informe”.
La agencia también dijo que los informes de AI no deberían tener libertad para elegir sus fuentes, sino que deberían proporcionar documentos específicos. Finalmente, la IA debería tener instrucciones claras en cuanto a formato y estilo.
“Una prueba ciega de informes de muestra en nuestro proceso de control de calidad no mostró una disminución notable en la calidad general de la redacción”, dijo Cisco.
“Los revisores pares, los editores profesionales y los revisores administrativos comentaron con aprecio el informe sin saber que fue generado por IA. Los revisores pares comentaron que la incidencia de errores tipográficos y gramaticales fue mucho menor que el informe promedio”.
Cisco descubrió otro desafío: cuando se le pide a AI que edite varios informes de muestra en una sola sesión, el contenido del material fuente de un informe se contamina de forma cruzada con otro, “incluso si las notas utilizadas para crear el primer informe se eliminan del documento de referencia del proyecto”.
Para solucionar este problema, los investigadores sugieren iniciar una nueva sesión y volver a ingresar las indicaciones para cada nuevo informe de incidente.
El mejor antivirus para todos los bolsillos
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
