- El informe de seguridad de la IA genera una demanda después de que una startup negara las acusaciones de ciberdelito
- MeetingTV cuestionó a Koi por análisis automatizado de amenazas supuestamente inexacto
- La evidencia faltante se convirtió en un tema central en la controversia del informe de ciberseguridad
MeetingTV presentó una demanda contra Palo Alto Networks y su filial Koi Security en una publicación de blog reciente alegando que el sistema de inteligencia artificial de este último hizo afirmaciones falsas que vinculaban la startup de videoconferencias con una campaña de espionaje china.
Los documentos judiciales describen la publicación como una dependencia imprudente de una herramienta analítica automatizada sin una verificación humana adecuada.
La demanda alega que Koi dependió en gran medida de su plataforma de análisis patentada Wings, que creó vínculos falsos entre MeetingTV y un grupo de delitos cibernéticos llamado DarkSpectre, y según documentos judiciales, la startup afirma que el sistema generó vínculos sin fundamento que se presentaron como evidencia de actividad criminal.
Los resultados generados por IA se convierten en el foco de disputas legales
El fundador de MeetingTV, Michael Robertson, dijo que el informe se basó en datos que parecían provenir de una herramienta de inteligencia artificial sin una verificación humana adecuada.
“Las atribuciones falsas fueron un producto directo de la dependencia no supervisada de Quay”, afirma la demanda, citando su supuesta dependencia del análisis automatizado.
El controvertido informe vinculaba el servicio Zoomcorder de MeetingTV con una campaña que involucraba una extensión de navegador llamada Twitter X Video Downloader.
Sin embargo, la demanda sostiene que la extensión no existía y que Koi no proporcionó pruebas que respalden su conexión técnica.
MeetingTV alega que este elemento faltante constituye la base del argumento de Coe que vincula a la empresa con una campaña generalizada de malware.
La startup también afirmó que Koi no se puso en contacto con la empresa ni le dio la oportunidad de explicar el informe antes de publicarlo.
Después de que el informe apareció en línea, varias empresas de seguridad y proveedores de servicios bloquearon los dominios de MeetingTV, clasificándolos como infraestructura maliciosa.
La empresa afirma que estas acciones afectaron el acceso a sus servicios y dañaron su reputación entre clientes y socios.
Una preocupación generalizada rodea a los informes de ciberseguridad basados en IA
Posteriormente, Koi Security eliminó del informe la referencia al producto Zoomcorder de MeetingTV, aunque la startup argumenta que el daño continuó.
Palo Alto Networks, que adquirió Koi Security en abril, reconoció tener conocimiento de la demanda y al mismo tiempo defendió el proceso de investigación de ciberseguridad de Koi.
La compañía dijo que el trabajo de Coe refleja los esfuerzos para identificar amenazas y espera que la disputa siga procedimientos legales.
Sin embargo, MeetingTV sostiene que el análisis de seguridad automatizado requiere una supervisión más estricta antes de que las decisiones se compartan públicamente.
Los sistemas de IA ya producen información falsa y muchos incluso advierten a los usuarios sobre esta posibilidad, por lo que sus resultados nunca deben presentarse como verdad verificada.
Los investigadores de seguridad dependen cada vez más de herramientas automatizadas para procesar grandes cantidades de datos; sin embargo, validar esas decisiones sigue siendo un desafío persistente y sin resolver.
Si las afirmaciones de MeetingTV fueran sometidas a escrutinio judicial, la disputa podría llevar a un examen más detenido de cómo se generan y revisan los informes de amenazas generados por IA.
Entonces, el consejo es simple: las decisiones analíticas asistidas por IA deben examinarse rigurosamente, especialmente cuando los errores podrían causar daños graves a un individuo u organización.
a través del registro
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed. ¡No olvides hacer clic en el botón de seguir!
Y por supuesto que puedes Siga TechRadar en TikTok Reciba nuestras actualizaciones periódicas en forma de noticias, reseñas, unboxing y videos. WhatsApp muy
