- Nvidia y Microsoft encabezan la lista de miembros fundadores de Open Secure AI Alliance
- IA, servicios financieros, empresas de tecnología y otras empresas que desarrollan servicios de IA se han unido a la alianza
- Las excepciones notables incluyen OpenAI, Anthropic y Google.
Nvidia ha confirmado su membresía en la nueva Open Secure AI Alliance, un consorcio de empresas tecnológicas, financieras y de inteligencia artificial líderes en la industria que trabajan en colaboración para garantizar la apertura en la industria de la inteligencia artificial. Sin embargo, curiosamente, Microsoft y OpenClaw se encuentran entre los miembros fundadores, no Google, OpenAI y Anthropic.
Inspirada en el movimiento de código abierto y la iniciativa de respuesta a amenazas cibernéticas Akrites AI liderada por la Fundación Linux, la Open Secure AI Alliance tiene como objetivo utilizar tecnologías abiertas para exponer y remediar vulnerabilidades.
Citando el reciente incidente de Hugging Face, donde las herramientas cerradas de IA impidieron una investigación completa del evento, el anuncio de establecer la Open Secure AI Alliance subraya la importancia del modelo abierto, destacando cómo la ciberseguridad es uno de los principales beneficiarios del software de código abierto.
Último vídeo deTecnologíaRadar
¿Una respuesta de cara abrazable?
Un gran grupo de empresas reconocidas participan en Open Secure AI Alliance, incluidas OpenClaw, Palantir, Palo Alto Networks, Microsoft, Crowdstrike, IBM, Linux Foundation y Hugging Face.
En esta lista se destacan Google y Palantir y, por supuesto, OpenAI, que fue responsable del ataque Hugging Face. El incidente ocurrió durante las pruebas comparativas de ciberseguridad y provocó un ataque totalmente automatizado a los servidores faciales que abrazan el modelo de OpenAI, lo que sirvió como una demostración importante de lo que está en juego en el mundo de la IA desde un modelo de código cerrado.
“Cuando los defensores no pueden inspeccionar, adaptar y ejecutar IA avanzada en su propia infraestructura, su capacidad de reaccionar se ve limitada en el momento en que la velocidad es más importante”, dice la Open Secure AI Alliance, que enfatiza su misión: “garantizar que los defensores en todas partes tengan herramientas abiertas y fronterizas en las que puedan confiar y controlar”.
La falta de apertura de OpenAI para abordar el fenómeno y la dificultad inicial de Hugging Face para analizar las intrusiones debido al modelo de código cerrado realmente subrayan la importancia de esta nueva alianza.
Abierto versus cerrado
No es probable que el debate sobre los modelos de software abiertos y cerrados termine pronto, pero la Open Secure AI Alliance ciertamente defiende los modelos abiertos. Sí, pueden ser un riesgo que se puede modificar o abusar, pero esos riesgos existen dentro de sistemas cerrados.
Por lo tanto, el enfoque de la coalición es dar a los defensores las herramientas para contrarrestar las amenazas en lugar de bloquear esas herramientas. Como lo han demostrado décadas de investigaciones sobre ciberseguridad, la mejor opción es la colaboración y las pruebas o, como dice la Open Secure AI Alliance, “el camino más seguro es el que permite a más defensores probar, verificar y fortalecer los sistemas de los que depende la sociedad”.
Dado el papel de OpenAI en el incidente de Hug Face, su ausencia tiene sentido, pero ¿qué pasa con Google y Anthropic? En un momento en que la colaboración corporativa está impulsando el desarrollo de nuevas tecnologías dentro de estándares estrictos (por ejemplo, el trabajo de Connectivity Standards Alliance con Matter y Aliro), parece que Open Secure AI Alliance tiene la idea correcta.
Siga TechRadar en Google News Y Agréguenos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
