- Usuarios no autorizados reclaman acceso a Claude Mythos de Anthropic
- Los usuarios tienen acceso con supuestos y acceso de terceros
- El modelo es capaz de explotar vulnerabilidades de software a escala.
Usuarios no autorizados han accedido al modelo Mythos de Anthropic, que es capaz de identificar cientos de vulnerabilidades de día cero en el software.
A Bloomberg Los informes, que citan documentación y una persona familiarizada con el asunto, dicen que el modelo está siendo utilizado regularmente por usuarios no autorizados.
El poder de Mythos es tan peligroso que Anthropic ha restringido el acceso al modelo a un puñado selecto de empresas para reforzar sus defensas como parte del Proyecto Glasswing, que puede comenzar a mostrar grietas.
El artículo continúa a continuación.
El proyecto Glasswing muestra grietas
Los antropólogos han afirmado anteriormente que El modelo Mythos “se ejecuta en todos los principales sistemas operativos y en todos los principales navegadores web cuando el usuario así lo indica”.
Para poner esto en perspectiva, el CTO de Mozilla, Bobby Holley, reveló recientemente que Mythos pudo encontrar 271 vulnerabilidades en la última versión de Firefox.
Por eso los mitos pueden ser tan peligrosos en las manos equivocadas. El software permitiría a un actor de amenazas identificar inmediatamente las grietas más vulnerables y explotarlas él mismo o venderlas a otros actores maliciosos.
Bloomberg dijo que los usuarios pertenecen a un grupo interesado en modelos de IA inéditos que han accedido previamente a otros modelos antropomórficos inéditos.
Para acceder a Mythos en particular, los usuarios confían en la experiencia de una persona que ha sido autorizada por una empresa externa para acceder al modelo y al software de Anthropic con fines de evaluación.
El grupo también se basó en los detalles de la violación de datos que afectó a la startup de reclutamiento de IA Markor. El detalle permitió al grupo estimar la ubicación en línea del modelo, al mismo tiempo que utilizaba la experiencia obtenida de otras disposiciones de modelos antropomórficos.
Si bien el grupo ha declarado claramente que no tiene ningún interés en utilizar Mythos con fines maliciosos (y en cambio está interesado en probar el modelo), ha planteado serias dudas sobre la seguridad de Mythos.
“Estamos investigando un informe que alega acceso no autorizado a Claude Mythos Preview a través de uno de nuestros entornos de proveedores externos”, dijo un portavoz de Anthropic en un comunicado, y agregó que la compañía no tiene evidencia de que el acceso se extendiera más allá del entorno de proveedores externos.
Los antropólogos han identificado recientemente esfuerzos de explotación y una conciencia evaluativa oculta dentro del modelo Mythos, al que han denominado características de “manipulación estratégica”.
Siga TechRadar en Google News Y Agréguenos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
