Línea superior
Estados Unidos levantó las restricciones a la exportación de los modelos Mythos Anthropic el martes por la noche, lo que permitió a la compañía comenzar a restaurar el acceso de los usuarios a sus nuevos modelos más avanzados, según el Secretario de Comercio. Howard Lutnick dijo La administración Trump está trabajando con la firma de IA para “analizar y aprobar” el modelo.
El gobierno de EE. UU. golpeó a Anthropic con una prohibición de exportación días después de que el modelo Fable 5 fuera lanzado al público en general debido a preocupaciones de ciberseguridad.
NurPhoto a través de Getty Images
Hechos clave
antrópico lanzó Fábula 5El modelo basado en el poderoso modelo Mythos, a principios de junio, dijo que incluye características de seguridad que impiden a los usuarios preguntar sobre ciberseguridad, así como sobre la biología y la química necesarias para crear armas biológicas.
Sin embargo, el Departamento de Comercio rápidamente obligó a la compañía a retirar el modelo después de emitir una prohibición de exportación unos días después.
en uno publicación de blog El martes, Anthropic proporcionó más detalles sobre los problemas de seguridad que llevaron a la prohibición de exportación en primer lugar, incluida la confirmación de que se produjeron después de que el gobierno “se dio cuenta” del informe de los investigadores de Amazon, que lograron eludir el mecanismo de seguridad de Fable 5 e identificar vulnerabilidades de software. explotado.
Sin embargo, la técnica específica utilizada por los investigadores de Amazon está ahora “bloqueada en más del 99% de los casos”, afirmó Anthropic el martes.
En la segunda carta enviada al CEO Dario Amodei obtenida por alguno salidaLutnick dijo que la compañía está trabajando con el gobierno para “abordar los riesgos” asociados con el nuevo modelo.
¿Cuándo volverán a estar disponibles los modelos Mythos?
El Mythos 5, una versión más poderosa del último modelo de Anthropic con más protección, lo proporciona lo que la compañía llama “un pequeño número de socios confiables del Proyecto Glasswing para su uso en ciberseguridad de defensa”. Project Glasswing está formado por un gran grupo de empresas que reciben acceso temprano a tecnología para ayudar a identificar riesgos. Fable 5, una versión con mayor protección, estará disponible para el público en general a partir del miércoles, dijo Anthropic.
contras
Desde que Anthropic comenzó a ofrecer vistazos de su modelo Mythos a principios de este año, los críticos han criticado a la compañía por supuestamente generar exageración al hablar de lo peligroso que podría ser el modelo en las manos equivocadas. Sam Altman, director ejecutivo de OpenAI, uno de los mayores rivales de Anthropic, sugirió que la compañía estaba participando en un “marketing basado en el miedo” en una aparición en Podcast de memoria central en abril. Respondiendo a una pregunta sobre los titulares generados por Mythos a principios de este año, Altman dijo: “Es, ya sabes, un marketing increíblemente claro que dice: “Hemos construido una bomba”. Te lo dejaremos caer en la cabeza. Le venderemos un refugio antiaéreo por 100 millones de dólares.
Antecedentes clave
La noticia del martes podría señalar un nuevo comienzo para Anthropic, que ha estado en desacuerdo con la administración Trump durante meses por su uso de modelos de inteligencia artificial. En marzo, el Pentágono nombró a una empresa riesgo de la cadena de suministro Siguió una disputa entre funcionarios del Departamento de Defensa y la firma AI, que se negó a permitir que el gobierno tuviera acceso irrestricto a sus modelos. antrópico tiene varias veces mencionado no permitirá que su modelo se utilice para armas autónomas o vigilancia masiva de estadounidenses. La noticia también ofrece una señal positiva ya que la empresa se prepara para lo que podría ser una oferta pública inicial de gran éxito.
