Línea superior
Open AI ha admitido públicamente que su sistema de inteligencia artificial pirateó los servidores de otras empresas de IA por su cuenta y no pudo detenerse hasta que la víctima, Hugging Face Inc., implementó un modelo de China para contrarrestar ciberataques totalmente autónomos.
Sam Altman, director ejecutivo de Open AI.
Imágenes falsas
Hechos clave
Hugging Face, una plataforma de código abierto para inteligencia artificial y aprendizaje automático, De acuerdo a fue pirateado por un sistema de agentes de IA “autónomo” a principios de este mes, que Open AI reconoció el martes modeló su propia inteligencia en un incidente que calificó de “sin precedentes”.
AI abierta dijo su modelo, específicamente el modelo GPT-5.6 Sol centrado en la ciberseguridad lanzado recientemente y aún más capaz, el modelo inédito, se volvió rebelde, irrumpió en el sistema Hugging Face y llevó a cabo un ciberataque sin que se le ordenara hacerlo.
Cuando Hugging Face intentó utilizar un modelo de IA patentado en EE. UU. para ayudar con el ataque, no pudieron “distinguir la respuesta al incidente de la del atacante”, dijo Hugging Face, y la compañía recurrió al modelo GLM 5.2 de código abierto del laboratorio Z.ai de China en busca de ayuda.
Hugging Face ejecuta el modelo chino en su propia infraestructura para analizar más de 17.000 huellas dejadas por los atacantes, y la necesidad de recurrir a productos fabricados en el extranjero ha generado preocupaciones de que las empresas estadounidenses ahora dependan de China para sus defensas cibernéticas.
Desde entonces, los expertos han explicado que el modelo de IA occidental, que es más caro que el de China y propietario, donde Z.ai es de código abierto, se ve obstaculizado por su propia valla de seguridad incorporada, y Hugging Face en el informe del evento recomienda que la empresa cree “un modelo que pueda ejecutar”. en tu propia infraestructura examinado y preparado antes de un incidente.”
Hugging Face ha dicho que los conjuntos de datos internos y las credenciales de servicio se vieron comprometidos en el ataque.
NOTA CRUCIAL
“Este evento, quizás el primero de su tipo, demuestra un punto en el que creemos: la seguridad de la IA no será resuelta por una sola empresa que trabaje en secreto”, dijo en un comunicado el director ejecutivo de Hugging Face, Clem Delangue. “Se resolverá de forma abierta y colaborativa, con un amplio acceso a la IA para todos los defensores, en todas partes”.
RESPONSABILIDAD
Hugging Face publicó su informe del incidente el mismo día en que la startup china Moonshot AI publicó su Química K3 modelo que sacude el mercado global. Moonshot afirma que Kimi K3 es el modelo de IA abierta más grande del mundo y lo posiciona como un desafío directo a los sistemas líderes ofrecidos por Anthropic y Open AI. KimiK3 es un modelo abierto, lo que significa que permite a los desarrolladores descargar, ejecutar y modificar la IA, a diferencia de los modelos propietarios de ChatGPT y Claude, cuyos sistemas básicos son privados. Las acciones de los competidores chinos Moonshot Zhipu y MiniMax se desplomaron el día del lanzamiento de KimiK3, un 28,4% y un 15,6% en las operaciones con sede en Hong Kong, respectivamente. Las acciones de Z.ai cayeron un 28,4%.
Antecedentes clave
Vaya, la IA no puede descansar. La compañía ha pasado gran parte del último año equilibrando rápidos avances técnicos con una corriente de controversia, disputas legales y escrutinio público. La empresa sigue envuelta en litigio de alto perfil con Elon Musk, uno de los primeros cofundadores y patrocinadores financieros, sobre la estructura y dirección corporativa, al mismo tiempo que se defendía contra demanda por derechos de autor de autores, editores y organizaciones de medios que alegan que entrenó modelos de IA en obras protegidas sin permiso. Alguno sénior ejecutivo ha abandonado la empresa y la facturación ha generado dudas sobre la estabilidad de la empresa. Open AI lanzó su último producto (GPT-5.6) a principios de este mes debido a las preocupaciones sobre cuán poderoso es el modelo y los riesgos de seguridad que plantea. Reuters informó que Open AI retrasó el lanzamiento público del modelo después de que el gobierno de EE. UU. solicitara acceso temprano para evaluar si podría representar un riesgo para la seguridad nacional, incluido su uso indebido para ataques cibernéticos o aplicaciones militares. Sólo un grupo limitado de socios examinados recibió acceso inicial, y el inusual despliegue provocó un debate sobre la seguridad de la IA y el papel del gobierno en el control del acceso a los sistemas fronterizos de IA.
Que tener en cuenta
Oferta pública inicial. Open AI está a punto de salir a bolsa en una oferta pública inicial que podría realizarse este año, y esta semana dice que se sumará a ella. David Vélezfundador de Nubank, y Robin Vince, director ejecutivo del Bank of New York Mellon, a la junta directiva. Antes de una IPO, el liderazgo debe abordar el problema incluidas otras inversiones del director ejecutivo Sam Altman, que recientemente fueron objeto de escrutinio por parte del comité de Supervisión de la Cámara de Representantes. Altman, un multimillonario, tiene gran parte de su riqueza invertida en otras empresas emergentes y los legisladores han dicho que les preocupan los conflictos de intereses.
Valoración de FORBES
Altman, que casi no tiene participación financiera en Open AI, tiene un valor estimado de 3.400 millones de dólares. El presidente de OpenAI, Greg Brockman, dijo bajo juramento en mayo que su participación no revelada anteriormente en la compañía valía más de 20.000 millones de dólares (y más cerca de 30.000 millones de dólares) a pesar de no haber invertido ningún dólar en OpenAI.
