- El director ejecutivo de JPMorgan, Jamie Dimon, advirtió que Claude Mythos podría necesitar regulación
- El modelo de IA de Anthropic es muy avanzado y se ha demostrado que detecta vulnerabilidades de día cero e incluso desarrolla exploits.
- El gobierno de Estados Unidos ordenó previamente a Anthropic bloquear la entrada de ciudadanos extranjeros, citando preocupaciones de seguridad.
La inteligencia artificial se está volviendo cada vez más poderosa, un hecho que se puso de relieve con la reciente directiva del gobierno de EE. UU. de limitar el acceso al modelo Claude Mithos de Anthropic.
Ahora, el director general de JPMorgan ha descrito los riesgos de la tecnología como un “problema real” y ha comparado el acceso generalizado a la IA con “dar a la gente misiles balísticos”.
En su intervención en la Cumbre de Innovación y Defensa de Pensilvania, Jamie Dimon de JPMorgan enfatizó los riesgos que plantea la IA, que ya ha demostrado detectar y explotar los desafíos de ciberseguridad.
Mitos no es Skynet
Actualmente, Claude Mythos se limita a una pequeña selección de organizaciones, empresas y departamentos federales y militares. El acceso público a la IA está bloqueado y el acceso global está bloqueado debido a posibles problemas de seguridad con esta poderosa IA.
Cloud Mythos no es una amenaza que pueda volverse consciente de sí misma y poseer equipo militar como el ficticio Skynet. terminador Serie de películas. Sin embargo, tiene la capacidad de causar mucho daño en las manos equivocadas.
La IA es capaz de detectar e informar sobre vulnerabilidades de seguridad cibernética; Es capaz de generar absorción automática. Entonces, para los analistas de seguridad cibernética de sombrero blanco, es una poderosa herramienta defensiva, pero en las manos equivocadas, es una fuerza destructiva. Además, sus capacidades automatizadas hacen que sea más rentable para los sombreros negros ampliar sus operaciones de cibercrimen y combatir el ransomware, el phishing y otras estafas basadas en datos.
No es sólo en la ciberseguridad donde la IA Claude Mithos de Anthropic ha demostrado capacidades tan increíbles. En la investigación científica, particularmente en biología, los atacantes pueden usar la IA para traducir conceptos complejos en terminología, potencialmente abusando de los datos.
También existe el desafío de un desequilibrio estratégico entre países individuales o empresas que tienen un acceso monopólico a la tecnología.
¿Podrá el público acceder alguna vez a Claude Mythos de Anthropic?
Debido a consideraciones de seguridad, es poco probable que Claude Mythos esté disponible públicamente en el corto plazo. Sin embargo, Anthropic ya ha dicho que quiere que las características y habilidades de nivel Mythos estén más disponibles.
Sin embargo, para que esto suceda es necesario desarrollar e implementar varias salvaguardias.
El escenario más probable es que el acceso público a Mythos finalmente se desbloquee, con restricciones en ciertas características relacionadas con la ciberseguridad y el trabajo e investigación biológico/médico.
El Proyecto GlassWing ya está trabajando con un puñado de socios clave (incluidos Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike y otros) y probablemente se expandirá hasta que se demuestre que las salvaguardas son adecuadas para su propósito y para uso público.
a través de Reuters
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
