Todos estamos muy familiarizados con los escenarios apocalípticos de la IA, popularizados por los escritos y las películas de ciencia ficción. Pero sólo en los últimos años los expertos han considerado seriamente una posibilidad casi nula de que se produzca un desastre de IA.
Aunque Sam Altman tiene un historial mixto en materia de seguridad de la IA, siempre ha sido un firme defensor de los controles y equilibrios, al menos en público.
“Creo que la IA probablemente conducirá al fin del mundo. Pero mientras tanto, se construirán grandes empresas con un aprendizaje automático serio”.
Gran promesa económica
Con herramientas como el aprendizaje automático y la automatización robótica de procesos (RPA) ampliamente consideradas habilitadores clave en la era empresarial anterior, durante mucho tiempo hemos considerado las herramientas de inteligencia artificial como una gran ayuda para la productividad empresarial.
Unos meses antes de cofundar OpenAI, Sam Altman, director de la famosa incubadora Y Combinator de Silicon Valley, bromeó sobre la gran variedad de resultados futuros de los sistemas de IA.
cita del dia
Este artículo es parte del proyecto QOTD de TechRadar Pro que brinda información sobre las mentes de las personas más brillantes y reconocidas de la industria tecnológica hoy y a lo largo de los años. Lea la serie completa aquí.
En aquel entonces, el aprendizaje automático era relativamente inmaduro y los modelos de lenguajes grandes (LLM) no habían visto la luz.
Desde entonces, sin embargo, hemos visto, al menos, parte de su predicción hacerse realidad, con la valoración de muchos grandes nombres de la tecnología y el aumento de las construcciones de IA, lideradas por Nvidia, Google, Microsoft y más.
Requerido por seguridad
D Tiempos financieros publicó recientemente un gráfico que captura perfectamente el comentario de Sam Altman de hace una década, que hizo durante una entrevista con el entonces CTO de AirBnB, Mike Curtis, en la conferencia Open Air 2015 de la empresa.
A medida que avanza el LLM impulsado por redes neuronales, los científicos y expertos en políticas públicas toman muy en serio el potencial de riesgo existencial de la IA, y los investigadores han comenzado a proyectar el nacimiento de AGI en las próximas décadas.
Si bien Sam Altman ha promocionado constantemente la necesidad del mundo de priorizar la seguridad de la IA en público, también es cierto que, en privado, existen preocupaciones sobre si la aceleración de los productos compromete esta posición de priorizar la seguridad. Fue en noviembre de 2023 cuando la junta directiva de OpenAI destituyó a Altman, para volver días después a dirigir la empresa.
