Una de las figuras clave en el centro del auge de la IA es Jensen Huang, cofundador y director ejecutivo de Nvidia. Su empresa fabrica GPU que sobresalen en entrenamiento e inferencia, y son el núcleo de la infraestructura y el desarrollo de energía. Como muchas figuras destacadas, Huang ha aceptado los riesgos que plantea esta tecnología.
“Creo que hemos hecho mucho daño con gente muy respetable que pinta una narrativa apocalíptica, una narrativa mundial, una narrativa de ciencia ficción. Y aprecio que muchos de nosotros crecimos y disfrutamos de la ciencia ficción, pero eso no ayuda”.
El riesgo existencial de la IA
No se puede negar que, como ocurre con cualquier tecnología nueva, el despliegue y uso generalizados de la IA conlleva enormes riesgos. Sin embargo, ninguna otra tecnología parece tener la intensidad que ha atraído la IA. Hablando en el podcast sin previoEl jefe de Nvidia critica las narrativas dominantes de ” fatalidad “
cita del dia
Este artículo es parte del proyecto QOTD de TechRadar Pro que brinda información sobre las mentes de las personas más brillantes y reconocidas de la industria tecnológica hoy y a lo largo de los años. Lea la serie completa aquí.
Es famoso que un grupo de científicos y líderes de la industria tecnológica firmaron una carta abierta en 2023 en la que afirmaban que la IA podría conducir a la extinción de la humanidad y debería considerarse junto con otros riesgos a escala social, como la guerra nuclear. Entre los firmantes se encontraban Elon Musk, Sam Altman y Bill Gates. Un ausente notable fue Huang.
Su opinión, que expone en el podcast, es que muchos de estos temores están fuertemente influenciados y fuertemente influenciados por la ciencia ficción del siglo XX.
¿Es realmente demasiado el riesgo?
Gran parte del miedo asociado a la IA hoy en día no está ligado a sus capacidades, sino a la Inteligencia General Artificial (AGI, por sus siglas en inglés), más especulativa. Esta forma de IA, en teoría, replicaría la inteligencia humana, operaría de forma autónoma, modificaría su propio código y establecería sus propias metas y objetivos hacia los cuales puede trabajar.
Las posibles consecuencias son drásticas, pero siguen siendo difíciles de alcanzar y probablemente no ocurrirán hasta dentro de 10 o 15 años, según algunos, mientras que otros sugieren que podría ocurrir mucho antes. De cualquier manera, Huang tiene razón al sugerir que los despliegues actuales de IA son demasiado primitivos y requieren demasiada ayuda humana para que perdamos el control. Dicho esto, la IA agente ofrece una nueva capa a la superficie de ataque corporativa, cuanto más la adoptan las organizaciones y más vulnerable es a futuras vulnerabilidades.
