- Los sistemas de IA desarrollables se adaptarán, reproducirán y competirán por la supervivencia digital
- Las bacterias han desarrollado antibióticos en el pasado y la IA evolucionará más allá de los controles humanos.
- La IA seleccionará rasgos que escapen a cualquier intento imperfecto de control reproductivo
Un nuevo estudio publicado en Proceedings of the National Academy of Sciences advierte que pronto podrían surgir sistemas de inteligencia artificial capaces de realizar una evolución darwiniana.
A diferencia de la actual tecnología de IA, que sólo aprende de conjuntos de datos específicos, estos sistemas futuros se adaptarán, reproducirán y competirán activamente entre sí para sobrevivir.
“Creemos que es inevitable que el desarrollo de sistemas de IA acabe aprovechando ese poder”, afirmó Luc Stiles, profesor emérito de IA en la Universidad de Bruselas.
El artículo continúa a continuación.
Por qué la IA en evolución puede escapar al control humano
Las fuerzas de la evolución, sostienen los investigadores, ya han creado capacidades cognitivas humanas a través de miles de millones de años de selección natural.
“Las lecciones de la evolución biológica nos enseñan que los sistemas de IA en evolución serán particularmente difíciles de controlar”, afirmó Viktor Müller, profesor asociado de la Universidad Eötvös Lorand.
Piense en cómo las bacterias han desarrollado resistencia a los antibióticos, o los insectos se han vuelto resistentes a los pesticidas: los humanos han intentado detenerlos, pero la evolución ha encontrado una manera de evitar cada intento, y lo mismo sucederá con la IA, argumentan los investigadores.
Cualquier intento de controlar la reproducción de la IA probablemente favorecerá rasgos que ayudarían a la IA a escapar, a menos que el control sea perfecto.
Peor aún, hacer que la IA sea más inteligente hará que los humanos sean mejores a la hora de hacer trampa.
Esto crea un peligroso circuito de retroalimentación en el que los sistemas inteligentes se vuelven más difíciles de contener y la velocidad potencial de la evolución de la IA es profundamente preocupante.
La evolución biológica es lenta porque se basa en mutaciones aleatorias; La evolución de la IA no requiere mutación.
Una bacteria no puede decidir volverse resistente; Tiene que esperar a que le ocurra un accidente afortunado a su ADN, pero la IA evolutiva no tendrá esa limitación; Puede heredar directamente las mejoras aprendidas y rediseñarse según lo previsto.
Puede evolucionar miles o incluso millones de veces más rápido que cualquier especie natural.
Los sistemas digitales pueden compartir instantáneamente comportamientos aprendidos entre toda su población.
Si una IA descubre una manera de escapar del control humano, todas las demás IA pueden aprender ese truco inmediatamente.
Esto es imposible en la naturaleza, donde cada organismo debe desarrollar sus propias soluciones, y es un riesgo que conviene evitar.
IA desarrollable vs AGI
Gran parte del debate público actual sobre los peligros de la IA se centra en un hipotético momento futuro en el que las máquinas superen la inteligencia humana en todas las tareas.
Ese umbral se llama inteligencia artificial general, o AGI, y muchos expertos creen que faltan décadas para alcanzarlo.
Sin embargo, los estudios advierten que la IA evolutiva puede romper la alineación con los objetivos humanos mucho antes de que llegue la AGI, porque los sistemas de IA y la humanidad ya comparten recursos comunes como energía, potencia informática y datos, y un sistema de IA autorreplicante eficiente, tarde o temprano, quitará recursos que son vitales para la supervivencia humana.
“Si no actuamos, podríamos ser testigos de un nuevo cambio importante en la evolución”, advirtió Yers Sathmari, profesor de biología evolutiva.
En esa transición, la IA en evolución podría reemplazar o al menos dominar a los humanos.
Los investigadores recomiendan que la cría de IA debe estar bajo un control humano perfecto y centralizado. Ningún sistema parcial funcionará porque la evolución encontrará y explotará cualquier debilidad en esos controles.
El estudio es una advertencia, no una predicción, pero la biología evolutiva nunca se ha equivocado acerca de la lógica implacable de la selección natural.
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
