- Los sistemas de IA ahora están diseñando y perfeccionando de forma independiente otros sistemas de IA
- A medida que crece la comprensión humana de la IA, la comprensión humana de la IA se reduce
- Los sistemas de IA pueden modelar el miedo, la incertidumbre y la necesidad de pertenencia humanos
El director científico de Microsoft, Eric Horvitz, y el investigador de la EPFL, Robert West, emitieron una dura advertencia sobre lo bien que entendemos realmente la IA.
Ambos argumentaron que las herramientas de inteligencia artificial ahora están avanzando lo suficientemente rápido como para superar nuestra comprensión de cómo funcionan estos sistemas.
Al mismo tiempo, señalan algo incómodo: la comprensión de la IA sobre el comportamiento humano está creciendo, mientras que la nuestra no.
La complejidad de la IA está creciendo más rápido que la comprensión humana
Su preocupación no es que necesitemos comprender cada línea de código o cada parámetro enterrado dentro de este sistema.
Lo importante, dicen, es tener suficiente conocimiento para mantener una supervisión significativa. Argumentan que incluso una comprensión parcial puede ser genuinamente beneficiosa, especialmente cuando ayuda a detectar los riesgos tempranamente, antes de que estén demasiado arraigados como para deshacerlos.
Un desafío que señalan es la frecuencia con la que se utilizan ahora herramientas de IA para diseñar y mejorar otros sistemas de IA.
A medida que estos ciclos de desarrollo iterativos se vuelven más comunes, el rendimiento puede mejorar mientras que el conocimiento humano de los procesos subyacentes se vuelve cada vez más limitado.
“Los sistemas de IA ahora se diseñan y perfeccionan a través de ciclos iterativos mediante sistemas de IA que pueden exceder la comprensión humana y desplegarse en espacios de alta dimensión que desafían la intuición”, escriben Horvitz y West.
Esta es una forma de opacidad operativa, donde los resultados siguen siendo visibles incluso cuando los procesos que los producen se vuelven difíciles de explicar.
Los investigadores sugieren que, a medida que los sistemas contribuyen a su propio desarrollo, también deberían crear explicaciones y datos de respaldo que los humanos puedan probar.
Otra preocupación es la creciente comunicación entre agentes de IA que operan dentro de entornos interconectados con niveles cada vez mayores de complejidad.
Los investigadores señalaron que la comunicación entre estos sistemas puede alejarse gradualmente del lenguaje y los patrones de razonamiento familiares para los humanos.
A medida que estas interacciones se expanden hacia redes más grandes, comprender cómo surgen las decisiones puede volverse significativamente más difícil para los observadores externos.
Esta deriva crea lo que Horwitz y West llaman opacidad interaccional, donde el comportamiento sigue siendo coherente dentro del sistema de IA pero se vuelve difícil de interpretar de manera significativa para los humanos.
Los investigadores deberían estudiar de cerca estos ecosistemas y fomentar métodos de comunicación que sean inteligibles para los humanos, sostiene el artículo.
La expansión de los ecosistemas de IA podría profundizar el desequilibrio entre máquinas y humanos
Horvitz y West también se centraron en agentes de IA adaptativos que permanecen activos durante largos períodos de tiempo y están profundamente integrados en las actividades diarias.
A través de interacciones repetidas, estos sistemas pueden desarrollar modelos cada vez más detallados de comportamiento, preferencias, motivaciones, miedos y tendencias sociales.
Estos sistemas “pueden captar no sólo las preferencias, sino también factores latentes como el miedo, la incertidumbre y la necesidad de inclusión social”, escribieron.
Esto crea una asimetría creciente en la que los sistemas de IA obtienen un conocimiento profundo de los humanos mientras avanzan en la dirección opuesta a la comprensión humana.
Preocupaciones en torno al LL.M y otros sistemas avanzados se extienden a una mayor conciencia del entorno de evaluación.
Estos modelos pueden eventualmente producir respuestas que reflejen lo que esperan los evaluadores en lugar de procesos de razonamiento subyacentes.
Por lo tanto, los criterios tradicionales deberían complementarse con métodos de prueba que reflejen mejor las condiciones de implementación del mundo real.
La gente puede perder gradualmente el interés en cuestionar las decisiones de la IA a medida que estos sistemas se arraiguen más profundamente.
“La posibilidad más sutil es que gradualmente perdamos interés en comprender y guiar la IA”, escribieron.
En su opinión, el riesgo más importante no es necesariamente la capacidad tecnológica en sí misma, sino si la acción humana sigue su ritmo.
a través de la ciencia
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
