- La IA simula creencias basándose en patrones de evaluación rígidos y estructurados
- Las máquinas aíslan las características humanas en lugar de formar una impresión general
- La eficiencia y la integridad dominan las decisiones tanto en humanos como en IA
Los sistemas de inteligencia artificial modernos no solo procesan datos; Hacen juicios sistemáticos sobre las personas que son similares a sus creencias pero con diferencias importantes.
Se ha publicado un nuevo estudio, de la Universidad Hebrea Actas de la Royal Societyanalizó más de 43.000 decisiones simuladas junto con casi mil participantes humanos en cinco escenarios.
Estas situaciones incluyen decidir cuánto dinero prestarle al propietario de una pequeña empresa, si confiar en una niñera, cómo calificar a un jefe y cuánto donar al fundador de una organización sin fines de lucro.
El artículo continúa a continuación.
Cómo la IA descompone los juicios humanos en columnas separadas
Los resultados revelan que, si bien las herramientas de inteligencia artificial crean cosas que parecen creencias, sus juicios funcionan de manera muy diferente a los nuestros.
Tanto los humanos como la IA favorecían a las personas que parecían competentes, honestas y bien intencionadas, lo que significa que las máquinas capturaban algo real sobre las creencias de las personas.
“Esa es la buena noticia”, afirmó el profesor Yaniv Dover. “La IA no toma decisiones aleatorias. Está capturando algo real sobre cómo las personas se evalúan entre sí”.
Sin embargo, las personas crean una impresión general combinando múltiples características en un juicio único, intuitivo y holístico.
La IA hace algo muy diferente: divide a las personas en componentes, puntuando eficiencia, honestidad y amabilidad, casi como columnas separadas en una hoja de cálculo.
“Las personas de nuestro estudio juzgan a los demás de manera desordenada y holística”, explica Valeria Lerman. “La IA es más limpia, más sistemática y puede conducir a resultados muy diferentes”.
Estas diferencias aparecieron incluso cuando todos los demás detalles sobre la persona eran idénticos.
“La gente definitivamente tiene prejuicios”, dice el profesor Dover. “Pero lo que nos sorprendió es que los prejuicios de la IA pueden ser más sistemáticos, más predecibles y, a veces, más fuertes”.
En situaciones financieras como determinar cuánto dinero prestar o donar, los sistemas de inteligencia artificial muestran diferencias consistentes basadas únicamente en características demográficas.
Las personas mayores a menudo obtuvieron resultados más favorables, la religión tuvo un efecto más fuerte, especialmente en situaciones financieras, y el género también influyó en las decisiones en ciertos modelos.
Otra idea clave es que no existe una única “opinión de IA”. Diferentes modelos suelen emitir juicios diferentes sobre la misma persona.
Esto significa que la elección de un sistema de IA puede moldear silenciosamente los resultados del mundo real. “El modelo que utilices realmente importa”, señala Lerman.
Ya se están utilizando grandes modelos lingüísticos para seleccionar a los solicitantes de empleo, evaluar la solvencia crediticia, recomendar intervenciones médicas y guiar las decisiones organizativas.
El estudio sugiere que la IA puede imitar la estructura de los juicios humanos, haciéndolo de una manera más rigurosa y menos matizada, con sesgos que pueden ser más difíciles de detectar.
“Estos sistemas son poderosos”, dijo Dover. “Pueden modelar aspectos del razonamiento humano de manera coherente. Pero no son humanos, y no deberíamos asumir que son humanos tal como los vemos”.
A medida que las herramientas y los agentes de IA pasan de ser asistentes a tomar decisiones, comprender cómo “piensan” se vuelve fundamental para las organizaciones que las implementan a escala.
Los investigadores subrayan que sus hallazgos no son una advertencia contra la IA, sino más bien un llamado a la concienciación.
Dicho esto, la cuestión ya no es si confiamos en las máquinas; Así entendemos cómo creen en nosotros.
Siga TechRadar en Google News Y Agréguenos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
