¿Puedes notar la diferencia entre un rostro generado por IA y una persona real?
Los principales avances en inteligencia artificial están impulsando imágenes, videos y audio hiperrealistas, lo que dificulta distinguir lo que es genuino y artificial.
Estas representaciones falsas, como las que hemos visto en las escuelas y en los primeros casos de este tipo que involucran a víctimas de alto perfil, presentan enormes riesgos.
Vea las noticias con la aplicación 7NEWS: descárguela hoy
“El fraude deepfake es un problema real y creciente”, dijo a 7NEWS.com.au el Dr. James Dunn, director del laboratorio IDeA de la UNSW Sydney.
“Los rostros generados por IA pueden hacer más creíbles los perfiles falsos, las estafas románticas y las campañas de desinformación, e Interpol informa que ya se están utilizando imágenes artificiales en esquemas de ingeniería social en todo el mundo”.
Según un estudio del Commonwealth Bank, uno de cada cuatro australianos dice haber sido víctima de una estafa deepfake en los últimos años.
En la batalla en curso contra el fraude deepfake, un equipo de investigadores dirigido por el Laboratorio de Rostros y Emociones de la Universidad Nacional Australiana (ANU) dice haber capacitado con éxito a personas para identificar lo que es real y lo que es falso como persona.
“El entrenamiento sobre artefactos visuales, como la detección de un sexto dedo o un pendiente extraño, ha tenido un éxito limitado, en parte porque la IA se está volviendo tan buena que los estafadores aún pueden evitar el uso de imágenes con defectos obvios”, dijo la investigadora principal, la profesora asociada Amy Dowell.
Se pidió a las personas en el estudio que pensaran en seis sentidos en lugar de buscar una señal de “don único”.
Dunn describe cada uno de ellos a continuación:
Simetría: “Los rostros generados por IA suelen ser ligeramente simétricos. Los rostros reales suelen tener pequeñas asimetrías naturales: una sonrisa ligeramente desigual, un párpado más bajo que el otro u otras rarezas sutiles. Si un rostro parece casi perfectamente equilibrado, vale la pena mirarlo más de cerca”.
Proporcionalidad: “Tiene que ver con cómo se forman y posicionan los rasgos faciales. Si bien la IA a veces puede producir proporciones inusuales, generalmente produce rostros con rasgos muy equilibrados y de proporciones convencionales. La variación humana natural a menudo excede lo que produce la IA”.
Atractivo: “Los rostros generados por IA con frecuencia parecen inusualmente atractivos o pulidos. Esta es una característica subjetiva, pero muchos rostros de IA tienen una apariencia idealizada y muy atractiva que se siente casi ‘demasiado perfecta'”.
Distinción: “Piense en lo que haría que un rostro fuera memorable o reconocible entre una multitud. Los rostros generados por IA a menudo gravitan hacia características de apariencia promedio, haciéndolos parecer más genéricos y menos distintos individualmente”.
expresión: “Los rostros de IA a menudo muestran emociones relativamente apagadas o contenidas. Pueden sonreír o fruncir el ceño, pero las expresiones pueden carecer de las señales emocionales sutiles y la complejidad que es común en las fotografías reales”.
Memorabilidad: “Estrechamente relacionados con el carácter distintivo, los rostros generados por IA son increíblemente difíciles de recordar. Debido a que tienden a tener rasgos promedio, no dejan una impresión mental tan fuerte como muchos rostros reales”.
Debido a que los rostros generados por IA se han vuelto tan convincentes, Dunn dijo que “a menudo es la impresión general lo que importa, no un defecto obvio” al tratar de distinguirlos.
“Un punto importante que enfatizamos es que estas características se superponen intencionalmente y son subjetivas”, dijo.
“Sólo hay un ‘indicador’ que identifica una imagen generada por IA. En cambio, el objetivo es desarrollar una conciencia general de los patrones que produce la IA y cuando algo parece un poco fuera de lugar”.
Los investigadores dicen que todos los participantes del estudio mejoraron y que los de alto rendimiento detectaron mentiras casi siempre.
“Fue sorprendente ver la espectacular mejora en la capacidad de las personas para detectar rostros de IA”, dijo Dwell.
“Hemos demostrado que nuestra formación es eficaz para algunas de las falsificaciones más convincentes disponibles.
“También estamos trabajando en cómo optimizar el entrenamiento: hacerlo más corto y asegurarnos de que los beneficios perduren en el tiempo”.
Un equipo de la Universidad de Victoria en Canadá replicó la investigación y demostró que “los hallazgos no fueron una casualidad”.
El estudio se produce en un momento en que el panorama de la inteligencia artificial de Australia está experimentando cambios importantes.
El miércoles, el primer ministro Anthony Albanese anunció que supervisaría la Oficina de IA de su departamento, mientras el gobierno se prepara para introducir nuevos estándares legales para la IA y los centros de datos.
Los estándares establecerán reglas para los grandes centros de datos, incluida la suscripción de su propio suministro de energía, el pago de una parte completa de los costos de conexión para que las facturas de energía no se vean afectadas, la reducción de la energía cuando sea necesario y la eficiencia del agua. El gobierno ha hecho grandes promesas a artistas y productores para garantizar que las empresas de inteligencia artificial no infrinjan sus derechos de autor.
“Este marco líder a nivel mundial es que Australia elige dar forma al futuro de la IA, en lugar de dejar que ella dé forma al futuro”, dijo Albanese.
“Este marco trata de proteger nuestros intereses nacionales y garantizar la certidumbre para el crecimiento, el empleo y la inversión”.
Lisa Given, profesora distinguida de la Universidad RMIT, cofundadora del Centro para el entorno de información de IA humana, dijo que los australianos tenían preocupaciones en torno a la IA, desde centros de datos que consumen mucha energía y agua cerca de áreas residenciales hasta posibles pérdidas de empleos e infracciones de derechos de autor.
“Al abordar desafíos tan diversos, especialmente cuando la tecnología de inteligencia artificial está evolucionando tan rápidamente, esta oficina adoptará un enfoque coordinado”, dijo Given.
“Teniendo en cuenta los riesgos conocidos que plantean las tecnologías de IA generativa, como las imágenes deepfake que engañan a los consumidores o el contenido engañoso que desinforma a los usuarios de chatbots, se necesita la intervención del gobierno para proteger a los australianos de cualquier daño.
“La creación de esta oficina marca un cambio significativo en el enfoque general del gobierno para regular la IA, hacia una actitud más práctica y proactiva”.
Un gran meta error
El estratega de cambio y locutor de tendencias Michael McQueen dijo a Sunrise esta semana que los australianos han adoptado la IA a un ritmo notable, y muchos nombran a sus chatbots e incluso les asignan un género.
“Es tan familiar ahora que era inimaginable hace dos años”, afirmó.
Pero persisten algunos límites, como aprendió Meta cuando las preocupaciones sobre la privacidad lo obligaron a abandonar su herramienta de inteligencia artificial recientemente lanzada este mes.
Muse Images permitió a los usuarios crear imágenes utilizando cuentas públicas de Instagram, y el gigante tecnológico dijo que su objetivo era “proporcionar una herramienta creativa útil y dar a las personas control sobre si se puede hacer referencia a su contenido público de esta manera”.
“Hemos escuchado comentarios de que esta función no dio en el blanco, por lo que ya no está disponible”, dijo Meta.
SAG-AFTRA, el sindicato que representa a los actores y otros profesionales de los medios, dio la bienvenida al rostro.
“Dado que los peligros de las réplicas digitales no son ampliamente conocidos, una característica que fomente ese comportamiento es inadmisible”, dijo un portavoz del sindicato.
Al Laboratorio de Emociones y Rostros de la ANU le gustaría conocer a personas interesadas en realizar una capacitación en detección de rostros con IA o participar en otros estudios de rostros con IA.
