Lo escuchamos mucho: hay una crisis de fe porque ya no sabemos si lo que vemos o escuchamos en línea es real.
Una crisis es una interrupción repentina en el funcionamiento normal de la vida, durante la cual los mecanismos que mantienen unida a la sociedad se revelan inadecuados o deliberadamente corruptos.
Cofundador de VerifyLabs.AI.
Pero lo que pasa con la crisis es que debes saber que estás en una de ellas para llamarla. No existen las crisis desconocidas, a menos que se cuente la mediana edad, y eso sólo en retrospectiva.
En este punto, la mayoría de nosotros estamos demasiado atrapados en las demandas de nuestra vida diaria como para anticipar esa nota de voz de nuestras noticias, línea de tiempo de las redes sociales o “compañero de trabajo”. Hasta que no seamos atacados directamente por la tecnología deepfake, no somos conscientes del peligro y de la rapidez con la que ese peligro está destruyendo el contexto social del que dependemos. Esa inconsciencia es la clave.
Después de todo, el barco era insumergible
La gente tradicionalmente no reacciona hasta que nos atrapan los resultados. Pensemos en el Titanic después de chocar contra un iceberg: para muchos a bordo todo seguía como de costumbre hasta que el agua empezó a llover. El Titanic tardó dos horas y cuarenta minutos en hundirse y, aunque el peligro se hizo innegable, numerosos pasajeros, según se informa, continuaron con normalidad. Les dijeron que el barco no se hundiría, así que debe ser cierto.
Las amenazas deepfake siguen un patrón similar. La tecnología para crear vídeo, audio e imágenes sintéticos ha evolucionado mucho más allá de la imaginación del público. Los deepfakes que se producen hoy son cualitativamente diferentes de los que existían hace seis meses, y el ritmo de ese cambio se está acelerando.
Las capacidades de detección, humanas o tecnológicas, luchan por mantenerse al día. La mayoría de las personas no son expertos forenses capacitados en medios de comunicación y no se puede esperar razonablemente que lo sean. Esta brecha realmente expone a individuos, empresas y organizaciones, ya sea que hayan notado el aumento del agua o no.
Una de las características más incómodas de los medios sintéticos modernos es que el contenido falso puede ser más creíble que la verdad. Un deepfake bien hecho no presenta ningún ruido visual ni lagunas contextuales que puedan hacer que las imágenes auténticas parezcan poco confiables.
A principios de 2024, un trabajador financiero de Hong Kong transfirió 25 millones de dólares a estafadores después de participar en una videoconferencia con el director financiero de su empresa y varios colegas. Cada cara en ese teléfono era falsa. Nadie cuestionó lo que estaban viendo. Después de todo, el barco era indudable.
En 1984 de George Orwell, el Partido crea una crisis al obligar a los ciudadanos a sostener dos ideas contradictorias simultáneamente. Hoy en día, cualquiera que preste atención al aumento de los ataques deepfake de IA está haciendo una versión de lo mismo: como humanos, quieren creer que lo que ven y oyen es real y al mismo tiempo sospechan que probablemente no lo sea. Esa disonancia cognitiva tiene un costo. Erosiona el contrato social básico que nos permite trabajar, realizar transacciones y confiar unos en otros.
Los gobiernos no son indiferentes a esto. Hablan en voz baja consigo mismos sobre una crisis, pero rara vez usan ese lenguaje públicamente. Si llamas a una crisis, corres el riesgo de que cunda el pánico. Así que, en cambio, la conversación tiene lugar en salas de políticas y foros industriales, mientras la gente común navega por un entorno de información que cambia bajo sus pies sin decírselo.
Lo que hace que la amenaza de los deepfake sea realmente sin precedentes es esto: ni siquiera los peores dictadores del siglo XX, que fundieron a poblaciones enteras para que observaran realidades diferentes, no pudieron eliminar el derecho humano a la percepción individual. Sin embargo, la tecnología de IA profunda logró hacer algo que el régimen no pudo. Ha dado lugar a dudas dentro de la fe.
La identificación como base, no como corrección.
La tecnología de detección ya no es opcional. En el ecosistema actual de medios digitales, sirve como requisito básico para cualquier organización que opere a escala. A medida que los medios sintéticos se vuelven más sofisticados, no se puede confiar únicamente en el juicio humano como defensa.
La diferencia importante es que el software de detección facilita la confianza, no sustituye el juicio humano. El objetivo no es sacar a las personas del proceso de verificación sino darles algo sólido sobre lo que apoyarse. La confianza comienza con una identificación confiable del contenido artificial, pero la confianza real crece cuando las personas comprenden y actúan en función de lo que revela la tecnología. Un resultado obtenido sin explicación, una puntuación de confianza sin contexto, pide a los usuarios que depositen una fe ciega en un sistema en lugar de desarrollar su propia comprensión informada. Es una base frágil.
La identificación transparente e interpretable fomenta un escepticismo saludable en lugar de una desconfianza generalizada, y la distinción es importante. La desconfianza generalizada hacia todos los medios es paralizante. El escepticismo saludable es empoderador. Las herramientas bien diseñadas convierten la verificación en una experiencia de aprendizaje, creando gradualmente un reconocimiento de patrones que hace que las decisiones futuras sean más precisas y menos dependientes de una pieza de software.
La verificación como práctica diaria
La alfabetización mediática siempre ha evolucionado en respuesta a nuevos formatos y nuevas amenazas. La llegada de los medios sintéticos es el último capítulo de esa evolución y exige una actualización significativa de lo que realmente significa la alfabetización digital. La capacidad de cuestionar y verificar la veracidad del contenido ahora es fundamental, no experta, y se aplica incluso si el contenido parece creíble.
El cambio importante es pasar de una tarea ocasional a un hábito diario. Cuando las herramientas de detección son accesibles, intuitivas y ampliamente disponibles, permiten a los usuarios comunes verificar los hechos en lugar de subcontratar sus decisiones a plataformas o instituciones cuyos intereses pueden no coincidir con los de ellos. Un acceso más amplio a las tecnologías de verificación fortalece el pensamiento crítico a escala y respalda el discurso público informado. La confianza reemplaza a la incertidumbre, y esa confianza se basa en algo real.
Del diálogo a la acción
Lo imperativo ahora es pasar del comentario a las consecuencias.
Esto significa una legislación inmediata que proteja activamente a las personas en la era de las herramientas de inteligencia artificial. Esto significa anteponer a las personas a las ganancias, la voluntad de castigar y cerrar empresas que permitan el crecimiento exponencial de la amenaza de los deepfake. Esto significa compartir la responsabilidad entre plataformas, organizaciones e individuos, ya que ningún actor puede abordarlo por sí solo.
La confianza se puede reconstruir, pero sólo intencionalmente. No se recuperará pasivamente mientras se desvía la atención. Requiere una inversión deliberada en herramientas y habilidades que ayuden a las personas a afrontar con seguridad las consecuencias de sus propias creencias.
La confianza es una habilidad que se puede apoyar, no asumir. Ya no es razonable esperar que la gente simplemente sepa lo que es real. Lo que tiene sentido es brindar a las personas formas de averiguarlo y luego asegurarse de que esas formas estén a su alcance.
Dejemos de comentar sobre la crisis de confianza y comencemos a ayudar a la gente a sobrevivirla.
Hemos revisado la mejor protección contra el robo de identidad..
Este artículo fue producido en parte Perspectiva profesional de TechRadarNuestro canal para mostrar las mejores y más brillantes mentes de la industria tecnológica actual.
Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí:
