J’étudie les deepfakes depuis plus de 25 ans. C’est pourquoi l’IA rend presque impossible la connaissance de la réalité.

• Hany Farid a commencé à étudier la criminalistique numérique en 1999, alors que ce domaine existait à peine.

• Farid a déclaré que la détection de l’IA est devenue presque impossible pour les gens ordinaires de l’identifier uniquement par la vue.

• Ce qui lui fait le plus peur, c’est que les gens ne s’accordent plus sur des idées mais sur le réel.

Cet essai narré est basé sur une conversation avec Hany Farid, expert en criminalistique numérique et ancien professeur à l’Université de Californie à Berkeley. Farid a également fondé GetReal, une startup de criminalistique numérique et de cybersécurité. Il a été édité pour des raisons de longueur et de clarté.

Aujourd’hui, l’internaute moyen ne peut pas dire si une image, une vidéo ou un enregistrement audio contenu dans son flux est réel ou non.

Nous avons réalisé une étude de perception à ce sujet. Les systèmes visuels et auditifs humains ne sont tout simplement pas assez performants pour accomplir cette tâche de manière fiable.

Cela ne veut pas dire que nous ne pouvons pas parler. Nous disposons de matériel informatique et mathématique. Vous nous donnez un contenu et un peu de temps ? Ouais, nous allons le découvrir.

Mais il y a une grande différence entre ce que nous faisons chez GetReal, une startup d’investigation numérique que j’ai co-fondée, et ce dont est capable une personne moyenne qui fait défiler les données sur les réseaux sociaux.

J’ai commencé à étudier la criminalistique numérique alors que ce domaine existait à peine

J’ai commencé ma carrière universitaire au Dartmouth College en 1999.

C’est difficile de se souvenir de 1999. Nous vivons dans un monde essentiellement analogique. Nous prenons toujours des photos sur pellicule. Les appareils photo numériques sont apparus. Cet Internet est apparu, mais ce n’était presque rien. Les réseaux sociaux n’existent pas.

Personne ne sait où cela va. J’ai commencé à penser que les preuves numériques étaient intrinsèquement malléables devant un tribunal. À l’époque, personne ne pensait que c’était un problème, et ils avaient raison. Je pensais que cela pourrait en être un, car il est peu probable que la révolution numérique s’arrête. Nous avons donc lancé ce petit domaine étrange, sur mesure, de niche, appelé criminalistique numérique – juste moi et un groupe d’excellents étudiants diplômés de Dartmouth rédigeant des articles. Tout le monde disait : “C’est cool, mais qu’est-ce que ça a à voir avec quoi que ce soit ?”

Puis le numérique a décollé. Des journalistes citoyens sont apparus. Nous avons commencé à voir l’Associated Press et Reuters dire : “Hé, comment savons-nous que cette photo que quelqu’un nous a envoyée est réelle ?”

Au fil des années, le problème s’est développé depuis les auditions des médias et des tribunaux une fois par mois et celles de la sécurité nationale une fois par an jusqu’à tous les jours.

Soudain, notre monde tout entier a basculé.

Au début, les fausses images laissaient souvent des indices

Au début de mon parcours, je pensais surtout aux photos. La vidéo est très difficile à manipuler. Il est de 24 à 30 images par seconde et dispose d’une piste audio. Les images sont plus faciles à manipuler à l’aide d’outils comme Photoshop.

La bonne nouvelle est que la manipulation demande encore du savoir-faire. Vous trouverez donc des erreurs. Vous trouverez un artefact. Mauvaises ombres, mauvaise géométrie et mauvaises mesures. Parfois, vous disposez de métadonnées indiquant que la photo a été modifiée dans Photoshop.

Aujourd’hui, vous n’avez besoin d’aucune compétence. Vous n’avez pas besoin de temps. Vous n’avez besoin de rien. Vous avez juste besoin d’un clavier et d’une connexion Internet. Vous pouvez taper « Faites ceci sur cette image, cet audio ou cette vidéo », et l’IA prend le relais et peut faire des choses incroyables – des choses qui étaient inimaginables il y a cinq à dix ans.

Le contenu généré par l’IA devient visuellement impossible à distinguer

Quelle que soit la technologie, vous ne verrez pas où se trouve la rondelle. Vous regardez où va la rondelle.

Nous savons que nous atteindrons un point où le contenu sera visuellement impossible à distinguer – pas nécessairement informatiquement indiscernable, mais visuellement.

L’image semble être la première à traverser l’étrange vallée. Une voix était à côté de lui, avec un salut, un sourire et une pause.

La vidéo d’aujourd’hui traverse l’étrange vallée. Si quelqu’un me donne une vidéo HD de 30 minutes, ce ne sera probablement pas de l’IA. Mais si cela dure 15 à 30 secondes – une vidéo typique que vous voyez en ligne – il est difficile de le déterminer à partir des seuls repères visuels. Pour l’instant.

Les vidéos générées par l’IA durent généralement environ quatre secondes. Maintenant, il y en a qui arrivent à 30 ou 40 secondes en les mettant ensemble.

le contenu s’améliorera. Ce sera moins cher et plus facile à utiliser. Et cela deviendra omniprésent.

Nous pouvons enquêter sur les contrefaçons, mais Internet est plus rapide

L’IA générative ne sait rien du monde 3D. Il ne connaît pas la physique et les ombres. Je dis “savoir” avec des guillemets aériens.

L’IA peut produire des choses qui, pour le cerveau humain, sont suffisamment bonnes. Mais la physique est subtilement fausse.

Tant que vous faites quelque chose qui est physiquement invraisemblable, nous avons un signal que nous pouvons détecter.

Parfois, trouver des contrefaçons peut être très rapide et très simple. Une fois que vous trouvez quelque chose qui ne va pas, vous avez terminé.

Le revers de la médaille – prouver quelque chose – est plus difficile. Vous exécutez test après test et vous ne trouvez rien d’anormal. Est-ce que ça veut dire que c’est réel ? Pas vraiment. Cela veut dire que vous n’avez rien trouvé.

En moyenne, le travail peut prendre environ une heure. Mais une heure, c’est long sur Internet. C’est fondamentalement l’éternité.

Habituellement, nous appelons à propos de quelque chose, et il y a déjà un million de vues à ce sujet. Nous y travaillerons, parlerons aux journalistes et ils feront un reportage. Il y a maintenant 10 millions de vues.

Nous sommes un peu en post-mortem à cet égard. la vérification de la réalité vient après coup.

Ce qui me fait le plus peur, c’est qu’on perd le sens de la réalité

Les enjeux et les conséquences d’une erreur sont de plus en plus élevés. Vous mettez les gens en prison. Vous prenez des décisions géopolitiques. Vous rapportez ce qui se passe dans le monde pour informer huit milliards de personnes. Vous devez avoir raison.

Ce qui me fait le plus peur, c’est que nous, en tant que société, perdons le sens de la réalité.

Nous ne discutons pas de ce que devrait être le taux d’imposition, du rôle du gouvernement, du rôle de la politique étrangère ou de tout autre sujet sur lequel nous pouvons ou ne sommes pas d’accord.

Nous discutons de la raison pour laquelle deux plus deux font quatre. Je dis deux plus deux quatre, et l’autre personne dit : “Non, ce n’est pas le cas. C’est de la compote de pommes.”

C’était la teneur de la conversation.

Je ne sais pas comment on peut avoir une démocratie stable sans un sens partagé de la réalité. Nous pouvons être en désaccord. C’est OK. Le désaccord a du bon. Nous ne pouvons pas dire : « Cela s’est produit » et d’autres disent : « Non, cela ne s’est pas produit ».

Cela ne peut pas être ainsi que nous vivons en société.

Si vous avez apprécié cette histoire, assurez-vous de suivre Business Insider sur Yahoo.