En tant que défenseur de longue date des survivants de violence domestique, j’ai appris une leçon importante : les changements technologiques. Mais le modèle de violence ne l’est pas. Il y a toujours des gens prêts à trouver de nouvelles façons de causer du tort.
Dans les années 1980, les appareils photo Polaroid ont offert aux agresseurs une nouvelle façon de documenter leur exploitation sans avoir recours à un laboratoire photo comme témoin. Dans les années 1990, l’identification de l’appelant est devenue un outil utile permettant aux harceleurs de retrouver des numéros de téléphone et de retrouver des personnes tentant de s’échapper. Dans les années 2010, la technologie intelligente – des caméras de sonnette aux applications de surveillance de localisation – a donné aux agresseurs de nouveaux moyens de suivre et de contrôler les personnes qui les entouraient.
Et dernièrement, une autre tendance est apparue : un grand nombre de soi-disant « nudify » et « kiss » sont actifs en ligne.
Cet outil utilise l’IA pour créer de fausses photos de nus ou des photos intimes de personnes, sans consentement. Ils se propagent rapidement aux quatre coins d’Internet.
Ce n’est pas seulement faux. Publier ou partager des photos intimes réelles ou fausses d’autrui sans leur autorisation est souvent illégal et peut être nuisible. Les femmes et les filles sont touchées de manière disproportionnée par cette tendance alarmante. C’est pourquoi je travaille avec l’équipe de sécurité pour maintenir ces types d’applications, les publicités associées et les personnes qui les créent et les commercialisent hors des plateformes en ligne. L’IA aide l’équipe à améliorer l’examen des signaux, y compris dans le texte des annonces et les pages de destination, pour détecter le contenu qui tente de cacher sa véritable intention derrière des émojis, un langage codé ou l’apparence d’applications de retouche photo.
Dans le même temps, il est important que les entreprises technologiques créent et renforcent les outils de prévention et de signalement pour les survivants ; coopérer avec d’autres entreprises et organisations à but non lucratif ; et soutenir les forces de l’ordre dans leurs efforts pour demander des comptes aux criminels. Pour être clair, il ne s’agit pas simplement d’une solution « unique ».
L’ensemble du secteur réfléchit à de nouvelles façons innovantes d’identifier et de supprimer ce type de contenu. Mais derrière chaque site Web malveillant créant du contenu nu, se cache une équipe d’acteurs malveillants très motivés. Ils passent leurs journées à chercher des failles et à tester des moyens de contourner les règles et les politiques, et adaptent leurs tactiques à mesure que les défenses se renforcent. Étant donné qu’Internet n’a pas de frontières – et que les personnes qui diffusent ce contenu ne se limitent pas à une seule plateforme en ligne – la réponse ne peut pas non plus s’arrêter à une seule plateforme.
Une collaboration continue entre les entreprises technologiques, les organisations à but non lucratif et les groupes de la société civile est essentielle pour prévenir les préjudices et soutenir les survivants. Par exemple, dans le cadre du programme Lantern Tech Coalition, les entreprises participantes partagent entre elles les URL des applications et des sites Web contrefaits afin que chacune puisse enquêter et prendre les mesures appropriées. Ce type d’initiative est essentiel pour empêcher que des images non consensuelles soient repartagées sur Internet.
Un effort de collaboration comme celui-ci constitue un pas en avant important. Cependant, le plus important est de s’assurer que les gens connaissent les outils qui peuvent les aider à se protéger. Chaque survivant et victime potentielle doit savoir qu’il existe des options pour l’aider à reprendre le contrôle. En créant un dossier sur StopNCII.org, ils peuvent signaler en toute sécurité les images intimes partagées sans leur consentement. C’est pourquoi il est important de soutenir une législation bipartite comme le Take It Down Act, que de nombreuses entreprises utilisent pour créer davantage de moyens de soutenir les victimes et offrir davantage d’outils pour signaler ce contenu.
Cela fait partie de l’équation tant pour les champions survivants que pour les victimes potentielles. Une autre étape consiste à engager des poursuites judiciaires directes contre ceux qui promeuvent et produisent ce contenu en premier lieu. Il y a près d’un an, Meta a annoncé un procès en cours contre Joy Timeline HK Limited – l’entité derrière l’application CrushAI – pour plusieurs tentatives de publicité pour l’application qui créait des images nues et sexuellement explicites générées par l’IA sans consentement.
Une audience préliminaire du tribunal pour l’affaire a eu lieu cette semaine pour déterminer les prochaines étapes. Au cours de l’année écoulée, la société a émis des dizaines de lettres de cessation et d’abstention à d’autres sociétés et développeurs internationaux pour la publicité d’applications nudify, notamment Undressly et Crushlove.
Il y a vingt-six ans, j’ai fondé le Safety Net Technology Project pour aider à prévenir l’utilisation abusive de la technologie au détriment de nos partenaires. Après des années de lutte contre la violence sexiste dans le monde à but non lucratif, je me suis tourné vers la technologie parce que l’équipe avec laquelle je travaille aujourd’hui considère l’abus d’image intime comme une priorité politique, et non après coup. Ce travail n’est pas parfait. Mais la persévérance est la clé.
Ensemble, nous pouvons agir contre ceux qui profitent des autres et remettre le pouvoir entre les mains des survivants.
Si quelqu’un menace de partager des photos intimes de vous en ligne, visitez StopNCII.org ou TakeItDown.NCMEC.org.
Cindy Southworth est responsable de la sécurité des femmes chez Meta. Elle est l’ancienne vice-présidente exécutive du Réseau national pour mettre fin à la violence domestique.
Les opinions exprimées dans cet article sont celles de l’auteur.
