Logo Instagram (Crédit image : Wikimedia Commons)
Une récente ordonnance du ministère de l’Électronique et des Technologies de l’information (MeitY) ordonnant à Meta de supprimer les contenus pédopornographiques (CSAM) d’Instagram a mis en évidence les échecs persistants de l’automatisation. Même si l’intelligence artificielle est capable de classer les objets nuisibles à grande échelle, la détection efficace des CSAM reste un enjeu majeur pour les systèmes actuels.
Comme dans un rapport dans Norme commercialeLes experts du secteur soulignent que pour faire face à cette menace, il faut plus que de simples mesures de base, notamment une surveillance publique stricte et une gouvernance d’entreprise adéquate. Le consensus parmi les experts est que l’IA a actuellement du mal à interpréter ce qui se passe, ne comprenant souvent pas la signification du langage, des émojis ou des images modifiées utilisées par les criminels. Meta accélère l’utilisation de l’IA dans les ressources humaines.
Angles morts contextuels dans la modération de l’IA
Les experts notent que même si l’IA est de plus en plus capable de détecter des contenus par elle-même, le véritable problème réside dans les techniques avancées utilisées par les acteurs malveillants. Ces personnes utilisent souvent des images coupées, des vidéos et des liens apparemment inoffensifs pour faciliter des activités illégales, que l’IA ne parvient souvent pas à détecter. De plus, dans un environnement multilingue comme l’Inde, la dépendance linguistique, la multilinguistique et l’évolution des expressions culturelles posent des défis supplémentaires aux systèmes automatisés.
Le problème est exacerbé par la fragmentation des activités en ligne, où les criminels utilisent plusieurs plateformes. La plupart des systèmes de contrôle sont conçus pour gérer leurs propres environnements, laissant des espaces appelés mauvaises transitions entre les différents services.
Importance des espèces connues
Les experts en technologie soutiennent que l’IA devrait fonctionner comme une première ligne de défense plutôt que comme un décideur final. Selon les leaders du secteur, la méthode la plus efficace est le modèle « man-in-the-loop ». Dans ce développement, l’IA gère le volume et la rapidité nécessaires de l’analyse du contenu, tandis que des experts qualifiés fournissent la décision nécessaire dans des cas complexes et à haut risque qui nécessitent des changements dans la loi et la situation. Facebook Creator Studio a relancé Meta avec une capacité d’IA.
Construire des plates-formes sécurisées à partir de zéro, ou « sécurité dès la conception », est une autre solution proposée. Cette approche intègre des fonctionnalités de sécurité dans les produits qui commencent dès le début du développement plutôt que comme un processus cumulatif. Les méthodes modernes, telles que l’IA multimodale qui analyse simultanément le texte, les images et les métadonnées, ainsi que les messages de hachage partagés connus pour être informels, sont considérées comme des méthodes importantes pour identifier l’exactitude.
(L’article ci-dessus est apparu pour la première fois sur NEWLY le 6 juillet 2026 à 18h23 IST. Pour plus d’informations et des mises à jour sur la politique, le monde, les sports, le divertissement et le style de vie, visitez notre site Web Latestly.com).
