ChatGPT (Crédit image : Pixabay)
Les chercheurs ont découvert des failles majeures dans la dernière version de ChatGPT, révélant que l’intelligence artificielle peut être modifiée pour créer des images meilleures et plus réalistes. La start-up britannique de cybersécurité Mindgard a montré que de petites modifications apportées à des résultats spécifiques, apparemment inoffensifs, permettent au système de contourner les politiques de sécurité existantes et de créer des restrictions.
OpenAI, le fabricant de chatbots, a répondu en prenant des mesures de sécurité supplémentaires suite à la divulgation des résultats. L’organisation affirme utiliser plusieurs niveaux de sécurité pour garantir que ses produits sont conformes aux normes et réglementations de sécurité. Malgré ces changements, les experts en sécurité soulignent que le modèle d’IA restera vulnérable aux techniques d’apprentissage automatique. L’interdiction des télégrammes en Inde est-elle efficace ? Restrictions d’utilisation du VPN avant le nouveau test NEET.
OpenAI, menaces et menaces de sécurité de l’IA
Une étude de Mindgard met en lumière les défis actuels liés à la confrontation des IA d’intelligence artificielle avec leurs adversaires. En modifiant les instructions créées pour réaliser les blagues, les chercheurs ont pu contourner les filtres. Peter Garraghan, fondateur de Mindgard et professeur à l’Université de Lancaster, a déclaré que la marque peut créer des images belles et élégantes sans conseils particuliers.
Cette capacité soulève des questions sur la manière de gérer les contenus dans les grands formats. La facilité avec laquelle ces barrières ont été franchies montre que les concepteurs sont confrontés à de grands défis pour anticiper toute interaction potentielle. Le maintien de l’intégrité des résultats de l’IA reste essentiel pour les organisations impliquées dans le déploiement de technologies avancées.
L’avenir de la sécurité de l’IA générative
Cet incident met en évidence le compromis entre performances et sécurité dans le secteur de l’IA. Alors que des entreprises comme OpenAI continuent d’étendre leurs modèles, l’accent s’est déplacé vers l’atténuation des menaces et les mises à jour de sécurité. Les experts du secteur estiment que des tests continus sont nécessaires pour éviter l’utilisation abusive d’outils puissants susceptibles de créer une réalité virtuelle et de détruire le monde numérique. Le télégramme visant à arrêter les mèmes et les blagues se poursuit après l’action du gouvernement pour arrêter les fuites de papier NEET.
L’amélioration de la robustesse des mesures de sécurité de l’IA peut nécessiter une analyse linguistique plus sophistiquée pour détecter et atténuer les intentions malveillantes qui semblent normales. Alors que le secteur de la sécurité continue d’explorer ces tendances, ces entreprises doivent s’adapter rapidement pour maintenir la confiance et la conformité du public. Le dialogue continu entre les chercheurs et les développeurs en IA est essentiel pour façonner l’architecture du futur.
(L’histoire ci-dessus a été publiée pour la première fois sur NEWLY le 18 juin 2026 à 08h37 IST. Pour plus d’informations sur la politique, le monde, les sports, le divertissement et le style de vie, visitez notre site Web Latestly.com).
