[News] Cet expert dévoile une méthode simple pour détourner le système de sécurité des IA, ChatGPT inclus 🔓

Informatique et nouvelles technologies...

Modérateur : Modérateurs

Cédric
Messages : 8238
Inscription : 29/11/2005 - 8:42:28
Activité : Ingénieur

[News] Cet expert dévoile une méthode simple pour détourner le système de sécurité des IA, ChatGPT inclus 🔓

Message par Cédric » 20/11/2024 - 6:00:09

L'Intelligence Artificielle est-elle vraiment sécurisée ? Une faille récente dans ChatGPT soulève des interrogations. Des chercheurs montrent que les modèles de langage peuvent être contournés avec des techniques ingénieuses et pourtant simples. Un rapport de Marco Figueroa, expert chez Mozilla, dévoile une méthode pour manipuler les modèles de langage avancés comme GPT-4o d'OpenAI. En encodant des instructions malveillantes en hexadécimal, les pirates parviennent à contourner l...

Répondre