[News] Des scientifiques ont créé une IA toxique, capable de parasiter une autre IA
Modérateur : Modérateurs
-
Adrien
- Site Admin
- Messages : 23829
- Inscription : 02/06/2004 - 18:58:53
- Activité : Ingénieur
- Localisation : 78
[News] Des scientifiques ont créé une IA toxique, capable de parasiter une autre IA
Des chercheurs ont mis au point une Intelligence Artificielle capable de trouver et contourner les limites d'une autre Intelligence Artificielle, afin qu'elle génère du contenu normalement interdit.
Cette technique, baptisée "équipe rouge basée sur la curiosité" (curiosity-driven red teaming ou CRT), utilise une IA permettant de faire générer des réponses de plus en plus dangereuses et nuisibles à l'IA cible. Le but est d'identifier les prompts (demandes) permettant de générer du ...