IA de confiance: du nouveau dans la validation formelle des réseaux de neurones

Publié par Redbran le 06/10/2020 à 13:00
Source: CEA

© AdobeStock
Les chercheurs du CEA-List, institut de CEA Tech, ont expérimenté une nouvelle approche pour la validation formelle des réseaux de neurones appliqués à la reconnaissance d'image. Leur objectif: rendre plus sûres des fonctionnalités comme la détection de piétons.

Comment prouver qu'un réseau (Un réseau informatique est un ensemble d'équipements reliés entre eux pour échanger des informations. Par analogie avec un filet (un réseau est un « petit...) de neurones auquel on a "appris" à reconnaître un piéton (Un piéton est une personne se déplaçant à pied, en marchant ou en courant, par opposition à celui qui utilise un véhicule : il s'agit donc d'un mode de...) est fiable ? La validation formelle des réseaux de neurones appliqués à la reconnaissance d'images, impérative dans les secteurs critiques, constituait un verrou technique majeur. Car avant de vérifier, par exemple, la capacité d'un véhicule (Un véhicule est un engin mobile, qui permet de déplacer des personnes ou des charges d'un point à un autre.) à éviter efficacement tous les piétons, il faut savoir spécifier de manière non ambigüe ce qu'est un piéton.

Puisque décrire mathématiquement un piéton est impossible, les chercheurs du CEA-List ont eu l'idée de s'appuyer sur les générateurs d'images (appelés simulateurs) qui servent (Servent est la contraction du mot serveur et client.) à "entraîner" les réseaux de neurones. Ce choix est d'autant plus intéressant que les simulateurs sont largement utilisés, notamment par les constructeurs automobiles, pour pallier le manque de données (Dans les technologies de l'information (TI), une donnée est une description élémentaire, souvent codée, d'une chose, d'une transaction d'affaire, d'un événement,...) d'entraînement venant du monde (Le mot monde peut désigner :) réel. Les chercheurs ont ainsi proposé un nouveau formalisme de spécification qui intègre le simulateur au coeur du processus de validation, où il joue (La joue est la partie du visage qui recouvre la cavité buccale, fermée par les mâchoires. On appelle aussi joue le muscle qui sert principalement à ouvrir et fermer la bouche et à mastiquer.) le rôle de spécification formelle des propriétés que le réseau de neurones doit satisfaire. Les méthodes d'analyse formelle classiques, expertise reconnue des équipes du CEA-List, peuvent ensuite être appliquées à ce dernier pour valider sa conformité.

Les résultats théoriques ont été publiés dans une conférence majeure en intelligence artificielle (L'intelligence artificielle ou informatique cognitive est la « recherche de moyens susceptibles de doter les systèmes informatiques de capacités intellectuelles comparables...) (European Conference on Artificial Intelligence -ECAI 2020) [1], et la preuve de concept a été réalisée avec succès sur un simulateur "réduit" spécialement conçu pour cet usage (L’usage est l'action de se servir de quelque chose.). Si la prochaine étape consiste à valider la théorie (Le mot théorie vient du mot grec theorein, qui signifie « contempler, observer, examiner ». Dans le langage courant, une théorie est une idée ou une connaissance spéculative, souvent basée sur...) par un "passage à l'échelle", cette approche pionnière est une avancée importante et concrète (La concrète est une pâte plus ou moins dure obtenue après extraction d’une matière première fraîche d’origine végétale (fleurs, feuille) par solvants volatils (non aqueux). Le...) vers l'IA de confiance.

Note:
[1] Girard-Satabin, J.; Charpiat, G.; Chihani, Z. & Schoenauer, M. "CAMUS: A Framework (En programmation informatique, un framework est un kit de composants logiciels structurels, qui définissent les fondations ainsi que les grandes lignes de...) to Build Formal Specifications for Deep Perception Systems Using Simulators" ECAI 2020
Cet article vous a plu ? Vous souhaitez nous soutenir ? Partagez-le sur les réseaux sociaux avec vos amis et/ou commentez-le, ceci nous encouragera à publier davantage de sujets similaires !
Page générée en 0.486 seconde(s) - site hébergé chez Amen
Ce site fait l'objet d'une déclaration à la CNIL sous le numéro de dossier 1037632
Ce site est édité par Techno-Science.net - A propos - Informations légales
Partenaire: HD-Numérique