Recherchez sur tout Techno-Science.net
       
Techno-Science.net : Suivez l'actualité des sciences et des technologies, découvrez, commentez
Posté par Redbran le Dimanche 11/03/2018 à 12:00
Les risques de l'intelligence artificielle, le rapport des experts

L'intelligence artificielle, fléau ou bénédiction? Montée au créneau des experts contre les risques pour la sécurité.

Les experts nous mettent en garde: si l'humanité ne se prépare pas mieux à se défendre contre une éventuelle utilisation malveillante de l'intelligence artificielle (L'intelligence artificielle ou informatique cognitive est la « recherche de moyens susceptibles de doter les systèmes informatiques de capacités...) (IA), les États "voyous", les terroristes et les criminels pourraient en faire usage (L’usage est l'action de se servir de quelque chose.).

La crainte vis-à-vis des machines dotées d'intelligence a nourri la science-fiction (La science-fiction, prononcée /sjɑ̃s.fik.sjɔ̃/ (abrégé en SF), est un genre narratif (principalement littéraire et cinématographique) structuré par des hypothèses sur ce que...) depuis des dizaines d'années, dépeignant à d'innombrables reprises le pouvoir d'autodestruction de l'homme (Un homme est un individu de sexe masculin adulte de l'espèce appelée Homme moderne (Homo sapiens) ou plus simplement « Homme »....). Or, l'avènement de l'IA a engendré des réactions contradictoires auprès du public, qui, selon les cas, se félicite de la promesse dont l'IA est porteuse (Une porteuse est un signal sinusoïdal de fréquence et amplitude constantes. Elle est modulée par le signal utile (audio, vidéo, données) en vue, soit de sa diffusion au moyen...) ou, au contraire, craint la menace qu'elle représente.

Bien que le concept de l'IA et des technologies d'apprentissage (L’apprentissage est l'acquisition de savoir-faire, c'est-à-dire le processus d’acquisition de pratiques, de connaissances, compétences, d'attitudes ou de valeurs...) automatique (L'automatique fait partie des sciences de l'ingénieur. Cette discipline traite de la modélisation, de l'analyse, de la commande et, de la régulation des systèmes dynamiques. Elle a pour...) existe depuis les années 50, l'engouement qu'elles suscitent est relativement récent. L'essor fulgurant qu'elles connaissent leur permet d'être utilisées à l'heure (L’heure est une unité de mesure du temps. Le mot désigne aussi la grandeur elle-même, l'instant (l'« heure qu'il est »), y compris en sciences (« heure...) actuelle dans un éventail d'applications, dont la reconnaissance vocale (La reconnaissance vocale ou reconnaissance automatique de la parole (Automatic Speech Recognition ASR) est une technique informatique qui permet d'analyser un mot ou une phrase...) automatique, la traduction automatique, les moteurs de recherche (La recherche scientifique désigne en premier lieu l’ensemble des actions entreprises en vue de produire et de développer les connaissances scientifiques. Par...), les assistants numériques, les drones et les véhicules autonomes.

Porteuses d'avancées prometteuses dans des domaines tels que la santé (La santé est un état de complet bien-être physique, mental et social, et ne consiste pas seulement en une absence de maladie ou d'infirmité.), l'agriculture, l'éducation et le transport (Le transport est le fait de porter quelque chose, ou quelqu'un, d'un lieu à un autre, le plus souvent en utilisant des véhicules et des voies de communications (la...), ces technologies sont perçues comme bénéfiques, car elles améliorent considérablement la vie (La vie est le nom donné :) de la population et sont un moteur (Un moteur est un dispositif transformant une énergie non-mécanique (éolienne, chimique, électrique, thermique par exemple) en une énergie mécanique ou travail.[réf. nécessaire]) de changement positif dans le monde (Le mot monde peut désigner :). Par exemple, l'IA joue (La joue est la partie du visage qui recouvre la cavité buccale, fermée par les mâchoires. On appelle aussi joue le muscle qui sert principalement à ouvrir et fermer la bouche et à...) déjà un rôle important dans la pratique quotidienne de l'acquisition (En général l'acquisition est l'action qui consiste à obtenir une information ou à acquérir un bien.), du traitement et de l'interprétation des images médicales. Cependant, de plus en plus d'experts, dont le physicien (Un physicien est un scientifique qui étudie le champ de la physique, c'est-à-dire la science analysant les constituants fondamentaux de l'univers et les forces qui les relient. Le mot physicien dérive du grec, qui connaît la...) Stephen Hawking (Stephen W. Hawking, CH, CBE, FRS, FRSA, est un physicien théoricien et cosmologiste anglais, né le 8 janvier 1942 à Oxford. Hawking a...) et l'entrepreneur Elon Musk, insistent sur la nécessité de se préparer aux risques potentiels de l'IA ? et de les éviter.

Un nouveau rapport, "The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation", rédigé par une équipe de chercheurs issus de plusieurs universités, groupes de réflexion et organisations à but non lucratif ont exprimé des inquiétudes similaires. Ce rapport souligne les menaces potentielles pour la sécurité que poserait l'IA si elle tombait dans de mauvaises mains, et se concentre sur trois domaines: numérique (Une information numérique (en anglais « digital ») est une information ayant été quantifiée et échantillonnée, par opposition à une information dite...), physique (La physique (du grec φυσις, la nature) est étymologiquement la « science de la nature ». Dans un sens...) et politique. Le document (Dans son acception courante un document est généralement défini comme le support physique d'une information.) avance que l'IA pourrait donner les moyens à des personnes mal intentionnées de perpétrer des attaques à grande échelle (La grande échelle, aussi appelée échelle aérienne ou auto échelle, est un véhicule utilisé par les sapeurs-pompiers, et qui emporte une échelle escamotable de grande hauteur. Le terme...), très ciblées et hautement efficaces.

Shahar Avin, du centre pour l'étude des risques existentiels (CSER) de l'université (Une université est un établissement d'enseignement supérieur dont l'objectif est la production du savoir (recherche), sa conservation et sa transmission (études supérieures). Aux États-Unis, au moment...) de Cambridge, a confié à la BBC que le rapport s'intéressait aux domaines de l'IA disponibles à l'heure actuelle ou susceptibles de l'être dans les cinq prochaines années, plutôt qu'à l'avenir lointain.

Faisant référence à l'IA en tant que technologie (Le mot technologie possède deux acceptions de fait :) "à double usage", qui présente des applications militaires et civiles potentielles, "aux conséquences bénéfiques et nuisibles", le rapport ajoute: "Alors que les capacités de l'IA deviennent de plus en plus puissantes et répandues, il faut s'attendre à ce que l'utilisation croissante des systèmes d'intelligence artificielle conduise à... la multiplication (La multiplication est l'une des quatre opérations de l'arithmétique élémentaire avec l'addition, la soustraction et la division .) des menaces actuelles... l'introduction de nouvelles menaces... [et à] un changement au niveau de la nature même des menaces."

Le Dr Seán Ó hÉigeartaigh, directeur du CSER et co-auteur du rapport, a expliqué dans une déclaration écrite:
"Nous vivons dans un monde qui pourrait être truffé de dangers au quotidien découlant d'une utilisation à mauvais escient de l'IA, et nous devons prendre conscience de ces problèmes, car les risques sont bien réels. Il est l'heure de faire des choix, et notre rapport est un appel à l'action adressé aux gouvernements, institutions et citoyens à travers le monde."

Les auteurs s'attendent à l'émergence de cyberattaques d'un genre nouveau, telles que le piratage automatisé, la synthèse vocale utilisée à des fins d'usurpation d'identité, des courriels non sollicités ciblés qui utilisent des informations tirées des réseaux sociaux ou qui exploitent les vulnérabilités des systèmes d'IA eux-mêmes, notamment par le biais d'exemples contradictoires et de la corruption de données (Dans les technologies de l'information (TI), une donnée est une description élémentaire, souvent codée, d'une chose, d'une transaction d'affaire, d'un événement, etc.). Le rapport indique également la possibilité du déploiement de drones et de systèmes matériels et informatiques pour commettre des actes malveillants, comme la collision (Une collision est un choc direct entre deux objets. Un tel impact transmet une partie de l'énergie et de l'impulsion de l'un des corps au second.) d'une flotte de véhicules autonomes ou la militarisation d'essaims de drones en vue (La vue est le sens qui permet d'observer et d'analyser l'environnement par la réception et l'interprétation des rayonnements lumineux.) d'assassiner des individus précis dans la foule à l'aide de la technologie de reconnaissance faciale. Il cite également, parmi les menaces à la sécurité politique, la création de fausses vidéos (La vidéo regroupe l'ensemble des techniques, technologie, permettant l'enregistrement ainsi que la restitution d'images animées, accompagnées ou non de son, sur un support adapté à...) afin de manipuler l'opinion publique ou l'utilisation de plateformes de surveillance automatique par des régimes autoritaires pour éliminer des dissidents.

Si le rapport tire la sonnette (Une sonnette est de façon générale, un petit timbre, ou clochette, manipulée à la main, ou au bout d'une ficelle, pour donner un avertissement.) d'alarme sur les menaces imminentes posées par l'IA, il ne préconise aucune mesure de prévention (La prévention est une attitude et/ou l'ensemble de mesures à prendre pour éviter qu'une situation (sociale, environnementale, économique..) ne se dégrade, ou qu'un accident, une épidémie ou une maladie...) spécifique pour lutter contre une utilisation frauduleuse de ces technologies. Le rapport note également que de nombreux désaccords persistent entre ses co-auteurs et d'autres spécialistes du domaine. "Nous analysons, mais n'apportons aucune solution concluante à la question de l'équilibre à long terme entre les attaquants et les défenseurs. Nous nous intéressons plutôt aux types d'attaques que nous pourrions essuyer dans un avenir proche si des mesures de protection ne sont pas prises," concluent les auteurs.

Pour plus d'information voir:
- Nouveau rapport "The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation"
- Déclaration écrite du Dr Seán Ó hÉigeartaigh: The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation
- BBC: AI ripe for exploitation, experts warn

Commentez et débattez de cette actualité sur notre forum Techno-Science.net. Vous pouvez également partager cette actualité sur Facebook, Twitter et les autres réseaux sociaux.
Icone partage sur Facebook Icone partage sur Twitter Partager sur Messenger Icone partage sur Delicious Icone partage sur Myspace Flux RSS
Source: © Union européenne, [2018] / [url=]CORDIS[/url]