[News] Les risques de l’intelligence artificielle, le rapport des experts

Informatique et nouvelles technologies...

Modérateur : Modérateurs

Redbran
Messages : 809
Inscription : 16/05/2015 - 10:01:33
Activité : Profession libérale ou Indépendant

[News] Les risques de l’intelligence artificielle, le rapport des experts

Message par Redbran » 11/03/2018 - 12:00:17


Image
L’intelligence artificielle, fléau ou bénédiction? Montée au créneau des experts contre les risques pour la sécurité.

Les experts nous mettent en garde: si l’humanité ne se prépare pas mieux à se défendre contre une éventuelle utilisation malveillante de l’intelligence artificielle (IA), les États «voyous», les terroristes et les criminels pourraient en faire usage.

La crainte vis-à-vis des machines dotées d’intelligence a nourri la science-fiction depuis des dizaines d’années, dépeignant à d’innombrables reprises le pouvoir d’autodestruction de l’homme. Or, l’avènement de l’IA a engendré des réactions contradictoires auprès du public, qui, selon les cas, se félicite de la promesse dont l’IA est porteuse ou, au contraire, craint la menace qu’elle représente.

Bien que le concept de l’IA et des technologies d’apprentissage automatique existe depuis les années 50, l’engouement qu’elles suscitent est relativement récent. L’essor fulgurant qu’elles connaissent leur permet d’être utilisées à l’heure actuelle dans un éventail d’applications, dont la reconnaissance vocale automatique, la traduction automatique, les moteurs de recherche, les assistants numériques, les drones et les véhicules autonomes.

Porteuses d’avancées prometteuses dans des domaines tels que la santé, l’agriculture, l’éducation et le transport, ces technologies sont perçues comme bénéfiques, car elles améliorent considérablement la vie de la population et sont un moteur de changement positif dans le monde. Par exemple, l’IA joue déjà un rôle important dans la pratique quotidienne de l’acquisition, du traitement et de l’interprétation des images médicales. Cependant, de plus en plus d’experts, dont le physicien Stephen Hawking et l’entrepreneur Elon Musk, insistent sur la nécessité de se préparer aux risques potentiels de l’IA – et de les éviter.

Un nouveau rapport, «The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation», rédigé par une équipe de chercheurs issus de plusieurs universités, groupes de réflexion et organisations à but non lucratif ont exprimé des inquiétudes similaires. Ce rapport souligne les menaces potentielles pour la sécurité que poserait l’IA si elle tombait dans de mauvaises mains, et se concentre sur trois domaines: numérique, physique et politique. Le document avance que l’IA pourrait donner les moyens à des personnes mal intentionnées de perpétrer des attaques à grande échelle, très ciblées et hautement efficaces.

Shahar Avin, du centre pour l’étude des risques existentiels (CSER) de l’université de Cambridge, a confié à la BBC que le rapport s’intéressait aux domaines de l’IA disponibles à l’heure actuelle ou susceptibles de l’être dans les cinq prochaines années, plutôt qu’à l’avenir lointain.

Faisant référence à l’IA en tant que technologie «à double usage», qui présente des applications militaires et civiles potentielles, «aux conséquences bénéfiques et nuisibles», le rapport ajoute: «Alors que les capacités de l’IA deviennent de plus en plus puissantes et répandues, il faut s’attendre à ce que l’utilisation croissante des systèmes d’intelligence artificielle conduise à... la multiplication des menaces actuelles... l’introduction de nouvelles menaces... [et à] un changement au niveau de la nature même des menaces.»

Le Dr Seán Ó hÉigeartaigh, directeur du CSER et co-auteur du rapport, a expliqué dans une déclaration écrite:
«Nous vivons dans un monde qui pourrait être truffé de dangers au quotidien découlant d’une utilisation à mauvais escient de l’IA, et nous devons prendre conscience de ces problèmes, car les risques sont bien réels. Il est l’heure de faire des choix, et notre rapport est un appel à l’action adressé aux gouvernements, institutions et citoyens à travers le monde.»

Les auteurs s’attendent à l’émergence de cyberattaques d’un genre nouveau, telles que le piratage automatisé, la synthèse vocale utilisée à des fins d’usurpation d’identité, des courriels non sollicités ciblés qui utilisent des informations tirées des réseaux sociaux ou qui exploitent les vulnérabilités des systèmes d’IA eux-mêmes, notamment par le biais d’exemples contradictoires et de la corruption de données. Le rapport indique également la possibilité du déploiement de drones et de systèmes matériels et informatiques pour commettre des actes malveillants, comme la collision d’une flotte de véhicules autonomes ou la militarisation d’essaims de drones en vue d’assassiner des individus précis dans la foule à l’aide de la technologie de reconnaissance faciale. Il cite également, parmi les menaces à la sécurité politique, la création de fausses vidéos afin de manipuler l’opinion publique ou l’utilisation de plateformes de surveillance automatique par des régimes autoritaires pour éliminer des dissidents.

Si le rapport tire la sonnette d’alarme sur les menaces imminentes posées par l’IA, il ne préconise aucune mesure de prévention spécifique pour lutter contre une utilisation frauduleuse de ces technologies. Le rapport note également que de nombreux désaccords persistent entre ses co-auteurs et d’autres spécialistes du domaine. «Nous analysons, mais n’apportons aucune solution concluante à la question de l’équilibre à long terme entre les attaquants et les défenseurs. Nous nous intéressons plutôt aux types d’attaques que nous pourrions essuyer dans un avenir proche si des mesures de protection ne sont pas prises,» concluent les auteurs.

Pour plus d'information voir:
- Nouveau rapport «The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation»
- Déclaration écrite du Dr Seán Ó hÉigeartaigh: The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation
- BBC: AI ripe for exploitation, experts warn

Source: © Union européenne, [2018] / CORDIS

Victor
Messages : 16351
Inscription : 05/06/2006 - 21:30:44
Activité : Retraité
Contact :

Re: [News] Les risques de l’intelligence artificielle, le rapport des experts

Message par Victor » 11/03/2018 - 15:23:52

Ce n'est pas vraiment nouveau a savoir qu'on est quasiment tous a poil devant des serveurs comme Google
qui savent quasiment tous sur vous, vos goûts, vos déplacements, vos achats
cela grâce à des compilateurs IA qui détaillent tous les choix de votre vie de connecté
En ce qui concerne la recherche en sciences, Je dirais: Cherche encore!

Pendesinialessandro
Messages : 174
Inscription : 04/08/2015 - 11:34:31
Activité : Enseignant ou Chercheur

Re: [News] Les risques de l’intelligence artificielle, le rapport des experts

Message par Pendesinialessandro » 11/03/2018 - 19:04:11

Bonjour
Aujourd’hui (nous fais remarquer Pierre-Marie Lledo) l’activité mentale peut être capturée, puis décryptée par des algorithmes puissants pour que des instructions soient données à des outils connectés –et asservis à la pensée humaine- ou à des robots androïdes. Permettre à un paralysé d’actionner un bras articulé pour saisir une bouteille et se désaltérer constitue sans aucun doute une avancée majeure pour le quotidien de personnes handicapées. En revanche, cette prouesse de la technoscience devient plus discutable si elle augmente le pouvoir destructeur d’un militaire en décuplant ses forces à l’aide de neuroprothèses…Faut-il tolérer tout ce que la science du cerveau offre en matière de modification des facultés mentales ? La volonté des humains de transcender les limites fixées par la nature a toujours été très forte, et quelques technologies transgressives permettent déjà de s'élever au-dessus de la contingence des lois naturelles. Alors attention au décollage !...... :yxt:

Avatar de l’utilisateur
cisou9
Messages : 9198
Inscription : 12/03/2006 - 15:43:01
Activité : Retraité
Localisation : Pertuis en Lubéron
Contact :

Re: [News] Les risques de l’intelligence artificielle, le rapport des experts

Message par cisou9 » 11/03/2018 - 19:29:51

______________________ :_salut:
Toute médaille a son revers et il faut s'attendre au pire !! :grrr: ______ :gueule: ________
Un homme est heureux tant qu'il décide de l'être et nul ne peux l'en empêcher.
Alexandre Soljenitsyne.

Victor
Messages : 16351
Inscription : 05/06/2006 - 21:30:44
Activité : Retraité
Contact :

Re: [News] Les risques de l’intelligence artificielle, le rapport des experts

Message par Victor » 11/03/2018 - 19:47:36

On a tous en mémoire Les films Terminators ou c'est l'enfer avec les machines, je verrais plutôt des machines avec des apprentissages difficiles comme dans l'apprentissage en profondeurs, ce qui est vrai ce sera l'usage des robots infatigables face à des humains qui sont fragiles, on n'a jamais appris le droit de gréve à des robots
En ce qui concerne la recherche en sciences, Je dirais: Cherche encore!

Avatar de l’utilisateur
QJ
Messages : 639
Inscription : 18/04/2007 - 9:47:23
Activité : Autre
Localisation : Belgique

Re: [News] Les risques de l’intelligence artificielle, le rapport des experts

Message par QJ » 17/03/2018 - 22:04:38

He bien... Je n'aurais jamais imaginé il y deux décénies que le terme "intelligence artificielle" allait tant être galvaudé en 2018...

Ne pourrait-on pas cessé cette stupide manie très anglo-saxonne de sur-vendre l'"intelligence artificielle", et de parler de système expert ?

Ces systèmes analysent très vite une très grande quantité de données et peuvent même tirer des conclusions ou de nouvelles règles limitées... Sur bases de règles encodées par... Une intelligence humaine.

Il faut dédramatiser svp :
+ Ils n'ont rien d'intelligent. :non:
L'esprit c'est comme un parachute: s'il reste fermé, on s'écrase. -Franck Vincent Zappa-

Répondre