[News] L'intelligence artificielle est-elle une bombe à retardement ?

Informatique et nouvelles technologies...

Modérateur : Modérateurs

Répondre
Adrien
Site Admin
Messages : 17178
Inscription : 02/06/2004 - 18:58:53
Activité : Ingénieur
Localisation : 78
Contact :

[News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par Adrien » 10/02/2015 - 12:00:50



Illustration : Benoît Gougeon
Le physicien et mathématicien Stephen Hawking et l'homme d'affaires Elon Musk, cofondateur de PayPal, ont lancé une polémique dans les derniers mois en comparant l'intelligence artificielle à l'arme nucléaire. Selon M. Musk, la «bombe I» pourrait être plus dévastatrice encore que la bombe atomique. Faut-il craindre l'intelligence artificielle ? Pas selon Xavier Bouthillier, qui lui consacre une thèse de doctorat au Département d'informatique et de recherche opérationnelle de l'Université de Montréal. «La plupart des craintes semblent être basées sur une vision de l'intelligence artificielle qui est très proche de la science-fiction et ne correspond pas à l'état actuel de la recherche dans ce domaine. Or, jusqu'à ce jour, ces craintes éclipsent du débat les risques réels que pose l'intelligence artificielle telle qu'elle existe maintenant», prétend l'étudiant, qui déplore l'association trop rapide entre science et science-fiction.

«Dans l'état actuel des choses, l'intelligence artificielle ne présente aucun danger de contrôle de la pensée, poursuit-il en entrevue à Forum. Elle ne fait que répondre à la programmation humaine. Ainsi, les dangers imminents découlent de l'utilisation que l'être humain en ferait.»

Cela dit, la discipline choisie par Xavier Bouthillier fait d'indiscutables progrès, et ces avancées pourraient être utilisées à mauvais escient si elles parvenaient entre des mains inappropriées. «Je pense à l'accumulation de renseignements personnels sur Internet. Il faut être vigilant de ce côté afin de ne pas laisser ces informations servir à de mauvaises fins.»

Dans une lettre ouverte publiée dans Le Devoir le 29 janvier, M. Bouthillier et Marc-Élie Lapointe, qui enseigne les mathématiques au Collège de Maisonneuve, dénoncent le «tapage médiatique» autour de la sortie publique de MM. Hawking et Musk, à laquelle Bill Gates a joint sa voix récemment. Avec tout le respect qu'on leur doit, aucun d'entre eux n'est un spécialiste de l'intelligence artificielle, font-ils valoir. Une autorité en la matière, Yoshua Bengio, professeur à l'Université de Montréal, mentionnait récemment que «les meilleurs algorithmes qu'on a aujourd'hui sont encore à un niveau d'intelligence très, très primitive».

Se préoccuper des dangers d'une intelligence parallèle reviendrait, selon les signataires de la lettre du Devoir, à s'alarmer de l'usage militaire des drones au moment du premier vol des frères Wright ou ce serait comme «si les Égyptiens de l'Égypte antique s'étaient inquiété des dangers de l'industrialisation».

Xavier Bouthillier ne réfute pas le concept de «singularité technologique», ce point de convergence entre les intelligences humaine et artificielle, mais bien malin qui pourrait prédire le moment où on l'observera. «En effet, le cerveau biologique est d'une complexité inouïe et les présents modèles mathématiques qui s'en inspirent n'en sont que de grossières caricatures. Cette comparaison permet d'apprécier l'ampleur de la tâche qui attend les chercheurs avant de pouvoir s'approcher le moindrement d'un système artificiel doté d'une intelligence analogue à celle de l'être humain.»

Dans les prochaines années, l'étudiant cherchera à apporter des améliorations aux modèles mathématiques de réseaux de neurones artificiels existants. Voilà un secteur où les progrès de la science ont été perceptibles pour le commun des mortels. La reconnaissance visuelle et sonore est aujourd'hui appliquée dans le domaine des télécommunications.

Allô ! On est loin d'une mainmise de la machine sur l'humain...

Source: Mathieu-Robert Sauvé - Université de Montréal

xarcux
Messages : 71
Inscription : 24/09/2009 - 14:23:41
Activité : Salarié

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par xarcux » 10/02/2015 - 14:16:35

Je pense que MM. Hawking, Musk et Bill Gates parlent d'un problème majeur sur le long terme. Car comment imaginer une intelligence comme la notre dominer un monstre numérique 100 x ou 1 000 x plus intelligent que le meilleur cerveau humain ? Et je ne parle pas de taches fastidieuses et répétitives qui sont le régal des gros calculateurs mais d'une machine capable d'initiatives logiques, d'élaboration de stratégies pour parvenir à un but, de fixer des objectifs, de raisonner donc et peut-être même de "sentiments névrotiques", puisque le modèle de pensé serait le cerveau humain.
Dans l'émulation des centres de recherches sauront-nous quand la bête nous échappera ?
Pour utiliser une autre échelle, comment imaginer un troupeau de fourmis avoir un quelconque pouvoir sur un chimpanzé ? A moins d'en faire un dieu et de s'en remettre au destin pour vivre en paix.

Ah ! ah ! Je suis a votre disposition pour tous scénario catastrophe hollywoodiens.
Il ne suffit pas de s'exprimer clairement pour être compris, il faut aussi que l'interlocuteur fasse l'effort de comprendre quelque chose qui lui est étranger.

Victor
Messages : 16921
Inscription : 05/06/2006 - 21:30:44
Activité : Retraité
Contact :

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par Victor » 10/02/2015 - 14:39:39

Si vous me permettez là je rigole que monsieur Stephen Hawking se prenne pour un prophète de la vérité scientifique, ça rapplle toute la SF des années 1970-2000, Terminator, Matrix et tutti quanti... Les fous transhumanisme, ils restent des fous, déjà les bases même de leurs croyances,elles sont sapés par des réalité communes comme le support, de leurs idées, la génétique n'est pas le catalogue du vivant c'est plus compliqué, il existe maintenant l'idée d'épigénétique et maintenant que ce vieux monsieur qui est intelligent certes mais qui reste bien seul qu'il nous dise le bien et le mal, je rigole! Enfin pas vraiment un complexe qu'il doit tirer de sa culture biblique, je suis désolé mais c'est encore du n'importe quoi, il assume mal son rôle de penseur qui est au dessus du lot commun... En ce qui concerne le monde où nous vivons, déjà quand il parlait sur les voyages intersidéraux et des extraterrestres, c'est du n'importe quoi, je regrette mais pour l'instant, on est bloqué sur notre toute petite Terre, par la physique d'Einstein...
En ce qui concerne la recherche en sciences, Je dirais : Cherche encore !

Avatar de l’utilisateur
QJ
Messages : 645
Inscription : 18/04/2007 - 9:47:23
Activité : Autre
Localisation : Belgique

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par QJ » 10/02/2015 - 16:06:22

Arf ! Oui, je rejoins le mouvement et je suis entièrement d'accord avec l'article.

Par exemple : Ce n'est pas parce que l'on sait fabriquer des ordinateurs quantiques, que l'on serait capable d'en faire une intelligence artificielle.
Il faudrait encore savoir programmer ces nouveau types d'ordinateurs pour qu'ils s'auto programme de manière plus efficace. Ça, c'est très loin d'être gagné, mais très loin hein.

Et une fois cela fait, personne ne sait combien de ressources, et donc de temps que cela prendrait pour avoir une AI consciente de son propre état.
Ensuite, par définition personne ne sait combien de temps cela prendrait pour qu'une AI consciente de son état développe une personnalité propre. Et encore moins qu'elle sera cette personnalité, puisque la personnalité d'une intelligence est liée aux interactions qu'elle a développé et qu'elle développe.

Bref, c'est pas demain la veille. Revenons dans 200 ans pour voir, on ne sait jamais, mais ça m'étonnerais. :vieu:

Maintenant si quelqu'un a des informations sur des algorithmes d'amélioration du traitement de l'information de sa propre programmation, par des ordinateurs quantiques qu'il sortent du bois, ou se taise à jamais.
:fada:
L'esprit c'est comme un parachute: s'il reste fermé, on s'écrase. -Franck Vincent Zappa-

Avatar de l’utilisateur
cisou9
Messages : 9872
Inscription : 12/03/2006 - 15:43:01
Activité : Retraité
Localisation : Pertuis en Lubéron
Contact :

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par cisou9 » 10/02/2015 - 16:39:06

QJ a écrit :Arf ! Oui, je rejoins le mouvement et je suis entièrement d'accord avec l'article.
Bref, c'est pas demain la veille. Revenons dans 200 ans pour voir, on ne sait jamais, mais ça m'étonnerais. :vieu:
200 ans, je veut bien mais j'ai peur que mon cerveau soit bouffé par des vers (qui sont peut-être devenus intelligents).
Plus sérieusement, je pense que Isaac Asimov doit bien se marrer !!! _________ :lol: ____ :fada2: ___ :vieu: ___
Un homme est heureux tant qu'il décide de l'être et nul ne peux l'en empêcher.
Alexandre Soljenitsyne.

Avatar de l’utilisateur
Vanos
Messages : 526
Inscription : 28/09/2006 - 10:24:34
Localisation : Belgique

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par Vanos » 10/02/2015 - 18:22:12

cisou9 a écrit :
QJ a écrit :Arf ! Oui, je rejoins le mouvement et je suis entièrement d'accord avec l'article.
Bref, c'est pas demain la veille. Revenons dans 200 ans pour voir, on ne sait jamais, mais ça m'étonnerais. :vieu:
200 ans, je veut bien mais j'ai peur que mon cerveau soit bouffé par des vers (qui sont peut-être devenus intelligents).
Plus sérieusement, je pense que Isaac Asimov doit bien se marrer !!! _________ :lol: ____ :fada2: ___ :vieu: ___
Et l'orthographe alors ? on écrit je veux bien, pour le français, merci
Connais toi toi-même (devise de Socrate)

hubble
Messages : 171
Inscription : 26/04/2006 - 22:55:05

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par hubble » 10/02/2015 - 20:49:14

on a aussi prédit la destruction de l'humanité par la terreur nucléaire, mais elle n'est pas venue.
le pire qui puisse arriver est la transformation des humains par génie génétique qui leur enlèverait toute idée de révolte (par exemple ) .
En ce qui concerne l'intelligence artificielle, le danger immédiat est le développement de robots destructeurs par des Etats terroristes, le développement de logiciels malveillants (ils sont déjà nombreux) détruisant notre infrastructure.
Jusque là, les armes de toutes sortes ont fait bien pire.
A plus long terme, on pourrait imaginer des dispositifs autonomes capables de prendre le pouvoir, mais s'ils sont vraiment plus intelligents que nous, ce serait peut-être pour notre bien, car l'humanité a encore beaucoup à apprendre pour gérer la planète !

alessandro pendesini
Messages : 438
Inscription : 12/12/2010 - 11:50:39
Activité : Retraité

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par alessandro pendesini » 10/02/2015 - 22:22:56

Bonsoir
"Dans l'état actuel des choses, l'intelligence artificielle ne présente aucun danger de contrôle de la pensée, poursuit-il en entrevue à Forum. Elle ne fait que répondre à la programmation humaine. Ainsi, les dangers imminents découlent de l'utilisation que l'être humain en ferait."….
Dit justement l’article ! A cela je n’ai rien à ajouter. ;)

N.B. En Europe, un réseau de laboratoires, regroupé au sein du « Projet du cerveau humain » (Human Brain Project), propose purement et simplement de reproduire, dans un superordinateur, la géométrie et les propriétés moléculaires de tous les neurones et toutes les connexions d’un cerveau humain. Des puces « neuromorphiques » spécialisées dans la simulation de la physique des réseaux de neurones devraient accélérer les calculs et permettre de simuler quelques centaines de millions de neurones dans le moindre détail. Toutefois, simuler suffira-t-il à comprendre ? Parallèlement à ces efforts de simulation, il est impératif de développer une théorie mathématique des calculs neuronaux. Ce n’est qu’à ce prix que l’on parviendra à une théorie intégrée de l’activité cérébrale objective et de l’expérience consciente subjective : la question n’est pas si tout cela est possible, mais quand… :grat2:

ignotus
Messages : 46
Inscription : 29/11/2009 - 19:57:46
Activité : Retraité

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par ignotus » 11/02/2015 - 2:32:57

Bon(jourOUsoir) à Tou(te)s
Hola holà jeunes gens on se calme ! (En raison de mon âge je crois pouvoir me permettre de supposer à priori que j’ai affaire à une Gaussienne centrée sur la quarantaine !)
Ainsi, à mon très humble avis, la prudence recommanderait de ne point avoir d’avis si tranchés à priori…
Pour s’en convaincre, quelques petits rappels historiques.
Au début du XXeme siècle, un des plus grands mathématiciens de l’époque, Simon Newcomb démontrait que jamais le plus lourds que l’air ne pourrait voler : quelques semaines plus tard, deux réparateurs en bicyclettes, les frères Wright, faisaient décoller le premier avion. Précisons quand même que des plus lourds que l’air avaient déjà volé bien avant : c’étaient des modèles réduits.
Lorsque l’on créa le projet Génome (hier à peine) on disait partout qu’il faudrait des décennies pour y arriver au prix de dépenses colossales. Pendant ce temps, la loi de Moore poursuivant tranquillement son chemin, mettait chaque années des moyens de plus en plus performants au service d’une dépouillement qui du coup avançait de plus en plus vite ; Aujourd’hui ce sont des temps en heures et des coûts en chute libre qui jalonnent nos albums de génomes en tous genres !
Lorsque Drexler publia les Engines of création on rigola de toute part. Aujourd’hui, les nano robots commencent à pointer le bout du nano nez.
Pour m’être maintes fois planté, je peux le dire : en prospective on pèche pratiquement toujours par excès de prudence.
Et surtout, il ne faut JAMAIS dire JAMAIS.
Pour en venir au danger de l’IA, je voudrai apporter une toute petite interrogation.
Prenez un chien : malgré son intelligence, il peut être limité par quantité d’autres contraintes inhérentes à sa nature (par exemple sa taille ne lui permet pas d’avoir une vue exhaustive du troupeau de mouton).
Prenez un homme : malgré son intelligence, il est aussi limité par des contraintes : il ne peut courir assez vite, assez longtemps pour être partout à la fois autour du troupeau.
Maintenant prenez le redoutable binôme Homme-Chien : et là le troupeau ne fait plus ce qu’il veut en alpage.
Alors prenez un homme au cerveau limité en temps de calcul et en volume de données à traiter simultanément (en apparence), joignez-lui une stupide machine d’une effroyable vélocité à traiter les éléments d’infos. Quand je dis joignez lui, ce n’est pas avec un primitif clavier préhistorique, non, c’est avec un implant directement en prise neuronale.
Le tout connecté à l’Univers par WiFi Bluetoth ou tout autre macrosystème : là encore quand je dis l’univers, c’est des milliards d’être humains comme lui et leur voitures, leur ordis, leur tondeuse et leurs toilettes !
Est-ce que tout ça ne commence pas à ressembler à un méga cerveau ?
Et si oui, ce méga cerveau peut ici ou là quelque tumeurs provoquées par un groupe de salauds, de mafieux, de mabouls… mais, éternelle lutte de la lance et du bouclier, ils seront toujours neutralisés après avoir nuis…
Allez jeunes gens, on envisage, on considère, on pèse… et on espère !
Cordialement,
Alanares

Avatar de l’utilisateur
cisou9
Messages : 9872
Inscription : 12/03/2006 - 15:43:01
Activité : Retraité
Localisation : Pertuis en Lubéron
Contact :

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par cisou9 » 11/02/2015 - 9:46:13

Vanos a écrit : Et l'orthographe alors ? on écrit je veux bien, pour le français, merci
J'aurais du me relire plus attentivement; Vanos je pense que ça t'arrive aussi .
Maintenant tu es une émule de madame Pob !!! ____ :lol:
Un homme est heureux tant qu'il décide de l'être et nul ne peux l'en empêcher.
Alexandre Soljenitsyne.

Avatar de l’utilisateur
Dataking
Messages : 172
Inscription : 10/07/2009 - 11:54:15
Activité : Salarié

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par Dataking » 11/02/2015 - 20:24:34

Après plus de 6178 messages,tu peux te permettre "une" faute cisou9 ;)
Et Victor dans tout ça,un?? :lol:
Justement en parlant de vous,votre raisonnement rejoint ce que je pense (ce n'est pas toujours le cas :bisou: )
Rien ne se perd, rien ne se crée, tout se transforme...

Avatar de l’utilisateur
keyplus
Messages : 251
Inscription : 30/04/2008 - 15:20:49

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par keyplus » 11/02/2015 - 21:25:36

tant qu elle ne rejoint pas le cote obscur de la force :police:
soit l univers est d'une complexité infinie et le chercheur sera Sisyphe poussant inlassablement son rocher
soit l univers se résume à une suite de zéro et de 1 et on en revient a la poule et l'œuf

philouze
Messages : 206
Inscription : 08/03/2009 - 17:24:37

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par philouze » 12/02/2015 - 14:02:50

les deux camps ont raison, c'est ce qui rend le débat passionnant.
Plutôt que de conjecturer, on devrait simplifier pour revenir sur le fond :

- pourrons nous un jour, même très lointain arriver à une intelligence artificielle ? la réponse est oui
- pourrons nous un jour parvenir à faire que cette intelligence parvienne a un niveau de conscience élevée ? la réponse est oui

une fois posé ça, ça nous donne :

- une intelligence artificielle très basique est elle dangereuse ?
- - non si entre de bonnes mains
- - oui entre de mauvaises mains, au surplus un pouvoir de nuisance limité, multiplié viralement à travers le réseau devient un pouvoir de nuisance élevé

- une intelligence artificielle douée de conscience est elle dangereuse ? la réponse est oui, et là on ne saurait même pas comment identifier, contrôler, anticiper le risque correctement


Donc désolé pour les haters, mais la simple logique booléenne de base penche fortement du coté du risque. essayez de répondre non à chacune des questions et vous vous rendrez compte de l'absurdité de la position de l'article.
Hawking, Gates et Musk n'interdisent rien, ils invitent à se préoccuper et dès aujourd'hui à imaginer un cadre.

A ça s'ajoute une question dérangeante que pose bien Simmons dans Hyperion : une conscience de soi est une surcouche de l'intelligence qui arrive probablement par l'apprentissage. Cet apprentissage repose très probablement sur des logiques bénéfice / risque. La conséquence c'est qu'une conscience est probablement systématiquement liée à un instinct de survie. Une machine consciente craindrait donc très probablement qu'on la débranche. Nous sommes les seuls à pouvoir le faire, nous serons donc sa menace n°1, elle pourrait agir préventivement pour endiguer cette menace.
Se préoccuper des dangers d'une intelligence parallèle reviendrait, selon les signataires de la lettre du Devoir, à s'alarmer de l'usage militaire des drones au moment du premier vol des frères Wright ou ce serait comme «si les Égyptiens de l'Égypte antique s'étaient inquiété des dangers de l'industrialisation».


je trouve cette analogie, malheureusement pour les auteurs, totalement à leur charge !
d'abord parce que les premiers drones ont mis moins d'un siècle à nous parvenir si on compte les frèresWright ! à l'échelle de l'humanité c'est peanuts. Et ne parlons pas des avions de guerre, on compte moins de deux décennies depuis l'invention pacifique de l'avion.

Et dautre part parcqu'en terme d'accélération de la science, nous faisons tellement de recherche et l'humanité est devenue si gigantesque que 90% des chercheurs de toute l'histoire de l'humanité sont concentrés dans la dernière décennie de notre histoire.

Le risque va donc probablement se faire jour beaucoup plus rapidement qu'on ne l'anticipe. Internet a tout balayé sur son passage en 10 ans et personne ne l'a vu venir.

Hawking, Musk, Gates : des visionnaires, ce que sont rarement les chercheurs*, ils ont intuitivement perçu ce risque et ils ont, tous les trois, raison. (et en général, toute leur vie, ces mecs ont eu raison quand les autres avaient tort, je balayerais pas leur avis d'un revers de ma manche)


* souvenez vous de Marconi VS Hertz. A un étudiant qui demandait à hertz à quoi pourrait bien servir ses découvertes, il répondit "probablement jamais à rien, mais c'est intéressant". On sait ce que Marconi a fait des fréquences, à peine quelques années plus tard... ça juste 'un peu' changé la face du monde

Avatar de l’utilisateur
QJ
Messages : 645
Inscription : 18/04/2007 - 9:47:23
Activité : Autre
Localisation : Belgique

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par QJ » 12/02/2015 - 15:00:58

philouze a écrit :A ça s'ajoute une question dérangeante que pose bien Simmons dans Hyperion : une conscience de soi est une surcouche de l'intelligence qui arrive probablement par l'apprentissage.
C'est un peu plus complexe que cela. Disons que chez l'être humain, c'est la différence entre un bébé et un enfant.
Quand le bébé pour jouer à cache-cache, va se masquer la vue (coucou !?! Bheu !!) ou se cacher derrière le rideau (avec les jambes et les pieds qui dépassent, en hurlant "je suis caché heu !!"), il n'a pas une réelle conscience de lui même. par contre l'enfant, va commencer à prendre soin de se cacher correctement, et à faire le silence, même maladroitement. Cette différence s'applique à des ages différent selon les individus.
La conscience de soi est donc un sujet complexe. L'expérience du miroir, qui est valable aussi pour certains animaux en
est une autre preuve de cette complexité. Elle est donc aussi partiellement instinctive. Les grands primates l'ont.

philouze a écrit :Cet apprentissage repose très probablement sur des logiques bénéfice / risque. La conséquence c'est qu'une conscience est probablement systématiquement liée à un instinct de survie. Une machine consciente craindrait donc très probablement qu'on la débranche. Nous sommes les seuls à pouvoir le faire, nous serons donc sa menace n°1, elle pourrait agir préventivement pour endiguer cette menace.
Non. Le bénéfice de la vie est plus fort que la crainte de la mort, sinon ce serait le chaos dans le monde du vivant et probablement la fin de tout.
J'explique : Mon chien quand il me voit prendre un bâton est content, il sait que je veux jouer avec lui. Pourtant, je pourrais le battre à mort avec ce même bâton. Ma belle-mère n'a pas peur de monter en voiture avec moi, pourtant elle a eu un accident grave qui a failli la tuer il y a quelque années.

L’instinct de survie ne se met en branle que lorsque une intelligence (animale au sens large) est soumise à une situation extrême de vie.
La peur de quelque chose (Par exemple : Être débranché), mais surtout les conséquences, ne peut survenir que si il y a une pathologie.
Donc la question que nous devons nous poser est :
-"Serions-nous capable de fabriquer une intelligence artificielle sans pathologies psychotiques"
Comment éviter les délires paranoïaques chez les I.A. ?

En les envoyant chez l'I.A. psychiatre ou bien en évitant la programmation du délire chez l'I.A. ?

Le bénéfice de la vie l'emporte toujours, quelque soit la puissance de destruction mise en œuvre.
Si je bat mon jeune chiot et que plus tard il mord tout le monde, il y aura toujours quelqu'un pour l'abattre.
Je serais toujours en minorité.

Si un état décide de se doter de la bombe atomique pour détruire le monde, il sera arrêté, quel qu’en soit le coût en vie humaine. Le bénéfice de la vie l'emporte toujours.

Il en va de même pour une intelligence artificielle : Le bénéfice de la vie l'emportera toujours.

Je vous pose donc une question : L'intelligence artificielle n'est pas encore née qu'elle souffre déjà de racisme primaire ?
Nos vielles peur instinctives refont surface ?
- "Les IA vont nous apporter les 7 plaies d'Egyptes !"
- "Ils vont nous apporter des maladies et que sais-je encore !"
- "Ce sont des mangeurs d'enfants !"
- "Des fourbes qui attendent leurs heure pour nous sauter dessus sournoisement !"
etc , etc. :lol2:
L'esprit c'est comme un parachute: s'il reste fermé, on s'écrase. -Franck Vincent Zappa-

Victor
Messages : 16921
Inscription : 05/06/2006 - 21:30:44
Activité : Retraité
Contact :

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par Victor » 12/02/2015 - 16:59:30

Un être humain à sa naissance ne possède que des potentialités, il faut 25 ans pour l'éduquer dans le sens lui donner des orientations depuis la naissance jusqu'à l'adulte... La programmation des intelligences artificielles ? Là, je n'y crois pas trop mais qu'elles aient des apprentissages, avec le temps, cela existe déjà on appelle cela, des programmations darwiniennes... On est assez étonnés de voir des caractéristique spécifiques nouvelles émergées avec plusieurs générations même si ce ne sont que des programmes sur des réseaux, soit de neurones ou soit sur des objets connectés... on ne programme pas pour un but, précis cela suit une logique adaptative
En ce qui concerne la recherche en sciences, Je dirais : Cherche encore !

philouze
Messages : 206
Inscription : 08/03/2009 - 17:24:37

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par philouze » 12/02/2015 - 18:41:10

J'avais du mal à saisir ta prose et ton point de vue, mais ton dernier paragraphe est plus éclairant :
je vous pose donc une question : L'intelligence artificielle n'est pas encore née qu'elle souffre déjà de racisme primaire ?
Nos vielles peur instinctives refont surface ?
- "Les IA vont nous apporter les 7 plaies d'Egyptes !"
- "Ils vont nous apporter des maladies et que sais-je encore !"
- "Ce sont des mangeurs d'enfants !"
- "Des fourbes qui attendent leurs heure pour nous sauter dessus sournoisement !"


AMHO, et au regard de l'histoire, l'homme, qu'on peut qualifier d'habité par une intelligente consciente, s'est montré extrêmement destructif, non seulement pour les espèces animales qu'il jugeait inférieures, tout comme il l'a été pour sa propre espèce (conquistatdors, colonisations, traites diverses) .
Et pourtant on ne peut qualifier tous ces gens de "dérangés pathologiques" du point de vue de la moyenne de l'espèce.

Le pacifisme et l'observation bienveillante des autres espèces semble plutôt venir d'un niveau supérieure de conscience. c'est toute une société qui doit arriver à un niveau de développement suffisant pour que, sauf rares exceptions, celle-ci soit totalement pacifiste, curieuse, bienveillante. A part quelques communautés dans la grande communauté humaine, je crois pouvoir dire que la majorité n'y est pas encore. Je pense d'ailleurs qu'une telle société devient bienveillante aussi parce qu'elle se sait puissante et à l'abri des actions de "l'autre"... un peu comme un homme contemple les animaux d'un Zoo.

Il n'y a pas de raison particulière pour qu'une IA se montre d'emblée plus bienveillante qu'un homme, coopérative, qu'elle soit un individu sociable, qu'elle soit moins craintive etc. sans même parler de pathologie.
Un gros félin est dangereux pour nous surtout si il a peur. ça n'en fait pas un dérangé mental.

Pire, si celle IA se penche sur l'histoire humaine, elle pourrait en déduire très rationnellement que nous sommes souvent de dangereux irrationnels, sa logique bénéfices/risques pencherait probablement en notre défaveur

Avatar de l’utilisateur
cisou9
Messages : 9872
Inscription : 12/03/2006 - 15:43:01
Activité : Retraité
Localisation : Pertuis en Lubéron
Contact :

Re: [News] L'intelligence artificielle est-elle une bombe à retardement ?

Message par cisou9 » 13/02/2015 - 10:52:48

_____ :_salut:
philouze a écrit :Pire, si celle IA se penche sur l'histoire humaine, elle pourrait en déduire très rationnellement que nous sommes souvent de dangereux irrationnels, sa logique bénéfices/risques pencherait probablement en notre défaveur
C'est probable l'homme manque souvent de logique !!! ____ :siffle: ____
Un homme est heureux tant qu'il décide de l'être et nul ne peux l'en empêcher.
Alexandre Soljenitsyne.

Répondre