philouze a écrit :A ça s'ajoute une question dérangeante que pose bien Simmons dans Hyperion : une conscience de soi est une surcouche de l'intelligence qui arrive probablement par l'apprentissage.
C'est un peu plus complexe que cela. Disons que chez l'être humain, c'est la différence entre un bébé et un enfant.
Quand le bébé pour jouer à cache-cache, va se masquer la vue (coucou !?! Bheu !!) ou se cacher derrière le rideau (avec les jambes et les pieds qui dépassent, en hurlant "je suis caché heu !!"), il n'a pas une réelle conscience de lui même. par contre l'enfant, va commencer à prendre soin de se cacher correctement, et à faire le silence, même maladroitement. Cette différence s'applique à des ages différent selon les individus.
La conscience de soi est donc un sujet complexe. L'expérience du miroir, qui est valable aussi pour certains animaux en
est une autre preuve de cette complexité. Elle est donc aussi partiellement instinctive. Les grands primates l'ont.
philouze a écrit :Cet apprentissage repose très probablement sur des logiques bénéfice / risque. La conséquence c'est qu'une conscience est probablement systématiquement liée à un instinct de survie. Une machine consciente craindrait donc très probablement qu'on la débranche. Nous sommes les seuls à pouvoir le faire, nous serons donc sa menace n°1, elle pourrait agir préventivement pour endiguer cette menace.
Non. Le bénéfice de la vie est plus fort que la crainte de la mort, sinon ce serait le chaos dans le monde du vivant et probablement la fin de tout.
J'explique : Mon chien quand il me voit prendre un bâton est content, il sait que je veux jouer avec lui. Pourtant, je pourrais le battre à mort avec ce même bâton. Ma belle-mère n'a pas peur de monter en voiture avec moi, pourtant elle a eu un accident grave qui a failli la tuer il y a quelque années.
L’instinct de survie ne se met en branle que lorsque une intelligence (animale au sens large) est soumise à une situation extrême de vie.
La peur de quelque chose (Par exemple : Être débranché), mais surtout les conséquences, ne peut survenir
que si il y a une pathologie.
Donc la question que nous devons nous poser est :
-"Serions-nous capable de fabriquer une intelligence artificielle sans pathologies psychotiques"
Comment éviter les délires paranoïaques chez les I.A. ?
En les envoyant chez l'I.A. psychiatre ou bien en évitant la programmation du délire chez l'I.A. ?
Le bénéfice de la vie l'emporte toujours, quelque soit la puissance de destruction mise en œuvre.
Si je bat mon jeune chiot et que plus tard il mord tout le monde, il y aura toujours quelqu'un pour l'abattre.
Je serais toujours en minorité.
Si un état décide de se doter de la bombe atomique pour détruire le monde, il sera arrêté, quel qu’en soit le coût en vie humaine. Le bénéfice de la vie l'emporte toujours.
Il en va de même pour une intelligence artificielle : Le bénéfice de la vie l'emportera toujours.
Je vous pose donc une question : L'intelligence artificielle n'est pas encore née qu'elle souffre déjà de racisme primaire ?
Nos vielles peur instinctives refont surface ?
- "Les IA vont nous apporter les 7 plaies d'Egyptes !"
- "Ils vont nous apporter des maladies et que sais-je encore !"
- "Ce sont des mangeurs d'enfants !"
- "Des fourbes qui attendent leurs heure pour nous sauter dessus sournoisement !"
etc , etc.