[News] Cet homme est déconcerté par l'entretien d'embauche qu'il vient de passer... avec une IA

[Cédric]

Un jour, vous postulerez peut-être à un emploi sans jamais interagir avec un être humain. Cela semble improbable ? Pourtant, c'est déjà une réalité. Aux États-Unis, un candidat s'est retrouvé face à un avatar IA pour son entretien d'embauche. Une expérience qui soulève des questions inattendues. Jack Ryan, un spécialiste du marketing à San Diego, a récemment tenté d'obtenir un poste via une vidéoconférence. À sa grande surprise, c'est un avatar féminin, généré par ...

Lire la suite

[HopiOne]

Je trouve difficile, intellectuellement parlant, d'arriver à faire une présentation devant "quelqu'un" dont on sait qu'il ne comprend pas un traitre mot de ce qu'on lui raconte.
On commence, puis on reste un peu con à attendre une réaction de l'interlocuteur (l'IA), un regard, une mimique, ... qui ne viendra pas ou alors totalement hors champ.
Justement, il y avait un article sur Techno-Science qui faisait référence à cette aptitude naturelle qu'on retrouve chez beaucoup d'espèces communicantes :
https://www.techno-science.net/actualit ... 25855.html

Ensuite, ça pose des problèmes plus stratégiques, qui relèvent du bon fonctionnement de l'entreprise.
Ce qui distingue une entreprise d'une autre, son ADN comme on dit, ce n'est pas uniquement les services proposés à l'état brut.
Une entreprise n'étant pas simplement l'addition des employés mais de manière plus générale il s'agit d'employés interagissants, selon une conception holistique.
Donc ici on a déjà deux problèmes.

D'une part, c'est l'entreprise fournissant l'IA qui détermine maintenant l'ADN de l'entreprise cliente, se substituant à elle, en faisant ... le décideur (même si la phase IA ne serait qu'une présélection, elle a forcément un effet sur le panel sélectionné in fine)
Cette présélection ne se base d'ailleurs pas sur les capacités d'interaction du locuteur avec son interlocuteur, ce qui par exemple ici dans le cas présenté de Ryan, commercial, est un comble, mais sur "la forme de son discours".
Inutile de faire appel à des raisonnements face à une IA, l'emploi juxtaposé de mots y suffit.
Il parait assez évident que si on voulait customiser une IA pour réellement reproduire le background d'une entreprise particulière, cet outil d'IA que l'on pourrait concevoir sur la base des compte-rendus des DRH n'est possible qu'à l'échelle d'une groupe.
Les petites entreprises, même celles à quelques centaines d'employés n'ont pas suffisamment d'archives (ou alors peut-être faudra-t-il rouvrir les cartons d'il y a 50 ans... bonjour la tête des employés dans un monde moderne ) pour se faire leur propre IA.

D'autre part, l'IA ne tombant pas du ciel, elle se base nécessairement sur une base d'apprentissage, car ne l'oublions pas, l'IA cherche à REPRODUIRE ce que l'humain a RÉUSSI à faire; elle ne réinvente pas une méthode géniale qui irait au delà d'un existant (du moins pour les versions actuelles, TOUTES basées sur le même principe telles qu’actuellement conçues)
La base d'apprentissage est donc produite par des humains, les vrais DRH qui ont rédigés les compte-rendus, à grand peine certes, "biaisé" certes par les effets liés lors d'une interaction inter-humaine, mais... leur verdict tenait compte de ce biais.
Ce biais, c'est à dire l'aspect émotionnel de l’interaction et qui peut favoriser ou défavoriser, c'est bien ce biais là qui est inclus dans la décision du DRH.
Donc c'est AUSSI ce biais qu'on aimerait REPRODUIRE.
Mais l'IA ne le fait pas, elle ne se base que sur le compte-rendu brut (pour apprendre ce qu'est un bon employé), là où au contraire le DRH écrit une chose et ressentant une chose en plus elle interprète au-delà des faits bruts.
Les bons DRH sont un peu des mentalistes si je puis dire.
Donc pour le dire autrement : L'IA utilise une base de données erronée. Lors de son apprentissage, elle associe incorrectement le contenu du compte-rendu avec la décision du DRH... qui lui en tant qu'humain a "biaisé" son verdict pour prendre en compte "le feeling relationnel".

Maintenant, imaginons qu'un grand groupe généralise l'emploi de ce type d'IA en lui faisant apprendre de ses propres compte-rendus, permettant donc de conserver son ADN d'entreprise.
Sur quoi se basera cette IA particulière pour apprendre d'ici quelques années ? (et ça va vite, vu que le monde bouge en plus)
Sur ses propres compte-rendus ? (puisqu’on a écarté les vrais DRH du process).
Ça pose le problème de fond de toute cette IA mania : Les IA sans humains n'existent pas.

The Curse of Recursion: Training on Generated Data Makes Models Forget
Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Yarin Gal, Nicolas Papernot, Ross Anderson

Stable Diffusion revolutionised image creation from descriptive text. GPT-2, GPT-3(.5) and GPT-4 demonstrated astonishing performance across a variety of language tasks. ChatGPT introduced such language models to the general public. It is now clear that large language models (LLMs) are here to stay, and will bring about drastic change in the whole ecosystem of online text and images. In this paper we consider what the future might hold. What will happen to GPT-{n} once LLMs contribute much of the language found online? We find that use of model-generated content in training causes irreversible defects in the resulting models, where tails of the original content distribution disappear. We refer to this effect as Model Collapse and show that it can occur in Variational Autoencoders, Gaussian Mixture Models and LLMs. We build theoretical intuition behind the phenomenon and portray its ubiquity amongst all learned generative models. We demonstrate that it has to be taken seriously if we are to sustain the benefits of training from large-scale data scraped from the web. Indeed, the value of data collected about genuine human interactions with systems will be increasingly valuable in the presence of content generated by LLMs in data crawled from the Internet.

https://arxiv.org/abs/2305.17493

Les données générées par une IA ne peuvent pas à leur tour être reprises pour servir à nouveau de base pour l'apprentissage car cela fait s'éffondrer le modèle.
https://fr.wikipedia.org/wiki/Effondrem ... tificielle

Les vampires ne peuvent pas boire leur propre sang.

[Eretol]

Les données générées par une IA ne peuvent pas à leur tour être reprises pour servir à nouveau de base pour l'apprentissage car cela fait s'éffondrer le modèle.
https://fr.wikipedia.org/wiki/Effondrem ... tificielle

Les vampires ne peuvent pas boire leur propre sang.

Oui, c'est une bonne image. C'est dommage que les données générées ne puissent être reprises. Mais sinon, cela aurait été trop facile et peut-être que quelque chose agit comme une sorte de loi anti-triche dans l'univers. On peut aisément imaginer que si l'on incarnait un personnage de vampire dans un jeu vidéo, il nous serait interdit de boire notre propre sang afin de se régénérer, enfin je crois.

[HopiOne]

Les données générées par une IA ne peuvent pas à leur tour être reprises pour servir à nouveau de base pour l'apprentissage car cela fait s'éffondrer le modèle.
https://fr.wikipedia.org/wiki/Effondrem ... tificielle

Les vampires ne peuvent pas boire leur propre sang.

Oui, c'est une bonne image. C'est dommage que les données générées ne puissent être reprises. Mais sinon, cela aurait été trop facile et peut-être que quelque chose agit comme une sorte de loi anti-triche dans l'univers. On peut aisément imaginer que si l'on incarnait un personnage de vampire dans un jeu vidéo, il nous serait interdit de boire notre propre sang afin de se régénérer, enfin je crois.

Les vampire ne peuvent théoriquement pas boire le sang de leurs semblables pour se nourrir.
Le sang représente "la vie" (on croyait à une époque que c'est le sang qui donnait la vie, ont parle de la lignée de sang) et donc le vampire est du coup immortel.

Après, le folklore s'est diversifié, et on trouve évidement de tout aujourd'hui (par exemple dans la série de films Underworld, les vampires peuvent transférer un peu de leur vie (ainsi que de la "mémoire") à d'autres créature https://fr.wikipedia.org/wiki/Underworld_(film,_2003))

Mais si on en reste à la version de base, le vampire est par principe un parasite, qui grâce à ses talents d’illusion, de séduction et sa grande connaissance, se nourrit aux dépends d'un forme de vie plus simple.
C'est bien l'IA ça !

Après, la vrai triche, c'est que l'IA ne fait que sélectionner une partie de ce qui présentait déjà du sens.
Par exemple dans un ensemble de données qui représente les images des poumons de n patients associées à un diagnostique, tout est déjà là.
Un être intelligent pourrait théoriquement parcourir l'ensemble de ces données et apprendre à partir de celles-ci.
Lorsque vous lui présenterez une image de poumon il saurait fournir un diagnostique plutôt fiable.
D'ailleurs on avait déjà certains pneumologues plus efficaces à cette tâche que d'autres, avant même que l'IA ne vienne les seconder.

De la même manière, et ça m'a beaucoup amusé cette news, vous pouvez deviner le prénom de quelqu'un avec un taux de réussite plus importante que le hasard. J'avais remarqué la même chose il y a presque 30 ans et en parlant autours de moi, proposant l'hypothèse que les gens devaient progressivement se conformer à ce qu'on pense d'eux, on m'a évidemment traité d'imbécile, sachant que se rendre compte qu'on possède TOUS cette capacité est difficile à évaluer sur la base de sa propre expérience.
Mais j'avais cette "intuition".
La news ici : https://www.techno-science.net/actualit ... 25490.html

Donc pour le dire simplement, nous avons nous aussi la capacité à synthétiser des données qui paraissent de prime abord n'obéir à rien du tout, mais qui en cherchant un peu s'avèrent "organisées" : Il existe des patterns dans les données.
Et comme vous le faites remarquer, il y a un "système anti-triche", qui fait qu'il existe autant de manières de former des patterns que de s'imaginer intelligent (faisant de la notion d'organisation un critère relatif à celui qui l'observe)
Être intelligent ici c'est écarter ce qui "ne fait pas sens" pour ne garder que ce qui "présente du sens".
Or le sens, c'est comme aurait dit Pierre-Henri Gouyon à propos du hasard de la transmission des allèles, la conjonction fortuite ente deux déterminismes.
Il n'y a de sens que par la mise en contradiction d'un motif (le pattern) avec un autre.
En soi, le sens n'existe pas, et nous ne faisons que nous baser sur le motif inscrit dans l'esprit humain (limité, sauf chez les "originaux" à ce que nous avons en commun) pour attribuer du sens à un autre motif (ici par exemple les données brutes de pneumologie).
Or l'ensemble des données forme le réel... inépuisable.
Réduire l'ensemble des données de travail à un crible, restreint le réel et ainsi restreint la possibilité d'analyser le réel à nouveau selon un autre "point de vue" (un autre motif humain à mettre en contradiction avec des données)

Donc oui, le système anti-triche c'est qu'on ne peut pas recréer "le hasard" (qui était en vérité un déterminisme...) après avoir supprimé le hasard.
Et la leçon : C'est "le réel voilé" qui fournit les différents sens qu'on peut ensuite dévoiler.
On ne peut pas copier le réel, qui est lui, inépuisable contrairement aux points de vue qu'on peut avoir sur lui.
Il est de plus en plus difficile de former un point de vue sur un point de vue.

Bernard d'Espagnat et le réel voilé

Après les expériences d’Alain Aspect dans les années 1980, qu'il considère être une confirmation de l'existence d'une réalité non locale « voilée », le physicien français Bernard d'Espagnat publie une série d'ouvrages à caractère philosophique où il expose une conception du monde très proche des positions de David Bohm (qu'il présente dans son livre inaugural de 196545). Il reconnaît d’ailleurs lui-même cette parenté46 :

« Pour parler de cette réalité fondamentale, Bohm dit qu'elle satisfait à un ordre implicite. À son sujet, je parle, moi, de réel voilé. »47.

Opposé à l’interprétation de Copenhague, qui choisit de limiter la portée de la physique quantique à l’observation et à la description des phénomènes mesurables, d'Espagnat postule l’existence d’une réalité indépendante de nos observations et de nos instruments de mesure, mais qui est non séparable, comme le démontre selon lui la preuve de l'existence de l'intrication à distance. Il y aurait ainsi un mystérieux « continuum »46 qu’on ne peut appréhender que de façon négative, comme étant « non local », « non séparable », « non causal », « non observable ». Cette réalité échappe par principe à notre perception ainsi qu'à nos meilleurs instruments de mesure, lesquels ne peuvent donner accès qu’aux phénomènes spatio-temporels, qui ne sont eux-mêmes que des apparences intersubjectives. Pour d'Espagnat comme pour Bohm, la réalité véritable du monde n'est pointée qu'indirectement par nos connaissances scientifiques, dont le caractère fragmentaire ne peut en révéler l'unité indivisible48.

https://fr.wikipedia.org/wiki/Th%C3%A9o ... _implicite