Voitures autonomes et choix moraux: qu'en pensent les internautes ?
Publié par Redbran le 30/10/2018 à 12:00
Source: CNRS
Des chercheurs du CNRS (membre de TSE – Université Toulouse Capitole), du MIT, des universités d'Harvard et de Colombie Britannique, ont lancé en 2016 la plateforme en ligne "Moral Machine" dans le but d'interroger les internautes sur les dilemmes moraux auxquels nous confronte le développement des véhicules autonomes. Les chercheurs ont ainsi récolté 40 millions de décisions auprès de millions d'internautes du monde (Le mot monde peut désigner :) entier. Les résultats montrent quelles sont les préférences morales globales qui pourraient guider les décideurs et industriels à l'avenir. L'analyse de ces données (Dans les technologies de l'information (TI), une donnée est une description élémentaire, souvent codée, d'une chose, d'une transaction d'affaire, d'un événement, etc.) est publiée le 24 octobre dans la revue Nature.


Exemple d'une situation proposée sur la plateforme Moral Machine.
© Edmond Awad et al. Nature.

Percuter une femme avec une poussette ou aller dans le mur (Un mur est une structure solide qui sépare ou délimite deux espaces.) au risque de tuer les quatre passagers ? Voilà le genre de dilemme auquel sont confrontées les voitures autonomes, et plus encore, ceux qui les programment. En 2016, une équipe de recherche (La recherche scientifique désigne en premier lieu l’ensemble des actions entreprises en vue de produire et de développer les connaissances scientifiques. Par extension métonymique, la...) a lancé la plateforme Moral Machine pour questionner les internautes sur l'option la "plus juste" selon eux. Pendant 18 mois (Le mois (Du lat. mensis «mois», et anciennement au plur. «menstrues») est une période de temps arbitraire.), les chercheurs ont récolté leurs réponses afin de documenter les préférences morales des internautes en provenance de 233 pays (Pays vient du latin pagus qui désignait une subdivision territoriale et tribale d'étendue restreinte (de l'ordre de quelques centaines de km²), subdivision de la civitas gallo-romaine....) ou territoires à travers le monde.

L'analyse de ces données a permis d'identifier trois critères moraux principaux: sauver des vies humaines plutôt que des animaux, sauver le plus grand nombre (La notion de nombre en linguistique est traitée à l’article « Nombre grammatical ».) de vies et sauver les vies des plus jeunes plutôt que celles des personnes âgées. Ainsi, les profils les plus sauvés dans les situations proposées par Moral Machine sont les bébés en poussette, les enfants et les femmes enceintes.

Les résultats montrent également des préférences morales beaucoup plus controversées: les personnes en surpoids (Le surpoids est l'état d'une personne présentant une corpulence considérée comme légèrement plus importante que la normale ou la moyenne dans...) ont environ 20% de probabilité (La probabilité (du latin probabilitas) est une évaluation du caractère probable d'un évènement. En mathématiques, l'étude des probabilités est un sujet de grande importance donnant lieu à de nombreuses...) de plus de se faire tuer face à des personnes athlétiques ; les personnes pauvres 40% de probabilité de plus que des personnes riches, tout (Le tout compris comme ensemble de ce qui existe est souvent interprété comme le monde ou l'univers.) comme les personnes ne respectant pas les feux de signalisation par rapport à ceux qui les respectent. D'ailleurs, les chercheurs notent que dans les pays développés (Les pays développés à économie de marché (PDEM) sont des pays dont la majorité de la population accède à tous ses besoins...), avec des lois et institutions fortes, les utilisateurs sauvent moins souvent les piétons ne traversant pas sur un passage clouté que les internautes de pays moins développés.

Les données récoltées étant publiques et accessibles à tous, les auteurs espèrent qu'elles seront consultées par les gouvernements envisageant de légiférer sur les voitures autonomes ou les industriels travaillant sur la programmation (La programmation dans le domaine informatique est l'ensemble des activités qui permettent l'écriture des programmes informatiques. C'est une étape importante de la conception de logiciel (voire de matériel, cf. VHDL).) de ces voitures. Le but n'est pas nécessairement de suivre la volonté des utilisateurs de Moral Machine, mais d'avoir une vision globale des préférences morales des citoyens. Les chercheurs restent cependant prudents sur la représentativité de l'étude, les participants ayant été volontaires pour répondre et non sélectionnées par des méthodes d'échantillonnage (L'échantillonnage est la sélection d'une partie dans un tout. Il s'agit d'une notion importante en métrologie : lorsqu'on ne peut pas saisir un événement dans son ensemble, il...).

Les auteurs mettent à disposition du public un site web (Un site Web est un ensemble de pages Web hyperliées entre elles et mises en ligne à une adresse Web. On dit aussi site Internet par métonymie, le World Wide Web reposant sur Internet.) permettant d'explorer les résultats de Moral Machine pays par pays, et de comparer les pays entre eux.


Fig. a: Diagramme présentant la différence de probabilité entre différentes catégories de personnes d'être épargnées dans un accident avec une voiture (Une automobile, ou voiture, est un véhicule terrestre se propulsant lui-même à l'aide d'un moteur. Ce véhicule est conçu pour le transport terrestre de personnes ou de...) autonome. La différence est en faveur des catégories du côté droit.

Fig. b: Avantage ou désavantage relatif pour chaque catégorie de personnes par rapport à une personne adulte (homme ou femme). Par exemple, la probabilité qu'une petite fille soit épargnée est supérieure de 0,15 à la probabilité qu'une personne adulte soit épargnée.

© Edmond Awad et al. Nature.

Consulter le site web de Moral Machine: http://moralmachine.mit.edu/

Références publication:
The Moral Machine Experiment. Edmond Awad, Sohan Dsouza, Richard Kim, Jonathan Schulz, Joseph Henrich, Azim Shariff, Jean-François Bonnefon, Iyad Rahwan. Nature, 2018.
Consulter le site web

Contact chercheur:
Chercheur CNRS (Le Centre national de la recherche scientifique, plus connu sous son sigle CNRS, est le plus grand organisme de recherche scientifique public français (EPST).) - Jean-François Bonnefon
Page générée en 2.846 seconde(s) - site hébergé chez Amen
Ce site fait l'objet d'une déclaration à la CNIL sous le numéro de dossier 1037632
Ce site est édité par Techno-Science.net - A propos - Informations légales
Partenaire: HD-Numérique