IA et Éthique

Un dilemme : l’IA peut-elle posséder une éthique ?

 

La technique du dilemme consiste à contraindre un apprenant quelconque à réduire des situations à un choix strictement binaire et bivalent. A-t-on l'audace de dire que l'on préfère s'en remettre au hasard, qui est en l'occurrence le moins arbitraire des maîtres, on est assuré d’être taxé d' "anarchiste", d’être de mauvaise volonté ou d’être l’idiot utile de quelque chose ou de quelqu’un.

 

Cette manie quelque peu totalitaire fait le bonheur les constructeurs automobiles qui équipent de plus en plus les véhicules de technologie "intelligente", d'où les exercices proposés par Moral Machine qui propose des dilemmes tel celui-ci : « Une voiture sans conducteur doit choisir le moindre de deux maux, tuer deux passagers ou bien cinq piétons. En tant qu'observateur externe, vous jugez quel résultat vous semble le plus acceptable.  Vous pouvez ensuite comparer vos réponses à celles d'autres utilisateurs. »

 

La technologie embarquée sur nos véhicules n'en est pas encore à permettre à celui-ci de reconnaître (par reconnaissance faciale) et identifier (âge, sexe, profession....) suffisamment vite les personnes concernées, mais ce n'est peut-être qu'une question de temps. On notera en tout cas que le "dilemme" tient même compte du statut social des personnes visées, induisant ainsi une hiérarchie sociale entre les individus.

 

Voilà un nouveau type de totalitarisme qui renvoie à Alfred Grosser et à ses "dix leçons sur le nazisme" : l'une d'elles rapporte notamment le contenu d'un problème d'arithmétique trouvé dans un manuel scolaire de l'époque hitlérienne, dans lequel l'élève doit calculer combien de primes aux jeunes ménages l’État pourrait accorder s'il pouvait faire l'économie de l'entretien des handicapés. Le fameux programme T4 taxait du reste ses victimes de personnes "lebensunwertes Leben" (vie indigne de vivre, vie ne valant pas d'être vécue).

 

Lancé en 2016, le site Moral Machine propose à l'internaute de juger les situations éthiques auxquelles seront confrontées les véhicules autonomes. Mais l'apprentissage de l'éthique par les véhicules autonomes continue de poser de nombreuses questions auxquelles il faudra bien un jour apporter des réponses. Quelles seront-elles ? Je redoute le pire.

//moralmachine.mit.edu/hl/fr

 

//www.sciencesetavenir.fr/high-tech/moral-machine-ce-que-nos-dilemmes-moraux-peuvent-apprendre-aux-vehicules-autonomes_117663