Lettre d'information

Les archives de la newsletter de Convergence

L’algorithme aux commandes…

Que seraient nos existences sans les technologies ? Elles seraient probablement celles de nos ancêtres lorsque les techniques étaient plus rudimentaires. Alors comment ne pas être enthousiastes face aux évolutions technologiques ? Songeons que demain des voitures et des camions vont se conduire seuls, un futur presque déjà là. Une révolution qui ne pourra s’affranchir des traditionnelles questions de la philosophie…

Les prototypes sont presque au point. Des milliers de kilomètres ont déjà été parcourus par des automobiles et des camions sans qu’un pilote humain n’intervienne. La promesse de cette révolution : la baisse des accidents de la route comme autant de vies épargnées. Qui peut être contre cela ? Gage de modernité, la plateforme Uber a déjà jeté son dévolu sur cette révolution. Comment ne pas les comprendre ? Des voitures qui roulent sans chauffeur c’est quand même de sérieux problèmes qui disparaissent. Et puisqu’Uber a déjà mené des premiers tests concluants, il ne nous reste qu’à nous convaincre que le progrès est en marche. Le passage prochain à l’ère commerciale ne va pas sans charrier son lot d’interrogations éthiques. Une voiture qui se pilote seule est une voiture pilotée par un logiciel qui aura lui-même été programmé par l’Homme. Imaginez-vous à bord de votre voiture autonome, vous lisez un bon roman, vous somnolez en écoutant de la musique ; votre véhicule respecte scrupuleusement les limitations de vitesse et vous roulez à 90 km/h sur une jolie route de campagne. L’imprévisible surgit ; un enfant inattentif traverse à vélo, là, juste devant votre véhicule. Impossible de stopper la voiture ; que fait-elle ? Rien d’autre que ce qui aura été programmé dans son logiciel. L’algorithme va minimiser le risque accidentel et chercher à limiter le dommage. Mais quels dommages va-t-il minimiser ? Changer de trajectoire, c’est mettre en danger les vies des passagers de la voiture, c’est prendre le risque de heurter un autre véhicule pouvant surgir en face. Ne pas changer de trajectoire, c’est expédier l’enfant à vélo vers une mort certaine. Et voilà que le dilemme vient gâcher la fête technologique. L’Homme confronté à pareille situation fera un choix hic et nunc qui engagera sa responsabilité. Mais le logiciel n’a ni conscience morale, ni réflexes. Les constructeurs auront comme alternative la possibilité de programmer les véhicules de manière à toujours protéger d’abord leurs propres passagers, ou de les programmer de telle sorte que, l’inévitable accident minimise le nombre de victimes quelles qu’elles soient. La première option paraît tant moralement que socialement inacceptable et serait nuisible en termes d’image pour les constructeurs. La seconde option serait certainement plébiscitée sur le plan collectif dès lors que chacun ne se trouve pas impliqué personnellement… car qui acceptera d’acheter un véhicule dont il serait connu qu’il est programmé pour sacrifier ses passagers en cas de nécessité ? Outre les dimensions juridiques et les dilemmes, le problème philosophique que pose l’intelligence artificielle dans le cas de la voiture autonome est qu’elle requiert une théorie de l’éthique reproductible dans toutes les situations. Si une telle théorie existait, elle ne serait que la négation même de l’éthique. Une contradiction que des siècles de philosophie n’ont pu résoudre. La question éthique est sensible dans un monde qui ne cesse d’être agité. George Orwell avait su magistralement l’exposer, Hannah Arendt avait su l’analyser : le totalitarisme créait un mode dans lequel les humains deviennent superflus. L’éthique et l’algorithme ont tous les attributs du mariage de la carpe et du lapin.

Éditorial de Philippe Bigot Fondateur
avril 2017