Voiture autonome : qui choisit quand l’accident est inévitable ?

Intervenant 10:00

Bienvenue dans cette nouvelle exploration, le podcast du magazine Tangente. C'est vraiment un plaisir de vous retrouver pour plonger dans l'article « Conduite éthique » aujourd'hui.

Intervenant 20:10

Bonjour. Oui, un sujet qui est vraiment au carrefour des mathématiques et de la philosophie.

Intervenant 10:15

C'est ça. On a comme mission de comprendre comment ces deux domaines essaient de résoudre le fameux casse-tête des voitures autonomes.

Intervenant 20:23

Et c'est pas une mince affaire.

Intervenant 10:24

Non, clairement pas. Bon, décortiquons tout ça. On a tous, enfin, cette image du mythe de la machine dangereuse, incontrôlable. Surtout quand on repense aux premiers accidents très médiatisés de la Google Car en 2016 ou du bar en 2018.

Intervenant 20:41

Alors ce qui est fascinant ici, c'est que quand on regarde les faits de plus près, l'automatisation n'est pas vraiment en cause. L'algorithme lui, il est méthodique.

Intervenant 10:49

D'accord, donc la machine n'a pas buggé à proprement parler ?

Intervenant 20:53

Le véhicule était bloqué. Et c'est le conducteur humain qui a forcé le passage.

Intervenant 10:58

Ah, il s'est dit que ça passerait.

Intervenant 20:59

Voilà, il a parié qu'un bus ralentirait. Donc c'est une pure erreur d'anticipation psychologique de la part de l'humain, c'est pas mathématique.

Intervenant 11:06

Et pour le cas du beurre en 2018, c'était le même genre de scénario ?

Intervenant 21:11

Là, l'environnement cumulait plein de variables très complexes. La victime traversait hors des clous. C'était de nuit, sans réflecteur. Et d'ailleurs, les tests toxicologiques étaient positifs. Mais surtout, le freinage d'urgence du véhicule avait été désactivé. Et pour couronner le tout, la conductrice censée superviser regardait son téléphone.

Intervenant 11:31

C'est fou ça ! Donc la faille, c'est bien l'humain. Mais puisque l'humain est la faille, comment on fait pour programmer mathématiquement une machine pour réagir quand l'accident devient inévitable ?

Intervenant 21:42

Eh bien, ça nous ramène tout droit au fameux dilemme du tramway. C'est une expérience de pensée proposée par la philosophe Philippa Rootvoet en 1967.

Intervenant 11:51

Celle où on doit choisir entre sacrifier une personne pour en sauver cinq autres ?

Intervenant 21:55

Exactement. Est-ce qu'on dévie le

Intervenant 11:58

tramway ou pas ? C'est un peu comme un jeu d'échecs macabre en fait, où absolument aucune case n'est bonne. Mais comment des ingénieurs transforment ce concept purement philosophique en ligne de code ?

Intervenant 22:09

Alors le MIT et l'École d'économie de Toulouse ont essayé de t'y répondre avec un simulateur en ligne, la Moral Machine. D'accord. Ils ont récolté des millions de jugements d'internautes, dans une centaine de pays. L'idée c'était de tester ces scénarios horribles.

Intervenant 12:25

Et d'en tirer une sorte de moyenne mondiale de l'éthique.

Intervenant 22:28

C'était l'espoir, oui. Mais compiler l'éthique mondiale, c'est une chose très compliquée. Les résultats montrent qu'il n'y a pas de consensus. Certains pays vont privilégier les jeunes, d'autres les personnes âgées, ou le respect des faux rouges, peu importe le nombre de piétons impliqués.

Intervenant 12:44

Ah ouais, c'est insoluble ! Et puis, devant un tribunal ou face aux assurances, comment on fait pour déterminer la responsabilité de manière irréfutable ? On ne peut pas juste dire que la voiture a suivi une tendance culturelle, quoi !

Intervenant 22:55

Tout à fait. C'est pour ça que l'équipementier Mobileye a développé une solution purement géométrique et mathématique.

Intervenant 13:02

C'est à dire ?

Intervenant 23:03

Ils ont créé un modèle qui sépare totalement la conduite de confort des décisions de sécurité. Concrètement, le système trace une enveloppe spatiale virtuelle autour de la voiture.

Intervenant 13:14

Ok, je visualise.

Intervenant 23:16

Et l'algorithme garantit que la position de la voiture ne croisera jamais celle d'un autre usager. La rigueur paie vraiment. La NHTSA, l'agence de sécurité américaine, a testé ça sur 37 scénarios pré-accidents hyper complexes.

Intervenant 13:29

Et le résultat ?

Intervenant 23:30

Zéro erreur. Le véhicule refuse juste d'entrer dans une zone mathématiquement dangereuse.

Intervenant 13:35

C'est génial techniquement, mais il y a quand même une grosse objection juridique, non ? L'article 121.1 du Code pénal en France dit que c'est le conducteur, le responsable, pas l'algorithme.

Intervenant 23:44

C'est le grand paradoxe. Et c'est là qu'interviennent des chercheurs de l'Université de Bologne avec un concept assez surprenant, le bouton éthique.

Intervenant 13:52

Un bouton dans la voiture.

Intervenant 23:53

Oui. Avant de démarrer, le conducteur devrait choisir un mode. Soit un mode égoïste qui va tout faire pour sauver la vie des passagers, soit un mode altruiste qui va chercher à minimiser les pertes globales.

Intervenant 14:04

Oh waouh. Donc le conducteur garde la main. Au fond, c'est un peu comme quand on désactive l'airbag passager pour installer un siège enfant, non ?

Intervenant 24:13

C'est exactement la même logique, oui.

Intervenant 14:14

On choisit le mode altruiste quand on est seul, et on bascule sur le mode égoïste dès qu'on a ses enfants à l'arrière pour les protéger en priorité.

Intervenant 24:21

Voilà. Et du coup, la machine ne fait qu'exécuter l'équation choisie. Confier le volant à une IA, c'est finalement résoudre une équation où se mélangent l'ingénierie, la morale et le droit.

Intervenant 14:33

C'est fascinant, mais ça laisse une question finale quand même assez provocatrice. Si chaque automobiliste décide de configurer secrètement son propre véhicule sur le mode égoïste pour se sauver lui, est-ce que l'efficacité mathématique de tout ce réseau de sécurité globale ne risque pas de s'effondrer complètement de l'intérieur ?