Voiture autonome : qui sacrifier quand le choix nous touche ?

Intervenant 10:00

Bienvenue dans le podcast du magazine Tangente. Pour commencer aujourd'hui, imaginons un peu la scène. On roule tranquillement sur l'autoroute à 110 km heure dans une toute nouvelle voiture autonome. Et là, d'un coup, un groupe de personnes surgit sur la voie.

Intervenant 20:17

Ouais, le cauchemar absolu.

Intervenant 10:19

Exactement. La machine, elle a une fraction de seconde pour réagir, mais elle fait face à un calcul vraiment terrifiant. Est-ce qu'elle sauve la personne à l'intérieur de l'habitacle ou bien les piétons sur la route ?

Intervenant 20:32

C'est vraiment le cœur du problème. Et c'est pour ça qu'aujourd'hui, on explore la façon dont les algorithmes tentent de modéliser notre morale humaine. On va se baser sur un article super intéressant du journal Le Monde, paru le 25 juin.

Intervenant 10:44

Un article qui soulève justement les enjeux colossaux d'une véritable programmation mathématique des choix de vie ou de mort. Décortiquons un peu tout ça si tu veux bien.

Intervenant 20:54

Avec plaisir, parce qu'en fait, avant même d'écrire la moindre ligne de code pour ces voitures, on se heurte à un mur philosophique géant.

Intervenant 11:02

Ah oui, c'est le fameux dilemme du tramway, mais disons version 2.0.

Intervenant 21:06

C'est ça. Historiquement, l'ingénierie automobile, ça repose sur de la mécanique pure. Genre, un capteur détecte une distance, la géométrie prend le relais et le véhicule freine.

Intervenant 11:16

Sauf que là, c'est différent.

Intervenant 21:17

Ouais. Face à l'imprévu, on demande maintenant à un ordinateur de prendre une décision d'ordre éthique.

Intervenant 11:23

Ce qui nous met face à une situation totalement insoluble. Soit freiner trop tard et écraser la foule, soit dévier violemment et sacrifier son propre passager. C'est un peu comme si on demandait à un programmeur de concevoir un test à choix multiple où absolument chaque réponse est une tragédie.

Intervenant 21:37

C'est une très bonne analogie.

Intervenant 11:39

Mais du coup, comment on peut aborder une impasse pareille avec une vraie rigueur mathématique ?

Intervenant 21:43

Eh bien, en essayant de quantifier ce qui semble incantifiable. Pour donner des repères aux algorithmes, des chercheurs ont d'abord voulu mesurer les réactions humaines face à ce scénario très précis.

Intervenant 11:54

Via des expériences en ligne, c'est ça ?

Intervenant 21:56

Oui, de très vastes expériences. Et ce qui est fascinant ici, c'est que ces données ont mis en lumière de profondes contradictions statistiques chez nous.

Intervenant 12:04

Je vois ça dans l'article, oui. Au premier abord, notre logique semble assez claire. Dans l'absolu, il y a 75% des personnes interrogées qui jugent qu'il est moral que le véhicule sacrifie son passager pour sauver 10 piétons.

Intervenant 22:17

Voilà, ça c'est l'approche purement utilitariste. On cherche juste à faire le moins de victimes possible.

Intervenant 12:22

La pure logique mathématique du moins de morts possible, peu importe de qui il s'agit quoi. Sauf que, et c'est là que ça devient fou, le basculement est hyper brutal quand on change de perspective.

Intervenant 22:33

Totalement. C'est là qu'on voit le fossé vertigineux entre cette éthique du plus grand nombre, très froide et comptable, et notre propre instant de survie.

Intervenant 12:42

Oui, parce que l'adhésion à ce fameux sacrifice, elle chute à 70% si la personne sondée s'imagine elle-même au volant.

Intervenant 22:49

Et ça descend même à 60% si elle s'imagine avec sa famille à bord.

Intervenant 12:53

C'est dingue. Mais la vraie claque, celle qui soulève un paradoxe économique majeur à mon avis, c'est la fin de l'étude. Il y a seulement 40% des gens qui affirment qu'ils achèteraient un tel véhicule.

Intervenant 23:04

Et c'est tout le problème de l'industrie auto.

Intervenant 13:06

Ben oui, à quoi ça sert de concevoir un algorithme parfaitement éthique si les probabilités de vente s'effondrent derrière ? Les constructeurs ne vont jamais s'amuser à produire une machine programmée pour sacrifier son propre propriétaire.

Intervenant 23:18

C'est clair, ça paralyse presque la transition vers l'autonomie. Cette espèce d'hypocrisie statistique humaine, elle se transforme en un casse-tête monumental.

Intervenant 13:25

Les constructeurs sont coincés entre la philosophie et le capitalisme, en gros.

Intervenant 23:30

Exactement. Et même si, par un miracle quelconque, on acceptait de déployer ces voitures malgré ces fameux 40%, le problème n'est absolument pas réglé.

Intervenant 13:38

Ah bon ? Mais qu'est-ce qui reste à coder après ça ?

Intervenant 23:41

Ben, tout le reste du monde réel. Parce qu'un piéton, c'est jamais juste un piéton abstrait.

Intervenant 13:46

Ah, je vois. Tu veux dire quelle variable la machine doit calculer en temps réel. C'est ça l'idée ?

Intervenant 23:51

Voilà. Est-ce qu'on doit pondérer l'algorithme selon l'âge des individus ? Ou bien selon le fait que quelqu'un traverse illégalement, en dehors des clous ? C'est

Intervenant 14:00

terrifiant d'y penser. On essaie de transformer une morale collective qui est déjà hyper floue en des règles strictes.

Intervenant 24:06

C'est ce qu'on appelle en mathématiques des arbres de probabilités strictes. Concrètement, l'algorithme doit attribuer un poids mathématique à chaque vie ou chaque action.

Intervenant 14:16

Donc, si je comprends bien, sauver un enfant rapporterait un certain score et écraser un piéton en infraction en coûterait un autre.

Intervenant 24:23

C'est l'idée glaçante, ouais. En une fraction de seconde, le processeur va calculer la branche de l'arbre dont le score total représente le moindre mal.

Intervenant 14:31

Mais qui décide de la valeur de ces points au juste ? C'est impossible ? C'est un peu comme essayer d'écrire une recette de cuisine où les instructions de chaque ingrédient se contredisent en permanence ?

Intervenant 24:40

C'est très compliqué en effet. Et pour tenter de trouver une base légitime à tout ça, des chercheurs ont lancé la plateforme Moral Machine. Moral

Intervenant 14:48

Machine ? D'accord.

Intervenant 24:50

L'objectif c'était de collecter à très grande échelle les choix éthiques de millions de citoyens face à la machine. L'idée est d'alimenter les modèles statistiques de l'intelligence artificielle avec une sorte de consensus mondial.

Intervenant 15:04

Waouh, un peu comme si on tentait d'écrire les dix commandements, mais de manière participative, quoi.

Intervenant 25:09

C'est une excellente façon de voir les choses, ouais. Au final, ça montre bien que la géométrie et les simples capteurs de distance, ça ne suffit plus du tout aujourd'hui.

Intervenant 15:17

C'est clair. Les mathématiques doivent désormais modéliser l'éthique elle-même. C'est fou quand on y pense.

Intervenant 25:23

Et le pire, c'est que ces mathématiques deviennent simplement le miroir de nos propres impasses morales.

Intervenant 15:28

Ça donne le vertige. Surtout quand on pousse la logique vraiment jusqu'au bout. Imaginons que les algorithmes finissent par s'appuyer sur le consensus d'une époque précise via des plateformes comme cette Moral Machine. Et

Intervenant 25:41

alors ?

Intervenant 15:43

Eh bien, que se passera-t-il quand la morale de la société changera ? Est-ce que dans 20 ou 30 ans, en même temps qu'on mettra à jour la carte GPS, il faudra télécharger le patch éthique de l'année pour éviter que notre voiture ne prenne des décisions avec les valeurs d'un autre siècle ? De quoi laisser sérieusement songeur pour l'avenir.