Géométrie de l’information : quelle distance entre probabilités ?

Intervenant 10:00

Bienvenue dans le podcast du magazine Tangente.

Intervenant 20:02

Merci, je suis ravie d'être là.

Intervenant 10:05

Ravi de vous retrouver aujourd'hui et bienvenue à toutes et à tous. Pour notre exploration d'aujourd'hui, on va décortiquer un article vraiment fascinant. Très

Intervenant 20:12

dense, mais fascinant,

Intervenant 10:14

oui. Ah, ça, c'est le moins qu'on puisse dire. L'article s'intitule « La géométrie de l'information » et il est coécrit par Frédéric Barbaresco, qui est chercheur chez Thales, et Franck Nielsen de Sony CSL. Et notre mission aujourd'hui, c'est de comprendre comment un concept mathématique hyper pointu et vieux de plusieurs décennies d'ailleurs,

Intervenant 20:33

C'est ça né dans les années 50.

Intervenant 10:35

Voilà comment ce concept est secrètement devenu en fait le moteur de toutes les intelligences artificielles modernes et même la clé des futures technologies quantiques. On ne va pas juste survoler, on va vraiment plonger sous le capot.

Intervenant 20:48

Et pour bien comprendre ce qui se passe sous ce fameux capot, il faut d'abord poser le cadre. En fait, on est à l'intersection de deux très grandes tendances scientifiques actuelles.

Intervenant 10:57

D'accord. Lesquelles ?

Intervenant 20:59

D'un côté, on a ce qu'on appelle la géométrisation. En gros, c'est notre volonté, en physique ou en maths, de tout représenter dans des espaces avec des formes, des courbes, des distances.

Intervenant 11:10

Visuellement, quoi.

Intervenant 21:11

Exactement. Et de l'autre côté, on a la probabilisation. Parce qu'aujourd'hui, on réalise que l'incertitude, elle domine tous les systèmes complexes. Le hasard est partout. Et la géométrie de l'information, c'est la tentative de fusionner ces demandes.

Intervenant 11:26

De fusionner l'espace et le hasard.

Intervenant 21:28

C'est tout à fait ça. C'est vraiment l'art de donner une forme géométrique à l'incertitude.

Intervenant 11:33

D'accord, décortiquons un peu tout ça. Parce que réunir la géométrie, qui nous parle d'espaces hyper tangibles, et les probabilités, qui modélisent le hasard absolu, c'est pas très intuitif au premier abord.

Intervenant 21:46

Non, ça ne l'est pas du tout, non.

Intervenant 11:48

Si on remonte aux origines, donc au milieu du XXe siècle, l'idée de base, si j'ai bien compris l'article, c'était d'introduire une notion de distance directement entre des éléments d'un espace de probabilité. C'est bien ça.

Intervenant 22:00

C'est le cœur même du sujet. Les mathématiciens de l'époque ont voulu équiper cet espace abstrait d'une structure métrique.

Intervenant 12:06

Une façon de mesurer des choses.

Intervenant 22:08

Voilà. Et pour ça, ils ont forgé un outil mathématique central. On appelle la métrique de Fischer, Kozoul, Souriau.

Intervenant 12:15

Ah oui, Fischer, Kozoul et Souriau, ça fait beaucoup de monde sur une seule formule.

Intervenant 22:19

Oui, bon, sans entrer dans l'équation brute. L'idée, c'est que cette métrique permet de calculer une distance rigoureuse entre deux variables aléatoires. Ou même entre deux densités de probabilités. Et les pionniers là-dedans, notamment le Russe Nikolai Shensov et le Japonais Shunichi Amari, ont vraiment compris qu'on ne pouvait pas juste soustraire des probabilités comme on soustrait des nombres normaux.

Intervenant 12:41

Attendez, je crois que j'ai besoin d'une analogie pour bien visualiser cette notion de distance. Parce qu'en géométrie classique, si je veux connaître la distance entre, disons, Paris et Tokyo, je prends une carte, je trace une ligne, je regarde l'échelle et boum, j'ai des kilomètres.

Intervenant 22:55

Facile.

Intervenant 12:56

Sauf que là, on essaye de mesurer la distance entre deux comportements aléatoires. Si on prend la météo, par exemple. Imaginons qu'on m'annonce 50% de chances de pluie aujourd'hui et 60% de chances de pluie demain. La géométrie de l’information, elle ne se contente pas de faire 60 moins 50 pour me dire qu'il y a un écart de 10, on est d'accord.

Intervenant 23:17

Ah non, pas du tout. Elle fait quelque chose de beaucoup plus subtil. Elle va mesurer la quantité d'informations nouvelles, ou disons la surprise, qui sépare vraiment ces deux scénarios.

Intervenant 13:28

La surprise. Oui. Prenez une pièce de monnaie. Si je vous dis qu'elle a une chance sur deux de tomber sur pile, c'est l'incertitude totale. 50-50.

Intervenant 23:36

D'accord. Maintenant, si je vous dis qu'une autre pièce est légèrement truquée et qu'elle tombe sur pile 51% du temps. L'écart d'information entre ces deux pièces est minuscule. Il faudrait les lancer des milliers de fois pour vraiment commencer à les différencier.

Intervenant 13:51

Ouais, le INU, c'est invisible.

Intervenant 23:53

Mais si je vous annonce qu'une troisième pièce tombe sur pile 99% du temps. Là, la distance informationnelle avec la première pièce est énorme. Vous le verriez tout de suite. La métrique de Fisher, en fait, elle quantifie cette difficulté précise à distinguer deux modèles statistiques quand on observe leurs données.

Intervenant 14:10

D'accord, je vois mieux. Donc elle trace, en quelque sorte, le chemin le plus court pour passer d'un niveau de certitude à un autre.

Intervenant 24:17

C'est une excellente façon de le dire.

Intervenant 14:18

Donc on cartographie véritablement l'incertitude. On crée des vallées de prévisibilité, des montagnes de hasard. C'est intellectuellement brillant. Et d'ailleurs, ça explique pourquoi Shunichi Amari, que vous citiez, a carrément reçu l'ordre de la culture des mains de l'empereur du Japon en 2019 pour ses travaux.

Intervenant 24:36

C'est la consécration ultime au Japon, oui.

Intervenant 14:38

Mais voilà ma question. Vous l'avez dit, ces concepts datent des années 50 ou 60. Alors pourquoi est-ce qu'on en parle aujourd'hui comme si c'était la révolution technologique du moment ?

Intervenant 24:47

Eh bien, ça arrive souvent en fait.

Intervenant 14:49

Ah bon ?

Intervenant 24:49

Oui, les mathématiques fondamentales précèdent très souvent la technologie, parfois de plusieurs décennies.