IA et Big Data : quand les données aident et biaisent

Intervenant 10:00

Bienvenue dans le podcast du magazine Tangente. Imaginez qu'une entreprise sache que vous allez la quitter avant même que vous n'ayez pris la décision.

Intervenant 20:09

Ah, ça fait un peu peur dit comme ça.

Intervenant 10:11

Oui, mais ce n'est pas de la science-fiction, c'est vraiment à la réalité mathématique d'aujourd'hui. Donc aujourd'hui, on se plonge dans une nouvelle exploration audio en fouillant dans nos dossiers nos articles pour décortiquer la relation un peu symbiotique entre l'intelligence artificielle et le big data. L'idée, c'est de comprendre comment ces deux-là s'alimentent mutuellement.

Intervenant 20:34

Oui, pour le meilleur et parfois pour le pire.

Intervenant 10:37

Exactement.

Intervenant 20:37

Pour poser un peu les bases, il faut voir que sans ces masses d'informations gigantesques, ce qu'on appelle le Big Data, les nouvelles IA basées sur l'apprentissage automatique, elles n'auraient absolument rien à analyser.

Intervenant 10:48

Rien du tout,

Intervenant 20:49

oui. En fait, l'IA, c'est vraiment l'outil mathématique par excellence pour exploiter ces données. Si on regarde des domaines comme l'astronomie ou le séquençage du génome.

Intervenant 11:00

Ou les accélérateurs de particules.

Intervenant 21:02

C'est ça, le volume de données générées en continu y dépasse de très très loin nos capacités cognitives humaines.

Intervenant 11:09

D'accord, donc au lieu d'un détective classique qui chercherait de simples indices et parts, l'IA agit plutôt comme un cartographe.

Intervenant 21:18

C'est une bonne analogie, oui.

Intervenant 11:19

On lui fournit des milliards de points de coordonnées brutes et elle trace une carte bien lisible pour révéler des structures invisibles à l'œil nu.

Intervenant 21:28

C'est exactement le mécanisme central. L'IA optimise les algorithmes pour classer ses points, mais elle va surtout interpoler et extrapoler. Et c'est d'ailleurs toute la beauté mathématique qu'on avait détaillée dans le dossier du numéro 181 de Tangente. Ah oui, tout à

Intervenant 11:42

fait.

Intervenant 21:43

Et on l'a même approfondi d'un point de vue un peu plus technique dans Tangente SUP7778. En fait, les modèles, ils s'affinent en permanence en se confrontant au réel.

Intervenant 11:54

Pour minimiser leur marge d'erreur.

Intervenant 21:56

Voilà, c'est tout à fait ça.

Intervenant 11:58

Et je dois dire, ces capacités d'extrapolation, je les trouve toujours fascinantes quand on observe des galaxies lointaines ou de l'ADN.

Intervenant 22:05

Bien sûr.

Intervenant 12:06

Mais le basculement, c'est quand l'objet d'étude, ce n'est plus une étoile, mais nous. L'algorithme applique exactement les mêmes mathématiques prédictives à nos comportements.

Intervenant 22:15

Ouais, parce que le mécanisme causal, au fond, il reste le même. Il s'agit d'identifier des modèles récurrents. L'opérateur SFR en est un cas d'école très concret, pour

Intervenant 12:24

le coup. SFR, vraiment ?

Intervenant 22:26

Ouais, en traquant simplement les pages visitées sur leur site internet et les mots clés qui sont saisis, leurs algorithmes sont parvenus à anticiper plus de 80% des résiliations potentielles.

Intervenant 12:38

Attends, 80% ! C'est

Intervenant 22:40

énorme ! C'est massif ! Et en plus, ils ont réussi à retenir les trois quarts de ces partants avec des offres ciblées.

Intervenant 12:47

Ah ouais. Mais comment s'établit concrètement ce lien de causalité ? Parce que bon, un client qui tape comment résilier, c'est une évidence.

Intervenant 22:56

Oui, là c'est facile.

Intervenant 12:57

Donc j'imagine que pour atteindre un score pareil, l'algorithme doit détecter des signaux beaucoup plus faibles, non ?

Intervenant 23:02

Complètement. Le modèle capte en fait des micro variations de comportement. Imagine une baisse soudaine de la consommation de données.

Intervenant 13:10

Ok.

Intervenant 23:11

Couplée à la consultation répétée, je ne sais pas, d'une page de tarifs ou d'une FAQ spécifique.

Intervenant 13:15

Ah d'accord.

Intervenant 23:16

Ça, ça forme un vecteur mathématique que l'IA va associer statistiquement à un risque de départ imminent.

Intervenant 13:22

Et donc, ils peuvent agir.

Intervenant 23:24

Voilà, en contactant ses clients très précis, pile au bon moment.

Intervenant 13:27

On passe donc vraiment d'une statistique de masse où on dégageait de grandes tendances de consommation à la prédiction d'un comportement strictement individuel.

Intervenant 23:36

C'est ça, à l'échelle de l'individu.

Intervenant 13:38

Ce qui amène forcément à se demander jusqu'où une entreprise est légitime à lire dans nos intentions à travers nos traces numériques. On franchit presque une limite éthique.

Intervenant 23:46

C'est clair. Et ce niveau d'intrusion souligne surtout une faille inhérente au système. Le danger de cette optimisation mathématique, c'est qu'elle est fondamentalement aveugle.

Intervenant 13:55

Aveugle, c'est-à-dire ?

Intervenant 23:56

Joy Boulamwini du MIT et Timnit Gebru de Microsoft l'ont prouvé de façon assez frappante.

Intervenant 14:01

En testant des logiciels de reconnaissance faciale, il me semble...

Intervenant 24:05

Oui, ceux développés par des géants de la tech comme IBM, Microsoft et Face++. Elles ont mesuré la précision de ces IA en croisant le sexe et la couleur de peau des sujets.

Intervenant 14:15

Et concrètement, que révèlent ces chiffres quand on les décortique un peu ?

Intervenant 24:19

L'écart est brutal. Sur un visage d'homme blanc, le taux de réussite frôle les 100%. Mais si on soumet le visage d'une femme noire, la précision s'effondre à peine à 70%. Ah

Intervenant 14:30

ouais, la chute est sévère. Mais d'où vient un tel écart mathématiquement parlant ?

Intervenant 24:34

D'un point de vue purement mathématique, l'algorithme, lui, il cherche juste à minimiser son taux d'erreur global lors de son apprentissage. Logique. Donc si, disons, 80% des visages dans sa base de données initiales sont des hommes blancs, le modèle va mathématiquement surpondérer ces caractéristiques spécifiques.

Intervenant 14:50

Ah, je vois. Il devient donc hyper spécialisé pour cette majorité statistique-là.

Intervenant 24:56

Exactement. Et du coup, il va traiter les minorités comme des anomalies.

Intervenant 15:01

Ou une sorte de bruit de fond quoi.

Intervenant 25:03

Voilà, du bruit statistique.

Intervenant 15:04

Ce n'est donc pas de la malveillance ou un biais conscient de la machine ? C'est avant tout un problème d'échantillonnage au départ ?

Intervenant 25:12

Complètement. L'IA n'a aucune intention. Elle reproduit scrupuleusement, de manière totalement mathématique, les biais de la base de données qu'on a sélectionnés pour elle. Si l'échantillon initial n'est pas représentatif de la complexité du monde réel, la machine deviendra experte pour la norme qu'on lui a fournie,

Intervenant 15:30

Et elle sera structurellement défaillante pour tout le reste.

Intervenant 25:33

Tout à fait.

Intervenant 15:33

Ce qui montre bien en fait que nos données ne font pas que nourrir ces outils. Elles, elles façonnent littéralement leur structure logique et leur vision du monde.

Intervenant 25:42

C'est ça, le contenu devient le contenu en quelque sorte.

Intervenant 15:46

Et je trouve que ça nous amène à une réflexion un peu vertigineuse pour colore cette exploration audio.

Intervenant 25:51

Je t'écoute.

Intervenant 15:53

Si ces intelligences artificielles, aussi perfectionnées soient-elles, se contentent d'optimiser des modèles basés sur nos données passées, ne risquent-elles pas de nous enfermer dans la reproduction perpétuelle de nos propres biais ?

Intervenant 26:07

C'est une excellente question,

Intervenant 16:08

oui. Au lieu de nous propulser vers l'avenir, est-ce que la mathématisation de nos comportements ne risque pas de freiner toute véritable évolution de la société ?

Intervenant 26:16

Ça donne vraiment à réfléchir.

Intervenant 16:17

C'est une question à garder en tête. La prochaine fois qu'un algorithme vous fera une recommandation parfaitement ciblée. Merci de nous avoir suivis et à très vite.