Quand l’intelligence artificielle «profile» notre avenir

Perspectives » Les big data, l’intelligence artificielle (IA), les algorithmes… Le début du XXIe siècle a vu déferler «une puissance de calcul neuve et inégalée», rappelle Philippe Huneman, directeur de recherche au Centre national de la recherche scientifique (CNRS) à l’Université Paris 1 Panthéon-Sorbonne. Dans un livre qui vient de paraître, ce philosophe des sciences interroge les promesses de progrès liées à la révolution digitale. Il pointe aussi les risques de dérives, avec l’avènement d’une «société du profilage» où les flux numériques sont de plus en plus exploités, toujours plus vite, par les GAFAM (Google, Apple, Facebook, Amazon et Microsoft) et les administrations pour prédire nos comportements, anticiper nos besoins, optimiser nos vies, ajuster les services et réduire les frais. En bref: construire l’avenir, avec nos données, mais sans nous. Interview.

Votre analyse s’inspire des philosophes français Michel Foucault et Gilles Deleuze, qui ont les premiers parlé de «sociétés de discipline», puis des «sociétés de contrôle»…

Philippe Huneman: L’analyse des «sociétés de discipline» renvoie à Foucault, et à (son essai, ndlr) Surveiller et punir. Il est le premier qui a dit qu’avec le XIXe siècle et l’avènement du capitalisme industriel, s’était mis en place un certain type de gestion des populations qui passe par des réactivations de procédures de discipline, généralisées à l’armée, à l’école, à l’hôpital, à l’usine et aux prisons… En bref, surveiller, c’est vérifier qu’une norme est respectée, et punir ceux qui transgressent la norme. Les normes sont là pour optimiser la productivité…

Deleuze a ensuite eu l’intuition, en gros, que la surveillance et le monitoring des normes vont être dépassés par ce qui arrive avec le capitalisme des années 1980 et les débuts du capitalisme financier: il s’agit non plus d’optimiser avant tout la productivité d’un groupe, mais de contrôler ce que font les individus, en tant que producteurs mais aussi, essentiellement, en tant que consommateurs.

Ce glissement vers les «sociétés de contrôle» a été rendu possible grâce aux innovations techniques, l’informatique, le traçage…

Il y a des articulations étroites entre modes de gouvernements, techniques et construction de nouveaux savoirs possibles: les trois sont complètement indissociables. Or nous connaissons aujourd’hui une nouvelle inflexion grâce aux technologies numériques, à l’IA et aux algorithmes: les données deviennent gratuites, inter-opérables, elles peuvent produire un certain type de savoir, prédictif.

On est moins dans la surveillance que dans la volonté de prédire ce que vont faire certains individus, et certains groupes d’individus que l’on met ensemble parce qu’ils sont en train de faire à peu près les mêmes choses: acheter le même canapé, aller au même concert, voter pareil, ou s’inscrire dans le même mouvement politique. C’est ce que j’appelle les «sociétés du profilage».

Pourquoi les activités de profilage doivent-elles nous interpeller?

D’abord, pour le côté opaque et intrusif. Internet est construit d’une telle manière qu’on ne sait jamais ce qu’on y laisse comme traces, ni quelles sont les firmes qui vont collecter et agréger des données à partir de notre navigation. Ces données sont non seulement massives mais aussi très variées, elles «parlent» de beaucoup de dimensions de la vie d’un individu, sont de formats très divers — points GPS du véhicule que vous avez loué, appels téléphoniques, photos et toutes leurs métadonnées, textes, fichiers, sons, etc. Et elles sont produites très vite et agrégées par des compagnies, les data brokers, qui obtiennent sur nous des données concernant jusqu’à plusieurs centaines de dimensions différentes, ce qui est énorme. Cela implique la possibilité de prédiction, en procédant par comparaison entre un profil individuel et des profils de groupes.