L’usage des algorithmes et de l’intelligence artificielle (IA) se fait de plus en plus prégnant dans l’espace public.
Parmi les nombreux exemples montrant l’influence croissante de ces algorithmes, figure notamment Parcoursup. Matérialisation concrète de la sélection des lycéennes et lycéens, par le biais d’algorithmes locaux – tout à fait opaques par ailleurs.
Deux paradoxes sont constatés. D’abord, la maitrise exclusive d’algorithmes par des États ainsi que diverses grandes plateformes, et l’opacité entière dans laquelle sont plongés les citoyens. Ensuite, les progrès techniques particulièrement rapides en la matière et le sentiment de stagnation législative les concernant.
Pour comprendre ces enjeux, nous avons posé quelques questions à Pierre Ouzoulias, Sénateur communiste, membre de l’Office parlementaire d’évaluation des choix scientifiques et technologiques (OPECST), travaillant cette thématique.
Dans une tribune publiée dans la Revue du Trombinoscope, tu en appelles à légiférer afin de trouver un équilibre entre « les progrès permis par l’IA et les algorithmes, et les formes éthiques et démocratiques que ces progrès doivent donner à nos vies ». Justement, comment vois-tu, toi, globalement, ce possible équilibre ?
Pour commencer, j’aimerais rappeler quelques truismes à propos de l’intelligence artificielle. Son principe repose essentiellement sur la compilation de très grandes masses de données et leur agencement, principalement à partir d’évaluations statistiques, selon des formes de discours déjà éprouvées. Elle ne crée donc rien qui n’existe déjà. Elle aurait même des difficultés à repérer une idée tout à fait novatrice. C’est donc une intelligence reproductrice, mais avec des capacités très supérieures à celles d’une intelligence humaine.
Son efficacité repose sur la collecte de données et les entreprises qui la développent se sont lancées dans une course acharnée à leur accaparement. Le succès de TikTok tient, par exemple, à la capacité du logiciel de capter plus de données personnelles que ses concurrents et à en nourrir son algorithme à un rythme plus court grâce à la brièveté des contenus traités.
La volonté des individus de protéger leurs données personnelles est pour ces entreprises un obstacle à leur récolte. Un conflit réside dans cette opposition entre ces intérêts divergents. L’équilibre entre ces deux objectifs ne peut être trouvé aux dépens de la maitrise individuelle des données personnelles. Pour prendre un exemple, il est indéniable que l’IA apporte une aide précieuse à l’imagerie médicale, mais la constitution des corpus de données sur laquelle elle repose doit respecter le secret médical protégé par la loi.
De plus en plus en Europe, on entend des demandes d’assouplissement des règles de protection des données personnelles pour permettre l’émergence de « champions » européens de l’IA. Le projet politique doit être inverse. Il faut au contraire agir pour que les règles européennes, comme le RGPD, s’imposent à l’échelle mondiale et aux entités supranationales que sont devenues les grandes plateformes.
Tu poses régulièrement la question du statut légal et public. Si, en effet, l’algorithme est créateur de choix, parfois même décisionnaire dans des pans entiers de nos vies, qui doit en être le responsable ? Le rédacteur de l’algorithme, son utilisateur, l’entité qui en détient la maitrise, le propriétaire ?
Je peux essayer de répondre à ces questions en traitant du cas particulier de Parcoursup. Il existe un algorithme national, qui est public, et des traitements informatiques des dossiers des candidats qui sont mis en œuvre de façon très libre par certaines filières universitaires.
J’avais dénoncé, dès 2018, l’utilisation de ces « algorithmes locaux » dont l’ancienne ministre de l’Enseignement supérieur avait nié l’existence. Il ne s’agit souvent que de tableurs permettant un traitement simple des données quantitatives tirées des dossiers. Mais, dans certaines universités, il est à peu près sûr qu’un premier classement est réalisé sans aucune intervention humaine, si ce n’est celle du codage. Cette procédure est illégale, mais non sanctionnée.
Par ailleurs, la loi dite « orientation et réussite des étudiants » a organisé une procédure dérogatoire qui permet aux établissements de s’affranchir des dispositifs législatifs qui garantissent au citoyen l’accès aux documents administratifs. Le candidat peut ne pas être totalement informé de l’utilisation d’un traitement algorithmique et de son fonctionnement. Ses possibilités de recours s’en trouvent limitées et il est souvent laissé dans l’ignorance des raisons pédagogiques du rejet de sa candidature.
Ainsi, l’État ne se donne pas les moyens de faire respecter des règles qu’il tente pourtant d’imposer aux plateformes. Il est essentiel que les services publics donnent aux citoyens des garanties sur la transparence des modalités de traitement de leurs demandes et en l’occurrence sur la gestion des candidatures des lycéens.
L’opacité constante concernant les algorithmes utilisés semble relever du secret, dans sa plus forte terminologie. Toutes les interprétations sont possibles et en même temps ambigües. Selon toi, il s’agit d’un combat que devront mener l’ensemble des parlementaires progressistes, attachés à une certaine idée de l’éthique et de la démocratie, dans les prochaines années ?
L’article 15 de la Déclaration des droits de l’homme et du citoyen de 1789 stipule : « La société a le droit de demander compte à tout agent public de son administration ». Ce principe, aujourd’hui constitutionnel, a été édicté à une époque qui ne connaissait pas l’IA, pourtant on peut le considérer comme une des bases législatives de la nécessaire régulation des traitements des données personnelles.
Fondamentalement, il est un élément du projet républicain qui considère que le citoyen n’est pas qu’un sujet de gouvernement, mais aussi l’acteur de sa propre administration. Il ne saurait être étranger ou tenu à l’écart de décisions prises pour lui en vertu du contrat social.
Le problème est différent quand l’information est collectée par des acteurs privés, notamment par le biais d’applications gratuites. La difficulté est moins d’adapter la législation à une évolution rapide des technologies que de donner aux États les moyens de la faire respecter. Les autorités de régulation du numérique, comme l’Arcom, sont souvent dans l’incapacité d’obtenir des grandes plateformes les données utiles à leur mission de contrôle.
Les deux règlements européens récents sur les services numériques et sur les marchés numériques renforcent les droits des utilisateurs et les moyens de régulation des États. Néanmoins, les grandes plateformes ont réussi à préserver l’essentiel de leur modèle économique. Ce conflit dialectique entre le sabre et le bouclier va durer au profit des plateformes tant que seront préservés les ressorts de cette « économie du clic ».
Concilier avancées techniques et avancées démocratiques parait être une question éternelle. Toujours, l’une fait des bonds spectaculaires lorsque l’autre marque un temps d’adaptation. D’ailleurs, arrive un moment où le développement se fait trop grand pour des structures politiques trop étroites. De manière plus générale, donc, penses-tu que nos structures actuelles tendent à leur fin par leur étroitesse devant ces progrès techniques, technologiques et productifs en pleine accélération ?
Le questionnement sur l’utilité sociale du progrès technologique est ancien. Dans l’Antiquité, Pline et Pétrone rapportent que l’empereur Tibère aurait mis à mort un artisan inventeur d’un verre flexible et incassable parce que ce nouveau matériau aurait pu concurrencer en valeur l’argent et l’or ! Plus près de nous, à l’aube de la révolution industrielle, des penseurs des Lumières ont développé des réflexions encore actuelles sur la maitrise du progrès technique. Ce questionnement ne survient pas avec le dérèglement climatique et la dénonciation politique du « productivisme » !
Parmi eux, je pense plus particulièrement à Condorcet qui, dans ses travaux philosophiques et son activité parlementaire de député de Paris, défendait un progrès au service du « bonheur individuel et de la prospérité commune ».
L’une des conditions d’existence de cette conception mélioriste du progrès technique était pour lui le contrôle démocratique permanent de ses effets. Il considérait que cette vérification démocratique de l’intérêt collectif du progrès n’était possible que s’il était donné au peuple l’instruction pour l’assurer pleinement. Pour Condorcet, le progrès ne pouvait donc être dissocié de l’éducation nationale et ils devaient se développer de concert. La leçon est d’une fulgurante actualité et face aux dérives de l’économie du numérique, on conçoit bien qu’il est urgent de développer une culture de l’usage du numérique.
