Uberisation de la société, monétisation de nos données, empreinte écologique du numérique… la technologie est-elle toujours synonyme de progrès ? Pour Irénée Régnauld et Yaël Benayoun, les auteurs de « Technologies partout, démocratie nulle part« , la question mérite d’être posée. Elle interroge les mécanismes du débat démocratique quand celui-ci semble confisqué par les industriels et politiques, à l’image du débat actuel sur la 5G.

Plus que jamais l’épisode du Covid-19 a rappelé l’empressement avec lequel les choix technologiques sont faits, empressement qui témoigne de l’indifférence que les gouvernements et les entreprises ont pour la manière dont les technologies modifient le milieu dans lequel elles sont parachutées, et des conséquences sur les écosystèmes et les personnes.

Les premières pages de « Technologies partout, démocratie nulle part » donnent le ton. Il ne s’agit pas pour autant de rejeter la technologie en bloc, mais plutôt de questionner le rythme de son adoption et de remettre le citoyen au coeur du débat afin de reprendre en main notre avenir technologique. Curieux d’en savoir plus, nous avons interviewé Irénée et Yaël sur les questions soulevées par leur ouvrage.

« Technologies partout, démocratie nulle part«  est disponible à la vente en ligne sur le site de son éditeur, FYP.

“Technologies partout, démocratie nulle part”, c’est un titre volontairement provocateur ?

Yaël : Pour être honnêtes, nous ne sommes pas les auteurs de ce titre. Il s’agit d’un slogan de manifestation (Bruxelles, mars 2020) : “5G partout, démocratie nulle part”. Nous l’avons décliné sur le thème de la technologie, nous voulions partir de ce mouvement de contestation et du ressenti des gens. C’est un titre provocant, mais il correspond à une réalité sensible pour les gens.

Irénée : Il y a une résonance historique avec le slogan de mai 1968  “Police partout justice nulle part”. Nous avons aussi un sous-titre, “Plaidoyer pour que les choix technologiques deviennent l’affaire de tous”, qui est là pour montrer que ce livre a une vocation critique, mais vise aussi à proposer des solutions concrètes. Nous essayons d’ouvrir des chemins, des alternatives crédibles.

Yaël : Notre objectif, plutôt que de proposer un programme clé en mains, est de montrer que sur des sujets dont on a l’impression qu’ils nous dépassent, il y a déjà des concepts existants, des initiatives concrètes qui peuvent nous inspirer pour reprendre la main sur le développement technologique.

Pour commencer, quel constat faites-vous sur la technologie et ses promesses ?

Irénée : Ce n’est pas que tout va mal, la technologie nous apporte aussi des bienfaits. Nous ne sommes pas des technocritiques durs, mais notre constat est d’autant plus désabusé que l’histoire se répète depuis 30 ans. Nous savons que la technologie ne résout qu’à la marge les problèmes qu’elle est censée résoudre, qu’elle déplace beaucoup de problèmes, et qu’elle aggrave la question climatique.

Les promesses du numérique sont sans cesse renouvelées, (voir La face cachée du numérique)… le coût carbone du numérique est factuel, mais son intérêt en termes de décarbonation n’est pas documenté. On constate beaucoup de violence sociale liée aux nouvelles technologies, un délitement de certains droits. Derrière les IA il y a des travailleurs humains, derrière les services de livraison il y a des manutentionnaires… on le sait, et pourtant il faut attendre les travaux de sociologues pour s’en rendre compte. Et pendant ce temps, les conditions de travail se détériorent, de même que les instances de négociation au sein des entreprises. Dix années de robotisation du travail ont complètement oublié les êtres humains, particulièrement dans le cas des métiers de caissiers, des micro travailleurs, des travailleurs en entrepôt… Les entreprises qui livrent le plus rapidement possible ont des salariés qui n’ont pas le droit d’aller aux toilettes. C’est une violence sociale qui concerne des centaines de milliers de personnes, et elle est liée à la façon dont on utilise les technologies, et dont on considère qu’elles sont bonnes pour tous par principe.

Yaël : Il est important de comprendre que nous ne parlons pas de toutes les technologies dans l’absolu, mais d’une certaine forme de technologie, et d’une certaine forme de développement technologique. La forme dominante de la technologie aujourd’hui est celle où vont les investissements.

Mais il y a aussi des contre-exemples : des entreprises qui ont pris acte de ces dérives, et qui s’engagent dans des démarches éthiques, des collectivités territoriales qui mettent en place des consultations citoyennes. Nous connaissons les effets délétères (environnementaux, sociaux, politiques) de ce type de développement , des contre-propositions existent, mais elles restent sans effet. Comment se fait il que les démarches éthiques ne permettent pas de résoudre ces problèmes, comment se fait-il que les consultations citoyennes n’aboutissent pas non plus ?

La technologie est-elle neutre ? Pouvez-vous présenter le concept de l’affordance ?

Irénée : C’est un sujet que nous traitons dans le premier chapitre. Ce chapitre a vocation à être lu par tous les technologues, ingénieurs, numériciens de France. De nombreux éléments de ce chapitre étaient déjà d’actualité il y a 20 ans, et le seront encore dans 20 ans. Il sert à poser les bases qui manquent quand on réfléchit à la technologie, à casser les poncifs sans cesse employés par les politiques et industriels qui minimisent le rôle de la technologie.

Qu’est que ce que la technologie ? Nous voulons rappeler qu’elle n’est pas neutre. En dehors des usages, bons ou mauvais, la technique a des effets plus ou moins difficiles à anticiper. Prenez l’argument de la NRA : s’il y a des meurtres, ce n’est pas parce que les armes sont en libre circulation. Pourtant, c’est statistique, si on concentre des armes sur un territoire, il y aura plus de fusillades. Pour prendre un exemple plus positif : l’invention du verre a entraîné de nombreuses innovations et de nouveaux usages. On a construit des télescopes, des microscopes, on a pu mettre des carreaux aux fenêtres, permettre aux gens de lire la nuit, de voir la saleté dans les logements…

On ne peut pas dire qu’on ne prendra que les bons usages d’une technologie pour laisser les mauvais, entre les deux il y a tout un éventail d’usages  qu’on ne connaît pas. Cette complexité est très mal connue de ceux qui font la technologie aujourd’hui.

Yaël : Les promesses faites autour des nouvelles technologies sont souvent accompagnées de discours qui en fait ne tiennent pas. Pour illustrer la question de la neutralité, on prend l’exemple d’un couteau, qui peut servir à couper une pomme, ou à tuer son voisin. Ce n’est pas tout à fait vrai, et c’est là qu’intervient le concept d’affordance : le couteau qu’on utilise pour tuer quelqu’un, et celui pour beurrer sa tartine ne sont pas les mêmes. Ils n’incitent pas à la même action. Le concept d’affordance consiste à voir l’intentionnalité mise dans la création de l’outil. C’est pour cela qu’il n’y a pas de bon ou de mauvais usage, et que nous citons le concept de dispositif technique, pour montrer que la technologie rentre dans un contexte beaucoup plus large. On ne peut pas la sortir de son contexte de production, qui la conditionne dans un sens ou dans un autre.

La machine à laver, par exemple, a été conçue pour des zones urbanisées, dans un contexte individualiste. Cela a eu un impact sur les villages qui étaient organisés autour d’un autre mode de vie, et individualisé des pratiques qui étaient collectives (le lavoir, lieu de rencontre sociale). Les technologies portent des valeurs qui sont intériorisées, non mises en avant, non interrogées, et répondent aux stratégies des acteurs qui les produisent. Dans le cas de la 5G où l’explosion des usages est un pré-supposé, ce n’est pas neutre.

Irénée : Nous n’incitons pas à se positionner systématiquement pour ou contre, mais à avoir la bonne manière de se poser des questions. Nous sommes sceptiques sur la 5G, mais ce qui nous intéresse c’est la façon dont on se pose la question. Le débat public ne questionne pas les valeurs incarnées par le 5G. Quand on parle de l’explosion des usages et des équipements connectés, on sait qu’ils sont liés à des acteurs très identifiés sur ces marchés, dont on connaît les pratiques, la façon dont ils utilisent les capteurs, les données, et tout cela est déconnecté du débat public.

Quel est le rôle des concepteurs ?

Irénée : On ne peut pas tout faire tout seul et changer le système de l’intérieur. Au-delà de la déontologie personnelle, l’ingénieur est pris dans un système qu’il doit questionner. Un lanceur d’alerte ne peut pas retourner toute une organisation comme l’a fait Edward Snowden. L’ingénieur est soumis à la pression de la concurrence, à des injonctions contradictoires (plus propre, moins cher, plus rapide…).

Ces paradoxes s’expriment sur des cas concrets comme le Dieselgate. Les salariés savaient que Volkswagen trafiquait les données des rejets carbone, mais il a fallu que des associations fassent des tests pour le prouver. Autre exemple avec les crash des 737 max , dont les logiciels ont faits à la va vite pour répondre à un climat concurrentiel dur. Les pilotes n’étaient pas formés à l’utilisation du logiciel MCAS présent dans les 737 MAX, avec les conséquences que l’on connaît. Ce sont des cas extrêmes mais qui montrent qu’on ne questionne pas sa pratique individuelle sans questionner la pratique collective (en l’occurrence, les autorités de contrôle étaient défaillantes).

Yaël : Nous proposons une grille de lecture qui permet de se poser les bonnes questions sur les technologies, et d’embarquer l’ensemble des champs à prendre en compte dans la réflexion sur un outil. Quelles sont les valeurs, quels sont les impacts sur le lien social, sur l’environnement, etc. ? Cette grille permet d’attiser son sens critique, et de sortir du solutionnisme technologique, qui veut qu’à chaque problème réponde un outil numérique, sans voir que quand on numérise une activité, on la modifie profondément.

Deuxième point, l’entreprise ne peut répondre seule. Par exemple, quelle est la réflexion de départ qui a mené au développement des caisses automatiques ? On a considéré que le caissier comme une friction à l’achat, et on a développé une caisse automatique qui nécessite quand même la présence d’un salarié. Et si on interrogeait les caissiers sur leur activité, pour construire un outil correspondant à cette activité, plutôt que d’imposer un nouvel outil qui va aliéner encore plus ? C’est une démarche qui réinterroge toute la chaîne, dont les caissiers sont les maillons le plus précaire. Quand on tire le fil, c’est tout cela qui vient derrière.

Comment trouver l’équilibre entre la vitesse et une réflexion sur un usage raisonné ?

Irénée : C’est une question ancienne, ici vue par le prisme de l’entreprise. Historiquement, quand une technologie arrive, elle crée des frictions avec les populations plus ou moins concernées par ses implications. Les réactions vont avoir des effets retour sur la technique, qui va plus ou moins être adaptée en fonction des intérêts dominants et des rapports de force entre les communautés.

Aujourd’hui, nous savons que la technologie va très vite, donc on doit pouvoir se questionner sur cette vitesse. La reprise en main en collective, pour nous, c’est la démocratie : l’entreprise n’est pas une démocratie, et le marché fait que de nombreuses décisions ne sont pas prises démocratiquement. Par ailleurs le temps de la démocratie n’est pas forcément le temps de l’innovation.

Les contradictions entre le libéralisme et la démocratie sont de plus en plus visibles : le TAFTA est une décision qui n’est pas démocratique. Un million de citoyens européens ont déposé un recours (via une initiative citoyenne européenne), ils ont été déboutés. De même, le traité constitutionnel européen refusé en 2005 par les Français, se retrouve deux ans plus tard dans le traité de Lisbonne. Ces contradictions ont toujours existé, et ce rapport de forces, c’est le système dans lequel on vit, le capitalisme. La maîtrise de l’accélération, c’est notre capacité à prendre le temps de discuter (voir Hartmut Rosa, Accélération).

Yaël : Le discours général donne l’impression que le marché fonctionne tout seul, comme s’il y avait une main invisible, et que la société n’avait qu’à suivre le marché. Cette vision du marché qui fonctionne sans présence de l’Etat, sans stratégie d’entreprise, ne correspond à aucune réalité tangible. Nous voulons sortir des visions binaires, qui pourrissent le débat. Dans nos économies de marché, l’Etat est hyper présent. Ce qui se passe sur le marché est donc le fruit de décisions prises et de stratégies d’acteurs. Derrière le déploiement de la reconnaissance faciale, il y a des lobbies, des intérêts industriels, des anciens cadres de Microsoft qui font du lobbying (dans l’Etat du Washington)… tous ces choix technologiques sont complexes, et l’argument de la vitesse est une facilité pour éviter de se poser les vraies questions.

Apporter plus de citoyenneté dans le débat, c’est mettre en lumière ces choix et ces stratégies mises en place, qui habituellement sont invisibles. Le citoyen pense qu’il n’a pas la main sur ces décisions. Nous sommes dans un système où la majorité des décisions techniques sont prises à huis-clos avec des industriels et des technocrates. Le rapport de force est orienté du côté industriel, et il faut amener de nouveaux acteurs dans cette chaîne de décision pour le rééquilibrer, et faire en sorte que les technologies ne soient plus imposées, mais choisies par rapport à leur objectif final.

L’application Stop Covid est un bon exemple de ce type de choix ?

Irénée : Ce qui est intéressant c’est que Stop Covid a révélé le jeu d’acteurs entre les industriels et la CNIL. De l’argent public a été donné à des entreprises privées pour faire l’application à la place de la DINUM, au moment même où on manquait de masques. Cela montre que ce choix a été fait sans tenir compte de l’utilité du produit et des enjeux. Il y a eu d’autres  initiatives sur le sujet, comme l’application de Paul Duan, basée sur les SMS pour faire du contact tracing. C’était une solution très simple, faisant appel à un protocole déjà existant. On a préféré faire une application inutile, avec de nombreuses zones d’ombre et les aléas de fiabilité du Bluetooth. On savait pourtant que cette technologie était inadaptée à ce problème.

Yaël : Nous sommes là encore dans le solutionnisme technologique. On a investi des sommes colossales, qui auraient pu financer des lits dans les hôpitaux. Il y a une corrélation très forte entre la numérisation et le manque de financement des services publics. Cela pose la question de la priorité d’investissement.

Quelles sont les solutions ?

Irénée : Nous proposons plusieurs pistes de réflexion. En premier lieu, au niveau de l’Etat et des institutions. Comment faire pour prioriser les grands choix d’investissement sur les 10 à 15 années à venir ? Débats publics, forums hybrides, commission nationale des débats publics, CESE… ces solutions existent déjà. Seulement, si on arrive à recueillir les opinions des citoyens, leurs recommandations ne sont pas prises en compte. Certaines recommandations de la convention citoyenne sur le climat se sont soldées par des fins de non recevoir. Voire, les conclusions de cette convention ont été détricotées médiatiquement et politiquement, c’est grave pour la démocratie.

Nous sommes pour le renforcement démocratique de ces instances. Cela passe par la multiplication des conférences de citoyens. Ce sont des formats auxquels nous croyons, ils ont été documentés comme efficaces. Il ne s’agit pas de micro trottoir, mais de former des citoyens à une problématique, de leur faire rencontrer des scientifiques et des experts, de les faire délibérer pour établir des recommandations. Puis, de faire en sorte que ces recommandations soient relayées par les institutions avec des mécanismes institutionnels plus forts (voir l’assemblée du futur).

Il y a beaucoup de débat sur les faits que les gens soient peu armés scientifiquement. Oui, il y a un déficit de connaissances scientifiques, mais ces formats sont idéaux pour se défaire des thèses complotistes. C’est un moyen de lutter contre la désinformation des réseaux sociaux parce qu’on fait de la vraie délibération, et un moyen de remettre de la neutralité dans les décisions.

Yaël : Il ne faut pas être naïf, ces dispositifs interrogent la capacité matérielle et financière des citoyens à s’engager dans ce type de consultation. On voit cependant que c’est cette agitation au niveau local qui fait avancer les choses et force l’agenda politique à aller dans une direction ou une autre. Mais de nombreux facteurs influent directement sur la capacité des citoyens à s’engager : la baisse des moyens pour les associations, l’accroissement des inégalités, ou l’augmentation du nombre de burnout.

Parmi les propositions concrètes, nous évoquions plus haut une grille de lecture. Elle permet aux individus et aux collectifs citoyens de questionner les technologies quand elles sont introduites dans leur environnement proche. Faire ce diagnostic permet de s’armer pour s’engager dans un mouvement de contestation plus large. On propose aussi un principe de précaution élargi, qui prenne compte l’impact environnemental, mais aussi les aspects liberticides ou antidémocratiques des technologies. De façon à avoir un  levier juridique actionnable, et permettre d’attendre des études complémentaires, ou un moratoire. 

Enfin, nous posons la question de la forme des entreprises, leur fonctionnement, leur stratégie financière et les rapports de force. Nous proposons là encore des pistes, nous espérons que d’autres personnes proposeront des alternatives sur ce sujet où on doit avoir une réflexion. Nous voulons favoriser des modèles coopératifs, avoir plus de représentativité dans les CE… On touche là à la question de la propriété de la décision dans l’entreprise – Piketty préconise ainsi qu’un actionnaire ne devrait pas avoir plus de 10% du capital. Pascal Demurger, le PDG de la MAIF, estime que l’entreprise est une institution politique, alors n’ayons pas peur de faire de la politique en entreprise et de remettre de la conflictualité dans les choix.

Pour aller plus loin :

• Le mouton numérique
• Mais où va le Web ?