« Il n’y a point d’assujettissement si parfait que celui qui garde l’apparence de la liberté. »
J.-J. Rousseau
1Depuis les années 1960, une dynamique de progrès technique ininterrompue s’est déployée en matière d’information et de communication. Après les gros puis petits ordinateurs, le réseau Internet, les téléphones portables, les tablettes, les enceintes ou les casques, on annonce des réseaux 5G et surtout une intelligence dite artificielle. En 1973, il fallait une pièce pour abriter l’ordinateur IBM 360 desservi par toute une équipe de techniciens en blouses blanches ; aujourd’hui, un simple smartphone a une puissance informatique équivalente et même supérieure ! En 1993, on dénombrait quelques centaines de milliers d’utilisateurs d’Internet ; aujourd’hui, leur nombre est estimé à plus de 4 milliards ! En 1998, était critiquée l’installation des premières caméras de vidéosurveillance dans une ville comme Nîmes ; aujourd’hui, cette ville comporte 1 300 caméras reliées à un centre d’hypervision où une cinquantaine de personnes la vidéogèrent !
2Depuis le milieu des années 2000, avec 95 % des ménages français possédant un téléphone portable et 85 % une connexion Internet, on est entré dans une société numérisée qui apporte de profondes modifications et change nos conditions de vie. Cette mutation et ses enjeux font partie des grandes questions actuelles au même titre que la question des déséquilibres écologiques ou des réajustements parfois violents, des rapports internationaux.
3Les services offerts par Internet aménagent une nouvelle médiation au monde. On a recours de plus en plus à eux, pour s’orienter dans l’espace, effectuer des achats, choisir un partenaire, payer des impôts, apprendre, parler avec ses amis, travailler… Cette médiation parfois obligée peut être vécue comme une contrainte, mais est le plus souvent considérée comme un progrès. Elle facilite nos échanges, optimise nos choix par ses recommandations et évaluations, donne de nombreuses gratifications en semblant mettre immédiatement le monde à notre disposition. En satisfaisant nos désirs, parfois même en les devançant, c’est une médiation fascinante et envoûtante.
4L’évidence de l’utilité des bienfaits du numérique et l’idéologie techniciste qui l’accompagne, font oublier ses dommages invisibles qui n’apparaissent qu’à l’occasion des crises et des scandales à partir du milieu des années 2010 avec les révélations d’Edward Snowden et l’affaire Cambridge Analytica. On peut relever un paradoxe Internet : un réseau libertaire à ses débuts, mis au service de l’expression et de la communication du plus grand nombre, est devenu au fil du temps, un réseau mettant à mal la démocratie et ses libertés. Après la présentation des traits essentiels de la société numérisée actuelle, ce sont ces dommages qu’il convient d’analyser ainsi que les régulations retardataires qui auraient pu les éviter ou, du moins, les amoindrir.
5Plusieurs études caractérisent la société numérisée d’aujourd’hui dans sa dimension politique comme une société de profilage, dans sa dimension économique comme une société du capitalisme de surveillance et dans sa dimension psychologique comme une société d’exposition. Ces différentes dimensions sont fortement reliées entre elles et interdépendantes.
6C’est la caractérisation proposée par un livre récent d’un philosophe des sciences, publié en 2023, Les sociétés du profilage, qui prolonge l’analyse d’un livre publié en 2014 sur Le profilage des populations. Le profilage est la nouvelle modalité de contrôle et de gouvernance qui a succédé à la discipline. Alors que cette dernière est fondée sur une surveillance directe exercée sur les corps dans des milieux clos (famille, école, armée, hôpital, usine, prison), le profilage emprunte des moyens indirects qui s’appuient sur le recueil et le traitement des données personnelles dans un milieu ouvert. Alors que dans le premier cas, la personne qui se sait surveillée, intériorise les règles et s’auto-contrôle, dans le second, elle jouit d’une totale liberté en oubliant qu’elle fait l’objet d’un suivi informationnel permanent.
7Le profilage a été perfectionné au gré du progrès des techniques. À côté des profils segmentés des fichiers et des banques de données informatiques, vont être élaborés grâce à la profusion des données fournies par les supports numériques et à la puissance des algorithmes, des profils prenant en compte un nombre considérable de renseignements sur l’identité, les goûts, les opinions, les addictions, les liens amicaux, etc. À partir de ces profils très étoffés et constamment actualisés, il est possible de prédire les comportements et de les influencer dans le sens des intérêts commerciaux ou gouvernementaux. Grâce à l’analyse des consommations passées, Amazon et toutes les plateformes de vidéo ou de musique délivrent à chaque connexion des recommandations. Les profils sont aussi utilisés pour l’évaluation des risques par la justice et les gouvernements. La justice américaine a recours à des profils de dangerosité et de récidive sur une échelle allant de 1 à 8, pour décider d’une prolongation de détention d’un prisonnier. Lors de la présidence Obama, un programme gouvernemental établissait, à partir de traces laissées sur les réseaux sociaux, des profils de terroristes potentiels en voie de radicalisation pour leur adresser via des tiers des messages anti-islamistes. La gouvernementalité disciplinaire n’a pas pour autant disparu et apporte souvent un complément quand, comme dans la crise du Covid, elle ne vient pas au premier rang.
8La vie politique au moment de l’élection présidentielle américaine de 2016 et du Brexit a été fortement perturbée par la propagande individualisée de masse organisée par une entreprise britannique Cambridge analytica. Cette entreprise a repéré et influencé les électeurs indécis susceptibles d’approuver le Brexit ou l’élection de Trump, à l’aide de profils constitués à partir de 4 000 à 5 000 données récoltées notamment sur 87 millions de comptes Facebook.
9Dans un livre publié en 2019, l’universitaire américaine Shoshana Zubbof qualifie ainsi la nouvelle forme de capitalisme. Alors que le capitalisme industriel a exploité le monde naturel, le capitalisme de surveillance exploite l’identité et l’expérience humaines. Les données personnelles sont devenues des marchandises et la matière première d’une économie de l’information. Elles permettent de prévoir les comportements et donc de les influencer et de les modifier dans le sens des intérêts des marchés. On a mis beaucoup de temps à comprendre cette forme d’économie et à appréhender comme un vol la collecte des données personnelles à l’insu des individus. Si le capitalisme industriel a mis en péril les milieux naturels, ce nouveau capitalisme a certainement une influence délétère sur le comportement de ces derniers. Comme moyen de prédiction et de modification des comportements, la collecte et le traitement des données personnelles sont aujourd’hui économiquement plus importants que les moyens de production.
10Il ne faut donc pas s’étonner de trouver à la tête des capitalisations boursières les GAFAM, ces entreprises américaines en situation de monopole, qui doivent leur succès à l’exploitation des données personnelles et aux moyens de les recueillir. Elles ont diversifié des services souvent gratuits afin de multiplier les occasions de prélèvement en s’exonérant de toute règle qui le limiterait. Guidées par des intérêts privés, elles contribuent à augmenter les inégalités sociales. Leur puissance et leurs savoirs sur les individus en font des concurrentes des États dont elles menacent la souveraineté et qui sont obligés de passer des compromis avec elles. On a pu parler à leur propos de néo-féodalisme.
11C’est l’universitaire américain Bernard E. Harcourt qui qualifie ainsi la société numérisée dans un livre publié en 2020. En effet, on est loin aujourd’hui de l’oppressante et morne société disciplinaire et orwellienne. Ce qui vient désormais au premier plan, ce sont les services et les gratifications apportés par les technologies numériques qui comblent toutes sortes de besoins et de désirs. Les secrets ne sont plus mis au jour et extorqués par un pouvoir, mais ce sont les individus eux-mêmes qui les livrent à travers leurs textos, leurs mails, leurs photos, leurs vidéos ou leurs publications dans les réseaux sociaux. Ces secrets sont des plus intimes comme les opinions politiques, les croyances religieuses, les orientations sexuelles, les maladies, les addictions, les rencontres, les amis, etc. Cette livraison de secrets n’obéit à aucune obligation et est faite à partir de l’utilité et du plaisir de l’utilisation des outils numériques. L’utilisateur ignore la plupart du temps leur double fonction : être à son service mais aussi enregistrer la trace de ses transactions pour le plus grand profit de grandes entreprises. On observe un autre paradoxe Internet : même si l’utilisateur connaît cette double fonction, cela ne l’empêche pas d’utiliser ces outils. Le plaisir, voire la jouissance immédiate qu’ils procurent, font oublier les inconvénients éventuels et éloignés.
12On est devant une forme de servitude volontaire qui n’a rien à envier à celle décrite en son temps par Etienne de La Boétie. Cette forme est toutefois différente. Alors que la servitude décrite par cet auteur met en relation avec un tyran dont elle facilite l’oppression, la servitude numérique met en relation avec un dispositif anonyme dont il est ignoré presque tout.
13Ce n’est qu’après les révélations d’Edward Snowden en 2013 et du scandale Cambridge analytica en 2016, qui interviennent après plus de deux décennies d’utilisation d’Internet, que l’on identifie et que l’on mesure l’ampleur des dommages causés à la démocratie et aux libertés. Leur méconnaissance jusqu’alors s’explique en partie par leur invisibilité. Ils portent atteinte au droit à une vie privée et à la qualité de l’information et de l’attention.
14La séparation vie privée/vie publique est au fondement des démocraties et différencie ces régimes politiques des dictatures et des totalitarismes où cette séparation n’existe pas. Ils ne peuvent vivre selon un politologue, « sans le réservoir de capacités individuelles associées à un jugement moral autonome et à une autodétermination ». Pour Milan Kundera, « agir autrement en privé qu’en public est l’expérience la plus évidente de tout un chacun, le fondement sur lequel repose la vie de l’individu. Cette évidence qui semble n’en être plus une, est rarement comprise comme la valeur des valeurs qu’il faut défendre ». Elle est présente dès la naissance de la démocratie en Grèce. Un droit à la vie privée est reconnu à la fin du 19e siècle aux États-Unis puis plus tard en Europe, face aux menaces d’une technique photographique intrusive. À partir des années 1970, dans ces mêmes pays, c’est l’informatique qui est jugée menaçante et des lois vont organiser la protection des données personnelles.
15La mise en place d’Internet bouleverse la situation et certains annoncent la fin de la vie privée. Même si cette annonce peut être jugée prématurée, on constate une forte réduction de nos secrets. Après les attentats du 11-Septembre 2001, les États-Unis ont réalisé un fichage numérique mondial avec l’aide des GAFAM comme Edward Snowden devait le révéler en 2013. Les États européens ont également depuis cette date, au nom d’un souci sécuritaire omniprésent, multiplié les fichiers policiers et les interconnexions. Les GAFAM en proposant des services très attractifs et souvent gratuits n’ont pas tenu compte des lois de protection des données personnelles de ces États et se sont emparés des informations des Européens dans la plus grande opacité, sans leur consentement. Des entreprises comme Google ou Facebook sont ainsi devenues les plus importants centres mondiaux de renseignements personnels. L’Europe a tardé à réagir à ce pillage, malgré les leçons parfois tragiques de son histoire. La traque des Juifs durant la Seconde Guerre mondiale a montré en effet qu’une simple mention dans un fichier pouvait conduire directement à la mort.
16Le bon fonctionnement d’un régime démocratique qui reconnaît le droit d’information repose sur la qualité de cette information. Au début des années 2000, Internet permet l’émergence, à côté des médias traditionnels, de nouveaux acteurs complétant et parfois contestant leurs informations. C‘est le cas, par exemple, lors de la marée noire de l’Erika en 1999, où des collectifs de citoyens et des contre-experts prennent la parole pour faire des évaluations qui souvent contredisent les messages officiels et médiatiques. Par la suite, le succès des réseaux sociaux élargit considérablement les possibilités d’expression et de communication du plus grand nombre. On ne peut que s’en réjouir, avant de constater qu’après une période de découverte et d’euphorie, ces réseaux sont devenus des outils de désinformation, en propageant des fausses nouvelles ou des messages clivants et haineux.
17Le profilage enferme chaque individu dans une bulle informationnelle particulière dans laquelle n’apparaissent que les informations qui confortent ses points de vue ou des communications avec des individus qui partagent les mêmes opinions. L’information est filtrée par des algorithmes de personnalisation qui opèrent des tris, cachent certains faits et ne rendent pas compte de la diversité des opinions. L’individu est d’autant désarmé devant la propagande qu’il ne sait pas qu’il est dans une bulle.
18Avec un post-modernisme qui s’intéresse aux interprétations plus qu’aux faits, la vérité factuelle est discréditée. Le numérique sert une post-vérité et ses informations alternatives. La question de leur conformité avec une vérité factuelle ne se pose plus. Leur plausibilité suffit. On peut ainsi affirmer que le nombre de personnes lors de l’investiture de Trump en 2017, est comparable voire supérieur à celui d’Obama en 2009, même si les statistiques apportent un démenti à une telle affirmation. Le brouillage des faits et des opinions détruit le socle commun qu’exige tout débat. L’exemple récent d’interlocuteurs qui ne peuvent plus se parler lors du Covid, est particulièrement illustratif. Le professeur de médecine Didier Raoult a rencontré un énorme succès en proposant un médicament miracle contre ce virus en s’exonérant du protocole scientifique que requérait son agrément. Dans le même temps, comme le montre une étude américaine, douze personnes suivies par des millions d’autres sur les réseaux sociaux, sont responsables d’une très grande partie des messages de désinformation sur le vaccin anti-covid. Cette situation de brouillage et de mélange d’informations qui n’ont pas le même statut, mine la confiance que l’on peut avoir dans les experts, alimente le populisme et conduit à des effets de polarisation.
19Le temps passé sur les réseaux et devant les écrans ne cesse d’augmenter et nous détourne des réalités de notre monde et de ses problèmes. Le temps moyen quotidien sur un smartphone a doublé dans la plupart des pays entre 2012 et 2016 et n’a fait certainement que progresser depuis. Le temps de connexion moyen se situe entre quatre à cinq heures par jour. En ce qui concerne les enfants et les adolescents, ce temps est supérieur. Il est estimé à huit heures en moyenne pour la génération Z née après 1995.
20Cette dépendance à un environnement d’écrans et d’outils numériques est voulue et organisée par les géants de l’Internet en s’inspirant des méthodes expérimentées par l’industrie du jeu et par les casinos. Un laboratoire californien a créé une nouvelle science, la « captologie » qui, en mobilisant des acquis de la psychologie comportementale, a trouvé les meilleures méthodes pour faire rester l’internaute devant son écran et lui faire abandonner la maîtrise de son temps : récompenses aléatoires ou au terme de nombreuses étapes, fil narratif incomplet et fragmenté en plusieurs épisodes, enchaînement continu de vidéos, annonce de ce qui va venir, etc. L’exploitation des vulnérabilités de l’être humain et le caractère scandaleux de ces manipulations, ont été dénoncés par une lanceuse d’alerte et plusieurs anciens cadres de Facebook qui ont comparé ces pratiques à de la drogue.
21L’impact négatif de la dépendance numérique a été mis en évidence par des travaux scientifiques. Un spécialiste des neurosciences cognitives considère que la dépendance des enfants et des adolescents mène tout droit à la « fabrication d’un crétin digital ». De la même façon, un spécialiste du cerveau considère qu’elle menace leur santé et amoindrit leurs capacités intellectuelles et leur concentration.
22Avec le Métavers, on franchit une autre étape dans la fuite de notre monde. Un univers mixte et parallèle préserve de ses pollutions et de sa violence. Équipé d’un casque de réalité virtuelle, un avatar, double de nous-même, se meut dans un univers à trois dimensions où il retrouve les différents aspects d’une vie quotidienne avec son travail, ses amis et ses divertissements. Il est vrai que pour le moment cette proposition ne rencontre pas le succès espéré par ces promoteurs.
23On voit en priorité dans les innovations techniques les bienfaits qu’elles peuvent apporter avant d’identifier les dommages qu’elles peuvent causer. Ces bienfaits sont évidents alors que, du moins en ce qui concerne les techniques d’information et de communication, les dommages sont invisibles. On comprend dans ces conditions pourquoi les régulations n’interviennent que dans un second temps une fois que des dégâts ont été constatés et qu’il est malaisé de revenir sur les mauvaises habitudes qui ont été prises. Parfois, le caractère manifestement liberticide d’un projet oblige à intervenir dans l’urgence. Le côté inédit des possibilités des techniques numériques exploitées par des monopoles rend également difficile la compréhension des enjeux. La sociologue Shoshana Zubbof compare le pillage des données individuelles effectué par ces entreprises dans l’indifférence générale, aux pillages réalisés par les conquérants espagnols en Amérique latine. Dans les deux cas, le caractère inédit, le « jamais vu », expliquent le manque de compréhension de la situation et l’absence de réactions.
24Les géants du numérique n’ont pas respecté les lois européennes sur la protection des données. Après avoir piraté ces données, ils les ont marchandisées et livrées à l’occasion aux États dans leur lutte contre le terrorisme. La prise de conscience de cette illégalité et des méfaits qu’elle a occasionnés, a pris beaucoup de temps. L’Europe a réagi en adoptant un règlement général sur la protection des données (RGPD) entré en vigueur en 2018. Un autre règlement Digital Service Act, (DSA) entré en vigueur en 2023, réglemente la fourniture des services en ligne et la surveillance des contenus. Pour le moment, seuls des conseils de limitation sont donnés en ce qui concerne les utilisations des outils numériques par les enfants. Un État autoritaire comme la Chine a adopté des mesures plus strictes en limitant à deux heures par jour le temps d’écran pour les mineurs et en bloquant l’accès à Internet entre 22 heures et 6 heures.
25L’efficacité des réglementations n’est pas pour le moment démontrée, mais elles témoignent d’une volonté de redonner aux individus des droits jusqu’alors bafoués et de veiller à la qualité des informations diffusées. Ces nouvelles normes européenne sont contraires aux intérêts des grands monopoles américains et remettent en cause leur modèle économique. À moins d’un changement radical qui transformerait des monopoles privés en biens communs, on doit s’attendre au cours des prochaines années, à une bataille rangée dont l’issue est incertaine et dont la démocratie ne sortira pas nécessairement victorieuse.
26Peut-être à cause de ses énormes enjeux, l’IA fait l’objet d’une régulation a priori qui intervient avant le développement de ses applications. Ces enjeux sont de diverses natures et on attend des bouleversements sociaux et humains majeurs et parfois très inquiétants. Par exemple, l’historien israélien Noah Harari estime possible le remplacement d’un « monde homocentrique » où l’homme commande par un « monde datacentrique » où ce sont les robots et les algorithmes qui prennent les décisions. On comprend dans ces conditions, l’opposition à un développement accéléré de ce type d’intelligence.
27L’Union européenne a engagé depuis 2021 une réflexion qui débouche aujourd’hui sur l’adoption de la première loi générale au monde réglementant l’IA qui va prochainement entrer en vigueur. Après l’énoncé de grands principes (systèmes sûrs, transparents, traçables, non discriminants, respectueux de l’environnement), le futur règlement s’attache à réglementer les applications selon les risques qu’elles présentent. Il distingue ainsi des applications aux risques inacceptables comme la reconnaissance faciale, des applications aux risques élevés comme l’IA générative et enfin, des applications aux risques limités.
28Cette approche régulatrice est loin d’apporter une réponse à tous les enjeux d’une technique qui est susceptible de remplacer l’homme notamment dans le domaine du travail. Une étude de l’Université d’Oxford prévoyait en 2017, qu’au cours des prochaines décennies, 50 % des emplois seraient supprimés. Une récente étude de 2023 d’un cabinet privé conforte cette étude en prévoyant la suppression par l’intelligence générative, de 800 000 emplois de cols blancs en France, d’ici 2030. Même si elles peuvent être revues à la baisse, ces prévisions sont inquiétantes car des enquêtes sur le chômage technologique au cours des dix dernières années montrent qu’il ne faut plus attendre d’effet Schumpeter, à savoir la création de nouveaux emplois suffisants pour compenser ceux détruits par le progrès numérique. Ce futur est inquiétant dans une société productiviste qui voit prioritairement dans l’individu un producteur/consommateur. On peut adopter un point de vue plus optimiste en estimant que, grâce à l’IA, cet individu peut à terme être libéré de cet asservissement à la nécessité que représente le travail. Encore faut-il qu’il apprenne à vivre dans un nouveau monde et que les richesses produites par les machines soient équitablement distribuées.
