1Face à la complexité et à l’opacité de processus décisionnels largement automatisés par les algorithmes issus du développement des technologies d’intelligence artificielle (IA), quelles réponses peut-on apporter aux citoyens ou aux salariés confrontés aux conséquences de ces décisions dans les nombreux domaines administrés à l’aide de ces outils, qu’il s’agisse des services bancaires ou financiers, du rendu des décisions de justice et de leur application, de l’accès aux soins de santé, ou de la gestion des ressources humaines ?

2L’ambition de ce guide est de documenter les nouveaux droits individuels opposables aux décisions prises sans intervention humaine, au terme d’un processus entièrement algorithmique, comme l’accès au crédit bancaire ou au logement, voire à l’emploi. D’une part, il s’agit de diffuser les éléments factuels sur l’impact de l’Intelligence artificielle sur la société, et plus particulièrement au sein de la sphère professionnelle. D’autre part, ce guide propose des leviers juridiques pour l’action individuelle et collective afin que la mobilisation de ces technologies par l’industrie des services numériques s’effectue dans un contexte plus respectueux des droits humains, en particulier de ceux des salariés.

3La première partie de l’ouvrage resitue les enjeux du développement de l’intelligence artificielle dans un contexte international en forte évolution. Ainsi, le marché mondial de l’IA a été multiplié par dix sur les cinq dernières années du fait des espérances de gain de productivité que son utilisation suscite (une croissance de 40 % est attendue dans les pays développés). Cette prospective suscite une compétition forcenée entre les principaux opérateurs de cette industrie que sont les Gafam. Cette compétition se joue sur le front des investissements où Chine et USA représentent 80 % tandis que l’Europe ne compte que pour 7 % des 25 milliards d’euros annuels investis dans les technologies de l’IA et de la blockchain. Exploitant une masse croissante de données, le déploiement global des algorithmes d’IA suscite des craintes, quant à l’utilisation des données personnelles, voire leur appropriation, qui restreignent parfois les droits individuels au prétexte d’améliorer la sécurité des biens et des personnes, comme en Chine où un système de notation sociale généralisée pénalisant certains comportements peut aboutir à la perte de droits individuels élémentaires comme l’accès aux services publics. Si, en Europe, les données individuelles sont considérées comme des caractéristiques intrinsèques à la personne humaine, le droit des USA les envisage simplement sous l’angle de la propriété personnelle pouvant faire l’objet d’un dédommagement. Aussi, émergent désormais de nouvelles normes nationales ou internationales (comme le règlement européen sur la protection des données) pour tenter de réguler le marché de ces données individuelles, en particulier celles ayant trait à la consommation et à la santé. L’ouvrage fait le point sur les différents litiges occasionnés par l’application combinée de ces différentes régulations au sein d’espaces économiques transnationaux comme la zone couverte par l’Organisation de coopération pour le développement économique. Dans ce contexte, la question du lieu d’hébergement de ces données suscite une attention particulière, notamment au regard des enjeux socio-économiques, mais également politiques en matière de protection des droits de l’homme. Ainsi, la mise en évidence de biais discriminatoires produits par des algorithmes de reconnaissance faciale conduit le Conseil de l’Europe à adresser des lignes directrices sur la protection des données à l’intention des gouvernements de ses 47 états membres.

4La seconde partie de l’ouvrage s’intéresse plus particulièrement à la régulation de l’IA au sein de l’espace majeur de régulation que constitue l’Europe, entre les extrêmes de la Chine et des États-Unis. L’ouvrage liste sept exigences européennes pour une « IA digne de confiance », qui serait immunisée contre les dérives discriminatoires ayant pu être relevées selon le genre et l’appartenance ethnique. L’adoption en 2018 d’une charte éthique pour l’utilisation de l’IA dans la sphère judiciaire par le Conseil de l’Europe permettra-t-elle d’améliorer le respect des droits individuels fondamentaux par l’application de politiques publiques de prévention des discriminations dans l’administration de la justice ? La proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle constitue un cadre d’évaluation clair des systèmes d’IA identifiés à haut risque comme la sélection des candidatures, l’évaluation des performances ou l’accès à la formation professionnelle ou universitaire. Les normes européennes en matière d’IA font actuellement l’objet d’un examen par le Parlement européen et devraient être publiées à partir de 2025 pour l’établissement d’une feuille de route à horizon 2030. Cependant, d’ores et déjà, apparaît un déficit par rapport au monde du travail, la référence aux représentants du personnel faisant défaut dans ces textes. C’est pourquoi, au sein de la Confédération européenne des syndicats, la CFDT s’est investie dans les négociations menées parallèlement entre les représentants européens, des employeurs, et les confédérations européennes des syndicats de personnel, qui ont abouti en juin 2020 à un accord sur le numérique structuré autour de quatre enjeux majeurs : compétences numériques et sécurisation de l’emploi, droit à la déconnexion, IA centrée sur l’humain, technologies de surveillance et respect de la dignité humaine.

5Relatant le débat socio-économique, la troisième partie de l’ouvrage se focalise essentiellement dans le contexte français sur les lieux d’hébergement des données, sur le rôle des lanceurs d’alerte et sur le contrôle à distance des salariés durant le confinement. Soulignant la nécessité d’un dialogue sociétal étendu aux lieux de travail, l’ouvrage relate les étapes qui ont conduit à une taxation des Gafam soutenue par la France, aboutissant en juin 2021 à un accord du G7 sur une imposition minimale de 15 % sur les ventes des sociétés. Si la France est également en première ligne pour protéger les lanceurs d’alerte avec la loi Sapin II, il reste beaucoup de chemin à parcourir pour que la protection des personnes signalant des atteintes aux droits, prévue par la directive européenne d’octobre 2019, soit effective suite à sa transposition en droit français. En particulier, l’ouvrage souligne l’absence d’une instance indépendante susceptible d’émettre des avis sur l’éthique de l’intelligence artificielle, proposition de la mission parlementaire conduite par Cédric Villani en 2018. Gardien vigilant de nos libertés numériques, la Cnil a introduit en septembre 2020 deux recours en Conseil d’État contre le stockage des données de santé au sein du Health Data Hub de Microsoft ou tout autre société soumis au droit des USA. La reconnaissance faciale de masse constitue une autre dérive technologique attentatoire aux libertés fondamentales : la société Clearview AI est mise en cause par une quinzaine d’ONG devant les Cnil autrichienne, britannique, française, grecque et italienne. Face à ces problématiques, la position des industriels, à l’instar de celle soutenue par la Fabrique de l’Industrie (Union des industries métallurgiques minières) reste ambiguë : ils redoutent d’éventuels dommages à leur image de marque, mais demeurent fascinés par les perspectives de profits. Une proposition de loi transpartisane a été adoptée en avril 2021 pour limiter l’impact du numérique sur l’environnement. Cette initiative législative fait écho à la déclaration, en mars 2021, de 24 États membres de l’Union européenne, à laquelle se joint l’Islande et la Norvège, encourageant l’utilisation de technologies numériques vertes, notamment des algorithmes économes en énergie.

6La quatrième partie de l’ouvrage développe les revendications de la CFDT Cadres, union interprofessionnelle de la CFDT réunissant les cadres et managers de tout horizon pour réfléchir aux perspectives de progrès en termes de dialogue social. La CFDT-Cadres insiste sur la nécessité d’organiser ce dialogue social en amont des choix et de l’utilisation de ces nouvelles technologies pour réduire les réorganisations, les surcharges cognitives, la perte d’autonomie ou de sens au travail ou le cyber-harcèlement. Une des priorités est de former les salariés et leurs représentant syndicaux : l’enquête « Intelligence artificielle et capital humain » menée par Malakoff Médéric met en évidence ce besoin de formation. Selon France stratégie, 48 % des experts interrogés sur l’impact des technologies émergentes estiment que le déploiement extensif de robots et d’agents numériques conduirait à des ruptures dans l’ordre social. Il est donc crucial d’accompagner la transformation des emplois et activités. En Europe, seulement 18 % des femmes travaillent dans le secteur des technologies de l’information : la Commission européenne propose de porter leur nombre à 10 millions dans ses Objectifs numériques 2030. La pandémie de Covid-19 s’est révélée comme un accélérateur de l’introduction du télétravail, poussant à sa généralisation, mais aussi à l’introduction d’outils de surveillance en temps réel qui ont été interdits par la Cnil en novembre 2020 à la requête de la CFDT. Les systèmes de contrôle à distance de l’activité des télétravailleurs doivent faire l’objet d’une déclaration préalable auprès de cette instance. De même, l’utilisation de systèmes d’IA pour les recrutements est en cours de réglementation au Parlement européen : elle vise en premier lieu à en informer les candidats. À cet égard, l’article 88 du RGPD sur le traitement des données dans le cadre des relations de travail encourage la négociation de conventions collectives pour protéger les droits fondamentaux des personnels concernés.

7La cinquième partie de l’ouvrage dresse l’état des négociations sur les mutations professionnelles induites par l’utilisation de l’IA. Ainsi, la fédération CFDT de la métallurgie a remporté un appel d’offres concernant la concertation sociale pour rendre les salariés acteurs du changement dans les industries 4.0 du futur. Treize branches du commerce ont signé un Engagement de développement de l’emploi et des compétences avec le ministère du Travail dans le commerce et la distribution. En octobre 2020, l’Observatoire des métiers de l’assurance a publié une étude intitulée « Les métiers de la gestion et de la maîtrise du risque au temps du digital ». L’Observatoire des métiers de la banque publie une étude intitulée « La banque à horizon 2030-2035 : emplois et compétences, quelles orientations ? » qui analyse l’impact de l’intelligence artificielle sur ses métiers. La start-up Nutmeg conseillait 140 000 clients en 2005 avec ses robots spécialisés dans la gestion de fortune, avec seulement 150 salariés. En 2019, l’étude de l’Observatoire des métiers du numérique, de l’ingénierie, du conseil et de l’événement, intitulée « Formation et compétences sur l’Intelligence artificielle » concluait à la création nette de 7 500 emplois dans la branche d’ici cinq ans. La Poste emploie 120 ingénieurs-docteurs spécialisés en sciences des données, incluant la vision par ordinateur, l’apprentissage automatique et le traitement du langage naturel.

8La sixième partie de l’ouvrage recense les textes juridiques et réglementaires qui permettent de négocier l’introduction de l’IA au sein de la sphère professionnelle, en particulier les dispositions du Code du Travail. Au-delà, nous disposons de tout un arsenal d’outils juridiques pour saisir les instances représentatives au sein de l’entreprise de la question d’une introduction des technologies de l’intelligence artificielle. Cet arsenal est mobilisable au niveau du conseil d’administration, du Comité social et économique, de ses différentes commissions ou bien au niveau de la branche professionnelle. Des administrations publiques comme l’inspection du Travail, la Cnil ou le Défenseur des droits, peuvent participer à cette interpellation lorsqu’elles sont saisies en matière de sécurité et de santé des salariés, mais aussi en termes de gestion prévisionnelle des emplois et des compétences. Avec ses références détaillées aux instruments juridiques et réglementaires, cette partie constitue un véritable vade-mecum du militant syndical.

9Enfin, l’ouvrage se clôt sur une dizaine d’interviews d’experts, de professionnels et de militants syndicaux nous faisant partager leurs expériences de l’IA au sein de la sphère sociétale, partie qui n’est pas la moins intéressante de l’ouvrage pour la diversité et la densité humaines de leurs contributions.