« Là où de nombreux essais n’abordent qu’une seule facette de l’IA – biais, algorithmes, travailleurs du clic, pollution invisible –, le grand mérite du Contre-atlas est d’aborder toutes ces dimensions et de les relier politiquement. »

2Où et comment l’intelligence artificielle est-elle fabriquée ? Qui la finance et qui sert-elle ? L’IA est une industrie vorace en ressources naturelles, logistiques et humaines. Elle n’a en fait pas grand-chose d’« artificiel ». Le livre montre comment développée et conçue sans contrôle ni évaluation, sans critères de justice ni d’éthique, elle conserve les stigmates indélébiles des premières bases de données qui l’ont alimentée et perpétue irrémédiablement toutes sortes de biais discriminatoires.

3L’IA renforce la toute-puissance des géants de la tech et des institutions qui l’adoptent. Elle est le reflet du pouvoir, l’expression d’un nouveau colonialisme qui détermine la façon dont le monde est mesuré et défini tout en niant qu’il s’agisse d’une activité intrinsèquement politique.

« Ce que je suggère, c’est qu’il nous faut trouver une nouvelle manière de comprendre les empires de l’intelligence artificielle… qui rende compte des États et des entreprises qui la pilotent et la dominent, de l’extraction minière qui laisse sa marque sur la planète, de la captation massive des données et des pratiques de travail et toujours plus exploitatrices qui l’entretiennent. »

4À travers six enquêtes approfondies, Kate Crawford déploie une cartographie exhaustive de l’IA : ses coûts et ses impacts environnementaux, sociaux et politiques.

1. La Terre : l’IA est exigeante en terres rares, en pétrole, en charbon, cette extraction n’est jamais assumée.

2. La main-d’œuvre (sur-exploitée) : des microtâches numériques à l’organisation de tâches industrielles,

3. Les données : au-delà des graves questions liées à la vie privée et au capitalisme de surveillance... sérieuses inquiétudes d’ordre éthique, méthodologique et épistémologique.

4. La classification : permet de prédire l’identité humaine sur la base d’une conception binaire des genres, de catégories raciales essentialisées et d’évaluation problématique de la personnalité et de la solvabilité...

5. Les affects : comment sans fondement scientifique, la reconnaissance des affects par reconnaissance faciale est mise en place dans les systèmes d’embauche, dans l’éducation et dans les forces de l’ordre (aéroports, stades...).

6. L’état : La dimension militaire, passée et présente de l’IA, a façonné les pratiques de surveillance, d’extraction des données et d’évaluation du risque. Elle fait à présent partie du fonctionnement des administrations. L’IA fonctionne en tant que structure qui combine infrastructure, capital et travail.

5Pour Kate Crawford « Il nous faut aborder l’IA en tant que force, politique, économique, culturelle et scientifique… Il nous faut relier les questions de pouvoir et de justice : de l’épistémologie au droit du travail, de l’extraction des ressources à la protection des données, de l’inégalité raciale au changement climatique. »

6Le tout est suivi d’une importante bibliographie.