Cartographie numérique: Cartographie critique de l'intelligence artificielle générative (collectif Estampa)

Le collectif Estampa propose une cartographie de l'intelligence artificielle générative. La carte met bien en évidence le parcours long et complexe des données lorsqu'on interroge une IA générative, avec tout ce que cela représente en termes de coût financier et de coût environnemental. Traduite en différentes langues (dont le français), la carte est téléchargeable en haute définition sur le site du projet Generative AI Mapping.

Cartographie de l'IA générative (source : Generative AI Mapping)

L’ensemble des relations présentées ici forme une mosaïque difficile à appréhender car elle implique la mise en relation d’objets et de connaissances de types et d’échelles différents. Les discours sur l’IA sont souvent mythiques et accompagnés d’une série de métaphores et d’images récurrentes : des agents algorithmiques déconnectés de l’action humaine, une technologie non négociable imposée par le futur, l’universalité des données ou la capacité de produire des modèles exempts de préjugés ou de visions du monde. L’ensemble des discours qui entourent ces technologies, qu’ils soient spécialisés ou plus populaires, finissent par les façonner d’une manière ou d’une autre.

La carte, très détaillée, décrit les étapes sucessives de regroupement, filtrage, hébergement et distribution des données, avec à chaque étape les coûts induits que cela représente. Elle montre que l'IA repose dans ses fondements sur un modèle extraviviste de données (il faut beaucoup de données d'entraînement au départ), qu'elle nécessite de gros investissements de la part de start-ups capables de construire de gigantesques datacenters pour héberger les serveurs et fournir la puissance de calcul. Outre le coût financier, le côut environnemental est faramineux. Il faut des matériaux conducteurs (principalement de l'or), mais aussi du lithium pour les batteries, de l'eau pour refroidir les ordinateurs, ce qui se traduit par une forte pression sur les ressources.

Le projet Generative AI Mapping est motivé par la volonté d'offrir une carte conceptuelle qui couvre une grande partie des acteurs et des ressources impliqués dans cet objet complexe et multiforme qu'est l'IA générative. À partir d’une longue série de cartographies critiques vouées à montrer la fonction des cartes comme productrices de vérités hégémoniques, cette visualisation vise à cartographier le phénomène en tenant compte des tensions, des controverses et des écosystèmes qui le rendent possible. Les outils d’IA générative sont utilisés pour automatiser des tâches telles que l’écriture ou la génération d’images. On peut dire d'une certaine façon que les outils d’IA générative désassemblent le langage (visuel, textuel) pour le réassembler sur la base d’un calcul de probabilité. Cette capacité de généralisation est due au traitement d'ensembles de données beaucoup plus grands et hétérogènes qui lui permettent de répondre à tous types d'instructions. En conséquence, l’ampleur du changement dans l’IA générative est si grande qu’elle nécessite l’impulsion de nouvelles économies et une dépendance accélérée à l’égard de différents écosystèmes. En ce sens, Generative AI Mapping se veut un projet de contre-cartographie visant à dénoncer le "colonialisme numérique", qui aboutit à la domination des pays en avance en matière d'IA par rapport aux autres pays et territoires de fait dominés.

Estampa est un collectif de programmeurs, cinéastes et chercheurs travaillant dans les domaines de l’audiovisuel et des environnements numériques. Leur pratique se base sur une approche critique et archéologique des technologies audiovisuelles, sur la recherche des outils et des idéologies de l’intelligence artificielle et sur les ressources de l’animation expérimentale. Ce travail a été soutenu par les subventions pour la recherche et l'innovation dans les arts visuels de la Generalitat de Catalunya - Oficina de Suport a la Iniciativa Cultural (OSIC).

Pour aller plus loin

Crawford, K. (2021). Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven, Yale University Press.

« Que se passe-t-il lorsque l’intelligence artificielle sature la vie politique et épuise la planète ? Comment l’IA façonne-t-elle notre compréhension de nous-mêmes et de nos sociétés ? Dans ce livre, Kate Crawford révèle comment ce réseau planétaire alimente une évolution vers une gouvernance antidémocratique et une augmentation des inégalités. S’appuyant sur plus d’une décennie de recherche, de sciences et de technologies primées, Crawford révèle comment l’IA est une technologie d’extraction : de l’énergie et des minéraux nécessaires à la construction et à l’entretien de son infrastructure, aux travailleurs exploités derrière les services « automatisés », aux données que l’IA collecte auprès de nous. Plutôt que de se concentrer sur le code et les algorithmes, Crawford nous offre une perspective politique et matérielle sur ce qu’il faut pour créer une intelligence artificielle et sur les points sur lesquels elle se trompe. Si les systèmes techniques présentent un vernis d’objectivité, ils sont toujours des systèmes de pouvoir. Il s’agit d’un compte rendu urgent de ce qui est en jeu lorsque les entreprises technologiques utilisent l’intelligence artificielle pour remodeler le monde. »

Espinoza, M. I., Aronczyk, M. (2021). Big data for climate action or climate action for big data? Big Data & Society, 8(1).

https://journals.sagepub.com/doi/full/10.1177/2053951720982032

Sous la bannière « Data for Good », les entreprises des secteurs de la technologie, de la finance et de la vente au détail fournissent leurs propres ensembles de données aux agences de développement, aux ONG et aux organisations intergouvernementales pour les aider à résoudre toute une série de problèmes sociaux. l'ouvrage se concentre sur les activités et les implications de la campagne Data for Climate Action, un ensemble de collaborations public-privé qui exploitent les données des utilisateurs pour concevoir des réponses innovantes à la crise climatique mondiale. En s'appuyant sur des entretiens approfondis, des observations de première main lors d’événements « Data for Good », des rapports d’organisations intergouvernementales et internationales et sur la publicité médiatique, les auteurs évaluent la logique qui sous-tend les initiatives Data for Climate Action, en examinant les implications de l’application d’ensembles de données et d’expertises commerciales aux problèmes environnementaux. Malgré l’adoption croissante des paradigmes Data for Climate Action dans les efforts des gouvernements et du secteur public pour lutter contre le changement climatique, l'ouvrage montre que Data for Climate Action peut être considéré comme une stratégie visant à légitimer les pratiques d’extraction de données à but lucratif des entreprises plutôt que comme un moyen d’atteindre les objectifs mondiaux de durabilité environnementale.

« Référentiel de compétences IA pour les apprenants et pour les enseignants » (UNESCO)

L’intelligence artificielle (IA) offre des potentialités pour relever nombre de défis majeurs dans l’éducation, innover dans les pratiques d’enseignement et d’apprentissage et accélérer les progrès de l’ODD 4. Cependant, les évolutions technologiques rapides engendrent inévitablement de multiples risques et défis, car leur rythme a jusqu’à présent dépassé celui des débats politiques et des cadres réglementaires. L’UNESCO s’engage à aider les États membres à exploiter les potentialités des technologies d’IA pour réaliser l’Agenda Éducation 2030, tout en veillant à ce que son application dans le domaine éducatif réponde aux principes fondamentaux d’inclusion et d’équité. Étant donné l’opacité de la « boîte noire » qui sous-tend les méthodes utilisées par les systèmes d’IA, les enseignants doivent comprendre à la fois comment l’IA est entraînée et comment elle fonctionne. Ils doivent également être en mesure d’examiner d’un oeil critique l’exactitude des contenus générés par l’IA et de concevoir des méthodes pédagogiques appropriées pour guider l’utilisation du contenu synthétisé par l’IA dans l’enseignement et l’apprentissage.

« L'intelligence artificielle, une arme géopolitique » (France Culture)

Duel États-Unis-Chine, à coup de milliards de dollars et de modèles de langage toujours plus révolutionnaires. Sommet à Paris coprésidé par l'Inde et annonces d'ambitions démesurées dans le monde entier. L'IA est devenue une arme géopolitique majeure. Voici les clés historiques de ce développement crucial dans une série audio de la rédaction de France Culture, en 6 volets.

« Les sacrifiés de l'IA » (France 2).

Magiques, autonomes, toutes puissantes : les intelligences artificielles nourrissent les rêves comme les cauchemars. Tandis que les géants de la tech promettent l'avènement d'une nouvelle humanité, la réalité de leur production reste totalement occultée. Pendant que les data centers bétonnent les paysages et assèchent les rivières, des millions de travailleurs à travers le monde préparent les milliards de données qui alimenteront les algorithmes voraces des Big Tech, au prix de leur santé mentale et émotionnelle. Seraient-ils les dommages collatéraux dommages collatéraux de l'idéologie du "long-termisme" qui couve dans la Silicon Valley depuis quelques années ?