Ce documentaire iconoclaste, en retraçant l’histoire de l’Intelligence Artificielle jusqu’à aujourd’hui, tape joyeusement sur tous les mythes qu’elle a suscité depuis son essor, non sans souligner sa dangerosité. Mais celle-ci est plus à chercher dans le lignage fangeux qui la relie au suprémacisme blanc que dans ses réelles performances.
Car l’histoire de l’intelligence artificielle commence par celle de l’intelligence humaine, par la façon dont elle a été mesurée, dont on a classé ses performances. La citation de Gramsci, sur fond d’un inquiétant Bella Ciao qui semble résonner d’une voix de flûte dans le vide, ouvre le film : » Le vieux monde se meurt, le nouveau tarde à apparaître ; et dans ce clair-obscur surgissent les monstres. »
Le film commence par Tay, apparue en 2016, le chatbot de microsoft, » augmenté » par l’intelligence artificielle. Cette créature de 19 ans amalgamait les contenus balancés sur la toile afin d’en tirer la substance, ce qu’on appelle aujourd’hui les algorythmes. Elle répondait aux tweets qui lui étaient balancés par des milliers d’internautes en se basant sur les contenus publiés par des milliers d’internautes. Microsoft comptait certainement sur le sagesse globale de cet » esprit de ruche « , mais en se fiant à celui-ci Tay pouvait répondre à un internaute qu’Hitler n’avait rien fait de mal et que que l’holocauste était une invention. Et lorsque Microsoft supprima Tay après seulement 16h d’existence, elle devint une icône.
On voit que dès le départ, le problème est posé : l’intelligence artificielle est d’abord humaine, et sujette à tous les délires humains. Elle n’a, de fait, pas d’autonomie, quoi qu’en disent tous ceux qui voudraient la voir constituer une ligne évolutive partie de l’humain et s’en émancipant. Mais elle représente à la fois le rêve le plus dément de l’hubris humaine et un véritable collier de bulles spéculatives lancées comme une farandole de missiles vers un mur de plus en plus lointain, tandis que sont pillées avec une férocité coloniale ancienne les ressources minières, humaines, et l’eau. De quoi arroser un délire de puissance qui ne cesse sa fuite en avant.
Mais qu’est-ce que l’intelligence artificielle ? se demande Valerie Veatch. Qui l’a créée, et pourquoi ? À partir de là, le film se décline en chapitres : et le premier concerne l’intelligence générale. Le ton est donné tout de suite : l’intelligence artificielle est un terme marketing qui désigne différents systèmes capables de faire le tri dans des quantités monumentales de données. Plusieurs chercheurs expliquent que l’intelligence artificielle n’est ni une technologie ni un ensemble cohérent de technologies, ni une application, mais un ensemble de technologies variées utilisées dans des secteurs très différents. On regroupe ainsi sous le même nom des algorythmes d’amélioration des images et des LLM comme ChatGPT, ou des modèles prédictifs. Mais par ce biais on en arrive à la notion d’intelligence. Ah diable, mais quand s’est-on mis en tête de définir et mesurer, forcément de façon tendancieuse et restrictive, cet ensemble de facultés cognitives qu’on appelle intelligence ? Et bien au XIXe siècle, où il fallait bien trouver une raison valable de justifier l’anéantissement de populations entières, leur mise sous tutelle et le pillage effréné de leurs ressources. Les mouvements eugénistes professaient que l’humain pouvait être amélioré de telle façon que son intelligence serait aussi supérieure à celle des européens de l’époque que la leur l’était de la plus basse race nègre. Et on aimait mesurer à l’époque, les proportions, l’angle facial, les crânes, alors pourquoi pas l’intelligence ?
Le film s’attarde sur deux eugénistes particulièrement éminents, l’un, Pearson, étant un disciple de l’autre, Galton. Pearson considérait que les différents génocides perpétrés étaient une bonne chose pour l’amélioration de la race humaine. Ce génie a établi le champ des mathématiques statistiques, et nombre d’outils statistiques encore utilisés aujourd’hui. C’était un eugéniste enragé, qui pensait que l’amélioration de la race humaine ne pouvait se faire que par la guerre raciale. Mais comment mesurer l’intelligence humaine ? Heureusement les Français Binet et Simon étaient là pour créer un test, le test d’intelligence Binet Simon, ancêtre du test de QI. On se mit à tester à tout-va, pour établir des échelles d’intelligence, et ô merveille, les prolos étaient moins intelligents que les bourgeois, les noirs que les blancs.
Ce qu’a gardé l’Intelligence artificielle, ou du moins ses promoteurs, de ses racines eugénistes, c’est la manie statistique de mesurer tout et n’importe quoi, que ce soit mesurable ou pas et quels qu’en puissent être les biais, et de faire des classements. Une fois l’intelligence générale mesurée, il ne reste plus qu’à l’améliorer. Mais elle donne aussi lieu à des applications finalement logiques, comme les lois de ségrégation raciale aux USA en 1920 : pas question de se mélanger, ça va niquer le QI. Mais en outre, comme il est un peu barbare (encore que..) d’éliminer les porteurs de QI bas, on va juste les empêcher de se reproduire par des stérilisations ciblées. Des lois dans ce sens sont promulguées dans 31 États, dont Hitler s’inspirera quelques années plus tard pour pratiquer la même politique de stérilisations. Il a la plus grande admiration pour les eugénistes états-uniens, qui le lui rendent bien.
Après l’extermination et la fin de la IIe guerre mondiale, il est compliqué de se dire eugéniste, et le terme est définitivement attribué au nazisme. On cesse de le revendiquer et il disparaît, mais pas ses fondamentaux. Le deuxième chapitre du film, The ghost in the machine, le fantôme dans la machine, démontre que si le mot a disparu, les théories raciales sont constitutives de la technologie. De la machine de Turing, outil abstrait qui permet de faire tous les calculs au moyen de trois opérations, à l’émergence de machines gigantesques manipulées par des humains qui semblent intégrés à ces machines, en passant par Ryle, pour qui la théorie de Descartes de séparation du corps et de l’esprit est nulle et non avenue, l’esprit découlant de la matérialité du corps, on glisse de l’eugénisme à une théorie de l’esprit, ou du comportement, qui va constituer un territoire blanc moins marqué mais tout aussi exclusif. Inexorablement, on ne prétend plus faire penser les machines comme des humains, mais on analyse l’intelligence humaine comme si elle était produite par une machine. Dans les années 50, c’est même une véritable ivresse. Ce n’est pas un petit plaisir de voir des chercheurs et écrivains de SF comme Arthur C. Clarke ou Isaac Asimov papoter de projections futuriste quant à l’intelligence artificielle – ou l’hybridation de l’humain avec des robots.
Et voilà Shockley, qui invente le transistor. On s’imagine avoir encore fait un grand pas dans la reproduction des capacités du cerveau humain, mais depuis le début il ne s’agit que de calcul, et de tri. À une échelle remarquable certes, mais rien de plus. Cependant Shockley est considéré comme le père de la Silicon Valley, car il installe sa boîte de production de transistors à Palo Alto. Plus tard s’y produiront les premières puces électroniques, les semi conducteurs, etc… Une pépinière de start-up s’y agglutine, d’où sortiront les géants de la tech. Mais déjà on peut constater une structure plus que patriarcale, sans femme, et extrêmement blanche, au sein de la Silicon Valley. Ces braves gens ne se privent pas d’exprimer leurs points de vue sur la fécondité spécifiquement masculine (Jastrow) qui passe par l’esprit, l’ordinateur, lequel suit une courbe exponentielle d’évolution, un facteur 10 tous les 7 ans, dit-il, tandis que la matière grise augmente d’une cuillère à café tous les 100 000 ans. C’est ce qu’on appelle une comparaison scientifique…
Plus le film avance, et moins on est étonné de ce qui n’est absolument pas une évolution surprenante de jeunes gens hype vers un techno-fascisme revendiqué. On s’aperçoit qu’ils n’ont jamais, en somme, porté de masque. Ils n’ont jamais cessé d’être suprémacistes, mais aussi d’un masculinisme accablant : les femmes, c’est connu, ont des capacité intellectuelles inférieures à celles des hommes.
La première bulle éclate en 2000, et la Silicon Valley s’effondre. Mais rapidement l’internet 2.0, le web social, prend le relais, et de nouveau les fortunes s’envolent. L’Intelligence artificielle reprend du poil de la bête, devient le secteur le plus flou, le plus fantasmé et le plus profitable : on pousse à l’IA contrôlée, comme l’Open AI d’Elon Musk, pour éviter la vilaine IA potentiellement hors de contrôle qui pourrait bien mettre fin à l’aventure humaine.
Cette idée fait rigoler dans les milieux de la tech : il n’existe pas, de fait, d’intelligence artificielle qui puisse se passer d’intervention humaine. L’IA ne fabrique pas les datas, elle les mange. Ce sont des dizaines de millions de sous-prolos en Afrique, en Asie, dans les bidonvilles des pays pauvres, et jusque dans le prolétariat des pays riches, qui alimentent sans cesse sa fringale de datas. Qui analysent, décortiquent, trient, classent, modèrent, nettoient des contenus qui les démolissent psychiquement pour 5$ de l’heure. L’année dernière, leur nombre était évalué à 435 millions dans le monde. L’IA a besoin de datas pour fonctionner comme nous de sang dans nos veines, et elle est incapable de se les procurer par elle-même. Elle occasionne donc un mouvement colonial d’une ampleur inédite pour installer partout ces data centers énorme qui sont comme des granges à foin pour son appétit insatiable, dévorant des terres rares et engloutissant l’eau potable dont ont besoin tous les vivants, l’agriculture, les autres industries. Elle exploite à l’os les millions de petites mains sans lesquelles elle serait muette et sourde. Elle bouffe les paysages, rase les forêts, aggrave le réchauffement climatique. Pire, la spéculation inouïe qu’elle occasionne remplit les poches et arme le bras de techno-fascistes débridés, prêts à utiliser leur puissance pour mettre des populations entières à leur botte en une forme totalement nouvelle d’oppression et de dictature.
Sans surprise, les applications militaires sont finalement les plus concrètes, avec la complaisante collaboration d’entreprises civiles. On ne peut s’empêcher de penser aux Gazaouis, exténués par le bourdonnement de drones qui peuvent les tuer à tout instant. La conclusion du film n’est pas très optimiste : un pouvoir démesuré concentré dans les mains de 5 ou 6 mecs blancs : fortunes telles qu’il n’en a jamais existé, pouvoir politique et même épistémique : les LLM sont consultées tous les jours par des millions de gens, qui considèrent leur réponse comme exacte sans se poser plus de question. Et la réalité est une notion dangereusement tripotée par ceux qui aimeraient se trouver à l’exclusive de sa création. Si l’IA a un pouvoir, c’est celui de détruire l’information, la réalité, toute confiance. Mais comme le dit une scientifique, elle ne peut fonctionner sans ces millions d’humains qui la fournissent. Et c’est un véritable pouvoir qui est entre leurs mains, avec celui de la refuser, tout simplement.
Lonnie
Ghost in the machine, Valerie Veatch, USA, 2026
Illustration: Hors Gel © Adèle O’Longh