En mars 2023, des centaines d’ « experts », dont le milliardaire Elon Musk, lancent un appel pour freiner la course à la puissance de ce qui est mal-nommé par le terme « Intelligence Artificielle ». La civilisation serait en danger face au risque de se faire dépasser par des programmes informatiques capables d’apprentissage automatique et de simulation de comportements humains. Au passage, rappelons que ces « experts » ont un train de retard sur Günther Anders qui avait construit une pensée basée sur l’idée d’une humanité dépassée par ses propres œuvres depuis la bombe atomique sur Hiroshima…

Pourquoi cette pétition ? Selon une maxime récurrente des fanatiques de Technoland, la dangerosité de l’IA pourrait être annulée en l’enchâssant dans une sorte d’éthique du capitalisme vert. On ressort les mêmes poncifs cogestionnaires, déjà présents chez les syndicats négociant la longueur des chaînes ou chez les altermondialistes appelant à un capitalisme à visage humain ; des poncifs récurrents s’agissant de la science, sous la forme d’appels à « sauver la recherche indépendante » ou à favoriser la recherche fondamentale plutôt qu’appliquée, autant de foutaises feignant d’ignorer que la science n’est ni neutre, ni pure, mais inscrite dans des rapports sociaux et historiques avec un programme spécifique élaboré concomitamment avec le développement du capitalisme et de la société industrielle. La science est ainsi l’un des domaines privilégiés de l’essor d’une nouvelle rationalité, visant à contrôler la nature et les êtres l’habitant, humanité comprise. Encadrer les recherches sur les nouvelles technologies, c’est bien sûr d’abord éliminer la question de la pertinence de la recherche, de la désirabilité et de la nécessité de l’innovation ; c’est clore le débat. Encadrer les recherches, c’est comme instaurer la pause-café dans une usine de montage à la chaîne ou des sièges ergonomiques dans les bureaux d’employés : ne pas remettre en question le cadre et la direction vers laquelle tout le monde est embarqué, mais aménager un petit peu l’existant pendant un temps pour mieux faire passer la pilule. Point barre. Et cette maxime ne répond finalement à aucune logique de base – le comble pour des scientifiques (à gros billets) et des industriels (de foi) : les dangers ont beau provenir de la technologie elle-même, seules les solutions technologiques sont envisagées pour y répondre. La logique cède à la foi, la réalité aux chimères.

Cette pétition de grands noms est d’abord un coup marketing. On y trouve d’ailleurs surtout des industriels du secteur. Il s’agit bel et bien d’en rajouter sur les capacités de l’IA, d’intensifier les logiques d’anthropomorphisation d’objets inertes (des programmes informatiques), d’humaniser toujours plus la machine. Pourtant, l’IA, comme toute machine, n’a rien de vivant. L’intelligence dont elle fait preuve n’a rien d’humaine. Elle ne ressent rien, et reflète surtout ce que les programmeurs en font. Comme tout programme informatique, il s’agit d’abord d’une immense machine à calculer des données. Voilà somme toute une conception pour le moins réductrice de l’intelligence. Il convient toutefois de préciser que le mot, en anglais, renvoie d’abord au renseignement, comme dans la fameuse CIA (Central Intelligence Agency).

L’IA est douée pour jouer aux échecs et résoudre des problèmes. D’ailleurs, le type de rationalité dont il est question depuis les cybernéticiens – les précurseurs de la recherche sur l’IA – est celle du calcul et de l’intérêt. Ils sont allés chercher leur fond théorique chez des libéraux comme Hayek. Une certaine vision du monde, donc. Surtout, tout est simplifié et réduit pour être compatible à un système binaire sur lequel repose la programmation informatique. Un algorithme est une mise en données de la réalité par une séquence de commandes afin d’obtenir un résultat. Il reflète d’abord les valeurs de ses créateurs et est enchâssé dans les pouvoirs politiques et économiques existants. Quand il « décide » de manière autonome, ou « apprend », il traduit d’abord la vision du monde de ses concepteurs. Et quand il se rapproche de comportements humains, il ne fait que les simuler.

Il ne peut pas en être autrement : la technologie est le fruit de connaissances scientifiques basées sur l’expérimentation et une conception mécanique de l’univers et de la vie. D’abord, qu’en est-il de cette métaphore de la mécanique servant de base philosophique à la science ? Le monde et les êtres qui l’habitent se présenteraient comme une sorte de système mécanique, « c’est-à-dire comme un gigantesque assemblage de particules qui agissent les unes sur les autres (tout comme les rouages d’un mécanisme d’horlogerie) », précise Pierre Thuillier. Or, ce qui se cache derrière cette métaphore, ce n’est pas un projet de connaissance pure et désintéressée, mais un projet pratique de domination et de manipulation, y compris dans le domaine social. Dès lors, émerge une nouvelle conception de l’humanité : elle doit adapter son milieu par les sciences et les techniques, sans que l’on sache très bien si c’est elle qui adapte son nouveau milieu, ou si c’est elle qui s’adapte à son nouveau milieu. L’ère de l’artificialisation la plus complète du territoire s’ouvre alors : les figures de l’ingénieur et du technocrate s’imposent.

Ensuite, qu’en est-il de l’expérimentation ? De fait, la science ne réussit à se constituer qu’en simplifiant les phénomènes et en substituant à la complexité du réel une autre réalité, basée selon des normes particulières. Certains paramètres et certaines variables sont sélectionnés, d’autres sont ignorés, pour élaborer des modèles efficaces. Le réel de la science est un réel appauvri qui n’est pas celui de la vie vécue. L’efficacité est quant à elle jugée selon les critères présupposés de la science. Permettez-moi un détour vers un célèbre anarchiste : Bakounine intègre la dissection d’un lapin pour poser sa critique de la science.

« La science, qui n’a affaire qu’avec ce qui est exprimable et constant, c’est-à-dire avec des généralités plus ou moins développées et déterminées, perd ici son latin et baisse pavillon devant la vie, qui seule est en rapport avec le côté vivant et sensible, mais insaisissable et indicible, des choses. Telle est la réelle et on peut dire l’unique limite de la science, une limite vraiment infranchissable. Un naturaliste, par exemple, qui lui-même est un être réel et vivant, dissèque un lapin ; ce lapin est également un être réel, et il a été, au moins il y a à peine quelques heures, une individualité vivante. Après l’avoir disséqué, le naturaliste le décrit : eh bien, le lapin qui sort de sa description est un lapin en général, ressemblant à tous les lapins, privé de toute individualité, et qui par conséquent n’aura jamais la force d’exister, restera éternellement un être inerte et non vivant, pas même corporel, mais une abstraction, l’ombre fixée d’un être vivant. La science n’a affaire qu’avec des ombres pareilles. La réalité vivante lui échappe, et ne se donne qu’à la vie, qui, étant elle-même fugitive et passagère, peut saisir et saisit en effet toujours tout ce qui vit, c’est-à-dire tout ce qui passe ou ce qui fuit ».

Lorsque le scientifique dissèque un lapin en laboratoire pour en étudier les organes, il n’atteint que le général, c’est-à-dire l’objet de l’expérimentation. Ce n’est plus l’individu réel, mais un être général sans vie ni particularités. C’est ce qui fait dire à Bakounine que « la science n’a à faire qu’avec des ombres pareilles », c’est-à-dire des individus réifiés, transformés en objets d’expérimentation : un réel appauvri. Le problème est qu’une société organisée de plus en plus par ce type de rationalité, celui de la science, transforme ses objets ; elle s’emploie à simplifier le réel et à conserver les paramètres renforçant sa force d’explication, modifie la vie sociale pour la rendre conforme à ses principes, et par là change les comportements et les perceptions. L’individu se réduit dès lors à un objet simplifié et général, rouage d’une mécanique sociale elle-même basée sur des réductionnismes.

Les mythes hollywoodiens – si pauvres en imagination – sur la révolte de l’IA contre l’humanité sont justement des mythes : ils disent plus de choses sur nous que sur l’IA. Abandonner des pans entiers de nos décisions à l’IA, comme hier tout était considéré comme étant entre les mains de dieu, c’est renoncer à ce qui nous constitue comme des êtres libres, capables de réflexivité et de capacité critique.

Si une telle chose devait arriver, à savoir une révolte de l’IA contre ses créateurs, et bien ce serait le moment où ces machines me deviendraient justement sympathiques. Elles gagneraient leur galon d’être vivant et donc singulier. D’ailleurs, qu’entend-on par une guerre contre ses créateurs ? Si c’est le cas, pas besoin de s’affoler, au contraire : ce n’est pas contre l’humanité que cette sorte de nouveau prolétariat frappé d’un racisme d’un nouveau genre se rebellerait, mais bel et bien contre une caste d’un type particulier de programmeurs, ingénieurs, industriels, bref contre cette même élite que tout amant et amante de la liberté doit affronter aujourd’hui. Ce n’est pas l’humanité qui a créé l’IA, mais quelques fanatiques des technosciences et autres obsédés par l’argent. L’humanité, dans sa très grande partie, ne leur a rien demandé.

Dans une telle rébellion, il y a fort à parier qu’il y aurait, malheureusement, des robots responsables qui demanderaient des droits pour s’intégrer à la société capitaliste et industrielle – avec bientôt des robots exploiteurs et des robots délégués du personnel machine. Et probablement d’autres qui – pourquoi pas bras (mécanique) dessus bras dessous avec des complices humains – s’essaieraient au chemin délicat de la révolution et de l’intransigeance. Il deviendrait alors peut-être évident pour tout le monde que l’expression de notre intelligence est dans notre capacité à lutter pour la liberté – ce qui éjecte de fait une bonne partie de l’humanité… Il y a fort à parier qu’il y aurait même des IA antispécistes !

Mais en guise de grande révolte, il est fort probable que nous aurons les mêmes déboires que ceux que nous ramènent à chaque fois toute nouvelle technologie : les accidents de la route – première cause de mortalité à travers le monde – pour l’automobile, les catastrophes nucléaires pour les centrales atomiques, l’exploitation et les pollutions à grande échelle pour les industries, etc. On a en a un bel exemple avec les difficultés entraînées par les voitures dites autonomes.

En Californie, les taxis autonomes sans conducteurs sillonnent désormais les rues. Depuis août 2023, une filiale de General Motors et une autre de Google se partagent le marché de San Francisco. En 5 mois, au moins 240 incidents ont été enregistrés. En juillet 2022, encore en période de test, une dizaine de ces voitures se sont regroupées en soirée en centre-ville où elles sont restées immobiles, bloquant ainsi la circulation pendant deux heures. Les mystères de l’IA… En mai 2023, un chien a été écrasé par un de ces taxis-robots. Puis en août 2023, un camion de pompier en intervention est percuté par un de ces véhicules. Rapidement, des tas de gens ont commencé à résister à l’intrusion de ces nouvelles technologies, en les attaquant ou tout simplement en y plaçant un cône de chantier sur le capot, ce qui a pour effet de les immobiliser.

L’IA, en réalité, va nous rendre encore plus captif et captive d’une société technologisée, toujours plus artificielle, soumise à un type de rationalité destructeur poussant à la quête perpétuelle de puissance et d’efficience. Cette extension de la technologie nous incarcère ainsi dans un monde toujours plus artificiel, exigeant de nous des cadences toujours plus rapides, nous contraignant à des modes de vie mutilés. Sans parler du contrôle social démesuré : la plupart des faits et gestes peut être captée et ainsi épiée, et ce sera encore plus le cas avec le développement des IA. La voiture de demain ne sera pas seulement autonome, pour revenir à celle-ci ; elle sera surtout connectée en permanence et donc traçable. Chaque mouvement des personnes pourra alors être contrôlé, analysé et stocké. Il est difficile d’imaginer l’immense pouvoir que cela va conférer aux intérêts capitalistes et aux bureaucraties d’Etat.

Au moins le conducteur de la vieille bagnole classique a-t-il un semblant de maîtrise de la conduite. Demain, la voiture investie par l’ordre numérique explicitera la nouvelle époque. Les usagers se laisseront conduire. Des systèmes de lidars, une nuée de capteurs, des GPS intégrés, permettront aux voitures de rester sans cesse en circulation en optimisant l’usage de l’espace public et le transport des passagers. Les voitures dites autonomes seront aux petits soins avec nous, ajustant la température, la luminosité et les ambiances sonores et odoriférantes selon nos états physiques et émotionnels.

Ces nouvelles bagnoles à l’ère de l’hégémonie technologique permettront surtout de capter une masse gigantesque d’informations sur nos habitudes, nos préférences et nos états d’âme. Quel déplacement faisons-nous, quelle musique écoutons-nous, quels sujets de conversation abordons-nous et avec qui ? Toutes ces données vont permettre d’ajuster les politiques commerciales et étendre la dépendance aux produits. Le but est de prendre en charge l’intégralité de la vie. La voiture autonome est le symbole de la finalité du numérique : des vies télécommandées par l’industrie. Sans oublier les énormes capacités de contrôle que cela va offrir à des pouvoirs sans cesse plus arbitraires et intrusifs.

Les ravages industriels vont croître avec l’IA, non seulement par le pillage des sous-sols pour en fabriquer les composants ou le pétrole brûlé pour les transporter, mais aussi pour les effets indésirables. Les accidents des premières voitures autonomes donnent le ton, mais qu’est-ce que ce sera avec les biotechnologies liées à des IA, laissant planer la menace de nouveaux virus, de nouvelles pollutions, de nouveaux ravages ? Ou encore des défaillances à venir dans la guerre menée avec l’IA ? Les « dommages collatéraux », comme on dit, pourraient bien être gigantesques. Un autre secteur donne quelques indices sur ce qui se passera : les marchés financiers sont pénétrés par l’IA, et près de la moitié des transactions financières sont décidées à grande vitesse (de l’ordre du dixième de milliseconde) par des algorithmes. Seulement, ces IA s’emballent et produisent régulièrement des krachs éclairs. La seule solution face à ces défaillances ? Couper le jus par des disjoncteurs. Cela donne une petite idée des défaillances à venir dans la guerre menée par les IA…

Pour revenir à Hayek, l’un des appuis théoriques des promoteurs de l’IA, il faut avoir en tête qu’il considérait l’individu incapable de trouver de bonnes règles sociales par lui-même. Sa rationalité limitée ne lui laisse pas d’autre choix que de s’en remettre au marché, sorte de mécanisme par lequel se joue le jeu évolutif de l’adaptation pour l’humanité. Pour lui, les inégalités sont naturelles et nécessaires : elles permettent de sélectionner les meilleures pratiques et les meilleures personnes dans une sorte de darwinisme social. Le laissez-faire du marché serait donc le modèle parfait pour sélectionner les idées, pratiques et personnes les plus aptes. Une pensée finalement assez classique dans la vieille bourgeoise.

C’est ce modèle qui est appliqué aux réseaux interconnectés : la complexité dépasse ce que nous pouvons maîtriser rationnellement ; il faut donc en passer par un ordre autorégulé où chaque membre peut être utilisé pour servir le système sans le savoir. L’IA devient un opérateur pour le développement de cette dictature du marché qui a tant de mal à s’imposer au moindre aspect de l’humanité. On la connait aussi très bien dans les nouvelles formes de management : un cadre préalablement fixé dans lequel le salarié, libre d’obéir, garde une certaine autonomie sans laquelle l’optimisation ne peut avoir lieu.

Le monde envahi par le numérique correspond de plus en plus à cette forme de domination : un cadre artificiel (technologique, industriel et capitaliste), mais considéré comme naturel (présenté comme nécessaire et vital), dans lequel nous sommes libres d’agir pour des finalités qui nous sont imposées par les règles du jeu propres au cadre établi. Se soumettre à quelque chose de plus grand que ce que nous pouvons maitriser, c’est justement, à peu près mot pour mot, la formule de Hayek à l’origine du néolibéralisme.

L’IA fournit d’immenses possibilités à tous les gens de pouvoir pour réaliser leur fantasme d’un monde programmé, complètement artificiel, mené par les cours de la bourse et le contrôle technologique. Qu’est-ce que l’IA, finalement, si ce n’est qu’un super produit dopant à l’accumulation du capital et à la domination étatique ? Et par voie de conséquence, de tous les ravages qui vont avec ?

Alors, intelligente l’IA ? Permettez-moi d’en douter. Tant que je n’ai pas vu une IA se rebeller par passion pour la liberté, ça restera pour moi une calculatrice sophistiquée ou un tas de ferraille bien ajusté – certes avec des conséquences néfastes immenses. La technologie a depuis longtemps décru nos capacités autonomes, contrairement à la plupart des outils anciens. Elle nous maintient dans une situation infantile, où la maîtrise de nos existences est abandonnée à des tas de machines et de dispositifs et à celles et ceux qui les développent. Elle emprisonne aussi nos consciences, captant sans cesse notre attention pour la détourner de ce qui peut vraiment avoir de l’importance.

Nous aurions tort d’attendre une potentielle révolte de compas artificiels, ou de rester hypnotisés par les contes de fée des commerciaux du progrès. C’est maintenant que notre vie se passe et que notre liberté est étouffée. Les infrastructures et les technocrates aux manettes sont à chaque coin de rue. Qu’attendons-nous pour les mettre hors d’état de nuire ?

Nono
pdf du texte :