Contrairement à ce qu’affirment nombre de pétitions récentes signées par des chercheurs et des entrepreneurs, l’IA participe bien de l’extinction, mais pas du tout celle qui viendrait remplacer l’être humain par une technologie devenue, comme par miracle, autonome, et faisant précisément abstraction de ses dépendances logistiques, mais celle qui est en cours, qu’on la nomme anthropocène, capitalocène, ou autrement.
« Le jour ou l’être humain aura surmonté,
donc réduit la perversion externe,
soit la monstruosité de l’hypertrophie des « besoins »,
et consentira en revanche à sa perversion interne,
soit à la dissolution de son unité fictive,
une concordance s’organisera entre
le désir et la production de ses objets
dans une économie rationnellement établie
en fonction de ses impulsions ; donc une gratuité
de l’effort répondra au prix de l’irrationnel. »
Pierre Klossowski, La monnaie vivante
Ces derniers mois, les pétitions signées par des entrepreneurs et des chercheurs se sont multiplées [1], nous prévenant des terribles dangers de l’IA et exigeant un moratoire, des comités d’éthique et de réflexion, des législations et des régulations de toute sorte ou une interdiction pure et simple comme dans le cas de Sciences Po.
Le risque encouru par un usage irréfléchi de cette technologie est terrifiant et porterait le nom d’extinction. L’IA, brutalement devenue autonome du fait de son fonctionnement récursif [2], figure achevée du développement techno-scientifique, pourrait mener notre espèce à sa perte : la disparition pure et simple, jusqu’au dernier d’entre nous.
Si ce scénario semble tout droit tiré d’un film de SF comme Terminator, la qualité de certains signataires, tels que Joshua Bengio ou Geoffrey Hinton, nous oblige à le prendre en considération. On aura beau remarquer que ces pétitions extinctionnistes pourraient constituer une simple stratégie marketing pour concentrer l’attention du public sur un nouveau produit, car qu’on en parle en bien ou en mal, on en parle. On pourra ajouter que cet affect est courant par rapport au développement technologique où la critique et le solutionnisme sont solidaires et s’entretiennent de manière à former une configuration mentale de l’infrastructure, alternant entre la nécessité d’agir et le découragement de l’impuissance. On pourra ajouter qu’à peine signée une de ces pétitions, Elon Musk s’est empressé d’investir dans des unités de calcul afin de rattraper son retard. On pourra jusqu’à s’interroger sur le privilège d’avance accordé à la théorie sur la pratique qui devrait la déterminer de part en part. On ne comprendra pas comment l’IA et l’extinction se télescopent dans ces pétitions des classes vectorielles [3].
C’est qu’à les lire, on est surpris. Il y manque toujours quelque chose, et ce quelque chose n’est pas rien. Car si on parle d’extinction, c’est finalement pour ne pas en parler. En effet, on prédit une hypothétique IA autonome nous exterminant, qu’on range du côté des pandémies et des risques d’holocauste nucléaire [4], mais on occulte précisément l’extinction bien réelle qui a déjà cours et qui s’accélère toujours plus, rattrapant nos prévisions les plus pessimistes. Est-il nécessaire de rappeler que depuis plusieurs décennies, les espèces vivantes disparaissent dans des proportions et à une vitesse jamais vue sur Terre du fait des activités techniques ? Est-il encore utile de dire que l’abîme s’accroît entre nos connaissances scientifiques sur les causes de l’évolution du climat et les impératifs pratiques que nous devrions logiquement en tirer ?
On pourrait penser que ces pétitions sont vaines tant leur scénario est hypothétique, et qu’il vaudrait mieux, au regard du temps qui fait déjà défaut, que ces esprits s’attellent à l’autre extinction, celle fort paradoxale où ce sont certaines de nos conditions d’existence qui entraînent la disparition des espèces vivantes, jusqu’à emporter notre propre espèce. L’IA est-elle en passe de devenir le cache-misère de notre impuissance climatique ? Serait-elle, en tant que technologie, entendue comme projet humain sur lequel nous croyons avoir encore prise, une manière de maintenir l’illusion de notre volonté de puissance ? Si nous courons à notre perte, détournons-nous le regard vers un domaine à notre échelle que nous pourrions plus facilement réguler ?
Mais la problématique est plus ambiguë, car les transformations qu’exige la situation climatique impliquent non une adaptation du système de production et de consommation nommé « transition écologique » ouvrant de profitables nouvelles opportunités d’investissement, mais une remise en cause radicale de l’infrastructure et de la logistique héritées de la révolution industrielle. C’est pourquoi ces pétitions occultent ce qui s’impose pourtant à chacun d’entre nous. Si elles prévoient l’extinction, c’est pour poursuivre le « business as usual ». Il faut à tout prix que cela continue coûte que coûte : on nommera des comités, on fera des législations, on placera un bandeau « Made by AI » comme le propose le lunaire Bruno Lemaire sur les textes et images générés, on fera des signalements, autant de réglementations aussi inutiles que l’a été, pour la vie privée, la validation des cookies sur les sites Internet qui surchargent un peu plus nos existences quotidiennes d’activités saturant notre attention.
À y regarder de plus près pourtant, l’IA participe de l’extinction, mais pas du tout à celle qui viendrait remplacer l’être humain par une technologie devenue, comme par miracle, autonome, et faisant précisément abstraction de ses dépendances logistiques, mais celle qui est en cours, qu’on la nomme anthropocène, capitalocène, ou autrement. Elle y participe comme un projet étrangement humain. En effet, l’IA doit être remise dans un contexte historique plus large d’externalisation des facultés humaines depuis l’écriture, les premières machines de calcul, la cybernétique, jusqu’à l’hypermnésie du Web. Car au moment même où l’extinction des espèces vivantes s’est accélérée, que le réseau a permis à chacun d’inscrire des médias, des traces d’existence en une quantité phénoménale, jusqu’au point où nous ne pouvons plus même les consulter du fait des limites de notre perception : notre mémoire n’est plus la nôtre, elle existe hors de nous. Nous avons la capacité de produire des phénomènes techniques qui nous deviennent exogènes.
Au fil des années, le Web est devenu le territoire liminal de nos mémoires, là où une autre humanité, qui n’existe plus que sous forme de traces spectrales, poursuit son chemin jusqu’au point où les réseaux récursifs de neurones s’en alimentent pour produire des mémoires de mémoires, des textes des textes, des images d’images, réitérant nos productions culturelles non pour les répéter à l’identique mais pour les différer. Car c’est bien cette hypermnésie du Web 2.0, associée aux unités de calcul graphique (GPU), qui ont permis l’accélération de l’IA qui est moins une révolution technique – le modèle fut théorisé par Warren McCulloch et Walter Pitts en 1943 et implémenté avec le Perceptron par Rosenblatt en 1958 – qu’une métabolisation historiale de nos traces.
On peut tirer de cette configuration, l’hypothèse que comme toute civilisation, nous nous affairons à nos activités quotidiennes (dans notre cas, le cercle de la production et de la consommation comme perversion externe) en même temps que nous gardons des traces de ce que nous avons été au cas où… nous disparaîtrons (une perversion interne). Le secret le mieux gardé de l’IA est peut-être égyptien et consiste-t-il depuis 30 ans à constituer dans les datacenters des pyramides qui se poursuivraient après nous parce que l’induction statistique est capable de continuer une série après sa fin, d’ajouter à des médias d’autres médias qui ont les mêmes motifs (patterns), qui ressemblent et qui sont pourtant différents. L’automatisation inductive de la ressemblance (mimèsis) qui est cet équilibre entre répétition et différence, est une manière de continuer une série de traces que l’on sait finie. De poursuivre coûte que coûte, une fois que nous ne serons plus, en s’inspirant statiquement de tout ce qui a eu lieu, de tout ce qui a été inscrit. Dès lors les traces matérielles de nos existences sont in-finies, elles sont une ressource à utiliser pour poursuivre au-delà du possible.
Le projet extinctif de l’IA ne doit donc pas être considéré comme une machine autonome qui viendrait nous supprimer, avec ce que l’idée de remplacement peut supposer d’identité retrouvée et nauséabonde, mais le projet, non que nous survivions, mais de nous survivre, c’est-à-dire de se poursuivre après nous, sans nous, et accompagné du souvenir de ce que nous avons été. L’IA nous ressemble, elle mime un monde qui aurait pu exister, tel un rêve dans un rêve, et comme aliénation, elle est notre autre. Dès lors, elle peut constituer, si on en suspend l’instrumentalité, c’est-à-dire l’hypertrophie des besoins, le projet d’une dissolution de l’unité fictive du sujet et des époques du monde. On peut distinguer deux types d’extinction. Une première, factuelle, qui nous met en danger, mais qui met aussi en danger, et c’est peut-être tout aussi si ce n’est plus grave, d’autres espèces dont l’existence contingente pourrait disparaître une bonne fois pour toute. La seconde, spéculative, par laquelle nous savons que notre espèce quoiqu’il en soi est amenée à disparaître (du fait d’une multiplicité de causes possibles et parce que plus généralement les espèces sont mortelles), selon une certitude incertaine puisque nous ne savons ni quand ni comment.
De la même manière que chacun tente de vivre, bon an mal an, avec sa finitude et la certitude de sa disparition prochaine qui est inévitable, l’espèce humaine apprend à vivre à présent, par-delà tout fascination collapsologique ou apocalyptique, avec la certitude de sa disparition, jusqu’au dernier, c’est-à-dire jusqu’à la possibilité même d’un dernier témoin qui pourrait rapporter ce que nous avons été et poursuivre au-delà du possible. Cette anticipation incertaine de notre extinction provient pour une part des connaissances scientifiques concernant l’état de la Terre et du cosmos, car ce pourrait être tout aussi bien une météorite qui pourrait nous faire disparaître. L’IA-Terminator apparaît alors comme une triste stratégie pour ne pas assumer la contingence de l’extinction spéculative, c’est-à-dire pour ne pas pleinement vivre et assumer la finitude de l’espèce, et constitue une fuite craintive devant la béance cosmique de notre unité fictive.
L’IA peut être l’occasion, dans sa relation à l’extinction spéculative, d’augmenter l’agentivité face à l’extinction factuelle. En effet, elle est le projet de poursuivre une série mnésique, nommée espèce humaine, au-delà de ses limites et de reconnaître celles-ci dans le cadre d’une finitude généralisée. Elle est donc le projet inhumaniste de l’humanité mourante et loin de constituer une esthéticisation de l’apocalypse, dont l’Occident s’est nourri dans ses pires desseins jusqu’à l’actuel carbofascisme, elle permet de devenir sensible à l’immensité de la finitude et au fait que la vie est un cas très rare de la mort, exception contingente que nous sommes et qui n’a d’autre raison que d’être cette exception.
Si comme Primo Levi l’estimait dans Les naufragés et les rescapés, même le témoin est un traître alors l’IA, comme ce qui vient tout juste après le dernier témoin, est l’innocence même du témoignage. Un témoignage sans témoin. Poursuivant la série au-delà de la fidèle reproduction des mémoires passées, elle détient le secret pour produire d’autres mémoires, pour nous trahir et dans cette trahison pour insister sur ce que nous avons été, une infinie pulsion de finitude.
Gregory Chatonsky
Artiste, Enseignant au sein de l’EUR Artec
Grégory Chatonsky est un artiste franco-canadien, pionnier du Netart avec la fondation d’Incident.net en 1994. À partir de 2003, il s’intéresse aux ruines et à la matérialité des flux numériques. En 2009, il s’aventure dans le monde de l’IA, qui devient au fil des années un objet de recherche et de création, suivi d’un séminaire à l’ENS Paris sur l’imagination artificielle. Il a exposé au Palais de Tokyo, au Centre Pompidou, au MOCA de Taipei, au Museum of Moving Image, au Hubei Wuhan Museum, etc. Il est enseignant au sein de l’EUR Artec.
Article publié sur le site AOC le 20 juin 2023.
[1] Pour des exemples, voir les sites de Future of Life ; Center for AI Safety ou encore Change.org.
[2] C’est le cas d’AutoGPT qui est une version bouclée de ChatGPT. La boucle produirait des résultats incontrôlables parce qu’il est depuis la première cybernétique, ce qui articule analogiquement les fonctionnements machiniques et organiques.
[3] McKenzie Wark, Telesthesia. Communication, Culture and Class, Polity Press, Cambridge, 2012.
[4] « L’atténuation du risque d’extinction par l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société tels que les pandémies et les guerres nucléaires » qui est l’unique phrase de la pétition du Center for AI Safety déjà citée.
Et vous n’avez encore rien vu... 