Science-fiction : son pouvoir sur le réel


L’astronaute fran­çais Thomas Pesquet est en orbite ; la presse fran­çaise enjoint ses lec­teurs de lever les yeux, nous sor­tant un temps du marasme sani­taire dans laquelle la Terre est plon­gée. Au terme de la lec­ture de la somme Dans les ima­gi­naires du futur, signée Ariel Kyrou, tout s’en­tre­mêle. L’auteur, jour­na­liste, membre de la revue Multitudes, écri­vain et chro­ni­queur radio, navigue dans la tra­di­tion contre-cultu­relle avec une ambi­tion : nour­rir les dési­rs de révoltes. Entre lit­té­ra­ture, ciné­ma et séries, Kyrou s’in­ter­roge ain­si sur la manière dont la science-fic­tion construit nos ima­gi­naires, informe le réel. Coincé entre la déme­sure tech­no­lo­gique et l’a­po­ca­lypse envi­ron­ne­men­tale, il pro­pose de sor­tir de l’im­passe en revi­ta­li­sant l’u­to­pie poli­tique. Cet extrait s’ouvre sur une lec­ture du roman éta­su­nien La Captive du temps per­du : il y est bien­tôt ques­tion de jonc­tions entre SF, sciences et dérive tech­no­lo­gique du capitalisme.


Quelque part au cours du XXIIIe siècle, lhuma­ni­té a dis­pa­ru. De lespèce humaine, il ne sub­siste que trois cents indi­vi­dus. Nés des années avant lapo­ca­lypse, à diverses dates du pas­sé, de façon séparée et sans se connaître aupa­ra­vant pour la plu­part, ils sont tom­bés dans une bulle tem­po­relle qui voyage à sens unique vers le futur. Ils y sont enfer­més. Aucun dentre eux ne sait précisément le com­ment et le pour­quoi de la fin du monde, car ils ne lont pas vécue, mais la constatent a pos­te­rio­ri. Les figures de ce roman de Vernor Vinge publié en 1986, La Captive du temps per­du, en parlent comme de « LExtinction ». Mais daucuns la qua­li­fient du terme moins néga­tif et plus mys­té­rieux de « Singularité ».

« Lhuma­ni­té aurait été trop loin. Les appren­tis sor­ciers se seraient brûlés en met­tant le feu à la planète. »

Il en est ain­si de Della Lu [per­son­nage du roman de Vinge, ndlr] : « Cest absurde dappe­ler cette période lE’xtinc­tion. Ce fut une sin­gu­la­ri­té, une époque où toutes les extra­po­la­tions se sont four­voyées et où il a fal­lu appli­quer de nou­veaux modèles. Et ces nou­veaux modèles dépassent notre intel­li­gence. » Ces modèles au-delà de notre enten­de­ment, hors limites de la Terre comme de lhuma­ni­té, seraient nés dune fusion entre lhumain et les « intel­li­gences sur­hu­maines », elles‑mêmes issues de nos tech­no­lo­gies « expo­nen­tielles » et sans doute par­ties vivre ailleurs dans les étoiles. Cette opi­nion est déve­lop­pée par le per­son­nage dans le cadre dun inter­ro­ga­toire infor­mel par le poli­cier de la com­mu­nau­té de res­capés — dont lenquête sur un meurtre est le cœur de lintrigue. Della Lu tra­duit son hypothèse de fin de notre monde en des termes qui réson­ne­raient agréa­ble­ment aux oreilles des apôtres du trans­hu­ma­nisme daujourdhui : « Il ny a pas eu dExtinction, Wil. Lhuma­ni­té a atteint un état supérieur, tan­dis que vous, moi et les autres, nous avons raté le Grand Passage1. »

Sauf que Vernor Vinge nassène ici aucune vérité. Un deuxième « néo-voya­geur » du roman évoque plu­sieurs bom­bar­de­ments : « Los Angeles, un cratère de cin­quante kilo­mètres. Pékin, un grand lac2. » Il y voit les traces « dune inter­ven­tion exté­rieure », comme si notre espèce avait été « assas­si­née par quelque chose… venu dailleurs ». Un autre pro­ta­go­niste, quant à lui astro­naute, élar­git cette hypothèse : « Quoi qui ait liqui­dé les réseaux de conscience dans la sphère Terre-Lune, cela ne pou­vait qu’être sur­hu­main. » Sous-enten­du : la cause sur­hu­maine de lExtinction pour­rait être liée à notre déme­sure tech­no­lo­gique, sans que lissue ne soit for­cé­ment vécue néga­ti­ve­ment… Lespèce humaine et ses machines pour­raient être « deve­nues quelque chose de meilleur, quelque chose… dincom­préhen­sible3. » Aussi séduit quil semble par cette vision‑là, défen­due par plu­sieurs de ses per­son­nages, l’écrivain n’éjecte aucune éven­tua­lité… Au tra­vers des mots dune femme de science, il prend acte, en par­ti­cu­lier, dune hypothèse qua­si­ment inverse, rejoi­gnant les théo­ries de leffon­dre­ment si popu­laires aujourdhui : « La science a donné à chaque ani­mal humain laudace dagir comme un petit dieu. La Terre ne pou­vait tout sim­ple­ment plus le sup­por­ter. Merde, je suis cer­taine quil ny a même pas eu de guerre. Que toute la struc­ture sest effon­drée sous son propre poids, aban­don­nant les vio­leurs à la mer­ci de leur vic­time : la nature. […] Lorsque je vivais dans la civi­li­sa­tion, jai vu lExtinction arri­ver : il ny aurait plus per­sonne pour vio­ler la nature, mais il ne res­te­rait plus per­sonne non plus pour admi­rer son œuvre4. » Selon la vision de cette cher­cheuse éco­lo­giste, ima­gi­née dans le roman, lhuma­ni­té aurait été trop loin. Les appren­tis sor­ciers se seraient brûlés en met­tant le feu à la planète.

Dans l’imaginaire de la singularité technologique

Changement de décor. Sept ans après la publi­ca­tion de La Captive du temps per­du, Vernor Vinge met de côté sa cas­quette d’écrivain et enfile son autre cha­peau : celui de pro­fes­seur du dépar­te­ment des Sciences mathé­ma­tiques de luni­ver­sité de San Diego en Californie. Le 30 mars 1993, cest donc en tant que scien­ti­fique quil inter­vient au Symposium Vision-21, par­rai­né par la NASA. Il y déploie une thèse sur la « sin­gu­la­rité » qui, cette fois, ne sembar­rasse plus d’équivoque, un peu comme sil avait défi­ni­ti­ve­ment choi­si la voix de Della Lu par­mi toutes celles de son roman. 

[HiPOD, 20 avril 2021, un cratère avec ravines dans la zone tropicale de Mars (NASA | JPL | UArizona)]

Lidée de sin­gu­la­rité, explique-t-il, appa­raît dans un texte de 1958 du mathé­ma­ti­cien Stanislaw Ulam, qui y raconte une conver­sa­tion sur le sujet avec le pion­nier de linfor­ma­tique John Von Neumann. Ce temps de rup­ture y est décrit comme l’époque où se concrétise « laccéléra­tion infi­nie des pro­grès de la tech­no­lo­gie et leur influence sur les modes de vie humains, qui don­ne­rait limpres­sion dappro­cher une sin­gu­la­ri­té essen­tielle dans lhis­toire de la race au-delà de laquelle les consi­dé­ra­tions humaines actuelles nauraient plus lieu d’être5. » Vernor Vinge radi­ca­lise le concept via ce quil consi­dère comme « lessence même de la Singularité » : l’émergence dun « intel­lect super­hu­main »… Cette pers­pec­tive nest pas neuve. Sans nuances, Vernor Vinge trans­forme de vieilles spé­cu­la­tions, comme celles du sta­tis­ti­cien bri­tan­nique et col­la­bo­ra­teur dAlan Turing Irvin John Good6, en qua­si-cer­ti­tudes. Dans sa confé­rence, il annonce la « création immi­nente dentités tech­no­lo­giques pos­sé­dant une intel­li­gence supé­rieure à celle de lhumain ». Alors que son roman, pru­dent, situait la ter­rible bifur­ca­tion dans lhis­toire de lhuma­ni­té de façon floue « au cours du XXIIIe siècle », dans sa pré­sen­ta­tion plus savante il pré­cise : « Je serais sur­pris si cet événe­ment sur­ve­nait avant 2005 ou après 20307. »

« Vernor Vinge et ses frères et sœurs du monde de la science-fic­tion nous per­mettent dana­ly­ser les ima­gi­naires de la Silicon Valley, imprégnés de trans­hu­ma­nisme. »

Oubliée lintri­gante plu­ra­li­té des voix de La Captive du temps per­du. Curieusement, au regard de l’éthique scien­ti­fique, le mathé­ma­ti­cien Vernor Vinge doute bien moins que le roman­cier Vernor Vinge. Sorti fin 1993 dans la publi­ca­tion post-hip­pie Whole Earth Review, le court essai tiré de la conférence est titré La sin­gu­la­rité tech­no­lo­gique à venir Comment sur­vivre dans l’ère post-humaine8. Il regorge de clichés à lemporte-pièce sur les algo­rithmes comme « prérequis à lexis­tence dun esprit » ou sur « les mystères du déve­lop­pe­ment humain » pour la plu­part « élucidés ». Mentionnée une seule fois dans le texte, lextinc­tion de « la race humaine » nest plus quune « pos­si­bi­lité », visi­ble­ment moins pro­bable ou exci­tante que celle dune « super­hu­ma­nité ». Là où l’écri­vain ouvrait les portes de la réflexion en mul­ti­pliant les hypothèses fic­tion­nelles, le cher­cheur peu rigou­reux avance donc des hypothèses plus ou moins plau­sibles comme sil sagis­sait de vérités scien­ti­fiques. Pourquoi diable donne-t-il le sen­ti­ment de saccor­der moins de liber­té sous sa cas­quette de cher­cheur, livrant sa vision du futur à un par­terre de collègues cali­for­niens, que lors­quil envi­sage ce même ave­nir, sept ans aupa­ra­vant, dans liso­le­ment de son bureau, seul face à son texte lit­té­raire ? Comment expli­quer largu­men­ta­tion défaillante, le déni de com­plexi­té de sa contri­bu­tion scien­ti­fique ? Ne faut-il pas y voir un pro­ces­sus de sim­pli­fi­ca­tion, de lordre de la consti­tu­tion dune idéo­lo­gie ? Linter­ven­tion de Vernor Vinge est en effet indis­so­ciable dun contexte de dis­crète fabri­ca­tion dune école de pen­sée tech­nos­cien­ti­fique : le sémi­naire dun groupe dexperts, hommes et amé­ri­cains blancs pour la plu­part, sous l’égide de la NASA les 30 et 31 mars 1993. Sa thé­ma­tique, telle quelle appa­raît dans un compte-ren­du publié le 1er décembre de la même année, était : « Science et ingé­nie­rie inter­dis­ci­pli­naires à l’ère du cybe­res­pace ». Et par­mi ses autres inter­ve­nants, lon trouve le robo­ti­cien Hans Moravec, grand nom et pion­nier du trans­hu­ma­nisme9

La conférence de 1993 aurait pu res­ter de lordre de lanec­dote, vite oubliée pour son manque de sérieux. Au contraire, elle est deve­nue lun des socles du trans­hu­ma­nisme, dont lima­gi­naire est aujourdhui sur­puis­sant dans notre monde dit numé­rique. Lidée que nous naurions dautre choix que de fusion­ner demain avec les machines, sauf à accep­ter quelles nous dépassent et nous dominent, a été défen­due avant le sémi­naire de la NASA par dautres « scien­ti­fiques ». En 1986 dans son ouvrage Engines of Creation: The Coming Era of Nanotechnology, le cher­cheur du Massachusetts Institute of Technology (MIT) Eric Drexler aborde l’éven­tua­lité dune des­truc­tion de lhuma­ni­té suite à la perte de contrôle de nano­ma­chines pas plus grosses que des molé­cules. Deux ans plus tard, dans Mind Children: The Future of Robot and Human Intelligence, oppor­tunément tra­duit en français Une vie après la vie, Hans Moravec annonce pour la fin des années 2030 « des formes supé­rieures dintel­li­gence, capables de trans­cen­der les limites du vivant, de mener plus loin nos pou­voirs et nos savoirs. Avec nous et sans nous. » Le robo­ti­cien de luni­ver­sité Carnegie-Mellon aux États-Unis ouvre la pers­pec­tive, selon lui émi­nem­ment dési­rable, dun trans­va­se­ment de notre cer­veau dans lenve­loppe de machines tel le « robot buis­son » aux mil­liards de doigts et aux sens inouïs… Tout ça pour mieux libé­rer la pen­sée humaine de « lescla­vage dun corps mor­tel10 » et acces­soi­re­ment nous rendre immor­tels. La contri­bu­tion de Vernor Vinge par rap­port à ces deux prédéces­seurs tient à la « Singularité tech­no­lo­gique », notion qui sera ensuite reprise et lar­ge­ment étoffée par les deux théori­ciens du trans­hu­ma­nisme Ray Kurzweil et Nick Bostrom11. Enfin, deuxième caractéris­tique essen­tielle de Vernor Vinge : son pro­fil hybride. Car cest bel et bien en tant qu’écrivain de science-fic­tion, et ce, dès 1981, cest-à-dire cinq ans avant lessai dEric Drexler, quil a ima­giné le concept de Singularité tech­no­lo­gique dans True Names, novel­la dont laction se situe dans une sorte de cybe­res­pace avant lheure…

Vernor Vinge et ses frères et sœurs du monde de la science-fic­tion nous per­mettent dana­ly­ser les ima­gi­naires de la Silicon Valley, imprégnés de trans­hu­ma­nisme, depuis une mon­tagne escar­pée, mal­heu­reu­se­ment peu esca­la­dée par la tech­no­cri­tique : celle de la fic­tion et de son pou­voir sur le réel. Se situant dans le cas de Vernor Vinge à la fois en amont et en aval de la tech­nos­cience, la science-fic­tion fonc­tionne comme un miroir et un révéla­teur de nos ima­gi­naires de dépas­se­ment des limites de lhuma­ni­té.

[Image prise par la sonde orbitale MRO, Mars Reconnaissance Orbiter (NASA | JPL | UArizona)]

Il nest pas aisé, mais en revanche très ins­truc­tif, de décryp­ter linfluence tan­gible des œuvres de science-fic­tion sur les pen­sées et les actes des apôtres du tout numé­rique. De ten­ter dappréhen­der la capa­ci­té mobi­li­sa­trice et trans­for­ma­trice, directe ou plutôt indi­recte, du ciné­ma, de la lit­té­ra­ture, voire de la bande des­si­née ou des jeux vidéo sur les repré­sen­ta­tions du futur des tech­no­logues de la Silicon Valley. Les images, les créa­tions met­tant en scène des super-héros, des arte­facts ou des intel­li­gences arti­fi­cielles, des mondes fan­tas­ma­tiques à la fois construits ou à linverse détruits par notre déme­sure tech­nos­cien­ti­fique ont sans aucun doute un impact sur la façon dont nos vies sont cham­bou­lées par les recherches, les pro­jets, les star­tups et autres entre­prises liés aux nou­velles tech­no­lo­gies… Mais quel est cet impact ? Comment le rendre lisible ? Et dans quel objec­tif ten­ter de décryp­ter ce rôle des ima­gi­naires ? Lun des pre­miers enjeux dune tech­no­cri­tique sappuyant sur la science-fic­tion est de désha­biller le mythe fal­la­cieux de notre toute-puis­sance tech­no­lo­gique, se parant des ori­peaux de la science. Autre défi dune telle démarche : aus­cul­ter la façon dont le dépas­se­ment, assu­mé ou non, de la stricte ratio­na­li­té et des don­nées fac­tuelles de la science sert de car­bu­rant à nos actions, à nos pro­jec­tions vers des deve­nirs qui, il y a peu de temps, auraient rele­vé de limpos­sible. Ce cha­pitre conjugue sous ce regard deux façons de lire et duti­li­ser les fic­tions de lintel­li­gence arti­fi­cielle à des fins de réflexion : il sagit dune part dobser­ver et dana­ly­ser la façon dont ces ima­gi­naires a prio­ri abs­traits fabriquent notre deve­nir lors­quils sont plon­gés dans les aléas de notre pré­sent tech­no­lo­gique, cest-à-dire de la contin­gence ; et il sagit tout autant d’étudier, grâce au filtre de la mise en récit du monde et de lhuma­ni­té, la fron­tière sépa­rant ce qui relèverait de luto­pie créatrice de ce qui serait deve­nu une idéo­lo­gie de domi­na­tion via les nou­velles technologies. 

L’interface direct entre le cerveau et l’IA selon Elon Musk et Mark Zuckerberg

« Mais quel est cet impact ? Comment le rendre lisible ? Et dans quel objec­tif ten­ter de décryp­ter ce rôle des imaginaires ? »

Cest en juin 2016, lors de la Code Conference des magazines en ligne cali­for­niens The Verge et Recode, quElon Musk, fan­tasque P.-D.G. de la société dastro­nau­tique et de lan­ceurs spa­tiaux SpaceX, direc­teur général du fabri­cant de voi­tures élec­triques haut de gamme, high-tech et spor­tives Tesla, a révélé son pro­jet Neuralink. Lobjec­tif de cette star­tup, dit-il alors, est daug­men­ter nos capa­ci­tés cérébrales grâce à un « neu­ral lace », ce que lon peut tra­duire par « lacet neu­ro­nal » ou « lacis neu­ral ». Et ce, semble-t-il, par la grâce dune connexion directe avec nos futurs dis­po­si­tifs dintel­li­gence technologique. 

Cette expres­sion de neu­ral lace, à la fois ima­gée et nébu­leuse, induit le prin­cipe dun entre­la­ce­ment de ce que lentre­pre­neur décrit comme une « couche dintel­li­gence digi­tale » avec nos presque cent mil­liards de neu­rones, à lintérieur de notre boîte crânienne. Son concept et son nom sont direc­te­ment issus de lune des plus fameuses sagas lit­té­raires de la science-fic­tion contem­po­raine : le cycle de La Culture de l’écrivain écos­sais Iain M. Banks. La Culture est à la fois une uto­pie liber­taire et une civi­li­sa­tion inter­ga­lac­tique, hédo­niste et paci­fiste, dun trèloin­tain ave­nir, où coha­bitent les êtres humains et plu­sieurs types dintel­li­gences arti­fi­cielles, consi­dérées comme des citoyennes à part entière. Dans le roman Les Enfers vir­tuels, par exemple, le lacis neu­ral est un « appa­reil que les aliens hau­te­ment avan­cés, qui avaient com­men­cé leur évo­lu­tion en tant que petites masses molles et bio­chi­miques » uti­li­saient « pour sinter­fa­cer avec des intel­li­gences arti­fi­cielles ou enre­gis­trer leurs pen­sées, ou même quand ils vou­laient sau­ve­gar­der leur âme ou leur état men­tal12 ». Le dis­po­si­tif semble implan­té, depuis leur enfance, dans le crâne de bien des citoyens de la Culture, qui par­fois nen ont même plus conscience. Dun côté, dans Trames, lhumaine Djan Seriy Anaplian sen sert comme nous aujourdhui dun smart­phone : en loccur­rence au sein dun « taxi mul­ti-espèces », humide et aux odeurs étranges, pour se connec­ter « aux systèmes dinfor­ma­tion publique du Grand Vaisseau » afin de véri­fier son pro­gramme des jours à venir13. De lautre, dans Excession, cette inter­face directe avec le cer­veau dun Mental, cest-à-dire dune intel­li­gence arti­fi­cielle à l’échelle dun vais­seau spa­tial, per­met au cultu­rien Byr Genar-Hofoen dentrer littéra­le­ment dans lesprit dune femme « aux ambi­tions déme­su­ré­ment moroses » ayant vécu deux mille ans aupa­ra­vant dans ce même navire « intel­li­gent ». Sa connexion directe avec cette IA ultra­so­phis­ti­quée plonge le per­son­nage dans la psy­ché de la dame, au « plus pro­fond de son cer­veau, daus­si près que pou­vait l’être un lacis neu­ral de ses pen­sées, de ses espoirs, de ses émo­tions et de ses craintes14»

[HiPOD, 2 avril 2021 : des plaines foncées et vives près de Ganges Chasma (NASA | JPL | UArizona)]

Cet usage, de lordre de la simu­la­tion inté­grale et du dédou­ble­ment de per­son­na­li­té, a de quoi trou­bler. Encore plus inquié­tant : dans un dia­logue entre un humain et un vais­seau super­in­tel­li­gent dExcession15, le lec­teur apprend que le lacet neu­ral a déjà été uti­li­sé comme ins­tru­ment de tor­ture contre les humains. Premier constat : luto­pie de Iain M. Banks intègre des détails dys­to­piques qui jamais nappa­raissent dans les pré­sen­ta­tions dElon Musk. Deuxième point : la pre­mière situe la pra­tique du lacet neu­ral dans un ave­nir immen­sé­ment loin­tain, au cœur dune uto­pie pour nous inima­gi­nable, là où Elon Musk lannonce à très court terme, de son vivant. Faut-il y voir de laveu­gle­ment ou, là encore, un pro­ces­sus idéologique ? 

« Musk se met en scène comme une sorte de Néo davant le per­son­nage de Keanu Reeves dans le désor­mais célèbre long métrage des sœurs Wachowski. »

Dès juin 2016, puis en juillet 2019 lors du lan­ce­ment offi­ciel de la star­tup, Elon Musk jus­ti­fie la créa­tion de Neuralink par la convic­tion que « lintel­li­gence » des machines est appe­lée à sur­pas­ser la nôtre… mais dici une tren­taine dannées : « Nous serons à ce point sur­clas­sés, au niveau de lintel­li­gence, que nous nous retrou­ve­rons face à lIA comme nos ani­maux de com­pa­gnie face à nous. » Autrement dit : ser­viles comme un chien fidèle, ou un chouïa rebelles à la façon dun chat, nous vivrons sous la domi­na­tion de nos IA super­in­tel­li­gentes. La pers­pec­tive ima­gi­naire est ici double : elle conjugue lissue loin­taine, puis­sante, neutre car poten­tiel­le­ment posi­tive autant que néga­tive, des outils de connexion aux Mentaux de Iain M. Banks, à lanti­ci­pa­tion beau­coup plus sombre dun monde à la Matrix. Musk se met en scène comme une sorte de Néo davant le per­son­nage de Keanu Reeves dans le désor­mais célèbre long métrage des sœurs Wachowski : il alerte le monde pour évi­ter que nadvienne la Matrice. Sil crée Neuralink, cest pour, à linverse, orien­ter notre civi­li­sa­tion dans le sens de La Culture de l’écrivain de SF. Tout est ici sim­pliste. La solu­tion pro­po­sée lest par­ti­cu­lièrement, tout autant dailleurs que la confé­rence de Vernor Vinge de mars 1993 : pour évi­ter que nous ne deve­nions demain inutiles, que nous ne tom­bions sous le contrôle de nos machines deve­nues auto­nomes, opé­rons la fusion ou du moins le rap­pro­che­ment le plus intime entre lintel­li­gence des machines et la nôtre sans besoin de pré­ci­ser la défi­ni­tion de lintel­li­gence, réduite ici à sa ver­sion la plus opé­ra­tion­nelle et com­pé­ti­tive, de lordre du QI16

Car, argu­mente le patron de SpaceX et de Tesla, « nous sommes dédes cyborgs. Vous avez dé, en ligne, une ver­sion digi­tale de vous‑même, du moins par­tielle […]. Grâce à votre ordi­na­teur, votre smart­phone, vos appli­ca­tions, etc., vous avez dédes super pou­voirs, bien plus que le Président des États-Unis dil y a une ving­taine dannées ! » Nous voilà cette fois dans lima­gi­naire, assez pri­maire, de Robocop, du cham­pion tech­no Iron Man et des Quatre Fantastiques mutants des Marvel Comics. Lobjec­tif, sous ce prisme si plein damal­games, est de pous­ser un cran plus loin la digi­ta­li­sa­tion de nos êtres, afin daug­men­ter sans cesse les­dits « super pou­voirs » tech­no­lo­giques. Car, conti­nue-t-il en com­pa­rant lhumain à une boîte noire cyber­né­tique, nos limites par rap­port aux machines tiennent à la faible per­for­mance des « entrées et sor­ties » (« input » et « out­put ») de notre cer­veau. « Surtout les sor­ties, extrêmement lentes », à cause du temps que nous pas­sons à trans­mettre nos mes­sages, par exemple « avec nos doigts sur un cla­vier », alors même qu’à linverse, côté entrées (« input » donc), « nos yeux prennent en compte un nombre beau­coup plus impor­tant de don­nées en un ins­tant17. » Oublie-t-il que louïe, lodo­rat, le goût ou le tou­cher sont des modes de per­cep­tion tout aus­si impor­tants que la vision ? Que ce que nous voyons ou res­sen­tons de notre envi­ron­ne­ment nest pas réduc­tible à des don­nées ? Bref, quil y a du connu et de lincon­nu, du des­crip­tible et de lindes­crip­tible, du ration­nel et de lirra­tion­nel, du conscient et de lincons­cient, du réel et du rêve dans ce que nous per­ce­vons de notre quo­ti­dien ? Musk nen a cure, et reste can­ton­né au « solu­tion­nisme tech­no­lo­gique » de la Silicon Valley18. Ainsi se posi­tionne-t-il en grand super-héros des petits super-héros que nous sommes, agi­tant le chif­fon rouge dune intel­li­gence arti­fi­cielle qui pren­drait demain le contrôle de la civi­li­sa­tion et la détrui­rait dans le style Terminator : « Je narrête pas de tirer la son­nette dalarme, mais tant que les gens ne ver­ront pas des robots des­cendre dans la rue pour tuer tout le monde, ils ne sau­ront pas com­ment réagir. »

[Image prise par la sonde orbitale MRO, Mars Reconnaissance Orbiter (NASA | JPL | UArizona)]

« Imaginer un scé­na­rio apo­ca­lyp­tique, cest irres­pon­sable », lui répond à l’été 2017 Mark Zuckerberg. Ce à quoi Elon Musk rétorque sur Twitter : « Jen ai parlé avec Mark. Sa com­pré­hen­sion du sujet est limi­tée19. » Vraie ou fausse polé­mique ? Le rêve de larchange de SpaceX est-il si dif­fé­rent de lima­gi­naire du gamin de Facebook ? Pas sûr. Car trois mois avant cette passe darmes, le P.-D.G. du pre­mier réseau social de la planète avait annon­cé une ini­tia­tive proche du « lacis neu­ral » dont rêve son alter ego de Tesla et de Neuralink. Cest en effet le 18 avril 2017 que Mark Zuckerberg a présenté son pro­jet dinter­face directe du cer­veau avec Facebook, his­toire de pou­voir tout édi­ter et com­man­der demain depuis son smart­phone via sa pen­sée plutôt quen uti­li­sant ses doigts dhomme de Cro-Magnon20. En juillet 2019, soit deux ans après le spec­tacle de leur polé­mique, les deux se rejoignent. Au compte-ren­du des pro­grès des tra­vaux finan­cés par Facebook sur la lec­ture directe de la pen­sée, signé par des scien­ti­fiques de luni­ver­sité de Californie à San Francisco au sein de la revue Nature, répond lannonce de Neuralink sur un implant de quatre mil­limètres sur quatre, conte­nant jusqu’à trois mille soixante-douze élec­trodes répar­ties dans un filet de quatre-vingt-seize fils, qui pour­rait être inséré dans le cer­veau de patients par un robot neu­ro­chi­rur­gien dès fin 2020. La pre­mière étape, dans lun et lautre pro­jets, est offi­ciel­le­ment de répa­rer les malades et autres pauvres hères de lhuma­ni­té : de per­mettre à des per­sonnes inca­pables de sexpri­mer de com­mu­ni­quer enfin via leurs engins numé­riques côté Facebook ; dauto­ri­ser des humains para­ly­sés à « uti­li­ser le dis­po­si­tif implan­té pour contrôler leurs smart­phones et leurs ordi­na­teurs » côté Neuralink21. Ensuite, il sera lheure, après ce test par des cobayes en situa­tion de han­di­cap, de laug­men­ta­tion assu­mée des capa­ci­tés des valides, par exemple, comme le reven­dique Neuralink, pour « amélio­rer numéri­que­ment le cer­veau » et suivre le rythme du numé­rique « dans un ave­nir domi­né par lintel­li­gence arti­fi­cielle ». Soit une vision indi­vi­dua­liste, égotiste même, de luto­pie du tout connec­té — dont a bizar­re­ment dis­pa­ru lombre cari­ca­tu­rale et néan­moins dys­to­pique de Terminator.

« Leurs inves­tis­se­ments pro­chains dans la réalité vir­tuelle ou aug­men­tée, la ville intel­li­gente, la blo­ck­chain, le Big Data et bien sûr lIA en prennent des formes d’évidence. »

Mark Zuckerberg siden­ti­fie à son réseau social, au centre de l’écosystème quil construit dans le monde, et à la puis­sance quil lui donne pour « faire le bien ». De SpaceX à Hyperloop (trains à ultra grande vitesse), Elon Musk mul­ti­plie au contraire les enti­tés, dans le trans­port futu­riste plutôt que le ser­vice client dopé par lIA. Il a été, dans les trois films Iron Man, le modèle assumé du mil­liar­daire et play-boy Tony Stark archétype de lhomme aug­men­té. Il naime rien tant que sexpri­mer, dans la « vraie vie », à la façon de son double ciné­ma­to­gra­phique, en tant que sau­veur de lhuma­ni­té, quil sou­haite dailleurs trans­for­mer en « espèce mul­ti­planétaire » grâce à la colo­ni­sa­tion de Mars. Mais au-delà de leurs dif­fé­rences de dis­cours ou de caractère, Musk et Zuckerberg par­tagent une même vision per­for­ma­tive de lintel­li­gence et un cre­do dans les « super-pou­voirs » quoffrent les nou­velles tech­no­lo­gies, à même de résoudre à elles seules tous les maux de lhuma­ni­té. Dès lors que les apôtres comme les fidèles se retrouvent dans cette uto­pie fabri­quée et cari­ca­tu­rale, pro­pre­ment ridi­cule dans une optique de court terme, leurs appa­rentes dif­fé­rences de sto­ry­tel­ling se com­plètent et se font des clins d’œil sous cou­vert de dis­pute plus quelles ne se heurtent véritablement.

L’IA au cœur des imaginaires du tout numérique

Leurs pro­jets res­pec­tifs dinter­face avec nos si mer­veilleuses machines retrouvent et com­plètent la vision expri­mée dès mars 2004 dans une inter­view à Newsweek par lun des deux fon­da­teurs de Google : Sergey Brin. Déjà à l’époque, celui-ci affir­mait sans ambages : « Il est cer­tain que si vous aviez toute linfor­ma­tion du monde direc­te­ment connec­tée à votre cer­veau, ou un cer­veau arti­fi­ciel plus intel­li­gent que votre propre cer­veau, vous vous en por­te­riez dautant mieux22» Doù les Google Glass ou les pro­jets de puces et autres implants de connexion, « ver­sions allégées de Google » selon Sergey Brin, à glis­ser sous notre boîte crânienne tels les « papies » et les « mamies », qui sont des péri­phé­riques de connais­sance ou de per­son­na­li­té ima­ginés en 1987 par l’écrivain cyber­punk George Alec Effinger dans son roman Gravité à la manque23. Les visions dinter­face homme-machine de Google, de Facebook et de Neuralink convergent, entre elles et avec celles dun Ray Kurzweil qui ima­gine un cer­veau aug­men­té via ses connexions directes avec les IA de ser­veurs de quelque cloud, pour ne citer que lune de ses idées les moins far­fe­lues. Lembauche par Google en 2012 de ce même Ray Kurzweil, tech­no­prophète de la Singularité tech­no­lo­gique, à un poste quelque peu opaque de direc­teur de lingénie­rie, est sym­bo­lique non dun consen­sus autour des thèses du trans­hu­ma­nisme tel quil le défend comme la poten­tia­li­té du téléchar­ge­ment de son cer­veau dans un ordi­na­teur mais de limpor­tance de lima­gi­naire quil incarne. Quil se contente en réalité de creu­ser ses méninges sur la très peu fan­tas­ma­tique Smart Reply de la mes­sa­ge­rie Gmail, sug­gé­rant juste des réponses pour nous évi­ter duti­li­ser nos neu­rones24, importe peu. Tout comme les deux âmes de Google, Larry Page et Sergey Brin, le « tech­no-opti­miste » Mark Zuckerberg et le son­neur dalerte apo­ca­lyp­tique Elon Musk25 ont besoin du décor et du car­bu­rant de lidéolo­gie trans­hu­ma­niste pour rendre à la fois fami­lières et sédui­santes leurs pro­messes tech­no­ca­pi­ta­listes. Fondée en 2008 dans le parc de la recherche de la NASA au cœur de la Silicon Valley, grâce au sou­tien de Google qui a veillé sur son ber­ceau, la Singularity University en est lun des temples. Moyennant une addi­tion salée, elle réunit des entre­pre­neurs et autres déci­deurs du monde entier autour de quelques pro­fes­seurs et gou­rous. Leurs inves­tis­se­ments pro­chains dans la réalité vir­tuelle ou aug­men­tée, la ville intel­li­gente, la blo­ck­chain, le Big Data et bien sûr lIA en prennent des formes d’évidence, idéo­lo­giques sous pré­texte de tech­nos­cience. Au nom de la sainte dis­rup­tion, ces « tech­no­lo­gies de lexpo­nen­tiel » pro­mettent en effet aux élèves et membres du réseau inter­na­tio­nal de cette uni­ver­si­té de la Singularité les miracles qui, cela va de soi selon leur vul­gate, résou­dront demain tous les pro­blèmes de la planète. Nos tech­niques les plus sophis­ti­quées seraient la solu­tion néces­saire et suf­fi­sante à tous nos maux, mais à la condi­tion dune éco­no­mie dérégulée en mode néo‑darwinien.

[Image prise par la sonde orbitale MRO, Mars Reconnaissance Orbiter (NASA | JPL | UArizona)]

La science-fic­tion ny est quun décor per­ma­nent, un élément de bonne ambiance : ses robots, ses androïdes, ses mondes vir­tuels, ses aven­tures spa­tiales et ses super-héros, quelque part entre Iron Man et Star Wars, la com­ba­ti­vité des figures de Marvel et les pieuses inten­tions de leurs cou­sins de Disney, y incarnent non la dif­fi­cile conquête du bon­heur par les citoyens, mais laug­men­ta­tion sans bornes et indi­vi­dua­liste de pou­voirs, pour les consom­ma­teurs, sur leur envi­ron­ne­ment proche, humain et non humain. Ben Goertzel, direc­teur scien­ti­fique de Hanson Robotics en quête dune super­in­tel­li­gence après avoir fabri­qué Sophie, son robot déclaré citoyen de lArabie saou­dite, ou Bryan Johnson, dont la star­tup, Kermel, conçoit des inter­faces cer­veau-machine dont il espère quelles nous ren­dront presque télépathes17, sont dautres acteurs de ce show uto­pique, tra­duc­tion spec­ta­cu­laire dune idéo­lo­gie dexten­sion sans frein du capi­ta­lisme par la tech­nos­cience. Idiots utiles peut-être, quant à eux dans le rôle des bons apôtres de la « super­in­tel­li­gence17 » aux côtés de Ray Kurzweil, ils jouent dans la même télé-réalité du réen­chan­te­ment technologique. 

« Dans le brou­ha­ha expo­nen­tiel et dis­crètement trans­hu­ma­niste de la Silicon Valley, cette IA fas­cine et ter­ri­fie. »

Lintel­li­gence arti­fi­cielle est aujourdhui la reine de ce spec­tacle en plu­sieurs épisodes. Son être tient à la fois du Golem et de la roue, du Léviathan et du super­mar­ché, de la machine indus­trielle fabri­quée pour nous ser­vir, de la machine sociale conçue pour nous asser­vir et de la machine démiur­gique qui nous trans­forme en petits ou grands dieux et dont on cau­che­marde avec délec­ta­tion quelle pour­rait nous dépas­ser un jour ou lautre. Dun côté, dans le brou­ha­ha expo­nen­tiel et dis­crètement trans­hu­ma­niste de la Silicon Valley, cette IA fas­cine et ter­ri­fie. De lautre, elle oriente nos choix quo­ti­diens et opère en silence au ser­vice de lhyper­ca­pi­ta­lisme.

[…] À l’instar des plans sur la comète de la Singularité tech­no­lo­gique, les fic­tions des enti­tés super­in­tel­li­gentes ou des IA pas loin d’être conscientes ne seraient-elles que le masque de cette per­ma­nence de l’exploitation capi­ta­liste ? D’un sys­tème qui, certes, mute avec de nou­veaux outils, mais conserve, selon les ensei­gne­ments de Karl Marx, une même logique au fil des âges ? Dans En atten­dant les robots, le socio­logue Antonio A. Casilli parle car­ré­ment d’un bluff. D’une super­che­rie par le biais d’un « ima­gi­naire tech­no­lo­gique » qui efface de ses pay­sages ces dam­nés du numé­rique et devient ain­si un pur ins­tru­ment de domi­na­tion. L’affichage fan­tas­ma­tique d’une abo­li­tion des limites hier sacro-saintes de l’humanité serait donc d’abord un passe-droit fic­tif per­met­tant aux puis­sances de l’hypercapitalisme de se livrer à toutes sortes d’exploitations des êtres, humains ou non, sans comptes à rendre à per­sonne. Elle ser­vi­rait aus­si à pré­ser­ver le carac­tère incom­pré­hen­sible, donc intou­chable pour le com­mun des alié­nés, des nou­velles moda­li­tés de la mise au pas. Cette mani­pu­la­tion par les ima­gi­naires est-elle pour autant sys­té­ma­ti­que­ment et exclu­si­ve­ment consciente ? Salutaires, les ana­lyses du socio­logue n’effacent-elles pas d’autres moti­va­tions, mais éga­le­ment la réa­li­té uto­pique et pas seule­ment idéo­lo­gique, l’ambition méta­phy­sique des fic­tions de l’intelligence artificielle ?


Image de ban­nière et de vignette : Image prise par la sonde orbi­tale MRO, Mars Reconnaissance Orbiter, (NASA/JPL/UArizona)


  1. Vernor Vinge, La Captive du temps per­du (1986), Le Livre de Poche, 1996, p. 168.
  2. Ibid., p. 44.
  3. Ibid., p. 254–255.
  4. Ibid., p. 114–116.
  5. Extrait du texte de Stanislaw Ulam, « Tribute to John von Neumann », Bulletin of the American Mathematical Society, volume 64, mai 1958, p. 1–49, cité par Vernor Vinge dans « The Coming Technological Singularity : How to Survive in the Post-human Era », NASA Publication CP-10129, p. 115–126, 1er décembre 1993.
  6. Jean-Gabriel Ganascia, Le Mythe de la Singularité. Faut-il craindre l’intelligence arti­fi­cielle ?, Seuil, col­lec­tion Science ouverte, février 2017, p. 18.
  7. Vernor Vinge, « The Coming Technological Singularity : How to Survive in the Post- human Era », op. cit., p. 115–126. Disponible en fran­çais, sous le titre La Singularité, tra­duit de l’anglais par Emmanuel Mie
  8. Ibid.
  9. Compte-ren­du acces­sible en PDF dans le « Technical Reports Server » du site web de la NASA
  10. Hans Moravec, Une vie après la vie (1988), Odile Jacob, 1992.
  11. Via deux livres : en 2005 The Singularity is Near de Ray Kurzweil ; en 2014 Superintelligence, Paths, Dangers, Strategies de Nick Bostrom, phi­lo­sophe de l’université d’Oxford, direc­teur du Future of Humanity Institute et du Strategic Artificial Intelligence Research Center.
  12. Iain M. Banks, Les Enfers vir­tuels 1 (2010), Robert Laffont, col­lec­tion Ailleurs et Demain, 2011, p. 134.
  13. Iain M. Banks, Trames (2008), Le Livre de Poche, 2017, p. 515–516.
  14. Iain M. Banks, Excession (1996), Robert Laffont, col­lec­tion Ailleurs et Demain, 1998, p. 386.
  15. Ibid., p. 372–373.
  16. Comme le dit l’artiste Fabien Zocco dans la revue Multitudes (no 78, prin­temps 2020, p. 118), l’anglais pri­vi­lé­gie la dimen­sion « logi­co-déduc­tive » de l’intelligence (notam­ment dans le terme Artificial intel­li­gence), « donc les fonc­tion­na­li­tés plus faci­le­ment méca­ni­sables numé­ri­que­ment, au détri­ment d’autres aspects entrant dans une défi­ni­tion plus vaste de la notion. »
  17. Ibid.
  18. Evgeny Morozov, Pour tout résoudre, cli­quez ici ! L’aberration du solu­tion­nisme tech­no­lo­gique, Fyp Éditions, 2014.
  19. Gregory Rozières, « Clash entre Mark Zuckerberg et Elon Musk sur l’intelligence arti­fi­cielle », Huffpost, 25 juillet 2017.
  20. « Facebook tra­vaille sur une inter­face céré­brale qui vous per­met­tra de “com­mu­ni­quer uni­que­ment avec votre esprit” », Transhumanisme et intel­li­gence arti­fi­cielle, 22 avril 2017.
  21. Natashah Hitti, « Elon Musk’s Neuralink implant will “merge” humans with AI », Dezeen, 22 juillet 2019.
  22. Ariel Kyrou, Google God : Big Brother n’existe pas, il est par­tout, Inculte, 2010, p. 205–216.
  23. George Alec Effinger, Gravité à la manque (1987), Denoël, col­lec­tion Présence du futur, 1989, p.12.
  24. « What Is Ray Kurzweil Up to at Google ? Writing Your Emails », par Tom Simonite, Wired, 8 février 2017.
  25. « Intelligence arti­fi­cielle, Promesses et périls », Le Monde, 31 décembre 2017, dos­sier de huit pages, avec des articles signés notam­ment de Morgane Tual, de David Larousserie, de Sandrine Cassini, d’Alexandre Piquard et d’Yves Eudes. À lire notam­ment, la page 4 du quo­ti­dien : « Cinq façons d’envisager la pen­sée des machines », où le jour­nal oppose les « tech­no-opti­mistes » comme Zuckerberg aux « alar­mistes mili­tants » par­mi les­quels Musk ou aux « apôtres de la “super­in­tel­li­gence” ».

REBONDS

☰ Lire notre entretien avec Yuk Hui : « Produire des technologies alternatives », juillet 2020
☰ Lire notre entretien avec Pierre Déléage : « Si l’anthropologie a une vertu, c’est sa méfiance vis-à-vis de l’universalité des lois », juin 2020
☰ Lire notre entretien avec Bernard Stiegler : « Le capitalisme conduit à une automatisation généralisée », janvier 2019
☰ Lire notre entretien avec Alain Damasio : « Nous sommes tracés la moitié de notre temps éveillé », octobre 2017

Ballast

« Tenir tête, fédérer, amorcer »

Découvrir d'autres articles de



Nous sommes un collectif entièrement militant et bénévole, qui refuse la publicité. Vous pouvez nous soutenir (frais, matériel, reportages, etc.) par un don ponctuel ou régulier.