Notre onzième numéro sortira en librairie le 21 mai !
 

Science-fiction : son pouvoir sur le réel


L’astronaute fran­çais Thomas Pesquet est en orbite ; la presse fran­çaise enjoint ses lec­teurs de lever les yeux, nous sor­tant un temps du marasme sani­taire dans laquelle la Terre est plon­gée. Au terme de la lec­ture de la somme Dans les ima­gi­naires du futur, signée Ariel Kyrou, tout s’en­tre­mêle. L’auteur, jour­na­liste, membre de la revue Multitudes, écri­vain et chro­ni­queur radio, navigue dans la tra­di­tion contre-cultu­relle avec une ambi­tion : nour­rir les dési­rs de révoltes. Entre lit­té­ra­ture, ciné­ma et séries, Kyrou s’in­ter­roge ain­si sur la manière dont la science-fic­tion construit nos ima­gi­naires, informe le réel. Coincé entre la déme­sure tech­no­lo­gique et l’a­po­ca­lypse envi­ron­ne­men­tale, il pro­pose de sor­tir de l’im­passe en revi­ta­li­sant l’u­to­pie poli­tique. Cet extrait s’ouvre sur une lec­ture du roman éta­su­nien La Captive du temps per­du : il y est bien­tôt ques­tion de jonc­tions entre SF, sciences et dérive tech­no­lo­gique du capitalisme.


Quelque part au cours du XXIIIe siècle, lhuma­ni­té a dis­pa­ru. De lespèce humaine, il ne sub­siste que trois cents indi­vi­dus. Nés des années avant lapo­ca­lypse, à diverses dates du pas­sé, de façon séparée et sans se connaître aupa­ra­vant pour la plu­part, ils sont tom­bés dans une bulle tem­po­relle qui voyage à sens unique vers le futur. Ils y sont enfer­més. Aucun dentre eux ne sait précisément le com­ment et le pour­quoi de la fin du monde, car ils ne lont pas vécue, mais la constatent a pos­te­rio­ri. Les figures de ce roman de Vernor Vinge publié en 1986, La Captive du temps per­du, en parlent comme de « LExtinction ». Mais daucuns la qua­li­fient du terme moins néga­tif et plus mys­té­rieux de « Singularité ».

« Lhuma­ni­té aurait été trop loin. Les appren­tis sor­ciers se seraient brûlés en met­tant le feu à la planète. »

Il en est ain­si de Della Lu [per­son­nage du roman de Vinge, ndlr] : « Cest absurde dappe­ler cette période lE’xtinc­tion. Ce fut une sin­gu­la­ri­té, une époque où toutes les extra­po­la­tions se sont four­voyées et où il a fal­lu appli­quer de nou­veaux modèles. Et ces nou­veaux modèles dépassent notre intel­li­gence. » Ces modèles au-delà de notre enten­de­ment, hors limites de la Terre comme de lhuma­ni­té, seraient nés dune fusion entre lhumain et les « intel­li­gences sur­hu­maines », elles‑mêmes issues de nos tech­no­lo­gies « expo­nen­tielles » et sans doute par­ties vivre ailleurs dans les étoiles. Cette opi­nion est déve­lop­pée par le per­son­nage dans le cadre dun inter­ro­ga­toire infor­mel par le poli­cier de la com­mu­nau­té de res­capés — dont lenquête sur un meurtre est le cœur de lintrigue. Della Lu tra­duit son hypothèse de fin de notre monde en des termes qui réson­ne­raient agréa­ble­ment aux oreilles des apôtres du trans­hu­ma­nisme daujourdhui : « Il ny a pas eu dExtinction, Wil. Lhuma­ni­té a atteint un état supérieur, tan­dis que vous, moi et les autres, nous avons raté le Grand Passage1. »

Sauf que Vernor Vinge nassène ici aucune vérité. Un deuxième « néo-voya­geur » du roman évoque plu­sieurs bom­bar­de­ments : « Los Angeles, un cratère de cin­quante kilo­mètres. Pékin, un grand lac2. » Il y voit les traces « dune inter­ven­tion exté­rieure », comme si notre espèce avait été « assas­si­née par quelque chose… venu dailleurs ». Un autre pro­ta­go­niste, quant à lui astro­naute, élar­git cette hypothèse : « Quoi qui ait liqui­dé les réseaux de conscience dans la sphère Terre-Lune, cela ne pou­vait qu’être sur­hu­main. » Sous-enten­du : la cause sur­hu­maine de lExtinction pour­rait être liée à notre déme­sure tech­no­lo­gique, sans que lissue ne soit for­cé­ment vécue néga­ti­ve­ment… Lespèce humaine et ses machines pour­raient être « deve­nues quelque chose de meilleur, quelque chose… dincom­préhen­sible3. » Aussi séduit quil semble par cette vision‑là, défen­due par plu­sieurs de ses per­son­nages, l’écrivain n’éjecte aucune éven­tua­lité… Au tra­vers des mots dune femme de science, il prend acte, en par­ti­cu­lier, dune hypothèse qua­si­ment inverse, rejoi­gnant les théo­ries de leffon­dre­ment si popu­laires aujourdhui : « La science a donné à chaque ani­mal humain laudace dagir comme un petit dieu. La Terre ne pou­vait tout sim­ple­ment plus le sup­por­ter. Merde, je suis cer­taine quil ny a même pas eu de guerre. Que toute la struc­ture sest effon­drée sous son propre poids, aban­don­nant les vio­leurs à la mer­ci de leur vic­time : la nature. […] Lorsque je vivais dans la civi­li­sa­tion, jai vu lExtinction arri­ver : il ny aurait plus per­sonne pour vio­ler la nature, mais il ne res­te­rait plus per­sonne non plus pour admi­rer son œuvre4. » Selon la vision de cette cher­cheuse éco­lo­giste, ima­gi­née dans le roman, lhuma­ni­té aurait été trop loin. Les appren­tis sor­ciers se seraient brûlés en met­tant le feu à la planète.

Dans l’imaginaire de la singularité technologique

Changement de décor. Sept ans après la publi­ca­tion de La Captive du temps per­du, Vernor Vinge met de côté sa cas­quette d’écrivain et enfile son autre cha­peau : celui de pro­fes­seur du dépar­te­ment des Sciences mathé­ma­tiques de luni­ver­sité de San Diego en Californie. Le 30 mars 1993, cest donc en tant que scien­ti­fique quil inter­vient au Symposium Vision-21, par­rai­né par la NASA. Il y déploie une thèse sur la « sin­gu­la­rité » qui, cette fois, ne sembar­rasse plus d’équivoque, un peu comme sil avait défi­ni­ti­ve­ment choi­si la voix de Della Lu par­mi toutes celles de son roman. 

[HiPOD, 20 avril 2021, un cratère avec ravines dans la zone tropicale de Mars (NASA | JPL | UArizona)]

Lidée de sin­gu­la­rité, explique-t-il, appa­raît dans un texte de 1958 du mathé­ma­ti­cien Stanislaw Ulam, qui y raconte une conver­sa­tion sur le sujet avec le pion­nier de linfor­ma­tique John Von Neumann. Ce temps de rup­ture y est décrit comme l’époque où se concrétise « laccéléra­tion infi­nie des pro­grès de la tech­no­lo­gie et leur influence sur les modes de vie humains, qui don­ne­rait limpres­sion dappro­cher une sin­gu­la­ri­té essen­tielle dans lhis­toire de la race au-delà de laquelle les consi­dé­ra­tions humaines actuelles nauraient plus lieu d’être5. » Vernor Vinge radi­ca­lise le concept via ce quil consi­dère comme « lessence même de la Singularité » : l’émergence dun « intel­lect super­hu­main »… Cette pers­pec­tive nest pas neuve. Sans nuances, Vernor Vinge trans­forme de vieilles spé­cu­la­tions, comme celles du sta­tis­ti­cien bri­tan­nique et col­la­bo­ra­teur dAlan Turing Irvin John Good6, en qua­si-cer­ti­tudes. Dans sa confé­rence, il annonce la « création immi­nente dentités tech­no­lo­giques pos­sé­dant une intel­li­gence supé­rieure à celle de lhumain ». Alors que son roman, pru­dent, situait la ter­rible bifur­ca­tion dans lhis­toire de lhuma­ni­té de façon floue « au cours du XXIIIe siècle », dans sa pré­sen­ta­tion plus savante il pré­cise : « Je serais sur­pris si cet événe­ment sur­ve­nait avant 2005 ou après 20307. »

« Vernor Vinge et ses frères et sœurs du monde de la science-fic­tion nous per­mettent dana­ly­ser les ima­gi­naires de la Silicon Valley, imprégnés de trans­hu­ma­nisme. »

Oubliée lintri­gante plu­ra­li­té des voix de La Captive du temps per­du. Curieusement, au regard de l’éthique scien­ti­fique, le mathé­ma­ti­cien Vernor Vinge doute bien moins que le roman­cier Vernor Vinge. Sorti fin 1993 dans la publi­ca­tion post-hip­pie Whole Earth Review, le court essai tiré de la conférence est titré La sin­gu­la­rité tech­no­lo­gique à venir Comment sur­vivre dans l’ère post-humaine8. Il regorge de clichés à lemporte-pièce sur les algo­rithmes comme « prérequis à lexis­tence dun esprit » ou sur « les mystères du déve­lop­pe­ment humain » pour la plu­part « élucidés ». Mentionnée une seule fois dans le texte, lextinc­tion de « la race humaine » nest plus quune « pos­si­bi­lité », visi­ble­ment moins pro­bable ou exci­tante que celle dune « super­hu­ma­nité ». Là où l’écri­vain ouvrait les portes de la réflexion en mul­ti­pliant les hypothèses fic­tion­nelles, le cher­cheur peu rigou­reux avance donc des hypothèses plus ou moins plau­sibles comme sil sagis­sait de vérités scien­ti­fiques. Pourquoi diable donne-t-il le sen­ti­ment de saccor­der moins de liber­té sous sa cas­quette de cher­cheur, livrant sa vision du futur à un par­terre de collègues cali­for­niens, que lors­quil envi­sage ce même ave­nir, sept ans aupa­ra­vant, dans liso­le­ment de son bureau, seul face à son texte lit­té­raire ? Comment expli­quer largu­men­ta­tion défaillante, le déni de com­plexi­té de sa contri­bu­tion scien­ti­fique ? Ne faut-il pas y voir un pro­ces­sus de sim­pli­fi­ca­tion, de lordre de la consti­tu­tion dune idéo­lo­gie ? Linter­ven­tion de Vernor Vinge est en effet indis­so­ciable dun contexte de dis­crète fabri­ca­tion dune école de pen­sée tech­nos­cien­ti­fique : le sémi­naire dun groupe dexperts, hommes et amé­ri­cains blancs pour la plu­part, sous l’égide de la NASA les 30 et 31 mars 1993. Sa thé­ma­tique, telle quelle appa­raît dans un compte-ren­du publié le 1er décembre de la même année, était : « Science et ingé­nie­rie inter­dis­ci­pli­naires à l’ère du cybe­res­pace ». Et par­mi ses autres inter­ve­nants, lon trouve le robo­ti­cien Hans Moravec, grand nom et pion­nier du trans­hu­ma­nisme9

La conférence de 1993 aurait pu res­ter de lordre de lanec­dote, vite oubliée pour son manque de sérieux. Au contraire, elle est deve­nue lun des socles du trans­hu­ma­nisme, dont lima­gi­naire est aujourdhui sur­puis­sant dans notre monde dit numé­rique. Lidée que nous naurions dautre choix que de fusion­ner demain avec les machines, sauf à accep­ter quelles nous dépassent et nous dominent, a été défen­due avant le sémi­naire de la NASA par dautres « scien­ti­fiques ». En 1986 dans son ouvrage Engines of Creation: The Coming Era of Nanotechnology, le cher­cheur du Massachusetts Institute of Technology (MIT) Eric Drexler aborde l’éven­tua­lité dune des­truc­tion de lhuma­ni­té suite à la perte de contrôle de nano­ma­chines pas plus grosses que des molé­cules. Deux ans plus tard, dans Mind Children: The Future of Robot and Human Intelligence, oppor­tunément tra­duit en français Une vie après la vie, Hans Moravec annonce pour la fin des années 2030 « des formes supé­rieures dintel­li­gence, capables de trans­cen­der les limites du vivant, de mener plus loin nos pou­voirs et nos savoirs. Avec nous et sans nous. » Le robo­ti­cien de luni­ver­sité Carnegie-Mellon aux États-Unis ouvre la pers­pec­tive, selon lui émi­nem­ment dési­rable, dun trans­va­se­ment de notre cer­veau dans lenve­loppe de machines tel le « robot buis­son » aux mil­liards de doigts et aux sens inouïs… Tout ça pour mieux libé­rer la pen­sée humaine de « lescla­vage dun corps mor­tel10 » et acces­soi­re­ment nous rendre immor­tels. La contri­bu­tion de Vernor Vinge par rap­port à ces deux prédéces­seurs tient à la « Singularité tech­no­lo­gique », notion qui sera ensuite reprise et lar­ge­ment étoffée par les deux théori­ciens du trans­hu­ma­nisme Ray Kurzweil et Nick Bostrom11. Enfin, deuxième caractéris­tique essen­tielle de Vernor Vinge : son pro­fil hybride. Car cest bel et bien en tant qu’écrivain de science-fic­tion, et ce, dès 1981, cest-à-dire cinq ans avant lessai dEric Drexler, quil a ima­giné le concept de Singularité tech­no­lo­gique dans True Names, novel­la dont laction se situe dans une sorte de cybe­res­pace avant lheure…

Vernor Vinge et ses frères et sœurs du monde de la science-fic­tion nous per­mettent dana­ly­ser les ima­gi­naires de la Silicon Valley, imprégnés de trans­hu­ma­nisme, depuis une mon­tagne escar­pée, mal­heu­reu­se­ment peu esca­la­dée par la tech­no­cri­tique : celle de la fic­tion et de son pou­voir sur le réel. Se situant dans le cas de Vernor Vinge à la fois en amont et en aval de la tech­nos­cience, la science-fic­tion fonc­tionne comme un miroir et un révéla­teur de nos ima­gi­naires de dépas­se­ment des limites de lhuma­ni­té.

[Image prise par la sonde orbitale MRO, Mars Reconnaissance Orbiter (NASA | JPL | UArizona)]

Il nest pas aisé, mais en revanche très ins­truc­tif, de décryp­ter linfluence tan­gible des œuvres de science-fic­tion sur les pen­sées et les actes des apôtres du tout numé­rique. De ten­ter dappréhen­der la capa­ci­té mobi­li­sa­trice et trans­for­ma­trice, directe ou plutôt indi­recte, du ciné­ma, de la lit­té­ra­ture, voire de la bande des­si­née ou des jeux vidéo sur les repré­sen­ta­tions du futur des tech­no­logues de la Silicon Valley. Les images, les créa­tions met­tant en scène des super-héros, des arte­facts ou des intel­li­gences arti­fi­cielles, des mondes fan­tas­ma­tiques à la fois construits ou à linverse détruits par notre déme­sure tech­nos­cien­ti­fique ont sans aucun doute un impact sur la façon dont nos vies sont cham­bou­lées par les recherches, les pro­jets, les star­tups et autres entre­prises liés aux nou­velles tech­no­lo­gies… Mais quel est cet impact ? Comment le rendre lisible ? Et dans quel objec­tif ten­ter de décryp­ter ce rôle des ima­gi­naires ? Lun des pre­miers enjeux dune tech­no­cri­tique sappuyant sur la science-fic­tion est de désha­biller le mythe fal­la­cieux de notre toute-puis­sance tech­no­lo­gique, se parant des ori­peaux de la science. Autre défi dune telle démarche : aus­cul­ter la façon dont le dépas­se­ment, assu­mé ou non, de la stricte ratio­na­li­té et des don­nées fac­tuelles de la science sert de car­bu­rant à nos actions, à nos pro­jec­tions vers des deve­nirs qui, il y a peu de temps, auraient rele­vé de limpos­sible. Ce cha­pitre conjugue sous ce regard deux façons de lire et duti­li­ser les fic­tions de lintel­li­gence arti­fi­cielle à des fins de réflexion : il sagit dune part dobser­ver et dana­ly­ser la façon dont ces ima­gi­naires a prio­ri abs­traits fabriquent notre deve­nir lors­quils sont plon­gés dans les aléas de notre pré­sent tech­no­lo­gique, cest-à-dire de la contin­gence ; et il sagit tout autant d’étudier, grâce au filtre de la mise en récit du monde et de lhuma­ni­té, la fron­tière sépa­rant ce qui relèverait de luto­pie créatrice de ce qui serait deve­nu une idéo­lo­gie de domi­na­tion via les nou­velles technologies. 

L’interface direct entre le cerveau et l’IA selon Elon Musk et Mark Zuckerberg

« Mais quel est cet impact ? Comment le rendre lisible ? Et dans quel objec­tif ten­ter de décryp­ter ce rôle des imaginaires ? »

Cest en juin 2016, lors de la Code Conference des magazines en ligne cali­for­niens The Verge et Recode, quElon Musk, fan­tasque P.-D.G. de la société dastro­nau­tique et de lan­ceurs spa­tiaux SpaceX, direc­teur général du fabri­cant de voi­tures élec­triques haut de gamme, high-tech et spor­tives Tesla, a révélé son pro­jet Neuralink. Lobjec­tif de cette star­tup, dit-il alors, est daug­men­ter nos capa­ci­tés cérébrales grâce à un « neu­ral lace », ce que lon peut tra­duire par « lacet neu­ro­nal » ou « lacis neu­ral ». Et ce, semble-t-il, par la grâce dune connexion directe avec nos futurs dis­po­si­tifs dintel­li­gence technologique. 

Cette expres­sion de neu­ral lace, à la fois ima­gée et nébu­leuse, induit le prin­cipe dun entre­la­ce­ment de ce que lentre­pre­neur décrit comme une « couche dintel­li­gence digi­tale » avec nos presque cent mil­liards de neu­rones, à lintérieur de notre boîte crânienne. Son concept et son nom sont direc­te­ment issus de lune des plus fameuses sagas lit­té­raires de la science-fic­tion contem­po­raine : le cycle de La Culture de l’écrivain écos­sais Iain M. Banks. La Culture est à la fois une uto­pie liber­taire et une civi­li­sa­tion inter­ga­lac­tique, hédo­niste et paci­fiste, dun trèloin­tain ave­nir, où coha­bitent les êtres humains et plu­sieurs types dintel­li­gences arti­fi­cielles, consi­dérées comme des citoyennes à part entière. Dans le roman Les Enfers vir­tuels, par exemple, le lacis neu­ral est un « appa­reil que les aliens hau­te­ment avan­cés, qui avaient com­men­cé leur évo­lu­tion en tant que petites masses molles et bio­chi­miques » uti­li­saient « pour sinter­fa­cer avec des intel­li­gences arti­fi­cielles ou enre­gis­trer leurs pen­sées, ou même quand ils vou­laient sau­ve­gar­der leur âme ou leur état men­tal12 ». Le dis­po­si­tif semble implan­té, depuis leur enfance, dans le crâne de bien des citoyens de la Culture, qui par­fois nen ont même plus conscience. Dun côté, dans Trames, lhumaine Djan Seriy Anaplian sen sert comme nous aujourdhui dun smart­phone : en loccur­rence au sein dun « taxi mul­ti-espèces », humide et aux odeurs étranges, pour se connec­ter « aux systèmes dinfor­ma­tion publique du Grand Vaisseau » afin de véri­fier son pro­gramme des jours à venir13. De lautre, dans Excession, cette inter­face directe avec le cer­veau dun Mental, cest-à-dire dune intel­li­gence arti­fi­cielle à l’échelle dun vais­seau spa­tial, per­met au cultu­rien Byr Genar-Hofoen dentrer littéra­le­ment dans lesprit dune femme « aux ambi­tions déme­su­ré­ment moroses » ayant vécu deux mille ans aupa­ra­vant dans ce même navire « intel­li­gent ». Sa connexion directe avec cette IA ultra­so­phis­ti­quée plonge le per­son­nage dans la psy­ché de la dame, au « plus pro­fond de son cer­veau, daus­si près que pou­vait l’être un lacis neu­ral de ses pen­sées, de ses espoirs, de ses émo­tions et de ses craintes14»

[HiPOD, 2 avril 2021 : des plaines foncées et vives près de Ganges Chasma (NASA | JPL | UArizona)]

Cet usage, de lordre de la simu­la­tion inté­grale et du dédou­ble­ment de per­son­na­li­té, a de quoi trou­bler. Encore plus inquié­tant : dans un dia­logue entre un humain et un vais­seau super­in­tel­li­gent dExcession15, le lec­teur apprend que le lacet neu­ral a déjà été uti­li­sé comme ins­tru­ment de tor­ture contre les humains. Premier constat : luto­pie de Iain M. Banks intègre des détails dys­to­piques qui jamais nappa­raissent dans les pré­sen­ta­tions dElon Musk. Deuxième point : la pre­mière situe la pra­tique du lacet neu­ral dans un ave­nir immen­sé­ment loin­tain, au cœur dune uto­pie pour nous inima­gi­nable, là où Elon Musk lannonce à très court terme, de son vivant. Faut-il y voir de laveu­gle­ment ou, là encore, un pro­ces­sus idéologique ? 

« Musk se met en scène comme une sorte de Néo davant le per­son­nage de Keanu Reeves dans le désor­mais célèbre long métrage des sœurs Wachowski. »

Dès juin 2016, puis en juillet 2019 lors du lan­ce­ment offi­ciel de la star­tup, Elon Musk jus­ti­fie la créa­tion de Neuralink par la convic­tion que « lintel­li­gence » des machines est appe­lée à sur­pas­ser la nôtre… mais dici une tren­taine dannées : « Nous serons à ce point sur­clas­sés, au niveau de lintel­li­gence, que nous nous retrou­ve­rons face à lIA comme nos ani­maux de com­pa­gnie face à nous. » Autrement dit : ser­viles comme un chien fidèle, ou un chouïa rebelles à la façon dun chat, nous vivrons sous la domi­na­tion de nos IA super­in­tel­li­gentes. La pers­pec­tive ima­gi­naire est ici double : elle conjugue lissue loin­taine, puis­sante, neutre car poten­tiel­le­ment posi­tive autant que néga­tive, des outils de connexion aux Mentaux de Iain M. Banks, à lanti­ci­pa­tion beau­coup plus sombre dun monde à la Matrix. Musk se met en scène comme une sorte de Néo davant le per­son­nage de Keanu Reeves dans le désor­mais célèbre long métrage des sœurs Wachowski : il alerte le monde pour évi­ter que nadvienne la Matrice. Sil crée Neuralink, cest pour, à linverse, orien­ter notre civi­li­sa­tion dans le sens de La Culture de l’écrivain de SF. Tout est ici sim­pliste. La solu­tion pro­po­sée lest par­ti­cu­lièrement, tout autant dailleurs que la confé­rence de Vernor Vinge de mars 1993 : pour évi­ter que nous ne deve­nions demain inutiles, que nous ne tom­bions sous le contrôle de nos machines deve­nues auto­nomes, opé­rons la fusion ou du moins le rap­pro­che­ment le plus intime entre lintel­li­gence des machines et la nôtre sans besoin de pré­ci­ser la défi­ni­tion de lintel­li­gence, réduite ici à sa ver­sion la plus opé­ra­tion­nelle et com­pé­ti­tive, de lordre du QI16

Car, argu­mente le patron de SpaceX et de Tesla, « nous sommes dédes cyborgs. Vous avez dé, en ligne, une ver­sion digi­tale de vous‑même, du moins par­tielle […]. Grâce à votre ordi­na­teur, votre smart­phone, vos appli­ca­tions, etc., vous avez dédes super pou­voirs, bien plus que le Président des États-Unis dil y a une ving­taine dannées ! » Nous voilà cette fois dans lima­gi­naire, assez pri­maire, de Robocop, du cham­pion tech­no Iron Man et des Quatre Fantastiques mutants des Marvel Comics. Lobjec­tif, sous ce prisme si plein damal­games, est de pous­ser un cran plus loin la digi­ta­li­sa­tion de nos êtres, afin daug­men­ter sans cesse les­dits « super pou­voirs » tech­no­lo­giques. Car, conti­nue-t-il en com­pa­rant lhumain à une boîte noire cyber­né­tique, nos limites par rap­port aux machines tiennent à la faible per­for­mance des « entrées et sor­ties » (« input » et « out­put ») de notre cer­veau. « Surtout les sor­ties, extrêmement lentes », à cause du temps que nous pas­sons à trans­mettre nos mes­sages, par exemple « avec nos doigts sur un cla­vier », alors même qu’à linverse, côté entrées (« input » donc), « nos yeux prennent en compte un nombre beau­coup plus impor­tant de don­nées en un ins­tant17. » Oublie-t-il que louïe, lodo­rat, le goût ou le tou­cher sont des modes de per­cep­tion tout aus­si impor­tants que la vision ? Que ce que nous voyons ou res­sen­tons de notre envi­ron­ne­ment nest pas réduc­tible à des don­nées ? Bref, quil y a du connu et de lincon­nu, du des­crip­tible et de lindes­crip­tible, du ration­nel et de lirra­tion­nel, du conscient et de lincons­cient, du réel et du rêve dans ce que nous per­ce­vons de notre quo­ti­dien ? Musk nen a cure, et reste can­ton­né au « solu­tion­nisme tech­no­lo­gique » de la Silicon Valley18. Ainsi se posi­tionne-t-il en grand super-héros des petits super-héros que nous sommes, agi­tant le chif­fon rouge dune intel­li­gence arti­fi­cielle qui pren­drait demain le contrôle de la civi­li­sa­tion et la détrui­rait dans le style Terminator : « Je narrête pas de tirer la son­nette dalarme, mais tant que les gens ne ver­ront pas des robots des­cendre dans la rue pour tuer tout le monde, ils ne sau­ront pas com­ment réagir. »

[Image prise par la sonde orbitale MRO, Mars Reconnaissance Orbiter (NASA | JPL | UArizona)]

« Imaginer un scé­na­rio apo­ca­lyp­tique, cest irres­pon­sable », lui répond à l’été 2017 Mark Zuckerberg. Ce à quoi Elon Musk rétorque sur Twitter : « Jen ai parlé avec Mark. Sa com­pré­hen­sion du sujet est limi­tée19. » Vraie ou fausse polé­mique ? Le rêve de larchange de SpaceX est-il si dif­fé­rent de lima­gi­naire du gamin de Facebook ? Pas sûr. Car trois mois avant cette passe darmes, le P.-D.G. du pre­mier réseau social de la planète avait annon­cé une ini­tia­tive proche du « lacis neu­ral » dont rêve son alter ego de Tesla et de Neuralink. Cest en effet le 18 avril 2017 que Mark Zuckerberg a présenté son pro­jet dinter­face directe du cer­veau avec Facebook, his­toire de pou­voir tout édi­ter et com­man­der demain depuis son smart­phone via sa pen­sée plutôt quen uti­li­sant ses doigts dhomme de Cro-Magnon20. En juillet 2019, soit deux ans après le spec­tacle de leur polé­mique, les deux se rejoignent. Au compte-ren­du des pro­grès des tra­vaux finan­cés par Facebook sur la lec­ture directe de la pen­sée, signé par des scien­ti­fiques de luni­ver­sité de Californie à San Francisco au sein de la revue Nature, répond lannonce de Neuralink sur un implant de quatre mil­limètres sur quatre, conte­nant jusqu’à trois mille soixante-douze élec­trodes répar­ties dans un filet de quatre-vingt-seize fils, qui pour­rait être inséré dans le cer­veau de patients par un robot neu­ro­chi­rur­gien dès fin 2020. La pre­mière étape, dans lun et lautre pro­jets, est offi­ciel­le­ment de répa­rer les malades et autres pauvres hères de lhuma­ni­té : de per­mettre à des per­sonnes inca­pables de sexpri­mer de com­mu­ni­quer enfin via leurs engins numé­riques côté Facebook ; dauto­ri­ser des humains para­ly­sés à « uti­li­ser le dis­po­si­tif implan­té pour contrôler leurs smart­phones et leurs ordi­na­teurs » côté Neuralink21. Ensuite, il sera lheure, après ce test par des cobayes en situa­tion de han­di­cap, de laug­men­ta­tion assu­mée des capa­ci­tés des valides, par exemple, comme le reven­dique Neuralink, pour « amélio­rer numéri­que­ment le cer­veau » et suivre le rythme du numé­rique « dans un ave­nir domi­né par lintel­li­gence arti­fi­cielle ». Soit une vision indi­vi­dua­liste, égotiste même, de luto­pie du tout connec­té — dont a bizar­re­ment dis­pa­ru lombre cari­ca­tu­rale et néan­moins dys­to­pique de Terminator.

« Leurs inves­tis­se­ments pro­chains dans la réalité vir­tuelle ou aug­men­tée, la ville intel­li­gente, la blo­ck­chain, le Big Data et bien sûr lIA en prennent des formes d’évidence. »

Mark Zuckerberg siden­ti­fie à son réseau social, au centre de l’écosystème quil construit dans le monde, et à la puis­sance quil lui donne pour « faire le bien ». De SpaceX à Hyperloop (trains à ultra grande vitesse), Elon Musk mul­ti­plie au contraire les enti­tés, dans le trans­port futu­riste plutôt que le ser­vice client dopé par lIA. Il a été, dans les trois films Iron Man, le modèle assumé du mil­liar­daire et play-boy Tony Stark archétype de lhomme aug­men­té. Il naime rien tant que sexpri­mer, dans la « vraie vie », à la façon de son double ciné­ma­to­gra­phique, en tant que sau­veur de lhuma­ni­té, quil sou­haite dailleurs trans­for­mer en « espèce mul­ti­planétaire » grâce à la colo­ni­sa­tion de Mars. Mais au-delà de leurs dif­fé­rences de dis­cours ou de caractère, Musk et Zuckerberg par­tagent une même vision per­for­ma­tive de lintel­li­gence et un cre­do dans les « super-pou­voirs » quoffrent les nou­velles tech­no­lo­gies, à même de résoudre à elles seules tous les maux de lhuma­ni­té. Dès lors que les apôtres comme les fidèles se retrouvent dans cette uto­pie fabri­quée et cari­ca­tu­rale, pro­pre­ment ridi­cule dans une optique de court terme, leurs appa­rentes dif­fé­rences de sto­ry­tel­ling se com­plètent et se font des clins d’œil sous cou­vert de dis­pute plus quelles ne se heurtent véritablement.

L’IA au cœur des imaginaires du tout numérique

Leurs pro­jets res­pec­tifs dinter­face avec nos si mer­veilleuses machines retrouvent et com­plètent la vision expri­mée dès mars 2004 dans une inter­view à Newsweek par lun des deux fon­da­teurs de Google : Sergey Brin. Déjà à l’époque, celui-ci affir­mait sans ambages : « Il est cer­tain que si vous aviez toute linfor­ma­tion du monde direc­te­ment connec­tée à votre cer­veau, ou un cer­veau arti­fi­ciel plus intel­li­gent que votre propre cer­veau, vous vous en por­te­riez dautant mieux22» Doù les Google Glass ou les pro­jets de puces et autres implants de connexion, « ver­sions allégées de Google » selon Sergey Brin, à glis­ser sous notre boîte crânienne tels les « papies » et les « mamies », qui sont des péri­phé­riques de connais­sance ou de per­son­na­li­té ima­ginés en 1987 par l’écrivain cyber­punk George Alec Effinger dans son roman Gravité à la manque23. Les visions dinter­face homme-machine de Google, de Facebook et de Neuralink convergent, entre elles et avec celles dun Ray Kurzweil qui ima­gine un cer­veau aug­men­té via ses connexions directes avec les IA de ser­veurs de quelque cloud, pour ne citer que lune de ses idées les moins far­fe­lues. Lembauche par Google en 2012 de ce même Ray Kurzweil, tech­no­prophète de la Singularité tech­no­lo­gique, à un poste quelque peu opaque de direc­teur de lingénie­rie, est sym­bo­lique non dun consen­sus autour des thèses du trans­hu­ma­nisme tel quil le défend comme la poten­tia­li­té du téléchar­ge­ment de son cer­veau dans un ordi­na­teur mais de limpor­tance de lima­gi­naire quil incarne. Quil se contente en réalité de creu­ser ses méninges sur la très peu fan­tas­ma­tique Smart Reply de la mes­sa­ge­rie Gmail, sug­gé­rant juste des réponses pour nous évi­ter duti­li­ser nos neu­rones24, importe peu. Tout comme les deux âmes de Google, Larry Page et Sergey Brin, le « tech­no-opti­miste » Mark Zuckerberg et le son­neur dalerte apo­ca­lyp­tique Elon Musk25 ont besoin du décor et du car­bu­rant de lidéolo­gie trans­hu­ma­niste pour rendre à la fois fami­lières et sédui­santes leurs pro­messes tech­no­ca­pi­ta­listes. Fondée en 2008 dans le parc de la recherche de la NASA au cœur de la Silicon Valley, grâce au sou­tien de Google qui a veillé sur son ber­ceau, la Singularity University en est lun des temples. Moyennant une addi­tion salée, elle réunit des entre­pre­neurs et autres déci­deurs du monde entier autour de quelques pro­fes­seurs et gou­rous. Leurs inves­tis­se­ments pro­chains dans la réalité vir­tuelle ou aug­men­tée, la ville intel­li­gente, la blo­ck­chain, le Big Data et bien sûr lIA en prennent des formes d’évidence, idéo­lo­giques sous pré­texte de tech­nos­cience. Au nom de la sainte dis­rup­tion, ces « tech­no­lo­gies de lexpo­nen­tiel » pro­mettent en effet aux élèves et membres du réseau inter­na­tio­nal de cette uni­ver­si­té de la Singularité les miracles qui, cela va de soi selon leur vul­gate, résou­dront demain tous les pro­blèmes de la planète. Nos tech­niques les plus sophis­ti­quées seraient la solu­tion néces­saire et suf­fi­sante à tous nos maux, mais à la condi­tion dune éco­no­mie dérégulée en mode néo‑darwinien.

[Image prise par la sonde orbitale MRO, Mars Reconnaissance Orbiter (NASA | JPL | UArizona)]

La science-fic­tion ny est quun décor per­ma­nent, un élément de bonne ambiance : ses robots, ses androïdes, ses mondes vir­tuels, ses aven­tures spa­tiales et ses super-héros, quelque part entre Iron Man et Star Wars, la com­ba­ti­vité des figures de Marvel et les pieuses inten­tions de leurs cou­sins de Disney, y incarnent non la dif­fi­cile conquête du bon­heur par les citoyens, mais laug­men­ta­tion sans bornes et indi­vi­dua­liste de pou­voirs, pour les consom­ma­teurs, sur leur envi­ron­ne­ment proche, humain et non humain. Ben Goertzel, direc­teur scien­ti­fique de Hanson Robotics en quête dune super­in­tel­li­gence après avoir fabri­qué Sophie, son robot déclaré citoyen de lArabie saou­dite, ou Bryan Johnson, dont la star­tup, Kermel, conçoit des inter­faces cer­veau-machine dont il espère quelles nous ren­dront presque télépathes17, sont dautres acteurs de ce show uto­pique, tra­duc­tion spec­ta­cu­laire dune idéo­lo­gie dexten­sion sans frein du capi­ta­lisme par la tech­nos­cience. Idiots utiles peut-être, quant à eux dans le rôle des bons apôtres de la « super­in­tel­li­gence17 » aux côtés de Ray Kurzweil, ils jouent dans la même télé-réalité du réen­chan­te­ment technologique. 

« Dans le brou­ha­ha expo­nen­tiel et dis­crètement trans­hu­ma­niste de la Silicon Valley, cette IA fas­cine et ter­ri­fie. »

Lintel­li­gence arti­fi­cielle est aujourdhui la reine de ce spec­tacle en plu­sieurs épisodes. Son être tient à la fois du Golem et de la roue, du Léviathan et du super­mar­ché, de la machine indus­trielle fabri­quée pour nous ser­vir, de la machine sociale conçue pour nous asser­vir et de la machine démiur­gique qui nous trans­forme en petits ou grands dieux et dont on cau­che­marde avec délec­ta­tion quelle pour­rait nous dépas­ser un jour ou lautre. Dun côté, dans le brou­ha­ha expo­nen­tiel et dis­crètement trans­hu­ma­niste de la Silicon Valley, cette IA fas­cine et ter­ri­fie. De lautre, elle oriente nos choix quo­ti­diens et opère en silence au ser­vice de lhyper­ca­pi­ta­lisme.

[…] À l’instar des plans sur la comète de la Singularité tech­no­lo­gique, les fic­tions des enti­tés super­in­tel­li­gentes ou des IA pas loin d’être conscientes ne seraient-elles que le masque de cette per­ma­nence de l’exploitation capi­ta­liste ? D’un sys­tème qui, certes, mute avec de nou­veaux outils, mais conserve, selon les ensei­gne­ments de Karl Marx, une même logique au fil des âges ? Dans En atten­dant les robots, le socio­logue Antonio A. Casilli parle car­ré­ment d’un bluff. D’une super­che­rie par le biais d’un « ima­gi­naire tech­no­lo­gique » qui efface de ses pay­sages ces dam­nés du numé­rique et devient ain­si un pur ins­tru­ment de domi­na­tion. L’affichage fan­tas­ma­tique d’une abo­li­tion des limites hier sacro-saintes de l’humanité serait donc d’abord un passe-droit fic­tif per­met­tant aux puis­sances de l’hypercapitalisme de se livrer à toutes sortes d’exploitations des êtres, humains ou non, sans comptes à rendre à per­sonne. Elle ser­vi­rait aus­si à pré­ser­ver le carac­tère incom­pré­hen­sible, donc intou­chable pour le com­mun des alié­nés, des nou­velles moda­li­tés de la mise au pas. Cette mani­pu­la­tion par les ima­gi­naires est-elle pour autant sys­té­ma­ti­que­ment et exclu­si­ve­ment consciente ? Salutaires, les ana­lyses du socio­logue n’effacent-elles pas d’autres moti­va­tions, mais éga­le­ment la réa­li­té uto­pique et pas seule­ment idéo­lo­gique, l’ambition méta­phy­sique des fic­tions de l’intelligence artificielle ?


Image de ban­nière et de vignette : Image prise par la sonde orbi­tale MRO, Mars Reconnaissance Orbiter, (NASA/JPL/UArizona)


  1. Vernor Vinge, La Captive du temps per­du (1986), Le Livre de Poche, 1996, p. 168.
  2. Ibid., p. 44.
  3. Ibid., p. 254–255.
  4. Ibid., p. 114–116.
  5. Extrait du texte de Stanislaw Ulam, « Tribute to John von Neumann », Bulletin of the American Mathematical Society, volume 64, mai 1958, p. 1–49, cité par Vernor Vinge dans « The Coming Technological Singularity : How to Survive in the Post-human Era », NASA Publication CP-10129, p. 115–126, 1er décembre 1993.
  6. Jean-Gabriel Ganascia, Le Mythe de la Singularité. Faut-il craindre l’intelligence arti­fi­cielle ?, Seuil, col­lec­tion Science ouverte, février 2017, p. 18.
  7. Vernor Vinge, « The Coming Technological Singularity : How to Survive in the Post- human Era », op. cit., p. 115–126. Disponible en fran­çais, sous le titre La Singularité, tra­duit de l’anglais par Emmanuel Mie
  8. Ibid.
  9. Compte-ren­du acces­sible en PDF dans le « Technical Reports Server » du site web de la NASA
  10. Hans Moravec, Une vie après la vie (1988), Odile Jacob, 1992.
  11. Via deux livres : en 2005 The Singularity is Near de Ray Kurzweil ; en 2014 Superintelligence, Paths, Dangers, Strategies de Nick Bostrom, phi­lo­sophe de l’université d’Oxford, direc­teur du Future of Humanity Institute et du Strategic Artificial Intelligence Research Center.
  12. Iain M. Banks, Les Enfers vir­tuels 1 (2010), Robert Laffont, col­lec­tion Ailleurs et Demain, 2011, p. 134.
  13. Iain M. Banks, Trames (2008), Le Livre de Poche, 2017, p. 515–516.
  14. Iain M. Banks, Excession (1996), Robert Laffont, col­lec­tion Ailleurs et Demain, 1998, p. 386.
  15. Ibid., p. 372–373.
  16. Comme le dit l’artiste Fabien Zocco dans la revue Multitudes (no 78, prin­temps 2020, p. 118), l’anglais pri­vi­lé­gie la dimen­sion « logi­co-déduc­tive » de l’intelligence (notam­ment dans le terme Artificial intel­li­gence), « donc les fonc­tion­na­li­tés plus faci­le­ment méca­ni­sables numé­ri­que­ment, au détri­ment d’autres aspects entrant dans une défi­ni­tion plus vaste de la notion. »
  17. Ibid.
  18. Evgeny Morozov, Pour tout résoudre, cli­quez ici ! L’aberration du solu­tion­nisme tech­no­lo­gique, Fyp Éditions, 2014.
  19. Gregory Rozières, « Clash entre Mark Zuckerberg et Elon Musk sur l’intelligence arti­fi­cielle », Huffpost, 25 juillet 2017.
  20. « Facebook tra­vaille sur une inter­face céré­brale qui vous per­met­tra de “com­mu­ni­quer uni­que­ment avec votre esprit” », Transhumanisme et intel­li­gence arti­fi­cielle, 22 avril 2017.
  21. Natashah Hitti, « Elon Musk’s Neuralink implant will “merge” humans with AI », Dezeen, 22 juillet 2019.
  22. Ariel Kyrou, Google God : Big Brother n’existe pas, il est par­tout, Inculte, 2010, p. 205–216.
  23. George Alec Effinger, Gravité à la manque (1987), Denoël, col­lec­tion Présence du futur, 1989, p.12.
  24. « What Is Ray Kurzweil Up to at Google ? Writing Your Emails », par Tom Simonite, Wired, 8 février 2017.
  25. « Intelligence arti­fi­cielle, Promesses et périls », Le Monde, 31 décembre 2017, dos­sier de huit pages, avec des articles signés notam­ment de Morgane Tual, de David Larousserie, de Sandrine Cassini, d’Alexandre Piquard et d’Yves Eudes. À lire notam­ment, la page 4 du quo­ti­dien : « Cinq façons d’envisager la pen­sée des machines », où le jour­nal oppose les « tech­no-opti­mistes » comme Zuckerberg aux « alar­mistes mili­tants » par­mi les­quels Musk ou aux « apôtres de la “super­in­tel­li­gence” ».

REBONDS

☰ Lire notre entre­tien avec Yuk Hui : « Produire des tech­no­lo­gies alter­na­tives », juillet 2020
☰ Lire notre entre­tien avec Pierre Déléage : « Si l’anthropologie a une ver­tu, c’est sa méfiance vis-à-vis de l’universalité des lois », juin 2020
☰ Lire notre entre­tien avec Bernard Stiegler : « Le capi­ta­lisme conduit à une auto­ma­ti­sa­tion géné­ra­li­sée », jan­vier 2019
☰ Lire notre entre­tien avec Alain Damasio : « Nous sommes tra­cés la moi­tié de notre temps éveillé », octobre 2017

Ballast
Ballast

« Tenir tête, fédérer, amorcer »

Découvrir d'autres articles de




couverture du 11

Notre onzième et dernier numéro sortira en librairie le 21 mai ! Vous pouvez le précommander dès maintenant. Chaque numéro papier, autonome du site Internet, propose des articles inédits.

Au sommaire :
Adèle, mettre au monde et lutter (Asya Meline) ▽ Quand on ubérise les livreurs (Rosa Moussaoui et Loez) ▽ Rencontre avec Álvaro García Linera ▽ Une laïcité française ? (avec Jean-Paul Scot et Seloua Luste Boulbina) ▽ Le communalisme comme stratégie révolutionnaire (Debbie Bookchin et Sixtine Van Outryve) ▽ Quand le poids est politique (Élise Sánchez) ▽ Regards (Aurélie William Levaux) ▽ La corrida d'Islero (Éric Baratay) ▽ Des jardins urbains et du béton (Camille Marie et Roméo Bondon) ▽ Dépasser l'idéologie propriétaire (Pierre Crétois) ▽ André Léo, toutes avec tous (Élie Marek) ▽ Des portes comme des frontières (Z.S.) ▽ Combien de fois (Claro) ▽ ode à ahmed (Asmaa Jama) ▽ La brèche (Zéphir)

Nous sommes un collectif entièrement militant et bénévole, qui refuse la publicité en ligne et papier. Vous pouvez nous soutenir (frais, matériel, reportages, etc.) par un don ponctuel ou régulier.