TFTT #5 – Faux héros et vrais mythes de la tech 🦄

La tech a les héros qu'elle mérite

L'an dernier, la possibilité d'un combat entre "géants" de la tech a brièvement fait bruisser internet. Pas un combat à coups de sorties d'applications concurrentes, ou de fusions-acquisitions maousses-costaud. Non, un vrai combat, sur le format de la nouvelle pratique pugilistique à la mode : un combat de Mixed Martial Arts (MMA), à la "régulière", sur un ring octogonal et dans une cage.

Ce combat, il devait opposer Elon Musk, le psychotique "homme le plus riche du monde", et son rival, le mégalo-cringe patron de Meta (aka Facebook), Mark Zuckerberg. Tous les deux immensément riches, tous les deux avec des tendances psychopathiques, tous les deux faisant peser sur nos démocraties d'immenses risques. De petits garçons avec de très très gros jouets et de très très grandes responsabilités. Alors qu'il s'oppose de manière toute phallique par fusées interposées avec un autre psychopathe, le Jeff Bezos d'Amazon, Musk avait ainsi proposé à Zuckerberg de s'opposer de manière plus physique encore. Cela faisait suite à de nombreuses oppositions et provocations, qui ont culminé au moment de la sortie de Threads, le concurrent à Twitter/X (racheté par Musk en octobre 2022) made in Meta, sorti en juillet 2023.

Le combat, prévu pour août dernier, n'aura finalement pas lieu. Je dois admettre qu'une part de moi, la chaotique, aurait aimé assister à cela (en espérant secrètement que l'un des deux, si ce n'est les deux, se blesse dans l'opération) ; mais il faut bien dire qu'il en est mieux ainsi. Nous aurions sinon basculé dans une parodie populo-masculino-dystopique de notre monde, qui ne manque déjà pas de populisme, de masculinisme ou de relents dystopiques.

Cet épisode a marqué cependant une évolution assez déconcertante : Zuckerberg, considéré il n'y a pas si longtemps comme le mal absolu en ce qui concernait la tech, bénéficie d'un regain de "coolitude" en s'opposant ainsi au nouveau clown de service, Musk.

Et pourtant… nous avons la mémoire courte. Le Zuck, c'est cet individu qui a lancé son business de la manière que vous connaissez si vous avez vu The Social Network – film qui affabule sur pas mal de choses, mais pas sur les premiers faits d'armes tout à fait misogynes du créateur de Facebook. C'est ce mec qui se prend pour une réincarnation d'empereur Romain, se construit un bunker top-secret à Hawaii, transforme ses plateformes déjà problématiques en enfers pavés d'IA générative (cf. le numéro 3 de TFTT). C'est surtout un individu qui menace nos démocraties depuis des années, que ce soit dans le cadre du Brexit, de l'élection de Donald Trump, de l'élévation globale du populisme et de la visibilisation des dérives complotistes, sectaires ou fascistes les plus radicales, dont nous voyons encore ces derniers jours les conséquences en France.
Miam miam.

Cette opposition Meta vs. Musk a pris un nouveau tour récemment, et le casting a un peu changé. Musk est toujours de la partie – la forme, celle d'un clash sur Twitter/X, lui convient parfaitement, faut-il le dire. Mais son adversaire n'est plus le même.

Le spécialiste de l'intelligence artificielle Yann LeCun s'est en effet fendu, à la fin du mois de mai, de tweets bien sentis pour dénoncer les inepties d'Elon Musk, notamment au sujet de son terrain de prédilection. LeCun est en effet un ponte de l'IA. Co-lauréat du prix Turing en 2018 pour ses travaux sur les réseaux neuronaux profonds, il est depuis 2013 un salarié de Facebook/Meta. Il en est même le Chief AI Scientist depuis 2018.

Ce n'est pas la première fois que LeCun se fait remarquer pour ses tweets, comme je l'avais évoqué lors du numéro introductif de TFTT. Depuis, je ne porte pas l'homme particulièrement dans mon cœur. Mais il faut avouer qu'il a tapé juste.

Dans cette série de tweets, LeCun dénonce de manière forte à propos les mensonges de Musk sur "son" propre réseau. C'est déjà un point en sa faveur, à l'heure où Viva Tech continue à accueillir Musk en grandes pompes, comme si le bougre n'était pas devenu le porte-voix de l'extrême droite et des tendances les plus détestables d'internet. Des prises de parole de Musk qui continuent à fasciner la presse française, visiblement.

Si l'échange Musk-LeCun a débuté au sujet de leurs positions divergentes concernant l'IA, les choses ont vite dérapé sur leurs visions de la science voire de la politique. Je ne vais pas vous lister l'intégralité des tweets, d'autant qu'ils ont bien été analysés, par Numérama notamment. Résumons : sur l'IA elle-même, LeCun critique les annonces sensationnalistes de Musk. Mais c'est ensuite que cela devient croustillant.

Car LeCun n'y va pas avec le dos de la cuillère. Il expose notamment Musk sur ses opinions conspirationnistes et ses positions politiques. Musk lui offre en plus des boulevards pour le dézinguer en bonne et due forme, sur la partie scientifique notamment, comme vous pouvez le voir dans l'échange ci-dessous :

• Musk : Quelle "science" avez-vous mené sur les 5 dernières années ?
• LeCun : Près de 80 publications scientifiques depuis janvier 2022. Et vous ?

Voilà dans les grandes lignes. Et que cet échange a fait parler ! Qu'il a fait jubiler les critiques de Musk ! La presse en a pondu un beau nombre d’articles, toutes les plateformes sociales, de X à Linkedin en passant par Threads ou Instagram, en ont discuté à tort et à travers. Cela a continué encore récemment avec une découverte : Elon Musk ne suit plus Yann LeCun sur Twitter. Ouh! Drama! Globalement, ce qu'il ressort de ces fadaises, c'est plutôt un soutien à LeCun, et on peut le comprendre : il est trop rare de voir Musk en prendre plein la tête comme cela, et il faut savoir profiter des bonnes choses.

En France, ce soutien à LeCun s'est teint d'une espèce de patriotisme, LeCun étant français. Ce n'est pas souvent qu'un compatriote brille dans le domaine du numérique, alors autant vous dire que toute la French Tech était en pâmoison ; même si un autre français de la tech s'est fait remarquer ces derniers jours, dans une prise de parole cependant parfaitement américano-compatible.

Je reste cependant très surpris par un point : si de nombreuses réponses sur les réseaux le rappellent (parfois simplement pour défendre Musk), la presse française ne pointe pas du doigt l'incohérence des positions de LeCun. Ce n'est pas le cas, par exemple, dans l'article de Numérama que je partageais plus haut ; un média qui n'est pourtant pas le dernier à critiquer les errements de la tech.

Car en effet, en débutant son laïus pas une critique de la stature du boss de xAi, Musk lui-même, LeCun ouvrait tout de même en très grand la porte : que dire du propre boss de LeCun, Zuckerberg ? Que ce dernier laisse une liberté totale de publication scientifique à son "AI Scientist" en chef, c'est très bien. Mais doit-il pour autant également devenir son tech influencer en chef ? Zuckerberg n'a-t-il pas lui aussi créé des plateformes qui diffusent théories du complot et positions politiques vengeresses ?

À ce stade, je serais bien en peine pour dire qui fait le plus de mal à nos sociétés entre Musk et Zuckerberg. Mais LeCun ne semble lui pas se poser la question, et roule pour son patron.

Mais détendons-nous un instant, et positivons ! Je pense personnellement que la hype autour de Musk va s'éteindre assez rapidement, au vu des résultats de Tesla comme de Twitter/X. La hype autour de l'IA elle-même pose question, comme l'expose par exemple le Wall Street Journal. Enfin, dans un nouveau excellent papier, Ed Zitron nous explique que nous n'aurons bientôt plus à nous faire de ces nouveaux "héros" que sont Zuck et LeCun. Selon lui, plusieurs indicateurs – dont un changement assez important des moyens de mesure des résultats de l'entreprise – indiquent que Facebook comme Meta se dirigent vers des années sombres. Voire une disparition pure et simple ?

Zitron termine son article par ces mots : "Le monde mérite mieux que Marc Zuckerberg." Si je ne peux que souscrire à cela, j'ajouterais que le monde mérite également mieux que tout ce qui provient de près ou de loin de Meta, ses produits comme ses innovations. Et cela inclut toutes les avancées en IA que pourra mener Yann LeCun au nom de cette entreprise.

Car les innovations financées par Zuckerberg n'auront représenté jusqu'à aujourd'hui que bien peu de bénéfices, en comparaison aux nombreux dangers qu'elles font courir à l'humanité. Je ne vois pas en quoi cela pourrait être différent sur le terrain de l'IA, bien au contraire. Ajoutons que plus l'entreprise va voir ses profits diminuer, comme je tends à le penser, plus cela deviendra vrai. Les bêtes à l'agonie sont toujours plus dangereuses.

• TFTT #3 : nous nous demandions en avril dernier quel impact pourrait avoir l'IA sur notre vision de l'histoire et sur notre usage des réseaux sociaux. Et voilà qu’est intervenu récemment le premier exemple notable de diffusion à très (très) grande échelle d'un visuel de nature politique et généré par IA : le fameux "All Eyes On Rafah". Plutôt que d'épiloguer, je vous renvoie vers l'excellent papier de Lucie Ronfaut sur le sujet.
  
• TFTT #Bonus // ERRATUM : vous l'avez peut-être remarqué si vous avez jeté un œil à mon dernier email "bonus" puis à sa version web, un changement est intervenu dans le titre de ce papier. En effet, une erreur s'était glissée dans la première version de cet édito, qui portait sur l'impact environnemental de Microsoft. J'avais initialement noté une hausse de près de 30% des émissions de CO2 de l'entreprise sur les douze derniers mois, quand il s'agissait en fait d'une hausse depuis la baseline fixée en 2020, au moment des dites annonces. Toutes mes excuses pour cette erreur.
  
  J'aurais pu vous renvoyer l'ERRATUM par email, mais cela aurait commencé à ressembler assez sérieusement à du spam. L'article en ligne avait lui été modifié dans la foulée.
  
  Bon et puis surtout : cela ne change pas le message sur le fond, c'est-à-dire que les engagements environnementaux des grands de la tech passeront toujours après les gains potentiels que pourront rapporter de nouvelles technologies, aussi polluantes soient-elles.
  
  Notez d'ailleurs à ce sujet deux nouveaux papiers intéressants des Echos (à nouveau) et du Monde sur l'impact que va avoir l'IA sur la consommation énergétique du numérique au sens large.

Utopies et mythes de la tech : accélérationnistes contre altruistes ?

Pendant que certains se chamaillent sur Twitter, on pourrait penser que des individus matures sont aux manettes pour présider à notre destinée, notamment technologique. Ce serait oublier que la tech est dirigée par de grands enfants. Cela pourrait faire sourire, si ces petits garçons (car ce sont presque exclusivement des hommes) n'avaient pas autant de pouvoir.

Comme beaucoup de petits garçons des années 90, Musk et Zuckerberg aiment en effet les fusées et les petites voitures (électriques). Pour les plus geekos d'entre eux, ils aiment aussi rester dans leur chambre pour pouvoir faire plein de saloperies derrière leur écran, stalker leurs voisines (ça c'est Zuck) ou insulter des inconnus (ça c'est Musk).

Et puis, tous autant qu'ils sont, ils adorent la science-fiction, le fantastique, le cyberpunk. Leur imaginaire a été nourri par Matrix, Ghost in the Shell, Terminator ou Akira. Cela va impacter plus que de raison leur vision du monde, jusqu'à atteindre une forme d'auto-réalisation assez cryptique. On l'a déjà souvent expliqué dans TFTT, notamment dans notre Grand Format du mois dernier, quand nous parlions de la nécessité de créer des imaginaires technologiques éloignés du capitalisme primaire.

Ce mois-ci, nous allons ainsi jeter un œil aux différents courants de pensée qui sous-tendent, plus ou moins discrètement, les dernières évolutions de la tech. Notamment en ce qui concerne le développement de l'inévitable intelligence artificielle. Et, vous le verrez, certaines de ces théories assez fumeuses semblent tout droit sorties de l'esprit d'un auteur de SF assez médiocre. Attachez vos ceintures et ouvrez grands vos chakras, parce que l'on va découvrir des choses qui ne sont pas si loin des délires prônés par l'Église de Scientologie – une secte elle-même créée… par un médiocre auteur de SF !

Accélérationnisme, altruisme efficace, long-termisme, transhumanisme… voyons ce que sont ces idéologies, ce qu'elles portent en elles, et les conséquences qu'elles pourraient avoir pour nous tous 😱

La Silicon Valley, un creuset qui mêle technologie et spiritualité

Avant de nous lancer dans la description de ces différentes mouvances, il faut donner le contexte : nous sommes en Californie. Autour de la célèbre Silicon Valley. Cette partie du monde attire depuis bientôt deux siècles des immigrants du monde entier, en quête d'un avenir meilleur, de richesses inexplorées. Si l'or, le pétrole et les terres vierges ont laissé place aux studios de cinéma et aux sièges sociaux des grandes boîtes de la tech, l'idée reste la même. Défricher l'inconnue, trouver la prochaine tendance, et surtout : devenir riche.

Dans cette quête mystique de richesse, la superstition n'est jamais très loin. Cela tombe bien : les immigrants déjà cités viennent avec du mysticisme plein les poches. Comme l'explique le chercheur au CNRS Olivier Alexandre dans cette interview : "la Californie a une longue histoire d’activités spirituelles, c’est l’interface entre l’orient et l’occident, le plus vieux Chinatown des États-Unis est à San Francisco. Il y a une vraie interconnexion avec l’Asie et l’Inde". Ce n'est pas un hasard si nombre de yogis ce sont installés ici, si les stars d'Hollywood s'entichent souvent de gourous orientaux, et si l'on trouve le siège de la Scientologie à Los Angeles.

Pour revenir plus spécifiquement à la Silicon Valley, on y trouve un terrain fertile pour les spiritualités alternatives. Olivier Alexandre : "Ce sont des gens extrêmement diplômés, passés par les sciences de l’ingénierie, la chimie, la biologie, l’astrophysique ou l’informatique, beaucoup plus athées ou agnostiques que dans le reste des États-Unis, plutôt blancs."

Ainsi, si pour nous européens le mariage entre nouvelles technologies et spiritualité semble contre-nature, ce n'est pas du tout le cas là-bas. Et dieu sait que quand on travaille dans des domaines scientifiques ou technologiques, des questions doivent se poser. Construire une intelligence artificielle, exemple au hasard, ne va pas sans poser de nombreuses questions métaphysiques. Pour répondre à ces questions, les spiritualités alternatives ou l'usage de drogues hallucinogènes (voire les deux en même temps) sont des méthodes acceptées dans la Silicon Valley, bien plus qu'ailleurs.

Dernier point de contexte, la Silicon Valley, aussi différente soit-elle, existe au sein d'un pays bien particulier : les États-Unis. À peu près à l'époque de la ruée vers l'or californien naissait une expression. Celle de "destinée manifeste". Elle définit une vision messianique selon laquelle l'Amérique doit étendre la "civilisation" à l'ensemble du monde. Sa vision mercantile de la société avec elle, son individualisme forcené hérité du protestantisme, aussi. Les entrepreneurs de la tech, américains, soit de naissance soit d'adoption, se sentent investis de cette même mission, remise au goût du jour : changer le monde, à leur niveau, pour le rendre meilleur, à leur image. Make the world a better place 😅

Voilà pour le contexte géographique et philosophique, dirons-nous. Maintenant, revenons quelques mois en arrière.

Sam Altman va un peu vite en besogne

En novembre dernier, un tremblement terre a secoué le monde de la tech. Sam Altman, le célèbre boss d'OpenAI, entreprise la plus en vue dans le domaine de l'intelligence artificielle, était purement et simplement viré de son post. C'est la décision du comité d'administration de l'entreprise, et elle fit l'effet d'un choc, tant tout semblait aller bien chez OpenAI si l'on en croyait la presse et le principal intéressé.

Ce bref épisode n'aura duré que quelques jours. Le temps pour Microsoft, plus gros investisseur d'OpenAI, de taper du poing sur la table. Altman revient, le board en place est désavoué. Mais pourquoi ce bazar ? À l'époque, personne ne le sait vraiment. Des pistes idéologiques sont avancées, mais rien n'est très clair.

Mais depuis quelques jours, les langues se délient. Ainsi, Helen Torner, une des membres du conseil d'administration d'OpenAI à l'époque, révélait il y a une dizaine de jours qu'Altman avait lancé ChatGPT sans même en informer le board, et que son comportement toxique inquiétait en haut lieu. Il apparaît aussi qu'Altman a manœuvré en coulisse pour passer pour le good guy : soutien de Kara Swisher, prêtresse de la presse tech de plus en plus controversée, ou encore courrier de soutien des employés d'OpenAI… qui s'avèrera avoir été signé par beaucoup sous la pression d'Altman lui-même. D'ailleurs, certains employés d'OpenAI, anciens et actuels, viennent de signer un appel au "droit à prévenir des risques de l'IA", qui change un peu la perspective que l'on pouvait avoir sur cette affaire.

Au final, semble se confirmer une tendance que certains avaient déjà commencé à dessiner à l'époque du drama OpenAI : s'opposerait la vision purement profitable d'Altman à celle plus "prudente" du board d'alors.

Pour bien comprendre cette "opposition", il faut rappeler qu'OpenAI a été créé de prime abord, en 2015, par des anciens de PayPal (Elon Musk et Peter Thiel notamment) comme une structure dédiée à la recherche sur l'IA de manière altruiste et désintéressée. Rappelons que tout ce qui est "désintéressé" est en fait intéressant fiscalement, mais passons.

Nous sommes maintenant en 2019 : la concurrence arrive, du côté de Google notamment, qui ne s'embarrasse pas d'idées "altruistes". Souhaitant rester dans la course, OpenAI lance finalement une filiale à but lucratif, cependant toujours dirigée par le même conseil d'administration "idéaliste" des débuts. Comme l'explique Georges Nahon dans Le Monde : "c’est devenu une hydre à deux têtes tiraillée entre ses deux philosophies : assurer le bien du monde avec l’IA en toute sécurité et avancer très vite face à la menace des acteurs commerciaux." Avancer très vite mais en toute sécurité ? Je ne sais pas pourquoi, mais ça ne sonne pas très bien, ça 🤔

Elon Musk lui est, comme à son habitude, fâché. Pour une fois, difficile de lui donner tort : "OpenAI a été créée en tant qu’entreprise à but non lucratif open source pour faire contrepoids à Google, mais elle est maintenant devenue une société à source fermée et à profit maximum contrôlée par Microsoft. Ce n’était pas du tout mon intention." Bon, ne vous en faites pas pour lui : il a depuis créé sa propre société d’IA à but lucratif, xAI. Le pognon d'abord, les convictions après, l'un permettant d'imposer les autres au plus grand nombre.

Ce que nous verrions là s'opposer, in fine, ce serait deux mouvements de fond qui expliqueraient de nombreuses oppositions plus larges encore au sein de la Silicon Valley : les "altruistes efficaces" contre les "accélérationnistes efficaces". 

T'es plutôt team e/acc ou altruism, toi ?

Altruisme efficace. Accélérationnisme efficace. Notons déjà un point commun à ces "opposés". La notion d'efficacité. On voit bien là comme ces concepts sont adossés au capitalisme à l'américaine, empreint de l'idée de performance. Et de la nécessité d'engranger de la richesse, beaucoup de richesses, on y reviendra.

Un autre point commun entre ces mouvances : leur dimension pleinement messianique, donc. Nous le verrons, nous allons ici enchaîner des théories impressionnantes quant à leurs implications et à leur ampleur. Les dirigeants de la tech s'y dépeignent clairement en oracles, en mages, presque.

Cela apparaissait impossible il n'y a pas si longtemps, quand la tech se tenait tranquille, après les scandales d'interférences dans des élections, d'abus de position dominante, de manquements à la protection des données de leurs utilisateurs. Mais, vous allez le voir : la tempérance, c'est terminé.

Commençons par les accélérationnistes efficaces ! 

L'accélérationnisme efficace, abrégé en e/acc, représente jusqu'à la caricature le techno-optimisme. Pour mieux comprendre cette vision, citons Sam Altman lui-même, l’un des porte-étendards du mouvement. Des propos rapporté dans un long article du Monde : "Le progrès technologique que nous ferons dans les cent prochaines années dépassera largement tout ce que nous avons fait depuis que nous avons maîtrisé le feu et inventé la roue. Nous pouvons bâtir une intelligence artificielle générale. Nous pouvons coloniser l’espace. Nous pouvons faire marcher la fusion nucléaire et massifier l’énergie solaire. Nous pouvons guérir toutes les maladies. Nous pouvons construire de nouvelles réalités".

L'idée clé de l'accélérationnisme efficace, c'est donc que la technologie va régler tous nos problèmes. C'est une forme de technosolutionnisme poussé à l'extrême, notion que nous avions déjà traité dans TFTT. Surtout, il est associé à une vision ultra capitaliste et purement conservatrice : il ne faut opposer aucune contrainte, aucune régulation, aucune limite au développement technologique. On retrouve donc là un discours déjà bien connu outre-Atlantique : l'État n'est qu'un obstacle, les entrepreneurs individuels sont la clé. C'est du libertarianisme à la sauce tech, rien de plus. L'individu portera le collectif, pas l'inverse. Les gens prudents sont des poules mouillées, point barre.

Si l'accélérationnisme efficace refuse ainsi toute entrave au développement technologique, c'est parce que dans son prisme, la technologie va nous sauver. Sans elle, nous sommes perdus. Cette idée passe par des "sous-idéologies" déjà bien connues, comme le transhumanisme, qui induit l'amélioration des performances (toujours cette idée d'efficacité) de notre corps et de notre esprit par l'intégration physique d'éléments technologiques en leur sein. L'exemple récent le plus connu étant celui de l'entreprise Neuralink d'Elon Musk, encore lui.

Mais la technologie clé associée à l'idée d'accélérationnisme efficace, c'est surtout celle d'intelligence artificielle. L'IA représente notre salut. Surtout, l'avènement d'une Intelligence Artificielle Générale (IAG) est le but ultime des accélérationnistes. L'IAG, kezako ? Une IA capable d'apprendre toutes les tâches propres aux humains, et de les dépasser d'un point de vue cognitif et intellectuel. Inutile de préciser que, n'en déplaise à Sam Altman, une telle IA n'existe pas encore. Il n'y a d'ailleurs aucun consensus scientifique sur la possibilité de l'existence d'une telle IA dans le futur. À ce stade, c'est juste de la SF.

Les accélérationnistes n'ont en tout cas aucun doute quant à cet avènement, et l'attendent comme celui d'un nouveau messie. La dimension religieuse de cette idéologie est on ne peut plus claire. Comme le dit par ailleurs Marc Andreessen, l'un des plus grands financiers de la tech et des plus ardents défenseurs de cette mouvance, "réguler l'IA reviendrait à commettre des meurtres, car cette technologie pourra sauver des vies." Laissez nous faire ou vous mourrez, en substance. Bon, ben d'accord.

Une fois que l'on a dit tout cela, on se dit que les gentils, ce sont forcément les altruistes efficaces, non ? Les "prudents" de service qui voulaient calmer le jeu sur l'IA ? Alors… ce n’est pas si simple. 

Les altruistes efficaces et autres long-termistes

En supposée opposition à l'accélérationnisme efficace, on trouve donc l'altruisme efficace. Cette idéologie consiste, si l'on cite Wikipédia, en "une démarche analytique afin d’identifier les meilleurs moyens d’avoir un impact positif sur le monde". Voilà qui sonne bien. Sauf que les altruistes efficaces du monde de la tech pensent que la meilleure façon de faire le bien, c'est de devenir très très riche. On est tout simplement face à une version poussée à son paroxysme de la philanthropie à la mode américaine.

Être altruiste mais efficacement, c'est donc devenir le plus riche possible pour, ensuite, œuvrer pour le bien commun. Ils n'ont pas dû se rendre compte, je présume, qu'avec la visible expansion du fossé entre les plus riches et les plus pauvres, le monde n'allait pas franchement mieux. Passons sur le fait que ces "altruistes" ne font pas grand cas de la démocratie. C'est à eux de décider, individuellement, ce qui est bon pour le collectif. Et cela en défiscalisant un max, au passage.

Parmi les grands défenseurs de l'altruisme efficace, il y a Dustin Moskovitz, l'un des fondateurs de Facebook. Mais l'exemple le plus criant est sans doute celui de Sam Bankman-Fried, fondateur de la plateforme d'échanges de cryptomonnaies FTX, mais aussi de la FTX Foundation, qui a financé de nombreuses organisations liées à l'altruisme efficace. Le problème : SBF, comme on l'appelle, est depuis derrière les verrous. Pourquoi ? Parce qu'à vouloir devenir riche très vite pour "servir le bien commun", il a détourné dans ses propres poches des milliards de dollars de son entreprise, pourtant déjà basée aux Bahamas (surement par amour des plages de sable fin et non pas parce qu'il s'agit d'un paradis fiscal). Oups !

Quoi qu'il en soit, c'est cette mouvance altruiste efficace qui demande d'intégrer au maximum l'éthique dans le développement de l'intelligence artificielle. Elle porte même l'idée d'une pause dans la recherche sur ces sujets, pour éviter qu'un développement trop rapide ne fasse courir des risques à l'humanité. Cela dit, elle croit aussi en l'avènement prochaine de l'IAG, qu'elle appelle de ses vœux… mais une AGI développée non pas dans un but commercial mais dans un but "humaniste". Oui, l'altruisme efficace à un rapport très paradoxal à l'IA. L’un de ces arguments étant que, comme l’AGI arrivera quoi qu’il arrive, autant être là pour l’influencer dans la bonne direction. La "bonne" direction n’étant définie que par leur propre vision de la société : "humaniste", mais pas démocratique.

La différence principale que l'on peut noter entre l'altruisme efficace et l'accélérationnisme efficace, c'est la question du temps. Les accélérationnistes veulent agir dès maintenant et le plus vite possible ! Les altruistes, eux, sont plus "prudents". Ils veulent diminuer les impacts négatifs de l'IA et de la technologie aujourd'hui, pour garantir une pleine adoption de ses bénéfices dans le futur.

C'est avec cette idée de futur que ce fait jour une excroissance de l'altruisme efficace : le long-termisme. Cette vision, portée par Elon Musk notamment, est peut-être la plus barrée de toute, ce qui n'est pas peu dire quand on regarde ce par quoi on est déjà passé.

Le long-termisme, si l'on cite encore Wikipédia, "donne la priorité à l'amélioration du bien-être de l'humanité à long terme sur l'amélioration du bien-être de l'humanité présente." L'idée est qu'il faut tout entreprendre aujourd'hui pour garantir la vie des milliards et milliards d'humains qui vivront dans le futur. Cela passe donc par le développement d'une IAG "plus sûre", mais aussi par beaucoup d'autres théories encore plus fumeuses.

Car pour garantir que l'humain sera le plus performant et le "mieux" possible dans le futur, tout est permis. Ne plus vieillir ? Bingo. Faire un maximum d'enfants pour maximiser nos chances de développement ? Bingo. S'assurer surtout que ces enfants seront génétiquement les meilleurs possibles ? Rebingo. Vous reprendrez bien une petite dose de transhumanisme au passage.

On peut citer à ce sujet Nick Bostrom, l’un des géniteurs de la notion de long-termisme, philosophe suédois et ex-directeur du Future of Humanity Institute (en voilà un nom empreint d’humilité), au sein de l’Université d’Oxford. D’abord critique envers les "risques existentiels" propres à l’IA, il a vite développé des idées qui ont nourrit l’imaginaire des altruistes efficaces et réalisé des déclarations chocs : "élimination du vieillissement, de la maladie et de la pauvreté, voyage dans l’espace, durée de vie indéfinie… le progrès technologique dans tous les autres domaines sera accéléré par l’arrivée de l’intelligence artificielle avancée", explique-t-il dans Philosophie Magazine. On retrouve bien là le pattern altruisme efficace + long-termisme. Des déclarations chocs qui ont inquiété en haut-lieu et on conduit à la fermeture de son Institut par la direction de l’Université d’Oxford, suite à des accusations d’eugénisme.

Si on parle du futur, le long-termisme évoque-t-il les problématiques environnementales ? Que nenni, la technologie va régler tout cela, on vous dit. Et puis, avec nos durées de vie infinies, on ira sur Mars, et nous irons ensuite conquérir l'univers, alors la Terre, bof. Tant pis s'il y a quelques victimes (les pauvres) laissées sur le carreau au passage. Les long-termistes font tout ça pour garantir la vie des trillions d'humains du futur, on vous dit !

C'est complètement fou ? Nous sommes d'accord, mais c'est bien là leur vision.

Ces visions, altruiste ou accélérationniste, ont donc en commun leur dimension messianique et hors-sol. Ainsi que leur tendance à instiller des idéaux toxiques et irréalistes empêchant de s’attaquer aux problèmes actuels de nos sociétés, liés principalement à des fossés économiques et des problématiques sociales et environnementales. Elles permettent en tout cas de mieux appréhender le pourquoi des déclarations chocs des grands gourous de la tech, de Musk à Altman. Mais sont-ce vraiment leurs seuls points communs ? 

Une opposition de façade pour nous détourner des vrais sujets

Revenons un instant à cette lutte pour le contrôle d'OpenAI. Entre les accélérationnistes et les altruistes. Entre les pressés et les prudents. Entre les intérêts commerciaux et humanistes. Une fois que l'on connaît toutes les théories qui supportent les différentes parties prenantes, y'a-t-il réellement un bon et mauvais camp ?

En réalité, pour moi, les opposer est une perte de temps. Car ce ne sont au fond que des excroissances pseudo-spirituelles mais surtout pleinement mégalo de l'ultra-capitalisme américain. L'individu plutôt que le collectif, les entreprises plutôt que l'état, la disparation de l'état providence au profit de la philanthropie, la disparition de la démocratie au profit de "l'efficacité". Une vision conservatrice, élitiste, ethnocentrée et masculiniste qui pousse un progrès technologique et économique, mais jamais social.

Prenons un exemple pour montrer comme tous ces mouvements se confondent en un grand gloubi-boulga sectaire. Elon Musk (oui encore lui), homme le plus riche du monde et qui souhaite le devenir encore plus, par altruisme bien sûr. Il est pleinement long-termiste, en voulant nous envoyer sur Mars à tout prix, en étant le père de 11 enfants, en investissant dans des technologies transhumanistes. S'il était contre le changement de paradigme d'OpenAI, et s’il profère souvent des discours apocalyptiques ou dystopiques autour du sujet de l’IA (ce qui est peut-être là encore une technique de contre-feu), il a créé sa propre société d'IA à but lucratif, xAI, dans des visées assurément accélérationnistes. Musk, surtout, est pleinement individualiste et libertarien, et ses actions « positives » sont toujours réalisées selon ses termes, sans consultation démocratique. Il est la somme de toutes ces mouvances techno-spirituelles et de tous les dangers qu'elles induisent.

N'oublions pas un autre point, important en ce 11 juin 2024 : beaucoup de ces théories sont portées par des individus qui s’avèrent le plus souvent proches de l’extrême droite. Elon Musk en fait la démonstration chaque jour sur « son » réseau, Peter Thiel et Marc Andreeseen sont des soutiens de Trump, Nick Bostrom a été épinglé pour un mail raciste où il expliquait que "les noirs étaient moins intelligents que les blancs". Bon, en même temps, eugénisme et nazisme, cela va de pair.

L’un des porte-voix de ces mouvements en France ? Laurent Alexandre, pseudo expert technologique devenu polémiste et chroniqueur de CNEWS, soutien de Bardella. Un Laurent Alexandre (à ne pas confondre avec Olivier Alexandre que nous mentionnions en début d’article) très visible en France sur les sujets de l’IA, alors qu’il n’y connaît pas grand-chose.

Plus important encore : ces pseudo-oppositions entre accélérationnistes et altruistes ne sont en fait que des rideaux de fumée destinés à nous écarter des vrais problématiques. Car que ne fait-on pas, pendant que l'on s'échine à comprendre les idioties que ces milliardaires déconnectés nous racontent à longueur de tweets ? Pendant que l'on tente d'analyser leurs théories faussement complexes et futuristes ?

Et bien on ne pose pas la question très simple : toutes les technologies qu'ils nous vendent, fonctionnent-elles vraiment ? Et surtout, quid de leurs risques actuels et tangibles : biais racistes et machistes, désinformation, consommation énergétique, impact sur la création, fracture numérique encore renforcée ? Pendant ce temps-là, ils engrangent également investissements et dividendes. Elle est pratique cette idée de "s'enrichir pour le bien commun", quand même.

Il est bon de se rappeler que toutes ces théories dépendent d'une technologie : l'intelligence artificielle. Or, j'ai une mauvaise nouvelle pour eux, et une bonne nouvelle pour nous, à mon humble avis. L'intelligence artificielle n'atteindra jamais un modèle général. Pas de singularité.

Je suis un pessimiste ? J'aurai envie de dire un réaliste. En tout cas pas un prudent au sens de l'altruisme efficace. À mes yeux, et à ceux de plus en plus d'observateurs, l'IA restera cantonnée à des usages techniques dans la plupart des cas. Un outil d'une grande efficacité (!) dans ce domaine, permettant des progrès méthodologiques majeurs dans la recherche scientifique, par exemple. Mais au-delà de ça ? Je reste dubitatif.

Pourquoi ? Parce que les limites existent, n'en déplaisent à nos techno-prêtres de service. Des limites énergétiques d'abord, souvent citées par Altman lui-même, qui appelle de ses vœux l'avènement de la fusion nucléaire en bon accélérationniste qu'il est (une attente rapidement démontée dans un post par un certain spécialiste du sujet, Jean Marc Jancovici). Une limite dans les données à disposition pour entraîner ces modèles d'IA, ensuite, ainsi qu'un risque financier lié à une très probable explosion de la bulle de l'IA. Des limites éthiques, enfin, que les états vont bien devoir apposer pour se prémunir contre les dérives de nos techno-seigneurs.

Ni dieu, ni m-AI-tre

Car si je ne crois pas en l'avènement d'une IA toute puissante, ni aux théories que j'ai listé ici, je crois bien que l'IA va avoir des impacts sur nos vies. Elle en a déjà, et pas des bénéfiques, on les a cité. Faut-il vraiment les accepter, tout ça parce que nous avons la flemme d'écrire un compte rendu de réunion ou un mail administratif, ou bien parce qu'il n'y a "plus le budget" pour payer un graphiste ?

L'IA aura aussi des impacts sur nos métiers. Mais si je suis convaincu qu'elle n'aura jamais la capacité cognitive de remplacer un cerveau humain, faut-il encore que votre boss soit du même avis. À ce sujet je vous conseille l'excellent papier de Brian Merchant : "Understanding the real threat generative AI poses to our jobs". À moins que ce soit les CEO qui disparaissent à cause de l'IA ? Voilà qui serait un amusant retour de bâton.

Pour conclure, je pense qu'il est important de le dire : si cette newsletter est par nature techno-critique, et donc "IA-critique", je ne rejette pas tout en bloc. Je l’ai dit, l'IA aura des usages utiles, d'un point de vue technique comme scientifique. Mais que l'on ne nous fasse pas croire que l'IA est un nouveau dieu, une nouvelle religion, une nouvelle vision du monde. L'IA est une technologie, avec ses biais et ses problèmes. Elle n'a rien de magique. En cela, elle se doit d'être régulée, aujourd'hui comme demain. Tout comme nos économies doivent l'être, et cela plus que jamais dans un contexte de ressources finies, de dérèglement climatique, et de gavage généralisé en haut-lieu.

Dans les recommandations de ce mois-ci, parlons un peu de sectes ! Car comme vous avez pu le constater, certains des mouvements de pensée inspirant la tech n'ont rien à envier aux "idéologies" raëlienne ou scientologue.

Si vous ne connaissez que vaguement ce que sont ces sectes, il y a le docu Netflix sur Raël dont on a beaucoup parlé. Mais je vous conseille plutôt ce qui est pour moi l'un des meilleurs documentaires sur le sujet : "Going Clear: Scientology and the Prison of Belief." On y découvre les arcanes de l'Église de Scientologie, leurs moyens de pression et leurs célèbres têtes de gondoles, mais aussi les origines et croyances farfelues qui soutiennent le tout. Car le créateur de la Scientologie – L. Ron Hubbard – était, nous l'avons dit, un auteur de science-fiction raté. Voilà qui me semble coller tout à fait à ce que font, au fond, Musk, Zuckerberg, Altman et consorts : ils tentent de transformer notre monde en mauvais film de SF.

Rien à voir avec les sectes pour cette seconde reco du mois, mais on restera cependant dans l'absurde ! Climax, c'est un fanzine trimestriel dédié à la révolution climatique. Le prochain numéro sort bientôt, et est en précommande ici : https://shop.climaxfanzine.fr/

Perso, c'était préco J1, parce qu'on sait déjà que ce sera très bien. Ce prochain numéro sera donc consacré à l'absurde, et dieu sait qu'on a besoin d'une once de dadaïsme pour encaisser toutes les âneries que l'on entend sur le sujet de la transition écologique. Notamment en provenance, ces derniers temps, de la tech. Ça tombe bien, l'équipe de Climax, c'est aussi celle derrière l'excellente newsletter Tech Trash 👌

Ah et une dernière reco de circonstance : allez VOTER les 30 juin et 7 juillet ! 🗳

Voilà, c'est tout pour ce mois-ci, et c’est déjà pas mal ! On se retrouve le mois prochain pour un sixième numéro de Tales From The Tech. D'ici là, n'hésitez pas à partager le format autour de vous, cela me ferait très plaisir. Et à me faire part de vos retours, bien sûr. Vous pouvez le faire en commentant l'article sur tftt.ghost.io, ou directement via mes différents réseaux 🤗

Thomas 🤌

PS : Tales from the Tech est garanti sans IA, pas forcément sans faute !