TFTT #0 – L'état d'esprit du Conquistador 🫳

Il était une fois, la Tech :

Bienvenue sur cette première page de "Tales from the Tech", une référence assez nette aux Contes de la Crypte, mais aussi aux licornes, celles tout droit sorties des contes de fées que nous raconte la startup nation.

En prenant un peu de recul, on peut voir comme la tech dispose de son propre folklore. Un folklore constitué de ces fameuses licornes dont on doute toujours un peu de l'existence, d'opérations financières un brin magiques, et de produits aux capacités surnaturelles – « fake it until you make it ». Un folklore dont les héros sont des princes charmants se serrant bien les coudes ; laissant d'ailleurs peu de place aux princesses.

Dans cette newsletter, je vous proposerai une fois par mois de démystifier l'industrie de la tech et du numérique. Je pense en effet que trop souvent ce monde, comme celui de la finance avant lui, tente de se draper derrière des mots compliqués et des discours creux (« make the world a better place », se moquait ainsi la série « Silicon Valley ») pour cacher ses limites, ses errances, et parfois ses réelles intentions.

Si vous voulez en savoir plus sur le pourquoi de cette "infolettre" et qui se cache derrière, je vous laisse consulter la page que je vous ai concocté à ce sujet. 🦄

Maintenant, revenons à nos moutons électriques : cette première #TFTT est un test, d'où sa numérotation en zéro. Outre cette première introduction, nous allons y parler du grand sujet tech de 2023 et sans aucun doute de l'année à venir : l'intelligence artificielle générative. J'ai déjà publié un texte sur le sujet sur ma page Medium il y a quelques semaines, en anglais, et j'ai décidé de l'adapter en français et de l'augmenter de nouvelles réflexions.

Je vous proposerai ensuite des choses inédites pour le premier "vrai" numéro, à la mi-février. Pas de licornes et de fées pour cette itération #0, en tout cas. Mais nous resterons sur le mode des métaphores filées, puisque nous allons parler de conquistadors, figurez-vous !

Bonne lecture à toutes et à tous,

Thomas

L’état d’esprit du Conquistador, ou un rappel : Yann LeCun est un employé de Meta.

2023 a été une année importante sur un plan personnel. J'ai quitté mon travail puis mon pays pour partir vivre en Italie. Il fallait par conséquent quitter un « cocon » confortable construit durant près de douze années de travail salarié, et créer ma propre structure en indépendant. Il est encore tôt pour dire si ce choix sera payant, mais il a déjà porté ses fruits sur un point (hormis la météo) : l'écriture. J'ai pu prendre le temps d'écrire plus, sur des sujets plus variés, dans des formats divers, comme celui que vous avez actuellement sous les yeux.

Pour toute personne qui aime écrire, que ce soit dans un cadre professionnel ou personnel, l'irruption de l'intelligence artificielle générative se pose désormais comme un changement potentiel de grande envergure. L’IA générative est en effet capable d’imiter l’écriture d’un humain, pour peu qu’on lui donne les bonnes indications. Que vous vous intéressiez au sujet ou non, vous avez probablement entendu parler d’OpenAI, ChatGPT, Midjourney et consorts. Autant de noms inconnus il n'y a pas si longtemps qui se dessinent désormais sur toutes les lèvres, des plus connaisseuses aux plus profanes. La question soulevée le plus souvent concernant ces modèles d’IA générative est la nature de leur impact : positif ou négatif ? D'ampleur ou limité ?

Et bien ce n'est pas le cœur de ce que je veux évoquer ici. Car ces systèmes d'intelligence artificielle en sont encore à l'étape du projet, de l'entraînement. Si certains peuvent penser que ce qu’elles parviennent à faire est impressionnant, les spécialistes s’accorderont généralement pour vous dire que c'est de la poudre aux yeux, à ce stade. Il est trop tôt pour connaître l'impact réel qu'elles auront sur nos vies et nos activités, car les IA génératives s’échauffent encore. 🏃‍♀️🏃‍♂️

De quoi a besoin une IA pour s’entraîner ? De données, d’autant de données que possible. Pour imiter un journaliste et écrire un article, l’IA a besoin d’analyser et digérer autant d’articles de presse que possible. Il en est de même pour la génération de discussions crédibles, d’images pertinentes, etc. La matière première nécessaire pour faire vivre l’IA, c’est tout ce que l’humain a pu poster et continue à poster en ligne. Comme je le disais, nous sommes encore loin de la forme finale de ces IA, et la qualité de leur travail à ce stade est plus que discutable. Au-delà de toute dimension technique, j’exprime d’ailleurs souvent sur mes réseaux ma détestation de l’esthétique des visuels créés via l’IA générative. Maintenant, prenons de la hauteur.

L’une des personnes les plus en vue dans le domaine de l’IA est un compatriote installé aux Etats-Unis, le brillant Yann LeCun. Sorte de Pape de l’IA, LeCun a fait de nombreuses déclarations audacieuses sur la manière dont elle évoluera dans les prochains mois, les prochaines années et au-delà. Il plaide en faveur d’un développement de la technologie en open source, dénonçant au passage la nouvelle approche purement commerciale d’OpenAI et les dangers qu’elle pourrait représenter. C’est bien, non ? De mon côté, sur le papier, ça l’est immanquablement. Même si voir un employé de Meta (ex-Facebook) plaider pour quelque chose qui serait bon pour nous tous semble contre-intuitif. Chercheur de premier plan, Yann LeCun dirige en effet la division de recherche en IA de l’entreprise depuis 2013.

Puis, au début du mois de janvier, il a posté ceci sur la plateforme désormais dirigée par Elon Musk (communément toujours appelée Twitter, et que l’on espère bientôt disparue), X : « Seul un petit nombre d’auteurs gagnent beaucoup d’argent grâce aux ventes de livres. Cela semble suggérer que la plupart des livres devraient être librement téléchargeables. Le manque à gagner pour les auteurs serait limité, et les bénéfices pour la société importants en comparaison ».

Comme on pouvait s’y attendre, les réactions négatives n’ont pas tardé à abonder. De la part d’auteurs et d’autrices bien sûr, mais également de confrères et consœurs du domaine de la recherche, ou de personnes issues du monde de la tech. Nombreuses furent les voix à pointer du doigt la déconnexion avec la réalité dont faisaient preuve les propos de Yann LeCun. Je ne vais pas détailler ici ces réactions, mais si cela vous intéresse, je vous suggère de lire cet article de Ouest France (et oui, West Coast represent) qui couvre l’ensemble de la question de manière factuelle.

Comme on pouvait s’y attendre *bis*, Yann LeCun a répondu par un long post clarifiant ses pensées et expliquant en substance que nous, simples mortels, n’avions tout simplement pas compris ce que lui, esprit complexe à n’en pas douter, voulait réellement dire. Pour être plus précis, sa clarification réalisait, via une cascade périlleuse, un parallèle assez douteux : il consistait à appliquer le modèle de l’open source à l’écriture de livres. En somme, nous étions face au classique tour de passe-passe « si ça marche pour mon domaine, ça devrait marcher pour le vôtre ». Une habitude assez tenace chez les entrepreneurs et autres leaders de la tech, que j'ai eu l'occasion de voir de mes propres yeux au cours de ma carrière. Surtout, un raccourci qui montre une connaissance limitée des différences entre le monde des programmeurs et celui des écrivain.es, bien que Yann LeCun soit lui-même un auteur ; ce que nombre de critiques n’ont d’ailleurs pas oublié de souligner.

Une fois que l'on a dit cela, il apparaît pourtant que le plus étonnant est ailleurs. Car très peu de commentaires sur cette polémique ont insisté sur un point qui me semble pourtant primordial : Yann LeCun est avant tout un employé de Meta. En tant que tel, il plaide pour un développement rapide de l’IA avec aussi peu de contraintes que possible. Même s’il appelle de ses vœux un développement “ouvert” et pas uniquement commercial, la boîte de Marc Zuckerberg ne fait pas dans la philanthropie. Dès lors, ce que Yann LeCun exprime, quand il explique que selon lui tous les livres devraient être en accès gratuit et illimité, apparaît très clairement : toutes les sources d’informations de la planète, qu’elles soient écrites, visuelles, vidéos, etc. devraient être des ressources disponibles pour nourrir “son” intelligence artificielle. Les droits d’auteur ne devraient être que des vestiges du passé, eux qui sont aujourd’hui des obstacles à la construction d’une IA plus performante. Les artistes devraient cesser de se plaindre du vol de leurs œuvres d’art puis de leur reconditionnement par des entreprises d’IA générative valorisées en bourse à des milliards de dollars.

Au moment où Yann LeCun tapotait ses désormais célèbres tweets, il se trouve que je lisais un ouvrage de Stefan Zweig. Un livre ! Que je n’ai d'ailleurs pas payé, on me l’a prêté, mais passons. Cet ouvrage de Zweig n’était autre que la biographie du grand navigateur portugais Fernand de Magellan, le capitaine de l’expédition qui, la première, fera le tour du monde. Avant cette lecture, je ne connaissais qu’assez peu le personnage et son histoire. J’y ai découvert une fresque historique absolument incroyable, faite de tempêtes, de meurtres, de mutineries et autres trahisons, et de découvertes géographiques et scientifiques en pagaille. Le tout raconté par un toujours divin Zweig. Dans ce cadre, j’ai découvert plus en détail un concept dont je ne me rappelais que très vaguement : le Traité de Tordesillas. 🌎

En quoi consiste ce traité ? Signé en 1494 sous l’égide du Pape de l’époque, à la suite de la découverte de Christophe Colomb deux ans plus tôt, il divise tout simplement le monde en deux : une zone réservée à l’Espagne, une zone réservée au Portugal, dans le cadre du processus des grandes découvertes maritimes de l’époque. Autrement dit, tout territoire découvert à l’ouest d’un méridien bien défini appartient à la couronne de Castille (l’Espagne), tout ce qui sera découvert à l’est sera pour la couronne du Portugal. Nous parlons bien ici d’appartenance, de possession. Toute terre qui sera découverte, y compris les ressources et les individus y vivant, appartiendra au pays susmentionné, selon sa localisation définie par rapport à un axe imaginaire, tracé quasiment au pif, sur une carte imprécise. Décision prise par un Pape pour calmer ses deux ouailles voisines et bagarreuses, l’Espagne et le Portugal. Quelle audace, n’est-ce pas ?

Nous sommes en 2024. Les conquistadors et les papes ont changé de nature, mais sont-ils vraiment différents dans l’ampleur de leur envie de toute puissance et le peu de cas qu’ils font des dégâts que leurs découvertes pourront causer ? Si l’on suit l’état d’esprit du conquistador dont fait preuve Yann LeCun, toute source d’information, toute création humaine sur laquelle ses prototypes d’IA peuvent mettre la main doit pouvoir être digérée, assimilée. Sans compensation. Les artistes, les auteurs et autrices, les esprits créatifs de tous les domaines devraient donc se satisfaire de cette nouvelle période de “grandes découvertes”, cette colonisation de la donnée ?

Bon, dans les faits, la comparaison ne fait pas justice à Magellan. Ce dernier n’était certes pas un enfant de cœur (quoi que, puisqu’il aurait notamment évangélisé la terre entière s’il avait pu), mais il n’avait rien des bouchers qu’étaient Pizarro et Cortez, par exemple. Alors, les ayatollahs de l’IA, plutôt Magellan ou Pizarro ? Si on se base sur les faits d’arme d’une entreprise comme Meta, je pencherais pour la version la plus destructrice. Cette gigantesque entreprise a façonné nos vies de manière inimaginable, et elle continuera de le faire, que nous le voulions ou non. Tout le monde aurait ainsi oublié l’affaire Facebook x Cambridge Analytica ? Bref, le parallèle de la conquête territoriale est encore moins difficile à réaliser quand on sait que Zuckerberg s’imagine en nouvel Augustus César, despote Romain. Quoi qu’il en dise, l’entreprise de LeCun est intéressée par le profit en premier lieu. Assurons le profit, ensuite nous évaluerons les conséquences.

De manière « amusante », cette néo-colonisation appliquée aux données, cet état d’esprit du conquistador, n’a pour le moment soulevé que peu d’indignation. Peut-être après tout est-on habitué à ce que la pensée colonialiste irrigue nos imaginaires, nos visions du monde. Ce serait difficile pour un français de vous dire le contraire. Cela dit, de premiers actes de rébellion commencent à se faire jour, j’y reviendrai.

Pourtant, quand les médias généralistes découvrent, il y a de cela plus de quinze ans, que des gamins téléchargent gratuitement et donc illégalement de la musique, des jeux vidéo ou des films, on annonce bien vite la mort de la culture. Hadopi est sorti du chapeau, les enquêtes internationales sont mises en branle. Que de mythes et de peurs face à ces terribles pirates virtuels. On continue d’ailleurs à les mettre en prison, même si la culture n’est pas morte. On pourra d’ailleurs débattre de savoir qui entre les pirates virtuels, les gouvernements ou les grandes entreprises étouffent le plus la culture.

Aujourd’hui, ces mêmes grandes entreprises siphonnent toutes les données disponibles sur internet, données publiques ou non, gratuites ou non, et personne ne semble crier au piratage. Je n’imagine pas tout de suite le boss d’OpenAI, Sam Altman, derrière les barreaux. Mais sait-on jamais ? Car la rébellion se met en effet en place, sans tambour ni trompette mais avec des arguments et des idées. Citons ici quelques-unes des actions les plus spectaculaires :

Il y a l’inévitable procès intenté par le New York Times à OpenAI, créateur du logiciel ChatGPT, ainsi qu’à Microsoft, son principal investisseur. La raison semble assez claire : « Si Microsoft et OpenAI veulent utiliser notre travail pour un usage commercial, la loi les oblige à demander d’abord la permission ». Et moyennant finance, bien entendu. Des deals ont déjà été signés par OpenAI (avec Axel Springer en Allemagne, sans qu’on connaisse le montant associé), et des discussions sont en cours entre d’autres acteurs, comme Apple qui cherche à finaliser un deal avec Condé Nast ou NBC News pour entraîner sa propre IA. Dans d’autres domaines, comme celui de la musique, les gros acteurs aussi se réveillent — Google est en train d’en faire les frais. Autrement dit, pour récupérer le contenu des gros poissons, il faudra passer à la caisse. Mais comment les plus petits acteurs pourront-ils imposer ces règles aux géants de la tech ? Les grèves des acteurs et actrices aux Etats-Unis portaient notamment sur ces sujets, mais cela a été possible sous l'égide de puissants syndicats locaux et avec le soutien de figures très connues.

Plus sournois, et donc plus cool, il y a aussi Nightshade. Un logiciel qui, pour résumer, retourne l’IA contre elle-même en « empoisonnant » sa base de référence. Développé par une équipe de chercheurs et chercheuses de l’Université de Chicago, il est disponible pour les artistes depuis quelques jours. Comment cela marche, très concrètement ? Nightshade altère l’image au niveau du pixel, pour faire « voir » à l’IA un contenu radicalement différent. En utilisant Nightshade, « les yeux humains pourront voir l’image d’une vache dans un champ verdoyant, mais une IA verra un grand sac à main en cuir posé dans l’herbe. […] Entraîné sur un nombre suffisant d’images empoisonnées, l’IA finira par être convaincue que les vaches ont de belles poignées en cuir marron et des poches latérales, ainsi qu’une fermeture éclair et peut-être un joli logo ». La rébellion contre les machines, en s’amusant. ☠

Mais la résistance ne fait que commencer, et bien peu d’acteurs semblent pour le moment éduqués sur ces sujets. Quand on voit certains médias parmi les plus engagés succomber à la facilité d’illustrer leurs posts avec des visuels générés par l’IA plutôt que de donner du boulot à des graphistes, on se dit qu’il y a encore du chemin à parcourir.

Et le temps presse, car l’IA générative commence déjà à bousculer le quotidien de beaucoup d'esprits créatifs. Quand les auteurs et autrices de science-fiction imaginaient l’intelligence artificielle au siècle dernier, ils entrevoyaient plutôt qu’elle nous remplacerait dans nos tâches les plus rébarbatives, pour justement laisser l’humanité se consacrer à la culture, à la création. N’est-ce pas exactement l’inverse qui est en train de se produire ? A savoir : l’IA essayant de mimer et remplacer les artistes pour nous laisser plus de temps pour consommer, et ce à un coût moins élevé pour ceux qui financent la culture sous toutes ses formes ? La vision néocapitaliste ultime en un sens : nous donner toujours plus de “choix” avec des contenus payants, produits à la pelle par des IA, des contenus adaptés aux plus près de nos “envies” selon des algorithmes, le tout basé sur des données que nous donnons gratuitement.

Vision effrayante, et en même temps déjà un peu familière quand on voit la quantité astronomique de contenus publiés sur les dizaines de plateformes de streaming désormais disponibles. Et puis, quand l'on sait sur la base de quelles théories particulièrement fumeuses les grands de la tech s'écharpent actuellement, rien n'a plus l'air d'être vraiment de la science-fiction. 🛸

Revenons un instant au début de cet article. Si j’ai exprimé ici mon désir d’écrire, je n’ai pas personnellement l’intention de devenir un auteur professionnel et de gagner ma vie grâce à cela. Mais : s’il n’y a pas une seule perspective pour le faire, avec l’IA qui copie votre travail sans vous rétribuer, les auteurs potentiels n’abandonneront-ils pas l’idée même d’essayer ? Je veux dire, tous les auteurs et autrices ne peuvent pas tous « faire une Edgar Allan Poe », c'est à dire écrire des histoires incroyables, sans en tirer un centime, ainsi mourir pauvre à souhait, puis enfin devenir un conteur légendaire post mortem. En envisageant ce modèle que l’avènement de l’IA esquisse, n’allons-nous pas tuer la créativité au moment où nous en avons le plus besoin ? Car les humains vont devoir être plus imaginatifs que jamais pour rivaliser avec une IA capable de copier n’importe quelle oeuvre existante. Un devoir qui pourrait théoriquement même devenir une bonne chose, en nous poussant dans nos retranchements en tant qu’êtres créatifs. 🧠

Rien n’est perdu, ou gagné. Et surtout rien n’est fait. Évolutions, récupérations, imitations, rébellions. Difficile de prédire comment finira cette histoire de l’IA, une histoire qui ne fait que commencer. Une chose est sûre cependant : 2024 sera une année décisive pour définir ce que nous déciderons de faire de notre monde dans les décennies à venir, et cela sur de nombreux plans. Technologique donc, mais aussi environnemental ou politique.

Précisons une chose pour terminer, car cela n'apparaitra sans doute pas toujours évident dans ce texte : je ne déteste pas l'IA. Son potentiel est immense. A ce stade, je n'en ai pas vraiment peur non plus. Mais son progrès, comme tous les grands progrès scientifiques, doit-être régulé. Nous sommes par ailleurs tous d'accord : Yann LeCun est BEAUCOUP plus intelligent que moi. Simplement, dans la tech comme ailleurs, il faut être attentif à qui l’on choisit de se référer. Qui sont les individus que nous voyons comme des sources d'inspiration. Pour ma part, aussi brillant soit-il, j’estime que Yann LeCun n’est pas si intéressant que cela. En revanche, je vous conseille de vous pencher sur le profil de Fei-Fei Li. Une femme, migrante, qui a eu le courage de quitter un job d’ampleur chez Google pour retrouver son rôle de chercheuse, et qui a un réel regard critique sur son domaine d’activité. Voilà en effet un profil qui change un peu dans le secteur de la tech en général, comme dans celui particulièrement biaisé de l’IA, n’en déplaise au New York Times.

Les recos de TFTT :

Chaque mois je vous conseillerai donc en bas de mail quelques recommandations culturelles, associées plus ou moins directement au sujet de l’édition en cours. Pour cette première, vous conseiller des choses à lire a été assez facile, puisque j'en ai évoqué dès le texte lui-même.

📚 J’ai toujours beaucoup aimé Stefan Zweig. Son Joueur d’Échecs est le livre, au collège, qui m’a vraiment révélé le pouvoir de la littérature. J’ai lu la très grande majorité de ses romans, ainsi que son récit autobiographique Le Monde d’Hier, qui m’a beaucoup marqué. Mais je n’avais jamais lu ses nombreux travaux biographiques. Bien mal m’en a pris. Sa biographie de Magellan est très impressionnante. Parce qu’on y retrouve la verve habituelle de Zweig, mais surtout parce que, bon sang, quelle histoire. Tout dans la vie de cet homme, dont on sait pourtant si peu, ce qui oblige parfois Zweig à remplir les blancs, semble surhumaine. Il trahira un roi avant d’être trahi par un autre, survivra à des mutineries et aux pires épreuves tout cela pour mourir d’une manière tragiquement ridicule et évitable. Son expédition partie donner les épices au roi d’Espagne sera un échec sur bien des points, mais est au final l’un des plus grands exploits de l’humanité. Si vous aimez la grande aventure, lancez-vous.

📺 Il n’y a pas que Zweig qui s’est passionné pour Magellan. La chaîne franco-allemande Arte aussi, et de quelle manière. Que vous ayez une légère flemme de lire, ou que vous vouliez compléter la lecture de Zweig comme ce fut mon cas, regardez L’Incroyable Périple de Magellan. C’est brillant, très bien documenté, avec des intervenants très intéressants (Rœllinger vient même y parler d’épices !), et apporte un éclairage encore différent à l’aventure de Magellan. Échec commercial, elle est au final l’un des premiers coups d’essai du capitalisme et de la mondialisation, ouvrant des voies et des méthodes de financement désormais très familières... notamment dans la tech.

Magellan le Conquistador et les grandes multinationales, la boucle est finalement périlleusement bouclée. Comme un palpitant tour du monde en caravelle.

Rendez-vous très bientôt pour TFTT #1. En attendant, restons en contact !

Thomas