TFTT #3 – Grâce à l'IA générative, c'était vraiment mieux avant 👴

L’intelligence artificielle dite générative, en envahissant les moindres recoins d'internet, y compris les plus ringards, pourrait bien aider à confirmer certains des biais les plus éculés qui soient. Comme cet "avant" chimérique, celui de l'expression bien connue "c'était mieux avant", tant chérie par une frange bruyante des baby-boomers. Tentatives d'explication. À l'aide, figurez-vous, de l’Histoire de la Rome antique.

Vous l'entendez souvent, cette sentence sans équivoque. Elle apparaît régulièrement dans les commentaires sur les réseaux sociaux, notamment sur ce bon vieux Facebook, ou sous des articles de presse généraliste. Elle est devenue un attribut caricatural de la parole “boomer”, appellation faisant référence aux personnes nées durant le baby-boom, période qu'on estime de 1947 à 1965. Cette sentence, la voilà : "c'était mieux avant". Qu'est ce qui était mieux avant ? Ce n'est pas toujours clair, mais disons notre monde, notre société de manière générale. L'expression serait sensée refléter une perte de valeurs, de repères, un rejet d’une modernité difficile à suivre et comprendre étant donné la rapidité de son évolution. Elle est souvent associée à d'autres périphrases épuisantes, du style de "on ne peut plus rien dire".

Je précise d'emblée que cet article ne sera pas un pamphlet anti-boomer. À chaque génération ses génies et ses idiots, ses qualités et ses défauts, ses réussites et ses échecs. Basta. Précisons ensuite que, si j'ai beau être loin des boomers sur l'échelle du temps, je peux parfois comprendre que l'on dise "c'était mieux avant". La perception de notre monde se complexifie et s'intensifie en effet grandement. Cela du fait de cette abondance croissante des sources d'informations, notamment via les réseaux sociaux et nos smartphones, nous abreuvant de milliers de stimuli par jours. Cela aussi à cause des mécanismes qui sous-tendent cette abondance. Les algorithmes, notamment. C'est un peu ce que nous avions évoqué dans le numéro précédent de TFTT. 

Cela étant dit, la société plus vertueuse, plus simple et plus heureuse à laquelle fait référence cet "avant" susmentionné, et bien : elle n’existe pas. On pourra éventuellement dire qu'il a existé pour un panel très visible et bruyant, mais au final très limité : les hommes, blancs, hétérosexuels, issus de pays occidentaux, et en leur sein de classes sociales a minima aisées. J'ajouterais : ceux qui, dans ce panel, se moquent rétrospectivement d'avoir pu bénéficier de tout cela grâce à leur méprisante exploitation de tout ce qui n'est pas masculin, blanc, hétérosexuel, occidental et plutôt aisé. Il y a bien sûr des exceptions à ce périmètre : depuis les temps immémoriaux, vous verrez toujours des membres des classes dominées défendre ou s'approprier des figures et préceptes des classes dominantes, par exemple. Mais je me fous un peu de l'opinion dudit panel très limité et de ses soutiens, panel élargi dont les vedettes sont chez nous Sardou, Bigard et votre tonton raciste. On a les porte-étendards qu'on mérite.

Avant de rentrer dans des considérations plus technologiques et actuelles – c'est quand même pour ça que vous me lisez – regardons un peu en arrière. Car historiquement, les membres les plus âgés d'une société, à un temps T, estiment toujours que le monde était mieux quand ils étaient jeunes. C'est un cycle constant et, semble-t-il, inéluctable. Il était déjà en place pendant la Rome Antique, par exemple, comme le raconte l'historien et philosophe Lucien Jerphagnon dans son "Histoire de la Rome Antique" – que j'étais justement en train de lire au moment de la rédaction de ce numéro de TFTT, par le plus grand des hasards : "« Rome ta vertu fout le camp… », voilà, à peu près, ce qu'on lit à toutes les pages de la littérature de l'époque dite impériale (c’est-à-dire les premiers siècles de notre ère, NdA). Prenez-les tous ou à peu près : Valère Maxime, Salluste, Tite-Live, Sénèque même dans ses plus belles villas, Lucain, Pline l'Ancien, Juvénal bientôt, et j'en passe. Chez tous, vous trouverez un couplet plus ou moins nostalgique sur la Rome rurale et guerrière d'autrefois, ou même, sans remonter aussi loin, sur le bon vieux temps si dangereux des guerres puniques. Ah ! C'était une fameuse époque, et peuplée de rudes hommes !" 

Le hasard fait d'ailleurs tellement bien les choses, que j'ai depuis découvert que Jerphagnon avait consacré un livre tout entier aux "plus belles perles du pessimisme générationnel", intitulé, je vous le donne en mille : "C'était mieux avant…" ! L’historien conclut le chapitre que je citais plus haut par ces mots : "Chaque âge a ses phantasmes." La différence aujourd'hui ? C'est que tout soixantenaire bougon qui le désire peut étaler son bourdon sous les yeux de toute l'humanité à longueur de commentaires Facebook. Il n'est plus besoin d'être un philosophe en toge.

À chaque génération son "avant", donc. Un avant qui n'existe jamais vraiment. Soit. Soit ? Car c'est là que la technologie entre en jeu. Dans un twist qu'il aurait été difficile d'anticiper même pour un auteur ou une autrice de science-fiction extrêmement créatif, c’est bien la technologie qui pourrait faire de cet avant chimérique une réalité d’un point de vue visuel. Et pas n'importe quelle technologie. Précisément la technologie dont tout le monde parle à tort et à travers, et souvent pour dire n'importe quoi. Une technologie qui risque, justement, de plonger notre société toute entière dans une complexité et une surabondance toujours plus grande. Vous me voyez venir : je parle bien sûr de l'intelligence artificielle. Générative plus précisément.

L'IA "au service" des "boomers" les plus renfrognés ? Oui, cela peut paraître contre-intuitif. Mais dans les faits, quoi de mieux que l’intelligence artificielle générative pour imaginer un “avant” tout aussi artificiel, issu de l'image faussée d'un passé fantasmé ? C'est en fait déjà en train d'arriver.

Dans cette édition d'avril de TFTT, nous allons donc voir ensemble ce qui se passe concrètement depuis quelques mois, pourquoi nous ne sommes pas égaux quand il s'agit de détecter un faux visuel généré grâce à l'IA, et quelles conséquences va avoir l'IA générative sur nos perceptions de la réalité passée, présente, et future.

Un réseau social en particulier va beaucoup être mentionné, et l'a déjà été, dans ce numéro de TFTT. Facebook. D'une certaine manière le "premier" réseau social, au sens où il est celui par lequel les réseaux sociaux sont devenus globaux. Il a d'ailleurs été le premier réseau social pour beaucoup d'entre nous, sauf à considérer les Skyblogs comme un réseau social global – les vrais savent. Facebook a en tout cas été le premier à avoir eu un impact réel et concret sur nos vies, sur la façon dont nous interagissons avec nos proches, dont nous nous informons, etc. Il reste d'ailleurs aujourd'hui le premier réseau social en termes de nombre d'utilisateurs, avec plus de 3 milliards d’utilisateurs actifs mensuels à travers le monde. Rien que ça.

Plus intéressant encore, en France comme dans la plupart des pays occidentaux, l’âge moyen de l’audience de Facebook progresse fortement. Les premiers utilisateurs et utilisatrices vieillissent au même rythme que la plateforme elle-même, mais elle a depuis élargi son audience à leurs parents, alors que dans le même temps, on constate son faible attrait du côté des jeunes générations. Que ce soit lié ou non à ce vieillissement, on constate aussi à quel point Facebook est devenu un terrain miné, comme l'explique cet article de Slate, qui date un peu mais reste pertinent à mes yeux. Il faut dire que j'ai eu le loisir de constater cette problématique de mes propres yeux, dans de le cadre de mes différents jobs. Sur les cinq dernières années, tous les managers des pages Facebook de mes différentes entreprises avaient la même conclusion : poster sur Facebook est un enfer pour les entreprises et pages en tous genres, la plupart des posts créant bien plus qu'ailleurs des réactions négatives, polémiques voire problématiques. Je ne souhaite à personne d'être le community manager d'une page Facebook.

Les visuels générés par IA s'immiscent partout, même là où on les imagine le moins

Facebook est également un puits infini de groupes partageant des contenus plus gênants les uns que les autres pour les plus jeunes, qui découvrent la réalité d'un décalage majeur dans l'humour en ligne avec les plus vielles générations. Visuels pixelisés, montages ratés ou illisibles, blagues éculées, sexistes ou très très discutables… c'est un festival. Voici un petit exemple de « blague », garantie sans IA, qui mêle transphobie et tout ce que j'ai cité ci-dessus. Exemple qui est – je le jure – le premier sur lequel je suis tombé en ouvrant un des nombreux groupes "nostalgie des années XX" sur Facebook. Qu'est-ce qu'on rigole ! Les commentaires sont à l'avenant.

 En naviguant sur ce genre de pages, j’ai déjà l’impression d’avoir posé le pied dans un monde parallèle. Mais je ne suis pas le seul à vivre dans une réalité parallèle : ces français utilisent souvent des images venant des Etats-Unis pour évoquer une soi-disant nostalgie de leur propre jeunesse française, pourtant forcément différente. Cette « blague » est même une traduction littérale d'un post existant sur des groupes similaires aux Etats-Unis. Cette nostalgie d’une époque révolue, mais qu’ils n’ont pas eux-mêmes vécu, interroge. Et cela avant même d’évoquer l’IA.

L’intelligence artificielle, nous y arrivons. Car depuis quelques mois, on assiste à un nouveau phénomène assez étonnant. La multiplication exponentielle de visuels réalisés via IA générative sur Facebook, au sein de cercles et de groupes fréquentés essentiellement pas des personnes de plus de 50 ans. Et quels visuels ! Des images tout droit sorties de vos pires cauchemars, likés en masse par des utilisateurs qui ne semblent pas se rendre compte que ce sont des faux. Une sculpture de Jésus en moto réalisée en poireaux géants !? Une pseudo-mamie de 122 ans à la peau de pêche, accompagnée d'une famille constituée de top models La Redoute, tout ce beau monde réuni autour d'un gâteau d’anniversaire on ne peut plus chelou ? Tout cela est totalement faux, mais cela n'empêchera pas des milliers d'utilisateurs de liker, commenter, repartager. Et d'après plusieurs chercheurs ayant creusé le phénomène, il semblerait bien que la majorité des utilisateurs ne se rendent absolument pas compte qu'ils ont à faire à des images générées par IA. Si vous n'avez pas encore votre dose de cringe pour la journée, n'hésitez pas à aller voir cette page Facebook, à l'origine dudit Jésus. Elle publie des dizaines d'images générées par IA chaque jour. On est sur un niveau de gêne extrême. Profitez-bien.

Mais alors, pourquoi Facebook est ainsi pollué de dizaines de visuels générés par IA ? D’abord, ces visuels répondent parfaitement aux exigences de Facebook en termes d'algorithme. Si les spécificités de l'algorithme de Facebook ne sont pas officiellement connues, de nombreux experts pensent qu'il récompense les comptes postant beaucoup d'images, accompagnées de textes courts. Il ne détecte pas la nature des dites images (si elles sont créées par IA ou non, par exemple). Ce qui va permettre à ces posts d'apparaître plus haut sur la page d'accueil du réseau social. Pour ces pages, cela veut dire plus de partages, de commentaires, de likes. Ensuite, leur but final est de rediriger vers d'autres pages web douteuses, elles aussi créées à l'aide de l'IA, et hébergeant des publicités pour des produits là-encore assez douteux. Bref, la motivation est toujours la même dans ce type de configuration : faire de l'argent sur le dos de personnes peu initiées aux affres du web. D'autant qu'il semblerait que ce même procédé soit aussi utilisé pour jeter tout droit les utilisateurs Facebook vers des arnaques plus dangereuses encore. Est-ce que Facebook va faire quelque chose pour régler ce problème ? Difficile à dire, Facebook et Meta, sa maison mère, n'étant pas franchement connues pour leur modération en béton. Elles ont cependant annoncé leur volonté d'ajouter prochainement un tag sur les photos générées par IA, pour plus de clarté. Wait and see.

Facebook n'est d'ailleurs pas la seule plateforme concernée. Le moteur de recherche de Google voit notamment la qualité de ses résultats impactée. LinkedIn est un festival de posts pseudo-inspirationnels accompagnés d'immondes visuels générés par IA, comme je m'en suis déjà plein sur le réseau social professionnel. On assiste même à l'irruption de l'IA générative dans des communautés inattendues : celle des fans de tricot et de crochet, par exemple, comme l'évoquait plus largement cet article du Monde. Je suis particulièrement friand de cet intertitre : "Les crocheteuses contre les « techbros »." La résistance pour sauver nos mamies (et les autres) des griffes des arnaqueurs du numérique se met en place ✊

Ce premier constat nous mène à une seconde question : savons-nous pourquoi nous ne sommes pas égaux quant à notre capacité de détection des faux réalisés par IA ? Comme l'explique ce papier très complet de The Daily Beast, si les quelques études sur le sujet tendent à montrer que les personnes plus âgées se font plus facilement berner par des visuels générés par IA que d'autres publics, ce n'est pas une science exacte. Et surtout, on ne sait pas vraiment pourquoi. La première explication qui vient à l'esprit est simple : tout le monde n'a pas entendu parler de l'IA générative, et de l'impact sur la création visuelle que ces technologies ont déjà. Plus largement, il n'apparaît pas forcément évident pour tout le monde qu'une image peut-être créée de toute pièce, et moins on a été exposé à la technologie, moins cela semblera possible.

Une fois qu'on a dit cela, et bien… on est plutôt dans le flou. Certains évoquent le déficit cognitif qui affecte les personnes les plus âgées, mais cela me semble franchement tiré par les cheveux. Il faut dire que l'exposition à de tels volumes de fausses images est très récente, et que les entreprises de la tech tendent à ne pas représenter beaucoup les personnes plus âgées dans leurs panels de tests. La tech et la diversité, cela a toujours fait deux. Bref, il faudra attendre encore un peu pour en savoir plus.

Allez, minute tutoriel pour les moins initiés : comment détecter qu'une image est générée par IA ? Prenons l'exemple d'un post que j'ai trouvé récemment sur Facebook. Les 193 afficionados de la Citroën DS qui ont liké ce post n'ont probablement pas remarqué qu'il ne s'agissait pas du tout d'une DS, mais d'une pâle copie. Comment je le sais ? Alors :

• Remarquez quelques exemples saisissants : pas de rétroviseur à gauche, et un essuie-glace… étrange
• En y regardant de plus près, les lignes générales du véhicules sont asymétriques et peu réalistes
• l'IA générative visuelle ne sait pas écrire : essayez de lire ce qui est écrit à l'avant du capot ! Ce ne sont pas de vraies lettres
• On trouve à l'ensemble une lisseur "cartoon" surnaturelle, propre aux visuels générés par IA
• Regardez de plus près les étranges véhicules et silhouettes qui peuplent le fond de l’image
• Que dire des spécificités architecturales, les statues difformes, les colonnes trop semblables, etc.
• Un décor qui ne correspond à aucun lieu réel, mélangeant divers lieux parisiens indistincts

Quel impact sur notre vision du passé, du présent, du futur

Pollution de nos espaces numériques, exposition à des arnaques. Voilà donc de premiers problèmes que posent le partage en masse de visuels générés par IA, notamment auprès de publics moins à même de détecter la supercherie. Mais les risques potentiels associés à cette technologie sont de fait beaucoup plus grands. Si des personnes sont capables de croire à la réalité de centaines de sculptures de Jésus en légumes divers et variés, il n'est pas difficile d'imaginer pire. Ainsi, d'autres mensonges et altérations de la réalité pourraient être crédibilisés aux yeux de pans entiers de la société.

Revenons sur Facebook un instant, avec un exemple qui peut paraître de prime abord anodin. Voyez ce visuel de figures féminines hippies, cliché au possible, trouvé là encore sur un de ces groupes "Nostalgie des années XX. Comment sait-on que c'est de l'IA ? La qualité n'est pas terrible, mais là encore : lisseur surnaturelle du visuel, visages très symétriques et ressemblances frappantes entre ceux-ci, mains et doigts imprécis, mesures irréalistes du véhicule en fond, etc. Danielle note tout de même en commentaire d'un des posts partageant ce visuel : "Ceux (sic) sur la photo ont à peu près 20 ans. Et elles sont maquillées. Rien ne change vraiment. Même les cheveux sont comme les années 2020." Et Danielle de pointer là, sans s'en rendre compte, le problème que pose l'IA ici : comment être sûr en effet que les coupes de cheveux, le maquillage, la largeur des pattes d'eph, tout cela est fidèle à la réalité de l'époque ?

Nous avons encore pour le moment des capacités de comparaison avec de réelles photos de l’époque, et nos grands-parents ou parents sont encore là pour nous la raconter. Mais si tout internet est ainsi pollué de faux non signalés comme tels, comment saura-t-on ce qui est vrai ou non ? Surtout à des époques où il n'y a plus de survivants pour nous dire à quoi cela ressemblait, de vrais Poilus, par exemple ? Si certains en commentaires du même post notifient qu'il s'agit d'une image générée par IA, Lise, elle, assène : "Les femmes de cette époque étaient plus naturelles, pas de botox et artifices comme aujourd'hui !". Quelle ironie.

Si l’IA peut avoir un impact sur notre perception de sujets aussi triviaux, on se doute qu’elle peut en avoir un sur des thèmes beaucoup plus dangereux. Notamment du côté de l'extrême droite, qui tente déjà d'instrumentaliser tout et n'importe quoi pour faire croire à ses chimères : grand remplacement, racisme antiblanc, "la colonisation ça a du bon", etc. Et notamment cette obsession pour un avant où la France était soi-disant plus heureuse et en sécurité, car supposément blanche et chrétienne dans son intégralité. Un monolithe qui n'a jamais existé.

On se doute alors avec quel appétit l'extrême-droite suit les évolutions de technologies facilitant la diffusion de fausses informations, comme l’outil à la fois puissant et accessible qu’est l'IA générative. C’est le cas en France, où les militants d’extrême-droite, d’ultra-droite, de Reconquête, du RN… bref : où les fachos utilisent l’IA pour donner forme à leurs fantasmes les plus stupides. Pour le moment, cela donne des visuels plus gênants qu’autre chose, mais à quand les faux convaincants ?

On peut imaginer, avec la campagne US arrivant à grands pas, que nous aurons sans doute des exemples tristement intéressants à débunker outre-Atlantique. Cela a en fait déjà commencé, avec des angles que je n’avais pas anticipé ! Des supporters de Trump ont en effet diffusé sur les réseaux sociaux des visuels générés par IA pour convaincre de la proximité de leur candidat adoré avec la communauté afro-américaine. Et que dire de ce post extraordinaire faisant croire que Target, grosso modo l'équivalent de Kiabi aux US, vend des fringues satanistes pour enfants. Ce qui, en pleine frénésie complotiste pro-Trump de l'autre côté de l'Atlantique, ne parvient même plus à me faire rire.

Car quand on sait que la présidence Trump souhaitait nous faire rentrer dans l'ère de la "post-vérité" avec les conséquences que l'on sait, que penser d’un potentiel nouveau mandat de "l’agent orange" avec ces nouvelles armes à sa disposition ? Il y a de quoi être inquiet pour 2024 comme pour 2027. Il faudra d’ici là naviguer avec prudence sur Facebook. Surtout quand on sait le peu de respect pour l'existant qu'ont les employés de Meta - société qui a aidé à l'élection de Trump, rappelons-le, et qui développe son propre modèle d'IA générative – comme je l'évoquais dans le numéro introductif de TFTT.

Pour ce qui est de Twitter : je vous conseille de ne pas y naviguer du tout, et de quitter cette plateforme de plus en plus infernale.

Avant même d'imaginer une instrumentalisation de l'IA à grande échelle à des fins politiques, il est utile de rappeler que l'IA générative elle-même perpétue des biais, renforce des stéréotypes préexistants. L'intelligence artificielle n'est pas intelligente par elle-même. Elle n'est en aucun cas comparable à l'intelligence humaine dans son fonctionnement. Elle ne vise pas la vérité, mais la vraisemblance. « Le monde selon l'IA générative est dirigé par des PDG de sexe masculin blancs, écrit ainsi le média US Bloomberg. Les femmes sont rarement médecins, avocates ou juges. Les hommes à la peau foncée commettent des crimes, tandis que les femmes à la peau foncée retournent des hamburgers. » Les femmes hippies, elles, sont donc visiblement toutes des top models blanches.

Comme l'IA va au plus « logique », selon les données qu'elle digère, un français sera évidemment blanc. Il sera facile alors d'utiliser (ou se laisser berner par) l'IA générative pour illustrer son idée que « c'était mieux avant », quand la France était supposément moins « complexe », plus monolithique, bref : moins diverse. Cela ne fera que confirmer des biais que certains appliquent déjà sans s'en rendre compte. Les entreprises possédant les modèles d'intelligence artificielle déjà disponibles sont bien entendu conscientes de ses biais. Google a par exemple essayé de corriger le tir, avec des résultats désastreux qui ont mené à l'arrêt pur et simple de la génération d'image par son propre modèle d'IA générative, Google Gemini.

Sans avoir besoin d'outils supplémentaires pour aller dans ce sens, l'Histoire avec un grand H souffre déjà de biais. Car, les historiens et historiennes le rappellent souvent, ce sont les vainqueurs et les « sachants » qui l'écrivent, avec toute leur subjectivité. Pour revenir à ma comparaison antique, Lucien Jerphagnon l'expliquait dans son ouvrage : « Le plus drôle est peut-être que ce sont justement ces figurés-là, ces images idéales du Romain pur et dur, nées des nostalgies des Romains eux-mêmes, qui se sont imposées à la postérité. »

Que se passera-t-il alors si nous pouvons toutes et tous raconter l'histoire avec nos subjectivités, en créant les preuves justifiant nos propres discours ? Et surtout celles et ceux le faisant avec des arrières pensées, en voulant faire disparaitre des pans de la réalité qu'ils n'aiment pas, ou faire prévaloir une « réalité » qui n'a jamais existé, mais qui est plus plaisante à leurs yeux ? La profession d'historien.ne n'aura jamais été aussi précieuse, mais également périlleuse, alors que les premiers montages IA historiques font leur apparition.

L'espoir au bout du Midjourney ?

L'IA générative, visuellement comme à l'écrit, a donc un potentiel important en tant qu'arme de désinformation. Elle pourrait de plus contribuer à nous enfermer dans nos cercles de pensées, encore davantage que les algorithmes ne le font déjà, en venant confirmer nos biais et en tournant en boucle sur la réutilisation de l'existant. Nous vivrions alors dans une espèce de multivers virtuel : chacun dans des réalités parallèles, illustrées par des images générées par IA, devenues indétectables et présentes en si grande abondance qu'elles oblitèrent le reste… Que croire, qui croire ?

J'extrapole, volontairement. C'est mon petit côté fan de science-fiction, que voulez-vous. C'est à cela que sert la SF, après tout. Mais nous n'en sommes pas encore là, et il y a des contre-arguments.

Certains pensent en effet que l'impact de l'IA générative du point de vue de la désinformation ne touchera que ceux qui sont déjà dans les griffes des désinformateurs, s'informant sur des sites complotistes, antivax et consorts. Les canaux d'information plus qualitatifs, comme la presse, continueront à porter des messages réels et seront attentifs à l'impact de l'IA. Je ne partage pas forcément leur optimisme au vu de l'état économique de la presse en 2024, mais espérons. Peut-être d'ailleurs l'irruption de plus en plus de fausses informations et de faux visuels créés par IA poussera l'audience à se tourner à nouveau vers des médias indépendants et de qualité ? Il n’est pas interdit de rêver. 

Il est également utile de rappeler que des faux, cela a toujours existé. Les historiens et historiennes parviennent dans la majorité des cas à les débunker. Mais pas dans le cas de cette célèbre – et incroyable – photo de Robert Capa, dont on ne sait toujours avec certitude si elle a été mise en scène ou non. D’ailleurs, vous vous souvenez du dessin de Sénèque que je vous présentais en début d’article ? Et bien, les spécialistes pensent désormais qu’il ne s’agit pas de lui sur ce croquis, finalement. Dommage !

Dans un autre registre de l’espérance, je vais extrapoler à nouveau. Peut-on imaginer qu'en réaction à cet effondrement de la "réalité d'internet" – que certains complotistes imaginent depuis longtemps déjà – nous assistions à un retour à une préférence aux rencontres, débats, échanges physiques plutôt que numériques ? À une mort des réseaux sociaux en dehors du cadre amical, familial, professionnel, également ? Faites attention, je suis à deux doigts de dire "c'était mieux avant", là. Blague à part, je vais encore calmer cette extrapolation, puisque pour certains l'IA n'est qu'un nouveau nom marketing pour appeler une automatisation complète de nos vies qui est déjà en place, via le web. Oui, tout cela fait mal à la tête.

Beaucoup de risques pour pas grand-chose

On l'a vu, les risques inhérents à l'IA générative existent. Il est encore tôt pour connaître leurs impacts réels, mais il est également impossible de les nier.

Je dirais que nous serions capables d'accepter certains risques inhérents à cette technologie, si celle-ci changeait réellement nos vies pour le mieux, comme l'imaginait les auteurs de SF du siècle dernier. Sauf que, comme l'explique de plus en plus d'observateurs : pour l'instant, l'IA générative ne sert à rien. Hormis en tant qu’assistant de luxe, permettant quelques life hack pour geekos. Dans cet excellent article, dont je vous conseille chaudement la lecture si vous lisez l'anglais, Ed Zitron est on ne peut plus clair : les grands patrons des entreprises qui financent des modèles d'IA ne parviennent pas à expliquer à quoi elle sert. Quand on leur demande des applications concrètes, ils éludent. Quand on leur demande comment cela marche, idem. Inquiétant ?

Le problème va peut-être rapidement se régler de lui-même, après tout, selon Ed Zitron : "Si la bulle de l'IA éclate, c'est toute l'industrie de la tech qui en pâtira, car les investisseurs se seront une fois de plus laisser entraîner dans la poursuite d'une tendance non rentable et à peine étayée", comme récemment le métavers ou les NFT. Et de conclure : "Sam Altman [le patron d'Open AI] a désespérément besoin que vous pensiez que l'IA générative est une technologie essentielle, inévitable, parce que si vous ne le faites pas, vous réaliserez soudain que des dizaines de milliards de dollars de capitalisation boursière et de revenus sont investis pour développer quelque chose de particulièrement médiocre."

Ed Zitron toujours, dans un article d’il y a quelques jours, explique une autre limite qui pourrait bien couper l’herbe sous le pied de l’IA : le manque de données de référence pour entraîner les modèles d’IA générative, comme le futur ChatGPT 5. Car si l’internet public a l’air infini, il ne l’est pas, et les IA ont besoin de gigantesques quantités de données de "haute qualité" pour proposer des réponses crédibles. Personne ne semblant vraiment capable d’expliquer ce que signifie "haute qualité" ici. Face au risque de pénurie, certains imaginent que l’on pourrait créer de fausses données de référence pour continuer à mener ces entraînements. Du faux sur du faux. Des biais sur des biais. Voilà qui ressemble à une super bonne idée !

On pourrait même aller plus loin et se poser la question du besoin réel de l'IA dans son format actuel. Pour revenir une dernière fois à la Rome Antique, Jerphagnon cite une anecdote intéressante sur l'empereur Vespasien : "Vespasien était attentif à procurer des emplois au peuple, et parfois d'une manière qui contredit nos modernes procédés de rentabilisation. C'est ainsi qu'il refusa courtoisement le projet d'un ingénieur qui proposait un élévateur capable de transporter des colonnes à moindres frais : dans son esprit, cela fût revenu à priver le petit peuple d'un moyen d'existence." La métaphore a évidemment des limites. Supprimer des emplois rébarbatifs pour les remplacer par des emplois plus agréables, utiles ou créatifs, ce serait très bien. Mais n'est-ce pas exactement l'inverse qui est train de se produire ? L’IA, que l’on imaginait nous affranchir des tâches rébarbatives pour permettre aux humains de s’intéresser plus encore aux arts, n'est-elle pas justement en train d'essayer de "productiviser" la création artistique ?

Si l'IA générative n'a donc à ce stade pour capacité tangible que celle de remplacer grossièrement et sans génie les artistes, ne devrait-on pas l'enterrer tout simplement ? Son impact environnemental exponentiel, ses manques de revenus à ce stade, ses capacités réelles limitées, ses faux semblants qui font les gros titres… tout cela fait qu'on devrait y penser. Mais nous ne sommes pas chez les bisounours. Nous sommes dans le vrai monde capitaliste dérégulé : tant que des gogos seront d'accord pour financer les rêves de quelques techbros excités mais un brin charismatiques, l'IA continuera d'avancer, avec les dégâts inhérents. 

A moins que… Allez, dernière extrapolation : et si l’IA était finalement la plus grosse balle dans le pied de l'histoire de la tech ? En surlignant auprès du grand public le manque de garde-fous existants au progrès technologique numérique, l’avènement des IA génératives va-t-il confirmer la tournure que semble prendre les événements ? Car on voit en effet un nouveau phénomène se faire jour, et en grande partie à cause de l'omniprésence médiatique de l'IA. Ce phénomène, on le surnomme "Techlash". Un mot valise, contraction des mots "technologie" et "backlash", ce dernier étant un mot anglais signifiant "réaction négative".

Si le terme techlash n'est pas nouveau, il est revenu récemment sur le devant de la scène à l'aune des nombreuses attaques menées par des politiques et des médias contre une industrie de la tech estimée comme hors-sol, irresponsable d'un point de vue environnemental comme éthique. Et cela en Europe, mais chose plus nouvelle, également aux Etats-Unis, sacro-saint pays des techies et de la Silicon Valley. Dernier exemple en date dans le très populaire talkshow US "The Daily Show", justement sur l'IA. Que Apple, qui développe son propre modèle d’IA, avait d’ailleurs voulu censurer.

Cette édition de TFTT aura une nouvelle fois malaxé des concepts variés, proposé des extrapolations plus ou moins crédibles. Je ne suis pas devin : je ne sais pas de quoi sera fait le futur de l’IA, de la tech au sens large, et de notre société au global. Mais je pense qu’il est important, pour ceux qui évoluent dans l’univers de la tech, d’avertir le reste de la population des risques inhérents à leur secteur. Car ces derniers pourront avoir des impacts qui nous dépassent tous. 

Il est important également que la politique s’intéresse enfin à l’industrie de la tech pour autre chose que ses retombées économiques. Son impact sur nos démocraties n’est plus discutable (ce n’est pas ce cinglé de Musk qui vous dira le contraire). Et si la tech elle-même ne l’admet pas, elle pourrait bien en souffrir de manière irréversible.

Une seule chose est sûre, en fait : ce n’était pas mieux avant. Cela ne sera pas mieux après. Que ce soit avant ou après, c’était et ce sera différent. Il ne tient qu’à nous (et aux historiens et historiennes) de ne pas oublier que le monde change encore plus vite que nous, individuellement. Sinon, c’est prendre le risque de devenir un vieux (ou un jeune) con.

PS : j'ai totalement flingué mon algorithme Facebook pour les besoins de cet article, et me vois désormais proposé des posts avec des citations erronées de personnages morts au siècle dernier, priez pour mon salut. (J'en fais des caisses, mais en réalité, ça va : Facebook ne me sert plus qu'à ne pas oublier l'anniversaire des copains… qui sont encore sur Facebook).

Les recos de Tales from the Tech :

Ce mois-ci, vous allez un peu me voir venir. Et en même temps, pas du tout.

Commençons par ce à quoi vous allez vous attendre ! Il me faut en effet vous conseiller la lecture du livre dont j’ai cité des morceaux choisis tout au long de mon texte. "Histoire de la Rome Antique – les armes et les mots", de Lucien Jerphagnon, est un livre parfait pour qui se pose beaucoup de questions sur cette époque fascinante de l’histoire, sans se sentir l’envie de retourner sur les bancs de l’école. C’est très complet, très bien écrit, sans trop en faire dans le fond comme dans la forme. Cela évoque aussi bien les habitudes que la philosophie des romains, tout en démystifiant nombre de clichés, sur ce peuple tout entier comme sur certains de ses empereurs. Ne vous fiez pas à l’immonde couverture de cette dernière édition, ou à la citation de la peu pertinente Natacha Polony en quatrième de couverture. Histoire de la Rome Antique est un livre somme qui vous donnera sans doute envie d’en lire beaucoup plus sur l’histoire antique. Je sais que c’est mon cas.

Là où je pense que vous pouviez moins anticiper ma recommandation, c’est que je vais faire l’inverse : je vais vous conseiller d’éviter un film, figurez-vous ! C’est un exercice difficile, puisque je n’ai pas vu le film – et je ne pourrais d’ailleurs pas, il n’est sorti qu’en Amérique du Nord pour le moment – et que la censure n’est pas franchement ma tasse de thé. Mais ! Late Night With The Devil, sorti le 22 mars dernier outre-Atlantique, est un petit film d’horreur apparemment plutôt marrant. Sauf qu’il a été épinglé par de nombreux spectateurs comme utilisant des visuels générés par IA, ce qui n’a pas été du goût de tout le monde, comme vous pouvez le voir sur la page Letterboxd du film. Les premiers commentaires sont salés bien comme il faut. Et à juste titre : si les spectateurs commencent à accepter de voir des visuels générés par IA dans les films et les séries qu’ils regardent, il n’est pas difficile de voir quelle pourra être la prochaine étape (si l’IA en est capable un jour). La levée de bouclier est en tout cas salutaire, comme il en avait été de même récemment dans le jeu vidéo, à propos des doublages.

Voilà, c'est tout pour ce mois-ci, et c’est déjà pas mal ! On se retrouve le mois prochain pour un quatrième numéro de Tales From The Tech. D'ici là, n'hésitez pas à partager le format autour de vous, cela me ferait très plaisir. Et à me faire part de vos retours, bien sûr. Vous pouvez le faire en commentant l'article sur tftt.ghost.io, ou directement via mes différents réseaux 🤗

Thomas 🤌