C'est compliqué pour un type comme moi qui pratique les "machines numériques" depuis plus de 40 ans de venir faire des constats alarmistes sur elles… Mais faire l'économie de l'analyse de ce qui est en cours serait franchement malvenu.
Ok. Allons-y.
Les machines ont-elles pris le pouvoir ?
La question se pose en cette fin de mois de mars 2025. Et il y a beaucoup d'indices qui commencent à fleurir pour nous mettre la puce à l'oreille. Quand on parle des machines qui prennent le pouvoir, c'est en réalité quelque chose qui ne ressemble pas aux scénarios hollywoodiens de type Terminator, avec Skynet. Non, c'est beaucoup plus discret et vicieux.
Le titre de ce billet doit permettre de comprendre de quoi l'on parle : propagande, aliénation de masse, emprise informationnelle. Les machines ont-elle pris le pouvoir sur… les esprits/les cerveaux ? C'est la question.
The dead internet theory
Cette théorie — plutôt complotiste — sortie des tréfonds d'un canal de discussion pouvait paraître fumeuse à l'époque, en 2017. L'idée générale était assez simple : le nombre exponentiel de bots et d'algos de recommandation indiquait que le Net était devenu autre chose que ce qu'il était. Il était en réalité "mort", puisque les interactions humaines qui le constituent normalement étaient devenue marginales, voire quasi inexistantes en comparaison du volume d'informations générées. Les grandes plateformes auraient phagocyté le Net pour manipuler les utilisateurs humains, donc l'opinion publique. L’idée sous-jacente est qu’Internet serait devenu une sorte de façade contrôlée par des entités puissantes (gouvernements, entreprises) pour orienter la pensée et la consommation, avec un engagement humain réel qui y serait de plus en plus marginal.
En 2017, la dead internet theory semblait très conspirationniste ou délirante, comme beaucoup de théories qui s'appuient sur des scénarios dystopiques proches de la série Black Mirror. Sauf que depuis, les systèmes de machine learning génératifs basés sur les Large Language Models sont arrivés et surtout ont été rendus publics. ChatGPT en premier, puis une myriade d'autres. Et que font ces systèmes appelés IA génératives ? Ils produisent et diffusent un nombre de contenus sur le Net absolument délirant. Comme l'annonçait la dead internet theory…
Conséquences
Il semble qu'un nombre croissant de contenus sur le Net ne sont plus l'œuvre d'êtres humains mais d'IA génératives. Aidées par des humains, mais pas toujours puisque l'on peut automatiser la création de contenus et leur diffusion. Sur quoi se basent ces machines pour créer leurs textes, vidéos, photos ? En partie sur du contenu humain et de plus en plus sur des contenus créés par d'autres machines. Et comme la capacité des machines à générer quoi que ce soit est bien plus grande que les êtres humains, leurs "œuvres" commencent à devenir majoritaires. Et s'inspirent les unes des autres. Les humains sur le Net se voient donc face à des articles, des publications en vidéo, texte ou photos commentés sur les médias sociaux qu'ils pensent être créés par d'autres humains alors que dans la moitié (?) des cas aujourd'hui, ce n'est pas le cas. Tout comme les commentaires. Au point que des fils de commentaires d'un post créé par une IA peuvent être pour la plupart des commentaires de cette même IA ou d'autres IA.
Nous ne sommes donc plus sur le Net que nous connaissions fait d'interactions humaines. Nous devenons les spectateurs d'un Internet géré et dirigé majoritairement par des IA. Nous recevons des mails entièrement rédigés par des IA. Nous lisons de plus en plus d'articles générés par IA. Ces mêmes IA qui pour écrire, créer des images fixes ou animés vont de moins en moins s'inspirer du monde réel des humains mais de plus en plus s'inspirer des créations du monde des IA, copie du monde humain.
La dead internet theory semble commencer à se réaliser. Et les conséquences de cette prise de pouvoir des machines sur le réseau sont bien plus vertigineuses que l'on peut l'envisager au premier abord. Le premier effet est lié à la perception du réel. Dans un monde où la réalité du monde n'est plus renvoyée par des esprits rattachés à des corps qui expérimentent la réalité de ce même monde, chacun devient une sorte d'esclave cognitif manipulé. Avec une inversion très étrange. Rappelons-nous de l'IA-bot de Microsoft qui était devenue raciste et néo-nazie en 24h. Les humains l'avaient influencée. Aujourd'hui, c'est l'inverse qui se produit : les IA sont omniprésentes et leurs contenus/commentaires (sur X par exemple) influencent les humains qui se mettent à croire à peu près n'importe quoi. Et la deuxième conséquence, la plus grave, est la perte de contrôle sur la réalité du monde. Plus personne ne croit plus en rien, ne se fie plus à rien. Ou disons, la majorité finit par se fier à ce qui semble le plus réaliste. Et les IA sont devenues plus réalistes dans leur information puisqu'elles corrigent les défauts des informations humaines. Mais toute information : qu'elle soit truquée ou non, partiellement vérifiable ou non.
L'autre aspect très inquiétant de la prise de pouvoir des IA se situe autour de l'uniformisation. Les IA ne sont pas capables de générer de l'inattendu, de l'étrange ou du décalé. Une IA n'a pas le sens de l'humour et vouloir lui en donner ne peut que donner qu'un simulacre d'humour. Cette uniformisation est en train de lisser les cerveaux humains. Vous n'allez plus lire et regarder que des créations sans saveur particulière. Sans défauts. Mais sans originalité. Il semble certain que cette uniformisation du langage, de l'art ne peut que mener à une catastrophe cognitive faite d'une uniformisation des esprits. L'humain pensera comme les IA. Il créera comme des IA, quand il aura encore la volonté de créer. L'humain aura subi un grand lavage artificiel de son cerveau organique.
Au final, comme les IA génératives sont capables d'utiliser les techniques de persuasion cognitives enseignées par des humains — pour plus d'efficacité — et bien les humains finissent par être véritablement persuadés par les IA. Et donc sous contrôle. Ce qui signifie que les machines ont déjà partiellement pris le pouvoir sur les esprits, et donc sur le monde. Sans que personne ne s'en soit rendu compte et sans que rien ne puisse le démontrer…
Comment lutter, si cette prise de pouvoir est en cours et va s'achever sous peu ?
Aucune idée.
J'y réfléchis encore…
Extrait d'un article (écrit par une IA, sur les IA influenceurs…) :
L’un des avantages du passage aux influenceurs virtuels animés par l’intelligence artificielle selon The Clueless, une agence espagnole de mannequins, de pouvoir se passer des influenceurs humains, de leur égo et de leurs prétentions salariales
« Nous avons commencé à analyser notre façon de travailler et nous nous sommes rendu compte que de nombreux projets étaient suspendus ou annulés en raison de problèmes indépendants de notre volonté. Souvent, c'était la faute de l'influenceur ou du mannequin et non des problèmes de conception », explique un responsable de l’agence qui ajoute que « nous avons donc opté pour des influenceurs virtuels animés par l’intelligence artificielle afin de ne pas dépendre d'autres personnes qui ont un égo, des manies ou qui veulent simplement gagner beaucoup d'argent en posant. »
C’est pour ces raisons que l’agence s’est lancée dans le développement de l’influence virtuelle dénommée Aitana Lopez. Elle est décrite par ses créateurs comme le premier mannequin espagnol animé par l'intelligence artificielle. Aitana compte 122 000 followers sur Instagram.