Intelligence artificielle et bêtise humaine : quand différencier le vrai du faux devient complexe

15 juil. 2026 — Romain Grosos

Introduction : le paradoxe de l'âge de l'information

Il y a quelque chose d'absurde et de profondément humain dans la situation dans laquelle nous nous trouvons collectivement au début du XXIe siècle. Nous vivons dans la période la plus documentée, la plus connectée, la plus informatisée de toute l'histoire de l'espèce. En quelques secondes, depuis la paume de la main, n'importe qui peut accéder à l'intégralité ou presque du savoir humain accumulé depuis des millénaires. Les bibliothèques d'Alexandrie, de Pergame, de Bagdad réunies ne représenteraient qu'une fraction infinitésimale de ce qui est indexé aujourd'hui sur les serveurs des moteurs de recherche. Les chercheurs publient en temps réel. Les bases de données médicales sont ouvertes. La physique quantique, la biologie moléculaire, l'histoire des civilisations disparues : tout est là, disponible, gratuit pour une grande partie, accessible depuis un téléphone qui coûte moins cher qu'un mois de courses alimentaires.

Et pourtant.

Et pourtant, nous n'avons jamais produit autant de mensonges. Jamais diffusé autant de théories conspirationnistes. Jamais vu des sociétés entières se fracasser sur des désaccords fondamentaux concernant des faits qui ne devraient même pas être contestables. La terre est ronde. Les vaccins ne contiennent pas de puces 5G. Les élections américaines de 2020 n'ont pas été volées. L'homme a marché sur la lune. Le changement climatique est causé par l'activité humaine. Des affirmations vérifiables, documentées, mesurables, contre-vérifiables par n'importe qui disposant d'un accès à internet et d'une heure de temps. Et pourtant des dizaines, des centaines de millions de personnes les contestent, parfois avec une véhémence qui confine à la religion.

Comment en est-on arrivé là ? Et plus précisément : quel rôle joue l'intelligence artificielle dans cette situation ? La question mérite d'être posée sans esquive, parce qu'elle touche à quelque chose de fondamental sur ce que nous sommes en tant qu'espèce, sur ce que nous construisons collectivement, et sur ce que nous risquons si nous n'y prenons pas garde.

La réponse courte : l'IA n'est pas la cause. L'IA est un amplificateur. Comme une arme ne peut pas tuer seule, une intelligence artificielle ne peut pas mentir seule. Elle reproduit, elle accélère, elle démultiplie. Mais ce qu'elle reproduit, ce qu'elle accélère, ce qu'elle démultiplie, ça vient de nous. Ça a toujours commencé par nous.

Pour comprendre où nous allons, il faut d'abord comprendre d'où nous venons.

Internet, l'accélérateur universel

La portée de voix : une histoire de la bêtise circumscrite

Pendant la quasi-totalité de l'histoire humaine, la bêtise d'un individu était structurellement limitée par un facteur physique simple : la portée de voix. Un homme pouvait tenir des propos insensés, propager des rumeurs, diffuser des croyances fausses sur la nature du monde, sur ses voisins, sur les étrangers, sur les phénomènes naturels qu'il ne comprenait pas. Mais il ne pouvait le faire qu'auprès de ceux qu'il pouvait atteindre physiquement. Sa famille. Son village. Les gens qu'il croisait au marché. Dans le meilleur des cas, s'il était particulièrement loquace ou influent, peut-être quelques centaines de personnes au cours de toute une vie.

Cette limitation géographique avait une conséquence directe : les idées fausses, aussi robustes qu'elles puissent être dans la tête de celui qui les portait, rencontraient naturellement de la résistance. Non pas parce que les autres étaient nécessairement plus intelligents ou plus critiques, mais parce que leurs propres expériences locales venaient parfois contredire les affirmations. Si quelqu'un prétendait que les gens du village voisin étaient tous des sorciers, ceux qui avaient des parents dans ce village pouvaient témoigner du contraire. La réalité locale servait de contre-poids, imparfait certes, mais réel.

L'écriture a été la première grande rupture. Avec l'écriture, une idée pouvait voyager plus loin que son auteur. Les textes religieux, les traités philosophiques, les ordonnances royales pouvaient atteindre des régions que leur auteur n'avait jamais visitées. Mais la diffusion restait lente, coûteuse, et nécessitait une infrastructure : des scribes, des messagers, des routes, des relais. L'accès à l'écrit était lui-même un privilège. La bêtise pouvait voyager, mais elle le faisait lentement, et elle était filtrée par les structures de pouvoir qui contrôlaient la production et la distribution des textes.

Puis vint Gutenberg. L'imprimerie, vers 1450, est souvent présentée comme une avancée univoque vers les Lumières. Et elle l'est, en partie. Elle a permis la diffusion de la Bible en langues vernaculaires, a facilité la Réforme protestante, a accéléré la circulation des idées scientifiques. Mais elle a aussi permis la diffusion industrielle de pamphlets antisémites, de traités sur la sorcellerie, de propagandes politiques de toutes natures. La presse n'a pas seulement imprimé Galilée : elle a aussi imprimé les arguments de ceux qui le condamnaient. L'imprimerie n'est pas sélectivement bonne. Elle amplifie ce qu'on lui donne à imprimer.

La radio et la télévision ont constitué la deuxième grande rupture. Pour la première fois, une voix unique pouvait atteindre simultanément des millions de personnes. Adolf Hitler n'aurait pas été Hitler sans la radio. Le génie démoniaque de sa propagande tenait précisément à sa capacité à saturer l'espace sonore d'une nation entière, à créer l'impression d'une unanimité qui n'existait pas, à faire croire à chaque auditeur isolé qu'il était seul à douter. Les propagandes totalitaires du XXe siècle, de Berlin à Moscou à Pyongyang, ont compris avant tout le monde le principe fondamental de l'amplification médiatique : ce qui est répété assez souvent finit par sembler vrai.

Mais la radio et la télévision avaient encore un garde-fou structurel : l'asymétrie. Pour émettre, il fallait une infrastructure coûteuse, des licences, une organisation. Un individu seul ne pouvait pas diffuser à la nation entière. La parole publique restait, pour l'essentiel, aux mains d'institutions : États, médias, partis politiques, Églises. Des institutions qui, aussi imparfaites qu'elles soient, étaient soumises à des formes de responsabilité, légales, financières, ou au moins réputationnelles.

Internet : la fin de l'asymétrie

Internet a détruit cette asymétrie. C'est son caractère le plus révolutionnaire, et le moins bien compris.

Quand Tim Berners-Lee a conçu le World Wide Web au CERN en 1989-1991, il pensait à un outil de partage de documents scientifiques. Ce qu'il a créé, c'est un système dans lequel n'importe qui, pour un coût proche de zéro, peut diffuser du contenu à l'échelle mondiale. Un lycéen de banlieue avec un accès à internet peut, en théorie, être lu par autant de personnes qu'un éditorialiste du New York Times. Un complotiste de province peut atteindre, si son contenu est suffisamment viral, davantage de personnes en une semaine que n'en atteint un professeur d'université en toute une carrière.

Ce qui était autrefois structurellement impossible est devenu non seulement possible mais banal. La portée de voix, cette limitation physique fondamentale qui avait contenu la propagation des idées fausses pendant des millénaires, a été abolie. Tout le monde peut désormais parler à tout le monde, ou presque, sous réserve d'avoir accès à l'électricité et au réseau. Les 8 milliards d'humains de la planète ne sont jamais qu'à quelques clics les uns des autres.

Le problème n'est pas que des gens stupides utilisent internet. Le problème est que la bêtise humaine, autrefois naturellement circumscrite, peut désormais circuler à la vitesse de la lumière et sans friction. Une idée fausse ne rencontre plus le même type de résistance qu'elle rencontrait dans un contexte local. Elle peut sauter continents et fuseaux horaires avant que quiconque ait eu le temps de la vérifier. Et dans l'espace de quelques heures, elle peut avoir infecté des millions de cerveaux.

Ce phénomène n'est pas neutre du point de vue informationnel. Il existe un principe bien documenté en psychologie cognitive : la fluence de traitement. Une information facile à absorber, qui arrive sous une forme familière, dans un langage simple, qui confirme ce qu'on croit déjà, est traitée par le cerveau comme plus vraie qu'une information complexe, nuancée, contredisant les croyances préexistantes. Internet est une machine à fluence. Elle favorise structurellement le simple sur le complexe, le confirmant sur le dérangeant, l'émotionnel sur le rationnel.

Et cela, bien avant que les algorithmes de recommandation n'entrent dans l'équation.

Les algorithmes : quand la machine optimise pour l'engagement

Si internet a aboli la friction géographique, les plateformes sociales ont ajouté une couche supplémentaire : l'optimisation algorithmique de l'attention.

Facebook, YouTube, Twitter/X, TikTok ne sont pas des bibliothèques neutres dans lesquelles les utilisateurs choisiraient librement ce qu'ils consultent. Ce sont des moteurs de recommandation dont l'objectif fondamental est de maximiser le temps passé sur la plateforme, parce que le temps passé se convertit en publicités vues, en données collectées, en revenus. Pour maximiser ce temps, les algorithmes ont appris, par tâtonnement et par optimisation sur des milliards d'interactions, ce qui retient l'attention humaine le plus efficacement.

La réponse est sans appel : la colère, la peur, et l'indignation.

Ce n'est pas une conclusion philosophique. C'est le résultat mesurable, documenté, de systèmes d'apprentissage automatique optimisés sur des données comportementales réelles. Un utilisateur indigné reste plus longtemps sur la plateforme. Il partage davantage. Il commente davantage. Il revient davantage. L'outrage est le carburant le plus efficace que les plateformes sociales aient trouvé. Et donc, sans que personne ne l'ait explicitement programmé, les algorithmes ont appris à promouvoir le contenu qui génère de l'outrage.

La désinformation est, structurellement, un très bon générateur d'outrage. Une affirmation fausse mais choquante sera davantage partagée qu'une information vraie mais ennuyeuse. C'est une propriété mathématique du système, pas un bug délibéré. Le résultat est que les plateformes sociales ont, de facto, créé un environnement dans lequel les mensonges bénéficient d'un avantage compétitif sur les vérités.

Une étude du MIT publiée dans Science en 2018 a mesuré ce phénomène à grande échelle sur Twitter. Elle a montré que les fausses nouvelles se propagent six fois plus vite que les informations vraies, atteignent une audience 35 fois plus large, et sont partagées par des êtres humains (pas des bots) dans la grande majorité des cas. Le partage humain, motivé par la surprise et l'émotion, est le vecteur primaire de la désinformation. Pas les robots. Nous.

Le phénomène du regroupement : quand les idiots s'organisent

Mais le changement le plus profond qu'internet a introduit n'est pas seulement la vitesse de propagation des idées fausses. C'est la possibilité, pour les porteurs de ces idées, de se trouver mutuellement et de se renforcer.

Dans le monde d'avant internet, un individu qui croyait que la terre était plate, ou que la lune était un hologramme, ou que les reptiliens contrôlaient les gouvernements mondiaux, était objectivement seul. Ou presque. Il pouvait peut-être trouver un ou deux illuminés de son entourage immédiat. Mais globalement, la réalité consensuelle de ses voisins, collègues, et famille constituait une pression sociale constante qui rendait difficile le maintien de croyances trop déviantes. L'environnement social agissait comme un correcteur naturel, brutal et inconfortable certes, mais réel.

Internet a supprimé cette solitude. Le "flat earther" qui n'avait auparavant accès qu'à lui-même peut désormais rejoindre des forums, des groupes Facebook, des chaînes YouTube, des subreddits entiers peuplés de milliers de personnes partageant exactement ses croyances. Non seulement il n'est plus seul : il se retrouve dans une communauté active, chaleureuse, qui le valide, qui partage son langage, ses références, ses ennemis communs. La pression sociale qui le poussait autrefois vers la conformité s'inverse complètement. Dans sa chambre d'écho numérique, c'est maintenant la réalité consensuelle qui lui semble bizarre.

Ce phénomène a un nom : la chambre d'écho, ou bubble filter. Mais le terme "chambre d'écho" est presque trop neutre pour décrire ce qui se passe réellement. Il ne s'agit pas simplement d'entendre ses propres opinions répercutées. Il s'agit d'un processus actif de radicalisation mutuelle, dans lequel les membres d'un groupe se poussent collectivement vers des positions de plus en plus extrêmes, parce que l'expression de la position la plus extrême génère le plus de validation sociale au sein du groupe.

Les chercheurs en psychologie sociale appellent cela la polarisation de groupe. C'est un phénomène connu depuis les années 1960, démontré expérimentalement : quand des individus partageant une croyance discutent entre eux, ils n'arrivent pas à un compromis. Ils convergent vers des positions plus extrêmes que la moyenne initiale. Internet a industrialisé ce processus, en permettant à des groupes de taille sans précédent de s'engager dans cette dynamique en permanence, vingt-quatre heures sur vingt-quatre, sept jours sur sept.

Les flat earthers ne sont pas, pour la plupart, des gens stupides au sens clinique du terme. Ils sont, souvent, des gens normalement intelligents qui ont été capturés par une communauté sociale forte, qui leur offre ce que les humains recherchent instinctivement : appartenance, sens, identité, et surtout la conviction rassurante d'être parmi ceux qui "voient vraiment" ce que les autres ne voient pas. Le complotisme n'est pas d'abord un problème cognitif. C'est un problème social. Et internet a créé l'infrastructure parfaite pour transformer des individus isolés en mouvements organisés capables de peser sur des politiques publiques.

Les anti-vaccins ne sont pas apparus avec internet, mais internet les a métamorphosés. De petits groupes marginaux cantonnés à quelques cercles locaux, ils sont devenus des mouvements transnationaux coordonnés, capables de mobiliser des manifestations simultanées dans plusieurs pays, de financer des campagnes publicitaires, de lobbyer des parlements, et d'influer sur des décisions de santé publique à l'échelle nationale. Ce qui était autrefois une opinion marginale sans levier est devenu, grâce aux outils numériques de coordination et d'amplification, une force politique mesurable.

QAnon est peut-être l'exemple le plus saisissant de ce que le regroupement numérique peut produire. Une théorie conspirationniste entièrement inventée, fondée sur des messages cryptiques publiés sur 4chan par un anonyme se faisant appeler "Q", a réussi à convaincre des millions d'Américains que le gouvernement américain était infiltré par un réseau pédophile sataniste dont Donald Trump était le seul capable de les sauver. Des gens qui allaient voter, qui avaient des emplois, des familles, des vies ordinaires, ont quitté leurs proches, ont modifié leurs comportements de santé, et pour certains ont pris part à des actions criminelles, notamment lors de l'assaut du Capitole américain le 6 janvier 2021.

Ce n'est pas de la stupidité au sens classique. C'est le résultat prévisible, presque mécanique, d'une dynamique sociale amplifiée à l'échelle industrielle par une infrastructure numérique qui n'a jamais été conçue pour gérer cela.

L'intelligence artificielle, entre miroir et amplificateur

De Turing aux transformers : une histoire condensée

Pour comprendre ce que l'intelligence artificielle fait à ce paysage, il faut d'abord comprendre ce qu'elle est. Pas la version science-fiction, pas la version marketing des communiqués de presse des grandes entreprises tech, mais ce qu'elle est réellement, dans son fonctionnement technique.

La question "peut-on construire des machines qui pensent ?" est aussi vieille que l'informatique elle-même. Alan Turing, en 1950, a proposé le premier cadre formel pour y répondre dans son article fondateur "Computing Machinery and Intelligence", où il introduit ce qu'on appelle aujourd'hui le test de Turing : si une machine peut converser avec un humain de façon indiscernable d'un autre humain, peut-on dire qu'elle "pense" ? La question est rhétorique, mais elle a structuré des décennies de recherche.

Les premières approches de l'IA, dans les années 1950-1980, étaient symboliques. L'idée était de modéliser explicitement la logique, les règles, les connaissances. On construisait des systèmes experts : des programmes qui contenaient des milliers de règles du type "SI symptôme A ET symptôme B, ALORS maladie X". Ces systèmes fonctionnaient correctement dans des domaines très contraints, mais ils s'effondraient dès qu'ils rencontraient de la nuance, de l'ambiguïté, ou des situations non prévues par leurs programmeurs.

Le tournant est venu des réseaux de neurones artificiels. L'idée, inspirée très vaguement de la structure du cerveau biologique, est de ne pas programmer des règles explicites, mais d'apprendre à partir d'exemples. On présente au réseau des millions d'exemples d'entrées et de sorties souhaitées, et par un processus d'optimisation itérative, le réseau ajuste ses paramètres internes pour produire les bonnes sorties à partir des bonnes entrées. L'apprentissage profond (deep learning), qui utilise des réseaux de neurones à de nombreuses couches, a connu une renaissance spectaculaire à partir de 2012, notamment avec les travaux de Geoffrey Hinton, Yann LeCun et Yoshua Bengio sur la reconnaissance d'images.

Mais la vraie révolution dans le domaine du traitement du langage est venue d'une architecture spécifique : le Transformer, introduit en 2017 dans un article de recherche de Google portant le titre prophétique "Attention is All You Need". Le Transformer utilise un mécanisme d'attention qui permet au modèle de pondérer l'importance de chaque élément d'une séquence par rapport à tous les autres, de manière dynamique et contextuelle. C'est cette architecture qui est à la base de GPT (Generative Pre-trained Transformer), de BERT, de Claude, de Gemini, et de presque tous les grands modèles de langage actuels.

Comment ça marche vraiment : tokenisation et statistiques

La tokenisation est le premier mystère à démystifier. Quand vous soumettez un texte à un grand modèle de langage, ce texte n'est pas lu comme vous le lisez. Il est d'abord découpé en "tokens", des unités qui correspondent à peu près à des syllabes ou des mots courts. Le mot "intelligence" pourrait être tokenisé en "intell" et "igence". Le mot "chat" resterait probablement un seul token. Chaque token se voit attribuer un identifiant numérique dans un vocabulaire d'environ 50 000 à 100 000 entrées selon les modèles.

Ce qui suit est, dans sa description la plus crue, impressionnant et déconcertant à la fois : le modèle prédit, à chaque étape, quel token est le plus probable après tous ceux qui précèdent. C'est tout. C'est fondamentalement de la statistique sur des séquences. Le modèle n'a pas de représentation du monde. Il n'a pas de croyances au sens philosophique. Il n'a pas d'intentions. Il a appris, sur des centaines de milliards de mots de texte humain, quelle distribution de probabilités s'applique aux tokens suivants dans une séquence donnée.

La taille du modèle mesure sa capacité à capturer des régularités complexes dans ces distributions. Un modèle avec 7 milliards de paramètres (les poids qui codent ces associations statistiques) capturera des régularités relativement simples. Un modèle avec 700 milliards de paramètres pourra capturer des régularités d'une finesse et d'une profondeur considérables, y compris des structures logiques, des liens causaux, des nuances stylistiques.

Il faut s'arrêter sur ce que cela implique. Un grand modèle de langage n'a pas lu la physique quantique, la poésie médiévale, les comptes rendus de séances du parlement européen, et les conversations Facebook de monsieur tout le monde comme un étudiant lit ses cours. Il a ingéré tout cela de manière indifférenciée, et il a appris les associations statistiques entre des séquences de tokens dans tout ce corpus. Quand vous lui demandez d'expliquer l'intrication quantique, il ne "se souvient" pas d'une explication qu'il aurait apprise. Il génère une explication en produisant les tokens qui, statistiquement, suivent le plus probablement les tokens de votre question dans le contexte de son entraînement.

Le fait que cette explication soit souvent remarquablement juste et cohérente est, pour beaucoup de chercheurs, profondément surprenant. Cela suggère que la structure profonde du savoir humain, telle qu'elle est encodée dans le langage, a des régularités statistiques que ces modèles parviennent à capturer. Mais cela ne signifie pas que le modèle "comprend" au sens où vous comprenez. La distinction, philosophiquement riche, a des implications pratiques importantes.

Les biais humains en version algorithmique

Si un grand modèle de langage est entraîné sur du texte humain, et si ce texte humain contient des biais, alors le modèle reproduira ces biais. Ce principe, souvent résumé sous l'acronyme GIGO (Garbage In, Garbage Out), est connu depuis les débuts de l'informatique. Mais dans le cas des LLMs, il prend une dimension nouvelle, parce que les biais ne sont pas des erreurs de programmation identifiables et corrigeables : ils sont profondément enchâssés dans la structure statistique des données d'entraînement.

Les biais les plus documentés dans les grands modèles de langage incluent des biais de genre (les métiers techniques associés plus souvent aux hommes, les métiers de soin aux femmes), des biais culturels (surreprésentation de la perspective anglophone et occidentale), des biais de classe (le corpus d'internet surreprésente les gens qui écrivent sur internet, c'est-à-dire des populations spécifiques), et des biais temporels (les modèles ne savent pas ce qui s'est passé après leur date de coupure des données d'entraînement).

Mais il y a une catégorie de biais plus subtile et plus inquiétante : les biais de connaissance. Si une affirmation fausse est répétée suffisamment souvent dans le corpus d'entraînement, le modèle peut l'apprendre comme vraie. Si les théories conspirationnistes pullulent sur internet (et elles pullulent), le modèle les a ingérées. Il a également ingéré les réfutations de ces théories, et en général les réfutations l'emportent statistiquement. Mais la frontière n'est pas toujours nette, et le modèle peut, dans certaines conditions de formulation, produire du contenu qui valide des croyances erronées.

Il y a pire. Les LLMs ont une propriété connue sous le nom d'hallucination : ils peuvent produire des affirmations fausses avec la même fluidité et la même confiance apparente que des affirmations vraies. Quand un modèle ne "sait" pas quelque chose (c'est-à-dire quand il n'existe pas dans son espace statistique de tokens suffisamment probables pour répondre correctement), il ne dit pas "je ne sais pas". Il produit les tokens les plus probables dans ce contexte, ce qui peut donner une réponse plausible mais fausse. Des références bibliographiques inventées. Des dates erronées. Des citations attribuées à des personnes qui ne les ont jamais formulées. Avec le style et l'autorité d'un expert.

Cette propriété d'hallucination est particulièrement dangereuse dans le contexte de la désinformation, parce qu'elle permet de générer, à grande échelle et à faible coût, du contenu faux présenté sous une forme crédible et documentée.

Ce que l'IA sait faire (et la mythologie autour de ce qu'elle fait)

Il faut être honnête sur les capacités actuelles des grands modèles de langage, sans les sur-estimer ni les sous-estimer.

Ce que les LLMs font remarquablement bien : synthétiser de l'information complexe, reformuler dans différents styles, générer du code, traduire, résumer, répondre à des questions de connaissance générale, simuler des conversations dans différents registres, identifier des structures logiques dans des textes, et, de manière troublante, imiter le style d'un auteur humain spécifique.

Cette dernière capacité est particulièrement importante pour notre propos. Un LLM suffisamment grand, entraîné sur suffisamment d'exemples d'un auteur particulier, peut produire du texte stylistiquement indiscernable de celui de cet auteur. Pas toujours parfait sur le fond, mais sur la forme, sur le rythme, sur le vocabulaire, sur les structures syntaxiques : impressionnant à un degré qui déstabilise.

Ce que les LLMs ne font pas bien : raisonner de manière fiable sur des problèmes mathématiques complexes (les erreurs sont fréquentes), maintenir une cohérence parfaite sur de très longs contextes, accéder à des informations récentes (sans accès à des outils de recherche), distinguer systématiquement le vrai du faux (ils ne "savent" pas au sens propre du terme), et comprendre le monde physique autrement que par sa description textuelle.

La mythologie autour de l'IA, nourrie à la fois par les médias grand public et par les communicants des entreprises du secteur, tend à surestimer la deuxième catégorie et à sous-estimer la première. On nous annonce à la fois des IA omniscientes capables de tout résoudre et, dans la même semaine, des IA dangereusement stupides qui confondent un chihuahua avec un muffin. Les deux images sont vraies dans des contextes différents, et aucune des deux n'est utile pour comprendre ce qu'on a réellement entre les mains.

Ce qu'on a entre les mains, c'est un outil extraordinairement puissant pour la manipulation du langage, au sens le plus large du terme : production, transformation, imitation, reformulation. Un outil dont la puissance pour la communication est comparable à ce que la machine à vapeur fut pour la mécanique. Et comme la machine à vapeur, il peut alimenter des usines ou des locomotives de guerre. La technologie est neutre. L'usage ne l'est pas.

L'accélération : du GPT-2 au présent

Pour mesurer l'ampleur du changement, il faut un peu de perspective historique récente.

En 2019, OpenAI a publié GPT-2, un modèle de langage avec 1,5 milliard de paramètres. À l'époque, OpenAI a jugé ce modèle "trop dangereux" pour être publié intégralement, craignant qu'il ne permette la génération de désinformation à grande échelle. Le modèle était impressionnant pour l'époque. Il pouvait générer plusieurs paragraphes cohérents. Mais un utilisateur attentif pouvait généralement identifier les productions d'un LLM après quelques phrases : les répétitions, les contradictions, le manque de cohérence thématique sur de longs passages.

Deux ans plus tard, GPT-3, avec 175 milliards de paramètres, changeait radicalement la donne. Le saut qualitatif était difficile à expliquer à quelqu'un qui ne l'avait pas expérimenté. Les textes produits étaient, dans beaucoup de cas, indiscernables de textes humains sur de nombreux paragraphes. Les blagues fonctionnaient. Les métaphores étaient appropriées. Le style s'adaptait aux instructions.

En 2023, GPT-4, Claude 2, et une constellation de modèles concurrents atteignaient des performances sur des benchmarks académiques comparables à des étudiants en médecine, en droit, en informatique. Pas parce que ces modèles "comprennent" la médecine au sens où un médecin comprend son patient, mais parce que leurs distributions statistiques sur les tokens capturent assez bien les structures de raisonnement de ces domaines pour passer les examens qui valident ces structures.

En 2024-2025, les modèles comme Claude 3, Gemini Ultra, ou GPT-4o ont ajouté la multimodalité : ils lisent les images, ils entendent l'audio, dans certains cas ils regardent des vidéos. Le monde ne leur est plus accessible uniquement par le texte. Ils peuvent voir une photo et en produire une description. Analyser un graphique. Décrire ce qui se passe dans une scène.

En 2025-2026, alors que nous écrivons ces lignes, la vitesse d'amélioration montre peu de signes de ralentissement. De nouveaux paradigmes d'entraînement, de nouvelles architectures, de nouvelles techniques d'alignement. Le rythme auquel les capacités s'améliorent est, pour reprendre un terme de Moore, exponentiel dans les conséquences pratiques.

Ce qui mettait six mois pour être écrit par une équipe de journalistes peut maintenant être généré en quelques secondes par un LLM. Ce qui nécessitait un graphiste professionnel pour être visualisé peut être produit par un modèle génératif d'images. Ce qui demandait un acteur et un studio pour être enregistré peut être synthétisé en quelques clics. L'infrastructure de production du contenu médiatique, qui était un garde-fou imparfait mais réel (parce qu'elle coûtait du temps, de l'argent, et des compétences), s'est effondrée. N'importe qui peut maintenant produire du contenu d'apparence professionnelle, en masse, à coût quasi nul.

La bêtise humaine à l'ère numérique

Définir la bêtise : au-delà du QI

"Bêtise" est un mot commode mais trompeur. Il suggère une propriété stable, mesurable, distribuée inégalement entre les individus, liée à l'intelligence générale. Cette conception est non seulement fausse, mais dangereuse, parce qu'elle localise le problème dans des individus spécifiques plutôt que dans des systèmes.

La bêtise, au sens où nous l'entendons ici, n'est pas une propriété individuelle permanente. C'est un état qui peut affecter n'importe qui dans des conditions spécifiques. C'est la tendance à tenir des croyances fausses avec une confiance disproportionnée, à résister à la mise à jour de ces croyances face aux preuves, et à agir sur la base de ces croyances de manière préjudiciable à soi-même ou aux autres.

Le psychologue David Dunning et son étudiant Justin Kruger ont décrit en 1999 un phénomène maintenant connu sous leur nom : les personnes les moins compétentes dans un domaine ont tendance à surestimer leur compétence dans ce domaine, parce qu'elles n'ont pas les outils cognitifs nécessaires pour reconnaître leur propre ignorance. Inversement, les experts tendent souvent à sous-estimer leurs capacités, parce qu'ils sont conscients de toutes les nuances et exceptions qu'ils ne maîtrisent pas parfaitement. Le résultat est une inversion paradoxale : ceux qui savent le moins sont souvent les plus confiants, et ceux qui savent le plus sont les plus incertains.

L'effet Dunning-Kruger s'applique à n'importe qui dans les domaines où il n'est pas expert. Un programmeur excellent peut être un Dunning-Kruger ambulant en économie politique. Un médecin spécialisé peut avoir des croyances complètement erronées sur le réchauffement climatique. L'intelligence dans un domaine ne protège pas de la bêtise dans un autre. Et internet, en proposant à chacun un accès illimité à de l'information sur n'importe quel sujet, a créé les conditions parfaites pour qu'un expert de rien se sente expert de tout.

Il y a un autre biais cognitif fondamental : le biais de confirmation. Les êtres humains, physiologiquement, cherchent l'information qui confirme leurs croyances préexistantes et écartent l'information qui les contredit. Ce n'est pas de la mauvaise foi. C'est une caractéristique de l'architecture de notre cerveau. Le cortex préfrontal, responsable du raisonnement critique, est plus lent et plus coûteux en énergie que les systèmes limbiques plus anciens qui traitent l'information émotionnellement. Le cerveau préfère, en situation normale, prendre des décisions rapides basées sur ce qu'il sait déjà, et rationaliser après coup.

Dans un environnement informationnel pauvre, ce biais était relativement inoffensif. Si vous ne trouvez que dix articles sur un sujet, il y a de bonnes chances que certains contredisent votre croyance. Dans un environnement informationnel saturé, le biais de confirmation devient pathologique : vous pouvez trouver des milliers d'articles confirmant n'importe quelle position, aussi extrême qu'elle soit. Internet ne force pas la confrontation avec des points de vue contraires. Il permet de s'en protéger parfaitement.

Le business model de l'outrage

Il faut nommer la réalité économique : la désinformation est un secteur rentable.

Pas parce que les gens sont malveillants (même si certains le sont). Mais parce que les incitations économiques du système sont alignées pour la favoriser.

Un article de désinformation outrageant sur Facebook génère de l'engagement : des commentaires, des partages, des réactions. L'engagement augmente la visibilité organique du post, qui atteint plus de personnes, qui génèrent plus d'engagement. Pour son auteur, cela se traduit par des clics vers son site, qui se monétise par la publicité programmatique. Le réseau publicitaire n'évalue pas la qualité journalistique du contenu. Il évalue le trafic. Un site de fake news bien géré peut générer des revenus publicitaires très confortables.

BuzzFeed News a documenté en 2016 ce phénomène avec le cas de Veles, en Macédoine du Nord, où des dizaines de jeunes gens avaient créé des sites de fake news pro-Trump, non pas par conviction politique, mais parce que l'outrage trumpiste américain était le marché le plus rentable pour la publicité numérique à ce moment-là. Ces jeunes gens ne comprenaient pas nécessairement la politique américaine. Ils comprenaient parfaitement les mécaniques de l'engagement algorithmique.

Et cela, encore une fois, avant que l'IA n'entre dans l'équation. La production d'articles de désinformation nécessitait auparavant du temps humain. Trouver un angle outrageux, rédiger un texte plausible, créer une image d'illustration. Aujourd'hui, tout cela peut être automatisé. Un LLM peut générer cent articles de désinformation dans le temps qu'il fallait à un humain pour en écrire un. Les images peuvent être générées à la demande. Les titres peuvent être testés et optimisés algorithmiquement pour le maximum d'engagement.

Les coûts de production de la désinformation sont devenus proches de zéro. Les revenus potentiels, eux, restent substantiels. C'est une équation économique qui n'augure rien de bon.

L'effet de vérité illusoire : mentez, il en restera toujours quelque chose

Il existe un phénomène cognitif fondamental connu sous le nom d'effet de vérité illusoire (illusory truth effect) : la répétition d'une affirmation augmente la probabilité qu'elle soit perçue comme vraie, indépendamment de son contenu factuel.

Ce phénomène a été documenté pour la première fois en 1977 par des chercheurs de l'université Villanova. Il a été répliqué des dizaines de fois depuis. Il fonctionne même quand les sujets ont une connaissance préalable qui contredit l'affirmation. Il fonctionne même quand les sujets sont avertis qu'ils vont entendre des affirmations parfois fausses. Et il fonctionne particulièrement bien sur les affirmations que nous n'avons pas les moyens de vérifier facilement par nous-mêmes.

L'explication cognitive est la fluence de traitement, déjà évoquée. Une information répétée est traitée plus facilement par le cerveau. Cette facilité de traitement est interprétée, de manière erronée, comme un signal de vérité. Le familier semble vrai. C'est une heuristique qui a probablement eu une valeur de survie dans un environnement dans lequel ce qui était répété par la communauté méritait attention. Dans un environnement numérique saturé de répétitions délibérément organisées, c'est une faille exploitable à grande échelle.

Les régimes autoritaires le savaient depuis longtemps. Goebbels n'a pas inventé la propagande, mais il l'a systématisée avec une efficacité terrifiante sur la base de ce principe : répétez un mensonge assez fort et assez souvent, et il deviendra vérité. Internet et les réseaux sociaux ont fourni à n'importe qui l'infrastructure pour faire de la propagande à l'échelle d'une nation, voire de la planète.

Le fact-checking, tel qu'il est pratiqué par des organisations comme Snopes, PolitiFact, ou les services de vérification des grands médias, est une réponse importante mais structurellement insuffisante. Une affirmation mensongère virale atteindra des millions de personnes en quelques heures. Le fact-check correspondant, s'il est fait, arrive en retard, atteint une fraction de l'audience, et selon les études, peut même provoquer un "backfire effect" chez certaines personnes (des individus dont les croyances préexistantes s'en trouvent renforcées plutôt qu'ébranlées). La désinfection informationnelle est plus difficile que la contamination.

Les dérives numériques documentées

Pour ne pas rester dans l'abstraction, il faut nommer des réalités concrètes.

Le mouvement anti-vaccin a coûté des vies. La rougeole, que l'OMS avait déclarée éliminée aux États-Unis en 2000, a recommencé à circuler à partir de 2019, atteignant des niveaux épidémiques dans des zones à forte concentration de personnes non vaccinées. En Europe, plusieurs pays ont vu des épidémies de rougeole avec des dizaines de milliers de cas. La coqueluche, la méningite, des maladies que nos parents considéraient comme appartenant à l'histoire, réapparaissent. Ce ne sont pas des statistiques abstraites. Ce sont des enfants qui ont souffert et pour certains sont morts de maladies entièrement évitables.

La crise climatique souffre d'une désinformation organisée et financée pendant des décennies par les industries fossiles. Des documents internes des majors pétrolières, révélés par des enquêtes journalistiques, montrent que ces entreprises savaient dès les années 1980 que leurs activités provoquaient un réchauffement climatique anthropique. Elles ont financé une campagne de doute systématique, en créant des think tanks, en finançant des scientifiques dissidents, en saturant les médias de messages visant à entretenir l'incertitude sur une question scientifiquement résolue. Le résultat : des décennies de retard dans les politiques climatiques, au moment où chaque décennie perdue augmente exponentiellement le coût de l'adaptation.

La désinfection de l'eau potable et la pasteurisation du lait, deux avancées de santé publique du XIXe siècle qui ont sauvé des millions de vies, sont maintenant remises en question sur des forums nutritionnels qui font des centaines de milliers de vues. Le "lait cru" présente-t-il des avantages nutritionnels réels sur le lait pasteurisé ? C'est une question légitime et débattue. L'idée que la pasteurisation est une conspiration de l'industrie agroalimentaire pour contrôler la population, en revanche, est du délire. Mais les deux circulent côte à côte sur les mêmes plateformes, avec les mêmes formats, et sans aucune différenciation visuelle pour l'utilisateur non averti.

Les théories du complot autour des antennes 5G ont provoqué, en 2020, l'incendie de plusieurs dizaines d'antennes relais à travers l'Europe, dont une vingtaine en France, plusieurs au Royaume-Uni, en Belgique, aux Pays-Bas. Des techniciens ont été agressés. Tout cela sur la base d'une théorie sans aucun fondement scientifique, propagée principalement via WhatsApp et Facebook dans les premières semaines de la pandémie de Covid-19, dans un contexte de peur et d'incertitude qui rendait les populations particulièrement réceptives aux explications simples et aux boucs émissaires technologiques.

Ces exemples pourraient se multiplier indéfiniment. Ils ont un point commun : ce ne sont pas des erreurs individuelles. Ce sont des phénomènes collectifs, produits par des dynamiques systémiques qui transcendent la stupidité ou la rationalité de chaque individu impliqué.

Les fake IA, ou l'impossible authentification

Le cas Trump : quand le vrai ressemble au fake et le fake au vrai

Donald Trump est une figure politique qui mérite une place dans ce texte, non pas pour des raisons politiques, mais parce qu'il illustre mieux que quiconque un problème nouveau, bizarre, et profondément déstabilisant pour la notion même de discours public authentique.

Donald Trump a un style de communication parfaitement identifiable. Des phrases courtes. Des superlatifs constants ("the best", "tremendous", "total disaster"). Des répétitions. Un usage abondant du point d'exclamation. Des transitions abruptes. Des attaques ad hominem. Des affirmations non sourcées présentées avec une totale certitude. Un vocabulaire délibérément simple. Et un niveau factuel qui, pour employer la terminologie du philosophe Harry Frankfurt dans son essai "On Bullshit", n'est pas du mensonge (qui nécessite de connaître la vérité et de la nier délibérément) mais du "bullshit" : une indifférence totale à la vérité.

Ce style est désormais parfaitement reproductible par un LLM. Donnez à GPT-4, à Claude, à n'importe quel grand modèle de langage l'instruction "écris un tweet de Donald Trump affirmant que le réchauffement climatique est une invention des Chinois", et vous obtiendrez quelque chose d'indiscernable de ce que Trump pourrait effectivement écrire. Pas seulement dans la substance (Trump a effectivement tweeté des variantes de cette affirmation), mais dans la forme, dans le rythme, dans les patterns linguistiques.

Cela crée un problème de vérité sans précédent : comment, à présent, distinguer un tweet réellement posté par Trump d'un tweet généré par une IA imitant son style ? La question peut sembler rhétorique, voire humoristique. Elle ne l'est pas.

Premièrement, parce que le contenu des faux tweets peut être utilisé pour attribuer à une personne réelle des propos qu'elle n'a jamais tenus, dans des contextes où ces propos peuvent avoir des conséquences légales ou politiques. Imaginez un faux tweet "Trump" annonçant une décision présidentielle imminente sur un marché financier sensible. Le temps que la fake news soit détectée et démentie, les marchés ont réagi. Des fortunes ont été faites et perdues.

Deuxièmement, parce que dans le cas spécifique de Trump, la question "est-ce réel ou inventé ?" est comiquement difficile. Les propos authentiques de Trump ont des niveaux de factuelles erreurs, de logique défaillante, et de déclarations outrancières qui les rendraient invraisemblables s'ils étaient attribués à n'importe quel autre homme politique. Ses tweets réels sont souvent plus difficiles à croire que les faux. La réalité s'est déjà tellement étirée qu'il devient difficile de distinguer la satire de l'authentique.

Ce n'est pas propre à Trump. C'est un problème qui concernera bientôt n'importe quelle personnalité publique ayant laissé assez de traces numériques pour qu'un modèle apprenne son style. Des politiciens, des journalistes, des intellectuels, des célébrités. Dès lors que vous avez écrit assez de textes publics, vous avez, par inadvertance, fourni le matériau d'entraînement de votre propre double numérique.

Le deepfake comme arme politique

Le deepfake, cette technique de substitution de visage et de voix dans des vidéos, s'appuie sur les mêmes principes d'apprentissage profond que les LLMs, appliqués au domaine audiovisuel.

En mars 2022, quelques semaines après le début de l'invasion russe, une vidéo deepfake du président ukrainien Volodymyr Zelensky "demandant" à ses soldats de se rendre a circulé sur des plateformes ukrainiennes avant d'être détectée et démentie. Elle a été identifiée relativement rapidement parce que les équipes de cybersécurité ukrainiennes étaient en alerte. Mais l'incident illustre un scénario de risque réel : une vidéo suffisamment convaincante, diffusée au bon moment, dans un contexte de tension maximale, pourrait provoquer des réactions militaires ou civiles avant que sa nature fictive soit établie.

En 2023 également, des images générées par l'IA montrant Donald Trump "arrêté" par la police de New York ont circulé massivement sur les réseaux sociaux dans la période précédant son inculpation réelle. Les images étaient créées par Eliot Higgins, fondateur de Bellingcat, dans un but de démonstration, et clairement labellisées comme telles. Elles ont quand même été partagées par des milliers de personnes comme des images authentiques.

La robustesse des outils de détection du deepfake est constamment en retard sur la qualité des outils de génération. C'est une course aux armements asymétrique : les générateurs s'améliorent plus vite que les détecteurs, parce qu'ils sont financés par des marchés commerciaux massifs (entertainment, jeux vidéo, effets visuels) dont les deepfakes politiques ne sont qu'un sous-produit. Les chercheurs en détection travaillent avec des budgets incomparablement inférieurs.

Le problème le plus profond des deepfakes n'est pas les deepfakes eux-mêmes. C'est ce que les juristes et les chercheurs appellent le "dividende du menteur" (liar's dividend).

Le dividende du menteur

Avant les deepfakes, la preuve vidéo ou audio était considérée comme robuste. "J'ai une vidéo de lui disant ça" était un argument décisif dans un débat. Maintenant, elle ne l'est plus. Et cette dégradation de la force probatoire de la preuve audiovisuelle bénéficie non seulement à ceux qui produisent de faux contenus, mais aussi à ceux qui veulent nier des contenus authentiques.

Un homme politique filmé en train de prendre un pot-de-vin peut maintenant alléguer que la vidéo est un deepfake. Dans certains contextes, cette allégation sera suffisante pour créer le doute, au moins temporairement, au moins chez les partisans qui veulent y croire. La charge de la preuve s'inverse : ce n'est plus à l'accusé de démontrer son innocence, c'est à l'accusateur de démontrer l'authenticité du document. Et démontrer l'authenticité d'une vidéo est, techniquement, beaucoup plus difficile que d'alléguer qu'elle pourrait être fausse.

Ce mécanisme constitue un formidable outil de protection pour les puissants qui veulent nier leurs responsabilités. Plus les deepfakes sont répandus et convaincants, plus la plausibilité de cette défense devient crédible. Nous sommes en train de construire, collectivement et involontairement, une infrastructure de déni plausible généralisé.

Les implications pour les systèmes judiciaires, qui ont largement intégré la preuve numérique (vidéos de surveillance, enregistrements téléphoniques, captures d'écran) comme éléments de preuve, sont considérables. Les implications pour les processus démocratiques, qui reposent sur une capacité minimale des citoyens à s'accorder sur des faits de base, sont catastrophiques si elles ne sont pas adressées.

L'authenticité en crise

Nous arrivons à un moment de l'histoire où l'authenticité d'un document numérique ne peut plus être assumée par défaut. C'est une rupture fondamentale dans notre rapport à la preuve.

Pendant la quasi-totalité de l'histoire humaine, les documents écrits étaient difficiles à falsifier à grande échelle. Ils portaient des marques de leur contexte de production (papier, encre, style, signatures) qui permettaient des formes de vérification. Les documents audiovisuels, apparus au XXe siècle, étaient théoriquement falsifiables mais la falsification nécessitait des équipements coûteux et des compétences rares, et laissait des traces détectables.

Ce système imparfait de confiance basée sur la difficulté de la falsification est en train de s'effondrer. N'importe qui avec un ordinateur raisonnablement puissant et un accès aux outils open-source peut maintenant produire du contenu faux d'une qualité technique proche de l'irréprochable. La démocratisation de l'IA générative, qui a des aspects très positifs, a aussi cet effet-là.

Des solutions techniques existent ou sont en développement. Le watermarking numérique (intégration de signatures invisibles dans les contenus générés par IA), les systèmes de provenance (C2PA : Coalition for Content Provenance and Authenticity, soutenu par Adobe, Microsoft, et d'autres), les signatures cryptographiques des appareils photo professionnels. Mais ces solutions supposent une adoption universelle et coordonnée, une coopération entre des acteurs aux intérêts divergents, et une éducation des utilisateurs à vérifier ces signatures. C'est techniquement faisable. C'est socialement et politiquement très difficile.

L'AGI, et ce que ça doit changer

AGI : définir ce dont on parle

AGI : Artificial General Intelligence. L'intelligence artificielle générale. La distinction avec l'IA actuelle est importante et souvent mal comprise.

Les IA actuelles, aussi impressionnantes qu'elles soient, sont des intelligences artificielles étroites (ANI : Artificial Narrow Intelligence). Un grand modèle de langage est excellent pour le traitement du texte, mais il ne peut pas conduire une voiture, reconnaître une odeur, attraper une balle, ou comprendre une nouvelle situation qui n'a aucun analogue dans ses données d'entraînement. Un modèle de reconnaissance d'image est excellent pour identifier des chats dans des photos, mais il ne peut pas rédiger un poème. Chaque IA actuelle est extraordinairement spécialisée.

L'AGI, dans la définition la plus commune, désigne un système capable d'accomplir n'importe quelle tâche intellectuelle qu'un être humain peut accomplir, de manière générale et transférable. Un système qui peut apprendre un nouveau domaine à partir de peu d'exemples, comme le fait un enfant. Un système qui peut raisonner par analogie, comprendre des contextes inédits, et adapter son comportement à des situations nouvelles sans qu'on lui ait explicitement appris à les gérer.

Une AGI n'existerait pas encore aujourd'hui selon la plupart des définitions. Mais la question de quand elle existera, et sous quelle forme, est l'une des plus débattues et des plus importantes de notre époque.

Les timelines : un débat fondamental et honnêtement incertain

Les prévisions sur le calendrier de l'AGI varient de manière spectaculaire selon les experts.

Sam Altman, PDG d'OpenAI, a déclaré en 2024 qu'il croyait que l'AGI pourrait émerger "dans les prochaines années". Des chercheurs de DeepMind ont fait des déclarations similaires. Elon Musk, qui a co-fondé puis quitté OpenAI, a prédit à plusieurs reprises des dates précises (2025, 2026, 2029) avec la même assurance qu'il met à prédire n'importe quelle autre chose.

À l'autre bout du spectre, des chercheurs comme Gary Marcus, Yann LeCun (pourtant anciennement directeur scientifique de l'IA chez Meta, actuellement ayant lancé Ami Labs en France), ou Melanie Mitchell estiment que l'AGI, au sens d'un système véritablement capable de raisonnement général et de transfert d'apprentissage, n'est pas une question d'années mais de décennies, voire que l'architecture actuelle des LLMs ne permettra jamais d'y parvenir.

La difficulté de ce débat tient à plusieurs facteurs. Premièrement, la définition de l'AGI elle-même est contestée. Selon la définition qu'on choisit, on peut argumenter que GPT-4 est déjà une forme d'AGI limitée, ou que rien de ce que nous avons aujourd'hui ne s'en approche. Deuxièmement, la progression des capacités en IA a régulièrement surpris les experts dans les deux sens : des progrès spectaculaires sont arrivés plus vite que prévu (les LLMs après 2020), et des limites annoncées comme surmontables dans "cinq ans" persistent depuis des décennies (le raisonnement causal, le common sense).

Ce qui est certain, c'est que nous ne savons pas. Et c'est là que réside le problème. Si l'AGI arrive dans dix ans, nous avons une décennie pour nous y préparer. Si elle arrive dans deux ans, nous sommes collectivement impréparés. Si elle n'arrive jamais sous cette forme, les IA étroites actuelles, en proliférant et en se spécialisant, pourront produire des effets pratiquement équivalents à l'AGI dans de nombreux domaines.

Ce que l'AGI ne pourra pas faire

Il y a une tentation, compréhensible, d'imaginer l'AGI comme la solution à tous les problèmes dont nous avons parlé jusqu'ici. Une IA vraiment intelligente, vraiment générale, ne pourrait-elle pas résoudre le problème de la désinformation ? Ne pourrait-elle pas distinguer le vrai du faux ? Ne pourrait-elle pas contrer les biais cognitifs humains ?

La réponse est non, et pour des raisons profondes qui tiennent moins à la technologie qu'à la nature du problème.

Un système AGI, aussi sophistiqué soit-il, ne peut pas résoudre le problème de la désinformation parce que ce problème n'est pas fondamentalement un problème de capacité de traitement de l'information. C'est un problème de volonté humaine, d'intérêts économiques et politiques, et de dynamiques sociales.

La désinformation prospère parce qu'elle est utile à des acteurs qui la produisent et qui la diffusent. Elle est utile aux politiciens qui veulent mobiliser leur base électorale. Elle est utile aux entreprises qui veulent créer le doute sur les risques de leurs produits. Elle est utile aux régimes autoritaires qui veulent confondre les perceptions de leurs citoyens. Elle est utile aux acteurs économiques qui profitent de l'engagement algorithmique. Une AGI qui identifierait parfaitement chaque pièce de désinformation ne résoudrait pas ces problèmes d'intérêt. Elle serait simplement ignorée, contournée, ou interdite par les acteurs qui bénéficient de la désinformation.

Deuxièmement, une AGI ne peut pas, par définition, résoudre les désaccords de valeurs. La question "faut-il imposer des limites à l'immigration ?" ou "faut-il augmenter les impôts sur les plus riches ?" ne sont pas des questions auxquelles la vérité répond. Ce sont des questions de valeurs, de priorités, de visions du monde. La désinformation s'attaque souvent à des questions factuelles (le réchauffement climatique est réel, les élections n'ont pas été volées), mais elle prospère dans le terreau des conflits de valeurs où les gens ont des raisons de vouloir croire à certaines choses plutôt qu'à d'autres.

Troisièmement, même une AGI parfaitement alignée sur la vérité ne peut pas forcer les humains à la croire. La psychologie du biais de confirmation, de l'effet de vérité illusoire, de la dynamique de groupe, ne disparaîtra pas parce qu'une IA produit des outputs corrects. Les humains croiront ou ne croiront pas une IA selon les mêmes mécanismes qu'ils utilisent pour croire ou ne pas croire un expert humain : la confiance, l'appartenance tribale, le récit, l'identité.

Ce que l'AGI devrait nous forcer à faire

Si l'AGI ne peut pas résoudre nos problèmes informationnels à notre place, elle peut néanmoins être l'occasion, et peut-être la nécessité, de repenser fondamentalement notre rapport à l'information.

La première chose que l'AGI devrait forcer à faire, c'est de développer massivement ce que les Anglo-Saxons appellent l'"AI literacy" : la littératie en intelligence artificielle. Pas seulement apprendre à utiliser des outils d'IA (ce que des millions de gens font déjà de façon empirique), mais comprendre ce qu'est réellement une IA : ses mécanismes, ses limites, ses biais, les conditions dans lesquelles elle est fiable et celles dans lesquelles elle ne l'est pas.

Cette littératie est urgente et concerne tout le monde. Les décideurs politiques qui légifèrent sur l'IA sans comprendre son fonctionnement. Les journalistes qui couvrent l'IA avec les mêmes catégories conceptuelles qu'ils utiliseraient pour une nouvelle loi fiscale. Les médecins qui utilisent des outils d'IA diagnostique sans comprendre leur marge d'erreur. Les enseignants confrontés à des étudiants qui utilisent des LLMs pour leurs devoirs. Les citoyens qui vont être confrontés à des deepfakes politiques lors des prochaines élections.

La deuxième chose que l'AGI devrait forcer à faire, c'est de repenser les systèmes institutionnels de vérification de l'information. Dans un monde où la production de contenu authentique-sounding n'est plus contrainte par le temps humain ou les compétences humaines, les systèmes actuels de fact-checking (quelques organisations avec des équipes limitées qui vérifient quelques dizaines d'affirmations par jour) sont structurellement inadéquats face à des systèmes capables de produire des millions de pièces de désinformation par jour.

Des réponses institutionnelles possibles incluent : des exigences légales de labellisation des contenus générés par IA, des systèmes de certification d'authenticité pour les contenus journalistiques et institutionnels, des obligations de transparence pour les algorithmes de recommandation, et des régulations sur les marchés publicitaires qui permettent aujourd'hui de financer la désinformation.

La troisième chose que l'AGI devrait forcer à faire, c'est de prendre au sérieux la question de l'alignement. Non pas l'alignement au sens technique (s'assurer que le système fait ce qu'on lui demande), mais l'alignement au sens politique et éthique : avec quelles valeurs, dans l'intérêt de qui, sous le contrôle de qui, une AGI serait-elle déployée ?

Une AGI contrôlée par un État autoritaire est une arme de contrôle de population d'une puissance sans précédent. Une AGI contrôlée par une oligarchie privée est un outil d'extraction de valeur et de consolidation du pouvoir économique d'une efficacité terrifiante. Une AGI déployée sans gouvernance adéquate est une catastrophe imprévisible. Ces scenarios ne sont pas de la science-fiction. Ils sont les scénarios par défaut si personne ne les adresse délibérément.

La responsabilité humaine dans un monde post-AGI

Il y a une tentation intellectuellement confortable de déléguer la responsabilité morale à la technologie. "C'est la faute de l'algorithme." "L'IA a décidé." "Le système a optimisé pour ça." Ces formulations, bien qu'elles décrivent parfois des réalités techniques, escamotent une vérité fondamentale : derrière chaque système technologique, il y a des choix humains.

Quelqu'un a décidé d'optimiser l'algorithme pour l'engagement plutôt que pour la qualité informationnelle. Quelqu'un a décidé de vendre de l'espace publicitaire sans contrôle sur le contenu adjacent. Quelqu'un a décidé de ne pas investir dans des modèles de modération de contenu dans des langues autres que l'anglais. Quelqu'un a décidé que la vitesse de déploiement primait sur la sécurité. Ces "quelqu'uns" sont des humains, avec des noms, des responsabilités légales, et des comptes en banque.

Dans un monde post-AGI, cette responsabilité humaine ne disparaît pas. Elle s'amplifie. Un système AGI sera, par définition, plus capable, plus autonome, plus influent que ce que nous avons aujourd'hui. Les choix de conception, d'entraînement, d'alignement, de déploiement, de gouvernance auront des conséquences proportionnelles à cette puissance accrue.

L'analogie de l'arme mérite d'être approfondie ici. Une arme ne tue pas seule. Mais les sociétés humaines ne s'en sont pas remises à cette vérité pour ne pas réguler les armes. Elles ont développé des cadres légaux, des contrôles, des traités internationaux, des mécanismes de responsabilité. Imparfaitement. Avec des échecs. Mais avec une reconnaissance explicite que la puissance de l'outil crée une obligation de gouvernance proportionnelle.

L'IA, en tant qu'outil d'amplification des capacités humaines, obéit au même principe. Sa puissance crée une obligation de gouvernance que ni le marché seul, ni la technologie seule, ni les bonnes intentions des ingénieurs seuls ne peuvent satisfaire. C'est une obligation politique, démocratique, sociale.

La question n'est pas "l'IA va-t-elle nous sauver ou nous détruire ?" Cette question, aussi populaire qu'elle soit dans le débat public, est mal posée. Elle traite l'IA comme un agent autonome avec une volonté propre. L'IA n'a pas de volonté. Elle amplifie notre volonté, nos choix, nos biais, nos intentions.

La vraie question est : qu'est-ce que nous voulons amplifier ?

L'amplificateur et l'amplifié

Nous vivons une époque de vertige. Les outils à notre disposition dépassent notre capacité à en comprendre les implications. Les changements technologiques se succèdent à un rythme qui interdit la réflexion sereine. Et dans ce vertige, la tentation est grande de céder soit à la panique ("l'IA va nous détruire"), soit à l'euphorie ("l'IA va tout résoudre"), soit à l'indifférence ("c'est trop compliqué, je n'y comprends rien").

Aucune de ces postures n'est utile.

Ce qui est utile, c'est de regarder lucidement ce que nous avons. Nous avons des outils d'amplification d'une puissance sans précédent dans l'histoire humaine. Internet a amplifié la portée de la communication humaine. L'IA générative amplifie maintenant la capacité de production de contenu humain. Ces amplifications sont réelles, elles sont profondes, et elles sont, pour l'essentiel, irréversibles.

Elles amplifient les meilleures choses que nous produisons : la connaissance, la créativité, la connexion, la solidarité, la beauté. Le médecin de brousse qui peut désormais consulter une base de données médicale complète depuis son téléphone. Le chercheur en poste dans une université sans ressources qui accède aux mêmes outils qu'un collègue de Stanford. L'artiste autodidacte qui peut maintenant produire des visuels d'une qualité autrefois réservée aux professionnels. L'étudiant sourd qui peut sous-titrer n'importe quelle vidéo en temps réel. Ces réalités sont aussi vraies que les dangers que nous avons décrits.

Et elles amplifient les pires choses que nous produisons : la désinformation, la haine, la propagande, la manipulation, le complotisme. Pas parce que ces outils sont mauvais. Parce que nous le sommes aussi, parfois, sous certaines conditions, dans certains contextes.

La bêtise humaine n'a pas attendu internet pour exister. Elle n'a pas attendu l'IA générative pour s'exprimer. Elle a produit des génocides avec des machettes et de la propagande radiophonique. Elle a déclenché des guerres mondiales avec des technologies industrielles et des idéologies nationalistes. Elle a brûlé des sorcières avec des torches et des textes théologiques.

Ce qui change, c'est l'échelle. La vitesse. Le coût. Auparavant, produire de la désinformation à grande échelle nécessitait des ressources étatiques ou quasi-étatiques. Maintenant, ça nécessite un ordinateur et une connexion. Auparavant, identifier une image fake nécessitait un expert. Maintenant, ça va bientôt nécessiter une expertise spécialisée en IA forensics. Auparavant, la portée de voix d'un individu était limitée à ses voisins. Maintenant, elle est potentiellement globale.

C'est cette modification d'échelle qui rend la situation urgente. Non pas parce que l'humanité est devenue plus bête ou plus mauvaise. Mais parce que les outils à notre disposition amplifient désormais nos erreurs avec la même efficacité qu'ils amplifient nos réussites. Et nos erreurs, à l'échelle à laquelle elles peuvent maintenant se propager, peuvent avoir des conséquences civilisationnelles.

Face à cela, plusieurs positions sont possibles.

La régulation n'est ni la solution magique ni l'ennemi de l'innovation. C'est un outil, imparfait comme tous les outils humains, qui peut orienter les incitations dans des directions moins destructrices. L'Union Européenne, avec l'AI Act, a fait un premier pas, critiquable sur de nombreux points, mais représentant au moins la reconnaissance que les outils technologiques d'une certaine puissance nécessitent une gouvernance. Cette reconnaissance est en soi un progrès.

L'éducation est peut-être la réponse la plus fondamentale, et la plus lente. Former des citoyens capables de penser de manière critique, de vérifier des sources, de comprendre les mécanismes de la désinformation, de résister à la pression sociale de la chambre d'écho : c'est un projet de génération, pas de trimestre. Mais c'est le seul projet qui s'attaque à la racine plutôt qu'aux symptômes.

La responsabilité individuelle existe et ne peut pas être entièrement évacuée par les dynamiques systémiques. Chaque partage d'une information non vérifiée est un choix. Chaque clic sur un titre outrageant est un choix. Chaque refus de s'exposer à des points de vue contraires est un choix. Ces choix individuels, agrégés à l'échelle de milliards de personnes, constituent le système. Le système ne changera pas si ces choix individuels ne changent pas.

Et la responsabilité collective, institutionnelle, politique, est non négociable. Des entreprises qui bâtissent leurs fortunes sur des algorithmes qu'elles savent amplifier la désinformation ont une responsabilité. Des gouvernements qui permettent l'existence de marchés non régulés de la désinformation ont une responsabilité. Des développeurs d'IA qui déploient des systèmes dont ils ne comprennent pas encore toutes les implications ont une responsabilité. Ces responsabilités ne disparaissent pas parce que "c'est compliqué" ou parce que "le marché a décidé".

L'intelligence artificielle est un miroir. Elle nous renvoie, amplifiés, ce que nous mettons devant elle. Si nous y mettons le pire de nous-mêmes, elle nous l'amplifiera. Si nous y mettons le meilleur, elle fera de même.

La question n'est pas tant ce que l'IA fera de nous. La question est ce que nous ferons de nous-mêmes, maintenant que nous avons des amplificateurs aussi puissants entre les mains.

C'est une question à laquelle les intelligences artificielles, aussi générales qu'elles deviendront, ne peuvent pas répondre à notre place. C'est une question humaine. Elle l'a toujours été.

Cet article n'a pas été écrit pour convaincre. Il a été écrit pour poser des questions. Si vous êtes en désaccord avec certaines des positions qui y sont exprimées, c'est exactement le bon début.

Sources et références

Internet et communication

Vosoughi, S., Roy, D., Aral, S. (2018). The spread of true and false news online. Science, 359(6380), 1146-1151. [Étude MIT sur la propagation des fake news : 6x plus vite, audience 35x plus large, vecteur humain et non robotique.]
Berners-Lee, T. (1989). Information Management: A Proposal. CERN. Proposition originale du World Wide Web.
Silverman, C. (2016, novembre). This Analysis Shows How Viral Fake Election News Stories Outperformed Real News On Facebook. BuzzFeed News. [Cas de Veles, Macédoine du Nord.]
Sunstein, C.R. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton University Press. [Polarisation de groupe et chambres d'écho.]

Intelligence artificielle

Turing, A.M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. [Article fondateur sur le test de Turing.]
Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS 2017. Google Brain. [Architecture Transformer.]
Krizhevsky, A., Sutskever, I., Hinton, G. (2012). ImageNet Classification with Deep Convolutional Neural Networks. NeurIPS 2012. [Renaissance du deep learning.]
Brown, T. et al. (2020). Language Models are Few-Shot Learners. OpenAI. [GPT-3, 175 milliards de paramètres.]
Bender, E.M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT 2021. [Critique des LLMs et reproduction des biais.]

Psychologie cognitive et biais

Dunning, D., Kruger, J. (1999). Unskilled and Unaware of It: How Difficulties in Recognizing One's Own Incompetence Lead to Inflated Self-Assessments. Journal of Personality and Social Psychology, 77(6), 1121-1134.
Hasher, L., Goldstein, D., Toppino, T. (1977). Frequency and the Conference of Referential Validity. Journal of Verbal Learning and Verbal Behavior, 16(1), 107-112. [Effet de vérité illusoire, première documentation.]
Frankfurt, H.G. (2005). On Bullshit. Princeton University Press. [Distinction entre mensonge et indifférence à la vérité.]

Désinformation documentée

Hegghammer, T. (2020). The rise of anti-vaxxers. Études documentant la montée des mouvements anti-vaccins en ligne et leur impact sur les politiques de santé publique.
CDC (2000). Measles elimination from the United States. [Déclaration d'élimination de la rougeole aux États-Unis.]
Supran, G., Oreskes, N. (2017). Assessing ExxonMobil's climate change communications (1977–2014). Environmental Research Letters. [Documents internes Exxon sur le réchauffement climatique.]
Agence France-Presse / Reuters (2020). 5G conspiracy theories fuel attacks on phone masts across Europe. [Incendies d'antennes 5G en 2020.]

Deepfakes et authenticité

Citron, D.K., Chesney, R. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107, 1753. [Concept du "liar's dividend".]
Higgins, E. (mars 2023). Images générées par Midjourney représentant l'arrestation de Donald Trump. Bellingcat. [Démonstration publique des capacités des IA génératives d'images.]
Reuters (mars 2022). Fact Check: Manipulated video of Ukraine President Zelenskyy. [Deepfake Zelensky demandant la reddition.]
C2PA - Coalition for Content Provenance and Authenticity : c2pa.org. Standard ouvert de certification de provenance des contenus numériques.

AGI et gouvernance

Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking. [Enjeux d'alignement et de gouvernance de l'IA.]
Marcus, G., Davis, E. (2019). Rebooting AI: Building Artificial Intelligence We Can Trust. Pantheon. [Critique des limites actuelles des LLMs.]
Union Européenne (2024). AI Act - Règlement sur l'intelligence artificielle. Journal officiel de l'UE. Premier cadre légal contraignant sur l'IA.