Les Jeunes IHEDN (LJI) : Avant toute chose, comment définiriez-vous la désinformation ?

La désinformation est pensée comme problématique, précisément parce qu’elle parviendrait à modifier les croyances et les comportements, et donc à affecter la rationalité et l’autonomie des individus. Ce qui, en démocratie, est plus qu’important puisque ces dimensions garantissent le libre exercice du jugement des citoyens.

Les disciplines techniques, en particulier les sciences « dures » du cyber et la captologie par exemple, s’intéressent surtout à l’amont de cette chaîne, c’est-à-dire à la création, à la détection, à la propagation des contenus. Par exemple, le service VIGINUM, au sein du SGDSN (Secrétariat général de la Défense et de la Sécurité nationale) a été mis en place pour détecter et analyser les opérations numériques d’ingérence étrangère. Or, pour comprendre ce qui se joue en aval, pour intégrer la manière dont ces contenus vont ou non influencer nos croyances ou nos décisions, il est indispensable de mobiliser d’autres sciences empiriques comme la psychologie ou les sciences cognitives.

LJI : Pouvez-vous nous parler des difficultés aujourd’hui rencontrées dans cette lutte ?

G.D : Le problème, c’est qu’aujourd’hui, l’aval de cette chaîne est presque complètement désinvesti en France. On a tendance à travailler avec une vision un peu naïve et mécanique de la psychologie humaine, avec un seul canal de transmission dans un schéma réducteur. La désinformation affecte les croyances des gens. Ces croyances-là affectent leurs comportements. On peut ainsi aboutir sur cette réduction à un modèle mental simpliste de la façon dont les gens raisonnent, ce qui amène à réduire le problème de la mésinformation et du complotisme à un simple problème de rationalité. Pour caricaturer, « la mésinformation serait efficace parce que les gens sont stupides, ou à cause des biais cognitifs ». Il y a plusieurs problèmes avec cette approche. Je vais en donner deux exemples :

• Le premier, est celui de la multiplicité des canaux de transmission de la propagande.

Prenons le cas de l’efficacité de la propagande nazie. Est-ce que l’exposition à cette propagande antisémite se traduit par une augmentation des actes antisémites ? Dans certaines régions d’Allemagne, avant la Seconde Guerre mondiale, nous relevons une corrélation entre l’exposition à la propagande antisémite et le taux d’actes antisémites. À partir du modèle naïf dont je parlais, on pourrait se dire que la propagande modifie les croyances des individus à propos des juifs, ce qui se traduit en retour par une augmentation des actes antisémites.

Dans cette perspective, les opérations de contre-propagande, pourraient être par exemple de « débunker » (démystifier) les croyances antisémites en réfutant les informations issues du régime nazi. Mais lorsque l’on fait une analyse un peu plus fine des mécanismes à l’œuvre, on se rend compte qu’il y a plusieurs effets. Le premier, c’est qu’il existe un effet asymétrique de la propagande selon les publics : chez les personnes qui n’étaient pas antisémites, elle a eu un effet neutre, voire contre-productif, et l’exposition répétée à un discours haineux a renforcé leur méfiance envers le régime. Ce sont quasiment exclusivement les personnes initialement antisémites qui ont été touchées par cette propagande. Mais ce n’est pas nécessairement en changeant leur croyance et leur représentation, c’est en envoyant un signal institutionnel. Le fait que la propagande antisémite soit diffusée massivement, notamment par la radio, indique implicitement que l’État est désormais pour l’accomplissement d’actes antisémites.

Autrement dit, le levier principal, ce n’est pas le changement des croyances, mais la modification de la position de l’État vis-à-vis des comportements antisémites. Ainsi, le véritable canal de transmission qui peut conduire à ces actes, ce n’est pas une persuasion idéologique, mais l’interprétation d’un relâchement du contrôle social et juridique. Concrètement, les personnesantisémites qui voulaient passer à l’acte avant la propagande ne le faisaient pas parce qu’elles craignaient la prison, mais la propagande devenant un signal de la position de l’État, la peur de la condamnation disparaît.

Cela montre bien que déduire une propagande efficace, simplement par une relation entre l’augmentation de la propagande et une modification des comportements, n’est pas forcément une bonne analyse. Forcément, cela joue, mais ce n’est pas le seul levier de transmission. Si nous n’identifions  pas tous les leviers de transmission, nous ne pouvons pas faire de contre-propagande ni de contre-ingérence efficace.

• Le deuxième exemple illustratif, c’est celui des limites du cadrage rationaliste de la désinformation.

Si nous prenons l’exemple de l’adhésion aux théories du complot ou aux mouvements sectaires, les recherches montrent en réalité que l’un des meilleurs prédicteurs de cette adhésion n’est pas la déficience cognitive ni le défaut de raisonnement, mais la solitude ou l’isolement social. En adoptant un cadrage rationaliste, on pourrait croire que penser que des extraterrestres vont arriver ou que la Terre est plate, c’est uniquement une incapacité à raisonner correctement. Pourtant, des croyances qui paraissent irrationnelles du point de vue de la rationalité telle qu’on l’entend traditionnellement, peuvent être en quelque sorte logiques d’un point de vue social. Lorsqu’une personne est isolée, intégrer une secte ou une communauté complotiste permet dans une certaine mesure, de retrouver du lien, d’accéder à un réseau d’amitié.

Par ailleurs, il existe des déterminants autres qu’épistémiques – c’est à dire autres que la vérité ou la fausseté d’une croyance –lorsque l’on va proférer de la désinformation. Par exemple, un certain nombre de personnes adhèrent à l’idée d’un complot mondial. Parfois, il est pédo-sataniste, parfois ce sont les « Illuminatis », parfois ce sont les « Francs-maçons »… C’est un complot qui serait extrêmement puissant, disposant de police secrète, prêt à enlever ou assassiner ceux qui voudraient le dénoncer. Toutefois, les gens qui y croient vont dénoncer le complot sur Facebook. Ils vont faire des groupes pour échanger autour, voire réaliser de grandes conférences dessus. En revanche, lorsque l’on prend justement quelqu’un qui est dans un État très autoritaire, où il y a vraiment une police politique qui peut être violente, tout de suite, les gens vont beaucoup moins dénoncer « le grand complot ». Cela montre une sorte de décalage entre l’expression de croyance et la véritable croyance, qui n’est pas du tout gouvernée par une évaluation rationnelle. Le souci n’est pas épistémique, ce n’est pas un souci de vérité, mais ce sont avant tout des dynamiques sociales.

Il s’agit moins d’exprimer une analyse de la situation que d’un geste d’inscription collective et de signalement identitaire.En sciences cognitives, les travaux de Hugo Mercier et Dan Sperber interprètent ce phénomène en distinguant les croyances intuitives des croyances réflexives – c’est-à-dire des croyances qui vont être socialement exprimées mais qui n’ont pas de conséquences concrètes sur la vie des gens. Par exemple, nous pouvons mentionner la thèse exprimée sous cette forme : « on n’a jamais marché sur la lune ». En réalité, la plupart des croyances complotistes sont des croyances réflexives. De plus, il y a également une hypothèse selon laquelle adhérer publiquement à une croyance extrême sert à renforcer l’appartenance à un groupe, à consolider les liens sociaux internes et à brûler les ponts avec des groupes extérieurs pour marquer une fidélité sans retour. Par exemple, si je dis que je suis platiste de façon publique, ça va brûler les ponts avec mes amis non-platistes qui vont penser que je suis fou, mais cela va consolider mes liens sociaux avec la communauté platiste. Cette dynamique explique pourquoi certaines croyances, bien que coûteuses ou absurdes d’un point de vue épistémique et rationnel, sont adoptées et proclamées avec force par certains.

Pour résumer, l’adhésion à des croyances extrêmes, c’est aussi le reflet de dynamiques sociales, ce n’est pas seulement un problème épistémique, ni seulement un problème de rationalité. C’est important de le prendre en compte parce que ça va déverrouiller des politiques structurelles de lutte contre la désinformation par le renforcement du lien social, par la lutte contre la solitude.

LIJ : Quels sont les déterminants de la croyance et de la diffusion de la mésinformation ?

G.D : Au niveau de la croyance dans la mésinformation, on peut faire une typologie entre deux types de déterminants : les déterminants au niveau individuel et les déterminants au niveau structurel. Pour les déterminants individuels, il y a plusieurs caractéristiques. On peut encore une fois faire une sous-typologie entre les déterminants qui sont les facteurs de personnalité, d’autres qui sont des facteurs cognitifs et enfin d’autres qui sont des facteurs identitaires.

• Au niveau des facteurs de personnalité, il y a certains traits de personnalité qui vont prédire la susceptibilité à la désinformation. Certaines recherches montrent par exemple que les individus plus extravertis ainsi que ceux qui présentent des niveaux plus faibles de conscienciosité ou encore d’agréabilité sont plus enclins à croire et à partager les fausses informations. Ce phénomène est observé pour une multitude de traits spécifiques. Il peut se regrouper sur ce que les psychologues appellent la triade sombre : le narcissisme, le machiavélisme et la psychopathie, qui sont des traits associés à une adhésion accrue aux fausses informations.
• Au niveau des facteurs cognitifs – c’est-à-dire du raisonnement individuel – il y a plusieurs éléments qui prédisent l’adhésion à la désinformation. La numératie, soit la capacité à résoudre des problèmes mathématiques, est associée à une meilleure capacité de discernement. Dans un même style, la pensée réflexive, par opposition à un style beaucoup plus intuitif, va réduire la probabilité de croire à des informations fausses. Pour résumer, la vulnérabilité à la désinformation est davantage liée au manque d’activation des capacités de raisonnement que l’on possède, plutôt qu’à un déficit de ces mêmes capacités.

• Ensuite, sur les facteurs identitaires, la croyance en la désinformation est aussi influencée par l’appartenance politique et les dynamiques de groupe. Aux États-Unis, les conservateurs tendent à être plus vulnérables que les libéraux face à la désinformation, bien que ce pattern ne soit pas universel selon les contextes nationaux. Par exemple, dans des contextes comme la Hongrie ou l’Ukraine, la recherche montre que c’est le soutien ou l’opposition au gouvernement en place, plutôt que le bord politique, qui va prédire la perception du conflit inter-groupe, qui va moduler la croyance de fausses informations. C’est aussi la théorie du biais partisan qui va expliquer que l’information est souvent évaluée de manière à renforcer les préjugés de groupe, renforçant l’adhésion à des récits identitaires, au détriment de l’exactitude. C’est encore une fois le rôle social de la désinformation qui doit être mis en avant. Enfin, il y a l’exposition différenciée aux sources médiatiques, biaisées ou non, qui va jouer un rôle clé, qui elle-même dépend de l’alignement politique. Nous n’allons pas consommer la même chose en fonction de qui on aime bien, de ce que l’on veut et de ce que l’on veut voir. Cela a des impacts dans la mesure où ça montre qui cibler, qui défendre, etc.
• Pour les déterminants structurels de la croyance dans les fakes news, la désinformation n’est pas seulement un accident cognitif individuel, mais un symptôme de dynamique sociale plus profonde. Sa diffusion et sa réception sont favorisées par des contextes marqués par l’isolement social, la défiance envers les institutions et les médias, la détresse psychologique et la polarisation politique. Plusieurs études montrent que les croyances en des récits trompeurs répondent souvent à des besoins sociaux et psychiques dans des environnements qui sont perçus comme dégradés ou hostiles. Un des premiers facteurs structurels, c’est l’effondrement des liens sociaux. Une étude, publiée dans Nature Communications en 2022, portait sur plus de 2000 participants suivis pendant 30 ans. Elle montre que la solitude chronique lors de l’adolescence ou son aggravation à l’âge adulte prédit l’adhésion ultérieure aux théories du complot. À ces fragilités individuelles, s’ajoutent des dynamiques plus systémiques de défiance et de polarisation. Une autre enquête, effectuée dans 21 pays, montre que la méfiance envers les gouvernements et les autorités sanitaires prédisait l’adhésion aux fausses informations sur la Covid-19. En France, pour donner un ordre d’idée, seulement 34 % des citoyens faisaient confiance à leur gouvernement en 2023, contre 39 % en moyenne dans l’OCDE, et seulement 32% faisaient confiance aux médias. C’est cette défiance qui réduit l’efficacité des vérifications factuelles. Si vous n’avez pas confiance dans la personne qui va faire le « débunk » (la démystification), ce dernier peut ne pas être efficace.
• Enfin, au niveau économique, c’est la précarité croissante et les inégalités sociales qui exacerbent la vulnérabilité à la désinformation. Lorsque les conditions matérielles de vie se détériorent, l’insécurité économique va réduire votre disponibilité cognitive pour l’évaluation critique de l’information. Dans les sociétés caractérisées par une faible croissance économique ou de fortes inégalités, les théories du complot vont trouver un terrain particulièrement propice. Elles vont offrir des explications simplificatrices, souvent fallacieuses, mais capables de transformer une sorte de sentiment diffus de malaise, d’injustice, en un récit mobilisateur. De nombreuses études montrent que les sociétés les plus marquées par des écarts économiques importants sont également celles où l’adhésion à des narratifs conspirationnistes est la plus forte.

La désinformation doit donc être comprise non comme une pathologie isolée, mais comme un symptôme de dynamiques sociales, économiques et politiques plus profondes. Si les interventions actuelles, donc la vérification des faits, la régulation des plateformes, l’éducation aux médias, permettent de limiter certains effets immédiats, elles restent insuffisantes pour lutter sur le fond contre le terreau propice à la prolifération de la désinformation.

Comprendre la désinformation comme étant déterminée par les dynamiques sociales, les dynamiques économiques, la prévalence de pathogènes et la violence dans la société, permet aussi d’anticiper l’évolution future, puisque l’on peut faire des prédictions macro-économiques ou encore sanitaires sur l’évolution de certaines situations.

LJI : Pourquoi un individu partage une fausse information ?

G.D : Ce ne sont pas du tout les mêmes déterminants qui vont faire que quelqu’un va croire dans la désinformation, que ceux qui vont faire que quelqu’un va partager cette désinformation. Ce qui pose notamment un problème pour la science, c’est que l’on se fonde sur le taux d’engagement pour mesurer l’impact de la désinformation sur les réseaux sociaux. Ce n’est pas forcément une mesure adéquate, même si c’est la meilleure qu’on ait aujourd’hui. La diffusion de la désinformation est extrêmement asymétrique.

Lors de la pandémie de la Covid-19, 65 % de la désinformation analysée sur Facebook provenait uniquement de 12 personnes, qu’on surnomme aujourd’hui la disinformation dozen. Cela illustre que la majorité des contenus trompeurs est produite et amplifiée par une infime minorité d’acteurs très influents, souvent motivés par des intérêts stratégiques, politiques ou financiers. De la même façon, c’est une toute petite poignée d’individus, quelques pourcents de la population, qui va faire la majorité des likes et des partages de la désinformation.

Deuxième point important à mentionner : partager une désinformation ne signifie pas nécessairement y croire. Il y a énormément de partages de contenus trompeurs motivés par l’envie de se moquer, de montrer l’absurdité de ce que les gens croient. Inversement, croire en une désinformation n’implique pas forcément de la partager, souvent par peur des moqueries.

LJI : Quelles solutions peut-on mettre en œuvre face à la désinformation ?

G.D : Nous pouvons distinguer quatre grands types de politiques publiques pour lutter contre la prolifération de la désinformation, qui correspondent à peu près aux différentes étapes de la chaîne de diffusion informationnelle.

• Le premier type de politique qui vise à empêcher la production de la désinformation, c’est celle qui va justement s’attaquer à l’amont de la chaîne de la désinformation. Cela passe notamment par des mesures légales, comme les traités internationaux ou les dispositifs mis en place par l’Union Européenne. Par exemple, le Digital Service Act, bien que sa mise en œuvre soit semée d’embûches. Nous retrouvons dans ce type de politique, le cas des activités de repérage des ingérences étrangères de VIGINUM. Ces politiques contre la prolifération et contre la production des fausses informations, constituent un sujet central qui soulève beaucoup d’enjeux, notamment éthiques, juridiques, liés à l’asymétrie entre les régimes autoritaires et les démocraties, parce que les démocraties sont des sociétés ouvertes, donc beaucoup plus perméables à la désinformation.
• Le deuxième type de politique concerne la diffusion de la désinformation. Cela touche plus largement à l’architecture même de notre écosystème informationnel. C’est un combat qui ne porte plus seulement sur les contenus individuels, maissur l’environnement global dans lequel il circule. Aujourd’hui, nous vivons dans un environnement de saturation informationnelle permanente, avec un flux continu de contenus journalistiques, publicitaires, de divertissement, des vidéos de petits chats, des mèmes, qui sont en compétition constante pour capter notre attention. Cette sur sollicitation va produire une « fatigue » cognitive, une difficulté croissante à trier, à vérifier, à hiérarchiser les informations. Ces dynamiques sont aggravées par les algorithmes de recommandation des plateformes et des moteurs de recherche qui optimisent non pas la véracité ou la qualité de l’information, mais qui essaient de maximiser le temps d’engagement, le temps d’exposition, pour avoir des revenus publicitaires plus importants. Les algorithmes vont favoriser les contenus émotionnels polémiques, sensationnels, négatifs, au détriment de contenus fiables moins engageants. À cela, s’ajoutent en France d’autres dynamiques, comme la concentration des médias, qui va affecter la confiance dans ces derniers et pousser les gens à se tourner vers des sources qu’ils qualifient d’alternatives, moins fiables. Sur le sujet algorithmique, c’est probablement leur régulation, la diversification des sources, la restauration de l’écologie informationnelle saine, qui peuvent être des leviers de politique publique avec le plus gros ratio coût-bénéfice en termes de lutte contre la désinformation. Il faut revoir la conception des plateformes pour limiter la circulation virale de contenus douteux. Il faudrait développer une modération plus exigeante, une dé-plateformisation des acteurs majeurs de la désinformation, une régulation plus stricte obligeant les plateformes à assumer une part de responsabilité dans la diffusion des contenus qu’elles hébergent. Aujourd’hui, les politiques ciblant ce volet-là ont du mal à mettre en place ces solutions pour des raisons politiques, éthiques, juridiques, mais aussi sous la pression des lobbies des grandes entreprises numériques.
• Enfin, les deux derniers types de mesures se concentrent non plus sur les contenus ou leur circulation, mais sur les individus eux-mêmes, avec l’objectif d’empêcher que les gens croient dans la désinformation, ou qu’elle conduise à des comportements basés sur des éléments fallacieux. D’une part, il faudrait des mesures qui ciblent les individus, visant à renforcer les capacités cognitives, la pensée critique, les réflexes de discernement. D’autre part, les mesures structurelles visant à réduire les facteurs de vulnérabilité sociale à la désinformation, en agissant sur l’isolement, la défiance institutionnelle ou les inégalités économiques, peuvent être envisagées. C’est uniquement en agissant simultanément sur ces deux fronts que l’on pourra construire une résilience collective.

Pour les mesures individuelles, ces dernières vont viser spécifiquement les consommateurs de la désinformation, afin de renforcer leur résilience individuelle face aux ingérences informationnelles. L’idée est de rendre les citoyens moins crédules et plus vigilants afin qu’ils puissent distinguer eux-mêmes les informations fiables. Parmi ces nombreux dispositifs, souvent inspirés des sciences comportementales et cognitives, il y a plusieurs interventions qui sont peu coûteuses, complémentaires et efficaces.

• L’inoculation, qui est le nom français du « pre-bunking », consiste à exposer le public à une version atténuée des arguments mensongers, renforçant ainsi sa capacité à repérer et à contrecarrer les fausses informations. Une étude de Rosenbeck en 2022 a démontré que des cours de vidéos animées expliquant aux gens quels sont les processus de manipulation les aidaient à distinguer les fausses informations des informations véridiques.
• Des formations à la littératie médiatique et à la pensée critique. Une étude randomisée aux États-Unis et en Inde montre qu’un module de formation à l’esprit critique permet de réduire de 20 % à 25 % l’acceptation des fausses informations.
• Enfin, l’usage du « nudging » : des « coups de pouce » à l’esprit, qui peuvent être intégrés directement aux interfaces. Par exemple, à un moment de son histoire, le réseau social Twitter (aujourd’hui X), encourageait des comportements plus réfléchis avec ses partages. Nous pouvions alors y noter la présence d’un message « lire avant de retweeter ». Cela freinait significativement la diffusion de contenus mensongers.

Le second volet est celui des mesures structurelles. Combattre la désinformation suppose d’agir non seulement sur ces manifestations visibles, mais surtout sur les conditions profondes qui favorisent son enracinement. Donc, il faut reconstruire une confiance institutionnelle, retisser des liens sociaux, réduire les inégalités, apaiser les clivages politiques. Ces mesures vont dans le sens même du projet républicain et démocratique, avec des objectifs politiques fondamentaux, comme la lutte pour l’égalité, le renforcement de la solidarité, la citoyenneté active.

Concrètement, cela implique d’augmenter la confiance institutionnelle et médiatique par des processus de gouvernance plus transparents. Par exemple, la publication systématique des données publiques, la traçabilité des financements politiques, avoir des sanctions réelles en cas de conflits d’intérêts… Cela passe aussi par la revitalisation d’espaces de sociabilité et de proximité, le soutien de dispositifs de prestation sociale, l’investissement dans les territoires délaissés.

Il faut également agir sur la polarisation politique. Des programmes de rencontre inter-groupes ont montré que réduire les stéréotypes et créer des passerelles entre eux pouvait réduire la croyance en la désinformation. Ces politiques de long terme doivent être complétées par des leviers plus ciblés, notamment dans le champ médiatique. Restaurer la confiance dans les médias est fondamental pour avoir un espace public sain. Cela passe par le renforcement du secteur, comme la lutte contre la concentration des groupes de presse, donner de véritables moyens à l’ARCOM (Autorité de régulation de la communication audiovisuelle et numérique) pour réguler, ou créer un statut indépendant de structure médiatique chargé de garantir la transparence ou la déontologie journalistique. L’exemple souvent cité est le financement effacé du journalisme public, surtout local. Des aides publiques stables, des fonds d’innovation fiscale et des aides territoriales permettraient de redonner un souffle à ces acteurs essentiels.

Concrètement, afin de lutter contre la désinformation il faut avant tout lutter pour avoir la bonne information.

LJI : Quels sont ainsi, les grands enjeux futurs autour de la désinformation ?

G.D : Je vais répondre sans rentrer dans le détail de l’offre massive des contenus amplifiés par des systèmes d’intelligence artificielle ou les tensions géopolitiques, qui sont des sujets déjà beaucoup traités. Les défis ne sont pas les mêmes selon que l’on se place du point de vue scientifique, du point de vue général de la conception des politiques nationales ou du point de vue, plus précisément, de la culture de l’administration française et plus largement de l’Europe continentale, face à ces menaces.

Sur le plan scientifique, plusieurs priorités se dégagent :

• Collecter plus de données en dehors des États-Unis, car la plupart des travaux en psychologie et sciences cognitives se basent sur des participants américains ;
• Renforcer le travail interdisciplinaire entre sciences computationnelles, sciences politiques, psychologie et sciences cognitives, qui ne partagent pas toujours les mêmes cadres d’analyse ;
• Développer de meilleurs cadres théoriques pour comprendre pourquoi les gens croient et partagent de la désinformation ;
• Tester plus d’interventions concrètes contre la désinformation et élargir l’étude au-delà des seuls fausses informations visibles pour intégrer l’analyse de la malinformation et des manipulations plus subtiles ;

À court-terme, le défi est politique, comme l’illustre la décision de l’administration Trump de couper les fonds à la recherche contre la désinformation. Cela affaibli lourdement un champ où la plupart des laboratoires sont anglo-saxons.

Au niveau général de la lutte, le principal défi est d’avoir une approche intégrative et systémique. Cette notion de systémique se décline en trois dimensions :

• Adopter une approche scientifique empirique et transdisciplinaire en dépassant la vision réduisant la désinformation à un simple problème individuel de rationalité ou de crédulité. Cela suppose de croiser les apports de différentes disciplines en abandonnant l’ancien modèle de psychologie notamment inspiré des travaux de Gustave Le Bon, qui remontent à 1895.
• Aborder la chaîne de la transmission de la désinformation dans son ensemble. Il faut – bien sûr – continuer les actions en amont, mais sans négliger la compréhension fine de la formation des croyances, de leur diffusion et des mécanismes par lesquelles elles peuvent conduire au passage à l’action.
• Intégrer la dimension structurelle. À côté de mesures défensives de court-terme, il faut agir sur les causes profondes dont la désinformation est un symptôme.

Un des risques majeurs aujourd’hui, avec le retour des tensions géopolitiques et de la militarisation des rapports de force internationaux, c’est d’avoir un État régalien qui va redépasser l’État social alors que celui-ci est en quelque sorte une des composantes de l’État régalien, puisque c’est grâce à ces politiques qu’on peut constituer une base de résilience démocratique et cognitive face à la désinformation.

Au niveau concret de la gestion administrative de la désinformation :

• Évoluer vers un écosystème intégré, coordonné et fondé sur l’expertise empirique. Ce, comme pour la transition écologique. Le problème ne peut pas être traité de manière isolée, ni par une seule entité.
• Développer des programmes de « pre-bunking », d’éducation aux médias et à l’information (EMI). Par facilité, contrainte de moyen ou volonté politique de montrer une action rapide, les administrations vont privilégier une responsabilisation individuelle. Plus simple, moins coûteux et plus visible que de conduire des réformes structurelles complexes. Il faut aussi rappeler que les institutions en charge de cette lutte sont souvent des petites unités très peu dotées, ce qui explique cette tendance. Pourtant, une approche strictement individuelle reste insuffisante, il faut une réponse systémique qui l’accompagne.
• Les désinformateurs eux-mêmes ont professionnalisé leurs méthodes. Nous devons opérer le même saut qualitatif, là où ils sont passés d’une approche artisanale fondée sur l’intuition, à des gens formés en marketing, puis à une approche industrielle, fondée sur la psychologie humaine et une industrialisation des données. Notre réponse institutionnelle, aujourd’hui, reste encore basée sur cette approche de la gestion de crise du court-terme. Ce sont majoritairement des profils issus de la gestion de crise, du monde militaire et de l’administration qui pilotent cette lutte. Ils sont indispensables, mais il est nécessaire de les compléter par des profils issus de la recherche scientifique. Certaines initiatives existent déjà, notamment dans les services de renseignement et dans les armées, pionnières sur cette question.

LJI : Quel(s) rôle(s) joue(nt) les chambres d’écho et l’IA dans la propagation de la désinformation ?

G.D : Il convient de différencier les chambres d’écho des bulles de filtre.

Avec l’arrivée des LLMs (grand modèle de langage), et des chatbots comme ChatGPT, il y a eu une panique morale autour de l’effet des systèmes d’IA générative. Il faut en distinguer les types : l’IA générative et l’IA de recommandation. Aujourd’hui, on s’inquiète de l’IA générative (deepfakes vocaux, vidéos et autres faciles à réaliser). On surinterprète le danger. Lorsque l’on étudie la campagne de Trump, nous voyons que l’IA est utilisée pour faire de la satire, plutôt que pour générer du contenu trompeur. Aussi, c’était déjà très peu coûteux, avant l’IA générative, de créer du faux contenu. Cela ne va probablement pas changer les tendances de fond, mais rendra moins coûteux la production de fausses informations.

Je me méfie moins des systèmes d’IA génératives que des systèmes d’IA de recommandations qui sont plus dangereuses. Elles vont choisir pour vous, ce que vous allez consommer d’un point de vue médiatique. C’est aussi la notion de chambre d’écho, qui désigne dans l’environnement informationnel dans lequel vous évoluez, le fait que vous ayez plus d’informations qui vont dans votre sens que l’inverse. On les distingue des bulles de filtre, qui ne peuvent pas se créer de façon complètement naturelle. La bulle de filtre est un élément extérieur, le système d’IA de recommandation qui va créer cette chambre d’écho en privilégiant des contenus. Cela peut être de la désinformation, qui, très forte en émotivité où très négative, sera propulsée par l’IA de recommandation car elle aura plus de chance de faire fonctionner un revenu publicitaire. Le plus grand défi reste la régulation des algorithmes sur les plateformes.

LIJ : Les fausses informations représentent-elles un véritable danger ? En effet, il n’y a pas de consensus scientifique sur l’efficacité de la propagande dans la formation des croyances et des comportements électoraux.

G.D : D’abord, sur l’effet de la désinformation générale, il faut noter qu’il n’y a pas de consensus scientifique sur l’efficacité de la propagande. Pour caricaturer, il y a deux approches que nous n’avons pas tranchées aujourd’hui. Celle de l’offre et celle de la demande. En tant que scientifiques, quand on étudie la propagation de la désinformation, il y a deux façons de le faire.

• Soit on va faire des expériences en laboratoire, mettre des gens dans un environnement qu’on va contrôler et manipuler, présenter de vraies informations et de fausses informations, avant d’observer leurs capacités de discrimination.
• Soit, on va étudier sur les plateformes la propagation des fausses informations.

C’est tout le problème de la mesure qu’on évoque. C’est très compliqué d’étudier l’effet causal de la désinformation sur les comportements. Autrement dit, nous pouvons y voir des corrélations : « Il y a eu beaucoup de désinformation pro-Trump, et il a été élu ».

Il y a donc l’approche par l’offre, à savoir que l’offre de désinformation a créé le comportement qui a fait que Trump a été élu – désinformation persuasive. Il y a également l’approche par la demande, à savoir que « parce que les gens étaient pro-Trump, antisystème, dans un environnement dangereux, ils ont davantage diffusé une désinformation pro-Trump, car il y avait du public ». Autrement dit, ici il y a une autre variable qui va expliquer à la fois la présence et le succès de la désinformation pro-Trump, et à la fois le vote pour Trump. Il n’y a ici pas d’effet causale entre les deux. S’il y a beaucoup de partages par exemple sur les « reptiliens », ce n’est pas car le sujet a convaincu les gens, mais parce qu’il y a d’autres facteurs qui font que les gens émettent et partagent ce genre de théorie du complot.

Il y a quand même un principe de précaution qui s’applique. À partir du moment où c’est peu coûteux, et que cela va dans le sens des politiques structurelles, de lutter contre la propagande, dès lors qu’il y a une militarisation, dans un monde de plus en plus conflictuel sur cette question, il faut tout de même agir contre. Plus généralement, l’efficacité dépend de l’environnement, du type de personne affectée, du type de contenu… En revanche, il suffit de convaincre une seule personne de faire un attentat pour que cela soit extrêmement grave. Je pense donc qu’il faut traiter le sujet.

Concernant les fausses informations, je pense qu’elles sont moins un danger que d’autres formes plus diffuses de malinformation. Il faut lutter contre, mais pas seulement.

LJI : Est-ce que le « pre-bunking » est une stratégie efficace dans la lutte ? Peut-il s’avérer contreproductif, comme certains chercheurs le suggèrent ?

G.D : Il y a encore une fois plusieurs avis sur la question. D’un côté, les gens comme Sander Von Der Linden, proposent le « pre-bunking » pour « vacciner » les gens. Cela est démontré par des essais randomisés. La première critique est d’ordre méthodologique, car on va évaluer l’effet à très court-terme. La seconde, et la plus essentielle, c’est l’idée que l’inoculation ne rende pas plus perméable, mais plus méfiant envers toutes les informations en général. Les fausses informations ne sont qu’un petit pourcentage de ce que vous consommez sur Internet. Cela peut avoir un effet négatif sur le système informationnel global. On craint un effet « cobra », soit un effet rebond, et que cela constitue à la dégradation du niveau d’information des gens. Pour autant, cela n’a pas été démontré.

LJI : Où en est la science au sein des Armées sur le sujet ?

G.D : Ce qui est intéressant avec les armées c’est le côté asymétrique de l’intégration du sujet. On est très bon en France sur l’aspect cyber, technique, mathématique, ainsi que sur les sciences humaines et la géopolitique. Pour autant, sur les sciences empiriques et quantitatives, la France reste fragile. C’est une grande différence avec nos voisins anglo-saxons, les Russes ou les Chinois.

LJI : Le « pre-bunking » pourrait donc nuire à la confiance de manière générale. Certaines personnes montrent que « le fait que les gens ne croient plus en rien » est un des déterminants de la mise en place du totalitarisme. Est-ce quelque chose qui vous inquiète ?

G.D : Sur la question de la post-vérité aujourd’hui, je pense qu’il y a deux points intéressants. D’abord, celui de la causalité : est-ce que c’est l’absence de croyance qui constitue un terreau propice au totalitarisme, ou est-ce que ce sont les régimes autoritaires qui participent à la mise en place d’un système médiatique informationnel dans lesquels il y a du relativisme, parce que c’est l’une de leurs techniques ?

Aussi, c’est à la fois quelque chose de nouveau et d’ancien, dans la mesure où aujourd’hui, il y a une écologie informationnelle qui n’a jamais existé, notamment en termes de disponibilité des informations. Pour autant, les guerres de l’information, de la propagande, existait déjà sous l’Empire romain. La notion du relativisme moral est quand même arrivée à beaucoup de moments dans l’histoire, donc dire que ce soit une spécificité historique actuelle je n’en suis pas sûr, mais le fait de dire que c’est avec des armes nouvelles, oui.