Il y a beaucoup trop de cas où des personnes âgées, se sont laissées berner par des tentatives flagrantes de manipulation politique. Ce phénomène s’est tellement aggravé lors de l’élection présidentielle américaine de 2024 que l’ « Accord technologique pour lutter contre l’utilisation trompeuse de l’IA lors des élections de 2024 » a été mis en place. Des entreprises comme Anthropic, Meta, Google et Microsoft ont signé cet accord afin de respecter sa mission : déployer des technologies permettant de contrer les contenus malveillants générés par l’IA et destinés à tromper les électeurs.
Un élément de la déclaration de mission de cet accord est le suivant : « Le contenu numérique visé par l’accord comprend des contenus audio, vidéo et des images générés par l’IA qui falsifient ou modifient de manière trompeuse l’apparence, la voix ou les actions des candidats politiques, des responsables électoraux et d’autres acteurs clés d’une élection démocratique, ou qui fournissent de fausses informations aux électeurs sur le moment, le lieu et la manière dont ils peuvent voter. »
OpenAI fait partie des grandes entreprises technologiques qui ont adhéré à l’accord pour lutter contre les deepfakes électoraux. En 2026, elle a mis en place un système ingénieux, ChatGPT, pour tenir sa promesse d’empêcher la création de deepfakes politiques.
Blocage des demandes d’images photoréalistes
En mai dernier, OpenAI a publié un article de blog intitulé « Informations électorales et garanties en 2026 ».
L’une des méthodes les plus remarquables décrites dans ce blog est la façon dont il a modifié ChatGPT pour bloquer la création d’images destinées à désinformer les électeurs :
« Nous appliquons désormais la stylisation d’images aux demandes d’images représentant des ingérences électorales ou susceptibles de dissuader de voter. Ces images sont alors stylisées – ou caricaturées – et non photoréalistes, afin de limiter le risque de confusion entre une scène imaginaire et une preuve documentaire. Cette approche permet d’intégrer des illustrations et des commentaires sociaux. Nos politiques interdisant les ingérences électorales et la démobilisation restent toujours applicables, même si l’utilisation abusive de ces images implique des caricatures. »
En clair, cela signifie que toute demande adressée à ChatGPT pour des images photoréalistes destinées à être des deepfakes politiques ne produira que des images de style cartoon. Toute demande ultérieure visant à obtenir un rendu photoréaliste sera tout simplement ignorée.
Un essai et une demande de création d’une image montrant quelqu’un déposant des bulletins de vote par correspondance américains dans une urne a été fait en précisant que le rendu soit photoréaliste, mais le résultat final était une illustration. En voulant insister pour obtenir un rendu photoréaliste, ChatGPT s’est contenté d’améliorer légèrement son illustration originale (en conservant un style cartoon, soit dit en passant).
Un sondage Marist Poll indique que 70 % des républicains, 32 % des indépendants et 18 % des démocrates sont favorables à ce type d’image. On comprend donc facilement comment une image comme celle qui a été créée pourrait engendrer une forme de désinformation politique si elle était photoréaliste et diffusée massivement sur les réseaux sociaux.
D’autres grandes entreprises d’IA, telles que Google (Gemini) et Anthropic (Claude), ont annoncé leurs propres stratégies pour préparer et soutenir les élections de mi-mandat américaines.
Le blog officiel de Google sur le sujet met en avant son plan visant à aider les électeurs à trouver les informations politiques les plus fiables possible : « Nous mettons en avant les ressources officielles et déployons des outils interactifs dans la Recherche, notamment en mode IA et dans les aperçus IA, ainsi que dans l’application Gemini, afin de vous donner accès aux informations électorales. Cela inclut les bureaux de vote, les dates limites d’inscription sur les listes électorales et d’autres données officielles fournies par les gouvernements des États et les collectivités locales et Democracy Works, ainsi que les résultats des votes en temps réel de l’Associated Press. »
Quant à Anthropic, son blog indiquait également comment l’entreprise s’assurait que Claude oriente les utilisateurs vers des sources fiables pour obtenir des informations sur les élections de mi-mandat : « À l’approche du jour du scrutin, nous avons ajouté deux moyens pour les utilisateurs d’obtenir des informations fiables directement dans leurs conversations avec Claude. Comme nous l’avons annoncé en avril, lorsque les utilisateurs interrogent Claude.ai sur l’inscription sur les listes électorales, les bureaux de vote ou les dates des élections, nous continuerons d’afficher une bannière renvoyant vers TurboVote, une ressource non partisane de Democracy Works. »
Anthropic a également noté que Claude commencera à intégrer les informations officielles sur les votes de Democracy Works dans ses réponses à la fin du mois.
En résumé
C’est une bonne chose qu’OpenAI ait intégré un système de protection à ChatGPT pour bloquer toute tentative de génération d’images photoréalistes destinées à la création de deepfakes politiques. Il est également encourageant de voir Google et Anthropic développer des méthodes permettant de garantir que leurs chatbots respectifs présentent les données politiques les plus fiables possible.
