OpenAI met fin à deux campagnes d’influence exploitant l’intelligence artificielle

09:30

Par: ELMIR Barae

OpenAI met fin à deux campagnes d’influence exploitant l’intelligence artificielle

OpenAI a annoncé avoir identifié et interrompu deux opérations de désinformation ayant détourné ChatGPT pour produire et diffuser des contenus trompeurs liés à des tensions géopolitiques. Baptisées « Dark Clark » et « Bogus Bylines », ces campagnes sont respectivement attribuées à des acteurs russes et iraniens, selon un rapport de l’entreprise.

Ces opérations illustrent les nouveaux usages de l’intelligence artificielle dans les stratégies d’influence, avec des contenus conçus non seulement pour circuler sur les réseaux sociaux, mais aussi pour s’insérer dans des circuits de publication journalistique.

« Dark Clark » : une campagne visant notamment l’Ukraine et l’Amérique latine

La première opération, attribuée à des acteurs russes, ciblait notamment plusieurs pays d’Amérique latine. D’après OpenAI, les opérateurs ont utilisé ChatGPT pour préparer des contenus destinés à dénigrer l’Ukraine et certains dirigeants latino-américains.

Parmi les actions recensées figure la diffusion sur TikTok d’un faux enregistrement audio attribué au consul d’Ukraine en Équateur. Les opérateurs auraient également utilisé une fausse adresse électronique pour inciter des établissements scolaires péruviens à organiser des événements liés à l’Ukraine.

OpenAI classe cette campagne au niveau 5 sur 6 de son échelle d’évaluation de l’impact des opérations d’influence. L’entreprise précise toutefois que certaines affirmations formulées par les opérateurs n’ont pas pu être vérifiées.

« Bogus Bylines » : de faux journalistes pour publier des articles trompeurs

La seconde opération, baptisée « Bogus Bylines » et attribuée à des acteurs iraniens, reposait sur la production de faux articles concernant le conflit entre les États-Unis et l’Iran.

Selon OpenAI, ChatGPT aurait servi à améliorer les textes, à les adapter aux exigences éditoriales de médias en ligne et à préparer les courriels destinés à soumettre les articles à des rédactions.

Les contenus étaient signés par sept auteurs fictifs se présentant comme des journalistes occidentaux. L’entreprise indique avoir repéré près de 100 articles publiés depuis juillet 2025 dans plus d’une douzaine de médias.

Cette méthode vise à donner aux contenus trompeurs une apparence journalistique et à faciliter leur diffusion au-delà des plateformes sociales. Elle repose notamment sur l’utilisation de signatures fictives et sur l’adaptation des textes aux formats attendus par les médias.

L’intelligence artificielle au service de nouvelles stratégies d’influence

Les deux opérations mettent en évidence des usages distincts de l’intelligence artificielle dans la désinformation. Dans un cas, l’outil aurait contribué à préparer des contenus destinés aux réseaux sociaux et à soutenir des démarches ciblées. Dans l’autre, il aurait facilité la production et la soumission d’articles sous de fausses identités journalistiques.

OpenAI souligne que l’insertion de contenus trompeurs dans des médias existants peut offrir une portée potentiellement supérieure à celle de campagnes reposant uniquement sur de faux comptes sur les réseaux sociaux.

Ces révélations rappellent que les outils d’intelligence artificielle peuvent être détournés pour accélérer la création de contenus, leur adaptation à différents publics et leur diffusion. Elles mettent également en lumière l’importance de vérifier l’authenticité des auteurs, la provenance des informations et les conditions dans lesquelles les contenus sont publiés.