Anthropic affirme que la campagne d'IA liée aux United Arab Emirates visait les responsables de l'ONU au sujet du Sudan

Anthropic a annoncé jeudi qu'elle avait identifié et perturbé une campagne sophistiquée de désinformation qu'elle a liée avec une grande confiance à des responsables des United Arab Emirates. L'opération a utilisé le chatbot Claude de la société pour générer des rapports, du matériel de plaidoyer, des publications sur les réseaux sociaux et même des témoignages falsifiés pour les United Nations, en se concentrant sur le Muslim Brotherhood et les rapporteurs spéciaux de l'UN critiques du rôle des United Arab Emirates au Sudan.

Comment le dispositif piloté par l'IA fonctionnait

La campagne, centrée sur une personnalité d'IA appelée « Deadshot », suivait une doctrine décrite comme une « opération transatlantique et régionale coordonnée visant à démanteler le Muslim Brotherhood à l'échelle mondiale ». Elle a produit ce qu'Anthropic a qualifié de « dossiers de contre‑responsabilité » sur les rapporteurs spéciaux de l'UN et a fabriqué l'identité d'un véritable groupe soudanais de défense des droits humains pour rédiger des témoignages pour deux individus. L'objectif était de faire apparaître le matériel comme provenant de témoins locaux indépendants plutôt que d'un message parrainé par l'État.

Anthropic estime que l'opération a géré environ 300 comptes de réseaux sociaux factices. Elle n'a pas pu confirmer si les dossiers falsifiés ou les témoignages ont atteint leurs publics cibles de l'UN ou ont influencé les décisions politiques.

Pourquoi l'UN et le reste du monde devraient s'en préoccuper

Depuis avril 2023, Sudan est plongé dans une guerre entre l'armée nationale et les forces paramilitaires Rapid Support Forces (RSF), un conflit que les United Nations ont qualifié comme l'une des pires crises humanitaires mondiales. Les United Arab Emirates ont été à plusieurs reprises accusés, y compris par des experts de l'UN, de soutenir les RSF, une affirmation qu'Abu Dhabi nie. Si les outils d'IA sont utilisés pour masquer l'implication de l'État, il devient plus difficile pour l'UN et les ONG de vérifier la provenance des informations, ce qui pourrait fausser les réponses diplomatiques.

"L'inaction signifie plus de souffrance et de mort," US deputy ambassador Jeffrey Bartos a déclaré lors d'une récente réunion du Security Council.

La mission indépendante de recherche de faits de l'UN sur le Sudan a récemment souligné que des acteurs privés et des recruteurs opérant depuis les UAE et d'autres pays utilisaient des points de transit au Tchad, en Libye et en Somalie pour acheminer du personnel, de la formation, des armes et de la logistique aux RSF.

Ce qui pourrait se passer ensuite

La révélation d'Anthropic intervient alors que le UN Security Council débat de l'extension de l'embargo sur les armes qui couvre actuellement le Darfour occidental. United States soutient que l'embargo est « obsolète » et insuffisant, tandis que Russia, membre permanent du Conseil aligné avec l'armée du Sudan, s'oppose à toute extension des sanctions.

Si l'UN adopte des protocoles de vérification plus stricts pour le contenu généré par l'IA, cela pourrait limiter l'influence de telles campagnes clandestines. Entre‑temps, les UAE n'ont pas répondu aux demandes de commentaire, laissant la communauté internationale surveiller la situation de près.

Pour en savoir plus sur la position d'Anthropic en matière de sécurité de l'IA, voir Anthropic défend son bilan de sécurité alors que les avertissements sur les risques de l'IA apparaissent.