Les autorités fédérales démantèlent une ferme de bots alimentée par l’IA et financée par la Russie (la suite prochainement)

« Grâce à ces mesures, le ministère de la Justice a mis fin à une campagne de propagande basée sur l’IA et soutenue par le gouvernement russe qui utilisait une ferme de bots pour diffuser de la désinformation aux États-Unis et à l’étranger. — Merrick B. Garland, procureur général des États-Unis

« La Russie avait l’intention d’utiliser cette ferme de bots pour diffuser de la désinformation étrangère générée par l’IA, en intensifiant son travail avec l’aide de l’IA afin de saper nos partenaires en Ukraine et d’influencer les discours géopolitiques favorables au gouvernement russe. » — Christopher Wray, directeur du FBI

Voici les propos de Merrick B. Garland et de Christopher Wray en juillet 2024 après que le ministère américain de la Justice a annoncé la saisie de deux noms de domaine et de 968 comptes de réseaux sociaux associés à une campagne de désinformation de grande envergure utilisant un logiciel basé sur l’IA appelé Meliorator.

Ce que fait Meliorator

Apparemment créé par un rédacteur en chef adjoint de la société de médias sponsorisée par l’État russe RT (anciennement Russia Today), Meliorator est utilisé par les filiales de RT depuis deux ans pour créer un grand nombre de bots sur les réseaux sociaux. Ces bots utilisent l’IA générative pour échapper à la détection et diffuser de la désinformation. Selon le ministère de la Justice américain, ils ont ciblé les États-Unis ainsi que la Pologne, l’Allemagne, les Pays-Bas, l’Espagne, l’Ukraine et Israël.

Les bots ont chacun un persona défini par un ensemble détaillé de paramètres (son archétype) qui guident leur comportement. Ils sont capables de rédiger des messages originaux, d’ajouter des mentions « J’aime », de suivre des profils, de commenter des publications, de republier des contenus et de gagner des abonnés, tout cela dans le but d’amplifier la portée des contenus malveillants dirigés par le Kremlin et destinés à semer la discorde. 

Le choix des profils à suivre et des contenus à republier est guidé par les intérêts et les points de vue exprimés par leurs personas. Ces bots republient et amplifient les messages des autres bots, et suivent principalement de vrais comptes ayant au moins 100 000 abonnés, ce qui leur évite d’être détectés. Ils sont également capables d’obscurcir les adresses IP et de contourner l’authentification à deux facteurs.

Ils se comportent et communiquent comme des utilisateurs à part entière. Ils partagent beaucoup de contenu légitime, mais ils publient, republient et commentent également du contenu subversif qui, selon le ministère de la Justice américain, provient du Service fédéral de sécurité russe (FSB). Même dans ce cas, les bots incluent un contexte et un cadrage spécifiques qui reflètent leur persona et leur archétype. 

Le ministère de la Justice américain et d’autres organes internationaux ont publié un avis conjoint sur la cybersécurité qui fournit des détails techniques complets sur Meliorator et son fonctionnement. 

Comment les plateformes de médias sociaux peuvent-elles réagir ?

Selon les agences de renseignement impliquées dans l’opération, les plateformes de réseaux sociaux peuvent réduire leur exposition aux comptes générés par Meliorator en mettant en place un certain nombre de mesures :

• Mettre en œuvre des processus qui permettent de s’assurer que chaque compte est généré par un véritable être humain dont les actions sont conformes aux conditions d’utilisation de la plateforme. 

• Auditer et, si possible, améliorer les processus d’authentification et de vérification.

• Créer et suivre des protocoles pour identifier les utilisateurs dont les chaînes d’agent utilisateur sont suspectes.

• Améliorer la sécurité des comptes en imposant l’authentification multifacteur, des paramètres de protection de la vie privée et d’autres mesures par défaut sur tous les comptes des utilisateurs