Les "trolls" russes se tournent vers l'IA occidentale pour leurs campagnes de désinformation

Des trolls russes ont été surpris en train d'utiliser l'IA occidentale pour générer et diffuser de la désinformation sur l'invasion de l'Ukraine par Moscou. Les services russes alimentés par l'IA ne sont pas à la hauteur de la tâche, car ils sont codés pour refuser de répondre aux questions relatives à la guerre afin d'éviter d'enfreindre les lois strictes sur la censure militaire.

• Au cours des trois derniers mois, OpenAI - le créateur de ChatGPT - a révélé cinq campagnes d'influence secrètes, dont deux menées par des groupes basés en Russie qui avaient utilisé l'intelligence artificielle pour créer une grande quantité de contenu lié à la guerre en Ukraine. Dans l'une de ces campagnes, des trolls russes ont utilisé le modèle linguistique d'OpenAI pour rédiger des commentaires en anglais, en français, en allemand, en italien et en polonais, qui ont ensuite été publiés sur X et sur la plateforme 9GAG. Dans le cadre d'un autre projet, baptisé "Bad Grammar", les trolls ont utilisé l'OpenAI pour générer et publier de brefs commentaires politiques en anglais et en russe sur des canaux Telegram, le contenu étant destiné à des publics en Ukraine, en Moldavie, dans les pays baltes et aux États-Unis.
• Les trolls russes ont été contraints d'utiliser des services d'intelligence artificielle étrangers parce que leurs équivalents russes sont essentiellement censurés. Les chatbots développés par des entreprises informatiques russes refusent de répondre à des questions sur la guerre en Ukraine. Par exemple, les assistants vocaux refusent de dire "ce qui s'est passé" à Bucha, une ville proche de Kiev où les soldats russes ont notoirement massacré des civils.
• Alexander Krainov, un haut responsable de Yandex (le "Google russe"), a déclaré que si une question porte sur un sujet pour lequel certaines réponses ou opinions sont assorties d'une menace de poursuites pénales, le service refuse d'y répondre. Il a ajouté que c'est le mieux que son entreprise puisse faire. "Car si nous avions mal répondu, nous aurions très probablement été bannis", a déclaré M. Krainov.

Pourquoi le monde doit-il s'en préoccuper ?

Les chat-bots russes doivent fonctionner sous la censure, une approche qui efface certains sujets de leurs modèles génératifs. Cela ne signifie pas que l'internaute russe moyen ne peut pas savoir ce qui s'est passé à Bucha - la censure russe est encore loin de la Grande Muraille de Chine.