Dangers de l'IA: des présentatrices chatbots chinoises reposant sur l'intelligence artificielle

Voici un vrai danger de l'IA en gestation: 4 ans après le 1er présentateur virtuel, l'agence de presse chinoise Xinhua, a lancé une présentatrice virtuelle avec un chatbot propagandiste intégré.

Prochaine étape: intégrer un vrai chabot LLM.

Gilbert Wayenborgh, spécialiste des WebTV d'entreprises, vient de partager une innovation de la télévision koweïtienne: une présentatrice virtuelle qui récite des textes (rédigés par des humains aujourd'hui et peut-être par un clone de ChatGPT demain ?).

Les présentatrices virtuelles se multiplient d'ailleurs un peu partout dans le monde.

Des chaînes indiennes, par exemple, lancé plusieurs présentatrices virtuelles, avec un accent indien qui plus est.

Mais, le précurseur est Xinhua, l'agence de presse officielle chinoise avait pavé le terrain, dès fin 2018, avec l'un des premiers présentateurs virtuel qui récitait certaines dépêches de l'agence.

Et sa nouvelle collègue, qui a rejoint l'équipe en 2019.

5 ans plus tard, en mars 2023, l'agence a annoncé une nouvelle version de ce présentateur virtuel en 3D qui devient, pour l'occasion, une présentatrice, avec des fonctions de "propagande interactive". Les utilisateurs peuvent lui demander de répondre à des questions fermées (c'est un chatbot à l'ancienne qui repose sur une simple arborescence) et elle renvoie les réponses officielles du gouvernement chinois.

Voici un lien vers la page où la présentatrice chatbot est encore visible (attention, la mise en place peut être déficiente si vous consultez cette page avec un ordinateur: soit vous passez par votre mobile, soit vous réduisez la largeur de la fenêtre de votre navigateur).

Jusqu'ici, ce n'est pas plus méchant que les bots de propagandes russes ou chinois qui polluent déjà les réseaux sociaux, sans annoncer qu'ils sont des bots et non des humains.

Mais, à la vitesse à laquelle progressent les chatbots modernes reposant sur des LLMs comme ChatGPT, d'ici six mois, on peut imaginer que la prochaine version de cette présentatrice pourra dialoguer en langage naturel en mode texte, comme ChatGPT.

Dans deux ans, on pourra lui parler de vive voix.

Et, parallèlement, on peut imaginer que les bots progandistes des réseaux sociaux intégreront la même technologie.

La vérité officielle chinoise pourra alors se répandre de façon beaucoup plus efficace.

Mais ce qui vaut pour la Chine, vaut pour tous les autres pays.

Dans les années 90, CNN était l'instrument de diffusion de la vérité américaine du monde. Le Qatar a répondu avec Al Jazeera, la France avec France 24 et la Russie avec Russia Today

20 ans plus tard, la guerre de l'influence semble destinée à passer par les chatbots construits à base de LLM.

Est-ce que ce danger est plus important les manipulations de Cambridge Analytica (manipulation UK-USA) qui ont eu les conséquences que l'on permis de manipuler les élections américaines, de Russia Today (très crédible auprès d'une partie des "complotistes" français) ou des minorités qui dictent leur nouvelle morale grâce aux media sociaux ?

Honnêtement, je ne sais si le potentiel de manipulation des nouveaux présentateurs virtuels chatgptisés est plus important.

Je suis seulement convaincu qu'en anticipant ces nouvelles attaques contre la vérité, qui se transformeront probablement en attaques contre la démocratie, nous nous armons pour nous en protéger à titre individuel et pourrons peut-être en atténuer les effets sur la collectivité.

Comme un homme averti en vaut deux, n'hésitez pas à partager cette info.

D'ailleurs à propos d'info, la Chine utiliserait déjà, non officiellement, des avatars "Deep fakes" pour diffuser de la désinformation (ie, la version officielle chinoise).

Je n'ai pas vérifié cette information diffusée par Graphika, un cabinet américain privé dans un dossier publié en février 2023.