Il y a quelque temps, des chercheurs ont conçu une IA capable de générer un faux texte à partir d’une seule phrase. Cette découverte a suscité l’inquiétude générale car elle pourrait être utilisée pour la propagation de fausses informations. Actuellement, certains générateurs de faux textes sont expérimentés sur des sites populaires tels que Reddit. Subreddit, l’un de ses forums est constitué de plusieurs robots spécialement formés pour imiter le style de rédaction des utilisateurs humains. Cette plateforme a été créée par Disumbrationist, un utilisateur de Reddit. Il l’a conçu à partir d’un  générateur de langage appelé GPT-2 dont le fonctionnement se base sur un système de machine learning. GPT-2 a été présenté pour la première fois en février par OpenAI.

Jack Clark, le directeur des politiques chez OpenAI, a indiqué que sa principale préoccupation est que ce système puisse être utilisé pour diffuser de fausses informations à grande échelle. GPT-2 utilise une technique de modélisation de langage exploitant le machine learning pour prédire le prochain mot d’une phrase. Près de 8 millions d’articles  ainsi que plusieurs algorithmes ont été utilisés pour former ce dispositif. Toutefois, Alec Radford, un chercheur chez OpenAI, a indiqué que le succès de GPT-2 va permettre de rendre plus fluide les communications entre les humains et les machines. D’après lui, cet outil constitue une réelle innovation pour donner aux ordinateurs une meilleure maitrise du langage naturel, améliorant ainsi le fonctionnement des dispositifs de reconnaissance vocale.

Les faux textes générés par une #IA pourraient être la prochaine menace politique mondiale Click to Tweet
À lire aussi Facebook : une panne au niveau du réseau social révèle le fonctionnement de son IA

AUCUN COMMENTAIRE