Des scientifiques de l'Université de Chicago (États-Unis) ont mené une étude au cours de laquelle ils ont montré comment l'IA peut être utilisée pour rédiger de fausses critiques complexes. De telles critiques sont impossibles à distinguer des vraies par les méthodes modernes, et les lecteurs sans méfiance les trouvent très fiables.
Les critiques de restaurants ont été générées à l'aide de réseaux de neurones récurrents (techniques d'apprentissage en profondeur) qui se sont auparavant entraînés sur les milliers de critiques disponibles en ligne.
Selon les chercheurs, les critiques générées étaient pratiquement impossibles à distinguer des vraies. Ainsi, les auteurs du travail ont montré que les utilisateurs non seulement ne reconnaissaient pas les fausses critiques, mais les considéraient également comme utiles que les vraies critiques écrites par des personnes.
Ce dernier est probablement le plus alarmant. Étant donné que cela signifie essentiellement que les avis rédigés par l'IA remplissent leur fonction principale - ils influencent délibérément l'opinion des gens.
Il est à noter que le plagiat a rarement été trouvé dans de telles revues (utilisant des logiciels). Cela est dû au fait que l'IA les a générés par personnage et n'a pas extrait de mots de véritables critiques.
Aujourd'hui, il existe une industrie souterraine assez importante où les gens écrivent de fausses critiques (pour de l'argent). Cependant, comme l'a noté le professeur Ben Y. Zhao de l'Université de Chicago dans une interview avec Business Insider, l'introduction de l'IA pourrait la saper. Le scientifique dit qu'il ne connaît pas encore l'utilisation de tels algorithmes dans cette industrie. Mais rien ne garantit que quelqu'un ne proposera pas quelque chose de similaire et ne l'utilisera pas à des fins personnelles.
Dans le même temps, les chercheurs écrivent que les réponses du réseau neuronal n'étaient toujours pas idéales. Il s'est avéré que l'algorithme utilisait un ensemble de caractères plus petit - et ce n'était pas difficile à voir. Cependant, selon les auteurs de l'ouvrage, les futurs réseaux de neurones pourraient être encore plus complexes et, par conséquent, les retours qu'ils génèrent seront plus difficiles à détecter.
Jiao note qu'il ne s'agit pas seulement de fausses critiques de restaurants: ces technologies peuvent généralement ébranler nos croyances sur ce qui est réel et ce qui ne l'est pas.
Vidéo promotionelle:
Le texte de l'étude est disponible ici.