La campagne pour les élections présidentielles aux États-Unis a officiellement commencé, ce qui signifie à son tour une abondance de façons étranges et insidieuses dont la technologie déforme la politique. L'une des plus grandes menaces est les personnalités artificielles qui sont passionnément impliquées dans des conflits politiques. D'une part, la technologie de génération de texte basée sur l'intelligence artificielle se développe plus rapidement que jamais, d'autre part, les chatbots des réseaux sociaux ont presque atteint la perfection. Ces «gens» générés par ordinateur vont bientôt noyer de véritables discussions humaines sur le Web.
Le logiciel de génération de texte est suffisamment développé pour tromper n'importe qui. L'ordinateur est excellent pour rédiger des actualités, en particulier sur le sport et la finance, conseiller les clients sur les sites d'investissement, rédiger des articles convaincants sur d'autres sujets d'actualité (bien qu'il y ait des limites).
Dans le même temps, il existe déjà des algorithmes capables de générer du contenu qui ne se distingue pas des publications des utilisateurs ordinaires. En 2017, la FCC a tenu un débat public sur ses plans pour mettre fin à la neutralité du Net. Un nombre impressionnant de 22 millions de commentaires ont été reçus sur ce sujet. Beaucoup d'entre eux - peut-être la moitié - étaient faux, les attaquants utilisant des données d'identité volées. Certains des commentaires étaient impolis, 1,3 million ont été générés à partir du même modèle - certains mots y ont été modifiés afin de rendre les messages uniques.
Et les technologies dans ce domaine se développent activement. Dans son expérience, le chercheur de Harvard Max Weiss a utilisé un logiciel de génération de texte pour créer 1 000 commentaires en réponse à l'initiative Medicaid du gouvernement. Tous ces commentaires étaient uniques et avaient l'air d'avoir été écrits par de vraies personnes soutenant une certaine position politique. Ils ont réussi à tromper les administrateurs de Medicaid.gov en leur faisant croire qu'ils étaient de véritables craintes de personnes réelles. Au cours de ses recherches, Weiss a par la suite révélé que les commentaires étaient faux et leur a demandé d'être supprimés. Mais il est peu probable qu'une autre personne ou un groupe d'intrus qui suivent cette voie soit aussi hautement moral.
Les chatbots font partie des discussions sur les réseaux sociaux depuis de nombreuses années. Selon une estimation, environ un cinquième de tous les tweets sur l'élection présidentielle de 2016 ont été publiés par des robots, et environ un tiers des votes pour le Brexit la même année. Dans un rapport de l'Université d'Oxford l'année dernière, des chercheurs ont trouvé des preuves que des robots sont utilisés pour diffuser de la propagande dans 50 pays. En règle générale, il s'agissait de simples programmes répétant sans réfléchir des slogans: par exemple, un quart de million de tweets pro-saoudiens «Nous croyons tous en Mohammed ben Salmane» après l'assassinat de Jamal Khashoggi en 2018. Trouver de meilleurs robots est beaucoup plus difficile. Et mesurer l'efficacité de ces robots est difficile. Ils déforment tous l'opinion publique et la croyance en un débat politique bien raisonné. En réalité,nous sommes tous au milieu d'une nouvelle expérience sociale.
Au fil des ans, les robots algorithmiques ont développé des personnalités entières. Ils ont de faux noms, de fausses biographies et de fausses photographies, parfois générées par ordinateur. Au lieu de cracher de la propagande à l'infini, ils ne publient des messages qu'occasionnellement. Les chercheurs peuvent trouver que ce sont des robots et non des humains sur la base de modèles de publication, mais la technologie des robots s'améliore constamment, dépassant les tentatives de les suivre. Les robots du futur seront mieux déguisés en groupes sociaux de personnes, la propagande sera subtilement tissée dans des tweets sur des sujets liés à ces groupes sociaux.
Bientôt, les Sims contrôlés par le programme pourront écrire des lettres personnalisées aux journaux, en PM aux élus, fournir des commentaires personnalisés pour les processus publics de réglementation et parler intelligemment de questions politiques sur les médias sociaux. Ils pourront commenter les publications sur les réseaux sociaux, les sites d'actualités, etc. Des personnages permanents seront créés qui sembleront réels même à ceux qui les étudient. Ils pourront se présenter sur les réseaux sociaux et envoyer des textes personnalisés. Ils se répliqueront par millions et enverront des milliards de messages, longs et courts, 24 heures sur 24. Ensemble, ils peuvent étouffer tout véritable débat sur Internet. Non seulement sur les réseaux sociaux, mais partout où il y a des commentaires.
Peut-être que ces personnages seront contrôlés par des intrus étrangers. Ce seront peut-être des groupes politiques internes. Ce seront peut-être les candidats eux-mêmes. Très probablement, tout le monde l'utilisera. La leçon la plus importante des élections de 2016 sur la désinformation n'est pas que la désinformation a été publiée; mais il est bon marché et facile de désinformer les gens. Les progrès technologiques futurs rendront tout cela encore plus abordable.
Vidéo promotionelle:
Notre avenir sera un débat politique violent où les robots se disputeront principalement avec d'autres robots. Ce n'est pas ce que nous imaginons lorsque nous louons le marché des idées ou tout processus politique démocratique. Pour qu'une démocratie fonctionne correctement, deux choses sont nécessaires: l'information et la représentation. Les personnages artificiels touchent les deux choses.
La solution au problème n'est pas encore évidente. Nous pouvons essayer de réglementer l'utilisation des robots - la loi californienne proposée oblige les robots à s'identifier - mais cela n'est efficace que contre les campagnes d'influence légitimes telles que les publicités. L'influence cachée sera beaucoup plus difficile à détecter. La défense la plus évidente est le développement et la standardisation de meilleures méthodes d'authentification. Si les réseaux sociaux sont convaincus qu'il y a une personne réelle derrière chaque compte, ils seront mieux à même d'éliminer les fausses personnes. Mais de faux comptes sont déjà régulièrement créés à partir de données provenant de personnes réelles à leur insu ou sans leur consentement. Nous n'avons pas de système d'authentification qui protège la confidentialité et peut atteindre des milliards d'utilisateurs.
Nous ne pouvons qu'espérer que notre capacité à identifier des personnalités artificielles rattrapera notre capacité à les masquer. Mais pour l'instant, les attaquants ont toujours une longueur d'avance.
En fin de compte, toutes les décisions doivent être non techniques. Nous devons reconnaître les limites du débat politique sur Internet et donner à nouveau la priorité à la communication en face à face. C'est plus difficile à automatiser et nous savons que les personnes à qui nous parlons sont de vraies personnes. Mais jusqu'à présent, ce changement de culture semble être une solution totalement irréaliste, et les tentatives de désinformation sont répandues dans le monde entier et sont menées dans plus de 70 pays. C'est la manière normale de propagande dans les pays à régime autoritaire, et cela devient une manière de mener une campagne politique.
Les personnages artificiels sont l'avenir de la propagande. Et bien qu'ils puissent être inefficaces pour amener la discussion à un certain dénominateur, ils peuvent facilement noyer complètement la discussion.
BRUCE SCHNEIER est chercheur et chargé de cours à la Harvard Kennedy School.
