Des chercheurs du Massachusetts Institute of Technology (MIT) ont développé une technique pour tromper l'intelligence artificielle (IA) par analyse de texte, a rapporté Wired le 23 février.
Les chercheurs ont remarqué qu'un léger changement dans une phrase, compréhensible pour une personne, peut tromper l'IA. Ils ont développé un algorithme pour remplacer les mots par des synonymes et tromper le texte de reconnaissance de l'IA. La nuance est que l'algorithme d'attaque lui-même utilise l'IA pour sélectionner des synonymes.
À titre d'exemple, la phrase «Les personnages, jetés dans des situations incroyablement artificielles, sont totalement éloignés de la réalité». ("Les personnages joués dans des situations incroyablement artificielles sont complètement déconnectés de la réalité"), qui est une critique négative du film.
Si nous remplaçons les mots par des synonymes, alors la phrase «Les personnages, moulés dans des circonstances incroyablement conçues, sont complètement éloignés de la réalité» («Les personnages joués dans des circonstances incroyablement habiles sont complètement séparés de la réalité»), alors l'IA considère que la critique est positive.
D'autres types de systèmes d'IA peuvent également être trompés; dans ce cas, les vulnérabilités ont été principalement démontrées dans les systèmes de reconnaissance d'image et de parole.
Les chercheurs ont noté que de telles corruptions de données subtiles peuvent tromper l'IA et être utilisées pour attaquer des systèmes, ce qui devient de plus en plus important à mesure que l'IA se propage dans les domaines de la finance, de la santé et autres.