Une nouvelle étude a montré que manifester des préjugés envers les autres ne nécessite pas d'intelligence particulière et peut facilement se développer dans des machines artificiellement intelligentes.
Des psychologues et des spécialistes des technologies de l'information de l'Université de Cardiff et du MIT ont montré que des groupes de machines autonomes peuvent présenter des biais en définissant simplement un tel comportement, en le copiant et en l'enseignant mutuellement.
Il peut sembler que les préjugés sont un phénomène purement humain, nécessitant l'intelligence humaine pour se forger des opinions ou des stéréotypes sur une personne ou un groupe. Alors que certains types d'algorithmes informatiques ont déjà montré des préjugés tels que le racisme et le sexisme basés sur l'étude des archives publiques et d'autres données générées par les humains, de nouveaux travaux démontrent la capacité de l'IA à développer de manière indépendante des groupes avec des préjugés.
La recherche est publiée dans Scientific Reports. Il est basé sur des simulations informatiques de la façon dont les agents virtuels biaisés peuvent former des groupes et interagir les uns avec les autres. Au cours de la simulation, chaque individu décide d'aider quelqu'un de son groupe ou d'un autre, en fonction de la réputation de cet individu, ainsi que de sa propre stratégie, qui inclut son niveau de préjugés envers les étrangers. Après avoir effectué des milliers de simulations, chaque individu apprend de nouvelles stratégies en copiant les autres - qu'ils soient membres de leur propre groupe ou de la «population» entière.
La fréquence cumulative relative des caractéristiques des agents selon le niveau de préjugé / Roger M. Whitaker.
«Après avoir exécuté ces simulations des milliers et des milliers de fois de suite, nous avons commencé à comprendre comment le biais se développe et quelles conditions sont nécessaires pour le cultiver ou le prévenir», a déclaré le co-auteur de l'étude, le professeur Roger Whitaker de l'Institute for Crime and Security Research et de la School of Computer Science and Computer Science de l'Université de Cardiff. «Nos simulations montrent que les préjugés sont une force puissante de la nature, et à travers l'évolution, ils peuvent être stimulés dans des populations virtuelles pour nuire à des connexions plus larges avec les autres. La protection contre les groupes ayant des préjugés peut conduire par inadvertance à la formation d'autres groupes ayant des préjugés, provoquant une plus grande division de la population. Un préjugé aussi répandu est difficile à inverser. »
Les données de recherche incluent également des individus qui augmentent leurs niveaux de biais en copiant préférentiellement ceux qui obtiennent les meilleurs résultats à court terme, ce qui signifie à son tour que de telles décisions ne nécessitent pas nécessairement des capacités spéciales.
«Il est tout à fait plausible que des machines autonomes, capables de s'identifier à la discrimination et de copier les autres, puissent à l'avenir être sensibles aux phénomènes de préjugés que nous constatons dans la société», poursuit le professeur Whitaker. «De nombreux développements de l'IA que nous voyons aujourd'hui impliquent l'autonomie et la maîtrise de soi, c'est-à-dire que le comportement des appareils est également influencé par ceux qui les entourent. Les exemples récents incluent les transports et l'Internet des objets. Notre recherche fournit un aperçu théorique de l'endroit où les agents simulés se tournent périodiquement vers d'autres pour obtenir des ressources."
Vidéo promotionelle:
Les chercheurs ont également constaté que dans certaines conditions, notamment en présence de sous-populations plus divisées de la même société, le biais est plus difficile à renforcer.
«Avec un grand nombre de sous-populations, les syndicats de groupe impartiaux peuvent coopérer sans être exploités. Cela diminue également leur statut de minorité tout en réduisant leur vulnérabilité à l'établissement de biais. Cependant, cela nécessite également des circonstances dans lesquelles les agents sont plus favorablement disposés à l'égard des interactions en dehors de leur groupe », a conclu le professeur Whitaker.
Vladimir Guillen
