Nous attendons tous le moment où l'intelligence artificielle, les programmes, la technologie apprennent à faire pratiquement la même chose, alors nous le sommes. Tout cela est bien réel. Mais jusqu'à présent, peu de gens pensent que tout de même, ce processus ne sera pas le même pour les machines et les personnes.
Par exemple, un groupe de chercheurs de l'Université de Kyushu a découvert un moyen de tromper les programmes de reconnaissance de formes en modifiant un seul pixel dans une image. Ce pixel est positionné de telle manière qu'il confond les réseaux neuronaux responsables de l'identification, et ils commencent à confondre les chiens avec les chats et les chevaux pour les voitures.
Les images de test étaient limitées à un millier de pixels, mais pour des résolutions plus élevées et des millions de pixels, la règle fonctionne également. Seulement, il est nécessaire de changer non pas un pixel, mais plusieurs centaines.
Le deuxième groupe de chercheurs, cette fois du Massachusetts Institute of Technology, a réussi à aller encore plus loin. Ils ont pu imprimer une sculpture d'une tortue à l'aide d'une imprimante 3D, que le programme, même en voyant de tous les côtés et sous n'importe quel angle, l'a prise pour un fusil. Cette expérience pose un problème beaucoup plus important pour la technologie de reconnaissance d'images, car tout s'est passé en réalité et le programme a été autorisé à analyser l'objet sous tous les angles, mais il n'a toujours pas déterminé sa vraie forme.
Ensemble, les deux études montrent comment les robots et les programmes doivent voyager avant d'atteindre le niveau humain. Après tout, nos cerveaux ne peuvent pas être trompés en remplaçant un ou même cent pixels.
Le seul dommage est que les sources ne fournissent pas d'explication sur la façon dont il s'avère pour tromper le programme. Qu'est-ce que tu penses? Quel est le secret des "pixels cassés" et comment tricher avec un modèle 3D?
Nikolay Kudryavtsev
Vidéo promotionelle:
