Les entreprises technologiques ont tranquillement étudié vos photos pour améliorer leurs systèmes de reconnaissance faciale. Et voici comment ils l'ont fait.
La reconnaissance faciale est une technologie puissante qui menace gravement les libertés civiles. C'est aussi une entreprise florissante. Aujourd'hui, de nombreuses startups et géants de la technologie vendent des systèmes de reconnaissance faciale aux hôtels, aux détaillants et même aux écoles et aux camps d'été. Cette activité est en plein essor grâce à de nouveaux algorithmes permettant d'identifier les personnes avec une précision beaucoup plus grande qu'il y a cinq ans. Pour améliorer leurs algorithmes, ils ont été formés sur des milliards de visages, parfois sans la permission de personne. Par conséquent, il y a de fortes chances que votre visage fasse partie d'un "kit de formation" dans l'un de ces systèmes ou soit dans une base de données clients d'une entreprise.
Les méthodes de collecte d'informations utilisées par les entreprises peuvent surprendre les consommateurs. Par exemple, dans au moins trois cas, les entreprises ont reçu des millions d'images via des applications photo pour smartphone. Maintenant, le système de reconnaissance faciale est mal réglementé, de sorte que les gens n'ont presque aucun moyen de restreindre l'utilisation de leurs visages à des fins commerciales.
En 2018, une caméra a identifié les visages de passagers se précipitant dans un avion près de Washington, en Colombie. Mais en fait, l'avion et les passagers faisaient partie d'une simulation créée par le National Institute of Standards and Technology (NIST) pour montrer comment les données pouvaient être collectées «sur le terrain». Les visages utilisés dans cette expérience feront partie d'un concours NIST au cours duquel des entreprises du monde entier testent leurs systèmes de reconnaissance faciale.
Dans la simulation de la situation de l'avion, les volontaires ont accepté d'utiliser leurs visages. C'était le cas dans les premiers stades des systèmes de reconnaissance faciale - les chercheurs ont essayé d'inclure systématiquement des personnes dans leurs ensembles. Maintenant, il est peu probable que les affaires se dérangent et demandent la permission.
Selon Market Research Future, des entreprises (y compris des leaders tels que Face ++ et Kairos) se disputent la première place dans un secteur qui croît de 20% par an pour atteindre 9 milliards de dollars d'ici 2022. Le modèle économique de ces acteurs est basé sur des logiciels sous licence pour un nombre croissant de clients - des forces de l'ordre aux universités - qui l'utilisent dans leur propre développement.
Dans la compétition, ces produits, dont les algorithmes sont capables de détecter les visages avec précision et sans erreur, gagnent. Comme pour toute intelligence artificielle, construire un système de reconnaissance faciale implique d'accumuler une grande quantité de données pour l'entraînement. Alors que les entreprises peuvent utiliser des données approuvées par le gouvernement et les universités (telles que la base de données Yale Facial Database), ces kits de formation sont suffisamment petits pour ne contenir que quelques milliers de visages.
Vidéo promotionelle:
Ces kits officiels présentent également d'autres inconvénients. Beaucoup de gens n'ont pas la diversité raciale et les différentes conditions - ombres, chapeaux, cosmétiques - qui modifient la perception d'une personne dans le monde réel. Un système de reconnaissance faciale naturelle nécessite plus d'images. Beaucoup plus.
«Cent ne suffit pas, mille ne suffisent pas. Nous avons besoin de millions d'images. Si vous n'entraînez pas le système à reconnaître les personnes portant des lunettes et des couleurs de peau différentes, vous n'obtiendrez pas de bons résultats », déclare Peter Trepp, directeur de FaceFirst, une société californienne qui aide les détaillants à identifier les criminels dans leurs magasins.
Demande pour cela
le. Notamment, l'application l'a forcée à envoyer des liens sponsorisés à tous les contacts des utilisateurs, une tactique connue dans la Silicon Valley sous le nom de «growth hacking». Les utilisateurs se sont également plaints du vol de données.
"Immédiatement après l'installation, l'application recueille tous les téléphones de la liste des contacts et commence à leur envoyer des SMS … Et puis elle télécharge toutes vos photos et les copie sur le stockage cloud", a écrit Greg Miller, propriétaire d'un studio photo au Texas, dans une critique de 2015 sur Facebook.
Quatre ans plus tard, Miller a été horrifié de découvrir que ses photographies étaient toujours stockées chez EverRoll, mais maintenant une entreprise avec un système de reconnaissance faciale.
«Non, je n'en savais rien et je ne suis pas du tout d'accord avec ça», s'est plaint Miller à Fortune. «Ce type de surveillance est un réel problème. La confidentialité a disparu et cela me fait beaucoup peur."
Doug Ely, PDG d'Ever AI, affirme que l'entreprise ne transfère les informations de sa base de données nulle part et que les photos ne sont utilisées que pour entraîner le système. Il a également ajouté que l'entreprise s'apparente à un réseau social qui peut être abandonné à tout moment. Eli a nié que Ever AI avait l'intention de devenir une société de reconnaissance faciale depuis le début, affirmant que la fermeture de l'application était une décision de la direction. Les clients d'Ever AI utilisent désormais ses données à leurs propres fins, y compris la gestion des systèmes d'identification des employés, la vente au détail, ainsi que les télécommunications et l'application de la loi.
Ever AI n'est pas la seule entreprise de reconnaissance faciale à proposer une application de photographie. Orbeus, une startup basée à San Francisco achetée par Amazon en 2016 (ce qui n'a pas été annoncé), a également proposé le stockage PhotoTime populaire.
Selon un ancien employé d'Orbeus, l'attrait de la startup pour Amazon réside dans ses technologies d'intelligence artificielle et sa vaste gamme de photographies de personnes dans des lieux publics.
«Amazon recherchait de telles opportunités. Ils ont tout acheté et ont ensuite fermé l'application », explique un employé qui souhaitait garder l'anonymat, citant un accord de non-divulgation.
PhotoTime n'existe plus, bien qu'Amazon continue de vendre un autre produit Orbeus connu sous le nom de marque Rekognition. Dans les affaires et l'application de la loi, il est utilisé comme système de reconnaissance faciale.
Amazon a refusé de divulguer des détails sur l'utilisation de l'application photo Orbeus pour entraîner Rekognition, affirmant seulement qu'il prenait des données de diverses sources. La société a ajouté qu'elle n'utilisait pas les données utilisateur de l'application Prime pour former les systèmes d'identité.
Real Networks est une autre entreprise qui utilise des applications pour entraîner son système. Basée à Seattle et autrefois célèbre pour son lecteur vidéo des années 90, la société se concentre désormais sur la reconnaissance des visages des enfants dans les écoles. Dans le même temps, la société propose une application familiale appelée RealTimes, qui, selon les critiques, collecte des données sur les visages des utilisateurs.
«L'application vous permet de créer des présentations vidéo à partir de photos. Imaginez que maman envoie une telle présentation à grand-mère et que le système utilise ces photos pour s'entraîner. Cela semble effrayant », déclare Claire Gavry, professeur à l'Université de Georgetown, qui a publié un article qui a eu un impact majeur sur la technologie de reconnaissance faciale.
Real Networks a confirmé que l'application était utilisée pour améliorer la reconnaissance faciale, mais a ajouté que d'autres sources d'informations étaient utilisées.
Dans tous les cas où les entreprises utilisaient les données de leurs propres applications photo pour former leurs systèmes, elles n'ont pas demandé l'autorisation de l'utilisateur, mais ont reçu un consentement caché via des accords d'utilisation.
Mais c'est déjà beaucoup par rapport à ce que font d'autres entreprises. Selon Patrick Grother, qui dirige le concours NIST, les entreprises qui collectent des données faciales peuvent écrire des programmes qui «capturent» des images de sites comme SmugMug ou Tumblr. Dans ces cas, l'autorisation de l'utilisateur n'est même pas supposée.
Cette approche d'auto-assistance a été mise en évidence dans un récent rapport de NBC News détaillant comment IBM a téléchargé plus d'un million d'images de visage à partir de Flickr dans le cadre d'une étude sur l'IA. (John Smith, qui supervise les technologies d'intelligence artificielle dans le département de recherche d'IBM, a déclaré que "les données personnelles sont protégées" et que des travaux sont en cours avec ceux qui souhaitent supprimer des informations personnelles de la base de données).
Tout cela soulève des questions sur la protection des données personnelles par les entreprises qui les collectent et sur la nécessité d'un contrôle de l'État dans ce domaine. Ce sujet ne fera que s'aggraver avec la poursuite de la diffusion des systèmes de reconnaissance faciale dans la société, ainsi que dans l'environnement des grandes et petites entreprises.
Des commerces aux écoles
Les systèmes de reconnaissance faciale ne sont pas nouveaux. Les versions les plus simples de ces programmes existent depuis les années 1980, lorsque les mathématiciens américains ont commencé à définir les visages comme une série de valeurs numériques et ont utilisé des modèles probabilistes pour trouver des correspondances. La sécurité de Tampa, en Floride, l'a utilisé au Super Bowl 2001, et il est utilisé dans les casinos depuis des années. Mais beaucoup de choses ont changé au cours des dernières années.
«Le système de reconnaissance faciale traverse quelque chose comme une révolution», déclare Patrick Grother, ajoutant que le changement est surtout perceptible dans la qualité croissante des images. «La technologie sous-jacente a changé. Les anciens développements ont été remplacés par de nouveaux systèmes beaucoup plus efficaces."
La révolution de la reconnaissance faciale a été motivée par deux facteurs qui ont considérablement changé et élargi la portée de la technologie de l'intelligence artificielle. Le premier est l'émergence de l'apprentissage profond, un système de reconnaissance de formes qui ressemble en principe au cerveau humain. Le second est un surplus record de données qui peuvent être stockées et analysées à faible coût grâce au cloud computing.
Sans surprise, les premières entreprises à tirer pleinement parti de ces développements ont été Google et Facebook. En 2014, ce dernier a publié un programme appelé DeepFace, qui permet de déterminer avec une précision de 97,24% que deux visages appartiennent à la même personne - les gens démontrent un résultat similaire dans un tel test. Un an plus tard, Google, avec son programme FaceNet, a atteint une précision de 100% (selon la société de sécurité Gemalto).
Aujourd'hui, grâce en grande partie à l'accès à de grandes bases de données de données faciales, ces géants de la technologie et d'autres (comme Microsoft) ouvrent la voie en matière de reconnaissance faciale. Mais de plus en plus de start-ups affichent des résultats élevés, s'efforçant également d'occuper leur niche sur le marché en pleine croissance des programmes d'identification faciale.
Il existe plus d'une douzaine de sociétés de ce type aux États-Unis seulement, dont Kairos et FaceFirst. Selon les études de marché de PitchBook, la Silicon Valley gagne rapidement du terrain dans le secteur, avec des investissements importants au cours des dernières années. PitchBook estime que l'investissement total au cours des trois dernières années était de 78,7 millions de dollars. Ce ne sont pas des chiffres fantastiques selon les normes de Valley, mais ils reflètent la confiance des capital-risqueurs que plusieurs startups de première ligne deviendront bientôt de grandes entreprises.
Activité de capital-risque dans l'industrie de la reconnaissance faciale aux États-Unis.
De nouveaux modèles commerciaux axés sur la reconnaissance faciale émergent encore. Ceci est particulièrement visible dans les logiciels d'entreprise sous licence. Selon Crunchbase, les revenus annuels d'entreprises comme Ever AI et FaceFirst sont modestes, allant de 2 millions de dollars à 8 millions de dollars. Amazon et d'autres géants de la technologie ne divulguent pas de tels chiffres.
Pendant longtemps, les utilisateurs les plus intéressés des systèmes de reconnaissance faciale étaient les forces de l'ordre. Mais maintenant, de nombreuses entreprises, y compris WalMart, utilisent de tels programmes pour obtenir plus d'informations sur les acheteurs dans leurs magasins.
Par exemple, FaceFirst, basée en Californie, propose ses systèmes à des centaines de détaillants, y compris des magasins d'occasion et des pharmacies. Selon le PDG de l'entreprise, de nombreux clients utilisent la technologie pour détecter le vol, mais un nombre croissant de ceux qui essaient de l'utiliser à d'autres fins, y compris la recherche de clients VIP et l'identification des employés.
Pendant longtemps, les utilisateurs les plus intéressés des systèmes de reconnaissance faciale étaient les forces de l'ordre.
Il semble qu'Amazon recherche également dans un large éventail de ses activités des opportunités d'appliquer des systèmes de reconnaissance faciale. En plus de travailler avec les commissariats de police, le géant de la vente au détail aide les hôtels à accélérer les processus d'enregistrement, selon diverses sources.
«Des entreprises du monde entier viennent sur Amazon et disent:« C'est exactement ce que nous voulons faire ». Et vous comprenez que c'est un domaine merveilleux. Tout le monde s'y intéresse », déclare une source anonyme qui a rejoint Amazon lors de l'achat d'Orbeus, une société de reconnaissance faciale.
Pour Amazon, cette activité n'a pas été sans conséquences controversées. En juillet dernier, l'American Civil Liberties Union (ACLU) a testé les systèmes de l'entreprise en comparant les visages de tous les membres du Congrès à une base de données de criminels. Le test a montré 28 fausses correspondances, la plupart des erreurs étant dues à la couleur de la peau des participants à l'expérience. En conséquence, l'Union a appelé à une interdiction de l'utilisation du système de reconnaissance faciale dans les services répressifs. Cependant, Amazon a insisté pour vendre le système aux agents de police et à l'Immigration and Customs Enforcement des États-Unis.
Ensuite, certains membres du Congrès, dont le représentant Jerrold Nadler et le sénateur Ron Weeden, ont demandé au Bureau de vérification d'enquêter sur l'utilisation d'un logiciel de reconnaissance faciale. Les grandes entreprises sont également préoccupées par ces systèmes. En particulier, le président de Microsoft, Brad Smith, a appelé en décembre à une réglementation de ces technologies au niveau des États.
Mais même si les inquiétudes grandissent, l'utilisation des systèmes de reconnaissance faciale ne fait que croître, les entreprises leur trouvant de plus en plus d'utilisations. Par exemple, Real Networks, un développeur d'applications de photographie de famille, propose gratuitement son logiciel aux écoles du pays. L'entreprise parle de centaines d'écoles comme de ses clients. Dans une interview accordée au magazine Wired, le PDG de Real Networks, Rob Glaser, a déclaré qu'il avait lancé le projet en tant que solution impartiale aux différends concernant la sécurité des écoles et le contrôle des armes à feu. Le site Web de la société positionne actuellement ce produit comme une technologie permettant aux organisateurs d'événements de «reconnaître chaque fan, client, employé ou invité», même si leur visage est caché.
La technologie unique reconnaît les visages même en coloration ou en maquillage intensif. Le système distingue et identifie les visages dans diverses conditions d'éclairage.
Real Networks n'est pas la seule entreprise à cibler le marché des enfants. Une startup basée au Texas, Waldo, propose une technologie similaire à des centaines d'écoles, ainsi qu'à des ligues sportives pour enfants et des camps d'été. Dans la pratique, cela implique d'utiliser de tels systèmes pour numériser des images prises par des caméras vidéo ou des photographes officiels, et en outre faire correspondre les visages des enfants avec une base de données d'images fournies par les parents. Les parents peuvent toujours refuser de participer.
Selon le PDG de Waldo, Rodney Rice, les écoles prennent des dizaines de milliers de photographies chaque année, et peu d'entre elles se retrouvent dans des albums annuels. La reconnaissance faciale, a-t-il dit, est un moyen efficace de diffuser les restes à ceux qui en ont besoin.
«Pour le prix du pop-corn ou du papier brun, vous pouvez commander ces photos pour les grands-parents de vos enfants», explique Rice, expliquant que Waldo a un accord de partage des revenus avec les écoles publiques. Actuellement, les services de la société sont utilisés dans plus de 30 États des États-Unis.
La montée en puissance de Waldo et de FaceFirst montre comment les entreprises normalisent la reconnaissance faciale qui ressemblait à de la science-fiction jusqu'à récemment. Et avec la prolifération de ces technologies, de plus en plus d'entreprises collecteront des photos de vos visages - soit pour entraîner des algorithmes, soit pour trouver des clients et des criminels - même si le risque d'erreur et d'abus ne fait qu'augmenter.
L'avenir de votre visage
En 2017, un épisode de la série télévisée techno-dystopique Black Mirror est sorti, dans lequel une mère agitée s'inquiète pour un jeune homme téméraire qui passe du temps avec sa fille. Pour savoir de qui il s'agit, elle télécharge une photo de lui dans un service d'identification des consommateurs. Le programme montre rapidement son nom et son lieu de travail, et la femme va s'occuper de lui.
Le scénario autrefois fictif semble maintenant tout à fait réel. Alors que la plupart des préoccupations concernant la reconnaissance faciale concernaient l'utilisation de cette technologie dans les organisations gouvernementales, son utilisation par les entreprises commerciales et même les particuliers (dans le style du «Black Mirror») présente des risques évidents pour les données personnelles.
Alors que de plus en plus d'entreprises commencent à vendre des systèmes de reconnaissance faciale et que nos visages entrent dans plus de bases de données, le logiciel pourrait gagner en popularité parmi les voyeurs et les harceleurs. Les détaillants et les propriétaires peuvent l'utiliser pour identifier les clients indésirables et les locataires afin de refuser discrètement le logement et les services.
«Quiconque possède un caméscope dans une zone densément peuplée peut commencer à collecter des bases de données d'images, puis utiliser ce logiciel d'analyse pour voir si les images capturées correspondent à vos données», déclare Jay Stanley, analyste à l'ACLU.
Il existe également un risque d'attaques de pirates. Andrei Barisevich de Gemini Advisors, une entreprise de cybersécurité, dit avoir vu des profils à vendre sur des sites darknet volés dans la base de données biométrique nationale de l'Inde. Il n'a pas remarqué de telles informations sur les Américains, mais a ajouté: "Ce n'est qu'une question de temps". La fuite de données client d'un hôtel ou d'un magasin peut aider les criminels à commettre une fraude ou un vol d'identité.
Étant donné que la technologie est distribuée sans grand contrôle gouvernemental, la responsabilité de limiter son utilisation abusive incombe uniquement aux éditeurs de logiciels. Dans une interview accordée à Fortune, les PDG de startups de reconnaissance faciale ont déclaré qu'ils étaient préparés à de telles menaces. Certains, dont le PDG de FaceFirst, ont qualifié la propagation de tels systèmes en Chine de dangereuse.
Les dirigeants ont également suggéré deux approches pour lutter contre les abus. Le premier est de travailler en étroite collaboration avec les acheteurs du logiciel pour s'assurer qu'il est utilisé correctement. Par exemple, Doug Eli d'Ever AI dit que son entreprise a un standard plus élevé qu'Amazon, qui, selon lui, fournit son outil de reconnaissance à presque tout le monde.
En réponse à une question sur le contrôle des abus, Amazon a fourni une déclaration précédemment publiée par Matt Wood, qui dirige l'intelligence artificielle chez Amazon Web Services. Wood souligne que c'est la politique de l'entreprise qui interdit les activités nuisibles et illégales.
Une autre garantie possible de la sécurité des données est l'utilisation de mesures techniques pour garantir l'impossibilité de pirater les bases de données de données «frontales».
Rodney Rice, PDG de Waldo, affirme que les visages sont stockés sous forme de hachages alphanumériques. Cela signifie que même en cas de fuite de données, la confidentialité ne sera pas compromise, car un hacker ne pourra pas décrypter les hachages et les utiliser. Ce point de vue a été soutenu par d'autres.
Rice craint que la définition législative des règles d'utilisation des technologies «faciales» ne fasse plus de mal que de bien. «Laisser un enfant le comprendre et créer des règles est ridicule», dit-il.
Pendant ce temps, certaines sociétés de logiciels de reconnaissance faciale adoptent de nouvelles techniques qui peuvent réduire le besoin de mégadonnées pour la formation. C'est le cas par exemple de Kairos, une startup front-end de Miami qui, entre autres, travaille avec une large gamme d'hôtels. Selon Stephen Moore, responsable de la sécurité de l'entreprise, Kairos crée des visages «synthétiques» pour simuler un large éventail d'émotions et d'éclairage. Ces «visages artificiels» réduisent l'utilisation des données faciales du monde réel lors de la création de produits technologiques.
Toutes ces mesures - surveillance des utilisateurs du système, protection renforcée des données et outils d'apprentissage synthétiques - peuvent atténuer certains des problèmes de confidentialité associés à l'utilisation professionnelle de nos visages. Dans le même temps, Trepp de FaceFirst pense que l'anxiété diminuera avec un examen plus approfondi du système. Il affirme même que les scènes de reconnaissance faciale du film de science-fiction Minority Report de 2002 commenceront à se sentir normales.
«La génération Y est beaucoup plus disposée à partager des informations. Ce monde [d'après Minority Report] se rapproche du nôtre », dit-il. - Si vous faites tout correctement, alors je pense que les gens vont aimer, et ce sera une expérience positive. Ce ne sera pas si effrayant."
D'autres, dont l'ACLU, sont moins optimistes. Cependant, malgré la discussion croissante autour de la technologie, il n'y a pratiquement rien à ce stade qui limite l'utilisation de votre visage. Les seules exceptions sont dans trois États - l'Illinois, le Texas et Washington DC - qui nécessitent un certain degré de consentement avant d'utiliser le visage de quelqu'un d'autre. Ces lois ne sont pas vraiment utilisées dans la pratique, sauf dans l'Illinois, où les consommateurs peuvent intenter une action en justice pour faire respecter ce droit.
La loi de l'Illinois fait actuellement l'objet d'un procès en appel très médiatisé impliquant Facebook, qui affirme que les restrictions à l'obtention de visages ne s'appliquent pas à la numérisation numérique. En 2017, Facebook et Google ont lancé une campagne de lobbying infructueuse pour convaincre les législateurs de l'Illinois d'assouplir la loi. Fin janvier, les partisans de la loi ont été soutenus par la Cour suprême de l'Illinois lorsqu'elle a statué que les consommateurs peuvent poursuivre l'utilisation non autorisée de leurs données biométriques, même si aucun préjudice réel n'a été causé.
D'autres États offrent également la possibilité d'adopter leurs propres lois biométriques. Au niveau fédéral, les législateurs y ont accordé peu d'attention jusqu'à présent. Cela pourrait toutefois changer, car les sénateurs Brian Schatz et Roy Blount ont présenté ce mois-ci une loi qui obligerait les entreprises à obtenir une autorisation avant d'utiliser la reconnaissance faciale dans des lieux publics ou de partager des données faciales avec un tiers.
Claire Garvey, chercheuse à Georgetown, soutient les lois pour contrôler ces systèmes. Mais elle dit que les législateurs ont eu du mal à suivre la technologie.
«L'un des défis de la reconnaissance faciale est son adoption incroyablement rapide, grâce aux bases de données existantes. Nos visages étaient beaucoup illuminés », dit-elle. "Contrairement aux empreintes digitales, qui ont longtemps été soumises à des règles de collecte de données, il n'y a toujours pas de réglementation pour les technologies de reconnaissance faciale."
Par Jeff John Roberts
Traduit par: Ekaterina Egina
Edité par: Sergey Razumov
