Cette policière de Seattle porte une caméra sur ses lunettes. Cette ville de l'ouest des États-Unis interdit la technologie de reconnaissance faciale en temps réel. Mais la ville d’Orlando et le comté de Washington (Oregon), sont les premières à utiliser la technologie de reconnaissance faciale fournie par Amazon.

Nos vies, de moins en moins privées

ÉDITORIAL / Plus de 30 organisations civiles ont demandé cette semaine à Amazon à cesser de fournir sa technologie de reconnaissance faciale (Rekognition) à des corps policiers, à la suite d’une enquête menée par l’Union américaine pour les libertés civiles de Californie (ACLU).

La technologie vendue par Amazon associe la puissance de l’apprentissage profond (deep learning) à l’analyse d’images. Un utilisateur peut donc comparer les visages qui défilent dans une vidéo, même en direct, à une «collection» indexée pouvant contenir des millions de visages. 

La ville d’Orlando (Floride) et le comté de Washington (Oregon), sont les premières à l’utiliser, mais plusieurs États suivent de près cette expérience. Il existe d’autres systèmes qui font un travail semblable, mais la technologie d’Amazon simplifie la mise en place d’un tel outil, en réduit considérablement le coût et augmente la puissance d’analyse. 

Des mécanismes juridiques encadrent étroitement les pouvoirs de surveillance et d’écoute des corps policiers, mais ces nouveaux outils y échappent encore et le potentiel pour des abus ne peut être ignoré. Surtout aux États-Unis, au bord d’une véritable crise constitutionnelle avec un président qui tente d’utiliser le système judiciaire à ses fins politiques. Dans ce contexte, permettre aux forces de l’ordre de suivre à la trace opposants et dissidents, sans avoir à rendre de comptes, a de quoi donner froid dans le dos. 

Mais Rekognition n’est que le dernier exemple d’un problème qui grossit à un rythme exponentiel. Ainsi, la plupart des Canadiens ne savaient pas que leur compagnie de téléphonie cellulaire vend à d’autres entités les données qu’elle récolte sur eux. Et dans certains cas, des tierces parties peuvent accéder à ces données au moment même où elles sont créées. Cette pratique devrait susciter beaucoup plus de réactions qu’elle ne l’a fait jusqu’ici. 

C’est le New York Times qui a d’abord révélé qu’un ex-policier s’était servi d’un de ces outils pour suivre les déplacements d’un juge et d’autres policiers, sans autorisation aucune. Des chercheurs ont ensuite testé les mesures de sécurité de ces systèmes pour se rendre compte qu’ils pouvaient localiser, à quelques dizaines de mètres près, n’importe quel abonné d’un réseau cellulaire, aux États-Unis comme au Canada. 

Les réseaux Bell, Rogers et Telus ont créé Enstream, une coentreprise qui commercialise les données qu’ils possèdent, incluant la localisation en temps réel. Ce commerce soulève de sérieuses questions. Qui les a autorisés à utiliser ces renseignements à d’autres fins que celles pour lesquelles ils ont été obtenus, d’abord? Le consentement, s’il y en a un, de l’utilisateur est-il vraiment informé? Sommes-nous seulement en mesure de savoir pourquoi et à qui ces données sont vendues? Et aussi, pouvons-nous connaître l’usage qui en sera fait à l’avenir, une fois qu’elles ne sont plus sous le contrôle d’Enstream.

Les banques de données se multiplient à un rythme effarant, notamment les données biométriques que Facebook collige sur des centaines de millions de personnes. Le risque d’une brèche se multiplie avec le nombre d’entreprises qui y ont accès. Les données sont devenues une marchandise, comme une autre, dont la valeur est inestimable. 

Est-ce dans notre intérêt? Et si non, avons-nous la volonté, ou le pouvoir, d’y changer quoi que ce soit? 

Pas si on continue de se mettre la tête dans le sable.