Les systèmes informatiques peuvent déduire des quantités de choses, même si vous avez pris soin de ne rien révéler. Ils peuvent déduire vos préférences sexuelles, vos traits de personnalité, vos idées politiques.

Les algorithmes règnent à notre insu

Achats et recherches en ligne, octroi de prêts, films à l'affiche... les algorithmes dominent notre vie quotidienne, mais souvent à l'insu de ceux qui les utilisent.
«Les algorithmes ne sont pas nécessairement équitables, car c'est la personne qui les conçoit qui définit leur fonctionnement et leurs résultats», souligne Cathy O'Neil, spécialiste des données et auteure du livre Armes de destruction mathématiques, qui s'élève contre l'utilisation généralisée et opaque des algorithmes.
Lors d'un récent forum organisé par le centre de réflexion New America, elle a mis en garde contre la «confiance aveugle» placée dans les algorithmes pour obtenir des résultats objectifs.
L'algorithme le plus célèbre est sans doute celui grâce auquel Google s'est imposé dans le secteur des moteurs de recherche et qui est constamment modifié et amélioré pour fournir le résultat le plus proche de ce que l'internaute recherche. Même chose chez Facebook, qui analyse toutes les données de ses utilisateurs pour les aider à trouver de nouveaux amis et le contenu le plus adapté à leurs envies.
Conséquences néfastes
Mais les algorithmes servent aussi à détecter les cancers de la peau et à rédiger des articles à partir de données brutes. Même la politique est concernée et la campagne du président américain Donald Trump s'est servie de données de firmes de marketing utilisant un algorithme identifiant les endroits avec le plus fort taux d'électeurs susceptibles d'être persuadés par les arguments du candidat.
Cathy O'Neil cite plusieurs exemples où des algorithmes ont eu des conséquences néfastes.
Des écoles publiques à Washington ont renvoyé en 2010 plus de 200 professeurs, dont certains très respectés, sur la base d'une évaluation de leurs performances établie par un algorithme.
Des collectivités locales basent aussi l'allocation des ressources sur des «points chauds» choisis grâce à ces formules mathématiques. Mais la manière dont sont entrées les données peut influer sur leur résultat et créer un cercle vicieux négatif pour les communautés déjà les plus défavorisées.
Dans le domaine financier, des décisions en matière de crédit et d'assurance sont prises aussi par des algorithmes, qui risquent de défavoriser encore davantage ceux qui sont déjà les plus pénalisés.
Un rapport de la Maison-Blanche publié l'an dernier mettait d'ailleurs en garde contre des algorithmes qui, tout en annulant les effets de l'intervention humaine, «désavantagent systématiquement certains groupes».
Zeynep Tufekci, professeure à l'Université de Caroline du Nord spécialisée dans les technologies, rappelle que des décisions prises automatiquement se basent souvent sur des données rassemblées sur les personnes, sans même que celles-ci en soient informées.
Miettes informatiques 
«Ces systèmes informatiques peuvent déduire des quantités de choses de vos miettes informatiques, même si vous avez pris soin de ne rien révéler», a-t-elle averti lors d'une récente conférence TED, un organisme à but non lucratif qui organise des débats d'idées à travers le monde. «Ils peuvent déduire vos préférences sexuelles, vos traits de personnalité, vos idées politiques. Ils ont un pouvoir de prévision qui peut se révéler extraordinairement exact», indiquait-elle.
«Nous posons des questions à des systèmes informatiques qui n'ont souvent pas de réponse unique. Ces questions sont subjectives, et chargées de sous-entendus, sur qui une entreprise doit embaucher, quel message d'un ami doit être porté à votre attention ou si un délinquant est susceptible de récidive», a-t-elle ajouté.
Droit à l'explication
Frank Pasquale, professeur de droit à l'Université du Maryland, affirme toutefois que les utilisations inéquitables des algorithmes peuvent être corrigées par des lois sur la protection des consommateurs.
Il souligne qu'à ce titre, les lois en vigueur dans l'Union européenne sur la protection des données et le «droit à l'explication» lorsqu'une personne est victime d'une décision prise en fonction d'un algorithme, méritent d'être étudiées. «Cela obligerait à la transparence ou empêcherait les algorithmes d'être utilisés dans certains contextes.»
Mais pour Alethea Lange, analyste au Centre pour la démocratie et la technologie, un tel modèle est «très lourd» et peu susceptible de fonctionner en raison de l'évolution permanente des algorithmes. Pour elle, l'éducation et la discussion sont plus importantes que la législation.
Pour Daniel Castro, vice-président de la Fondation pour l'innovation et les technologies de l'information, les algorithmes ne doivent pas être désignés comme boucs émissaires des malaises sociaux. 
Selon lui, des décisions automatiques prises sur la base de formules mathématiques permettent «des actions plus rapides, plus efficaces pour les consommateurs, les entreprises et les gouvernements» et il souligne que le délit de faciès existe aussi «dans le monde non algorithmique».
Les algorithmes pour les nuls
Algorithme, ce savant persan
Avant d'être associé en bien ou en mal aux recherches sur Google, aux fils d'actualité sur Facebook et aux recommandations d'achat sur Amazon, algorithme, c'est au départ un savant persan. Le mot découle d'une déformation en latin médiéval (avec influence du grec arithmos, nombre) du nom du mathématicien et astronome du IXe siècle Al-Khwarizmi, considéré comme le père de l'algèbre.
C'est quoi au juste?
Comme une recette de cuisine, un algorithme est une «série d'instructions permettant d'obtenir un résultat», explique le sociologue Dominique Cardon dans son ouvrage À quoi rêvent les algorithmes (Seuil). La notion était familière des seuls mathématiciens avant qu'elle se popularise avec le développement de l'informatique (un programme est un algorithme) et devienne un concept clé des rouages d'Internet.
Où sont-ils? 
«Nous sommes littéralement entourés d'algorithmes» explique le spécialiste des sciences de l'information Olivier Ertzscheid. «Chaque fois que nous consultons Facebook, Google ou Twitter, nous sommes directement exposés aux choix» que font pour nous des algorithmes et «parfois influencés par eux». Les algorithmes règnent dans les salles de marché pour réaliser des ordres d'achats/ventes à grande vitesse («trading haute féquence») avec l'inconvénient de provoquer des «krachs éclair», chutes brutales et exagérées de cours. Ils sont aussi devenus auxiliaires de police, capables d'anticiper les lieux où des délits risquent d'être commis.
Facebook et la bulle de filtres
Facebook fonctionne avec des algorithmes sophistiqués pour offrir des contenus personnalisés à ses 1,18 milliard d'utilisateurs quotidiens, en particulier pour les «fils d'actualité» qui compilent messages «d'amis», articles partagés, etc., sélectionnés en fonction de l'activité et des contacts de chacun sur le réseau social. Le danger, c'est la «bulle de filtres», selon l'Américain Eli Pariser, qui a développé ce concept dans le livre The Filter bubble : à force d'être entouré d'informations filtrées par des algorithmes en fonction de ses amis, goûts et précédents choix numériques, un internaute est plongé à son insu dans une «bulle cognitive» qui renforce sa perception du monde et ses propres convictions.
À l'origine de Google 
Un algorithme est à l'origine de Google : PageRank (PR) a été mis au point dans les années 90 à Stanford (Californie) par Larry Page (d'où son nom) et Sergey Brin, les deux fondateurs de la firme. PR permet de classer la popularité des pages Web. C'est le coeur du moteur de recherche Google qui en une fraction de seconde répond à une demande composée de mots clés. Aujourd'hui, Google utilise une «dizaine d'algorithmes comprenant chacun des milliers de paramètres et variables», selon Olivier Ertzscheid.
Algorithmes et vérité 
Un autre danger a été mis en lumière lors de l'élection présidentielle américaine : la circulation sans véritable frein de fausses informations (fake news) ou de canulars malveillants (hoax). Les algorithmes de Facebook n'ont pas été conçus pour distinguer le vrai du faux, tâche d'ailleurs compliquée pour une intelligence artificielle. La compagnie de Mark Zuckerberg, qui se définit comme un service et non pas un média, refuse d'être «l'arbitre de la vérité». Elle a toutefois réagi aux critiques, proposant des outils pour permettre aux utilisateurs de signaler les informations douteuses.
Anticiper nos comportements 
On peut distinguer quatre grandes «familles» d'algorithmes, selon Dominique Cardon : ceux qui calculent la popularité des pages Web, ceux qui classent leur autorité, ceux qui évaluent la notoriété des utilisateurs des réseaux sociaux et ceux qui tentent de prédire l'avenir. Cette quatrième catégorie est «problématique», selon le sociologue, car elle tente d'anticiper nos comportements à partir des traces que nous avons laissées sur le Web. C'est, par exemple, la technique d'Amazon pour recommander de nouveaux livres à un client en fonction de ses lectures récentes.