Accueil > Article en Archive, Critique de la technologie > Mara Hvistendahl, Bienvenue dans l’enfer du social ranking, 2018

Mara Hvistendahl, Bienvenue dans l’enfer du social ranking, 2018

Quand votre vie dépend de la façon dont l’État et les banques vous notent

Dans “Nosedive”, un épisode de la série télévisée de science-fiction Black Mirror, Lacie Pound, une Emma Bovary 2.0, rêve de pouvoir acquérir un appartement luxueux et de rejoindre les hautes sphères de la jeunesse en vue. Mais pour cela, elle doit être bien « notée » sur les réseaux sociaux. Toute interaction est l’occasion d’évaluer son interlocuteur : a-t-elle été polie avec sa voisine ? Son chef est-il content de son travail ? Les efforts de la jeune femme tournent au désastre et l’effondrement de sa note la relègue au rang de paria. En Chine, aujourd’hui, le scénario catastrophe de la série britannique est déjà une réalité : par le biais d’applications pour smartphones, l’État, en partenariat avec des entreprises privées, note les citoyens. Et ce classement social a des implications concrètes : pouvoir louer un vélo, obtenir un prêt, accéder à certains services sociaux, s’inscrire sur un site de rencontres… Plongée vertigineuse dans la nouvelle gouvernementalité numérique.

.

En 2015, lorsque Lazarus Liu rentra en Chine après avoir étudié trois ans la logistique au Royaume-Uni, il se rendit bientôt compte que quelque chose avait changé : tout le monde payait ses achats avec son téléphone. Que ce soit chez McDonald’s, à l’épicerie du coin ou même dans les petits bouis-bouis de quartier, ses amis de Shanghai utilisaient le paiement par portable. L’argent liquide, constatait Liu, avait été largement remplacé par deux applications pour smartphones : Alipay et WeChat Pay. Un jour, dans un marché aux légumes, il vit une dame de l’âge de sa mère sortir son téléphone afin de payer ses courses. Il décida de s’y mettre lui aussi.

Afin d’obtenir une carte d’identité Alipay, Liu dut saisir son numéro de portable et scanner sa carte d’identité nationale. Il le fit en toute connaissance de cause : Alipay s’était construit une réputation de fiabilité et, comparé à une banque gérée avec une indifférence apathique et zéro souci du service à la clientèle, devenir utilisateur d’Alipay était presque un plaisir. En quelques clics, le tour était joué. Le slogan d’Alipay résumait bien son expérience : « La confiance simplifie les choses ».

Alipay s’avéra tellement pratique que Liu se mit à l’utiliser plusieurs fois par jour, en commençant dès l’aube par commander son petit-déjeuner par le biais d’une application de livraison de plats à domicile. Il se rendit compte qu’il pouvait payer le stationnement de sa voiture grâce à la fonction My Car d’Alipay. Il ajouta donc à son profil d’utilisateur son numéro de permis de conduire, sa plaque d’immatriculation et le numéro de moteur de son Audi. Il commença à payer les primes de son assurance automobile avec la même application. Il réserva ses rendez-vous médicaux avec Alipay, évitant ainsi les queues anarchiques qui sont la plaie des hôpitaux chinois. Il incorpora ses amis au réseau social intégré d’Alipay. Lorsqu’il partit en vacances en Thaïlande avec sa fiancée (qu’il a épousée depuis), leurs factures de restaurants et leurs achats de souvenirs furent réglés via Alipay. L’argent qui lui restait – pas grand-chose une fois payées les vacances et la voiture –, il le mit sur le compte épargne à haut rendement d’Alipay. Il aurait aussi fort bien pu s’acquitter de ses factures d’électricité, de gaz et d’Internet grâce à la fonction City Service d’Alipay. Comme beaucoup de jeunes Chinois séduits par les services de paiement en ligne offerts par Alipay et WeChat, Liu cessa de prendre son portefeuille lorsqu’il sortait de chez lui.

Si vous vivez aux États-Unis, vous êtes déjà habitué à céder vos données à des entreprises. Les sociétés de cartes de crédit connaissent votre consommation de boissons alcoolisées et savent si vous achetez des jouets sexuels. Facebook sait si vous aimez les vidéos culinaires de YouTube ou les infos de Breitbart News. Uber connaît vos destinations et votre comportement en tant que passager. L’application Alipay détient elle aussi ce type d’informations sur ses utilisateurs, mais elle en sait bien plus encore. Propriété de Ant Financial, une filiale du géant du commerce en ligne Alibaba, Alipay est parfois décrite comme une « super application ». Sa principale concurrente, WeChat, appartient à la multinationale de services Internet et de jeux en ligne Tencent. Mais, bien plus que de simples applications, Alipay et WeChat sont de véritables écosystèmes. Chaque fois que Liu cliquait sur Alipay sur son téléphone, il voyait apparaître une série d’icônes dont l’ordonnancement ressemblait vaguement à l’écran d’accueil de son Samsung. Certaines de ces icônes étaient elles-mêmes des applications de sociétés tierces. S’il le voulait, il pouvait ainsi accéder à Airbnb, Uber ou Didi, le concurrent chinois d’Uber, sans sortir d’Alipay : un peu comme si Amazon avait avalé eBay, Apple News, Groupon, American Express, Citibank et YouTube et pouvait siphonner toutes leurs données.

La transformation du système bancaire chinois

Un jour, une nouvelle icône apparut sur l’écran d’accueil Alipay de Liu : Zhima Credit (Zhima signifie Sésame). Ce nom, comme celui de la maison-mère d’Alipay, évoque l’histoire d’Ali Baba et des quarante voleurs, dans laquelle « Sésame, ouvre-toi ! » est la formule magique qui donne accès à une caverne pleine de trésors. Quand Liu effleura l’icône, il fut accueilli par une image de la planète Terre accompagnée du texte suivant :

« Zhima Crédit est l’incarnation du crédit individuel. Nous avons recours aux mégadonnées [big data] pour effectuer une évaluation objective. Plus votre score est élevé, plus vous avez de crédit. »

Un peu plus bas s’affichait un bouton accompagné de la légende :

« Votre voyage dans le monde du crédit commence. »

Liu appuya dessus.

En 1956, un ingénieur en électricité, Bill Fair, et un mathématicien, Earl Isaac, créèrent une PME de technologie depuis leur appartement de San Francisco. Ils la baptisèrent Fair, Isaac & Co. mais elle finit par se faire connaître sous le sigle de FICO. Leur innovation principale consistait à recourir à l’analyse statistique informatisée afin de traduire le profil client et l’histoire financière d’un individu par une notation simple permettant de prédire la probabilité que celui-ci rembourserait (ou non) ses emprunts. Avant FICO, les organismes de crédit n’avaient comme source d’informations que les propos colportés par les propriétaires, les voisins et les commerçants du quartier. Les candidats à un prêt pouvaient être discriminés sur la base de leur identité raciale, de leur propension à être organisé ou désordonné, de leurs mœurs répréhensibles ou de leurs «gestes efféminés». La notation algorithmique de Fair et Isaac offrait, selon ses inventeurs, une voie plus scientifique et plus équitable que ces pratiques injustes. Leur approche finit par attirer l’attention des grandes agences d’évaluation – TransUnion, Experian et Equifax – et, en 1989, FICO introduisit le système de pointage de crédit que nous connaissons aujourd’hui et qui a permis à des millions d’Américains de contracter des emprunts hypothécaires et de laisser filer leurs découverts.

De son côté, au cours des trente dernières années, la Chine est passée au rang de deuxième économie mondiale sans posséder de système de crédit opérationnel. La Banque populaire de Chine, principal régulateur bancaire du pays, tient des registres sur des millions de consommateurs, mais ils contiennent très peu d’informations pertinentes. Jusqu’à récemment, il était difficile d’obtenir une carte de crédit. Les consommateurs avaient principalement recours à l’argent liquide. Avec l’envolée des prix du logement, cette situation devint de plus en plus intenable. Zennon Kapron, qui dirige le cabinet de conseil en technologies financières Kapronasia, explique :

« Maintenant, vous avez besoin de deux valises de billets pour acheter une maison, et plus d’une seule. »

Mais tous les efforts en vue d’établir un système de crédit fiable avaient jusqu’ici échoué en raison de l’absence d’une agence de notation indépendante. En revanche, fin 2011, la Chine comptait déjà trois cent cinquante-six millions d’utilisateurs de smartphones.

Cette année-là, Ant Financial lança une version d’Alipay qui comprenait un scanner intégré capable de lire les codes QR, ces étiquettes de forme carrée lisibles par une machine et contenant près de cent fois plus d’informations qu’un code barre standard. (WeChat Pay, qui a été lancé en 2013, possède un scanner intégré similaire.) Le scannage d’un code QR peut vous amener sur un site Web, faire afficher une application ou bien vous connecter au profil de telle ou telle personne sur un réseau social. Ce type de code a commencé à faire son apparition jusque sur les tombes (on scanne si l’on veut en savoir plus sur le défunt) ou sur les chemises des serveurs dans les restaurants (on scanne pour donner un pourboire). Des mendiants se sont mis à imprimer des codes QR et à les exposer sur le trottoir. En Chine, ces codes relient l’univers en ligne et la réalité hors ligne à une échelle jamais vue ailleurs dans le monde. Dès la première année de fonctionnement du scanner de codes QR, le montant des paiements par téléphone sur Alipay a atteint près de soixante-dix milliards de dollars.

En 2013, les dirigeants de Ant Financial effectuèrent une retraite dans les montagnes de la région de Hangzhou pour discuter de la création d’une foule de nouveaux produits ; l’un d’entre eux était Zhima Credit. Ils se rendirent compte qu’ils pouvaient utiliser la puissance de collecte de données d’Alipay afin de calculer un pointage de crédit s’appuyant sur les activités d’un individu. You Xi, un journaliste économique chinois qui a décrit cette réunion historique dans un ouvrage récent Ant Financial, explique :

« C’était un processus très naturel. Si vous avez des données de paiement, vous pouvez évaluer le crédit d’une personne. »

C’est ainsi qu’Alipay s’est engagé sur la voie de la création d’un système de notation capable de mesurer « Votre crédit dans tous les domaines de l’existence ».

Le nouvel outil de surveillance du Parti communiste chinois

Ant Financial n’était pas la seule organisation désireuse d’utiliser ce type de données dans le but de mesurer la valeur des personnes. Coïncidence ou non, en 2014, le gouvernement chinois annonça qu’il était en train de développer ce qu’il appelait un système de « crédit social ». Cette même année, le Conseil des affaires de l’État – la branche exécutive du gouvernement chinois – appela publiquement à la mise en place d’un système national de suivi qui évaluerait la réputation des particuliers, des entreprises et même des fonctionnaires gouvernementaux. L’objectif était que, d’ici à 2020, tous les citoyens chinois soient enregistrés dans un fichier compilant des données provenant de sources publiques et privées, et que ces fichiers puissent être consultés à l’aide de leurs empreintes digitales et d’autres caractéristiques biométriques. Selon les termes mêmes du Conseil des affaires de l’État, il s’agit d’un « système de crédit qui couvre toute la société ».

Du point de vue du Parti communiste chinois, la promotion du crédit social correspond à une tentative de mettre en œuvre une forme d’autoritarisme plus « douce » et plus discrète. L’objectif est d’inciter les citoyens à adopter toute une série de comportements pouvant aller des économies d’énergie à l’obéissance au Parti. Samantha Hoffman, consultante à l’Institut international d’études stratégiques de Londres, est une spécialiste du crédit social ; d’après elle, le gouvernement chinois s’efforce de prévenir toute forme d’instabilité qui pourrait menacer le Parti :

« C’est pourquoi, dans l’idéal, le crédit social repose à la fois sur des aspects coercitifs et sur des aspects plus agréables, comme la prestation de services sociaux et la résolution de problèmes réels. Le tout dans une même logique de type orwellien. »

En 2015, Ant Financial était l’une des huit entreprises de technologie à avoir reçu l’approbation de la Banque populaire de Chine pour développer sa propre plateforme privée de notation de crédit. Peu de temps après, Zhima Credit fît son apparition sur l’application Alipay. Ce service suit votre comportement en ligne afin de déterminer une cote de crédit qui peut aller de 350 à 950 points ; il offre des avantages et des récompenses aux individus affichant un bon score. L’algorithme de Zhima Credit prend en compte non seulement votre capacité à payer vos factures, mais également vos achats, vos diplômes et la cote de crédit de vos amis. Tout comme Fair et Isaac quelques décennies plus tôt, les dirigeants de Ant Financial défendent publiquement l’idée qu’une approche axée sur la collecte de données permettra l’accès au système financier de personnes qui en avaient été exclues jusque-là, comme les étudiants ou les habitants des campagnes. Adressé aux plus de deux cents millions d’utilisateurs d’Alipay qui ont opté pour Zhima Credit, l’argument de vente est limpide : vos données vous ouvriront les portes comme par magie.

L’adhésion à Zhima Crédit est volontaire et il est difficile de savoir si elle affecte la notation d’un individu dans le cadre du système d’évaluation gouvernemental, et comment. Aucun dirigeant de Ant Financial n’a accepté de m’accorder une interview, mais on m’a transmis un communiqué de Hu Tao, la directrice générale de Zhima Credit :

« L’objectif de Zhima Credit est de créer de la confiance dans un cadre strictement commercial et indépendant de tout système de crédit social mis en place par le gouvernement. Zhima Credit ne partage pas les notations de ses utilisateurs ou les données qui les alimentent avec des tierces parties, y compris le gouvernement, sans le consentement préalable des utilisateurs. »

Néanmoins, dans un communiqué de presse diffusé en 2015, Ant Financial déclarait son ambition de « contribuer à construire un système d’intégrité sociale ». Et l’entreprise a déjà coopéré dans un domaine important avec le gouvernement chinois : elle a intégré à la base de données de Zhima Credit une liste noire de plus de six millions de personnes n’ayant pas payé leurs amendes judiciaires. D’après l’agence de presse officielle Xinhua, cette association entre deux Léviathans – public et privé – a permis aux tribunaux de sanctionner plus d’un million deux cent dix mille contrevenants, lesquels ont un jour constaté en ouvrant leur application Zhima Credit que leur score avait plongé.

D’après le Conseil des affaires de l’État, dans le cadre du système national de crédit social, les citoyens pourront être pénalisés entre autres au titre du délit de propagation de rumeurs en ligne et les personnes jugées comme « extrêmement peu fiables » n’auront accès qu’à des services au rabais. Apparemment, Ant Financial semble aussi aspirer à catégoriser la société en fonction de principes moraux. Dans son livre Ant Financial, You Xi cite des propos de la directrice générale Lucy Peng selon laquelle :

« Zhima Credit veillera à ce que les personnes de moralité douteuse voient toutes les portes se fermer devant elles, tandis que les citoyens honnêtes seront libres de leurs mouvements et ne connaîtront pas d’obstacles ».

Prolétariat et bourgeoisie numériques

Après avoir vécu en Chine pendant près d’une décennie, j’ai quitté le pays en 2014 ; les paiements par téléphone ne s’étaient pas encore généralisés. Ils représentent aujourd’hui 5 500 milliards de dollars de transactions par an (contre seulement 112 milliards aux États-Unis en 2016). Lorsque je suis retournée en Chine pendant mes vacances, en août 2017, j’étais bien décidée à faire partie de ce nouvel univers libre de cash. Je me suis donc inscrite sur Alipay et Zhima Crédit quelques heures à peine après mon atterrissage. Faute d’un historique de mes transactions, j’ai été aussitôt confrontée à un verdict plutôt embarrassant : ma cote de crédit était de cinq cent cinquante points.

Lors de mon premier jour à Shanghai, j’ai ouvert l’application de Zhima Credit afin de scanner un vélo jaune que j’avais trouvé à moitié couché au milieu du trottoir. En Chine, la culture du vélo en libre-service, tout comme celle du paiement par téléphone, est surgie de nulle part, et les rues de Shanghai sont jonchées de vélos aux couleurs vives, abandonnés au hasard des caprices des cyclistes. En scannant le code QR d’un vélo, on obtient un nombre à quatre chiffres qui débloque la roue arrière, et un trajet en ville coûte environ 15 cents. Mais vu la médiocrité de mon score, il me fallut payer un dépôt de garantie de 30 dollars avant de pouvoir scanner mon premier vélo. Même chose pour mes séjours à l’hôtel, mes locations de caméras GoPro, ou même l’emprunt d’un parasol gratuit. J’appartenais au sous-prolétariat numérique.

En Chine, tout le monde a peur des pianzi, les escrocs professionnels. Comment savoir si vous n’êtes pas un pianzi ? C’est une question que les gens se posent souvent lorsque des vendeurs les appellent au téléphone ou que des réparateurs sonnent à leur porte. Certes, ma cote de crédit n’était pas si basse que je sois classée aux rangs des pianzi mais, entre autres choses, Zhima Credit promet à ses clients d’identifier les vrais pianzi. Les entreprises peuvent acheter des évaluations de risque-client qui leur permettent de savoir si les usagers ont payé leur loyer ou leurs factures, ou bien s’ils figurent sur la liste noire des tribunaux. Ces produits leur sont facturés sur la base du temps gagné. Sur le site Tencent Video, je suis tombée sur une publicité de Zhima Credit dans laquelle un homme d’affaires circulant en métro scrute les autres passagers avec une mine consternée : « On dirait qu’ils ont tous une tête de pianzi. » Ses employés, soucieux de se protéger contre les clients suspects, couvrent les murs de la salle de conférences de photos de délinquants et de criminels. Mais tout d’un coup – Eurêka ! –, le patron découvre Zhima Credit, et tous leurs problèmes sont résolus. Le personnel fête la chose en déchirant les photos épinglées au mur.

Aux clients qui se comportent bien, Zhima Credit offre toute une série de bonus grâce à des accords de coopération signés par Ant Financial avec des centaines de sociétés et d’institutions. Shenzhou Zuche, une agence de location de voitures, permet aux personnes ayant un score de plus de 650 points de louer une voiture sans dépôt de garantie. En échange de cette évaluation, Shenzhou Zuche partage ses données, de sorte que si un utilisateur de Zhima Credit a un accident avec une voiture de location et refuse de payer les dégâts, cet incident est comptabilisé en négatif dans son dossier de crédit. Il fut même une époque où les individus ayant un score de plus de 750 points étaient exemptés de faire la queue au contrôle de sécurité de l’aéroport international de Pékin.

Deux ans après être devenu utilisateur de Zhima Crédit, Lazarus Liu n’était pas très loin de ce score. J’ai fait sa connaissance un samedi après-midi dans un centre commercial de Shanghai, devant une boutique Forever 21. Liu a 27 ans et travaille pour une grosse entreprise. Il était ce jour-là entièrement vêtu de noir – chemise, short Air Jordan et baskets – et arborait une coupe dégradée avec une grande mèche noire tombant sur le côté. Nous sommes entrés dans un Starbucks bondé de jeunes gens penchés sur leurs téléphones et sirotant des thés glacés à la pêche ou des Frappuccinos au thé vert. Liu occupa la dernière table libre.

Il m’expliqua qu’il avait choisi son prénom anglais, Lazarus, après s’être converti au catholicisme trois ans auparavant, mais que sa foi était avant tout une affaire privée. C’était un peu la même chose pour son score Zhima Credit : il révélait sans doute quelque chose sur sa personnalité, mais il préférait rester discret à ce sujet. D’ailleurs, il vérifiait rarement sa cote de crédit – nichée sur l’application Alipay de son Samsung – et, vu que son score était bon, il n’avait pas besoin de le faire. Après avoir débuté à 600 points sur un total possible de 950, il avait atteint un score de 722 points, ce qui lui donnait droit à des conditions avantageuses pour obtenir un prêt ou louer un appartement, ainsi qu’à un accès privilégié à plusieurs applications de rencontres au cas où il se séparerait de son épouse. Avec quelques dizaines de points de plus, il pourrait bénéficier d’une procédure accélérée d’obtention d’un visa d’entrée au Luxembourg, bien qu’il n’ait aucune intention de visiter ce pays.

Au fur et à mesure que l’historique des transactions et des paiements de Liu sur Alipay évoluait de façon favorable, son score ne cessait d’augmenter. Mais s’il négligeait de payer une amende de circulation, par exemple, cette tendance pouvait fort bien s’inverser. Et les privilèges associés à un score élevé pouvaient parfaitement être révoqués un beau jour en vertu de critères n’ayant strictement rien à voir avec son comportement de consommateur. En juin 2015, alors que neuf millions quatre cent mille d’adolescents chinois passaient le redoutable examen national d’entrée à l’université, Hu Tao, la directrice générale de Zhima Credit, déclara à la presse que Ant Financial comptait obtenir une liste d’étudiants ayant triché et que cette entorse serait comptabilisée dans leur dossier de crédit : « Si vous vous comportez de façon malhonnête, vous devez en payer les conséquences. » Pour les citoyens honnêtes, aucun obstacle. Pour les autres, l’épée de Damoclès d’un mauvais score.

Booster sa note sociale

L’application Alipay sait que dans l’après-midi du 26 août à 13 heures, j’ai loué une bicyclette de marque Ofo aux abords de l’ancienne concession française de Shanghai et que je me suis dirigée vers le nord, stationnant mon vélo devant le temple de Jing’an. Elle sait qu’à 13h24, j’ai acheté un casse-croûte dans le centre commercial voisin du temple. Elle sait que j’ai ensuite emprunté un véhicule avec chauffeur de la société Didi à destination d’un quartier au nord-ouest. Elle sait que j’en suis descendue à 15h11 et que je suis entrée dans un supermarché, et elle sait aussi qu’à 15h36 j’y ai acheté des bananes, du fromage et des crackers – parce que le propriétaire du supermarché est Alibaba et qu’à la caisse ne sont acceptés que les paiements par Alipay. Elle sait que j’ai ensuite pris un taxi et que je suis arrivée à destination à 16h01. Elle connaît le numéro d’identification de mon taxi. Elle sait qu’à 16h19, j’ai payé 8 dollars pour une livraison d’Amazon. Suivent trois heures bénies – dont une passée dans la piscine – pendant lesquelles Alipay ne sait pas où je suis. Après quoi, elle sait que j’ai loué une autre bicyclette Ofo devant un hôtel du centre de Shanghai, pédalé pendant 10 minutes et qu’à 19h11, je l’ai garée devant un restaurant connu. Étant donné que Ant Financial est un partenaire stratégique d’Ofo, il est possible qu’Alipay connaisse exactement le chemin que j’ai emprunté.

L’algorithme qui établit ma cote de crédit Zhima est un secret d’entreprise. Ant Financial a rendu publiques les cinq grandes catégories de données qui informent un score, mais ne permet pas d’en savoir plus sur la façon dont ces ingrédients sont cuisinés. Comme tous les systèmes classiques de pointage de crédit, Zhima Credit surveille mon historique de dépenses et vérifie si j’ai remboursé mes prêts. Mais en ce qui concerne d’autres critères, on est dans l’arbitraire le plus total, voire pire. Une catégorie baptisée « Connections » prend en compte le crédit de mes contacts sur le réseau social d’Alipay. D’autres caractéristiques prises en considération sont le type de véhicule que je conduis, mon lieu de travail et les établissements scolaires que j’ai fréquentés. La catégorie « Comportement » se penche sur les nuances de mon existence de consommatrice, ciblant les actions censées correspondre à un crédit positif. Peu de temps après le lancement de Zhima Credit, son directeur du développement technologique, Li Yingyun, déclarait au magazine chinois Caixin que des habitudes de dépenses telles que l’achat de couches pour bébé étaient susceptibles d’augmenter votre score, tandis que jouer à des jeux vidéo pouvait le faire diminuer. Sur les réseaux sociaux, d’aucuns escomptent que le fait de contribuer à une œuvre de bienfaisance, si possible grâce au service de donation intégré d’Alipay, augmentera votre crédit. Sauf que je ne sais pas trop si les 3 dollars dont j’ai fait don à un organisme qui alimente des oursons bruns seront interprétés comme de la générosité ou de la mesquinerie.

J’ai donc commencé à surveiller mon score de façon obsessionnelle, mais comme les cotes de crédit ne sont réévaluées que sur une base mensuelle, le chiffre n’évoluait pas. Chaque fois que j’ouvrais l’application, j’étais confrontée à un écran de couleur orange qui n’avait rien de rassurant. Au premier plan, il y avait un cadran en forme de demi-cercle qui signalait que je n’avais atteint qu’un quart de mon potentiel. Un article du portail Sohu.com m’expliquait que mon score m’assignait à la catégorie des « gens ordinaires ». « Niveau culturel peu élevé. Retraité ou à la veille de la retraite », commentait cette page. En Chine, où de nombreuses personnes âgées ont perdu plusieurs années d’éducation pendant la Révolution culturelle, ce n’est pas un compliment. À en croire Sohu, seulement 5% de la population avait un score moins élevé que le mien.

Un beau matin, préoccupée de savoir si je pouvais faire quelque chose pour améliorer mon score, j’empruntai un taxi en direction du centre de Shanghai afin de me rendre dans un centre commercial haut de gamme à ciel ouvert. J’y avais rendez-vous avec Chen Chen, une illustratrice âgée de trente ans qui avait signalé à un ami commun sur WeChat qu’elle bénéficiait d’une « excellente » notation sur Zhima Credit. Je voulais donc lui demander conseil. Munies d’une tasse de café, nous nous sommes installées sur une aire de restauration en plein air. Chen portait une chemise ouverte sur un T-shirt blanc et un slim. Ses cheveux étaient teints en blond et elle arborait un fard à paupières à paillettes. Son score Zhima Credit était de 710 points et l’écran de son application affichait un bleu ciel rassérénant.

Elle m’expliqua comment booster mon score :

« Ils vont vérifier quel genre de personnes tu fréquentes. Si tes amis sont tous bien notés, c’est bon pour toi. Si tu as des amis qui ont un mauvais score, c’est embêtant. »

Une fois inscrite sur Alipay, j’avais fait des demandes d’amis à tous mes contacts téléphoniques. Seules six personnes avaient accepté. Un de mes nouveaux amis Alipay était quelqu’un à qui j’avais donné des leçons d’anglais, probablement la personne la plus riche que je connaisse à Shanghai. Il possédait plusieurs entreprises, une pléthore de voitures et une grande villa dans un quartier chic. Mais j’avais aussi sur ma liste d’amis ma vieille couturière qui occupait, avec toute sa famille, une seule pièce dans un immeuble délabré, avec des piles de tissu bouchant la vue des fenêtres. Le score de ma couturière – et son impact sur le mien – allait-il annuler celui de l’homme d’affaires ? Et moi-même, n’allai-je pas porter préjudice à leurs notations respectives ?

Chen m’expliqua qu’elle connaissait les scores de ses amis proches mais pas ceux de ses simples connaissances ou de ses collègues de travail. Il existe des forums de discussion où les personnes relativement bien notées cherchent à faire connaissance avec d’autres personnes au score élevé, vraisemblablement dans le but d’améliorer leur propre notation. Mais en général, les gens se fient simplement à leur intuition pour savoir qui parmi leurs contacts est susceptible d’être bien noté et qui il vaut mieux éliminer de leur liste d’amis. Afin de me rassurer, Chen m’expliqua que les utilisateurs ayant son type de profil n’avaient pas encore pris la décision d’exclure les gens comme moi de leur réseau. Zhima Credit était une application encore toute récente et si l’une de vos connaissances avait un score médiocre, cela pouvait encore s’expliquer charitablement par le fait « qu’elle ne l’utilisait pas depuis assez longtemps ».

Hiérarchisation des citoyens et contrôle social

Si l’on cherche à comprendre la séduction qu’exerce ce type d’ingénierie sociale sur les dirigeants chinois, il faut remonter à plusieurs décennies, bien avant l’émergence des applications et du big data. Dans les années postérieures à la révolution communiste de 1949, le gouvernement affecta l’ensemble de la population à des unités de travail locales qui fonctionnaient de fait comme des sites de surveillance et de contrôle. Tout le monde espionnait ses voisins tandis que chacun faisait son possible afin d’éviter les mauvais points sur son dang’an, son dossier officiel. Mais le maintien de ce système exigeait de la part de l’État un gigantesque effort de vigilance. Lorsque les réformes économiques des années 1980 incitèrent des millions de personnes à quitter leurs villages et à émigrer en ville, le système des unités de travail s’effondra. Cette migration eut également un effet secondaire : les villes se remplirent d’étrangers et de pianzi.

Il ne fallut pas longtemps aux autorités gouvernementales avant de commencer à penser à « ludifier » le comportement social des citoyens. Comme l’explique Rogier Creemers, spécialiste du droit chinois à l’Institut d’études régionales de Leyde, aux Pays-Bas :

« Les dirigeants chinois se rendirent compte que s’ils souhaitaient avoir un système de marché fonctionnant de façon autonome, il leur fallait aussi des systèmes de crédit fonctionnant de façon autonome. »

À la fin des années 1990, un groupe de travail d’un institut de l’Académie chinoise des sciences élabora les concepts fondamentaux du système de crédit social. Mais à l’époque, la technologie n’était pas assez avancée pour satisfaire les grands desseins politiques du Parti communiste.

Il y a environ une dizaine d’années, j’ai passé quelques semaines à Suining, une préfecture majoritairement rurale de la province de Jiangsu, près de Shanghai. À ce moment-là, les autorités locales ne faisaient pas dans la subtilité. Lorsqu’il s’agissait de sévir contre les conducteurs qui brûlaient des feux rouges, elles exhortaient les citoyens à prendre des photos des contrevenants afin de pouvoir les diffuser sur la chaîne de télévision locale. Mais en 2010, Suining devint l’une des premières collectivités locales du pays à tester un système de crédit social. Les fonctionnaires commencèrent à évaluer les résidents en fonction de divers critères, dont le niveau de scolarité, le comportement en ligne et le respect du code de la route. On attribua à chacun des 1,1 million d’habitants de Suining âgés de plus de 14 ans un score initial de 1000 points, qui était révisé à la hausse ou à la baisse en fonction de leur comportement. Si vous étiez en charge de personnes âgées membres de votre famille, vous gagniez 50 points. Venir en aide aux pauvres valait 10 points. Venir en aide aux pauvres de telle sorte que votre action était mentionnée dans les médias vous rapportait 15 points. Une condamnation pour conduite en état d’ivresse se traduisait par une perte de 50 points, tout comme une tentative de corruption d’un fonctionnaire. Une fois son score établi, chaque citoyen se voyait attribuer une notation globale : A, B, C ou D. Les citoyens de catégorie A étaient prioritaires en matière d’accès aux établissements scolaires et aux emplois, tandis que les membres de la catégorie D se voyaient refuser toute une série de licences et de permis, ainsi que l’accès à certains services sociaux.

Le système de Suining était rudimentaire et il suscita durant une brève période un débat national sur les critères censés guider l’évaluation du crédit social. Mais il offrait le terrain d’essai de futures expériences à l’échelle nationale. Et si grossière que fût la notation par lettres, elle était moins grossière que ce qu’elle remplaçait. Avec le système de crédit social de Suining, les autorités passaient à une stratégie de communication plus subtile. Depuis ce projet pilote, plusieurs dizaines de villes ont développé leur propre système. La technologie existante est désormais à la hauteur. Tous ces systèmes seront un jour intégrés à l’échelle nationale au système de crédit social du gouvernement, ce qui obligera ce dernier à résoudre un sacré casse-tête logistique. En vue de l’aider dans cette tâche, le gouvernement a enrôlé Bai du, une grosse entreprise de technologie censée participer à développer la base de données du crédit social chinois d’ici 2020.

D’une certaine façon, c’est le secteur privé qui a contribué à faire évoluer l’attitude du Parti à l’égard des technologies numériques. Lorsqu’Internet est arrivé en Chine, faisant irruption dans la vie des gens sous la forme de blogs et de forums de discussion, le Parti l’a d’abord perçu comme une menace. Voilà un espace où les gens pouvaient dire ce qu’ils pensaient, se regrouper, exprimer leurs désaccords. Les dirigeants réagirent à ces aspirations par la censure et d’autres tactiques agressives. Mais grâce à des sociétés comme Ant Financial, les autorités ont fini par comprendre l’utilité des technologies numériques pour collecter et diffuser l’information. Au lieu de simplement réagir au contenu en interdisant certains termes de recherche ou en fermant des sites Web, le gouvernement collabore désormais avec le secteur privé dans le domaine des technologies de reconnaissance faciale et vocale ainsi que dans celui de la recherche sur l’intelligence artificielle.

En 2015, quelques mois après le lancement de Zhima Credit, le fondateur d’Alibaba, Jack Ma, s’est rendu aux États-Unis avec quatorze autres dirigeants d’entreprises dans le cadre de la première visite d’État du président Xi Jinping. À l’instar des patrons de Tencent et de Baidu, Ma siège également au conseil d’administration de l’Internet Society of China (ISC), une organisation paragouvernementale dirigée par le Parti. Ce lien stratégique est cependant délicat à gérer. Ces derniers mois, les régulateurs chinois ont pris des mesures en vue d’exercer un contrôle plus étroit sur les entreprises de technologie. En août 2017, la Banque populaire de Chine a ordonné aux sociétés de paiement en ligne et par téléphone de se connecter à une chambre de compensation du gouvernement, lequel a dès lors eu un accès aux données des transactions. Deux mois plus tard, le Wall Street Journal rapportait que les régulateurs chinois d’Internet envisageaient de prendre une participation de 1% dans les principales sociétés de technologie. On peut envisager un scénario possible de cette forme de partenariat autour du crédit social : la Banque centrale superviserait le développement d’un système d’évaluation global semblable à la notation FICO tout en permettant à des sociétés comme Ant Financial de collecter des données afin d’alimenter cette évaluation. Quelle que soit sa structure définitive, You Xi, l’auteur du livre sur Ant Financial, explique :

« Le système de crédit social global sera certainement sous le contrôle du gouvernement. Le gouvernement ne veut pas que l’infrastructure fondamentale du crédit social des citoyens soit entre les mains d’une grande compagnie. »

Certains des citoyens chinois qui ont été évalués comme peu fiables ont déjà eu un aperçu des conséquences possibles d’un système unifié. En mai 2017, Liu Hu, un journaliste âgé de 42 ans, ouvrit une application de voyage pour réserver un vol. Lorsqu’il saisit son nom et son numéro de carte d’identité nationale, l’application l’informa que la transaction ne pouvait être conclue parce qu’il figurait sur la liste noire de la Cour populaire suprême. C’est justement cette liste – baptisée « Liste des personnes malhonnêtes » – qui est intégrée à la base de données de Zhima Credit. En 2015, Liu avait été poursuivi pour diffamation par une personne mentionnée dans un de ses articles et un tribunal lui avait ordonné de payer 1350 dollars. Non seulement il avait réglé cette amende, mais il avait envoyé au juge concerné une photo du bordereau de virement bancaire. Ne comprenant pas pourquoi il était encore sur la liste noire, il contacta le juge et comprit alors qu’en effectuant son virement, il s’était trompé de numéro de compte. Il s’empressa de faire à nouveau transférer la somme due, tâchant de s’assurer cette fois que le tribunal l’avait bien reçue. Le juge ne lui répondit pas.

Liu n’était pas utilisateur de Zhima Credit, mais il n’avait pu échapper à la liste noire. Il était devenu de fait un citoyen de deuxième classe. Il ne pouvait pratiquement plus voyager, sauf à réserver les sièges les plus inconfortables des trains les plus lents. Il ne pouvait pas s’offrir certains biens de consommation ni se loger dans des hôtels de luxe, encore moins accéder à des prêts bancaires substantiels. Pire, la liste noire était publique. Liu avait déjà fait une année de prison antérieurement pour « fabrication et propagation de rumeurs » après avoir publié un reportage sur les malversations d’un maire adjoint de Chongqing. Comparée à son expérience carcérale, cette nouvelle sanction, plus immatérielle, le laissait presque de marbre : cette fois, on ne l’arrachait pas à sa femme et à sa fille.

Ce qui ne l’empêcha pas de se servir de son blog personnel afin d’essayer de susciter la sympathie du juge et de le convaincre de retirer son nom de la liste. En octobre dernier, il y figurait encore :

« Il n’y a pratiquement aucune supervision des exécuteurs judiciaires qui gèrent la liste noire. Il y a beaucoup d’erreurs de traitement qui ne sont pas corrigées. »

Si Liu avait eu un dossier chez Zhima Credit, ses problèmes auraient été encore plus graves. Étant donné la conception de l’application, une fois que vous êtes sur la liste noire, vous êtes aspiré par une spirale descendante vertigineuse. D’abord, votre score plonge. Ensuite, vos amis apprennent que vous êtes sur la liste noire et, craignant que leur propre score en soit affecté, ils vous éliminent discrètement de leurs contacts. L’algorithme en prend note et votre score s’effondre de plus en plus.

La généralisation de la surveillance numérique

Peu de temps après mon retour de Chine, Equifax, l’agence étasunienne d’évaluation de crédit, annonça qu’elle avait été piratée par des hackers. Cette intrusion exposa les dossiers de crédit de quelque cent quarante-cinq millions de personnes. Ce fut une dure révélation pour moi comme pour beaucoup d’Américains. Mon numéro de carte de crédit avait été volé quelques semaines plus tôt mais, comme j’étais en voyage à l’étranger, je n’avais pas pris la peine de faire bloquer mon compte. Lorsque j’essayai de le faire après le piratage, cette procédure déjà difficile en temps normal était devenue presque impossible. Le site d’Equifax ne fonctionnait qu’à moitié et ses lignes téléphoniques étaient saturées. Désespérée, je fis appel à une plateforme de suivi de crédit appelée Crédit Karma. En échange des mêmes informations que je cherchais à protéger, elle me communiqua ma cote de crédit auprès de deux des trois principales agences d’évaluation. Mes scores me furent communiqués par le biais d’un cadran similaire à celui de Zhima Credit, avec pratiquement le même code couleur. J’appris ainsi que ma notation avait baissé de plusieurs dizaines de points. Je découvris en outre quatre ou cinq transactions conclues en mon nom et que je ne reconnaissais pas.

Désormais, j’étais notée par deux systèmes d’évaluation des deux côtés de l’océan Pacifique. Mais il s’agissait là seulement des notations dont j’avais connaissance. La plupart des Américains sont soumis à des dizaines d’évaluations chiffrées, le plus souvent fondées sur des paramètres comportementaux et démographiques similaires à ceux utilisés par Zhima Crédit. Ces pointages de crédit sont généralement aux mains de sociétés qui nous évaluent sans que nous ne puissions rien y faire. Mais dans nombre de cas, nous sommes des utilisateurs volontaires de ces systèmes de notation.

S’il est vrai que le gouvernement des États-Unis n’a pas le pouvoir légal de me contraindre à participer à ce genre d’expérimentation sociale massive, il reste que je cède tous les jours mes données à des entreprises privées. Je leur fais assez confiance pour participer à leurs gigantesques systèmes d’évaluation. Je poste mes réflexions et mes sentiments sur Facebook et laisse une trace de tous mes achats sur Amazon et eBay. Je note mes semblables sur Airbnb et Uber et suis très préoccupée de la façon dont je suis moi-même évaluée. Il n’existe pas encore de super application gouvernementale aux États-Unis et les scores compilés par les courtiers de données servent essentiellement à mieux cibler les messages publicitaires, et non à exercer un contrôle social. Mais grâce à une procédure technologique connue sous le nom de résolution d’identité, les agrégateurs de données peuvent utiliser ce que je laisse derrière moi afin de fusionner les indices me concernant à partir de diverses sources.

Est-ce que vous consommez des antidépresseurs ? Est-ce que vous renvoyez fréquemment chez le distributeur les vêtements que vous avez achetés en ligne ? Lorsque vous remplissez un formulaire en ligne, écrivez-vous votre nom en majuscules ? Tel est le type d’informations collectées par les courtiers de données, et l’on pourrait citer bien d’autres exemples. Tout comme en Chine, vous pouvez même être pénalisé pour vos fréquentations. En 2012, Facebook a breveté une méthode d’évaluation de crédit capable de prendre en compte les scores des personnes de votre réseau. Vos amis se voient attribuer un score moyen et si cette moyenne est inférieure à un certain minimum, on peut vous refuser une demande de prêt. Facebook a depuis révisé sa politique afin d’interdire aux prêteurs extérieurs d’utiliser les données de ses plateformes en vue de réguler l’accès au crédit de ses utilisateurs. Mais qu’est-ce qui empêche le géant de la Silicon Valley d’entrer lui-même un jour dans le secteur du crédit ?

Interrogé sur le brevet en question, un porte-parole de Facebook a déclaré :

«Nous déposons souvent des brevets pour des technologies que nous n’utiliserons jamais et les brevets ne doivent pas être considérés comme une indication de nos projetsfuturs. »

Pour Frank Pasquale, spécialiste du big data à la faculté de droit de l’université du Maryland :

« On peut parfaitement imaginer un avenir où les gens surveilleront l’évolution de la cote de crédit de leurs amis et où, si elle est en baisse, ils les laisseront tomber de peur d’être eux-mêmes affectés. C’est terrifiant. »

Il arrive fréquemment que les courtiers en données soient complètement à côté de la plaque. La société de données client Acxiom, par exemple, qui met en ligne une partie de l’information qu’elle collecte sur le site About-TheData.com, me décrit comme une célibataire n’ayant que le niveau bac et « qui fréquente sans doute les casinos de Las Vegas ». En réalité je suis mariée, j’ai un diplôme de master et je n’ai jamais acheté ne serait-ce qu’un billet de loterie. Mais il est impossible de remettre en question ces évaluations car nous ne sommes jamais informés de leur existence. J’en sais plus sur l’algorithme de Zhima Credit que sur la façon dont je suis notée par les courtiers en données étasuniens. Comme le souligne Pasquale dans son livre The Black Box Society, le système fonctionne essentiellement comme un « miroir sans tain ».

Après mon départ de Chine, j’ai repris contact avec Lazarus Liu sur WeChat. Il m’a envoyé une capture d’écran de son score Zhima Credit, qui avait augmenté de 8 points depuis notre rencontre. L’application affichait le commentaire « Fantastique » et la police du texte était passée à l’italique. Nous avons parlé d’une nouvelle fonctionnalité de reconnaissance faciale appelée Smile to Pay. Elle venait d’être introduite par Ant Financial dans un restaurant à thème de Hangzhou appartenant à la chaîne Kentucky Friend Chicken. Les murs du restaurant sont ornés de gigantesques téléphones blancs. Pour commander, il vous suffit d’effleurer du doigt une photo du plat désiré puis d’exposer votre visage au téléphone en saisissant votre numéro de portable afin de confirmer le paiement. Les premiers smartphones avaient éliminé l’usage du portefeuille ; désormais, Smile to Pay élimine le recours au téléphone personnel. Il suffit d’avoir un visage. Liu n’était guère enthousiasmé par Smile to Pay. Si l’on en juge par la page « Affaires gouvernementales » du site Web de Zhima Credit, il semblerait qu’il existe un partenariat entre l’ensemble des collectivités locales chinoises et Ant Financial aux fins d’utilisation des capacités de reconnaissance faciale développées par cette dernière. Mais ce n’est pas cela qui chiffonne Liu. Pendant ses études à l’étranger, il avait testé la fonction Face Unlock d’Android. A plusieurs reprises, son colocataire, qui avait le même type de mâchoire carrée que lui, avait pu déverrouiller son téléphone. « Je trouve que ce n’est pas très sûr, m’écrivit-il. Je voudrais être certain que la technologie est vraiment au point. » Ses derniers mots étaient rédigés en anglais (« the real thing »), comme pour mieux souligner son propos.

Tout en discutant avec Liu, j’ai moi aussi ouvert mon application Zhima Credit. Mon score avait augmenté de 4 points. « Vous avez encore une marge de progrès », m’informait-on poliment. Mais, à côté de mon nouveau score de 554 points, je vis s’afficher une petite flèche verte pointant vers le haut. J’étais sur la bonne voie.

Mara Hvistendahl,
journaliste et écrivaine américaine,
elle a vécu à Shanghai pendant huit ans.

Article “Inside China’s Vast New Experiment in Social Ranking”
paru dans la revue Wired de janvier 2018.

Article traduit par Marc Saint-Upéry
publié dans La Revue du Crieur n°10, juin 2018.

.

.

Publicités
  1. Aucun commentaire pour l’instant.
  1. No trackbacks yet.

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

%d blogueurs aiment cette page :