Logo Le Polyscope
De toute façon, on est les meilleurs depuis 1967.

SOCIAL CREDIT SYSTEM : quand le BIG DATA rencontre BIG BROTHER

Aucun champ n'est obligatoire



  • Le gouvernement chinois a prévu de lancer ce qui s’appelle le «Social Credit System» d’ici 2020. Une façon d’attribuer une note à chaque personne, censée représenter la «confiance» à lui accorder. Soit un classement de 1.3 milliards d’habitants. Bienvenue dans le futur.

    LE CONTEXTE

    En juin 2014, le gouvernement chinois publiait officiellement sa volonté de créer un « score de confiance national » pour tous les résidents. Depuis, un appel de projet a été lancé et 8 compagnies ont obtenu le droit de présenter des prototypes de cet algorithme géant capable d’évaluer 1.3 milliards d’habitants. Pour l’instant, la participation à ce système est volontaire, mais l’objectif est de la rendre obligatoire d’ici 2020, et ce pour chaque personne physique ou légale.

    Si le Social Credit System – ou SCS – voit le jour, les Chinois vivront bientôt dans un monde où ils seront constamment monitorés : de ce qu’ils achètent en ligne aux endroits où ils se rendent, en passant par l’identité de leurs amis, le temps passé à regarder des séries et le montant de leur compte en banque. Tout ceci irait directement alimenter le système pour fusionner en un seul et unique nombre : le « Citizen Score ». Un peu comme si les géants Google, Facebook ou Instagram rassemblaient leurs informations et leur attribuaient une valeur, positive si vous agissez selon les désirs du gouvernement, et négative sinon. Le monde pourrait consulter ce classement et savoir ainsi à quel point vous êtes une « bonne personne ». Ce score pourrait ainsi devenir un critère d’éligibilité pour un prêt bancaire, pour un emploi, pour l’école où scolariser vos enfants – ou même pour vos chances d’avoir un match Tinder. George Orwell n’a qu’à bien se tenir.

     

    MAIS POURQUOI ?

    Quelle est la philosophie du gouvernement et comment justifie-il un tel système ? L’objectif avoué est de construire une culture de la « confiance » et de la « sincérité », ou plus précisément de forger «un environnement d’opinion publique où la confiance est glorieuse. Cela renforcera la sincérité dans les affaires gouvernementales, commerciales et sociales, et dans la construction d’une crédibilité judiciaire ». Le but du conseil d’état est de faire progresser « la mentalité honnête et le niveau de crédit de toute la société », afin d’améliorer « la compétitivité globale du pays ». Et nous le verrons dans quelques paragraphes, il n’y a pas que ça…

     

    COMMENT ?

    Quelles informations sélectionner et comment les transformer en classement national? C’est un point central de ce projet, qui n’a pas encore été complètement résolu. L’entreprise Alibaba, un des géants qui a répondu à l’appel de projet gouvernemental (c’est la compagnie qui possède notamment AliPay, une méthode qui permet d’acheter en ligne, de transférer de l’argent, de payer des restaurants, des taxis, et même ses frais de scolarité – autant dire qu’elle centralise déjà une quantité d’informations impressionnante), ne révèle bien entendu nullement son algorithme, mais prétend néanmoins prendre en compte 5 critères :

    1. L’historique de crédit : si le citoyen paye ses factures (ou non) en temps et en heure

    2. Le manquement à ses obligations : si le citoyen respecte les contrats qu’il a signés

    3. Les caractéristiques personnelles : l’exactitude de ses informations personnelles, comme son adresse ou son numéro de téléphone

    4. Le comportement : déterminé par les habitudes d’achats du citoyen. Une personne qui joue 4h/jour aux jeux vidéo sera considérée fainéante, une autre qui achète des couches, un bon parent responsable.

    5. Les relations interpersonnelles : qui sont ses amis et comment il interagit avec eux. Par exemple, échanger des messages positifs sur la politique du gouvernement ou l’économie du pays fera sans aucun doute grimper son score.

     

    Pour l’instant, Alibaba affirme que le contenu posté sur les réseaux sociaux – même s’il est négatif – n’affecte pas les scores. Mais d’ici 2020, il est fort probable que ces plateformes n’aient d’autre choix que de devenir des espions privés à la solde gouvernementale.

     

    DES MILLIONS DE PERSONNES DÉJÀ NOTÉES ?

    D’emblée, on penserait qu’aucune personne normalement constituée ne voudrait faire partie d’un tel système de son plein gré. Comment expliquer alors les millions de Chinois participant volontairement à la version d’essai? C’est que des privilèges sont décernés aux personnes ayant les meilleurs scores. Plus de 600 points et c’est 5 000 yuan (environ 1000 CAD) de crédit à la consommation, à 650 points, on loue une voiture sans payer de caution, et on peut se présenter au check-in VIP des hôtels et des aéroports. Au-delà de 666 points, on obtient un prêt en cash de 50 000 yuan. A partir de 750 points, votre demande de VISA pour l’espace Schengen est traitée en priorité. Avoir un bon score peut même augmenter vos chances d’obtenir un rendez-vous galant puisque plus il est élevé, plus votre profil est mis en avant sur les applications de rencontre. Ainsi, un score élevé est déjà devenu symbole de réussite, plus de 100 000 citoyens l’ayant déjà affiché sur les réseaux sociaux en un mois de lancement de la version d’essai.

     

    LE SORT RESERVE AUX MAUVAIS ELEVES

    S’il y a des avantages à avoir un bon score, un mauvais score n’a pas de retombées – pour l’instant. Et il est prévu qu’un mauvais score entraînera lui aussi son lot de désavantages. Si vous brisez la confiance d’un seul maillon de la chaîne, ce sont tous les autres qui vous laissent tomber. Faites baisser votre score en payant une facture en retard et ce sont une connexion internet plus lente, des accès restreints aux lieux de loisirs, une interdiction de louer une voiture, voire de voyager, une impossibilité d’emprunter de l’argent ou d’être couvert par la sécurité sociale. Comme si ça ne suffisait pas, ayez un faible score et faites une croix sur votre carrière dans le journalisme et les services juridiques ou civils ; cercles professionnels où la « confiance » dont vous n’êtes pas digne doit bien sûr régner. Dites aussi adieu à vos études ou à celles de vos enfants dans les meilleures écoles privées. Le ministère de l’Éducation aurait même déjà été approché pour partager une liste d’étudiants ayant triché aux examens dans le but de leur faire payer leur malhonnêteté dans ce système. Bref, le gouvernement a trouvé le moyen de changer l’obéissance en jeu, et il est train de mettre la main sur un système de contrôle social déguisé en jeu vidéo.

     

    UNE SOCIÉTÉ CHAMBOULÉE

    Même si critiquer le gouvernement n’a jamais été une très bonne idée en Chine, maintenant que cela pourrait automatiquement affecter la vie quotidienne de chacun, la liberté d’expression se retrouverait fortement mise à mal. Même dire à notre boucher tout le mal qu’on pense de sa viande deviendrait dangereux, de peur que notre note de relations interpersonnelles s’en voie dégradée.

    Quant aux autres possibles conséquences, on peut s’inspirer du premier épisode la saison 3 de Black Mirror intitulé Nosedive. Cet épisode présentait un média social où chacun notait sur 5 étoiles ses interactions avec les autres, tout au long de la journée. Et c’est alors une société à l’esthétique pastelle et délavée que l’on découvre, remplie de faux compliments et de sourire acérés où la moindre politesse est intéressée. Et voici ce qu’on ne peine pas à imaginer pour le SCS : d’abord la séparation de la société en castes – puisque votre score est affecté par celui de vos amis, pourquoi traîner avec des gens au score plus faible que le vôtre? Cela ne ferait que vous attirer des ennuis! Serait ensuite accentué le clivage entre les riches et les pauvres, les premiers ayant accès aux emplois et aux logements, et les autres ne pouvant que souffrir des restrictions imposées sans vraiment pouvoir inverser la tendance. Ceux qui en auraient les moyens pourraient tout simplement développer de faux comportements bénéfiques (acheter des couches alors qu’ils n’ont pas d’enfants) juste pour contrebalancer leurs petits écarts (qui a fait une partie de Hearthstone hier soir?). Pire, vous vous verriez aussi encourager vos amis à avoir de « bons » comportements : « Ne regarde pas ce film controversé, je n’ai pas envie que tu détériores ton score, ni que tu détériores le mien ».

    Le système pourrait aussi conduire à la création de consultants spécialisés dans les stratégies d’augmentation de score. Alibaba offre d’ailleurs déjà des conseils de ce genre, comme par exemple vous rappeler les effets négatifs de devenir ami avec quelqu’un qui a un plus faible score que vous. Et enfin des méthodes illégales pour booster votre score pourraient aussi fleurir de la même manière qu’on peut aujourd’hui acheter des likes Facebook ou des abonnés Youtube.

    LES DIFFICULTÉS D’IMPLÉMENTATION

    Mais avant que tout ceci devienne réalité, quelques irréductibles problèmes d’implémentation résistent. Comme le fait que beaucoup de Chinois n’ont ni propriété foncière, ni voiture ou carte de crédit, ce qui rend ces informations inexistantes difficiles à mesurer. Enfin, la sécurité du système reste un élément central, les hackers pourraient tout simplement venir altérer les données sur lesquelles se baserait le fonctionnement de toute une société.

     

    LES VRAIES RAISONS

    D’après le ministre du commerce chinois, les pertes économiques annuelles des banques pour cause de manque d’information de crédit sur leurs clients montent à 600 milliards de yuan (environ 120 milliards de CAD). Si le gouvernement a tant besoin de renforcer la « confiance » à l’intérieur de son pays, c’est qu’il fait face à un marché trop peu, ou mal régulé. La micro-corruption et la vente de biens contrefaits ou ne respectant pas les normes est un problème très important. D’après l’OCDE (Organisation de Coopération et de Développement Économiques), 63% de toutes les contrefaçons – montre comme nourriture pour bébés – viendrait de Chine. Faire du business en Chine est risqué, sachant que presque la moitié des contrats signés ne sont finalement pas respectés. Alors si un système vient superviser les affaires et améliorer la responsabilité de chacun, il peut aussi se montrer bénéfique. Les gens pourraient rapidement vérifier la sincérité de leur acheteur, vendeur, ou de leur partenaire commercial potentiel.

     

    UNE ÉVOLUTION DÉJÀ EN MARCHE

    En tant qu’Occidentaux, notre première réaction à un tel système est instinctive, on imagine instantanément 1984 prendre vie sous nos yeux effarés. Pourtant, nous notons déjà les restaurants, les films, et même les cliniques. Facebook de son côté est capable de nous identifier tout seul sur des photos. Les entreprises collectent notre « big data » pour mieux comprendre nos habitudes de consommation, et mieux répondre aux besoins qu’on ne s’était pas encore découverts. Des algorithmes déterminent déjà si nous sommes une menace pour notre pays ou juste de bons citoyens. A mesure que notre société devient une infosphère, on acquiert une personnalité un peu différente de qui nous sommes dans l’intimité de notre appartement : n’êtes-vous pas toujours un peu plus poli avec le chauffeur Uber car vous savez que vous allez être noté en retour ?

    Ainsi, nous nous rapprochons de plus en plus du système chinois, sans même nous en rendre compte. Si on nous proposait un tel système et que nous l’acceptions, nous pourrions en connaître les règles et mieux y évoluer. Mais cela signifie aussi que nous aurions aussi le droit de le refuser, de protester, et si on nous l’imposait, de nous insurger. Alors il est bien plus facile de mettre en place les choses tout doucement, sans proposer quoi que ce soit à qui que ce soit. Et à moins qu’une révolte de masse réussisse subitement à réinstaller le règne de la vie privée, nous marchons vers un monde où toutes les actions individuelles seront jugées par des critères que nous ne pourrons pas contrôler. De plus, aussi fâcheuses que soient les conséquences, elles seront aussi permanentes, car nos données ne nous appartiennent plus et ne peuvent être effacées. Oubliez le droit à l’oubli, oubliez le droit d’être jeune et de faire des erreurs.

    Serait-il alors possible que le SCS représente en réalité une approche plus transparente de la surveillance ? Ce système permettrait de clarifier ce qui est monitoré et ce qui ne l’est pas, et donnerait à chacun l’opportunité de connaître la valeur de ses actions afin de pouvoir adapter son comportement en toute connaissance de cause. Au moins les règles du jeu seraient claires pour tout le monde, puisque chacun y joue déjà, que ce soit pour ou contre sa volonté.

     

    ALORS QUE FAIRE ?

    Si nous ne pouvons arrêter ce système, nous pouvons néanmoins agir pour le rendre plus équitable. Nous avons besoin de mécanismes de confiance pour être certains que les données seront utilisées de façon responsable et jamais en-dehors du cadre spécifié. Pour faire confiance au système, il faut réduire le nombre d’inconnues. Ce qui signifie d’une part réduire l’opacité des algorithmes, et d’autre part que les ‘officiels’ devraient aussi faire partie du système et non naviguer au-dessus. Il faudrait aussi pouvoir évaluer les évaluateurs. Si la surveillance est transparente dans les deux sens, que les surveillés voient les surveillants, on entre alors dans un système de « co-veillance ».

    Un autre problème est le caractère réducteur des chiffres : peut-être avez-vous retardé le paiement de votre dernière facture parce que vous étiez à ce moment à l’hôpital ? Mais comment l’algorithme pourrait-il prendre en compte ce contexte ? En tout cas, si des systèmes de notation capables de dicter notre vie ont l’intention de devenir réalité, il faut alors trouver un moyen de les rendre sensibles aux nuances et aux contradictions qui font de nous des humains, afin qu’ils reflètent au mieux la vie réelle.

     

    CONCLUSION

    Jusqu’où seront repoussés la liberté d’expression et le droit à la vie privée? Qui décidera des lois d’un tel système de notation? Ce sont des questions auxquelles il nous faut réfléchir rapidement. Si maintenant c’est en Chine, demain ce pourrait être à nos portes… Les questions sur notre futur sont plus que technologiques ou économiques, elles sont éthiques. Soyons donc vigilants avant que notre vie ne devienne une course sans fin à la popularité virtuelle.

     

    A PROPOS

    Cet article se base sur celui intitulé “Big data meets Big Brother as China moves to rate its citizens” publié sur Wired.co.uk.

    Si vous voulez vous plonger le temps d’une heure et demie dans l’éthique de la big data « full transparente », je vous invite à suivre Emma Watson et Tom Hanks dans le film « Le Cercle ».




    *Les auteurs ont l’entière responsabilité de leurs articles et n’engagent d’aucune façon l’équipe du Polyscope ou de l’AEP, sauf lorsque la signature en fait mention. Nous laissons au lecteur la jugeote de déceler le sarcasme saupoudré sur nos pages.

    Dans la même catégorie

    Cools Coins : prise #2

    10 octobre 2008

    Deuxième chronique des CCCM, ou Cools Coins Culturels de Montréal. Cette semaine : voyage au coeur de la culture vénézuelienne, les boutiques de livres d’occasion et le Club Soda. Centre culturel Simón Bolívar (RO) Le centre culturel Simón Bolívar, qui se trouve au 394 boul. de Maisonneuve ouest (métro Place-des-Arts, sortie Bleury) est un espace où le Consulat général de la République Bolivarienne du Venezuela propose une panoplie d’activités culturelles. Chaque mercredi se tient...

    Pauvres riches victimes

    5 octobre 2012

    Il peut être très satisfaisant de prendre une position de victime face à notre environnement. Cependant, cela n’aide pas à savoir quoi faire et quels liens de cause à effet sont les responsables de notre malaise.   Nous avons eu droit par l’entremise des médias à un bon jet de chiâlage ces dernières semaines après la décision du parti Québécois d’augmenter le taux marginal d’imposition de 48% à 55%, la fraction imposable des dividendes à...

    Cocktail de la semaine – Mon Top 5

    10 octobre 2008

    Ceux qui ont lu la page précédente ont pu constater que j’ai commis une gaffe monumentale… Vous rigolez, et moi aussi, quoique je n’ai jamais eu aussi honte… C’est dans ces circonstances que j’aime bien me préparer un de mes cinq cocktails préférés. Ceux qui ont remarqué que j’ai recyclé certaines recettes de cocktails parues dans les éditions précédentes du Polyscope comprendront que j’avais des intras cette semaine et que j’ai manqué de temps...

    Aucun champ n'est obligatoire