De l’évaluation au crédit social

La notation en ligne permettant aux utilisateurs d’évaluer, de commenter les produits, les services, les entreprises et même les établissements culturels ou scolaires est devenue la norme sur Internet. Prévue au départ pour aider les consommateurs dans leurs choix, en s’appuyant sur les avis d'autres internautes, cet outil est rapidement devenu incontournable, voire omniprésent. Des dérives de la notation apparaissent (manipulation des notes, biais cognitifs, conséquences économiques et psychologiques). La Chine a poussé ce concept de notation à son paroxysme pour attribuer aux citoyens un score en fonction de son comportement social et économique au mépris de la vie privée et des libertés individuelles. Le crédit social est devenu un outil de surveillance de masse. La notation en ligne serait-elle un danger pour la démocratie et les libertés individuelles ? Cet article vous propose une synthèse de la question et des pistes d'exploitation pédagogiques pour le collège et le lycée.

Un article proposé par le groupe des relais tice documentation

De quoi parle-t-on ?

1. Notation en ligne, une vertu pour la communauté d’internautes ?

A la base la notation est un outil de recommandation et d’évaluation ayant pour vocation de rassurer un acheteur en ligne (sites marchands ou de services). La notation peut prendre différentes formes :

• notation graduée : notation par étoile, notation de 1 à 5, moyenne des “étoiles”, avis/commentaires
• valorisation de contenu : montrer son intérêt pour tel ou tel contenu (bouton j’aime de facebook par exemple, like/dislike, coeur …)

Source : “J’aime (Facebook)”. Wikipedia, 21 avril 2023. Wikipedia, http://fr.wikipedia.org/wiki/J%27aime_(Facebook))

Pourquoi noter sur les réseaux sociaux ?

Au départ, ce système de notation permet à l’utilisateur de préciser s’il aime ou s’il n’aime pas. Il s’agit d’une réaction au contenu autre que l’écriture d’un commentaire, un moyen de mesurer la confiance (l’indice confiance).

Très vite sur les réseaux, on constate une validation narcissique (une “course aux likes”) on like pour être liké en retour ; le  feedback positif va renforcer temporairement l’estime de soi. De plus, ces phénomènes de “like/relike” permettent aux plateformes de créer de l’engagement (interaction entre les abonnés et le réseau social) et à l’utilisateur de se créer une e-réputation (une réputation sur internet qui va elle-même engendrer des likes et relikes sur la plateforme).

Sources : “Comprendre l’économie collaborative” Cours Fun Mooc https://www.fun-mooc.fr/fr/cours/comprendre-leconomie-collaborative/
Bruneton, Sophie.“ Évaluer, noter, dévaluer : les systèmes de notation au sein des   plateformes collaboratives”. Introduction à l’architecture de l’information, 21 novembre 2016 https://archinfo01.hypotheses.org/2224

Pourquoi noter sur les sites marchands ? une évaluation plus “pertinente”, plus “vraie”?

Selon une autre étude IFOP de 2018, 31 % des consommateurs peuvent dépenser plus si la note est « excellente » et 68 % font davantage confiance lorsqu’ils voient des avis positifs et négatifs. Un chiffre proche de la nouvelle étude montrait que 74 % des internautes auraient abandonné un achat à la suite de commentaires négatifs. Les avis sont souvent pris en compte lors des actes d’achat mais ce sont souvent les plus récents qui pèsent sur la note d’un produit et qui déclenchent  la commande.

Il existe des sites de notation “vertueux” qui répondent à une demande de transparence : Yuka par exemple, qui compte 6 millions d’utilisateurs a émergé suite à de nombreux scandales alimentaires (poulet dioxine, lait contaminé…) et exerce une forte pression sur les industriels pour qu’ils modifient certaines de leurs compositions (suppression d’additifs, d’édulcorants…). Ici la notation permet à l’industriel d'améliorer ses produits pour les rendre plus “sains” dans une chaîne vertueuse, pour accéder à une meilleure note sur l'application et ainsi lutter contre les phénomènes d’évitement des consommateurs avertis.

Source : Guillien, Catherine. “Les avis clients en ligne, une réalité incontournable” https://creg.ac-versailles.fr/les-avis-clients-en-ligne-une-realite-incontournable

2. Notation et consommateur : les dérives de la notation ?

Évaluateurs, qui sont-ils ?

Il existe en gros deux types de contributeurs/évaluateurs :

• les occasionnels
• et les habitués (à la limite de l’évaluation compulsive). La notation est pour eux un véritable sport, un art de vivre, une manière d’être visible sur internet. Un petit nombre d’internautes très actifs s’oppose donc à un grand nombre d’internautes peu actifs. On peut donc dire que les évaluations ne sont que peu représentatives du panel d’internautes/de consommateurs de biens ou de services.

Objet d’évaluation 

La note est désormais partout. Plus dangereux encore, tout devient évaluable :

• les services publics sont évalués : les hôpitaux (depuis 2018 mesure de la satisfaction des patients mise en place pour la chirurgie ambulatoire), la SNCF (envoi de sondage par mail suite à un voyage), Notre Dame de Paris (noté 4,7 sur Google )…
• les travailleurs sont évalués : la pression managériale s'accroît dans le domaine des services (phénomène d’uberisation). « L’acte de chaque travailleur [est] constamment tracé, surveillé et évalué à « la lumière crue de la satisfaction du client » car le pouvoir de supervision - une prérogative traditionnellement réservée à l’encadrement - est partiellement délégué aux utilisateurs » (Aloisi, 2016, p. 662). Par exemple, aux États Unis, les employés d’Amazon peuvent s’évaluer entre eux en permanence. Le système de notation appelle un retour d’informations permanent.
• les produits notamment avec l'émergence des faux avis. Contrairement à ce que l’on pourrait penser, il ne s'agit pas de dévaluer un concurrent mais bien de surexposer un produit. Ces faux avis servent avant tout à influencer les consommateurs pour déclencher un acte d'achat. Les enquêteurs de la DGCCRF ont pu noter, à nouveau, que des professionnels n’hésitent pas à promouvoir, sur leur site Internet ou sur des sites tiers, leurs produits ou leurs prestations en se faisant passer pour des consommateurs. Cette pratique trompeuse à l’égard du public s’exerce à plusieurs niveaux : la réalité de l’audience du site, l’importance de la prise de parole spontanée par des internautes sur le site ou encore le niveau réel de satisfaction ressentie par les consommateurs.
  Certains opérateurs ont même recours à des prestataires pour rédiger de faux avis. Certains démarchent des blogs contre rémunération à des fins publicitaires ou augmentent artificiellement leur nombre de « fans » sur les réseaux sociaux ou offrent des  produits à de faux clients contre avis positifs. De manière globale, l’opacité règne sur les règles de calcul de ces notations on peut s’interroger sur le caractère scientifique et la méthodologie de ces notations. La plupart des sites restent discrets sur leur politique de notation (moyenne de tous les avis, des avis les plus récents, certification des avis…).

Attention, tous les commentaires, notes, avis ne se valent pas !

On parle de biais cognitifs :

• les commentaires influencent directement les acheteurs surtout quand ils sont négatifs, car ils sont plus rares donc plus “précieux”.
• Les avis dépendent du contexte de rédaction de l’avis (ex avec Booking : les commentaires des couples ou des familles produisent des commentaires plus positifs que ceux qui voyagent seuls ou pour le travail).
• Le biais de confirmation : je me conforme à la note laissée par les autres commentateurs.

Source : “Les faux avis de consommateurs” https://www.economie.gouv.fr/dgccrf/faux-avis-consommateurs

Et la loi dans tout ça ?

La DGCCRF: La publication de cette norme internationale NF ISO 20488 « avis en ligne de consommateurs – principes et exigences portant sur les processus de collecte, modération et publication des avis » a remplacé la norme NF Z74-501 en septembre 2018. La norme NF

ISO 20488 peut être appliquée par tous les sites qui souhaitent améliorer la qualité de leur relation client. 

Dans le souci de protéger davantage les consommateurs contre certaines pratiques commerciales relatives aux avis de consommateurs, le code de la consommation interdit, depuis le 28 mai 2022, deux nouvelles pratiques commerciales :

• affirmer qu’un avis a été déposé par un consommateur qui a acheté ou utilisé le produit qui fait l’objet de l’avis sans que le professionnel n’ait pris de mesures pour le vérifier ;
• diffuser ou faire diffuser des faux avis ou de fausses recommandations sociales ou modifier des avis de consommateurs pour promouvoir des produits.

Au final on peut se demander si trop de notes ne tue pas la note ; la multiplication des applications, des questionnaires, des qr codes réponses ne noierait-elle pas un peu plus le consommateur dans un univers informationnel sans aucun contrôle ? Ne serait-elle pas contre-productive ?

3. L’arroseur arrosé : quand l’utilisateur est noté par la plateforme !

Le système de notation peut également se retourner contre l'utilisateur. L’algorithme peut en effet, être modifié par la plateforme en fonction du “crédit”, de la note de réputation attribué à l’internaute par la plateforme ; les plateformes pourraient devenir censeur et définir elle-même la limite entre le vrai et le faux, le bien et le mal, le bon utilisateur et le mauvais utilisateur… On peut citer l’exemple de certaines plateformes comme AirB&B qui notent les utilisateurs en fonction de “score de risque” (shift score) en analysant les données personnelles  (lieu de connexion, appareil utilisé, billets achetés, …). En fonction de leur profil édité par la plateforme, certains les produits proposés pourraient s’avérer différents, les services surfacturés…

Source : Thomas contre les Gafa, episode 1 “Facebook vous note” https://www.youtube.com/watch?v=WHmcyAvkwcg

 4. La notation poussée à son paroxysme : la notation et citoyen, le jeu dangereux du crédit social à la chinoise ou le “sésame trend”

Le « système de crédit social » chinois consiste à évaluer, récompenser et punir les citoyens selon leur comportement. Le SCS est présenté par le gouvernement chinois comme un moyen d'accroître le niveau d’intégrité morale des citoyens en vue de faciliter et de fluidifier les transactions économiques et financières.

Il existe depuis plusieurs années déjà dans certaines villes des systèmes de notation chiffrée des citoyens, mais cela n’a pas été élargi à toute la Chine; le système de crédit social de Rongcheng, dans le Shandong, est peut-être le plus abouti aujourd’hui. Il établit six catégories possibles, en fonction du nombre de points possédés par chacun :

• AAA (plus de 1050 points) : citoyen exemplaire
• AA (entre 1030 et 1049 points) : citoyen excellent
• A (entre 960 et 1029 points) : citoyen honnête
• B (entre 850 et 959) : relativement honnête
• C (entre 600 et 849) : niveau d’avertissement
• D (549 et moins) : malhonnêteté.

Les citoyens sont d’emblée dotés d’un capital de 1 000 points (ce qui implique que le pouvoir considère chaque citoyen a priori comme étant « honnête »), capital qu’ils peuvent accroître grâce à de bonnes actions et qu’ils risquent d’entamer par de mauvaises. Ils sont ensuite qualifiés de bons ou de mauvais citoyens en fonction de leur niveau de points. Les personnes classées sur listes noires sont directement intégrées dans les catégories C ou D.

Source image : Magazine Géo,
Chine : dans les villes pilotes du crédit social

Le « système de crédit social » est né dans un contexte purement économique. Mais d’un outil pragmatique, visant à faciliter les échanges économiques, il est devenu un outil de gouvernance global, un moyen de  réprimer toute dissidence.

Source : Lesueur, Jean-Thomas.”le système de crédit social. Comment la Chine évolue, récompense et punit sa population”. Institut Thomas More, 29 juillet 2019https://institut-thomas-more.org/2019/07/29/le-systeme-de-credit-social-%E2%80%A2-comment-la-chine-evalue-recompense-et-punit-sa-population/

En conclusion

La notation en ligne est partout. Prévue à la base pour aider les consommateurs dans leurs choix, en s’appuyant sur les avis  d'autres internautes, cet outil laisse apparaître de nombreuses dérives. L’utilisateur voire le citoyen deviennent à leur tour des objets de notation. La liberté de donner son avis se retourne donc contre l’utilisateur qui devient à son tour un produit à évaluer. Les libertés individuelles semblent se confronter à des diktats d’achat et à des stratégies commerciales de grandes entreprises voire d'État. La notation en ligne pensée au départ comme un outil au service d’une prise de décision éclairée serait en fait, un dangereux biais pour la démocratie et les libertés individuelle.

Séquences pédagogiques

Les réseaux sociaux ont inventé le like puis le dislike. Le système d’étoiles a permis de nuancer notre amour ou désamour. Les interactions numériques font donc le jeu de l’évaluation et ce, de manière permanente. On n’aime, on n’aime pas, on valide, on ne valide pas. Ces phénomènes évaluatifs parcourent désormais notre quotidien. On note tout et n’importe quoi, voire n’importe qui ! La tentation est forte. On nous demande régulièrement d’évaluer les compétences professionnelles de différents acteurs qui parcourent notre quotidien mais également par extension les acteurs eux-mêmes ! On évalue notre entretien téléphonique/notre interlocuteur, on note notre repas au restaurant/le cuisinier/le serveur, on note notre voiture neuve/le vendeur, on note notre rendez-vous médical/notre praticien… Dans quelles mesures les compétences professionnelles sont-elles réellement évaluées ? De nombreux biais cognitifs peuvent agir lors de l’évaluation. Que note-t-on vraiment ? Les compétences ? L'expérience ? Le professionnel ? Difficile de faire clairement la part des choses… Pourtant ces données ont bien été générées et sont récupérées par des entreprises dont les ambitions ne sont pas forcément claires pour l’évaluateur. Certains sites ont même entièrement basé leur économie sur le système de notation ! Les notes collent donc à la peau de certains professionnels ou tout simplement des certains citoyens.

Nous pouvons alors nous interroger de la manière suivante : Quel est l’impact de ces données notées sur les citoyens ? Que deviennent-elles et dans quel but ? Quels peuvent être les impacts privés ou publics de ces données ? Faut-il craindre une société où la note viendrait sanctionner tel ou tel comportement ?

Mots clés : Vie privée / données personnelles / protection des données / crédit social / évaluation / libertés individuelles / citoyenneté / réseaux sociaux/ surveillance de masse

Wikinotions : traces numériques / médias sociaux en ligne / collecte des données /

Objectifs transversaux :

• Travail sur l’argumentation
• Préparation à l’oral

Notions/questionnements :

• appréhender les questions des libertés individuelles
• questionner les notions de liberté au regard de systèmes évaluatifs
• repérer les menaces/les dangers de ces pratiques évaluatives vis à vis du modèle démocratique français

Cadre disciplinaire : EMC - SNT - éloquence/grand oral

Scénario collège

Scénario lycée

Scénario collège

Niveau : 3e

Enseignement(s) : EMI - EMC - enseignement expérimental éloquence

Domaine du socle : Domaine 3 / La formation de la personne et du citoyen

Programme EMC :

• Identifier les composantes d’une identité.
• Comprendre la notion de droits et de devoirs pour un individu (L’identité personnelle ; l’identité légale, en incluant l’identité numérique.)
• Le rôle de la loi dans une société : Définir et comprendre le rôle d’une loi et d’un réglement (La liberté, principe premier dans le droit français et le rôle de protection de la loi)

Entrées EMI :

• Identité personnelle versus identité numérique : données personnelles sur internet, des données sensibles.
• Le rôle des réseaux sociaux dans la construction de l’identité numérique/identité personnelle.

Disciplines : professeur-documentaliste, professeur d’Histoire-Géographie-EMC, professeur de Lettres.

Modalités : 3h

Déroulement :

1. Introduction de la séance et visionnage de l’extrait de l’épisode “Nosedive” de Black Miror (épisode 1 saison 3) 2016 : https://www.youtube.com/watch?v=EcspUD0kF7g  (0’-0’49)

2. Cours dialogué / échanges : Quelle est la place des réseaux sociaux dans la vie personnelle des élèves ? En quoi peuvent-ils mélanger réalité et virtualité (frontières floues entre la vie réelle et la vie numérique) ? Quelles places ont les RS dans leurs interactions sociales quotidiennes ? Leur identité numérique est-elle parfaitement conforme à leur identité personnelle ? Dans quelle mesure utilisent-ils l’évaluation dans leur pratique numérique quotidienne ? Lister des exemples précis. L’objectif est de faire émerger des questionnements chez les élèves en vue de préparer le débat de la séance suivante.

Pour prolonger la réflexion sur l’impact du crédit social pour les citoyens, une vidéo de France 24 est diffusée pour présenter le crédit social selon le modèle chinois : https://www.youtube.com/watch?v=XflMhukDH-s (4’39). Les élèves doivent prendre des notes pour commencer à lister les arguments et contre-arguments des bienfaits du crédit social pour la citoyenneté. (1h)

3. Préparation du débat :
Thème du débat : “Le crédit social, allier ou menace pour la démocratie” ? Quels sont les bénéfices/ les risques de la mise en place d’un crédit social “à la chinoise” en France pour la démocratie, pour le citoyen, pour la société ? A partir d’une sélection d’articles, de sites, de vidéos, les élèves doivent rechercher des arguments pour ou contre en fonction de leur répartition dans les groupes (partisans, détracteurs). (1h)

4. Débat : Le débat sera plus ou moins guidé par les enseignants en fonction de l’habitude de la classe dans l’exercice. S’il s’agit de leur premier débat, les professeurs pourront prendre le rôle de régulateur/animateur du débat et du synthétiseur (+ secrétaire). Si les élèves sont familiers de cet exercice, les enseignants pourront prendre une simple place d’accompagnant (garants de la légitimité de propos), ces trois rôles pouvant être tenus par les élèves. En début de séance, il est important d’installer un espace où tous les élèves se voient (en cercle ou en U). Les rôles spécifiques sont répartis :

• le président de séance ou régulateur, qui répartit la parole et qui fait en sorte que le débat progresse (relance le débat, recentre le débat…) ;
• le synthétiseur qui rappelle régulièrement ce qui vient d’être dit et qui montre l’avancement du débat ;
• le secrétaire qui note les idées clés et qui pourra faire le bilan du débat en fin de séance. Les autres élèves sont les débatteurs qui prennent régulièrement la parole, répartis en partisans ou détracteurs.

Avant démarrer le débat, il est important de revenir sur les règles des échanges : lever la main pour pouvoir prendre la parole ; prend la parole lorsqu’elle nous est donnée ; écouter sans couper la parole ; prendre en compte la parole de l’autre pour faire avancer le débat ; ne pas répéter ce qui vient d’être dit (apporter de nouveaux arguments) ; ne pas se moquer.

Après le débat : le secrétaire fait le bilan du débat en reprenant les différents éléments/arguments avancés par les uns et les autres. Une synthèse est proposée aux élèves (trace écrite de la séance). (1h)

Évaluation :

Evaluation de deux compétences transdisciplinaires :

• Savoir utiliser des supports écrits pour l’expression orale
• Comprendre, s’exprimer en utilisant la langue française à l’oral et à l’écrit

Scénario lycée

Niveau : Seconde Générale

Enseignement : EMI/EMC

Disciplines : Documentation/ Histoire géographie/EMC

Modalités : classe entière

Programme EMC

Axe 2 : “Garantir les libertés, étendre les libertés : les libertés en débat”

• Les libertés numériques
• La reconnaissance des différences, la lutte contre les discriminations et la promotion du respect d’autrui
• Les flux informationnels et leur régulation sur internet : la question de la liberté d’expression dans un environnement numérique et médiatique ;
• Les données numériques, traitement et protection

Compétences/Capacités:

Savoir exercer son jugement et l’inscrire dans une recherche de vérité ; être capable de mettre à distance ses propres opinions et représentations, comprendre le sens de la complexité des choses, être capable de considérer les autres dans leur diversité et leurs différences.

Objectifs :

• comprendre le fonctionnement du système de notation
• analyser les conséquences du système de notation sur les individus
• analyser les dangers potentiels pour la démocratie

Déroulement :

1. Introduction de la séance et visionnage de l’extrait de l’épisode “Nosedive” de Black Mirror (épisode 1 saison 3) 2016 :  https://www.youtube.com/watch?v=EcspUD0kF7g  (0’-0’49)

2. Retour classe entière sur l’extrait : Réactions/analyse

Que montre cet extrait ? (le statut social dépend de la note accordée via une application). Est-ce possible à l’heure actuelle ? Est-on si loin de la réalité ?

3. Échanges autour des pratiques : Par groupe de 2 les élèves listent les situations dans lesquelles nous notons les autres, pour quel service, par quels moyens (like, coeur, emoji, étoiles, échelles de 1 à 5 ou de 1 à 10…) ont-ils déjà été évalué en ligne ? Cela affecte-t-il leur vie quotidienne ?

Mise en commun

4. Discussion sur les enjeux :  Qu’est-ce que cela implique pour les personnes ou les services évalués? quels sont les risques ?

Notion de liberté individuelle et de respect d’autrui/ protection des données personnelles/surveillance généralisée/ e-réputation

Est-ce que ce système de notation peut affecter notre comportement, notre estime de soi et notre relation aux autres ?

Quels types de données sont collectées par les entreprises ? Quels impacts ?

5. Travail préparatoire au podcast

• Analyse de la vidéo “Tous notés la dictature des étoiles”, Monkey https://www.youtube.com/watch?v=etRghnAj6dI

Les élèves visionnent et prennent des notes sur les avantages et les inconvénients de ce système d’évaluation notamment dans le monde du travail.

• Crédit social chinois : les élèves effectuent une recherche (en citant leurs sources) sur le crédit social et ses enjeux (description, aspects “positifs”, aspects négatifs)

6. Podcast : par groupe de 2 les élèves réalisent un podcast argumenté pour répondre à la question “Le système de notation est-il un danger pour la démocratie ?” Ils s’appuieront pour cela sur les éléments étudiés précédemment et sur leurs propres recherches  et répondront aux questions suivantes

1.  En quoi consistent les systèmes de notation dans l’environnement numérique ? Sur quels critères sont-ils basés ? Quels sont leurs objectifs ?
2.  Quelles sont ou pourraient être les conséquences pour les individus ? Quels dangers pour les minorités (sexuels, sociales ou religieuses par exemple, affaiblissement des relations sociales notion d’e-réputation)
3. En quoi ce système pourrait représenter un danger pour la  démocratie ? (reconnaissance faciale et IA, algorithmes, manipulations, boycott, abus de certaines entreprises )

Au préalable il faudra expliquer ce qu’est un podcast, comment le concevoir et travailler les compétences orales à mettre en oeuvre pour réaliser un podcast de qualité.

Évaluation :

• Savoir faire une recherche
• Comprendre, s’exprimer en utilisant la langue française à l’oral et à l’écrit
• Qualité du podcast (critères à définir avec les élèves).

Prolongement possible :

Débat sur les avantages et les inconvénients du système de notation