La notation en ligne permettant aux utilisateurs d’évaluer, de commenter les produits, les services, les entreprises et même les établissements culturels ou scolaires est devenue la norme sur Internet. Prévue au départ pour aider les consommateurs dans leurs choix, en s’appuyant sur les avis d'autres internautes, cet outil est rapidement devenu incontournable, voire omniprésent. Des dérives de la notation apparaissent (manipulation des notes, biais cognitifs, conséquences économiques et psychologiques). La Chine a poussé ce concept de notation à son paroxysme pour attribuer aux citoyens un score en fonction de son comportement social et économique au mépris de la vie privée et des libertés individuelles. Le crédit social est devenu un outil de surveillance de masse. La notation en ligne serait-elle un danger pour la démocratie et les libertés individuelles ? Cet article vous propose une synthèse de la question et des pistes d'exploitation pédagogiques pour le collège et le lycée.
Un article proposé par le groupe des relais tice documentation
A la base la notation est un outil de recommandation et d’évaluation ayant pour vocation de rassurer un acheteur en ligne (sites marchands ou de services). La notation peut prendre différentes formes :
Source : “J’aime (Facebook)”. Wikipedia, 21 avril 2023. Wikipedia, http://fr.wikipedia.org/wiki/J%27aime_(Facebook))
Au départ, ce système de notation permet à l’utilisateur de préciser s’il aime ou s’il n’aime pas. Il s’agit d’une réaction au contenu autre que l’écriture d’un commentaire, un moyen de mesurer la confiance (l’indice confiance).
Très vite sur les réseaux, on constate une validation narcissique (une “course aux likes”) on like pour être liké en retour ; le feedback positif va renforcer temporairement l’estime de soi. De plus, ces phénomènes de “like/relike” permettent aux plateformes de créer de l’engagement (interaction entre les abonnés et le réseau social) et à l’utilisateur de se créer une e-réputation (une réputation sur internet qui va elle-même engendrer des likes et relikes sur la plateforme).
Sources : “Comprendre l’économie collaborative” Cours Fun Mooc https://www.fun-mooc.fr/fr/cours/comprendre-leconomie-collaborative/
Bruneton, Sophie.“ Évaluer, noter, dévaluer : les systèmes de notation au sein des plateformes collaboratives”. Introduction à l’architecture de l’information, 21 novembre 2016 https://archinfo01.hypotheses.org/2224
Selon une autre étude IFOP de 2018, 31 % des consommateurs peuvent dépenser plus si la note est « excellente » et 68 % font davantage confiance lorsqu’ils voient des avis positifs et négatifs. Un chiffre proche de la nouvelle étude montrait que 74 % des internautes auraient abandonné un achat à la suite de commentaires négatifs. Les avis sont souvent pris en compte lors des actes d’achat mais ce sont souvent les plus récents qui pèsent sur la note d’un produit et qui déclenchent la commande.
Il existe des sites de notation “vertueux” qui répondent à une demande de transparence : Yuka par exemple, qui compte 6 millions d’utilisateurs a émergé suite à de nombreux scandales alimentaires (poulet dioxine, lait contaminé…) et exerce une forte pression sur les industriels pour qu’ils modifient certaines de leurs compositions (suppression d’additifs, d’édulcorants…). Ici la notation permet à l’industriel d'améliorer ses produits pour les rendre plus “sains” dans une chaîne vertueuse, pour accéder à une meilleure note sur l'application et ainsi lutter contre les phénomènes d’évitement des consommateurs avertis.
Source : Guillien, Catherine. “Les avis clients en ligne, une réalité incontournable” https://creg.ac-versailles.fr/les-avis-clients-en-ligne-une-realite-incontournable
Il existe en gros deux types de contributeurs/évaluateurs :
La note est désormais partout. Plus dangereux encore, tout devient évaluable :
Attention, tous les commentaires, notes, avis ne se valent pas !
On parle de biais cognitifs :
Source : “Les faux avis de consommateurs” https://www.economie.gouv.fr/dgccrf/faux-avis-consommateurs
La DGCCRF: La publication de cette norme internationale NF ISO 20488 « avis en ligne de consommateurs – principes et exigences portant sur les processus de collecte, modération et publication des avis » a remplacé la norme NF Z74-501 en septembre 2018. La norme NF
ISO 20488 peut être appliquée par tous les sites qui souhaitent améliorer la qualité de leur relation client.
Dans le souci de protéger davantage les consommateurs contre certaines pratiques commerciales relatives aux avis de consommateurs, le code de la consommation interdit, depuis le 28 mai 2022, deux nouvelles pratiques commerciales :
Au final on peut se demander si trop de notes ne tue pas la note ; la multiplication des applications, des questionnaires, des qr codes réponses ne noierait-elle pas un peu plus le consommateur dans un univers informationnel sans aucun contrôle ? Ne serait-elle pas contre-productive ?
Le système de notation peut également se retourner contre l'utilisateur. L’algorithme peut en effet, être modifié par la plateforme en fonction du “crédit”, de la note de réputation attribué à l’internaute par la plateforme ; les plateformes pourraient devenir censeur et définir elle-même la limite entre le vrai et le faux, le bien et le mal, le bon utilisateur et le mauvais utilisateur… On peut citer l’exemple de certaines plateformes comme AirB&B qui notent les utilisateurs en fonction de “score de risque” (shift score) en analysant les données personnelles (lieu de connexion, appareil utilisé, billets achetés, …). En fonction de leur profil édité par la plateforme, certains les produits proposés pourraient s’avérer différents, les services surfacturés…
Source : Thomas contre les Gafa, episode 1 “Facebook vous note” https://www.youtube.com/watch?v=WHmcyAvkwcg
Le « système de crédit social » chinois consiste à évaluer, récompenser et punir les citoyens selon leur comportement. Le SCS est présenté par le gouvernement chinois comme un moyen d'accroître le niveau d’intégrité morale des citoyens en vue de faciliter et de fluidifier les transactions économiques et financières.
Il existe depuis plusieurs années déjà dans certaines villes des systèmes de notation chiffrée des citoyens, mais cela n’a pas été élargi à toute la Chine; le système de crédit social de Rongcheng, dans le Shandong, est peut-être le plus abouti aujourd’hui. Il établit six catégories possibles, en fonction du nombre de points possédés par chacun :
Les citoyens sont d’emblée dotés d’un capital de 1 000 points (ce qui implique que le pouvoir considère chaque citoyen a priori comme étant « honnête »), capital qu’ils peuvent accroître grâce à de bonnes actions et qu’ils risquent d’entamer par de mauvaises. Ils sont ensuite qualifiés de bons ou de mauvais citoyens en fonction de leur niveau de points. Les personnes classées sur listes noires sont directement intégrées dans les catégories C ou D.
Source image : Magazine Géo,
Chine : dans les villes pilotes du crédit social
Le « système de crédit social » est né dans un contexte purement économique. Mais d’un outil pragmatique, visant à faciliter les échanges économiques, il est devenu un outil de gouvernance global, un moyen de réprimer toute dissidence.
Source : Lesueur, Jean-Thomas.”le système de crédit social. Comment la Chine évolue, récompense et punit sa population”. Institut Thomas More, 29 juillet 2019https://institut-thomas-more.org/2019/07/29/le-systeme-de-credit-social-%E2%80%A2-comment-la-chine-evalue-recompense-et-punit-sa-population/
La notation en ligne est partout. Prévue à la base pour aider les consommateurs dans leurs choix, en s’appuyant sur les avis d'autres internautes, cet outil laisse apparaître de nombreuses dérives. L’utilisateur voire le citoyen deviennent à leur tour des objets de notation. La liberté de donner son avis se retourne donc contre l’utilisateur qui devient à son tour un produit à évaluer. Les libertés individuelles semblent se confronter à des diktats d’achat et à des stratégies commerciales de grandes entreprises voire d'État. La notation en ligne pensée au départ comme un outil au service d’une prise de décision éclairée serait en fait, un dangereux biais pour la démocratie et les libertés individuelle.
Les réseaux sociaux ont inventé le like puis le dislike. Le système d’étoiles a permis de nuancer notre amour ou désamour. Les interactions numériques font donc le jeu de l’évaluation et ce, de manière permanente. On n’aime, on n’aime pas, on valide, on ne valide pas. Ces phénomènes évaluatifs parcourent désormais notre quotidien. On note tout et n’importe quoi, voire n’importe qui ! La tentation est forte. On nous demande régulièrement d’évaluer les compétences professionnelles de différents acteurs qui parcourent notre quotidien mais également par extension les acteurs eux-mêmes ! On évalue notre entretien téléphonique/notre interlocuteur, on note notre repas au restaurant/le cuisinier/le serveur, on note notre voiture neuve/le vendeur, on note notre rendez-vous médical/notre praticien… Dans quelles mesures les compétences professionnelles sont-elles réellement évaluées ? De nombreux biais cognitifs peuvent agir lors de l’évaluation. Que note-t-on vraiment ? Les compétences ? L'expérience ? Le professionnel ? Difficile de faire clairement la part des choses… Pourtant ces données ont bien été générées et sont récupérées par des entreprises dont les ambitions ne sont pas forcément claires pour l’évaluateur. Certains sites ont même entièrement basé leur économie sur le système de notation ! Les notes collent donc à la peau de certains professionnels ou tout simplement des certains citoyens.
Nous pouvons alors nous interroger de la manière suivante : Quel est l’impact de ces données notées sur les citoyens ? Que deviennent-elles et dans quel but ? Quels peuvent être les impacts privés ou publics de ces données ? Faut-il craindre une société où la note viendrait sanctionner tel ou tel comportement ?
Mots clés : Vie privée / données personnelles / protection des données / crédit social / évaluation / libertés individuelles / citoyenneté / réseaux sociaux/ surveillance de masse
Wikinotions : traces numériques / médias sociaux en ligne / collecte des données /
Objectifs transversaux :
Notions/questionnements :
Cadre disciplinaire : EMC - SNT - éloquence/grand oral
Niveau : 3e
Enseignement(s) : EMI - EMC - enseignement expérimental éloquence
Domaine du socle : Domaine 3 / La formation de la personne et du citoyen
Programme EMC :
Entrées EMI :
Disciplines : professeur-documentaliste, professeur d’Histoire-Géographie-EMC, professeur de Lettres.
Modalités : 3h
1. Introduction de la séance et visionnage de l’extrait de l’épisode “Nosedive” de Black Miror (épisode 1 saison 3) 2016 : https://www.youtube.com/watch?v=EcspUD0kF7g (0’-0’49)
2. Cours dialogué / échanges : Quelle est la place des réseaux sociaux dans la vie personnelle des élèves ? En quoi peuvent-ils mélanger réalité et virtualité (frontières floues entre la vie réelle et la vie numérique) ? Quelles places ont les RS dans leurs interactions sociales quotidiennes ? Leur identité numérique est-elle parfaitement conforme à leur identité personnelle ? Dans quelle mesure utilisent-ils l’évaluation dans leur pratique numérique quotidienne ? Lister des exemples précis. L’objectif est de faire émerger des questionnements chez les élèves en vue de préparer le débat de la séance suivante.
Pour prolonger la réflexion sur l’impact du crédit social pour les citoyens, une vidéo de France 24 est diffusée pour présenter le crédit social selon le modèle chinois : https://www.youtube.com/watch?v=XflMhukDH-s (4’39). Les élèves doivent prendre des notes pour commencer à lister les arguments et contre-arguments des bienfaits du crédit social pour la citoyenneté. (1h)
3. Préparation du débat :
Thème du débat : “Le crédit social, allier ou menace pour la démocratie” ? Quels sont les bénéfices/ les risques de la mise en place d’un crédit social “à la chinoise” en France pour la démocratie, pour le citoyen, pour la société ? A partir d’une sélection d’articles, de sites, de vidéos, les élèves doivent rechercher des arguments pour ou contre en fonction de leur répartition dans les groupes (partisans, détracteurs). (1h)
4. Débat : Le débat sera plus ou moins guidé par les enseignants en fonction de l’habitude de la classe dans l’exercice. S’il s’agit de leur premier débat, les professeurs pourront prendre le rôle de régulateur/animateur du débat et du synthétiseur (+ secrétaire). Si les élèves sont familiers de cet exercice, les enseignants pourront prendre une simple place d’accompagnant (garants de la légitimité de propos), ces trois rôles pouvant être tenus par les élèves. En début de séance, il est important d’installer un espace où tous les élèves se voient (en cercle ou en U). Les rôles spécifiques sont répartis :
Avant démarrer le débat, il est important de revenir sur les règles des échanges : lever la main pour pouvoir prendre la parole ; prend la parole lorsqu’elle nous est donnée ; écouter sans couper la parole ; prendre en compte la parole de l’autre pour faire avancer le débat ; ne pas répéter ce qui vient d’être dit (apporter de nouveaux arguments) ; ne pas se moquer.
Après le débat : le secrétaire fait le bilan du débat en reprenant les différents éléments/arguments avancés par les uns et les autres. Une synthèse est proposée aux élèves (trace écrite de la séance). (1h)
Évaluation :
Evaluation de deux compétences transdisciplinaires :
Niveau : Seconde Générale
Enseignement : EMI/EMC
Disciplines : Documentation/ Histoire géographie/EMC
Modalités : classe entière
Programme EMC
Axe 2 : “Garantir les libertés, étendre les libertés : les libertés en débat”
Compétences/Capacités:
Savoir exercer son jugement et l’inscrire dans une recherche de vérité ; être capable de mettre à distance ses propres opinions et représentations, comprendre le sens de la complexité des choses, être capable de considérer les autres dans leur diversité et leurs différences.
Objectifs :
1. Introduction de la séance et visionnage de l’extrait de l’épisode “Nosedive” de Black Mirror (épisode 1 saison 3) 2016 : https://www.youtube.com/watch?v=EcspUD0kF7g (0’-0’49)
2. Retour classe entière sur l’extrait : Réactions/analyse
Que montre cet extrait ? (le statut social dépend de la note accordée via une application). Est-ce possible à l’heure actuelle ? Est-on si loin de la réalité ?
3. Échanges autour des pratiques : Par groupe de 2 les élèves listent les situations dans lesquelles nous notons les autres, pour quel service, par quels moyens (like, coeur, emoji, étoiles, échelles de 1 à 5 ou de 1 à 10…) ont-ils déjà été évalué en ligne ? Cela affecte-t-il leur vie quotidienne ?
Mise en commun
4. Discussion sur les enjeux : Qu’est-ce que cela implique pour les personnes ou les services évalués? quels sont les risques ?
Notion de liberté individuelle et de respect d’autrui/ protection des données personnelles/surveillance généralisée/ e-réputation
Est-ce que ce système de notation peut affecter notre comportement, notre estime de soi et notre relation aux autres ?
Quels types de données sont collectées par les entreprises ? Quels impacts ?
5. Travail préparatoire au podcast
Les élèves visionnent et prennent des notes sur les avantages et les inconvénients de ce système d’évaluation notamment dans le monde du travail.
6. Podcast : par groupe de 2 les élèves réalisent un podcast argumenté pour répondre à la question “Le système de notation est-il un danger pour la démocratie ?” Ils s’appuieront pour cela sur les éléments étudiés précédemment et sur leurs propres recherches et répondront aux questions suivantes
Au préalable il faudra expliquer ce qu’est un podcast, comment le concevoir et travailler les compétences orales à mettre en oeuvre pour réaliser un podcast de qualité.
Évaluation :
Prolongement possible :
Débat sur les avantages et les inconvénients du système de notation