Design pour la diversité — Diversité des contenus à l’ère numérique

Février 2020

Prof. Dr. Natali Helberger,
Dr. Judith Moeller, Sanne Vrijenhoek

Sur cette page

Liste des acronymes et abréviations

ACCC
Commission australienne de la concurrence et des consommateurs
CEDH
Convention européenne des droits de l’homme
CEFIR
Center for International Relations Studies
CPPDCE
Convention sur la protection et la promotion de la diversité des expressions culturelles
EBU
Union européenne de radio-télévision
EDiMA
Association européenne des médias numériques
ERC
Conseil européen de la recherche
FAI
Fournisseurs d’accès Internet
FTC
Commission fédérale du commerce
IA
Intelligence artificielle
IMR
Initiative mondiale des réseaux
OEA
Organisation des États américains
ONG
Organisation non gouvernementale
OSCE
Organisation pour la sécurité et la coopération en Europe
SIA
Systèmes d’intelligence artificielle
SMA
Services de médias audiovisuels
SMSI
Sommet mondial sur la société de l’information
TIC
Technologies de l’information et de la communication
UK
Royaume-Uni
UNESCO
Organisation des Nations unies pour l'éducation, la science et la culture
US
États-Unis

Exonération

Ce document a été préparé pour le ministère du Patrimoine canadien et la Commission canadienne pour l'UNESCO par Natali Helberger, Judith Moeller et Sanne Vrijenhoek. Les opinions et les recommandations émises dans le présent rapport sont celles des auteures et ne reflètent pas nécessairement la politique ou la position officielle du gouvernement du Canada. Toute erreur, interprétation ou omission est de la seule responsabilité des auteures.

Introduction

L’environnement numérique offre aux citoyens et aux médias une occasion sans précédent d’accéder à des contenus provenant d’une myriade de voix et de médias, mais il représente aussi un nouveau défi, à savoir comment faire une sélection judicieuse. Une telle sélection doit répondre aux intérêts individuels en matière d’information, aux contraintes individuelles relatives au temps de lecture et à l’attention, mais aussi aux intérêts plus larges des citoyens qui souhaitent être informés et être exposés à une diversité d’idées et d’opinions qui, ensemble, caractérisent la société dans laquelle ils vivent. Les démocraties exigent en effet que « les personnes en général et les différents groupes en particulier puissent débattre entre eux de leurs points de vue, recevoir des informations en rapport avec leurs champs d’intérêt et leurs opinions, trouver de l’appui pour leur groupe et, enfin, présenter leurs points de vue au monde entierNote de bas de page 1 » [traduction]. Fournir un choix aussi diversifié était traditionnellement la tâche des journalistes, des rédacteurs en chef et des experts formés qui devaient décider quels contenus valaient la peine d’être lus et à quoi devait ressembler une sélection d’informations suffisamment diversifiée. Grâce aux progrès technologiques dans ce que Cherubini et Nielsen ont appelé l’« analyse éditoriale », la tâche de sélection et de conservation des contenus médiatiques est progressivement confiée à des systèmes de recommandation automatisés. Les systèmes de recommandation par algorithme sont de plus en plus perçus comme des outils utiles pour fournir au public des suggestions de lecture plus pertinentes sur le plan personnel, gérer l’attention des utilisateurs et mettre à profit la longue traîneNote de bas de page 2. Les systèmes de recommandation par algorithme sont intégrés dans les flux d’informations des médias sociaux, mais ils sont aussi souvent ajoutés aux plateformes d’informations en tant que services à valeur ajoutée et partie essentielle des applications de nouvelles sur les appareils mobiles. En raison de la tendance croissante relative aux recommandations algorithmiques, la question de savoir comment intégrer les valeurs publiques — telles que la diversité — dans la conception algorithmique, prend également une importance vitale pour les démocraties numériques.

La tâche des recommandations fondées sur les données consiste à filtrer l’abondance croissante des informations en ligne. En se basant sur des données recueillies sur ce que certaines personnes et leurs amis aiment lire, ainsi que sur les contenus qui se vendent le plus et le moins, les systèmes de recommandation utilisent l’apprentissage machine et l’intelligence artificielle (IA) pour nous faire des suggestions de plus en plus pertinentesNote de bas de page 3. On distingue sommairement quatre types de systèmes de recommandation par algorithme de nouvelles selon les données d’entrée sur lesquelles ils s’appuient. Certains systèmes de recommandation par algorithme formulent des recommandations personnalisées selon des métadonnées (fondées sur le contenu); selon ce que d’autres utilisateurs aiment lire (filtrage collaboratif); selon les données sur leurs utilisateurs (fondées sur les connaissances); ou selon une combinaison de ces élémentsNote de bas de page 4. Une autre distinction importante est celle entre les recommandations auto-sélectionnées (les utilisateurs déterminent les critères de sélection et alimentent le système avec leurs préférences) et les recommandations pré-sélectionnées (les médias déterminent la sélection, en fonction de données volontaires ou déduites)Note de bas de page 5.

Ces systèmes peuvent aussi être optimisés selon différents objectifs. Les systèmes de recommandation par algorithme les plus répandus sont probablement ceux qui sont optimisés (selon toute vraisemblance) pour des mesures à court terme telles que la participation des utilisateurs, le temps passé sur la plateforme, les recettes publicitaires, les clics et, plus récemment, l’augmentation de contenus provenant des amis et de la famille et le « bonheur des utilisateurs ». On les trouve, par exemple, sur des sites de médias sociaux comme YouTube ou Facebook. L’accent mis sur les mesures à court terme a entraîné des préoccupations bien connues concernant les effets à moyen terme de tels choix : on craint qu’ils ne favorisent la polarisation, les bulles de filtres et les chambres d’échoNote de bas de page 6 ainsi qu’une diminution générale de la diversité des idées et des voix auxquelles le public est exposéNote de bas de page 7. Cependant, plus récemment, il a été possible d’observer une tendance à concevoir des systèmes de recommandation plus sensibles aux valeurs, en particulier dans les médias de qualité qui adoptent également de plus en plus les recommandations (personnalisées) et qui cherchent à en tirer parti. Comme le mentionne le Frankfurter Allgemeine Zeitung à ses utilisateurs : « Pas toujours la même chose, mais plutôt des recommandations intelligentes qui surprennent et enrichissent votre expérience de lecture. L’offre de nouvelles devrait être aussi diversifiée que vos intérêts de lecture [...] de sorte qu’au lieu de chercher des nouvelles, vous puissiez investir votre temps dans la lecture » [traduction]. Le Neue Zürcher Zeitung veut trouver « de nouvelles façons bien pensées d’intégrer des expériences personnalisées au cœur de notre produit de presse — en gardant à l’esprit l’intégrité éditoriale » [traduction].

Les bulles de filtres indésirables sont le résultat de systèmes de recommandation mal conçus. Un nombre croissant d’exemples tirés de pratiques dans les médias et de publications universitaires explorent le potentiel du « design pour la diversitéNote de bas de page 8 ». Pourtant, traduire ce concept de « diversité des médiasNote de bas de page 9 », un terme mal défini qui évolue au gré de l’interprétation normative, en mesures concrètes pouvant alimenter la conception algorithmique ne va pas de soi. Trop souvent, la diversité des médias est associée à des mesures statistiques simplifiées de similarité ou d'un certain degré de hasard.

Dans le cadre de sa Stratégie de mobilisation internationale sur la diversité des contenus en ligne, le gouvernement canadien nous a demandé, compte tenu de notre expertise et de notre implication de longue date dans la recherche sur le design pour la diversité, de fournir un document de réflexion sur le sujet. Plus concrètement, il nous a demandé de « fournir une analyse approfondie de l’action sélectionnée [l’optimisation des algorithmes pour garantir l’accès et l’exposition à un contenu diversifié], y compris une évaluation de la faisabilité et des considérations importantes, c’est-à-dire les éléments ou les concepts que les parties prenantes devraient prendre en compte dans une perspective mondiale et multipartite ».

Ce document est divisé en quatre sections. Après l’introduction (première section), nous présentons brièvement le concept de la diversité (de l'exposition), quelques réflexions sur l’importance de l’exposition à la diversité sur la résilience démocratique des citoyens ainsi qu’un aperçu des connaissances actuelles sur les effets des systèmes de recommandation par algorithme en information sur l’exposition à la diversité (deuxième section). Dans la troisième section, nous décrivons brièvement le concept du design pour la diversité et nous donnons un aperçu de la recherche et des tentatives de traduire la diversité, en tant que notion normative, en mesures susceptibles d’éclairer la conception des systèmes de recommandation. La quatrième section donne enfin quelques indications sur les mesures à prendre pour rendre le design pour la diversité réalisable. Cette section s’inspire de l’état actuel de la recherche universitaire y compris nos propres recherches sur le sujetNote de bas de page 10, ainsi que des conclusions d’un séminaire tenu en novembre 2019 au Schloss DagstuhlNote de bas de page 11 que nous avons organisé avec une équipe interdisciplinaire de penseurs de premier plan dans ce domaine. L’objectif du séminaire Dagstuhl Perspectives était d’élaborer une vision élargie et des recommandations pour l’avenir des (divers) systèmes de recommandation personnalisée des informations, résultat d’un effort de collaboration entre différents domaines de la recherche universitaire (études des médias, informatique, droit et philosophie juridique, sciences de la communication, philosophie politique et théorie de la démocratie). Ainsi, les conclusions de ce séminaire s’appliquent directement au présent document.

L’exposition à la diversité en tant que concept

Présentation de l’exposition à la diversité en tant que concept normatif et intrinsèquement démocratique

« [I] l n’est pas de démocratie sans pluralismeNote de bas de page 12. » La diversité est une valeur normative et existe depuis longtemps dans la liberté d’expression et la théorie de la démocratieNote de bas de page 13. Les démocraties exigent en effet que « les personnes en général et les différents groupes en particulier puissent débattre entre eux de leurs points de vue, recevoir des informations en rapport avec leurs intérêts et leurs opinions, trouver de l’appui pour leur groupe et, enfin, présenter leurs points de vue au monde entierNote de bas de page 14 » [traduction]. La diversité des médias est essentielle à l’atteinte de cet objectif.

La diversité des médias est une valeur essentielle des lois et des politiques relatives aux médias, et pourtant elle est étonnamment mal définieNote de bas de page 15. Le Conseil de l’Europe, une institution internationale qui a eu une incidence importante dans l’interprétation de la Convention européenne des droits de l’homme et qui a influé sur le droit européen des médias et les concepts du droit des médias, a défini à l’origine la diversité comme un « contenu varié des médias reflétant différents points de vue politiques et culturels [...] mis à la disposition du publicNote de bas de page 16 ». Dans l’optique du design pour la diversité, il s’agit encore d’une définition très générale et imprécise qui laisse de nombreuses questions en suspens — et même les versions ultérieures de la définition n’ont pas pu rendre la notion plus concrète. Cela dit, du point de vue du Conseil de l’Europe, il devient au moins évident que la diversité n’est pas un but en soi, mais plutôt un instrument pour « promouvoir un débat critique et une plus grande participation démocratique des personnes appartenant à toutes les communautés et générationsNote de bas de page 17 ». Ce qui ressort aussi clairement des définitions antérieures de la diversité du Conseil de l’Europe, c’est que, pendant longtemps, les conceptions de la diversité des médias étaient principalement axées sur la diversité de l’offre, c’est-à-dire la diversité de l’information disponible dans les médias. Dans l’environnement numérique, cependant, où l’offre de l’information disponible dépasse de loin la quantité d’information que les citoyens peuvent consommer, la question de l’exposition à la diversité gagne en importance et devient de plus en plus essentielle pour la réalisation des valeurs publiques que la diversité des médias sert à la base.

Napoli a défini l’exposition à la diversité comme « la diversité des contenus ou des sources consommés par les membres du public, qui, bien sûr, peut être très différente de la diversité des contenus ou des sources disponiblesNote de bas de page 18 » [traduction]. L’exposition à la diversité est l’idée que pour que la diversité des contenus médiatiques ait un effet sur la façon dont les personnes s’informent, collaborent et participent au débat public, il ne suffit pas de mettre l’accent sur la diversité qui est fournie, mais aussi sur la quantité et les conditions dans lesquelles les utilisateurs consomment (ou peuvent consommer) des contenus diversifiés. Dans la mesure où la quantité d’information fournie dépasse la quantité d’information à laquelle les utilisateurs peuvent raisonnablement accéder et lire, la notion d’exposition à la diversité gagne en importance pour la réalisation des objectifs de politiques publiques qu’elle sert. L’objectif des systèmes de recommandation par algorithme est de filtrer et de trier la quantité d’information disponible et d’effectuer une sélection (personnalisée). Ils ont donc une tâche essentielle à accomplir en matière d’effet sur l’exposition à la diversité et en ce qui a trait aux objectifs de politiques publiques qui sous-tendent la diversité, comme le reconnaissent également les initiatives récentes en matière de politiques relatives aux médias, notamment celles du Conseil de l’EuropeNote de bas de page 19.

Facteurs et conséquences probables relativement à la résilience démocratique des citoyens

Les préoccupations concernant une exposition limitée à de l’information variée en ligne sont souvent associées à deux conséquences attendues pour les sociétés démocratiques. Tout d’abord, les bulles de filtres sont considérées comme l’un des principaux moteurs de la polarisationNote de bas de page 20,Note de bas de page 21. Le raisonnement sous-jacent de cette hypothèse est que l’exposition à des opinions contre-attitudinales dans les médias devrait entraîner une meilleure compréhension des idéologies contraires et favoriser la tolérance. Les algorithmes détectent les préférences et les tendances idéologiques d’une manière qui passe inaperçue pour l’utilisateur de la plateforme, ce qui fait en sorte que les citoyens ont moins l’occasion d’être exposés à des idéologies contraires à la leurNote de bas de page 22. L’autre conséquence possible d’une exposition réduite à la diversité est liée à la fonction démocratique des médias de masse qui consiste à établir des préoccupations publiques communes. Les systèmes de filtrage algorithmique peuvent potentiellement amplifier l’intérêt des citoyens pour des sujets précis, en filtrant l’information sur d’autres sujets, y compris ceux qui figurent en tête des préoccupations du publicNote de bas de page 23.

Effet des algorithmes sur l’exposition à la diversité

La recherche empirique sur les effets probables des algorithmes est limitée par la disponibilité des données. Des études à grande échelle sur l’incidence du filtrage algorithmique sur l’exposition à des contenus médiatiques diversifiés (ou non), et ses conséquences sur les attitudes, les connaissances et les comportements civiques, nécessiteraient l’accès aux données individuelles fournies par les plateformes, qui ne sont pas disponibles actuellementNote de bas de page 24. Il existe cependant une étude menée par des chercheurs de Facebook qui ont constaté que l’utilisation de la plateforme mène à une exposition plus diversifiéeNote de bas de page 25. Aussi, plusieurs études empiriques permettent de comprendre dans quelle mesure les citoyens obtiennent des informations plus ou moins variées selon les systèmes algorithmiques et quelques études expérimentales traitent de l’effet d’une exposition potentiellement limitée à la diversitéNote de bas de page 26. Dans une étude comparative basée sur des données d’enquête représentatives de quatre pays, Fletcher et Nielsen ont démontré que le fait de recevoir des informations par l’entremise de systèmes de filtrage algorithmique fournis par des plateformes (Facebook, YouTube, Twitter) entraîne dans l’ensemble une plus grande diversité de sources, en particulier chez les jeunes et les personnes moins intéressées par les nouvellesNote de bas de page 27. Cela va dans le sens de nos recherches qui ont révélé que différents types de filtrage algorithmique pourraient offrir plus de diversité qu’une intervention humaine dans le cadre d’une expérience scientifique basée sur les données réelles de l’un des plus grands journaux néerlandaisNote de bas de page 28. Ces conclusions confirment les travaux d’autres chercheurs qui ont étudié l’exposition à la diversité dans les résultats de rechercheNote de bas de page 29.

Même si nous constatons une plus grande diversité lorsque nous utilisons les médias sociaux et les outils de recherche, il est possible que cette diversité soit constituée de sources d’informations partisanes ou polarisantes. Une étude publiée par une équipe de chercheurs aux États-Unis s’est penchée sur l’exposition des gens aux contenus partagés par des utilisateurs ayant une idéologie politique différente sur TwitterNote de bas de page 30. S’ils étaient républicains, ils recevaient plus de messages des démocrates, et vice versa. Les chercheurs ont mesuré les attitudes avant et après ce processus et ils ont constaté qu’à mesure que les personnes prêtaient attention aux messages de l’idéologie contraire, une polarisation était observable, et les convictions d’origine s’affermissaient.

Le design pour la diversité

Présentation du concept

Le design pour la diversité est une forme de valeur intégrée à la conception. La valeur intégrée à la conception a, quant à elle, été définie comme « une approche fondée sur la théorie en matière de conception de la technologie qui tient compte des valeurs humaines d’une manière globale, fondée sur des principes et ce, tout au long du processus de conceptionNote de bas de page 31 » [traduction]. La valeur en jeu ici est l’exposition à la diversité, telle que définie dans la deuxième section. La volonté de diversité (exposition) est caractérisée par ce que Friedman et coll. appellent une « composante de conception proactiveNote de bas de page 32 ». Cette composante consiste à trouver des moyens de conceptualiser et de mettre en œuvre l’exposition à la diversité d’une manière qui puisse éclairer la conception des systèmes de recommandation par algorithme. À ne pas confondre avec les recherches qui visent à mesurer (de manière empirique) les effets des systèmes de recommandation d’informations sur la diversité des contenus auxquels les utilisateurs sont exposés.

Traduire une valeur en exigences de conception concrètes n’est pas un processus simple. Comme l’expliquent Friedman et coll., cela peut nécessiter plusieurs mises à l’essai et ajustements des paramètres ou des modèles qui façonnent un algorithmeNote de bas de page 33. Van der Poell distingue au moins trois étapes dans un tel processusNote de bas de page 34 :

Premièrement : la conceptualisation de la valeur (y compris une exploration des raisons pour lesquelles une valeur particulière est considérée comme précieuse);

Deuxièmement : la traduction d’une valeur générale en une ou plusieurs normes générales (ou mesures);

Troisièmement : la traduction de ces normes générales en exigences de conception plus précisesNote de bas de page 35.

Bien qu’une grande partie des travaux existants visant à appliquer le design pour la diversité mettent l’accent sur le seul algorithme de recommandation, un examen de la recherche théorique sur le design pour la diversité nous rappelle que nous ne pouvons pas considérer l’algorithme comme l’objet de conception de manière isolée. Nous devons prendre en compte le contexte sociétal plus large dans lequel l’algorithme est mis en œuvre, y compris le contexte culturel généralNote de bas de page 36, et mener une enquête sur les intervenants concernés et la manière dont ils négocient les valeurs, ainsi que sur le « contexte humain direct dans lequel l’artefact technique est situéNote de bas de page 37 » [traduction]. Les systèmes de recommandation d’informations sont un excellent exemple pouvant expliquer pourquoi le design pour la diversité peut difficilement être atteinte sans tenir compte du contexte humain plus large. Ici, il s’agit du secteur des nouvelles dans lequel l’algorithme fonctionne. Les raisons sont multiples. Premièrement, la possibilité de l’exposition à la diversité dépend de la disponibilité du contenu dans la réserve. Si la qualité et la diversité de la réserve sont faibles, les systèmes de recommandation n’ont pas suffisamment de choix pour formuler de bonnes recommandations. Donc, l’exposition à la diversité dépend en fin de compte de la diversité externe. Deuxièmement, les recherches sur le biais algorithmiqueNote de bas de page 38 révèlent que les préjugés humains sont souvent amplifiés dans les systèmes algorithmiques, non seulement dans le cas des données utilisées pour former les systèmes d’IA, mais aussi pour la capacité des concepteurs du système à observer et à interpréter les biais. Troisièmement, si la conception de l’algorithme est souvent une tâche de l’équipe technique, c’est à l’équipe éditoriale que revient la tâche de déterminer quelle sélection de contenu est conforme à la politique éditoriale, à l’engagement en faveur de la diversité, à la mission d’un organe d’information particulier, etc. Pourtant, dans la réalité, il peut y avoir une déconnexion entre les deux. Dans le pire des cas, il n’y aura pas de communication du toutNote de bas de page 39. Quatrièmement, étant donné que l’attente normative relative à ce qu’est la « bonne diversité » est une cible mouvante, il est important de se pencher sur le processus qui mène à la définition du niveau et du type de diversité qui devraient être atteints. De cette façon, les systèmes qui sont diversifiés par leur conception restent transparents et s’adaptent aux changements sociétaux et normatifs.

Enfin, il est important de garder à l’esprit une autre leçon tirée des textes portant sur le design pour la diversité, à savoir qu’il existe également certaines limites à la conception adaptée aux valeurs et, ici, la mesure dans laquelle la diversité en tant que concept normatif peut être opérationnalisée dans la conception des systèmes de recommandationNote de bas de page 40. Cette situation peut être liée à la difficulté de traduire certains éléments de la diversité ou aux compromis entre les valeurs que l’optimisation de l’exposition à la diversité peut impliquer, aux obstacles dans le contexte socio-économique plus large dans lequel les systèmes de recommandation sont élaborés (p. ex., les contraintes commerciales et la nécessité d’optimisation pour le profit plutôt que pour les mesures de la diversité) et aussi à l’efficacité limitée des systèmes de recommandation pour orienter réellement les choix des utilisateurs. Comme l’expliquent Friedman et coll., « une technologie donnée est plus adaptée à certaines activités et soutient plus facilement certaines valeurs tout en rendant d’autres activités et valeurs plus difficiles à réaliserNote de bas de page 41 » [traduction].

Survol de l’état actuel de la recherche sur le design pour la diversité

Les textes traitant du design pour la diversité se trouvent principalement dans le domaine de l’informatique. En informatique, la formulation d’une recommandation est considérée comme un problème de reclassement. Dans un ensemble d’éléments, l’objectif est de présenter ces éléments de manière à ce que l’utilisateur trouve en premier lieu l’élément qui l’intéresse le plus, suivi du deuxième, etc. Toutefois, le problème réside dans la manière de se rapprocher de cet intérêt de l’utilisateur. D’une part, les approches fondées sur le contenu examinent le type d’éléments avec lesquels l’utilisateur a déjà interagi et recommandent des éléments similaires. Il peut s’agir ici de trouver des sujets ou des textes généraux qui sont similaires à ce qui se trouve dans l’historique de consultation de l’utilisateur. D’autre part, dans les approches de filtrage collaboratif, l’algorithme tient compte de ce que d’autres utilisateurs similaires à l’utilisateur en question ont apprécié et recommande du contenu en conséquence. La plupart des systèmes de pointe sont des hybrides de ces approches, mais comportent également des éléments de hasard, ce qui facilite l’exploration. En général, cela signifie que les systèmes de recommandation ajoutent un contenu aléatoire afin de générer de nouvelles informations sur l’utilisateur. Si l’utilisateur interagit avec le contenu supplémentaire, le système se rend compte que la personnalisation actuelle est erronée et apprend quel type de contenu l’utilisateur aimerait recevoir.

Cependant, comme la plupart des mesures d’optimisation sont basées sur une forme de similarité, il devient probable qu’à un moment donné, seuls les mêmes types de contenu seront recommandés. Pour résoudre ce problème, les concepts de nouveauté et de diversité sont introduits et ces derniers sont fortement liés.

Dans le texte le plus souvent cité sur ce sujet, Vargas et coll. définissent la nouveauté comme « la différence par rapport à ce qui a été vu précédemment », alors que la diversité réfère à un ensemble d’éléments, et à « la différence entre les élémentsNote de bas de page 42 » [traduction]. En d’autres termes, la nouveauté compare l’ensemble actuel des éléments recommandés à ce que l’utilisateur a déjà vu auparavant, tandis que la diversité compare les différences au sein de cet ensemble. Le défi consiste donc à définir cette différence ou cet écart. Cette définition se fait souvent en examinant les « sujets » respectifs des élémentsNote de bas de page 43, ce qui sert de référence commune, et en calculant l’écart entre les sujets en supposant qu’une taxonomie des sujets existe déjà. Elle ne tient pas compte de la nature des nouvelles, où les histoires peuvent s’étendre sur plusieurs jours et où de nouveaux sujets peuvent apparaître chaque jour. Elle ne laisse pas non plus de place aux opinions et aux points de vue divergents sur chaque sujet, qui peuvent être pertinents pour la diversité globale. Un autre concept lié à la diversité est celui de la possibilité de suggérer du contenu différent : devrait-on recommander seulement les éléments les plus populaires auxquels de nombreuses personnes s’intéressent ou recommander également des éléments avec lesquels peu de personnes ont encore eu l’occasion d’interagir?

Dans un récent aperçu de l’« état actuel » de la diversitéNote de bas de page 44, les auteurs ont élaboré une taxonomie des définitions de la diversité. La première décision à prendre est de savoir s’il faut calculer la diversité individuelle (en fonction de l’utilisateur) ou la diversité globale (en fonction d’un ensemble). Lorsque l’on met l’accent sur la diversité individuelle, il faut choisir la méthode de représentation des éléments et les paramètres dans lesquels ces éléments sont pris en compte. La représentation peut être à la fois explicite (p. ex., au moyen de métadonnées) ou implicite (apprise d’une certaine manière). Les travaux actuels ont surtout porté sur des éléments explicites, tels que la popularité, le délai de publication, la source ou parfois la catégorie. En ce qui concerne les paramètres des éléments, il peut y avoir à la fois des mesures par paire (comparaison d’une recommandation avec une autre) et des mesures au niveau de l’ensemble (commentaire sur l’ensemble des recommandations).

Comme on peut le déduire de l’aperçu ci-dessus, bien qu’il existe diverses tentatives de conceptualisation de la diversité (de l’exposition) dans la recherche informatique, ces définitions s’écartent de l’idée de la diversité comme une forme de variance ou de dissemblance. Elles ne sont pas fondées sur la compréhension plus normative de la diversité (ou du pluralisme, notions souvent utilisées de manière interchangeable) qu’on trouve dans le droit des médias, la législation sur les droits fondamentaux, la théorie de la démocratie, les études sur les médias et les sciences de la communication, et n’y font pas référence.

On a mesuré la diversité (de l’exposition) à quelques reprises sans toutefois chercher à traduire les constatations de ces études en critères de conception pour les systèmes de recommandation par algorithme d’information. Définir et mesurer la diversité des médias, par exemple, est une tâche importante des organismes de réglementation et des autorités de surveillance des médias. Leur tâche est de veiller à la diversité des marchés des médias. Diverses mesures ont été proposées et mises en œuvre, y compris l’indice de diversité controversé de la Commission fédérale du commerce (FTC), le test d’intérêt public du Royaume-Uni ou le modèle de part d’audience de l’AllemagneNote de bas de page 45. La plupart de ces mesures mettent l’accent, d’une manière ou d’une autre, sur l’observation de la diversité des sources dans un marché des médias tout en s’abstenant de préciser quand une diversité de sources est suffisamment variée ou de préciser le niveau de diversité (de l’exposition) nécessaire pour qu’un public hétérogène puisse effectivement participer au débat critique et accroisse sa participation démocratique. Jusqu’à présent, l’effort le plus important pour définir et mesurer le pluralisme des médias était probablement le Moniteur du pluralisme des médias de l’Europe. Il recense plus de 300 indicateurs de risque en matière de pluralisme et de diversité des médiasNote de bas de page 46. Cette approche fondée sur le risque pour définir la diversité n’était pas directement orientée vers l’évaluation des systèmes de recommandation par algorithme, et n’est pas particulièrement utile pour conceptualiser ce qu’est la diversité dans les recommandations, car elle se concentre sur les marchés européens des médias dans leur ensemble. L’évaluation de la diversité des résultats des recommandations personnalisées nécessite une évaluation au niveau (interne) de la recommandation, ou de la production d’une recommandation personnalisée. Toutefois, pour le présent document, le Moniteur du pluralisme des médias a permis de constater que la diversité ne peut être réduite à un seul ou quelques critères.

Un autre courant de recherche sur la nature de la diversité tente de mieux comprendre, d’un point de vue empirique, l’effet que peuvent avoir les systèmes de recommandation d’informations sur la diversité (y compris la question de l’existence de bulles de filtres)Note de bas de page 47. Jusqu’à présent, la plupart de ces études évaluent et mesurent l’exposition à la diversité en termes d’exposition à un contenu contre-attitudinal ou contre-idéologiqueNote de bas de page 48. Il s’agit d’une mesure relativement simple de l’exposition à la diversité, mais aussi d’une mesure assez limitée. Cela peut être logique dans le contexte américain dominé par un système bipartite (libéral contre conservateurNote de bas de page 49), mais même dans ce contexte, la diversité se réduit à la question de savoir si une personne tombe sur du contenu avec lequel elle est d’accord ou non.

Jusqu’à présent, un certain nombre de projets ont vu le jour cherchant à combler le fossé entre les perspectives empiriques, informatiques et normatives sur l’exposition à la diversité en général, et la diversité par la conception en particulier. Il y a par exemple les projets PEACH de l’Union européenne de Radio-Télévision (UER)Note de bas de page 50, NewsDNA à GandNote de bas de page 51, Diamond à LouvainNote de bas de page 52, Ensure à DelftNote de bas de page 53 et les travaux effectués à l’université de ZürichNote de bas de page 54 qui se concentrent sur différents aspects de la diversité dans les (nouveaux) médias. Le projet le plus précoce et le plus systématique à ce jour (du moins à la connaissance des auteures) qui cherche à réunir la perspective normative, la perspective informatique/IA et la perspective des sciences de la communication est peut-être le projet « Unlocking the potential of news recommenders for an open Internet and empowered citizens » de l’université d’Amsterdam. Le projet a été financé par le SIDN Fund, a reçu le soutien du projet PersoNews du ERC et est une collaboration entre universitaires et praticiens (Blendle, RTL)Note de bas de page 55. Contrairement aux autres projets, le projet « Unlocking the potential of news recommenders for an open Internet and empowered citizens » aborde le défi d’élaborer des mesures de la diversité en retournant aux origines et aux fondements normatifs qui expliquent pourquoi nous valorisons la diversité des médias dans une démocratie. Dans la section suivante, nous présenterons brièvement les principales conclusions de ce projet.

Réduction de l’écart entre les différentes approches disciplinaires : la diversité des systèmes de recommandation par algorithme à la lumière des principes de la démocratie

L’un des principaux enseignements tirés des définitions du concept de la diversité par le Conseil de l’Europe est que la diversité n’est pas un but en soi, mais un concept investi d’une mission. Nous accordons de l’importance à la diversité non pas parce que « la diversité vend », mais parce qu’elle est considérée comme essentielle à la promotion des valeurs qui nous définissent en tant que société démocratique. Le régime médiatique auquel les personnes sont exposées devrait refléter, d’une manière ou d’une autre, la diversité des voix et des idées dans une société. La diversité, à son tour, est considérée comme un élément essentiel pour atteindre toute une série d’objectifs auxquels nous accordons de l’importance dans une société démocratique : de la stimulation des citoyens informés et de l’ouverture d’esprit à la tolérance, à l’inclusion culturelle et à l’égalité des chances. Les médias ont traditionnellement joué un rôle central dans la concrétisation de ces valeurs, en tant que plateforme et communicateur de contenus médiatiques variés. La signification exacte de la diversité dans les recommandations dépend des principes de la démocratie adoptés, mais aussi des valeurs qui sont au centre de la mission éditoriale d’un média particulierNote de bas de page 56. Dans ce qui suit, nous présenterons quatre approches différentes de la conceptualisation de la diversité dans les recommandations d’informations, chacune d’entre elles découlant d’une théorie de la démocratie différente et ayant une valeur publique principale différente. Ce qui ne signifie pas qu’une théorie ou une approche est supérieure à l’autre. L’un des messages clés de cette section est que pour comprendre et conceptualiser la diversité dans les recommandations d’informations, il faut prendre une décision sur les objectifs, la mission et les valeurs publiques que poursuit un organe d’information particulier. Certaines approches ou conceptions de la diversité conviennent mieux aux médias de qualité ou de service public, d’autres sont plus compatibles avec les médias en ligne ou les réseaux sociaux. Chaque conceptualisation de la diversité dans les recommandations d’informations est le résultat d’un exercice d’équilibre et privilégie certaines valeurs par rapport à d’autres.

Une approche libérale à l’égard de la diversité dans les recommandations

Dans la théorie de la démocratie libérale, la liberté individuelle, y compris les droits fondamentaux tels que le droit à la vie privée, la liberté d’expression, la répartition du pouvoir, mais aussi le développement personnel et l’autonomie des citoyens sont au centre des préoccupations. Contrairement aux théories délibérantes, voire critiques, de la démocratie, le modèle libéral est en principe favorable à l’idée que les systèmes de recommandation par algorithme sont des outils permettant aux citoyens de renforcer leur autonomie et de trouver des contenus pertinents. Il repose sur le principe sous-jacent que les citoyens savent mieux que quiconque ce dont ils ont besoin pour s’épanouir et exercer leurs droits fondamentaux à la liberté d’expression et à la liberté d’opinion, et même s’ils ne l’exercent pas, ce n’est qu’un problème limité pour la démocratie. Cela s’explique par le fait que les attentes normatives sur ce que signifie être un bon citoyen sont relativement faibles et qu’il existe une division stricte des tâches, dans laquelle « les élites politiques [...] agissent, tandis que les citoyens réagissentNote de bas de page 57 » [traduction]. Comme Ferree et coll.Note de bas de page 58 l’ont exprimé de manière rassurante : « Les citoyens ont besoin de décideurs politiques qui ont des responsabilités à leur endroit, mais ils n’ont pas besoin de participer au discours public sur les questions politiques. Non seulement ils n’ont pas besoin d’y participer, mais la vie publique est en fait meilleure s’ils ne le font pas » [traduction].

Dans une telle perspective libérale de la démocratie, la diversité des recommandations comporterait une approche logique de la diversité, axée sur l’utilisateur, en essayant de refléter les différents intérêts et préférences des utilisateurs (peu d’utilisateurs voudront seulement regarder des vidéos de chats et des opinions de célébrités). En conséquence, les caractéristiques d’un système de recommandation libéral pourraient être les suivantes : plus de place pour les sujets les plus importants, un affichage des principales questions politiques, en particulier en période électorale, mais aussi peu de distance par rapport aux préférences personnelles. Il pourrait également offrir aux utilisateurs le choix entre différents formats, sujets, genres, sources ou même entre différentes logiques de recommandation. Il devrait y avoir des possibilités de gestion active par l’utilisateur, car elle renforce l’autonomie, mais aussi un niveau élevé de respect des préférences personnelles en matière de vie privée et d’autonomie personnelle (en d’autres termes, une incitation faible).

Une approche participative à l’égard de la diversité dans les recommandations

La définition de ce que signifie être un bon citoyen est une différence importante entre le modèle libéral et le modèle participatif de la démocratie. Dans les conceptions participatives, le rôle de la liberté (personnelle) et de l’autonomie est un ingrédient essentiel de la promotion du bien commun, avant l’épanouissement personnel : « La liberté est marquée par la capacité de participer à la sphère publique, par la subordination des préoccupations égoïstes au bien public, et par les occasions qui en découlent pour l’accroissement du bien-être, individuel et collectifNote de bas de page 59 » [traduction]. Les citoyens ne peuvent pas se permettre de se désintéresser de la politique, car ils ont un rôle actif à jouer pour aider la communauté à prospérer : « Plus la société civile est forte, plus une société a de capital social, plus la démocratie prospèreNote de bas de page 60 » [traduction]. En conséquence, les médias et, par extension, les systèmes de recommandation d’informations doivent faire plus que donner aux citoyens « ce qu’ils veulent », et doivent leur fournir les informations dont ils ont besoin pour jouer leur rôle de citoyens actifsNote de bas de page 61.

Les systèmes de recommandation participatifs ont un rôle important à jouer dans la promotion des valeurs participatives, telles que l’inclusion, l’égalité, la participation, la tolérance et la citoyenneté active, ce qui exige une compréhension qui tient compte davantage de la « diversité participative ou représentative ». Au lieu de se contenter de donner aux personnes ce qu’elles veulent (à un moment précis), un système de recommandation participatif doit aborder de manière proactive la crainte de passer à côté d’informations importantes et approfondies, ainsi que les préoccupations liées au fait d’être laissé de côté. Le défi particulier sera de faire une sélection qui donne un aperçu équitable des différentes idées et opinions dans la société, tout en aidant l’utilisateur à mieux comprendre et à se sentir interpellé, plutôt que perplexe. Ferree et coll. (2002) parlent d’« autonomisation » : « L’idée selon laquelle la participation publique transforme les personnes en citoyens engagés signifie que le contenu des médias devrait avant tout encourager l’autonomisationNote de bas de page 62 » (italicisé par les auteurs originaux) [traduction]. Pour être réellement habilitant, le contenu des médias doit être présenté sous différentes formes et dans des styles variésNote de bas de page 63. Par extension, cela signifie que la diversité n’est pas seulement une question de diversité de contenu, mais aussi de styles de communication.

D’une part, ce qui caractériserait alors la diversité dans un système de recommandation participatif serait une gestion éditoriale active attirant l’attention sur les éléments que les citoyens « devraient connaître » qui prend en compte la représentation inclusive et proportionnelle des principaux points de vue politiques et idéologiques de la société et met l’accent sur le contenu et l’actualité politiques, mais aussi sur un contenu autre que des nouvelles qui s’adresse à un public plus large. D’autre part, cette diversité serait caractérisée par une hétérogénéité de styles et de tons, possiblement aussi sur le plan des émotions, de l’empathie, de la stimulation et de la réconciliation.

Une approche délibérante à l’égard de la diversité dans les recommandations

Les modèles participatif et délibérant de la démocratie ont beaucoup en communNote de bas de page 64. De même, dans les conceptions délibérantes ou discursives de la démocratie, la communauté et la participation active des citoyens vertueux occupent une place centrale. L’une des principales différences est le fait que le modèle délibérant comporte un processus de comparaison et de collaboration actives avec d’autres, ainsi que des idées contraires et opposéesNote de bas de page 65. La formation de la volonté politique et publique n’est pas simplement le résultat de ceux qui ont le plus de voix ou des « acheteurs », elle est le résultat d’un processus d’examen public et d’intenses réflexionsNote de bas de page 66.

Ce passage épistémologique de l’information à la délibération a évidemment aussi des effets majeurs sur la manière dont le rôle des systèmes de recommandation d’informations peut être conceptualisé. La diversité dans la conception délibérante a pour tâche importante de confronter le public à des points de vue différents et stimulants qu’il n’a pas pris en compte auparavant — ou pas de cette manière : « Puisque le but du processus délibérant est de diversifier l’information pour les participants et de leur permettre de découvrir leurs propres préférences, ce processus nécessite une multiplicité de points de vue et d’arguments. En écoutant les arguments formulés par les autres, la personne élargit son propre point de vue et prend conscience de choses qu’elle n’avait pas remarquées au départ. La délibération exige non seulement des points de vue multiples, mais aussi des points de vue contradictoires, car le conflit, sous une forme ou une autre, est l’essence même de la politiqueNote de bas de page 67 » [traduction].

Concrètement, cela signifie que pour être diversifié, un système de recommandation délibérant (ou les recommandations) devrait montrer une plus grande part d’articles présentant des perspectives variées, une diversité d’émotions, un éventail de sources différentes. Il devrait s’efforcer d’assurer une représentation égale, y compris un contenu consacré à différents groupes ethniques, linguistiques, nationaux, ainsi que de recommander des contenus, des commentaires, des formats de discussion et des renseignements généraux équilibrés. Il pourrait avoir une certaine importance pour le contenu des médias de service public (car la mission de nombreux médias de service public comprend la création d’une sphère publique délibérante), ainsi qu’une préférence pour le ton rationnel, la recherche de consensus, l’invitation à des commentaires et à la réflexion. Les éléments des médias sociaux, mais aussi le fait d’inciter activement la consommation de contenus d’actualité que ce citoyen devrait connaître ou qu’il ne trouvera probablement pas lui-même pourraient également faire partie d’une recommandation diversifiée.

Une approche critique à l’égard de la diversité dans les recommandations

Même si le modèle délibérant de la démocratie est populaire — en particulier parmi les universitaires —, il a suscité de nombreuses critiques. L’une des principales critiques à son égard est l’attention démesurée qu’elle porte au choix rationnel, à l’établissement d’une ligne artificielle entre le public et le privé, à la surévaluation de la notion d’accord, et le fait qu’elle ne tient pas compte de l’importance du conflit et du désaccord comme forme d’exercice démocratiqueNote de bas de page 68. Au contraire, les conflits, les désaccords et la présence de voix marginalisées ne sont pas conformes aux normes élevées de la délibération démocratique, soit parce que leur voix n’est pas assez publique, soit parce qu’elle est trop virulente, irrationnelle ou provocatrice. En conséquence, les critiques du modèle délibérant ou participatif de la démocratie soutiennent qu’en mettant l’accent sur la raison et la tolérance, on atténue les contrastes flagrants, parfois criants, et les inégalités cachées qui sont présents dans la société, ou encore, on décourage les personnes de développer leur identité en premier lieu.

Il est possible d’affirmer que, dans le cadre d’un modèle critique, les systèmes de recommandation d’informations ne chercheront pas à refléter toute la diversité des idées et des opinions dans la société, mais se concentreront plutôt sur ces voix marginalisées ou minoritaires et encourageront activement les utilisateurs à faire l’expérience de l’altérité. Le système de recommandation critique vise à promouvoir la citoyenneté, pas nécessairement à informer les citoyens sur des sujets et des événements politiques importants, mais surtout à renseigner sur des questions de la vie quotidienne, où la marginalisation et l’exclusion des minorités sont particulièrement préoccupantes. Cela pourrait également signifier que les systèmes de recommandation constructivistes permettent d’autres formes de présentation : des récits qui plaisent au citoyen « normal » parce qu’ils racontent une histoire de la vie quotidienne, parce qu’ils ont un contenu émotionnel et provocant, voire des tons figurés et provocateurs, tout cela dans le but d’échapper au standard de civilité et de langage de l’homme blanc stéréotypé, d’âge moyen, éduqué et ordinaireNote de bas de page 69.

Ce processus relatif aux stéréotypes est précisément ce qui constitue un danger majeur pour les systèmes de recommandation du point de vue des perceptions plus critiques de la démocratie : en utilisant des profils standardisés comme base de recommandations, les systèmes de recommandation peuvent avoir pour effet potentiel de renforcer les préjugés et d’étouffer d’autres aspects controversés et donc plus difficilement dévoilés de notre identité. La transparence quant au profil et à la capacité d’adaptation semble être une condition préalable importante pour le rôle démocratique du système de recommandation constructiviste. Il est important, même plus que dans la perspective délibérante, d’expliquer pourquoi certains éléments nous sont recommandés, mais peut-être plus important encore, qui et quoi a été laissé de côté.

Selon cette analyseNote de bas de page 70, nous avons élaboré une première liste indicative de critères ou de mesures qui pourraient caractériser différents systèmes de recommandation par algorithme, en fonction des valeurs et de la théorie de la démocratie pour lesquelles le système de recommandation est optimisé. Ces valeurs dépendront en fin de compte de l’endroit où le système de recommandation sera utilisé. Alors que la logique de recommandation libérale peut être trouvée sur les médias sociaux et sur de nombreux sites Web de médias commerciaux, le modèle participatif ou délibérant est plus susceptible de se trouver sur les sites Web ou les applications de nouvelles des médias de qualité, tandis que le modèle critique est peu susceptible de se trouver dans une économie de marché, mais pourrait éclairer les systèmes de recommandation par algorithme des médias de service publicNote de bas de page 71.

Tableau 1 : Quatre types de systèmes de recommandation démocratiques
Système de recommandation Libéral Participatif Délibérant Critique
Valeurs à optimiser Autonomie, développement personnel, répartition du pouvoir Inclusion, participation, citoyenneté active Délibération, tolérance, ouverture d’esprit, sphère publique Voix marginalisées, préjugés à combattre
Caractéristiques

Davantage de place pour des sujets plus importants

Principales questions politiques, notamment en période électorale

Pour le reste : peu de distance par rapport aux préférences personnelles

Choix entre différents formats, thèmes, genres, sources

Choix des logiques de recommandation

Systèmes de recommandation experts

Outil de gestion éditoriale active, attirant l’attention sur des éléments que les citoyens « devraient connaître »

Activation

Représentation inclusive et proportionnelle des principaux points de vue politiques et idéologiques de la société

Accent mis sur le contenu et l’actualité politiques, mais aussi sur un contenu autre que des nouvelles qui s’adresse à un public plus large

Renseignements généraux

Publicité politique

Plus grande proportion d’articles présentant des perspectives variées, une diversité d’émotions, un éventail de sources différentes

Représentation égale, y compris un contenu consacré aux différents groupes ethniques, linguistiques et nationaux

Contenus, commentaires, formats de discussion et renseignements généraux équilibrés

Importance du contenu des médias de service public

Incitatifs personnalisés pour consommer des contenus d’actualité que ce citoyen devrait connaître

Importance des contenus moins populaires, des voix minoritaires et marginalisées

Incitation active

Ton critique

Contenu volontairement provocateur, qui s’oppose, qui conteste

Forme et présentation Possibilités de gestion active par l’utilisateur, renforcement de l’autonomie, pas d’incitation, conception respectueuse de la vie privée, portabilité des données Accessible, multiplateforme, hétérogénéité de styles et de tons, qui peut être sur le plan des émotions, de l’empathie, de la stimulation et de la réconciliation, transparence et responsabilité Préférence pour le ton rationnel, recherche de consensus, invitation à la réflexion et aux commentaires, éléments de médias sociaux Hétérogène, récits, préférence pour les contenus affectifs, émotionnels, provocateurs, figuratifs

Dans une étape ultérieure, et avec le soutien du SIDN Fund, les auteures du présent document, à l’université d’Amsterdam, et en collaboration avec la société de médias néerlandaise RTL Nieuws, ont commencé à « traduire » les mesures élaborées ci-dessus en un outil qui vise à mesurer la diversité dans les recommandations d’informations. Grâce à cet outil, les organismes de presse peuvent téléverser leurs recommandations et en évaluer un certain nombre d’aspects liés à la diversitéNote de bas de page 72. En comparant ces résultats à ceux d’un certain nombre d’approches simples de recommandation de base, l’effet du système propre à l’organisme de presse peut être évalué. Le travail sur le projet, avec l’élaboration de meilleures mesures ayant une complexité accrue et la mise en œuvre de l’outil avec un éventail de partenaires industriels, est toujours en cours.

La voie à suivre : mesures à prendre pour assurer la réussite du design pour la diversité

La diversité est une valeur publique importante dans les sociétés démocratiques, et les systèmes de recommandation par algorithme qui permettent de trier et d’ordonner l’offre abondante d’informations numériques ne sont pas près de disparaître. Par conséquent, il est d’une importance capitale de promouvoir les initiatives visant la mise au point de systèmes de recommandation par algorithme encore plus intelligents. Les systèmes de recommandation par algorithme ne doivent pas être simplement optimisés pour les clics et les mesures à court terme. Ils doivent être capables de s’adapter et de promouvoir les valeurs publiques, telles que la diversité. La formulation de recommandations plus pertinentes et plus diversifiées qu’avant doit devenir un domaine d’intérêt de l’innovation médiatique, mais aussi de la politique médiatique publique.

Réaliser et rendre opérationnelle le design pour la diversité est un effort véritablement interdisciplinaire. Depuis un certain temps, les questions sur la nature de la diversité et les façons de la définir ont suivi des voies distinctes dans les sciences sociales, les sciences humaines et les sciences informatiques. En même temps, on prend de plus en plus conscience que pour parvenir à des mesures pertinentes relatives à la diversité, les études sur les médias, les sciences de la communication, le droit, l’expertise en matière de droits fondamentaux, les études sur l’interaction utilisateur-ordinateur et l’informatique doivent intensifier leur coopération. Le séminaire « Diversity, Fairness, and Data-Driven Personalization in (News) Recommender SystemNote de bas de page 73 » au Schloss Dagstuhl a rassemblé des experts de diverses disciplines (informatique, droit, sciences de la communication, sciences politiques et sociologie) pour réfléchir ensemble aux étapes à franchir avant de réaliser le design pour la diversité. Le séminaire était un exemple de la reconnaissance croissante de l’interdisciplinarité de ce défi, mais aussi un exemple de la manière dont l’un des principaux obstacles à cet égard, c’est-à-dire les différentes traditions, méthodes et langues dans les différentes disciplines, peut être, et est déjà, surmonté. De nombreux autres échanges réellement interdisciplinaires et structurels, tels que le séminaire au Schloss Dagstuhl, doivent avoir lieu pour nous permettre de conceptualiser à nouveau la diversité en tant que notion normative et démocratique d’une manière qui puisse se prêter à une formalisation dans la conception algorithmique. C’est aussi pourquoi l’une des recommandations du séminaire au Schloss Dagstuhl était la création d’une initiative de recherche internationale et interdisciplinaire avec un laboratoire commun pour mener les recherches interdisciplinaires nécessaires, stimuler l’innovation pratique, mettre au point des solutions de référence et transférer les connaissances dans la pratique. Cette initiative et son laboratoire doivent combiner les meilleures compétences (inter)nationales dans des domaines tels que l’informatique, les sciences sociales et comportementales et le droit, ainsi que l’industrie et les organismes de réglementation, afin de garantir des recommandations d’informations diversifiées, transparentes et explicables.

La question de savoir comment réaliser le design pour la diversité n’est pas seulement une question théorique, il s’agit d’une question sociétale et pratique. Dans ce contexte, les universitaires, ainsi que les professionnels des médias et la société en général partagent un intérêt pour la recherche de formes de déploiement de systèmes de recommandation par algorithme plus novateurs et plus sensibles aux valeurs. Pour que le design pour la diversité fonctionne sur le terrain et pour la société, les universitaires doivent travailler avec l’industrie des médias à différents niveaux, notamment : la conceptualisation de la diversité, la formalisation de la diversité, les essais répétés, la mesure et la compréhension des implications des différentes logiques de recommandation sur l’exposition à la diversité. En ce qui concerne la conceptualisation de la diversité, il est important de reconnaître que si la diversité est une valeur publique clé, elle n’est pas une valeur absolue. En fin de compte, le niveau optimal de diversité est le résultat d’un exercice d’équilibre entre l’avantage pour la société d’être exposée à un contenu diversifié dans les médias et les autres valeurs potentiellement concurrentes, comme la vie privéeNote de bas de page 74, l’autonomie et le droit à l’autodétermination informationnelle, mais aussi les droits économiques, comme le droit à la durabilité économique et à l’exploitation d’une entreprise, et l’intérêt des utilisateurs à simplement lire un contenu pertinent ou à être divertis.

Une trop grande diversité peut avoir un effet inverse et donc un effet négatif plutôt que positif sur les utilisateursNote de bas de page 75. Les premières expériences nous apprennent que définir et formaliser la diversité est en outre un effort très exigeant en matière de ressources, à tel point que cette tâche peut aller au-delà des capacités (souvent) limitées et des priorités quotidiennes des médias d’information. Ici, l’industrie des médias peut clairement bénéficier de collaborations avec le monde universitaire. En fin de compte, le fait d’effectuer cette tâche de manière significative n’est pas un exercice ponctuel (voir également la section 3.1), mais un processus qui nécessite des essais et des réajustements en situation réelle, et ce, à plusieurs reprises. C’est là que le monde universitaire, à son tour, bénéficie et dépend de la coopération avec l’industrie des médias. Enfin, la prise de conscience croissante de l’importance de la diversité par la conception est prometteuse, mais ne doit pas faire oublier que dans la société numérique, les systèmes de recommandation par algorithme peuvent être des instruments puissants ayant des implications potentiellement profondes sur l’état du débat démocratique, la signification de la citoyenneté informée, la répartition du pouvoir politique et économique et le contrôle démocratique. C’est pourquoi, en plus de trouver des moyens de diversifier les recommandations, il est nécessaire d’assurer un contrôle et une surveillance indépendants de la manière dont les systèmes de recommandation par algorithme ont une incidence sur l’exposition à la diversité globale et la qualité de la sphère publique. Il s’agit également d’un aspect du dsign pour la diversité : élaborer des mesures qui permettent d’évaluer l’effet des recommandations sur l’exposition à la diversité. Pour ce faire, les universités et les organismes de réglementation dépendent non seulement de la collaboration avec l’industrie pour concevoir et mettre à l’essai ces mesures, mais aussi de l’accès aux données sur l’effet des systèmes de recommandation par algorithme, par exemple sur les plateformes de médias sociaux. Parfois, ces informations sont partagées volontairement par les acteurs de l’industrie des médias en raison de leurs propres motivations intrinsèques à comprendre l’effet de leurs systèmes de recommandation, mais souvent, l’accès aux données est encore soumis au secret commercial et à des conditions contractuelles exclusives. C’est pourquoi une autre recommandation du séminaire au Schloss Dagstuhl concernait la nécessité d’établir des droits et des procédures pour le partage des données, une revendication qui est également de plus en plus comprise et confirmée dans les débats politiques en Europe.

Comme expliqué précédemment (section 3.1), le design pour la diversité va au-delà de l’algorithme de recommandation proprement dit. Le design pour la diversité doit également tenir compte du contexte socio-technologique plus large dans lequel les algorithmes fonctionnent, des différents acteurs qui participent à la conception, au déploiement et à l’orientation des algorithmes (des rédacteurs en chef aux directeurs du marketing, en passant par les journalistes, les plateformes, les concepteurs et les utilisateurs). Une recommandation est le résultat d’une boucle de rétroaction algorithmique qui est façonnée par l’apport de tous ces acteurs, et les choix qu’ils font. Comme l’a déclaré le Conseil de l’Europe dans sa déclaration sur les capacités de manipulation des processus algorithmiques : « Lorsqu’ils fonctionnent à grande échelle, ces processus d’optimisation privilégient inévitablement certaines valeurs par rapport à d’autres, déterminant ainsi les contextes et les environnements dans lesquels les individus, qu’ils soient utilisateurs ou non, traitent les informations et prennent leurs décisions. Cette reconfiguration des environnements peut profiter à certaines personnes et certains groupes, mais nuire à d’autres, ce qui soulève de sérieuses questions sur la répartition qui en résulteNote de bas de page 76. »

Dans les salles de presse, il est important de se rendre compte que la décision de la conceptualisation de la diversité et du choix entre des valeurs concurrentes à optimiser est essentiellement une décision éditoriale. Il s’agit d’une décision qui doit être éclairée par la mission éditoriale d’un média particulier — et elle peut varier d’un média à l’autre. Le type de diversité qu’un média de service public peut décider d’optimiser peut être différent du type de diversité que la version en ligne d’un média commercial, la version en ligne d’un tabloïd ou d’un réseau social peut optimiser. Mais la méthode de mise en œuvre de ces priorités dans la conception algorithmique est décidée par les départements techniques. En réalité, le dialogue et l’interaction nécessaires entre les départements éditoriaux et technologiques n’ont pas encore toujours lieu. C’est pourquoi nous avons soutenu que l’éthique journalistique nécessite également un processus de réexamen des routines internes, la création de procédures pour permettre ce qui doit être un processus de collaboration entre les rédacteurs, les responsables du marketing et les concepteurs, mais aussi une certaine formalisation des énoncés de mission, des buts et des objectifs qui éclairent ce processus afin d’accroître la responsabilité publiqueNote de bas de page 77.

Une autre perspective qui mérite une plus grande attention est celle de l’utilisateur. L’objectif du design pour la diversité est, en fin de compte, d’améliorer les chances des utilisateurs de tomber sur des contenus diversifiés dans un environnement créé par des algorithmes. Cela étant dit, la question de savoir si les recommandations (variées) atteindront cet objectif ou non ne dépend pas seulement de l’algorithme lui-même, mais dépend aussi de la manière dont les recommandations sont proposées à l’utilisateur, de la confiance que les utilisateurs accordent à un média et, par extension, à ses recommandations, et de l’objectif pour lequel l’utilisateur recherche des informations, peut-être du moment et du degré d’autonomie que le système de recommandation permet aux utilisateurs et que les utilisateurs sont prêts à exercer. Comme mentionné précédemment, les systèmes de recommandation par algorithme ne fonctionnent pas de manière isolée; les recommandations sont le résultat des interactions avec les utilisateurs. En raison de la personnalisation et de la prolifération des recommandations fondées sur des données, la relation entre les médias utilisant ces algorithmes et les utilisateurs change et devient plus interactive, immédiate, personnelle et potentiellement plus envahissante qu’avant. Dans une telle mesure, le design pour la diversité comprend non seulement la formalisation d’une valeur normative dans la conception algorithmique, mais aussi le réexamen du rôle et des responsabilités optimales des médias vis-à-vis du public.

Les organisations des médias elles-mêmes ne fonctionnent pas de manière isolée, mais dans un environnement hautement compétitif où les médias traditionnels sont en concurrence avec les médias sociaux, les moteurs de recherche, les agrégateurs de nouvelles et d’autres plateformes médiatiques alternatives pour l’attention (ou le peu d’attention) des utilisateurs. Toute tentative de mise en œuvre et d’opérationnalisation du design pour la diversité, par exemple par les médias traditionnels, doit également être examinée à la lumière de cette concurrence, car elle influencera la manière dont les valeurs publiques (telles que l’exposition à la diversité) seront comparées à d’autres valeurs, telles que la nécessité de générer des revenus. La réussite reposera en grande partie sur les utilisateurs et leur perception de l’offre de recommandations variées et de qualité comme un service à valeur ajoutée, mais aussi de la mesure dans laquelle les médias (de qualité) seront capables et désireux de se distinguer, par exemple, des plateformes de médias sociaux où les préoccupations relatives à la l’exposition à la diversité sont généralement un élément moins central de l’objectif qui sous-tend le service. Enfin, beaucoup d’éléments dépendront de la mesure dans laquelle les médias auront la possibilité de se concurrencer sur des facteurs tels que la diversité de leurs recommandations. En fin de compte, c’est également dans ce domaine que l’organisme de réglementation pourrait jouer un rôle. Une autre recommandation du séminaire au Schloss Dagstuhl était donc que « les organismes de réglementation et l’industrie devraient collaborer pour créer un environnement économique dans lequel la formalisation de la diversité ne devient pas une course à la médiocrité. Les informations en ligne doivent être (auto)réglementées de telle sorte que la responsabilité sociétale ancrée dans les organisations journalistiques traditionnelles ne soit pas évincée du marché » [traduction].

Cela nous amène à un dernier point : le rôle potentiel des organismes de réglementation. Dans un scénario idéal, les médias de service public et les organismes de médias de qualité reconnaîtront eux-mêmes l’importance de mettre en œuvre des mesures plus riches et plus diversifiées qu’avant dans la conception de leurs systèmes de recommandation. Comme il a été mentionné plus haut, en réalité, les organisations de médias connaissent souvent des contraintes de financement et de formation de leurs équipes, rencontrent des obstacles organisationnels, doivent composer avec une marge de manœuvre et un budget pour l’innovation limités, conjugués aux pressions exercées par des acteurs commerciaux qui souhaitent l’optimisation des mesures à court terme, comme les moteurs de recherche et les plateformes de médias sociaux. Dans ce contexte, les organismes de réglementation et les décideurs politiques ont un rôle à jouer pour créer les conditions et les incitations nécessaires à l’innovation technologique dans le secteur des médias et à la collaboration entre le monde universitaire et l’industrie. Le fait que de nombreux projets d’innovation dans les médias soient financés par des initiatives privées, telles que la Google News Initiative, est un exemple positif de responsabilité sociale, mais ne reflète pas bien l’état du financement public pour l’innovation dans le domaine de l’information dans de nombreux pays. De plus, compte tenu de l’importance croissante de certaines plateformes intermédiaires principales et de la dépendance à leur égard, les États ont aussi un rôle à jouer : ils doivent créer les conditions d’une concurrence loyale et d’un paysage médiatique florissant et diversifié, un sujet qui fait actuellement l’objet de discussions approfondies — par exemple à Bruxelles en ce moment même. Enfin, il est possible de donner davantage de précisions sur la question de la diversité des médias et des objectifs qu’elle est censée servir, et sur la manière d’intégrer celle-ci dans la conception algorithmique. Nous voyons ici un rôle clair pour les groupes de réflexion et d’experts internationaux, en coopération avec les autorités internationales de normalisation telles que le Conseil de l’Europe, l’UNESCO ou l’OSCE dans la mesure du possible — en d’autres termes, avec les organismes qui ont déjà une longue tradition de formulation de critères et de recommandations à l’intention des États et des acteurs privés au sujet des conditions à remplir pour la mise en application de la diversité opérationnelle et l’élaboration de la conception algorithmique.

Bibliographie

Signaler un problème ou une erreur sur cette page
Veuillez sélectionner toutes les cases qui s'appliquent :

Merci de votre aide!

Vous ne recevrez pas de réponse. Pour toute question, contactez-nous.

Date de modification :