Algocratie
L’algocratie ou la gouvernementalité algorithmique, est un concept récent pour désigner le pouvoirs que les algorithmes prennent désormais dans les décisions politiques, économiques, sociales.
Algocracy, or algorithmic governmentality, is a recent concept for the power that algorithms now wield in political, economic and social decision-making.
Les algorithmes sont des suites de calculs permettant de résoudre des problèmes, de répondre à des questions. Ils sont donc des agrégats de données censés donner des résultats utiles pour des prises de décisions. Ils interviennent en économie financières, pour répartir des choix d’enseignement supérieur, pour promouvoir des contenus sur les réseaux sociaux, pour prédire des risques d’assurances etc.
Algorithms are sequences of calculations used to solve problems or answer questions. They are therefore aggregations of data designed to produce useful results for decision-making. They are used in financial economics, to allocate choices in higher education, to promote contents on social networks, to predict insurance risks, etc.
Parler d’algocratie c’est faire penser que le pouvoir se déplace, du peuple en démocratie vers les algorithmes. Ils sont alors mis à distance comme si la technologie était un fétiche exogène. Hors les algorithmes, comme toute technologie, est le produit de biais humains, politiques, de genre, etc. Ils matérialisent des relations de pouvoir et de domination.
To speak of algocracy is to suggest that power is shifting from the people in a democracy to the algorithms. They are then distanced as if technology were an exogenous fetish. But algorithms, like all technology, are the product of human, political and gender biases. They materialize relations of power and domination.
“Reprendre le contrôle démocratique de nos places publiques numériques”
Si l’algocratie génère de la méfiance pour une partie des chercheurs.es qui craignent l’avènement d’une société de contrôle, elle fait aussi l’objet de fascination, bercé.es que nous sommes par le culte de la rationalité. Nombre de décisionnaires politiques, économiques, communiquants font de l’algorithme une science « neutre » et « rationnelle » qui justifierait une prise de décision pour le bien commun, alimentant ainsi le mythe de l’infaillibilité de la technologie.
Une part des critiques porte aussi sur l’hyper-personnalisation des contenus issus des algorithmes qui amènent à la perte de la « chose publique ». Les inquiétudes portent ici moins sur la disparition de la vie privée que sur la perte de vie collective et communes, comme expérience collective et comme filtre critique, ce que la chercheuse Antoinette Rouvroy appelle « une hypertrophie de la sphère privée au détriment de l’espace public. ».
If algocracy generates mistrust among some researchers, who fear the advent of a society of control, it is also the object of fascination, lulled as we are by the cult of rationality. Many political, economic and communication decision-makers see algorithms as a “neutral” and “rational” science that justifies decision-making for the common good, feeding the myth of technology’s infallibility.
Some of the criticism is also directed at the hyper-personalization of algorithmically-generated content, leading to the loss of the “public thing”. Here, concerns focus less on the disappearance of privacy than on the loss of collective and communal life, as a collective experience and critical filter – what researcher Antoinette Rouvroy calls “a hypertrophy of the private sphere to the detriment of public space”.
à lire 👀
Grimonpont Arthur, Algocratie, vivre à l’heure des algorithmes, éd. Acte Sud, 2022
Antoinette Rouvroy, « Autour de l’informatique : les algorithmes et la disparition du sujet », interview en ligne pour La Conversation, 2016
👀
