B2 · Episode 1 · 5:43
Understanding Bias in Artificial Intelligence
This episode examines how biases enter AI systems—through human-designed rules in expert systems, skewed real-world training data in machine learning models, and problematic objectives like cost-cutting in hiring algorithms.
Source：Marie-Odile Morandi / Libre à vous ! (April, Cause Commune) · License：CC BY-SA 2.0
Transcript
Les choix, voir les coups de cœur de Marie Odile Morandi,
Book selections and Marie Odile Morandi’s personal favorites,
qui met en valeur deux ou trois transcriptions dont elle conseille la lecture.
She highlights two or three transcribed works she recommends reading.
C'est la chronique Les Transcriptions qui redonnent le goût de la lecture de Marie
This is Marie Odile Morandi’s column, “Transcriptions That Reignite the Joy of Reading,”
Odile Morandi, animatrice de notre groupe Transcriptions.
She also hosts our Transcriptions Group.
Le thème du jour: connaître les biais, c'est cesser d'en être leur victime.
Today’s theme: Recognizing biases means no longer falling victim to them.
La chronique a été écrite par Marie Odile, Marie Odile,
This column was written by Marie Odile,
et mise en voix par Laure Élise Déniel, j'ai du mal aujourd'hui.
and voiced by Laure Élise Déniel—I’m struggling a bit today.
On se retrouve dans dix minutes.
We’ll meet again in ten minutes.
Bonjour à toutes, bonjour à tous.
Hello everyone!
Tout d'abord, comme c'est la coutume en début de mois de janvier,
First, as is customary at the start of January,
le groupe transcription de l'APRIL,
the Transcriptions Group of the APRIL association,
chers auditeurs et auditrices de l'émission Libre à vous,
dear listeners of our show Libre à vous,
vous souhaite une excellente année 2023,
wishes you an excellent year 2023!
que vous nous écoutiez en direct ou en podcast.
Whether you listen live or via podcast.
Il nous arrive de transcrire des podcasts de l'émission La voix est libre,
We occasionally transcribe podcasts from the show La Voix est Libre,
émission proposée par Picassoft, une association amie de la April,
a program offered by Picassoft—an association allied with APRIL,
qui s'est donnée pour mission de sensibiliser les citoyens et citoyennes aux enjeux
which aims to raise citizens’ awareness of digital challenges,
du numérique. Cette association fait partie du collectif Chatons,
and belongs to the Chatons collective,
initié par Framasoft, le collectif des hébergeurs alternatifs,
initiated by Framasoft—the collective of alternative web hosts—
transparents, ouverts, neutres et solidaires.
whose services are transparent, open, neutral, and solidarity-based.
Ce chaton à Compiègne, ouvrez les guillemets,
This Chaton in Compiègne—open quotation marks—
héberge des services web respectueux de la vie privée,
hosts web services that respect privacy,
promeut une approche libre, éthique, inclusive et locale du numérique.
and promotes a free, ethical, inclusive, and locally rooted approach to digital technology.
Pour enregistrer ces podcasts, trois amis, Baptiste Wozniakowski,
To record these podcasts, three friends—Baptiste Wozniakowski,
Quentin Duchemin et Stéphane Crozaz, se retrouvent régulièrement.
Quentin Duchemin, and Stéphane Crozaz—meet regularly.
Le style de leurs échanges est plaisant.
The style of their exchanges is pleasant.
Les thématiques, complexes mais toujours d'actualité,
The topics are complex yet always timely,
sont abordées de façon agréable avec de nombreux exemples à l'appui.
and are addressed in an enjoyable way, supported by many examples.
Puis ces transcriptions redonnaient le goût de la lecture,
Then, these transcripts renewed the pleasure of reading,
intitulée de cette chronique.
which is the title of this column.
Nous avons transcrit récemment l'émission intitulée" Les biais de l'intelligence
We recently transcribed the episode titled "The Biases of Artificial Intelligence",
artificielle", dont nous vous recommandons la lecture.
which we highly recommend you read.
Cette émission a été réalisée il y a un an,
This episode was produced a year ago,
mais le thème des biais est toujours réel et c'est le sujet qui va nous intéresser
yet the topic of bias remains highly relevant today,
aujourd'hui. Vous trouverez la référence dans la page de l'émission de ce jour.
and it’s precisely the subject we’ll explore today. You’ll find the reference on today’s episode page.
Quand un algorithme ne répond pas bien à la tâche qui lui est demandée,
When an algorithm fails to perform its assigned task well,
ou qu'il favorise certaines catégories de la population, on parle de biais.
or favors certain population groups, we call that a ‘bias’.
Les algorithmes d'intelligence artificielle sont utilisés partout,
AI algorithms are used everywhere—
sur YouTube, sur les réseaux sociaux, Facebook et Twitter,
on YouTube, on social media platforms like Facebook and Twitter,
pour suggérer ou plutôt choisir le contenu présenté aux utilisateurs et aux
to suggest—or rather, select—the content shown to users,
utilisatrices.
including female users.
mais aussi pour profiler pour assister des décisions de recrutement de solvabilité
They’re also used for profiling and assisting decisions—such as hiring or banking solvency assessments—
bancaire voire des décisions médicales juridiques ou politiques
and even decisions in healthcare, legal, or political domains.
Il existe divers types d'algorithmes et ils ne fonctionnent pas de la même manière,
There are many types of algorithms, and they function differently,
donc, nous dit Baptiste, on est assez vite perdu quand on en parle.
so, as Baptiste explains, we quickly get lost when discussing them.
Dans les systèmes experts, le raisonnement se fait par syllogisme et les principes
In expert systems, reasoning proceeds via syllogism,
sont écrits à l'avance.
and the principles are written in advance.
Par exemple, tous les libristes sont barbus et mal coiffés.
For example: All libertarians are bearded and poorly coiffed.
Quentin est libriste, il est barbu et mal coiffé.
Quentin is a libertarian; therefore, he is bearded and poorly coiffed.
Mais Stéphane est moins barbu et mieux coiffé, donc on va avoir un souci.
But Stéphane has less beard and a better hairstyle—so we run into trouble.
Les informaticiens entrent ces principes à la main.
Computer scientists manually enter these principles.
Ce sont des êtres humains, avec leurs connaissances sur le monde,
They are human beings, with their own knowledge of the world,
leurs préjugés, leurs projections personnelles.
their own biases, and their personal projections.
Les biais présents sont liés à la structure du programme,
The biases present are linked to the program's structure,
à son contexte de fabrication,
to the context in which it was created,
et sont créés par les personnes qui développent ces systèmes.
and are introduced by the people who develop these systems.
Les systèmes basés sur de l'apprentissage,
Learning-based systems,
le terme anglais utilisé est machine learning,
whose English term is machine learning,
ont besoin que leur soit fourni en entrée de grandes quantités de données pour
require large amounts of data as input in order to
permettre justement cet apprentissage.
enable this very learning.
Baptiste nous explique que leur entraînement change les paramètres,
Baptiste explains to us that their training changes the parameters,
les parcours logiques empruntés pour obtenir les résultats.
the logical pathways taken to achieve the results.
sont constamment réactualisés, si bien qu'à la fin,
are constantly updated, so that by the end,
personne ne sait vraiment expliquer pourquoi tel résultat a été obtenu,
no one can truly explain why a particular result was obtained,
la chaîne de calcul n'étant pas assignée par les développeurs.
as the calculation chain is not defined by the developers.
On est donc face à une espèce de boîte noire particulièrement opaque.
So we're faced with a particularly opaque black box.
Pour ces systèmes, il est nécessaire que les données fournies à l'algorithme en
For these systems, the data provided to the algorithm as input
entrée soient bonnes, bien annotées, on dit correctement étiquetées.
must be of high quality and accurately annotated—that is, correctly labeled.
Ces données reflètent le monde réel tel qu'il est, sexiste et raciste.
These data reflect the real world as it is: sexist and racist.
Le résultat fourni en sortie risque de favoriser les personnes fréquemment en
The output result may favor people who are frequently in
position de domination:
positions of dominance:
les hommes par rapport aux femmes,
men over women,
les gens de droite par rapport à ceux de gauche, les personnes blanches,
right-wing individuals over left-wing ones, white people,
cisgenres, hétérosexuelles, etc.
cisgender people, heterosexual people, etc.
L'exemple proposé concernant Twitter est parlant.
The Twitter example given is telling.
On s'est rendu compte que, de manière générale,
We realized that, in general,
si un contenu pouvait plutôt être attribué à un parti politique traditionnel
if content is more likely to be associated with a traditional political party,
conservateur, il a plus de chances d'être relayé par l'algorithme et de parvenir aux
such as a conservative party, it’s more likely to be amplified by the algorithm and reach
autres utilisateurs.
other users.
Rééquilibrer la diversité des messages envoyés sous- entend de savoir,
Rebalancing the diversity of messages shared implies understanding—
donc de collecter, entre autres,
that is, collecting, among other things,
les opinions politiques de la personne qui a diffusé ce contenu.
the political views of the person who posted that content.
Et comment faire?
So how do we do it?
Lui demander? Et de quelle façon?
Ask the person directly? And how should we ask?
Agir à son insu pour obtenir ces informations?
Or obtain this information without their knowledge?
Les objectifs donnés à l'algorithme, les critères choisis,
The goals assigned to an algorithm and the criteria chosen,
peuvent mener à une discrimination.
can lead to discrimination.
On parle alors de biais sur les objectifs,
This is called objective bias,
présents par exemple dans les algorithmes d'aide au recrutement.
for example, in algorithms used to assist hiring decisions.
Le cas cité concerne Amazon, qui cherchait à réduire le coût de ses procédures de
The cited case involves Amazon, which sought to reduce the cost of its hiring processes.
recrutement. Le coût de recrutement des femmes ayant été estimé plus élevé que celui
Because the cost of hiring women was estimated to be higher than that for men,
des hommes, l'algorithme se montre discriminant à l'égard des femmes,
the algorithm becomes biased against women,
à cause de l'objectif initial qui impose dès le départ la présence du biais.
due to the initial objective, which introduces bias from the outset.
Des biais se rencontrent.
Biases do occur.
aussi très souvent quand il s'agit d'algorithmes destinés à exécuter des arbitrages
They also arise very frequently when algorithms are used to make decisions
comportant une dimension morale.
involving moral judgment.
L'exemple donné est celui du projet Ask Delphi,
The example given is the ‘Ask Delphi’ project,
intelligence artificielle à qui l'on peut désormais demander si ce que l'on compte
an AI system to which people can now ask whether something they plan to do
faire est bien ou mal.
is right or wrong.
C'est très problématique de placer sa confiance dans un tel objet.
Placing blind trust in such a tool is highly problematic.
Il n'existe pas de réponse universelle simple ou facile à une telle question.
There is no simple or easy universal answer to such a question.
Le constat est flagrant: les algorithmes d'intelligence artificielle prennent les
The reality is clear: AI algorithms
déformations du monde et intrinsèquement les amplifient.
distort the world—and inherently amplify those distortions.
Ils ne peuvent pas trouver la vérité de manière magique,
cannot magically uncover truth,
ils intègrent ainsi nécessairement des biais sexistes, racistes,
and thus inevitably incorporate sexist, racist,
discriminatoires, etc.
and other discriminatory biases.