B2 · Episode 2 · 5:36
Understanding Algorithmic Bias
This episode examines how algorithms inherit human biases, stresses the need for ethical training for developers, and presents decentralized, ethically designed alternatives to mainstream platforms like Facebook and YouTube.
Source：Marie-Odile Morandi / Libre à vous ! (April, Cause Commune) · License：CC BY-SA 2.0
Transcript
Y aurait- il des solutions de remédiation?
Are there remediation solutions?
Certes, c'est compliqué, et Stéphane Crozat fait remarquer que tout cela n'est pas
Indeed, it's complicated, and Stéphane Crozat points out that all this is not
très différent du contexte humain normal.
very different from normal human contexts.
Les décisions prises par les humains,
Decisions made by humans,
elles non plus ne sont pas toujours compréhensibles.
are likewise not always understandable.
Gageur donc d'espérer que ces algorithmes soient capables de résoudre des problèmes
Thus, people hope these algorithms can solve problems for us
à notre place, de nous remplacer dans des prises de décision,
and replace us in decision-making
en se. disant que puisqu'ils sont issus de la science ils se montreront rationnels
believing naively that, since they come from science, they will be rational and neutral
neutres capables d'arriver à la perfection.
and capable of achieving perfection
Nous savons que ce sont des personnes qui font ces algorithmes,
We know that people design these algorithms,
des développeurs et des développeuses qui ont leur propre conception du monde et
developers who each hold their own worldview,
qu'ils risquent de l'y intégrer.
and may embed it into the algorithms.
Donc, a minima, ces personnes doivent être sensibilisées et formées à toutes ces
Therefore, at a minimum, these individuals must be made aware of and trained on all
questions de discrimination et de biais.
issues related to discrimination and bias.
Il faut ici rappeler une transcription un peu plus ancienne d'une conférence
Here we must recall a somewhat older transcript of a conference.
proposée par Marion Magnier en 2020,
proposed by Marion Magnier in 2020,
intitulée« Pourquoi les développeurs et développeuses ont besoin d'une formation aux
titled "Why Developers Need Training"
questions d'éthique».
ethics questions».
Marion est développeuse pour des applications web dans le domaine de la santé.
Marion is a web application developer specializing in the healthcare field.
Elle rappelle l'importance de se former à l'éthique.
She emphasizes the importance of training in ethics.
Chaque domaine du milieu de l'informatique doit poser un certain nombre de principes
Each branch of the computing field must establish a number of principles
auxquels chacun est censé obéir.
Everyone is expected to abide by them.
Il y a toujours un être humain derrière la conception d'un algorithme,
There is always a human being behind the design of an algorithm,
même, dit- elle, pour les générateurs automatiques de code qui n'ont pas été créés
even, she points out, the automatic code-generators themselves,
par d'autres générateurs automatiques de code, mais bien par des êtres humains.
were not created by other automatic code-generators, but by human beings.
Son domaine est la médecine.
His field is medicine.
Des médecins non sensibilisés aux questions de racisme ou aux questions de genre
Doctors who are not aware of racism or gender issues
vont traiter différemment leurs patients.
will treat their patients differently.
Pour elle, c'est la même chose en informatique.
In her view, the same applies to computer science.
Un développeur non sensibilisé aura des biais de par son éducation,
A developer lacking such awareness
de par son expérience, et risque de les faire ressortir dans son ouvrage.
will hold biases shaped by their education and experience—and may reflect them in their work.
Dans l'idéal, le développeur doit prendre connaissance du cadre fonctionnel,
Ideally, the developer should first understand the functional requirements,
du contexte technique dans lequel il va devoir exécuter le travail demandé.
and the technical context in which the task must be carried out.
S'il y a des choses dont il n'a jamais entendu parler,
If there are concepts he has never heard of,
comment pourra- t- il les mobiliser dans son raisonnement?
how can he apply them in his reasoning?
Certes, nous sommes tous en faveur du progrès technologique,
Certainly, we all support technological progress,
mais pas à n'importe quel prix.
but not at any cost.
Ces technologies ne doivent pas être utilisées.
These technologies must not be used.
Dans le but de nuire, ne doivent pas nuire à la liberté et ne doivent pas renforcer
They must not be used to harm others, restrict freedom, or reinforce
des inégalités, voire en instaurer de nouvelles.
—or even create—new inequalities.
Est ce honnête d'espérer que l'on va réussir à faire des intelligences artificielles
Is it honest to expect that we can build artificial intelligences
qui ne seront pas biaisées?
that are entirely free of bias?
Toute décision, tout jugement moral est biaisé par un contexte,
Every decision, every moral judgment
un objectif, des contraintes.
is biased by its context, purpose, and constraints.
Nos objets techniques portent notre subjectivité et un biais supplémentaire nous
Our technical artifacts embody our subjectivity—and an additional bias lurks:
guette. Puisque c'est produit par un algorithme,
since they are produced by algorithms,
puisque c'est produit par une machine,
since they are generated by machines,
on a l'impression que ces algorithmes réfléchissent, sont objectifs,
we mistakenly assume these algorithms think rationally and objectively,
qu'ils vont nous aider à trouver des solutions,
assume they will help us find solutions,
que la décision qu'ils vont prendre est impartiale, rationnelle,
assume the decisions they make are impartial and rational,
voire indiscutable.
even indisputable.
Où est cette technologie idéale, merveilleuse,
Where is this ideal, wonderful technology?
qui ferait mieux que l'être humain,
Technology that would outperform humans,
qui serait capable de le remplacer en tout point?
and be capable of replacing humans entirely?
Soyons conscients que nous avons là quelque chose d'automatique,
Let’s be aware that what we have here is something automatic,
d'insondable, qui va se tromper et on ne pourra même pas le lui faire remarquer.
something unfathomable—it will make mistakes, and we won’t even be able to point them out to it.
À la fin de leur entretien, les trois amis reviennent sur le cas des réseaux
At the end of their discussion, the three friends return to the topic of social networks:
sociaux. Si tout le monde utilise seuls deux réseaux sociaux,
If everyone uses only two social networks—
Twitter et Facebook, les personnes qui maîtrisent leurs algorithmes ont en quelque
Twitter and Facebook—those who control their algorithms
sorte un pouvoir démesuré.
hold disproportionate power.
Leur conseil est bien entendu de se tourner vers Mastodon,
Their recommendation, of course, is to turn to Mastodon—
réseau décentralisé et fédéré avec ses nombreuses instances,
a decentralized, federated network with many independent instances,
chacune ayant ses propres règles.
each governed by its own rules.
Chaque individu pourra choisir l'instance qui lui correspond,
Each individual can choose the instance that best suits them,
et choisir la façon d'ordonnancer les contenus.
and decide how content is ordered.
Cette diversité donne la possibilité d'avoir du débat et donc de la démocratie.
This diversity makes debate—and thus democracy—possible.
La quantité de vidéos hébergées sur Peertube, service libre et décentralisé,
The amount of videos hosted on PeerTube—a free, decentralized service—
est en constante augmentation.
is constantly increasing.
Constat est fait qu'une aide à la sélection devient nécessaire,
It’s clear that assistance in selecting videos has become necessary,
mais bien entendu autre que celle de YouTube,
but certainly not one like YouTube’s,
dont l'objectif est de maximiser le nombre de vues et ainsi le temps passé sur la
whose goal is to maximize views—and therefore time spent on the platform.
plateforme. Quentin nous conseille un projet de recherche, tournesol.
Quentin recommends a research project called Tournesol.
app, auquel tout le monde peut participer,
It’s an app anyone can contribute to,
et dont l'objectif est de proposer un système de recommandation éthique,
with the goal of building an ethical recommendation system,
objectif que l'on ne peut que saluer.
a goal we can only applaud.
Sur cette plateforme, libre et collaborative,
On this free, collaborative platform,
il est demandé aux contributeurs d'identifier les vidéos dont ils estiment le
contributors are asked to identify videos they consider high-quality,
contenu de qualité, voire d'utilité publique.
or even of public value.
Pour ne plus avoir à composer avec les biais des algorithmes des quelques réseaux
To no longer have to contend with the biases of algorithms used by just a few social networks,
sociaux qui concentrent les masses,
networks that concentrate the masses,
la solution est probablement d'avoir encore et encore des portées de chatons,
the solution is probably to have more and more 'kittens'—
comme Picassoft le chaton de Compiègne, ou comme le chatril,
such as Picassoft, the kitten from Compiègne, or Chatril, the kitten from April,
le chaton de la April, qui nous fournissent des services libres et loyaux,
which provide us with free and fair services,
deux chatons qui font partie de la centaine de chatons du collectif des hébergeurs
two kittens belonging to a collective of about one hundred kittens,
alternatifs, transparents, ouverts, neutres et solidaires.
a collective of hosting providers committed to being alternative, transparent, open, neutral, and solidarity-based.
Nous vous encourageons à relire les deux transcriptions mentionnées aujourd'hui,
We encourage you to reread the two transcripts mentioned today,
et pourquoi pas, à lire ou relire l'une ou l'autre des 163 transcriptions qui ont
and why not read or reread any one of the 163 transcripts our group published in 2022?
été publiées par notre groupe au cours de l'année 2022.
All were published in 2022.
Nous sommes de retour en direct,
We're back live,
nous venons d'écouter la chronique de Marie- Odile Morandi,
we've just heard Marie-Odile Morandi's commentary,
donc sur le thème" Connaître les biais, cessez d'en être leur victime".
on the theme "Know your biases—stop being their victim."
Marie- Odile a écrit la chronique qui a été mise en voix par Laure Élise Deniel,
Marie-Odile wrote the column, which Laure Élise Deniel voiced,
et je vous rappelle que, comme la totalité des activités de l'APRIL,
and I’d like to remind you that, like all of APRIL’s activities,
le groupe transcription est un groupe sur lequel vous pouvez contribuer.
the transcription group is one you can contribute to.
Donc vous allez sur apri.
So you go to the apri website.
Org, ou même plus simplement sur le site des Transcriptions libralire.
Org, or even more simply, on the Libralire Transcriptions website.
Org, et vous trouverez les informations pour rejoindre le groupe si ça vous
Org, and if you're interested,
intéresse.
you’ll find information on how to join the group.