B1 · Episode 1 · 5:12
Social Media Content Moderation Practices
This episode explores how social media platforms moderate user content—covering automated filtering, human review processes, the roles of professional and volunteer moderators, and the psychological toll on content reviewers, illustrated by a firsthand account from a former Facebook moderator.
Source：Ella Jolly, Ewen Madec / WE01 Graf'Hit · License：CC BY-SA 4.0
Transcript
Upload UTC, l'université populaire du libre, ouverte, accessible et décentralisée.
UTC University: a popular, open, accessible, and decentralized university of the free.
À l'UTC, avec les étudiants de WE01,
At UTC, students from class WE01,
encadrés par Audrey Guéllou et Stéphane Crozin. Bonjour ou bonjour à toutes et à
supervised by Audrey Guéllou and Stéphane Crozin. Hello—or hello to everyone!
tous et bienvenue dans l'émission du cours W1 Écrire sur le web donné à l'UTC par
Welcome to this episode of the W1 “Writing for the Web” course, taught at UTC by Stéphane Crozat.
Stéphane Crozat.
The course is taught by Stéphane Crozat.
On commence la quatrième et dernière session de la journée des présentations des
We now begin the fourth and final session of today’s student presentations—
étudiantes et des étudiants de ce cours- là qui ont travaillé donc sur un projet
students in this course will present their projects, which focus on web technologies.
en relation avec les technologies du web.
These projects are all related to web technologies.
Et donc en W1, en effet, on aborde certaines
In the W1 course, we indeed explore certain
théories relatives au numérique, au web,
theories related to the digital world and the web;
et puis on apprend aussi à se servir d'outils méthodologiques
we also learn how to use methodological web tools in general;
du web en général, et puis on aborde aussi quelques aspects éthiques,
and later in the course, we address some ethical, economic, and cultural aspects of the web.
économiques, culturels du web en fin de cours.
toward the end of the course, we also cover some ethical, economic, and cultural dimensions of the web.
Et donc, on vous le disait un petit peu plus tôt cet après- midi,
As mentioned earlier this afternoon,
les étudiantes et les étudiants de cette UV- là ont travaillé pendant tout le
the students in this unit have spent the entire semester working on a project:
semestre sur un projet qui consiste à mettre en ligne un dossier thématique qui
creating an online thematic dossier
aborde donc une problématique technologique du web.
that addresses a technological issue related to the web.
Alors, je suis à présent avec Ella Joly et Yohann Madec.
Now I’m joined by students Ella Joly and Yohann Madec.
Bonjour à tous les deux.
Hello to both of you!
Bonjour. Alors, vous avez choisi de réaliser votre dossier thématique sur le thème
Hello! You chose to develop your thematic dossier on the topic of
des. de modération sur les médias sociaux.
moderation on social media.
Et donc vous êtes en studio maintenant pour nous présenter un exposé à deux voix à
You’re now in the studio to present this topic together in a two-voice presentation.
ce sujet. Alors c'est la fin d'après- midi,
It’s late afternoon,
mais les autres étudiants du TD sont toujours là sur Mattermost pour vous poser
yet other students from the tutorial group remain active on Mattermost,
quelques questions via ces canals- là et donc je relaierai au micro leurs questions.
ready to ask you questions via those channels—I’ll relay their questions to you live at the microphone.
Et puis on va démarrer.
And then, we’ll get started.
Donc Yohan, tu commences par nous parler des modérateurs et des modératrices
So, Yohan, you’ll start by telling us about moderators and moderatrices
justement et puis à nous parler aussi de leurs conditions de travail.
and also tell us about their working conditions.
Tu es prêt? Oui.
Are you ready? — Yes.
À toi la main.
Over to you.
C'est ça. Donc avec Ella, on va vous présenter un peu comment évoluer les systèmes
That’s right. So, together with Ella, we’ll briefly present how content moderation systems have evolved
de modération et quels types de législations les encadrent aujourd'hui.
and what kinds of laws and regulations govern them today.
Donc moi, je vais commencer par vous
I’ll start by helping you
faire comprendre un petit peu qui sont les modérateurs.
better understand who moderators are.
Donc je vous propose qu'on
Let’s follow together
suive ensemble la chaîne
the chain of steps
qui va de la publication d'un contenu jusqu'à sa suppression pour non- respect de la
from content publication to its removal due to violation of law, regulation, or platform rules.
loi ou non- règlement ou non- respect du règlement de la plateforme.
— That’s it.
Voilà, donc évidemment la première étape, c'est la publication,
Naturally, the first step is publication,
enfin c'est un utilisateur qui essaie de publier le contenu.
meaning a user tries to post content.
Et tout de suite, la plateforme possède souvent des filtres automatiques qui vont
Right away, platforms often use automated filters that
par exemple relever certains mots ou expressions qui seront interdits.
detect certain banned words or phrases.
Et donc notre contenu peut
So our content might
tout de suite être publié.
be published immediately.
Bon, nous, évidemment, on va essayer de faire en sorte qu'il aille un peu plus loin
But obviously, we’ll try to make it go a bit further in the story,
dans l'histoire, ça m'arrangerait un petit peu pour vous expliquer tout ça.
which would help me explain all this to you more clearly.
Et donc oui, parce que ces filtres sont contournables.
Yes, because these filters can be bypassed.
Donc notre contenu est finalement publié.
So our content ends up being published.
Il apparaît sur le fil d'actualité ou autre,
It appears on the feed or elsewhere—
peu importe comment ça s'appelle sur les réseaux que vous utilisez,
whatever the platform you use calls it—
et donc il apparaît sur le fil d'actualité d'un autre utilisateur qui lui le trouve
in any case, it shows up on another user’s feed;
choquant, donc il le signale.
that user finds it shocking and reports it.
Et voilà, là on arrive dans une phase qui va dépendre des réseaux utilisés,
And there we are—now entering a phase
où on va avoir deux tri, un premier avec une intelligence artificielle puis avec un
whose specifics depend on the networks used,
employé, ou un deuxième où c'est juste un tri qui est réalisé par un humain.
where content undergoes two rounds of review—one by AI, then one by a human—
Voilà, ce qu'il y a important de savoir c'est que dans la majorité des cas,
or else just one round performed entirely by a human.
la modération est toujours vérifiée par un humain.
What’s key to know is that, in most cases,
Et donc nous, ce qui nous intéresse c'est de savoir qui est cet humain finalement.
moderation is always double-checked by a human.
Donc ça va être ou des professionnels ou des bénévoles.
So for us, what really matters is: who exactly is that human?
Pour les plus gros réseaux sociaux comme Twitter ou Facebook,
They’re either professionals or volunteers.
ce sont des professionnels.
For major social networks like Twitter or Facebook,
Ils sont recrutés pour leurs connaissances en informatique ou quelque autre critère
the moderators are professionals.
de recrutement.
They’re hired based on expertise in computing—or other selection criteria.
En revanche, pour des plateformes qui
In contrast, platforms hosting many micro-communities—
comportent une multitude de micro communautés,
such as Discord—
comme on peut citer par exemple Discord, là ce seront
typically rely on volunteer moderators.
plus souvent des modérateurs bénévoles,
These volunteers are usually already highly engaged members of the community,
et qui en fait seront des membres qui sont déjà très souvent investis,
deeply involved and invested,
et qui sont très investis et qui vont juste demander à obtenir ce rôle pour prendre
and simply request this role
encore plus part à la micro communauté.
to take even greater part in their micro-community.
Voilà. Maintenant, je vous propose d'écouter le témoignage d'une ancienne
Here we go. Next, let’s listen to testimony from a former
modératrice de Facebook, recueilli par France TV Slash pour la série Invisible.
Facebook moderator, recorded by France TV Slash for its series *Invisible*.
Le contenu par rapport
The volume of content a person reviews at Facebook
qu'une personne effectue à Facebook, ça dépend de son rythme,
depends on their individual pace,
ça dépend aussi de combien de temps elle est là dans la compagnie.
and also on how long they’ve worked for the company.
Mais je dirais d'une personne à l'autre, ça doit osciller entre 300 et 600
Still, across individuals, it generally ranges between 300 and 600 reviews per day.
reviews par jour.
(Note: Here, 'review' means a moderation task.)
Des meurtres, des suicides,
Murders, suicides,
des viols, des violences conjugales, du racisme,
rapes, domestic violence, racism,
la discrimination, du bullying, tout.
discrimination, bullying—everything.
Si vous êtes encore un peu naïf, que vous avez une certaine innocence,
If you’re still a little naive, if you still have some innocence,
s'il vous plaît, jamais, quoi.
please, never—under no circumstances.
N'y allez pas, ne gâchez pas ça.
Don’t go there; don’t ruin it.
Mais voilà. Parce que oui, tu vas voir des choses que t'as pas envie de voir,
But that’s just how it is. Because yes, you’ll see things you don’t want to see,
en fait. Donc ça, ça sert à rien.
in fact. So, it’s pointless.
Une fois que l'innocence, on la retrouve pas.
Once innocence is gone, you can’t get it back.