B1 · Episode 2 · 5:35
Social Media Content Moderators
This episode examines the working conditions, psychological toll, and lack of professional recognition faced by social media content moderators, comparing professional moderators with community-based ones.
Source：Ella Jolly, Ewen Madec / WE01 Graf'Hit · License：CC BY-SA 4.0
Transcript
Voilà, donc ce témoignage un petit peu choc nous
Here it is—this slightly shocking testimony
fait soulever une question qui peut être cachée en fait dans le travail de la
raises a question that may actually be hidden in content moderation work,
modération et globalement dans la modération de contenu,
and more broadly, across content moderation as a whole:
c'est quelles sont justement les conditions de travail de ces modérateurs.
What are the actual working conditions of these moderators?
Alors ici, non pas dans. . .
Here—not in...
Donc déjà, ce qu'il faut savoir,
First, what we need to know is:
c'est que la plupart des plateformes vont souvent. . .
most platforms often...
Là, je vais m'intéresser plutôt à la modération, on
Next, I’ll focus more specifically on content moderation,
va dire professionnelle de contenu, voilà.
that is, what we call professional content moderation.
Et donc, la plupart des plateformes vont sous- traiter
So, most platforms outsource this part of their business,
cette partie de leur entreprise, finalement.
effectively outsourcing this function.
Voilà. Donc, aujourd'hui, c'est de plus en plus souvent sous- traité là où la main-
Today, outsourcing is increasingly common,
d'œuvre est la moins chère.
typically to locations where labor costs are lowest.
Et donc, on peut tout de suite se poser la question des salaires des modérateurs,
So we can immediately ask about moderators’ salaries,
qui aussi varient vraiment énormément entre les pays.
which vary enormously from country to country.
Et donc, la majorité des modérateurs se trouvent dans des pays où la main- d'œuvre
Thus, most moderators are located in countries with lower labor costs,
est moins chère, donc les salaires sont
meaning their wages are very low.
très bas. Voilà.
That’s it.
Ensuite, comme le souligne ici notre intervenante.
Next, as our speaker points out:
Évidemment, le métier n'est pas du
Clearly, this job is certainly not risk-free,
tout sans risque, parce que, voilà,
because, as she says, being a moderator means viewing each day
être modérateur, c'est voir chaque jour une quantité affolante de contenus que
an overwhelming volume of content that other users have found shocking,
d'autres utilisateurs ont trouvé choquants.
content they themselves must review.
Ici, elle dit 300 à 600
She mentions handling 300 to 600 moderations per day,
modérations par jour, donc c'est 300 à 600 contenus choquants qu'elle visionne par
so she views 300 to 600 shocking items daily.
jour. Donc c'est très éprouvant psychologiquement et voilà, comme elle l'indique,
This is therefore extremely taxing psychologically—and, as she notes,
ce n'est pas fait pour tout le monde.
it’s simply not for everyone.
Ensuite, on peut aussi une question qui est un petit peu cachée,
Next, we can also raise a question that is somewhat hidden,
une notion qui est un peu dissimulée dans ce métier- là,
a concept somewhat concealed within this profession.
c'est que on peut se poser la question de la reconnaissance du métier.
Namely, we might ask whether this profession receives proper social recognition.
Parce que comme Aristote l'expliquait, l'homme est un animal social.
Because, as Aristotle explained, humans are by nature social beings.
Bon, ça peut paraître un peu trouble comme argument, mais je vais m'expliquer.
Now, this may sound a bit vague—but let me clarify.
Donc, imaginez- vous un modérateur de contenu qui veut expliquer son métier,
Picture a content moderator who’s just been hired and wants to explain their job—
qui vient d'être embauché, qui est temps d'expliquer son métier à ses grands-
say, to their grandparents—
parents, par exemple.
right away, a communication gap arises.
Il y a tout de suite une incompréhension qui est
This misunderstanding is nearly universal,
presque. qui est là dans la majorité des cas, puisqu'en fait,
because, in reality, it’s almost always there.
véritablement, comme Sarah T.
As Sarah T. Roberts—the author—points out,
Roberts, l'auteur de l'œuvre
whose work I studied for my reading summary,
que j'ai pu étudier pour ma fiche de lecture, l'expliquait,
and she explains it clearly in her book.
elle l'explique dans le titre en fait, la modération de contenu,
In fact, the title itself reveals the key idea: content moderation
c'est quelque chose qui se passe derrière nos écrans.
happens behind our screens.
Donc c'est véritablement caché de notre utilisation,
So it’s truly hidden from our everyday use—
nous juste utilisateurs, en tant que, oui, utilisateurs, c'est dissimulé.
we users—yes, mere users—remain unaware of it.
Et donc ce manque de mise en lumière du métier peut aussi ajouter à la charge
And this lack of visibility for the profession
mentale qui est déjà, on a pu le voir, très élevée des modérateurs.
can further intensify the already heavy mental burden borne by moderators.
Voilà, c'est tout pour moi.
That’s all I have to share.
Merci beaucoup Ewen pour ta présentation.
Thank you very much, Ewen, for your presentation!
Alors en effet, tu nous donnais un chiffre, 300 à 600 contenus par jour.
Indeed, you cited a figure: 300 to 600 items moderated per day.
On parle là de la modération de plateformes qui regroupent plusieurs millions voire
We’re talking about platforms with millions—or even billions—of users,
milliards d'utilisateurs.
platforms of truly massive scale.
J'étais allé voir sur Statista en 2022, les derniers chiffres,
I checked Statista’s latest figures from 2022:
c'est à peu près environ 3
Facebook has roughly 3 billion users,
milliards d'utilisateurs pour Facebook, 2, 5 pour YouTube,
YouTube about 2.5 billion,
plus modestement 446 millions pour Twitter.
and Twitter, more modestly, around 446 million.
Enfin voilà, on est sur ce type de volume.
Alright, this is the type of volume we’re dealing with.
Alors est- ce que face à ce nombre de contenus à modérer, justement,
So, faced with such a huge volume of content to moderate,
est- ce que tu sais si les modérateurs et modératrices de ces plateformes utilisent
do you know whether the moderators—male or female—on these platforms
des méthodes particulières pour modérer?
use specific methods to carry out moderation?
Est- ce qu'ils ont des consignes, des
Do they receive clear instructions,
formes de guide pour savoir comment modérer?
or some kind of moderation guide, to help them know how to proceed?
Ou bien est- ce qu'ils se fondent uniquement sur leur propre jugement sur ce qui va
Or do they rely solely on their own judgment—
les choquer eux ou non?
simply deciding what shocks *them* personally?
C'est rejoint la question de Mehdi qui se demande quelle va être
This ties in with Mehdi’s question about
leur objectivité par rapport aussi à certains contenus politiques.
how objective they can remain when handling certain political content.
Voilà, est- ce qu'ils ont quelques...
So, do they have…
quelques lignes, quelques guides ou bien est- ce qu'ils sont vraiment tout seuls
some basic principles, some practical guidelines,
face à ces contenus?
or are they truly left entirely on their own when confronting this content?
C'est vrai que c'est quelque chose qui reste assez trouble et du coup tout ce que je
Indeed, this remains quite unclear—so for now,
peux vous dire pour l'instant c'est que j'imagine vraiment qu'il y a
all I can tell you is my assumption:
quelque sorte de guide puisque ça pourrait être vraiment compliqué sinon et c'est
there must be some kind of guide, because otherwise,
vrai qu'ils doivent garder une forme d'objectivité surtout sur des points de vue
it would be extremely difficult—and it’s true that they must maintain a degree of objectivity,
politiques justement.
especially regarding political viewpoints.
Et même d'autres.
And likewise for other areas.
Et donc j'imagine qu'il y a effectivement des critères vraiment précis sur lesquels
So I imagine there really are very precise criteria they must follow—
ils doivent ne pas être,
standards that require them not to…
comment dire, ne pas trop réfléchir et finalement agir un petit peu comme le font
how to put it?—not overthink things,
les premiers filtres.
and instead act quickly, much like the first automated filters do.
Mais c'est vrai que c'est
Still, this is truly a question worth exploring further,
une question qu'on va sans doute pouvoir nous pousser plus loin puisque on va
because we’ll likely be able to dig deeper,
interviewer, normalement si tout se passe bien,
provided everything goes well,
on aura la chance d'interviewer une modératrice de contenu chez
we’ll have the chance to interview a content moderator from Framasoft,
Framasoft qui pourra nous éclairer là dessus puisque c'est vrai que pour l'instant
who can clarify this for us—since, indeed, it remains quite unclear for now.
ça reste assez trouble.
Indeed, information on this remains quite unclear at present.
D'accord, entendu, Ewan, merci, merci pour ta réponse et donc pour ce teasing.
Okay, got it, Ewan—thanks for your reply and for this teaser.
Et bonjour modérateurs et modératrices de Framasoft.
Hello to all Framasoft moderators!
Alors je vais te poser une seconde question, Ewan, si tu veux bien,
So, Ewan—if you don’t mind—I’d like to ask you a second question:
puisque tu as parlé aussi de la modération de micro- communautés.
since you also mentioned moderation of micro-communities.
Alors tu as pris l'exemple de Discord et tu disais qu'il s'agissait généralement de
You cited Discord as an example, saying these moderators are usually
personnes qui sont très impliquées dans ces communautés,
people deeply involved in those communities,
qui ont demandé à obtenir ce rôle de modérateur ou de modératrice.
who’ve volunteered for the moderator role.
Et tu vois, il y a Paul qui se demande s'il existe des différences justement entre
As you can see, Paul is wondering whether there’s a difference between
les modérateurs professionnels et des modérateurs communautaires en termes de
professional moderators and community moderators—in terms of
formation et d'expérience.
training and experience.
Est- ce qu'ils sont plus efficaces car plus impliqués ou pas?
Are they more effective because they’re more engaged—or not?
Est- ce que tu as quelques pistes de réponse pour cela?
Do you have any insights to share on this?
Alors.
Well…