B1 · 第1集 · 5:12
社交媒体内容审核
本集探讨社交媒体内容审核的流程、人工与自动审核的协作，以及审核员的工作条件和心理挑战。
来源：Ella Jolly, Ewen Madec / WE01 Graf'Hit · 许可：CC BY-SA 4.0
字幕
Upload UTC, l'université populaire du libre, ouverte, accessible et décentralisée.
UTC大学：一所面向公众、开放、可及且去中心化的自由大学。
À l'UTC, avec les étudiants de WE01,
在UTC大学，WE01班的学生们，
encadrés par Audrey Guéllou et Stéphane Crozin. Bonjour ou bonjour à toutes et à
在奥德丽·盖卢和斯特凡·克罗赞的指导下。大家好，或各位同学好！
tous et bienvenue dans l'émission du cours W1 Écrire sur le web donné à l'UTC par
欢迎收看UTC大学斯特凡·克罗扎特老师主讲的《W1网络写作》课程节目。
Stéphane Crozat.
课程由斯特凡·克罗扎特主讲。
On commence la quatrième et dernière session de la journée des présentations des
现在，我们进入今天最后一场展示环节——
étudiantes et des étudiants de ce cours- là qui ont travaillé donc sur un projet
本课程的学生们将依次展示他们围绕网络技术展开的项目成果。
en relation avec les technologies du web.
这些项目均与网络技术相关。
Et donc en W1, en effet, on aborde certaines
在W1课程中，我们确实会探讨一些
théories relatives au numérique, au web,
关于数字时代与网络的理论知识；
et puis on apprend aussi à se servir d'outils méthodologiques
同时学习如何运用各类网络方法工具；
du web en général, et puis on aborde aussi quelques aspects éthiques,
课程后期还会涉及网络的若干伦理、经济与文化议题。
économiques, culturels du web en fin de cours.
课程最后阶段还会探讨网络的伦理、经济与文化层面。
Et donc, on vous le disait un petit peu plus tôt cet après- midi,
正如今天下午早些时候提到的，
les étudiantes et les étudiants de cette UV- là ont travaillé pendant tout le
本课程的学生们整个学期都在开展一项实践项目：
semestre sur un projet qui consiste à mettre en ligne un dossier thématique qui
创建一个上线发布的专题资料集，
aborde donc une problématique technologique du web.
内容聚焦于网络的一项技术性议题。
Alors, je suis à présent avec Ella Joly et Yohann Madec.
现在，我邀请到了艾拉·若利和约汉·马代克两位同学。
Bonjour à tous les deux.
两位同学好！
Bonjour. Alors, vous avez choisi de réaliser votre dossier thématique sur le thème
大家好！你们选择的专题主题是
des. de modération sur les médias sociaux.
社交媒体的内容审核。
Et donc vous êtes en studio maintenant pour nous présenter un exposé à deux voix à
此刻，你们正在演播室中，以双人对谈形式为我们介绍这一主题。
ce sujet. Alors c'est la fin d'après- midi,
现在已是下午尾声，
mais les autres étudiants du TD sont toujours là sur Mattermost pour vous poser
但其他研讨班同学仍在线上平台Mattermost上，
quelques questions via ces canals- là et donc je relaierai au micro leurs questions.
随时可通过频道向你们提问，我会在现场将问题转达给你们。
Et puis on va démarrer.
然后，我们就开始。
Donc Yohan, tu commences par nous parler des modérateurs et des modératrices
所以，约汉，你先为我们介绍一下 moderators（内容审核员）和 moderatrices（女性内容审核员）
justement et puis à nous parler aussi de leurs conditions de travail.
并谈谈他们的工作条件。
Tu es prêt? Oui.
你准备好了吗？——是的。
À toi la main.
接下来交给你了。
C'est ça. Donc avec Ella, on va vous présenter un peu comment évoluer les systèmes
没错。所以，我和艾拉将为大家简要介绍内容审核系统的发展历程，
de modération et quels types de législations les encadrent aujourd'hui.
以及当前有哪些法律法规对它们进行规范。
Donc moi, je vais commencer par vous
我先来为大家
faire comprendre un petit peu qui sont les modérateurs.
初步了解内容审核员是谁。
Donc je vous propose qu'on
我建议我们一起
suive ensemble la chaîne
梳理一下这条流程链：
qui va de la publication d'un contenu jusqu'à sa suppression pour non- respect de la
从内容发布开始，到因违反法律、法规或平台规则而被删除为止。
loi ou non- règlement ou non- respect du règlement de la plateforme.
——就是如此。
Voilà, donc évidemment la première étape, c'est la publication,
当然，第一步是发布，
enfin c'est un utilisateur qui essaie de publier le contenu.
也就是用户尝试发布内容。
Et tout de suite, la plateforme possède souvent des filtres automatiques qui vont
紧接着，平台通常配备自动过滤系统，
par exemple relever certains mots ou expressions qui seront interdits.
例如识别出某些禁用词汇或表达。
Et donc notre contenu peut
因此，我们的内容可能
tout de suite être publié.
立刻就得以发布。
Bon, nous, évidemment, on va essayer de faire en sorte qu'il aille un peu plus loin
不过，我们当然希望它能在故事中走得更远一点，
dans l'histoire, ça m'arrangerait un petit peu pour vous expliquer tout ça.
这样也方便我为大家详细解释整个过程。
Et donc oui, parce que ces filtres sont contournables.
没错，因为这些过滤系统是可以被绕过的。
Donc notre contenu est finalement publié.
于是，我们的内容最终成功发布了。
Il apparaît sur le fil d'actualité ou autre,
它出现在信息流或其他类似位置，
peu importe comment ça s'appelle sur les réseaux que vous utilisez,
不管你们使用的社交平台怎么称呼它，
et donc il apparaît sur le fil d'actualité d'un autre utilisateur qui lui le trouve
总之，它会出现在另一位用户的信息流中；
choquant, donc il le signale.
这位用户觉得内容令人震惊，于是进行了举报。
Et voilà, là on arrive dans une phase qui va dépendre des réseaux utilisés,
好了，现在我们进入一个阶段，
où on va avoir deux tri, un premier avec une intelligence artificielle puis avec un
这一阶段取决于所用平台的网络类型，
employé, ou un deuxième où c'est juste un tri qui est réalisé par un humain.
内容将经过两轮审核：第一轮由人工智能完成，第二轮由人工完成；
Voilà, ce qu'il y a important de savoir c'est que dans la majorité des cas,
或者只由人工单独完成审核。
la modération est toujours vérifiée par un humain.
需要明确的是，在大多数情况下，
Et donc nous, ce qui nous intéresse c'est de savoir qui est cet humain finalement.
所有内容审核最终都会由人工复核。
Donc ça va être ou des professionnels ou des bénévoles.
因此，我们真正关心的问题是：这个人工审核者究竟是谁？
Pour les plus gros réseaux sociaux comme Twitter ou Facebook,
他们要么是专业人士，要么是志愿者。
ce sont des professionnels.
像推特或脸书这样的大型社交平台，
Ils sont recrutés pour leurs connaissances en informatique ou quelque autre critère
审核员都是专业人士。
de recrutement.
他们凭借计算机知识或其他招聘标准被录用。
En revanche, pour des plateformes qui
而对那些拥有众多微型社区的平台来说，
comportent une multitude de micro communautés,
比如Discord，
comme on peut citer par exemple Discord, là ce seront
审核工作通常由志愿者承担。
plus souvent des modérateurs bénévoles,
这些志愿者本身往往就是社区活跃成员，
et qui en fait seront des membres qui sont déjà très souvent investis,
他们早已深度参与其中，
et qui sont très investis et qui vont juste demander à obtenir ce rôle pour prendre
只是主动申请担任管理员角色，
encore plus part à la micro communauté.
以便更深入地参与该微型社区。
Voilà. Maintenant, je vous propose d'écouter le témoignage d'une ancienne
好，接下来请大家收听一段采访录音，
modératrice de Facebook, recueilli par France TV Slash pour la série Invisible.
受访者是一位曾任职于脸书的前内容审核员，
Le contenu par rapport
用户在脸书上发布的内容量，
qu'une personne effectue à Facebook, ça dépend de son rythme,
取决于其审核节奏，
ça dépend aussi de combien de temps elle est là dans la compagnie.
也取决于其在职时间长短。
Mais je dirais d'une personne à l'autre, ça doit osciller entre 300 et 600
但总体而言，不同审核员之间每天处理量大致在300至600条之间。
reviews par jour.
（注：review此处指内容审核任务）
Des meurtres, des suicides,
谋杀、自杀，
des viols, des violences conjugales, du racisme,
强奸、家庭暴力、种族主义，
la discrimination, du bullying, tout.
歧视、校园欺凌——所有这些。
Si vous êtes encore un peu naïf, que vous avez une certaine innocence,
如果你还稍显天真，仍保有一份纯真，
s'il vous plaît, jamais, quoi.
拜托，绝对不要，无论如何都不要。
N'y allez pas, ne gâchez pas ça.
别去那里，别毁掉这份纯真。
Mais voilà. Parce que oui, tu vas voir des choses que t'as pas envie de voir,
但事实就是如此。因为没错，你会看到一些你并不想看到的东西，
en fait. Donc ça, ça sert à rien.
事实上。所以，这毫无意义。
Une fois que l'innocence, on la retrouve pas.
一旦纯真失去，就再也找不回来了。