B1 · Episode 4 · 5:15
Social Media Content Moderation Practices
This episode examines two regulatory approaches to social media content moderation: strict, enforceable legislation (like Germany's 24-hour removal rule) and voluntary self-regulation, discussing their trade-offs regarding speed, free expression, and effectiveness.
Source：Ella Jolly, Ewen Madec / WE01 Graf'Hit · License：CC BY-SA 4.0
Transcript
Donc la première consiste à une approche plutôt contraignante,
So, the first approach is a rather stringent one,
où on va vraiment imposer aux plateformes comme Google ou Facebook des
where we actually impose measures on platforms like Google or Facebook,
mesures à prendre.
requiring them to take specific actions.
On va aussi vérifier que ces mesures sont prises
We’ll also verify that these measures are implemented,
par des contrôles, sachant que par exemple elles doivent publier des rapports
through inspections—knowing, for instance, that they must publish annual reports on their websites,
annuels sur leur site, accessibles à tous, entre autres.
accessible to everyone.
Et si ce n'est pas respecté, on va leur donner de lourdes amendes.
And if they fail to comply, heavy fines will be imposed.
Évidemment, avec leur chiffre d'affaires, ça peut ne pas être très lourd
Naturally, given their massive revenues,
pour elles, mais tout de même.
such fines may not seem very heavy—but they still carry weight.
Et donc tout cela pour les inciter vraiment à
All this aims to genuinely encourage platforms
modérer comme il faut et rapidement surtout.
to moderate content properly—and especially promptly.
Par exemple, la loi allemande, elle
For example, German law
impose un délai de 24 heures pour modérer les contenus,
requires platforms to moderate content within 24 hours,
mais on lui reproche notamment, par exemple le Conseil d'État français,
yet it has been criticized—by bodies such as France’s Council of State,
lui reproche de pouvoir mettre en péril la liberté d'expression,
notably for potentially endangering freedom of expression,
puisque comme il faut modérer vite,
since the need to act so quickly
on va parfois modérer trop et du coup censurer des contenus qui pourtant n'avaient
may lead to over-moderation and thus censor content
pas lieu d'être supprimés.
that shouldn’t have been removed at all.
Et donc cela pourrait porter atteinte à la liberté d'expression.
This could therefore harm freedom of expression.
Donc maintenant, le deuxième type de législation, la self- regulation,
Now, the second type of legislation—self-regulation—
eh bien il n'y a aucune contrainte, aucune amende,
involves no mandatory requirements or penalties,
aucune contrainte dans les mesures prises,
no binding rules about which measures to adopt,
simplement des suggestions de mesures à prendre
only offering suggestions for possible actions,
et que les plateformes le fassent ou non, eh bien.
leaving platforms free to decide whether or not to follow them.
on ne va rien leur dire si elles ne le font pas.
If they choose not to act, no one will hold them accountable.
Donc évidemment, c'est aussi très critiqué,
So, obviously, this type of legislation is also heavily criticized,
puisque on lui reproche à ce type de législation d'être.
since it’s criticized for being too lenient,
de simplement être trop
simply because
lâche et pas assez sévère, pas assez strict.
it’s not strict or severe enough.
Donc évidemment, on a encore du chemin à parcourir avant de trouver vraiment le bon
Clearly, we still have a long way to go before finding the truly right type of legislation,
type de législation, mais le Digital Service Act devrait être un bon pas,
but the Digital Services Act should be a good first step,
un premier pas dans la bonne direction.
a first step in the right direction.
Voilà. Merci Hela, merci pour la présentation de cette seconde partie.
That’s all. Thank you, Hela, for presenting this second part!
Alors donc tu nous as parlé du Digital Service Act, est- ce que ce Digital
So, you’ve just explained the Digital Services Act—
Service Act s'applique à tous les médias sociaux?
does this Digital Services Act apply to all social media platforms?
Parce que tu nous as bien expliqué justement le risque de dérive d'une hard
Because you clearly explained that overly strict regulation—
régulation qui donc menace de sanctions financières et donc qui pourrait avoir cette
regulation threatening heavy financial penalties—
dérive de faire que les médias sociaux donc anticiperaient cette forme de sanction
could lead social media platforms to act preemptively to avoid penalties,
et donc feraient un petit peu de zèle dans la modération,
and therefore over-moderate content,
voire de la censure donc abusive.
even resulting in abusive censorship.
Est- ce que ce Digital Service Act s'applique à tous les médias sociaux?
So again—does the Digital Services Act apply to all social media platforms?
Parce que c'est vrai que cette contrainte de devoir enlever des contenus sous 24
After all, the requirement to remove content within 24 hours
heures n'est pas gérable peut- être par tout type de médias sociaux.
may simply be unmanageable for every kind of social media platform.
Bref, à qui est- ce que cette contrainte- là s'applique?
In short—who exactly does this obligation apply to?
Est- ce que c'est pour tout le monde?
Does it apply to everyone?
Justement, les 24 heures, c'est la loi allemande,
Actually, the 24-hour deadline comes from German law,
donc je vais pas me risquer à prononcer son nom,
so I won’t risk pronouncing its name,
parce que je ne parle pas l'allemand du tout,
since I don’t speak German at all,
mais donc du coup c'est la loi allemande qui impose les 24 heures et la loi
so it’s German law that imposes the 24-hour rule—and the EU law,
européenne. devrait justement imposer un délai plus raisonnable,
by contrast, should set a more reasonable deadline,
puisqu'elle reprochait elle même à la loi allemande d'avoir un délai trop court en
as it itself criticizes the German law for setting a deadline too short,
fait pour mener à bien les choses.
making it practically impossible to carry out properly.
D'accord, d'accord, entendu et là, entendu.
Okay, okay, got it, understood.
Alors je vais reprendre une question de Cléo qui se demandait si,
So, let me revisit a question Cléo asked: she wondered whether—
alors malgré tout cela, malgré toutes ces précautions prises et la législation et
despite all this, despite all these precautions, legislation, and—
les modérateurs qui agissent aussi, tu en parlais, Yohann,
also the moderators who, as you mentioned, Yohann, are actively working—
est- ce qu'il est possible qu'un contenu non réglementaire reste tout de même sur la
it’s still possible for non-compliant content to remain on the platform?
plateforme? Ben oui, je pense que tu sens évidemment.
Yes, I think that’s obviously possible.
Mais finalement, il y
But in fact,
a aussi certains réseaux qui développent des intelligences artificielles qui
certain platforms are also developing AI systems that—
parcourent en fait la plateforme et qui vont repérer après, on va dire,
actually scan the entire platform and—
le premier filtre dont je vous avais parlé,
after the first filter I mentioned earlier,
qui vont repérer justement ces contenus choquants.
specifically detect shocking content.
Mais surtout, il faut se dire qu'il y aura forcément avoir un autre utilisateur qui
More importantly, we must realize that—
va finir par le voir.
another user will inevitably see it.
Et du coup, la plupart des plateformes espèrent aujourd'hui que cet utilisateur va
So most platforms today hope that—
les aider en signalant ce contenu.
this user will help by reporting the content.
Voilà, donc c'est.
That’s it.
Que ça reste un moment, mais
So it may stay up for a short while,
dans l'idéal, ça ne restera pas trop longtemps sur la plateforme.
but ideally, it won’t remain on the platform for long.
Dans l'idéal, d'accord, ok, merci, merci Evan pour ta réponse.
Ideally — okay, got it. Thanks, Evan, for your answer!
On voit qu'il y a encore donc du chemin à faire concernant la modération sur les
We can see, then, that there’s still a long way to go regarding moderation on—
médias sociaux.
social media.
Bien, je vous remercie tous les deux pour votre présentation.
Great — thank you both for your presentation!
Vous pourrez réécouter donc cette intervention et les précédentes en podcast sur
You can re-listen to this talk—and previous ones—as podcasts on—
graphite. Net et sur l'instance PeerTube apéri.
graphite.net and on the PeerTube instance apéri, channel Plaude.
Tube, chaîne Plaude.
the Plaude channel on PeerTube.
Mercredi prochain, ce sera la dernière journée,
Next Wednesday will be the last day,
la dernière après- midi W1 sur graphite pour ce semestre.
the final Graphite afternoon session of this semester.
On pourra écouter deux sessions de deux groupes d'étudiants et étudiantes qui
We’ll listen to two student group presentations,
viendront présenter leurs travaux en studio.
as they present their work live in the studio.
Donc, de mon côté, j'aurai le plaisir d'animer la seconde session de présentation
So, I’ll have the pleasure of hosting the second presentation session,
qui inclura une intervention sur les espaces et outils de délibération en ligne et
which includes a talk on online deliberation spaces and tools,
puis une seconde sur l'écologie de l'attention.
followed by another on the ecology of attention.
Voilà, bravo et merci à tous les deux pour votre présentation.
That’s it—congratulations and thanks to both of you for your presentation!
Merci, merci à graphite pour l'accueil de ce format d'émission et puis bonne fin de
Thank you to Graphite for hosting this special episode format,
journée à toutes et à tous.
and have a wonderful rest of your day!
Upload UTC, l'université populaire du livre, ouverte, accessible et décentralisée.
Upload UTC: a popular, open, accessible, and decentralized university of books.
À l'UTC. Avec.
At UTC—together.